请问下机器学习PAI如果不用阿里云的服务RTP，那推理是不是就用原生的tf_serving就可以了？ 速度差距大吗？
请问下机器学习PAI如果不用阿里云的服务RTP，那推理是不是就用原生的tf_serving就可以了？[阿里云机器学习PAI]
「点点赞赏，手留余香」
还没有人赞赏，快来当第一个赞赏的人吧！
=====这是一个广告位，招租中，联系qq 78315851====
同尘云，您身边的云智能顾问
请问下机器学习PAI如果不用阿里云的服务RTP，那推理是不是就用原生的tf_serving就可以了？ 速度差距大吗？
是的，如果你没有使用阿里云的Real-Time Prediction（RTP）服务，那么你就可以使用TensorFlow Serving来进行推理。TensorFlow Serving是Google开源的一个服务，用于部署和管理TensorFlow模型，进行在线预测。
至于速度和效率，这主要取决于你的具体应用场景和网络环境。一般来说，RTP服务的性能和稳定性都经过了优化，可能在某些情况下会比原生TensorFlow Serving更快或者更稳定。但是，这并不是绝对的，具体情况还需要根据你的实际需求进行评估。
另外，使用RTP服务还有一个好处，那就是它可以和阿里云的许多其他服务（如OSS、RDS、Redis等）进行集成，方便你进行模型的部署和管理。
可以用原生tf serving，但是建议用pai-eas的EasyRec Processor，速度比原生tf serving快很多，尤其在gpu上原生tf serving比EasyRec Processor推理速度有数量级的差距，此回答整理自钉群“【EasyRec】推荐算法交流群”
如果不想使用阿里云的服务RTP，可以使用原生 TensorFlow Serving。但是请注意，TensorFlow Serving 的速度受限于服务器的性能。建议使用专门的高性能服务器，以获得更快的推理速度。另外，可以考虑优化模型，以及设置合理的模型配置以提高推理速度。总的来说，如果使用 TensorFlow Serving，建议采用高性能服务器，以提高推理速度。