tongchenkeji 发表于:2023-4-3 16:16:040次点击 已关注取消关注 关注 私信 在tf serving时,请求的结果保持一致,是修改rank model里的get output吗[阿里云机器学习PAI] 暂停朗读为您朗读 在tf serving时,请求的结果保持一致,是修改rank model里的get output吗 「点点赞赏,手留余香」 赞赏 还没有人赞赏,快来当第一个赞赏的人吧! 海报 机器学习PAI# 人工智能平台 PAI1410
武当张三丰丶AM 2023-11-28 2:48:31 2 在 TensorFlow Serving 中保持请求结果一致,需要在模型训练和模型导出时采用一些特定的技巧。修改 rank model 的 get output 方法可能不是实现此目标的最佳方式。 TensorFlow Serving 中保持请求结果一致参考: 1、在训练模型时,尽量避免使用随机性操作(如随机种子、dropout等),或者在训练时将它们的随机性设置为确定性。 2、在导出模型时,确保使用相同的 TensorFlow 版本和环境,以确保导出的模型与训练时使用的 TensorFlow 版本和环境相同。 3、在导出模型时,确保使用相同的模型配置和超参数。 4、在 TensorFlow Serving 中,可以使用版本控制来管理模型的不同版本,并确保在部署时选择相同的版本。这可以避免不同版本之间的结果差异。 5、在 TensorFlow Serving 中,还可以通过使用 –model_config_file 标志来显式指定每个模型的名称和版本号。这可以确保在请求特定版本的模型时,始终使用相同的模型。 保持 TensorFlow Serving 中请求结果一致的最佳方式是在训练和导出模型时采用一些特定的技巧,而不是修改 rank model 的 get output 方法。
在TensorFlow Serving中保持请求结果的一致性需要对模型的输出进行管理和控制。
在 TensorFlow Serving 中保持请求结果一致,需要在模型训练和模型导出时采用一些特定的技巧。修改 rank model 的 get output 方法可能不是实现此目标的最佳方式。
TensorFlow Serving 中保持请求结果一致参考:
1、在训练模型时,尽量避免使用随机性操作(如随机种子、dropout等),或者在训练时将它们的随机性设置为确定性。
2、在导出模型时,确保使用相同的 TensorFlow 版本和环境,以确保导出的模型与训练时使用的 TensorFlow 版本和环境相同。
3、在导出模型时,确保使用相同的模型配置和超参数。
4、在 TensorFlow Serving 中,可以使用版本控制来管理模型的不同版本,并确保在部署时选择相同的版本。这可以避免不同版本之间的结果差异。
5、在 TensorFlow Serving 中,还可以通过使用 –model_config_file 标志来显式指定每个模型的名称和版本号。这可以确保在请求特定版本的模型时,始终使用相同的模型。
保持 TensorFlow Serving 中请求结果一致的最佳方式是在训练和导出模型时采用一些特定的技巧,而不是修改 rank model 的 get output 方法。