预测要用到两个模型,第一个在线训练好的,这个倒是可以流式读入,就是2模型(离线批量模型)怎么能够保证更新后流式读入,并且类型也是batchoperator呢?
2模型的格式是batchoperator的
预测要用到两个模型,第一个在线训练好可以流式读入,但是2模型如何保证更新后流式读入?[阿里云机器学习PAI]
「点点赞赏,手留余香」
还没有人赞赏,快来当第一个赞赏的人吧!
预测要用到两个模型,第一个在线训练好的,这个倒是可以流式读入,就是2模型(离线批量模型)怎么能够保证更新后流式读入,并且类型也是batchoperator呢?
2模型的格式是batchoperator的
对于多个开放模型需要流式更新和使用,有以下几种方式:
模型版本控制
每个模型版本需要一个版本号,任务以版本号读入不同版本模型。
训练完成后更新版本号,任务根据版本号自动读新模型。
模型陷阱交换
维护两个模型文件A/B,预测任务实时读A。
训练完成后将新模型写入B,切换A和B指针。下次预测读B。
模型注册表
使用注册表持久化当前活跃模型版本信息。
训练完成后更新注册表模型版本号,预测从注册表异步拉取最新模型。
模型流式发布
训练直接将模型发布到流式 canal处。
预测从canal实时拉取最新模型,同步更新内存中模型。
参数服务器模式
所有模型参数分布到参数服务器。
训练更新参数服务器参数,预测从参数服务器实时读取最新参数。
initmodel传一个和训练initmodel一样的就行,当新的模型流来了,就会给替换掉了