预测要用到两个模型,第一个在线训练好可以流式读入,但是2模型如何保证更新后流式读入?[阿里云机器学习PAI]


预测要用到两个模型,第一个在线训练好的,这个倒是可以流式读入,就是2模型(离线批量模型)怎么能够保证更新后流式读入,并且类型也是batchoperator呢?

2模型的格式是batchoperator的

「点点赞赏,手留余香」

    还没有人赞赏,快来当第一个赞赏的人吧!
=====这是一个广告位,招租中,联系qq 78315851====
1 条回复 A 作者 M 管理员
  1. 对于多个开放模型需要流式更新和使用,有以下几种方式:

    模型版本控制
    每个模型版本需要一个版本号,任务以版本号读入不同版本模型。

    训练完成后更新版本号,任务根据版本号自动读新模型。

    模型陷阱交换
    维护两个模型文件A/B,预测任务实时读A。

    训练完成后将新模型写入B,切换A和B指针。下次预测读B。

    模型注册表
    使用注册表持久化当前活跃模型版本信息。

    训练完成后更新注册表模型版本号,预测从注册表异步拉取最新模型。

    模型流式发布
    训练直接将模型发布到流式 canal处。

    预测从canal实时拉取最新模型,同步更新内存中模型。

    参数服务器模式
    所有模型参数分布到参数服务器。

    训练更新参数服务器参数,预测从参数服务器实时读取最新参数。

  2. initmodel传一个和训练initmodel一样的就行,当新的模型流来了,就会给替换掉了