机器学习PAI1、求问-Dcluster参数设置建议,使用PAI命令行时,查看训练信息的路径?[阿里云]

机器学习PAI
1、求问-Dcluster参数设置建议,目前在测试案例数据的multiTower模型,PS节点一直是running状态,数据集链接【https://www.tongchenyun.com/wp-content/uploads/2023/12/21/](https://www.tongchenyun.com/wp-content/uploads/2023/12/21/wyvq5mjsckydw_f66018e92f044d6a96b1e515c88dd867.png)
目前参数配置'{“ps”:{“count”:1, “cpu”:1000}, “worker” : {“count”:3, “cpu”:1000, “gpu”:100, “memory”:40000}}’,是不是要的CPU太多,等不到资源?

「点点赞赏,手留余香」

    还没有人赞赏,快来当第一个赞赏的人吧!
=====这是一个广告位,招租中,联系qq 78315851====
1 条回复 A 作者 M 管理员
    1. 对于DCluster参数设置建议,可以考虑以下几点:

      • 调整PS节点的CPU和内存资源,可以尝试减少CPU资源,例如将cpu从1000降低到500。
      • 调整Worker节点的GPU资源,可以尝试增加GPU数量,例如将gpu从100增加到200。
      • 调整Worker节点的内存资源,可以尝试增加内存大小,例如将memory从40000增加到80000。
      • 检查集群的网络状况,确保网络带宽足够支持模型训练。
    2. 在PAI命令行中查看训练信息,可以使用以下命令:

      $ aliyun ps logs --job-id 

      其中需要替换为你的训练任务ID。

  1. 就是和pai tensorflow一样的查看方式;之前一直等资源是因为我们集群gpu太少,等不到gpu资源导致 ,此回答整理自钉群“【EasyRec】推荐算法交流群”