tongchenkeji 发表于：2023-1-27 9:08:030次点击 已关注取消关注 关注 私信 请问显存优化中的CPU训练可以和oss、sdp、fsdp这三种模型状态切分一起使用吗？[阿里云机器学习PAI] 暂停朗读为您朗读 请问显存优化中的CPU训练可以和oss、sdp、fsdp这三种模型状态切分一起使用吗？ 「点点赞赏，手留余香」 赞赏 还没有人赞赏，快来当第一个赞赏的人吧！ 海报 机器学习PAI# 对象存储1210
认真学习的heartAM 2023-11-28 2:50:51 2 CPU训练可以和OSS、SDP、FDP这三种模型状态切分一起使用。CPU训练可以帮助提高显存的利用率，减少显存的浪费，提高显存的性能。而OSS、SDP、FDP这三种模型状态切分可以帮助提高显存的利用率，减少显存的浪费，提高显存的性能。因此，这两种技术可以一起使用，以达到最佳的显存优化效果。
您好，不可以。显存优化中的CPU训练只能和zero一起使用，不能和oss、sdp、fsdp这三种模型状态切分一起使用。
CPU训练可以和OSS、SDP、FDP这三种模型状态切分一起使用。CPU训练可以帮助提高显存的利用率，减少显存的浪费，提高显存的性能。而OSS、SDP、FDP这三种模型状态切分可以帮助提高显存的利用率，减少显存的浪费，提高显存的性能。因此，这两种技术可以一起使用，以达到最佳的显存优化效果。