tongchenkeji 发表于：2023-1-29 12:53:440次点击 已关注取消关注 关注 私信 请问对TensorFlow模型量化优化时如何执行离线INT8优化？[阿里云机器学习PAI] 暂停朗读为您朗读 请问对TensorFlow模型量化优化时如何执行离线INT8优化？ 「点点赞赏，手留余香」 赞赏 还没有人赞赏，快来当第一个赞赏的人吧！ 海报 机器学习PAI# TensorFlow46# 人工智能平台 PAI1410# 算法框架工具77
认真学习的heartAM 2023-11-28 2:49:34 1 步骤如下： 1. 先使用TensorFlow的Graph Transform Tool（GTT）将模型转换为INT8格式。 2. 使用TensorFlow的Calibration Tool（CT）对模型进行校准，以确保模型的精度。 3. 使用TensorFlow的Optimization Tool（OT）对模型进行优化，以提高模型的性能。
步骤如下： 1. 先使用TensorFlow的Graph Transform Tool（GTT）将模型转换为INT8格式。 2. 使用TensorFlow的Calibration Tool（CT）对模型进行校准，以确保模型的精度。 3. 使用TensorFlow的Optimization Tool（OT）对模型进行优化，以提高模型的性能。