请教一下机器学习PAI的问题,如何在baldeDISC设置某些算子不被替换[阿里云机器学习PAI]

请教一下,如何在baldeDISC设置某些算子不被替换

「点点赞赏,手留余香」

    还没有人赞赏,快来当第一个赞赏的人吧!
=====这是一个广告位,招租中,联系qq 78315851====
2 条回复 A 作者 M 管理员
  1. 在阿里云机器学习PAI上使用BladeDISC时,您可以通过添加“黑名单”来设置某些算子不被替换。黑名单是一个包含不希望替换的算子名称列表的文本文件。以下是在PAI上使用BladeDISC时设置黑名单的步骤:

    1. 创建黑名单文件

      在任何文本编辑器中创建一个名为“blacklist.txt”的文件,并将不希望替换的算子名称按行添加到其中。例如:

      BatchMatMulV2Conv2DMaxPool

    2. 上传黑名单文件

      将“blacklist.txt”文件上传到您的PAI工作空间。您可以在PAI控制台的“文件管理器”中上传此文件。

    3. 添加黑名单参数

      在调用BladeDISC的过程中,将“blacklist.txt”文件的路径添加到命令行参数中。例如:

      bladedisc_convert --input-file=model.pb --output-file=model.blade --black-list=/path/to/blacklist.txt

      注意,/path/to/blacklist.txt应替换为您上传黑名单文件的实际路径。

      也可以在PAI控制台的“创建提交”页面中为BladeDISC作业添加参数,在“参数”字段中添加–black-list=/path/to/blacklist.txt参数。

    通过以上步骤,您可以在使用BladeDISC时设置某些算子不被替换,从而实现更精细化的控制和优化。

  2. 在BladeDISC中,可以通过修改算子的属性来控制是否对该算子进行替换。具体的做法如下:

    打开BladeDISC的控制台,在左侧的“算子库”中选择需要修改的算子。

    在右侧的“算子属性”中,找到“替换”属性,并将其设置为“否”。

    保存修改后的算子属性,退出控制台。

    这样设置之后,BladeDISC在进行图优化和代码生成时,就不会对该算子进行替换了。需要注意的是,如果一个算子被设置为不可替换,可能会影响整个计算图的优化效果,因此需要根据具体的情况进行权衡和调整。

  3. 在tf/torch侧都有相应的黑名单配置此回答整理自钉钉群BladeDISC用户支持群