文档首页 > > AI工程师用户指南> 管理模型> 压缩和转换模型> 模型输入目录规范

模型输入目录规范

分享
更新时间: 2020/01/17 GMT+08:00

模型转换后,应用于不同的芯片,针对不同的芯片,其模型输入目录的要求不同。ModelArts当前对模型输入目录的要求分为Ascend芯片ARM或GPU两种。

Ascend芯片

用于Ascend芯片的模型,其转换要求如下所示:

  • 针对基于Caffe框架的模型,执行模型转换时,其输入目录需符合如下规范。
    |
    |---xxxx.caffemodel         模型参数文件,输入目录下有且只能有一个,必填。
    |---xxxx.prototxt           模型网络文件,输入目录下有且只能有一个,必填。
    |---insert_op_conf.cfg      插入算子配置文件,输入目录下有且只有一个,可选。
    |---plugin                  自定义算子目录,输入目录下有且只能有一个plugin文件夹,可选。仅支持基于TE(Tensor Engine)开发的自定义算子。
  • 针对基于TensorFlow框架的模型(“frozen_graph”“saved_model”格式),执行模型转换时,其输入目录需符合如下规范。
    “frozen_graph”格式
    |
    |---xxxx.pb                 模型网络文件,输入目录下有且只能有一个,必填。支持以frozen_graph或saved_model格式保存的模型。
    |---insert_op_conf.cfg      插入算子配置文件,输入目录下有且只有一个,可选。
    |---plugin                  自定义算子目录,输入目录下有且只能有一个plugin文件夹,可选。仅支持基于TE(Tensor Engine)开发的自定义算子。

    “saved_model”格式

    |
    |---saved_model.pb          模型网络文件,输入目录下有且只能有一个,必填。支持以frozen_graph或saved_model格式保存的模型。
    |---variables               固定子目录名称,包含模型的权重偏差等信息,必选
        |---variables.index     必选
        |---variables.data-00000-of-00001 必选
    |---insert_op_conf.cfg      插入算子配置文件,输入目录下有且只有一个,可选。
    |---plugin                  自定义算子目录,输入目录下有且只能有一个plugin文件夹,可选。仅支持基于TE(Tensor Engine)开发的自定义算子。

ARM或GPU

用于ARM或GPU的模型,当前只支持TensorFlow框架的模型,包含两种格式“frozen_graph”“saved_model”

“frozen_graph”格式如下所示:
|
|---model                    模型存放目录,必须以model命名,有且只能有一个, 目录下只能放一个模型相关文件。
    |----xxx.pb              模型文件。必须是tensorflow的frozen_graph格式的文件。
|---calibration_data         校准数据集存放目录,必须以calibration_data命名,8bit转换需要,32bit转换不需要。输入目录下有且只能有一个。
    |---xx.npy               校准数据集。可以是多个npy格式文件,需要确保npy是在预处理后直接输入模型的数据,其输入的tensor需要与模型输入保持一致。     

“saved_model”格式如下所示:

|
|---model                    模型存放目录,必须以model命名,有且只能有一个, 目录下只能放一个模型相关文件。
    |----saved_model.pb      模型文件。必须是tensorflow的saved_model格式的文件。
    |----variables           变量存储文件夹。
         |----variables.data-******-of-*****     saved_model格式文件需要的数据。
         |----variables.index                    saved_model格式文件需要的索引。
|---calibration_data         校准数据集存放目录,必须以calibration_data命名,8bit转换需要,32bit转换不需要。输入目录下有且只能有一个。
    |---xx.npy               校准数据集。可以是多个npy格式文件,需要确保npy是在预处理后直接输入模型的数据,其输入的tensor需要与模型输入保持一致。
分享:

    相关文档

    相关产品

文档是否有解决您的问题?

提交成功!

非常感谢您的反馈,我们会继续努力做到更好!

反馈提交失败,请稍后再试!

*必选

请至少选择或填写一项反馈信息

字符长度不能超过200

提交反馈 取消

如您有其它疑问,您也可以通过华为云社区问答频道来与我们联系探讨

跳转到云社区