文档首页 > > AI工程师用户指南> 训练管理> 自动化搜索作业> 自动化搜索作业简介

自动化搜索作业简介

分享
更新时间:2020/07/14 GMT+08:00

自动化搜索服务,基于ModelArts平台,融合了自动数据增强(Automatic Data Enhancement)、自动超参选择(Automatic Hyperparameter Search)和神经网络架构搜索(Neural Architecture Search)等众多AutoML技术,以期能帮助用户以最小的代价与最低的门槛获得AutoML能力,在实际业务上进行模型优化与加速。

当用户有一套自己的业务模型代码,包括了完整的训练、评估、模型导出流程,但对于模型的精度,推理速度甚至训练时间等不满意,则可以按照代码编写规范,以少量的代码改动为代价,使自动化搜索服务作为业务模型代码的上层,可以多次调用代码,改变训练的模型架构与训练参数,进行模型训练与评估,最后反馈给用户精度更高、更快的模型。

自动化搜索作业类型介绍

目前用户的使用方式有以下几种。

  • 神经网络架构搜索(纯NAS搜索):对于图像分类、检测的场景,ModelArts提供了若干搜索好的ResNet结构,用这些结构替换原来的ResNet结构就能获得准确率或者性能的提升,这样的搜索代价是单次网络训练时间消耗的4到10倍。另外,ModelArts也支持任意的结构搜索,提供了自研搜索算法(MBNAS)在任意搜索空间内搜索更优的结构。
  • 超参搜索:提供了多个经典的超参搜索算法,可以用来搜索深度学习中常见的超参,如learning_rate等。
  • 自动数据增强策略搜索:搜索更好的预处理策略,ModelArts提供了我们已经搜索得到的最优策略,以及策略的解码器,可以用来替换代码中的数据增强模块,当然,您也可以利用ModelArts解码器,来搜索更适合自己场景的最佳增强策略。
  • 多元搜索(前面三者的任意组合):神经网络架构搜索、超参搜索、自动数据增强策略搜索,三者可以同时使用,能搜索得到更好的结构、超参和增强策略,但代价也更高。

首次使用自动化搜索作业

针对首次使用自动化搜索作业的用户,建议按照如下路径进行学习使用。

  1. 首先,了解自动化搜索作业类型介绍,清晰自己业务所需的自动化搜索作业。
  2. 然后,查看如下几个示例,通过具体的样例代码和yaml配置文件,了解ModelArts的自动化搜索作业。

    在学习示例的过程中,可以同步查看代码编写规范yaml配置文件说明,清晰了解其中的编码要求。

  3. 根据上述学习,准备作业的启动脚本和yaml配置文件。参考创建自动化搜索作业,启动一个自动化搜索作业,并查看搜索结果。

自动化搜索作业的功能简介

表1 功能导读

功能

子功能

说明

操作指引

作业管理

创建自动化搜索作业

创建一个自动化搜索作业。

创建自动化搜索作业

停止或删除作业

针对运行中的自动化搜索作业,停止作业。或者删除不必要的自动化搜索作业。

其操作步骤与训练作业类似,本文不再赘述,请参考训练作业的相关指导。

停止或删除作业

管理作业版本

为了方便用户在调整内容后快速高效的训练模型,提供了管理作业版本的能力。每训练一次,生成一个版本,不同的作业版本之间,能快速进行对比,获得对比结果。

其操作步骤与训练作业类似,本文不再赘述,请参考训练作业的相关指导。

管理训练作业版本

查看作业详情

训练作业运行结束后,除了管理训练作业版本之外,您可以通过查看作业详情、作业日志、搜索结果等,判断此作业是否满意。

其操作步骤与训练作业类似,本文不再赘述,请参考训练作业的相关指导。

查看作业详情

管理作业参数

创建作业时,您可以将作业的参数保存在ModelArts中,再次创建作业时,可一键使用已存储的作业参数,使得作业的创建高效便捷。

其操作步骤与训练作业类似,本文不再赘述,请参考训练作业的相关指导。

管理作业参数

编码规范

代码编写规范

用户需要按照自动化搜索服务所需要的代码规范,轻量的改写自己已有的模型训练代码,使得上层搜索服务可以成功调用用户的代码进行训练评估

代码编写规范

yaml配置文件说明

如果用户需要使用超参搜索能力以进行多元搜索,则需要提供一份yaml配置文件,配置超参搜索所需要的控制信息

yaml配置文件说明

使用示例

使用更优秀的网络结构替换原生ResNet50

以使用ResNet50在MNIST数据集上的分类任务为例。端到端介绍数据准备、下载代码、修改代码、创建作业以及查看搜索结果的操作过程。

示例:使用更优秀的网络结构替换原生ResNet50

使用经典超参算法搜索超参

以优化黑盒函数为例,来介绍超参算法使用方式。

示例:使用经典超参算法搜索超参

使用MBNAS算法搜索网络结构

以类似MNIST的模拟数据为例,来介绍MBNAS算法的使用方式。

示例:使用MBNAS算法搜索网络结构

使用预置的数据增强策略进行自动数据增强

以使用ResNet50在MNIST数据集上的分类任务为例,介绍如何使用我们提供的数据增强策略。

示例:使用预置的数据增强策略进行自动数据增强

多元搜索

以使用ResNet50在MNIST数据集上的分类任务为例,介绍如何使用多元搜索。

示例:使用多元搜索

分享:

    相关文档

    相关产品

文档是否有解决您的问题?

提交成功!

非常感谢您的反馈,我们会继续努力做到更好!

反馈提交失败,请稍后再试!

*必选

请至少选择或填写一项反馈信息

字符长度不能超过200

提交反馈 取消

如您有其它疑问,您也可以通过华为云社区问答频道来与我们联系探讨

智能客服提问云社区提问