网络
虚拟私有云 VPC
弹性公网IP EIP
弹性负载均衡 ELB
NAT网关 NAT
云专线 DC
虚拟专用网络 VPN
云连接 CC
VPC终端节点 VPCEP
企业路由器 ER
企业交换机 ESW
全球加速 GA
企业连接 EC
云原生应用网络 ANC
安全与合规
安全技术与应用
Web应用防火墙 WAF
企业主机安全 HSS
云防火墙 CFW
安全云脑 SecMaster
DDoS防护 AAD
数据加密服务 DEW
数据库安全服务 DBSS
云堡垒机 CBH
数据安全中心 DSC
云证书管理服务 CCM
威胁检测服务 MTD
态势感知 SA
认证测试中心 CTC
边缘安全 EdgeSec
应用中间件
微服务引擎 CSE
分布式消息服务Kafka版
分布式消息服务RabbitMQ版
分布式消息服务RocketMQ版
API网关 APIG
分布式缓存服务 DCS
多活高可用服务 MAS
事件网格 EG
管理与监管
统一身份认证服务 IAM
消息通知服务 SMN
云监控服务 CES
应用运维管理 AOM
应用性能管理 APM
云日志服务 LTS
云审计服务 CTS
标签管理服务 TMS
配置审计 Config
应用身份管理服务 OneAccess
资源访问管理 RAM
组织 Organizations
资源编排服务 RFS
优化顾问 OA
IAM 身份中心
云运维中心 COC
资源治理中心 RGC
解决方案
高性能计算 HPC
SAP
混合云灾备
开天工业工作台 MIW
Haydn解决方案工厂
数字化诊断治理专家服务
云生态
云商店
合作伙伴中心
华为云开发者学堂
华为云慧通差旅
开发与运维
软件开发生产线 CodeArts
需求管理 CodeArts Req
流水线 CodeArts Pipeline
代码检查 CodeArts Check
编译构建 CodeArts Build
部署 CodeArts Deploy
测试计划 CodeArts TestPlan
制品仓库 CodeArts Artifact
移动应用测试 MobileAPPTest
CodeArts IDE Online
开源镜像站 Mirrors
性能测试 CodeArts PerfTest
应用管理与运维平台 ServiceStage
云应用引擎 CAE
开源治理服务 CodeArts Governance
华为云Astro轻应用
CodeArts IDE
Astro工作流 AstroFlow
代码托管 CodeArts Repo
漏洞管理服务 CodeArts Inspector
联接 CodeArtsLink
软件建模 CodeArts Modeling
Astro企业应用 AstroPro
CodeArts盘古助手
华为云Astro大屏应用
计算
弹性云服务器 ECS
Flexus云服务
裸金属服务器 BMS
云手机服务器 CPH
专属主机 DeH
弹性伸缩 AS
镜像服务 IMS
函数工作流 FunctionGraph
云耀云服务器(旧版)
VR云渲游平台 CVR
Huawei Cloud EulerOS
云化数据中心 CloudDC
网络
虚拟私有云 VPC
弹性公网IP EIP
弹性负载均衡 ELB
NAT网关 NAT
云专线 DC
虚拟专用网络 VPN
云连接 CC
VPC终端节点 VPCEP
企业路由器 ER
企业交换机 ESW
全球加速 GA
企业连接 EC
云原生应用网络 ANC
CDN与智能边缘
内容分发网络 CDN
智能边缘云 IEC
智能边缘平台 IEF
CloudPond云服务
安全与合规
安全技术与应用
Web应用防火墙 WAF
企业主机安全 HSS
云防火墙 CFW
安全云脑 SecMaster
DDoS防护 AAD
数据加密服务 DEW
数据库安全服务 DBSS
云堡垒机 CBH
数据安全中心 DSC
云证书管理服务 CCM
威胁检测服务 MTD
态势感知 SA
认证测试中心 CTC
边缘安全 EdgeSec
大数据
MapReduce服务 MRS
数据湖探索 DLI
表格存储服务 CloudTable
可信智能计算服务 TICS
推荐系统 RES
云搜索服务 CSS
数据可视化 DLV
数据接入服务 DIS
数据仓库服务 GaussDB(DWS)
数据治理中心 DataArts Studio
湖仓构建 LakeFormation
智能数据洞察 DataArts Insight
应用中间件
微服务引擎 CSE
分布式消息服务Kafka版
分布式消息服务RabbitMQ版
分布式消息服务RocketMQ版
API网关 APIG
分布式缓存服务 DCS
多活高可用服务 MAS
事件网格 EG
开天aPaaS
应用平台 AppStage
开天企业工作台 MSSE
开天集成工作台 MSSI
API中心 API Hub
云消息服务 KooMessage
交换数据空间 EDS
云地图服务 KooMap
云手机服务 KooPhone
组织成员账号 OrgID
云空间服务 KooDrive
管理与监管
统一身份认证服务 IAM
消息通知服务 SMN
云监控服务 CES
应用运维管理 AOM
应用性能管理 APM
云日志服务 LTS
云审计服务 CTS
标签管理服务 TMS
配置审计 Config
应用身份管理服务 OneAccess
资源访问管理 RAM
组织 Organizations
资源编排服务 RFS
优化顾问 OA
IAM 身份中心
云运维中心 COC
资源治理中心 RGC
区块链
区块链服务 BCS
数字资产链 DAC
华为云区块链引擎服务 HBS
解决方案
高性能计算 HPC
SAP
混合云灾备
开天工业工作台 MIW
Haydn解决方案工厂
数字化诊断治理专家服务
价格
成本优化最佳实践
专属云商业逻辑
云生态
云商店
合作伙伴中心
华为云开发者学堂
华为云慧通差旅
其他
管理控制台
消息中心
产品价格详情
系统权限
客户关联华为云合作伙伴须知
公共问题
宽限期保留期
奖励推广计划
活动
云服务信任体系能力说明
开发与运维
软件开发生产线 CodeArts
需求管理 CodeArts Req
流水线 CodeArts Pipeline
代码检查 CodeArts Check
编译构建 CodeArts Build
部署 CodeArts Deploy
测试计划 CodeArts TestPlan
制品仓库 CodeArts Artifact
移动应用测试 MobileAPPTest
CodeArts IDE Online
开源镜像站 Mirrors
性能测试 CodeArts PerfTest
应用管理与运维平台 ServiceStage
云应用引擎 CAE
开源治理服务 CodeArts Governance
华为云Astro轻应用
CodeArts IDE
Astro工作流 AstroFlow
代码托管 CodeArts Repo
漏洞管理服务 CodeArts Inspector
联接 CodeArtsLink
软件建模 CodeArts Modeling
Astro企业应用 AstroPro
CodeArts盘古助手
华为云Astro大屏应用
存储
对象存储服务 OBS
云硬盘 EVS
云备份 CBR
高性能弹性文件服务 SFS Turbo
弹性文件服务 SFS
存储容灾服务 SDRS
云硬盘备份 VBS
云服务器备份 CSBS
数据快递服务 DES
云存储网关 CSG
专属分布式存储服务 DSS
数据工坊 DWR
地图数据 MapDS
键值存储服务 KVS
容器
云容器引擎 CCE
云容器实例 CCI
容器镜像服务 SWR
云原生服务中心 OSC
应用服务网格 ASM
华为云UCS
数据库
云数据库 RDS
数据复制服务 DRS
文档数据库服务 DDS
分布式数据库中间件 DDM
云数据库 GaussDB
云数据库 GeminiDB
数据管理服务 DAS
数据库和应用迁移 UGO
云数据库 TaurusDB
人工智能
AI开发平台ModelArts
华为HiLens
图引擎服务 GES
图像识别 Image
文字识别 OCR
自然语言处理 NLP
内容审核 Moderation
图像搜索 ImageSearch
医疗智能体 EIHealth
企业级AI应用开发专业套件 ModelArts Pro
人脸识别服务 FRS
对话机器人服务 CBS
语音交互服务 SIS
人证核身服务 IVS
视频智能分析服务 VIAS
城市智能体
自动驾驶云服务 Octopus
盘古大模型 PanguLargeModels
IoT物联网
设备接入 IoTDA
全球SIM联接 GSL
IoT数据分析 IoTA
路网数字化服务 DRIS
IoT边缘 IoTEdge
设备发放 IoTDP
企业应用
域名注册服务 Domains
云解析服务 DNS
企业门户 EWP
ICP备案
商标注册
华为云WeLink
华为云会议 Meeting
隐私保护通话 PrivateNumber
语音通话 VoiceCall
消息&短信 MSGSMS
云管理网络
SD-WAN 云服务
边缘数据中心管理 EDCM
云桌面 Workspace
应用与数据集成平台 ROMA Connect
ROMA资产中心 ROMA Exchange
API全生命周期管理 ROMA API
政企自服务管理 ESM
视频
实时音视频 SparkRTC
视频直播 Live
视频点播 VOD
媒体处理 MPC
视频接入服务 VIS
数字内容生产线 MetaStudio
迁移
主机迁移服务 SMS
对象存储迁移服务 OMS
云数据迁移 CDM
迁移中心 MGC
专属云
专属计算集群 DCC
开发者工具
SDK开发指南
API签名指南
DevStar
华为云命令行工具服务 KooCLI
Huawei Cloud Toolkit
CodeArts API
云化转型
云架构中心
云采用框架
用户服务
账号中心
费用中心
成本中心
资源中心
企业管理
工单管理
客户运营能力
国际站常见问题
支持计划
专业服务
合作伙伴支持计划
我的凭证
华为云公共事业服务云平台
工业软件
工业数字模型驱动引擎
硬件开发工具链平台云服务
工业数据转换引擎云服务
文档首页/ 企业级AI应用开发专业套件 ModelArts Pro/ 快速入门/ 自然语言处理套件(使用文本分类工作流开发应用)
更新时间:2024-04-02 GMT+08:00
分享

自然语言处理套件(使用文本分类工作流开发应用)

ModelArts Pro的自然语言处理套件提供了通用文本分类工作流和多语种文本分类工作流,通过工作流指引支持自主上传文本数据,构建高精度文本分类预测模型,适配不同行业场景的业务数据,快速获得定制服务。

通用文本分类工作流仅支持中文文本分类,多语种文本分类工作流支持对英语、法语、德语、西班牙语、葡萄牙语、阿拉伯语等语种文本进行分类。使用两种工作流开发应用的流程相同。

由于通用文本分类工作流和多语种文本分类工作流开发应用的流程相同,因此本章节以通用文本分类工作流为例,介绍如何使用自然语言处理套件中的文本分类工作流开发应用,通过上传训练数据、训练模型,将生成的模型部署为在线服务。部署完成后,用户可通过在线服务分类文本内容。

首先,请仔细阅读准备工作罗列的要求,提前完成准备工作。使用通用文本分类工作流开发应用的步骤如下所示:

准备工作

注册华为帐号,开通华为云,并完成套件申请、访问授权配置等准备工作,详情请见准备工作

步骤1:准备数据

在开发应用之前,您需要自行准备训练数据集并上传至OBS桶及文件夹中。由于数据安全原因,本样例不提供具体的样例数据,仅提供样例数据要求。

本样例使用已标注数据训练模型,数据集要求如下:

  • 文件格式要求为txt或者csv,文件大小不能超过8MB。
  • 以换行符作为分隔符,每行数据代表一个标注对象。
  • 每个分类标签需要准备5个及以上数据,为了训练出效果较好的模型,建议每个分类标签准备100个以上的数据。
  • 文本分类的标注对象和标注内容在一个文本文件内,标注对象与标注内容之间,多个标注内容之间可分别指定分隔符。
    例如,文本文件的内容如下所示。标注对象与标注内容之间采用Tab键分隔。
    手感很好,反应速度很快,不知道以后怎样   positive
    三个月前买了一个用的非常好果断把旧手机替换下来尤其在待机方面秒杀  positive
    没充一会电源怎么也会发热呢音量健不好用回弹不好  negative
    算是给自己的父亲节礼物吧物流很快下单不到24小时就到货了耳机更赞有些低音炮的感觉入耳很紧不会掉棒棒哒  positive
  1. 按上文要求准备训练数据集,并保存至本地,训练数据命名为“test.txt”
  2. 登录OBS服务,创建桶和文件夹,用于存放数据集。

    创建名称为“mapro-nlp”的OBS桶。

    创建名称为“data-in”的文件夹用于存放训练数据集。

    创建名称为“data-out”的文件夹用于存放输出的数据集。

    创建OBS桶和文件夹的操作指导请参见创建桶新建文件夹。为保证数据能正常访问,请务必确保创建的OBS桶与ModelArts Pro服务在同一区域。

  3. 参考上传文件,使用单个文件上传方式将本地准备的训练数据“test.txt”文件上传至OBS路径“mapro-nlp/data-in”下。

步骤2:新建应用

  1. 登录ModelArts Pro控制台,单击“自然语言处理套件”卡片的“进入套件”

    默认进入“应用开发>工作台”页面的“我的应用”页签。

    图1 进入套件
  2. “我的应用”页签下,单击“新建应用”

    进入“新建应用”页面。

    图2 新建应用
  3. 填写应用的“基本信息”“工作流配置”“资源配置”
    • 基本信息
      图3表1填写基本信息。
      图3 基本信息
      表1 基本信息参数说明

      参数

      说明

      推荐填写

      应用名称

      必填参数,支持输入中英文、数字、下划线及中划线。

      本样例可输入“中文文本分类应用”

      应用负责人

      选填参数,应用负责人的姓名。

      本样例可不填。

      应用描述

      选填参数,应用的简短描述。

      本样例填写“这是关于文本分类的应用”

    • 工作流配置
      图4表2填写工作流配置。
      图4 工作流配置
      表2 工作流配置参数说明

      参数

      说明

      推荐填写

      所属行业

      单击,选择应用所属行业。

      本样例选择“通用”

      选择工作流

      选择开发应用的预置工作流。

      本样例选择“通用文本分类工作流”

    • 资源配置
      图5表3填写资源配置。
      图5 资源配置
      表3 资源配置参数说明

      参数

      说明

      推荐填写

      数据处理资源

      用于数据处理的资源池和资源类型。

      • “公共资源池”提供公共的大规模计算集群,资源按作业隔离。您可以按需选择不同的资源类型。
      • “专属资源池”提供独享的计算资源不与其他用户共享,更加高效。使用专属资源池需要在ModelArts创建专属资源池。

      本样例选择“公共资源池”“CPU:2核8GiB”

      模型训练资源

      用于模型训练的资源池和资源类型。

      • “公共资源池”提供公共的大规模计算集群,资源按作业隔离。您可以按需选择不同的资源类型。
      • “专属资源池”提供独享的计算资源不与其他用户共享,更加高效。使用专属资源池需要在ModelArts创建专属资源池。

      本样例选择“公共资源池”

      部署方式

      选择应用的部署方式,当前通用文本分类工作流仅支持“在线部署”

      本样例选择“在线部署”

  4. 确认信息后,单击右下角的“确定”

    成功新建应用,进入“应用开发”页面。

步骤3:选择数据

  1. 在应用开发的“数据选择”页面,单击“新建数据集”

    右侧弹出“新建数据集”页面。

  2. 表4填写数据集基本信息,然后单击“确定”
    图6 新建数据集
    表4 新建数据集参数说明

    参数

    说明

    推荐填写

    数据集名称

    待新建的数据集名称。支持输入中英文、数字、下划线及中划线。

    本样例填写“test”

    描述

    数据集简要描述。

    -

    数据集状态

    上传的训练数据可以是已标注的数据,也可以是未标注的数据。

    您可以根据自身业务选择“数据集状态”“已标注数据集”还是“未标注数据集”

    数据集模板可在选择“数据集状态”后,单击下方的“文本分类已标注数据模板”“文本分类未标注数据模板”,下载数据集模板至本地查看。

    本样例使用已标注的数据集,所以选择“已标注数据集”

    如果您想手动修改标签,可单击数据集操作列的“标注”,进入数据集概览页单击右上角的“开始标注”,在“数据标注”页面手动标注数据,详细的操作指导请参考标注数据

    数据集输入位置

    训练数据存储至OBS的位置。

    单击“数据集输入位置”右侧输入框,在弹出的“数据集输入位置”对话框中,选择“OBS桶”“文件夹”,然后单击“确定”

    选择步骤1:准备数据中提前上传数据集的OBS路径“mapro-nlp/data-in”

    数据集输出位置

    待新建的数据集存储至OBS的位置。

    单击“数据集输出位置”右侧的“修改”,在弹出的“数据集输出位置”对话框中,选择“OBS桶”“文件夹”,然后单击“确定”

    选择步骤1:准备数据中提前创建好的输出数据集的OBS路径“mapro-nlp/data-out”

  3. 勾选已上传的数据集。

    服务进行标签解析,统计训练数据集中各个标签的样本数。

    您可以选择打开“合并标签”开关,将样本数量较少的标签在模型训练中进行合并,以达到更优训练效果。

    图7 数据选择
  4. 单击右下角“下一步”

    进入应用开发的“模型训练”页面。

步骤4:训练模型

  1. 在应用开发的“模型训练”页面,勾选模型训练所使用的“预训练模型”

    当前服务提供预置预训练模型“BERT”“TinyBERT”“FastText”。本样例使用“FastText”模型。

  2. 在参数配置,填写“学习率”“训练轮次”

    本样例使用“学习率”“0.00001”“训练轮次”“3”

  3. 单击右下角的“开始训练”,开始训练模型。

    模型训练一般需要运行一段时间,等模型训练完成后,可查看“训练详情”“准确率变化情况”“误差变化”

    图8 训练详情
  4. 模型训练完成后,单击右下角的“下一步”

    进入应用开发的“模型评估”页面。

步骤5:评估模型

  1. 在应用开发的“模型评估”页面,您可以针对当前版本的模型进行整体评估和详细评估。

    “整体评估”左侧显示当前模型的“版本”“标签数量”“验证集数量”

    “整体评估”右侧显示当前模型的评估参数值,包括“精准率”“召回率”“F1值”

    图9 整体评估
  2. 在应用开发的“模型评估”页面,您可以搜索查看测试集中数据模型预测结果。

    “详细评估”左侧在搜索框中搜索标签,右侧显示正确标签所对应样本的正确标签和预测标签,您可以对比正确标签和预测标签,判断当前模型预测该样本是否预测正确。

    例如搜索框内输入标签“1”,下方会显示正确标签为“1”的样本中,预测正确的样本数在验证集中的占比。右侧显示正确标签为“1”的样本信息,包括样本的正确标签和预测标签。

    图10 详细评估
  3. 单击右下角的“发布部署”

    进入应用开发的“服务部署”页面。

步骤6:部署服务

在应用开发“服务部署”页面,按表5填写服务的相关参数,然后单击“部署”

图11 服务部署
表5 服务部署参数说明

参数

说明

推荐填写

服务名称

待部署的服务名称,首次部署服务请单击可修改默认服务名称。

如果在不同版本非首次部署服务,服务名称不支持修改。

本样例使用默认服务名称。

描述

待部署服务的简要说明。

-

资源池

用于部署服务的资源池和资源类型。资源池可选“公共资源池”和“专属资源池”。

  • “公共资源池”提供公共的大规模计算集群,资源按作业隔离。您可以按需选择不同的资源类型。
  • “专属资源池”提供独享的计算资源不与其他用户共享,更加高效。使用专属资源池需要在ModelArts创建专属资源池。

本样例选择“公共资源池”

计算节点规格

界面上选择计算规格。

-

计算节点个数

设置当前版本模型的实例个数。如果节点个数设置为1,表示后台的计算模式是单机模式;如果节点个数设置大于1,表示后台的计算模式为分布式的。请根据实际编码情况选择计算模式。

本样例选择1个计算节点。

服务自动停止

设置服务自动停止的时间,在线服务运行状态在所选的时间点后自动停止,同时在线服务也停止计费。

本样例选择“1小时后”

部署成功后,页面显示“服务部署成功”。您可以单击“查看应用监控”,进入应用监控页面查看监控信息,详情请见监控应用

相关文档