创建数据连接
使用场景
在数据处理和模型训练的场景中,用户需要将多种类型的数据集高效、准确地导入到ModelArts数据平台中,以支持后续的智能精炼和模型训练任务。然而,传统的数据导入方式存在诸多限制,如不支持自定义任务名称、数据格式转换功能有限等,导致用户在导入数据时面临操作不便和数据处理效率低下的问题。如何在新的平台中实现更加灵活和高效的数据导入功能,成为用户亟待解决的问题。为此,ModelArts平台提供了增强的数据导入功能,支持多种基础数据类型的导入,允许用户在创建导入任务时编辑任务名称和描述,同时支持数据格式转换和数据集的直接发布,从而显著提升了数据处理的灵活性和效率,满足了用户在数据准备阶段的多样化需求。
前提条件
- 在使用ModelArts前,需完成华为云账号注册、实名认证及相关权限授权。具体操作,请参见一、前置准备:账号与权限。
- 创建导入任务前,请先按照数据集格式要求提前准备数据。
约束限制
- 数据连接导入数据文件或压缩包不超过20GB,总文件大小也不超过20GB。
- 通过OBS导入数据,在指定OBS路径时只支持指定到文件夹,不支持指定到文件。
计费说明
按照使用的计算资源和存储资源计费,具体可参考数据管理计费项。
创建数据连接
- 登录ModelArts管理控制台。
- 在控制台左侧导航栏选择“数据准备 > 数据连接”。
- 在“数据连接”页面右上方单击“创建数据连接”,在“创建数据连接”页面,配置相关信息。
表1 创建数据连接参数说明 参数
说明
示例值
基本信息
名称
名称默认为data-connect-年月日时分秒,您也可以按需修改。
支持大小写英文字母、数字、中划线、下划线及中文,长度限制为1~128位。
data-connect-20260425083507
描述
自定义数据连接的描述。最大支持512个字符。
-
数据导入
模态
“模态”指数据的存在形式。支持文本、图片、视频、音频和其他类型的数据。选择模态后系统会展示该模态下可选的数据类型。
关于各模态的格式要求,请参见数据集格式要求。
文本
类型
选择数据集的具体类型,可选项随模态变化。
- “模态”选择“文本”:支持基础文本、预训练文本、文本生成SFT和强化学习GRPO/DAPO类型。
- 基础文本:以多格式原始文档为核心,支持文档内容提取与解析,经平台数据精炼转化为预训练数据集或评测集。
- 预训练文本:以大规模原始文本语料为核心,支持直接用于模型预训练,或经平台数据精炼转化为高质量文本生成SFT数据集。
- 文本生成SFT:以问答对为核心的标注文本数据集,包含指令与标准应答内容,适配大模型有监督指令微调,可满足对话生成、指令对齐、行业场景定制等模型训练需求。
- 强化学习GRPO/DAPO:面向强化学习偏好训练与长思维链推理场景,适配GRPO、DAPO专用数据格式,可上传生成RL训练与评测数据集。
- “模态”选择“图片”:支持基础图片。
基础图片:原始图片素材数据集,支持各类实景、静物、场景图片,适用于多模态模型视觉预训练与视觉特征学习。
- “模态”选择“视频”:支持基础视频。
基础视频:原始视频素材数据集,涵盖各类实景、场景、动态影像资源,适用于多模态模型时序视觉预训练与特征学习。
- “模态”选择“音频”:支持基础音频。
基础音频:原始音频素材数据集,收录各类人声、环境音、语音片段等资源,适用于语音大模型预训练与声学特征学习。
- “模态”选择“其他”:支持自定义。
自定义:支持自主上传各类非标格式数据,不受固定数据类型限制,灵活适配多样化、个性化的模型训练与评测使用场景。
基础文本
文件格式
按需选择文件格式。
-
来源
不同类型支持的来源可能不同,请以控制台显示为准。
对象存储服务OBS
存储类型
“来源”选择“对象存储服务OBS”或“本地上传”,支持选择“对象存储 OBS - 对象桶”或者“对象存储 OBS - 并行文件系统”。
对象存储 OBS - 对象桶
存储地址
- “来源”选择“对象存储服务OBS”,指定待连接数据在OBS中的存储路径,用于创建数据集。
- “来源”选择“本地上传”,指定本地数据上传至OBS后的存储路径,上传完成后该路径即成为待连接的数据集路径。
您可以单击
图标选择OBS存储地址或者手动输入地址。存储地址必须以“obs://”或者“/”开头,以“/”结尾,且除前缀外不得出现“//”,例如obs://bucketname/path/或者/bucketname/path/。最多支持20个文件上传,单文件大小不超过1GB,建议单次添加文件数量不超过10个。
obs://bucketname/path/
数据源
仅“来源”选择AI Datalake,需配置此参数。按需选择已配置的AI Datalake数据源。关于如何创建数据源,请参见管理AI DataLake数据源。
-
数据集
仅“来源”选择AI Datalake,需配置此参数。单击
图标,选择目标数据集。-
生成数据集
数据集名称
自定义数据集的名称。支持大小写英文字母、数字、中划线、下划线及中文,长度限制为1~128位。
dataset
数据集属性
单击
图标,可按需配置数据集的属性,例如行业、语言等。-
描述
自定义数据集的描述。可输入中文、大小写字母、数字,以及空格、中划线、下划线、逗号、句号、括号、冒号、顿号,不支持其他字符。最大长度不超过512个字符。
-
数据集状态
上线后的数据集才可被下游模型训练等作业任务调用。
- 打开“立即上线数据集”,生成数据集在“资产管理 > 数据 >我的数据”页面为“已上线”状态,可以被下游模型训练等作业直接使用。
- 关闭“立即上线数据集”,生成数据集在“资产管理 > 数据 >我的数据”页面为“未上线”状态,不可被下游模型训练等作业直接使用,需要手动上线数据集后才能使用。
打开“立即上线数据集”
- “模态”选择“文本”:支持基础文本、预训练文本、文本生成SFT和强化学习GRPO/DAPO类型。
- 参数配置完成后,单击页面右下角“立即创建”,在“数据连接”页面可以查看数据集的任务状态,如果状态为“运行成功”,则数据连接任务成功。 图1 查看数据连接任务状态
- 数据集生成后,可在左侧导航栏,选择“资产管理 > 数据”,在“我的数据”页签查看生成数据集。更多信息,请参见我的数据。