更新时间:2026-10-10 GMT+08:00
分享

创建数据连接

使用场景

在数据处理和模型训练的场景中,用户需要将多种类型的数据集高效、准确地导入到ModelArts数据平台中,以支持后续的智能精炼和模型训练任务。然而,传统的数据导入方式存在诸多限制,如不支持自定义任务名称、数据格式转换功能有限等,导致用户在导入数据时面临操作不便和数据处理效率低下的问题。如何在新的平台中实现更加灵活和高效的数据导入功能,成为用户亟待解决的问题。为此,ModelArts平台提供了增强的数据导入功能,支持多种基础数据类型的导入,允许用户在创建导入任务时编辑任务名称和描述,同时支持数据格式转换和数据集的直接发布,从而显著提升了数据处理的灵活性和效率,满足了用户在数据准备阶段的多样化需求。

前提条件

约束限制

  • 数据连接导入数据文件或压缩包不超过20GB,总文件大小也不超过20GB。
  • 通过OBS导入数据,在指定OBS路径时只支持指定到文件夹,不支持指定到文件。

计费说明

按照使用的计算资源和存储资源计费,具体可参考数据管理计费项。

创建数据连接

  1. 登录ModelArts管理控制台。
  2. 在控制台左侧导航栏选择“数据准备 > 数据连接”。
  3. 在“数据连接”页面右上方单击“创建数据连接”,在“创建数据连接”页面,配置相关信息。
    表1 创建数据连接参数说明

    参数

    说明

    示例值

    基本信息

    名称

    名称默认为data-connect-年月日时分秒,您也可以按需修改。

    支持大小写英文字母、数字、中划线、下划线及中文,长度限制为1~128位。

    data-connect-20260425083507

    描述

    自定义数据连接的描述。最大支持512个字符。

    -

    数据导入

    模态

    “模态”指数据的存在形式。支持文本、图片、视频、音频和其他类型的数据。选择模态后系统会展示该模态下可选的数据类型。

    关于各模态的格式要求,请参见数据集格式要求。

    文本

    类型

    选择数据集的具体类型,可选项随模态变化。

    • “模态”选择“文本”:支持基础文本、预训练文本、文本生成SFT和强化学习GRPO/DAPO类型。
      • 基础文本:以多格式原始文档为核心,支持文档内容提取与解析,经平台数据精炼转化为预训练数据集或评测集。
      • 预训练文本:以大规模原始文本语料为核心,支持直接用于模型预训练,或经平台数据精炼转化为高质量文本生成SFT数据集。
      • 文本生成SFT:以问答对为核心的标注文本数据集,包含指令与标准应答内容,适配大模型有监督指令微调,可满足对话生成、指令对齐、行业场景定制等模型训练需求。
      • 强化学习GRPO/DAPO:面向强化学习偏好训练与长思维链推理场景,适配GRPO、DAPO专用数据格式,可上传生成RL训练与评测数据集。
    • “模态”选择“图片”:支持基础图片。

      基础图片:原始图片素材数据集,支持各类实景、静物、场景图片,适用于多模态模型视觉预训练与视觉特征学习。

    • “模态”选择“视频”:支持基础视频。

      基础视频:原始视频素材数据集,涵盖各类实景、场景、动态影像资源,适用于多模态模型时序视觉预训练与特征学习。

    • “模态”选择“音频”:支持基础音频。

      基础音频:原始音频素材数据集,收录各类人声、环境音、语音片段等资源,适用于语音大模型预训练与声学特征学习。

    • “模态”选择“其他”:支持自定义。

      自定义:支持自主上传各类非标格式数据,不受固定数据类型限制,灵活适配多样化、个性化的模型训练与评测使用场景。

    基础文本

    文件格式

    按需选择文件格式。

    -

    来源

    不同类型支持的来源可能不同,请以控制台显示为准。

    对象存储服务OBS

    存储类型

    “来源”选择“对象存储服务OBS”或“本地上传”,支持选择“对象存储 OBS - 对象桶”或者“对象存储 OBS - 并行文件系统”。

    对象存储 OBS - 对象桶

    存储地址

    • “来源”选择“对象存储服务OBS”,指定待连接数据在OBS中的存储路径,用于创建数据集。
    • “来源”选择“本地上传”,指定本地数据上传至OBS后的存储路径,上传完成后该路径即成为待连接的数据集路径。

    您可以单击图标选择OBS存储地址或者手动输入地址。存储地址必须以“obs://”或者“/”开头,以“/”结尾,且除前缀外不得出现“//”,例如obs://bucketname/path/或者/bucketname/path/。

    最多支持20个文件上传,单文件大小不超过1GB,建议单次添加文件数量不超过10个。

    obs://bucketname/path/

    数据源

    仅“来源”选择AI Datalake,需配置此参数。按需选择已配置的AI Datalake数据源。关于如何创建数据源,请参见管理AI DataLake数据源。

    -

    数据集

    仅“来源”选择AI Datalake,需配置此参数。单击图标,选择目标数据集。

    -

    生成数据集

    数据集名称

    自定义数据集的名称。支持大小写英文字母、数字、中划线、下划线及中文,长度限制为1~128位。

    dataset

    数据集属性

    单击图标,可按需配置数据集的属性,例如行业、语言等。

    -

    描述

    自定义数据集的描述。可输入中文、大小写字母、数字,以及空格、中划线、下划线、逗号、句号、括号、冒号、顿号,不支持其他字符。最大长度不超过512个字符。

    -

    数据集状态

    上线后的数据集才可被下游模型训练等作业任务调用。

    • 打开“立即上线数据集”,生成数据集在“资产管理 > 数据 >我的数据”页面为“已上线”状态,可以被下游模型训练等作业直接使用。
    • 关闭“立即上线数据集”,生成数据集在“资产管理 > 数据 >我的数据”页面为“未上线”状态,不可被下游模型训练等作业直接使用,需要手动上线数据集后才能使用。

    打开“立即上线数据集”

  4. 参数配置完成后,单击页面右下角“立即创建”,在“数据连接”页面可以查看数据集的任务状态,如果状态为“运行成功”,则数据连接任务成功。
    图1 查看数据连接任务状态

  5. 数据集生成后,可在左侧导航栏,选择“资产管理 > 数据”,在“我的数据”页签查看生成数据集。更多信息,请参见我的数据。

后续操作

数据连接任务运行成功后,可用于智能精炼、模型训练等。

相关文档