托管数据集到智能体资产平台
智能体资产平台上每个资产的文件都会存储在线上的智能体资产平台存储库(简称智能体资产平台仓库)里面。每一个数据集实例视作一个资产仓库,数据集实例与资产仓库之间是一一对应的关系。例如,数据集名称为“Test”,则智能体资产平台仓库有个名为“Test”的仓库,其中只存放Test数据集实例的全部文件。
功能说明
- 支持本地文件托管至智能体资产平台仓库且支持多个文件同时上传。
- 支持管理托管的资产文件,例如在线预览、下载、删除文件。
- 支持编辑资产介绍。每个资产介绍可分为基础设置和使用描述。
- 基础设置部分包含了该资产所有重要的结构化元数据信息。选择填入的信息将会变成该数据集资产的标签,并且自动同步在数据集描述部分,保存到“README.md”文件里。
- 数据集描述部分是一个可在线编辑、预览的Markdown文件,里面包含该数据集的简介、能力描述等信息。编辑内容会自动保存在“README.md”文件里。
更新后的“README.md”文件自动存放在数据集详情页的“文件版本”页签或者是数据集详情页的“数据集文件”页签。
创建数据集资产
- 登录智能体资产平台,单击右上角“我的工作台”进入我的工作台页面。
- 单击右上方“创建资产”,选择“数据集”后进行参数配置。
表1 创建数据集 参数名称
说明
英文名称
必填项,数据集的英文名称。
如果没有填写“中文名称”,则资产发布后,在数据集页签上会显示该“英文名称”。
中文名称
数据集的中文名称。
如果填写了“中文名称”,则资产发布后,在数据集页签上会显示该“中文名称”。
许可证
数据集资产遵循的使用协议,根据业务需求选择合适的许可证类型。
描述
填写资产简介,数据集发布后将作为副标题显示在数据集页签上,方便用户快速了解资产。
支持0~90个字符,请勿在描述中输入涉政、迷信、违禁等相关敏感词,否则发布审核无法通过。
创建完成后,跳转至数据集详情页。
上传数据集文件
- 在数据集详情页,选择“数据集文件”页签。
- 单击“添加文件”,进入上传文件页面,提供“对象存储服务OBS添加”和“从本地上传”两种上传文件方式。
- 选择“对象存储服务OBS添加”方式,输入目的端访问秘钥(Access key)和目的端私有访问秘钥(Secret Access key),选定OBS存储区域节点后再选择文件所在的桶和文件夹,点击“创建”完成文件上传。
- 选择“从本地上传”方式,单击“点击上传”或拖动文件将本地文件上传,单击“确认上传”启动上传。
- 文件合集大小不超过50GB。
- 文件上传完成前,请不要刷新或关闭上传页面,防止意外终止上传任务,导致数据缺失。
数据集资产上传规范- README.md
- 通过社区表单或描述文件填写。建议采用 README.md,可由平台自动生成,参照 Hugging Face 的 Dataset Card。
强制类:缺失时补充后再上架。
内容
填写要求
数据集基本信息
名称、简介、发布者、版本或更新日期、数据类型、规模及统计单位;包含语言内容时标明语言
数据集用途
说明适用任务,如预训练、指令微调、检索、分类、语音识别或评测
数据文件结构说明
说明目录及文件用途、格式、主要字段和标签含义;有子集、训练/测试切分或媒体标注时说明对应关系
License 许可
写明许可名称、适用版本、条款文件或官方链接、覆盖的数据范围及使用条件;按第三部分确定收录方式
仅发布跳转链接的条目,可填写原站文件结构说明或对应说明页链接。
建议类:鼓励补充,缺失不影响基础上架。
内容
建议填写
数据来源
原创、采集、整理或合成;来源地址、上游版本及采集时间
数据处理流程
清洗、去重、脱敏、标注、切分方法;合成数据可补充生成模型和方法
数据使用样例
代表性样本、读取方式或代码、所需工具和依赖
质量与局限
已有质量检查、已知错误、覆盖不足及适用边界;可补充论文、引用和更新记录
- 通过社区表单或描述文件填写。建议采用 README.md,可由平台自动生成,参照 Hugging Face 的 Dataset Card。
- 数据文件
- 以下参考 HF 官方文档支持的组织方式,供发布者选择,不作为上架硬性门槛。表中的目录和文件名是示例;其他结构在第一部分说明清楚即可。
数据类型
建议文件类型
建议组织方式及参考
文本、问答、对话、代码记录
Parquet、JSONL;原始纯文本可用 TXT
按子集或用途存放,如 data/train-00000.parquet;有嵌套结构时优先 Parquet/JSONL。HF 格式建议
表格
Parquet、CSV、TSV
每个子集或切分单独存放;大表拆成多个分片。HF 数据组织
图像、图文
JPG、PNG、WebP 等;标注可用 CSV、JSONL、Parquet
分类数据可采用 train/类别/图片.jpg;图文或检测数据可采用图片文件夹+metadata 文件。HF 图像数据集
音频、语音
WAV、FLAC、MP3 等;标注可用 CSV、JSONL、Parquet
音频文件夹+metadata 文件,关联转写、类别等信息。HF 音频数据集
视频
MP4、MOV、AVI 等;标注可用 CSV、JSONL、Parquet
视频文件夹+metadata 文件,关联描述、标签等信息。HF 视频数据集
大规模多模态
WebDataset(TAR 分片)
如 train-00000.tar;每个分片内,同一样本使用相同文件名前缀,如 0001.jpg 和 0001.json。HF WebDataset
- 以下参考 HF 官方文档支持的组织方式,供发布者选择,不作为上架硬性门槛。表中的目录和文件名是示例;其他结构在第一部分说明清楚即可。
- 当文件状态变成“上传成功”表示数据文件成功上传至智能体资产平台仓库进行托管。单击“完成”返回数据集文件页面。 图1 上传成功
文件上传过程中请耐心等待,不要关闭当前上传页面,关闭页面会中断上传进程。