更新时间:2026-08-13 GMT+08:00
预训练文本
以大规模原始文本语料为核心,支持直接用于大模型的无监督预训练,或通过平台进行数据精炼加工,转化为高质量的文本生成SFT数据集。
约束限制
- 从OBS导入:单个文件/压缩包大小不超过20GB;多个文件场景,文件数量不限制,总文件大小不超过20GB。
- 本地导入:单个文件大小不超过1GB,文件数量最多20个。
- 文件编码:所有jsonl格式文件必须采用UTF-8编码。
格式说明
文件格式:jsonl
格式说明:jsonl是一种结构化的轻量级文本文件格式。其核心规则为文件中的每一行都必须是一个独立、合法且完整的JSON对象。每行的JSON对象中必须包含text字段,用于承载具体的预训练文本语料。其余自定义或拓展字段不作严格限制。
示例如下:
{"text": "《白鹿原》,是中国著名作家陈忠实所写的一部长篇小说。《白鹿原》讲述了一个陕西农村家族几代人的兴衰历程。小说通过白、鹿两大家族的恩怨情仇,展现了中国社会从清末到新中国成立的历史变迁。"}
{"text": "《平凡的世界》,是中国著名作家路遥所写的一部长篇小说。《平凡的世界》讲述了一个普通农民孙少安和他的弟弟孙少平的生活故事。他们面对生活的艰辛,始终不屈不挠,努力追求自己的梦想。"}
{"text": "《红高粱家族》,是中国著名作家莫言所写的一部长篇小说。《红高粱家族》讲述了一个山东高密东北乡的家族故事。小说通过家族成员的爱恨情仇,展现了中国农村在20世纪初的动荡岁月。"}
{"text": "《边城》,是中国著名作家沈从文所写的一部中篇小说。《边城》讲述了一个湘西小镇上的人们的生活。小说通过翠翠和傩送的爱情故事,展现了人与自然的和谐以及人性的纯真美好。"}
{"text": "《围城》,是中国著名作家钱钟书所写的一部长篇小说。《围城》讲述了一个知识分子方鸿渐的婚姻和事业经历。小说通过对方鸿渐及其周围人物的描写,揭示了当时社会的种种矛盾和人性的复杂。"} 父主题: 文本类数据集格式要求