更新时间:2026-08-13 GMT+08:00
分享

预训练文本

以大规模原始文本语料为核心,支持直接用于大模型的无监督预训练,或通过平台进行数据精炼加工,转化为高质量的文本生成SFT数据集。

约束限制

  • 从OBS导入:单个文件/压缩包大小不超过20GB;多个文件场景,文件数量不限制,总文件大小不超过20GB。
  • 本地导入:单个文件大小不超过1GB,文件数量最多20个。
  • 文件编码:所有jsonl格式文件必须采用UTF-8编码。

格式说明

文件格式:jsonl

格式说明:jsonl是一种结构化的轻量级文本文件格式。其核心规则为文件中的每一行都必须是一个独立、合法且完整的JSON对象。每行的JSON对象中必须包含text字段,用于承载具体的预训练文本语料。其余自定义或拓展字段不作严格限制。

示例如下

{"text": "《白鹿原》,是中国著名作家陈忠实所写的一部长篇小说。《白鹿原》讲述了一个陕西农村家族几代人的兴衰历程。小说通过白、鹿两大家族的恩怨情仇,展现了中国社会从清末到新中国成立的历史变迁。"}
{"text": "《平凡的世界》,是中国著名作家路遥所写的一部长篇小说。《平凡的世界》讲述了一个普通农民孙少安和他的弟弟孙少平的生活故事。他们面对生活的艰辛,始终不屈不挠,努力追求自己的梦想。"}
{"text": "《红高粱家族》,是中国著名作家莫言所写的一部长篇小说。《红高粱家族》讲述了一个山东高密东北乡的家族故事。小说通过家族成员的爱恨情仇,展现了中国农村在20世纪初的动荡岁月。"}
{"text": "《边城》,是中国著名作家沈从文所写的一部中篇小说。《边城》讲述了一个湘西小镇上的人们的生活。小说通过翠翠和傩送的爱情故事,展现了人与自然的和谐以及人性的纯真美好。"}
{"text": "《围城》,是中国著名作家钱钟书所写的一部长篇小说。《围城》讲述了一个知识分子方鸿渐的婚姻和事业经历。小说通过对方鸿渐及其周围人物的描写,揭示了当时社会的种种矛盾和人性的复杂。"}

相关文档