SFT微调数据处理 SFT微调（Supervised Fine-Tuning）前需要对数据集进行预处理，转化为.bin和.idx格式文件，以满足训练要求。 这里以Qwen-14B为例，对于Qwen-7B和Qwen-72B，操作过程与Qwen-14B相同，只需修改对应参数即可。 下载数据

查看更多 →

--tokenizer-not-use-fast #3.执行完成后在 datasets文件夹中可以得到 data_text_document.idx 与data_text_document.bin 两个文件 父主题： 预训练

查看更多 →

创建数据处理任务 您可以创建一个数据处理任务，对已有的数据进行数据校验、数据清洗、数据选择或者数据增强操作。 前提条件 数据已准备完成：已经创建数据集或者已经将数据上传至OBS。 确保您使用的OBS与ModelArts在同一区域。 创建数据处理任务 登录ModelArts管理控制

查看更多 →

发页面使用预处理方法及参数，便于后期线下处理数据。 评估/预测数据预处理 参考创建数据预处理作业，在“数据管理>数据预处理”界面创建用于处理评估/预测数据的数据预处理作业。注意，作业中所选的数据集应为评估/预测数据集，且字段定义、尤其是分布类型的定义与之前的训练数据集相同。 单击

查看更多 →

使用函数处理IOT数据 案例概述 准备 构建函数程序

查看更多 →

预训练数据处理 训练前需要对数据集进行预处理，转化为.bin和.idx格式文件，以满足训练要求。 这里以Llama2-70B为例，对于Llama2-7B和Llama2-13B，操作过程与Llama2-70B相同，只需修改对应参数即可。 Alpaca数据处理说明 数据预处理脚本preprocess_data

查看更多 →

预训练数据处理 训练前需要对数据集进行预处理，转化为.bin和.idx格式文件，以满足训练要求。 这里以Qwen-14B为例，对于Qwen-7B和Qwen-72B，操作过程与Qwen-14B相同，只需修改对应参数即可。 Alpaca数据处理说明 数据预处理脚本preprocess_data

查看更多 →

数据控制与数据审计 数据保护策略 项目内的数据支持精细化的权限控制，可对数据分享、下载、删除进行设置。您可以在项目的“设置”页面设置数据权限。数据权限仅可以有项目所有者设置。 分享：关闭分享后，项目内数据不允许分享给其他项目，包括拷贝、引用两种方式。 下载：关闭下载后，项目内数据不允许下载至本地。

查看更多 →

使用函数处理DIS数据 案例概述 准备 构建程序 添加事件源 处理数据

查看更多 →

列数，全部数据成为脏数据。 配置转换字段类型，与原始数据实际类型不同，全部数据成为脏数据。例如将字符串类型转换为数值类型。 HBase输入 原始数据包含NULL值，不做转换处理。 配置HBase表名错误，全部数据成为脏数据。 “主键”没有配置主键列，全部数据成为脏数据。 配置输入

查看更多 →

数据处理(OT应用) IoT边缘云服务为应用提供总线对接能力、设备命令下发能力。IoTEdge对应用的日志、数据存储目录进行统一配置，应用相关设置通过环境变量传递给应用。 App从输入点接受来自总线的设备数据上报，对数据进行处理，将处理后的数据通过输出点发送到总线。 App也可以

查看更多 →

--tokenizer-type PretrainedFromHF #3.执行完成后在 datasets文件夹中可以得到 data_text_document.idx 与data_text_document.bin 两个文件 父主题： 预训练

查看更多 →

为增强可靠性，每个节点都有一个副本，副本会占用一半的存储空间，选择容量时副本容量会自动翻倍存储。 数据仓库系统会备份数据，生成索引、临时缓存文件、运行日志等内容，并占用存储容量。每个节点实际存储的数据，大致为总存储容量的一半。 父主题： 数据导入导出

查看更多 →

安装时空数据专属存储 获取时空数据专属存储安装包，请根据如下方式安装时空数据专属存储客户端。 单击时空数据专属存储工具的下载链接下载该工具。 解压下载的安装包。 运行GeoDataStorage-Plus_x64.exe或GeoDataStorage-Plus_ia32.exe完成时空数据专属存储安装。

查看更多 →

对接Redis实现数据存储 通过应用与Redis对接，实现数据存储功能。 前提条件 已获取Redis提供服务的URL地址和登录密码。 新建Redis连接器 参考创建连接器入口中操作，进入创建连接器页面。 在左侧列表中，选择“数据库 > Redis”，单击“+”。 图1 新建Redis

查看更多 →

在OBS桶中仅开启归档数据直读功能，仅支持直接下载归档存储数据，并未修改相应存储类型，因此 OMS 无法正常直接下载对象。 归档存储开启直读，和使用OMS自动恢复归档存储，源端对象存储服务都会收取相应费用，详见产品价格详情。 迁移归档数据时，目的端桶类型建议选择为“标准存储”，待迁移完成确

查看更多 →

OBS的数据存储在哪里？ 在OBS上创建桶时，您可以指定一个区域。在该区域内，您的数据存储在多台设备上。 父主题： 产品咨询

查看更多 →

Hive数据存储及加密配置 使用HDFS Colocation存储Hive表 配置Hive分区元数据冷热存储 Hive支持ZSTD压缩格式 配置Hive列加密功能 父主题： 使用Hive

查看更多 →

始数据同步保存至OBS，以保存更长时间。 操作步骤 登录管理控制台。 在管理控制台左上角单击，选择区域和项目。 在页面左上角单击图标，打开服务列表，选择“管理与监管 > 云监控服务 ”。 单击页面左侧的“云服务监控”，选择“企业交换机”。 在企业交换机列表中，单击目标企业交换机所在行的操作下的“配置数据存储”。

查看更多 →

视频存储桶与媒体处理服务不在一个区域怎么办？ 若视频存储的OBS桶所在区域与媒体处理服务所在区域不一致，可以通过如下方式处理。 切换媒体处理服务的区域为OBS桶所在区域后，再进行视频转码。媒体处理服务支持的区域有限，若OBS桶所在区域未部署媒体处理服务，请参考2进行处理。 使用O

查看更多 →

输入租户华为云账号、IAM用户名和密码。 单击“登录”，进入时空数据专属存储。 AK方式登录 打开时空数据专属存储客户端，进入登录界面。 输入账号名、Access Key ID、Secret Access Key。 账号名仅用于区分您在本地登录时空数据专属存储的不同账号，与云服务账号无关，无需保持一致。 AK：Access

查看更多 →