数据集加工场景介绍

数据加工概念

数据加工是数据工程中的核心环节，旨在通过使用数据集加工算子对原始数据进行清洗、转换、提取和过滤等操作，以确保数据符合模型训练的标准和业务需求。

通过这一过程，用户能够优化数据质量，去除噪声和冗余信息，提升数据的准确性和一致性，为后续的模型训练提供更高质量、更有效的输入。数据加工不仅仅是对数据的简单处理，它还针对不同数据类型和业务场景进行有针对性的优化。

ModelArts Studio大模型开发平台提供了强大的数据加工功能，根据不同类型的数据集预置了多种加工算子，如数据提取、转换和过滤等。

数据加工意义

数据加工直接影响到模型训练的质量和效率。通过数据加工，可以确保训练数据具有较高的质量，减少由于数据问题导致的训练误差，从而提高模型的性能。

• 提升数据质量：数据加工能够去除噪声、修复缺失值和异常值，保证数据的准确性、完整性和一致性，为模型训练提供高质量的输入数据。
• 提高处理效率：平台预置的多种数据加工算子，帮助用户快速完成数据清洗、转换和处理，减少手动操作，提高数据处理的效率。
• 满足业务需求：不同类型的数据需要不同的处理方式，平台根据文本、图片、视频、气象等数据类型提供专门的加工工具，满足各种复杂的业务需求。
• 增强模型性能：通过合适的数据加工，可以提高数据的可用性，进而提升模型的训练效果，使其具备更高的精度和鲁棒性。

总体而言，数据加工不仅帮助用户提升数据处理效率，还通过优化数据质量，支持高效的模型训练，帮助用户快速构建高质量的数据集，推动大模型的成功开发。

支持数据加工的数据集类型

当前支持加工操作的数据集类型如下：

• 文本类数据集，加工算子清单详见文本类加工算子能力清单。
• 视频类数据集，加工算子清单详见视频类加工算子能力清单。
• 图片类数据集，加工算子清单详见表1、表2。
• 气象类数据集，加工算子清单详见表1。