支持在分布式的、信任边界缺失的多个参与方之间建立互信空间； 实现跨组织、跨行业的多方数据融合分析和多方联合学习建模。 灵活多态 支持对接主流数据源（如 MRS 、 DLI 、 RDS、 Oracle等）的联合数据分析； 支持对接多种深度学习框架( TICS ，TensorFlow)的联邦计算；

查看更多 →

Parallelism）是大规模深度学习训练中常用的并行模式，它会在每个进程(设备)或模型并行组中维护完整的模型和参数，但在每个进程上或模型并行组中处理不同的数据。因此，数据并行非常适合大数据量的训练任务。 TP：张量并行也叫层内并行，通过将网络中的权重切分到不同的设备，从而降低单个设备的显存消耗，使

查看更多 →

问题1：在训练过程中遇到NPU out of memory 解决方法： 将yaml文件中的per_device_train_batch_size调小，重新训练如未解决则执行下一步。 替换深度学习训练加速的工具或增加zero等级，可参考各个模型深度学习训练加速框架的选择，如原使用Ac

查看更多 →

Online常见应用场景的操作实践，为每个实践提供详细的方案描述和操作指导。 表1 CodeArts IDE Online最佳实践一览表 最佳实践 说明 2-基于CodeArts IDE Online快速开发、部署微服务 本实践主要讲述在CodeArts IDE Online中如何快速将开发

查看更多 →

如果“转移类型”设置为“转技能队列留言（指定名称或接入码）”，则设置为需要转移到的座席所属技能队列的名称或者接入码。 如果“转移类型”设置为“转座席留言”，则设置为需要转移到的座席对应的平台工号或对应的变量。 路由策略，当“转移类型”选择“转技能队列（自定义路由）”时，需要选择路由策略，路由策略包含百分比和号段两种方式。

查看更多 →

如果“转移类型”设置为“转技能队列留言（指定名称或接入码）”，则设置为需要转移到的座席所属技能队列的名称或者接入码。 如果“转移类型”设置为“转座席留言”，则设置为需要转移到的座席对应的平台工号或对应的变量。 路由策略，当“转移类型”选择“转技能队列（自定义路由）”时，需要选择路由策略，路由策略包含百分比和号段两种方式。

查看更多 →

工具链的使用指导，支持客户使用昇腾官方提供的各类高阶组件进行模型迁移分析、模型算子精度采集与模型性能采集，支持客户调用工具实现精度、性能数据的可视化，处理客户在工具链使用过程中遇到的技术问题。 昇腾迁移&优化服务： 昇腾适配模型运行支持：基于昇腾已在ModelZoo上发布的模型，

查看更多 →

集是模型微调的基础，通过在微调数据集上进行训练从而获得改进后的新模型。 创建模型微调任务 模型微调是指调整大型语言模型的参数以适应特定任务的过程，适用于需要个性化定制模型或者在特定任务上追求更高性能表现的场景。这是通过在与任务相关的微调数据集上训练模型来实现的，所需的微调量取决于

查看更多 →

自动学习 准备数据 模型训练 部署上线 模型发布

查看更多 →

，调整模型的softmax输出层中预测词的概率。其值越大，则预测词的概率的方差减小，即很多词被选择的可能性增大，利于文本多样化。 多样性与一致性 多样性和一致性是评估LLM生成语言的两个重要方面。 多样性指模型生成的不同输出之间的差异。一致性指相同输入对应的不同输出之间的一致性。

查看更多 →

batch模式计算速度快于full模式。 隐向量长度 分解后的表示特征的向量的长度。默认10。 神经网络结构 神经网络的层数与每一层的神经元节点个数。默认400,400,400。 激活函数 神经网络中的激活函数，将一个（或一组）神经元的值映射为一个输出值。 relu tanh sigmoid

查看更多 →

提供更好的稳定性和可靠性，在大模型训练和推理以及权重存储方面更受欢迎。 FP16：用于深度学习训练和推理过程中，可以加速计算并减少内存的占用，对模型准确性的影响在大多数情况下较小。与BF16相比在处理非常大或非常小的数值时遇到困难，导致数值的精度损失。 综上所述，BF16因其与F

查看更多 →

Turbo缓存中，并可被下游业务环节继续读取并处理，结果数据可以异步方式导出到关联的OBS对象存储中进行长期低成本存储，从而加速训练场景下加速OBS对象存储中的数据访问 ModelArts Standard模型训练提供便捷的作业管理能力，提升用户模型训练的开发效率 提供算法资产的管理能力，支持通过算法资产、自定义算法、AI

查看更多 →

业，根据合作方已提供的数据，编写相关sql作业并获取您所需要的分析结果，同时能够在作业运行保护数据使用方的数据查询和搜索条件，避免因查询和搜索请求造成的数据泄露。 可信联邦学习 可信联邦学习是 可信智能计算服务 提供的在保障用户数据安全的前提下，利用多方数据实现的联合建模，曾经被称为联邦机器学习。

查看更多 →

开发环境 在ModelArts的Notebook中使用不同的资源规格训练时为什么训练速度差不多？ ModelArts的Notebook实例upload后，数据会上传到哪里？ 开发环境中不同Notebook规格资源“/cache”目录的大小 在Notebook中，如何使用昇腾多卡进行调试？

查看更多 →

创建模型微调任务 模型微调是指调整大型语言模型的参数以适应特定任务的过程，适用于需要个性化定制模型或者在特定任务上追求更高性能表现的场景。这是通过在与任务相关的微调数据集上训练模型来实现的，所需的微调量取决于任务的复杂性和数据集的大小。在深度学习中，微调用于改进预训练模型的性能。

查看更多 →

在MaaS中创建模型 在ModelArts Studio大模型即服务平台使用基础模型创建个人专属模型。 场景描述 MaaS提供了基于昇腾云算力适配的开源大模型，您可以使用这些基础模型，结合推荐的模型权重文件或自定义的模型权重文件，创建个人专属的模型。 创建成功的模型可以在ModelArts

查看更多 →

高空变量 设置训练数据的高空变量信息，在“预训练”的场景中也支持您添加或去除新的高空变量，选择后会在变量权重中增加或去除该变量权重，训练任务会根据您配置的高空变量对模型重新进行训练。 表面变量 设置训练数据的表面变量信息，同时在“预训练”的场景中也支持您添加或去除新的表面变量，选择后会

查看更多 →

够有效地训练模型，并减少对模型性能的不利影响。 模型开发：模型开发是大模型项目中的核心阶段，通常包括以下步骤： 选择合适的模型：根据任务目标选择适当的模型。 模型训练：使用处理后的数据集训练模型。 超参数调优：选择合适的学习率、批次大小等超参数，确保模型在训练过程中能够快速收敛并取得良好的性能。

查看更多 →

提供更好的稳定性和可靠性，在大模型训练和推理以及权重存储方面更受欢迎。 FP16：用于深度学习训练和推理过程中，可以加速计算并减少内存的占用，对模型准确性的影响在大多数情况下较小。与BF16相比在处理非常大或非常小的数值时遇到困难，导致数值的精度损失。 综上所述，BF16因其与F

查看更多 →

提供更好的稳定性和可靠性，在大模型训练和推理以及权重存储方面更受欢迎。 FP16：用于深度学习训练和推理过程中，可以加速计算并减少内存的占用，对模型准确性的影响在大多数情况下较小。与BF16相比在处理非常大或非常小的数值时遇到困难，导致数值的精度损失。 综上所述，BF16因其与F

查看更多 →