组织 Organizations

将yaml文件中的per_device_train_batch_size调小，重新训练如未解决则执行下一步。 替换深度学习训练加速的工具或增加zero等级，可参考模型NPU卡数、梯度累积值取值表，如原使用Accelerator可替换为Deepspeed-ZeRO-1，Deepspeed-

查看更多 →

使用自动学习实现零代码AI开发 自动学习简介 使用自动学习实现图像分类 使用自动学习实现物体检测 使用自动学习实现预测分析 使用自动学习实现声音分类 使用自动学习实现文本分类 使用窍门

查看更多 →

模型NPU卡数、梯度累积值取值表 不同模型推荐的训练参数和计算规格要求如表1所示。规格与节点数中的1*节点 & 4*Ascend表示单机4卡，以此类推。 表1 NPU卡数、加速框架、梯度配置取值表 模型 模型参数量 训练类型 序列长度cutoff_len 梯度累积值 优化工具(Deepspeed)

查看更多 →

模型NPU卡数、梯度累积值取值表 不同模型推荐的训练参数和计算规格要求如表1所示。规格与节点数中的1*节点 & 4*Ascend表示单机4卡，以此类推。 表1 NPU卡数、加速框架、梯度配置取值表 模型 Template 模型参数量 训练策略类型 序列长度cutoff_len 梯度累积值 优化工具(Deepspeed)

查看更多 →

总后计算损失 分发损失，各GPU各自反向传播梯度 主GPU收集梯度并更新参数，将更新后的模型参数分发到各GPU 具体流程图如下： 图1 单机多卡数据并行训练 代码改造点 模型分发：DataParallel(model) 完整代码由于代码变动较少，此处进行简略介绍。 import torch

查看更多 →

NPU_Flash_Attn融合算子约束 query、key、value都需要梯度。默认开启重计算，则前向时qkv没有梯度，如果需要关闭重计算，可以在yaml配置 `disable_gradient_checkpointing: true` 关闭，但显存占用会直线上升。 attn_mask

查看更多 →

NPU_Flash_Attn融合算子约束 query、key、value都需要梯度。默认开启重计算，则前向时qkv没有梯度，如果需要关闭重计算，可以在yaml配置 `disable_gradient_checkpointing: true` 关闭，但显存占用会直线上升。 attn_mask

查看更多 →

NPU_Flash_Attn融合算子约束 query、key、value都需要梯度。默认开启重计算，则前向时qkv没有梯度，如果需要关闭重计算，可以在yaml配置 `disable_gradient_checkpointing: true` 关闭，但显存占用会直线上升。 attn

查看更多 →

建失败。 HPA策略：负责工作负载弹性伸缩，根据策略指标自动调整工作负载中Pod实例的数量。 涉及节点和工作负载的伸缩，需要同时配置CA策略和HPA策略。 可以实现分钟级弹性伸缩。 CCE Autopilot集群 只需要制定工作负载的弹性策略，即HPA策略。 涉及工作负载伸缩，需要配置HPA策略。

查看更多 →

实现投票 使用说明 在实现会签章节中，通过将结果触发方式选择为“等待所有投票完成触发投票结果”实现了会签功能，本节将介绍如何通过用户任务实现投票功能。 操作步骤 需要先将操作投票任务的用户加入到一个工作队列或公共组中。 参考如何进入经典开发环境中操作，进入经典版应用开发页面。 在

查看更多 →

NPU_Flash_Attn融合算子约束 query、key、value都需要梯度。默认开启重计算，则前向时qkv没有梯度，如果需要关闭重计算，可以在yaml配置 `disable_gradient_checkpointing: true` 关闭，但显存占用会直线上升。 attn_mask

查看更多 →

执行微调训练任务 Step1 上传训练权重文件和数据集 如果在准备代码和数据阶段已经上传权重文件、自定义数据集，可以忽略此步骤。 未上传训练权重文件，具体参考上传代码和权重文件到工作环境。 使用自定义数据集训练未上传自定义数据集。具体参考上传自定义数据到指定目录章节并更新dataset_info

查看更多 →

模型NPU卡数、梯度累积值取值表 不同模型推荐的训练参数和计算规格要求如表1所示。规格与节点数中的1*节点 & 4*Ascend表示单机4卡，以此类推。 表1 NPU卡数、加速框架、梯度配置取值表 模型 Template 模型参数量 训练策略类型 序列长度cutoff_len 梯度累积值 优化工具(Deepspeed)

查看更多 →

模型NPU卡数、梯度累积值取值表 不同模型推荐的训练参数和计算规格要求如表1所示。规格与节点数中的1*节点 & 4*Ascend表示单机4卡，以此类推。 表1 NPU卡数、加速框架、梯度配置取值表 模型 Template 模型参数量 训练策略类型 序列长度cutoff_len 梯度累积值 优化工具(Deepspeed)

查看更多 →

单击具体模板代码事件左侧的，可复制该模板代码。复制后，可在右侧代码编辑区域中进行粘贴。 单击具体模板代码事件右侧的，可打开该模板代码进行编辑，编辑后支持拷贝。关闭模板代码后，模板代码还是初始代码，不会将您在模板代码中编辑后的内容，保存到该事件的模板代码中。 AI代码补全功能 功能描述

查看更多 →

压模式”为“自动调压”且“梯度递增”打开时，需要配置以下参数： 说明： 一个用例只能设置一个“梯度递增”阶段。 起始并发数 梯度递增的起始并发用户数量。 递增总并发数 一共会增加的并发用户数。梯度递增中，第一个子阶段并发用户为起始并发用户数，其余每个子阶段的并发用户为上一阶段并发

查看更多 →

API实现 创建后端

查看更多 →

实现示例 调用时请按照实际的cc-gateway地址修改样例： https://ip:port/agentgateway 其中，ip为CC-Gateway 服务器 地址，port为CC-Gateway服务器的HTTPS端口号。 WORKNO为座席工号，PASSWORD为座席密码，PHONENUMBER为座席软电话号码。

查看更多 →

下一个任务。 通过并行审批，可以快速的实现会签功能。可以将结果触发方式选择为“等待所有投票完成触发投票结果”，在这种投票触发方式下，将需要所有被分配了当前任务的用户完成相应的任务后才能推动工作流流程，即实现了会签功能。 父主题： 深入了解用户任务

查看更多 →

实现过程 涉及接口 登录（login） 请求方法：PUT 请求的url：https://ip:port/agentgateway/resource/onlineagent/{agentid} 请参考签入 强制登录（forcelogin） 请求方法：PUT 请求的url：https

查看更多 →

转到实现 语言服务还支持通过按“Ctrl+Alt+B”跳转到符号的实现。对于接口，这显示了该接口的所有实现者，对于抽象方法，这显示了该方法的所有具体实现。 还可以通过Peek视图使用此功能，该视图显示在当前编辑器中，因此您不需要切换上下文。要在Peek视图中查看方法的实现，右键单

查看更多 →