预训练 预训练数据处理 预训练任务 断点续训练 查看日志和性能 父主题： Qwen系列（PyTorch）基于DevServer训练指导

查看更多 →

预训练 预训练数据处理 预训练任务 断点续训练 查看日志和性能 父主题： LLama2系列（PyTorch）基于DevServer训练指导

查看更多 →

预训练 预训练数据处理 预训练超参配置 预训练任务 查看日志和性能 父主题： LLama2-13B（PyTorch）基于Standard训练推理指导

查看更多 →

预训练 预训练数据处理 预训练超参配置 预训练任务 断点续训练 查看日志和性能 父主题： Baichuan2-13B（PyTorch）基于DevServer训练指导

查看更多 →

预训练 预训练数据处理 预训练任务 断点续训练 查看日志和性能 父主题： GLM3-6B（PyTorch）基于DevServer训练指导

查看更多 →

word2vec_path 是 word2vec模型存放在OBS上的完整路径。 示例 图片分类预测我们采用Mnist数据集作为流的输入，通过加载预训练的deeplearning4j模型或者keras模型，可以实时预测每张图片代表的数字。 1 2 3 4 5 6 CREATE SOURCE

查看更多 →

word2vec_path 是 word2vec模型存放在OBS上的完整路径。 示例 图片分类预测我们采用Mnist数据集作为流的输入，通过加载预训练的deeplearning4j模型或者keras模型，可以实时预测每张图片代表的数字。 1 2 3 4 5 6 CREATE SOURCE

查看更多 →

无监督车牌检测工作流 工作流介绍 准备数据 选择数据 训练模型 评估模型 部署服务 父主题： 视觉套件

查看更多 →

增量预训练 数据处理 增量预训练权重转换 增量预训练超参配置 增量预训练任务 父主题： 微调训练

查看更多 →

数据标注对于KPI异常检测非常重要，可以有效提升监督学习训练过程中KPI异常检测的准确率，在无监督学习中对模型做验证评估。 监督学习：使用标注工具对原始数据进行标注，并将标注数据用于训练。用户基于训练结果确认并更新数据标注，将标注数据重新用于训练，提升KPI检测准确率。 无监督学习：使用标注工具对原始数据

查看更多 →

训练模型 针对已标注完成的训练数据，开始训练模型，您可以查看训练的模型准确率和误差变化。 前提条件 已在视觉套件控制台选择“无监督车牌检测工作流”新建应用，并已执行完“数据选择”步骤，详情请见选择数据。 训练模型 图1 训练模型 在“模型训练”页面，选择“训练模型”和“车辆场景”。

查看更多 →

预训练任务 配置预训练脚本glm3_base.sh中的超参，并执行预训练任务。 Step1 配置预训练超参 预训练脚本glm3_base.sh，存放在“xxx-Ascend/llm_train/AscendSpeed/scripts/glm3”目录下。训练前，可以根据实际需要修改

查看更多 →

预训练任务 启动训练脚本 单机启动 以baichuan2-13b为例，单机训练启动样例命令如下，以自己实际为准。在/home/ma-user/ws/6.3.904-Ascend/llm_train/AscendSpeed/代码目录下执行。超参详解参考表1。 MODEL_TYPE=13B

查看更多 →

多超参数，提升无代码模型开发效率。 图13 网络结构及模型参数配置 图14 网络结构及模型参数配置2 模型训练 模型训练多维度可视化监控，包括训练精度/损失函数曲线、GPU使用率、训练进度、训练实时结果、训练日志等。 图15 训练指标和中间结果可视化 图16 训练过程资源监控 支

查看更多 →

模型、无监督学习模型、有监督学习模型实现对风险口令、凭证泄露、Token利用、异常委托、异地登录、未知威胁、暴力破解七大IAM高危场景进行智能检测。通过SVM、随机森林、神经网络等算法实现对隧道域名、DGA域名以及异常行为的智能检测。 AI引擎检测保持模型对真实数据的学习，保证数

查看更多 →

预训练任务 配置预训练脚本llama2.sh中的超参，并执行预训练任务。 这里以Llama2-70B 8机64卡训练为例，对于Llama2-7B和Llama2-13B，操作过程与Llama2-70B相同，只需修改对应参数即可。 Step1 配置预训练超参 预训练脚本llama2.

查看更多 →

预训练任务 配置预训练脚本qwen.sh中的超参，并执行预训练任务。 这里以Qwen-14B为例，对于Qwen-7B和Qwen-72B，操作过程与Qwen-14B相同，只需修改对应参数即可。 预训练超参配置 预训练脚本qwen.sh，存放在“xxx-Ascend/llm_trai

查看更多 →

预训练任务 修改预训练脚本pretrain_llama2_13b.sh，并执行预训练任务。 Step1 修改预训练脚本 在VS Code中修改“\6.3.902-Ascend\llm_train\AscendSpeed\scripts\llama2\pretrain-llama2-13b

查看更多 →

默认为1，表示单机模式。目前仅支持此参数值。 表2 预标注 参数 说明 智能标注类型 “预标注”。“预标注”表示选择用户模型管理里面的模型，选择模型时需要注意模型类型和数据集的标注类型相匹配。预标注结束后，如果标注结果符合平台定义的标准标注格式，系统将进行难例筛选，该步骤不影响预标注结果。 选择模型及版本

查看更多 →

“快速型”：仅使用已标注的样本进行训练。 “精准型”：会额外使用未标注的样本做半监督训练，使得模型精度更高。 表2 预标注 参数 说明 智能标注类型 “预标注”。“预标注”表示选择用户AI应用管理里面的AI应用,选择模型时需要注意模型类型和数据集的标注类型相匹配。预标注结束后，如果标注结果

查看更多 →

预训练数据处理 训练前需要对数据集进行预处理，转化为.bin和.idx格式文件，以满足训练要求。 Alpaca数据处理 数据预处理脚本preprocess_data.py存放在代码包的“llm_train/AscendSpeed/ModelLink/tools”目录中，脚本样例命

查看更多 →