模型调优实践 盘古NLP大模型调优实践 盘古科学计算大模型调优实践

查看更多 →

模型精度调优 场景介绍 精度问题诊断 精度问题处理 父主题： 基于AIGC模型的GPU推理业务迁移至昇腾指导

查看更多 →

模型调优方法介绍 在实际应用中，首次微调所得的模型往往无法取得最佳效果，为了让模型能更好地解决特定场景任务，通常需要根据微调所得模型的效果情况来进行几轮的模型微调优化迭代。 在大模型的微调效果调优过程中，训练数据优化、训练超参数优化、提示词优化以及推理参数优化是最重要的几个步骤。

查看更多 →

各个模型深度学习训练加速框架的选择 LlamaFactory框架使用两种训练框架： DeepSpeed和Accelerate都是针对深度学习训练加速的工具，但是它们的实现方式和应用场景有所不同。 DeepSpeed是一种深度学习加速框架，主要针对大规模模型和大规模数据集的训练。D

查看更多 →

细阅读预计调优运行时间和预计消耗费用信息，然后单击“确定”，创建调优作业。该预估费用不包含OBS存储费用。预估费用基于目录价和预估时长计算，估算存在波动性，最终以实际发生为准。 在“模型调优”列表中，当模型调优作业的“状态”变成“已完成”时，表示模型调优完成。 模型调优时长估算

查看更多 →

模型调优方法介绍 调优目标：提升模型精度和性能。 调优思路：模型调优总体可分为两方面，数据预处理和模型训练参数优化，优化思路是从最简单的情形出发，逐步迭代调整提升模型效果，通过实验发现和确认合适的数据量，以及最佳的模型结构和模型参数。 父主题： 盘古科学计算大模型调优实践

查看更多 →

提供“自动学习白盒化”能力，开放模型参数、自动生成模型，实现模板化开发，提高开发效率 采用自动深度学习技术，通过迁移学习（只通过少量数据生成高质量的模型），多维度下的模型架构自动设计（神经网络搜索和自适应模型调优），和更快、更准的训练参数自动调优自动训练 采用自动机器学习技术，基于

查看更多 →

调优前：学习表结构设计 在本实践中，您将学习如何优化表的设计。您首先不指定存储方式，分布键、分布方式和压缩方式创建表，然后为这些表加载测试数据并测试系统性能。接下来，您将应用调优表实践以使用新的存储方式、分布键、分布方式和压缩方式重新创建这些表，并再次为这些表加载测试数据和测试系

查看更多 →

盘古NLP大模型调优实践 模型调优方法介绍 优化训练数据的质量 优化训练超参数 优化提示词 优化推理超参数 调优典型问题 父主题： 模型调优实践

查看更多 →

单模型性能调优AOE 使用AOE工具可以在模型转换阶段对于模型运行和后端编译过程进行执行调优。请注意AOE只适合静态shape的模型调优。在AOE调优时，容易受当前缓存的一些影响，建议分两次进行操作，以达到较好的优化效果（第一次执行生成AOE的知识库，在第二次使用时可以复用）。在

查看更多 →

基于CodeArts IDE Online、TensorFlow和Jupyter Notebook开发深度学习模型 概要 准备工作 导入和预处理训练数据集 创建和训练模型 使用模型

查看更多 →

。 调优经验不足：昇腾迁移调优经验少，CANN层问题不会处理，不了解昇腾的调度逻辑。缺乏大模型调优经验，针对模型性能与精度优化没有有效的方法，没有类似算子优化层面的高阶调优能力。 AI使用门槛高：AI训练/推理算力+基础大模型+适配服务+应用改造端到端成本高，特别是本地化部署推理算力场景，迫切需要高性价比方案。

查看更多 →

盘古科学计算大模型调优实践 模型调优方法介绍 数据预处理优化 训练参数优化 评估模型效果 调优典型问题 父主题： 模型调优实践

查看更多 →

使用AI原生应用引擎完成模型调优 模型调优是一种通过对模型进行微调来适应特定任务或数据集的技术，适用于需要个性化定制或在特定任务上追求更高性能表现的场景。在模型调优过程中，用户需要构建一个符合业务场景任务的训练集，这个训练集通常由业务数据和业务逻辑构成。然后，用户需要调整模型的参数，以便模型可以更

查看更多 →

学习率过低，会导致损失下降非常缓慢，训练过程耗时较长，模型可能陷入局部最优等问题。 科学计算大模型的学习率调优策略如下： 学习率太小时，损失曲线几乎是一条水平线，下降非常缓慢，此时可以增大学习率，使用学习率预热（Warm-up）的方法，在训练初期逐步增加学习率，避免初始阶段学习率过小。 学习率太大时，损失曲线剧烈

查看更多 →

需要较强的技术能力进行搭建、配置、运维。 高可用 具有跨AZ容灾能力。 无 高易用 学习成本 学习成本低，包含10年、上千个项目经验固化的调优参数。同时提供可视化智能调优界面。 学习成本高，需要了解上百个调优参数。 支持数据源 云上：OBS、RDS、DWS、 CSS 、MongoDB、Redis。

查看更多 →

通过调整模型参数对异常告警调优 由于超参设置或是数据特征发生变化，导致预测的数据不够准确，出现误告警，可以通过调整模型参数，对生成的异常告警进行调优。本章节介绍不同类型异常告警及调优方法。 调优配置方法 在“异常检测”页面，单击异常检测任务所在行“操作”列的“模型”，默认显示“算法配置”页签，参考表1配置参数。

查看更多 →

tuning”：算子调优。 “subgraph tuning, operator tuning”：先进行子图调优，再进行算子调优。 推荐先进行子图调优，再进行算子调优，因为先进行子图调优会生成图的切分方式，子图调优后算子已经被切分成最终的shape了，再进行算子调优时，会基于这个最终

查看更多 →

用和训练数据相同或相似的Prompt，才能发挥出模型的最佳效果。 模型规格：理论上模型的参数规模越大，模型能学到的知识就越多，能学会的知识就更难，若目标任务本身难度较大，建议您替换参数规模更大的模型。 父主题： 盘古NLP大模型调优实践

查看更多 →

200,000.00 每套 自动驾驶提升与优化服务 自动驾驶技术支持与优化服务包 针对自动驾驶业务场景，提供自动驾驶工具支持、算子优化、模型调优、算法调优等服务，每套折合10人天投入工作量； 188,160.00 每套 计费模式 本服务为一次性计费方式。 变更配置 本服务如已启动交付

查看更多 →

性能调优 Profiling数据采集 使用Advisor工具分析生成调优建议 调优前后性能对比 父主题： Dit模型PyTorch迁移与精度性能调优

查看更多 →