创建一个训练作业，选择可用的数据集版本，并使用前面编写完成的训练脚本。训练完成后，将生成模型并存储至OBS中。 创建训练作业 管理AI应用 编写推理代码和配置文件 针对您生成的模型，建议您按照ModelArts提供的模型包规范，编写推理代码和配置文件，并将推理代码和配置文件存储至训练输出位置。 模型包规范介绍 创建AI应用

查看更多 →

推理模型量化 使用AWQ量化 使用SmoothQuant量化 使用kv-cache-int8量化 父主题： 主流开源大模型基于DevServer适配PyTorch NPU推理指导（6.3.906）

查看更多 →

。 面向熟悉代码编写和调测的AI工程师 ModelArts Standard推理部署 使用Standard一键完成商超商品识别模型部署 本案例以“商超商品识别”模型为例，介绍从AI Gallery订阅模型，一键部署到ModelArts Standard，并进行在线推理预测的体验过程。

查看更多 →

save("/tmp/spark_model") 保存完模型后，需要上传到OBS目录才能发布。发布时需要带上config.json配置和推理代码customize_service.py。config.json编写请参考模型配置文件编写说明，推理代码请参考推理代码。 推理代码 在模型代码推理文件customize_service

查看更多 →

在部署上线前，您需要基于训练后的模型编写配置文件和推理代码。 如果您的模型存储路径下，缺少配置文件“confi.json”，或者缺少推理代码“customize_service.py”时，将出现错误，错误信息如下图所示。 解决方案： 请参考模型包规范写配置文件和推理代码，并存储至需部署的模型所在OBS目录下。

查看更多 →

Cluster适配NPU推理指导（6.3.906） SDXL&SD1.5 WebUI基于Lite Cluster适配NPU推理指导（6.3.906） LLaVA模型基于DevServer适配PyTorch NPU预训练指导（6.3.906） LLaVA模型基于DevServer适配PyTorch

查看更多 →

数字人模型训练推理 Wav2Lip推理基于DevServer适配PyTorch NPU推理指导（6.3.907） Wav2Lip训练基于DevServer适配PyTorch NPU训练指导（6.3.907） Wav2Lip基于DevServer适配PyTorch NPU推理指导（6

查看更多 →

技能可以抽象地理解为算法模型+逻辑代码。算法模型负责关键的AI推理，逻辑代码负责处理模型推理的结果。 本章节介绍在华为HiLens控制台使用空模板和基础技能模板开发技能。 什么是技能 技能（Skill）是运行在端侧摄像头的人工智能应用，一般由模型和逻辑代码组成。其中，逻辑代码是技能的框架，

查看更多 →

ebook中。 保存完模型后，需要上传到OBS目录才能发布。发布时需要带上config.json配置和推理代码customize_service.py。config.json编写请参考模型配置文件编写说明，推理代码请参考推理代码。 推理代码 在模型代码推理文件customize_service

查看更多 →

志，明确服务部署失败原因（用户代码输出需要使用标准输入输出函数，否则输出的内容不会呈现到前端页面日志）。根据日志中提示的报错信息找到对应的代码进行定位。 如果模型启动失败根本没有日志，则考虑使用推理模型调试功能，具体参见：在开发环境中构建并调试推理镜像。 父主题： AI应用管理

查看更多 →

导入模型时，模型配置文件中的安装包依赖参数如何编写？ 问题描述 从OBS中或者从容器镜像中导入模型时，开发者需要编写模型配置文件。模型配置文件描述模型用途、模型计算框架、模型精度、推理代码依赖包以及模型对外API接口。配置文件为JSON格式。配置文件中的“dependencies

查看更多 →

“代码编写、代码合并、版本发布”三层缺陷防护 “代码编写、代码合并、版本发布”三层缺陷防护，兼顾效率与质量 优秀的代码质量保障实践，往往将代码检查融入到开发作业流中，在用户代码编写、代码提交时进行自动化的审计检查，并对团队每日产出的代码进行持续编程规范和质量检查。 这一活动实践要

查看更多 →

准备模型训练代码 预置框架启动文件的启动流程说明 开发用于预置框架训练的代码 开发用于 自定义镜像 训练的代码 父主题： 使用ModelArts Standard训练模型

查看更多 →

管理模型资产、推理资产 查看模型资产与模型推理资产 用户购买盘古大模型套件后，可以在“平台管理 > 资产管理”中查看购买的模型资产和模型推理资产。 图1 查看模型资产 图2 查看模型推理资产 续订模型推理资产 模型推理资产到期后，可以进行续订操作。 在“平台管理 > 资产管理 >

查看更多 →

学习实例、删除模型。 模型验证 模型验证是基于新的数据集或超参，对模型训练服务已打包的模型进行验证，根据验证报告判断当前模型的优劣。 云端推理框架 提供模型云端运行框架环境，用户可以在线验证模型推理效果，无须从零准备计算资源、搭建推理框架，只需将模型包加载到云端推理框架，一键发布成云端Web

查看更多 →

发布推理服务 模型训练服务支持一键发布在线推理服务。用户基于成熟的模型包，创建推理服务，直接在线调用服务得到推理结果。操作步骤如下。 单击模型包“操作”列的，弹出“发布推理服务”对话框，如图1所示。 图1 推理服务 配置对话框参数如表1所示。 表1 创建推理服务参数配置 参数名称

查看更多 →

从容器镜像中导入AI应用文件创建模型 针对ModelArts目前不支持的AI引擎，您可以通过自定义镜像的方式将编写的模型导入ModelArts。 约束与限制 关于自定义镜像规范和说明，请参见模型镜像规范。 针对您开发并训练完成的模型，需要提供对应的模型配置文件，此文件需遵守Mode

查看更多 →

在线服务预测报错ModelArts.4503 当使用推理的镜像并且出现MR.XXXX类型的错误时，表示已进入模型服务，一般是模型推理代码编写有问题。 请根据构建日志报错信息，定位服务预测失败原因，修改模型推理代码后，重新导入模型进行预测。 经典案例：在线服务预测报错MR.0105

查看更多 →

从容器镜像中选择元模型 针对ModelArts目前不支持的AI引擎，您可以通过自定义镜像的方式将编写的模型导入ModelArts。 约束与限制 关于自定义镜像规范和说明，请参见模型镜像规范。 针对您开发并训练完成的模型，需要提供对应的模型配置文件，此文件需遵守ModelArts的

查看更多 →

SQL编写 DDL 【建议】在 GaussDB 中，建议DDL（建表、comments等）操作统一执行，在批处理作业中尽量避免DDL操作。避免大量并发事务对性能的影响。 【建议】在非日志表（unlogged table）使用完后，立即执行数据清理（truncate）操作。因为在异常场

查看更多 →

SQL编写 DDL 在GaussDB中，建议DDL（建表、COMMENT等）操作统一执行。在批处理作业中尽量避免DDL操作，避免大量并发事务对性能的影响。 在非日志表（unlogged table）使用完后，立即执行数据清理（TRUNCATE）操作。因为在异常场景下，GaussDB不保证非日志表(unlogged

查看更多 →