AIGC推理业务昇腾迁移指导 场景介绍 迁移环境准备 pipeline应用准备 应用迁移 迁移效果校验 模型精度调优 性能调优 常见问题 父主题： 昇腾业务迁移

查看更多 →

附录：大模型推理常见问题 问题1：在推理预测过程中遇到NPU out of memory 解决方法：调整推理服务启动时的显存利用率，将--gpu-memory-utilization的值调小。 问题2：在推理预测过程中遇到ValueError:User-specified max_model_len

查看更多 →

推理基础镜像详情Pytorch（CPU/GPU） ModelArts提供了以下Pytorch（CPU/GPU）推理基础镜像： 引擎版本一：pytorch_1.8.0-cuda_10.2-py_3.7-ubuntu_18.04-x86_64 引擎版本二：pytorch_1.8.2-cuda_11

查看更多 →

推理基础镜像详情MindSpore（CPU/GPU） ModelArts提供了以下MindSpore（CPU/GPU）推理基础镜像： 引擎版本一：mindspore_1.7.0-cpu-py_3.7-ubuntu_18.04-x86_64 引擎版本二：mindspore_1.7.0-cuda_10

查看更多 →

使用指引。 通过逆向建模方式创建实体 逆向建模是指将用户已有关系型数据库的数据转换为模型，通过逆向建模生成的数据实体默认关联物理表，保存后不可修改。 在配置逆向建模生成实体时，您也可选择根据已识别出的物理表间的单列外键约束关系自动创建非实体类的关系实体。 通过逆向建模方式生成的数

查看更多 →

为了避免算法推理内部可能出现的内存拷贝，在调用模型管家Process接口时，建议输入数据（输入数据一般可直接使用框架传入的内存，该内存是由框架通过HIAI_DMalloc申请得到）及输出数据都通过HIAI_DMalloc接口申请，这样就能够使能算法推理的零拷贝机制，优化Process时间。如果在推理前需要进行DVPP处理，DVPP的输入内

查看更多 →

如何使用多线程进行技能推理？ 问题描述 如果在局域网内对多个rtsp摄像头画面进行推理，每路摄像头开一个线程进行推理，线程内模型加载、推理都是独立的，不会相互影响。如果多路线程合并，如何使用多线程进行技能推理？ 解决方法 如果多路线程合并做batch推理，对多路摄像头的推理实时性有一定的

查看更多 →

查询推理VPC访问通道信息的API 功能介绍 该接口用于查询推理VPC访问通道。 调试 您可以在 API Explorer 中调试该接口，支持自动认证鉴权。API Explorer可以自动生成SDK代码示例，并提供SDK代码示例调试功能。 URI GET /v1/{project_i

查看更多 →

为了避免算法推理内部可能出现的内存拷贝，在调用模型管家Process接口时，建议输入数据（输入数据一般可直接使用框架传入的内存，该内存是由框架通过HIAI_DMalloc申请得到）及输出数据都通过HIAI_DMalloc接口申请，这样就能够使能算法推理的零拷贝机制，优化Process时间。如果在推理前需要进行DVPP处理，DVPP的输入内

查看更多 →

推理服务端到端运维 ModelArts推理服务的端到端运维覆盖了算法开发、服务运维和业务运行的整个AI流程。 方案概述 推理服务的端到端运维流程 算法开发阶段，先将业务AI数据存放到 对象存储服务 （OBS）中，接着通过ModelArts数据管理进行标注和版本管理，然后通过训练获得A

查看更多 →

权重文件的合并转换操作都要求在训练的环境中进行，为下一步推理做准备。 如果需要使用本文档中训练后的权重文件进行推理，请参考此章节合并训练权重文件并转换为Huggingface格式。 如果无推理任务或者使用开源Huggingface权重文件推理，都可以忽略此章节。 下一步的推理任务请参考文档《开源大模型基于DevServer的推理通用指导》。

查看更多 →

DETAIL_TIME_ LOG 配置后重启推理服务生效。 Step7 推理性能和精度测试 推理性能和精度测试操作请参见推理性能测试和推理精度测试。 附录：基于vLLM（v0.3.2）不同模型推理支持的max-model-len长度说明 基于vLLM（v0.3.2）部署推理服务时，不同模型推理支持的max-m

查看更多 →

权重文件的合并转换操作都要求在训练的环境中进行，为下一步推理做准备。 如果需要使用本文档中训练后的权重文件进行推理，请参考此章节合并训练权重文件并转换为Huggingface格式。 如果无推理任务或者使用开源Huggingface权重文件推理，都可以忽略此章节。 下一步的推理任务请参考文档《开源大模型基于DevServer的推理通用指导》。

查看更多 →

权重文件的合并转换操作都要求在训练的环境中进行，为下一步推理做准备。 如果需要使用本文档中训练后的权重文件进行推理，请参考此章节合并训练权重文件并转换为Huggingface格式。 如果无推理任务或者使用开源Huggingface权重文件推理，都可以忽略此章节。 下一步的推理任务请参考文档《开源大模型基于DevServer的推理通用指导》。

查看更多 →

权重文件的合并转换操作都要求在训练的环境中进行，为下一步推理做准备。 如果需要使用本文档中训练后的权重文件进行推理，请参考此章节合并训练权重文件并转换为Huggingface格式。 如果无推理任务或者使用开源Huggingface权重文件推理，都可以忽略此章节。 下一步的推理任务请参考文档《开源大模型基于DevServer的推理通用指导》。

查看更多 →

"use_beam_search":true "best_of":2 Step5 推理性能和精度测试 推理性能和精度测试操作请参见推理性能测试和推理精度测试。 父主题： 主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.906）

查看更多 →

UA配置”页签，勾选需要下发的OPC UA连接点，单击“下发策略”按钮。 配置规则引擎。 配置普通设备采集上来的数据转发到MQS。 在规则引擎界面单击“创建规则”按钮，规则引擎所属应用需要与普通产品相同。 单击规则引擎名称进入规则引擎详情页面，配置数据源端和数据目的端。 数据源端选择之前创建的产品和设备。

查看更多 →

设备集成API（V1） 产品管理 设备管理 规则引擎 父主题： 历史API

查看更多 →

ETL 任务。 图9 可视化设计 逆向工程 支持通过数据库导入的方式，快速将外部数据库中的表逆向为逻辑模型，导入到 DataFacts平台中，帮助用户在数据同步、ETL 任务迁移等场景中，复用已有的逻辑模型，节省重复建设成本。 图10 逆向工程 免SQL物理化 通过配置化方式，

查看更多 →

设备集成API 设备分组管理 设备管理 订阅管理 产品模板 产品管理 规则引擎 服务管理

查看更多 →

逆向数据库的结果会在“上次逆向”页面中显示。如果逆向成功，单击“关闭”。如果逆向失败，您可以查看失败原因，问题解决后，选中失败的表，然后单击“重新逆向”进行重试。 图16 逆向结果 导入 导入EXCEL 单击逻辑实体列表上方“导入”中的“导入EXCE”。在“导入表”对话框中，选择“导入配置”页签，单击“下载关系建模导入模板”。

查看更多 →