txt # 第三方依赖 目前性能测试还不支持投机推理能力。 静态benchmark验证 本章节介绍如何进行静态benchmark验证。 已经上传benchmark验证脚本到推理容器中。如果在Step5 进入容器安装推理依赖软件步骤中已经上传过AscendCloud-LLM-x

查看更多 →

推理性能测试 本章节介绍如何进行推理性能测试，建议在在Notebook的JupyterLab中另起一个Terminal，执行benchmark脚本进行性能测试。若需要在生产环境中进行推理性能测试，请通过调用接口的方式进行测试。 benchmark方法介绍 性能benchmark包括两部分。

查看更多 →

当从第三方推理框架迁移到使用ModelArts推理的AI应用管理和服务管理时，需要对原生第三方推理框架镜像的构建方式做一定的改造，以使用ModelArts推理平台的模型版本管理能力和动态加载模型的部署能力。本案例将指导用户完成原生第三方推理框架镜像到ModelArts推理自定义引擎的改造。自定义引擎的镜像

查看更多 →

华为云帮助中心，为用户提供产品简介、价格说明、购买指南、用户指南、API参考、最佳实践、常见问题、视频帮助等技术文档，帮助您快速上手使用华为云服务。

查看更多 →

用户需要根据算子的输入张量描述、算子逻辑及算子属性，推理出算子的输出张量描述，包括张量的形状、数据类型及数据排布格式等信息。这样离线模型转换时就可以为所有的张量静态分配内存，避免动态内存分配带来的开销。函数的声明如下所示：InferShapeAndTypexx：函数名称，用户自定义，需要保持唯一。op：计算节点定义，存储输入张量描述及各种

查看更多 →

--backend：服务类型，支持tgi、vllm、mindspore、openai等。本文档使用的推理接口是vllm。 --host ${docker_ip}：服务部署的IP地址，${docker_ip}替换为宿主机实际的IP地址。 --port：推理服务端口8080。 --tokenizer：tokenizer路径，HuggingFace的权重路径。

查看更多 →

推理基础镜像列表 ModelArts的推理平台提供了一系列的基础镜像，用户可以基于这些基础镜像构建 自定义镜像 ，用于部署推理服务。 X86架构（CPU/GPU）的推理基础镜像 表1 TensorFlow AI引擎版本 支持的运行环境 URI 2.1.0 CPU GPU(cuda10

查看更多 →

推理任务忽略此章节。一般训练都是多卡分布式训练权重结果文件为多个且文件为Megatron格式，因此需要合并多个文件转换为huggingface格式。 如果是多机训练，训练产生的权重文件分布在多个节点，转换前需将多机权重目录（iter_xxxxxxx）下mp_rank_xx_xxx

查看更多 →

转换为HuggingFace格式。 如果是多机训练，转换前需将多机权重目录（iter_xxxxxxx）下的mp_rank_xx_xxx文件夹整合到一起后再进行转换，合并后结果如下图所示。 图1 合并权重文件 该脚本的执行需要在/home/ma-user/ws/xxx-Ascend

查看更多 →

推理性能测试 本章节介绍如何进行推理性能测试，建议在在Notebook的JupyterLab中另起一个Terminal，执行benchmark脚本进行性能测试。若需要在生产环境中进行推理性能测试，请通过调用接口的方式进行测试。 benchmark方法介绍 性能benchmark包括两部分。

查看更多 →

识表示、推理机和推理策略三个部分。知识表示用于将事实和规则以一定的形式表示出来，推理机则用于实现推理过程，推理策略则用于指导推理机的搜索和推理方向。 大语言模型 大语言模型是一种能够理解和生成人类语言的人工智能模型。这些模型通常使用大量的数据进行训练，以便它们能够识别语言中的模式

查看更多 →

进入容器环境，创建自己的工作目录，由于在Snt9B 裸金属服务器 环境配置指南的配置环境步骤中，在启动容器时将物理机的home目录挂载到容器的“/home_host”目录下，该目录下可以直接使用上传到物理机“home”目录下的文件。本文中，将基于容器的“/home_host”目录创建工作目录： mkdir

查看更多 →

的技能。 HiLens Kit 华为HiLens开发套件。也可以专门代表集成了华为海思昇腾芯片，高性能推理能力，支持基于深度学习技术，实现图像、视频的分析、推理的智能推理摄像机，帮助用户快速安装、部署多种AI技能。 HiLens Framework 封装基础开发组件，为开发者提供

查看更多 →

“查看控制台”，进入实例控制台。 在左侧的导航栏选择“设备集成 LINK > 规则引擎”，在“规则引擎”页签中单击“导入规则”。 在弹窗中选择本地保存的规则文件，并导入。 导入成功后，在页面的规则引擎列表中可查看导入的规则。 导出规则 登录ROMA Connect控制台，在“实例

查看更多 →

开发中心支持数据转发吗？ 开发中心不支持规则引擎功能，无法进行数据转发。 您可在开发中心调测的时候使用API接口，订阅设备上报的数据。 开发中心调测完成，使用设备管理商用环境时，可以使用规则引擎的数据转发功能进行数据转发。 父主题： 设备集成（联通用户专用）

查看更多 →

使用训练模型进行在线推理的推理入口函数在哪里编辑？ 进入简易编辑器界面，在“代码目录”节点下，创建推理文件，根据实际情况写作推理代码。 父主题： 模型训练

查看更多 →

推理业务昇腾迁移通用指导 简介 昇腾迁移快速入门案例 迁移评估 环境准备 模型适配 精度校验 性能调优 迁移过程使用工具概览 常见问题 附录 父主题： 昇腾业务迁移

查看更多 →

附录：大模型推理常见问题 问题1：在推理预测过程中遇到NPU out of memory 解决方法：调整推理服务启动时的显存利用率，将--gpu-memory-utilization的值调小。 问题2：在推理预测过程中遇到ValueError:User-specified max_model_len

查看更多 →

推理基础镜像详情TensorFlow（CPU/GPU） ModelArts提供了以下TensorFlow（CPU/GPU）推理基础镜像： 引擎版本一：tensorflow_2.1.0-cuda_10.1-py_3.7-ubuntu_18.04-x86_64 引擎版本二： tensorflow_1

查看更多 →

AIGC推理业务昇腾迁移指导 场景介绍 迁移环境准备 pipeline应用准备 应用迁移 迁移效果校验 模型精度调优 性能调优 常见问题 父主题： 昇腾业务迁移

查看更多 →

附录：大模型推理常见问题 问题1：在推理预测过程中遇到NPU out of memory 解决方法：调整推理服务启动时的显存利用率，将--gpu-memory-utilization的值调小。 问题2：在推理预测过程中遇到ValueError:User-specified max_model_len

查看更多 →