实时推理场景 特征 在实时推理应用场景中，工作负载具有以下一个或多个特征： 低延迟 单次请求的处理时效性要求高，RT（Response Time）延迟要求严格，90%的长尾延时普遍在百毫秒级别。 功能优势 函数计算为实时推理工作负载提供以下功能优势： 预留GPU实例 函数计算平台

查看更多 →

推理精度测试 本章节介绍如何进行推理精度测试，建议在Notebook的JupyterLab中另起一个Terminal，进行推理精度测试。若需要在生产环境中进行推理精度测试，请通过调用接口的方式进行测试。 Step1 执行精度测试 精度测试需要数据集进行测试。推荐公共数据集mmlu

查看更多 →

xlsx # 保存未推理出结果的问题，例如超时、系统错误 │ ├── system_error.xlsx # 保存推理结果，但是可能答非所问，无法判断是否正确，需要人工判断进行纠偏。 父主题： 主流开源大模型基于DevServer适配PyTorch NPU推理指导（6.3.905）

查看更多 →

unset DETAIL_TIME_ LOG 配置后重启推理服务生效。 Step6 推理性能和精度测试 推理性能和精度测试操作请参见推理性能测试和推理精度测试。 父主题： 主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.905）

查看更多 →

绑定微服务引擎。 组件部署以后，微服务会注册到设置的微服务引擎。 所有组件需要注册到同一个微服务引擎，才能互相发现。 在“高级设置”区域，展开“高级设置 > 微服务引擎”。 单击“绑定微服务引擎”。 选择当前环境下已纳管的微服务引擎。 单击“确定”。 图2 绑定微服务引擎 单击“创建并部署”。

查看更多 →

溯源码列表 功能介绍 溯源码列表 URI POST /v1/{project_id}/trace/trace-sweepcode/label/list 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String 租户从IAM申请到的projectid，一般为32位字符串

查看更多 →

批次溯源码关联管理 批次文件上传excel 批次信息excel下载 批次上传模板下载 批次溯源码关联结果查询 父主题： 可信溯源

查看更多 →

推理基础镜像介绍 推理基础镜像列表 推理基础镜像详情TensorFlow（CPU/GPU） 推理基础镜像详情Pytorch（CPU/GPU） 推理基础镜像详情MindSpore（CPU/GPU） 父主题： 使用预置镜像

查看更多 →

Matrix框架提供AIModelManager类，实现模型加载和推理功能，详情请参考《Matrix API参考》。Matrix框架定义IAITensor类，用于管理模型推理的输入与输出矩阵。为了便于使用，Matrix框架基于IAITensor，派生出了AISimpleTensor和AINeuralNetworkBuffer。模型推理的输

查看更多 →

Matrix框架提供AIModelManager类，实现模型加载和推理功能，详情请参考《Matrix API参考》。Matrix框架定义IAITensor类，用于管理模型推理的输入与输出矩阵。为了便于使用，Matrix框架基于IAITensor，派生出了AISimpleTensor和AINeuralNetworkBuffer。模型推理的输

查看更多 →

部署到推理调试 在开发环境容器内调试完成后，开发者可以将自己开发好的AI应用和ModelBox runtime镜像打包成新的运行镜像，并发布到ModelArts推理服务，直接测试部署的服务并查看日志，以确保开发好的AI应用可以在ModelArts推理平台正常运行。具体调试步骤如下：

查看更多 →

查询推理服务标签 功能介绍 查询当前项目下的推理服务标签，默认查询所有工作空间，无权限不返回标签数据。 调试 您可以在 API Explorer 中调试该接口，支持自动认证鉴权。API Explorer可以自动生成SDK代码示例，并提供SDK代码示例调试功能。 URI GET /v1

查看更多 →

推理部署计费项 计费说明 在ModelArts进行服务部署时，会产生计算资源和存储资源的累计值计费。计算资源为运行推理服务的费用。存储资源包括数据存储到OBS的计费。具体内容如表1所示。 表1 计费项 计费项 计费项说明 适用的计费模式 计费公式 计算资源 公共资源池 使用计算资源的用量。

查看更多 →

推理服务访问公网 本章节提供了推理服务访问公网的方法。 应用场景 推理服务访问公网地址的场景，如： 输入图片，先进行公网OCR服务调用，然后进行NLP处理； 进行公网文件下载，然后进行分析； 分析结果回调给公网服务终端。 方案设计 从推理服务的算法实例内部，访问公网服务地址的方案。如下图所示：

查看更多 →

步骤1：安装案例源码包 前提条件 单击scene.zip，获取导入源码包，用于预置故障单流程场景涉及的对象和BPM活动。 操作步骤 登录AstroZero服务控制台，单击“旧版入口”，进入经典版应用开发页面。 在主菜单中，选择“管理”，进入经典版开发环境配置。 在左侧导航栏中，选择“应用管理

查看更多 →

始处理请求。 推理单元 推理单元是指计算机系统中的一个模块，用于进行逻辑推理和推断。其主要功能是根据已知的事实和规则，推导出新的结论或答案。 推理单元常常被用于解决问题、推理、诊断、规划等任务。它可以帮助计算机系统自动推理出一些结论，从而实现智能化的决策和行为。推理单元通常包括知

查看更多 →

10B/100B，单机多卡推理。 - 能否提供实际模型、网络验证的代码和数据等信息 提供实际模型、网络验证的代码和数据。 提供与业务类型类似的开源模型，例如GPT3 10B/13B。 提供测试模型以及对应的Demo代码路径（开源或共享）。 可以提前的完成POC评估，例如框架、算子支持度，以及可能的一些性能指标。

查看更多 →

准实时推理场景 本章节介绍什么是准实时推理场景，以及如何使用GPU按量实例和如何基于GPU按量实例构建使用成本较低的准实时推理服务。 特征 在准实时推理应用场景中，工作负载具有以下一个或多个特征： 调用稀疏 日均调用几次到几万次，日均GPU实际使用时长远低于6~10小时，GPU存在大量闲置。

查看更多 →

鲲鹏AI推理加速型 鲲鹏AI推理加速型 云服务器 是专门为AI业务提供加速服务的云 服务器 。搭载昇腾系列芯片及软件栈。 该类型 弹性云服务器 默认未开启超线程，每个vCPU对应一个底层物理内核。 鲲鹏AI推理加速型系列：搭载自研昇腾310芯片，为AI推理业务加速。 表1 鲲鹏AI推理加速型实例特点

查看更多 →

关联结果描述 failCount Integer 失败溯源码个数 failCodes Array of failCodes objects 失败溯源码列表 表7 failCodes 参数 参数类型 描述 code String 溯源码 状态码： 500 表8 响应Body参数 参数 参数类型

查看更多 →

在线推理 在线推理是对每一个推理请求同步给出推理结果的在线服务（Web Service）。 批量推理 批量推理是对批量数据进行推理的批量作业。 Ascend芯片 Ascend芯片是华为设计的高计算力低功耗的AI芯片。 资源池 ModelArts提供的大规模计算集群，可应用于模型开发、

查看更多 →