评测任务 创建任务 评测结果 父主题： 模型评测

查看更多 →

训练评测 工具介绍及准备工作 训练性能测试 训练精度测试 父主题： 主流开源大模型基于Lite Server适配ModelLink PyTorch NPU训练指导（6.5.901）

查看更多 →

评测管理 内置评测配置 自定义评测镜像 内置评测指标说明 评测分数计算介绍 实时评测和延时评测介绍 父主题： 仿真服务

查看更多 →

评测结果 评测任务完成后，可单击评测任务名称查看模型评测各项得分。任务详情页面展示了评测任务详情信息以及评测模型结果信息两部分内容。 任务详情 任务详情页面，详细展示了任务名称、类别、资源规格等基本信息。 任务视图 可查看在当前视图下的评测结果、任务日志和资源占用情况。 坏例判别

查看更多 →

模型评测 创建评测脚本 创建评测任务 父主题： 训练服务

查看更多 →

模型评测 评测脚本 评测任务 评测对比 模型数据集支持 父主题： 训练服务

查看更多 →

参考创建评测任务。 单击“添加”，在评测对比任务页面显示新创建的对比任务信息。 也可以通过在评测任务列表勾选2-4个任务（要求类别相同，且均为已完成状态）单击“对比”按钮的形式进行新建评测对比任务。 评测对比相关操作 在“评测对比”列表，可对任务进行以下操作。 表1 评测对比相关操作

查看更多 →

创建评测脚本 添加评测脚本流程为“初始化评测脚本 > 选择评测脚本文件 > 上传评测脚本文件”。具体操作步骤如下： 在左侧菜单栏中选择“训练服务 > 模型评测”。 选择“评测脚本”页签，单击“新建评测脚本”，填写脚本名称和描述信息。 单击“初始化”，完成脚本的初始化过程。 上传文件 将

查看更多 →

取消运行评测任务 当任务状态为“运行中”时，在模型评测任务列表中，单击操作列的“取消”，取消任务运行。 查看评测任务详情 在模型评测任务列表中，单击任务名称，进入模型评测详情页面，详情页面根据任务所包含的模型，分页签展示各评测维度的评测执行情况，包括评测数据集、评测执行量/评测

查看更多 →

处理每帧数据，不断更新评测结果。 仿真结束时，将最后一帧的评测结果作为最终的评测结果，通过EVA_PATH环境变量获取评测pb路径，经评测结果写入到评测pb文件中。 延时评测 图2 延时评测 如上图所示，延时评测以仿真pb文件作为输入，进行评测逻辑处理后，将评测结果写成评测pb。 其中仿真pb是通过八爪鱼提供的sim_osi

查看更多 →

选择数据集：用户选择评测使用的数据集。如果选择内置评测选项，数据集不支持视图格式。选择数据集时无法预览到视图数据。 选择自定义评测和内置指标评测（“自定义评测”和“内置指标评测”至少选择一项）。 图3 选择自定义评测和内置指标评测 自定义评测： 评测脚本：可选，如果用户有其他自定义评测脚本，可勾选该项将选择的脚本路

查看更多 →

合规性评测指标 压实线（Onto Solid line）检测 压实线检测的目的是判断主车行驶过程中是否压到实线。 当主车与距离最近的车道线的小于主车宽度的一半时，并且该车道线的类型为OSI定义的osi3.LaneBoundary.classification.type.TYPES

查看更多 →

评测NLP大模型 创建NLP大模型评测数据集 创建NLP大模型评测任务 查看NLP大模型评测报告 管理NLP大模型评测任务 父主题： 开发盘古NLP大模型

查看更多 →

创建评测脚本 添加评测脚本流程为“初始化评测脚本 > 选择评测脚本文件 > 上传评测脚本文件”。具体操作步骤如下： 在左侧菜单栏中单击“训练服务 > 模型评测”。 选择“评测脚本”页签，单击“新建评测脚本”，填写脚本信息。 图1 新建评测脚本 名称：只能包含数字、英文、中文、下划线、中划线，不得超过64个字符。

查看更多 →

了仿真器在整个仿真过程中的数据，用户可以利用该仿真pb进行数据分析。 评测pb下载：任务运行成功后，用户可以下载评测pb文件。评测pb文件用于存储评测输出的结果，支持用户自定义评测指标输出为Octopus的评测pb格式，从而在前端进行展示。 算法pb下载：任务运行成功后，用户可以

查看更多 →

单击“ 知识管理 > 评测管理”，进入评测管理页面。 单击“上传评测集”，进入上传评测集页面（图2），输入评测集名称。 图2 上传评测集页面 单击“模板下载”，评测集模板填写完成后，单击“添加文件”，完成评测文件的上传。 选择“评测助手”后，单击“确定”，完成评测集的上传。 表2 上传评测集参数说明

查看更多 →

评测分数计算介绍 评分方案介绍 AB类log函数评分方案 AB类均匀权重（Average）评分方案 C类均匀权重评分（Average）方案 父主题： 评测管理

查看更多 →

使用Lm-eval精度测评工具进行大语言模型精度评测 使用lm-eval工具暂不支持pipeline_parallel方式，也不支持qwen-7b、qwen-14b、qwen-72b、chatglm2-6b、chatglm3-6b模型。 安装精度评测工具。在启动推理服务的环境，进入到一个固定目录下，执行如下命令。

查看更多 →

使用Lm-eval精度测评工具进行精度评测 使用lm-eval工具暂不支持pipeline_parallel方式，也不支持qwen-7b、qwen-14b、qwen-72b、chatglm2-6b、chatglm3-6b模型。 安装精度评测工具。可以在原先的conda环境，进入到一个固定目录下，执行如下命令。

查看更多 →

期望的预警次数； 默认期望的预警次数为-1，此时只要该预警功能激活至少一次，则评测项通过；当设置期望的预警次数为正数或0时（0代表期望预警功能不被激活），只有当预警功能激活次数和期望预警次数相同时，评测项才通过； 该指标仅对有算法pb的场景有效。当算法pb中未设置预警项，或预警项

查看更多 →

内置评测指标说明 内置评测指标简介 安全性评测指标 合规性评测指标 智能性评测指标 舒适性评测指标 父主题： 评测管理

查看更多 →