#启动vllm api 服务器 ├──vllm.py #构造vllm评测配置脚本名字 确保容器内通网，未通网需要配置$config_proxy_str，$config_pip_str设置对应的代理和pip源，来确保当前代理和pip源可用。 精度评测新建一个cond

查看更多 →

天宽行业大模型适配服务1 图3 天宽行业大模型适配服务2 在模型训练过程中，天宽通过配置和管理云资源，确保训练任务的高效运行。借助云计算实例（华为云E CS ），天宽团队能够为训练任务分配合适的计算资源，同时利用存储服务（华为云OBS）来存储大规模数据和模型。训练期间，天宽团队使用云服务提供的监

查看更多 →

景数据。如果清空里面的有效场景或用例，会导致任务运行失败。 不支持修改任务配置和评测的关联关系，但是评测自身属性，可以在评测管理页面进行调整。再次启动任务时，将使用新的评测方式。 父主题： 仿真服务常见问题

查看更多 →

仿真服务 仿真服务简介 在线仿真 算法管理 评测管理 场景管理 并行仿真 批量仿真调优 Open SCENARIO2.0场景说明 采样方式介绍

查看更多 →

service_name：服务名称，保存评测结果时创建目录，示例为：llama2-13b-chat-test。 eval_dataset：评测使用的评测集（枚举值），目前仅支持mmlu、ceval。 service_url：成功部署推理服务后的服务预测地址，示例：http://

查看更多 →

Lite的弹性节点Server。推荐使用“西南-贵阳一”Region上的资源和Ascend Snt9B。 请参考Lite Server资源开通，购买Lite Server资源，并确保机器已开通，密码已获取，能通过SSH登录，不同机器之间网络互通。 当容器需要提供服务给多个用户，

查看更多 →

与其他服务的关系 统一身份认证服务IAM Octopus使用统一身份认证服务（Identity and Access Management，简称IAM）实现认证功能。IAM的更多信息请参见《统一身份认证服务用户指南》。 对象存储服务OBS 对象存储服务（Object Storage

查看更多 →

├──llm_evaluation #推理评测代码包 ├──benchmark_eval # 精度评测 ├── config ├── config.json # 请求的参数，根据实际启动的服务来调整

查看更多 →

PyTorch NPU推理指导（6.5.901） Ascend-vLLM介绍 支持的模型列表 版本说明和要求 推理服务部署 推理关键特性使用 推理服务精度评测 推理服务性能评测 附录 父主题： LLM大语言模型训练推理

查看更多 →

sh 参数说明: vllm_path：构造vllm评测配置脚本名字，默认为vllm。 host：与起服务的host保持一致，比如起服务为0.0.0.0,host设置也为0.0.0.0。 service_port：服务端口，与启动服务时的端口保持，比如8080。 max_out_le

查看更多 →

sh 参数说明: vllm_path：构造vllm评测配置脚本名字，默认为vllm。 host：与起服务的host保持一致，比如起服务为0.0.0.0，host设置也为0.0.0.0。 service_port：服务端口，与启动服务时的端口保持，比如8080。 max_out_le

查看更多 →

sh 参数说明: vllm_path：构造vllm评测配置脚本名字，默认为vllm。 host：与起服务的host保持一致，比如起服务为0.0.0.0,host设置也为0.0.0.0。 service_port：服务端口，与启动服务时的端口保持，比如8080。 max_out_le

查看更多 →

默认为1。 service_name：服务名称，保存评测结果时创建目录，示例为：qwen-14b-test。 eval_dataset：评测使用的评测集（枚举值），目前仅支持mmlu、ceval。 service_url：服务接口地址，若服务部署在notebook中，该地址为"http://127

查看更多 →

仿真服务 仿真镜像 仿真场景 仿真任务 仿真评测结果 父主题： 自动驾驶云服务全流程开发

查看更多 →

数据处理 标注服务 训练服务 仿真服务 智驾模型服务 镜像仓库 运维配置 工作空间 功能架构 自动驾驶云服务（Octopus）是一个一站式的开发平台，能够支撑开发者从数据收集到仿真应用的全流程开发过程。整体由数据资产、数据服务、标注服务、训练服务、仿真服务、智驾模型服务、公共配置管理组成。

查看更多 →

训练服务 训练服务简介 算法管理 开发环境 训练任务 模型评测 编译管理 推理服务 任务队列

查看更多 →

制作仿真镜像 自定义评测镜像制作 与datahub对接的算法镜像制作 评测算法的自研proto接口 父主题： 镜像仓库

查看更多 →

sh 参数说明: vllm_path：构造vllm评测配置脚本名字，默认为vllm。 host：与起服务的host保持一致，比如起服务为0.0.0.0,host设置也为0.0.0.0。 service_port：服务端口，与启动服务时的端口保持，比如8080。 max_out_le

查看更多 →

sh 参数说明: vllm_path：构造vllm评测配置脚本名字，默认为vllm。 host：与起服务的host保持一致，比如起服务为0.0.0.0,host设置也为0.0.0.0。 service_port：服务端口，与启动服务时的端口保持，比如8080。 max_out_le

查看更多 →

PyTorch NPU推理指导（6.3.912） Ascend-vLLM介绍 支持的模型列表 版本说明和要求 推理服务部署 推理关键特性使用 推理服务精度评测 推理服务性能评测 附录 父主题： LLM大语言模型训练推理

查看更多 →

sh 参数说明: vllm_path：构造vllm评测配置脚本名字，默认为vllm。 host：与起服务的host保持一致，比如起服务为0.0.0.0，host设置也为0.0.0.0。 service_port：服务端口，与启动服务时的端口保持，比如8080。 max_out_le

查看更多 →