-
存储引擎
![]()
-
引擎管理
![]()
引擎管理 查询微服务引擎的规格列表 查询微服务引擎列表 创建微服务引擎 查询微服务引擎的详情 查询微服务引擎任务详情 查询微服务引擎配额详情 删除指定的微服务引擎 升级微服务引擎 更新微服务引擎配置 变更微服务引擎规格 重试ServiceComb引擎专享版失败任务 更新微服务引擎详情
来自：帮助中心 -
引擎管理
-
工具接口
![]()
-
工具接口
![]()
-
工具中心
![]()
-
工具平台
![]()
工具平台 API生产阶段 API中心通过对接集成，为API开发者提供API Arts等自动化的API设计/开发/测试工具，开发者通过华为云账号登录后即可使用。 API开放阶段 API开发者（API提供方）可以在API中心申请入驻为服务商，然后自助发布上架API。上架成功后，API
来自：帮助中心 -
工具管理
-
工具下载
![]()
工具下载 命令行客户端（包含GDS工具包） 表1 gsql下载地址 操作系统类别 适用操作系统版本 下载地址 校验文件 Microsoft Windows Microsoft Windows x86_64： Windows 7及以上。 Windows Server 2008及以上。
来自：帮助中心 -
工具类
![]()
-
工具概述
![]()
Edge工具所在主机IP 27080 HTTPS Edge服务监听端口，该端口用于人机交互 否 口令认证 HTTPS Edge工具所在主机 Edge工具所在主机IP NA Edge工具所在主机 Edge工具所在主机IP 5678 TCP Edge服务监听端口，该端口用于采集器与Edge内部交互
来自：帮助中心 -
工具对接
![]()
-
工具对接
![]()
-
工具市场
![]()
工具市场 工具市场会按照场景分类展现各功能的工具卡片，目前支持以下类型： 通用场景：脚本管理、文件管理。 云服务场景：启动ECS实例、关闭ECS实例、重启RDS实例、修改ECS非管理员密码、重启CCE工作负载。 软件部署：暂时为空。 日常巡检：暂时为空。 故障处理：清理磁盘空间。
来自：帮助中心 -
工具对接
![]()
-
工具对接
![]()
-
什么是AI原生应用引擎
![]()
。 AI原生应用引擎应用场景 面向不同的企业需求，AI原生应用引擎提供不同的功能服务。 例如，智能对话、以文搜图、NL2SQL等通用应用场景，可在AI原生应用引擎体验各大模型推理云服务，并通过可视化画布流程编排进行业务集成。 细分领域如金融、电网场景，需要对推理结果进行定制调整，
来自：帮助中心 -
在推理生产环境中部署推理服务
![]()
在推理生产环境中部署推理服务 本章节介绍如何在ModelArts的推理生产环境（ModelArts控制台的在线服务功能）中部署推理服务。 Step1 准备模型文件和权重文件 在OBS桶中，创建文件夹，准备模型权重文件、推理启动脚本run_vllm.sh及SSL证书。此处以chatglm3-6b为例。
来自：帮助中心 -
推理精度测试
![]()
推理精度测试 本章节介绍如何进行推理精度测试，请在Notebook的JupyterLab中另起一个Terminal，进行推理精度测试。 Step1 配置精度测试环境 获取精度测试代码。精度测试代码存放在代码包AscendCloud-LLM的llm_tools/llm_evaluation目录中，代码目录结构如下。
来自：帮助中心 -
推理场景介绍
![]()
推理场景介绍 方案概览 本方案介绍了在ModelArts Lite DevServer上使用昇腾计算资源开展常见开源大模型Llama、Qwen、ChatGLM、Yi、Baichuan等推理部署的详细过程。本方案利用适配昇腾平台的大模型推理服务框架vLLM和华为自研昇腾Snt9B硬
来自：帮助中心 -
部署推理服务
![]()
ipv4.ip_forward Step2 获取推理镜像 建议使用官方提供的镜像部署推理服务。镜像地址{image_url}获取请参见表2。 docker pull {image_url} Step3 上传代码包和权重文件 上传安装依赖软件推理代码AscendCloud-3rdLLM-xxx
来自：帮助中心
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
