推理模型量化 使用AWQ量化 使用SmoothQuant量化 使用kv-cache-int8量化 使用GPTQ量化 使用llm-compressor工具量化 父主题： 主流开源大模型基于Server适配PyTorch NPU推理指导（6.3.911）

查看更多 →

推理模型量化 使用AWQ量化工具转换权重 使用SmoothQuant量化工具转换权重 使用kv-cache-int8量化 使用GPTQ量化 父主题： 主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.911）

查看更多 →

推理模型量化 使用AWQ量化工具转换权重 使用SmoothQuant量化工具转换权重 使用kv-cache-int8量化 父主题： 主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.907）

查看更多 →

推理模型量化 使用AWQ量化工具转换权重 使用SmoothQuant量化工具转换权重 使用kv-cache-int8量化 父主题： 主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.906）

查看更多 →

--per-token：激活值量化方法，如果指定则为per-token粒度量化，否则为per-tensor粒度量化。 --per-channel：权重量化方法，如果指定则为per-channel粒度量化，否则为per-tensor粒度量化。 启动smoothQuant量化服务。 参考Step6

查看更多 →

--per-token：激活值量化方法，若指定则为per-token粒度量化，否则为per-tensor粒度量化。 --per-channel：权重量化方法，若指定则为per-channel粒度量化，否则为per-tensor粒度量化。 启动smoothQuant量化服务。 参考部署推理服务，使用量化后权重部署AWQ量化服务。

查看更多 →

推理模型量化 使用AWQ量化 使用SmoothQuant量化 使用kv-cache-int8量化 使用GPTQ量化 父主题： 主流开源大模型基于DevServer适配PyTorch NPU推理指导（6.3.908）

查看更多 →

--per-token：激活值量化方法，如果指定则为per-token粒度量化，否则为per-tensor粒度量化。 --per-channel：权重量化方法，如果指定则为per-channel粒度量化，否则为per-tensor粒度量化。 启动smoothQuant量化服务。 参考部署推理

查看更多 →

推理模型量化 使用AWQ量化工具转换权重 使用SmoothQuant量化工具转换权重 使用kv-cache-int8量化 使用GPTQ量化 父主题： 主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.910）

查看更多 →

动轻量化图形。 将鼠标放在轻量化图形上，上下滑动鼠标，可将轻量化图形放大或缩小。 查看轻量化模型详情 在轻量化模型下方的工具栏中选择相应的工具，对轻量化模型进行测量、剖切等操作。 具体操作根据实际情况进行，工具栏说明如表1所示。 表1 轻量化模型工具栏说明 图标 名称 说明 显示设置工具

查看更多 →

区块链 管理 合约管理 查看区块链浏览器 父主题： 华为云区块链引擎管理

查看更多 →

工具接口 创建图片Metadata 配置并切换用户 导入用户证书秘钥并切换用户 生成私钥和证书 生成数字资产标识 生成数字资产编码 上传并审核图片 父主题： Go

查看更多 →

编码工具 编码工具为用户提供常见的加解码功能，如MD5、Base64等。包含“Base64解码”、“MD5编码”、“Base64编码”三个执行动作。 连接参数 编码工具连接器无需认证，无连接参数。 Base64解码 使用Base64算法进行解码。 输入参数 用户配置Base64解码执行动作，相关参数说明如表1所示。

查看更多 →

工具管理 工具管理简介 新建应用 导入应用 上传应用 发布应用 编辑应用 创建FastQC应用样例 新建流程 流程设计器 导入流程 上传流程 发布流程 添加分类标签 下载应用或流程 父主题： 用户指南（基因平台）

查看更多 →

工具库 防盗地址生成

查看更多 →

准备工具 迁移过程需准备的工具包括：PL/SQL Developer、Instant Client和DSC，下载地址参见表1 表1 准备工具 工具名 描述 下载地址 PL/SQL Developer Oracle可视化开发工具 PL/SQL Developer下载地址 Oracle

查看更多 →

工具库 获取频道回看或时移地址 父主题： 控制台操作

查看更多 →

响应示例 状态码： 200 成功返回200 { "tools" : [ { "id" : "工具Id", "name" : "工具名称", "url" : "工具链接", "icon" : "Base64", "problem_type_id"

查看更多 →

工具采集 创建工具采集任务 采集器管理 采集器参数配置说明

查看更多 →

诊断工具 OS诊断 父主题： 故障管理

查看更多 →

工具中心 工具中心展示使用云空间过程中用到的一些工具，例如已上线的用户组管理，后续规划的文件收集、AI识图等工具，敬请期待。 图1 工具中心 父主题： 用户中心界面一览

查看更多 →