-
轻量化模型卡片
![]()
单击“保存”。 使用轻量化模型卡片 已添加“轻量化模型”卡片到角色桌面，并且已上传文件进行轻量化转换。如果您还没有进行轻量化转换，卡片内容为空。 您可以参见轻量化模型转换API，调用相应的API上传待轻量化转换的文件，查询轻量化转换的任务和下载轻量化文件。 在卡片左侧的列表中选择待查看
来自：帮助中心 -
使用SmoothQuant量化
![]()
--per-token：激活值量化方法，如果指定则为per-token粒度量化，否则为per-tensor粒度量化。 --per-channel：权重量化方法，如果指定则为per-channel粒度量化，否则为per-tensor粒度量化。 启动smoothQuant量化服务。 参考Step6
来自：帮助中心 -
推理模型量化
![]()
推理模型量化 使用AWQ量化 使用SmoothQuant量化 使用kv-cache-int8量化 使用GPTQ量化 使用llm-compressor工具量化 父主题： 主流开源大模型基于DevServer适配PyTorch NPU推理指导（6.3.909）
来自：帮助中心 -
推理模型量化
![]()
推理模型量化 使用AWQ量化 使用SmoothQuant量化 使用kv-cache-int8量化 父主题： 主流开源大模型基于DevServer适配PyTorch NPU推理指导（6.3.906）
来自：帮助中心 -
下载轻量化文件
![]()
下载轻量化文件 功能介绍 下载轻量化文件 文件轻量化完成后，会以目录文件夹的形式存储在系统中，通过查询轻量化任务状态能够获取到轻量化文件的存储目录，即属性lightweight_file_path的值。该目录下会存在大量的轻量化文件，这些文件信息会存储在该目录下的Configurations
来自：帮助中心 -
使用SmoothQuant量化
![]()
--per-token：激活值量化方法，若指定则为per-token粒度量化，否则为per-tensor粒度量化。 --per-channel：权重量化方法，若指定则为per-channel粒度量化，否则为per-tensor粒度量化。 启动smoothQuant量化服务。 参考Step6
来自：帮助中心 -
推理模型量化
![]()
推理模型量化 使用AWQ量化 使用SmoothQuant量化 使用kv-cache-int8量化 父主题： 主流开源大模型基于DevServer适配PyTorch NPU推理指导（6.3.907）
来自：帮助中心 -
推理模型量化
![]()
推理模型量化 使用AWQ量化 使用SmoothQuant量化 使用kv-cache-int8量化 使用GPTQ量化 父主题： 主流开源大模型基于Lite Cluster适配PyTorch NPU推理指导（6.3.909）
来自：帮助中心 -
推理模型量化
![]()
推理模型量化 使用AWQ量化工具转换权重 使用SmoothQuant量化工具转换权重 使用kv-cache-int8量化 使用GPTQ量化 父主题： 主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.908）
来自：帮助中心 -
使用SmoothQuant量化
![]()
--per-token：激活值量化方法，若指定则为per-token粒度量化，否则为per-tensor粒度量化。 --per-channel：权重量化方法，若指定则为per-channel粒度量化，否则为per-tensor粒度量化。 启动smoothQuant量化服务。 参考步骤六 启
来自：帮助中心 -
推理模型量化
![]()
推理模型量化 使用AWQ量化工具转换权重 使用SmoothQuant量化工具转换权重 使用kv-cache-int8量化 使用GPTQ量化 父主题： 主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.909）
来自：帮助中心 -
内容数据量化
![]()
-
Python
![]()
下载SDK的最新版本。 获取并安装Python安装包（可使用2.7或3.X），如果未安装，请至Python官方下载页面下载。 获取并安装IntelliJ IDEA，如果未安装，请至IntelliJ IDEA官方网站下载。 已在IntelliJ IDEA中安装Python插件，如果未安装，请按照图1所示安装。
来自：帮助中心 -
Python
![]()
Python 本文档所述Demo在提供服务的过程中，可能会涉及个人数据的使用，建议您遵从国家的相关法律采取足够的措施，以确保用户的个人数据受到充分的保护。 本文档所述Demo仅用于功能演示，不允许客户直接进行商业使用。 本文档信息仅供参考，不构成任何要约或承诺。 发送短信 # -*-
来自：帮助中心 -
Python
![]()
Secret等信息，具体参见认证前准备。 获取并安装Python安装包（可使用2.7.9+或3.X），如果未安装，请至Python官方下载页面下载。 Python安装完成后，在命令行中使用pip安装“requests”库。 pip install requests 如果pip安装
来自：帮助中心 -
Python
![]()
Python 样例 语音回呼场景API、获取录音文件下载地址API、呼叫状态通知API、话单通知API 环境要求 Python 3.0及以上版本。 引用库 requests 2.18.1 请自行下载安装Python 3.x，并完成环境配置。 打开命令行窗口，执行pip install
来自：帮助中心 -
Python
![]()
-
Python
![]()
X版本，如果未安装，请至Python官方下载页面下载。 Python安装完成后，在cmd/shell窗口中使用pip安装“requests”库。 pip install requests 如果pip安装requests遇到证书错误，请下载并使用Python执行此文件，升级pip，然后再执行以上命令安装。
来自：帮助中心 -
Python
![]()
。 已安装Python安装包2.7.9或3.X版本，如果未安装，请至Python官方下载页面下载。 已安装IntelliJ IDEA 2018.3.5或以上版本，如果未安装，请至IntelliJ IDEA官方网站下载。 已在IntelliJ IDEA中安装Python插件，如果未安装，请按照图1所示安装。
来自：帮助中心 -
Python
![]()
Python 分段上传Python语言的示例代码，如下所示： import base64 import hashlib import os import re import xml.etree.ElementTree as ET import requests from huaweicloudsdkcore
来自：帮助中心 -
推理模型量化
![]()
推理模型量化 使用AWQ量化工具转换权重 使用SmoothQuant量化工具转换权重 使用kv-cache-int8量化 父主题： 主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.907）
来自：帮助中心
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
