使用AWQ量化 AWQ(W4A16/W8A16)量化方案能显著降低模型显存以及需要部署的卡数。降低小batch下的增量推理时延。支持AWQ量化的模型列表请参见表3。 本章节介绍如何使用AWQ量化工具实现推理量化。 量化方法：W4A16 per-group/per-channel，W8A16

查看更多 →

model：模型路径。 Step4 启动AWQ量化服务 参考部署推理服务，使用量化后权重部署AWQ量化服务。 注：Step3 创建服务启动脚本启动脚本中，服务启动命令需添加如下命令。 -q awq 或者--quantization awq 父主题： 推理模型量化

查看更多 →

使用GPTQ量化 当前版本使用GPTQ量化仅支持W8A16 perchannel的量化形式，使用W8A16的量化不仅可以保证精度在可接受的范围内，同时也有一定的性能收益。 GPTQ W8A16量化支持的模型请参见支持的模型列表和权重文件。 本章节介绍如何在GPU的机器上使用开源GPTQ量化工具GPTQ

查看更多 →

弱密码扫描，四合一全面检测资产脆弱性。 轻量化部署，一键扫描 依托于华为乾坤安全云服务，将扫描引擎部署在云端，客户侧无需安装任务软件。 扫描配置简单，一键扫描，简单易用。 精准修复优先级推荐， 识别真实风险 基于华为威胁信息库和机器学习智能评估技术，计算漏洞风险评分—漏洞优先级评级VPR。

查看更多 →

跨链交易 介绍 区块链 Cross-ChainA和区块链Cross-ChainB的交易过程。 配置权限 交易演示 父主题： 使用跨链服务

查看更多 →

在搜索框输入区块号可进行精准搜索。 交易列表 查看交易详情，包含交易ID、交易创建者、所在区块、合约名称、创建时间。在交易所在行单击“查看详情”可查看更多交易信息。 说明： 在交易列表上方的输入框输入交易ID，可进行精准搜索。 创建者组织或合约名称支持模糊搜索。 任意搜索条件中不包含交易ID，仅支持从

查看更多 →

浏览交易信息 查看各数字资产链通过数据面接口触发数字资产交易的详细情况，包含数字资产集合总量、数字资产发行总量、数字资产流转总量。通过对数据项整体分析，帮助用户进行数字资产运营。 操作步骤 登录DAC管理控制台，在页面左上方选择区域。 在左侧导航栏专享版下方，单击“总览”，进入“总览”页面。

查看更多 →

String 交易类型：普通交易（COMMON_TRANSACTION）、投票交易（VOTE_TRANSACTION） status String 交易状态 block_height Integer 交易所属区块高度 create_org String 交易发起组织 contract_name

查看更多 →

查询交易明细 商家在每日8点后可查看前一日24点前商品的交易明细并进行导出。 查询交易明细 进入卖家中心页面。 单击左侧导航的“结算管理 > 交易明细管理”,进入交易明细列表页面。 选择商品类型页签，输入查询条件，如订单号、账期、客户账号，筛选出需要查看的目标订单。 单击目标订单左侧的，查看该笔订单的交易明细。

查看更多 →

交易模式介绍 概述 顾问销售模式 代售模式 父主题： 云经销商伙伴

查看更多 →

原因分析 该机器在进行过某些Windows功能的启用或关闭后未进行重启。 处理方法 请重启机器。 must log in to complete the current configuration or the configuratio\r\nn in progress must be

查看更多 →

发起数字资产交易 通过接口触发数字资产发行、流转，并记录到区块中。 操作步骤 通过接口触发数字资产发行或流转，具体操作请参考SDK概述。 父主题： 数字资产专享版

查看更多 →

交易软件APP测试 目的 本文以交易软件APP为例进行介绍，通过分析查看测试报告信息，准确定位应用问题。 操作步骤 登录CodeArts首页，在顶部功能菜单区单击“服务 > 移动应用测试 ”，进入“兼容性测试”页面。 创建测试任务，选择任务参数并上传目标APP应用后，单击“提交任务”。

查看更多 →

交易明细查询 服务商在每月7日后可查看上月的商品交易明细。 前提条件 已完成商业信息认证，具体操作请参见商业信息认证 操作步骤 进入卖家中心页面。 点击左侧导航的“结算管理>交易明细管理”，进入交易明细管理页面。 选择商品类型页签，输入查询条件，如订单号、账期、客户账号，筛选出需

查看更多 →

候下板是可以执行的 计划与决策优化模型应用组件 天筹建模工具和天筹求解器是计划于决策优化模型应用组件的核心模块。小到快递员路线选择、商铺选址，大到工厂排程、物流路径规划和金融风控等问题，都可以建成数学规划模型，用天筹求解器进行求解。利用运筹优化算法和决策模型求解方法，将业务问题转

查看更多 →

--per-token：激活值量化方法，如果指定则为per-token粒度量化，否则为per-tensor粒度量化。 --per-channel：权重量化方法，如果指定则为per-channel粒度量化，否则为per-tensor粒度量化。 启动smoothQuant量化服务。 参考Step6

查看更多 →

--per-token：激活值量化方法，若指定则为per-token粒度量化，否则为per-tensor粒度量化。 --per-channel：权重量化方法，若指定则为per-channel粒度量化，否则为per-tensor粒度量化。 启动smoothQuant量化服务。 参考部署推理服务，使用量化后权重部署AWQ量化服务。

查看更多 →

推理模型量化 使用AWQ量化 使用SmoothQuant量化 使用kv-cache-int8量化 使用GPTQ量化 父主题： 主流开源大模型基于DevServer适配PyTorch NPU推理指导（6.3.908）

查看更多 →

--per-token：激活值量化方法，如果指定则为per-token粒度量化，否则为per-tensor粒度量化。 --per-channel：权重量化方法，如果指定则为per-channel粒度量化，否则为per-tensor粒度量化。 启动smoothQuant量化服务。 参考部署推理

查看更多 →

推理模型量化 使用AWQ量化工具转换权重 使用SmoothQuant量化工具转换权重 使用kv-cache-int8量化 使用GPTQ量化 父主题： 主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.910）

查看更多 →

推理模型量化 使用AWQ量化 使用SmoothQuant量化 使用kv-cache-int8量化 使用GPTQ量化 使用llm-compressor工具量化 父主题： 主流开源大模型基于Server适配PyTorch NPU推理指导（6.3.911）

查看更多 →