推理模型量化 使用AWQ量化工具转换权重 使用SmoothQuant量化工具转换权重 使用kv-cache-int8量化 使用GPTQ量化 父主题： 主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.911）

查看更多 →

推理模型量化 使用AWQ量化 使用SmoothQuant量化 使用kv-cache-int8量化 使用GPTQ量化 使用llm-compressor工具量化 父主题： 主流开源大模型基于Server适配PyTorch NPU推理指导（6.3.911）

查看更多 →

推理模型量化 使用AWQ量化工具转换权重 使用SmoothQuant量化工具转换权重 使用kv-cache-int8量化 父主题： 主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.907）

查看更多 →

推理模型量化 使用AWQ量化工具转换权重 使用SmoothQuant量化工具转换权重 使用kv-cache-int8量化 父主题： 主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.906）

查看更多 →

--per-token：激活值量化方法，如果指定则为per-token粒度量化，否则为per-tensor粒度量化。 --per-channel：权重量化方法，如果指定则为per-channel粒度量化，否则为per-tensor粒度量化。 启动smoothQuant量化服务。 参考Step6

查看更多 →

--per-token：激活值量化方法，若指定则为per-token粒度量化，否则为per-tensor粒度量化。 --per-channel：权重量化方法，若指定则为per-channel粒度量化，否则为per-tensor粒度量化。 启动smoothQuant量化服务。 参考部署推理服务，使用量化后权重部署AWQ量化服务。

查看更多 →

推理模型量化 使用AWQ量化 使用SmoothQuant量化 使用kv-cache-int8量化 使用GPTQ量化 父主题： 主流开源大模型基于DevServer适配PyTorch NPU推理指导（6.3.908）

查看更多 →

如何对模型工程进行版本管理？ 更多 智能客服 您好！我是有问必答知识渊博的的智能问答机器人，有问题欢迎随时求助哦！ 社区求助 华为云社区是华为云用户的聚集地。这里有来自容器服务的技术牛人，为您解决技术难题。

查看更多 →

旗舰版 适用于对机器人答准率有高要求，数据样本大的场景，包括以下功能模块： 包含“专业版”功能，以及以下功能。 深度学习模型训练 如何修改机器人规格 登录CBS控制台。 在智能问答机器人列表中，选择“操作”列的“规格修改”。 图1 规格修改 依据使用需求修改机器人的规格。 图2 修改问答机器人规格

查看更多 →

处理和对话机器人服务 ModelArts平台开发实验 介绍自动学习、数据管理、深度学习预置算法、深度学习自定义基础算法和进阶算法 本培训为线下面授形式，培训标准时长为9天，每班人数不超过20人。 验收标准 按照培训服务申请标准进行验收，客户以官网单击确认《培训专业服务签到表》作为验收合格依据。

查看更多 →

行更新。 学习率：优化算法的参数，决定优化器在最优方向上前进步长的参数。默认0.001。 初始梯度累加和：梯度累加和用来调整学习步长。默认0.1。 ftrl：Follow The Regularized Leader 适用于处理超大规模数据的,含大量稀疏特征的在线学习的常见优化算法。

查看更多 →

修改数据源特征 功能介绍 修改数据源中的特征。 调试 您可以在 API Explorer 中调试该接口。 URI PUT /v2.0/{project_id}/workspaces/{workspace_id}/data-sources/{datasource_id}/data-struct

查看更多 →

升级中心特征库无法升级 问题描述 特征库升级失败，提示连接升级服务器失败，请检查网络配置。 可能的原因 License授权问题，或者上游设备做了安全限制导致网络不通。 解决方法 本地授权版本，确认相应特征库已授权。 云端授权版本，确定乾坤云上该设备已经绑定边界防护与响应套餐，并且套餐状态为已部署。

查看更多 →

升级中心特征库无法升级 问题描述 特征库升级失败，提示连接升级服务器失败，请检查网络配置。 可能的原因 License授权问题，或者上游设备做了安全限制导致网络不通。 解决方法 本地授权版本，确认相应特征库已授权。 云端授权版本，确定乾坤云上该设备已经绑定边界防护与响应套餐，并且套餐状态为已部署。

查看更多 →

入侵防御”。单击“自定义IPS特征”中的“查看规则”，进入“自定义IPS特征”页面。 在“自定义IPS特征”页签中，单击列表右上角“添加自定义IPS特征”，填写规则如表 添加自定义IPS特征所示。 表1 添加自定义IPS特征 参数名称 参数说明 名称 需要添加的特征名称。 命名规则如下：

查看更多 →

的模型列表和权重文件。 本章节介绍如何在Notebook使用tensorRT量化工具实现推理量化。 Step1使用tensorRT量化工具进行模型量化 在GPU机器上使用tensorRT 0.9.0版本工具进行模型量化，工具下载使用指导请参见https://github.com/

查看更多 →

分和管理。 test 智能学习天数 HSS学习服务器应用进程的天数。学习天数越多，学习结果越准确。 7 学习结果确认方式 当HSS学习完策略关联的服务器后，对于特征不明显可疑进程的确认方式。 自动确认可疑进程：HSS根据应用进程特征库，自动确认并标记特征不明显的可疑应用进程。 手动确认可疑进程：您在“应用进程控制

查看更多 →

JupyterLab开发平台 创建特征工程 数据处理 模型训练 迁移学习 学件 模型归档 如何恢复异常的JupyterLab环境 父主题： 特征工程

查看更多 →

的模型列表和权重文件。 本章节介绍如何在Notebook使用tensorRT量化工具实现推理量化。 Step1使用tensorRT量化工具进行模型量化 在GPU机器上使用tensorRT 0.9.0版本工具进行模型量化，工具下载使用指导请参见https://github.com/

查看更多 →

的模型列表和权重文件。 本章节介绍如何在Notebook使用tensorRT量化工具实现推理量化。 Step1使用tensorRT量化工具进行模型量化 在GPU机器上使用tensorRT 0.9.0版本工具进行模型量化，工具下载使用指导请参见https://github.com/

查看更多 →

的模型列表和权重文件。 本章节介绍如何在Notebook使用tensorRT量化工具实现推理量化。 Step1使用tensorRT量化工具进行模型量化 在GPU机器上使用tensorRT 0.9.0版本工具进行模型量化，工具下载使用指导请参见https://github.com/

查看更多 →