NAT转换适配 如果设备与NetEco 服务器 之间的网络做了NAT转换，为保障南向设备与NetEco侧设备间正常通信，用户需要在NetEco进行NAT转换配置。 前提条件 已具备“NAT转换配置”操作权限。 已规划好要转换的目标IP地址。 已设置完成客户网络侧的NAT设备映射关系。

查看更多 →

查询条件转换工具 操作场景 工业数字模型驱动引擎-数据建模引擎（xDM Foundation，简称xDM-F）提供了JSON&SQL的转换工具。用户可以根据页面提供的添加分组，设置分组下的规则入口，帮助用户更简洁方便的查询转换工具。 前提条件 已登录应用运行态。 操作步骤 在左侧导航栏中，选择“数据服务管理

查看更多 →

在左侧导航栏中，选择“数据服务管理 > 查询条件转换工具”，进入查询条件转换工具页面。 默认展示一个大的分组。 图1 查询条件转换工具 在分组转换页面，设置分组。 根据实际需求，进行如下设置： 单击“增加分组”，新增分组。 单击，添加分组下的规则。 单击，删除分组下的规则。 单击“删除分组”，删除分组。

查看更多 →

to_awq.html。 Step2 权重格式离线转换（可选） AutoAWQ量化完成后，使用int32对int4的权重进行打包。昇腾上使用int8对权重进行打包，在线转换会增加启动时间，可以提前对权重进行转换以减少启动时间，转换步骤如下： 进入llm_tools/AutoAWQ代码目录下执行以下脚本：

查看更多 →

使用AWQ量化工具转换权重 AWQ(W4A16)量化方案能显著降低模型显存以及需要部署的卡数。降低小batch下的增量推理时延。支持AWQ量化的模型列表请参见表1。 本章节介绍如何在Notebook使用AWQ量化工具实现推理量化，量化方法为per-group。 Step1 模型量化

查看更多 →

utoAWQ工具进行量化。 方式一：从开源社区下载发布的AWQ量化模型。 https://huggingface.co/models?sort=trending&search=QWEN+AWQ 方式二：使用AutoAWQ量化工具进行量化。 1、使用该量化工具，需要切换conda环境。

查看更多 →

使用AWQ量化工具转换权重 AWQ(W4A16)量化方案能显著降低模型显存以及需要部署的卡数。降低小batch下的增量推理时延。支持AWQ量化的模型列表请参见支持的模型列表和权重文件。 本章节介绍如何在Notebook使用AWQ量化工具实现推理量化，量化方法为per-group。

查看更多 →

to_awq.html。 Step2 权重格式离线转换（可选） AutoAWQ量化完成后，使用int32对int4的权重进行打包。昇腾上使用int8对权重进行打包，在线转换会增加启动时间，可以提前对权重进行转换以减少启动时间，转换步骤如下： 进入llm_tools/AutoAWQ代码目录下执行以下脚本：

查看更多 →

to_awq.html。 Step2 权重格式离线转换（可选） AutoAWQ量化完成后，使用int32对int4的权重进行打包。昇腾上使用int8对权重进行打包，在线转换会增加启动时间，可以提前对权重进行转换以减少启动时间，转换步骤如下： 进入llm_tools/AutoAWQ代码目录下执行以下脚本：

查看更多 →

本章节介绍如何在Notebook使用SmoothQuant量化工具实现推理量化。 SmoothQuant量化工具使用到的脚本存放在代码包AscendCloud-LLM-x.x.x.zip的llm_tools目录下。 代码目录如下: AutoSmoothQuant #量化工具 ├── asc

查看更多 →

本章节介绍如何在Notebook使用SmoothQuant量化工具实现推理量化。 SmoothQuant量化工具使用到的脚本存放在代码包AscendCloud-LLM-x.x.x.zip的llm_tools目录下。 代码目录如下: AutoSmoothQuant #量化工具 ├── asc

查看更多 →

式的镜像的相互转换。 zvhd和zvhd2是云服务内部自研格式，qemu-img工具无法识别这两种格式的镜像文件。如需将镜像文件转换为这两种格式，请使用自研qemu-img-hw工具，详细指导参见转换镜像格式（qemu-img-hw）。 vhd格式镜像在执行命令转换格式时请使用vpc代替。

查看更多 →

本章节介绍如何在Notebook使用SmoothQuant量化工具实现推理量化。 SmoothQuant量化工具使用到的脚本存放在代码包AscendCloud-LLM-x.x.x.zip的llm_tools目录下。 代码目录如下: AutoSmoothQuant #量化工具 ├── asc

查看更多 →

本章节介绍如何在Notebook使用SmoothQuant量化工具实现推理量化。 SmoothQuant量化工具使用到的脚本存放在代码包AscendCloud-LLM-x.x.x.zip的llm_tools目录下。 代码目录如下: AutoSmoothQuant #量化工具 ├── asc

查看更多 →

本章节介绍如何在Notebook使用SmoothQuant量化工具实现推理量化。 SmoothQuant量化工具使用到的脚本存放在代码包AscendCloud-LLM-x.x.x.zip的llm_tools目录下。 代码目录如下: AutoSmoothQuant #量化工具 ├── asc

查看更多 →

NAT网关 NAT NAT私网网关绑定指定VPC资源 父主题： 系统内置预设策略

查看更多 →

使用SmoothQuant量化工具转换权重 SmoothQuant(W8A8)量化方案能降低模型显存以及需要部署的卡数。也能同时降低首token时延和增量推理时延。支持SmoothQuant(W8A8)量化的模型列表请参见表1。 本章节介绍如何在Notebook使用SmoothQuant量化工具实现推理量化。

查看更多 →

None 服务介绍 NAT网关 服务介绍 03:17 NAT网关介绍 操作指导 NAT网关 介绍怎样配置SNAT访问公网 01:59 使用SNAT访问公网 NAT网关 介绍怎样配置DNAT为云主机面向公网提供服务 01:58 使用DNAT为公网提供服务

查看更多 →

/v3/{project_id}/private-nat/dnat-rules nat:privateNatDnatRules:create - DELETE /v3/{project_id}/private-nat/dnat-rules/{dnat_rule_id} nat:privateNatDnatRules:delete

查看更多 →

企业内部存在NAT转换场景 组网需求 配置思路 数据规划 配置全局白名单 配置天关（USG6502E-C/USG6503E-C） 配置天关（USG6603F-C） 结果验证 父主题： 典型配置案例

查看更多 →

私网NAT支持云专线的IP转换吗？ 支持。在创建DNAT规则时，选择自定义模式，可添加通过云专线接入的客户云下IP。 父主题： 私网NAT网关

查看更多 →