使用AWQ量化工具转换权重 AWQ(W4A16/W8A16)量化方案能显著降低模型显存以及需要部署的卡数。降低小batch下的增量推理时延。支持AWQ量化的模型列表请参见表1。 本章节介绍如何在Notebook使用AWQ量化工具实现推理量化。 量化方法：W4A16 per-group/per-channel

查看更多 →

使用AWQ量化工具转换权重 AWQ(W4A16/W8A16)量化方案能显著降低模型显存以及需要部署的卡数。降低小batch下的增量推理时延。支持AWQ量化的模型列表请参见支持的模型列表和权重文件。 本章节介绍如何在Notebook使用AWQ量化工具实现推理量化。 量化方法：W4A16

查看更多 →

安全办公园区解决方案 方案概述 部署指南

查看更多 →

本章节介绍如何在Notebook使用SmoothQuant量化工具实现推理量化。 SmoothQuant量化工具使用到的脚本存放在代码包AscendCloud-LLM-x.x.x.zip的llm_tools目录下。 代码目录如下: AutoSmoothQuant #量化工具 ├── asc

查看更多 →

本章节介绍如何在Notebook使用SmoothQuant量化工具实现推理量化。 SmoothQuant量化工具使用到的脚本存放在代码包AscendCloud-LLM-x.x.x.zip的llm_tools目录下。 代码目录如下: AutoSmoothQuant #量化工具 ├── asc

查看更多 →

使用AWQ量化工具转换权重 AWQ(W4A16/W8A16)量化方案能显著降低模型显存以及需要部署的卡数。降低小batch下的增量推理时延。支持AWQ量化的模型列表请参见支持的模型列表和权重文件。 本章节介绍如何在Notebook使用AWQ量化工具实现推理量化。 量化方法：W4A16

查看更多 →

使用AWQ量化工具转换权重 AWQ(W4A16)量化方案能显著降低模型显存以及需要部署的卡数。降低小batch下的增量推理时延。支持AWQ量化的模型列表请参见支持的模型列表和权重文件。 本章节介绍如何在Notebook使用AWQ量化工具实现推理量化，量化方法为per-group。

查看更多 →

使用SmoothQuant量化工具转换权重 SmoothQuant(W8A8)量化方案能降低模型显存以及需要部署的卡数。也能同时降低首token时延和增量推理时延。支持SmoothQuant(W8A8)量化的模型列表请参见表1。 本章节介绍如何在Notebook使用SmoothQuant量化工具实现推理量化。

查看更多 →

智慧物流园区功能操作说明 基础信息 资产管理 物业管理 综合安防 消防管理与能耗管理 财务管理 数据报表 系统管理 父主题： 软件操作指导

查看更多 →

研发能力流程级规划-增量包 一次性计费，根据您购买的“套数”进行计费。 672,000 套 测试自动化工厂能力规划 测试自动化工厂能力规划-基础版 一次性计费，根据您购买的“次数”进行计费。 1,008,888 次 测试自动化工厂能力规划-增量包 一次性计费，根据您购买的“次数”进行计费。 148,888

查看更多 →

城市园区室外三维模型生产 城市园区室外三维模型生产，主要适用于1万张照片以内的小规模数据及人工刺点处理等。数据处理方式采用常规流程。 本章节提供了一个城市园区室外三维模型生产的样例，介绍从新建工程到三维建模效果完成，帮助您快速熟悉实景三维建模开发的使用过程。 开始使用样例前，请仔

查看更多 →

，全方位助力客户提升软件研发能力。 服务内容 服务规格 服务内容 企业软件研发能力诊断-园区版 主要针对区域政府客户提供的批量企业诊断套餐，从多维度对10个团队的研发能力进行评估，展现企业研发能力的优势与不足，并给出提升优化建议和解决方案，牵引企业持续提升研发能力。园区版可叠加购买。

查看更多 →

本章节介绍如何在Notebook使用SmoothQuant量化工具实现推理量化。 SmoothQuant量化工具使用到的脚本存放在代码包AscendCloud-LLM-x.x.x.zip的llm_tools目录下。 代码目录如下: AutoSmoothQuant #量化工具 ├── asc

查看更多 →

本章节介绍如何在Notebook使用SmoothQuant量化工具实现推理量化。 SmoothQuant量化工具使用到的脚本存放在代码包AscendCloud-LLM-x.x.x.zip的llm_tools目录下。 代码目录如下: AutoSmoothQuant #量化工具 ├── asc

查看更多 →

本章节介绍如何在Notebook使用SmoothQuant量化工具实现推理量化。 SmoothQuant量化工具使用到的脚本存放在代码包AscendCloud-LLM-x.x.x.zip的llm_tools目录下。 代码目录如下: AutoSmoothQuant #量化工具 ├── asc

查看更多 →

性能可视化工具Ascend-Insight使用指导 对于高阶的调优用户，可以使用可视化profiling数据查看数据详情并分析可优化点。昇腾提供了Ascend-Insight可视化工具，相比于chrometrace等工具提供了更优的功能和性能。详细信息，请参见昇腾Ascend-Insight用户指南。

查看更多 →

随着国家双碳政策的持续深入推进，省级以上大型园区/省市所属园区、央国企等大型的能耗单位对于从能源双控向碳排双控转型的需求日趋强烈。 【场景一：能耗和碳排双控】 客户需求： 对园内设施设备全方位管控，推动能源系统的能效优化能力提升，为下一步节能技改提供数据支撑 增强环境品质管理、提高竞争力，降低园区运营成本 降碳责任重大，需要符合当地的碳排配额要求

查看更多 →

实例化工单方案与查询物料需求 实例化工单方案后再查询工单物料需求信息。 前提条件 已登录MBM Space，且拥有“工单操作台”和“物料需求生成”菜单栏目的操作权限。 已手工排产工单。 步骤1：实例化工单方案 在顶部导航栏中，选择“计划管理 > 工单方案 > 工单操作台”。 进入“工单操作台”页面。

查看更多 →

使用可视化工具连接 GaussDB (DWS)集群 使用SQL编辑器连接GaussDB(DWS)集群 使用Data Studio连接GaussDB(DWS)集群 父主题： 连接GaussDB(DWS)集群

查看更多 →

并联合客户基于测试自动化工厂平台输出4个接口的测试方案设计样例。（接口参数20个以内） 测试过程质量评估 基于以上测试方案设计内容，联合客户输出测试报告，并对该测试报告进行多维度质量指标的评估，给出优化指导建议。 测试自动化工厂能力规划-增量包 测试自动化工厂平台实践指导 联合客

查看更多 →

性能可视化工具与性能分析工具 对于高阶的调优用户，可以使用可视化profiling数据查看数据详情并分析可优化点，昇腾提供了Ascend-Insight可视化工具，相比于Chrometrace等工具提供了更优的功能和性能。详细信息，请参见昇腾Ascend-Insight用户指南。

查看更多 →