--per-token：激活值量化方法，如果指定则为per-token粒度量化，否则为per-tensor粒度量化。 --per-channel：权重量化方法，如果指定则为per-channel粒度量化，否则为per-tensor粒度量化。 启动smoothQuant量化服务。 参考Step6

查看更多 →

推理模型量化 使用AWQ量化 使用SmoothQuant量化 使用kv-cache-int8量化 使用GPTQ量化 使用llm-compressor工具量化 父主题： 主流开源大模型基于Server适配PyTorch NPU推理指导（6.3.909）

查看更多 →

推理模型量化 使用AWQ量化 使用SmoothQuant量化 使用kv-cache-int8量化 使用GPTQ量化 父主题： 主流开源大模型基于Lite Cluster适配PyTorch NPU推理指导（6.3.910）

查看更多 →

--per-token：激活值量化方法，如果指定则为per-token粒度量化，否则为per-tensor粒度量化。 --per-channel：权重量化方法，如果指定则为per-channel粒度量化，否则为per-tensor粒度量化。 启动smoothQuant量化服务。 参考步骤六

查看更多 →

推理模型量化 使用AWQ量化 使用SmoothQuant量化 使用kv-cache-int8量化 使用GPTQ量化 父主题： 主流开源大模型基于Lite Cluster适配PyTorch NPU推理指导（6.3.911）

查看更多 →

长度测量工具 单击进入长度测量工具栏，支持进行智能测量、测量线的长度和周长。 角度测量工具 单击进入角度测量工具栏，支持智能测量、测量线与线的夹角、面与面的夹角和线与面的夹角。 半径测量工具 支持测量正圆、弧形或壁面等的半径。 线性测量工具 单击进入线性测量工具栏，可以选择测量点到点、点到线

查看更多 →

--per-token：激活值量化方法，若指定则为per-token粒度量化，否则为per-tensor粒度量化。 --per-channel：权重量化方法，若指定则为per-channel粒度量化，否则为per-tensor粒度量化。 启动smoothQuant量化服务。 参考部署推理服务，使用量化后权重部署AWQ量化服务。

查看更多 →

推理模型量化 使用AWQ量化 使用SmoothQuant量化 使用kv-cache-int8量化 使用GPTQ量化 父主题： 主流开源大模型基于DevServer适配PyTorch NPU推理指导（6.3.908）

查看更多 →

--per-token：激活值量化方法，如果指定则为per-token粒度量化，否则为per-tensor粒度量化。 --per-channel：权重量化方法，如果指定则为per-channel粒度量化，否则为per-tensor粒度量化。 启动smoothQuant量化服务。 参考部署推理

查看更多 →

推理模型量化 使用AWQ量化工具转换权重 使用SmoothQuant量化工具转换权重 使用kv-cache-int8量化 使用GPTQ量化 父主题： 主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.910）

查看更多 →

推理模型量化 使用AWQ量化 使用SmoothQuant量化 使用kv-cache-int8量化 使用GPTQ量化 使用llm-compressor工具量化 父主题： 主流开源大模型基于Server适配PyTorch NPU推理指导（6.3.911）

查看更多 →

推理模型量化 使用AWQ量化工具转换权重 使用SmoothQuant量化工具转换权重 使用kv-cache-int8量化 父主题： 主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.907）

查看更多 →

推理模型量化 使用AWQ量化工具转换权重 使用SmoothQuant量化工具转换权重 使用kv-cache-int8量化 使用GPTQ量化 父主题： 主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.911）

查看更多 →

推理模型量化 使用AWQ量化工具转换权重 使用SmoothQuant量化工具转换权重 使用kv-cache-int8量化 父主题： 主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.906）

查看更多 →

--per-token：激活值量化方法，如果指定则为per-token粒度量化，否则为per-tensor粒度量化。 --per-channel：权重量化方法，如果指定则为per-channel粒度量化，否则为per-tensor粒度量化。 启动smoothQuant量化服务。 参考Step6

查看更多 →

景，则可以上传产品图片，将图片标注“合格”、“不合格”，通过训练部署模型，实现产品的质检。 物体检测 物体检测项目，是检测图片中物体的类别与位置。需要添加图片，用合适的框标注物体作为训练集，进行训练输出模型。适用于一张图片中要识别多个物体或者物体的计数等。可应用于园区人员穿戴规范检测和物品摆放的无人巡检。

查看更多 →

Engineer 培训与认证具备敏捷开发和管理以及实现企业DevOps转型能力的云服务DevOps高级工程师。 通过HCIP-Cloud Service DevOps Engineer认证，将证明您掌握端到端DevOps全流程，包括持续规划与设计、持续开发与集成、持续测试与反馈、持续安全与审计、

查看更多 →

融合性：充分体现教学环境与先进教学理念、教学模式、现代教育技术、学习科学的融合； 前瞻性：保证技术的先进性，包括但不限于物联网、人工智能、大数据等各种先进的技术；充分体现技术与先进教育理念的融合，技术赋能教育并为教育的实际需要服务； 整体性：软硬件基础环境一体化设计与建设；服务于教师开

查看更多 →

息参考； 对气象、降水等数据进行综合分析，判断不同时段下作物事宜播种的范围，动态展示春耕进度； 通过对温度、降水等气象数据的汇集，将现阶段与历史数据对比，给出气象对作物生长影响分析，给出建议调控，并对作物长势进行监测。 当前农业生产及管理部门的痛点： 农业政府 缺少基于卫星遥感&

查看更多 →

成长地图 | 华为云 IAM身份中心 IAM身份中心提供多账号统一身份管理与访问控制。可以统一管理企业中使用华为云的用户，一次性配置企业的身份管理系统与华为云的单点登录，以及所有用户对组织下账号的访问权限。 产品介绍 图说E CS 仅两个按钮时选用 立即使用 成长地图 由浅入深，带您玩转IAM身份中心

查看更多 →

000.00 每套 算法设计与优化服务 AI算法设计与优化-基础版 对人工智能场景为简单场景的企业或政府单位进行算法设计，形成可帮助算法能力较弱的技术人员完成后续开发的技术方案报告。简单场景工作量预计不超过17人天 300,000.00 每套 AI算法设计与优化-标准版 对人工智能场

查看更多 →