文档首页/ AI开发平台ModelArts/ 最佳实践/ DeepSeek&Qwen3基于Lite Server&Cluster推理/ 开源大模型基于Lite Cluster适配NPU的混部推理解决方案/ 权重量化补充说明

更新时间：2025-12-15 GMT+08:00

查看PDF

权重量化补充说明

父主题： 开源大模型基于Lite Cluster适配NPU的混部推理解决方案

上一篇：主机故障

下一篇：W8A8量化替换配置文件 - config.json

相关文档

意见反馈

文档内容是否对您有帮助？

有帮助没帮助

提供反馈

提交成功！非常感谢您的反馈，我们会继续努力做到更好！您可在我的云声建议查看反馈及问题处理状态。

系统繁忙，请稍后重试

在使用文档中是否遇到以下问题

内容与产品页面不一致

内容不易理解

缺失示例代码

步骤不可操作

搜不到想要的内容

缺少最佳实践

意见反馈（选填）

0/500

请至少选择一项反馈信息并填写问题反馈

字符长度不能超过500

直接提交取消

如您有其它疑问，您也可以通过华为云社区问答频道来与我们联系探讨

盘古Doer提问云社区提问