更新时间:2025-07-30 GMT+08:00
分享

模型部署形态和部署说明

模型名称

云上部署

边缘部署

DeepSeek-R1-distill-Qwen-32B

支持,2推理单元起部署

支持,2推理单元起部署

DeepSeek-R1-distill-LLama-70B

支持,4推理单元起部署

支持,4推理单元起部署

DeepSeek-R1-distill-LLama-8B

支持,1推理单元起部署

支持,1推理单元起部署

Qwen3-235B-A22B

支持,16推理单元起部署

支持,16推理单元起部署

Qwen3-32B

支持,2推理单元起部署

支持,2推理单元起部署

Qwen3-30B-A3B

支持,2推理单元起部署

支持,2推理单元起部署

Qwen3-14B

支持,1推理单元起部署

支持,1推理单元起部署

Qwen3-8B

支持,1推理单元起部署

支持,1推理单元起部署

Qwen2.5-72B

支持,4推理单元起部署

支持,4推理单元起部署

QWQ-32B

支持,4推理单元起部署

支持,4推理单元起部署

相关文档