模型部署形态和部署说明
模型名称 |
云上部署 |
边缘部署 |
---|---|---|
DeepSeek-R1-distill-Qwen-32B |
支持,2推理单元起部署 |
支持,2推理单元起部署 |
DeepSeek-R1-distill-LLama-70B |
支持,4推理单元起部署 |
支持,4推理单元起部署 |
DeepSeek-R1-distill-LLama-8B |
支持,1推理单元起部署 |
支持,1推理单元起部署 |
Qwen3-235B-A22B |
支持,16推理单元起部署 |
支持,16推理单元起部署 |
Qwen3-32B |
支持,2推理单元起部署 |
支持,2推理单元起部署 |
Qwen3-30B-A3B |
支持,2推理单元起部署 |
支持,2推理单元起部署 |
Qwen3-14B |
支持,1推理单元起部署 |
支持,1推理单元起部署 |
Qwen3-8B |
支持,1推理单元起部署 |
支持,1推理单元起部署 |
Qwen2.5-72B |
支持,4推理单元起部署 |
支持,4推理单元起部署 |
QWQ-32B |
支持,4推理单元起部署 |
支持,4推理单元起部署 |