模型部署形态和部署说明
模型名称 | 云上部署 | 边缘部署 |
|---|---|---|
DeepSeek-R1-distill-Qwen-32B | 支持,2推理单元起部署 | 支持,2推理单元起部署 |
DeepSeek-R1-distill-LLama-70B | 支持,4推理单元起部署 | 支持,4推理单元起部署 |
DeepSeek-R1-distill-LLama-8B | 支持,1推理单元起部署 | 支持,1推理单元起部署 |
Qwen3-235B-A22B | 支持,16推理单元起部署 | 支持,16推理单元起部署 |
Qwen3-32B | 支持,2推理单元起部署 | 支持,2推理单元起部署 |
Qwen3-30B-A3B | 支持,2推理单元起部署 | 支持,2推理单元起部署 |
Qwen3-14B | 支持,1推理单元起部署 | 支持,1推理单元起部署 |
Qwen3-8B | 支持,1推理单元起部署 | 支持,1推理单元起部署 |
Qwen2.5-72B | 支持,4推理单元起部署 | 支持,4推理单元起部署 |
QWQ-32B | 支持,4推理单元起部署 | 支持,4推理单元起部署 |

