更新时间:2025-11-04 GMT+08:00
模型部署形态和部署说明
|
模型名称 |
云上部署 |
边缘部署 |
|---|---|---|
|
DeepSeek-R1-distill-Qwen-32B |
支持,2推理单元起部署 |
支持,2推理单元起部署 |
|
DeepSeek-R1-distill-LLama-70B |
支持,4推理单元起部署 |
支持,4推理单元起部署 |
|
DeepSeek-R1-distill-LLama-8B |
支持,1推理单元起部署 |
支持,1推理单元起部署 |
|
Qwen3-235B-A22B |
支持,16推理单元起部署 |
支持,16推理单元起部署 |
|
Qwen3-32B |
支持,2推理单元起部署 |
支持,2推理单元起部署 |
|
Qwen3-30B-A3B |
支持,2推理单元起部署 |
支持,2推理单元起部署 |
|
Qwen3-14B |
支持,1推理单元起部署 |
支持,1推理单元起部署 |
|
Qwen3-8B |
支持,1推理单元起部署 |
支持,1推理单元起部署 |
|
Qwen2.5-72B |
支持,4推理单元起部署 |
支持,4推理单元起部署 |
|
QWQ-32B |
支持,4推理单元起部署 |
支持,4推理单元起部署 |
父主题: 部署三方大模型