应用场景

大语言模型训练

万亿级参数大语言模型（LLM）、多模态大模型（文本/图像/音频融合）、行业垂类大模型（如医疗、金融、法律）的分布式训练。

灵衢智算集群提供十万卡规模高速互联超节点集群，满足分布式集群训练要求；通过分布式文件系统及OBS分级存储，满足模型权重与训练数据管理要求；UB统一内存访问与昇腾HCCL集合通信，满足大模型训练高性能集合通信诉求。

大语言模型推理

大模型在线推理，如智能客服、多模态内容理解与生成（文本/图像/视频）、代码辅助、智能问答等。

大模型推理系统具备高并发，低延迟，弹性扩容，多模态数据等特点，灵衢智算集群通过模型推理性能优化，集群资源弹性扩容，多模态数据管理等能力满足模型推理诉求，满足客户低时延，高吞吐，流量高峰平滑扩容要求。

自动驾驶

自动驾驶涉及海量数据上云，大规模数据预处理，多类型模型的预训练，微调，强化学习，后训练（如感知、决策、规划、端到端模型）等，须具备海量数据存储与预处理，高性能加载，模型及算子调优，故障快速恢复等能力。灵衢智算集群通过高可用，高性能算力集群，灵活组合分布式文件及对象存储服务，模型调优等能力，满足自动驾驶场景诉求。