更新时间:2026-10-21 GMT+08:00
分享

系统约束

表1 A5系统约束

序号

限制和约束说明

影响说明

1

5808故障,会造成超节点内网络闪断2s。

影响范围:整个超节点1K,业务性能少量下降;业务出现闪断,需要重启或者具备Token级重推等特性来容错。

2

SFU和ROCE板故障,会造成超节点内网络闪断。

影响范围:不同的故障模式会导致不同程度的业务性能下降;如果维修,则需要授权整柜(SFU板故障)或者半柜(RoCE板故障)进行维修。

3

小规格(8、16、32、40、48卡)仅支持POC测试验证。

小规格(8、16、32、40、48卡)仅支持POC,不支持商用,整柜(64卡)及其以上规格可商用。

4

A5容器场景需要开启主机网络。

作业容器实例开启主机网络的场景下,单节点如部署多个作业容器实例会产生端口冲突的可能。如需要此种部署方式需要业务容器主动配置使用的端口号,避免多个业务容器使用相同的端口。

5

杀P(Prefill)补D(Decode)特性只在客户只部署一个实例,且D数量为1的时候触发。

对于部署多个推理实例的,则不支持杀P补D。

6

参数面监控指标缺失(全量清单还在分析,例如丢包的指标缺失)。

参数面的现网定位效率会降低。

7

参数面在容器使用场景需要开启指定的内核能力。

POD的securityContext.capabilities需要增加IPC_LOCK、NET_RAW和NET_ADMIN能力

8

训练作业亲和调度限制。

如果亲和调度约束为同一机柜中(Slice),调度只能保证Group在同一机柜,但是无法保证所有的机柜都是同一个超节点。

如果亲和调度约束同一超平面网络中(HyperinstanceGroup),调度只能保证Group在同一超平面网络,但是无法保证整柜。

相关文档