系统约束
| 序号 | 限制和约束说明 | 影响说明 |
|---|---|---|
| 1 | 5808故障,会造成超节点内网络闪断2s。 | 影响范围:整个超节点1K,业务性能少量下降;业务出现闪断,需要重启或者具备Token级重推等特性来容错。 |
| 2 | SFU和ROCE板故障,会造成超节点内网络闪断。 | 影响范围:不同的故障模式会导致不同程度的业务性能下降;如果维修,则需要授权整柜(SFU板故障)或者半柜(RoCE板故障)进行维修。 |
| 3 | 小规格(8、16、32、40、48卡)仅支持POC测试验证。 | 小规格(8、16、32、40、48卡)仅支持POC,不支持商用,整柜(64卡)及其以上规格可商用。 |
| 4 | A5容器场景需要开启主机网络。 | 作业容器实例开启主机网络的场景下,单节点如部署多个作业容器实例会产生端口冲突的可能。如需要此种部署方式需要业务容器主动配置使用的端口号,避免多个业务容器使用相同的端口。 |
| 5 | 杀P(Prefill)补D(Decode)特性只在客户只部署一个实例,且D数量为1的时候触发。 | 对于部署多个推理实例的,则不支持杀P补D。 |
| 6 | 参数面监控指标缺失(全量清单还在分析,例如丢包的指标缺失)。 | 参数面的现网定位效率会降低。 |
| 7 | 参数面在容器使用场景需要开启指定的内核能力。 | POD的securityContext.capabilities需要增加IPC_LOCK、NET_RAW和NET_ADMIN能力 |
| 8 | 训练作业亲和调度限制。 | 如果亲和调度约束为同一机柜中(Slice),调度只能保证Group在同一机柜,但是无法保证所有的机柜都是同一个超节点。 如果亲和调度约束同一超平面网络中(HyperinstanceGroup),调度只能保证Group在同一超平面网络,但是无法保证整柜。 |