-
查询ELBv3资源明细
![]()
查询ELBv3资源明细 功能 查询ELBv3资源明细。 SLA项 定义 请求成功率 >=99.9% 可用性 Tair1 数据一致性 最终一致，不一致时长<1分钟 吞吐量 4000tps TP50请求时延 2ms TP99.9请求时延 5ms 注意事项 无 调用方法 GET URI
来自：帮助中心 -
删除token
![]()
吞吐量(medium) 5tps 吞吐量(large) 5tps TP50请求时延 200ms TP99.9请求时延 500ms 注意事项 无 调用方法 DELETE URI /controller/v2/tokens 路径参数 无 查询参数 无 请求 请求header参数 请参见请求示例中header描述。
来自：帮助中心 -
状态分布
![]()
最终一致，不一致时长<1分钟 吞吐量 4000tps TP50请求时延 3000ms TP99.9请求时延 3000ms 注意事项 无 调用方法 GET URI /rest/gaia/cloudservicestatus/v1/status/distribute 路径参数 无 查询参数 无 请求 请求header参数
来自：帮助中心 -
根据Domain id删除所有Domain数据
![]()
SLA项 定义 请求成功率 >=99.9% 可用性 Tair1 数据一致性 最终一致，不一致时长<1分钟 吞吐量 4000tps TP50请求时延 2ms TP99.9请求时延 5ms 注意事项 无 调用方法 DELETE URI /rest/gaia/v1/homs/hcso/delete/{domainId}
来自：帮助中心 -
显存溢出错误
![]()
to avoid fragmentation. 解决方法 通过npu-smi info查看是否有进程资源占用NPU，导致训练时显存不足。解决可通过kill掉残留的进程或等待资源释放。 可调整参数：TP张量并行（tensor-model-parallel-size） 和PP流水线并行（
来自：帮助中心 -
显存溢出错误
![]()
avoid fragmentation. 解决方法： 通过npu-smi info查看是否有进程资源占用NPU，导致训练时显存不足。解决可通过kill掉残留的进程或等待资源释放。 可调整参数：TP张量并行（tensor-model-parallel-size） 和PP流水线并行（
来自：帮助中心 -
显存溢出错误
![]()
avoid fragmentation. 解决方法： 通过npu-smi info查看是否有进程资源占用NPU，导致训练时显存不足。解决可通过kill掉残留的进程或等待资源释放。 可调整参数：TP张量并行（tensor-model-parallel-size） 和PP流水线并行（
来自：帮助中心 -
显存溢出错误
![]()
to avoid fragmentation. 解决方法 通过npu-smi info查看是否有进程资源占用NPU，导致训练时显存不足。解决可通过kill掉残留的进程或等待资源释放。 可调整参数：TP张量并行（tensor-model-parallel-size） 和PP流水线并行（
来自：帮助中心 -
显存溢出错误
![]()
avoid fragmentation. 解决方法： 通过npu-smi info查看是否有进程资源占用NPU，导致训练时显存不足。解决可通过kill掉残留的进程或等待资源释放。 可调整参数：TP张量并行（tensor-model-parallel-size） 和PP流水线并行（
来自：帮助中心 -
显存溢出错误
![]()
to avoid fragmentation. 解决方法 通过npu-smi info查看是否有进程资源占用NPU，导致训练时显存不足。解决可通过kill掉残留的进程或等待资源释放。 可调整参数：TP张量并行（tensor-model-parallel-size） 和PP流水线并行（
来自：帮助中心 -
显存溢出错误
![]()
to avoid fragmentation. 解决方法 通过npu-smi info查看是否有进程资源占用NPU，导致训练时显存不足。解决可通过kill掉残留的进程或等待资源释放。 可调整参数：TP张量并行（tensor-model-parallel-size） 和PP流水线并行（
来自：帮助中心 -
显存溢出错误
![]()
to avoid fragmentation. 解决方法 通过npu-smi info查看是否有进程资源占用NPU，导致训练时显存不足。解决可通过kill掉残留的进程或等待资源释放。 可调整参数：TP张量并行（tensor-model-parallel-size） 和PP流水线并行（
来自：帮助中心 -
显存溢出错误
![]()
to avoid fragmentation. 解决方法 通过npu-smi info查看是否有进程资源占用NPU，导致训练时显存不足。解决可通过kill掉残留的进程或等待资源释放。 可调整参数：TP张量并行（tensor-model-parallel-size） 和PP流水线并行（
来自：帮助中心 -
显存溢出错误
![]()
avoid fragmentation. 解决方法： 通过npu-smi info查看是否有进程资源占用NPU，导致训练时显存不足。解决可通过kill掉残留的进程或等待资源释放。 可调整参数：TP张量并行（tensor-model-parallel-size） 和PP流水线并行（
来自：帮助中心 -
显存溢出错误
![]()
to avoid fragmentation. 解决方法 通过npu-smi info查看是否有进程资源占用NPU，导致训练时显存不足。解决可通过kill掉残留的进程或等待资源释放。 可调整参数：TP张量并行（tensor-model-parallel-size） 和PP流水线并行（
来自：帮助中心 -
显存溢出错误
![]()
to avoid fragmentation. 解决方法 通过npu-smi info查看是否有进程资源占用NPU，导致训练时显存不足。解决可通过kill掉残留的进程或等待资源释放。 可调整参数：TP张量并行（tensor-model-parallel-size） 和PP流水线并行（
来自：帮助中心 -
显存溢出错误
![]()
avoid fragmentation. 解决方法： 通过npu-smi info查看是否有进程资源占用NPU，导致训练时显存不足。解决可通过kill掉残留的进程或等待资源释放。 可调整参数：TP张量并行（tensor-model-parallel-size） 和PP流水线并行（
来自：帮助中心 -
显存溢出错误
![]()
to avoid fragmentation. 解决方法 通过npu-smi info查看是否有进程资源占用NPU，导致训练时显存不足。解决可通过kill掉残留的进程或等待资源释放。 可调整参数：TP张量并行（tensor-model-parallel-size） 和PP流水线并行（
来自：帮助中心 -
显存溢出错误
![]()
to avoid fragmentation. 解决方法 通过npu-smi info查看是否有进程资源占用NPU，导致训练时显存不足。解决可通过kill掉残留的进程或等待资源释放。 可调整参数：TP张量并行（tensor-model-parallel-size） 和PP流水线并行（
来自：帮助中心 -
应用场景
-
PD分离性能调优工具使用说明
![]()
传入的参数共15个，需要一一对应。 其中pd_benchmark_fixed_length.sh如下： pd_scale=${1:-"1p3d"} tp_num=${2:-"tp2"} request_rate_array_str=${3:-"1,2,3,4,5"} backend=${4:-"openai"}
来自：帮助中心
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
