非必填。表示流水线并行中一个micro batch所处理的样本量。在流水线并行中，为了减少气泡时间，会将一个step的数据切分成多个micro batch。 该值与TP和PP以及模型大小相关，可根据实际情况进行调整。默认值为2。取值建议如下： Qwen-14B：2 Qwen-7B：2 Qwen-72B：1

查看更多 →

多个micro batch。 该值与TP和PP以及模型大小相关，可根据实际情况进行调整。 建议值单机1，双机2。 GBS 64 非必填。表示训练中所有机器一个step所处理的样本量。影响每一次训练迭代的时长。 建议值单机64，双机128。 TP 2 非必填。表示张量并行。默认值为2。

查看更多 →

batch。 该值与TP和PP以及模型大小相关，可根据实际情况进行调整。 默认值1。单机建议为1，双机建议为2。 GBS 64 非必填。表示训练中所有机器一个step所处理的样本量。影响每一次训练迭代的时长。默认值64。单机建议为64，双机建议为128。 TP 2 非必填。表示张量并行。默认值为2。

查看更多 →

用性。 API的TP99响应时长<3s 本条规则是MUST类型的基本规则，可保障API的高可用性。 要求从API网关到后端服务的API调用，99%的调用响应时长<3s，TP99响应时长就是满足百分之九十九的网络请求所需要的最低耗时。 TP99响应时长达标率=TP99响应时间符合要

查看更多 →

cro batch。 该值与TP和PP以及模型大小相关，可根据实际情况进行调整。 默认值为1。单机建议值为1，双机为2。 GBS 64 非必填。表示训练中所有机器一个step所处理的样本量。影响每一次训练迭代的时长。 建议值单机64，双机128。 TP 2 非必填。表示张量并行。默认值为2。

查看更多 →

cro batch。 该值与TP和PP以及模型大小相关，可根据实际情况进行调整。 默认值1。建议值单机1，双机2。 GBS 16 非必填。默认值：16；训练中所有机器一个step所处理的样本量。影响每一次训练迭代的时长，建议值单机16，双机32。 TP 8 非必填。张量并行。默认值为8。

查看更多 →

接入点，指提供专线接入服务的地理位置。在使用专线接入华为云之前，您需要咨询接入点的详细地址。 您可以自主选择运营商的专线，连接云专线接入点，并自助购买对应的端口资源，完成物理连接接入。 目前华为云向用户提供以下接入点信息，包括华为云接入点、合作方接入点、以及第三方接入点，方便用户选择和就近接入。

查看更多 →

ir_for_ma_output/Llama2-70B/pretrain TRAIN_ITERS=300 MBS=2 GBS=1024 TP=8 PP=8 WORK_DIR=/home/ma-user/ws sh scripts/llama2/llama2.sh # 第二台节点

查看更多 →

非必填。表示流水线并行中一个micro batch所处理的样本量。在流水线并行中，为了减少气泡时间，会将一个step的数据切分成多个micro batch。 该值与TP和PP以及模型大小相关，可根据实际情况进行调整。默认值为2。取值建议如下： Qwen-14B：2 Qwen-7B：2 Qwen-72B：1

查看更多 →

非必填。表示流水线并行中一个micro batch所处理的样本量。在流水线并行中，为了减少气泡时间，会将一个step的数据切分成多个micro batch。 该值与TP和PP以及模型大小相关，可根据实际情况进行调整。默认值为2。取值建议如下： Llama2-7B：4 Llama2-13B：4 Llama2-70B：2

查看更多 →

接入点，指提供专线接入服务的地理位置。在使用专线接入华为云之前，您需要咨询接入点的详细地址。 您可以自主选择运营商的专线，连接云专线接入点，并自助购买对应的端口资源，完成物理连接接入。 目前华为云向用户提供以下接入点信息，包括华为云接入点、合作方接入点、以及第三方接入点，方便用户选择和就近接入。

查看更多 →

接入点，指提供专线接入服务的地理位置。在使用专线接入华为云之前，您需要咨询接入点的详细地址。 您可以自主选择运营商的专线，连接云专线接入点，并自助购买对应的端口资源，完成物理连接接入。 目前华为云向用户提供以下接入点信息，包括华为云接入点、合作方接入点、以及第三方接入点，方便用户选择和就近接入。

查看更多 →

哪些设备可以与华为云进行VPN对接？ VPN支持标准IPsec协议，用户可以通过以下两个方面确认用户侧数据中心的设备能否与云进行对接： 设备是否具备IPsec功能和授权：请查询设备的特性列表获取是否支持IPsec VPN。 关于组网结构，要求用户侧数据中心有固定的公网IP或者经过

查看更多 →

哪些设备可以与华为云进行VPN对接？ VPN支持标准IPsec协议，用户可以通过以下两个方面确认用户侧数据中心的设备能否与云进行对接： 设备是否具备IPsec功能和授权：请查询设备的特性列表获取是否支持IPsec VPN。 关于组网结构，要求用户侧数据中心有固定的公网IP或者经过

查看更多 →

哪些设备可以与华为云进行VPN对接？ VPN支持标准IPsec协议，用户可以通过以下两个方面确认用户侧数据中心的设备能否与云进行对接： 设备是否具备IPsec功能和授权：请查询设备的特性列表获取是否支持IPsec VPN。 关于组网结构，要求用户侧数据中心有固定的公网IP或者经过

查看更多 →

试用例。 生成用例 在思维导图中，选中待生成用例的TP节点，鼠标右键单击该节点，在下拉列表中选择“生成用例”。 当节点中出现时，说明操作成功，此时生成的是草稿用例。 单击，页面右侧将滑出用例详情。 生成测试步骤时，只读取打上TP标签节点的第一层子节点，顺序根据ST的标签按照从上到下，依次递增。

查看更多 →

励金额，并按要求提交材料。 您须在激励生成后14个工作日内核对激励，超出时间未核对系统将默认激励失效。 操作步骤： 使用合作伙伴账号登录华为云。 单击页面右上角账号下拉框中的“伙伴中心”，进入伙伴中心。 在顶部导航栏中选择“权益 > 专职人员激励（FH）”。 在“激励确认”页面筛选待核对的激励，单击“核对激励”。

查看更多 →

义阈值。 TP99时延 TP99时延=完成99%的网络请求所需要的最短耗时。在APM中，所有的时延都是指TP99时延。 举例：假设总请求数为100个，它们的请求耗时分别为1s、2s、3s、4s……98s、99s、100s。若要完成99%的请求，我们至少需要99s，故TP99为99s。

查看更多 →

ed_dir_for_ma_output/Qwen-14B/pretrain TRAIN_ITERS=300 MBS=2 GBS=64 TP=8 PP=1 SEQ_LEN=4096 WORK_DIR=/home/ma-user/ws sh scripts/qwen/qwen.sh

查看更多 →

非必填。表示流水线并行中一个micro batch所处理的样本量。在流水线并行中，为了减少气泡时间，会将一个step的数据切分成多个micro batch。 该值与TP和PP以及模型大小相关，可根据实际情况进行调整。默认值为2。取值默认值如下： Llama2-7B：4 Llama2-13B：4 Llama2-70B：2

查看更多 →

用户本地电脑如何连接VPN？ 普通家庭宽带路由器、个人的移动终端设备、Windows主机自带的VPN服务（如L2TP）无法与云进行VPN对接。 与云下对接需要对端有支持标准IPsec协议的设备。 父主题： 组网与使用场景

查看更多 →