更新时间:2024-05-16 GMT+08:00
分享

准备环境

本文档中的模型运行环境是ModelArts Lite的Cluster或DevServer。请参考本文档要求准备资源环境。

资源规格要求

计算规格:对于Qwen-7B和Qwen-14B单机训练需要使用单机8卡,多机训练需要使用2机16卡。对于Qwen-72B至少需要5机40卡才能训练,建议使用8机64卡执行训练相关任务。

硬盘空间:至少200GB。

Ascend资源规格:

  • Ascend: 1*ascend-snt9b表示Ascend单卡。
  • Ascend: 8*ascend-snt9b表示Ascend 8卡。

购买并开通资源

如果使用DevServer资源,请参考DevServer资源开通,购买DevServer资源,并确保机器已开通,密码已获取,能通过SSH登录,不同机器之间网络互通。

当容器需要提供服务给多个用户,或者多个用户共享使用该容器时,应限制容器访问Openstack的管理地址(169.254.169.254),以防止容器获取宿主机的元数据。具体操作请参见禁止容器获取宿主机元数据

分享:

    相关文档

    相关产品