准备Cluster环境
本文档中的模型运行环境是ModelArts Lite的Cluster,请参考本文档要求准备资源环境。
k8s Cluster资源配置
若已完成集群资源购买和开通,则需要对网络、存储、容器镜像等内容进行配置,请参考k8s Cluster环境配置详细流程。
k8s Cluster的容器中挂载存储支持OBS、SFS Turbo等方案,OBS支持静态挂载和动态挂载,而SFS Turbo仅支持静态挂载,详细的挂载操作流程可阅读通过静态存储卷使用已有极速文件存储和通过动态存储卷使用对象存储。

kubectl访问集群配置
本步骤需要在节点机器,对kubectl进行集群访问配置。
创建SFS Turbo
SFS Turbo HPC型文件系统为用户提供一个完全托管的共享文件存储。SFS Turbo文件系统支持无缝访问存储在OBS对象存储桶中的对象,用户可以指定SFS Turbo内的目录与OBS对象存储桶进行关联,然后通过创建导入导出任务实现数据同步。通过OBS与SFS Turbo存储联动,可以将最新的训练数据导入到SFS Turbo,然后在训练作业时挂载SFS Turbo到容器对应ckpt目录,实现分布式读取训练数据文件。
创建SFS Turbo文件系统前提条件:
- 创建SFS Turbo文件系统前,确认已有可用的VPC。
图6 创建SFS Turbo
- 需要由IAM用户设置SFS Turbo FullAccess权限,用于授权ModelArts云服务使用SFS Turbo。
详细操作指导请参考创建SFS Turbo文件系统。
其中,文件系统类型推荐选用500MB/s/TiB或1000MB/s/TiB,应用于AI大模型场景中。存储容量推荐使用 6.0~10.8TB ,以存储更多模型文件。
图7 SFS类型和容量选择
CCE集群关联SFS Turbo
- 选择“极速文件存储”,随后输入PVC名称。
- 选择“新建存储卷PV”,并单击“选择极速文件存储”。
- 进入选择页面,选择已经创建好的SFS Turbo,最后输入PV名称。
- 接下来需要通过访问集群节点,挂载SFS Turbo。
- 可通过SSH登录CCE集群中的某个节点,SSH使用的是EIP地址-。
- 创建/mnt/sfs_turbo目录作为挂载目录 ,命令如下。
mkdir /mnt/sfs_turbo
- SFS Turbo存储手动挂载到安装节点。登录弹性文件服务SFS控制台,进入文件系统列表后,进入指定SFS Turbo中获取挂载命令。
- 挂载完成后,可通过准备软件包、权重、训练数据集获取到代码和数据,并上传至/mnt/sfs_turbo路径下。