上传数据至OBS并预热到SFS Turbo中
上传数据至OBS
下载ImageNet21K数据集,并上传ImageNet21K数据集至OBS,详细操作指导请参考上传数据至OBS。
将数据从OBS预热到SFS Turbo中
SFS Turbo HPC型文件系统绑定OBS桶后,可以使用数据预热功能,以减少后续训练首次访问数据耗时。
训练任务开始前可通过数据预热功能将文件元数据和数据内容全部从OBS导入到SFS Turbo高性能文件存储中,数据预热功能的具体操作请参考创建SFS Turbo 和 OBS 之间的联动任务。
![](https://support.huaweicloud.com/bestpractice-sfsturbo/public_sys-resources/note_3.0-zh-cn.png)
- 您可通过查询联动任务详情接口查看导入任务的完成状态。
- 如果您觉得数据集规模较小或数据集变化不太频繁,不需要通过数据联动来做数据导入导出,您可借助外部工具将数据从OBS迁移到SFS Turbo中,操作指导请参考OBS和SFS之间的数据迁移,推荐使用obsutil工具。