弹性文件服务 SFS 

 

提供按需扩展的高性能文件存储(NAS),可为云上多个弹性云服务器(Elastic Cloud Server,ECS),容器(CCE&CCI),裸金属服务器(BMS)提供共享访问。

 
 
 

    obs sfs 更多内容
  • 准备工作

    准备工作 准备资源 准备数据 准备权重 准备代码 准备镜像 父主题: 主流开源大模型基于Standard+OBS+SFS适配PyTorch NPU训练指导(6.3.910)

    来自:帮助中心

    查看更多 →

  • 准备工作

    准备工作 准备资源 准备数据 准备权重 准备代码 准备镜像 父主题: 主流开源大模型基于Standard+OBS+SFS适配PyTorch NPU训练指导(6.3.911)

    来自:帮助中心

    查看更多 →

  • 准备工作

    准备工作 准备资源 准备数据 准备权重 准备代码 准备镜像 父主题: 主流开源大模型基于Standard+OBS+SFS适配PyTorch NPU训练指导(6.3.908)

    来自:帮助中心

    查看更多 →

  • 常见错误原因和解决方法

    常见错误原因和解决方法 显存溢出错误 网卡名称错误 父主题: 主流开源大模型基于Standard+OBS+SFS适配PyTorch NPU训练指导(6.3.910)

    来自:帮助中心

    查看更多 →

  • 常见错误原因和解决方法

    常见错误原因和解决方法 显存溢出错误 网卡名称错误 父主题: 主流开源大模型基于Standard+OBS+SFS适配PyTorch NPU训练指导(6.3.909)

    来自:帮助中心

    查看更多 →

  • 如何调用SFS容量型/SFS Turbo API

    如何调用SFS容量型/SFS Turbo API 构造请求 认证鉴权 返回结果

    来自:帮助中心

    查看更多 →

  • 准备工作

    准备工作 准备资源 准备数据 准备权重 准备代码 准备镜像 父主题: 主流开源大模型基于Standard+OBS+SFS适配PyTorch NPU训练指导(6.3.909)

    来自:帮助中心

    查看更多 →

  • 快速部署

    登录华为云解决方案实践,选择“基于OBS SFS Turbo实现AI云存储加速”。 图1 解决方案实施库 单击“一键部署”,跳转至该解决方案创建资源栈部署界面。 图2 一键部署 单击“下一步”,参考表1完成自定义参数填写。user_id通过统一身份认证服务-用户查询IAM用户ID。 图3

    来自:帮助中心

    查看更多 →

  • 常见错误原因和解决方法

    常见错误原因和解决方法 显存溢出错误 网卡名称错误 父主题: 主流开源大模型基于Standard+OBS+SFS适配PyTorch NPU训练指导(6.3.911)

    来自:帮助中心

    查看更多 →

  • 设置对象存储挂载参数

    capacity: storage: 1Gi # 对象存储容量大小 csi: driver: obs.csi.everest.io # 挂载依赖的存储驱动 fsType: obsfs # 实例类型 volumeHandle:

    来自:帮助中心

    查看更多 →

  • 创建SFS Turbo

    创建SFS Turbo 功能介绍 SFS Turbo提供按需扩展的高性能文件存储NAS),可为云上多个弹性 服务器 (Elastic Cloud Server,E CS ),容器(CCE&CCI),裸金属服务器(BMS)提供共享访问,能够弹性伸缩至320TB规模,具备高可用性和持久性

    来自:帮助中心

    查看更多 →

  • SFS授权项分类

    /v2/{project_id}/sfs/{share_id}/tags sfs:tags:addShareTags √ × 删除共享标签 DELETE /v2/{project_id}/sfs/{share_id}/tags/{key} sfs:tags:deleteShareTags

    来自:帮助中心

    查看更多 →

  • 场景介绍

    本文档适用于OBS+SFS Turbo的数据存储方案,不适用于仅使用OBS存储方案。通过OBS 对象存储服务 (Object Storage Service)与SFS Turbo文件系统联动,可以实现数据灵活管理、高性能读取数据等。通过OBS上传训练所需的模型文件、训练数据等,再将OBS中的数据文件导入到SFS

    来自:帮助中心

    查看更多 →

  • 通过动态存储卷使用对象存储

    实例类型,支持“obsfs”与“s3fs”。 obsfs:并行文件系统,配套使用obsfs挂载。 s3fs:对象桶,配套使用s3fs挂载。 csi.storage.k8s.io/node-publish-secret-name 否 自定义密钥的名称。 如果您需要为不同OBS存储分配不同的

    来自:帮助中心

    查看更多 →

  • 训练脚本说明

    训练脚本说明 训练启动脚本说明和参数配置 训练的数据集预处理说明 训练的权重转换说明 训练tokenizer文件说明 父主题: 主流开源大模型基于Standard+OBS+SFS适配PyTorch NPU训练指导(6.3.910)

    来自:帮助中心

    查看更多 →

  • 训练脚本说明

    训练脚本说明 训练启动脚本说明和参数配置 训练的数据集预处理说明 训练的权重转换说明 训练tokenizer文件说明 父主题: 主流开源大模型基于Standard+OBS+SFS适配PyTorch NPU训练指导(6.3.911)

    来自:帮助中心

    查看更多 →

  • 模型训练存储加速

    HPC型文件系统来加速对OBS对象存储中的数据访问,并将生成的结果数据异步持久化到OBS对象存储中长期低成本保存。 图1 基于OBS+SFS Turbo的存储解决方案 OBS + SFS Turbo存储加速的具体方案请查看: 面向AI场景使用OBS+SFS Turbo的存储加速实践。

    来自:帮助中心

    查看更多 →

  • SAP HANA基于文件的备份

    华为云OBS提供了obsutil、obsftp、obsfsOBS Browser+等多种客户端工具,支持将backup数据传输至OBS。同时,华为云也提供了将SAP HANA的备份文件上传到OBS的示例脚本,详细信息请参见《SAP备份上传OBS最佳实践》。 提升备份数据传输到OBS的性能

    来自:帮助中心

    查看更多 →

  • 实施步骤

    实施步骤 创建资源 基本配置 训练 例行维护 父主题: 面向AI场景使用OBS+SFS Turbo的存储加速实践

    来自:帮助中心

    查看更多 →

  • 训练脚本说明

    训练脚本说明 训练启动脚本说明和参数配置 训练的数据集预处理说明 训练的权重转换说明 训练tokenizer文件说明 父主题: 主流开源大模型基于Standard+OBS+SFS适配PyTorch NPU训练指导(6.3.908)

    来自:帮助中心

    查看更多 →

  • 训练脚本说明

    训练脚本说明 训练启动脚本说明和参数配置 训练的数据集预处理说明 训练的权重转换说明 训练tokenizer文件说明 父主题: 主流开源大模型基于Standard+OBS+SFS适配PyTorch NPU训练指导(6.3.909)

    来自:帮助中心

    查看更多 →

共105条
看了本文的人还看了