更新时间:2024-03-27 GMT+08:00
分享

MoXing Framework简介

MoXing Framework模块为MoXing提供基础公共组件,例如访问华为云的OBS服务,和具体的AI引擎解耦,在ModelArts支持的所有AI引擎(TensorFlow、MXNet、PyTorch、MindSpore等)下均可以使用。目前,提供的MoXing Framework功能中主要包含操作OBS组件,即下文中描述的mox.file接口。

Moxing主要使用场景为提升从OBS读取和下载数据的易用性,适配对象为OBS对象桶,对于OBS并行文件系统部分接口可能存在问题,不建议使用。生产业务代码开发建议直接调用OBS Python SDK,详情请参见Python SDK接口概览

为什么要用mox.file

使用Python打开一个本地文件,如下所示:

1
2
with open('/tmp/a.txt', 'r') as f:
  print(f.read())

OBS目录以“obs://”开头,比如“obs://bucket/XXX.txt”。用户无法直接使用open方法打开OBS文件,上面描述的打开本地文件的代码将会报错。

OBS提供了很多方式和工具给用户使用,如SDK、API、console、OBS Browser等,ModelArts mox.file提供了一套更为方便的访问OBS的API,允许用户通过一系列模仿操作本地文件系统的API来操作OBS文件。例如,可以使用以下代码来打开一个OBS上的文件。

1
2
3
import moxing as mox
with mox.file.File('obs://bucket_name/a.txt', 'r') as f:
  print(f.read())

例如,列举一个本地路径会使用如下Python代码。

1
2
import os
os.listdir('/tmp/my_dir/')

如果要列举一个OBS路径,mox.file则需要如下代码:

1
2
import moxing as mox
mox.file.list_directory('obs://bucket_name/my_dir/')
分享:

    相关文档

    相关产品