文档首页/ MapReduce服务 MRS/ 用户指南/ 配置MRS集群存算分离/ 配置MRS集群通过Guardian对接OBS/ MRS集群服务对接OBS示例/ 配置HDFS通过Guardian访问OBS
更新时间：2025-07-25 GMT+08:00
查看PDF
分享

配置HDFS通过Guardian访问OBS

参考配置Guardian服务不启用Ranger OBS路径鉴权或配置Guardian服务启用Ranger OBS路径鉴权完成Guardian对接OBS后，即可在HDFS客户端查看和创建OBS文件目录。

前提条件

如果参考配置Guardian服务启用Ranger OBS路径鉴权完成Guardian对接OBS，还需参考Ranger权限配置在Ranger中为组件操作用户赋予OBS路径的“Read”和“Write”权限。

HDFS对接OBS

  1. 以客户端安装用户登录安装了HDFS客户端的节点。
  2. 执行以下命令，切换到客户端安装目录。 

    cd 客户端安装目录

  3. 执行以下命令配置环境变量。 

    source bigdata_env

  4. 如果集群启用了Kerberos认证，执行以下命令进行用户认证，该用户需具有OBS目录的读写权限。未启用Kerberos认证的集群无需执行用户认证。 

    kinit HDFS组件操作用户

  5. 在HDFS命令行访问OBS文件系统。

    例如：

    • 使用以下命令访问OBS文件系统。 
      hdfs dfs -ls obs://OBS并行文件系统名称/路径
    • 使用以下命令创建OBS文件系统下的目录： 
      hdfs dfs -mkdir obs://OBS并行文件系统名称/hadoop
    • 使用以下命令上传客户端节点“/opt/test.txt”文件到“obs://OBS并行文件系统名称/hadoop”路径下。 
      hdfs dfs -put /opt/test.txt obs://OBS并行文件系统名称/hadoop

      上传成功后，可到对应的OBS文件系统路径下查看。

修改OBS客户端日志级别

OBS文件系统打印大量日志可能导致读写性能受影响，可通过调整OBS客户端日志级别优化，日志调整方式如下：
  1. 切换至“hadoop”目录下： 
    cd 客户端安装目录/HDFS/hadoop/etc/hadoop
  2. 编辑“log4j.properties”文件： 
    vi  log4j.properties

    在文件中添加以下OBS日志级别配置，并保存：

    log4j.logger.org.apache.hadoop.fs.obs=WARN
log4j.logger.com.obs=WARN
  3. 可执行以下命令查看： 
    tail -4 log4j.properties

    查看到的结果如图1所示，表示修改日志级别成功。

    图1 添加OBS日志级别

Ranger权限配置

  1. 登录MRS集群Manager界面。

    登录集群Manager界面请参考访问MRS集群Manager。

  2. 选择“系统 > 权限 > 用户组 > 添加用户组”，创建一个空角色的用户组，例如“obs_hadoop”。
  3. 选择“系统 > 权限 > 用户 > 添加用户”，创建一个只关联用户组“obs_hadoop”的用户，例如“hadoopuser”。
  4. 使用rangeradmin用户登录Ranger管理页面。
  5. 在首页中单击“EXTERNAL AUTHORIZATION”区域的组件插件名称“OBS”。
  6. 单击“Add New Policy”，为新建的用户组添加相应OBS路径的“Read”和“Write”权限。

    例如，为用户组“obs_hadoop”添加“obs://OBS并行文件系统名称/hadoop”的“Read”和“Write”权限：

    图2 为Hadoop用户组新增OBS路径读和写的权限

    对接OBS后，如需通过Ranger配置组件关于OBS相关路径的权限策略，需确保OBS服务已开启AccessLabel功能，若未开启，需手动开启，详细操作请联系OBS服务运维人员。

父主题： MRS集群服务对接OBS示例

相关文档