更新时间:2023-03-17 GMT+08:00

安装客户端(3.x之前版本)

操作场景

用户需要使用MRS客户端。MRS集群客户端可以安装在集群内的Master节点或者Core节点,也可以安装在集群外节点上。

MRS 3.x之前版本集群在集群创建后,在主Master节点默认安装有客户端,可以直接使用,安装目录为“/opt/client”。

MRS 3.x及之后版本客户端的安装请参考安装客户端(3.x及之后版本)

如果集群外的节点已安装客户端且只需要更新客户端,请使用安装客户端的用户例如“root”

在集群外节点安装客户端前提条件

  • 已准备一个弹性云服务器,主机操作系统及版本请参见表1
    表1 参考列表

    操作系统

    支持的版本号

    Euler

    • 可用:Euler OS 2.2
    • 可用:Euler OS 2.3
    • 可用:Euler OS 2.5

    例如,用户可以选择操作系统为Euler的弹性云服务器准备操作。

    同时为弹性云服务分配足够的磁盘空间,例如“40GB”

  • 弹性云服务器的VPC需要与MRS集群在同一个VPC中。
  • 弹性云服务器的安全组需要和MRS集群Master节点的安全组相同。

    如果不同,请修改弹性云服务器安全组或配置弹性云服务器安全组的出入规则允许MRS集群所有安全组的访问。

  • 需要允许用户使用密码方式登录Linux弹性云服务器(SSH方式),请参见弹性云服务器《用户指南》中“实例> 登录Linux弹性云服务器 >SSH密码方式登录”。

在Core节点安装客户端

  1. 登录MRS Manager页面,选择“服务管理 > 下载客户端”下载客户端安装包至主管理节点。

    如仅需更新客户端配置文件,请参考更新客户端(3.x之前版本)页面的方法二操作。

  2. 使用IP地址搜索主管理节点并使用VNC登录主管理节点。
  3. 在主管理节点,执行以下命令切换用户。

    sudo su - omm

  4. 在MRS管理控制台,查看指定集群“节点管理”页面的“IP”地址。

    记录需使用客户端的Core节点IP地址。

  5. 在主管理节点,执行以下命令,将客户端安装包从主管理节点文件拷贝到当前Core节点:

    scp -p /tmp/MRS-client/MRS_Services_Client.tar Core节点的IP地址:/opt/client

  6. 使用“root”登录Core节点。

    Master节点支持Cloud-Init特性,Cloud-init预配置的用户名“root”,密码为创建集群时设置的密码。

  7. 执行以下命令,安装客户端:

    cd /opt/client

    tar -xvf MRS_Services_Client.tar

    tar -xvf MRS_Services_ClientConfig.tar

    cd /opt/client/MRS_Services_ClientConfig

    ./install.sh 客户端安装目录

    例如,执行命令:

    ./install.sh /opt/client

  8. 客户端的使用请参见使用MRS客户端

使用MRS客户端

  1. 在已安装客户端的节点,执行sudo su - omm命令切换用户。执行以下命令切换到客户端目录:

    cd /opt/client

  2. 执行以下命令配置环境变量:

    source bigdata_env

  3. 如果当前集群已启用Kerberos认证,执行以下命令认证当前用户。如果当前集群未启用Kerberos认证,则无需执行此命令。

    kinit MRS集群用户

    例如,kinit admin

    启用Kerberos认证的MRS集群默认创建“admin”用户帐号,用于集群管理员维护集群。

  4. 直接执行组件的客户端命令。

    例如:使用HDFS客户端命令查看HDFS根目录文件,执行hdfs dfs -ls /

在集群外节点上安装客户端

  1. 根据前提条件,创建一个满足要求的弹性云服务器。
  2. 登录MRS Manager页面,具体请参见访问MRS Manager(MRS 3.x之前版本),然后选择“服务管理”。
  3. 单击“下载客户端”
  4. “客户端类型”选择“完整客户端”
  5. “下载路径”选择“远端主机”
  6. “主机IP”设置为ECS的IP地址,设置“主机端口”“22”,并将“存放路径”设置为“/tmp”

    • 如果使用SSH登录ECS的默认端口“22”被修改,请将“主机端口”设置为新端口。
    • “存放路径”最多可以包含256个字符。

  7. “登录用户”设置为“root”

    如果使用其他用户,请确保该用户对保存目录拥有读取、写入和执行权限。

  8. “登录方式”选择“密码”“SSH私钥”

    • 密码:输入创建集群时设置的root用户密码。
    • SSH私钥:选择并上传创建集群时使用的密钥文件。

  9. 单击“确定”开始生成客户端文件。

    若界面显示以下提示信息表示客户端包已经成功保存。单击“关闭”。客户端文件请到下载客户端时设置的远端主机的“存放路径”中获取。

    下载客户端文件到远端主机成功。

    若界面显示以下提示信息,请检查用户名密码及远端主机的安全组配置,确保用户名密码正确,及远端主机的安全组已增加SSH(22)端口的入方向规则。然后从2执行重新开始下载客户端。

    连接到服务器失败,请检查网络连接或参数设置。

    生成客户端会占用大量的磁盘IO,不建议在集群处于安装中、启动中、打补丁中等非稳态场景下载客户端。

  10. 使用VNC方式,登录弹性云服务器。参见弹性云服务器《用户指南》远程登录(VNC方式)章节 (实例 > 登录Linux弹性云服务器 > 远程登录(VNC方式))。

    所有镜像均支持Cloud-init特性。Cloud-init预配置的用户名“root”,密码为创建集群时设置的密码。首次登录建议修改。

  11. 执行ntp时间同步,使集群外节点的时间与MRS集群时间同步。

    1. 检查安装NTP服务有没有安装,未安装请执行yum install ntp -y命令自行安装。
    2. 执行vim /etc/ntp.conf命令编辑NTP客户端配置文件,并增加MRS集群中Master节点的IP并注释掉其他server的地址。
      server master1_ip prefer
      server master2_ip 
      图1 增加Master节点的IP
    3. 执行service ntpd stop命令关闭NTP服务。
    4. 执行/usr/sbin/ntpdate 主Master节点的IP命令手动同步一次时间。
    5. 执行service ntpd startsystemctl restart ntpd命令启动NTP服务。
    6. 执行ntpstat命令查看时间同步结果。

  12. 在弹性云服务器,切换到root用户,并将6“存放路径”中的安装包复制到目录“/opt”,例如“存放路径”设置为“/tmp”时命令如下。

    sudo su - root

    cp /tmp/MRS_Services_Client.tar /opt

  13. “/opt”目录执行以下命令,解压压缩包获取校验文件与客户端配置包。

    tar -xvf MRS_Services_Client.tar

  14. 执行以下命令,校验文件包。

    sha256sum -c MRS_Services_ClientConfig.tar.sha256

    界面显示如下:

    MRS_Services_ClientConfig.tar: OK

  15. 执行以下命令,解压“MRS_Services_ClientConfig.tar”

    tar -xvf MRS_Services_ClientConfig.tar

  16. 执行以下命令,安装客户端到新的目录,例如“/opt/Bigdata/client”。安装时自动生成目录。

    sh /opt/MRS_Services_ClientConfig/install.sh /opt/Bigdata/client

    查看安装输出信息,如有以下结果表示客户端安装成功:

    Components client installation is complete.

  17. 验证弹性云服务器节点是否与集群Master节点的IP是否连通?

    例如,执行以下命令:ping Master节点IP地址

    • 是,执行18
    • 否,检查VPC、安全组是否正确,是否与MRS集群在相同VPC和安全组,然后执行18

  18. 执行以下命令配置环境变量:

    source /opt/Bigdata/client/bigdata_env

  19. 如果当前集群已启用Kerberos认证,执行以下命令认证当前用户。如果当前集群未启用Kerberos认证,则无需执行此命令。

    kinitMRS集群用户

    例如, kinit admin

  20. 执行组件的客户端命令。

    例如,执行以下命令查看HDFS目录:

    hdfs dfs -ls /