计算
弹性云服务器 ECS
Flexus云服务
裸金属服务器 BMS
弹性伸缩 AS
镜像服务 IMS
专属主机 DeH
函数工作流 FunctionGraph
云手机服务器 CPH
Huawei Cloud EulerOS
网络
虚拟私有云 VPC
弹性公网IP EIP
虚拟专用网络 VPN
弹性负载均衡 ELB
NAT网关 NAT
云专线 DC
VPC终端节点 VPCEP
云连接 CC
企业路由器 ER
企业交换机 ESW
全球加速 GA
安全与合规
安全技术与应用
Web应用防火墙 WAF
企业主机安全 HSS
云防火墙 CFW
安全云脑 SecMaster
DDoS防护 AAD
数据加密服务 DEW
数据库安全服务 DBSS
云堡垒机 CBH
数据安全中心 DSC
云证书管理服务 CCM
边缘安全 EdgeSec
威胁检测服务 MTD
CDN与智能边缘
内容分发网络 CDN
CloudPond云服务
智能边缘云 IEC
迁移
主机迁移服务 SMS
对象存储迁移服务 OMS
云数据迁移 CDM
迁移中心 MGC
大数据
MapReduce服务 MRS
数据湖探索 DLI
表格存储服务 CloudTable
云搜索服务 CSS
数据接入服务 DIS
数据仓库服务 GaussDB(DWS)
数据治理中心 DataArts Studio
数据可视化 DLV
数据湖工厂 DLF
湖仓构建 LakeFormation
企业应用
云桌面 Workspace
应用与数据集成平台 ROMA Connect
云解析服务 DNS
专属云
专属计算集群 DCC
IoT物联网
IoT物联网
设备接入 IoTDA
智能边缘平台 IEF
用户服务
账号中心
费用中心
成本中心
资源中心
企业管理
工单管理
国际站常见问题
ICP备案
我的凭证
支持计划
客户运营能力
合作伙伴支持计划
专业服务
区块链
区块链服务 BCS
Web3节点引擎服务 NES
解决方案
SAP
高性能计算 HPC
视频
视频直播 Live
视频点播 VOD
媒体处理 MPC
实时音视频 SparkRTC
数字内容生产线 MetaStudio
存储
对象存储服务 OBS
云硬盘 EVS
云备份 CBR
存储容灾服务 SDRS
高性能弹性文件服务 SFS Turbo
弹性文件服务 SFS
云硬盘备份 VBS
云服务器备份 CSBS
数据快递服务 DES
专属分布式存储服务 DSS
容器
云容器引擎 CCE
容器镜像服务 SWR
应用服务网格 ASM
华为云UCS
云容器实例 CCI
管理与监管
云监控服务 CES
统一身份认证服务 IAM
资源编排服务 RFS
云审计服务 CTS
标签管理服务 TMS
云日志服务 LTS
配置审计 Config
资源访问管理 RAM
消息通知服务 SMN
应用运维管理 AOM
应用性能管理 APM
组织 Organizations
优化顾问 OA
IAM 身份中心
云运维中心 COC
资源治理中心 RGC
应用身份管理服务 OneAccess
数据库
云数据库 RDS
文档数据库服务 DDS
数据管理服务 DAS
数据复制服务 DRS
云数据库 GeminiDB
云数据库 GaussDB
分布式数据库中间件 DDM
数据库和应用迁移 UGO
云数据库 TaurusDB
人工智能
人脸识别服务 FRS
图引擎服务 GES
图像识别 Image
内容审核 Moderation
文字识别 OCR
AI开发平台ModelArts
图像搜索 ImageSearch
对话机器人服务 CBS
华为HiLens
视频智能分析服务 VIAS
语音交互服务 SIS
应用中间件
分布式缓存服务 DCS
API网关 APIG
微服务引擎 CSE
分布式消息服务Kafka版
分布式消息服务RabbitMQ版
分布式消息服务RocketMQ版
多活高可用服务 MAS
事件网格 EG
企业协同
华为云会议 Meeting
云通信
消息&短信 MSGSMS
云生态
合作伙伴中心
云商店
开发者工具
SDK开发指南
API签名指南
Terraform
华为云命令行工具服务 KooCLI
其他
产品价格详情
系统权限
管理控制台
客户关联华为云合作伙伴须知
消息中心
公共问题
开发与运维
应用管理与运维平台 ServiceStage
软件开发生产线 CodeArts
需求管理 CodeArts Req
部署 CodeArts Deploy
性能测试 CodeArts PerfTest
编译构建 CodeArts Build
流水线 CodeArts Pipeline
制品仓库 CodeArts Artifact
测试计划 CodeArts TestPlan
代码检查 CodeArts Check
代码托管 CodeArts Repo
云应用引擎 CAE
开天aPaaS
云消息服务 KooMessage
云手机服务 KooPhone
云空间服务 KooDrive

安装客户端

更新时间:2024-12-19 GMT+08:00

操作场景

该操作指导用户在MRS集群创建成功后安装MRS集群所有服务(不包含Flume)的客户端。Flume客户端安装请参见“组件操作指南 > 使用Flume > 安装Flume客户端”

客户端可以安装在集群内的节点上,也可以安装在集群外的节点上。

修改集群内组件的服务端配置后,建议重新安装客户端,否则客户端与服务端版本将不一致,可能影响正常使用。

前提条件

  • 待安装客户端节点为集群外节点时,该节点必须能够与集群内节点网络互通,否则安装会失败。
  • 待安装客户端节点必须启用NTP服务,并保持与服务端的时间一致,否则安装会失败。
  • 在节点上安装客户端可以使用root或任意操作系统用户进行操作,要求该用户对客户端文件存放目录和安装目录具有操作权限,两个目录的权限为“755”。

    本章节以使用操作系统用户“user_client”安装客户端进行举例,安装目录为“/opt/hadoopclient”。

  • 使用ommroot以外的用户安装客户端时,若“/var/tmp/patch”目录已存在,需将此目录权限修改为“777”,将此目录内的日志权限修改为“666”。

集群内节点安装客户端

  1. 获取客户端软件包。

    参考访问FusionInsight Manager访问Manager,单击“集群”在“概览”选择“更多 > 下载客户端”,弹出“下载集群客户端”提示框,选择相关下载参数后单击“确定”。
    说明:
    • 在Manager主页下载的客户端软件包,包含了集群内所有服务(除Flume之外)的客户端。如果只需要安装单个服务的客户端,请选择“集群 > 服务 > 服务名称 > 更多 > 下载客户端”,弹出“下载客户端”信息提示框。
    • MRS 3.3.0及之后版本,可以在主页中直接单击“下载客户端”。
    表1 客户端下载参数说明

    参数

    描述

    示例

    选择客户端类型

    • 完整客户端:包含完整客户端软件包及配置文件,适用于非开发任务场景。
    • 仅配置文件:仅下载客户端配置文件,适用于应用开发任务中,完整客户端已下载并安装后,管理员通过Manager界面修改了服务端配置,开发人员需要更新客户端配置文件的场景。

    完整客户端

    选择平台类型

    客户端类型必须与待安装客户端的节点架构匹配,否则客户端会安装失败。LTS版本集群仅支持下载与Manager平台类型一致的客户端软件包。

    • x86_64:可以部署在X86平台的客户端软件包。
    • aarch64:可以部署在TaiShan服务器的客户端软件包。

    x86_64

    仅保存到如下路径

    指定客户端软件包在主OMS节点的存放路径。

    • 勾选“仅保存到如下路径”:自定义客户端软件包在主OMS节点的存放路径,omm用户需拥有该目录的读、写与执行权限。

      如未修改保存路径,文件生成后将默认保存在集群主OMS节点的“/tmp/FusionInsight-Client”。

    • 不勾选“仅保存到如下路径”:文件生成后将自动下载并保存至本地,安装客户端时需将其上传至待安装客户端节点的指定目录。

    勾选“仅保存到如下路径”

  2. 复制客户端软件包到待安装客户端节点的指定目录。

    客户端软件包生成后默认保存在集群主OMS节点,若需要在集群内其他节点上安装客户端,需以omm用户登录主OMS节点,执行以下命令复制软件包到指定节点,否则跳过本步骤。

    例如复制到“/tmp/clienttemp”目录:

    scp -p /tmp/FusionInsight-Client/FusionInsight_Cluster_1_Services_Client.tar 待安装客户端节点的IP地址:/tmp/clienttemp

  3. 以待安装客户端的用户(如user_client)登录将要安装客户端的节点。

    说明:

    在节点上安装客户端可以使用root或其他任意操作系统用户进行操作,要求该用户对客户端文件存放目录和安装目录具有操作权限,两个目录的权限为“755”。

  4. 解压客户端软件包。

    进入客户端软件包所在的目录,例如“/tmp/clienttemp”。

    cd /tmp/clienttemp

    执行如下命令解压安装包获取“FusionInsight_Cluster_1_Services_ClientConfig.tar”:

    tar -xvf FusionInsight_Cluster_1_Services_Client.tar

    执行以下命令解压“FusionInsight_Cluster_1_Services_ClientConfig.tar”:

    tar -xvf FusionInsight_Cluster_1_Services_ClientConfig.tar

  5. 进入客户端软件包目录,执行如下命令安装客户端到指定目录。

    cd FusionInsight_Cluster_1_Services_ClientConfig

    ./install.sh 客户端安装目录

    例如执行./install.sh /opt/hadoopclient命令安装客户端,等待客户端安装完成。

    ...
    The component client is installed successfully
    说明:
    • 客户端安装目录可以不存在,会自动创建。但如果存在,则必须为空,目录路径不能包含空格。且客户端安装目录路径只能包含大写字母、小写字母、数字以及_字符
    • 卸载客户端请手动删除客户端安装目录。
    • 如果要求安装后的客户端仅能被该安装用户使用,请在安装时加“-o”参数,例如执行./install.sh /opt/hadoopclient -o命令安装客户端。

  6. 客户端安装完成后,可参考“各组件客户端使用实践”使用客户端。

集群外节点安装客户端

  1. 创建一个满足要求的弹性云服务器,要求如下:

    • 已准备一个Linux弹性云服务器,主机操作系统及版本建议参见表2
      表2 参考列表

      CPU架构

      操作系统

      支持的版本号

      x86计算

      Euler

      EulerOS 2.5

      SUSE

      SUSE Linux Enterprise Server 12 SP4(SUSE 12.4)

      Red Hat

      Red Hat-7.5-x86_64(Red Hat 7.5)

      CentOS

      CentOS-7.6版本(CentOS 7.6)

      鲲鹏计算(ARM)

      Euler

      EulerOS 2.8

      CentOS

      CentOS-7.6版本(CentOS 7.6)

      同时为弹性云服务分配足够的磁盘空间,例如“40GB”

    • 弹性云服务器的VPC需要与MRS集群在同一个VPC中。
    • 弹性云服务器的安全组需要和MRS集群Master节点的安全组相同。
    • 弹性云服务器操作系统已安装NTP服务,且NTP服务运行正常。

      若未安装,在配置了yum源的情况下,可执行yum install ntp -y命令自行安装。

    • 需要允许用户使用密码方式登录Linux弹性云服务器(SSH方式)。
    • MRS集群安全组入方向将所有端口对客户端节点放开。

  2. 执行NTP时间同步,使集群外节点的时间与MRS集群时间同步。

    1. 执行vi /etc/ntp.conf命令编辑NTP客户端配置文件,并增加MRS集群中Master节点的IP并注释掉其他server的地址。
      server master1_ip prefer
      server master2_ip 
      图1 增加Master节点的IP
    2. 执行service ntpd stop命令关闭NTP服务。
    3. 执行如下命令,手动同步一次时间:

      /usr/sbin/ntpdate 192.168.10.8

      说明:

      192.168.10.8为主Master节点的IP地址。

    4. 执行service ntpd startsystemctl restart ntpd命令启动NTP服务。
    5. 执行ntpstat命令查看时间同步结果。

  3. 获取客户端软件包。

    参考访问FusionInsight Manager访问Manager,单击“集群”在“概览”选择“更多 > 下载客户端”,弹出“下载集群客户端”提示框,选择相关下载参数后单击“确定”。
    说明:
    • 在Manager主页下载的客户端软件包,包含了集群内所有服务(除Flume之外)的客户端。如果只需要安装单个服务的客户端,请选择“集群 > 服务 > 服务名称 > 更多 > 下载客户端”,弹出“下载客户端”信息提示框。
    • MRS 3.3.0及之后版本,可以在主页中直接单击“下载客户端”。
    表3 客户端下载参数说明

    参数

    描述

    示例

    选择客户端类型

    • 完整客户端:包含完整客户端软件包及配置文件,适用于非开发任务场景。
    • 仅配置文件:仅下载客户端配置文件,适用于应用开发任务中,完整客户端已下载并安装后,管理员通过Manager界面修改了服务端配置,开发人员需要更新客户端配置文件的场景。

    完整客户端

    选择平台类型

    客户端类型必须与待安装客户端的节点架构匹配,否则客户端会安装失败。LTS版本集群仅支持下载与Manager平台类型一致的客户端软件包。

    • x86_64:可以部署在X86平台的客户端软件包。
    • aarch64:可以部署在TaiShan服务器的客户端软件包。

    x86_64

    仅保存到如下路径

    指定客户端软件包在主OMS节点的存放路径。

    • 勾选“仅保存到如下路径”:自定义客户端软件包在主OMS节点的存放路径,omm用户需拥有该目录的读、写与执行权限。

      如未修改保存路径,文件生成后将默认保存在集群主OMS节点的“/tmp/FusionInsight-Client”。

    • 不勾选“仅保存到如下路径”:文件生成后将自动下载并保存至本地,安装客户端时需将其上传至待安装客户端节点的指定目录。

    勾选“仅保存到如下路径”

  4. 复制客户端软件包到待安装客户端节点的指定目录。

    客户端软件包生成后默认保存在集群主OMS节点,需以omm用户登录主OMS节点,执行以下命令复制软件包到指定弹性云服务器节点。

    例如复制到“/tmp/clienttemp”目录:

    scp -p /tmp/FusionInsight-Client/FusionInsight_Cluster_1_Services_Client.tar 待安装客户端节点的IP地址:/tmp/clienttemp

  5. 以待安装客户端的用户(如user_client)登录将要安装客户端的节点。

    说明:

    在节点上安装客户端可以使用root或其他任意操作系统用户进行操作,要求该用户对客户端文件存放目录和安装目录具有操作权限,两个目录的权限为“755”。

  6. 解压客户端软件包。

    进入客户端软件包所在的目录,例如“/tmp/clienttemp”。

    cd /tmp/clienttemp

    执行如下命令解压安装包获取“FusionInsight_Cluster_1_Services_ClientConfig.tar”:

    tar -xvf FusionInsight_Cluster_1_Services_Client.tar

    执行以下命令解压“FusionInsight_Cluster_1_Services_ClientConfig.tar”:

    tar -xvf FusionInsight_Cluster_1_Services_ClientConfig.tar

  7. 检查客户端网络连接。

    1. 确保客户端所在主机能与解压目录下“hosts”文件(例如“/tmp/FusionInsight_Cluster_1_Services_ClientConfig/hosts”)中所列出的各主机在网络上互通。
    2. 当客户端所在主机不是集群中的节点时,需要在客户端所在节点的“/etc/hosts”文件(更改此文件需要root用户权限)中设置集群所有节点主机名和业务平面IP地址映射,主机名和IP地址请保持一一对应,可执行以下步骤在hosts文件中导入集群的域名映射关系。
      1. 切换至root用户或者其他具有修改hosts文件权限的用户。

        su - root

      2. 进入客户端解压目录。

        cd /tmp/clienttemp/FusionInsight_Cluster_1_Services_ClientConfig

      3. 执行cat realm.ini >> /etc/hosts,将域名映射关系导入到hosts文件中。
    说明:
    • 当客户端所在主机不是集群中的节点时,配置客户端网络连接,可避免执行客户端命令时出现错误。
    • 如果采用yarn-client模式运行Spark任务,请在“客户端安装目录/Spark/spark/conf/spark-defaults.conf”文件中添加参数“spark.driver.host”,并将参数值设置为客户端的IP地址。
    • 当采用yarn-client模式时,为了Spark WebUI能够正常显示,需要在Yarn的主备节点(即集群中的ResourceManager节点)的hosts文件中,配置客户端的IP地址及主机名对应关系。

  8. 以待安装客户端的用户(user_client)登录将要安装客户端的节点,进入客户端软件包目录,执行如下命令安装客户端到指定目录。

    cd /tmp/clienttemp/FusionInsight_Cluster_1_Services_ClientConfig

    ./install.sh 客户端安装目录

    例如执行./install.sh /opt/hadoopclient命令安装客户端,等待客户端安装完成。

    ...
    The component client is installed successfully
    说明:
    • 客户端安装目录可以不存在,会自动创建。但如果存在,则必须为空,目录路径不能包含空格。且客户端安装目录路径只能包含大写字母、小写字母、数字以及_字符
    • 卸载客户端请手动删除客户端安装目录。
    • 如果要求安装后的客户端仅能被该安装用户使用,请在安装时加“-o”参数,例如执行./install.sh /opt/hadoopclient -o命令安装客户端。

  9. 客户端安装完成后,可参考“各组件客户端使用实践”使用客户端。

我们使用cookie来确保您的高速浏览体验。继续浏览本站,即表示您同意我们使用cookie。 详情

文档反馈

文档反馈

意见反馈

0/500

标记内容

同时提交标记内容