文档首页 > > 用户指南> 连接管理> 配置HDFS连接

配置HDFS连接

分享
更新时间:2020/08/12 GMT+08:00
目前CDM支持连接的HDFS数据源有以下几种:

MRS HDFS

连接MRS上的HDFS数据源时,相关参数如表1所示。

表1 MRS上的HDFS连接参数

参数名

说明

取值样例

名称

连接的名称,根据连接的数据源类型,用户可自定义便于记忆、区分的连接名。

mrs_hdfs_link

Manager IP

MRS Manager的IP地址,可以单击输入框后的“选择”来选定已创建的MRS集群,CDM会自动填充下面的鉴权参数。

127.0.0.1

用户名

选择KERBEROS鉴权时,需要配置MRS Manager的用户名和密码。

从HDFS导出目录时,如果需要创建快照,这里配置的用户需要HDFS系统的管理员权限。

cdm

密码

访问MRS Manager的用户密码。

-

认证类型

访问MRS的认证类型:
  • SIMPLE:非安全模式选择Simple鉴权。
  • KERBEROS:安全模式选择Kerberos鉴权。

SIMPLE

运行模式

选择HDFS连接的运行模式:
  • EMBEDDED:连接实例与CDM运行在一起,该模式性能较好。
  • STANDALONE:连接实例运行在独立进程。如果CDM需要对接多个Hadoop数据源(MRS、Hadoop或CloudTable),并且既有KERBEROS认证模式又有SIMPLE认证模式,只能使用STANDALONE模式或者配置不同的Agent。
  • Agent:连接实例运行在Agent上。

选择STANDALONE模式时,CDM支持在多个MRS集群的HDFS之间迁移数据。

STANDALONE

Agent

单击“选择”,选择连接Agent中已创建的Agent。运行模式选择Agent时显示此参数。

-

FusionInsight HDFS

连接FusionInsight HD上的HDFS数据源时,相关参数如表2所示。

表2 FusionInsight HDFS连接参数

参数名

说明

取值样例

名称

连接的名称,根据连接的数据源类型,用户可自定义便于记忆、区分的连接名。

FI_hdfs_link

Manager IP

FusionInsight Manager平台的地址。

127.0.0.1

Manager端口

FusionInsight Manager平台的端口。

28443

CAS Server端口

与FusionInsight对接的CAS Server的端口。

20009

用户名

登录FusionInsight Manager平台的用户名。

从HDFS导出目录时,如果需要创建快照,这里配置的用户需要HDFS系统的管理员权限。

cdm

密码

FusionInsight Manager平台的密码。

-

认证类型

访问FusionInsight HD的认证类型。
  • SIMPLE:非安全模式选择Simple鉴权。
  • KERBEROS:安全模式选择Kerberos鉴权。

KERBEROS

运行模式

选择HDFS连接的运行模式:
  • EMBEDDED:连接实例与CDM运行在一起,该模式性能较好。
  • STANDALONE:连接实例运行在独立进程。如果CDM需要对接多个Hadoop数据源(MRS、Hadoop或CloudTable),并且既有KERBEROS认证模式又有SIMPLE认证模式,只能使用STANDALONE模式或者配置不同的Agent。
  • Agent:连接实例运行在Agent上。

STANDALONE

Agent

单击“选择”,选择连接Agent中已创建的Agent。运行模式选择Agent时显示此参数。

-

Apache HDFS

连接Apache Hadoop上的HDFS数据源时,相关参数如表3所示。

表3 Apache HDFS连接参数

参数名

说明

取值样例

名称

连接的名称,根据连接的数据源类型,用户可自定义便于记忆、区分的连接名。

hadoop_hdfs_link

URI

表示NameNode URI地址。

hdfs://nn1.example.com/

认证类型

访问Hadoop的认证类型。
  • SIMPLE:非安全模式Hadoop选择Simple鉴权。
  • KERBEROS:安全模式Hadoop选择Kerberos鉴权,通过获取客户端的principal和keytab文件在应用程序中进行认证。

KERBEROS

Principal

选择Kerberos鉴权时,用于认证的帐号Principal,您可以联系Hadoop管理员获取此帐号。

USER@YOUR-REALM.COM

Keytab文件

选择Kerberos鉴权时,用于认证的Keytab文件,您可以联系Hadoop管理员获取此文件。

/opt/user.keytab

运行模式

选择HDFS连接的运行模式:
  • EMBEDDED:连接实例与CDM运行在一起,该模式性能较好。
  • STANDALONE:连接实例运行在独立进程。如果CDM需要对接多个Hadoop数据源(MRS、Hadoop或CloudTable),并且既有KERBEROS认证模式又有SIMPLE认证模式,只能使用STANDALONE模式或者配置不同的Agent。
  • Agent:连接实例运行在Agent上。

STANDALONE

IP与主机名映射

运行模式选择“EMBEDDED”“STANDALONE”时,该参数有效。

如果HDFS配置文件使用主机名,需要配置IP与主机的映射。格式:IP与主机名之间使用空格分隔,多对映射使用分号或回车换行分隔。

10.1.6.9 hostname01

10.2.7.9 hostname02

Agent

运行模式选择“Agent”时,单击“选择”,选择连接Agent中已创建的Agent。

-

分享:

    相关文档

    相关产品

文档是否有解决您的问题?

提交成功!非常感谢您的反馈,我们会继续努力做到更好!
反馈提交失败,请稍后再试!

*必选

请至少选择或填写一项反馈信息

字符长度不能超过200

提交反馈 取消

如您有其它疑问,您也可以通过华为云社区问答频道来与我们联系探讨

智能客服提问云社区提问