准备MapReduce应用运行环境
MapReduce的运行环境可以部署在Linux环境下。您可以按照如下操作完成运行环境准备。
操作步骤
- 确认服务端YARN组件和MapReduce组件已经安装,并正常运行。
- 客户端运行环境已安装1.7或1.8版本的JDK。
- 客户端机器的时间与Hadoop集群的时间要保持一致,时间差小于5分钟。
MRS集群的时间可通过登录主管理节点(集群管理IP地址所在节点)运行date命令查询。
- 下载MapReduce客户端程序到客户端机器中。
- 登录MRS Manager系统。
在浏览器地址栏中输入访问地址,地址格式为“https://MRS Manager系统的WebService浮动IP地址:8080/web”。例如,在IE浏览器地址栏中,输入“https://10.10.10.172:8080/web”。
- 选择“服务管理 > 下载客户端”,下载客户端程序到客户端机器。
- 登录MRS Manager系统。
- 解压缩客户端文件包MRS_Services_Client.tar。安装包为tar格式,执行如下命令解压两次。
tar -xvf /opt/MRS_Services_Client.tar
tar -xvf /opt/MRS_Service_ClientConfig.tar
- 为运行环境设置环境变量,假设安装包解压路径为“MRS_Services_ClientConfig/”。
进入解压文件夹,执行如下命令安装客户端。
sh install.sh {client_install_home}
- 进入客户端安装目录,执行如下命令初始化环境变量。
source bigdata_env
- 将5.2.2-准备开发用户中下载的user.keytab和krb5.conf文件拷贝到Linux环境的“/opt/conf”目录下,可参考5.4.1-编译并运行程序。
在二次开发过程中,PRINCIPAL需要用到的用户名,应该填写为带域名的用户名,例如创建的用户为test,域名为HADOOP.COM,则其PRINCIPAL用户名则为test@HADOOP.COM,代码举例:
conf.set(PRINCIPAL, "test@HADOOP.COM");
- 执行命令kinit -kt /opt/conf/user.keytab test。
这里的user.keytab文件路径为Linux机器上配置文件的存放路径,后面的test用户名可以更改为5.2.2-准备开发用户中新建的用户名。