使用Yarn客户端提交任务
操作场景
该任务指导用户在运维场景或业务场景中使用Yarn客户端。
前提条件
各组件业务用户由MRS集群管理员根据业务需要创建。安全模式下,“机机”用户需要下载keytab文件。“人机”用户第一次登录时需修改密码。普通模式不需要下载keytab文件及修改密码操作。
使用Yarn客户端
- 安装客户端,如果已安装则跳过。
例如安装目录为“/opt/client”,以下操作的客户端目录只是举例,请根据实际安装目录修改。
下载并安装集群客户端的具体操作,请参考安装MRS集群客户端。
- 以客户端安装用户,登录安装客户端的节点。
- 执行以下命令,切换到客户端安装目录。
cd /opt/client
- 执行以下命令配置环境变量。
source bigdata_env
- 如果集群为安全模式,执行以下命令进行用户认证。普通模式集群无需执行用户认证。
kinit 组件业务用户
- 直接执行Yarn相关命令。例如执行以下命令查看Yarn集群中所有应用程序:
yarn application -list
例如执行后结果如下:
Total number of applications (application-types: [], states: [SUBMITTED, ACCEPTED, RUNNING] and tags: []):2 Application-Id Application-Name Application-Type User Queue-User Queue State Final-State Progress Tracking-URL application_1749532996066_0002 default-worker yarn-service hetuserver hetuserver default RUNNING UNDEFINED 100% N/A application_1749532996066_0001 default-coordinator yarn-service hetuserver hetuserver default RUNNING UNDEFINED 100% N/A
相关文档
- 执行Yarn客户端命令查询历史作业报错,进程被终止,处理方法请参见使用Yarn客户端命令查询历史作业报错。
- 请求提交任务的Yarn的ResourceManager报错connection refused,且配置的Yarn端口为8032,处理方法请参见Yarn客户端的端口信息错误导致提交任务后报错connection refused。
- 使用Yarn客户端时常见问题如下: