Flink对接OBS文件系统
使用本章节前已参考配置存算分离集群(委托方式)完成存算分离集群配置。
- 使用安装客户端的用户登录Flink客户端安装节点。
- 执行如下命令初始化环境变量。
source 客户端安装目录/bigdata_env
- 配置好Flink客户端。
- 启动session。
- 普通集群(未开启Kerberos认证)
- 安全集群(开启Kerberos认证)
- “flink.keystore”和“flink.truststore”文件路径为相对路径时:
在“ssl”的同级目录下执行如下命令启动session,其中“ssl/”是相对路径。
cd /opt/hadoopclient/Flink/flink/conf/
yarn-session.sh -t ssl/ -nm "session-name" -d
... Cluster started: Yarn cluster with application id application_1624937999496_0017 JobManager Web Interface: http://192.168.1.150:32261
- “flink.keystore”和“flink.truststore”文件路径为绝对路径时:
执行如下命令启动session。
cd /opt/hadoopclient/Flink/flink/conf/
yarn-session.sh -nm "session-name" -d
- “flink.keystore”和“flink.truststore”文件路径为相对路径时:
- 如果是安全集群,使用以下命令进行用户认证,如果当前集群未启用Kerberos认证,则无需执行此命令。
kinit 用户名
- 在Flink命令行显式添加要访问的OBS文件系统。
echo -e 'test' >/tmp/test
hdfs dfs -mkdir -p obs://并行文件系统名称/tmp/flinkjob
hdfs dfs -put /tmp/test/ obs://并行文件系统名称/tmp/flinkjob/
flink run 客户端安装目录/Flink/flink/examples/batch/WordCount.jar -input obs://并行文件系统名称/tmp/flinkjob/test -output obs://并行文件系统名称/tmp/flinkjob/output
由于Flink作业是On Yarn运行,在配置Flink对接OBS文件系统之前需要确保Yarn对接OBS文件系统功能是正常的。