更新时间:2022-05-13 GMT+08:00
分享

准备引导操作脚本

引导操作目前仅支持linux shell脚本,脚本文件需以.sh结尾。

上传所需安装包等文件至OBS文件系统

正式编写脚本前,您需要将所需安装包、配置包的所有相关文件都上传到同region的OBS文件系统中。因为不同region间有网络隔离,MRS虚拟机无法下载其他region上的OBS文件,例如华北-北京一区的MRS虚拟机无法从华东-上海二的OBS文件系统中下载文件。

脚本中如何从OBS文件系统下载文件

您可以在脚本中指定从OBS下载需要的文件。如果将文件上传到私有文件系统,需要用hadoop fs下载,下面的例子会将 obs://yourbucket/myfile.tar.gz 这个文件下载到本地,并解压到 /your-dir 目录下:

#!/bin/bash
source /opt/Bigdata/client/bigdata_env;hadoop fs -D fs.obs.endpoint=<obs-endpoint> -D fs.obs.access.key=<your-ak> -D fs.obs.secret.key=<your-sk> -copyToLocal obs://yourbucket/myfile.tar.gz ./
mkdir -p /<your-dir>
tar -zxvf myfile.tar.gz -C /<your-dir>
  • MRS 3.x及之后版本客户端默认安装路径为“/opt/Bigdata/client”,MRS 3.x之前版本为“/opt/client”。具体以实际为准。
  • Hadoop客户端已预安装在MRS节点上,hadoop fs命令可对OBS做下载、上传等操作。
  • 各region下obs-endpoint请参见终端节点及区域说明
  • 样例中已经把安装包都上传到公共可读的OBS文件系统,因此样例脚本中用curl命令即可下载。

上传脚本至OBS文件系统

脚本完成后上传到同region的OBS文件系统中。在您选定的时机,集群各节点会从OBS将脚本下载下来并以root用户执行。

分享:

    相关文档

    相关产品

close