xml配置文件，Hive组件中包含了hive-site.xml配置。 进入组件中的配置文件查看参数。 HDFS组件查看。 cd ./HDFS/hadoop/etc/ 进入hadoop目录。 cd hadoop/hdfs-site.xml 打开hdfs-site.xml配置文件，查找相关参数。

查看更多 →

当前CGroups仅用于限制CPU使用率。 配置描述 有关如何配置CPU隔离与安全的CGroups功能的详细信息，请参见Hadoop官网： http://hadoop.apache.org/docs/r3.1.1/hadoop-yarn/hadoop-yarn-site/NodeManagerCgroups

查看更多 →

安装Spark 前提条件 您需要准备一台可访问公网的Linux机器，节点规格建议为4U8G及以上。 配置JDK 以CentOS系统为例，安装JDK 1.8。 查询可用的JDK版本。 yum -y list java* 选择安装JDK 1.8。 yum install -y java-1

查看更多 →

export PATH=$FLINK_HOME/bin:$PATH 安装flink-obs-fs-hadoop。 在Github下载flink-obs-fs-hadoop：下载地址。 flink-obs-fs-hadoop-${flinkversion}-hw-${version}.j

查看更多 →

HDFS组件对接OBS 对接OBS 以客户端安装用户登录安装了HDFS客户端的节点。 执行以下命令，切换到客户端安装目录。 cd 客户端安装目录 执行以下命令配置环境变量。 source bigdata_env 如果集群为安全模式，执行以下命令进行用户认证，该用户需具有OBS目录

查看更多 →

服务 > Hive > 配置 > 全部配置”。 搜索hive.mapreduce.input.files2memory配置项，并修改hive.mapreduce.input.files2memory配置的值到合适值，根据实际内存和任务情况对此值进行调整。 保存配置并重启受影响的服务或者实例。

查看更多 →

xml配置文件，Hive组件中包含了hive-site.xml配置。 进入组件中的配置文件查看参数。 HDFS组件查看。 cd ./HDFS/hadoop/etc/ 进入hadoop目录。 cd hadoop/hdfs-site.xml 打开hdfs-site.xml配置文件，查找相关参数。

查看更多 →

CommitProcWorkThread-4 | session=0x12000007553b4903?user=10.177.223.78,zkcli/hadoop.hadoop.com@HADOOP.COM?ip=10.177.223.78?operation=create znode?target=ZooKeeperServer

查看更多 →

配置Windows通过EIP访问集群Spark 操作场景 该章节通过指导用户配置集群绑定EIP，并配置Spark文件的方法，方便用户可以在本地对样例文件进行编译。 本章节以运行SparkScalaExample样例为例进行说明。 操作步骤 为集群的每个节点申请弹性公网IP，并将本

查看更多 →

配置Windows通过EIP访问集群Spark 操作场景 该章节通过指导用户配置集群绑定EIP，并配置Spark文件的方法，方便用户可以在本地对样例文件进行编译。 本章节以运行SparkScalaExample样例为例进行说明。 操作步骤 为集群的每个节点申请弹性公网IP，并将本

查看更多 →

apache.hadoop.io.compress.BZip2Codec org.apache.hadoop.io.compress.Lz4Codec org.apache.hadoop.io.compress.DeflateCodec org.apache.hadoop.io.compress

查看更多 →

Spark是专为大规模数据处理而设计的快速通用的计算引擎。 前提条件 已安装Hadoop，具体请参见Hadoop对接OBS。 注意事项 为了减少日志输出，在/opt/spark-2.3.3/conf/log4j.properties文件中增加配置： log4j.logger.com.obs= ERROR

查看更多 →

获取下载的HDFS客户端配置文件（下载路径/HDFS/hadoop/etc/hadoop）中的core-site.xml、hdfs-site.xml。Yarn客户端配置文件（下载路径/Yarn/config）中的core-site.xml。 这些文件用来替换原有代码的中的使用的配置文件。 分别

查看更多 →

配置Windows通过EIP访问普通模式集群HDFS 操作场景 该章节通过指导用户配置集群绑定EIP，并配置HDFS文件的方法，方便用户可以在本地对样例文件进行编译。 本章节以运行HdfsExample样例为例进行说明。 操作步骤 为集群的每个节点申请弹性公网IP，并将本地Win

查看更多 →

修改 云服务器 的企业项目 云 服务器 组不一致 将云服务器的云服务器组修改成与节点池的云服务器组一致。 修改云服务器的云服务器组 修改云服务器的规格 待纳管云服务器规格需修改成节点池中包含的规格。 更多操作指导请参见E CS 变更规格通用操作。 登录ECS控制台。 单击目标云服务器名称，

查看更多 →

skip=true 安装datax。 解压datax.tar.gz到/opt/datax目录。 在Github下载hadoop-huaweicloud：下载地址。（建议使用hadoop 2.8.3版本下最新版本的hadoop-huaweicloud版本，例如hadoop-huaweicloud-2

查看更多 →

jar到程序的classpath或者lib目录中。 hadoop-plugins-xxx.jar包一般在HDFS客户端目录下：$HADOOP_HOME/share/hadoop/common/lib/hadoop-plugins-8.0.2-302023.jar 方式二：将HDFS的如下配置项修改为开源类： dfs

查看更多 →

弹性云服务器配置的邮件无法正常发送 处理方法 浏览器发送邮件： 在使用浏览器登录邮箱时直接使用HTTP协议，其端口号默认为80，邮件服务器之间还是使用邮件发送协议：SMTP协议。 通过浏览器发送邮件，则需要开放TCP出方向端口为80。 在弹性云服务器页面找到对应的安全组，单击安全组“ID”，进入“安全组”页面。

查看更多 →

server_id 是 云服务器ID。 请求消息 无 响应消息 响应参数如表2所示。 表2 响应参数 参数 参数类型 描述 support_auto_recovery String 云服务器是否配置了自动恢复动作。 true：表示配置了自动恢复。 false：表示没有配置自动恢复。 请求示例

查看更多 →

管理员获取此账号。使用集群配置前需在集群配置管理中配置此参数。 linkConfig.keytab 否 FileContent Kerveros认证所需的keytab文件的本地绝对路径，您也可以联系管理员获取此文件。使用集群配置前需在集群配置管理中配置此参数。 linkConfig

查看更多 →

配置Windows通过EIP访问普通模式集群HDFS 操作场景 该章节通过指导用户配置集群绑定EIP，并配置HDFS文件的方法，方便用户可以在本地对样例文件进行编译。 本章节以运行HdfsExample样例为例进行说明。 操作步骤 为集群的每个节点申请弹性公网IP，并将本地Win

查看更多 →