server_id 是 云服务器 ID。 请求消息 无 响应消息 响应参数如表2所示。 表2 响应参数 参数 参数类型 描述 support_auto_recovery String 云 服务器 是否配置了自动恢复动作。 true：表示配置了自动恢复。 false：表示没有配置自动恢复。 请求示例

查看更多 →

3.x及后续版本集群。 配置描述 有关如何配置CPU隔离与安全的CGroups功能的详细信息，请参见Hadoop官网： MRS 3.2.0之前版本：http://hadoop.apache.org/docs/r3.1.1/hadoop-yarn/hadoop-yarn-site/NodeManagerCgroups

查看更多 →

附录 名词解释 基本概念、云服务简介、专有名词解释 弹性云服务器 E CS ：是一种可随时自助获取、可弹性伸缩的云服务器，可帮助您打造可靠、安全、灵活、高效的应用环境，确保服务持久稳定运行，提升运维效率。 虚拟私有云 VPC：为云服务器、云容器、云数据库等云上资源构建隔离、私密的虚拟网络

查看更多 →

配置Yarn通过Guardian访问OBS 参考配置Guardian服务对接OBS完成Guardian对接OBS后，即可在集群客户端执行Yarn任务访问OBS。 Yarn对接OBS 以客户端安装用户登录安装了Yarn客户端的节点。 执行以下命令，切换到客户端安装目录。 cd 客户端安装目录

查看更多 →

com/p/snappy/。 本章节适用于MRS 3.x及后续版本。 配置描述 为了使LZC压缩生效，需要在客户端的配置文件“core-site.xml”中（例如“客户端安装路径/HDFS/hadoop/etc/hadoop/”）配置如下参数。 表1 参数描述 参数 描述 默认值 io.compression

查看更多 →

c-3 #hadoop内存大小(GB) hadoop_memory_size=8 #yarn虚拟核心数 yarn_vcpu_cores=8 #指定hadoop安装地址(所有服务器安装目录必须一致) hadoop_installdir=/usr/local/hadoop #core-site

查看更多 →

一个在华为云上部署和管理Hadoop系统的服务，一键即可部署Hadoop集群。MRS提供租户完全可控的一站式企业级大数据集群云服务，完全兼容开源接口，结合 华为云计算 、存储优势及大数据行业经验，为客户提供高性能、低成本、灵活易用的全栈大数据平台，轻松运行Hadoop、Spark、H

查看更多 →

作业时，请配置作业使用Spark3.3.1版本、且已在作业中配置允许 DLI 访问DEW的委托信息。 自定义委托及配置请参考自定义DLI委托权限。 使用该功能，所有涉及OBS的桶，都需要进行配置AKSK。 语法格式 在Spark Jar作业编辑界面，选择配置优化参数，配置信息如下:

查看更多 →

x及后续版本。 配置描述 为了使LZC压缩生效，需要在客户端的配置文件“core-site.xml”中（例如“客户端安装路径/HDFS/hadoop/etc/hadoop/”）配置如下参数。 表1 参数描述 参数 描述 默认值 io.compression.codecs 为了使LZC

查看更多 →

修改云服务器的企业项目 云服务器组不一致 将云服务器的云服务器组修改成与节点池的云服务器组一致。 修改云服务器的云服务器组 修改云服务器的规格 待纳管云服务器规格需修改成节点池中包含的规格。 更多操作指导请参见ECS变更规格通用操作。 登录ECS控制台。 单击目标云服务器名称，

查看更多 →

HDFS > 配置 > 全部配置”，打开HDFS服务配置页面。 将配置项“dfs.datanode.data.dir”从默认值“%{@auto.detect.datapart.dn}”修改为新的目标目录，例如“${BIGDATA_DATA_HOME}/hadoop/data3/dn”。

查看更多 →

盘，从而极大缩减了故障硬盘的修复时间，有利于提高系统的可靠性。 节点磁盘LVM配置 MRS支持将多个磁盘配置成LVM（Logic Volume Management），多个磁盘规划成一个逻辑卷组。配置成LVM可以避免各磁盘间使用不均的问题，保持各个磁盘间均匀使用在HDFS和Kaf

查看更多 →

deManager已经升级，应用程序仍然可以运行旧版本的Hadoop。 配置描述 进入HDFS客户端。 以客户端安装用户，登录安装客户端的节点。 执行以下命令，切换到客户端安装目录。 cd 客户端安装路径 执行以下命令配置环境变量。 source bigdata_env 如果集群

查看更多 →

#core-site.xml文件,配置hadoop数据目录 hadoop_datadir=/data/hadoop #hadoop安装用户 hadoop_installuser=dce 执行安装脚本 bash ./config-all.sh bash ./install-all.sh bash

查看更多 →

fs.obs.impl配置为org.apache.hadoop.fs.obs.OBSFileSystem。 修改后“重启”或“滚动重启”HDFS集群，再重启“部署客户端配置”。 进入YARN集群，重启“部署客户端配置”。 查看节点中/etc/hadoop/conf/core-site

查看更多 →

配置HDFS通过Guardian访问OBS 参考配置Guardian服务对接OBS完成Guardian对接OBS后，即可在HDFS客户端查看和创建OBS文件目录。 HDFS对接OBS 以客户端安装用户登录安装了HDFS客户端的节点。 执行以下命令，切换到客户端安装目录。 cd 客户端安装目录

查看更多 →

deManager已经升级，应用程序仍然可以运行旧版本的Hadoop。 配置描述 进入HDFS客户端。 以客户端安装用户，登录安装客户端的节点。 执行以下命令，切换到客户端安装目录。 cd 客户端安装路径 执行以下命令配置环境变量。 source bigdata_env 如果集群

查看更多 →

搭建Windows环境 镜像部署Windows环境 介绍如何使用华为云镜像，通过切换镜像部署Windows环境。 搭建Hadoop环境 手工搭建Hadoop环境（Linux） 以CentOS操作系统云服务器为例，介绍如何搭建Hadoop环境。 搭建Node.js环境 手工部署Node.js环境

查看更多 →

负载均衡器配置：后端云服务器组 后端云服务器组的负载均衡算法 服务对接的后端实例会在一个后端云服务器组中，此参数支持配置后端云服务器组的负载均衡算法。 参数名 取值范围 默认值 是否允许修改 作用范围 k8s annotation: kubernetes.io/elb.lb-algorithm

查看更多 →

Livy部署 前置条件说明 JDK先配置好(1.8) 安装大数据组件客户端(HDFS\YARN\HIVE\SPARK) 安装机器 前提 CDH中需要有两个Hadoop集群，每个集群下部署一个livy (CDH机器允许部署的情况) CDH机器不允许部署的情况，参考https://deepexi

查看更多 →

Hdfs、大数据相关驱动安装与Standalone模式local配置 配置驱动 hadoop依赖.zip。 影响数据源中hdfs数据源的连接。 压缩包内的jar包放入工作目录：lib\edi\hadoop目录下。 此目录会内自带edi-hadoop-deps-4.4.1-SNAPSHOT

查看更多 →