Hive前，需要满足以下条件： 已创建一个低于2.0.0版本的 MRS 集群，集群包含Hive组件，并且请确保MRS集群已关闭Kerberos认证。对于开启Kerberos认证的MRS Hive数据源， DLV 暂不支持。 已获取MRS Hive数据源的地址。 为了使DLV大屏与MRS集群网络互

查看更多 →

准备MapReduce样例初始数据 操作场景 在调测程序之前，需要提前准备将待处理的数据。 运行MapReduce统计样例程序，请参考规划MapReduce统计样例程序数据。 运行MapReduce访问多组件样例程序，请参考规划MapReduce访问多组件样例程序数据。 规划MapReduce统计样例程序数据

查看更多 →

Hadoop社区版本提供两种认证方式Kerberos认证（安全模式）和Simple认证（普通模式），在创建集群时，MRS支持配置是否启用Kerberos认证。 在安全模式下MRS集群统一使用Kerberos认证协议进行安全认证。 功能 使用Kerberos的系统在设计上采用“客户端/服务

查看更多 →

logman脚本日志管理日志。 /var/log/Bigdata/mapreduce MapReduce日志。 /var/log/Bigdata/nodeagent NodeAgent日志。 /var/log/Bigdata/okerberos OMS Kerberos日志。 /var/log/Bigdata/oldapserver

查看更多 →

下未创建子网，请单击“创建子网”进行创建。 subnet-default 集群节点 配置集群节点信息。 保持默认 Kerberos认证 是否启用Kerberos认证。 不开启 用户名 登录集群管理页面及E CS 节点的用户名。 admin/root 密码 设置登录集群管理页面及ECS节点用户的密码。

查看更多 →

那么Spark应用程序中需要写入安全认证代码，确保Spark程序能够正常运行。 安全认证有三种方式： 命令认证： 提交Spark应用程序运行前，或者在使用CLI连接SparkSQL前，在Spark客户端执行如下命令获得认证。 kinit 组件业务用户 配置认证： 可以通过以下3种方式的任意一种指定安全认证信息。

查看更多 →

安全认证有两种方式： 命令行认证： 提交Oozie应用程序运行前，在Oozie客户端执行如下命令获得认证。 kinit 组件业务用户 代码认证（Kerberos安全认证）： 通过获取客户端的principal和keytab文件在应用程序中进行认证，用于Kerberos安全认证的k

查看更多 →

zie程序能够正常运行。 安全认证有两种方式： 命令行认证： 提交Oozie应用程序运行前，在Oozie客户端执行如下命令获得认证。 kinit 组件业务用户 代码认证（Kerberos安全认证）： 通过获取客户端的principal和keytab文件在应用程序中进行认证，用于K

查看更多 →

用户已经将运行作业所需的程序包和数据文件上传至OBS系统或HDFS中。 通过界面提交作业 登录MRS管理控制台。 选择“现有集群”，选中一个运行中的集群并单击集群名称，进入集群信息页面。 若集群开启Kerberos认证时执行该步骤，若集群未开启Kerberos认证，请无需执行该步骤。

查看更多 →

统随机生成。 Kerberos认证 Kerberos认证支持两种方式：密码认证及keytab认证。认证有效时间默认为24小时。 密码认证：通过输入用户正确的密码完成身份认证。主要在运维管理场景中使用“人机”用户进行认证，命令为kinit 用户名。 keytab认证：keytab文

查看更多 →

租户系统用户组。系统内部组，仅限组件间内部使用，且仅在已启用Kerberos认证的集群中使用。 System_administrator MRS集群系统管理员组。系统内部组，仅限组件间内部使用，且仅在已启用Kerberos认证的集群中使用。 Manager_viewer MRS Ma

查看更多 →

SparkSQL前，需要满足以下条件： 已创建一个包含Spark组件的MRS 2.x之前版本集群，并且请确保MRS集群已关闭Kerberos认证。对于开启Kerberos认证的MRS SparkSQL数据源，DLV暂不支持。 已获取MRS SparkSQL数据源的地址。 为了使DLV大屏与

查看更多 →

ink程序后，业务代码访问不到客户自定义的配置文件，导致业务程序启动失败。 原因分析 该问题的根因是NFS盘上的根目录权限不足，导致Flink程序启动后无法访问该目录。 MRS的Flink任务是在YARN运行，当集群未启用Kerberos认证时，在YARN上运行任务的用户为yar

查看更多 →

MapReduce Shuffle调优 操作场景 Shuffle阶段是MapReduce性能的关键部分，包括了从Map task将中间数据写到磁盘一直到Reduce task拷贝数据并最终放到reduce函数的全部过程。这一块Hadoop提供了大量的调优参数。 图1 Shuffle过程

查看更多 →

child.java.opts参数；如果未设置-Xmx，Xmx值从mapreduce.map.memory.mb*mapreduce.job.heap.memory-mb.ratio计算获取。 集群已开启Kerberos认证：-Djava.net.preferIPv4Stack=true

查看更多 →

HDFS初始化是指在使用HDFS提供的API之前，需要做的必要工作。 大致过程为：加载HDFS服务配置文件，并进行Kerberos安全认证，认证通过后再实例化Filesystem，之后使用HDFS的API。此处Kerberos安全认证需要使用到的keytab文件，请提前准备。 正确示例： private void

查看更多 →

通过获取客户端的principal和keytab文件在应用程序中进行认证。 在安全集群环境下，样例代码需要使用的认证方式如表1所示： 表1 安全认证方式 样例代码 模式 安全认证方式 sparknormal-examples yarn-client 命令认证、配置认证或代码认证，三种任选一种。 yarn-cluster

查看更多 →

通过获取客户端的principal和keytab文件在应用程序中进行认证。 在安全集群环境下，样例代码需要使用的认证方式如表1所示： 表1 安全认证方式 样例代码 模式 安全认证方式 sparknormal-examples yarn-client 命令认证、配置认证或代码认证，三种任选一种。 yarn-cluster

查看更多 →

执行如下命令： cd {客户端安装目录} source bigdata_env kinit sparkuser （首次认证需要修改密码，未开启Kerberos认证，则无需执行kinit命令。） hdfs dfs -put /tmp/gsjdbc200.jar /tmp 在MRS

查看更多 →

topic1 安全认证。 安全认证的方式有三种：Kerberos认证、SSL加密认证和Kerberos+SSL模式认证，用户在使用的时候可任选其中一种方式进行认证。 Kerberos认证配置 客户端配置。 在Flink配置文件“flink-conf.yaml”中，增加kerberos认证相关

查看更多 →

访问HBase WebUI的权限 mapred Mapred@123 MapReduce系统管理员，用户权限： 提交、停止和查看MapReduce任务的权限 修改Yarn配置参数的权限 访问Yarn、MapReduce WebUI的权限 spark Spark@123 Spark系统管理员，用户权限：

查看更多 →