SQL on Hadoop DWS支持直接读取存储在Hadoop HDFS文件系统上的结构化数据，对外提供标准SQL语言查询接口，通过向量化引擎完成Hadoop原生数据的复杂分析查询工作。 技术架构 DWS将HDFS上存储的结构化数据映射为外部表，从而重用已有的成熟数据库SQL编

查看更多 →

org/repos/dist/release/hadoop/common/中下载Hadoop的样例程序。 例如，选择hadoop-x.x.x版本，下载“hadoop-x.x.x.tar.gz”，解压后在“hadoop-x.x.x\share\hadoop\mapreduce”路径下获取“hadoop-mapreduce-examples-x

查看更多 →

建立Hive的数据连接 开发Hive SQL前，我们需要在“管理中心 > 数据连接”模块中建立一个到 MRS Hive的连接，数据连接名称为“hive1009”。创建MRS Hive连接的操作请参见配置MRS Hive数据连接。 关键参数说明： 集群名：已创建的MRS集群。 绑定Agent：已创建的 CDM 集群。

查看更多 →

3.1 发布时间 2020-09-04 解决的问题 MRS Manager 解决自定义集群缩容Task节点失败问题 MRS 大数据组件 解决Hive和Spark路径下adapter-hadoop-wrapper-file-system包版本错误问题 解决HBase服务Manager上保存多命名空间，后台不生效问题

查看更多 →

ash问题 MRS 1.9.3.1 修复问题列表： MRS Manager 解决自定义集群缩容Task节点失败问题 MRS 大数据组件 解决Hive和Spark路径下adapter-hadoop-wrapper-file-system包版本错误问题 解决HBase服务Manager上保存多命名空间，后台不生效问题

查看更多 →

保存配置，然后单击“集群 > 服务”，在服务列表中重启Hive服务。 更新客户端配置文件。 登录Hive客户端所在的节点，执行以下命令修改Hive客户端配置文件目录下的“hivemetastore-site.xml”。 vi 客户端安装目录/Hive/config/hivemetastore-site

查看更多 →

使用流程 从MRS导入数据到集群流程如下： 前提条件 创建一个MRS集群，具体操作步骤请参见购买自定义集群。 创建一个HDFS外表，外表通过外部 服务器 的接口，从MRS集群查询数据。 具体操作步骤请参见《 数据仓库 服务数据迁移与同步》中从MRS导入数据到集群章节。 同一个网络下可以有多个MRS数据源，

查看更多 →

在调用作业相关接口的时候，部分URL中需要填入集群ID（cluster_id），所以需要先在管理控制台上获取到集群ID。集群ID获取步骤如下： 登录MRS管理控制台。 选择“现有集群”，单击待操作集群的集群名称，进入集群详情页面。 选择“概览”页签，在基本信息区域获取“集群ID”。 图1 集群ID 获取作业ID

查看更多 →

Hive常用配置参数 Hive是建立在Hadoop上的数据仓库框架，提供大数据平台批处理计算能力，能够对结构化/半结构化数据进行批量分析汇总完成数据计算。 本章节主要介绍Hive常用参数。 操作步骤 登录 FusionInsight Manager，选择“集群 > 服务 > Hive

查看更多 →

认证类型 MRS集群鉴权类型，安全集群可选“KERBEROS”，非安全集群可选“SIMPLE”。选择连接的集群后，安全类型会自动填充。 连接器版本 MRS集群的数据源组件的版本，HIVE支持3版本，可选：3.X。 用户名 MRS集群的用户名。 密码 MRS集群mrs_user_name对应的密码。

查看更多 →

解决Yarn出现JVM Create GC thread failed问题 新增Hiveserver2 任务堆积告警 新增Hiveserver HiveMetastore GC时间超过5s告警 新增HiveServer2 解注ZK告警 新增20分钟内Yarn任务失败与kill数超过5个的告警

查看更多 →

principal' = 'mapred/hadoop.hadoop.com@HADOOP.COM', 'hive.metastore.kerberos.principal' = 'hive/hadoop.hadoop.com@HADOOP.COM', 'hadoop.security.authentication'

查看更多 →

HD上的HBase时，具体参数请参见配置HBase连接。 MRS Hive FusionInsight Hive Apache Hive 连接MRS、Apache Hadoop或FusionInsight HD上的Hive时，具体参数请参见配置Hive连接。 表格存储服务 （CloudTable） 连

查看更多 →

准备工作 CSS 集群处于可用状态。 确保客户端与 CS S集群的网络是互通的。 确保CSS集群和MRS集群在同一个区域、可用区、虚拟私有云和子网。 图1 CSS集群的区域等信息 操作步骤 获取集群的内网访问地址。访问集群时，需要输入内网访问地址。 在 云搜索服务 管理控制台，单击左侧导航栏的“集群管理”。

查看更多 →

Hive对接OBS 概述 Hive是一个数据仓库工具，可以对存储在分布式存储中的大规模数据进行数据提取、转化和加载，它提供了丰富的SQL查询方式来进行数据分析。 前提条件 已安装Hadoop，具体请参见Hadoop对接OBS。 对接步骤 以Hive 2.3.3为例。 下载apache-hive-2

查看更多 →

对系统的影响 Hive默认数据仓库的权限被修改，会影响当前用户，用户组，其他用户在默认数据仓库中创建库、创建表等操作的操作权限范围。会扩大或缩小权限。 可能原因 Hive定时查看默认数据仓库的状态，发现Hive默认数据仓库权限发生更改。 处理步骤 检查Hive默认数据仓库权限情况。

查看更多 →

HD上的HBase时，具体参数请参见配置HBase连接。 MRS Hive FusionInsight Hive Apache Hive 连接MRS、Apache Hadoop或FusionInsight HD上的Hive时，具体参数请参见配置Hive连接。 表格存储 服务（CloudTable） 连

查看更多 →

认证类型 MRS集群鉴权类型，安全集群可选“KERBEROS”，非安全集群可选“SIMPLE”。选择连接的集群后，安全类型会自动填充。 连接器版本 MRS集群的数据源组件的版本，HIVE支持3版本，可选：3.X。 用户名 MRS集群的用户名。 密码 MRS集群mrs_user_name对应的密码。

查看更多 →

ALM-16001 Hive数据仓库空间使用率超过阈值 告警解释 系统每30秒周期性检测Hive数据仓库空间使用率，该指标可在Hive服务监控界面查看，指标名称为“Hive已经使用的HDFS空间占可使用空间的百分比”。Hive数据仓库空间使用率指标默认提供一个阈值范围（85%），

查看更多 →

解决Yarn出现JVM Create GC thread failed问题 新增Hiveserver2 任务堆积告警 新增Hiveserver HiveMetastore GC时间超过5s告警 新增HiveServer2 解注ZK告警 新增20分钟内Yarn任务失败与kill数超过5个的告警

查看更多 →

跨集群访问HiveMetaStore GaussDB (DWS) 3.0数仓支持通过建立EXTERNAL SCHEMA实现远端访问MRS的Hive数据源（包括Hive对接HDFS和Hive对接OBS两种场景），本实践详细地介绍了跨集群访问HiveMetaStore数据的操作流程供您参考。

查看更多 →