Hive运维管理 Hive常用常用配置参数 Hive日志介绍 父主题： 使用Hive

查看更多 →

Hive应用开发简介 Hive简介 Hive是一个开源的，建立在Hadoop上的 数据仓库 框架，提供类似SQL的HQL语言操作结构化数据，其基本原理是将HQL语言自动转换成MapReduce任务或Spark任务，从而完成对Hadoop集群中存储的海量数据进行查询和分析。 Hive主要特点如下：

查看更多 →

服务 > Hive > 配置”。 在搜索框搜索“hive.metastore.warehouse.dir”，修改参数值为OBS路径，例如：obs://hivetest/user/hive/warehouse/，其中“hivetest”为OBS文件系统名。 图1 hive.metastore

查看更多 →

配置Hive SQL防御 操作场景 用户可以在Manager界面配置Hive的SQL防御规则，根据业务调整对应SQL防御规则的参数。 前提条件 已安装包含Hive服务的集群客户端，例如安装目录为“/opt/hadoopclient”。 集群中Hive服务运行状态正常。 对于开启了

查看更多 →

创建Hive脱敏任务 创建Hive脱敏任务后，可以对Hive类型数据的敏感信息进行脱敏。 本章节将介绍如何创建Hive脱敏任务。 前提条件 已完成云资源委托授权，具体请参见云资产委托授权/停止授权。 已授权Hive数据库，具体请参见授权大数据资产。 已在“敏感数据识别”中完成了敏

查看更多 →

ericStatsEvaluator.init. 解决方案：set hive.map.aggr=false; Hive SQL设置hive.auto.convert.join = true（默认开启）和hive.optimize.skewjoin=true执行报错：ClassCastException

查看更多 →

访问权限策略。 Hive权限模型 使用Hive组件，必须对Hive数据库和表（含外表和视图）拥有相应的权限。在 MRS 中，完整的Hive权限模型由Hive元数据权限与HDFS文件权限组成。使用数据库或表时所需要的各种权限都是Hive权限模型中的一种。 Hive元数据权限。 与传统关

查看更多 →

解决数据倾斜的问题，可通过设置“set hive.optimize.skewjoin=true”并调整“hive.skewjoin.key”的大小。“hive.skewjoin.key”是指Reduce端接收到多少个key即认为数据是倾斜的，并自动分发到多个Reduce。 父主题： Hive性能调优

查看更多 →

相应参数值，Hive常用参数如表1所示。 表1 Hive常用参数说明 参数名称 参数说明 默认值 hive.auto.convert.join Hive基于输入文件大小将普通join转为mapjoin的开关，取值范围为： true false 说明： 在使用Hive进行联表查询，

查看更多 →

关联Tags之前须先编辑并新建Tags。 编辑Hive表 在Hive页面列表中，单击待编辑Hive表所在行的“编辑”。 删除Hive表 在Hive页面列表中，单击待删除Hive表所在行的“删除”。 查看操作历史 在Hive页面列表中，单击待查看操作历史的Hive表所在行的“操作历史”。 查看历史版本信息

查看更多 →

关联Tags之前须先编辑并新建Tags。 编辑Hive表 在Hive页面列表中，单击待编辑Hive表所在行的“编辑”。 删除Hive表 在Hive页面列表中，单击待删除Hive表所在行的“删除”。 查看操作历史 在Hive页面列表中，单击待查看操作历史的Hive表所在行的“操作历史”。 查看历史版本信息

查看更多 →

配置Hive源端参数 支持从Hive导出数据，使用JDBC接口抽取数据。 Hive作为数据源， CDM 自动使用Hive数据分片文件进行数据分区。 表1 Hive作为源端时的作业参数 参数类型 参数名 说明 取值样例 基本参数 读取方式 包括HDFS和JDBC两种读取方式。默认为HD

查看更多 →

Hive应用开发规范 Hive应用开发规则 Hive应用开发建议

查看更多 →

Hive应用开发建议 HQL编写之隐式类型转换 查询语句使用字段的值做过滤时，不建议通过Hive自身的隐式类型转换来编写HQL。因为隐式类型转换不利于代码的阅读和移植。 建议示例： select * from default.tbl_src where id = 10001; select

查看更多 →

Hive服务启动失败 Hive服务启动失败最常见的原因是metastore实例无法连接上DBservice，可以查看metastore日志中具体的错误信息。 可能原因 DBservice没有初始化好Hive的元数据库hivemeta。 DBservice的浮动IP配置有误，导致m

查看更多 →

重启Hive服务失败 用户问题 修改Hive服务配置后，保存配置失败，Manager页面Hive服务的配置状态为配置失败。 问题现象 用户A在MRS节点后台上打开了Hive相关配置文件且未关闭，此时用户B在MRS Manager页面的“服务管理”中修改Hive配置项，保存配置并重

查看更多 →

Hive应用开发简介 Hive介绍 Hive是一个开源的，建立在Hadoop上的数据仓库框架，提供类似SQL的HQL语言操作结构化数据，其基本原理是将HQL语言自动转换成MapReduce任务或Spark任务，从而完成对Hadoop集群中存储的海量数据进行查询和分析。 Hive主要特点如下：

查看更多 →

调测Hive应用 在本地Windows环境中调测Hive JDBC样例程序 在Linux环境中调测Hive JDBC样例程序 调测Hive HCatalog样例程序 调测Hive Python样例程序 调测Hive Python3样例程序 调测Hive SpringBoot样例程序

查看更多 →

Hive JDBC接口介绍 Hive JDBC接口遵循标准的JAVA JDBC驱动标准。 Hive作为数据仓库类型数据库，其并不能支持所有的JDBC标准API。例如事务类型的操作：rollback、setAutoCommit等，执行该类操作会获得“Method not suppo

查看更多 →

API访问服务端进行Hive的相关操作。 HQL语言 Hive Query Language，类SQL语句。 HCatalog HCatalog是建立在Hive元数据之上的一个表信息管理层，吸收了Hive的DDL命令。为Mapreduce提供读写接口，提供Hive命令行接口来进行数

查看更多 →

解决数据倾斜的问题，可通过设置“set hive.optimize.skewjoin=true”并调整hive.skewjoin.key的大小。hive.skewjoin.key是指Reduce端接收到多少个key即认为数据是倾斜的，并自动分发到多个Reduce。 父主题： Hive性能调优

查看更多 →