中软国际数据治理专业服务解决方案实践

在“概览”页签下的“基本信息”区域，单击“HSConsole WebUI”后的链接，进入HSConsole界面。 单击“数据源”，在Hive数据源所在行的“操作”列下单击“编辑”，在页面内新增如下自定义配置： 表1 元数据超时参数 参数名称 默认值 描述 hive.metastore-timeout

查看更多 →

只对Hive组件自身的元数据数据库中的权限进行同步。这是由于当前 MRS 上的权限模型是在Manager上维护的，所以不同集群间的Hive元数据切换，不能自动把用户/用户组的权限同步到另一个集群的Manager上。 对于MRS 3.x之前版本，当用户选择的数据连接为“RDS服务MyS

查看更多 →

b已创建的 DLI 数据源连接。 资源队列 选择已创建的DLI SQL类型的队列。 数据库名称 选择DLI下已创建的数据库。当前示例为在DLI上创建数据库和表中创建的数据库名，即为“testdb”。 表名 选择DLI下已创建的表名。当前示例为在DLI上创建数据库和表中创建的表名，即为“user_info”。

查看更多 →

Hive ORC数据存储优化 操作场景 “ORC”是一种高效的列存储格式，在压缩比和读取效率上优于其他文件格式。 建议使用“ORC”作为Hive表默认的存储格式。 前提条件 已登录Hive客户端，具体操作请参见Hive客户端使用实践。 操作步骤 推荐：使用“SNAPPY”压缩，适用于压缩比和读取效率要求均衡场景。

查看更多 →

群外部的Hive类型数据源。 前提条件 数据源所在集群 域名 与HetuEngine集群域名不能相同。 数据源所在集群与HetuEngine集群节点网络互通。 在HetuEngine所在集群的所有节点的“/etc/hosts”文件中，添加待对接数据源所在集群的主机名称和对应的IP映射

查看更多 →

数据源”，单击“创建数据源”，进入创建数据源页面。接着选择“Hive”类型的数据源，单击“下一步”。 在页面中配置数据源的连接信息，如下表所示。 表1 数据源连接信息 参数 配置说明 数据源名称 填写数据源的名称，根据规划自定义。建议您按照一定的命名规则填写数据源名称，方便您快速识别和查找。 描述 填写数据源的描述信息。

查看更多 →

ServiceName 产生告警的服务名称。 RoleName 产生告警的角色名称。 HostName 产生告警的主机名。 Trigger condition 系统当前指标取值满足自定义的告警设置条件。 对系统的影响 发生连接数告警时，表示连接到HiveServer的session数过多，将会导致无法建立新的连接。

查看更多 →

左右间距：可通过拖动或输入数值设置百分数值和百分比的间距大小。 字体粗细：设置百分数值的字体粗细样式。 字体：设置百分数值的字体。 小数位：设置百分比中可保留的小数位个数。 数据 如何使用组件的数据配置，请参照设置组件数据。 交互 关于组件是否支持交互功能及交互的使用方法，请参考设置组件事件交互。

查看更多 →

创建外表 获取Hive的product_info_orc的文件路径。 登录MRS管理控制台。 选择“集群列表 > 现有集群”，单击要查看的集群名称，进入集群基本信息页面。 单击“文件管理”，选择“HDFS文件列表”。 进入您要导入到 GaussDB (DWS)集群的数据的存储目录，并记录其路径。

查看更多 →

如何迁移Hive/HDFS的数据到ClickHouse 问题 如何迁移Hive/HDFS的数据到ClickHouse。 回答 可以将Hive中的数据导出为 CS V文件，再将CSV文件导入到 ClickHouse。 从Hive中导出数据为 CSV： hive -e "select *

查看更多 →

如何迁移Hive/HDFS的数据到ClickHouse 问题 如何迁移Hive/HDFS的数据到ClickHouse。 回答 可以将Hive中的数据导出为CSV文件，再将CSV文件导入到 ClickHouse。 从Hive中导出数据为 CSV： hive -e "select *

查看更多 →

com@HADOOP.COM' ); Hive版本 Doris可以正确访问不同Hive版本中的Hive Metastore。在默认情况下，Doris会以Hive2.3版本的兼容接口访问Hive Metastore。你也可以在创建Catalog时指定hive的版本。如访问Hive1.1.0版本： CREATE

查看更多 →

查询一组项目的类型状态 功能介绍 根据项目列表，查询一组项目的类型状态。 URI URI格式 POST /softcomai/datalake/dataplan/v1.0/progress/status/query/progressType 参数说明 无。 请求 请求样例 POST

查看更多 →

INPATH '/user/hive_examples_data/employee_info.txt' INTO TABLE employees_info; 加载数据的实质是将数据复制到HDFS上指定表的目录下。 样例数据 表employees_info的数据如下： 1,Wang,R

查看更多 →

'/tmp/export';命令导入表会将导出的表导入到指定的表中，需注意以下两点： 如果目标集群上不存在与指定的表名相同的表，在导入表的过程中会创建该表。 如果目标集群上已存在与指定的表名相同的表，该表对应的HDFS目录下必须为空，否则导入失败。 “haclusterX”为新增的自定义参数“dfs.namenode

查看更多 →

在接入数据源页面的“默认数据源”页签下，选择“MRS Hive”类型的数据源，然后单击“下一步”。 在页面中配置数据源的连接信息。 表1 数据源连接信息 参数 配置说明 数据源名称 填写数据源的名称，根据规划自定义。建议您按照一定的命名规则填写数据源名称，方便您快速识别和查找。 编码格式

查看更多 →

式RCFile。 在导入数据时，被导入数据格式是TEXTFILE格式，最终导致此问题。 解决办法 属于应用侧问题，解决办法有多种。只要保证表所指定存储格式和被导入数据格式是一致的，可以根据实际情况采用合适方法。 方法1： 可以使用具有Hive表操作权限的用户在建表时指定存储格式，例如：

查看更多 →

org/confluence/display/hive/languagemanual。 是，执行2.a。 否，执行1.b。 若想查看执行错误语句的用户，可下载产生该告警的HiveServer节点的HiveServerAudit日志，下载的“开始时间”和“结束时间”分别为告警产生时间的前后10分钟。打开日志

查看更多 →

服务名 产生告警的服务名称。 角色名 产生告警的角色名称。 主机名 产生告警的主机名。 Trigger condition 系统当前指标取值满足自定义的告警设置条件。 对系统的影响 系统可能无法正常写入数据，导致部分数据丢失。 可能原因 Hive使用HDFS容量上限过小。 HDFS空间不足。

查看更多 →

er节点的HiveServerAudit日志，下载的“开始时间”和“结束时间”分别为告警产生时间的前后10分钟。打开日志文件查找“Result=FAIL”关键字筛选执行错误语句的日志信息，再根据日志信息中的“UserName”查看执行错误语句的用户。 输入正确的HQL语句，观察命令是否正确执行。

查看更多 →

使用hive-table方式同步数据到obs上的hive表报错 问题 使用hive-table方式同步数据到obs上的hive表报错。 回答 修改数据同步方式，将-hive-table改成-hcatalog-table。 父主题： Sqoop常见问题

查看更多 →