数据仓库 服务 DWS DWS集群启用KMS加密 DWS集群启用日志转储 DWS集群启用自动快照 DWS集群启用SSL加密连接 DWS集群未绑定公网IP DWS集群运维时间窗检查 父主题： 系统内置预设策略

查看更多 →

Hive on HBase 配置跨集群互信下Hive on HBase 删除Hive on HBase表中的单行记录 父主题： 使用Hive

查看更多 →

Hive输出 概述 “Hive输出”算子，用于配置已生成的字段输出到Hive表的列。 输入与输出 输入：需要输出的字段 输出：Hive表 参数说明 表1 算子参数说明 参数 含义 类型 是否必填 默认值 Hive文件存储格式 配置Hive表文件的存储格式（目前支持四种格式： CS V、ORC、RC和PARQUET）。

查看更多 →

Hive on Hue Hue提供了Hive图形化管理功能，使用户可以通过界面的方式查询Hive的不同数据。 查询编辑器使用介绍 访问Hue WebUI，请参考访问Hue WebUI界面。 在左侧导航栏单击编辑器，然后选择“Hive”，进入“Hive”。 执行Hive HQL语句

查看更多 →

RUN ARCHIVE LOG ON tablelocation; 参数描述 表1 参数描述 参数 描述 tableIdentifier Hudi表的名称 tablelocation Hudi表的存储路径 示例 run archivelog on h1; run archivelog on

查看更多 →

使用Hive Hive用户权限管理 Hive客户端使用实践 快速使用Hive进行数据分析 Hive数据存储及加密配置 Hive on HBase 配置Hive读取关系型数据库 配置Hive读取Hudi表 Hive企业级能力增强 Hive性能调优 Hive运维管理 Hive常见SQL语法参考

查看更多 →

Hive输入 概述 “Hive输入”算子，将Hive表的指定列转换成同等数量的输入字段。 输入与输出 输入：Hive表列 输出：字段 参数说明 表1 算子参数说明 参数 含义 类型 是否必填 默认值 Hive数据库 Hive的数据库名称。 String 否 default Hive表名

查看更多 →

Hive输出 概述 “Hive输出”算子，用于配置已生成的字段输出到Hive表的列。 输入与输出 输入：需要输出的字段 输出：Hive表 参数说明 表1 算子参数说明 参数 含义 类型 是否必填 默认值 Hive文件存储格式 配置Hive表文件的存储格式（目前支持四种格式：CSV、ORC、RC和PARQUET）。

查看更多 →

根据需要的表和字段，在 MRS -Hive数据库中建立相应的库和表； 表及字段的命名规范为：ods_源系统简写_源系统表名_{TYPE简码},增量表的type简码为i,全量表的type简码为f,所有的表名称及字段名称小写 标准字段： ext_etl_dt （ETL时间），ext_src_s

查看更多 →

目标库手动建表 根据需要的表和字段，在MRS-Hive数据库中建立相应的库和表 表及字段的命名规范为：ods_源系统简写_源系统表名_{TYPE简码},全量表的type简码为f,所有的表名称及字段名称小写 标准字段：ext_etl_dt （ETL时间），ext_src_sys_id（源系统标识），dt、ph（分区字段）

查看更多 →

p by、order by、视图进行多维度分析。 1.5h SQL on Hadoop 导入MRS-Hive数据源 创建数据仓库集群 GaussDB (DWS)，并导入MRS的Hive数据，实现跨集群进行大数据融合分析。 1.5h 二次开发 使用Java进行二次开发 使用JDBC驱动

查看更多 →

MRS Hive 获取MRS Hive配置文件方法如下： 获取“krb5.conf”和“user.keytab”文件。 参考下载用户认证文件，在MRS Manager下载用户认证文件，解压后得到“krb5.conf”和 “user.keytab”文件。 获取“hiveclient

查看更多 →

径，您也可以联系管理员获取此文件。使用集群配置前需在集群配置管理中配置此参数。 linkConfig.hiveVersion 是 枚举 Hive版本： HIVE_1_X HIVE_3_X linkConfig.user 否 String 登录Manager平台的用户名，使用集群配置时不用配置

查看更多 →

Hive同步 Hive同步数据报错SQLException Hive同步数据报错HoodieHiveSyncException Hive同步数据报错SemanticException 父主题： Hudi常见问题

查看更多 →

支持按HBase的Region分片。 MRS Hive HDFS读取方式时，支持按Hive文件分片。 JDBC读取方式时，不支持分片。 FusionInsight HDFS 支持按文件分片。 FusionInsight HBase 支持按HBase的Region分片。 FusionInsight Hive HDFS读取方式时，支持按Hive文件分片。

查看更多 →

服务 > Hive > 配置”。 在搜索框搜索“hive.metastore.warehouse.dir”，修改参数值为OBS路径，例如：obs://hivetest/user/hive/warehouse/，其中“hivetest”为OBS文件系统名。 图1 hive.metastore

查看更多 →

支持按HBase的Region分片。 MRS Hive HDFS读取方式时，支持按Hive文件分片。 JDBC读取方式时，不支持分片。 FusionInsight HDFS 支持按文件分片。 FusionInsight HBase 支持按HBase的Region分片。 FusionInsight Hive HDFS读取方式时，支持按Hive文件分片。

查看更多 →

Hudi进行DWI层建模的目的是在ETL映射中需要使用，即，将SDI层的某个表映射至DWI层。 ETL映射 根据业务场景需要，可将数据从源端数据中进行移动和转换到指定的目标数据表中。如，本实践中需要将SDI层的门店表映射至DWI层的门店表。 图26 新建ETL映射 表2 ETL映射参数说明 参数

查看更多 →

数据迁移 您可以通过 云数据迁移 服务 CDM 轻松的将其他云服务或者业务平台的数据迁移至 DLI 。包括以下最佳实践内容： 迁移Hive数据至DLI，具体请参考迁移Hive数据至DLI。 迁移Kafka数据至DLI，具体请参考迁移Kafka数据至DLI。 迁移Elasticsearch数据

查看更多 →

图6 单表质量检测 多表对比分析 支持针对 Hive、Kudu、Oracle、MySQL、SQLServer、impala 等数据源类型，从一致性、及时性等数据质量指标集成多个质量规则，对指定的多张表进行比对分析，以判断，在数据同步或经 ETL 任务产出后，上下游的数据是否一致，所耗费的时间是否在预期范围内。

查看更多 →

able 大数据ETL处理 运营商大数据分析 运营商数据体量在PB~EB级，其数据种类多，有结构化的基站信息数据，非结构化的消息通信数据，同时对数据的时效性有很高的要求，DLI服务提供批处理、流处理等多模引擎，打破数据孤岛进行统一的数据分析。 优势 大数据ETL：具备TB~EB级

查看更多 →