Hive应用开发简介 Hive简介 Hive是一个开源的，建立在Hadoop上的 数据仓库 框架，提供类似SQL的HQL语言操作结构化数据，其基本原理是将HQL语言自动转换成Mapreduce任务或Spark任务，从而完成对Hadoop集群中存储的海量数据进行查询和分析。 Hive主要特点如下：

查看更多 →

上的冗余，减少客户集群分散运维的运维成本投入、大数据集群 服务器 成本投入；性价比当先业界30%； 提升数据处理效率：极大补强了神策在数据开发、ETL 方面的能力，提升数据处理的效率；通过分布式查询优化，实现高并发点查询秒级/毫秒级响应； 确保系统稳定性：软件多层级HA、多层级备份、

查看更多 →

数据仓库规格 GaussDB (DWS)的规格按照产品类型分为标准数仓、实时数仓和IoT数仓。其中实时数仓还包含单机版模式。各产品类型的不同差异，详情请参见数据仓库类型。 标准数仓（DWS 2.0）规格 标准数仓（DWS 2.0）云盘规格，该规格弹性伸缩，无限算力、无限容量，规格详情请参见表1。

查看更多 →

数据仓库类型 产品类型概述 标准数仓（DWS 2.0）：面向数据分析场景，为用户提供高性能、高扩展、高可靠、高安全、易运维的企业级数仓服务，支持2048节点、20PB级超大规模数据分析能力。支持冷热数据分析，存储、计算弹性伸缩，并按需、按量计价，为用户提供弹性灵活、极致性价比的体

查看更多 →

解决方案加速场介绍 解决方案工作台解决方案加速场持续沉淀解决方案经验资产，经验高效共享。包含： 架构模板：已沉淀600+架构模版，覆盖300+方案场景，合作伙伴可将已验证完成的联合方案架构上架至解决方案加速场，可被华为云一线、其他伙伴架构师、客户架构师快速检索和引用。 用例模板：

查看更多 →

。 解决方案 数据仓库主要适用于企业数据的关联和聚合等分析场景， 并从中发掘出数据背后的商业信息供决策者参考。这里的数据发掘主要指涉及多张表的大范围数据聚合和关联的复杂查询。 使用数据仓库，通过某个数据转换（ETL）的过程，业务运营数据库的数据可以被拷贝到数据仓库中供分析计算使用

查看更多 →

Hive应用开发简介 Hive介绍 Hive是一个开源的，建立在Hadoop上的数据仓库框架，提供类似SQL的HQL语言操作结构化数据，其基本原理是将HQL语言自动转换成MapReduce任务或Spark任务，从而完成对Hadoop集群中存储的海量数据进行查询和分析。 Hive主要特点如下：

查看更多 →

Flink调优经验总结 数据倾斜 当数据发生倾斜（某一部分数据量特别大），虽然没有GC（Gabage Collection，垃圾回收），但是task执行时间严重不一致。 需要重新设计key，以更小粒度的key使得task大小合理化。 修改并行度。 调用rebalance操作，使数据分区均匀。

查看更多 →

双方达成一致的业务保障目标，客户完成服务付款。 服务范围 本项目华为云数据仓库专家服务包括以下一项或多项内容： 华为云数据仓库产品咨询服务 华为云数据仓库平台安装部署规划与实施 数据仓库迁移方案设计与实施支持 基于华为云数据仓库平台的开发支持 本项目华为云数据仓库专家服务不包括以下内容： 应用程序改造、应用程序设计、数据库逻辑结构设计

查看更多 →

和导出。 表1 环境变量列表 序号 变量名 变量配置 1 ETL_TODAY #{DateUtil.format（DateUtil.addDays（Job.planTime,0）,"yyyy-MM-dd"）} 2 ETL_YESTERDAY #{DateUtil.format（DateUtil

查看更多 →

经验总结：SQL语句改写规则 根据数据库的SQL执行机制以及大量的实践，总结发现：通过一定的规则调整SQL语句，在保证结果正确的基础上，能够提高SQL执行效率。如果遵守这些规则，常常能够大幅度提升业务查询效率。 使用union all代替union union在合并两个集合时会执行去重操作，而union

查看更多 →

经验总结：SQL语句改写规则 根据数据库的SQL执行机制以及大量的实践，总结发现：通过一定的规则调整SQL语句，在保证结果正确的基础上，能够提高SQL执行效率。如果遵守这些规则，常常能够大幅度提升业务查询效率。 使用union all代替union。 union在合并两个集合时会执行去重操作，而union

查看更多 →

大型企业集团多分支互联场景 大型企业集团业务一般遍及全国，在全国多省市设有分支，且分支之间业务来往频繁。此类型企业一般在集团总部设有小型的网络安全部门，但分支基本没有专门的安全运维人员。由于分支机构庞大且分支间互联网数据传输频繁，总部安全人员难以准确感知集团整体安全态势，通常存在

查看更多 →

经验总结：SQL语句改写规则 根据数据库的SQL执行机制以及大量的实践，总结发现：通过一定的规则调整SQL语句，在保证结果正确的基础上，能够提高SQL执行效率。如果遵守这些规则，常常能够大幅度提升业务查询效率。 使用union all代替union union在合并两个集合时会执行去重操作，而union

查看更多 →

经验总结：SQL语句改写规则 根据数据库的SQL执行机制以及大量的实践，总结发现：通过一定的规则调整SQL语句，在保证结果正确的基础上，能够提高SQL执行效率。如果遵守这些规则，常常能够大幅度提升业务查询效率。 使用union all代替union union在合并两个集合时会执行去重操作，而union

查看更多 →

经验总结：SQL语句改写规则 根据数据库的SQL执行机制以及大量的实践，总结发现：通过一定的规则调整SQL语句，在保证结果正确的基础上，能够提高SQL执行效率。如果遵守这些规则，常常能够大幅度提升业务查询效率。 使用union all代替union union在合并两个集合时会执行去重操作，而union

查看更多 →

经验总结：SQL语句改写规则 根据数据库的SQL执行机制以及大量的实践，总结发现：通过一定的规则调整SQL语句，在保证结果正确的基础上，能够提高SQL执行效率。如果遵守这些规则，常常能够大幅度提升业务查询效率。 使用union all代替union union在合并两个集合时会执行去重操作，而union

查看更多 →

概述与连接管理 概述 数据开发包含脚本开发和作业调度，脚本开发主要是指SQL的ETL脚本，数据从贴源层到集市层的加工和流动，作业是对数据入湖、ETL脚本、数据质量等进行时间编排和按照计划周期性执行。 连接管理 登录管理中心 > 单击右侧数据连接 > 单击创建数据连接 > 选择对应的数据库类型

查看更多 →

经验总结：SQL语句改写规则 根据数据库的SQL执行机制以及大量的实践，总结发现：通过一定的规则调整SQL语句，在保证结果正确的基础上，能够提高SQL执行效率。如果遵守这些规则，常常能够大幅度提升业务查询效率。 使用union all代替union union在合并两个集合时会执行去重操作，而union

查看更多 →

为解决企业的数据集成与分析问题，数据仓库之父比尔·恩门于1990年提出数据仓库（Data Warehouse）。数据仓库主要功能是将OLTP经年累月所累积的大量数据，通过数据仓库特有的数据储存架构进行OLAP，最终帮助决策者能快速有效地从大量数据中，分析出有价值的信息，提供决策支持。自从数据仓库出现之后

查看更多 →

数据如何存储到数据仓库服务？ GaussDB(DWS)支持多数据源高效入库，典型的入库方式如下所示。详细指导请参见导入数据。 从OBS导入数据。 数据上传到OBS 对象存储服务 中，再从OBS中导入，支持 CS V，TEXT格式数据。 通过INSERT语句直接插入数据。 用户可以通过Ga

查看更多 →