Hive ORC数据存储优化 操作场景 “ORC”是一种高效的列存储格式，在压缩比和读取效率上优于其他文件格式。 建议使用“ORC”作为Hive表默认的存储格式。 前提条件 已登录Hive客户端，具体操作请参见Hive客户端使用实践。 操作步骤 推荐：使用“SNAPPY”压缩，适用于压缩比和读取效率要求均衡场景。

查看更多 →

数据应用集成设计与实施 图1 数据应用集成设计与实施 数据应用集成设计与实施作为数据管理实施专业服务中的一个非必选项，主要面向客户数据消费场景多，IT能力弱的场景提供服务。工作内容包括数据应用集成实施和数据应用内容开发，将多个数据应用进行打通组合，或针对特定业务场景进行报表设计与

查看更多 →

从纵向来看，每个shard内部有多个副本组成，保证分片数据的高可靠性，以及计算的高可靠性。 数据分布设计 Shard数据分片均匀分布 建议用户的数据均匀分布到集群中的多个shard分片，如图1所示有3个分片。 假如有30 GB数据需要写入到集群中，需要将30 GB数据均匀切分后分别放到shard-1、s

查看更多 →

数据库目前不支持不区分大小写的排序方式。 目前仅支持对数据库定义字符集，不支持对表、字段等其他对象定义字符集。 业务使用前必须先创建业务数据库。 不应使用数据库安装后默认创建的postgres数据库存储业务数据。 创建数据库时必须指定字符集为UTF8，创建数据库时必须选择与客户端统一的编码字符集。 为了使用

查看更多 →

Hive源表 简介 Apache Hive 已经成为了 数据仓库 生态系统中的核心。 它不仅仅是一个用于大数据分析和ETL场景的SQL引擎，同样它也是一个数据管理平台，可用于发现，定义，和演化数据。 Flink与Hive的集成包含两个层面，一是利用了Hive的MetaStore作为持

查看更多 →

ClickHouse数据库设计 ClickHouse DataBase设计 ClickHouse表引擎适用场景说明 ClickHouse宽表设计 ClickHouse物化视图设计 ClickHouse逻辑视图设计 父主题： ClickHouse设计开发规范

查看更多 →

数据库设计规范 基本规范 部署规范 数据库对象命名规范 数据库设计规范 权限设计规范 表设计规范 字段设计规范 索引设计规范 函数/存储过程设计规范 父主题： 使用规范建议

查看更多 →

关系数据库增量迁移 CDM 支持对关系型数据库进行增量迁移，全量迁移完成之后，可以增量迁移指定时间段内的数据（例如每天晚上0点导出前一天新增的数据）。 增量迁移指定时间段内的数据 适用场景：源端为关系型数据库，目的端没有要求。 关键配置：Where子句+定时执行作业。 前提条件：数据表中有时间日期字段或时间戳字段。

查看更多 →

关系数据库增量迁移 CDM支持对关系型数据库进行增量迁移，全量迁移完成之后，可以增量迁移指定时间段内的数据（例如每天晚上0点导出前一天新增的数据）。 增量迁移指定时间段内的数据 适用场景：源端为关系型数据库，目的端没有要求。 关键配置：Where子句+定时执行作业。 前提条件：数据表中有时间日期字段或时间戳字段。

查看更多 →

关系数据库增量迁移 CDM支持对关系型数据库进行增量迁移，全量迁移完成之后，可以增量迁移指定时间段内的数据（例如每天晚上0点导出前一天新增的数据）。 增量迁移指定时间段内的数据 适用场景：源端为关系型数据库，目的端没有要求。 关键配置：Where子句+定时执行作业。 前提条件：数据表中有时间日期字段或时间戳字段。

查看更多 →

工业数据资产库设计 数据治理知识库设计 IDS工业数据确权与交换试点 模具行业数据模型与标准 3C电子行业(PCBA)数据模型与标准 供应链数据治理及入湖开发 IDS可信数据空间 父主题： 工业数据处理基础工具链专题设计

查看更多 →

步骤5：数据架构设计 DataArts Studio 数据架构以关系建模、维度建模理论支撑，实现规范化、可视化、标准化数据模型开发，定位于数据治理流程设计落地阶段，输出成果用于指导开发人员实践落地数据治理方法论。 DataArts Studio数据架构建议的数据分层如下： SDI (Source

查看更多 →

的企业级数据仓库集群。 您只需单击几下鼠标，就可以轻松完成应用程序与数据仓库的连接、数据备份、数据恢复、数据仓库资源和性能监控等运维管理工作。 与大数据无缝集成 您可以使用标准SQL查询HDFS、 对象存储服务 （Object Storage Service，OBS）上的数据，数据无需搬迁。

查看更多 →

从新建数据源进入创建数据源页面，选择要创建数据源所在的项目，源库类型选择数据Hive。 接入网络类型选公网。 在配置连接对话框，填写以下配置。 图1 接入Hive数据源参数 表1 参数说明 参数名称 是否必填 说明 源库类型 是 接入的数据源类型，本示例为Hive。更多数据源类型连接请参考表1。

查看更多 →

接入HIVE数据源 概述 ROMA Connect支持把HIVE作为一个数据源，用于创建数据API。在使用HIVE数据源前，您需要先接入数据源。 数据集成中仅支持百万以内数据量。 前提条件 每个接入的数据源都要归属到某个集成应用下，在接入数据源前您需要有可用的集成应用，否则请提前创建集成应用。

查看更多 →

WebUI”后的链接，进入HSConsole界面。 单击“数据源”，在Hive数据源所在行的“操作”列下单击“编辑”，在页面内新增如下自定义配置： 表1 元数据超时参数 参数名称 默认值 描述 hive.metastore-timeout 10s 共部署Hive数据源加载元数据缓存最大超时时间，单位为秒或分钟

查看更多 →

配置Hive数据连接 本章节指导用户在购买后，将现有集群的Hive元数据切换为本地数据库或者RDS数据库中存储的元数据。该操作可以使多个 MRS 集群共用同一份元数据，且元数据不随集群的删除而删除。也能够避免集群迁移时Hive元数据的迁移。 不同集群间Hive元数据切换时，MRS当前

查看更多 →

元数据管理模块是数据湖治理的基石，支持创建自定义策略的采集任务，可采集数据源中的技术元数据。支持自定义业务元模型，批量导入业务元数据，关联业务和技术元数据、全链路的血缘管理和应用。 图5 全链路数据血缘 数据地图 数据地图围绕数据搜索，服务于数据分析、数据开发、数据挖掘、数据运营等数据表的使用

查看更多 →

文件增量迁移 CDM支持对文件类数据源进行增量迁移，全量迁移完成之后，第二次运行作业时可以导出全部新增的文件，或者只导出特定的目录/文件。 目前CDM支持以下文件增量迁移方式： 增量导出指定目录的文件 适用场景：源端数据源为文件类型（OBS/HDFS/FTP/SFTP）。这种增量迁

查看更多 →

数据仓库服务 GaussDB (DWS)接入LTS 支持数据仓库GaussDB（DWS）日志接入LTS，具体接入方法请参见集群日志管理。 父主题： 使用云服务接入LTS

查看更多 →

WebUI”后的链接，进入HSConsole界面。 选择“数据源”，单击“添加数据源”。在“添加数据源”页面填写参数。 配置“基本配置”，填写数据源名称，选择数据源类型“Hive”。 配置“Hive配置”，参数配置请参考表1。 表1 Hive配置 参数 描述 取值样例 驱动 默认为fi-hive-hadoop。 fi-hive-hadoop

查看更多 →