所示为本实践配置的数据连接，分别是源端的两个MySQL连接和目标端的一个 MRS Hudi连接。 图5 数据连接清单 添加监控对象，配置想要采集的数据连接的库表信息，以及所需采集的空值字段的表名和表字段名。 图6 配置调研规则入口 为了做源端数据调研，需要对源端系统进行监控，若需要

查看更多 →

数据导入和导出 数据导入 数据导出 父主题： GeminiDB Cassandra

查看更多 →

数据导入和导出 数据导入 数据导出 父主题： GaussDB

查看更多 →

数据导入和导出 数据导入 数据导出 父主题： MySQL

查看更多 →

作业是指将SQL脚本或者数据集成、数据质量作业等进行编排并进行周期性的调度。 脚本作业配置 为了精细化管理和便于运维，ETL作业配置规则如下: 按逻辑数据实体创建调度作业画布。 业务指标用到的逻辑数据实体，将每个逻辑数据实体放在一个画布中，包括ODS层、DWI层、DWR层基础数据，然后按照ODS层作业

查看更多 →

领取免费 数据仓库 服务后，为什么看不到集群？ 免费领取数据仓库服务后，并不会自动创建集群，您需要登录GaussDB(DWS)管理控制台手动创建GaussDB(DWS)集群。 父主题： 计费问题

查看更多 →

Manager首页，选择“运维 > 日志 > 下载”。 在“服务”中勾选待操作集群的“Hive”。 单击右上角的设置日志收集的“开始时间”和“结束时间”，分别为告警产生时间的前后10分钟，单击“下载”。 请联系运维人员，并发送已收集的故障日志信息。 告警清除 此告警修复后，系统会自动清除此告警，无需手工清除。

查看更多 →

习数据集。 其中鸢尾花原始测试集、KPI 15分钟数据集和KPI 60分钟数据集中包括空值，用户可以通过特征工程进行数据修复，剔除空值。 本地上传-文件大小限制为60M，文本支持csv和txt 数据来源选择“本地上传”时可见，表示数据文件所在的用户本地路径。 为避免后续处理数据时

查看更多 →

通过调研获取数据源以及数据字典信息，从调研结果中确认数据来源系统。 目标库手动建表 根据需要的表和字段，在MRS-Hive数据库中建立相应的库和表； 表及字段的命名规范为：ods_源系统简写_源系统表名_{TYPE简码},增量表的type简码为i,全量表的type简码为f,所有的表名称及字段名称小写

查看更多 →

领取免费数据仓库服务后，为什么看不到集群？ 免费领取数据仓库服务后，并不会自动创建集群，您需要登录GaussDB(DWS)管理控制台手动创建GaussDB(DWS)集群。 父主题： 计费FAQ

查看更多 →

事件网格 EG 创建自定义事件源到https链路 03:35 自定义事件源到https链路演示 事件网格 EG 大数据ETL自动化运维场景解决方案 06:23 大数据ETL自动化运维场景解决方案 事件网格 EG 介绍怎样实现跨账号事件发送 05:07 跨账号事件发送演示

查看更多 →

标准字段：ext_etl_dt （ETL时间），ext_src_sys_id（源系统标识），dt、ph（分区字段） 表的其他要求：采用ORC存储格式和SNAPPY压缩； 在数管平台的“数据开发”模块，选择MRS_Spark_Agent数据连接和ods_mes_bc数据库，执行对应的DDL,创建以_f结尾的全量表。

查看更多 →

Job节点，通过 CDM 节点将OBS上的数据导入到MRS Hive的原始表中。其中CDM集群名称和作业名称分别选择在步骤3：数据集成入湖中的集群和迁移作业（图中仅为示例，以实际集群名和迁移作业名为准）。 图8 source_sdi节点属性 demo_etl_sdi_dwi节点：为MRS Hive

查看更多 →

迁移后语法 1 2 3 4 5 SELECT t1.etl_date, substr(t1.attribute,1,1) attribute , t1.cust_no, t1.branch_code FROM ( SELECT etl_date,attribute,cust_no

查看更多 →

概述 数据集成围绕GaussDB(DWS)，提供了简单易用的迁移能力及多种数据源到DWS的集成能力，降低用户数据源迁移和集成的复杂性，是一种高效易用的数据集成服务。目前数据源支持从Kafka、MRS源端迁移至GaussDB(DWS)目的端。 该特性仅8.2.0及以上集群版本支持。

查看更多 →

数据的上传和下载 在Notebook页面，可以通过“Upload”和“Download”上传和下载文件。上传和下载的文件大小限制为100MB。 当在Notebook中上传文件提示大小受限时，您可以根据以下不同场景将大文件上传或下载到Notebook中。 图1 上传和下载文件 OBS存储类型的Notebook

查看更多 →

可以识别出数据库集群状态异常的时间段，然后在数据库日志中，分析可能存在问题的活动，从而优化数据库性能。本章节定义了数据仓库服务上报 云监控服务 的监控指标的命名空间、监控指标列表和维度定义。用户可以通过云监控服务提供的管理控制台或API接口来检索数据仓库服务产生的监控指标和告警信息。

查看更多 →

创建 弹性云服务器 E CS 和数据仓库 GaussDB(DWS) 创建弹性 云服务器 ECS 创建数据仓库 GaussDB(DWS) 父主题： 测试方法

查看更多 →

数据建模 数据分层分域 支持数据按如 ODS、DWD、DWS、ADS 等数据分层设置，支持数据按照主题、部门等进行数据域设置。为模型设计从业务和技术的角度提供分类分层框架，是数仓规划的关键基础。 图1 数据分层分域1 图2 数据分层分域2 业务实体管理 基于对企业各业务线的业务实

查看更多 →

Python ETL Job OBS Manager 手动配置血缘时，在节点的“血缘关系”页签，配置血缘的输入和输出表。输入和输出表的所属数据源支持 DLI 、DWS、Hive、 CSS 、OBS和CUSTOM。CUSTOM即自定义类型，在手动配置血缘时，对于不支持的数据源，您可以添加为自定义类型。

查看更多 →

Python ETL Job OBS Manager 手动配置血缘时，在节点的“血缘关系”页签，配置血缘的输入和输出表。输入和输出表的所属数据源支持DLI、DWS、Hive、CSS、OBS和CUSTOM。CUSTOM即自定义类型，在手动配置血缘时，对于不支持的数据源，您可以添加为自定义类型。

查看更多 →