MapReduce服务 MRS、云 数据仓库 GaussDB (DWS)实现大数据集群的管理、提供神策通用数据的接入和加工，同时通过 MapReduce服务 MRS 的数据应用和机器学习应用补充神策平台的算法和 数据可视化 能力； 通过MapReduce服务MRS平台提供大数据集群的算力和存储支持，通过神

查看更多 →

缩写关键字迁移 表1列出了Teradata支持的缩写关键字及其语法在GaussDB(DWS)中对应的语法。 表1 缩写关键字列表 Teradata语法 对应的GaussDB(DWS)语法 SEL SELECT INS INSERT UPD UPDATE DEL DELETE CT

查看更多 →

交换管理端用于对交换节点的统一管控，包括数据源的新增修改、作业的批量生成、作业的启动停止、作业状态的监控、作业执行情况的监控等。 图1 组件说明 数据库还原 在 MySQL 实例上面创建数据库，数据库名称为 dxp； 从数据交换管理平台部署包中复制出数据库备份文件，还原到上一步创建的数据库中。 容器创建

查看更多 →

产生告警的角色名称。 主机名 产生告警的主机名。 对系统的影响 Hive默认数据仓库的权限被修改，会影响当前用户，用户组，其他用户在默认数据仓库中创建库、创建表等操作的操作权限范围；会扩大或缩小权限。 可能原因 Hive定时查看默认数据仓库的状态，发现Hive默认数据仓库权限发生更改。

查看更多 →

每个开发算子的失败策略为“终止后续节点执行计划” 建议每个画布中的作业算子不超过20个。 按事实表创建调度作业画布 按照DWR层事实表作业 > DWR层汇总表作业顺序排列 每个作业使用作业开发算子，每个算子关联对应的ETL脚本 每个开发算子的失败策略为“终止后续节点执行计划” 建议每个画布中的作业算子不超过20个 按质量作业创建调度作业画布

查看更多 →

Hudi数据连接（本实践中的数据连接名称“spark_hudi_proxy_cnt”，名称可自定义），以便基于数据连接同步作业以及后续在 DataArts Studio 中执行脚本。 为了后续能正确执行脚本，请创建与ETL映射中需要用到的数据库类型相同的连接，如，本实践中的ETL映射需要同步的数据来源与目标端均为MRS

查看更多 →

元数据存储：Hive将元数据存储在数据库中，如MySQL、Derby。Hive中的元数据包括表的名字，表的列和分区及其属性，表的属性（是否为外部表等），表的数据所在目录等。 Hive结构 Hive为单实例的服务进程，提供服务的原理是将HQL编译解析成相应的MapReduce或者HDFS任务，图1为Hive的结构概图。

查看更多 →

数据开发包含脚本开发和作业调度，脚本开发主要是指SQL的ETL脚本，数据从贴源层到集市层的加工和流动，作业是对数据入湖、ETL脚本、数据质量等进行时间编排和按照计划周期性执行。 连接管理 登录管理中心 > 单击右侧数据连接 > 单击创建数据连接 > 选择对应的数据库类型 > 进行用户密码验证 > 单击测试通过

查看更多 →

sform）、加载（load）至目的端的过程。 图1 数据集成 页面集成 ISDP+提供单点登录和权限集成的公共能力，实现第三方页面的快速集成，由ISDP+提供统一的登录管理和用户权限控制。 图2 页面集成 服务集成 ISDP+提供了开放的接口OpenAPI，第三方APP或系统可以通过API接口访问。

查看更多 →

表中。需要注意的是在增量同步数据前，需要进行一次初始化全量同步。增量分区表内历史数据的存放周期为7日，对应的全量分区表内历史数据的存放周期为8日，用于数据的历史回溯，且历史数据的存放周期可依据后期数据实际使用需求进行相应的调整。以“订单进程量管理详细表”为例，说明数据增量同步流程。

查看更多 →

连接的名称，根据连接的数据源类型，用户可自定义便于记忆、区分的连接名。 dws_link 数据库 服务器 配置为要连接的数据库的IP地址或 域名 。 单击输入框后的“选择”，可获取用户的实例列表。 192.168.0.1 端口 配置为要连接的数据库的端口。 不同的数据库端口不同，请根据具体情况配置。

查看更多 →

SQL节点，用于清洗过滤SDI贴源层上原始表中的数据，将合法数据写入数据架构中DWI层标准出行数据表dwi_taxi_trip_data中。其中，“SQL脚本”请选择在脚本开发中创建的脚本demo_etl_sdi_dwi。 图9 demo_etl_sdi_dwi节点属性 dwi数据监控节点：为Data

查看更多 →

X-Auth-Token 是 String 用户Token，通过调用IAM服务获取用户Token接口获取（响应消息头中X-Subject-Token的值） 响应参数 状态码： 200 表4 响应Body参数 参数 参数类型 描述 payload CustomAttributePayload

查看更多 →

改标识、数据量低于十万条的明细表数据，以及码表、维度表等数据，采用全量同步的方式接入数管平台，并存放在贴源层的全量表内。数据初始化全量同步是指第一次从业务源库中采用全量同步的方式获取一次数据。 确定数据源 通过调研获取IT系统以及数据字典信息，从调研结果中确认数据来源系统。 目标库手动建表

查看更多 →

事件网格 EG 创建自定义事件源到https链路 03:35 自定义事件源到https链路演示 事件网格 EG 大数据ETL自动化运维场景解决方案 06:23 大数据ETL自动化运维场景解决方案 事件网格 EG 介绍怎样实现跨账号事件发送 05:07 跨账号事件发送演示

查看更多 →

连接的名称，根据连接的数据源类型，用户可自定义便于记忆、区分的连接名。 dws_link 数据库服务器 配置为要连接的数据库的IP地址或域名。 单击输入框后的“选择”，可获取用户的实例列表。 192.168.0.1 端口 配置为要连接的数据库的端口。 不同的数据库端口不同，请根据具体情况配置。

查看更多 →

HDFS是Hadoop的分布式文件系统（Hadoop Distributed File System），实现大规模数据可靠的分布式读写。HDFS针对的使用场景是数据读写具有“一次写，多次读”的特征，而数据“写”操作是顺序写，也就是在文件创建时的写入或者在现有文件之后的添加操作。HDFS

查看更多 →

发人员在数据开发过程中，能够准确的理解各模型之间的关系并高效准确的设计 ETL 任务。 图9 可视化设计 逆向工程 支持通过数据库导入的方式，快速将外部数据库中的表逆向为逻辑模型，导入到 DataFacts平台中，帮助用户在数据同步、ETL 任务迁移等场景中，复用已有的逻辑模型，节省重复建设成本。

查看更多 →

部分企业内部平台较多、数据不统一、数据孤岛严重，数据仓库开发能力也较为薄弱。随着数据量的逐年增长和业务复杂度持续上升，原数据仓库的性能可能会出现瓶颈，建设和维护成本较高，如何在保证数据仓库性能和数据质量的同时，有效控制成本，是客户面临的一个重要挑战。为了控制成本，提升效率，企业需要对现有平台进行优化升级或新建数仓平台。

查看更多 →

什么是数据仓库？ 随着数据库的大规模应用，使信息行业的数据爆炸式的增长。为了研究数据之间的关系，挖掘数据隐藏的价值，人们越来越多的需要使用联机分析处理OLAP（On-Line Analytical Processing）进行数据分析，探究一些深层次的关系和信息。但是不同的数据库之

查看更多 →

创建不同的资源池，为这些资源池配置不同的资源占比，并将数据库用户添加至对应的资源池中，以此来限制这些数据库用户的资源使用。 逻辑集群 逻辑集群是基于Node Group机制来划分物理节点的一种集群模式，从节点层次将大集群进行划分，和数据库形成交叉。一个数据库中的表可以按逻辑集群来

查看更多 →