ETL Job 功能 通过ETL Job节点可以从指定数据源中抽取数据，经过数据准备对数据预处理后，导入到目标数据源。 目标端是DWS的ETL Job节点，不支持使用委托进行调度，建议采用兼容性更佳的公共IAM账号方式进行调度，详见配置调度身份。 参数 用户可参考表1，表2和表3配置ETL

查看更多 →

支持DWS、 MRS _HIVE、MRS_SPARK，与物理模型数据类型一致 映射方式 INSERT：插入数据 MERGE：加载数据时，插入目标表中不存在的数据，更新目标表中存在的数据 源模型 需要进行ETL映射的源端物理模型，需要在物理模型设计中先完成设计 目标模型 需要进行ETL映射的目标端物理模型，需要在物理模型设计中先完成设计

查看更多 →

元数据按用途的不同，可以分为两类：技术元数据（Technical Metadata）和业务元数据（Business Metadata）。 技术元数据是存储关于 数据仓库 系统技术细节的数据，是用于开发和管理数据仓库使用的数据。在 DataArts Studio 中，技术元数据即为技术资产，显示数据库、数据表、数据量的数量及其详情。

查看更多 →

添加实施作业 配置ETL Mapping。 实施作业名称：自定义； 关联需求：可选，可与新建项目时的相关需求关联起来，关联后该ETL作业将会自动在实施进度管理中展示； ETL Mapping名称：选择配置好的ETL映射； DataArts Studio目录：选填需要将该ETL映射同步至DataArts

查看更多 →

系统的平滑迁移。 兼容传统数据仓库 DWS支持SQL 2003标准，兼容Oracle的部分语法和数据结构，支持存储过程，可与常用BI（business intelligence）工具无缝对接，业务迁移修改量极小。 安全可靠 DWS支持数据加密，同时可与数据库安全服务对接，保证云上

查看更多 →

兼容传统数据仓库 GaussDB (DWS) 支持SQL 2003标准，兼容Oracle的部分语法和数据结构，支持存储过程，可与常用BI（business intelligence）工具无缝对接，业务迁移修改量极小。 安全可靠 GaussDB(DWS) 支持数据加密，同时可与数据库安

查看更多 →

数据仓库 华为云数据仓库高级工程师培训 父主题： 培训服务

查看更多 →

数据仓库 表1 数据仓库权限 权限 对应API接口 授权项（Action） IAM项目 (Project) 企业项目 (Enterprise Project) 获取数据仓库列表 GET /v1.0/{project_id}/common/warehouses octopus:dataWarehouse:list

查看更多 →

数据仓库 获取数据仓库列表信息 获取数据仓库的数据列表 父主题： API

查看更多 →

API售卖与技术支持 如何对API进行商业售卖？ 谁为API使用者提供技术支持？

查看更多 →

强大的数据连接和集成能力：DataArts Studio支持与各种数据源的连接和集成，包括关系型数据库、文件系统、云存储、API接口等。开发人员可以轻松地配置数据源连接，并直接从这些数据源中提取数据。 可扩展的脚本编写和管理：虽然DataArts Studio提供了可视化的ETL设计界面，但它也支持自定义脚本

查看更多 →

Hive应用开发简介 Hive简介 Hive是一个开源的，建立在Hadoop上的数据仓库框架，提供类似SQL的HQL语言操作结构化数据，其基本原理是将HQL语言自动转换成Mapreduce任务或Spark任务，从而完成对Hadoop集群中存储的海量数据进行查询和分析。 Hive主要特点如下：

查看更多 →

数据仓库规格 GaussDB(DWS)的规格按照产品类型分为标准数仓、实时数仓和IoT数仓。其中实时数仓还包含单机版模式。各产品类型的不同差异，详情请参见数据仓库类型。 标准数仓（DWS 2.0）规格 标准数仓（DWS 2.0）云盘规格，该规格弹性伸缩，无限算力、无限容量，规格详情请参见表1。

查看更多 →

数据仓库类型 产品类型概述 标准数仓（DWS 2.0）：面向数据分析场景，为用户提供高性能、高扩展、高可靠、高安全、易运维的企业级数仓服务，支持2048节点、20PB级超大规模数据分析能力。支持冷热数据分析，存储、计算弹性伸缩，并按需、按量计价，为用户提供弹性灵活、极致性价比的体

查看更多 →

。 解决方案 数据仓库主要适用于企业数据的关联和聚合等分析场景， 并从中发掘出数据背后的商业信息供决策者参考。这里的数据发掘主要指涉及多张表的大范围数据聚合和关联的复杂查询。 使用数据仓库，通过某个数据转换（ETL）的过程，业务运营数据库的数据可以被拷贝到数据仓库中供分析计算使用

查看更多 →

从数据调研导入：若已对源系统做了数据调研且要建模的业务对象与调研数据结构一致，则可从数据调研中选择相应的数据进行导入。例如，通过数据调研，本实践可获取到源端要进行迁移入湖的数据结构，且目标端MRS Hudi（SDI层）与要同步的源端数据结构一致，因此本实践通过“从数据调研导入”的方式新建表。

查看更多 →

自助式数据加工：业务人员自主灵活完成标签建模，提升数据应用效率 开放平台灵活操作：OpenAPI 灵活进行能力扩展，更好地与客户业务系统协作 技术架构 图2 部署架构图 方案通过华为云 MapReduce服务 MRS、云数据仓库GaussDB(DWS)实现大数据集群的管理、提供神策通用数据的接入和加工，同时通过 M

查看更多 →

技术原理 下图展示在 app 中集成视频通话的基本工作流程： 图2-1技术原理

查看更多 →

组成，可直接面向客户/用户进行打包、发布、部署、运维的软件单元。用户从业务特征安装部署、监控运维的角度感知到服务的存在。规模上介与Subsystem与FM之间的逻辑架构模型元素。Service的功能更加内聚，对外依赖少，接口稳定。 Component 组件，可独立加载、部署和运行

查看更多 →

技术架构 创建技术架构 复制技术架构 创建技术适配器 父主题： 信息架构

查看更多 →

Hive应用开发简介 Hive简介 Hive是一个开源的，建立在Hadoop上的数据仓库框架，提供类似SQL的HiveQL语言操作结构化数据，其基本原理是将HiveQL语言自动转换成MapReduce任务或Spark任务，从而完成对Hadoop集群中存储的海量数据进行查询和分析。

查看更多 →