ETL Job 功能 通过ETL Job节点可以从指定数据源中抽取数据，经过数据准备对数据预处理后，导入到目标数据源。 目标端是DWS的ETL Job节点，不支持使用委托进行调度，建议采用兼容性更佳的公共IAM账号方式进行调度，详见配置调度身份。 参数 用户可参考表1，表2和表3配置ETL

查看更多 →

ETL映射设计 ETL映射设计用于将数据从源系统抽取出来，经过清洗、转换、加载等一系列操作后，将数据加载到目标系统的过程。解决方案工作台支持SDI、DWI和DWR层物理表、支持多种数据库、支持生成脚本等。 新建ETL映射 图1 新建ETL映射 参数 说明 映射名称 自定义 数据库数据类型

查看更多 →

添加实施作业 配置ETL Mapping。 实施作业名称：自定义； 关联需求：可选，可与新建项目时的相关需求关联起来，关联后该ETL作业将会自动在实施进度管理中展示； ETL Mapping名称：选择配置好的ETL映射； DataArts Studio 目录：选填需要将该ETL映射同步至DataArts

查看更多 →

数据、 数据仓库 、数据应用，记录了数据从产生到消费的全过程。元数据主要记录数据仓库中模型的定义、各层级间的映射关系、监控数据仓库的数据状态及ETL的任务运行状态。在数据仓库系统中，元数据可以帮助数据仓库管理员和开发人员非常方便地找到其所关心的数据，用于指导其进行数据管理和开发工作，提高工作效率。

查看更多 →

ETL脚本开发 在开发过程中，开发人员需要仔细阅读并参考开发规范文档，遵循其中的命名规范，并根据mapping表和逻辑文档进行开发，以确保代码的一致性和可读性。 本示例项目以某零售行业客户为例，采用 MRS Hudi+DWS湖仓一体化架构。因此ETL开发主要使用两种数据库：MRS HUDI数据库（使用Spark

查看更多 →

华为云数据仓库高级工程师培训 培训简介 智能数据时代，数据库产业技术趋势发生着显著变化，早期数据库产品形态从单机到集群、一体机，当前已经向分布式、云化、智能化演进。面对这些变化趋势及市场机遇，华为云专为打造了云化分布式数据仓库高级工程师培训，旨在培养掌握分布式数据仓库知识体系，熟

查看更多 →

的鲲鹏应用开发技能。 HCIA-IoT 培训与认证在IoT领域具备基于华为物联网解决方案架构实现端到端物联网业务开发的工程师。 通过HCIA-IoT认证，您将掌握物联网基础知识、华为物联网解决方案基础架构，并能够基于此运维和开发，同时具备基于该架构实现端到端业务的开发能力，胜任物联网运维/开发工程师岗位。

查看更多 →

应用场景 数据仓库迁移 数据仓库是企业的重要数据分析系统，随着业务量的增长，自建数仓性能逐渐不能满足实际要求，同时扩展性差、成本高，导致扩容极为困难。DWS作为云上企业级数据仓库，具备高性能、低成本、易扩展等特性，满足大数据时代企业数据仓库业务诉求。 图1 数据仓库迁移 优势 平滑迁移

查看更多 →

数据仓库 华为云数据仓库高级工程师培训 父主题： 培训服务

查看更多 →

应用开发简介 Hive简介 Hive是一个开源的，建立在Hadoop上的数据仓库框架，提供类似SQL的HiveQL语言操作结构化数据，其基本原理是将HiveQL语言自动转换成MapReduce任务或Spark任务，从而完成对Hadoop集群中存储的海量数据进行查询和分析。 Hive主要特点如下：

查看更多 →

应用场景 数据仓库迁移 数据仓库是企业的重要数据分析系统，随着业务量的增长，自建数仓性能逐渐不能满足实际要求，同时扩展性差、成本高，也使扩容极为困难。 GaussDB (DWS)作为云上企业级数据仓库，具备高性能、低成本、易扩展等特性，满足大数据时代企业数据仓库业务诉求。 图1 数据仓库迁移

查看更多 →

数据仓库 表1 数据仓库权限 权限 对应API接口 授权项（Action） IAM项目 (Project) 企业项目 (Enterprise Project) 获取数据仓库列表 GET /v1.0/{project_id}/common/warehouses octopus:dataWarehouse:list

查看更多 →

数据仓库 获取数据仓库列表信息 获取数据仓库的数据列表 父主题： API

查看更多 →

应用开发简介 Hive简介 Hive是一个开源的，建立在Hadoop上的数据仓库框架，提供类似SQL的HQL语言操作结构化数据，其基本原理是将HQL语言自动转换成MapReduce任务或Spark任务，从而完成对Hadoop集群中存储的海量数据进行查询和分析。 Hive主要特点如下：

查看更多 →

Developer：希望成为能够胜任鲲鹏平台的应用开发和运维岗位的人员。 HCIP-Kunpeng Application Developer：中高级开发者工程师、初级鲲鹏应用开发工程师。 HCIA-IoT：物联网初学者、物联网从业人员、物联网解决方案工程师、物联网开发工程师。 HCIP-IoT Developer：对IoT感兴趣的人员。

查看更多 →

开发者技术支持工程师/DTSE 开发者技术支持工程师，分为区域DTSE，机关DTSE和研发DTSE，负责分析、定位、解决开发者的技术问题，并对整个问题处理环节负责，需要保证SLA与开发者支持的满意度。 父主题： 术语&缩略语解释

查看更多 →

应用开发简介 Hive简介 Hive是一个开源的，建立在Hadoop上的数据仓库框架，提供类似SQL的HQL语言操作结构化数据，其基本原理是将HQL语言自动转换成Mapreduce任务或Spark任务，从而完成对Hadoop集群中存储的海量数据进行查询和分析。 Hive主要特点如下：

查看更多 →

应用开发简介 Hive简介 Hive是一个开源的，建立在Hadoop上的数据仓库框架，提供类似SQL的HQL语言操作结构化数据，其基本原理是将HQL语言自动转换成MapReduce任务或Spark任务，从而完成对Hadoop集群中存储的海量数据进行查询和分析。 Hive主要特点如下：

查看更多 →

应用开发简介 Hive简介 Hive是一个开源的，建立在Hadoop上的数据仓库框架，提供类似SQL的HQL语言操作结构化数据，其基本原理是将HQL语言自动转换成Mapreduce任务或Spark任务，从而完成对Hadoop集群中存储的海量数据进行查询和分析。 Hive主要特点如下：

查看更多 →

开发“维修工程师处理工单”功能 “维修工程师处理工单”功能包含“工程师查看待处理工单列表页面”和“处理工单对话框”两个页面。 创建“处理工单”脚本 创建“判断下一步状态”脚本 创建公共接口 组装“处理工单”对话框 组装“待处理工单”页面 父主题： 工单管理开发

查看更多 →

华为认证大数据开发高级工程师考试券 建议与HCIP-Big Data Developer 华为认证大数据开发高级工程师培训配套使用。 HCIP-AI EI Developer 华为认证企业AI开发高级工程师考试券 建议与HCIP-AI EI Developer 华为认证企业AI开发高级工程师培训配套使用。

查看更多 →