Hive是一个开源的，建立在Hadoop上的 数据仓库 框架，提供类似SQL的HiveQL语言操作结构化数据，其基本原理是将HiveQL语言自动转换成MapReduce任务或Spark任务，从而完成对Hadoop集群中存储的海量数据进行查询和分析。 Hive主要特点如下： 通过HiveQL语言非常容易的完成数据提取、转换和加载（ETL）。

查看更多 →

数据和180天前的数据进行整合，存放在新生成的分区里。 删除分区 保留7天的历史数据，用于数据回溯和脚本重跑 脚本测试（测试阶段可以把参数值换成具体的值进行测试，这里使用参数为了方便以后的作业调度） 测试完成后，单击“保存并提交版本” 按照脚本的命名规则命名，并选择对应的目录，单击“确定”

查看更多 →

基于网络隔离、安全组规则以及一系列安全加固项，实现租户隔离和访问权限控制，保护系统和用户的隐私及数据安全。 支持SSL安全网络连接、用户权限管理、密码管理等功能，保证数据库在网络层、管理层、应用层和系统层的安全性。 详细内容请参见设置SSL连接和设置 GaussDB (DWS)集群三权分立。 监控与审计

查看更多 →

数据仓库服务 DWS DWS集群启用KMS加密 DWS集群启用日志转储 DWS集群启用自动快照 DWS集群启用SSL加密连接 DWS集群未绑定弹性公网IP DWS集群运维时间窗检查 DWS集群VPC检查 父主题： 系统内置预设策略

查看更多 →

标准字段：ext_etl_dt （ETL时间），ext_src_sys_id（源系统标识），dt、ph（分区字段） 表的其他要求：采用ORC存储格式和SNAPPY压缩； 在数管平台的“数据开发”模块，选择 MRS _Spark_Agent数据连接和ods_mes_bc数据库，执行对应的DDL,创建以_f结尾的全量表。

查看更多 →

Hive是一个开源的，建立在Hadoop上的数据仓库框架，提供类似SQL的HQL语言操作结构化数据，其基本原理是将HQL语言自动转换成MapReduce任务或Spark任务，从而完成对Hadoop集群中存储的海量数据进行查询和分析。 Hive主要特点如下： 通过HQL语言非常容易的完成数据提取、转换和加载（ETL）。

查看更多 →

元数据按用途的不同，可以分为两类：技术元数据（Technical Metadata）和业务元数据（Business Metadata）。 技术元数据是存储关于数据仓库系统技术细节的数据，是用于开发和管理数据仓库使用的数据。在 DataArts Studio 中，技术元数据即为技术资产，显示数据库、数据表、数据量的数量及其详情。

查看更多 →

集群架构说明 名称 描述 说明 CM 集群管理模块（Cluster Manager）。管理和监控分布式系统中各个功能单元和物理资源的运行情况，确保整个系统的稳定运行。 CM由CM Agent、OM Monitor和CM Server组成。 CM Agent：负责监控所在主机上主备GTM、CN、主备DN的运行状态并将状态上报给CM

查看更多 →

S) 数据库的应用程序SQL脚本。DSC不需要连接数据库，可在离线模式下实现零停机迁移。在GaussDB(DWS)中通过执行迁移后的SQL脚本即可恢复数据库，从而实现线下数据库轻松上云。 DSC支持迁移Teradata、Oracle、Netezza、MySQL和DB2数据库的SQL脚本。

查看更多 →

Hive是一个开源的，建立在Hadoop上的数据仓库框架，提供类似SQL的HQL语言操作结构化数据，其基本原理是将HQL语言自动转换成Mapreduce任务或Spark任务，从而完成对Hadoop集群中存储的海量数据进行查询和分析。 Hive主要特点如下： 通过HQL语言非常容易的完成数据提取、转换和加载（ETL）。

查看更多 →

EXIT \q .RETURN \q .LABEL 和 .GOTO Teradata命令.LABEL用于创建标签，通常与.GOTO配对使用。.GOTO会跳过所有中间的BTEQ命令和SQL语句，指导到达指定标签位置，执行相应的恢复处理。 gsql元命令\goto LABEL ... \label

查看更多 →

uses/custom-attributes octopus:dataWarehouse:list √ √ 父主题： 权限和授权项

查看更多 →

n）、资源（Resource）和条件（Condition）。 如何使用这些元素编辑SCP自定义策略，请参考创建SCP。 操作（Action） 操作（Action）即为SCP中支持的授权项。 “访问级别”列描述如何对操作进行分类（list、read和write等）。此分类可帮助您了解在SCP中相应操作对应的访问级别。

查看更多 →

数据仓库优化与支持服务 产品介绍 常见问题 计费说明 父主题： 优化与提升

查看更多 →

数据仓库自定义属性 获取数据仓库自定义属性列表 父主题： API

查看更多 →

数据仓库咨询与规划服务 产品介绍 常见问题 计费说明 父主题： 咨询与规划

查看更多 →

查看和修改脚本信息 本小节主要介绍如何在线查看和修改脚本信息。 约束限制 当脚本大小超过128KB，将不能在线查看脚本内容，可下载脚本文件到本地查看，详情请参见下载脚本。 前提条件 已获取“脚本管理”模块管理权限。 操作步骤 登录 堡垒机 系统。 选择“运维 > 脚本管理 ”，进入脚本列表页面。

查看更多 →

）的采集和分析，及时将维保建议回馈给车主。 优势 多源数据分析免搬迁：关系型数据库RDS中存放车辆和车主基本信息， 表格存储 CloudTable中存放实时的车辆位置和健康状态信息，数据仓库DWS中存放周期性统计的指标。通过 DLI 无需数据搬迁，对多数据源进行联邦分析。 数据分级存储：

查看更多 →

数据开发，包含创建DWS SQL脚本和开发作业。 创建DWS SQL脚本top_rating_movie（用于存放评分最高的Top10电影） 创建DWS SQL脚本top_active_movie（用于存放最活跃的Top10电影） 开发并调度作业，通过编排作业和配置作业调度策略，定期执行作业，使

查看更多 →

交HiveScript脚本和直接执行Hive SQL语句。 Flink：提供一个分布式大数据处理引擎，可对有限数据流和无限数据流进行有状态计算。 HadoopStreaming：HadoopStreaming作业像普通Hadoop作业一样，除了可以指定输入和输出的HDFS路径的参

查看更多 →

支持可视化和DDL方式管理数据库表。 数据管理 脚本开发 脚本开发功能提供如下能力： 提供在线脚本编辑器，支持多人协作进行SQL、Shell等脚本在线代码开发和调测。 支持使用变量和函数。 支持脚本的版本管理能力。 脚本开发 作业开发 作业开发功能提供如下能力： 提供图形化设计器，支持拖拉拽方式快速构建数据处理工作流。

查看更多 →