“Spark输出”算子，用于配置已生成的字段输出到SparkSQL表的列。 输入与输出 输入：需要输出的字段 输出：SparkSQL表 参数说明 表1 算子参数说明 参数 含义 类型 是否必填 默认值 Spark文件存储格式 配置SparkSQL表文件的存储格式（目前支持四种格式： CS V、ORC、RC和PARQUET）。

查看更多 →

无法连接 数据仓库 集群时怎么处理？ 检查原因 基本原因可能有以下几种： 集群状态是否正常。 连接命令是否正确，用户名、密码、IP地址或端口无误。 安装客户端的操作系统类型、版本是否正确。 安装客户端的操作是否正确。 如果是在公有云环境无法连接，还需要检查以下可能导致异常的原因： 弹

查看更多 →

数据在数据仓库服务中是否安全？ 安全。在大数据时代，数据是用户的核心资产。公有云将继续秉承多年来向社会做出的“上不碰应用，下不碰数据”的承诺，保证用户核心资产的安全。这是对用户和社会的承诺，也是公有云及其伙伴商业成功的保障和基石。 数据仓库服务工程师对整个数据仓库系统进行了电信系

查看更多 →

对系统的影响 Hive默认数据仓库的权限被修改，会影响当前用户，用户组，其他用户在默认数据仓库中创建库、创建表等操作的操作权限范围。会扩大或缩小权限。 可能原因 Hive定时查看默认数据仓库的状态，发现Hive默认数据仓库权限发生更改。 处理步骤 检查Hive默认数据仓库权限情况。 以ro

查看更多 →

获取数据仓库的数据列表 功能介绍 获取数据仓库的数据列表 URI POST /v1.0/{project_id}/common/warehouses/{data_warehouse_id}/data 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String

查看更多 →

sparknormal-examples/SparkSQLJavaExample Spark SQL任务的Java/Python/Scala示例程序。 本工程应用程序实现从HDFS上读取文本数据并计算分析。 sparknormal-examples/SparkSQLPythonExample

查看更多 →

创建Hue操作任务 通过Hue执行HiveQL 通过Hue执行SparkSQL 通过Hue查看Hive元数据 通过Hue管理HDFS文件 通过Hue管理Oozie作业 通过Hue管理HBase表 通过Hue执行HetuEngine SQL 父主题： 使用Hue

查看更多 →

欢迎使用数据仓库服务 GaussDB (DWS)。数据仓库服务是完全托管的企业级云上数据仓库服务，具备免运维、在线扩展、高效的多源数据加载能力，兼容PostgreSQL生态，并助力企业经济高效地对海量数据进行在线分析，实现数据快速变现。 您可以使用本文档提供的API对数据仓库服务的集

查看更多 →

配置告警规则监控的云服务资源名称。 数据仓库服务 维度 用于指定告警规则对应指标的维度名称。可以选择“数据仓库节点”或“数据仓库服务”。 数据仓库节点 监控范围 告警规则适用的资源范围，选择“指定资源”，然后勾选具体的监控对象，可以是一个或多个。对于GaussDB(DWS) 而言，在弹窗中选择您创建的集群实例ID或节点ID。

查看更多 →

在 MRS 管理控制台提交SQL作业 MapReduce服务 MRS 使用Kafka客户端创建Topic 04:55 使用Kafka客户端创建Topic MapReduce服务 MRS 使用Hive客户端创建外部表 04:20 使用Hive客户端创建外部表 MapReduce服务 MRS 访问集群WebUI界面

查看更多 →

创建Hue操作任务 在Hue WebUI使用HiveQL编辑器 在Hue WebUI使用SparkSql编辑器 在Hue WebUI使用元数据浏览器 在Hue WebUI使用文件浏览器 在Hue WebUI使用作业浏览器 在Hue WebUI使用HBase 父主题： 使用Hue（MRS

查看更多 →

登录IAM控制台，创建用户组并授权刚创建的自定义策略： 创建用户并加入用户组。 在IAM控制台创建用户，并将其加入步骤1中创建的用户组。 用户登录并验证权限。 使用新创建的用户登录控制台，切换至授权区域，验证权限： 在“服务列表”中选择数据仓库服务，进入DWS主界面，单击右上角“创建数据仓库

查看更多 →

可用模板（单位：个） 3 12 所有模板 可创建的大屏数 可创建大屏数（单位：个） 5 20 50 数据源类型 云数据库MySQL 、云数据库 GaussDB、MySQL、CSV、静态JSON √ √ √ 云数据库PostgreSQL、云数据库SQL Server、数据仓库服务(DWS)、分布式数据

查看更多 →

给用户授权GaussDB(DWS) 权限流程 创建用户组并授权 使用华为云账号登录IAM控制台，创建用户组，并授予数据仓库服务的只读权限“DWS ReadOnlyAccess”。 创建用户并加入用户组 在IAM控制台创建用户，并将其加入步骤1中创建的用户组。 用户登录并验证权限 使用新创建的用户登录控制台，切换至授权区域，验证权限：

查看更多 →

创建脚本 功能介绍 创建一个新脚本，当前支持的脚本类型有 DLI SQL、Flink SQL、RDS SQL、Spark SQL、Hive SQL、DWS SQL、Shell、Presto SQL、ClickHouse SQL、HetuEngine SQL、Python、Spark

查看更多 →

WebUI，需要在浏览器中添加站点信任以继续打开Hue WebUI。 前提条件 启用Kerberos认证时，MRS集群管理员已分配用户使用Hive的权限。具体操作请参见创建用户。例如创建一个“人机”用户“hueuser”，并加入“hive”、“hadoop”、“supergroup”组和“manager_view”角色，主组为“hive”。

查看更多 →

Spark2x版本相对于Spark 1.5版本新增了一些开源特性。 具体特性或相关概念如下： DataSet，详见SparkSQL和DataSet原理。 Spark SQL Native DDL/DML，详见SparkSQL和DataSet原理。 SparkSession，详见SparkSession原理。 Structured

查看更多 →

bin/spark-submit --master yarn --deploy-mode client /opt/female/SparkSQLPythonExample/SparkSQLPythonExample.py <inputPath> 其中，<inputPath>指HDFS文件系统中input的路径

查看更多 →

bin/spark-submit --master yarn --deploy-mode client /opt/female/SparkSQLPythonExample/SparkSQLPythonExample.py <inputPath> 其中，<inputPath>指HDFS文件系统中input的路径

查看更多 →

数据仓库服务（DWS）连接参数说明 连接数据仓库服务（DWS）时，相关参数如表1所示。 作业运行中禁止修改密码或者更换用户。在作业运行过程中修改密码或者更换用户，密码不会立即生效且作业会运行失败。 表1 数据仓库服务（DWS）连接参数 参数名 说明 取值样例 名称 连接的名称，根

查看更多 →

数据仓库服务（DWS）连接参数说明 连接数据仓库服务（DWS）时，相关参数如表1所示。 作业运行中禁止修改密码或者更换用户。在作业运行过程中修改密码或者更换用户，密码不会立即生效且作业会运行失败。 表1 数据仓库服务（DWS）连接参数 参数名 说明 取值样例 名称 连接的名称，根

查看更多 →