使用Spark 运行Spark应用时修改split值报错 提交Spark任务时提示参数格式错误 磁盘容量不足导致Spark、Hive和Yarn服务不可用 引入jar包不正确导致Spark任务无法运行 Spark任务由于内存不够或提交作业时未添加Jar包，作业卡住 提交Spark任务

查看更多 →

DLI Spark 功能 通过DLI Spark节点执行一个预先定义的Spark作业。 DLI Spark节点的具体使用教程，请参见开发一个DLI Spark作业。 参数 用户可参考表1，表2和表3配置DLI Spark节点的参数。 表1 属性参数 参数 是否必选 说明 节点名称

查看更多 →

中调测Spark应用。 将打包生成的jar包上传到Spark客户端所在 服务器 的任意目录（例如“$SPARK_HOME” ）下。 将user.keytab、krb5.conf 两个文件上传客户端所在服务器上（文件上传的路径需要和生成的jar包路径一致）。 若运行“Spark on

查看更多 →

将 GaussDB 分布式版同步到GaussDB分布式版 支持的源和目标数据库 表1 支持的数据库 源数据库 目标数据库 GaussDB分布式 GaussDB分布式 说明： 仅支持目标库版本等于或高于源库版本。 支持的同步对象范围 在使用DRS进行同步时，不同类型的同步任务，支持的同

查看更多 →

。 使用Spark作业跨源访问数据源支持使用scala，pyspark和java三种语言进行开发。 表格存储服务 CloudTable相关介绍请参考《 表格存储 服务产品介绍》。 云搜索服务 CSS相关介绍请参考《 云搜索 服务产品介绍》。 分布式缓存服务D CS 相关介绍请参考《分布式缓存服务产品介绍》。

查看更多 →

如何使用PySpark连接 MRS Spark？ 问： 如何在ECS服务器上用PySpark连接内网开启Kerberos认证的MRS Spark集群？ 答： 将Spark的“spark-defaults.conf”文件中“spark.yarn.security.credentials

查看更多 →

Hive 分布式 数据仓库 10% HBase技术原理 11% MapReduce 和 Yarn 技术原理 9% Spark 基于内存的分布式计算 7% Flink 流批一体分布式实时处理引擎 8% Flume海量日志聚合 7% Loader 数据转换 5% Kafka分布式消息订阅系统

查看更多 →

MapReduce服务 （MRS Spark） Spark是一个开源的并行数据处理框架，能够帮助用户简单的开发快速、统一的大数据应用，对数据进行协处理、流式处理、交互式分析等等。 Spark提供了一个快速的计算、写入以及交互式查询的框架。相比于Hadoop，Spark拥有明显的性能优势。Spark提供类似SQL的Spark

查看更多 →

。 Hive与Spark的关系 Hive支持使用Spark作为执行引擎，当执行引擎切换为Spark后，客户端下发的Hive SQL在Hive端进行逻辑层处理和生成物理执行计划，并将执行计划转换成RDD语义下的DAG，最后将DAG作为Spark的任务提交到Spark集群上进行计算，

查看更多 →

Spark读取HBase表样例程序 操作Avro格式数据 操作HBase数据源 BulkPut接口使用 BulkGet接口使用 BulkDelete接口使用 BulkLoad接口使用 foreachPartition接口使用 分布式Scan HBase表 mapPartitions接口使用

查看更多 →

Spark读取HBase表样例程序 操作Avro格式数据 操作HBase数据源 BulkPut接口使用 BulkGet接口使用 BulkDelete接口使用 BulkLoad接口使用 foreachPartition接口使用 分布式Scan HBase表 mapPartitions接口使用

查看更多 →

Spark读取HBase表样例程序 操作Avro格式数据 操作HBase数据源 BulkPut接口使用 BulkGet接口使用 BulkDelete接口使用 BulkLoad接口使用 foreachPartition接口使用 分布式Scan HBase表 mapPartition接口使用

查看更多 →

的能力，是一种分布式数据处理模式和执行环境，MRS支持提交MapReduce Jar程序。 Spark：基于内存进行计算的分布式计算框架，MRS支持提交SparkSubmit、Spark Script和Spark SQL作业。 SparkSubmit：提交Spark Jar和Spark

查看更多 →

将GaussDB分布式版同步到GaussDB分布式版 支持的源和目标数据库 表1 支持的数据库 源数据库 目标数据库 GaussDB分布式 GaussDB分布式 说明： 仅支持目标库版本等于或高于源库版本。 支持的同步对象范围 在使用DRS进行同步时，不同类型的同步任务，支持的同

查看更多 →

并运行Spark程序。 将打包生成的jar包上传到Spark客户端所在服务器的任意目录（例如“$SPARK_HOME” ）下。 将user.keytab、krb5.conf 两个文件上传客户端所在服务器上（文件上传的路径需要和生成的jar包路径一致）。 若运行“Spark on

查看更多 →

缩容实例分片（分布式） 操作场景 实例进行读写分离或者业务冗余数据清理等操作后DN节点使用率会下降，此时可通过分片缩容避免成本浪费。GaussDB分布式独立部署形态支持分片缩容操作。 注意事项 缩容时长与业务数据量有关，默认缩容操作超时时间为7天，缩容中实例可正常使用，但不允许进

查看更多 →

注册企业分布式身份 功能介绍 注册企业分布式身份 URI POST /v1/{project_id}/tdis/firm-did 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String 租户从IAM申请到的projectid，一般为32位字符串 最小长度：32

查看更多 →

查询分布式身份文档 功能介绍 查询分布式身份文档 URI GET /v1/{project_id}/tdis/did/{did} 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String 租户从IAM申请到的projectid，一般为32位字符串 最小长度：32

查看更多 →

注册个人分布式身份 功能介绍 注册个人分布式身份 URI POST /v1/{project_id}/tdis/did 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String 租户从IAM申请到的projectid，一般为32位字符串 最小长度：32

查看更多 →

分布式执行框架 GS_235100005 错误码： Stream plan check failed. Execution datanodes list of stream node[%d] mismatch in parent node[%d]. 解决方案：请使用INTERNAL

查看更多 →

Spark读取HBase表样例程序 操作Avro格式数据 操作HBase数据源 BulkPut接口使用 BulkGet接口使用 BulkDelete接口使用 BulkLoad接口使用 foreachPartition接口使用 分布式Scan HBase表 mapPartition接口使用

查看更多 →