使用Spark/Spark2x Spark使用说明 Spark用户权限管理 Spark客户端使用实践 访问Spark WebUI界面 使用代理用户提交Spark作业 配置Spark读取HBase表数据 配置Spark任务不获取HBase Token信息 Spark Core企业级能力增强

查看更多 →

SQL无法查询到最新插入的数据的问题。 对于分区表，在Spark SQL中执行插入数据的操作后，如果分区信息未改变，会出现Spark SQL无法查询到最新插入的数据的问题。 回答 由于Spark存在一个机制，为了提高性能会缓存Parquet的元数据信息。当通过Hive或其他方式更

查看更多 →

开年采购季开屏礼包优惠券发放方式：用户线上领取自动到账户； 开年采购季开屏礼包优惠券特殊说明： ①开屏礼包优惠券为一次性优惠券，不支持部分退订，即一次性优惠券退订的部分优惠券金额，该余额是不可见也不可用的 ②优惠券不支持抵扣欠费金额； ③优惠券仅用于用户本账户下使用，不得转让或出售；

查看更多 →

balance BigDecimal 优惠券余额。 lock_order_id String 锁定优惠券的订单ID。 如果为老版本优惠券，该值为空。 is_frozen String 优惠券是否冻结。 0：否 1：是 可用优惠券接口返回时不包括冻结状态的优惠券。 表3 ICouponUseLimitInfoV2

查看更多 →

自动续费可享受哪些优惠？ 客户设置自动续费后，系统默认于产品到期前7天开始扣款，若客户设置了自动续费扣款日（到期前2-7天），则以客户设置的扣款日为准。自动续费支持使用代金券和现金券，同时支持使用折扣券。 父主题： 续费

查看更多 →

锁定优惠券的订单才能使用这个优惠券，其他订单不能使用该优惠券。 coupon_usage String 最大长度：512 优惠券用途。 coupon_group Integer - 优惠券分组。 1：云商店发放的券 2：华为云券-1024-专用代金券 3：华为云券-使用限制-抵扣硬件的券

查看更多 →

以及对数仓相关领域人员进行技能提升。 华为云欧拉操作系统入门级开发者认证（HCCDA - Huawei Cloud EulerOS）：面向云计算初学者，培训与认证华为云欧拉操作系统的理论知识和实操能力。 GaussDB 入门级开发者认证-Java（HCCDA – GaussDB in

查看更多 →

优化小文件场景下的Spark SQL性能 配置场景 Spark SQL的表中，经常会存在很多小文件（大小远小于HDFS块大小），每个小文件默认对应Spark中的一个Partition，也就是一个Task。在很多小文件场景下，Spark会起很多Task。当SQL逻辑中存在Shuff

查看更多 →

优化小文件场景下的Spark SQL性能 配置场景 Spark SQL的表中，经常会存在很多小文件（大小远小于HDFS块大小），每个小文件默认对应Spark中的一个Partition，也就是一个Task。在很多小文件场景下，Spark会起很多Task。当SQL逻辑中存在Shuff

查看更多 →

batchJob.asyncSubmit(); SparkJobStatus sparkJobStatus=batchJob.getStatus(); System.out.println(sparkJobStatus); } 查询批处理作业日志 DL

查看更多 →

开发Spark应用 Spark Core样例程序 Spark SQL样例程序 通过JDBC访问Spark SQL样例程序 Spark读取HBase表样例程序 Spark从HBase读取数据再写入HBase样例程序 Spark从Hive读取数据再写入HBase样例程序 Spark S

查看更多 →

Spark on HBase程序 场景说明 Java样例代码 Scala样例代码 父主题： 开发Spark应用

查看更多 →

开发Spark应用 Spark Core样例程序 Spark SQL样例程序 通过JDBC访问Spark SQL样例程序 Spark读取HBase表样例程序 Spark从HBase读取数据再写入HBase样例程序 Spark从Hive读取数据再写入HBase样例程序 Spark S

查看更多 →

Spark对接OpenTSDB 创建表关联OpenTSDB 插入数据至OpenTSDB表 查询OpenTSDB表 默认配置修改 父主题： 使用Spark（ MRS 3.x之前版本）

查看更多 →

使用Spark on CCE 使用Spark的Kubernetes调度程序spark-submit，可以将Spark应用程序提交到Kubernetes集群中运行，详情请参见在Kubernetes上运行Spark。使用spark-submit提交Spark应用程序的工作原理如下：

查看更多 →

Manager界面中配置。 表1 Spark2x日志列表 日志类型 日志文件名 描述 SparkResource2x日志 spark.log Spark2x服务初始化日志。 prestart.log prestart脚本日志。 cleanup.log 安装卸载实例时的清理日志。 spark-availability-check

查看更多 →

Spark Streaming Streaming任务打印两次相同DAG日志 Spark Streaming任务一直阻塞 运行Spark Streaming任务参数调优的注意事项 为什么提交Spark Streaming应用超过token有效期，应用失败 为什么Spark Str

查看更多 →

如何使用PySpark连接MRS Spark？ 问：如何在E CS 服务器 上用PySpark连接内网开启Kerberos认证的MRS Spark集群？ 答：将Spark的“spark-defaults.conf”文件中“spark.yarn.security.credentials.hbase

查看更多 →

本章节示例中使用的jar样例程序为“{集群客户端安装目录}/Spark2x/spark/examples/jars/spark-examples_*.jar”（部分版本集群中Spark2x文件夹名称为Spark，请以实际为准）。 可登录客户端节点执行如下命令，将待运行的jar包样例上传至HDFS中，请参考使用HDFS客户端。

查看更多 →

设置用于CarbonData查询的Executor个数、CPU核数以及内存大小 参数 spark.executor.cores spark.executor.instances spark.executor.memory 所属配置文件 spark-defaults.conf 适用于 数据查询 场景描述 设

查看更多 →

力。 基础设施 MRS基于华为云弹性云服务器ECS构建的大数据集群，充分利用了其虚拟化层的高可靠、高安全的能力。 虚拟私有云（VPC）为每个租户提供的虚拟内部网络，默认与其他网络隔离。 云硬盘（EVS）提供高可靠、高性能的存储。 弹性云服务器（ECS）提供的弹性可扩展虚拟机，结合

查看更多 →