- L实例-2C2G2M
- L实例-2C2G3M
- L实例-2C2G4M
活动对象：
（1）新用户专享：华为云官网已完成注册和实名认证，且从未购买过华为云资源的用户（客户等级是V0）可购买；
（2）企业新客专享：仅从未购买过华为云资源（客户等级V0），且已完成企业实名认证用户可购买；
（3）产品新客专享：华为云官网已完成注册和实名认证的用户，且从未购买过华为云当前云产品资源的用户可购买（未限制产品等级）；
（4）新老用户同享：华为云官网已完成注册和实名认证的用户可以购买；
（具体用户范围以届时活动页面展示为准）
活动时间：
2024年5月31日-2024年6月30日（活动期间如有调整，以届时活动页面展示为准）
每天9点限量开抢，售完即止
续费同价说明：
（1）参与条件：Flexus L实例2核2G4M 98元/年，Flexus L实例2核4G5M 188元/年为续费同价优惠产品，参与条件为：新用户专享，新购、续费同价，每个配置限新购1次，续费1次；
（2）续费说明：下单购买后，系统将自动赠送一张续费代金券至费用中心-优惠折扣，预计续费代金券到账时间5分钟左右。Flexus L实例2核2G4M 98元/年 续费代金券面额为满700元减652.2元，Flexus L实例2核4G5M 188元/年续费代金券面额为满1030元减892.2元，续费该实例时勾选代金券，则可以实现续费同价优惠，续费代金券有效期为自购买日起1年内有效，请于代金券有效期内完成续费，代金券过期后不予补发；
（3）退订说明：下单购买该实例后，系统将自动锁定订单，不允许退订；若客户需要退订新购订单，且续费代金券未使用的情况下，可以申请退订，退订时系统将回收未使用的续费代金券，退订费用请查看华为云官网规则说明；若续费代金券已使用，则该实例的新购及续费订单均不可退订；
购买说明：
（1）新用户专享套餐同一用户限购一单，具体台数以活动页面为准；
（2）同一用户规则：同一用户是指根据不同华为云账号在注册、登录、使用中的关联信息，华为云判断其实际为同一用户。包括但不限于下述情形：具备同一证件号（比如身份证号/护照ID/海外驾照ID/企业唯一识别号等）、域名持有者为同一主体（如同一个人、企业等主体）、同一手机号、同一设备、同一IP地址等；
（3）套餐配置：
①云服务器每款默认配置1个公网IP，高IO或通用型SSD 40G系统盘（部分特价机型仅高IO 40G系统盘；Flexus应用服务器L实例系统盘为高IO，规格大小以下单页显示为准）；数据盘有高IO和通用型SSD可选（Flexus应用服务器L实例数据盘为通用型SSD V2），西南-贵阳一和华北-北京一数据中心是静态BGP带宽，其他数据中心配置全动态独享BGP带宽；（以上配置仅供参考，具体配置以下单页面为准）
②本页面促销的国内云服务器购买完成后，如需切换镜像版本，可在控制台内进行切换操作；
②本页面促销的国内及境外云服务器的Windows镜像暂不支持包周期转按需操作；
③境外云服务器，重装系统不支持Linux与Windows互相切换；
④新用户专区region（不含出海云服务器，最终结果以下单页面为准）：
不同区域的云服务产品之间内网互不相通。所购买的相关产品请位于同一区域内，且就近选择靠近您业务的区域，有助于降低业务运行产生异常的风险，减少网络时延，提高访问速度；
（4）续费变更：
促销价仅适用于购买活动页面套餐，续订变更套餐价格（含升配降配）以当期目录价为准，促销价在该场景下不适用，用户选择升配或降配包周期产品前，具体场景或解释说明，请您浏览阅读《变更资源费用说明》
（5）关联账号说明：
关联模式为财务托管的企业认证账号（即财务托管子账号）不具备交易属性，不参与华为云官网活动等相关交易；关联模式为财务独立的企业认证账号可以参与华为云官网活动等相关交易。
为保证活动的公平公正，华为云有权对实施下述行为的用户采取收回套餐使用资格或者活动优惠资格的措施，且华为云亦有权针对异常账号采取限制措施：
1）华为云有合理理由相信用户存在恶意刷取活动资源的行为（“恶意”是指为获取资源而异常注册账号等破坏活动公平性的行为）；
2）华为云有合理理由相信用户存在利用资源从事违法违规的行为；
华为云保留对活动规则进行调整的权利，包括但不限于活动规则、产品价格、产品类型、产品数量、产品配置等，请以购买时相关页面的最新展示内容为准。
所有参加本活动的华为云注册用户，已认可并同意遵守《华为云用户协议》及通过援引的形式加入的附件，包括《可接受的使用政策》，《隐私政策声明》
-
Spark2x基本原理
![]()
e Ahead Logs确保端到端的完全一次性容错保证。 Structured Streaming的核心是将流式的数据看成一张不断增加的数据库表，这种流式的数据处理模型类似于数据块处理模型，可以把静态数据库表的一些查询操作应用在流式计算中，Spark执行标准的SQL查询，从不断增加的无边界表中获取数据。
来自：帮助中心 -
常用参数
![]()
JDBC应用在服务端的“spark-defaults.conf”配置文件中设置该参数。 Spark客户端提交的任务在客户端配的“spark-defaults.conf”配置文件中设置该参数。 Spark长时间任务安全认证配置 安全模式下，使用Spark CLI（如spark shell、spark
来自：帮助中心 -
java.sql.Driver
![]()
java.sql.Driver java.sql.Driver是数据库驱动接口。 表1 对java.sql.Driver的支持情况 方法名 返回值类型 支持JDBC4 acceptsURL(String url) Boolean Yes connect(String url, Properties
来自：帮助中心 -
java.sql.Driver
![]()
java.sql.Driver java.sql.Driver是数据库驱动接口。 表1 对java.sql.Driver的支持情况 方法名 返回值类型 支持JDBC 4 acceptsURL(String url) Boolean Yes connect(String url, Properties
来自：帮助中心 -
java.sql.Driver
![]()
java.sql.Driver java.sql.Driver是数据库驱动接口。 表1 对java.sql.Driver的支持情况 方法名 返回值类型 支持JDBC 4 acceptsURL(String url) Boolean Yes connect(String url, Properties
来自：帮助中心 -
经验总结
![]()
collect操作会将Executor的数据发送到Driver端，因此使用collect前需要确保Driver端内存足够，以免Driver进程发生OutOfMemory异常。当不确定数据量大小时，可使用saveAsTextFile等操作把数据写入HDFS中。只有在能够大致确定数据大小且driver内存充足的时候，才能使用collect。
来自：帮助中心 -
经验总结
![]()
collect操作会将Executor的数据发送到Driver端，因此使用collect前需要确保Driver端内存足够，以免Driver进程发生OutOfMemory异常。当不确定数据量大小时，可使用saveAsTextFile等操作把数据写入HDFS中。只有在能够大致确定数据大小且driver内存充足的时候，才能使用collect。
来自：帮助中心 -
配置内存
![]()
级别来优化。 操作步骤 优化GC，调整老年代和新生代的大小和比例。在客户端的conf/spark-default.conf配置文件中，在spark.driver.extraJavaOptions和spark.executor.extraJavaOptions配置项中添加参数：-XX:NewRatio。如，"
来自：帮助中心 -
INSERT...SELECT操作调优
![]()
server服务的一部分，是由spark用户启动的，因此其用户也是spark用户，且当前无法实现在运行时将beeline端的用户透传到executor，因此使用非spark用户时需要对文件进行更改owner为beeline端的用户，即实际用户。 父主题： SQL和DataFrame调优
来自：帮助中心 -
经验总结
![]()
collect操作会将Executor的数据发送到Driver端，因此使用collect前需要确保Driver端内存足够，以免Driver进程发生OutOfMemory异常。当不确定数据量大小时，可使用saveAsTextFile等操作把数据写入HDFS中。只有在能够大致确定数据大小且driver内存充足的时候，才能使用collect。
来自：帮助中心 -
安装PV driver
![]()
5版本，无需执行安装操作。 如果未查到PV driver版本信息，或者PV driver的版本低于或等于2.5版本，执行安装PV driver或安装PV driver升级包。 前提条件 云服务器已安装操作系统，并且已经绑定弹性公网IP。 云服务器的系统磁盘的剩余空间必须大于32MB。
来自：帮助中心 -
Spark基本原理
![]()
Spark的Master和Worker所示。用户在Spark客户端提交应用程序，调度器将Job分解为多个Task发送到各个Worker中执行，各个Worker将计算的结果上报给Driver（即Master），Driver聚合结果返回给客户端。 图3 Spark的Master和Worker 在此结构中，有几个说明点：
来自：帮助中心 -
Spark INSERT SELECT语句调优
![]()
用户跟driver是一致的，driver是JDBCServer服务的一部分，是由spark用户启动的，因此其用户也是spark用户，且当前无法实现在运行时将Beeline端的用户透传到executor，因此使用非spark用户时需要对文件进行更改owner为Beeline端的用户，即实际用户。
来自：帮助中心 -
使用Spark
![]()
ndException” 提交Spark任务时Driver端提示运行内存超限 Yarn-cluster模式下提交Spark任务报“Can't get the Kerberos realm”异常 JDK版本不匹配导致启动spark-sql和spark-shell失败 Yarn-cl
来自：帮助中心 -
调整Spark Core进程参数
![]()
度增大时，Driver内存都需要相应增大。 您可以根据实际任务数量的多少，为Driver设置一个合适的内存。 将“spark-defaults.conf”中的“spark.driver.memory”配置项设置为合适大小。 在使用spark-submit命令时，添加“--driver-memory
来自：帮助中心 -
配置进程参数
![]()
。 您可以根据实际任务数量的多少，为Driver设置一个合适的内存。 将“spark-defaults.conf”中的“spark.driver.memory”配置项设置为合适大小。 在使用spark-submit命令时，添加“--driver-memory MEM”参数设置内存。
来自：帮助中心 -
编包并运行程序
![]()
在程序代码完成开发后，您可以上传至Linux客户端环境中运行应用。使用Scala或Java语言开发的应用程序在Spark客户端的运行步骤是一样的。 使用Python开发的Spark应用程序无需打包成jar，只需将样例工程复制到编译机器上即可。 用户需保证worker和driver的Python版本一致，否则将报错："Python
来自：帮助中心 -
JDK版本不匹配导致启动spark-sql和spark-shell失败
![]()
JDK版本不匹配导致启动spark-sql和spark-shell失败 问题背景与现象 JDK版本不匹配导致客户端启动spark-sql、spark-shell失败。 原因分析 在Driver端打印异常如下： Exception Occurs: BadPadding 16/02/22
来自：帮助中心 -
优化数据倾斜场景下的Spark SQL性能
![]()
RIGHT OUTER JOIN b ON aid=bid; 配置描述 在Spark Driver端的“spark-defaults.conf”配置文件中添加如下表格中的参数。 表1 参数说明 参数 描述 默认值 spark.sql.adaptive.enabled 自适应执行特性的总开关。
来自：帮助中心 -
配置进程参数
![]()
您可以根据实际任务数量的多少，为Driver设置一个合适的内存。 将“spark-defaults.conf”中的“spark.driver.memory”配置项或者“spark-env.sh”中的“SPARK_DRIVER_MEMORY”配置项设置为合适大小。 在使用spark-submit命
来自：帮助中心 -
队列属性设置
![]()
队列最小CUs小于16CUs时，该配置项不生效。 最大预拉起spark driver实例数 队列预先启动的最大spark driver数量。当运行作业的spark driver任务数超过“单spark driver实例最大并发数”的值时，作业将会分配到预先启动的spark driver上面。 当队列为16CUs时范围：0-1
来自：帮助中心
