、内存、磁盘IO、网络IO四种资源利用最大化。所有调优手段都是围绕资源使用开展的。所谓资源利用最大化是指SQL语句尽量高效，节省资源开销，以最小的代价实现最大的效益。比如做典型点查询的时候，可以用seqscan+filter（即读取每一条元组和点查询条件进行匹配）实现，也可以通过

查看更多 →

要启动聚合算法优化，在Spark客户端的“spark-defaults.conf”配置文件中进行设置。 表1 参数介绍 参数 描述 默认值 spark.sql.codegen.aggregate.map.twolevel.enabled 是否开启聚合算法优化： true：开启 false：不开启

查看更多 →

基因查询优化器 介绍基因查询优化器相关的参数。基因查询优化器（GEQO）是一种启发式的查询规划算法。这个算法减少了对复杂查询规划的时间，而且生成规划的开销有时也小于正常的详尽的查询算法。 geqo 参数说明：控制基因查询优化的使用。 该参数属于USERSET类型参数，请参考表1中对应设置方法进行设置。

查看更多 →

参数说明：设置优化器是否对以PBE（Parse Bind Execute）形式执行的语句进行查询计划的优化。 参数类型：布尔型 参数单位：无 取值范围： on表示优化器将优化PBE语句的查询计划。 off表示不使用优化。 默认值：off 设置方式：该参数属于SUSET类型参数，请参见表1中对应设置方法进行设置。

查看更多 →

参数说明：设置优化器计算一次顺序磁盘页面抓取的开销。 参数类型：浮点型 参数单位：无 取值范围：0 ～ DBL_MAX 默认值：1 设置方式：该参数属于USERSET类型参数，请参考表1中对应设置方法进行设置。 设置建议：无 random_page_cost 参数说明：设置优化器计算一次非顺序抓取磁盘页面的开销。

查看更多 →

参数说明：设置优化器是否对以PBE（Parse Bind Execute）形式执行的语句进行查询计划的优化。 参数类型：布尔型 参数单位：无 取值范围： on表示优化器将优化PBE语句的查询计划。 off表示不使用优化。 默认值：on 设置方式：该参数属于SUSET类型参数，请参考表1中对应设置方法进行设置。

查看更多 →

优化器开销常量 介绍优化器开销常量。这里描述的开销可以按照任意标准度量。只关心其相对值，因此以相同的系数缩放它们将不会对优化器的选择产生任何影响。缺省时，它们以抓取顺序页的开销为基本单位。也就是说将seq_page_cost设为1.0，同时其他开销参数以它为基准设置。也可以使用其他基准，比如以毫秒计的实际执行时间。

查看更多 →

基因查询优化器 介绍基因查询优化器相关的参数。基因查询优化器（GEQO）是一种启发式的查询规划算法。这个算法减少了对复杂查询规划的时间，而且生成规划的开销有时也小于正常的详尽的查询算法。 geqo 参数说明：控制基因查询优化的使用。 该参数属于USERSET类型参数，请参考表1中对应设置方法进行设置。

查看更多 →

置文件“hive-site.xml”中，查看Hive的数据库路径的配置，默认为“/user/hive/warehouse”。Spark服务多实例默认数据库路径为“/user/hive/warehouse”，例如“/user/hive1/warehouse”。 <property>

查看更多 →

优化器开销常量 介绍优化器开销常量。这里描述的开销可以按照任意标准度量。只关心其相对值，因此以相同的系数缩放它们将不会对优化器的选择产生任何影响。缺省时，它们以抓取顺序页的开销为基本单位。也就是说将seq_page_cost设为1.0，同时其他开销参数以它为基准设置。也可以使用其他基准，比如以毫秒计的实际执行时间。

查看更多 →

基因查询优化器 介绍基因查询优化器相关的参数。基因查询优化器（GEQO）是一种启发式的查询规划算法。这个算法减少了对复杂查询规划的时间，而且生成规划的开销有时也小于正常的详尽的查询算法。 geqo 参数说明：控制基因查询优化的使用。 该参数属于USERSET类型参数，请参考表1中对应设置方法进行设置。

查看更多 →

Execute）形式执行的语句进行查询计划的优化。 该参数属于SUSET类型参数，请参考表1中对应设置方法进行设置。 取值范围：布尔型。 on表示优化器将优化PBE语句的查询计划。 off表示不使用优化。 默认值：on enable_light_proxy 参数说明：设置优化器是否对简单查询在CN上优化执行，应用

查看更多 →

seq_page_cost 参数说明：设置优化器计算一次顺序磁盘页面抓取的开销。 参数类型：USERSET 取值范围：浮点型，0～DBL_MAX。 默认值：1 random_page_cost 参数说明：设置优化器计算一次非顺序抓取磁盘页面的开销。 参数类型：USERSET 取值范围：浮点型，0～DBL_MAX。

查看更多 →

2及以上版本支持。 参数类型：USERSET 取值范围：枚举类型 0 表示采用C标准库提供的random函数。 1 表示采用优化增强的random函数。 默认值：0 constraint_exclusion 参数说明：控制查询优化器使用表约束查询的优化。 参数类型：USERSET 取值范围：枚举类型

查看更多 →

enable_bitmapscan 参数说明：控制优化器对位图扫描规划类型的使用。 参数类型：USERSET 取值范围：布尔型 on表示使用。 off表示不使用。 默认值：on enable_hashagg 参数说明：控制优化器对Hash聚集规划类型的使用。 参数类型：USERSET 取值范围：布尔型

查看更多 →

seq_page_cost 参数说明：设置优化器计算一次顺序磁盘页面抓取的开销。 参数类型：USERSET 取值范围：浮点型，0～10000。 默认值：1 random_page_cost 参数说明：设置优化器计算一次非顺序抓取磁盘页面的开销。 参数类型：USERSET 取值范围：浮点型，0～10000。

查看更多 →

基因查询优化器 介绍基因查询优化器相关的参数。基因查询优化器（GEQO）是一种启发式的查询规划算法。这个算法减少了对复杂查询规划的时间，而且生成规划的开销有时也小于正常的详尽的查询算法。 geqo 参数说明：控制基因查询优化的使用。 参数类型：USERSET 取值范围：布尔型 on表示使用。

查看更多 →

及效益，最终达到实际需求的最优目标。 运筹优化算法总结为定义问题、优化求解、输出优化方案，如图1所示。 图1 运筹优化算法 定义问题 根据业务的需求，一般需要定义的问题内容包括问题描述、已知参数、约束条件、优化目标。 问题描述：运筹优化算法所要解决的实际问题描述，例如计划生产的产品收益等。

查看更多 →

Spark SQL join优化 操作场景 Spark SQL中，当对两个表进行join操作时，利用Broadcast特性（请参见使用广播变量），将小表BroadCast到各个节点上，从而转变成非shuffle操作，提高任务执行性能。 这里join操作，只指inner join。

查看更多 →

Hive Join数据优化 操作场景 使用Join语句时，如果数据量大，可能造成命令执行速度和查询速度慢，此时可进行Join优化。 Join优化可分为以下方式： Map Join Sort Merge Bucket Map Join Join顺序优化 Map Join Hive的Map

查看更多 →

置文件“hive-site.xml”中，查看Hive的数据库路径的配置，默认为“/user/hive/warehouse”。Spark服务多实例默认数据库路径为“/user/hive/warehouse”，例如“/user/hive1/warehouse”。 <property>

查看更多 →