更新时间:2024-08-20 GMT+08:00
经验总结:SQL语句改写规则
根据数据库的SQL执行机制以及大量的实践,总结发现:通过一定的规则调整SQL语句,在保证结果正确的基础上,能够提高SQL执行效率。如果遵守这些规则,常常能够大幅度提升业务查询效率。
- 使用union all代替union
union在合并两个集合时会执行去重操作,而union all则直接将两个结果集合并,不执行去重。执行去重会消耗大量的时间,因此,在一些实际应用场景中,如果通过业务逻辑已确认两个集合不存在重叠,可用union all替代union以便提升性能。
- join列增加非空过滤条件
- not in转not exists
not in语句需要使用nestloop anti join来实现,而not exists则可以通过hash anti join来实现。在join列不存在NULL值的情况下,not exists和not in等价。因此在确保没有NULL值时,可以通过将not in转换为not exists,通过生成hash join来提升查询效率。
如下所示,如果t2.d2字段中没有NULL值(t2.d2字段在表定义中not null)查询可以修改为:
1
SELECT * FROM t1 WHERE NOT EXISTS (SELECT * FROM t2 WHERE t1.c1=t2.d2);
产生的计划如下:
图1 not exists执行计划
- 选择hashagg
查询中GROUP BY语句如果生成了groupagg+sort的plan性能会比较差,可以通过加大work_mem的方法生成hashagg的plan,因为不用排序而提高性能。
- 尝试将函数替换为case语句
- 避免对索引使用函数或表达式运算
- 尽量避免在where子句中使用“!=”或“<”“>”操作符、NULL值判断、or连接、参数隐式转换。
- 如果WHERE条件中出现了>=和<=同一个值,由于当前不支持范围等价类推导,尽量把条件改为=查询。
SELECT * FROM t1 WHERE c1 >= 1 AND c1 <= 1
修改为:
SELECT * FROM t1 WHERE c1 = 1
对于范围查询,优化器在计算选择率时误差相对等值查询较大,所以尽可能把范围查询改为等值查询。
- 对复杂SQL语句进行拆分
对于过于复杂并且不易通过以上方法调整性能的SQL可以考虑拆分的方法,把SQL中某一部分拆分成独立的SQL并把执行结果存入临时表,拆分常见的场景包括但不限于:
- 作业中多个SQL有同样的子查询,并且子查询数据量较大。
- Plan cost计算不准,导致子查询hash bucket太小,比如实际数据1000W行,hash bucket只有1000。
- 函数(如substr,to_number)导致大数据量子查询选择度计算不准。
- 多DN环境下对大表做broadcast的子查询。
父主题: SQL调优指南