更新时间:2023-03-08 GMT+08:00
如何调整分布列?
在数据仓库类型的数据库中,大表的分布列选择对于数据库和语句查询性能都有至关重要的影响。 如果表的分布列选择不当,在数据导入后有可能出现数据分布倾斜,进而导致某些磁盘的使用明显高于其他磁盘,极端情况下会导致集群只读。 对于Hash分表策略,存在数据倾斜情况下,查询时出现部分DN的I/O短板,从而影响整体查询性能。 在对已经创建的表,该如何进行分布列的调整,也是我们经常思考的课题。
采用Hash分表策略之后需对表的数据进行数据倾斜性检查,以确保数据在各个DN上是均匀分布的。一般来说,不同DN的数据量相差5%以上即可视为倾斜,如果相差10%以上就必须要调整分布列。
针对分布不均匀的表,尽可能通过调整分布列,以减少数据倾斜,避免带来潜在的数据库性能问题。
选择合适的分布列
Hash分布表的分布列选取至关重要,需要满足以下基本原则:
- 列值应比较离散,以便数据能够均匀分布到各个DN。例如,考虑选择表的主键为分布列,如在人员信息表中选择身份证号码为分布列;
- 在满足第一条原则的情况下尽量不要选取存在常量filter的列;
- 在满足前两条原则的情况,考虑选择查询中的连接条件为分布列,以便Join任务能够下推到DN中执行,且减少DN之间的通信数据量;
- 支持多分布列特性,可以更好地满足数据分布的均匀性要求。
如何调整
通过select version();语句查询当前数据库版本号,版本号不同,调整的方式不同:
- 8.0.x及以前版本,通过重建表来调整:
- 通过Data Studio或者Linux下使用gsql访问数据库。
- 创建新表。
以下步骤语句中,table1为原表名,table1_new为新表名,column1和column2为分布列名称。
1 2 3 4
CREATE TABLE IF NOT EXISTS table1_new ( LIKE table1 INCLUDING ALL EXCLUDING DISTRIBUTION) DISTRIBUTE BY HASH (column1, column2);
- 迁移数据到新表。
1 2 3 4
START TRANSACTION; LOCK TABLE table1 IN ACCESS EXCLUSIVE MODE; INSERT INTO table1_new SELECT * FROM table1; COMMIT;
- 查看表数据是否迁移成功,删除原表。
1 2
SELECT COUNT(*) FROM table1_new; DROP TABLE table1;
- 替换原表。
1
ALTER TABLE table1_new RENAME TO table1;
- 8.1.0及以后版本后,通过ALTER TABLE语法进行调整,以下为示例。
- 查询当前表定义,回显发现该表分布列为c_last_name。
1
select pg_get_tabledef('customer_t1');
- 尝试执行更新分布列中的数据提示错误信息。
1
update customer_t1 set c_last_name = 'Jimy' where c_customer_sk = 6885;
- 将该表的分布列修改为不会更新的列,例如c_customer_sk。
1
alter table customer_t1 DISTRIBUTE BY hash (c_customer_sk);
- 重新执行更新旧的分布列的数据。更新成功。
1
update customer_t1 set c_last_name = 'Jimy' where c_customer_sk = 6885;
父主题: 数据库使用