更新时间:2023-11-18 GMT+08:00
Hive表中增加分区列后再插入数据显示为NULL
问题现象
- 执行如下命令创建表
create table test_table( col1 string, col2 string ) PARTITIONED BY(p1 string) STORED AS orc tblproperties('orc.compress'='SNAPPY');
- 修改表结构,添加分区并插入数据
alter table test_table add partition(p1='a'); insert into test_table partition(p1='a') select col1,col2 from temp_table;
- 修改表结构,添加列并插入数据
alter table test_table add columns(col3 string); insert into test_table partition(p1='a') select col1,col2,col3 from temp_table;
- 查询test_table表数据,返回结果中列col3的值全为NULL
select * from test_table where p1='a'
- 新添加表分区,并插入数据
alter table test_table add partition(p1='b'); insert into test_table partition(p1='b') select col1,col2,col3 from temp_table;
- 查询test_table表数据,返回结果中列col3有不为NULL的值
select * from test_table where p1='b'
原因分析
在alter table时默认选项为RESTRICT,RESTRICT只会更改元数据,不会修改此操作之前创建的partition的表结构,而只会修改之后创建的新的partition,所以查询时旧的partition中的值全为NULL。
处理步骤
add column时加入cascade关键字即可,例如:
alter table test_table add columns(col3 string) cascade;
父主题: 使用Hive