配置Hive列加密功能
操作场景
Hive支持对表的某一列或者多列进行加密;在创建Hive表时,可以指定要加密的列和加密算法。当使用insert语句向表中插入数据时,即可实现将对应列的数据加密。只支持对存储在HDFS上的TextFile和SequenceFile文件格式的Hive表进行列加密,不支持视图以及Hive over HBase场景。
Hive列加密机制目前支持的加密算法有两种,在建表时指定:
- AES:对应加密类名称为“org.apache.hadoop.hive.serde2.AESRewriter”。
- SMS4:对应加密类名称为“org.apache.hadoop.hive.serde2.SMS4Rewriter”。
将原始数据从普通Hive表导入到Hive列加密表后,在不影响其他业务情况下,建议删除普通Hive表上原始数据,因为保留一张未加密的表存在安全风险。
创建Hive列加密表
- 以Hive客户端安装用户登录安装客户端的节点。
- 执行以下命令,切换到客户端安装目录,配置环境变量并认证用户。
cd 客户端安装目录
source bigdata_env
kinit Hive业务用户(如果集群未开启Kerberos认证,请跳过该操作)
- 执行以下命令登录Hive客户端。
beeline
- 在创建表时指定相应的加密列和加密算法:
create table<[db_name.]table_name> (<col_name1> <data_type> ,<col_name2> <data_type>,<col_name3> <data_type>,<col_name4> <data_type>) ROW FORMAT SERDE 'org.apache.hadoop.hive.serde2.lazy.LazySimpleSerDe' WITH SERDEPROPERTIES ('column.encode.columns'='<col_name2>,<col_name3>', 'column.encode.classname'='org.apache.hadoop.hive.serde2.AESRewriter')STORED AS TEXTFILE;
或者使用如下语句:
create table <[db_name.]table_name> (<col_name1> <data_type> ,<col_name2> <data_type>,<col_name3> <data_type>,<col_name4> <data_type>) ROW FORMAT SERDE 'org.apache.hadoop.hive.serde2.lazy.LazySimpleSerDe' WITH SERDEPROPERTIES ('column.encode.indices'='1,2', 'column.encode.classname'='org.apache.hadoop.hive.serde2.SMS4Rewriter') STORED AS TEXTFILE;
- 使用序号指定加密列时,序号从0开始。0代表第1列,1代表第2列,依次类推。
- 创建列加密表时,表所在的目录必须是空目录。
- 使用insert语句向设置列加密的表中导入数据。
假设test表已存在且有数据:
insert into table <table_name> select <col_list> from test;