CREATE TABLE
命令功能
CREATE TABLE命令通过指定带有表属性的字段列表来创建Hudi Table。在使用由DLI提供的元数据服务时仅可创建外表,即需要通过LOCATION指定表路径。
命令格式
CREATE TABLE [ IF NOT EXISTS] [database_name.]table_name
[ (columnTypeList)]
USING hudi
[ COMMENT table_comment ]
[ LOCATION location_path ]
[ OPTIONS (options_list) ]
参数描述
参数 |
描述 |
---|---|
database_name |
Database名称,由字母、数字和下划线(_)组成。 |
table_name |
Database中的表名,由字母、数字和下划线(_)组成。 |
columnTypeList |
以逗号分隔的带数据类型的列表。列名由字母、数字和下划线(_)组成。 |
using |
参数hudi,定义和创建Hudi table。 |
table_comment |
表的描述信息。 |
location_path |
OBS路径,指定该路径Hudi 表会创建为外表。 |
options_list |
Hudi table属性列表。 |
参数 |
描述 |
---|---|
primaryKey |
主键名,多个字段用逗号分隔,该字段为必填字段。 |
type |
表类型。'cow' 表示 COPY-ON-WRITE 表,'mor' 表示 MERGE-ON-READ 表。未指定type的话,默认值为 'cow'。 |
preCombineField |
表的preCombine字段,写入前预聚合数据时,当主键相同,preCombine字段会用于比较,该字段为必填字段。 |
payloadClass |
使用preCombineField字段进行数据过滤的逻辑,默认使用DefaultHoodieRecordPayload,同时也提供了多种预置Payload供用户使用,如OverwriteNonDefaultsWithLatestAvroPayload、OverwriteWithLatestAvroPayload及EmptyHoodieRecordPayload。 |
useCache |
是否在Spark中缓存表的relation,无需用户配置。为支持SparkSQL中对COW表增量视图查询,默认将COW表中该值置为false。 |
示例
- 创建非分区表
create table if not exists hudi_table0 ( id int, name string, price double ) using hudi options ( type = 'cow', primaryKey = 'id', preCombineField = 'price' );
- 创建分区表
create table if not exists hudi_table_p0 ( id bigint, name string, ts bigint, dt string, hh string ) using hudi options ( type = 'cow', primaryKey = 'id', preCombineField = 'ts' ) partitioned by (dt, hh);
- 在指定路径下创建表
create table if not exists h3( id bigint, name string, price double ) using hudi options ( primaryKey = 'id', preCombineField = 'price' ) location 'obs://bucket/path/to/hudi/h3';
- 创建表指定表属性(支持该操作,但是不建议,因为属性写在建表语句里后续不方便修改)
create table if not exists h3( id bigint, name string, price double ) using hudi options ( primaryKey = 'id', type = 'mor', hoodie.cleaner.fileversions.retained = '20', hoodie.keep.max.commits = '20' );
注意事项
- Hudi当前不支持使用char、varchar、tinyint、smallint类型,建议使用string或int类型。
- Hudi当前只有int、bigint、float、double、decimal、string、date、timestamp、boolean、binary类型支持设置默认值。
- Hudi表必须指定primaryKey与preCombineField。
- 在指定路径下创建表时,如果路径下已存在Hudi表,则建表时不需要指定列,且不能修改表的原有属性。
权限需求
由DLI提供的元数据服务
- SQL权限:
database
table
CREATE_TABLE
无
- 细粒度权限:dli:database:createTable
LakeFormation提供的元数据服务,权限配置详见LakeFormation文档。
系统响应
Table创建成功,创建的Hudi表可以进入DLI控制台,在左侧菜单栏选择”数据管理”->”库表管理”,随后筛选数据库并点击名称,进入表列表查询。