更新时间:2024-12-25 GMT+08:00
分享

CREATE TABLE

命令功能

CREATE TABLE命令通过指定带有表属性的字段列表来创建Hudi Table。在使用由DLI提供的元数据服务时仅可创建外表,即需要通过LOCATION指定表路径。

命令格式

CREATE TABLE [ IF NOT EXISTS] [database_name.]table_name

[ (columnTypeList)]

USING hudi

[ COMMENT table_comment ]

[ LOCATION location_path ]

[ OPTIONS (options_list) ]

参数描述

表1 CREATE TABLE参数描述

参数

描述

database_name

Database名称,由字母、数字和下划线(_)组成。

table_name

Database中的表名,由字母、数字和下划线(_)组成。

columnTypeList

以逗号分隔的带数据类型的列表。列名由字母、数字和下划线(_)组成。

using

参数hudi,定义和创建Hudi table。

table_comment

表的描述信息。

location_path

OBS路径,指定该路径Hudi 表会创建为外表。

options_list

Hudi table属性列表。

表2 CREATE TABLE Options描述

参数

描述

primaryKey

主键名,多个字段用逗号分隔,该字段为必填字段。

type

表类型。'cow' 表示 COPY-ON-WRITE 表,'mor' 表示 MERGE-ON-READ 表。未指定type的话,默认值为 'cow'。

preCombineField

表的preCombine字段,写入前预聚合数据时,当主键相同,preCombine字段会用于比较,该字段为必填字段。

payloadClass

使用preCombineField字段进行数据过滤的逻辑,默认使用DefaultHoodieRecordPayload,同时也提供了多种预置Payload供用户使用,如OverwriteNonDefaultsWithLatestAvroPayload、OverwriteWithLatestAvroPayload及EmptyHoodieRecordPayload。

useCache

是否在Spark中缓存表的relation,无需用户配置。为支持SparkSQL中对COW表增量视图查询,默认将COW表中该值置为false。

示例

  • 创建非分区表
    create table if not exists hudi_table0 (
    id int,
    name string,
    price double
    ) using hudi
    options (
    type = 'cow',
    primaryKey = 'id',
    preCombineField = 'price'
    );
  • 创建分区表
    create table if not exists hudi_table_p0 (
    id bigint,
    name string,
    ts bigint,
    dt string,
    hh string
    ) using hudi
    options (
    type = 'cow',
    primaryKey = 'id',
    preCombineField = 'ts'
    )
    partitioned by (dt, hh);
  • 在指定路径下创建表
    create table if not exists h3(
    id bigint,
    name string,
    price double
    ) using hudi
    
    options (
    primaryKey = 'id',
    preCombineField = 'price'
    )
    location 'obs://bucket/path/to/hudi/h3';
  • 创建表指定表属性(支持该操作,但是不建议,因为属性写在建表语句里后续不方便修改)
    create table if not exists h3(
    id bigint,
    name string,
    price double
    ) using hudi
    options (
    primaryKey = 'id',
    type = 'mor',
    hoodie.cleaner.fileversions.retained = '20',
    hoodie.keep.max.commits = '20'
    );

注意事项

  • Hudi当前不支持使用char、varchar、tinyint、smallint类型,建议使用string或int类型。
  • Hudi当前只有int、bigint、float、double、decimal、string、date、timestamp、boolean、binary类型支持设置默认值。
  • Hudi表必须指定primaryKey与preCombineField。
  • 在指定路径下创建表时,如果路径下已存在Hudi表,则建表时不需要指定列,且不能修改表的原有属性。

权限需求

由DLI提供的元数据服务

  • SQL权限:

    database

    table

    CREATE_TABLE

  • 细粒度权限:dli:database:createTable

LakeFormation提供的元数据服务,权限配置详见LakeFormation文档。

系统响应

Table创建成功,创建的Hudi表可以进入DLI控制台,在左侧菜单栏选择”数据管理”->”库表管理”,随后筛选数据库并点击名称,进入表列表查询。

相关文档