更新时间:2023-10-17 GMT+08:00

并行导入

GaussDB提供了并行导入功能,以快速、高效地完成大量数据导入。介绍GaussDB并行导入的相关参数。

raise_errors_if_no_files

参数说明:导入时是否区分“导入文件记录数为空”和“导入文件不存在”。raise_errors_if_no_files=TRUE,则“导入文件不存在”的时候,GaussDB将抛出“文件不存在的”错误。

该参数属于SUSET类型参数,请参考表1中对应设置方法进行设置。

取值范围:布尔型

  • on表示导入时区分“导入文件记录数为空”和“导入文件不存在”。
  • off表示导入时不区分“导入文件记录数为空”和“导入文件不存在”。

默认值:off

partition_mem_batch

参数说明:为了优化对列存分区表的批量插入,在批量插入过程中会对数据进行缓存后再批量写盘。通过partition_mem_batch可指定缓存个数。该值设置过大,将消耗较多系统内存资源;设置过小,将降低系统列存分区表批量插入性能。

该参数属于USERSET类型参数,请参考表1中对应设置方法进行设置。

取值范围:1~ 65535

默认值:256

partition_max_cache_size

参数说明:为了优化对列存分区表的批量插入,在批量插入过程中会对数据进行缓存后再批量写盘。通过partition_max_cache_size可指定数据缓存区大小。该值设置过大,将消耗较多系统内存资源;设置过小,将降低列存分区表批量插入性能。

该参数属于USERSET类型参数,请参考表1中对应设置方法进行设置。

取值范围

列存分区表:4096~ 1073741823,最小单位为KB。

默认值:2GB

gds_debug_mod

参数说明:为了增强对Gauss Data Service (以下简称GDS)相关问题的分析定位能力,可以通过此参数选择是否开启GDS的debug功能。参数开启后,将在集群节点对应的日志中输出GDS每次收发的包裹类型、命令交互的对端以及其他交互相关的细节信息,方便记录Gaussdb端状态机的状态跳转,以及目前所处的状态信息。此参数打开会输出额外日志,增加日志IO开销,进而影响性能和日志的信息有效性,因此请仅在定位GDS问题时开启。

该参数属于USERSET类型参数,请参考表1中对应设置方法进行设置。

取值范围

  • on表示开启GDS debug功能。
  • off表示不开启GDS debug功能。

默认值:off

enable_delta_store

参数说明:为了增强列存单条数据导入的性能和解决磁盘冗余问题,可通过此参数选择是否开启支持列存delta表功能。该参数开启时,数据导入列存表,会根据表定义时指定的DELTAROW_THRESHOLD决定数据进入delta表存储还是主表CU存储,当数据量小于DELTAROW_THRESHOLD时,数据进入delta表。该参数影响的操作包括insert,copy,vacuum,vacuum full,vacuum deltamerge重分布等所有涉及列存表数据移动的操作。

该参数属于POSTMASTER类型参数,请参考表1中对应设置方法进行设置。

取值范围

  • on表示开启列存delta表功能。
  • off表示不开启列存delta表功能。

默认值:off

safe_data_path

参数说明:设置初始用户以外的路径前缀限制,目前包括copy和高级包路径限制(不支持参数路径结尾处有"/",不支持使用的路径中有"..")。

该参数属于SIGHUP类型参数,请参考表1中对应设置方法进行设置。

取值范围:字符串(不超过4096个字符)

默认值:NULL

enable_copy_server_files

参数说明:是否开启copy服务器端文件的权限。

该参数属于SIGHUP类型参数,请参考表1中对应设置方法进行设置。

取值范围:布尔型

  • on表示开启copy服务端文件的权限。
  • off表示不开启copy服务端文件的权限。

默认值:off

当参数enable_copy_server_files关闭时,只允许初始用户执行COPY FROM FILENAME或COPY TO FILENAME命令,当参数enable_copy_server_files打开,允许具有SYSADMIN权限的用户或继承了内置角色gs_role_copy_files权限的用户执行。