# PostgreSQL同步到Doris作业配置（公测中） #### 支持的源端和目的端数据库版本 表1支持的数据库版本 | 源端数据库 | 目的端数据库 | |:---|:---| | PostgreSQL数据库（PostgreSQL 9.4、9.5、9.6、10、11、12、13、14、15、16版本） | Doris（Doris1.2、Doris2.0） | #### 数据库账号权限要求 在使用Migration进行同步时，源端和目的端所使用的数据库账号需要满足以下权限要求，才能启动实时同步任务。不同类型的同步任务，需要的账号权限也不同，详细可参考下表进行赋权。 表2数据库账号权限 | 类型名称 | 权限要求 | |:---|:---| | 源数据库连接账号 | 数据库的CONNECT权限，模式的USAGE权限，表的SELECT权限，序列的SELECT权限，REPLICATION连接权限，同时需要有查询pg_ls_waldir()函数的权限，具体操作请参见[如何增加PostgreSQL、Gaussdb数据源额外权限？](https://support.huaweicloud.com/dataartsstudio_faq/dataartsstudio_03_7600.html)。 说明： REPLICATION连接权限的添加方法： - 在源数据库的"pg_hba.conf"配置文件的所有配置前增加一行配置"host replication \ \/32 \<认证方式\>"；认证方式可参考PostgreSQL官方文档[pg_hba.conf文件配置](https://www.postgresql.org/docs/current/auth-pg-hba-conf.html)，常见的认证方式有scram-sha-256等。 - 在源库使用SUPERUSER用户执行语句"select pg_reload_conf();"生效，或重启数据库实例生效。 | | 目标数据库连接账号 | 目标数据库的每张表必须具有如下权限：INSERT、SELECT、UPDATE、DELETE、CONNECT、CREATE。 | ![](https://support.huaweicloud.com/usermanual-dataartsstudio/public_sys-resources/note_3.0-zh-cn.png) - 建议创建单独用于Migration任务连接的数据库账号，避免因为数据库账号密码修改，导致的任务连接失败。 - 连接源和目标数据库的账号密码修改后，请同步修改管理中心对应的连接信息，避免任务连接失败后自动重试，导致数据库账号被锁定影响使用。 #### 支持的同步对象范围 在使用Migration进行同步时，不同类型的链路，支持的同步对象范围不同，详细情况可参考下表。 表3同步对象范围 | 类型名称 | 使用须知 | |:---|:---| | 同步对象范围 | - 支持同步DML：包括INSERT、UPDATE、DELETE。 - 不支持同步视图、外键、存储过程、触发器、函数、事件、虚拟列、唯一约束和唯一索引。 - 不支持同步无日志表（UNLOGGED TABLE）、临时表、系统模式和系统表。 - 支持同步的DDL：新增列、删除列、修改列类型、重命名列、删除表。 - 自动建表支持同步表结构、约束（空、非空），不支持同步默认值。 | #### 注意事项 除了数据源版本、连接账号权限及同步对象范围外，您还需要注意的事项请参见下表。 表4注意事项 | 类型名称 | 使用和操作限制 | |:---|:---| | 数据库限制 | - 源库要同步的库名、schema名和表名不可以包含/\<.\>\\\\'\`\|\\?和!。建议尽量使用常规字符避免任务失败。 - 源数据库的分区表触发器不可以设置为disable。 - 目的端数据库中的对象名需要满足约束： - 表名长度不超过64个字符，以字母开头，中间字符可以是字母、数字、下划线、中划线。 - 字段名长度不超过255个字符，建议使用常规字符，不能包含中文等特殊字符。 | | 使用限制 | 通用： - 实时同步过程中，不支持IP、端口、账号、密码修改。 - PostgreSQL的WAL日志建议保留3天以上。 - 不支持在作业停止后自动删除逻辑复制槽，如果作业不需要再使用，建议删除复制槽以避免日志堆积，手动删除请参见[PostgreSQL数据源如何手动删除复制槽？](https://support.huaweicloud.com/dataartsstudio_faq/dataartsstudio_03_7586.html)。 全量同步阶段： 任务启动和全量数据同步阶段，请不要在源数据库执行DDL操作，否则可能导致任务异常。 增量同步阶段： - 同步DDL前需要提前准备好DDL事件触发器、函数和表，参见[进行PostgreSQL增量DDL同步需要做哪些准备？](https://support.huaweicloud.com/dataartsstudio_faq/dataartsstudio_03_7648.html)。 - 请勿修改源数据库表的主键或者唯一键（主键不存在时），否则可能导致增量数据不一致或任务失败。 - 请勿修改源数据库中表的replica identity属性，否则可能导致增量数据不一致或任务失败。 - Postgres数据源复制槽数达到上限时，无法执行新的作业，可以通过设置max_replication_slots的数值提高复制槽的使用上限或手动删除复制槽（Postgres数据源不支持自动删除复制槽）解决，手动删除请参见[PostgreSQL数据源如何手动删除复制槽？](https://support.huaweicloud.com/dataartsstudio_faq/dataartsstudio_03_7586.html)。 常见故障排查： 在任务创建、启动、全量同步、增量同步、结束等过程中，如有遇到问题，可先参考[常见问题](https://support.huaweicloud.com/dataartsstudio_faq/dataartsstudio_03_7594.html)章节进行排查。 | | 其他限制 | - 启动任务前，请确保源库中未启动长事务，源库启动长事务会阻塞逻辑复制槽的创建，进而引发任务失败。 - 任务启动后，不支持源库发生主备倒换。 - Doris不能用字符串类型作为主键，包括联合主键其中一个字段为字符串类型也不行。 | #### 操作步骤 本小节以PostgreSQL到Doris的实时同步为示例，介绍如何配置Migration实时集成作业。配置作业前请务必阅读[使用前自检概览](https://support.huaweicloud.com/usermanual-dataartsstudio/dataartsstudio_01_7621.html)， 确认已做好所有准备工作。 1. 参见[新建实时集成作业](https://support.huaweicloud.com/usermanual-dataartsstudio/dataartsstudio_01_1603.html)创建一个实时集成作业并进入作业配置界面。 2. 选择数据连接类型：源端选PostgreSQL，目的端选Doris。 图1选择数据连接类型 ![](https://support.huaweicloud.com/usermanual-dataartsstudio/zh-cn_image_0000002415719266.png "点击放大") 3. 选择集成作业类型：同步类型默认为实时，同步场景包含整库和分库分表场景。 图2选择集成作业类型 ![](https://support.huaweicloud.com/usermanual-dataartsstudio/zh-cn_image_0000002209491913.png "点击放大") 4. 配置网络资源：选择已创建的PostgreSQL、Doris数据连接和已配置好网络连接的migration资源组。 图3选择数据连接及migration资源组 ![](https://support.huaweicloud.com/usermanual-dataartsstudio/zh-cn_image_0000002134336073.png "点击放大") ![](https://support.huaweicloud.com/usermanual-dataartsstudio/public_sys-resources/note_3.0-zh-cn.png) 无可选数据连接时，可单击"新建"跳转至管理中心数据连接界面，单击"创建数据连接"创建数据连接，详情请参见[配置DataArts Studio数据连接参数](https://support.huaweicloud.com/usermanual-dataartsstudio/dataartsstudio_01_0009.html)进行配置。 无可选migration资源组时，可单击"新建"跳转至购买migration资源组页面创建migration资源组配置，详情请参见[购买创建数据集成资源组增量包](https://support.huaweicloud.com/usermanual-dataartsstudio/dataartsstudio_01_0145.html)进行配置。 5. 检测网络连通性：数据连接和migration资源组配置完成后需要测试整个迁移任务的网络连通性，可通过以下方式进行数据源和migration资源组之间的连通性测试。 - 单击展开"源端配置"触发连通性测试，会对整个迁移任务的连通性做校验。 - 单击源端和目的端数据源和migration资源组中的"测试"按钮进行检测。 ![](https://support.huaweicloud.com/usermanual-dataartsstudio/public_sys-resources/note_3.0-zh-cn.png) 网络连通性检测异常可先参考[数据源和资源组网络不通如何排查？](https://support.huaweicloud.com/dataartsstudio_faq/dataartsstudio_03_7595.html)章节进行排查。 6. 配置源端参数。 各同步场景下选择需要同步库表的方式请参考下表。 表5选择需要同步的库表 | 同步场景 | 配置方式 | |:---|:---| | 整库 | 选择需要迁移的PostgreSQL库表。 图4选择库表 ![](https://support.huaweicloud.com/usermanual-dataartsstudio/zh-cn_image_0000002480484686.png "点击放大") 库与表均支持自定义选择，即可选择一库一表，也可选择多库多表。 | | 分库分表 | 添加逻辑表。 - 逻辑表名：即最终写入到Doris的表名。 - 源库过滤条件：支持填入正则表达式，在所有PostgreSQL实例中通过该正则表达式过滤出要写入目标端Doris汇聚表的所有分库。 - 源表过滤条件：支持填入正则表达式，在过滤出的源端分库中再次过滤出要写入目标端Doris汇聚表的所有分表。 在进行分库分表同步时，配置的库表过滤条件应确保在每个选定的实例连接中至少有一个库表能满足该条件，否则可能导致同步失败。 图5添加逻辑表 ![](https://support.huaweicloud.com/usermanual-dataartsstudio/zh-cn_image_0000002098696796.png "点击放大") 已添加的逻辑表支持预览表结构及来源库表，单击"操作"列的预览即可。预览逻辑表时，源表数量越多，等待时间可能越长，请耐心等待。 图6逻辑表预览 ![](https://support.huaweicloud.com/usermanual-dataartsstudio/zh-cn_image_0000002208841365.png "点击放大") | 7. 配置目的端参数。 - 源库表和目标匹配策略。 各同步场景下源端库表和目标端库表的匹配策略请参考下表。 表6源库表和目标匹配策略 | 同步场景 | 配置方式 | |:---|:---| | 整库 | - 库匹配策略。 - 与来源库同名：数据将同步至与来源PostgreSQL库名相同的Doris库中。 - 自定义：数据将同步至自行指定的Doris库中。 - 表匹配策略。 - 与来源表同名：数据将同步至与来源PostgreSQL表名相同的Doris表中。 - 自定义：数据将同步至自行指定的Doris表中。 图7整库场景下源库表和目标匹配策略 ![](https://support.huaweicloud.com/usermanual-dataartsstudio/zh-cn_image_0000002480644662.png "点击放大") 说明： 自定义匹配策略时，支持用内置变量#{source_db_name}和#{source_table_name}标志来源的库名和表名，其中表匹配策略必须包含#{source_table_name}。 | | 分库分表 | - 目标端库名：数据将同步至指定的Doris库中。 - 表匹配策略：默认与源端配置中填写的逻辑表同名。 在进行分库分表同步时，配置的库表过滤条件应确保在每个选定的实例连接中至少有一个库表能满足该条件，否则可能导致同步失败。 图8分库分表场景下源库表和目标匹配策略 ![](https://support.huaweicloud.com/usermanual-dataartsstudio/zh-cn_image_0000002134455813.png "点击放大") | - Doris参数配置。 高级配置：支持通过参数配置部分高级功能，参数详情可参考下表。 表7Doris高级配置一览表 | 参数名 | 参数类型 | 默认值 | 单位 | 参数说明 | |:---|:---|:---|:---|:---| | doris.request.connect.timeout.ms | int | 30000 | ms | Doris连接超时时间。 | | doris.request.read.timeout.ms | int | 30000 | ms | Doris读取超时时间。 | | doris.request.retries | int | 3 | - | Doris请求失败重试次数。 | | sink.max-retries | int | 3 | - | 数据库写入失败时的最大重试次数。 | | sink.batch.interval | string | 1s | h/min/s | 异步线程写入数据的时间间隔。 | | sink.enable-delete | boolean | true | - | 是否启用删除功能，如果关闭，源端删除数据，目的端不会删除。 | | sink.batch.size | int | 20000 | - | 单次写（插入、更新、删除）数据的最大行数。 | | sink.batch.bytes | long | 10485760 | bytes | 单次写（插入、更新、删除）数据的最大字节数。 | | logical.delete.enabled | boolean | false | - | 逻辑删除开关，开启本开关后，需要目的端包含删除标记列，在源端删除数据，不会将目的端对应的数据删除，而是将删除标记列设为true，表示该数据在源端已不存在。 | | logical.delete.column | string | logical_is_deleted | - | 逻辑删除标记列名称，默认为logical_is_deleted，支持用户自定义。 | | sink.keyby.mode | string | pk | - | doris多并发写时的分区方式，默认为pk(主键)，源端为kafka类型没有主键时，应选择table，以库表名进行分区。 | | doris.sink.flush.tasks | int | 1 | - | 单个taskmanager的flush并发数。 | | sink.properties.format | string | json | - | Stream Load 使用的数据格式，可选择json/csv。 | | sink.properties.Content-Encoding | string | - | - | HTTP头部消息体压缩格式，目前只支持 CSV 文件的压缩，支持gzip。 | | sink.properties.compress_type | string | - | - | 文件的压缩格式，目前只支持 CSV 文件的压缩。支持 gz, lzo, bz2, lz4, lzop, deflate 压缩格式。 | 8. 刷新源表和目标表映射，检查映射关系是否正确，同时可根据需求修改表属性、添加附加字段，并通过"自动建表"能力在目的端Doris数据库中建出相应的表。 图9源表与目标表映射 ![](https://support.huaweicloud.com/usermanual-dataartsstudio/zh-cn_image_0000002098856660.png "点击放大") - 附加字段编辑：单击操作列"附加字段编辑"可为目的端的Doris表中增加自定义字段，同时附加字段也会额外加入到Doris表的建表中。用户可以在已有的源表字段基础上添加多个附加字段，并自定义字段名、选择字段类型、填写字段值。 - 字段名称：目的端Doris表新增字段的名称。 - 字段类型：目的端Doris表新增字段的类型。 - （可选）字段类型长度：目的端Doris表新增字段类型的长度。 - 字段值：目的端Doris表新增字段的取值来源。 表8附加字段取值方式 | 类型 | 示例 | |:---|:---| | 常量 | 支持数字、字母、中文、特殊字符。彩色表情字符可能导致作业提交失败，需谨慎使用。 | | 内置变量 | - 源端host ip地址：source.host。 - 源端schema名称：source.schema。 - 源端table名称：source.table。 - 目的端schema名称：target.schema。 - 目的端table名称：target.table。 - 源端数据变更时间：source.event.timestamp。 | | 源表字段 | 源表中的任一字段。 配置附加字段的取值来源于源表字段时，请注意任务运行过程中不能修改对应源表字段的名称，否则可能导致作业异常。 | | udf方法 | - substring： 截取源端col列的子串, 范围在\[pos, pos+len)。 - date_format： 将源端col列按time_format格式化, 可选转换时区。 - now(\[tz\])： 获取指定时区的当前时间。 - if(cond_exp, str1, str2)： 满足条件表达式cond_exp时返回str1, 否则返回str2。 - concat： 拼接多个参数, 可为源端列或字符串。 - from_unixtime： 将unix时间戳按time_format格式化。 - unix_timestamp： 将时间转成unix时间戳，可显式定义时间格式及转换后精度，time_format时间格式要与源端保持一致。 | - 自动建表：单击"自动建表"可按照已配置映射规则在目的端数据库自动建表，成功后表建立方式会显示为使用已有表。 ![](https://support.huaweicloud.com/usermanual-dataartsstudio/public_sys-resources/note_3.0-zh-cn.png) - Migration仅支持自动建表，不支持自动建库和模式，需用户自行在目的端手动建出库和模式后再使用本功能建表。 - 自动建表时对应的字段类型映射关系请参见[字段映射关系](https://support.huaweicloud.com/usermanual-dataartsstudio/dataartsstudio_01_1615.html)章节。 9. 配置DDL消息处理规则。 实时集成作业除了能够同步对数据的增删改等DML操作外，也支持对部分表结构变化（DDL）进行同步。针对支持的DDL操作，用户可根据实际需求配置为正常处理/忽略/出错。以Hudi为目的端的DDL同步约束请参考[Hudi目的端数据源约束](https://support.huaweicloud.com/usermanual-dataartsstudio/dataartsstudio_01_7762.html#dataartsstudio_01_7762__section1780672810197)。 - 正常处理：Migration识别到源端库表出现该DDL动作时，作业自动同步到目的端执行该DDL操作。 - 忽略：Migration识别到源端库表出现该DDL动作时，作业忽略该DDL，不同步到目的端表中。 - 出错：Migration识别到源端库表出现该DDL动作时，作业抛出异常。 图10DDL配置 ![](https://support.huaweicloud.com/usermanual-dataartsstudio/zh-cn_image_0000002098112726.png "点击放大") 10. 配置任务属性。 表9任务配置参数说明 | 参数 | 说明 | 默认值 | |:---|:---|:---| | 执行内存 | 作业执行分配内存，跟随处理器核数变化而自动变化。 | 8GB | | 处理器核数 | 范围：2-32。 每增加1处理核数，则自动增加4G执行内存和1并发数。 | 2 | | 并发数 | 作业执行支持并发数。该参数无需配置，跟随处理器核数变化而自动变化。 | 1 | | 自动重试 | 作业失败时是否开启自动重试。 | 否 | | 最大重试次数 | "自动重试"为是时显示该参数。 | 1 | | 重试间隔时间 | "自动重试"为是时显示该参数。 | 120秒 | | 是否写入脏数据 | 选择是否记录脏数据，默认不记录脏数据，当脏数据过多时，会影响同步任务的整体同步速度。 - 否：默认为否，不记录脏数据。 表示不允许脏数据存在。如果同步过程中产生脏数据，任务将失败退出。 - 是：允许脏数据，即任务产生脏数据时不影响任务执行。 允许脏数据并设置其阈值时： - 若产生的脏数据在阈值范围内，同步任务将忽略脏数据（即不会写入目标端），并正常执行。 - 若产生的脏数据超出阈值范围，同步任务将失败退出。 说明： 脏数据认定标准：脏数据是对业务没有意义，格式非法或者同步过程中出现问题的数据；单条数据写入目标数据源过程中发生了异常，则此条数据为脏数据。 因此只要是写入失败的数据均被归类于脏数据。 例如，源端是VARCHAR类型的数据写到INT类型的目标列中，则会因为转换不合理导致脏数据不会成功写入目的端。用户可以在同步任务配置时，配置同步过程中是否写入脏数据，配置脏数据条数（单个分片的最大错误记录数）保证任务运行，即当脏数据超过指定条数时，任务失败退出。 | 否 | | 脏数据策略 | "是否写入脏数据"为是时显示该参数，当前支持以下策略： - 不归档：不对脏数据进行存储，仅记录到任务日志中。 - 归档到OBS：将脏数据存储到OBS中，并打印到任务日志中。 | 不归档 | | 脏数据写入连接 | "脏数据策略"选择归档到OBS时显示该参数。 脏数据要写入的连接，目前只支持写入到OBS连接。 | - | | 脏数据目录 | 脏数据写入的OBS目录。 | - | | 脏数据阈值 | 是否写入脏数据为是时显示该参数。 用户根据实际设置脏数据阈值。 说明： - 脏数据阈值仅针对每个并发生效。比如阈值为100，并发为3，则该作业可容忍的脏数据条数最多为300。 - 输入-1表示不限制脏数据条数。 | 100 | | 添加自定义属性 | 支持通过自定义属性修改部分作业参数及开启部分高级功能，详情可参见[任务性能调优](https://support.huaweicloud.com/usermanual-dataartsstudio/dataartsstudio_01_7653.html)章节。 | - | 11. 提交并运行任务。 作业配置完毕后，单击作业开发页面左上角"提交"，完成作业提交。 图11提交作业 ![](https://support.huaweicloud.com/usermanual-dataartsstudio/zh-cn_image_0000002449206981.png "点击放大") 提交成功后，单击作业开发页面"启动"按钮，在弹出的启动配置对话框按照实际情况配置同步位点参数，单击"确定"启动作业。 图12启动配置 ![](https://support.huaweicloud.com/usermanual-dataartsstudio/zh-cn_image_0000002151886786.png "点击放大") 表10启动配置参数 | 参数 | 说明 | |:---|:---| | 同步模式 | - 增量同步：从指定时间位点开始同步增量数据。 - 全量+增量：先同步全量数据，随后实时同步增量数据。 | | 时间 | 增量同步需要设置该参数，指示增量同步起始的时间位点。 说明： 配置的位点时间早于Binlog日志最早时间点时，默认会以日志最新时间点开始消费。 | 12. 监控作业。 通过单击作业开发页面导航栏的"前往监控"按钮，可前往作业监控页面查看运行情况、监控日志等信息，并配置对应的告警规则，详情请参见[实时集成任务运维](https://support.huaweicloud.com/usermanual-dataartsstudio/dataartsstudio_01_1622.html)。 图13前往监控 ![](https://support.huaweicloud.com/usermanual-dataartsstudio/zh-cn_image_0000002098536316.png "点击放大") #### 性能调优 若链路同步速度过慢，可参见[任务性能调优](https://support.huaweicloud.com/usermanual-dataartsstudio/dataartsstudio_01_7653.html)章节中对应链路文档进行排查及处理。