# PostgreSQL数据源
本数据集成服务全面支持云上RDS-PostgreSQL及线下自建PostgreSQL数据源，同时兼容GaussDB、Greenplum、金仓数据源，可满足不同用户在多种部署环境下的数据同步需求。
#### 使用前准备及限制
- **网络要求**
  PostgreSQL数据源必须与CDM网络进行通讯，以确保数据传输的顺畅性。详情请参见[网络打通](https://support.huaweicloud.com/usermanual-dataartsstudio/dataartsstudio_01_7765.html)。
  
- **数据库连接权限**
  - **数据库连接权限** ：需要**CONNECT**权限，允许用户连接到指定的数据库。
  
  - **网络访问权限** ：需要在**pg_hba.conf**配置文件中设置允许数据集成服务的IP地址访问数据库。
   
- **表操作权限要求**
  - **模式的USAGE权限：** 用户需要对目标模式（Schema）具有**USAGE**权限，才能访问该模式下的对象
  
  - **离线读取PostgreSQL时**：账号需具备对同步表的只读权限（SELECT），以确保数据能够被安全、准确地读取。
  
  - **离线写入PostgreSQL时**：账号需具备对同步表的写入权限（INSERT、DELETE、UPDATE），以便能够将数据正确写入目标表。
   
 
#### 驱动选择
| 驱动名称       | 获取地址                                                                            | 建议版本      |
|:---|:---|:---|
| POSTGRESQL | [PostgreSQL 驱动下载](https://mvnrepository.com/artifact/org.postgresql/postgresql) | 42.3.4 版本 |
   
#### 支持的数据类型
以PostgreSQL社区版12为基准，本数据集成服务兼容以下字段类型及其常见变体，确保在读写操作中能够准确处理各类数据：
| 类别  | 字段类型             | PostgreSQL 读取 | PostgreSQL 写入 |
|:---|:---|:---|:---|
| 整数型 | smallint         | √             | √             |
| 整数型 | int              | √             | √             |
| 整数型 | bigint           | √             | √             |
| 整数型 | smallserial      | √             | √             |
| 整数型 | serial           | √             | √             |
| 整数型 | bigserial        | √             | √             |
| 浮点数 | float            | √             | √             |
| 浮点数 | DOUBLE PRECISION | √             | √             |
| 浮点数 | REAL             | √             | √             |
| 数值  | decimal(p,s)     | √             | √             |
| 数值  | NUMERIC          | √             | √             |
| 字符型 | char             | √             | √             |
| 字符型 | varchar          | √             | √             |
| 字符型 | text             | √             | √             |
| 时间  | date             | √             | √             |
| 时间  | timestamp        | √             | √             |
| 时间  | timestamptz      | √             | √             |
| 时间  | time             | √             | √             |
| 时间  | timez            | √             | √             |
| 时间  | interval         | √             | √             |
| 二进制 | BYTEA            | √             | √             |
| 网络  | INET             | ×             | ×             |
| 货币  | money            | √             | √             |
| 比特  | bit              | √             | √             |
| 比特  | varbit           | √             | √             |
| 布尔  | boolean          | √             | √             |
| 其他  | int1（gauss数据库）   | √             | √             |
| 其他  | JSONB            | √             | x             |
| 其他  | UUID             | x             | x             |
   
#### 支持的迁移场景
数据集成离线同步支持以下三种同步方式，以满足不同数据迁移场景的需求：
- **单表同步**
  适用于数据入湖和数据上云场景下，表或文件级别的数据同步。
  
- **分库分表同步**
  适用于数据入湖和数据上云场景下，多库多表同步场景。
  
- **整库迁移**
  适用于数据入湖和数据上云场景下，离线或自建数据库整体同步场景。
  
云场景下，离线或自建数据库整体同步场景。支持的数据源类型请参考整库同步支持的数据源类型。
需要注意的是，分库分表与整库迁移能力会根据不同region的上线支持情况有所不同，具体支持情况以页面为准。以下是针对PostgreSQL的支持迁移场景概览：
| 支持迁移场景 | PostgreSQL单表读取 | PostgreSQL单表写入 | PostgreSQL分库分表读取 | PostgreSQL分库分表写入 | PostgreSQL整库读取 | PostgreSQL整库写入 |
|:---|:---|:---|:---|:---|:---|:---|
| 是否支持   | √              | √              | √(部分region支持)    | √                | √(部分region支持)  | x              |
   
#### 核心能力速览
- **连接配置**
  
  | 配置项     | 支持情况 | 说明                                     |
  |:---|:---|:---|
  | 用户/AK   | √    | 支持用户认证，确保连接安全。                         |
  | SSL加密   | √    | 支持SSL加密，保障数据传输安全，当前仅支持云上RDS开启SSL认证。    |
  | SSL认证支持 | √    | 当前仅支持云上RDS开启SSL认证，通过标准华为云CA证书进行认证。     |
  | 私有证书支持  | x    | 不支持私有证书。                               |
  | 连接配置调优  | √    | 支持connectTimeout等连接配置调优，可根据实际需求优化连接性能。 |
  | 自定义驱动   | √    | 支持自定义驱动，提供更高的灵活性。                      |
     
  
- **读取能力**
  
  | 配置项    | 支持情况 | 说明                                                       |
  |:---|:---|:---|
  | 分片并发   | √    | 支持按主键或常见字段做水平分片，多线程并行抽取，显著提升吞吐效率。                        |
  | 脏数据处理  | √    | 支持异常数据写入脏数据桶，避免因少量异常数据导致作业失败。                            |
  | 自定义字段  | √    | 可在任务级追加计算列、常量列或脱敏函数，满足个性化业务需求。                           |
  | 增量读取   | √    | 支持where条件和SQL模式，可实现增量读取。                                 |
  | 流批读取方式 | 批读   | 支持批量读取，适用于中小数据量场景，可一次性处理数据，提高处理效率。                       |
  | 读取行数调优 | √    | 可根据需求在连接中配置【单次请求行数】，合理控制数据传输量，优化性能，避免因数据量过大导致的传输延迟或系统压力。 |
  | 视图读取   | √    | 支持从视图中读取数据，实现灵活的数据集成与处理。                                 |
     
  
- **写入能力**
  
  | 配置项     | 支持情况 | 说明                                                          |
  |:---|:---|:---|
  | 数据源调优参数 | √    | 支持batchSize、socketTimeout等写入端优化配置，提升写入性能。                   |
  | 脏数据处理   | √    | 支持异常数据写入脏数据桶，避免因少量异常数据导致作业失败。                               |
  | 冲突解决    | x    | 不支持冲突解决机制。                                                  |
  | 导入前后处理  | √    | 支持preSql/delete等操作，可在数据导入前后进行数据清洗和处理。                       |
  | 并发写入    | √    | 支持并发写入，提升写入效率。                                              |
  | 写入行数调优  | x    | 可根据需求配置单次写入的行数，合理控制数据传输量，优化性能，避免因数据量过大导致的传输延迟或系统压力，该数据源不支持。 |
     
  
 
#### 创建数据源
在DataArts Studio管理中心新建相应的数据源，详情请参见[创建DataArts Studio数据连接](https://support.huaweicloud.com/usermanual-dataartsstudio/dataartsstudio_01_0009.html)。
#### 创建数据集成离线作业
在DataArts Studio数据开发中新建PostgreSQL集成作业，详情请参见[新建离线处理集成作业](https://support.huaweicloud.com/usermanual-dataartsstudio/dataartsstudio_01_1458.html)。
#### 常见问题
- [当MySQL、Oracle、PostgreSQL作为源端时，如果作业报错"Read timed out"怎么处理？](https://support.huaweicloud.com/cdm_faq/cdm_01_1296.html)
- [执行Postgresql-to-Hive迁移作业报错"Error occurs during loader run](https://support.huaweicloud.com/cdm_faq/cdm_01_1169.html)
 
#### 最佳实践
[PostgreSQL连接属性配置指南](https://support.huaweicloud.com/usermanual-dataartsstudio/dataartsstudio_01_1530.html)
[关系型数据库增量迁移](https://support.huaweicloud.com/bestpractice-dataartsstudio/dataartsstudio_05_0005.html)