
# 迁移数据到DWS
DWS提供了灵活的数据入库方式，可以将多种数据源的数据导入到DWS中，如[图1]所示。各导入方式具有不同的特点，如[表1]所示，用户可以根据其特点自行选择。建议用户配合云数据迁移（Cloud Data Migration，简称CDM）和数据治理中心（DataArts Studio）一起使用，CDM用于批量数据迁移，DataArts Studio可以对整个ETL过程进行编排调度，同时提供可视化的开发环境。
图1数据迁移示意图   
![](https://support.huaweicloud.com/migration-dws/figure/zh-cn_image_0000002620487851.png "点击放大")
![](https://support.huaweicloud.com/migration-dws/public_sys-resources/note_3.0-zh-cn.png)
- CDM、OBS、MRS、DLI为云服务。
- GDS、gs_restore、gs_dump为内部工具。
 
 表1数据导入方式说明 
| 数据导入方式                                                                                                                     | 数据源                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                           | 说明                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                    | 优势                                     |
|:---|:---|:---|:---|
| [从OBS并行导入数据](https://support.huaweicloud.com/migration-dws/dws_15_0004.html#ZH-CN_TOPIC_0000002220143828)                  | OBS                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                           | 支持将存储在OBS上的TXT、CSV、ORC及CARBONDATA格式的数据并行导入到DWS，支持导入后查询数据，也支持远程读OBS上的数据。 DWS优先推荐的导入方式。                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                              | 并行拉取方式，性能好，横向扩展。                       |
| [使用GDS从远端服务器导入数据](https://support.huaweicloud.com/migration-dws/dws_15_0020.html#ZH-CN_TOPIC_0000002220143844)             | Servers（即远端服务器）                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                               | 使用DWS提供的GDS工具，利用多DN并行的方式，将数据从远端服务器导入到DWS。这种方式导入效率高，适用于大批量数据入库。                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                        | 并行拉取方式，性能好，横向扩展。                       |
| [从MRS导入数据到集群](https://support.huaweicloud.com/migration-dws/dws_15_0032.html#ZH-CN_TOPIC_0000002220143856)                 | MRS（HDFS）                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                     | 配置一个DWS集群连接到一个MRS集群，然后将数据从MRS的HDFS中读取到DWS。                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                            | 并行拉取方式，性能好，横向扩展。                       |
| [基于GDS的跨集群互联互通](https://support.huaweicloud.com/migration-dws/dws_15_0041.html#ZH-CN_TOPIC_0000002220143872)               | -                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                             | 通过GDS进行数据中转，实现多个集群之间的数据同步。                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                            | 适用于多套DWS集群之间的数据同步。                     |
| [使用开源Kettle导入数据](https://support.huaweicloud.com/migration-dws/dws_15_0112.html#ZH-CN_TOPIC_0000002255063605)              | MySQL、Oracle、BigQuery、Redshift等                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                               | 支持使用开源Kettle工具配合dws-client插件完成数据入库。                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                   | 适用于使用开源Kettle工具入库场景，数据入库速度在22000条/秒左右。 |
| [使用gsql元命令\\COPY导入数据](https://support.huaweicloud.com/migration-dws/dws_15_0042.html#ZH-CN_TOPIC_0000002219984028)         | 本地文件                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                          | 与直接使用SQL语句COPY不同，该命令读取/写入的文件只能是gsql客户端所在机器上的本地文件。                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                     | 操作简单，适用于小批量数据入库。                       |
| [使用COPY FROM STDIN导入数据](https://support.huaweicloud.com/migration-dws/dws_15_0043.html#ZH-CN_TOPIC_0000002254983733)       | 其他文件或数据库                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                      | 使用Java语言开发应用程序时，通过调用JDBC驱动的CopyManager接口，从文件或其他数据库向DWS写入数据。                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                           | 从其他数据库直接写入DWS的方式，具有业务数据无需落地成文件的优势。     |
| [Kafka实时入库到DWS](https://support.huaweicloud.com/migration-dws/dws_15_0113.html#ZH-CN_TOPIC_0000002220143908)               | Kafka                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                         | 使用DLI Flink作业实现Kafka实时入库DWS。                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                          | 适用Kafka实时入库。                           |
| [使用CDM迁移数据到DWS](https://support.huaweicloud.com/migration-dws/dws_15_0050.html#ZH-CN_TOPIC_0000002220143900)               | 数据库、NoSQL、文件系统、大数据平台                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                          | CDM提供同构/异构数据源之间批量数据迁移的功能，帮助用户实现从多种类型的数据源迁移数据到DWS。CDM在迁移数据到DWS时，采用的是COPY方式和GDS并行导入方式。                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                  | 数据源丰富，操作简单。                            |
| [使用DSC工具迁移SQL脚本](https://support.huaweicloud.com/migration-dws/dws_15_0051.html#ZH-CN_TOPIC_0000002255063621)              | 数据库、NoSQL、文件系统、大数据平台                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                          | 请参考第三方ETL工具的相关文档。 DWS提供了DSC工具，可以将Teradata/Oracle脚本迁移到DWS。                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                         | 通过OBS中转，数据源丰富，数据转换能力强。                 |
| [使用gs_dump和gs_dumpall命令导出元数据](https://support.huaweicloud.com/migration-dws/dws_15_0053.html#ZH-CN_TOPIC_0000002219984048) | - 纯文本格式  - 自定义归档格式  - 目录归档格式  - tar归档格式   | gs_dump支持导出单个数据库或其内的对象，而gs_dumpall支持导出集群中所有数据库或各库的公共全局对象。 通过导入工具将导出的元数据信息导入至需要的数据库，可以完成数据库信息的迁移。                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                             | 适用于元数据迁移。                              |
| [使用gs_restore导入数据](https://support.huaweicloud.com/migration-dws/dws_15_0063.html)                                         | sql/tmp/tar文件格式                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                               | 在数据库迁移场景下，支持使用gs_restore工具将事先使用gs_dump工具导出的文件格式，重新导入DWS集群，实现表定义、数据库对象定义等元数据的导入。导入数据主要包括以下内容： - 所有数据库对象定义。  - 单个数据库对象定义。  - 单个Schema定义。  - 单张表定义。   | 适用于元数据迁移。                              |
   
