文档首页/ 云数据迁移 CDM/ 最佳实践/ 使用教程/ OBS数据迁移到云搜索服务
更新时间:2023-07-14 GMT+08:00

OBS数据迁移到云搜索服务

操作场景

CDM支持在云上各服务之间相互迁移数据,本章节介绍如何通过CDM将数据从OBS迁移到云搜索服务中,流程如下:

  1. 创建CDM集群
  2. 创建云搜索服务连接
  3. 创建OBS连接
  4. 创建迁移作业

前提条件

  • 已获取OBS的访问域名、端口,以及AK、SK。
  • 已经开通了云搜索服务,且获取云搜索服务集群的IP地址和端口。

创建CDM集群

如果是独立CDM服务,参考创建集群创建CDM集群;如果是作为DataArts Studio服务CDM组件使用,参考创建集群创建CDM集群。

关键配置如下:
  • CDM集群的规格,按待迁移的数据量选择,一般选择cdm.medium即可,满足大部分迁移场景。
  • CDM集群的VPC必须和云搜索服务集群所在VPC一致,且推荐子网、安全组也与云搜索服务一致。
  • 如果安全控制原因不能使用相同子网和安全组,那么需要确保安全组规则能允许CDM访问云搜索服务集群。

创建云搜索服务连接

  1. 单击CDM集群后的“作业管理”,进入作业管理界面,再选择连接管理 > 新建连接,进入选择连接器类型的界面,如图1所示。

    图1 选择连接器类型

  2. 连接器类型选择“云搜索服务”后单击“下一步”,配置云搜索服务连接参数。

    • 名称:用户自定义连接名称,例如“csslink”
    • Elasticsearch服务器列表:配置为云搜索服务集群(支持5.X以上版本)的连接地址、端口,格式为“ip:port”,多个地址之间使用分号(;)分隔,例如192.168.0.1:9200;192.168.0.2:9200。
    • 用户名、密码:配置为访问云搜索服务集群的用户,需要拥有数据库的读写权限。
    图2 创建云搜索服务连接

  3. 单击“保存”回到连接管理界面。

创建OBS连接

  1. 单击CDM集群后的“作业管理”,进入作业管理界面,再选择连接管理 > 新建连接,进入选择连接器类型的界面,如图3所示。

    图3 选择连接器类型

  2. 连接器类型选择“对象存储服务(OBS)”后,单击“下一步”配置OBS连接参数,如图5所示。

    • 名称:用户自定义连接名称,例如“obslink”
    • OBS服务器、端口:配置为OBS实际的地址信息。
    • 访问标识(AK)、密钥(SK):登录OBS的AK、SK。
      您可以通过如下方式获取访问密钥。
      1. 登录控制台,在用户名下拉列表中选择“我的凭证”。
      2. 进入“我的证”页面,选择访问密钥 > 新增访问密钥,如图4所示。
        图4 单击新增访问密钥
      3. 单击“确定”,根据浏览器提示,保存密钥文件。密钥文件会直接保存到浏览器默认的下载文件夹中。打开名称为“credentials.csv”的文件,即可查看访问密钥(Access Key Id和Secret Access Key)。
        • 每个用户仅允许新增两个访问密钥。
        • 为保证访问密钥的安全,访问密钥仅在初次生成时自动下载,后续不可再次通过管理控制台界面获取。请在生成后妥善保管。
    图5 创建OBS连接

  3. 单击“保存”回到连接管理界面。

创建迁移作业

  1. 选择表/文件迁移 > 新建作业,开始创建从OBS导出数据到云搜索服务的任务。

    图6 创建OBS到云搜索服务的迁移任务
    • 作业名称:用户自定义便于记忆、区分的任务名称。
    • 源端作业配置
      • 源连接名称:选择创建OBS连接中的“obslink”
      • 桶名:待迁移数据的桶。
      • 源目录或文件:待迁移数据的路径,也可以迁移桶下的所有目录、文件。
      • 文件格式:迁移文件到数据表时,文件格式选择“CSV格式”
      • 高级属性里的可选参数一般情况下保持默认即可。
    • 目的端作业配置
      • 目的连接名称:选择创建云搜索服务连接中的“csslink”
      • 索引:待写入数据的Elasticsearch索引,也可以输入一个新的索引,CDM会自动在云上搜索服务中创建。
      • 类型:待写入数据的Elasticsearch类型,可输入新的类型,CDM支持在目的端自动创建类型。
      • 高级属性里的可选参数一般情况下保持默认即可。

  2. 单击“下一步”进入字段映射界面,CDM会自动匹配源和目的字段,如图7所示。

    • 如果字段映射顺序不匹配,可通过拖拽字段调整。
    • 如果选择在目的端自动创建类型,这里还需要配置每个类型的字段类型、字段名称。
    • CDM支持迁移过程中转换字段内容,详细请参见字段转换
    图7 云搜索服务的字段映射

  3. 单击“下一步”配置任务参数,一般情况下全部保持默认即可。

    该步骤用户可以配置如下可选功能:
    • 作业失败重试:如果作业执行失败,可选择是否自动重试,这里保持默认值“不重试”
    • 作业分组:选择作业所属的分组,默认分组为“DEFAULT”。在CDM“作业管理”界面,支持作业分组显示、按组批量启动作业、按分组导出作业等操作。
    • 是否定时执行:如果需要配置作业定时自动执行可开启。这里保持默认值“否”
    • 抽取并发数:设置同时执行的抽取任务数,适当的抽取并发数可以提升迁移效率,配置原则请参见性能调优。这里保持默认值“1”
    • 是否写入脏数据:如果需要将作业执行过程中处理失败的数据、或者被清洗过滤掉的数据写入OBS中,以便后面查看,可通过该参数配置,写入脏数据前需要在CDM先配置好OBS连接。这里保持默认值“否”即可,不记录脏数据。
    图8 任务配置

  4. 单击“保存并运行”,回到作业管理界面,在作业管理界面可查看作业执行进度和结果。
  5. 作业执行成功后,单击作业操作列的“历史记录”,可查看该作业的历史执行记录、读取和写入的统计数据。

    在历史记录界面单击“日志”,可查看作业的日志信息。