文档首页/ 迁移中心 MgC/ 用户指南/ 新版/ 迁移计划(New)/ 创建对象存储批量迁移计划
更新时间:2025-09-12 GMT+08:00
分享

创建对象存储批量迁移计划

迁移中心为多种资源的不同迁移计划配置模板,可以面向迁移工作流进行一站式配置。本节介绍为对象存储批量迁移配置迁移计划的方法。

对象存储批量迁移:适用于源端有多个对象存储桶资源需要迁移的场景。如果只有单个对象存储桶资源需要迁移,请直接创建单个对象存储迁移工作流

前提条件

风险提示

在创建工作流时,对于源端和目的端的同名对象,我们提供了四种覆盖策略:对象大小与最后修改时间覆盖、不覆盖直接覆盖CRC64对比覆盖。选择“不覆盖”策略进行数据迁移时,如果迁移任务因错误中断后重启或从暂停状态恢复,可能会出现部分数据未完全迁移,但任务显示 “成功” 的情况。影响数据的完整性。为规避这一风险,请谨慎使用“不覆盖”策略

约束与限制

  • 创建计划时,待迁移桶列表中的资源所属的平台必须和所选的源端平台一致,且一个计划对应一个目的端区域。
  • 一个源端桶资源可以关联多个计划。
  • 在一个计划下,一个桶资源的目的端前缀只能有一个,但是源端前缀可以有多个。
  • 同一用户在同一个迁移集群下同时支撑迁移的桶数量不超过20个。

步骤一:创建迁移计划

  1. 登录迁移中心管理控制台。在左侧导航栏的项目下拉列表中选择创建的应用迁移项目
  2. 在左侧导航栏单击“迁移计划”,进入迁移计划页面。
  3. 单击“创建迁移计划”按钮,右侧弹出创建迁移计划窗口。
  4. 根据表1,设置可用区迁移计划参数。

    表1 迁移计划参数配置说明

    参数

    配置说明

    选择迁移计划模板

    选择“对象存储批量迁移”。

    计划名称

    系统会默认创建计划名称,您也可以自定义计划名称。

    描述(可选)

    输入相关描述。

  5. 单击“确认”,对象批量迁移计划创建完成并进入资源选择阶段。

步骤二:迁移资源配置

  1. 配置迁移资源页面的源端平台下拉列表中,选择源端资源所在平台。待迁移桶列表中的资源所属的平台必须和所选的源端平台一致,且一个计划对应一个目的端区域。
  2. 目的端桶区域下拉列表中,选择目的端桶所在区域。
  3. 待迁移桶列表区域,单击“添加桶”按钮,右侧弹出添加桶窗口。
  4. 勾选需要迁移的桶,单击操作列的“修改”,调整终端地址,调整完成并勾选后,单击“确认”。最多添加100个桶。
  5. 待迁移桶列表中,设置桶类型,源端凭证,目的端桶名称和目的端凭证,设置完成后单击操作列“保存”,也支持多条设置完后单击“全部保存”。保存之后支持批量修改。
  6. 所有待迁移桶的迁移设置完成后,单击“下一步”,进行迁移参数配置。

步骤三:迁移参数配置

  1. 迁移方式选择区域,设置迁移方式、迁移范围和目的端前缀(可选)。迁移方式和迁移范围说明参见表2

    表2 迁移方式和迁移范围说明

    迁移方式

    说明

    迁移范围

    全量迁移

    迁移源端桶/文件夹内的全部数据。

    不涉及。

    前缀迁移

    通过对象名称或者名称前缀过滤迁移,只迁移与对象名称或名称前缀一致的对象。

    前缀迁移不添加源端前缀默认进行全量迁移。

    • 导入源端前缀:导入txt格式前缀文件。
    • 添加源端前缀:手动输入前缀。

    列表迁移

    通过列表文件过滤迁移,只迁移列表文件中的对象。列表文件需要存放在目的端桶中。

    (必填)需要在迁移范围中输入列表文件的存放路径并以“/”结尾。

  2. (可选)在源端参数配置区域,勾选迁移元数据和解冻归档数据。

    源端为阿里云OSS、腾讯云COS时,支持(可选)勾选CDN迁移支持。如果使用了CDN鉴权,还需要选择“鉴权类型”并输入“鉴权密钥”。

  3. 目的端参数配置区域,根据表3,进行配置。

    表3 目的端参数配置表

    参数

    子参数

    说明

    同名覆盖方式

    对象大小与最后修改时间覆盖

    • 对于文件迁移:源端和目的端存在的同名文件,保留最后修改时间较新的文件;如果最后修改时间相同,比较文件大小,大小不同则源端覆盖目的端文件;如果最后修改时间和大小都相同,则跳过;
    • 对于文件夹迁移:当文件迁移完成后再比对文件夹大写、时间和权限,如果文件夹大小不同/时间不相同/权限不相同,则源端覆盖目的端文件夹;

    不覆盖

    对于源端和目的端存在的同名文件,跳过源端文件,保留目的端文件。

    警告:

    选择“不覆盖”策略进行数据迁移时,如果迁移任务因错误中断后重启或从暂停状态恢复,可能会造成部分数据未完全迁移,而任务显示成功的现象,影响数据的完整性。为规避这一风险,请谨慎使用“不覆盖”策略。

    直接覆盖

    对于源端和目的端存在的同名文件,源端文件直接覆盖目的端文件。

    CRC64对比覆盖

    迁移前,对于源端和目的端存在的同名对象,对比源端和目的端对象元数据中的CRC64值,相同则跳过,不同则覆盖。如果源端或目的端对象元数据中不存在CRC64值,则默认使用对象大小与最后修改时间覆盖策略执行。

    说明:
    • 目前对象存储迁移仅支持华为云、阿里云和腾讯云。
    • 目的端OBS桶需开启CRC64特性白名单。

    目的端存储类型

    标准存储

    存储策略说明请参见存储类型介绍

    说明:

    归档和深度归档存储类别不支持CRC64校验。即使一致性校验策略选择为CRC64校验,系统也会自动采用对象大小与最后修改时间的校验策略来执行一致性校验。

    低频访问存储

    归档存储

    深度归档存储

    与源端一致

  4. 一致性校验区域,选择一致性校验方式。

    • 对象大小与最后修改时间校验:默认配置,通过对比源端和目的端对象大小与最后修改时间,判断迁移后数据是否完整。
    • CRC64校验:通过对比源端和目的端对象元数据中CRC64值,校验数据一致性。当源端数据或目的端数据未含CRC64,OMS会生成CRC64值。注意:CRC64校验可能会产生额外的外网流量费用和请求费用。详见一致性校验说明
      • 目前对象存储迁移仅支持华为云、阿里云、腾讯云、亚马逊云。
      • 目前文件系统迁移仅支持NAS_NFS_V3_MOUNT、NAS_NFS_V3_PROTOCOL。
      • 目的端OBS桶需开启CRC64特性白名单。

  5. 迁移任务参数配置区域,根据表4,进行配置。

    表4 迁移任务参数配置表

    参数

    说明

    并发子任务数

    用户自定义。配置的数目不能超过可用迁移节点数x10。例如:可用的迁移节点数为2,则最大子任务数配置数目需要≤20。

    流量控制

    设置迁移任务在指定时段的最大流量带宽。

    • 不勾选,不进行流量控制。
    • 勾选,进行流量控制。分别设置“开始时间”、“结束时间”和“限速”数值。

      例如:设置开始时间08:00、结束时间12:00、限速为20 MB/s,当迁移任务运行到(08:00~12:00)该时间段时,最大迁移速度将限制为20 MB/s。该时间段以外,迁移速度不做限制。

      说明:
      • 限速的数值范围:1~1048576 MB/s 。
      • 最多可以创建5条记录。
      • 时区时间以目的端Region的当地时间为准。

  6. (可选)根据表5,配置高级选项。

    表5 高级选项参数说明

    参数

    说明

    KMS加密

    • 不勾选,迁移后对象状态与目的端桶级服务端加密状态保持一致。
    • 勾选,所有对象在迁移到OBS桶后都将被加密存储。
    说明:
    • 使用KMS服务端加密可能会降低迁移速率10%左右。
    • 目的端桶所在区域支持KMS加密时,此参数才可用。

    过滤配置

    通过黑、白名单以及时间段过滤迁移文件。过滤策略详细介绍请参见过滤策略说明

    SMN消息发送配置

    选择是否使用SMN消息通知功能,该功能可以通知您迁移任务的结果。

    • 不勾选,不接收SMN消息。
    • 勾选,接收SMN消息。选择SMN主题,会向该主题的订阅者发送消息;选择消息发送语言;选择发送消息的触发条件,支持同时勾选。

    增量迁移

    • 不勾选,不增量迁移。
    • 勾选,配置增量迁移同名覆盖方式和增量迁移模式,详细配置方法参考配置增量迁移

  7. 迁移参数配置完成后,单击“下一步”按钮,进入迁移集群配置页面。

步骤四:迁移集群配置

  1. 绑定方式区域,根据有无集群选择不同方式。已有集群,直接绑定;暂无迁移集群,单击“帮我推荐规格”。进行集群规格评估。集群评估为可选操作,您可以跳过该步骤,直接绑定已有集群,也可以通过评估,获取集群规格推荐后,去创建集群。集群的创建方法请参考创建集群
  2. 绑定迁移集群区域,选择需要使用的集群,单击“确认”。如果需要对集群进行修改,请参考集群管理
  3. 迁移集群配置完成后,单击“下一步”按钮,进入配置确认页面。

步骤五:配置确认

完成步骤一步骤四的操作后,在配置确认页面,仔细检查资源配置和迁移配置,确保完全符合您的实际需求。如果需要修改配置,单击“上一步”,返回对应阶段进行修改。

步骤六:选择后续操作

确认配置无误后,根据需求选择后续操作。

单击“完成配置”按钮,将该迁移计划保存在迁移计划列表中。后续可以对保存的迁移计划进行如下操作:
  • 修改迁移计划配置:在迁移计划列表,单击操作列的“设计”,对迁移计划中的配置进行修改。
  • 创建对象存储迁移工作流:在迁移计划列表,单击操作列的“创建工作流”,进行对象存储迁移工作流配置和创建。详细介绍和操作请参考创建对象存储批量迁移工作流
配置确认页面,单击“创建工作流”按钮,弹出启动工作流窗口,此时工作流已创建完成。
  • 如果您希望立即开始迁移,则单击“确认”按钮,启动工作流并进入工作流详情页面。
  • 如果您希望仅保存迁移工作流暂不启动迁移,则单击“取消”按钮,此时迁移工作流状态为“等待中”,并未开始迁移。后续在工作流列表中,单击操作列的“运行”按钮,可以手动启动迁移。

关于迁移工作流的更多详细介绍请参见创建对象存储批量迁移工作流

配置增量迁移

增量迁移配置说明参见下表。

表6 增量迁移配置

参数

说明

增量迁移同名覆盖方式

表3中的同名覆盖方式相同。

说明:

仅在增量迁移阶段生效。

增量迁移模式

  • 手动:手动触发增量迁移。首次增量迁移会自动进行,完成后可以再次手动触发。
  • 自动:根据设置的增量迁移周期,增量迁移次数上限和时区触发增量迁移。

    举例:选择自动,如下图配置,定时任务则会在每周周一按(GMT+8)时区的早上8点开始执行增量迁移,一共执行2次。

  • 选择手动,当对象存储工作流执行到批量创建增量迁移任务时,会立即执行增量迁移。
  • 选择自动,当对象存储工作流执行到批量创建增量迁移任务时,您可以进行如下操作:
    • 手动增量迁移:在等待自动增量迁移的过程中,可以手动立即执行增量迁移。
    • 跳过增量迁移:直接跳过增量迁移,执行业务验证。

相关文档