创建对象存储批量迁移工作流

约束与限制

• 关于存储迁移的约束与限制请查看存储迁移的约束与限制有哪些？
• 源端为阿里云OSS：当源端对象的存储类型是深度冷归档存储时，无法使用MgC提供的解冻归档数据功能直接迁移，需要在源端先手动解冻后再迁移。

风险提示

在创建工作流时，对于源端和目的端的同名对象，我们提供了三种覆盖策略：不覆盖、直接覆盖和条件覆盖。选择“不覆盖”策略进行数据迁移时，如果迁移任务因错误中断后重启或从暂停状态恢复，可能会造成部分数据未完全迁移，而任务显示成功的现象，影响数据的完整性。为规避这一风险，请谨慎使用“不覆盖”策略。

前提条件

已完成对象存储迁移方案配置。

操作步骤

1. 登录迁移中心管理控制台。在左侧导航栏的项目下拉列表中选择创建的应用迁移项目。
2. 在左侧导航栏选择“迁移实施>迁移工作流”，进入迁移工作流页面。
3. 单击页面右上角的“创建迁移工作流”按钮，进入选择模板页面。
4. 选择对象存储批量迁移模板，单击“查看步骤详情”，可以查看该模板所包含的迁移阶段和步骤，以及每个阶段和步骤的详细描述。其中，步骤类型为“自动”，表示该步由系统自动完成。单击“开始配置”按钮，进行工作流配置。
5. 在基础信息区域，输入自定义的工作流名称和描述。
6. 在迁移方案区域，选择创建的对象存储迁移方案。选择方案后，可以看到该方案的配置概览。单击“查看详情”，可以查看该方案的更多信息。

   

7. 在迁移集群区域，选择迁移使用的集群。默认使用迁移方案中配置的集群，您也可以在下拉列表中重新选择集群，选择后仅对当前工作流生效，不会修改迁移方案中配置的集群。
8. 根据表1，进行迁移配置。

   表1 迁移配置参数说明

   参数	子参数	说明
   并发子任务数	-	用户自定义。配置的数目不能超过可用迁移节点数x10。例如：可用的迁移节点数为2，则最大子任务数配置数目需要≤20。
   同名覆盖方式	不覆盖	对于源端和目的端存在的同名文件，跳过源端文件，保留目的端文件。 警告： 首次迁移时选择“不覆盖”，不会迁移源端中父文件夹的属性到目的端，可能会造成文件夹属性不完整。为规避这一风险，首次迁移时请谨慎使用“不覆盖”策略。 选择“不覆盖”策略进行数据迁移时，如果迁移任务因错误中断后重启或从暂停状态恢复，可能会造成部分数据未完全迁移，而任务显示成功的现象，影响数据的完整性。为规避这一风险，请谨慎使用“不覆盖”策略。
   	直接覆盖	对于源端和目的端存在的同名文件，源端文件直接覆盖目的端文件。
   	对象大小与最后修改时间覆盖	对于文件迁移：源端和目的端存在的同名文件，保留最后修改时间较新的文件；如果最后修改时间相同，比较文件大小，大小不同则源端覆盖目的端文件；如果最后修改时间和大小都相同，则跳过； 对于文件夹迁移：当文件迁移完成后再比对文件夹大写、时间和权限，如果文件夹大小不同/时间不相同/权限不相同，则源端覆盖目的端文件夹； 说明： 对于空文件夹，覆盖策略与文件相同。
   	CRC64对比覆盖	迁移前，对于源端和目的端存在的同名对象，对比源端和目的端对象元数据中的CRC64值，相同则跳过，不同则覆盖。如果源端与目的端对象元数据中不存在CRC64值，则默认使用大小/最后修改时间对比覆盖策略执行。 说明： 目前仅支持华为云、阿里云、腾讯云。 目的端OBS桶需开启CRC64特性白名单。
   一致性校验	对象大小与最后修改时间校验	默认配置，通过对比源端和目的端对象大小与最后修改时间，判断迁移后数据是否完整。
   	CRC64校验	通过对比源端和目的端对象元数据中CRC64值，判断迁移后数据是否完整。如果源端或目的端对象元数据中不存在CRC64值，则默认使用大小/最后修改时间校验策略。 说明： 目前仅支持华为云、阿里云、腾讯云。 目的端OBS桶需开启CRC64特性白名单。
   迁移元数据	-	选择是否迁移元数据。 勾选，则迁移源端对象元数据。 不勾选，仅迁移Content-Type、Content-Encoding元数据。

9. （可选）根据表2，配置高级选项。

   表2 高级选项参数说明

   参数	说明
   报告级别	勾选需要的报告级别，迁移完成后自动生成对应级别的报告，并上传目的端/oms目录下。支持多选。 如：勾选成功对象，迁移完成后自动生成成功级别的报告，并上传目的端/oms目录下。
   是否增量迁移	选择“否”，不增量迁移。
   	选择“是”，配置增量迁移同名覆盖方式和增量迁移模式，详细配置方法参考配置增量迁移。
   目的端存储类型	选择迁移到华为云OBS后，对象的存储类型。存储策略说明请参见存储类型介绍。
   KMS加密	不勾选，迁移后对象状态与目的端桶级服务端加密状态保持一致。 勾选，所有对象在迁移到OBS桶后都将被加密存储。 说明： 使用KMS服务端加密可能会降低迁移速率10%左右。 目的端桶所在区域支持KMS加密时，此参数才可用。
   解冻归档数据	不勾选：如果遇到归档类型对象，则直接判定该对象迁移失败并跳过，继续迁移其余对象。 勾选：如果遇到归档类型对象，则自动解冻该对象并进行迁移。如果解冻失败，则判定该对象迁移失败并跳过，继续迁移其余对象。 说明： 在数据迁移时，系统会对所有数据发起取回操作，源端云服务商会收取相应的API调用费用和存储费用。
   过滤配置	通过黑、白名单以及时间段过滤迁移文件。过滤策略详细介绍请参见过滤策略说明。
   CDN迁移支持	当默认域名不能满足您的迁移需求，比如您需要一个自定义域名以便使用CDN降低源端出口下载流量的费用，可以勾选此选项。在域名输入框中输入自定义域名，并选择传输协议。HTTP协议安全级别低于HTTPS协议，推荐使用HTTPS协议。 源端为阿里云OSS、腾讯云COS时，如果使用了CDN鉴权，还需要选择“鉴权类型”并输入“鉴权密钥”。
   SMN消息发送配置	选择是否使用SMN消息通知功能，该功能可以通知您迁移任务的结果。 不勾选，不接收SMN消息。 勾选，接收SMN消息。选择SMN主题，会向该主题的订阅者发送消息；选择消息发送语言；选择发送消息的触发条件，支持同时勾选。
   流量控制	设置迁移任务在指定时段的最大流量带宽。 不勾选，不进行流量控制。 勾选，进行流量控制。分别设置“开始时间”、“结束时间”和“限速”数值。 例如：设置开始时间08：00、结束时间12：00、限速为20 MB/s，当迁移任务运行到（08:00~12:00）该时间段时，最大迁移速度将限制为20 MB/s。该时间段以外，迁移速度不做限制。 说明： 限速的数值范围：0~1048576 MB/s 。 最多可以创建5条记录。 时区时间以目的端Region的当地时间为准。

10. 工作流配置完成后，单击“下一步：确认并创建”按钮，进入确认并创建页面。
11. 确认配置信息无误后，单击“确认创建工作流”，弹出启动工作流窗口，此时工作流已创建完成。
    • 如果您希望立即开始迁移，则单击“确认”按钮，立即运行工作流。
    • 如果您需要在工作流中添加阶段/步骤，则单击“取消”，此时迁移工作流状态为“等待中”，并未开始迁移。确定工作流步骤后，单击“运行”按钮，开始迁移。

12. 在工作流详情页面，可以查看该工作流的配置信息和资源迁移进度。还可以进行如下操作：
    • 将鼠标移动到资源迁移进度条，在弹窗中可以查看该资源更多迁移信息。
    • 当迁移步骤（进度条）到达需要手动确认的步骤时，您需要将鼠标移动到进度条上，并在弹出的窗口中单击步骤状态后的“确认”。只有完成这一操作，系统才会继续进行后续的迁移步骤。
    • 在基础信息区域，单击集群名称后的“管理”，右侧弹出集群详细信息页面。在这个页面上，您可以进行如下操作：
      • 设置流量控制规则：您可以添加、编辑或删除流量控制规则，以确保集群内的流量按照您的需求进行管理。
      • 节点管理：您可以根据实际需求，添加/删除迁移节点和列举节点，也可以对现有节点进行插件升级。
    • 在基础信息区域，单击展开“高级选项”，当开启增量迁移并且选择自动迁移模式时，自动增量迁移次数支持修改。

配置增量迁移

增量迁移配置说明参见下表。

表3 增量迁移配置

参数	说明
增量迁移同名覆盖方式	与迁移配置中的同名覆盖方式相同。 说明： 仅在增量迁移阶段生效。
增量迁移模式	手动：手动触发增量迁移。首次增量迁移会自动进行，完成后可以再次手动触发。 自动：根据设置的增量迁移周期，增量迁移次数上限和时区触发增量迁移。 举例：选择自动，如下图配置，定时任务则会在每周周一按（GMT+8）时区的早上8点开始执行增量迁移，一共执行2次。

• 选择手动，当对象存储工作流执行到批量创建增量迁移任务时，会立即执行增量迁移。
• 选择自动，当对象存储工作流执行到批量创建增量迁移任务时，您可以进行如下操作：
  • 手动增量迁移：在等待自动增量迁移的过程中，可以手动立即执行增量迁移。
  • 跳过增量迁移：直接跳过增量迁移，执行业务验证。