创建对象存储批量迁移计划
迁移中心为多种资源的不同迁移计划配置模板,可以面向迁移工作流进行一站式配置。本节介绍为对象存储批量迁移配置迁移计划的方法。
对象存储批量迁移:适用于源端有多个对象存储桶资源需要迁移的场景。如果只有单个对象存储桶资源需要迁移,请直接创建单个对象存储迁移工作流。
前提条件
- 已通过资源采集的云平台采集,完成对象存储资源的发现与采集。
- (可选)已对待迁移的对象存储资源进行深度采集。
风险提示
在创建工作流时,对于源端和目的端的同名对象,我们提供了四种覆盖策略:对象大小与最后修改时间覆盖、不覆盖、直接覆盖和CRC64对比覆盖。选择“不覆盖”策略进行数据迁移时,如果迁移任务因错误中断后重启或从暂停状态恢复,可能会出现部分数据未完全迁移,但任务显示 “成功” 的情况。影响数据的完整性。为规避这一风险,请谨慎使用“不覆盖”策略。
约束与限制
- 创建计划时,待迁移桶列表中的资源所属的平台必须和所选的源端平台一致,且一个计划对应一个目的端区域。
- 一个源端桶资源可以关联多个计划。
- 在一个计划下,一个桶资源的目的端前缀只能有一个,但是源端前缀可以有多个。
- 同一用户在同一个迁移集群下同时支撑迁移的桶数量不超过20个。
步骤二:迁移资源配置
- 在配置迁移资源页面的源端平台下拉列表中,选择源端资源所在平台。待迁移桶列表中的资源所属的平台必须和所选的源端平台一致,且一个计划对应一个目的端区域。
- 目的端桶区域下拉列表中,选择目的端桶所在区域。
- 在待迁移桶列表区域,单击“添加桶”按钮,右侧弹出添加桶窗口。
- 勾选需要迁移的桶,单击操作列的“修改”,调整终端地址,调整完成并勾选后,单击“确认”。最多添加100个桶。
- 在待迁移桶列表中,设置桶类型,源端凭证,目的端桶名称和目的端凭证,设置完成后单击操作列“保存”,也支持多条设置完后单击“全部保存”。保存之后支持批量修改。
- 所有待迁移桶的迁移设置完成后,单击“下一步”,进行迁移参数配置。
步骤三:迁移参数配置
- 在迁移方式选择区域,设置迁移方式、迁移范围和目的端前缀(可选)。迁移方式和迁移范围说明参见表2。
- (可选)在源端参数配置区域,勾选迁移元数据和解冻归档数据。
源端为阿里云OSS、腾讯云COS时,支持(可选)勾选CDN迁移支持。如果使用了CDN鉴权,还需要选择“鉴权类型”并输入“鉴权密钥”。
- 在目的端参数配置区域,根据表3,进行配置。
表3 目的端参数配置表 参数
子参数
说明
同名覆盖方式
对象大小与最后修改时间覆盖
- 对于文件迁移:源端和目的端存在的同名文件,保留最后修改时间较新的文件;如果最后修改时间相同,比较文件大小,大小不同则源端覆盖目的端文件;如果最后修改时间和大小都相同,则跳过;
- 对于文件夹迁移:当文件迁移完成后再比对文件夹大写、时间和权限,如果文件夹大小不同/时间不相同/权限不相同,则源端覆盖目的端文件夹;
不覆盖
对于源端和目的端存在的同名文件,跳过源端文件,保留目的端文件。
警告:选择“不覆盖”策略进行数据迁移时,如果迁移任务因错误中断后重启或从暂停状态恢复,可能会造成部分数据未完全迁移,而任务显示成功的现象,影响数据的完整性。为规避这一风险,请谨慎使用“不覆盖”策略。
直接覆盖
对于源端和目的端存在的同名文件,源端文件直接覆盖目的端文件。
CRC64对比覆盖
迁移前,对于源端和目的端存在的同名对象,对比源端和目的端对象元数据中的CRC64值,相同则跳过,不同则覆盖。如果源端或目的端对象元数据中不存在CRC64值,则默认使用对象大小与最后修改时间覆盖策略执行。
说明:- 目前对象存储迁移仅支持华为云、阿里云和腾讯云。
- 目的端OBS桶需开启CRC64特性白名单。
目的端存储类型
标准存储
存储策略说明请参见存储类型介绍。
说明:归档和深度归档存储类别不支持CRC64校验。即使一致性校验策略选择为CRC64校验,系统也会自动采用对象大小与最后修改时间的校验策略来执行一致性校验。
低频访问存储
归档存储
深度归档存储
与源端一致
- 在一致性校验区域,选择一致性校验方式。
- 对象大小与最后修改时间校验:默认配置,通过对比源端和目的端对象大小与最后修改时间,判断迁移后数据是否完整。
- CRC64校验:通过对比源端和目的端对象元数据中CRC64值,校验数据一致性。当源端数据或目的端数据未含CRC64,OMS会生成CRC64值。注意:CRC64校验可能会产生额外的外网流量费用和请求费用。详见一致性校验说明。
- 目前对象存储迁移仅支持华为云、阿里云、腾讯云、亚马逊云。
- 目前文件系统迁移仅支持NAS_NFS_V3_MOUNT、NAS_NFS_V3_PROTOCOL。
- 目的端OBS桶需开启CRC64特性白名单。
- 在迁移任务参数配置区域,根据表4,进行配置。
- (可选)根据表5,配置高级选项。
表5 高级选项参数说明 参数
说明
KMS加密
- 不勾选,迁移后对象状态与目的端桶级服务端加密状态保持一致。
- 勾选,所有对象在迁移到OBS桶后都将被加密存储。
说明:- 使用KMS服务端加密可能会降低迁移速率10%左右。
- 目的端桶所在区域支持KMS加密时,此参数才可用。
过滤配置
通过黑、白名单以及时间段过滤迁移文件。过滤策略详细介绍请参见过滤策略说明。
SMN消息发送配置
选择是否使用SMN消息通知功能,该功能可以通知您迁移任务的结果。
- 不勾选,不接收SMN消息。
- 勾选,接收SMN消息。选择SMN主题,会向该主题的订阅者发送消息;选择消息发送语言;选择发送消息的触发条件,支持同时勾选。
增量迁移
- 不勾选,不增量迁移。
- 勾选,配置增量迁移同名覆盖方式和增量迁移模式,详细配置方法参考配置增量迁移。
- 迁移参数配置完成后,单击“下一步”按钮,进入迁移集群配置页面。
步骤六:选择后续操作
确认配置无误后,根据需求选择后续操作。
- 修改迁移计划配置:在迁移计划列表,单击操作列的“设计”,对迁移计划中的配置进行修改。
- 创建对象存储迁移工作流:在迁移计划列表,单击操作列的“创建工作流”,进行对象存储迁移工作流配置和创建。详细介绍和操作请参考创建对象存储批量迁移工作流。
- 如果您希望立即开始迁移,则单击“确认”按钮,启动工作流并进入工作流详情页面。
- 如果您希望仅保存迁移工作流暂不启动迁移,则单击“取消”按钮,此时迁移工作流状态为“等待中”,并未开始迁移。后续在工作流列表中,单击操作列的“运行”按钮,可以手动启动迁移。
关于迁移工作流的更多详细介绍请参见创建对象存储批量迁移工作流。
配置增量迁移
增量迁移配置说明参见下表。
参数 |
说明 |
---|---|
增量迁移同名覆盖方式 |
与表3中的同名覆盖方式相同。
说明:
仅在增量迁移阶段生效。 |
增量迁移模式 |
- 选择手动,当对象存储工作流执行到批量创建增量迁移任务时,会立即执行增量迁移。
- 选择自动,当对象存储工作流执行到批量创建增量迁移任务时,您可以进行如下操作:
- 手动增量迁移:在等待自动增量迁移的过程中,可以手动立即执行增量迁移。
- 跳过增量迁移:直接跳过增量迁移,执行业务验证。