通过MGC将OBS桶内数据迁移至SFS Turbo
方案概述
用户可以将华为云 OBS、阿里云 OSS、百度云 BOS、腾讯云 COS、金山云 KS3、七牛云 KODO、优刻得 US3、亚马逊 S3、微软 Blob、NAS_GFS、NAS_SMB、NAS_NFS_V3_MOUNT、NAS_NFS_V3_PROTOCOL、HTTP/HTTPS数据源存储的数据,通过MGC迁移至SFS Turbo文件系统中,进行云上业务拓展。
本节介绍如何使用文件存储迁移模板,创建文件存储数据迁移任务,实现华为云 OBS存储数据迁移至SFS Turbo文件系统。
更多源端存储类型和SFS Turbo之间的数据迁移操作请参考创建存储迁移工作流。
约束与限制
约束与限制信息请参见存储迁移的约束与限制有哪些。
风险提示
在创建工作流时,对于源端和目的端的同名对象,我们提供了三种覆盖策略:不覆盖、直接覆盖和条件覆盖。选择“不覆盖”策略进行数据迁移时,如果迁移任务因错误中断后重启或从暂停状态恢复,可能会造成部分数据未完全迁移,而任务显示成功的现象,影响数据的完整性。为规避这一风险,请谨慎使用“不覆盖”策略。
前提条件
- 已创建SFS Turbo文件系统,并获取到文件系统的挂载地址。创建SFS Turbo文件系统的步骤请参见创建SFS Turbo文件系统,挂载SFS Turbo文件系统到云服务器的步骤请参见挂载SFS Turbo文件系统。
- 已提前创建迁移集群,创建步骤请参见创建集群。
资源规划
本章节介绍案例中使用的资源信息。具体如表1所示。
创建存储文件迁移工作流操作步骤
- 登录迁移中心管理控制台。在左侧导航栏的项目下拉列表中选择创建的应用迁移项目。
- 在左侧导航栏选择“迁移工作流”,进入迁移工作流页面。
- 单击页面右上角的“创建迁移工作流”按钮,进入选择模板页面。
- 选择“存储迁移标准模板”,单击“查看步骤详情”,可以查看存储迁移模板所包含的迁移阶段和步骤,以及每个阶段和步骤的详细描述。其中,步骤类型为“自动”,表示该步由系统自动完成。单击“开始配置”按钮,进行工作流配置。
- 根据表2,配置基础信息参数。
表2 基础信息参数说明 参数
示例
说明
名称
数据迁移
用户自定义。
区域
华北-北京四
下拉菜单中选择目的端所在区域。
集群
cluster
选择用于迁移的集群,集群中包含master节点、迁移节点和列举节点。如果没有可用集群,可以新建集群。
须知:master节点为系统默认创建,无需配置。
- 根据表3、表4,配置源端、目的端信息。
- 根据表5,进行迁移配置。
表5 迁移配置参数说明 参数
示例
说明
迁移任务类型
全量迁移
迁移源端桶内的全部数据。
列举方式
串行列举
源端非并行文件系统(PFS)桶的默认列举方式。
并发子任务数
-
用户自定义。配置的数目不能超过可用迁移节点数x10。例如:可用的迁移节点数为2,则最大子任务数配置数目需要≤20。
同名覆盖方式
直接覆盖
对于源端和目的端存在的同名文件,源端文件直接覆盖目的端文件。
警告:- 首次迁移时选择“不覆盖”,不会迁移源端中父文件夹的属性到目的端,可能会造成文件夹属性不完整。为规避这一风险,首次迁移时请谨慎使用“不覆盖”策略。
- 选择“不覆盖”策略进行数据迁移时,如果迁移任务因错误中断后重启或从暂停状态恢复,可能会造成部分数据未完全迁移,而任务显示成功的现象,影响数据的完整性。为规避这一风险,请谨慎使用“不覆盖”策略。
一致性校验
对象大小与最后修改时间校验
默认配置,通过对比源端和目的端对象大小与最后修改时间,判断迁移后数据是否完整。
清理集群
勾选
选择工作流是否创建清理集群步骤。
- 勾选,迁移工作流将自动创建清理集群步骤,您还可以继续配置是否删除NAT网关、安全组、VPCEP服务等。
- 不勾选,迁移工作流不创建清理集群步骤,工作流创建30天后系统会自动清除集群。
- (可选)根据表6,配置高级选项。
表6 高级选项参数说明 参数
示例
说明
解冻归档数据
勾选
- 不勾选:如果遇到归档类型对象,则直接判定该对象迁移失败并跳过,继续迁移其余对象。
- 勾选:如果遇到归档类型对象,则自动解冻该对象并进行迁移。如果解冻失败,则判定该对象迁移失败并跳过,继续迁移其余对象。
说明:- 在数据迁移时,系统会对所有数据发起取回操作,源端云服务商会收取相应的API调用费用和存储费用。
- 源端为阿里云OSS:当源端对象的存储类型是深度冷归档存储时,无法使用MgC提供的解冻归档数据功能直接迁移,需要在源端先手动解冻后再迁移。
过滤配置
勾选
通过黑、白名单以及时间段过滤迁移文件。过滤策略详细介绍请参见过滤策略说明。
SMN消息发送配置
勾选
选择是否使用SMN消息通知功能,该功能可以通知您迁移任务的结果。
- 不勾选,不接收SMN消息。
- 勾选,接收SMN消息。选择SMN主题,会向该主题的订阅者发送消息;选择消息发送语言;选择发送消息的触发条件,支持同时勾选。
流量控制
勾选
设置迁移任务在指定时段的最大流量带宽。
- 不勾选,不进行流量控制。
- 勾选,进行流量控制。分别设置“开始时间”、“结束时间”和“限速”数值。
定时迁移
勾选
设置迁移任务在指定时间内自动迁移。
- 工作流配置完成后,单击“下一步:确认并创建”按钮,进入确认并创建页面。
- 确认配置信息无误后,单击“确认创建工作流”,弹出启动工作流窗口,此时工作流已创建完成。
- 如果您希望立即开始迁移,则单击“确认”按钮,立即运行工作流。
- 如果您需要在标准工作流中添加阶段/步骤,则单击“取消”,此时迁移工作流状态为“等待中”,并未开始迁移。确定工作流步骤后,单击“运行”按钮,开始迁移。