更新时间:2026-08-12 GMT+08:00

创建迁移任务

对象存储迁移任务是基于公共计算资源构建的对象存储数据迁移解决方案,旨在帮助您将其他云服务商对象存储服务中的数据在线迁移至华为云对象存储服务。该方案适用于单个桶数据量不超过3TB或对象个数不超过500万的对象存储迁移场景,通过创建对象存储迁移任务,可实现对象数据的快速迁移。

本章节以华为云为源端数据源为例进行介绍。其他云厂商的迁移任务创建步骤,请参考各云服务商迁移教程

背景信息

对象存储迁移服务支持以下的源端云服务商或数据源类型:

  • 华为云
  • 亚马逊云
  • 阿里云
  • 微软云
  • 腾讯云
  • 谷歌云
  • 七牛云
  • 青云
  • 百度云
  • 金山云
  • 优刻得
  • HTTP/HTTPS数据源

约束与限制

  • 当前账号过去24小时内已创建的迁移任务未满1000,000个。
  • 当前账号下处于“等待中”状态的迁移任务未满1000,000个。

更多关于对象存储迁移任务的约束与限制,请参见OMS约束与限制

使用须知

  • 迁移过程中,对象存储迁移服务会调用源端云服务提供商的对象存储服务接口,所产生的费用都遵从源端云服务提供商的计费规则并由其向您收取。
  • OMS默认会将等待超过30天未调度的任务自动设置为失败,并且会自动清除该任务的AK/SK。为防止大量任务阻塞在等待中,请控制创建任务的频率。
  • 在迁移过程中,系统将自动在目的端桶创建一个名为“OMS”的临时文件夹。严禁手动操作此文件夹,包括但不限于修改、删除或添加内容。对该文件夹进行的任何手动操作都可能导致迁移流程中断或失败。

操作流程

对象存储迁移任务的完整操作流程,请参见表1

表1 迁移任务操作流程

操作步骤

说明

准备工作

  • 账号和权限准备:注册华为账号并开通华为云,完成实名认证,获取OMS的权限,并准备源端和目的端账号的AK、SK。
  • 提前创建目的端对象桶,用于存放迁移数据。

步骤一:迁移前评估

基于文件数量和迁移总量,预测迁移任务所需的时长。可以帮您更好地规划迁移计划,确保业务在迁移过程中不受影响。

步骤二:选择源端和目的端参数

选择需要迁移的目的端和源端,填入对应的参数。

步骤三:设置任务参数,创建迁移任务

介绍迁移方式配置任务参数,创建迁移任务。

步骤四:确认并跟踪迁移任务

确认配置迁移任务所填写的信息。启动迁移任务后,查看迁移任务内资源的运行状态、迁移阶段等信息。

准备工作

创建对象存储迁移任务前,请参考表2中的方法和要求,准备好账号、权限及目的端OBS桶。

表2 准备事项的方法和要求

事项

方法和要求

注册目的端华为云账号并配置权限

  1. 注册华为账号开通华为云并完成实名认证。如果您已开通华为云并进行实名认证,请忽略此步骤
    1. 访问华为云,单击“注册”。
    2. 根据提示信息完成注册开通,详细操作请参见注册华为账号并开通华为云
    3. (可选)实名认证。实名认证是指客户使用位于中国大陆的云服务时,需提交真实有效的身份信息(如护照、企业证件等),经华为云平台审核验证通过后,方可正常使用相关服务的过程。实名认证包括个人实名认证和企业实名认证两种类型。

      根据相关法规要求并出于保障您的账户安全及合法权益考虑,所有使用位于中国大陆的云服务的客户均需通过实名信息校验,未完成实名认证您将无法购买位于中国大陆的云服务。更多详细介绍请参考实名认证介绍

      完成个人或企业账号实名认证方法:
  2. 创建IAM用户并授权。如果您使用华为账号(管理员账号)进行迁移,则跳过该步骤。
    1. 创建IAM用户。创建方法请参考创建IAM用户创建IAM用户(新版)
    2. 为IAM用户授权。

      为IAM用户授予“OMS Administrator”、"OBS Administrator"、“KMS Administrator”和“MgC MigrateAccess”等系统策略。授权方法请参考给IAM用户授权给IAM用户授权(新版)

      如果以上系统策略不满足您的授权要求,您还可以选择创建自定义策略进行授权。自定义策略内容和创建方法,请参见源端桶权限获取目的端桶权限获取

  3. 获取源端桶和目的端桶账号的AK/SK。

创建目的端对象桶

提前创建目的端对象桶,用于接收源端存储数据。具体操作请参见快速创建OBS桶

步骤一:迁移前评估

  1. 登录OMS管理控制台
  2. 单击管理控制台左上角的,在下拉框中选择区域。
  3. “迁移任务”页面,单击页面右上角“创建迁移任务”按钮。
  4. 仔细阅读弹出的服务声明,勾选“同意以上服务声明”,单击“确定”按钮,进入“创建迁移任务”页面。
  5. 选择“是否开启迁移前评估”。

    • 选择“关闭”,不执行迁移前评估。
    • 选择“开启”,设置“迁移文件数”、“迁移总容量”以及“期望迁移时长”,单击“开始评估”。评估完成后,在“开始评估”按钮下会展示迁移前评估结果。

步骤二:选择源端和目的端参数

  1. 根据界面提示选择源端参数,具体参数参见表3

    表3 源端选择参数

    参数

    说明

    源端数据源

    待迁移的源端云服务提供商。

    源端访问密钥(Access Key)

    源端云服务提供商的访问密钥(AK)。最大长度是100个字符。

    源端私有访问密钥(Secret Access Key)

    源端云服务提供商的私有访问密钥(SK),与AK相匹配。最大长度是100个字符。

    KMS密钥

    不开启:不会使用KMS密钥来加密您的源端密钥。

    开启:启用KMS密钥来加密您的源端密钥。

    启用该功能,需要同意委托授权OMS访问KMS。同意后会授予自定义策略,自定义策略包含的内容如下:

    • 查询密钥信息:"kms:cmk:get"
    • 解密数据密钥:"kms:dek:decrypt"
    • 创建不含明文数据密钥:"kms:dek:create"

    如果您有授权资格,则可直接授权。授权成功后,无需再次授权。授权成功后,进行如下操作:

    在密钥列表下拉菜单中选择自定义密钥。如果还未创建密钥,创建方式请参见创建密钥。暂时只支持的密钥算法为AES_256和SM4。

    说明:

    使用KMS加密模式会收取相应费用。计费详情请参考价格详情

    是否指定桶名

    当您不具备列举桶权限,但具有列举桶中对象、获取对象元数据和获取对象权限时可以开启此参数,通过指定源端桶的路径来进行迁移。

    设置说明参见表4

    表4 “是否指定桶名”的设置说明

    参数

    说明

    开启“是否指定桶名”

    1. “选择区域”下拉框中选择源端桶所在区域。
    2. “桶名或路径”文本框中输入源端桶名或带桶名的路径。对象存储迁移服务将检查源端信息填写是否正确。如果填写正确,会提示连接桶成功。

    关闭“是否指定桶名”(默认设置)

    单击“桶”下拉框或者单击“刷新”,选择待迁移数据所在的桶。

    对象存储迁移服务将检查源端信息填写是否正确。如果填写正确,且您的账号具有列举桶名的权限,则会在“桶”中列举您名下的所有桶。

    说明:

    当源端AK/SK没有列举桶权限时,需要开启“是否指定桶名”。

  2. 选择目的端,具体参数参见表5

    表5 目的端选择参数

    参数

    说明

    目的端访问密钥(Access Key)

    华为云的访问密钥(AK)。最大长度是100个字符。

    目的端密钥(Secret Access Key)

    华为云的私有访问密钥(SK),与AK相匹配。最大长度是100个字符。

    KMS密钥

    不开启:不会使用KMS密钥来加密您的目的端密钥。

    开启:启用KMS密钥来加密您的目的端密钥。

    启用该功能,需要同意委托授权OMS访问KMS。同意后会授予自定义策略,自定义策略包含的内容如下:

    • 查询密钥信息:"kms:cmk:get"
    • 解密数据密钥:"kms:dek:decrypt"
    • 创建不含明文数据密钥:"kms:dek:create"

    如果您有授权资格,则可直接授权。授权成功后,无需再次授权。授权成功后,进行如下操作:

    从KMS密钥中选择,在下拉菜单中选择自定义密钥。如果还未创建密钥,创建方式请参见创建密钥。暂时只支持的密钥算法为AES_256和SM4。

    说明:

    使用KMS加密模式会收取相应费用。计费详情请参考价格详情

    单击“桶”下拉框或者单击“刷新”,选择存放迁移数据的OBS桶。目的端桶所在region必须和当前所在region一致。

  3. 单击“下一步”,进入“设置任务参数”页签。

步骤三:设置任务参数,创建迁移任务

  1. 根据表6设置“源端配置选项”区域参数。

    表6 源端配置选项

    参数

    说明

    选择文件/文件夹

    单击“选择”,选择待迁移的文件或文件夹后,单击“确定”。对于已选择的文件或文件夹,您可以单击从已选文件/文件夹列表中删除。
    说明:
    • 若不设置该参数,则默认迁移全桶数据。
    • 针对每个迁移任务,在同一目录层级下,您最多可以选择500个文件或文件夹。
    • 由于OBS服务的规格限制,请确认对象迁移到目的端后的名称不超过1024个字符,否则将导致任务失败。

    指定对象列表

    指定对象列表方式,一般用于增量迁移场景,用户需要将待迁移的源端对象名称逐一写入一个对象列表文件。再将这个对象列表文件放在华为云OBS桶中,对象存储迁移服务会读取这个对象列表文件,并迁移文件中列出的所有对象。

    1. 选择“列表文件所在桶(华为云)”。桶是通过输入的目的端AK/SK得到的桶列表。请确保列表文件所在桶与目的端桶处于同一区域,否则后续将无法选择对象列表文件。
    2. 在“选择对象列表文件”下单击“选择”,选择用户指定的对象列表文件,单击“确定”
      说明:

    输入对象前缀

    在“输入对象前缀”区域内输入对象数据名称或者名称前缀,系统会自动匹配出数据。您可以单击,从这些匹配到的迁移数据列表中删除不需要迁移的数据。若不添加该参数,则默认迁移全桶的数据。

    说明:

    输入对象前缀时,如果对象文件在桶的根目录下,则直接添加前缀;如果对象文件存在目录路径,则需要在对象前缀前添加对象文件所在的目录路径。格式为:文件夹/对象前缀。

    指定URL列表

    指定URL列表方式,一般适用于HTTP或HTTPS源端的迁移场景,用户需要将待迁移的文件URL和目的端对象名称写入URL列表文件,并将生成的URL列表文件放在华为云OBS桶中,对象存储迁移服务将会迁移指定URL列表文件中的所有对象。

    1. 选择“列表文件所在桶(华为云)”。桶是通过输入的目的端AK/SK得到的桶列表。请确保列表文件所在桶与目的端桶处于同一区域,否则后续将无法选择对象列表文件。
      说明:
      • 出于安全考虑,若您的源端同时支持HTTP和HTTPS协议,建议迁移时使用HTTPS协议;若使用HTTP协议,会存在数据可能会被监听窃取、数据被篡改、中间人重放攻击等风险。
      • 如果待迁移内容为非公开内容时,建议不要将源端数据公开,采用其他非HTTP/HTTPS方式进行迁移。
      • URL列表迁移不支持URL重定向。
    2. 在“选择URL列表文件”区域内单击“选择”,选择用户指定的URL列表文件,单击“确定”。
      说明:

  2. 设置“目的端配置选项”区域参数。

    1. 保存到指定前缀
      • 选择“关闭”,源端对象迁移到目的端后,对象名保持不变。
      • 选择“开启”,如图1所示,输入“对象前缀”,源端对象迁移到目的端后,会在对象名前增加设置的前缀。
        图1 输入对象前缀
    2. 配置存储策略

      选择迁移到华为云OBS后,对象的存储类型。选择默认配置时,对象将跟随目的端桶的存储策略。其他存储策略的详细说明请参见存储类型介绍

  3. (可选)单击“高级选项”前面 ,展开高级选项参数。根据表7,设置高级选项参数。

    表7 高级选项参数说明

    参数

    说明

    元数据迁移方式

    选择是否迁移元数据。

    • 选择“忽略元数据”,为保证迁移任务正常运行,OMS将只迁移源端Content-Type、Content-Encoding元数据。
    • 选择“保留元数据”,OMS会迁移支持范围内的元数据。支持中文字符、英文字符、数字和中划线“-”迁移。除上述字符外,其他所有字符均不支持。

      支持的元数据类型范围:Content-Type,Content-Encoding,Content-Disposition,Content-Language,Cache-Control,Expires,WebsiteRedirectLocation,Storage-Class和自定义元数据。

    迁移指定时间后的对象

    选择是否迁移在指定时间后的对象。

    • 选择“关闭”,不过滤源端待迁移对象。
    • 选择“开启”,设置迁移指定时间后,OMS服务仅迁移在指定时间之后修改的源端待迁移对象。

    记录失败对象

    选择是否记录迁移失败的对象。

    • 选择“关闭”,则不记录迁移失败的对象。如果迁移失败,只能全量重传。
    • 选择“开启”,记录迁移失败的对象。如果迁移失败,支持只对迁移失败对象进行重传。
    说明:
    • 单个迁移任务或迁移任务组任务,都会将迁移失败的对象记录在一个以任务名称命名的失败对象列表文件中,并将该文件上传到目的端桶的“oms/failed_object_lists/”路径下。
    • 失败对象列表文件,最多记录10万个失败对象。超过10万个的场景,建议基于已有失败对象列表,分析处理后重新迁移。
    • 该文件记录了迁移任务失败的摘要信息,包括:失败原因、发生时间(参照当前区域所属时区)、失败对象(经过URL编码)、失败对象(未经过URL编码)、源端SDK返回的错误码。
    • 当迁移失败对象重传成功后,失败对象列表文件仍会保留在目的端。您如果不再需要该文件,请手动删除。

    解冻归档数据

    归档类型的对象存储要实现迁移,必须预先解冻。当您的源端云服务提供商支持自动解冻归档类型数据时,可以勾选此选项。目前支持以下云服务提供商的归档数据的自动解冻:华为云(归档存储(COLD))、阿里云(归档存储(Archive))、金山云(归档存储(ARCHIVE))、腾讯云(归档存储(ARCHIVE))、优刻得(归档存储(ARCHIVE))。

    • 选择“关闭”:如果遇到归档类型对象,则直接判定该对象迁移失败并跳过,继续迁移其余对象。
    • 选择“开启”:如果遇到归档类型对象,则自动解冻该对象并进行迁移。如果解冻失败,则判定该对象迁移失败并跳过,继续迁移其余对象。
      说明:
      • 解冻预计耗时1分钟及以上,对象越大解冻耗时越长,超过3分钟默认解冻失败。各云服务提供商的解冻耗时可能存在差异,具体请参考各云服务提供商的相关文档。
      • 解冻归档数据的过程中会产生两种费用,一是API调用费用,二是归档数据取回费用,这些均由源端云服务提供商向您收取。
      • 归档数据的解冻状态会持续一段时间,在此时间内支持对象的下载/访问,超过此时间后需要重新解冻。解冻状态持续时间请参考各云服务提供商的相关文档。
      • 默认取回时间为3天,当迁移对象数超过300W或容量大小超过3TB时,为避免迁移时间过长,数据再次归档后导致迁移失败,请选择迁移任务组方式迁移。
      • 在迁移任务开始后,暂停/重启操作会导致所有取回重新执行,造成解冻周期延长、存储费用增加,请谨慎操作。
      • 对象存储数据从源端云服务提供商迁移到华为云后,存储类型和目的端桶的存储类型保持一致,与源端对象存储类型无关。

    发送通知

    选择是否使用SMN消息通知功能,该功能可以通知您迁移任务的结果。
    • 不勾选,不接收SMN消息。
    • 勾选,接收SMN消息。勾选后,会默认您已同意“OMS服务向主题发布消息”委托授权(SMN FullAccess)。您可以在委托权限后,随时取消授权

      勾选后,需要执行以下步骤:

      1. 单击“选择主题”所在行的“添加”,弹出“选择SMN主题”对话框。
      2. 选择接收SMN消息的主题,单击“确定”完成选择。
      3. 单击“SMN模板”所在行的“添加”,弹出“选择SMN模板”对话框。如果设置此值,则表示用模板方式发送SMN信息。模板名称下必须有default协议的模板。
      4. 选择接收SMN信息的模板,单击“确定”完成选择。
      5. 设置“触发条件”参数。您可以只勾选其中一个参数或者两个参数都勾选。
      • “迁移成功”表示迁移任务成功时发送SMN消息通知。
      • “迁移失败”表示迁移任务失败时发送SMN消息通知。
      说明:

      如果您无法正常使用SMN消息通知功能,请参见SMN消息通知功能无法正常使用怎么办?

    流量控制

    设置迁移任务在指定时段的最大流量带宽。

    • 选择“关闭”,不进行流量控制。
    • 选择“开启”,进行流量控制。分别设置“开始时间”、“结束时间”和“限制最大流量”数值。
      例如:设置开始时间08:00、结束时间12:00、限速为20MB/s,当迁移任务运行到(08:00~12:00)该时间段时,最大迁移速度将限制为20MB/s。该时间段以外,迁移速度不做限制。
      说明:
      • 限制最大流量的数值范围:1~ 200MB/s 。
      • 创建多条限速规则时,限速时段不能重叠。

        例如:已有一条规则,限速时段是08:00~12:00,那么07:00~13:00,07:00~08:00,09:00~12:00...有时间重叠的规则,都无法创建成功。

      • 开始时间不能晚于等于结束时间。

        例如:不能设置时间段为23:00~次日01:00。

      • 最多可以创建5条记录。
      • 时区时间以目的端Region的当地时间为准。

    同名对象覆盖方式

    • 大小/最后修改时间对比覆盖:默认配置。迁移前源端对象与目的端对象同名时,通过对比源端和目的端对象大小和最后修改时间,判断是否覆盖目的端,需满足源端/目的端对象的加密状态一致。优先对比源端与目的端的最后修改时间,目的端对象的最后修改时间晚于源端对象的最后修改时间,则代表该对象目的端已存在或目的端发生修改,跳过不迁移;目的端对象的最后修改时间早于源端对象的最后修改时间,则代表源端对象发生修改,迁移覆盖目的端;如果最后修改时间相同,源端与目的端大小不同,则执行覆盖。
    • 不覆盖:对于源端和目的端存在的同名对象,跳过源端对象,保留目的端对象。
    • CRC64对比覆盖:目前仅支持华为云/阿里云/腾讯云。迁移前源端对象与目的端对象同名时,通过对比源端和目的端对象元数据中CRC64值是否相同,判断是否覆盖目的端,需满足源端/目的端对象的加密状态一致。如果源端与目的端对象元数据中不存在CRC64值,则系统会默认使用SIZE_LAST_MODIFIED_COMPARISON_OVERWRITE(大小/最后修改时间对比覆盖)来对比进行覆盖判断。
    • 全覆盖:对于源端和目的端存在的同名对象,源端对象直接覆盖目的端对象。

    一致性校验

    • 大小/最后修改时间校验:默认配置。迁移前后,通过对比源端和目的端对象大小+最后修改时间,判断对象是否已存在或迁移后数据是否完整。源端与目的端同名对象大小相同,且目的端对象的最后修改时间不早于源端对象的最后修改时间,则代表该对象已存在/迁移成功。
    • CRC64校验:目前仅支持华为云/阿里云/腾讯云。迁移前后,通过对比源端和目的端对象元数据中CRC64值是否相同,判断对象是否已存在/迁移完成。如果源端与目的端对象元数据中不存在CRC64值,则系统会默认使用大小/最后修改时间校验方式来校验。
    • 不校验:目前仅支持HTTP/HTTPS数据源。当源端对象无法通过标准HTTP协议中的Content-Length字段获取数据大小时,系统默认数据下载成功即迁移成功,不对数据进行额外校验,且迁移时源端对象默认覆盖目的端的同名对象。当源端对象能正常通过标准HTTP协议中的Content-Length字段获取数据大小时,则采用文件大小和最后修改时间进行校验。

    任务优先级

    任务较多时,可以通过设置任务优先级制定迁移顺序。

    描述

    输入本次迁移任务的简单描述信息。最多可输入255个字符。

步骤四:确认并跟踪迁移任务

  1. 迁移任务配置完成后,单击页面右下角“下一步”,进入确认信息页面。
  2. 确认迁移信息的设置,并启动迁移。

    1. 浏览各项迁移参数的设置是否正确。

      如果有误,可以单击“上一步”返回之前的页面进行修改。

    2. 单击“开始迁移”。仔细阅读弹出的启动前确认,单击“确定”,进入“任务提交成功”页面。

      查看迁移任务列表已新增该任务。

    任务创建后,会生成一个任务ID供您快速识别。它显示在列表中任务的左上角,由源端桶名+目的端桶名+时间序列标识拼接而成。

  3. 在迁移任务列表,单击“任务名称”,进入“任务详情”页面,可查看已迁移对象数/对象总数任务进度迁移速率源端/目的端信息以及您在创建迁移任务时设置的各项参数信息。其他相关操作请参考:

相关文档