更新时间:2026-08-17 GMT+08:00
分享

批量管理CDM作业

操作场景

这里以表/文件迁移的作业为例进行介绍,指导用户批量管理CDM作业,提供以下操作:
  • 作业分组管理
  • 批量运行作业
  • 批量删除作业
  • 批量导出作业
  • 批量导入作业

批量导出、导入作业的功能:

  • 表/文件迁移作业、表/文件迁移作业、连接均支持批量导出、导入。
  • CDM支持将作业和连接的配置信息导出为JSON文件,并在其他CDM集群中导入使用,该功能适用于以下场景:
    • 导出的JSON文件中不包含连接密码,密码会被替换为占位符。导入后需要补全密码才能使用连接。
    • 从本地导入文件时,文件大小不能超过1MB。超过1MB时请使用OBS文件导入方式。
    • 导入作业时如果目标集群已存在同名作业,将提示冲突,不会覆盖原有作业。
    • 导入连接时如果目标集群已存在同名连接,将直接覆盖原有连接的配置信息。
    • 跨集群迁移:CDM集群间作业和连接配置迁移,例如需要将作业和连接配置从老版本集群迁移到新版本的集群。
    • 备份作业:例如需要将CDM集群停掉或删除来降低成本时,可以先通过批量导出把作业脚本保存下来,仅在需要的时候再重新创建集群和重新导入作业。
    • 批量创建作业任务:可以先手工创建一个作业,导出作业配置(导出的文件为JSON格式),然后参考该作业配置,在JSON文件中批量复制出更多作业,最后导入CDM以实现批量创建作业。

操作步骤

  1. 进入CDM主界面,单击左侧导航上的“集群管理”,选择集群后的“作业管理”
  2. 单击“表/文件迁移”显示作业列表,提供以下批量操作:

    • 作业分组

      CDM支持对分组进行新增、修改、查找、删除。删除分组时,会将组内的所有作业都删除。

      创建作业的任务配置中,如果已经将作业分配到了不同的分组中,则这里可以按分组显示作业、按分组批量启动作业、按分组导出作业等操作。

      按组批量启动作业会运行组内所有作业。如果开启了用户隔离功能,即使华为账号下的其他IAM用户无法查看到组内作业,按组批量启动作业依然会将组内作业运行,因此在用户隔离场景不建议使用按组批量启动作业功能。

    • 批量运行作业

      勾选一个或多个作业后,单击“运行”可批量启动作业。

    • 批量删除作业

      勾选一个或多个作业后,单击“删除”可批量删除作业。

    • 批量导出作业

      单击“导出”,弹出批量导出页面,如图1

      图1 批量导出页面
      • 全部作业和连接:勾选此项表示一次性导出所有作业和连接。
      • 全部作业:勾选此项表示一次性导出所有作业。
      • 全部连接:勾选此项表示一次性导出所有连接。
      • 按作业名导出:勾选此项并选择需要导出的作业,单击确认即可导出所选作业。
      • 按分组导出:勾选此项并下拉选择需要导出的分组,单击确认即可导出所选分组。

      批量导出可将需要导出的作业导出保存为JSON文件,用于备份或导入到别的集群中。

      由于安全原因,CDM导出作业时没有导出连接密码,连接密码全部使用“Add password here”替换。

    • 批量导入作业
      单击“导入”,选择JSON格式的文件导入或文本导入。
      • 文件导入:待导入的作业文件必须为JSON格式(大小不超过1M)。如果待导入的作业文件是之前从CDM中导出的,则导入前必须先编辑JSON文件,将“Add password here”替换为对应连接的正确密码,再执行导入操作。
      • 文本导入:无法正确上传本地JSON文件时可选择该方式。将作业的JSON文本直接粘贴到输入框即可。
      • 导入作业
        • 同名作业冲突:如果目标集群中已存在同名作业,导入时将提示冲突,该作业不会被覆盖。如需覆盖,请先手动删除目标集群中的同名作业,再执行导入。
        • 作业依赖连接:当导出文件中包含连接配置时(如“全部作业和连接”模式导出),导入作业时会同时导入关联的连接配置。如果目标集群中已存在同名连接,连接配置将被覆盖更新。如果导出文件中不包含连接配置(如“按作业名导出”模式),则需要确保目标集群中已存在同名的连接,否则导入的作业将无法正常使用。
        • 整库迁移作业:整库迁移作业的导入导出与表/文件迁移作业操作一致。
      • 导入连接
        • 同名连接覆盖:如果目标集群中已存在同名连接,导入时将直接覆盖原有连接的全部配置信息(包括连接参数和密码)。由于导出文件中密码为占位符,覆盖后原连接的真实密码将被占位符替换,导致连接不可用。因此导入包含连接的文件时,务必在导入前通过密码补全功能填写正确密码,或在导入后通过编辑连接手动恢复密码。
        • 密码需要补全:导入的连接配置中密码为占位符,需要通过密码补全操作填写正确密码后,连接才能正常使用。也可以在导入完成后,在“连接管理”页面编辑连接,手动修改密码。
      • 文件大小限制
        • 从本地导入文件时,文件大小不能超过1MB。如果导出文件超过1MB,请使用OBS文件导入方式。
        • 通过文本粘贴导入时,文本内容大小同样不能超过1MB。
        • 通过OBS文件导入时,无文件大小限制。
      • 其他说明
        • 导入导出的JSON文件可以跨CDM版本使用,但如果作业配置中使用了新版本特有的功能参数,导入到旧版本时可能无法识别。
        • 导入操作不会启动作业,导入完成后需要手动启动作业。
        • 如果导入的连接配置中引用的数据源在目标集群中不存在(如源端数据库、目的端数据库等),需要先在目标集群中创建对应的数据源,否则作业执行时会报连接错误。
        • 导出操作不会导出作业的运行历史记录和调度配置。

相关文档