全部文档

云数据迁移 CDM云数据迁移 CDM

      文档首页> 云数据迁移 CDM> 最佳实践> 案例：车联网大数据业务上云> 场景介绍
      更新时间：2021/07/08 GMT+08:00
      查看PDF
      分享

      场景介绍

      场景描述

      为搭建H公司车联网业务集团级的云管理平台，统一管理、部署硬件资源和通用类软件资源，实现IT应用全面服务化、云化，CDM（Cloud Data Migration，简称CDM）助力H公司做到代码“0”改动、数据“0”丢失迁移上云。

      迁移方案

      图1 迁移方案

      H公司的车联网大数据业务平台当前CDH（Cloudera Hadoop） HBase集群中共有854张表约400TB，备HBase集群中共有149张表，约10TB数据。最近一个月新增的数据量是60TB。

      通过CDM将CDH集群中的HBase HFile抽取出来存入MRS（MapReduce） HDFS中，再通过HBase修复命令重建HBase表。基于这种迁移方案，使用以下2种迁移方式同时进行：
      1. CDM通过DES（数据快递服务）迁移1个月前的历史数据，迁移路径如下：

        CDH → DES → CDM（华为云） → OBS → CDM（华为云） → MRS

        DES适用场景：数据量大，用户私有云与华为云无专线打通，用户私有云网络到公网带宽有限。

        • 优点：传输可靠性高，受专线以及网络质量影响较小。
        • 缺点：迁移方式耗时较长。
      2. CDM通过专线直接迁移近一个月的数据以及备HBase集群的数据：

        CDH → CDM（华为云） → MRS

        使用云专线直接迁移时的优缺点：

        • 优点：数据无需做多次的搬迁，缩短整体搬迁周期。
        • 缺点：在数据大量传输过程中会占用专线带宽，对客户并行进行的业务存在影响，跨越多个交换机设备。
      分享：

        相关文档

        相关产品