配置HBase/CloudTable目的端参数 作业中目的连接为HBase连接或CloudTable连接时，即导入数据到以下数据源时，目的端作业参数如表1所示。 表1 HBase/CloudTable作为目的端时的作业参数 参数名 说明 取值样例 表名 写入数据的HBase表名。

查看更多 →

配置HBase/CloudTable目的端参数 作业中目的连接为HBase连接或CloudTable连接时，即导入数据到以下数据源时，目的端作业参数如表1所示。 表1 HBase/CloudTable作为目的端时的作业参数 参数名 说明 取值样例 表名 写入数据的HBase表名。

查看更多 →

参数名 说明 示例 HBASE_BULKLOAD 数据量大 HBase实例 在HBase作业中，Loader支持从集群可添加的所有HBase服务实例中选择任意一个。如果选定的HBase服务实例在集群中未添加，则此作业无法正常运行。 HBase 导入前清理数据 导入前清空原表的数据。

查看更多 →

使用sqoop-shell工具导入数据到HBase 操作场景 本文将以从Oracle导入数据到HBase的作业为例，介绍如何分别在交互模式和批量模式下使用sqoop-shell工具进行创建和启动Loader作业。 前提条件 已安装并配置Loader客户端，具体操作请参见使用客户端运行Loader作业。

查看更多 →

同步增量数据 操作场景 启动目的端后，如果您的源端 服务器 有增量数据，您可以使用同步功能，将源端增量数据同步到目的端。 同步后，目的端新增数据会被源端数据覆盖，详细说明参见迁移完成后，目的端主机已启动并有新数据写入，再次进行源端增量数据同步，目的端新增数据会不会被源端数据覆盖？ 只

查看更多 →

文件增量迁移 CDM 支持对文件类数据源进行增量迁移，全量迁移完成之后，第二次运行作业时可以导出全部新增的文件，或者只导出特定的目录/文件。 目前CDM支持以下文件增量迁移方式： 增量导出指定目录的文件 适用场景：源端数据源为文件类型（OBS/HDFS/FTP/SFTP）。这种增量迁

查看更多 →

部门增量同步 接口说明 管理员被授权管理某企业后，在华为云买家中心控制台登录，对管理的企业执行新建、编辑、删除部门操作时，云商店调用该接口，请求商家同步该企业的组织增量变更；商家接口需要执行增量组织信息同步，保存信息，并返回通知云商店。 商家的服务器在处理接口请求时，需要做好幂等性处理。

查看更多 →

增量数据同步 CDM工具同样支持数据的增量同步，经过与业务方确认，考虑到可能存在业务方修改180天内历史数据的场景，因此在增量数据同步中以180天的时间范围获取数据。根据源表时间戳，获取源表内最新180天内数据存放在贴源层的增量分区表内，并通过ETL脚本将增量同步的数据进行增转全

查看更多 →

文件增量迁移 CDM支持对文件类数据源进行增量迁移，全量迁移完成之后，第二次运行作业时可以导出全部新增的文件，或者只导出特定的目录/文件。 目前CDM支持以下文件增量迁移方式： 增量导出指定目录的文件 适用场景：源端数据源为文件类型（OBS/HDFS/FTP/SFTP）。这种增量迁

查看更多 →

上传增量数据 使用CDM将存量数据上传完后，单击该作业后的“编辑”，直接修改该作业。 保持作业基本参数不变，单击“下一步”修改任务参数，如图1所示。 图1 定时任务配置 勾选“是否定时执行”，配置定时任务： “重复周期”配置为1天。 “开始时间”配置为每天凌晨0点1分执行。 这样

查看更多 →

同步增量数据 操作场景 启动目的端后，如果您的源端服务器有增量数据，您可以使用同步功能，将源端增量数据同步到目的端。 只有迁移实时状态为“已完成”的任务，才可以进行同步操作。 操作步骤 登录 主机迁移服务 管理控制台。 在左侧导航树中，选择“迁移服务器”，进入迁移服务器列表页面。 在

查看更多 →

上传增量数据 使用CDM将存量数据上传完后，单击该作业后的“编辑”，直接修改该作业。 保持作业基本参数不变，单击“下一步”修改任务参数，如图1所示。 图1 定时任务配置 勾选“是否定时执行”，配置定时任务： “重复周期”配置为1天。 “开始时间”配置为每天凌晨0点1分执行。 这样

查看更多 →

文件增量迁移 CDM支持对文件类数据源进行增量迁移，全量迁移完成之后，第二次运行作业时可以导出全部新增的文件，或者只导出特定的目录/文件。 目前CDM支持以下文件增量迁移方式： 增量导出指定目录的文件 适用场景：源端数据源为文件类型（OBS/HDFS/FTP/SFTP）。这种增量迁

查看更多 →

使用BulkLoad工具向HBase中批量导入数据 应用场景 经常面临向HBase中导入大量数据的情景，向HBase中批量加载数据的方式有很多种，最直接方式是调用HBase的API使用put方法插入数据；另外一种是用MapReduce的方式从HDFS上加载数据。但是这两种方式效率

查看更多 →

文件块过大导致HBase数据导入失败 问题现象 导入数据到hbase报错：NotServingRegionException。 原因分析 当一个block size大于2G时，hdfs在seek的时候会出现读取异常，持续频繁写入regionserver时出现了full gc，且时

查看更多 →

BulkLoad工具同步数据到HBase表中 Spark BulkLoad工具支持快速同步Hive或Spark表数据到HBase表中，支持全量或增量导入ORC/PAQUET等格式的表数据。 使用Spark BulkLoad同步数据类型数据到HBase表中时，存在以下限制： 数据类

查看更多 →

参数名 说明 示例 HBASE_BULKLOAD 数据量大 HBase实例 在HBase作业中，Loader支持从集群可添加的所有HBase服务实例中选择任意一个。如果选定的HBase服务实例在集群中未添加，则此作业无法正常运行。 HBase 导入前清理数据 导入前清空原表的数据。

查看更多 →

参数名 说明 示例 HBASE_BULKLOAD 数据量大 HBase实例 在HBase作业中，Loader支持从集群可添加的所有HBase服务实例中选择任意一个。如果选定的HBase服务实例在集群中未添加，则此作业无法正常运行。 HBase 导入前清理数据 导入前清空原表的数据。

查看更多 →

参数名 说明 示例 HBASE_BULKLOAD 数据量大 HBase实例 在HBase作业中，Loader支持从集群可添加的所有HBase服务实例中选择任意一个。如果选定的HBase服务实例在集群中未添加，则此作业无法正常运行。 HBase 导入前清理数据 导入前清空原表的数据。

查看更多 →

参数名 说明 示例 HBASE_BULKLOAD 数据量大 HBase实例 在HBase作业中，Loader支持从集群可添加的所有HBase服务实例中选择任意一个。如果选定的HBase服务实例在集群中未添加，则此作业无法正常运行。 HBase 导入前清理数据 导入前清空原表的数据。

查看更多 →

CloudTable(HBase) Delta Hudi 各组件支持的校验方式 组件 支持的校验方式 Hive 全量校验 日级增量校验 小时级增量校验 指定日期校验 DLI MaxCompute 全量校验 日级增量校验 小时级增量校验 指定日期校验 Doris 全量校验 日级增量校验 小时级增量校验

查看更多 →