写入数据 写入数据接口和HBase原生API一致。 可以参考以下样例代码。 样例代码 public void testPut() { LOG .info("Entering testPut."); try(Table table = conn.getTable(tableName))

查看更多 →

关系型数据库类型 最大只支持1000万数据量的表同步。 组合任务（CDC） 源端： 定时：支持MySQL、Oracle、SQL Server、PostgreSQL、Hana。 实时：支持MySQL、Oracle、SQL Server。 目标端： 定时：支持MySQL、Oracle、PostgreSQL、SQL

查看更多 →

FunctionGraph创建一个函数，通过OBS触发器，实现将用户上传至OBS桶中的业务数据写入Kafka，同时在RDS创建数据结果表模板。 用户可以购买并配置 数据可视化 DLV 大屏，快速定制数据大屏，将RDS中分析结果数据展示在大屏中。 方案优势 跨源分析 数据免搬迁，就可以关联分析存在OBS中的各个渠道的销售汇总数据。

查看更多 →

数据迁移进度是按表数量来计算百分比，当数据迁移进度长时间不更新，可能因为有某几个表数据量过大，迁移时间较长。可以在“进度明细”下，单击目标迁移对象“详细信息”列的“查看详情”，查看具体对象的迁移进度。 排查源库表主键和索引情况： 源库大表缺少主键和非空唯一索引，以MySQL为例，可以在源库执行show create table

查看更多 →

a单条消息大的场景，可以适当调高每次获取的数据量，以提高性能。 properties.max.partition.fetch.bytes int 1048576 消费Kafka时 服务器 将返回的每个分区的最大字节数。Kafka单条消息大的场景，可以适当调高每次获取的数据量，以提高性能。

查看更多 →

高（毫秒内~毫秒级） 数据量 小，建议单个TM保持1GB以内 大，TB级 中，GB级 存储资源 内存消耗大，单个TM全量存储 外置存储，无存储资源消耗 各TM分散存储，内存+磁盘存储 时效性 周期性数据加载，时效低 相对高 高 关联数据结果 低 中 - 大数据量的维度表建议采用HBase

查看更多 →

size无法有效限制内存占用时，考虑显式设置该值来限制缓存数据的大小。 目的端优化 Hudi写入优化 Hudi表写入性能慢，优先审视表设计是否合理，建议使用Hudi Bucket索引的MOR表，并根据实际数据量配置Bucket桶数，以达到Migration写入性能最佳。 使用Bucket索引：通过在“Hudi表属性

查看更多 →

发抽取MySQL数据，如果源表配置了索引，可调大抽取并发数提升迁移速率。 是否写入脏数据：如果需要将作业执行过程中处理失败的数据、或者被清洗过滤掉的数据写入OBS中，以便后面查看，可通过该参数配置，写入脏数据前需要先配置好OBS连接。针对文件到表类迁移的数据，建议配置写入脏数据。

查看更多 →

发抽取MySQL数据，如果源表配置了索引，可调大抽取并发数提升迁移速率。 是否写入脏数据：如果需要将作业执行过程中处理失败的数据、或者被清洗过滤掉的数据写入OBS中，以便后面查看，可通过该参数配置，写入脏数据前需要先配置好OBS连接。针对文件到表类迁移的数据，建议配置写入脏数据。

查看更多 →

写入操作配置 本章节介绍Hudi重要配置的详细信息，更多配置请参考hudi官网：http://hudi.apache.org/cn/docs/configurations.html。 表1 写入操作重要配置项 参数 描述 默认值 hoodie.datasource.write.table

查看更多 →

BY）、多表的关联（JOIN）等。 本示例通过创建MySQL CDC源表来监控MySQL的数据变化，并将变化的数据信息插入到DWS数据库中。 前提条件 已创建RDS MySQL实例，具体步骤可参考：RDS MySQL快速入门。本示例创建的RDS MySQL数据库版本选择为：8.0。 已创建DW

查看更多 →

发抽取MySQL数据，如果源表配置了索引，可调大抽取并发数提升迁移速率。 是否写入脏数据：如果需要将作业执行过程中处理失败的数据、或者被清洗过滤掉的数据写入OBS中，以便后面查看，可通过该参数配置，写入脏数据前需要先配置好OBS连接。针对文件到表类迁移的数据，建议配置写入脏数据。

查看更多 →

优化。涉及到大表和分区数据量多的作业，在启动时list会非常耗时，可能导致作业启动超时，建议关闭。 hoodie.index.liststatus.optimized boolean false - 定位数据时是否开启liststatus优化。涉及到大表和分区数据量多的作业，在启

查看更多 →

写入/更新命令 用户做了大量写入/更新操作后，实际数据量可能没有多大变化，但磁盘空间使用量增加了。是因为无论是写入、更新还是删除，以及索引插入和删除等操作，在后台实际上都会转成写入。因为底层的存储引擎（WiredTiger和RocksDB）采用都是appendOnly机制。只有当

查看更多 →

写入OpenTSDB数据 功能简介 使用OpenTSDB的接口(/api/put)写入数据。 函数genWeatherData()模拟生成的气象数据，函数putData()发送气象数据到OpenTSDB服务端。 样例代码 以下代码片段在com.huawei.bigdata.opentsdb

查看更多 →

是否定时执行：如果需要配置作业定时自动执行，可打开此配置。这里保持默认值“否”。 抽取并发数：设置同时执行的抽取任务数。可适当调大参数，提升迁移效率。 是否写入脏数据：表到表的迁移容易出现脏数据，建议配置脏数据归档。 作业运行完是否删除：这里保持默认值“不删除”。 单击“保存并运行”

查看更多 →

是否定时执行：如果需要配置作业定时自动执行，可打开此配置。这里保持默认值“否”。 抽取并发数：设置同时执行的抽取任务数。可适当调大参数，提升迁移效率。 是否写入脏数据：表到表的迁移容易出现脏数据，建议配置脏数据归档。 作业运行完是否删除：这里保持默认值“不删除”。 单击“保存并运行”

查看更多 →

是否定时执行：如果需要配置作业定时自动执行，可打开此配置。这里保持默认值“否”。 抽取并发数：设置同时执行的抽取任务数。可适当调大参数，提升迁移效率。 是否写入脏数据：表到表的迁移容易出现脏数据，建议配置脏数据归档。 作业运行完是否删除：这里保持默认值“不删除”。 单击“保存并运行”

查看更多 →

a单条消息大的场景，可以适当调高每次获取的数据量，以提高性能。 properties.max.partition.fetch.bytes int 1048576 消费Kafka时服务器将返回的每个分区的最大字节数。Kafka单条消息大的场景，可以适当调高每次获取的数据量，以提高性能。

查看更多 →

age+1=10，任何对列的操作都将导致表扫描，它包括数据库教程函数、计算表达式等等，查询时要尽可能将操作移至等号右边。 SQL语句尽可能简单：大语句拆小语句，减少锁时间；一条大SQL可以堵死整个库。 不用SELECT*； OR改写成IN：OR的效率是n级别，IN的效率是log(n)级别，in的个数建议控制在200以内。

查看更多 →

如下图所示，请求url路径中参数“test”的值为生成UUID函数。 请求头 如下图所示，请求头中参数“time”的值为生成UUID函数。 请求体 如下图所示，请求体中应用了生成UUID函数。 检查点属性 如下图所示，检查点属性“result”的目标值为生成UUID函数。 if判断 如下图所示，if判断的目标值为生成UUID函数。

查看更多 →