MySQL同步到DWS 源端优化 MySQL抽取优化 可通过在作业任务配置参数单击中“添加自定义属性”来新增MySQL同步参数。 图1 添加自定义属性 可使用的调优参数具体如下： 表1 全量阶段优化参数 参数名 类型 默认值 说明 scan.incremental.snapshot

查看更多 →

使其对Flink的队列网段放通。参考测试地址连通性分别根据MySQL和Kafka的地址测试队列连通性。若能连通，则表示跨源已经绑定成功，否则表示未成功。 登录MySQL，并使用下述命令在flink库下创建orders表。 CREATE TABLE `flink`.`orders`

查看更多 →

说明如表6所示。 表6 文档翻译状态查询输入参数说明 参数 必填 说明 任务标识 是 文档翻译的任务标识。 输出参数 用户可以在之后的执行动作中调用该输出参数，输出参数说明请参考表7。 表7 文档翻译状态查询输出参数说明 参数 说明 当前翻译状态 当前的翻译状态。 下载结果的url

查看更多 →

据源信息。 表2 输入设置参数 参数名 说明 示例 架构名称 “表方式”模式下存在，数据库模式名。 public 表名 “表方式”模式下存在，数据库表名。 test SQL语句 “SQL方式”模式下存在，配置要查询的SQL语句，使Loader可通过SQL语句查询结果并作为导入的数

查看更多 →

参数说明 表1 参数说明 参数 是否必选 说明 connector.type 是 数据源类型，‘jdbc’表示使用JDBC connector，必须为jdbc connector.url 是 数据库的URL connector.table 是 读取数据库中的数据所在的表名 connector

查看更多 →

创建结果表 ClickHouse结果表 Kafka结果表 Upsert Kafka结果表 DIS结果表 JDBC结果表 DWS结果表 Redis结果表 SMN结果表 Hbase结果表 Elasticsearch结果表 OpenTSDB结果表 userDefined结果表 Print结果表

查看更多 →

'connector.channel' = '', 'format.type' = '' ); 参数说明 表1 参数说明 参数 是否必选 说明 connector.type 是 数据源类型，“dis”表示数据源为 数据接入服务 ，必须为dis。 connector.region 是 数据所在的DIS区域。

查看更多 →

anager的error文件中。 若为false，则表示输出数据到taskmanager的out中。 示例 从kafka中读取数据输出到taskmanager的out文件中，可以在taskmanager的out文件中看到输出结果。 create table kafkaSource(

查看更多 →

FileSytem结果表 功能描述 FileSystem结果表用于将数据输出到分布式文件系统HDFS或者 对象存储服务 OBS等文件系统。数据生成后，可直接对生成的目录创建非 DLI 表，通过DLI SQL进行下一步处理分析，并且输出数据目录支持分区表结构。适用于数据转储、大数据分析、备份或活跃归档、深度或冷归档等场景。

查看更多 →

创建结果表 ClickHouse结果表 Kafka结果表 Upsert Kafka结果表 DIS结果表 JDBC结果表 DWS结果表 Redis结果表 SMN结果表 Hbase结果表 Elasticsearch结果表 OpenTSDB结果表 userDefined结果表 Print结果表

查看更多 →

://${ip}:${port}/${dbName} 。 connector.table 是 操作的表名。如果该DWS表在某schema下，则格式为：'schema\".\"具体表名'，具体可以参考示例说明。 connector.driver 否 jdbc连接驱动，默认为: org

查看更多 →

跨源认证简介及操作方法请参考跨源认证简介。 注意事项 若需要使用upsert模式，则必须在DWS结果表和该结果表连接的DWS表都定义主键。 若DWS在不同的schema中存在相同名称的表，则在flink opensource sql中需要指定相应的schema。 提交Flink作业

查看更多 →

Kafka结果表 功能描述 DLI通过Kafka结果表将Flink作业的输出数据输出到Kafka中。 Apache Kafka是一个快速、可扩展的、高吞吐、可容错的分布式发布订阅消息系统，具有高吞吐量、内置分区、支持数据副本和容错的特性，适合在大规模消息处理场景中使用。 前提条件

查看更多 →

若为true，则表示输出数据到taskmanager的error文件中。 若为false，则表示输出数据到taskmanager的out中。 示例 参考创建Flink OpenSource作业，创建flink opensource sql作业，运行如下作业脚本，通过DataGen表产生随机数据并输出到Print结果表中。

查看更多 →

copy_merge：当存在主键时使用copy方式入临时表，从临时表merge至目标表；无主键时直接copy至目标表。 copy_upsert：当存在主键时使用copy方式入临时表，从临时表upsert至目标表；无主键时直接copy至目标表。 upsert: 有主键用upsert sql入库；无主键用insert

查看更多 →

参数说明 表1 参数说明 参数 是否必选 说明 connector.type 是 数据源类型，‘jdbc’表示使用JDBC connector，必须为jdbc connector.url 是 数据库的URL connector.table 是 读取数据库中的数据所在的表名 connector

查看更多 →

://${ip}:${port}/${dbName} 。 connector.table 是 操作的表名。如果该DWS表在某schema下，则格式为：'schema\".\"具体表名'，具体可以参考示例说明。 connector.driver 否 jdbc连接驱动，默认为: org

查看更多 →

'' ); 参数说明 表1 参数说明 参数 是否必选 说明 connector.type 是 connector的类型，只能为hbase connector.version 是 该值只能为1.4.3 connector.table-name 是 hbase中的表名 connector

查看更多 →

OpenTSDB结果表 功能描述 OpenTSDB是基于HBase分布式的 ，可伸缩的时间序列数据库。OpenTSDB的设计目标是用来采集大规模集群中的监控类信息，并可实现数据的秒级查询，解决海量监控类数据在普通数据库中查询存储的局限性，可用于系统监控和测量、物联网数据、金融数据和科学实验结果数据的收集监控。

查看更多 →

通性分别根据HBase和Kafka的地址测试队列连通性。若能连通，则表示跨源已经绑定成功，否则表示未成功。 参考 MRS HBase的使用，通过HBase shell在HBase中创建相应的表，表名为order，表中只有一个列族detail，创建语句如下： create 'order'

查看更多 →

Kafka结果表 功能描述 DLI通过Kafka结果表将Flink作业的输出数据输出到Kafka中。 Apache Kafka是一个快速、可扩展的、高吞吐、可容错的分布式发布订阅消息系统，具有高吞吐量、内置分区、支持数据副本和容错的特性，适合在大规模消息处理场景中使用。 前提条件

查看更多 →