如果以上错误信息不足以定位问题，还可以参考Flink作业运行异常，如何定位，从OBS桶中下载作业日志对问题进一步定位。 连接Kafka集群，向Kafka相应的topic中发送如下测试数据： Kafka生产和发送数据的方法请参考：连接实例生产消费信息。 {"order_id":"202103241000000001"

查看更多 →

数据。电商平台可以通过将每个商品的订单信息实时写入Kafka中或将业务数据表上传至对象存储 OBS桶中从而触发 函数工作流 自动将数据写入Kafka中， DLI 根据当前可以获取到的业务数据，实时统计每种渠道的相关指标，输出存储到数据库中。方便电商平台及时了解数据变化，有针对性地调整营销

查看更多 →

创建Kafka实例 本章节介绍创建Kafka实例。 登录华为云控制台。 单击管理控制台左上角的，选择区域“华南-广州”。 单击左侧的服务列表图标，选择“应用中间件 > 分布式消息服务Kafka版”。 单击“购买Kafka实例”。 选择实例区域和可用区。 配置实例名称和实例规格等信息。

查看更多 →

以下根据您的角色推荐了不同的文档，从而帮助您更快速、更轻松地使用 数据湖探索 DLI服务。 如果您是初学者 如果您是大数据初学者，建议您先熟悉以下模块，了解DLI的基本功能和常用操作。 模块 说明 产品介绍 DLI服务的介绍文档，从服务的常用概念、产品优势、应用场景、计费说明、权限管理等多个方面进行介绍，让您初步了解 数据湖 探索DLI。

查看更多 →

了解DLI请参见数据湖产品介绍。 了解Kafka请参见分布式消息服务Kafka产品介绍。 图1 Kafka实时入库DWS 本实践预计时长90分钟，实践用到的云服务包括虚拟私有云 VPC及子网、弹性负载均衡 ELB、弹性云服务器 E CS 、对象存储服务 OBS、分布式消息服务 Kafka、数据湖探索 DLI和 数据仓库 服务

查看更多 →

了解DLI请参见数据湖产品介绍。 了解Kafka请参见分布式消息服务Kafka产品介绍。 图1 Kafka实时入库DWS 本实践预计时长90分钟，实践用到的云服务包括虚拟私有云 VPC及子网、弹性负载均衡 ELB、弹性云服务器 ECS、对象存储服务 OBS、分布式消息服务 Kafka、数据湖探索 DLI和数据仓库服务

查看更多 →

使用Flume客户端从Kafka采集日志保存到HDFS 操作场景 该任务指导用户使用Flume客户端从Kafka客户端的Topic列表(test1)采集日志保存到HDFS上“/flume/test”目录下。 本章节适用于 MRS 3.x及之后版本。 本配置默认集群网络环境是安全的，

查看更多 →

Topics 选择MRS Kafka待迁移的Topic名称，支持单个或多个Topic。当前示例为：kafkatopic。 数据格式 根据实际情况选择当前消息格式。本示例选择为：CDC（DRS_JSON），以DRS_JSON格式解析源数据。 偏移量参数 从Kafka拉取数据时的初始偏移量。本示例当前选择为：最新。

查看更多 →

创建Kafka Topic Topic，即消息主题，用于存储消息，供生产者生产消息以及消费者订阅消息。创建Kafka实例成功后，如果没有开启“Kafka自动创建Topic”，需要手动创建Topic。如果实例开启了“Kafka自动创建Topic”，则该操作为可选。 “Kafka自动

查看更多 →

若您的集群使用了文件存储，跨云迁移可以使用华为云弹性文件服务 SFS，具体请参见数据迁移。 数据库迁移 若您的数据库需要搬迁至华为云，可以使用 数据复制服务 DRS帮助完成数据库迁移。DRS服务具有实时迁移、备份迁移、实时同步、数据订阅和实时灾备等多种功能。 其他数据迁移 大数据场景迁移：推荐使用华为云 云数据迁移

查看更多 →

存储空间主要用于存储消息（包含副本，Kafka默认使用3副本），除了存储消息外还需要预留部分空间用于存储日志和元数据。 DRS同步任务 同步任务名 DRS-MySQLToKafka 自定义 源数据库引擎 MySQL 本示例中源数据库为MySQL，使用的华为云RDS实例。 目标数据库引擎 Kafka

查看更多 →

Hudi 该任务支持从MySQL同步数据到Hudi。 Kafka 该任务支持从MySQL同步数据到Kafka。 PgSQL Hudi 该任务支持从PgSQL同步数据到Hudi。 Kafka 该任务支持从PgSQL同步数据到Kafka。 Hudi DWS 该任务支持从Hudi同步数据到DWS。

查看更多 →

供的一系列常用实践。 表1 常用最佳实践 实践 描述 数据导入导出 从OBS导入数据到集群 本教程旨在通过演示将样例数据上传OBS，及将OBS的数据导入进 GaussDB (DWS)上的目标表中，让您快速掌握如何从OBS导入数据到GaussDB(DWS)集群的完整过程。 GaussD

查看更多 →

使用Flume服务端从Kafka采集日志保存到HDFS 操作场景 该任务指导用户使用Flume服务端从Kafka的Topic列表(test1)采集日志保存到HDFS上“/flume/test”目录下。 本章节适用于MRS 3.x及之后版本。 本配置默认集群网络环境是安全的，数据传

查看更多 →

类型的不同进行确定。 X-Auth-Token 是 String 从IAM服务获取的用户Token。 用户Token也就是调用获取用户Token接口的响应值，该接口是唯一不需要认证的接口。 请求响应成功后在响应消息头中包含的“X-Subject-Token”的值即为Token值。

查看更多 →

写到一个分区，消费者可以并行从各分区获取数据。 全部投递到Partition 0：适用于有事务要求的场景，事务保序，可以保证完全按照事务顺序消费，写入性能比较差，如果没有强事务要求，不推荐使用此选项。 投送到kafka的数据格式 选择投送到kafka的数据格式。 Avro：可以显示Avro二进制编码，高效获取数据。

查看更多 →

最新动态（html） 本文介绍了Huawei Cloud EulerOS产品新特性和对应的文档动态，新特性将在各个区域（Region）陆续发布，欢迎体验。

查看更多 →

登录管理控制台。 在管理控制台左上角单击，选择区域。 请选择Kafka实例所在的区域。 在管理控制台左上角单击，选择“应用中间件 > 分布式消息服务Kafka版”，进入分布式消息服务Kafka专享版页面。 单击Kafka实例的名称，进入实例详情页面。 在左侧导航栏单击“流控管理 >

查看更多 →

使用Flume客户端从Kafka采集日志保存到HDFS 操作场景 该任务指导用户使用Flume客户端从Kafka客户端的Topic列表(test1)采集日志保存到HDFS上“/flume/test”目录下。 本配置默认集群网络环境是安全的，数据传输过程不需要启用SSL认证。如需使

查看更多 →

数据订阅与MySQL到Kafka同步的区别 对比项 MySQL到Kafka同步 数据订阅 支持的源数据库 华为云RDS for MySQL 本地自建MySQL数据库 ECS自建MySQL数据库 其他云MySQL数据库 华为云RDS for MySQL 支持网络 支持公网网络、VPC网络、VPN、专线网络。

查看更多 →

使用Flume服务端从Kafka采集日志保存到HDFS 操作场景 该任务指导用户使用Flume服务端从Kafka的Topic列表(test1)采集日志保存到HDFS上“/flume/test”目录下。 本配置默认集群网络环境是安全的，数据传输过程不需要启用SSL认证。如需使用加密

查看更多 →