分布式消息服务 Kafka 

 

分布式消息服务 Kafka 是一个高吞吐、高可用的消息中间件服务,适用于构建实时数据管道、流式数据处理、第三方解耦、流量削峰去谷等场景,具有大规模、高可靠、高并发访问、可扩展且完全托管的特点,是分布式应用上云必不可少的重要组件

 
 

    kafka从零配置 更多内容
  • 从零开始使用Kafka

    开始使用Kafka MapReduce服务(MapReduce Service)提供租户完全可控的企业级大数据集群云服务,轻松运行Hadoop、Spark、HBase、Kafka、Storm等大数据组件 。 本指导以不开启Kerberos认证的集群为例提供从开始在Kafka主题中产生和消费消息的操作指导。

    来自:帮助中心

    查看更多 →

  • 零配置开局

    配置开局 传统网络开局通常要求专业的IT工程师到现场部署和调测,但往往存在设备分散、手工配置耗时长、误操作率高等问题。华为乾坤SD-WAN服务提供了配置开局,又称ZTP开局,推荐使用ZTP开局中的邮件开局、DHCP Option开局和U盘开局方式来解决这些问题。 表1 ZTP开局方式

    来自:帮助中心

    查看更多 →

  • 从零开始使用Kafka

    开始使用Kafka 操作场景 用户可以在集群客户端完成Topic的创建、查询、删除等基本操作。可参考管理Kafka用户权限进行设置。 前提条件 已安装客户端,例如安装目录为“/opt/client”,以下操作的客户端目录只是举例,请根据实际安装目录修改。 使用Kafka客户端( MRS

    来自:帮助中心

    查看更多 →

  • 从零开始使用Kafka

    开始使用Kafka 操作场景 用户可以在集群客户端完成Topic的创建、查询、删除等基本操作。可参考管理Kafka用户权限进行设置。 前提条件 已安装客户端,例如安装目录为“/opt/client”,以下操作的客户端目录只是举例,请根据实际安装目录修改。 使用Kafka客户端

    来自:帮助中心

    查看更多 →

  • 配置对接Kafka

    配置对接Kafka Flink样例工程的数据存储在Kafka组件中。向Kafka组件发送数据(需要有Kafka权限用户),并从Kafka组件接收数据。 确保集群安装完成,包括HDFS、Yarn、Flink和Kafka。 创建Topic。 用户使用Linux命令行创建topic,执

    来自:帮助中心

    查看更多 →

  • 配置Kafka连接

    配置Kafka连接 MRS Kafka 连接MRS上的Kafka数据源时,相关参数如表1所示。 表1 MRS Kafka连接参数 参数名 说明 取值样例 名称 连接的名称,根据连接的数据源类型,用户可自定义便于记忆、区分的连接名。 kafka_link Manager IP MRS

    来自:帮助中心

    查看更多 →

  • 配置对接Kafka

    配置对接Kafka Flink样例工程的数据存储在Kafka组件中。向Kafka组件发送数据(需要有Kafka权限用户),并从Kafka组件接收数据。 确保集群安装完成,包括HDFS、Yarn、Flink和Kafka。 创建Topic。 用户使用Linux命令行创建topic,执

    来自:帮助中心

    查看更多 →

  • 配置Kafka连接

    配置Kafka连接 MRS Kafka 连接MRS上的Kafka数据源时,相关参数如表1所示。 表1 MRS Kafka连接参数 参数名 说明 取值样例 名称 连接的名称,根据连接的数据源类型,用户可自定义便于记忆、区分的连接名。 kafka_link Manager IP MRS

    来自:帮助中心

    查看更多 →

  • 配置Kafka/DMS Kafka源端参数

    持续拉取数据时间。如天调度作业,根据每天topic产生的数据量,配置足够的拉取时间。单位:分钟。 60 等待时间 当配置为60时,如果消费者60s内Kafka拉取数据返回一直为空(一般是已经读完主题中的全部数据,也可能是网络或者Kafka集群可用性原因),则立即停止任务,否则持续重试读取数据。单位:秒。

    来自:帮助中心

    查看更多 →

  • 配置Kafka/DMS Kafka源端参数

    持续拉取数据时间。如天调度作业,根据每天topic产生的数据量,配置足够的拉取时间。单位:分钟。 60 等待时间 当配置为60时,如果消费者60s内Kafka拉取数据返回一直为空(一般是已经读完主题中的全部数据,也可能是网络或者Kafka集群可用性原因),则立即停止任务,否则持续重试读取数据。单位:秒。

    来自:帮助中心

    查看更多 →

  • 配置DMS Kafka连接

    配置DMS Kafka连接 连接DMS的Kafka队列时,相关参数如表1所示。 表1 DMS Kafka连接参数 参数名 说明 取值样例 名称 连接的名称,根据连接的数据源类型,用户可自定义便于记忆、区分的连接名。 dms_link 服务类型 选择DMS Kafka版本,目前只有专享版。

    来自:帮助中心

    查看更多 →

  • 配置DMS Kafka连接

    配置DMS Kafka连接 连接DMS的Kafka队列时,相关参数如表1所示。 表1 DMS Kafka连接参数 参数名 说明 取值样例 名称 连接的名称,根据连接的数据源类型,用户可自定义便于记忆、区分的连接名。 dms_link 服务类型 选择DMS Kafka版本,目前只有专享版。

    来自:帮助中心

    查看更多 →

  • 从PgSQL同步数据到Kafka

    PgSQL同步数据到Kafka 操作场景 本章节指导用户通过MRS 3.2.0版本开启Kerberos认证的集群的CDLService WebUI界面,PgSQL导入数据到Kafka。 前提条件 集群已安装CDL、Kafka服务且运行正常。 PostgreSQL数据库需要修改

    来自:帮助中心

    查看更多 →

  • 从Kafka读取数据写入到RDS

    Kafka读取数据写入到RDS 本指导仅适用于Flink 1.12版本。 场景描述 该场景为根据商品的实时点击量,获取每小时内点击量最高的3个商品及其相关信息。商品的实时点击量数据为输入源发送到Kafka中,再将Kafka数据的分析结果输出到RDS中。 例如,输入如下样例数据:

    来自:帮助中心

    查看更多 →

  • 从Kafka读取数据写入到DWS

    Kafka读取数据写入到DWS 本指导仅适用于Flink 1.12版本。 场景描述 该场景为对汽车驾驶的实时数据信息进行分析,将满足特定条件的数据结果进行汇总。汽车驾驶的实时数据信息为数据源发送到Kafka中,再将Kafka数据的分析结果输出到DWS中。 例如,输入如下样例数据:

    来自:帮助中心

    查看更多 →

  • 配置Kafka日志推送策略

    成有序消息队列使用。如果Key为空,则消息分布式存储在不同的消息分区。 失败重试分配 日志推送到Kafka失败后的重试配置。 重试次数:失败后的重试次数,范围为0-5次。 重试间隔时间:失败后的重试时间间隔,范围为1-10秒。 SASL配置信息 安全协议 连接目标Kafka所使用的安全协议。

    来自:帮助中心

    查看更多 →

  • 配置ClickHouse对接Kafka

    配置ClickHouse对接Kafka 配置ClickHouse通过用户密码对接Kafka 配置ClickHouse通过Kerberos认证对接Kafka 配置ClickHouse对接普通模式Kafka 父主题: 高阶使用

    来自:帮助中心

    查看更多 →

  • 如何从零构建实景三维建模

    如何构建实景三维建模 本文以数字影像生成赋有纹理的三维模型场景为例指导用户快速构建三维建模工作流。 开始进行体验前,请仔细阅读准备工作,完成必要操作。 进入实景三维操作台 新建工程 导入数据 提交空三 提交重建 准备工作 创建IAM用户并登录,具体操作步骤如下: 注册华为

    来自:帮助中心

    查看更多 →

  • 配置Kafka后进先出

    配置Kafka后进先出 配置场景 当Spark Streaming应用与Kafka对接,Spark Streaming应用异常终止并从checkpoint恢复重启后,对于进入Kafka数据的任务,系统默认优先处理应用终止前(A段时间)未完成的任务和应用终止到重启完成这段时间内(B

    来自:帮助中心

    查看更多 →

  • 配置Kafka后进先出

    配置Kafka后进先出 配置场景 当Spark Streaming应用与Kafka对接,Spark Streaming应用异常终止并从checkpoint恢复重启后,对于进入Kafka数据的任务,系统默认优先处理应用终止前(A段时间)未完成的任务和应用终止到重启完成这段时间内(B

    来自:帮助中心

    查看更多 →

  • Kafka配置内外网访问

    ID。 选择“集群 > 服务 > Kafka > 配置 > 全部配置 > Broker(角色) > 服务”。在搜索框分别输入“advertised”和 "actual",会出现如下图所示五个配置项,可参考表1配置具体参数。 表1 参数配置说明 配置项 描述 取值要求 enable.advertised

    来自:帮助中心

    查看更多 →

共105条
看了本文的人还看了