分布式消息服务 Kafka 

 

分布式消息服务 Kafka 是一个高吞吐、高可用的消息中间件服务,适用于构建实时数据管道、流式数据处理、第三方解耦、流量削峰去谷等场景,具有大规模、高可靠、高并发访问、可扩展且完全托管的特点,是分布式应用上云必不可少的重要组件

 
 

    kafka从零配置 更多内容
  • 从零开始使用Kafka

    开始使用Kafka MapReduce服务(MapReduce Service)提供租户完全可控的企业级大数据集群云服务,轻松运行Hadoop、Spark、HBase、Kafka、Storm等大数据组件 。 本指导以不开启Kerberos认证的集群为例提供从开始在Kafka主题中产生和消费消息的操作指导。

    来自:帮助中心

    查看更多 →

  • 零配置开局

    配置开局 传统网络开局通常要求专业的IT工程师到现场部署和调测,但往往存在设备分散、手工配置耗时长、误操作率高等问题。华为乾坤SD-WAN服务提供了配置开局,又称ZTP开局,推荐使用ZTP开局中的邮件开局、DHCP Option开局和U盘开局方式来解决这些问题。 表1 ZTP开局方式

    来自:帮助中心

    查看更多 →

  • 从零开始使用Kafka

    开始使用Kafka 操作场景 用户可以在集群客户端完成Topic的创建、查询、删除等基本操作。可参考管理Kafka用户权限进行设置。 前提条件 已安装客户端,例如安装目录为“/opt/client”,以下操作的客户端目录只是举例,请根据实际安装目录修改。 使用Kafka客户端

    来自:帮助中心

    查看更多 →

  • 从零开始使用Kafka

    开始使用Kafka 操作场景 用户可以在集群客户端完成Topic的创建、查询、删除等基本操作。可参考管理Kafka用户权限进行设置。 前提条件 已安装客户端,例如安装目录为“/opt/client”,以下操作的客户端目录只是举例,请根据实际安装目录修改。 使用Kafka客户端(MRS

    来自:帮助中心

    查看更多 →

  • 配置Kafka用户

    前提条件 Kafka实例已开启密文接入。 只有处于“运行中”状态的Kafka实例支持配置Kafka用户。 创建用户 登录管理控制台。 在管理控制台左上角单击,选择区域。 请选择Kafka实例所在的区域。 在管理控制台左上角单击,选择“应用中间件 > 分布式消息服务Kafka版”,进入分布式消息服务Kafka专享版页面。

    来自:帮助中心

    查看更多 →

  • 配置对接Kafka

    配置对接Kafka Flink样例工程的数据存储在Kafka组件中。向Kafka组件发送数据(需要有Kafka权限用户),并从Kafka组件接收数据。 确保集群安装完成,包括HDFS、Yarn、Flink和Kafka。 创建Topic。 用户使用Linux命令行创建topic,执

    来自:帮助中心

    查看更多 →

  • 配置对接Kafka

    配置对接Kafka Flink样例工程的数据存储在Kafka组件中。向Kafka组件发送数据(需要有Kafka权限用户),并从Kafka组件接收数据。 确保集群安装完成,包括HDFS、Yarn、Flink和Kafka。 创建Topic。 用户使用Linux命令行创建topic,执

    来自:帮助中心

    查看更多 →

  • 配置Kafka连接

    您可以添加客户端的配置属性。所添加的每个属性需配置属性名称和值。对于不再需要的属性,可单击属性后的“删除”按钮进行删除。 Apache Kafka Apache Kafka连接适用于用户在本地数据中心或ECS上自建的第三方Kafka,其中本地数据中心的Kafka需通过专线连接。 连接Apache

    来自:帮助中心

    查看更多 →

  • 配置Kafka连接

    您可以添加客户端的配置属性。所添加的每个属性需配置属性名称和值。对于不再需要的属性,可单击属性后的“删除”按钮进行删除。 Apache Kafka Apache Kafka连接适用于用户在本地数据中心或ECS上自建的第三方Kafka,其中本地数据中心的Kafka需通过专线连接。 连接Apache

    来自:帮助中心

    查看更多 →

  • 配置Kafka/DMS Kafka源端参数

    持续拉取数据时间。如天调度作业,根据每天topic产生的数据量,配置足够的拉取时间。单位:分钟。 60 等待时间 当配置为60时,如果消费者60s内Kafka拉取数据返回一直为空(一般是已经读完主题中的全部数据,也可能是网络或者Kafka集群可用性原因),则立即停止任务,否则持续重试读取数据。单位:秒。

    来自:帮助中心

    查看更多 →

  • 配置Kafka/DMS Kafka源端参数

    持续拉取数据时间。如天调度作业,根据每天topic产生的数据量,配置足够的拉取时间。单位:分钟。 60 等待时间 当配置为60时,如果消费者60s内Kafka拉取数据返回一直为空(一般是已经读完主题中的全部数据,也可能是网络或者Kafka集群可用性原因),则立即停止任务,否则持续重试读取数据。单位:秒。

    来自:帮助中心

    查看更多 →

  • 修改Kafka Topic配置

    修改Kafka Topic配置 本章节指导您在控制台修改Kafka Topic的如下配置。 表1 Kafka Topic的配置参数 参数名称 说明 同步复制 后端收到生产消息请求并复制给所有副本后,才返回客户端。 同步落盘 开启:生产的每条消息都会立即写入磁盘,可靠性更高。 关闭

    来自:帮助中心

    查看更多 →

  • 配置Kafka实例标签

    配置Kafka实例标签 标签是Kafka实例的标识,为Kafka实例添加标签,可以方便用户识别和管理拥有的Kafka实例资源。 您可以在创建Kafka实例时添加标签,也可以在Kafka实例创建完成后,在“标签”页面添加标签,您最多可以给实例添加20个标签。另外,您还可以删除标签。

    来自:帮助中心

    查看更多 →

  • 配置Kafka流控

    登录管理控制台。 在管理控制台左上角单击,选择区域。 请选择Kafka实例所在的区域。 在管理控制台左上角单击,选择“应用中间件 > 分布式消息服务Kafka版”,进入分布式消息服务Kafka专享版页面。 单击Kafka实例的名称,进入实例详情页面。 在左侧导航栏单击“流控管理 >

    来自:帮助中心

    查看更多 →

  • 配置DMS Kafka连接

    dms_link 服务类型 选择DMS Kafka版本,目前只有专享版。 专享版 Kafka Broker Kafka专享版实例的地址,格式为 host:port。 - Kafka SASL_SSL 选择是否打开客户端连接Kafka专享版实例时SSL认证的开关。当DMS Kafka实例的连

    来自:帮助中心

    查看更多 →

  • 配置DMS Kafka连接

    dms_link 服务类型 选择DMS Kafka版本,目前只有专享版。 专享版 Kafka Broker Kafka专享版实例的地址,格式为 host:port。 - Kafka SASL_SSL 选择是否打开客户端连接Kafka专享版实例时SSL认证的开关。当DMS Kafka实例的连

    来自:帮助中心

    查看更多 →

  • 配置Kafka自动创建Topic

    不开启同步复制和同步落盘。 消息时间戳类型为CreateTime。 批处理消息最大值为10485760字节。 配置Kafka自动创建Topic 登录管理控制台。 在管理控制台左上角单击,选择区域。 请选择Kafka实例所在的区域。 在管理控制台左上角单击,选择“应用中间件 > 分布式消息服务Kafk

    来自:帮助中心

    查看更多 →

  • 从PgSQL同步数据到Kafka

    PgSQL同步数据到Kafka 操作场景 本章节指导用户通过MRS 3.2.0版本开启Kerberos认证的集群的CDLService WebUI界面,PgSQL导入数据到Kafka。 前提条件 集群已安装CDL、Kafka服务且运行正常。 PostgreSQL数据库需要修改

    来自:帮助中心

    查看更多 →

  • 从Kafka读取数据写入到RDS

    Kafka读取数据写入到RDS 本指导仅适用于Flink 1.12版本。 场景描述 该场景为根据商品的实时点击量,获取每小时内点击量最高的3个商品及其相关信息。商品的实时点击量数据为输入源发送到Kafka中,再将Kafka数据的分析结果输出到RDS中。 例如,输入如下样例数据:

    来自:帮助中心

    查看更多 →

  • 从Kafka读取数据写入到DWS

    Kafka读取数据写入到DWS 本指导仅适用于Flink 1.12版本。 场景描述 该场景为对汽车驾驶的实时数据信息进行分析,将满足特定条件的数据结果进行汇总。汽车驾驶的实时数据信息为数据源发送到Kafka中,再将Kafka数据的分析结果输出到DWS中。 例如,输入如下样例数据:

    来自:帮助中心

    查看更多 →

  • 配置Kafka监控告警

    告警级别:紧急 该指标为Kafka节点虚拟机层面采集的磁盘容量使用率。 出现该告警时,需要修改实例存储空间。具体操作,请参考变更实例规格。 broker_cpu_core_load CPU核均负载 告警阈值:原始值>2 连续触发次数:3 告警级别:重要 该指标为Kafka节点虚拟机层面采集的CPU每个核的平均负载。

    来自:帮助中心

    查看更多 →

共105条
看了本文的人还看了