分布式消息服务 Kafka 

 

分布式消息服务 Kafka 是一个高吞吐、高可用的消息中间件服务,适用于构建实时数据管道、流式数据处理、第三方解耦、流量削峰去谷等场景,具有大规模、高可靠、高并发访问、可扩展且完全托管的特点,是分布式应用上云必不可少的重要组件

 
 

    kafka key 配置 更多内容
  • 设置热key自动分析配置

    设置热key自动分析配置 功能介绍 设置热key自动分析配置。 调用方法 请参见如何调用API。 URI PUT /v2/{project_id}/instances/{instance_id}/hotkey/autoscan 表1 路径参数 参数 是否必选 参数类型 描述 project_id

    来自:帮助中心

    查看更多 →

  • 路由到分布式消息服务Kafka版

    息输入。 请参考配置分布式消息服务 Kafka版,配置事件源。 配置事件目标。 单击“事件目标”,右侧弹出“事件目标”弹窗。 目标服务选择“分布式消息服务 Kafka版”。 设置事件目标参数。 图1 分布式消息服务 Kafka版 表1 分布式消息服务 Kafka版参数说明 参数名称

    来自:帮助中心

    查看更多 →

  • 分布式消息(Kafka)

    分布式消息Kafka分布式消息Kafka)连接器包含“Topic列表”、“发送数据”、“指定分区发送”三个执行动作和“消费消息”一个触发事件。 连接参数 创建分布式Kafka)连接时连接参数说明如表1所示。如果需要连接的Kafka配置了IP地址白名单限制,则需要放通 集成工作台 公网出口访问地址“124

    来自:帮助中心

    查看更多 →

  • 什么是大Key/热Key?

    什么是大Key/热Key? 名词 定义 大KeyKey可以分为两种情况: Key的Value较大。一般单个String类型的Key大小达到10KB,或者集合类型的Key总大小达到50MB,则定义其为大KeyKey的元素较多。一般定义集合类型的Key中元素超过5000个,则认为其为大Key。

    来自:帮助中心

    查看更多 →

  • 配置Kafka自动创建Topic

    同步落盘 不开启 不开启 消息时间戳类型 CreateTime CreateTime 批处理消息最大值 10485760字节 10485760字节 配置Kafka自动创建Topic 登录管理控制台。 在管理控制台左上角单击,选择区域。 请选择Kafka实例所在的区域。 在管理控制台左上角单击,选择“应用中间件

    来自:帮助中心

    查看更多 →

  • 配置Kafka应用安全认证

    配置Kafka应用安全认证 使用Sasl Kerberos认证 使用Kafka Token认证 父主题: 准备Kafka应用开发环境

    来自:帮助中心

    查看更多 →

  • 配置Kafka网络连接

    配置Kafka网络连接 连接Kafka网络要求 配置Kafka实例的公网访问 使用VPCEP实现跨VPC访问Kafka 使用DNAT实现公网访问Kafka 父主题: 连接实例

    来自:帮助中心

    查看更多 →

  • 配置Kafka访问控制

    配置Kafka访问控制 配置Kafka实例的明文/密文接入 制作和替换Kafka的SSL证书 配置Kafka的SSL双向认证 配置Kafka用户 父主题: 连接实例

    来自:帮助中心

    查看更多 →

  • 配置Kafka数据均衡工具

    MRS 集群管理员已明确业务需求,并准备一个Kafka管理员用户(属于kafkaadmin组,普通模式不需要)。 已安装Kafka客户端。 操作步骤 以客户端安装用户,登录已安装Kafka客户端的节点。 切换到Kafka客户端安装目录,例如“/opt/client”。 cd /opt/client

    来自:帮助中心

    查看更多 →

  • 配置Kafka数据均衡工具

    模式不需要)。 已安装Kafka客户端。 操作步骤 以客户端安装用户,登录已安装Kafka客户端的节点。 切换到Kafka客户端安装目录,例如“/opt/client”。 cd /opt/client 执行以下命令,配置环境变量。 source bigdata_env 执行以下命

    来自:帮助中心

    查看更多 →

  • 配置Kafka监控告警

    配置Kafka监控告警 本章节主要介绍部分监控指标的告警策略,以及配置操作。在实际业务中,建议按照以下告警策略,配置监控指标的告警规则。 表1 Kafka实例的告警策略和处理建议 指标ID 指标名称 测量对象 告警策略 指标说明 告警处理建议 broker_disk_usage 磁盘容量使用率

    来自:帮助中心

    查看更多 →

  • 配置Kafka客户端

    配置Kafka客户端 Kafka客户端参数配置建议 Kafka客户端使用建议 父主题: 连接实例

    来自:帮助中心

    查看更多 →

  • 配置Kafka日志推送策略

    策略内容:支持表单模式和脚本模式两种方式,脚本模式配置请参见脚本配置示例。 策略基本信息 Broker地址 日志要推送的目标Kafka连接地址列表,多个地址间以英文逗号(,)隔开。 Topic主题 日志要推送的目标Kafka Topic名称。 Key 填写消息Key值,表示消息存储在Kafka的指定分区,可以当

    来自:帮助中心

    查看更多 →

  • 配置ClickHouse对接Kafka

    配置ClickHouse对接Kafka 配置ClickHouse通过用户密码对接Kafka 配置ClickHouse通过Kerberos认证对接Kafka 配置ClickHouse对接普通模式Kafka 父主题: ClickHouse数据导入

    来自:帮助中心

    查看更多 →

  • 修改Kafka实例配置参数

    修改Kafka实例配置参数 操作场景 分布式消息服务Kafka版为实例、Topic、消费者提供了几个常用配置参数的默认值,您可以根据实际业务需求,在控制台自行修改参数值。其他在控制台未列出的配置参数,请参考Kafka配置进行修改。 Kafka实例的参数分为动态参数和静态参数: 动

    来自:帮助中心

    查看更多 →

  • 配置Kafka应用安全认证

    配置Kafka应用安全认证 使用Sasl Kerberos认证 使用Sasl Plaintext认证 使用Kafka Token认证 父主题: 准备Kafka应用开发环境

    来自:帮助中心

    查看更多 →

  • 配置Kafka后进先出

    配置Kafka后进先出 配置场景 当Spark Streaming应用与Kafka对接,Spark Streaming应用异常终止并从checkpoint恢复重启后,对于进入Kafka数据的任务,系统默认优先处理应用终止前(A段时间)未完成的任务和应用终止到重启完成这段时间内(B

    来自:帮助中心

    查看更多 →

  • 如何配置SSH Key登录主机资源?

    如何配置SSH Key登录主机资源? 云 堡垒机 支持配置SSH Key登录主机资源,主机资源配置SSH Key后优先验证SSH Key登录资源。 生成SSH Key 生成认证Key。 登录主机,执行以下命令,生成SSH Key。 ssh-keygen –t rsa 回显信息如下: [root@Server

    来自:帮助中心

    查看更多 →

  • 配置Kafka实例的公网访问

    通过公网访问Kafka(开启SSL加密)。 关闭公网访问(不支持修改SASL开关) 登录管理控制台。 在管理控制台左上角单击,选择区域。 请选择Kafka实例所在的区域。 在管理控制台左上角单击,选择“应用中间件 > 分布式消息服务Kafka版”,进入分布式消息服务Kafka专享版页面。

    来自:帮助中心

    查看更多 →

  • 配置Kafka数据转储至OBS

    Connect。 已创建Kafka实例,且实例状态为“运行中”。 已创建Topic。 配置Kafka数据转储至OBS 登录管理控制台。 在管理控制台左上角单击,选择区域。 请选择Kafka实例所在的区域。 在管理控制台左上角单击,选择“应用中间件 > 分布式消息服务Kafka版”,进入分布式消息服务Kafka专享版页面。

    来自:帮助中心

    查看更多 →

  • 配置Kafka的SSL双向认证

    开启/关闭SSL双向认证将重启实例,请谨慎操作。 前提条件 已准备一台Linux系统的服务器。 实例已开启Kafka SASL_SSL。 配置SSL双向认证流程 图1 配置SSL双向认证流程图 步骤一:制作客户端验证服务端的证书 登录Linux系统的服务器,执行以下命令,生成server.keystore.jks证书的孵化器。

    来自:帮助中心

    查看更多 →

共105条
看了本文的人还看了