Kafka Kafka jar包冲突列表 Jar包名称 描述 kafka_2.11-*.jar 连接Kafka服务必须的jar包。 kafka-clients-*.jar 连接Kafka服务必须的jar包。 解决方案 Kafka不建议使用开源版本的包。 父主题： MRS 应用开发开源jar包冲突列表说明

查看更多 →

Kafka Kafka是一个分布式流处理平台，最初由LinkedIn开发。它是一个高吞吐量、低延迟的平台，可以处理大量的实时数据流。Kafka主要由三个部分组成：生产者、消费者和代理 服务器 。生产者将数据发布到Kafka集群，消费者从Kafka集群订阅数据并进行处理，代理服务器则是

查看更多 →

Kafka Kafka jar包冲突列表 Jar包名称 描述 kafka_2.11-*.jar 连接Kafka服务必须的jar包。 kafka-clients-*.jar 连接Kafka服务必须的jar包。 解决方案 Kafka不建议使用开源版本的包。 父主题： MRS应用开发开源jar包冲突列表说明

查看更多 →

apache.flume.sink.kafka.KafkaSink。 kafka.bootstrap.servers - Kafka 的bootstrap 地址端口列表。如果集群安装有kafka并且配置已经同步，服务端可以不配置此项，默认值为Kafka集群中所有的broker列表，客户

查看更多 →

企业项目是一种云资源管理方式，企业项目管理服务提供统一的云资源按项目管理，以及项目内的资源管理、成员管理，默认项目为default。 容量阈值策略 设置磁盘使用达到容量阈值后的消息处理策略，容量阈值为95%。 自动删除：可以正常生产和消费消息，但是会删除最早的10%的消息，以保证磁盘容量充足。该场景优先保障业务不中断，数据存在丢失的风险。

查看更多 →

请参考扩容云硬盘扩展逻辑卷的容量或者新增云硬盘扩展卷组的容量对卷组进行扩容。 操作步骤 以root用户登录弹性云服务器。 执行如下命令，扩展逻辑卷的容量。 lvextend -L +增加容量 逻辑卷路径 参数说明如下： 增加容量：该值应小于组卷剩余可用空间大小，单位可以选择“MB”或“GB”。

查看更多 →

进程被终止如何定位原因 MRS配置跨集群互信失败 MRS集群节点使用pip3安装Python时提示网络不可达 开源confluent-kafka-go连接MRS安全集群 MRS集群周期备份任务执行失败 MRS集群客户端无法下载 开启Kerberos认证的MRS集群提交Flink作业报错 通过Hive

查看更多 →

支持补丁在线推送及更新。 支持包周期集群中的部分节点退订。 作业提交API新增支持FlinkSQL作业类型。 支持指定资源池的弹性伸缩能力。 Master主机规格升级功能支持多Master节点集群。 Bootstrap脚本支持以root用户身份执行。 集群主机系统盘支持最小100GB容量，数据盘支持最小200GB容量。

查看更多 →

创建Kafka Topic 操作场景 用户可以根据业务需要，使用集群客户端创建Kafka的主题。启用Kerberos认证的集群，需要拥有管理Kafka主题的权限。 前提条件 已安装客户端。 使用Kafka客户端创建Kafka Topic 进入ZooKeeper实例页面： MRS3

查看更多 →

开启容量风险监控 本章节将详细介绍如何具体使用容量风险监控。 操作步骤 登录管理控制台。 选择“服务列表 > 管理与监管 > 优化顾问”优化顾问服务页面。 左侧导航树选择“架构设计”。 在部署架构列表中选择一个架构图，单击“启用风险监控”按钮，在弹窗中将“容量风险监控”开关打开。

查看更多 →

扩容硬盘容量 操作场景 当您的硬盘容量不足时，为避免因存储空间不足而导致数据丢失等问题，您可以按照本章节，在控制台扩容硬盘容量。 约束与限制 当前IEC扩容功能支持扩大硬盘容量，不支持缩小硬盘容量。 系统盘默认支持的最大容量为100GB，数据盘默认支持的最大容量为500 GB，最小扩容步长均为

查看更多 →

耗更多的内存，使集群现有硬件可能会难以满足业务需求，且导致集群难以扩展。 规划存储大量文件的HDFS系统容量，就是规划NameNode的容量规格和DataNode的容量规格，并根据容量设置参数。 容量规格 以下相关参数可以参考修改集群服务配置参数进入HDFS服务全部配置页面，搜索对应参数查看。

查看更多 →

执行以下命令切换到Kafka客户端安装目录。 cd Kafka/kafka/bin 执行以下命令使用客户端工具查看帮助并使用。 ./kafka-console-consumer.sh：Kafka消息读取工具 ./kafka-console-producer.sh：Kafka消息发布工具

查看更多 →

为什么备份容量会大于磁盘中实际容量？ 常见现象 在服务器中存放了文件并进行了备份，删除部分文件后再次进行备份，备份的大小并没有较大变化或比之前的备份更大。 例如：某用户对服务器进行备份，服务器中存在100个文件，此时查看备份存储库的容量大小为A；若该用户在服务器上删除10个文件，

查看更多 →

步骤二：安装集群客户端 MRS集群创建成功后，用户可安装集群客户端用于连接集群内各组件服务，进行作业提交等操作。 客户端可以安装在集群内的节点上，也可以安装在集群外的节点上。本指南以在Master1节点上安装客户端为例进行介绍。 MRS集群创建成功后，在集群列表中单击MRS集群名称进入集群概览页面。

查看更多 →

在“图表”区域框中，单击“定制”自定义服务监控指标。 在“时间区间”选择查询时间，单击“查看”显示该时间段内的监控数据。 通过Manager查看组件监控 登录集群Manager。 进入服务管理页面。 对于MRS 3.x及之后版本的集群，选择“集群 > 服务”。 对于MRS2.x及之前版本的集群，单击“服务管理”。

查看更多 →

Kafka生产消息 功能介绍 在控制台发送指定消息到Kafka实例 调用方法 请参见如何调用API。 URI POST /v2/{project_id}/instances/{instance_id}/messages/action 表1 路径参数 参数 是否必选 参数类型 描述

查看更多 →

单击“搜索”，查询消息。 查询结果如下： 图1 查询Topic消息 消息的参数说明如下： Topic名称：消息所在的Topic名称。 分区：消息所在的分区。 偏移量：消息在分区中的位置。 消息大小：消息存入磁盘的大小，单位为B。 创建时间：消息的创建时间。创建时间由生产客户端在生产消息时通过

查看更多 →

向新增加的分区发送消息，从而导致部分消息丢失。 删除Kafka消息 登录管理控制台。 在管理控制台左上角单击，选择区域。 请选择Kafka实例所在的区域。 在管理控制台左上角单击，选择“应用中间件 > 分布式消息服务Kafka版”，进入分布式消息服务Kafka专享版页面。 单击Kafka实例名称，进入实例详情页面。

查看更多 →

应用场景集群，比如创建Hadoop分析集群、HBase集群、Kafka集群。大数据平台同时支持部署异构集群，在集群中存在不同规格的虚机，允许CPU类型，硬盘容量，硬盘类型，内存大小灵活组合。在集群中支持多种虚机规格混合使用。 删除集群：当按需计费的集群不再需要时（包括集群中的数据

查看更多 →

安装Kafka 简介 Kafka是一个拥有高吞吐、可持久化、可水平扩展，支持流式数据处理等多种特性的分布式消息流处理中间件，采用分布式消息发布与订阅机制，在日志收集、流式数据传输、在线/离线系统分析、实时监控等领域有广泛的应用。 本教程介绍如何在HCE 2.0上安装部署Kafka。

查看更多 →