MRS Kafka 功能 MRS Kafka主要是查询Topic未消费的消息数。 参数 用户可参考表1和表2配置MRS Kafka的参数。 表1 属性参数 参数 是否必选 说明 数据连接 是 选择管理中心中已创建的MRS Kafka连接。 Topic名称 是 选择MRS Kafk

查看更多 →

MRS Kafka 获取MRS Kafka配置文件方法如下： 获取“krb5.conf”和“user.keytab”文件。 参考下载用户认证文件，在MRS Manager下载用户认证文件，解压后得到“krb5.conf”和 “user.keytab”文件。 获取“fikafka-producer

查看更多 →

MRS Kafka输入流 功能描述 创建source流从Kafka获取数据，作为作业的输入数据。 Apache Kafka是一个快速、可扩展的、高吞吐、可容错的分布式发布订阅消息系统，具有高吞吐量、内置分区、支持数据副本和容错的特性，适合在大规模消息处理场景中使用。MRS基于Apache

查看更多 →

MRS Kafka输出流 功能描述 DLI将Flink作业的输出数据输出到Kafka中。 Apache Kafka是一个快速、可扩展的、高吞吐、可容错的分布式发布订阅消息系统，具有高吞吐量、内置分区、支持数据副本和容错的特性，适合在大规模消息处理场景中使用。MRS基于Apache

查看更多 →

MRS Kafka对接Kafka Eagle 前提条件 创建并购买一个包含Kafka组件的MRS 3.1.0版本集群，集群未开启Kerberos认证，详情可参考创建MRS集群。 安装MRS集群客户端，具体请参考安装客户端。 Kafka Eagle简介 Kafka Eagle是一款

查看更多 →

MRS Kafka输出流 功能描述 DLI将Flink作业的输出数据输出到Kafka中。 Apache Kafka是一个快速、可扩展的、高吞吐、可容错的分布式发布订阅消息系统，具有高吞吐量、内置分区、支持数据副本和容错的特性，适合在大规模消息处理场景中使用。MRS基于Apache

查看更多 →

MRS Kafka输入流 功能描述 创建source流从Kafka获取数据，作为作业的输入数据。 Apache Kafka是一个快速、可扩展的、高吞吐、可容错的分布式发布订阅消息系统，具有高吞吐量、内置分区、支持数据副本和容错的特性，适合在大规模消息处理场景中使用。MRS基于Apache

查看更多 →

描述 填写数据源的描述信息。 机机交互用户名 填写连接MRS Kafka的机机类型用户名。 上传配置文件 单击“上传文件”，上传MRS Kafka配置文件。配置文件获取请参考获取MRS Kafka配置文件。 获取MRS Kafka配置文件 获取“krb5.conf”和“user.keytab”文件。

查看更多 →

配置MRS Kafka数据连接 表1 MRS Kafka数据连接 参数 是否必选 说明 数据连接类型 是 MRS Kafka连接固定选择为MapReduce服务（MRS Kafka）。 数据连接名称 是 数据连接的名称，只能包含字母、数字、下划线和中划线，且长度不超过100个字符。

查看更多 →

MRS Hive，MRS Kafka，MRS Hudi数据源创建连接时IP长度校验不通过，如何处理？ MRS Hive，MRS Kafka，MRS Hudi数据源在创建连接时，单击“选择”选定MRS集群，Manager IP获取到IP如果长度校验不通过，如下图所示。 解决方法 单

查看更多 →

Keytab文件 否 MRS-Kafka配置参数，打开安全模式时，需要用户上传Keytab文件。该文件是用户在MRS服务的FusionInsight Manager平台上申请的机机账号的认证凭证。 用户账号名称 否 MRS-Kafka配置参数，用户在MRS服务的FusionInsight Manager平台上申请的机机账号。

查看更多 →

登录CDM控制台，选择“集群管理”，选择已创建的CDM集群，在操作列选择“作业管理”。 在作业管理界面，选择“连接管理”，单击“新建连接”，连接器类型选择“MRS Kafka”，单击“下一步”。 图2 创建MRS Kafka数据源 配置源端MRS Kafka的数据源连接，具体参数配置如下。

查看更多 →

DIS输入流 - JSON DIS输入流 OBS输入流 MRS Kafka输入流 开源Kafka输入流 DIS输出流 OBS输出流 MRS Kafka输出流 开源Kafka输出流 ORC - OBS输出流 DWS输出流（通过OBS方式转储） Parquet - OBS输出流 文件系统输出流

查看更多 →

DWS输出流（通过OBS方式转储） 自定义作业交互 MapReduce服务 MRS MRS Kafka输入流 MRS Kafka输出流 MRS HBase输出流 自定义作业交互 对象存储服务 OBS OBS输入流 OBS输出流 - 关系型数据库 RDS - RDS输出流 - 消息通知服务 SMN - SMN输出流

查看更多 →

要发送消息可不配置。 前提条件 已经在对应的应用下创建Kafka和MRS Kafka数据源，数据源创建参考接入Kafka数据源和接入MRS Kafka数据源。 已创建消息集成Topic并授发布和订阅权限。创建Topic和授权参考消息集成指导章节。 配置任务完成后执行 在创建任务页面中配置任务完成后执行信息。

查看更多 →

源表 HBase MRS安全集群已开启Kerberos认证。 Kafka MRS Kafka开启Kerberos认证。 结果表 HBase MRS安全集群已开启Kerberos认证。 Kafka MRS Kafka开启Kerberos认证。 维表 HBase MRS安全集群已开启Kerberos认证。

查看更多 →

配置Kafka连接 MRS Kafka 连接MRS上的Kafka数据源时，相关参数如表1所示。 作业运行中禁止修改密码或者更换用户。在作业运行过程中修改密码或者更换用户，密码不会立即生效且作业会运行失败。 表1 MRS Kafka连接参数 参数名 说明 取值样例 名称 连接的名称

查看更多 →

跨源认证类型 数据源 约束与限制 源表 Kerberos HBase MRS安全集群已开启Kerberos认证。 Kafka MRS Kafka开启Kerberos认证。 Kafka_SSL Kafka DMS Kafka开启SASL_SSL认证。 MRS Kafka开启SASL认证。

查看更多 →

支持安装补丁不自动重启服务的能力 MRS 大数据组件 MRS Kafka启动脚本中添加对端口占用的检查逻辑 MRS 1.8.10.1 修复问题列表： MRS 大数据组件 MRS Kafka优化健康检查及滚动重启逻辑 补丁兼容关系 MRS 1.8.10.6补丁包中包含MRS 1.8.10.6及之前发布的所有补丁解决的问题。

查看更多 →

MRS 1.8.10.1补丁说明 补丁基本信息 表1 补丁基本信息 补丁号 MRS 1.8.10.1 发布时间 2020-01-07 解决的问题 MRS 大数据组件 MRS Kafka优化健康检查及滚动重启逻辑 补丁兼容关系 无。 安装补丁的影响 安装MRS 1.8.10.1补丁期间会重启MRS

查看更多 →

DMS Kafka开启SASL_SSL认证。 MRS Kafka开启SASL认证。 MRS Kafka开启SSL认证。 操作步骤 下载认证凭证。 DMS Kafka 登录DMS Kafka控制台，单击实例名称进入详情页面。 在连接信息中，找到SSL证书，单击“下载”。 解压下载的kaf

查看更多 →