实时任务接入 实时作业一般由Flink Sql或Sparkstreaming来完成，流式实时任务通常配置同步生成compaction计划，异步执行计划。 Flink SQL作业中sink端Hudi表相关配置如下： create table denza_hudi_sink ( $H

查看更多 →

Kafka组件接入 操作场景 您可以直接使用AOM内置的Kafka插件来创建采集任务，通过快捷安装配置Kafka插件，就可以监控Kafka相关指标，并接入开箱即用的Grafana监控大盘。 前提条件 主机已安装UniAgent，且状态为运行中。 已创建E CS Prometheus实例。

查看更多 →

Kafka Exporter接入 操作场景 使用Kafka过程中需要对Kafka运行状态进行监控，例如集群状态、消息消费情况是否有积压等。Prometheus监控服务提供了CCE容器场景下基于Exporter的方式来监控Kafka运行状态。本文介绍如何部署Kafka Exporter以及实现Kafka

查看更多 →

Kafka Exporter接入 操作场景 使用Kafka过程中需要对Kafka运行状态进行监控，例如集群状态、消息消费情况是否有积压等。Prometheus监控服务提供了CCE容器场景下基于Exporter的方式来监控Kafka运行状态。本文介绍如何部署Kafka Exporter以及实现Kafka

查看更多 →

Kafka实时入库到 GaussDB (DWS) 通过数据湖探索服务 DLI Flink作业将Kafka的消费数据实时同步至GaussDB(DWS)数据仓库，实现Kafka实时入库到GaussDB(DWS)的过程。 了解DLI请参见数据湖产品介绍 。 了解Kafka请参见分布式消息服务Kafka产品介绍。

查看更多 →

Service，简称DIS）为处理或分析流数据的自定义应用程序构建数据流管道，主要解决云服务外的数据实时传输到云服务内的问题。数据接入服务每小时可从数十万种数据源（如IoT数据采集、日志和定位追踪事件、网站点击流、社交媒体源等）中连续捕获、传送和存储数TB数据。 数据仓库服务 GaussDB(DWS) 数据仓库服务（Data

查看更多 →

接入Kafka数据源 概述 ROMA Connect支持把Kafka作为一个数据源，并用于数据集成任务。在使用Kafka数据源前，您需要先接入数据源。 前提条件 每个接入的数据源都要归属到某个集成应用下，在接入数据源前您需要有可用的集成应用，否则请提前创建集成应用。 操作步骤 登录ROMA

查看更多 →

例如在梯联网行业，智能电梯的数据，实时传入到 MRS 的流式集群中进行实时告警。 图3 梯联网行业低时延流式处理场景 该场景下MRS的优势如下所示。 实时数据采集：利用Flume实现实时数据采集，并提供丰富的采集和存储连接方式。 海量的数据源接入：利用Kafka实现万级别的电梯数据的实时接入。

查看更多 →

组件业务用户 执行以下命令，切换到Kafka客户端安装目录。 cd Kafka/kafka/bin 使用kafka-consumer-groups.sh查看当前消费情况。 查看Offset保存在Kafka上的Consumer Group列表： ./kafka-consumer-groups

查看更多 →

OBS、DIS、 DataArts Studio 地理大数据分析 地理大数据分析 地理大数据具有大数据的相关特征，数据体量巨大，例如全球卫星遥感影像数据量达到PB级；数据种类多，有结构化的遥感影像栅格数据、矢量数据，非结构化的空间位置数据、三维建模数据；在大体量的地理大数据中，通过高效的挖掘工具或者挖掘

查看更多 →

接入MRS Kafka数据源 概述 ROMA Connect支持把MRS Kafka作为一个数据源，并用于数据集成任务。在使用MRS Kafka数据源前，您需要先接入数据源。 前提条件 每个接入的数据源都要归属到某个集成应用下，在接入数据源前您需要有可用的集成应用，否则请提前创建集成应用。

查看更多 →

组件业务用户 执行以下命令，切换到Kafka客户端安装目录。 cd Kafka/kafka/bin 使用kafka-consumer-groups.sh查看当前消费情况。 查看Offset保存在Kafka上的Consumer Group列表： ./kafka-consumer-groups

查看更多 →

定时，实时 - - 接入Kafka数据源 实时 定时，实时 - 实时 接入MySQL数据源 定时 定时，实时 定时，实时 定时，实时 接入MongoDB数据源 定时 定时，实时 - - 接入MQS数据源 实时 定时，实时 - - 接入MRS Hive数据源 定时 定时，实时 - - 接入MRS

查看更多 →

Kafka集群使用Kafka和Storm组件提供一个开源高吞吐量，可扩展性的消息系统。广泛用于日志收集、监控数据聚合等场景，实现高效的流式数据采集，实时数据处理存储等。 Kafka、Storm ClickHouse集群 ClickHouse是一个用于联机分析的列式数据库管理系统，具有压缩率和极速

查看更多 →

Studio 图3 运营商大数据分析 地理大数据分析 地理大数据分析 地理大数据具有大数据的相关特征，数据体量巨大，例如，全球卫星遥感影像数据量达到PB级。数据种类多，有结构化的遥感影像栅格数据、矢量数据，非结构化的空间位置数据、三维建模数据；在大体量的地理大数据中，通过高效的挖掘工

查看更多 →

S中存储的日志。同时LTS可以实时转储日志到DMS（KAFKA），外部应用程序可以实时消费DMS（KAFKA），接入到用户自己SIEM系统中。因此建议企业将日志账号中的日志流实时转储到DMS（KAFKA），企业的SIEM系统可以实时消费KAFKA接入日志数据。 图4 云日志服务数据对接客户的SIEM

查看更多 →

定弹性IP地址。 数据接入服务 数据接入服务（Data Ingestion Service，简称DIS）为处理或分析流数据的自定义应用程序构建数据流管道，面向IoT、互联网等实时数据，提供高效采集、传输、分发能力。 ROMA Connect可以使用DIS作为数据集成任务的源端和目

查看更多 →

将实时监控数据接入自建Prometheus 部分客户存在多云、多账号、多region资源协同管理的场景，希望能够将云上资源的监控数据实时导出到自建监控系统中统一管理，基于该场景云监控服务为您提供线下自动导出工具，根据配置实时获取云资源监控数据并持续导入本地Prometheus。 前提条件

查看更多 →

Hive 分布式数据仓库 10% HBase技术原理 11% MapReduce 和 Yarn 技术原理 9% Spark 基于内存的分布式计算 7% Flink 流批一体分布式实时处理引擎 8% Flume海量日志聚合 7% Loader 数据转换 5% Kafka分布式消息订阅系统

查看更多 →

物联网等众多领域。 实时分析集群：实时分析集群使用Hadoop、Kafka、Flink和ClickHouse组件提供一个海量的数据采集、数据的实时分析和查询的系统。 删除集群 MRS服务支持用户在不需要大数据集群时执行删除集群操作，集群删除后，所有大数据使用的相关云资源都会同时被

查看更多 →

数据迁移到MRS前信息收集 由于离线大数据搬迁有一定的灵活性，迁移前需要掌握现有集群的详细信息，以能够更好的进行迁移决策。 业务信息调研 大数据平台及业务的架构图。 大数据平台和业务的数据流图（包括峰值和均值流量等）。 识别平台数据接入源、大数据平台数据流入方式（实时数据上报、批量数据抽取）、分析平台数据流向。

查看更多 →