数据接入服务 DIS

Flume数据采集慢 问题现象 Flume启动后，Flume数据采集慢。 原因分析 Flume堆内存设置不合理，导致Flume进程一直处于频繁GC。查看Flume运行日志： 2019-02-26T13:06:20.666+0800: 1085673.512: [Full GC:[CMS:

查看更多 →

Flume数据写入组件失败 问题现象 Flume进程启动后，Flume数据无法写入到对应组件（本示例以服务端写入到HDFS为例）。 原因分析 HDFS未启动或故障。 查看Flume运行日志： 2019-02-26 11:16:33,564 | ERROR | [SinkRunne

查看更多 →

Flume Flume基本原理 Flume与其他组件的关系 Flume开源增强特性 父主题： 组件介绍

查看更多 →

使用Flume Flume向Spark Streaming提交作业后报类找不到错误 Flume客户端安装失败 Flume客户端无法连接服务端 Flume数据写入组件失败 Flume服务端进程故障 Flume数据采集慢 Flume启动失败

查看更多 →

非加密传输 加密传输 查看Flume客户端监控信息 Flume对接安全Kafka指导 Flume对接安全Hive指导 Flume业务模型配置指导 Flume日志介绍 Flume客户端Cgroup使用指导 Flume第三方插件二次开发指导 配置Flume定制脚本 Flume常见问题

查看更多 →

非加密传输 加密传输 查看Flume客户端监控信息 Flume对接安全Kafka指导 Flume对接安全Hive指导 Flume业务模型配置指导 Flume日志介绍 Flume客户端Cgroup使用指导 Flume第三方插件二次开发指导 配置Flume定制脚本 Flume常见问题

查看更多 →

部件名 产生告警的元素名称。 对系统的影响 如果数据源有数据，Flume Source持续读取不到数据，采集会停止。 可能原因 Flume Source故障，导致数据无法发送。 网络故障，导致数据无法发送。 处理步骤 检查Flume Source是否故障。 本地打开用户自定义配置文件properties

查看更多 →

产生告警的元素名称。 对系统的影响 Flume Channel的磁盘空间使用量有继续增长的趋势，将会使数据导入到指定目的地的时间增长，当Flume Channel的磁盘空间使用量达到100%时会导致Flume Agent进程暂停工作。 可能原因 Flume Sink故障，导致数据无法发送。 网络故障，导致数据无法发送。

查看更多 →

待操作集群的名称 > 服务 > Flume > 配置”，选择“全部配置”，选择“Flume > 系统”。将“GC_OPTS”参数中“-Xmx”的值根据实际情况调大，并单击“保存”，单击“确定”。 出现此告警时，说明当前flume server设置的堆内存无法满足当前数据传输所需的堆内存，建议堆内存调整为：

查看更多 →

大容量数据库 大容量数据库背景介绍 表分区技术 数据分区查找优化 数据分区运维管理 父主题： 分区表

查看更多 →

新建数据大屏 大屏概述 新建大屏 大屏全局参数配置 大屏组件 预览大屏 发布大屏 复制大屏 大屏分享协作 管理大屏

查看更多 →

待操作集群的名称 > 服务 > Flume > 配置”，选择“全部配置”，选择“Flume > 系统”。将“GC_OPTS”参数中“-Xmx”的值根据实际情况调大，并单击“保存”，单击“确定”。 出现此告警时，说明当前flume server设置的堆内存无法满足当前数据传输所需的堆内存，建议堆内存调整为：

查看更多 →

Flume启动失败 问题现象 安装Flume服务或重启Flume服务失败。 原因分析 Flume堆内存设置的值大于机器剩余内存，查看Flume启动日志： [ CS T 2019-02-26 13:31:43][INFO] [[checkMemoryValidity:124]] [GC_OPTS

查看更多 →

外部函数调用日志。 /flume/flume-用户名-日期-pid-gc.log Flume进程的GC日志。 /flume/Flume-audit.log Flume客户端的审计日志。 /flume/startAgent.out Flume启动前的进程参数日志。 日志级别 Flume提供了如表2所示的日志级别。

查看更多 →

Flume对接OBS 概述 Flume是一个分布式的、可靠的和高可用的服务，用于收集、聚合以及移动大量日志数据，具体请参见Apache Flume。OBS在大数据场景中可以替代Hadoop系统中的HDFS服务。 注意事项 多sink写同一文件 OBS和HDFS在一致性保证上是有差

查看更多 →

大容量数据库 大容量数据库背景介绍 表分区技术 数据分区查找优化 数据分区运维管理 父主题： 分区表

查看更多 →

log 外部函数调用日志。 /flume/flume-用户名-日期-pid-gc.log Flume进程的GC日志。 /flume/Flume-audit.log Flume客户端的审计日志。 /flume/startAgent.out Flume启动前的进程参数日志。 堆栈信息日志（ MRS

查看更多 →

在样式页面对组件的样式进行配置。 保存或保存并发布大屏。 完成大屏制作之后，单击大屏编辑页面右上侧的“保存并发布”或“保存”。 保存：保存大屏之后，在大屏页面大屏不具有查看大屏功能。 在保存的页面输入大屏的名称。 图10 保存大屏 大屏名称不能为空，只允许输入长度为1到32位由数字、中文

查看更多 →

待操作集群的名称 > 服务 > Flume > 配置”，选择“全部配置”，选择“Flume > 系统”。将“GC_OPTS”参数中“-XX:MaxDirectMemorySize”的值根据实际情况调大，并单击“保存”，单击“确定”。 出现此告警时，说明当前flume server实例设置直

查看更多 →

待操作集群的名称 > 服务 > Flume > 配置”，选择“全部配置”，选择“Flume > 系统”。将“GC_OPTS”参数中“-XX: MaxPermSize”的值根据实际情况调大，并单击“保存”，单击“确定”。 出现此告警时，说明当前flume server实例设置非堆内存

查看更多 →

服务端使用的keytab文件地址，必须使用机机账号。建议使用Flume服务安装目录下flume/conf/flume_server.keytab。 agent-principal - 服务端使用的安全用户的Principal，必须使用机机账户。建议使用Flume服务默认用户flume_server/hadoop

查看更多 →