文档首页/ MapReduce服务 MRS/ 组件操作指南（LTS版）(巴黎区域)/ 使用Flume/ 从零开始使用Flume
更新时间：2022-12-14 GMT+08:00
查看PDF
分享

从零开始使用Flume

操作场景

Flume支持将采集的日志信息导入到Kafka。

前提条件

  • 已创建启用Kerberos认证的流集群。
  • 已在日志生成节点安装Flume客户端，例如安装目录为“/opt/Flumeclient”，客户端安装请参见。以下操作的客户端目录只是举例，请根据实际安装目录修改。
  • 已配置网络，使日志生成节点与流集群互通。

使用Flume客户端

普通集群不需要执行2-6。

  1. 客户端安装。

    具体请参考。

  2. 将Master1节点上的认证服务器配置文件，复制到安装Flume客户端的节点，保存到Flume客户端中“Flume客户端安装目录/fusioninsight-flume-Flume组件版本号/conf”目录下。

    文件完整路径为${BIGDATA_HOME}/FusionInsight_BASE_XXX/1_X_KerberosClient/etc/kdc.conf。其中“XXX”为产品版本号，“X”为随机生成的数字，请根据实际情况修改。同时文件需要以Flume客户端安装用户身份保存，例如root用户。

  3. 查看任一部署Flume角色节点的“业务IP”：

    登录FusionInsight Manager页面，具体请参见访问FusionInsight Manager，选择“集群 > 服务 > Flume > 实例”。查看任一部署Flume角色节点的“业务IP”。

  4. 将此节点上的用户认证文件，复制到安装Flume客户端的节点，保存到Flume客户端中“Flume客户端安装目录/fusioninsight-flume-Flume组件版本号/conf”目录下。

    文件完整路径为${BIGDATA_HOME}/FusionInsight_Porter_XXX/install/FusionInsight-Flume-Flume组件版本号/flume/conf/flume.keytab。

    其中“XXX”为产品版本号，请根据实际情况修改。同时文件需要以Flume客户端安装用户身份保存，例如root用户。

  5. 将此节点上的配置文件“jaas.conf”，复制到安装Flume客户端的节点，保存到Flume客户端中“conf”目录。

    文件完整路径为${BIGDATA_HOME}/FusionInsight_Current/1_X_Flume/etc/jaas.conf。

    其中“X”为随机生成的数字，请根据实际情况修改。同时文件需要以Flume客户端安装用户身份保存，例如root用户。

  6. 登录安装Flume客户端节点，切换到客户端安装目录，执行以下命令修改文件：

    vi conf/jaas.conf

    修改参数“keyTab”定义的用户认证文件完整路径即4中保存用户认证文件的目录：“Flume客户端安装目录/fusioninsight-flume-Flume组件版本号/conf”，然后保存并退出。

  7. 执行以下命令，修改Flume客户端配置文件“flume-env.sh”：

    vi Flume客户端安装目录/fusioninsight-flume-Flume组件版本号/conf/flume-env.sh

    在“-XX:+UseCMSCompactAtFullCollection”后面，增加以下内容：

    -Djava.security.krb5.conf=Flume客户端安装目录/fusioninsight-flume-1.9.0/conf/kdc.conf -Djava.security.auth.login.config=Flume客户端安装目录/fusioninsight-flume-1.9.0/conf/jaas.conf -Dzookeeper.request.timeout=120000

    例如："-XX:+UseCMSCompactAtFullCollection -Djava.security.krb5.conf=Flume客户端安装目录/fusioninsight-flume-Flume组件版本号/conf/kdc.conf -Djava.security.auth.login.config=Flume客户端安装目录/fusioninsight-flume-Flume组件版本号/conf/jaas.conf -Dzookeeper.request.timeout=120000"

    请根据实际情况，修改“Flume客户端安装目录”，然后保存并退出。

  8. 执行以下命令，重启Flume客户端：

    cd Flume客户端安装目录/fusioninsight-flume-Flume组件版本号/bin

    ./flume-manage.sh restart

    例如：

    cd /opt/FlumeClient/fusioninsight-flume-Flume组件版本号/bin

    ./flume-manage.sh restart

  9. 根据实际业务场景配置作业。

    • 部分参数可直接在Manager界面配置，可参考非加密传输或加密传输。
    • 在“properties.properties”文件中配置，以配置SpoolDir Source+File Channel+Kafka Sink为例。

      在安装Flume客户端的节点执行以下命令，根据实际业务需求，可参考Flume业务配置指南在Flume客户端配置文件“properties.properties”中配置并保存作业。

      vi Flume客户端安装目录/fusioninsight-flume-Flume组件版本号/conf/properties.properties

      #########################################################################################
client.sources = static_log_source  
client.channels = static_log_channel 
client.sinks = kafka_sink
#########################################################################################
#LOG_TO_HDFS_ONLINE_1

client.sources.static_log_source.type = spooldir
client.sources.static_log_source.spoolDir = 监控目录
client.sources.static_log_source.fileSuffix = .COMPLETED
client.sources.static_log_source.ignorePattern = ^$
client.sources.static_log_source.trackerDir = 传输过程中元数据存储路径
client.sources.static_log_source.maxBlobLength = 16384
client.sources.static_log_source.batchSize = 51200
client.sources.static_log_source.inputCharset = UTF-8
client.sources.static_log_source.deserializer = LINE
client.sources.static_log_source.selector.type = replicating
client.sources.static_log_source.fileHeaderKey = file
client.sources.static_log_source.fileHeader = false
client.sources.static_log_source.basenameHeader = true
client.sources.static_log_source.basenameHeaderKey = basename
client.sources.static_log_source.deletePolicy = never

client.channels.static_log_channel.type = file
client.channels.static_log_channel.dataDirs = 数据缓存路径，设置多个路径可提升性能，中间用逗号分开
client.channels.static_log_channel.checkpointDir = 检查点存放路径
client.channels.static_log_channel.maxFileSize = 2146435071
client.channels.static_log_channel.capacity = 1000000
client.channels.static_log_channel.transactionCapacity = 612000
client.channels.static_log_channel.minimumRequiredSpace = 524288000

client.sinks.kafka_sink.type = org.apache.flume.sink.kafka.KafkaSink
client.sinks.kafka_sink.kafka.topic = 数据写入的topic，如flume_test
client.sinks.kafka_sink.kafka.bootstrap.servers = XXX.XXX.XXX.XXX:kafka端口号,XXX.XXX.XXX.XXX:kafka端口号,XXX.XXX.XXX.XXX:kafka端口号
client.sinks.kafka_sink.flumeBatchSize = 1000
client.sinks.kafka_sink.kafka.producer.type = sync
client.sinks.kafka_sink.kafka.security.protocol = SASL_PLAINTEXT
client.sinks.kafka_sink.kafka.kerberos.domain.name = Kafka Domain名称，安全集群必填，如hadoop.xxx.com
client.sinks.kafka_sink.requiredAcks = 0

client.sources.static_log_source.channels = static_log_channel
client.sinks.kafka_sink.channel = static_log_channel
      • client.sinks.kafka_sink.kafka.topic：数据写入的topic。若kafka中该topic不存在，默认情况下会自动创建该topic。
      • client.sinks.kafka_sink.kafka.bootstrap.servers：Kafkabrokers列表，多个用英文逗号分隔。默认情况下，安全集群端口21007，普通集群对应端口9092。
      • client.sinks.kafka_sink.kafka.security.protocol：安全集群为SASL_PLAINTEXT，普通集群为PLAINTEXT。
      • client.sinks.kafka_sink.kafka.kerberos.domain.name：

        普通集群无需配置此参数。安全集群对应此参数的值为Kafka集群中“kerberos.domain.name”对应的值。

        其中X为随机生成的数字，请根据实际情况修改。同时文件需要以Flume客户端安装用户身份保存，例如root用户。

  10. 参数配置并保存后，Flume客户端将自动加载“properties.properties”中配置的内容。当spoolDir生成新的日志文件，文件内容将发送到Kafka生产者，并支持Kafka消费者消费。可参考管理Kafka主题中的消息查看数据消费情况。
父主题： 使用Flume