• flume分布式日志收集系统操作


    1.flume是分布式的日志收集系统,把收集来的数据传送到目的地去。
    2.flume里面有个核心概念,叫做agent。agent是一个java进程,运行在日志收集节点。
    3.agent里面包含3个核心组件:source、channel、sink。
    3.1 source组件是专用于收集日志的,可以处理各种类型各种格式的日志数据,包括avro、thrift、exec


    、jms、spooling directory、netcat、sequence generator、syslog、http、legacy、自定义。
        source组件把数据收集来以后,临时存放在channel中。
    3.2 channel组件是在agent中专用于临时存储数据的,可以存放在memory、jdbc、file、自定义。
        channel中的数据只有在sink发送成功之后才会被删除。
    3.3 sink组件是用于把数据发送到目的地的组件,目的地包括hdfs、logger、avro、thrift、ipc、file


    、null、hbase、solr、自定义。
    4.在整个数据传输过程中,流动的是event。事务保证是在event级别。
    5.flume可以支持多级flume的agent,支持扇入(fan-in)、扇出(fan-out)。








    6.书写配置文件example


    #定义agent名, source、channel、sink的名称
    a4.sources = r1
    a4.channels = c1
    a4.sinks = k1


    #具体定义source
    a4.sources.r1.type = spooldir
    a4.sources.r1.spoolDir = /home/hadoop/logs


    #具体定义channel
    a4.channels.c1.type = memory
    a4.channels.c1.capacity = 10000
    a4.channels.c1.transactionCapacity = 100


    #定义拦截器,为消息添加时间戳
    a4.sources.r1.interceptors = i1
    a4.sources.r1.interceptors.i1.type = org.apache.flume.interceptor.TimestampInterceptor


    $Builder




    #具体定义sink
    a4.sinks.k1.type = hdfs
    a4.sinks.k1.hdfs.path = hdfs://ns1/flume/%Y%m%d
    a4.sinks.k1.hdfs.filePrefix = events-
    a4.sinks.k1.hdfs.fileType = DataStream
    #不按照条数生成文件
    a4.sinks.k1.hdfs.rollCount = 0
    #HDFS上的文件达到128M时生成一个文件
    a4.sinks.k1.hdfs.rollSize = 134217728
    #HDFS上的文件达到60秒生成一个文件
    a4.sinks.k1.hdfs.rollInterval = 60


    #组装source、channel、sink
    a4.sources.r1.channels = c1
    a4.sinks.k1.channel = c1




    7.执行命令~/flume/bin/flume-ng agent -n agent1 -c conf -f conf/example -


    Dflume.root.logger=DEBUG,console


    运行的时候可能缺少jar包  要导入
    还要将hadoop的core-site.xml和hdfs-site.xml拷贝到flume的conf目录下
    还要将flume机器的hosts文件修改配置

  • 相关阅读:
    一、介绍与基础操作命令
    ES配置详细说明
    通过命令名称查询进程id
    应用商店流程
    你对女人好并不会让她爱上你
    java 对list进行排序
    java web判断是否登录
    支付返回post请求数据
    不方便的事情,人们都不大会去做
    不方便的事情,人们都不大会去做
  • 原文地址:https://www.cnblogs.com/jchubby/p/4429685.html
Copyright © 2020-2023  润新知