• logstash安装与启动,读取文件写入es中


    logstasha安装注意事项与启动案例
    Logstash 是ELK的主要成员 (logstash ElasticSearch Kibana)主要作用是读取数据,并且提供了过滤器清洗数据,输出数据
    我们接下来展示案例,这里需要注意的是: ELK都是同一个公司的出品,所以 组合起来 版本也必须一致
    一定要注重版  否则 会有很有奇怪的bug  例如 找不到java_home 或者是findStr命令失效 等等 环境变量明明配置了但是就是出错等原因, 最好选择 7.16.2版本
    安装开始:
    选择logstash  并且选择 7.16.2版本 下载:
    下载到本地后解压软件:
    第二步 进入bin目录
    我们创建一个weblog.conf的文件,这也是我们要读取目标和输出数据的配置
    copy出内容
     
    input{
      file{
          path=>["C:\Users\Administrator\log\xxxx1.2\bms-web.log"] #需要读取的文件
             #监听文件的起始位置,默认是end
          start_position => beginning
     
     
          type=>"data"
        
          sincedb_path => "D:\1.txt"
     
     
      }    
    }
    filter {
        grok {
            match => {
                # 从原始日志中解析出 trace_id 等其它需要的字段
                "message" => "^(?<timestamp>\d{4}\-\d{2}\-\d{2}\s\d{2}\:\d{2}\:\d{2}\.\d{3})\s(?<level>\w{4,5})\s+\T\I\D\:\s*(?<trace_id>[0-9a-f.]{54})\s%{DATA:thread}\s%{DATA:class}\:%{GREEDYDATA:content}$"
            }
        }
        mutate {
            remove_field => "message" # 删除原始日志内容节省存储和带宽
        }
    }
     
     
    output{
        #elasticsearch{ #输出到es
        #hosts=>["127.0.0.1:9200"] 
        #index=>"filedemo"
        # document_type => "filedemo"
        #}
            stdout{codec => rubydebug }
    }
    编写完了文件bin目录就多了一个weblog.conf文件
    启动logstash 测试一下 
    cmd  进入到 logstash 的bin目录下
     输入命令
    logstash -f weblog.conf
     
    结果是启动成功  , 我这里是把文件 输出的ES里面了你如果也想输出的ES  需要把 文件的注释解除: 并且还要安装ElasticSearch
    output{
        elasticsearch{ #输出到es
        hosts=>["127.0.0.1:9200"]
        index=>"filedemo"
         document_type => "filedemo"
        }
            stdout{codec => rubydebug }
    }
     
  • 相关阅读:
    git 相关
    3D渲染相关基本概念
    c#调用GDAL判断图片文件是否损坏
    8.26 轩然大波
    宽容与未来
    vue学习:打开/刷新一个页面时,触发一个后端请求
    linux histroy显示时间
    从数的角度理解视角转换
    对非法网站的一次提权
    简单的BC站点getshell
  • 原文地址:https://www.cnblogs.com/langjunnan/p/15942613.html
Copyright © 2020-2023  润新知