• ELK


    1、在配置文件中自定义的时间格式
      例如 tomcat 定义的格式 %{yyyy-MM-dd HH:mm:ss Z},按照这样的配置,输出的日志原文是 

     "timestamp""2019-12-11 10:11:12 +0800"

      那么在 logstash 中应该这样配置

    date {
      match => [ "timestamp", "yyyy-MM-dd HH:mm:ss Z"]
      target => "@timastamp" }

     这样子不会报 "_dateparsefailed" 的错误

    2、带有中括号的格式

     日志原文是这样:

    [07/Feb/2018:16:24:19 +0800]

      带有一对中括号,那么在 grok 中需要转义中括号

    [%{HTTPDATE:timestamp}]

     date插件可以直接转换:

    date {
      match => [ "timestamp", "dd/MM/yyyy HH:mm:ss Z"]
      target => "@timastamp"
    }
    这样子不会报 "_dateparsefailed" 的错误

    3、ISO8601 形式1

     原日志中的显示如下,重点是后面的三位数毫秒,日志原文

    2019-12-11 130845.254

     在 grok 中这样配置:

    grok {
      match => { "message" => "%{TIMESTAMP_ISO8601:log_create_time}" }
    }

     date 插件这样匹配:

    date {
      match => [ "log_create_time", "MMM d HH:mm:ss", "MMM DD HH:mm:ss", "ISO8601"]
      target => "@timestamp"  }

     或者这样,推荐使用这个,更加简介

    date {
      match => [ "log_create_time", "yyyy-MM-dd HH:mm:ss.SSS" ]
      target => "@timestamp" }

     这样子也不会报 "_dateparsefailed"  的错误,可以参考时间匹配规则表

    4、ISO8601 形式2

     时间 date 中带 T,日志原文如下:

    2019-12-11T17:06:33 +08:00

      此时, grok 可以这样写:

    grok {
      match => { "message" => "%{TIMESTAMP_ISO8601}:log_create_time" } }

      而 date 插件 转存到 @timestamp 中可以这样匹配:

    date {
      match => [ "log_create_time", "yyyy-MM-dd'T'HH:mm:ss ZZ" ]
      target => "@timestamp"
    }

      也可以用更简洁的写法:

    date {
      match => [ "log_create_time", "ISO8601" ]
      target => "@timestamp"
    }

    5、Unix 时间戳形式

     典型的如 MySQL 的慢查询日志,日志原文:

    # Time: 2019-12-11T01:50:21.123793Z //舍弃这个时间
    # User@Host: root[root] @ elk-master01 Id: 4
    # Quert Time: 4.650893 Lock time: 0.000000 Rows_sent: 1 Rows_examined: 0
    SET timestamp=1554342621; // 需要的是这个
    selecet sleep(4.65);

     在 grok 中这样匹配:

    %{NUMBER:timestamp_mysql_slowquery}

     在 date 插件中这样匹配:

    date {
      match => [ "timestamp_mysql_slow_query", "UNIX" ]
      target => "@timestamp" }
  • 相关阅读:
    数据仓库系列之维度建模
    为什么数据分析中要建数据仓库?
    C1WPF制作OLAP Cube浏览工具
    WPF自学入门(十二)WPF MVVM模式提取函数
    WPF自学入门(十一)WPF MVVM模式Command命令
    WPF自学入门(十)WPF MVVM简单介绍
    WPF自学入门(九)WPF自定义窗口基类
    大话Git系列之初识版本控制系统(1)
    C#(1)运用C#实现一键从Word文档转换TXT文本的功能
    arcgis api for javascript 学习(六) 地图打印
  • 原文地址:https://www.cnblogs.com/unchch/p/12097313.html
Copyright © 2020-2023  润新知