• 基础架构之日志管理平台搭建及java&net使用


      在现代化的软件开发流程中,日志显得非常的重要,不可能再零散的游离在各个项目中,等查看日志的时候再登录服务器去到特定的目录去查看,这显然很繁琐且效率低下,所有整合一套日志管理平台,也显得非常重要,这篇文章是日志管理平台搭建的第一篇,第二篇为告警及邮件通知

           环境要求:CentOS      Release:  7.5.1804

           ELK版本:6.3.1    为方便下载我打包在百度网盘,点击可直接下载

      安装

      1. Elasticsearch 解压后上传到服务器,直接用rpm命令安装即可,如运行如下命令安装elasticsearch

    rpm -ivh ./elasticsearch-6.3.1.rpm

    ,等命令执行完成后,输入

    systemctl status elasticsearch.service

    ,可查看当前运行的状态,如图所示,状态为active 说明我们的elasticsearch 服务已经启动。

     

    在浏览器输入http://192.168.1.215:9200,查看返回结果,说明elasticsearch服务已经成功运行。

     

      2. Logstash

      安装logstash比较简单,在命令行运行rpm -ivh ./logstash-6.3.1.rpm,等命令执行完成后,输入systemctl status logstash.service 查看服务状态如下图所示,即表示logstash服务已经运行。

      

      3. Kibana

      最后,我们安装kibana,在解压目录下运行

    rpm -ivh ./kibana-6.3.1-x86_64.rpm

    命令,等命令执行完后,输入

    systemctl status kibana.service

    ,输出如下图所示,

      

      说明kibana服务已经启动,我们在浏览器输入http://192.168.1.215:5601来验证下,如果不出意外,应该显示如下所示

        

    1. 安装遇到的问题

        a)      如果遇到出现端口号被占中的情况,用netstat命令查看被哪个进程占中,杀掉即可,也可以在配置文件修改端口,ELK默认端口:Elasticsearch:9200,Kibana:5601

        b)      打开kibana,如果提示认证提示,则修改下kibana的配置文件,默认路径在/etc/kibana/kibana.yml,添加如下设置 xpack.security.enabled: false即可。

     

      日志接入

    1. Java

      a)      在添加logstash包

    <dependency>
       <groupId>net.logstash.logback</groupId>
            <artifactId>logstash-logback-encoder</artifactId>
       <version>5.1</version>
    </dependency>

      b)      日志配置信息

      

    <appender name="logstash"
              class="net.logstash.logback.appender.LogstashTcpSocketAppender">
        <destination>xxx.xxx.xxx.xxx:xxxx</destination>
        <queueSize>1048576</queueSize>
        <!-- encoder必须配置,有多种可选 -->
        <encoder charset="UTF-8" class="net.logstash.logback.encoder.LogstashEncoder">
            <customFields>{"appname":"${Application_Name}"}</customFields>
        </encoder>
        <connectionStrategy>
            <roundRobin>
                <connectionTTL>5 minutes</connectionTTL>
            </roundRobin>
        </connectionStrategy>
    </appender>

    c)      Root配置

                          

    <springProfile name="log">
            <root level="debug"><appender-ref ref="logstash" /></root>
        </springProfile>

    d)      在logstash的配置文件路径,默认为/etc/logstash/conf.d添加文件biz_es.conf,文件名称可以自己根据实际需求修改。

                         

    input {
            tcp {  
            ##host:port就是上面appender中的 destination,这里其实把logstash作为服务,开启9601端口接收logback发出的消息  
                host => "0.0.0.0"
            #模式选择为server  
                mode => "server" 
                port => xxxx
            ##格式json  
                codec => "json"
                type => "server"
            }  
        
        } 
        
        output {
                if[type]=="server"{
                elasticsearch {
                action => "index"
                #ES地址
                        hosts => "192.168.1.215"
                #指定索引名字,不适用默认的,用来区分各个项目
                        index => "%{[appname]}-%{+YYYY.MM.dd}"
                }
            }
        }

      e)      需要注意点

                   i.          Logstash监听的端口号要与日志配置的端口号一致

                  ii.          防火墙要放开监听的端口,测试环境也可以把防火墙关闭

     

      2. Net

    a)      添加 NLog.Targets.ElasticSearch 程序包

    b)      编辑Nlog.config

      

    <extensions>
    
              <add assembly="NLog.Targets.ElasticSearch"/>
    
            </extensions>
    
            <target xsi:type="ElasticSearch"
    
                   name="ElasticLog"
    
                   uri="http://192.168.1.215:9200"
    
                   index="nlog-${date:format=yyyy.MM.dd}"
    
                   documentType="logevent"
    
                   includeAllProperties="true">
    
                <field name="private" layout="${assembly-version}" />
    
            </target>
    
          <rules>
    
          <logger name="Kibana" minlevel="Info" writeTo="ElasticLog"/>
    
    </rules>

    c)      添加日志

           i.          帮助 Utils

      

    public class LogHelper
    
        {
    
            private static Logger logger;
    
            private static string logRuleName = "Kibana";
    
            static LogHelper()
    
            {
    
                logger = LogManager.GetLogger(logRuleName);
    
                logger.LoggerReconfigured += logger_LoggerReconfigured;
    
            }
    
     
    
            static void logger_LoggerReconfigured(object sender, System.EventArgs e)
    
            {
    
                logger = LogManager.GetLogger(logRuleName);
    
            }
    
     
    
            public static void WirtError(string message)
    
            {
    
                logger.Log(LogLevel.Error, message);
    
            }
    
     
    
            public static void WirtDebug(string message)
    
            {
    
                logger.Log(LogLevel.Debug, message);
    
            }
    
    }

    d)      记录日志

      LogHelper.WirtError("elk log info");

    到这里elk搭建及java&net使用就完成了,下一篇主要介绍跟钉钉告警及邮件通知

  • 相关阅读:
    如何在VIM中编辑并保存退出!!!
    MapReduce---数据清洗
    构建之法阅读笔记03
    人月神话阅读笔记03
    学习进度报告16
    大道至简阅读笔记03
    大道至简阅读笔记02
    个人总结
    大道至简阅读笔记01
    学习进度报告15
  • 原文地址:https://www.cnblogs.com/lzh-boy/p/9914779.html
Copyright © 2020-2023  润新知