goaccess了,它是一个日志分析工具,并不只是为nginx使用的,你也可以用它来分析apache,具有解析速度快,使用简单,能生成json,html,csv等特点。
1.goaccess的基本安装
wget http://tar.goaccess.io/goaccess-1.1.tar.gz yum install glib2 glib2-devel GeoIP-devel ncurses-devel tar xvf goaccess-1.1.tar.gz -C /usr/local cd /usr/local/ cd goaccess-1.1/ ./configure --enable-geoip --enable-utf8 --with-openssl make && make install goaccess -f /var/log/nginx/access.log -a
lanmp默认使用common log format日志格式
2.日志分析结果的输出的城市显示
wget -N http://geolite.maxmind.com/download/geoip/database/GeoLiteCity.dat.gz gunzip GeoLiteCity.dat.gz goaccess -f /var/log/nginx/access.log --log-format="%h %^[%d:%t %^] "%r" %s %b "%R" "%u"" --date-format="%d/%b/%Y" --time-format=%H:%M:%S -a --geoip-database=/usr/local/goaccess-1.1/GeoLiteCity.dat > /tmp/nginx-log-`date +%F-%H-%M-%S`.html
其中log format依实际nginx的格式自己设定,如果nginx的log format为默认,可以使用goaccess中推荐的common log format日志格式设置,如果nginx的日志中有使用引号,在命令行中须使用进行转义
如果nginx格式自己有变动,可以依据https://goaccess.io/man对命令行中的格式进行自定义
goaccess命令中的相关参数命令可以阅读https://github.com/allinurl/goaccess中的详细解释
--geoip-database=/usr/local/goaccess-1.1/GeoLiteCity.dat此条参数为输出时加载GeoLiteCity.dat的数据,goaccess中默认使用的geoip数据不全,只能显示到country,不能显示到city。
3.使用mutt和msmtp将生成的html文件自动发送至邮箱
配置msmtp,只需要在用户根目录下创建.msmtprc 文件添加如下配置文件即可,msmtp主要配置发件的服务器地址,以及认证信息
yum -y install mutt msmtp
[root@iZ25b31bdp0Z tmp]# cat /root/.msmtprc defaults tls on logfile /var/log/msmtp/msmtp.log account default host smtp.126.com port 25 //不同的邮箱的smtp端口可能不一样,自行去邮箱官网查询 from marility@126.com //发件人的邮箱 auth login //授权选择login就可以 tls off user marility@126.com //邮箱用户 password PASSWORD //这处PASSWORD密码为邮箱smtp的授权码,不是网页邮件登陆密码,此处密码为明文,也可以使用gpg2进行加密,详细设定可以查看文尾
[root@iZ25b31bdp0Z tmp]# cat /root/.muttrc set sendmail="/usr/bin/msmtp" set use_from=yes set realname="marility" //邮件发送时显示的用户名 set from=marility@126.com //发件人的邮箱 set envelope_from=yes set charset = "utf-8" set send_charset = "us-ascii:iso-8859-1:gb18030:utf-8"
chmod +x nginxlogsend.sh echo " " | mutt -s "nginx-log-`date +%F-%H-%M-%S`" 85362119@qq.com -a /tmp/nginx-log-2016-11-21-14-59-32.html echo "邮件内容" | mutt –s "邮件标题" 收件人邮箱 –a 附件的路径
4.自动化发送生成的日志分析文件
写一个脚本,在脚本中执行如上两条命令,然后加入到crontab中
vim /root/nginxlogsend.sh #!/bin/bash # # goaccess -f /var/log/nginx/access.log --log-format="%h %^[%d:%t %^] "%r" %s %b "%R" "%u"" --date-format="%d/%b/%Y" --time-format=%H:%M:%S -a --geoip-database=/usr/local/goaccess-1.1/GeoLiteCity.dat > /data/nginx-log.html echo " " | mutt -s "nginx-log-`date +%F-%H-%M-%S`" 85362119@qq.com -a /data/nginx-log.html tar zcf /data/nginx-log-`date +%F-%H-%M-%S`.tar.gz /data/nginx-log.html
crontab –e 1 0 * * * /root/nginxlogsend.sh
5.msmtp密码加密
因为/root/.msmtprc中用户邮箱的smtp的授权码在上述示例中使用的明文,在此不安全。
在msmtp中除了将密码放置于配置文件中,还可以读取gpg2加密文件
5.1生成密钥对
在主机A.B两边各种生成自己的gpg2密钥对
gen –gen-key
依次选择1>0>4096>输入用户信息及解密密码(解密密码很重要,后期解密文件使用)>o
之后提示移动鼠标键盘,在tty中无法使用,在此可以使用dd命令随机写入
dd if=/dev/zero of=/dev/null bs=10 count=10000
5.2查看密钥对并导出自己的公钥
gen2 –K
其中下图中黑色部分为密钥ID
导出密钥格式为gpg2 –a –o 公钥文件名称 –-export 密钥ID
5.3将A机器(A必须为msmtp主机)公钥传给B机器
5.4在B机器上导入A机器公钥
5.5在B机器上将存有密码的文件进行加密
gpg2 –e –r marility msmpasswd
其中marility为A机器上生成密钥时的用户,msmpasswd为存有密码的文件,
执行之后会生成一个msmpasswd.gpg的文件,使用cat查看得出乱码,到达加密效果
5.6将B机器上的加密文件回传到A主机
5.7对加密文件进行解密测试
使用格式为gpg2 –no-tty –-passphrase=A机器上解密密码 –q –d 加密文件
5.8更改/root/.msmtprc中配置,如下
[root@iZ25b31bdp0Z tmp]# cat /root/.msmtprc defaults tls on logfile /var/log/msmtp/msmtp.log account default host smtp.126.com port 25 from marility@126.com auth login tls off user marility@126.com passwordeval gpg2 --no-tty --passphrase=chunlanyy -q -d msmpasswd.gpg ##此处为passwordeval,并非为password