Linux记录-监控系统开发

需求：使用shell定制各种个性化告警工具，但需要统一化管理、规范化管理。
思路：指定一个脚本包，包含主程序、子程序、配置文件、邮件引擎、输出日志等。
主程序：作为整个脚本的入口，是整个系统的命脉。
配置文件：是一个控制中心，用它来开关各个子程序，指定各个相关联的日志文件。
子程序：这个才是真正的监控脚本，用来监控各个指标。
邮件引擎：是由一个python程序来实现，它可以定义发邮件的服务器、发邮件人以及发件人密码
输出日志：整个监控系统要有日志输出。
要求：我们的机器角色多种多样，但是所有机器上都要部署同样的监控系统，也就说所有机器不管什么角色，整个程序框架都是一致的，不同的地方在于根据不同的角色，定制不同的配置文件。
程序架构： 

bin下是主程序
conf下是配置文件
shares下是各个监控脚本
mail下是邮件引擎
log下是日志。

主脚本

#!/bin/bash
#是否发送邮件的开关
export send=1
#过滤ip地址
export addr=`/sbin/ifconfig |grep -A1 "ens33: "|awk '/inet/ {print $2}'`
dir=`pwd`
#只需要最后一级目录名
last_dir=`echo $dir|awk -F'/' '{print $NF}'`
#下面的判断目的是，保证执行脚本的时候，我们在bin目录里，不然监控脚本、邮件和日志很有可能找不到
if [ $last_dir == "bin" ] || [ $last_dir == "bin/" ]; then
    conf_file="../conf/mon.conf"
else
    echo "you shoud cd bin dir"
    exit
fi
exec 1>>../log/mon.log 2>>../log/err.log
echo "`date +"%F %T"` load average"
/bin/bash ../shares/load.sh
#先检查配置文件中是否需要监控502
if grep -q 'to_mon_502=1' $conf_file; then
    export log=`grep 'logfile=' $conf_file |awk -F '=' '{print $2}' |sed 's/ //g'`
    /bin/bash  ../shares/502.sh
fi

配置文件

vim mon/conf/mon.conf

##to config the options if to monitor
##定义mysql的服务器地址、端口以及user、password
to_mon_cdb=0   ##0 or 1, default 0,0 not monitor, 1 monitor
db_ip=10.20.3.13
db_port=3315
db_user=username
db_pass=passwd
##httpd   如果是1则监控，为0不监控
to_mon_httpd=0
##php 如果是1则监控，为0不监控
to_mon_php_socket=0
##http_code_502  需要定义访问日志的路径
to_mon_502=1
logfile=/data/log/xxx.xxx.com/access.log
##request_count   定义日志路径以及域名
to_mon_request_count=0
req_log=/data/log/www.discuz.net/access.log
domainname=www.discuz.net

监控项目

1 负载监控
vim /mon/shares/load.sh

#! /bin/bash
load=`uptime |awk -F 'average:' '{print $2}'|cut -d',' -f1|sed 's/ //g' |cut -d. -f1`
if [ $load -gt 10 ] && [ $send -eq "1" ]
then
    echo "$addr `date +%T` load is $load" >../log/load.tmp
    /bin/bash ../mail/mail.sh lvlinux@163.com "$addr\_load:$load"  "`cat ../log/load.tmp`"
fi
echo "`date +%T` load is $load"

2 502错误监控
vim mon/shares/502.sh

#! /bin/bash
d=`date -d "-1 min" +%H:%M`
c_502=`grep :$d:  $log   |grep ' 502 '|wc -l`
if [ $c_502 -gt 10 ] && [ $send == 1 ]; then
     echo "$addr $d 502 count is $c_502">../log/502.tmp
     /bin/bash ../mail/mail.sh  lvlinux@163.com   "$addr\_502 $c_502"   "`cat    ../log/502.tmp`"
fi
echo "`date +%T` 502 $c_502"

3 硬盘监控
vim mon/shares/disk.sh

#! /bin/bash
rm -f ../log/disk.tmp
for r in `df -h |awk -F '[ %]+' '{print $5}'|grep -v Use`
do
    if [ $r -gt 90 ] && [ $send -eq "1" ]
then
    echo "$addr `date +%T` disk useage is $r" >>../log/disk.tmp
fi
if [ -f ../log/disk.tmp ]
then
    df -h >> ../log/disk.tmp
    /bin/bash ../mail/mail.sh  lvlinux@163.com   "$addr\_disk$r"   "` cat ../log/disk.tmp`"
    echo "`date +%T` disk useage is nook"
else
    echo "`date +%T` disk useage is ok"
fi

告警脚本

vim mail.sh

log=$1   //给变量log赋值
t_s=`date +%s`  //定义当前绝对时间戳，单位为秒
t_s2=`date -d "2 hours ago" +%s` //定义上次告警时间戳，用作第一次发现异常
if [ ! -f /tmp/$log ]
then
    echo $t_s2 > /tmp/$log
fi      //将上次告警时间戳写入日志，用作第一次发现异常
t_s2=`tail -1 /tmp/$log|awk '{print $1}'`    //从日志取出上次告警时间戳
echo $t_s >> /tmp/$log     //将本次告警时间戳追加到日志
v=$[$t_s-$t_s2]    //计算两次告警相隔时间
if [ $v -gt 3600 ]
then
    ../mail/mail.py $1 $2 "$3" //当相隔超过一小时，发送邮件，提醒有故障发生。
    echo "0" > /tmp/$log.txt
else
    if [ ! -f /tmp/$log.txt ]
    then
        echo "0" > /tmp/$log.txt
    fi
    nu=`cat /tmp/$log.txt`
    nu2=$[$nu+1]
    echo $nu2 > /tmp/$log.txt
    if [ $nu2 -gt 10 ]
    then
        ../mail/mail.py $1 "trouble continue 10 min  $2 " "$3"
         echo "0" > /tmp/$log.txt
    fi  
fi  //相隔小于一小时，启动计数器，计数器大于10发送邮件，提醒故障持续了10分钟。

发邮件脚本

vim mail.py

#!/usr/bin/env python
#-*- coding: UTF-8 -*-
import os,sys
reload(sys)
sys.setdefaultencoding('utf8')
import getopt
import smtplib
from email.MIMEText import MIMEText
from email.MIMEMultipart import MIMEMultipart
from  subprocess import *
def sendqqmail(username,password,mailfrom,mailto,subject,content):
    gserver = 'smtp.qq.com'    //更具实际情况作更改
    gport = 25
    try:
        msg = MIMEText(unicode(content).encode('utf-8'))
        msg['from'] = mailfrom
        msg['to'] = mailto
        msg['Reply-To'] = mailfrom
        msg['Subject'] = subject
        smtp = smtplib.SMTP(gserver, gport)
        smtp.set_debuglevel(0)
        smtp.ehlo()
        smtp.login(username,password)
        smtp.sendmail(mailfrom, mailto, msg.as_string())
        smtp.close()
    except Exception,err:
        print "Send mail failed. Error: %s" % err
def main():
    to=sys.argv[1]
    subject=sys.argv[2]
    content=sys.argv[3]
##定义QQ邮箱的账号和密码，你需要修改成你自己的账号和密码
 sendqqmail('1234567@qq.com','aaaaaaaaaa','1234567@qq.com',to,subject,content)
if __name__ == "__main__":
    main()

两个问题

1 告警收敛脚本原理
首先明白一个前提，我们是发现问题才会告警发邮件通知，那么当告警脚本未加载时，说名当前监控项正常。或者之前出现异常，但是已经恢复。
我们写这个脚本的目的是防止问题出现，处于修复期的频繁告警。那么我们就要去判断这是一个新的异常，还是一个已发现的故障。我们可以定义一个时间阈值，一小时。比如距离上一次问题出现，也就是距离上一次告警的时间大于一小时，我们认为就是一个新的异常，否则就是一个尚未解决的故障。
具体怎么实现了，我们可以借助记录日志的思想，每次告警，我们都记录一个绝对时间戳，当下一次告警到来时，用当前时间戳减去上一次报警的时间戳，然后if判断该差值，从而确定告警动作。
在具体脚本中定义t2为上一次告警时间戳，t1为当前时间戳，t1-t2就是我们要的判断值。t1可以用命令直接获取，t1=`date +%s` t2 要从日志中获取。但是还有一个问题，对于第一次告警，该t2从哪里来了，也简单，我们自己定义一个满足新异常条件的时间戳就可以，比如两小时之前。
t2=`date -d "two hours ago" +%s`
对于一个已发现待解决的故障，也就是对应上面时间戳差值小于一小时的情况，如果我们的脚本是一分钟执行一次，就可以做一个计数器，每发现一次，计数一次，当计数器大于10时，也就是异常持续了10分钟，这时候发送邮件一次，同时清空计时器。
2 $1 $2 $3 参数传递问题
因为mail.py 脚本决定了发送邮件必须带三个参数，收件人邮箱，主题， 内容。因此mail.sh 调用mail.py 必须传递给它三个参数，那么这三个参数最终来自哪里呢，来自监控项脚本，比如load.sh
传递顺序为 load.sh---->mail.sh----->mail.py
再解释mail.sh 第一行，log=$1 , 是一个变量赋值语句，此时的$1就是load.sh 传递过来的邮箱名称。
在程序中我么看到后面将时间戳保存在了/tmp/$log 下面，该复制语句是为了给该日志文件取一个有意义的名称，便于以后管理。当然可以给出其他赋值，比如log=time.txt