• Linux运维五:定时任务crond服务


    一、crond简介

    crond是linux下用来周期性的执行某种任务或等待处理某些事件的一个守护进程,与windows下的计划任务类似,当安装完成操作系统后,默认会安装此服务工具,并且会自动启动crond进程,crontab依赖的服务就是crond,crond进程每分钟会定期检查是否有要执行的任务,如果有要执行的任务,则自动执行该任务。这个crond定时任务服务就相当于我们生活中的闹钟

    由于crond 是Linux的内置服务,但它不自动起来,可以用以下的方法启动、关闭这个服务:

    /sbin/service crond start //启动服务
    /sbin/service crond stop //关闭服务
    /sbin/service crond restart //重启服务
    /sbin/service crond reload //重新载入配置
    或者使用下面的命令:
    /etc/init.d/crond start
    /etc/init.d/crond restart
    /etc/init.d/crond stop

    设置crond服务开机自启动:

    [root@gin tmp]# chkconfig crond on

    特殊需要:crond服务搞不定了,一般工作中写脚本守护程序执行:

    [root@gin tmp]# cat cron.sh
    while true
    do
            echo "I am Bruce Lee"
            sleep 1
    done
    

    程序文件:程序代码组成,但是没有在计算机内执行。当前没有执行。

    守护程序或守护进程:进程就是所算机中正在执行的程序,守护进程就是保护正在一直运行的程序。

    Linux下的任务调度分为两类,系统任务调度和用户任务调度。

    A. 系统任务调度:

    系统周期性所要执行的工作,比如写缓存数据到硬盘、日志清理等。在/etc目录下有一个crontab文件,这个就是系统任务调度的配置文件。

    /etc/crontab文件包括下面几行:

    SHELL=/bin/bash  
    PATH=/sbin:/bin:/usr/sbin:/usr/bin  
    MAILTO=root  
    HOME=/  
    # run-parts  
    01 * * * * root run-parts /etc/cron.hourly  
    02 4 * * * root run-parts /etc/cron.daily  
    22 4 * * 0 root run-parts /etc/cron.weekly  
    42 4 1 * * root run-parts /etc/cron.monthly
    

    前四行是用来配置crond任务运行的环境变量

    第一行SHELL变量指定了系统要使用哪个shell,这里是bash

    第二行PATH变量指定了系统执 行命令的路径

    第三行MAILTO变量指定了crond的任务执行信息将通过电子邮件发送给root用户,如果MAILTO变量的值为空,则表示不发送任 务执行信息给用户

    第四行的HOME变量指定了在执行命令或者脚本时使用的主目录。第六至九行表示的含义将在下个小节详细讲述。这里不在多说。

    B. 用户任务调度:

    用户定期要执行的工作,比如用户数据备份、定时邮件提醒等。用户可以使用 crontab 工具来定制自己的计划任务。所有用户定义的crontab 文件都被保存在 /var/spool/cron目录中。其文件名与当前用户名一致。

    严格的说,linux系统下的定时任务软件还真不少,例如:at , crontab , anacron。

    at:适合仅执行一次就结束的调度任务命令,如:某天晚上需要处理一个任务,仅仅是这一天的晚上,属于突发性的工作任务。要执行at命令,还需要启动一个名为atd的服务才行。在生产环境中此需要会很少用到。因此,建议不要深入研究!

    提示:

    1:我们所说的crond服务是运行的程序,而crontab命令用户用来设置定时规则的命令

    2:crond服务是企业生产工作中常用的重要服务,at和anacron很少使用,可以忽略

    3:几乎每个服务器都会用到crond服务

    二、crontab工具的使用

    (1)crontab的使用格式

    crontab常用的使用格式有如下两种:

    crontab [-u user] [file]
    crontab [-u user] [-e|-l|-r |-i]
    

    选项含义如下:

    参数名称

    含义

    指定示例

    -l

    显示用户crontab文件内容,l即list

    crontab -l

    -e

    编辑某个用户的crontab文件内容。如果不指定用户,则表示编辑当前用户的crontab文件。

    crontab -e

    -i

    在删除用户的crontab文件时给确认提示。

    crontab -ri

    -r

    从/var/spool/cron目录中删除某个用户的crontab文件,不指定用户,则删除当前用户的crontab文件。

    crontab -r

    -u

    用来设定某个用户的crontab服务,此参数一般由root用户来运行

    crontab -u root -l

    常用的选项命令为 l and e!crontab -e 相当于 vi /var/spool/cron/root ; crontab -l 相当于 cat /var/spool/cron/root

    使用者权限文件:

    文件

    说明

    /etc/cron.deny

    该文件中所列用户不允许使用crontab命令

    /etc/cron.allow

    该文件中所列用户允许使用crontab命令

    /var/spool/cron/

    所有用户crontab文件存放的目录,以用户名命令

    (2)crontab文件的含义

    用户所建立的crontab文件中,每一行都代表一项任务,每行的每个字段代表一项设置,它的格式共分为六个字段,前五段是时间设定段,第六段是要执行的命令段,格式如下:

    minute   hour   day   month   week   command
    

    其中:

    * minute: 表示分钟,可以是从0到59之间的任何整数。
    * hour:表示小时,可以是从0到23之间的任何整数。
    * day:表示日期,可以是从1到31之间的任何整数。
    * month:表示月份,可以是从1到12之间的任何整数。
    * week:表示星期几,可以是从0到7之间的任何整数,这里的0或7代表星期日。
    * command:要执行的命令,可以是系统命令,也可以是自己编写的脚本文件。
    

    在以上各个字段中,还可以使用以下特殊字符:

    * 星号(*):代表所有可能的值,例如month字段如果是星号,则表示在满足其它字段的制约条件后每月都执行该命令操作。
    * 逗号(,):可以用逗号隔开的值指定一个列表范围,例如,“1,2,5,7,8,9”
    * 中杠(-):可以用整数之间的中杠表示一个整数范围,例如“2-6”表示“2,3,4,5,6”
    * 正斜线(/):可以用正斜线指定时间的间隔频率,例如“0-23/2”表示每两小时执行一次。同时正斜线可以和星号一起使用,例如*/10,如果用在minute字段,表示每十分钟执行一次。
    

    (3)crontab文件举例

    0 */3 * * * /usr/local/apache2/apachectl restart  

    #表示每隔3个小时重启apache服务一次。  

    30 3 * * 6 /webdata/bin/backup.sh
    

    #表示每周六的3点30分执行/webdata/bin/backup.sh脚本的操作。  

    0 0 1,20 * *  fsck /dev/sdb8
    

    #表示每个月的1号和20号检查/dev/sdb8磁盘设备。

    10 5 */5 * *  echo "">/usr/local/apache2/log/access_log
    

    #表示每个月的5号、10号、15号、20号、25号、30号的5点10分执行清理apache日志操作。

    (4)任务调度设置文件的写法

    可用crontab -e命令来编辑,编辑的是/var/spool/cron下对应用户的cron文件,也可以直接修改/etc/crontab文件

    具体格式如下:

    Minute Hour Day Month Dayofweek   command
    分钟     小时   天     月       天每星期       命令
         每个字段代表的含义如下:
         Minute             每个小时的第几分钟执行该任务
         Hour               每天的第几个小时执行该任务
         Day                 每月的第几天执行该任务
         Month             每年的第几个月执行该任务
         DayOfWeek     每周的第几天执行该任务
         Command       指定要执行的程序

    在这些字段里,除了“Command”是每次都必须指定的字段以外,其它字段皆为可选字段,可视需要决定。对于不指定的字段,要用“*”来填补其位置。

    举例如下:

    5       *       *           *     *     ls             指定每小时的第5分钟执行一次ls命令
    30     5       *           *     *     ls             指定每天的 5:30 执行ls命令
    30     7       8         *     *     ls             指定每月8号的7:30分执行ls命令
    30     5       8         6     *     ls             指定每年的6月8日5:30执行ls命令
    30     6       *           *     0     ls             指定每星期日的6:30执行ls命令[注:0表示星期天,1表示星期1,
    

    以此类推,也可以用英文来表示,sun表示星期天,mon表示星期一等。

    30     3     10,20     *     *     ls     每月10号及20号的3:30执行ls命令[注:“,”用来连接多个不连续的时段
    25     8-11 *           *     *     ls       每天8-11点的第25分钟执行ls命令[注:“-”用来连接连续的时段
    */15   *       *           *     *     ls         每15分钟执行一次ls命令 [即每个小时的第0 15 30 45 60分钟执行ls命令
    30   6     */10         *     *     ls       每个月中,每隔10天6:30执行一次ls命令[即每月的1、11、21、31日是的6:30执行一次ls 命令。
    

    每天7:50以root 身份执行/etc/cron.daily目录中的所有可执行文件

    50   7       *             *     *     root     run-parts     /etc/cron.daily   [ 注:run-parts参数表示,执行后面目录中的所有可执行文件。
    

    (5)cron文件语法:

    分     小时    日       月       星期     命令
    0-59   0-23   1-31   1-12     0-6     command     (取值范围,0表示周日一般一行对应一个任务)

    记住几个特殊符号的含义:

    “*”代表取值范围内的数字,
    “/”代表”每”,
    “-”代表从某个数字到某个数字,
    “,”分开几个离散的数字
    

    (6)应用案例

    1:

    30 30,12 * * * /bin/sh /scripts/andy.sh

    在本例中,该定时任务的意思就是每天凌晨3点30分和中午12点30分执行/scripts/andy.sh

    2:

    30 */6 * * * /bin/sh /scripts/andy.sh

    每隔6个小时的半点时刻执行后面的脚本任务

    3:

    30 8-18/2 * * * /bin/sh /scripts/andy.sh

    8点到18点中每隔2小时的30分执行后面的脚本任务(也就是每天的8点半,10点半,12点半,14点半,16点半,18点半)

    4:

    45 4 1,10,22 * * /application/apache/bin/apachectl graceful

    每月的1,10,22日的凌晨4:45分重启apache

    5:

    * 23,00-07/1 * * * /application/apache/bin/apachectl gracefull

    上面的例子并不表示晚上23点和早上0-7点之间每隔一小时重启apache

    提示:以上结果是不规范的,也是不对的。

    以上的定时任务的第一列为*,表示每分都执行任务即晚上23点和早上0-7点之间每隔一小时的每分都重启apache

    三、 使用crontab工具的注意事项

    1)注意环境变量问题

    有时我们创建了一个crontab,但是这个任务却无法自动执行,而手动执行这个任务却没有问题,这种情况一般是由于在crontab文件中没有配置环境变量引起的。

    crontab文件中定义多个调度任务时,需要特别注意的一个问题就是环境变量的设置,因为我们手动执行某个任务时,是在当前shell环境下进行的, 程序当然能找到环境变量,而系统自动执行任务调度时,是不会加载任何环境变量的,因此,就需要在crontab文件中指定任务运行所需的所有环境变量,这样,系统执行任务调度时就没有问题了。

    2)注意清理系统用户的邮件日志

    每条任务调度执行完毕,系统都会将任务输出信息通过电子邮件的形式发送给当前系统用户,这样日积月累,日志信息会非常大,可能会影响系统的正常运行,因此,将每条任务进行重定向处理非常重要。

    例如,可以在crontab文件中设置如下形式,忽略日志输出:

    0 */3 * * * /usr/local/apache2/apachectl restart >/dev/null 2>&1
    

    “/dev/null 2>&1”表示先将标准输出重定向到/dev/null,然后将标准错误重定向到标准输出,由于标准输出已经重定向到了/dev/null,因此标准错误也会重定向到/dev/null,这样日志输出问题就解决了。

    crontab中的任务增加自己的日志,这样出错后,比较容易看到原因。

    0 6 * * * $HOME/for_crontab/createTomorrowTables >> $HOME/for_crontab/mylog.log 2>&1
    

    把错误输出和标准输出都输出到mylog.log中。

    注意:不要写成

    0 6 * * * $HOME/for_crontab/createTomorrowTables 2>&1 >> $HOME/for_crontab/mylog.log
    

    否则就输出到标准输出了

    3)系统级任务调度与用户级任务调度

    系统级任务调度主要完成系统的一些维护操作,用户级任务调度主要完成用户自定义的一些任务,可以将用户级任务调度放到系统级任务调度来完成(不建议这么做),但是反过来却不行,root用户的任务调度操作可以通过“crontab –uroot –e”来设置,也可以将调度任务直接写入/etc/crontab文件,需要注意的是,如果要定义一个定时重启系统的任务,就必须将任务放到/etc /crontab文件,即使在root用户下创建一个定时重启系统的任务也是无效的。

    四:企业生产场景如何调试crontab定时任务

    1)增加执行任务频率调试任务(某些任务不能用于生产环境,没有测试机会)

    代码发布:个人开发环境 -- 办公测试环境 -- IDC机房测试环境 -- IDC正式环境(分组,灰度发布)

    (2)调整系统时间调试任务(不能直接用于生产环境),保持五分钟

    (3)通过脚本日志输出调试定时任务

    (4)注意一些任务命令带来的问题

    (5)注意环境变量导致的定时任务故障(java环境变量问题: http://oldboy.blog.51cto.com/2561410/1541515)

    (6)通过crond定时任务服务日志调试定时任务(/var/log/cron)

    (7)其他稀奇古怪的问题调试的办法

    五:crontab定时任务生产应用问题八箴言

    1:系统环境变量问题

    2:定时任务要用绝对路径

    3:脚本权限问题加/bin/sh

    4:时间变量问题用反斜线\%转义,最好用脚本

    5:>/dev/null 2>&1问题(1>/dev/null  2>/dev/null  &>/dev/null)

    6:定时任务规则之前加注释

    7:使用脚本程序替代命令行定时任务

    8:避免不必要的程序及命令输出

    9:切到目标目录的上一级打包目标

    10:定时任务脚本中的程序命令尽量用全路径(和环境变量的识别有关)

    六:练习题

    一:每周六,日上午9:00 和下午14:00去参加linux培训学习(执行/gin/scripts/poe.sh)

    要求:/gin/scripts/poe.sh脚本的功能是打印当天的日期:格式为:2016-00-10,可以随意!

    1:定时任务一定尽量用脚本实现

    2:命令行操作成功,然后放到脚本执行成功,最后再配置任务

    3:复制操作成功的命令行脚本,再定时任务里配置。

    解答:

    步骤1:创建目录/gin/scripts和编写poe.sh脚本

    [root@Gin scripts]# mkdir /gin/scripts -p
    [root@Gin scripts]# echo 'date +%F' >poe.sh
    [root@Gin scripts]# /bin/sh /gin/scripts/poe.sh 
    2017-01-30
    

    步骤2:书写定时任务

    [root@Gin scripts]# echo '#study to linux' >>/var/spool/cron/root
    [root@Gin scripts]# echo '00 09,14 * * 6,0 /bin/sh /gin/scripts/poe.sh >/dev/null 2>&1' >>/var/spool/cron/root
    [root@Gin scripts]# crontab -l
    */10 * * * * /usr/sbin/ntpdate time.nist.gov >/dev/null 2>&1
    #study to linux
    00 09,14 * * 6,0 /bin/sh /gin/scripts/poe.sh >/dev/null 2>&1
    

    也可以输入crontab -e 然后写入如下内容保存:

    #study to linux
    00 09,14 * * 6,0 /bin/sh /server/scripts/poe.sh >/dev/null 2>&1
    

    书写定时任务的若干要领方法:

    1:为定时任务规则加必要的注释

    2:定时任务命令或程序最好写到脚本里执行

    3:执行shell脚本任务前加/bin/sh

    4:定时任务命令或脚本结尾加 >/dev/null 2>&1

    结尾为什么要加 >/dev/null 2>&1呢?

    C5:sendmail : /var/spool/clientmqueue/  -> 邮件的临时队列目录

    系统中开启了 cron,而cron中执行的程序有输出内容,输出内容会以邮件形式发给cron的用户,而sendmail没有启动所以就会在上述目录产生N个小文件,导致的后果就是把磁盘的inode满。 -> no space left on device.

    C6:postfix  /var/spool/postfix/maildrop/  and  /var/spool/postfix/maildrop,同上,小文件太多造成inode索引使用完

    问题表现和检查:

    1):运行 df -i 查看inode使用是否满

    2):查看/var/spool/postfix/maildrop 是否有非常多的小文件,ls直接卡死等情况;

    解决:

    1):cd /var/spool/postfix/maildrop; ls|xrags rm -f;

    2):vi /etc/crontab; 将’MAILTO=root’替换成’MAILTO=””’,然后service crond restart即可。如不行则 crontab -e第一行增加’MAILTO=””’。

    5:在指定用户下执行相关的定时任务

    6:生产任务程序不要随意打印输出信息 , tar zcf echo 123>a.log

    7:定时任务执行的脚本要规范路径(/server/scripts)

    8:配置定时任务规范操作过程

    二:每隔两小时将系统文件/etc/service文件打包备份到/tmp下(每次备份按时间生成不同的备份包)

    (1)在命令行把具体打包命令调用成功

    [root@gin etc]# cd /etc
    [root@gin etc]# tar zcvf /tmp/services_$(date +%F-%H).tar.gz ./services
    ./services
    [root@gin etc]# ll /tmp
    -rw-r--r--. 1 root root 641020 Oct  2  2013 services
    -rw-r--r--  1 root root 127304 Oct  7 20:57 services_2016-10-07-20.tar.gz
    

    (2)写脚本 /server/scripts/tar.sh

    [root@gin scripts]# cd /server/scripts/
    [root@gin scripts]# vim tar.sh 
    cd /etc && tar zcf /tmp/services_$(date +%F-%H).tar.gz ./services 
    //测试脚本是否可以运行成功
    [root@gin scripts]# /bin/sh /server/scripts/tar.sh 
    [root@gin scripts]# ll /tmp
    -rw-r--r-- 1 root root 127304 Oct  7 21:18 services_2016-10-07-21.tar.gz
    

    (3)写入到定时任务中

    [root@gin scripts]# crontab -e
    //内容如下:
    #tar for /etc/services 2 hours per
    00 */2 * * * /bin/sh /server/scripts/tar.sh >/dev/null 2>&1
    //测试脚本
    [root@gin scripts]# /bin/sh -x /server/scripts/tar.sh 		//-x表示查看命令执行过程
    + cd /etc
    ++ date +%F-%H
    + tar zcf /tmp/services_2016-10-07-22.tar.gz ./services
    

    定时任务每次执行,都会产生日志文件,定时任务的日志文件目录:

    [root@gin scripts]# ll /var/log/cron*
    -rw-------  1 root root 25801 Oct  7 21:30 /var/log/cron
    -rw-------. 1 root root  5706 Sep  7 16:10 /var/log/cron-20160907
    -rw-------  1 root root  8547 Sep 11 11:24 /var/log/cron-20160911
    -rw-------  1 root root 38127 Sep 27 10:50 /var/log/cron-20160927
    -rw-------  1 root root 19588 Oct  2 11:18 /var/log/cron-20161002
    [root@gin scripts]# cat /var/log/cron		//查看日志
    

    三:每分钟打印一次自己的名字到/server/log/自己的名字命名的文件中

    [root@Gin scripts]# crontab -e
    #print char task by andy for programer A at 2016-10-10
    */1 * * * * echo “andy” >/server/log/andy.log 2>&1
    

    四:每隔1分钟,打印一个+号到andy.log

    echo ‘#print a “+” every min by andy 2016-10-10’>>/var/spool/cron/root
    echo ‘*/1 * * * * echo + >>/tmp/andy.log’>>/var/spool/cron/root
    

    或者:

    [root@Andy andy]# echo '#!/bin/bash' >echo.sh
    [root@Andy andy]# echo 'echo `date` >>/tmp/andy.log' >>echo.sh
    
  • 相关阅读:
    P5356 [Ynoi2017]由乃打扑克
    P4921 [MtOI2018]情侣?给我烧了!/P4931 [MtOI2018]情侣?给我烧了!(加强版)
    P2605 [ZJOI2010]基站选址
    CF1062E Company
    kd-tree
    扩展中国剩余定理(EXCRT)
    CF264C Choosing Balls
    CF1139D Steps to One
    P4655 [CEOI2017]Building Bridges
    P3311 [SDOI2014] 数数
  • 原文地址:https://www.cnblogs.com/ginvip/p/6358071.html
Copyright © 2020-2023  润新知