django 异步任务实现及Celery beat实现定时/轮询任务

Celery定时任务

requirements

celery==3.1.25  异步任务
django-celery==3.2.2  定时任务管理包
redis==2.10.6
django-redis-cache==1.7.1 方便配置Redis缓存

配置

1、工程主APP下的__init__.py文件里添加：

from .celery import app as celery_app

__all__ = ['celery_app']

2、工程主APP新建个celery.py文件：

from __future__ import absolute_import
import os
from celery import Celery

# set the default Django settings module for the 'celery' program.
os.environ.setdefault('DJANGO_SETTINGS_MODULE', 'dts.settings')

from django.conf import settings  # noqa

app = Celery('dts')

# Using a string here means the worker will not have to
# pickle the object when using Windows.
app.config_from_object('django.conf:settings')
app.autodiscover_tasks(lambda: settings.INSTALLED_APPS)


@app.task(bind=True)
def debug_task(self):
    print('Request: {0!r}'.format(self.request))

　　

启用Celery的定时任务需要设置CELERYBEAT_SCHEDULE 。 
 

说明：

CELERY_RESULT_SERIALIZER = 'json'为了避免错误：# Refusing to deserialize untrusted content of type pickle (application/x-python-serialize)

CELERY_RESULT_BACKEND： 就是把异步任务放到指定地方，方便后续操作。比如后续取出任务判断是否完成

Celery的定时任务都由celery beat来进行调度。celery beat默认按照settings.py之中的时区时间来调度定时任务。

创建定时任务

一种创建定时任务的方式是配置CELERYBEAT_SCHEDULE：

#每30秒调用task.add
from datetime import timedelta

from celery.schedules import crontab #为了避免该行报错，在该文件添加绝对包含、from __future__ import absolute_import

CELERYBEAT_SCHEDULE = { 'add-every-30-seconds': { 'task': 'tasks.add', 'schedule': timedelta(seconds=30), 'args': (16, 16) },

    'sys_check_unpaid': {
         'task': 'dashboard.tasks.mdata_schedule',
         'schedule': crontab(minute=0, hour=8, day_of_month=11),
     },

}

#crontab任务
#每周一7:30调用task.add
from celery.schedules import crontab

CELERYBEAT_SCHEDULE = {
    # Executes every Monday morning at 7:30 A.M
    'add-every-monday-morning': {
        'task': 'tasks.add',
        'schedule': crontab(hour=7, minute=30, day_of_week=1),
        'args': (16, 16),
    },
}

使用数据库存储定时任务

使用数据库存储定时任务需要设置CELERYBEAT_SCHEDULE如下：

import datetime
import json
from djcelery import models as celery_models
from django.utils import timezone
#创建任务
def create_task(name, task, task_args, crontab_time):
    '''
    name # 任务名字
    task # 执行的任务 "myapp.tasks.add"
    task_args # 任务参数 {"x":1, "Y":1}

    crontab_time # 定时任务时间 格式：
    {
        'month_of_year': 9 # 月份
        'day_of_month': 5 # 日期
        'hour': 01 # 小时
        'minute':05 # 分钟
    }
    '''

    # task任务， created是否定时创建
    task, created = celery_models.PeriodicTask.objects.
                            get_or_create(name=name,task=task)
    # 获取 crontab
    crontab = celery_models.CrontabSchedule.objects.
                            filter(**crontab_time).first()
    if crontab is None:
    # 如果没有就创建，有的话就继续复用之前的crontab
        crontab = celery_models.CrontabSchedule.objects.
                            create(**crontab_time)
    task.crontab = crontab # 设置crontab
    task.enabled = True # 开启task
    task.kwargs = json.dumps(task_args) # 传入task参数
    expiration = timezone.now() + datetime.timedelta(day=1)
    task.expires = expiration # 设置任务过期时间为现在时间的一天以后
    task.save()
    return True
#关闭任务
def disable_task(name):
'''
关闭任务
'''
    try:
        task = celery_models.PeriodicTask.objects.get(name=name)
        task.enabled = False # 设置关闭
        task.save()
        return True
    except celery_models.PeriodicTask.DoesNotExist:
        return True

启动beat

执行定时任务时, Celery会通过celery beat进程来完成。Celery beat会保持运行, 一旦到了某一定时任务需要执行时, Celery beat便将其加入到queue中. 不像worker进程, Celery beat只需要一个即可。而且为了避免有重复的任务被发送出去，所以Celery beat仅能有一个。

启动：

python manage.py celery beat --loglevel=info

其实还有一种简单的启动方式worker和beat一起启动：

python manage.py celery worker --loglevel=info --beat

定时删除

由于很多任务都是一次执行完就不需要，留在数据库里就是垃圾数据了有没有办法清除。方法肯定有因为django-celery本身就有定时任务功能我们加个任务就解决了。好我们看代码：在django app目录中打开taske.py加入如下代码

from djcelery import models as celery_models
from django.utils import timezone
@task()
def delete():
    '''
    删除任务
    从models中过滤出过期时间小于现在的时间然后删除
    '''
    return celery_models.PeriodicTask.objects.filter(
                            expires__lt=timezone.now()).delete()

创建任务脚本里设置了 expires 1天以后过期，这样在filter的时候就能当做条件把过期的任务找到并且删除。