day65 django--ORM3

一，自关联的场景

　　1.ForeignKeyField外键自关联(评论示例)

class Comment(models.Model):
    id = models.AutoField(primary_key=True)
    content = models.CharField(max_length=255)
    push_time = models.DateTimeField(auto_now_add=True)
    #父评论：自关联，一个评论可以没有父评论所以null=True
    pcomment = models.ForeignKey(to='self',null=True)  #自关联

　　2.ManyToManyField多对多关系的自关联(交朋友示例)

class Person(models.Model):
    name = models.CharField(max_length=16)
    friends = models.ManyToManyField("self")  #此时person对象就没有person_set属性
    #friends = models.ManyToManyField("self", symmetrical=False)  person对象现在就可以使用person_set属性进行反向查询

#symmetrical字段参数：仅用于多对多自关联时，指定内部是否关闭反向操作的字段。默认为True(不能进行反向查询)

二，关联管理器

　　是在一对多或者多对多的关联上下文中使用的管理器

　　它存在于下面两种情况：

　　　　1.外键关系的反向查询

　　　　2.多对多关联关系

　　简单来说就是当 点(.)后面的对象可能存在多个的时候就可以使用以下的方法

　　1.create()：创建一个新的对象，保存对象，并将它添加到关联对象集之中，返回新创建的对象

import datetime
Author.objects.first().book_set.create(title="番茄物语", publish_date=datetime.date.today())

　　2.add()：把指定的model对象添加到关联对象集中

#添加对象
author_objs = models.Author.objects.filter(id__lt=3)
models.Book.objects.first().authors.add(*author_objs)

#添加id
models.Book.objects.first().authors.add(*[1, 2])

　　3.set()：更新model对象的关联对象

book_obj = models.Book.objects.first()
book_obj.authors.set([2,3])

　　4.remove()：从关联对象集中移除指定的model对象

book_obj = models.Book.objects.first()
book_obj.authors.remove(3)

　　5.clear()：从关联对象中移除一切对象

book_obj = models.Book.objects.first()
book_obj.authors.clear()

　　注意：对于ForeignKey对象，clear()和remove()方法仅在null=True时存在

#例
#ForeignKey字段没设置null=True时
class Book(models.Model):
    title = models.CharField(max_length=32)
    publisher = models.ForeignKey(to=Publisher)

#没有clear()和remove()方法：
models.Publisher.objects.first().book_set.clear()

#Traceback (most recent call last):
#  File "<input>", line 1, in <module>
#AttributeError: 'RelatedManager' object has no attribute 'clear'

#当ForeignKey字段设置null=True时,此时就有clear()和remove()方法
class Book(models.Model):
    name = models.CharField(max_length=32)
    publisher = models.ForeignKey(to=Class, null=True)

　　注意：对于所有类型的关联字段，add()、create()，remove()和clear()，set()都会马上更新数据库。换句话说，在关联的任何一端，都不需要再调用save()方法

三，对象.属性修改和基于QuerySet upadte修改的区别

#1.基于对象的修改(会更新所有字段)
publisher_obj = Publisher.objects.first()
publisher_obj.ceo = 'alex'
publisher_obj.save()


#2.基于QuerySet的update更新(只更新指定的字段)
Publisher.objects.filter(id=1).update(ceo='nezha')

　　验证方法：

　　　　在settings.py中添加LOGGING配置项，查看执行的SQL语句

LOGGING = {
    'version': 1,
    'disable_existing_loggers': False,
    'handlers': {
        'console':{
            'level':'DEBUG',
            'class':'logging.StreamHandler',
        },
    },
    'loggers': {
        'django.db.backends': {
            'handlers': ['console'],
            'propagate': True,
            'level':'DEBUG',
        },
    }
}

四，聚合和分组查询

　　1.聚合查询

　　　　aggregate()是QuerySet的一个终止子句，意思是说，它返回一个包含一些键值对的字典。键的名称是聚合值的标识符，值是计算出来的聚合值。值的名称是按照字段和聚合函数的名称自动生成出来的

　　用到的内置函数

from django.db.models import Avg, Sum, Max, Min, Count

#例
Book.objects.all().aggregate(Avg("price")
>>>{'price__avg':123.333}


#为聚合值指定一个名称，可以向聚合子句提供它
Book.objects.aggregate(average_price=Avg('price'))
>>>{'average_price':123.333}


#生成不止一个聚合
Book.objects.all().aggregate(Avg('price'),Max('price'),Min('price'))
>>>{'price__avg':123.333,'price__max':Decimal('19.90'),'price__min':Decimal('9.90')}

　　2.分组annotate()

#原生SQL语句查询与ORM查询对象

select dept,AVG(salary) from employee group by dept;


from django.db.models import Avg
Employee.objects.values("dept").annotate(avg=Avg("salary").values(dept,'avg')


#连表查询的分组
select dept.name,AVG(salary) from employee inner join dept on (employee.dept_id=dept,id) group by dept_id;

from django.db.models.import Avg
Dept.objects.annotate(avg=Avg("employee__salary")).values("name","avg")

五，F查询和Q查询

　　1.F查询用来实现字段值基础上的操作

　　　　Django提供F()来做这样的比较。F()的实例可以在查询中引用字段，来比较同一个model实例中两个不同字段的值

#例
#查询评论数大于收藏数的数据
from django.db.models import F
Book.objects.filter(commnet_num__gt=F('keep_num'))

#django支持F()是对象之间以及F()对象和常数之间的加减乘除和取模的操作
Book.objects.filter(commnet_num__lt=F('keep_num')*2)

#修改操作也可以使用F函数，比如将每一本书的价格提供30元
Book.objects.all().update(price=F('price')+30)

#修改char
from django.db.models.functions import Concat
from django.db.models import Value
Book.objects.all().update(title=Concat(F("title"),Vlaue("("),Vlaue("第一版"),Value(")")))

　　

　　2.Q查询用来实现多个查询条件之间的&和|

　　　　filter()等方法中的关键字参数查询都是一起进行"AND"的。如果你需要执行更复杂的查询(如OR语句)，可以使用Q对象

　

#例
#查询作者名是小仙女或小魔女的
Book.objects.filter(Q(authors__name='小仙女')|Q(author__name='小魔女'))

#你可以组合& 和|  操作符以及使用括号进行分组来编写任意复杂的Q 对象。同时，Q 对象可以使用~ 操作符取反，这允许组合正常的查询和取反(NOT) 查询
#示例：查询作者名字是小仙女并且不是2018年出版的书的书名
Book.objects.filter(Q(author__name="小仙女") & ~Q(publish_date__year=2018)).values_list("title")
>>> <QuerySet [('番茄物语',)]>

#查询函数可以混合使用Q 对象和关键字参数。所有提供给查询函数的参数（关键字参数或Q 对象）都将"AND”在一起。但是，如果出现Q 对象，它必须位于所有关键字参数的前面
#例如:查询出版年份是2017或2018,书名中带物语的所有书
Book.objects.filter(Q(publish_date__year=2018) | Q(publish_date__year=2017), title__icontains="物语")
>>> <QuerySet [<Book: 番茄物语>, <Book: 香蕉物语>, <Book:橘子物语>]>

六，事务

import datetime
from app01 import models

try:
    from django.db import transaction
    with transaction.atomic():
        new_publisher = models.Publisher.objects.create(name="火星出版社")
        models.Book.objects.create(title="橘子物语",         
        publish_date=datetime.date.today(), publisher_id=10)  # 指定一个不存在的出版社id
except Exception as e:
    print(str(e))

七，ORM进阶

　　1.django ORM执行原生SQL

# extra
# 在QuerySet的基础上继续执行子语句
# extra(self, select=None, where=None, params=None, tables=None, order_by=None, select_params=None)

# select和select_params是一组，where和params是一组，tables用来设置from哪个表
# Entry.objects.extra(select={'new_id': "select col from sometable where othercol > %s"}, select_params=(1,))
# Entry.objects.extra(where=['headline=%s'], params=['Lennon'])
# Entry.objects.extra(where=["foo='a' OR bar = 'a'", "baz = 'a'"])
# Entry.objects.extra(select={'new_id': "select id from tb where id > %s"}, select_params=(1,), order_by=['-nid'])

举个例子：
models.UserInfo.objects.extra(
                    select={'newid':'select count(1) from app01_usertype where id>%s'},
                    select_params=[1,],
                    where = ['age>%s'],
                    params=[18,],
                    order_by=['-age'],
                    tables=['app01_usertype']
                )
                """
                select 
                    app01_userinfo.id,
                    (select count(1) from app01_usertype where id>1) as newid
                from app01_userinfo,app01_usertype
                where 
                    app01_userinfo.age > 18
                order by 
                    app01_userinfo.age desc
                """


# 执行原生SQL
# 更高灵活度的方式执行原生SQL语句
# from django.db import connection, connections
# cursor = connection.cursor()  # cursor = connections['default'].cursor()
# cursor.execute("""SELECT * from auth_user where id = %s""", [1])
# row = cursor.fetchone()

　　2.QuerySet方法大全

def all(self)
    # 获取所有的数据对象

def filter(self, *args, **kwargs)
    # 条件查询
    # 条件可以是：参数，字典，Q

def exclude(self, *args, **kwargs)
    # 条件查询
    # 条件可以是：参数，字典，Q

def select_related(self, *fields)
    性能相关：表之间进行join连表操作，一次性获取关联的数据。

    总结：
    1. select_related主要针一对一和多对一关系进行优化。
    2. select_related使用SQL的JOIN语句进行优化，通过减少SQL查询的次数来进行优化、提高性能。

def prefetch_related(self, *lookups)
    性能相关：多表连表操作时速度会慢，使用其执行多次SQL查询在Python代码中实现连表操作。

    总结：
    1. 对于多对多字段（ManyToManyField）和一对多字段，可以使用prefetch_related()来进行优化。
    2. prefetch_related()的优化方式是分别查询每个表，然后用Python处理他们之间的关系。

def annotate(self, *args, **kwargs)
    # 用于实现聚合group by查询

    from django.db.models import Count, Avg, Max, Min, Sum

    v = models.UserInfo.objects.values('u_id').annotate(uid=Count('u_id'))
    # SELECT u_id, COUNT(ui) AS `uid` FROM UserInfo GROUP BY u_id

    v = models.UserInfo.objects.values('u_id').annotate(uid=Count('u_id')).filter(uid__gt=1)
    # SELECT u_id, COUNT(ui_id) AS `uid` FROM UserInfo GROUP BY u_id having count(u_id) > 1

    v = models.UserInfo.objects.values('u_id').annotate(uid=Count('u_id',distinct=True)).filter(uid__gt=1)
    # SELECT u_id, COUNT( DISTINCT ui_id) AS `uid` FROM UserInfo GROUP BY u_id having count(u_id) > 1

def distinct(self, *field_names)
    # 用于distinct去重
    models.UserInfo.objects.values('nid').distinct()
    # select distinct nid from userinfo

    注：只有在PostgreSQL中才能使用distinct进行去重

def order_by(self, *field_names)
    # 用于排序
    models.UserInfo.objects.all().order_by('-id','age')

def extra(self, select=None, where=None, params=None, tables=None, order_by=None, select_params=None)
    # 构造额外的查询条件或者映射，如：子查询

    Entry.objects.extra(select={'new_id': "select col from sometable where othercol > %s"}, select_params=(1,))
    Entry.objects.extra(where=['headline=%s'], params=['Lennon'])
    Entry.objects.extra(where=["foo='a' OR bar = 'a'", "baz = 'a'"])
    Entry.objects.extra(select={'new_id': "select id from tb where id > %s"}, select_params=(1,), order_by=['-nid'])

 def reverse(self):
    # 倒序
    models.UserInfo.objects.all().order_by('-nid').reverse()
    # 注：如果存在order_by，reverse则是倒序，如果多个排序则一一倒序


 def defer(self, *fields):
    models.UserInfo.objects.defer('username','id')
    或
    models.UserInfo.objects.filter(...).defer('username','id')
    #映射中排除某列数据

 def only(self, *fields):
    #仅取某个表中的数据
     models.UserInfo.objects.only('username','id')
     或
     models.UserInfo.objects.filter(...).only('username','id')

 def using(self, alias):
     指定使用的数据库，参数为别名（setting中的设置）


##################

def raw(self, raw_query, params=None, translations=None, using=None):
    # 执行原生SQL
    models.UserInfo.objects.raw('select * from userinfo')

    # 如果SQL是其他表时，必须将名字设置为当前UserInfo对象的主键列名
    models.UserInfo.objects.raw('select id as nid from 其他表')

    # 为原生SQL设置参数
    models.UserInfo.objects.raw('select id as nid from userinfo where nid>%s', params=[12,])

    # 将获取的到列名转换为指定列名
    name_map = {'first': 'first_name', 'last': 'last_name', 'bd': 'birth_date', 'pk': 'id'}
    Person.objects.raw('SELECT * FROM some_other_table', translations=name_map)

    # 指定数据库
    models.UserInfo.objects.raw('select * from userinfo', using="default")

    ################### 原生SQL ###################
    from django.db import connection, connections
    cursor = connection.cursor()  # cursor = connections['default'].cursor()
    cursor.execute("""SELECT * from auth_user where id = %s""", [1])
    row = cursor.fetchone() # fetchall()/fetchmany(..)


def values(self, *fields):
    # 获取每行数据为字典格式

def values_list(self, *fields, **kwargs):
    # 获取每行数据为元祖

def dates(self, field_name, kind, order='ASC'):
    # 根据时间进行某一部分进行去重查找并截取指定内容
    # kind只能是："year"（年）, "month"（年-月）, "day"（年-月-日）
    # order只能是："ASC"  "DESC"
    # 并获取转换后的时间
        - year : 年-01-01
        - month: 年-月-01
        - day  : 年-月-日

    models.DatePlus.objects.dates('ctime','day','DESC')

def datetimes(self, field_name, kind, order='ASC', tzinfo=None):
    # 根据时间进行某一部分进行去重查找并截取指定内容，将时间转换为指定时区时间
    # kind只能是 "year", "month", "day", "hour", "minute", "second"
    # order只能是："ASC"  "DESC"
    # tzinfo时区对象
    models.DDD.objects.datetimes('ctime','hour',tzinfo=pytz.UTC)
    models.DDD.objects.datetimes('ctime','hour',tzinfo=pytz.timezone('Asia/Shanghai'))

    """
    pip3 install pytz
    import pytz
    pytz.all_timezones
    pytz.timezone(‘Asia/Shanghai’)
    """

def none(self):
    # 空QuerySet对象


####################################
# METHODS THAT DO DATABASE QUERIES #
####################################

def aggregate(self, *args, **kwargs):
   # 聚合函数，获取字典类型聚合结果
   from django.db.models import Count, Avg, Max, Min, Sum
   result = models.UserInfo.objects.aggregate(k=Count('u_id', distinct=True), n=Count('nid'))
   ===> {'k': 3, 'n': 4}

def count(self):
   # 获取个数

def get(self, *args, **kwargs):
   # 获取单个对象

def create(self, **kwargs):
   # 创建对象

def bulk_create(self, objs, batch_size=None):
    # 批量插入
    # batch_size表示一次插入的个数
    objs = [
        models.DDD(name='r11'),
        models.DDD(name='r22')
    ]
    models.DDD.objects.bulk_create(objs, 10)

def get_or_create(self, defaults=None, **kwargs):
    # 如果存在，则获取，否则，创建
    # defaults 指定创建时，其他字段的值
    obj, created = models.UserInfo.objects.get_or_create(username='root1', defaults={'email': '1111111','u_id': 2, 't_id': 2})

def update_or_create(self, defaults=None, **kwargs):
    # 如果存在，则更新，否则，创建
    # defaults 指定创建时或更新时的其他字段
    obj, created = models.UserInfo.objects.update_or_create(username='root1', defaults={'email': '1111111','u_id': 2, 't_id': 1})

def first(self):
   # 获取第一个

def last(self):
   # 获取最后一个

def in_bulk(self, id_list=None):
   # 根据主键ID进行查找
   id_list = [11,21,31]
   models.DDD.objects.in_bulk(id_list)

def delete(self):
   # 删除

def update(self, **kwargs):
    # 更新

def exists(self):
   # 是否有结果