• python垃圾回收


    写在开头:

    永远记住一句话:引用计数为主,标记清除和分代为辅+缓存

    本节内容:

    1:引用计数器

    2:标记清除

    3:分代

    4:缓存

    https://pythonav.com/wiki/detail/6/88/

    一、引用计数器

    1.1:环状双向链表

    在讲Python回收的时候,我们先讲一讲Python如果创建了一个对象name="python"这个对象会放到哪里去?

    划重点:在Python程序中如果创建了任何对象都会放到一个神奇的狗链子中去-叫做refchain环状双向链表中去。

     

    在上面的图片中,我们创建一个"武沛齐"的字符串对象和整型的18对象,这些对象都放到这条狗链子中去。

    那么有个问题,放进去的对象有什么特点吗?为什么可以变成一个环?

    我们查看Python的C语言源码的时候,可以发现。

    比如在创建一个float数据结构时候的时候,他的对象内部是会保存这些值:

      typedef struct {
          PyObject_HEAD  //这对象是
          double ob_fval; //这是对象的值
      } PyFloatObject;

    Python在创建对象的时候,对象内部会他们都会保存上一个对象的地址以及下一个对象的地址,这样他们之间就可以用环链接起来了。

    创建了float类型的时候,除了上一个和下一个的地址外,还会保存这个对象的引用计数器,以及这个对象的类型。

    1.2:引用计数器实现

    我们知道了创建一对象会放到refchain的环状双向链表,以及这个对象内部会保存上一个和下一个的地址、引用计数器、对象类型。

    在创建float的时候是保存这些的,如果创建字符串或者列表的时候他会额外保存一些东西。比如字典他还会保存key、value 。列表还是保存元素的个数。

    age = 18
    name = "武沛齐"
    nickname = name

    上述代码表示内存中有 18 和 “武沛齐” 两个值,他们的引用计数器分别为:1、2 。

    当值被多次引用时候,不会在内存中重复创建数据,而是引用计数器+1 。 当对象被销毁时候同时会让引用计数器-1,

    如果引用计数器为0,则将对象从refchain链表中摘除,同时在内存中进行销毁(暂不考虑缓存等特殊情况)。

    age = 18
    number = age  # 对象18的引用计数器 + 1
    del age          # 对象18的引用计数器 - 1
    def run(arg):
        print(arg)
    run(number)   # 刚开始执行函数时,对象18引用计数器 + 1,当函数执行完毕之后,对象18引用计数器 - 1 。
    num_list = [11,22,number] # 对象18的引用计数器 + 1

    二、标记清除

     基于引用计数器进行垃圾回收非常方便和简单,但他还是存在循环引用的问题,导致无法正常的回收一些数据,例如:

    v1 = [11,22,33]        # refchain中创建一个列表对象,由于v1=对象,所以列表引对象用计数器为1.
    v2 = [44,55,66]        # refchain中再创建一个列表对象,因v2=对象,所以列表对象引用计数器为1.
    v1.append(v2)        # 把v2追加到v1中,则v2对应的[44,55,66]对象的引用计数器加1,最终为2.
    v2.append(v1)        # 把v1追加到v1中,则v1对应的[11,22,33]对象的引用计数器加1,最终为2.
    del v1    # 引用计数器-1
    del v2    # 引用计数器-1
    

    对于上述代码会发现,执行del操作之后,没有变量再会去使用那两个列表对象,但由于循环引用的问题,他们的引用计数器不为0,

    所以他们的状态:永远不会被使用、也不会被销毁。项目中如果这种代码太多,就会导致内存一直被消耗,直到内存被耗尽,程序崩溃。

    为了解决循环引用的问题,引入了标记清除技术,就是多加一条链子,链子里面放的就是可能存在循环的数据类型【列表、元组、字典、集合、自定义类等那些能进行数据嵌套的类型】

    标记清除:创建特殊链表专门用于保存 列表、元组、字典、集合、自定义类等对象,之后再去检查这个链表中的对象是否存在循环引用,如果存在则让双方的引用计数器均 - 1 。

    三、分代

    对于标记清除记录来说,我们也有新的要思考的问题。什么时候会进行扫描一次这个链表 ?还有就是每次全扫描的话必然对于性能有影响,怎么保证性能?

    这样的话我们的分代概念就出来了:

    0代:当创建了可能的存在循环类型之后会放到环状双向链表中,和新的特殊链表中去。当这条链表存在的对象,达到700个的时候,就会开始扫描,扫描完成之后会将还存在的对象放到1代中去。

    1代:当0代扫描了10次之后,1代开始扫描。1代扫描之后,还存在的对象就会放到2代中去。

    2代:当1代扫描了10次之后,2代开始扫描。

    分代回收:对标记清除中的链表进行优化,将那些可能存在循引用的对象拆分到3个链表,链表称为:0/1/2三代,每代都可以存储对象和阈值,当达到阈值时,就会对相应的链表中的每个对象做一次扫描,除循环引用各自减1并且销毁引用计数器为0的对象。

    // 分代的C源码
    #define NUM_GENERATIONS 3
    struct gc_generation generations[NUM_GENERATIONS] = {
        /* PyGC_Head,                                    threshold,    count */
        {{(uintptr_t)_GEN_HEAD(0), (uintptr_t)_GEN_HEAD(0)},   700,        0}, // 0代
        {{(uintptr_t)_GEN_HEAD(1), (uintptr_t)_GEN_HEAD(1)},   10,         0}, // 1代
        {{(uintptr_t)_GEN_HEAD(2), (uintptr_t)_GEN_HEAD(2)},   10,         0}, // 2代
    };
    

    特别注意:0代和1、2代的threshold和count表示的意义不同。

    • 0代,count表示0代链表中对象的数量,threshold表示0代链表对象个数阈值,超过则执行一次0代扫描检查。
    • 1代,count表示0代链表扫描的次数,threshold表示0代链表扫描的次数阈值,超过则执行一次1代扫描检查。
    • 2代,count表示1代链表扫描的次数,threshold表示1代链表扫描的次数阈值,超过则执行一2代扫描检查。

    四、缓存

    从上文大家可以了解到当对象的引用计数器为0时,就会被销毁并释放内存。而实际上他不是这么的简单粗暴,因为反复的创建和销毁会使程序的执行效率变低。Python中引入了“缓存机制”机制。
    例如:引用计数器为0时,不会真正销毁对象,而是将他放到一个名为 free_list 的链表中,之后会再创建对象时不会在重新开辟内存,而是在free_list中将之前的对象来并重置内部的值来使用。

    float类型,维护的free_list链表最多可缓存100个float对象。

    v1 = 3.14 # 开辟内存来存储float对象,并将对象添加到refchain链表。
    print( id(v1) ) # 内存地址:4436033488
    del v1 # 引用计数器-1,如果为0则在rechain链表中移除,不销毁对象,而是将对象添加到float的free_list.
    v2 = 9.999 # 优先去free_list中获取对象,并重置为9.999,如果free_list为空才重新开辟内存。
    print( id(v2) ) # 内存地址:4436033488
    # 注意:引用计数器为0时,会先判断free_list中缓存个数是否满了,未满则将对象缓存,已满则直接将对象销毁。
    

    int类型,不是基于free_list,而是维护一个small_ints链表保存常见数据(小数据池),小数据池范围:-5 <= value < 257。即:重复使用这个范围的整数时,不会重新开辟内存。

    v1 = 38 # 去小数据池small_ints中获取38整数对象,将对象添加到refchain并让引用计数器+1。
    print( id(v1)) #内存地址:4514343712
    v2 = 38 # 去小数据池small_ints中获取38整数对象,将refchain中的对象的引用计数器+1。
    print( id(v2) ) #内存地址:4514343712
    # 注意:在解释器启动时候-5~256就已经被加入到small_ints链表中且引用计数器初始化为1,代码中使用的值时直接去small_ints中拿来用并将引用计数器+1即可。另外,small_ints中的数据引用计数器永远不会为0(初始化时就设置为1了),所以也不会被销毁。

    str类型,维护unicode_latin1[256]链表,内部将所有的ascii字符缓存起来,以后使用时就不再反复创建。

      v1 = "A"
      print( id(v1) ) # 输出:4517720496
      del v1
      v2 = "A"
      print( id(v1) ) # 输出:4517720496
      # 除此之外,Python内部还对字符串做了驻留机制,针对那么只含有字母、数字、下划线的字符串(见源码Objects/codeobject.c),如果内存中已存在则不会重新在创建而是使用原来的地址里(不会像free_list那样一直在内存存活,只有内存中有才能被重复利用)。
      v1 = "wupeiqi"
      v2 = "wupeiqi"
      print(id(v1) == id(v2)) # 输出:True
    

    ist类型,维护的free_list数组最多可缓存80个list对象。

     v1 = [11,22,33]
      print( id(v1) ) # 输出:4517628816
      del v1
      v2 = ["武","沛齐"]
      print( id(v2) ) # 输出:4517628816
    

    tuple类型,维护一个free_list数组且数组容量20,数组中元素可以是链表且每个链表最多可以容纳2000个元组对象。元组的free_list数组在存储数据时,是按照元组可以容纳的个数为索引找到free_list数组中对应的链表,并添加到链表中。

      v1 = (1,2)
      print( id(v1) )
      del v1  # 因元组的数量为2,所以会把这个对象缓存到free_list[2]的链表中。
      v2 = ("武沛齐","Alex")  # 不会重新开辟内存,而是去free_list[2]对应的链表中拿到一个对象来使用。
      print( id(v2) )
    

    dict类型,维护的free_list数组最多可缓存80个dict对象。

      v1 = {"k1":123}
      print( id(v1) )  # 输出:4515998128
      del v1
      v2 = {"name":"武沛齐","age":18,"gender":"男"}
      print( id(v1) ) # 输出:4515998128
    

      

  • 相关阅读:
    C#如何为程序打包发布应用(图解教程) (转)
    异步委托与多线程
    如何判断自己的WP7 SDK版本
    (转)c#实现WinRAR解压缩
    网页HTML代码大全
    byte[] ,image, bitmap之间的转换
    MS开发者应懂得知识
    StringFarmat控制字符串居中显示
    WP7模拟器的感应器和GPS模拟定位功能
    lucene.net搜索文档(pdf,doc,txt)内容
  • 原文地址:https://www.cnblogs.com/hero799/p/16101819.html
Copyright © 2020-2023  润新知