• Python 垃圾回收机制


    一、Python垃圾回收机制

    Python中的垃圾回收是以引用计数为主,分代收集为辅。

    在Python中,如果一个对象的引用数为0,Python虚拟机就会回收这个对象的内存。

    class A:
    
        def __init__(self):
            self.t = None
            print 'new obj, id is %s' %str(hex(id(self)))
        
        def __del__(self):
            print 'del obj, id id %s' %str(hex(id(self)))
    
    if __name__ == '__main__':
        while True:
            a1 = A()
            del a1

    运行如上代码,进程占用的内存基本不会变动

    new obj, id is 0x2a79d48L
    del obj, id id 0x2a79d48L

    a = A() 会创建一个对象,在0x2a79d48L内存中,a变量指向这个内存,这时候这个内存的引用计数是1

    del a后,a变量不再指向0x2a79d48L内存,所以这块内存的引用计数减一,等于0,所以就销毁了这个对象,然后释放内存。

    导致引用计数+1的情况

      1) 对象被创建,例如a=23

      2) 对象被引用,例如b=a

      3) 对象被作为参数,传入到一个函数中,例如func(a)

      4)对象作为一个元素,存储在容器中,例如list1=[a,a]

    导致引用计数-1的情况

      1) 对象的别名被显式销毁,例如del a

      2) 对象的别名被赋予新的对象,例如a=24

      3) 一个对象离开它的作用域,例如f函数执行完毕时,func函数中的局部变量(全局变量不会)

      4) 对象所在的容器被销毁,或从容器中删除对象

    二、demo查看引用计数

    def func(c):
        print 'in func function', sys.getrefcount(c) - 1
    
    
    print 'init', sys.getrefcount(11) - 1
    a = 11
    print 'after a=11', sys.getrefcount(11) - 1
    b = a
    print 'after b=a', sys.getrefcount(11) - 1
    func(11)
    print 'after func(a)', sys.getrefcount(11) - 1
    list1 = [a, 12, 14]
    print 'after list1=[a,12,14]', sys.getrefcount(11) - 1
    a=12
    print 'after a=12', sys.getrefcount(11) - 1
    del a
    print 'after del a', sys.getrefcount(11) - 1
    del b
    print 'after del b', sys.getrefcount(11) - 1
    list1.pop(0)
    print 'after pop list1',sys.getrefcount(11)-1
    del list1
    print 'after del list1', sys.getrefcount(11) - 1

    输出:

    init 67
    after a=11 68
    after b=a 69
    in func function 72
    after func(a) 69
    after list1=[a,12,14] 70
    after a=12 69
    after del a 69
    after del b 68
    after pop list1 67
    after del list1 67

    问题:为什么调用函数会令引用计数+2

    sys.getrefcount(a) 可以查看a对象的引用计数,但是比正常计数大1,因为调用函数的时候传入a,这会让a的引用计数+1

    三、循环引用导致内存泄露

    class A:
    
        def __init__(self):
            self.t = None
            print 'new obj, id is %s' %str(hex(id(self)))
        
        def __del__(self):
            print 'del obj, id id %s' %str(hex(id(self)))
    
    if __name__ == '__main__':
        while True:
            a1 = A()
            a2 = A()
            a1.t = a2
            a2.t = a1
            del a1
            del a2

    执行如上代码,进程占用的内存会不断增大。

    new obj, id is 0x3475348L
    new obj, id is 0x3475388L

    创建了a1,a2后,0x3475348L(a1对应的内存,记为内存1),0x3475388L(c2对应的内存,记为内存2)这两块内存的引用计数都是1,执行a1.t = a2和a2.t = a1后,这两块内存的引用计数变成2.

    在del a1后,内存1的对象的引用计数变为1,由于不是为0,所以内存1的对象不会被销毁,所以内存2的对象的引用数依然是2,在del c2后,同理,内存1的对象,内存2的对象的引用数都是1。

    虽然它们两个的对象都是可以被销毁的,但是由于循环引用,导致垃圾回收器都不会回收它们,所以就会导致内存泄露。

    当然,上面这是一种特殊情况,因为classA定义了__del__(self): 函数,并且存在循环引用,这有这种情况的循环引用,gc不能确定先调用那个del,所以不能进行回收。若果classA没有定义__del__(self):函数,gc是能够自动打破循环引用的。

    四、Python gc模块

    有了循环引用的问题,当然就会有解决办法,python gc模块提供了一种机制,使我们能够访问那些定义了__del__(self): 函数又存在循环引用的对象。

    class A:
    
        def __init__(self):
            self.t = None
            print 'new obj, id is %s' %str(hex(id(self)))
        
        def __del__(self):
            print 'del obj, id id %s' %str(hex(id(self)))
    
    
    def f():
        c1=A()
        c2=A()
        c1.t=c2
        c2.t=c1
        del c1
        del c2
        print gc.collect() #显式执行垃圾回收
        print gc.garbage
    
    
    if __name__ == '__main__':
        gc.set_debug(gc.DEBUG_UNCOLLECTABLE) #设置gc模块的日志
        f()

    gc.set_debug(gc.DEBUG_UNCOLLECTABLE)设置gc模块在执行清理后,将uncollectable对象放在gc.garbage里,上面代码运行结果:

    new obj, id is 0x2b8f148L
    new obj, id is 0x2b8f3c8L
    4
    [<__main__.A instance at 0x0000000002B8F148>, <__main__.A instance at 0x0000000002B8F3C8>]

    我们创建的两个对象(0x2aff148l, 0x2aff3c8l)循环引用后并del后, 都放在了gc.garbage里,所以他们都是uncollectable类型的对象,我们解除循环引用,就可以遍历gc.garbage这个对象,并将garbage对象里的对象的del掉即可。

    五、Python三代回收

    在Python中,采用分代收集的方法。把对象分为三代,一开始,对象在创建的时候,放在一代中,如果在一次一代的垃圾检查中,改对象存活下来,就会被放到二代中,同理在一次二代的垃圾检查中,该对象存活下来,就会被放到三代中。

    gc模块里面会有一个长度为3的列表的计数器,可以通过gc.get_count()获取。

    例如(488,3,0),其中488是指距离上一次一代垃圾检查,Python分配内存的数目减去释放内存的数目,注意是内存分配,而不是引用计数的增加。例如:

    print gc.get_count() # (590, 8, 0)
    a = ClassA()
    print gc.get_count() # (591, 8, 0)
    del a
    print gc.get_count() # (590, 8, 0)
    

    3是指距离上一次二代垃圾检查,一代垃圾检查的次数,同理,0是指距离上一次三代垃圾检查,二代垃圾检查的次数。

    gc模快有一个自动垃圾回收的阀值,即通过gc.get_threshold函数获取到的长度为3的元组,例如(700,10,10)

    每一次计数器的增加,gc模块就会检查增加后的计数是否达到阀值的数目,如果是,就会执行对应的代数的垃圾检查,然后重置计数器

    例如,假设阀值是(700,10,10):

    • 当计数器从(699,3,0)增加到(700,3,0),gc模块就会执行gc.collect(0),即检查一代对象的垃圾,并重置计数器为(0,4,0)
    • 当计数器从(699,9,0)增加到(700,9,0),gc模块就会执行gc.collect(1),即检查一、二代对象的垃圾,并重置计数器为(0,0,1)
    • 当计数器从(699,9,9)增加到(700,9,9),gc模块就会执行gc.collect(2),即检查一、二、三代对象的垃圾,并重置计数器为(0,0,0)

    六、应用

    • 项目中避免循环引用
    • 引入gc模块,启动gc模块的自动清理循环引用的对象机制
    • 由于分代收集,所以把需要长期使用的变量集中管理,并尽快移到二代以后,减少GC检查时的消耗
    • gc模块唯一处理不了的是循环引用的类都有__del__方法,所以项目中要避免定义__del__方法,如果一定要使用该方法,同时导致了循环引用,需要代码显式调用gc.garbage里面的对象的__del__来打破僵局

    参考文档:https://docs.python.org/2.7/library/gc.html

  • 相关阅读:
    阶乘递归实现
    队列
    1+2+3+...+100用递归实现
    快速排序C语言实现
    js的onfocus,onblur事件
    CSP2021 游记 菜到离谱
    700题复习计划
    [传递闭包] P2881 [USACO07MAR]排名的牛Ranking the Cows
    【笔记】序列分块
    【题解】UVA10930 A-Sequence
  • 原文地址:https://www.cnblogs.com/starrysky77/p/9146407.html
Copyright © 2020-2023  润新知