一、Python垃圾回收机制
Python中的垃圾回收是以引用计数为主,分代收集为辅。
在Python中,如果一个对象的引用数为0,Python虚拟机就会回收这个对象的内存。
class A: def __init__(self): self.t = None print 'new obj, id is %s' %str(hex(id(self))) def __del__(self): print 'del obj, id id %s' %str(hex(id(self))) if __name__ == '__main__': while True: a1 = A() del a1
运行如上代码,进程占用的内存基本不会变动
new obj, id is 0x2a79d48L del obj, id id 0x2a79d48L
a = A() 会创建一个对象,在0x2a79d48L内存中,a变量指向这个内存,这时候这个内存的引用计数是1
del a后,a变量不再指向0x2a79d48L内存,所以这块内存的引用计数减一,等于0,所以就销毁了这个对象,然后释放内存。
导致引用计数+1的情况
1) 对象被创建,例如a=23
2) 对象被引用,例如b=a
3) 对象被作为参数,传入到一个函数中,例如func(a)
4)对象作为一个元素,存储在容器中,例如list1=[a,a]
导致引用计数-1的情况
1) 对象的别名被显式销毁,例如del a
2) 对象的别名被赋予新的对象,例如a=24
3) 一个对象离开它的作用域,例如f函数执行完毕时,func函数中的局部变量(全局变量不会)
4) 对象所在的容器被销毁,或从容器中删除对象
二、demo查看引用计数
def func(c): print 'in func function', sys.getrefcount(c) - 1 print 'init', sys.getrefcount(11) - 1 a = 11 print 'after a=11', sys.getrefcount(11) - 1 b = a print 'after b=a', sys.getrefcount(11) - 1 func(11) print 'after func(a)', sys.getrefcount(11) - 1 list1 = [a, 12, 14] print 'after list1=[a,12,14]', sys.getrefcount(11) - 1 a=12 print 'after a=12', sys.getrefcount(11) - 1 del a print 'after del a', sys.getrefcount(11) - 1 del b print 'after del b', sys.getrefcount(11) - 1 list1.pop(0) print 'after pop list1',sys.getrefcount(11)-1 del list1 print 'after del list1', sys.getrefcount(11) - 1
输出:
init 67 after a=11 68 after b=a 69 in func function 72 after func(a) 69 after list1=[a,12,14] 70 after a=12 69 after del a 69 after del b 68 after pop list1 67 after del list1 67
问题:为什么调用函数会令引用计数+2
sys.getrefcount(a) 可以查看a对象的引用计数,但是比正常计数大1,因为调用函数的时候传入a,这会让a的引用计数+1
三、循环引用导致内存泄露
class A: def __init__(self): self.t = None print 'new obj, id is %s' %str(hex(id(self))) def __del__(self): print 'del obj, id id %s' %str(hex(id(self))) if __name__ == '__main__': while True: a1 = A() a2 = A() a1.t = a2 a2.t = a1 del a1 del a2
执行如上代码,进程占用的内存会不断增大。
new obj, id is 0x3475348L new obj, id is 0x3475388L
创建了a1,a2后,0x3475348L(a1对应的内存,记为内存1),0x3475388L(c2对应的内存,记为内存2)这两块内存的引用计数都是1,执行a1.t = a2和a2.t = a1后,这两块内存的引用计数变成2.
在del a1后,内存1的对象的引用计数变为1,由于不是为0,所以内存1的对象不会被销毁,所以内存2的对象的引用数依然是2,在del c2后,同理,内存1的对象,内存2的对象的引用数都是1。
虽然它们两个的对象都是可以被销毁的,但是由于循环引用,导致垃圾回收器都不会回收它们,所以就会导致内存泄露。
当然,上面这是一种特殊情况,因为classA定义了__del__(self): 函数,并且存在循环引用,这有这种情况的循环引用,gc不能确定先调用那个del,所以不能进行回收。若果classA没有定义__del__(self):函数,gc是能够自动打破循环引用的。
四、Python gc模块
有了循环引用的问题,当然就会有解决办法,python gc模块提供了一种机制,使我们能够访问那些定义了__del__(self): 函数又存在循环引用的对象。
class A: def __init__(self): self.t = None print 'new obj, id is %s' %str(hex(id(self))) def __del__(self): print 'del obj, id id %s' %str(hex(id(self))) def f(): c1=A() c2=A() c1.t=c2 c2.t=c1 del c1 del c2 print gc.collect() #显式执行垃圾回收 print gc.garbage if __name__ == '__main__': gc.set_debug(gc.DEBUG_UNCOLLECTABLE) #设置gc模块的日志 f()
gc.set_debug(gc.DEBUG_UNCOLLECTABLE)设置gc模块在执行清理后,将uncollectable对象放在gc.garbage里,上面代码运行结果:
new obj, id is 0x2b8f148L new obj, id is 0x2b8f3c8L 4 [<__main__.A instance at 0x0000000002B8F148>, <__main__.A instance at 0x0000000002B8F3C8>]
我们创建的两个对象(0x2aff148l, 0x2aff3c8l)循环引用后并del后, 都放在了gc.garbage里,所以他们都是uncollectable类型的对象,我们解除循环引用,就可以遍历gc.garbage这个对象,并将garbage对象里的对象的del掉即可。
五、Python三代回收
在Python中,采用分代收集的方法。把对象分为三代,一开始,对象在创建的时候,放在一代中,如果在一次一代的垃圾检查中,改对象存活下来,就会被放到二代中,同理在一次二代的垃圾检查中,该对象存活下来,就会被放到三代中。
gc模块里面会有一个长度为3的列表的计数器,可以通过gc.get_count()获取。
例如(488,3,0),其中488是指距离上一次一代垃圾检查,Python分配内存的数目减去释放内存的数目,注意是内存分配,而不是引用计数的增加。例如:
print gc.get_count() # (590, 8, 0) a = ClassA() print gc.get_count() # (591, 8, 0) del a print gc.get_count() # (590, 8, 0)
3是指距离上一次二代垃圾检查,一代垃圾检查的次数,同理,0是指距离上一次三代垃圾检查,二代垃圾检查的次数。
gc模快有一个自动垃圾回收的阀值,即通过gc.get_threshold函数获取到的长度为3的元组,例如(700,10,10)
每一次计数器的增加,gc模块就会检查增加后的计数是否达到阀值的数目,如果是,就会执行对应的代数的垃圾检查,然后重置计数器
例如,假设阀值是(700,10,10):
- 当计数器从(699,3,0)增加到(700,3,0),gc模块就会执行gc.collect(0),即检查一代对象的垃圾,并重置计数器为(0,4,0)
- 当计数器从(699,9,0)增加到(700,9,0),gc模块就会执行gc.collect(1),即检查一、二代对象的垃圾,并重置计数器为(0,0,1)
- 当计数器从(699,9,9)增加到(700,9,9),gc模块就会执行gc.collect(2),即检查一、二、三代对象的垃圾,并重置计数器为(0,0,0)
六、应用
- 项目中避免循环引用
- 引入gc模块,启动gc模块的自动清理循环引用的对象机制
- 由于分代收集,所以把需要长期使用的变量集中管理,并尽快移到二代以后,减少GC检查时的消耗
- gc模块唯一处理不了的是循环引用的类都有__del__方法,所以项目中要避免定义__del__方法,如果一定要使用该方法,同时导致了循环引用,需要代码显式调用gc.garbage里面的对象的__del__来打破僵局
参考文档:https://docs.python.org/2.7/library/gc.html