JVM详解（十）——垃圾回收算法

一、概述

1、什么是垃圾

　　垃圾收集，不是Java语言的伴生产物。早在1960年，第一门开始使用内存动态分配和垃圾收集技术的Lisp语言诞生。关于垃圾收集的三个经典问题：
　　（1）哪些内存需要回收？
　　（2）什么时候回收？
　　（3）如何回收？

　　垃圾收集机制是Java的招牌能力，极大地提高了开发效率。如今，垃圾收集几乎成为现代语言的标配，即使经过如此长时间的发展，Java的垃圾收集机制仍然在不断的演进中，不同大小的设备、不同特征的应用场景，对垃圾收集提出了新的挑战。
　　垃圾是指在运行程序中没有任何指针指向的对象。如果不及时对内存中的垃圾进行清理，那么，这些垃圾对象所占的内存空间会一直保留到应用程序结束，被保留的空间无法被其他对象使用，就可能导致内存溢出。

2、为什么需要GC

　　对于高级语言来说，不断的分配内存空间而又不进行回收，内存迟早会被消耗完。
　　除了释放没用的对象，垃圾回收还可以清除内存里的记录碎片。碎片整理将所占用的堆内存移到堆的一端，以便JVM将整理出的内存分配给新的对象。
　　随着应用程序所应付的业务越来越庞大，复杂，用户越来越多，没有GC就不能保证应用程序的正常进行。而经常造成STW的GC又跟不上实际的需求，所以才会不断的尝试对GC进行优化。

3、早期垃圾回收

　　在早期的C/C++时代，垃圾回收基本上是手工进行的。开发人员可以使用new关键字进行内存申请，使用delete关键字进行内存释放。
　　代码示例：

　　这种方式可以灵活控制内存释放的时间，但是会给开发人员带来频繁申请和释放内存的管理负担，如果有一处内存区间由于程序员编码的问题忘记被回收，那么就会产生内存泄漏，垃圾对象永远无法被清除。随着系统运行时间的不断增长，垃圾对象所耗内存可能持续上升，直到出现内存溢出并造成应用程序崩溃。
　　内存泄漏：这个对象不用了，但是Java程序试图gc回收的时候，回收不了。因为它还有相关的引用指向。
　　在有了垃圾回收机制后，上述代码有可能变成这样：

　　现在，除了Java以外，C#、Python、Ruby等语言都使用了自动垃圾回收的思想，也是未来发展趋势。这种自动化的内存分配和垃圾回收机制已经成为现代开发语言必备的标准。

4、Java垃圾回收机制

　　好处：自动内存管理，无需开发人员手动参与内存的分配与回收，这样降低内存泄漏和内存溢出的风险。也将程序员从繁重的内存管理中释放出来，可以更专注于业务开发。
　　Oracle官网关于垃圾回收的介绍

　　https://docs.oracle.com/javase/8/docs/technotes/guides/vm/gctuning/toc.html

　　坏处：对于Java开发人员而言，自动内存管理就像一个黑匣子，如果过度依赖于"自动"，就会弱化Java开发人员在程序出现内存溢出时定位问题和解决问题的能力。
　　垃圾回收器可以对新生代，老年代回收，也可以是全堆和方法区的回收。其中，Java堆是垃圾收集器的工作重点。
　　从频率上说：频繁收集新生代，较少收集老年代，基本不动方法区。

二、相关算法

　　判断哪些是垃圾？——标记阶段：引用计数算法、可达性分析算法。
　　是垃圾后，怎么清除？——清除阶段：标记-清除算法、复制算法、标记-压缩算法。
　　清除阶段的算法：分代收集算法、增量收集算法、分区算法。
　　JVM中如何判断一个对象已经死亡呢？简单来说，当一个对象已经不再被任何存活对象继续引用时，就可以判定为死亡。判断对象是否存活一般有两种方式：引用计数算法和可达性分析算法。

1、标记阶段：引用计数算法

　　引用计数算法，对每个对象保存一个整型的引用计数器属性，用于记录对象被引用的情况。
　　思想：对于对象A，只要有对象引用了A，则A的引用计数器加1；当引用失效时，减1；当为0时，即表示对象A不再被使用，可进行回收。
　　优点：实现简单，垃圾对象便于辨识；判定效率高，回收没有延迟性。
　　缺点：需要单独的字段存储计数器，增加了空间开销；每次赋值需要更新计数器，增加了时间开销；无法处理循环引用的情况，致命，导致在Java垃圾回收器中没有使用这类算法。

　　代码示例：证明Java使用的不是引用计数算法

// -XX:+PrintGCDetails
public class RefCountGC {
    // 这个成员属性唯一的作用就是占用一点内存.5MB
    private byte[] bigSize = new byte[5 * 1024 * 1024];

    Object reference = null;

    public static void main(String[] args) {
        RefCountGC obj1 = new RefCountGC();
        RefCountGC obj2 = new RefCountGC();

        obj1.reference = obj2;
        obj2.reference = obj1;

        obj1 = null;
        obj2 = null;

        // 显式的执行垃圾回收行为
        // 这里发生GC,obj1和obj2能否被回收？
        System.gc();

        try {
            Thread.sleep(1000000);
        } catch (InterruptedException e) {
            e.printStackTrace();
        }
    }
}

　　引用计数算法：如果把obj1 = null;obj2 = null;则在Java堆当中，两块内存依然保持着相互引用，无法回收。

　　结论：如果采用了引用计数算法，那么，这里就不会发生gc才对。从而证明没有采用。

2、标记阶段：可达性分析算法

　　相比引用计数算法，可达性分析算法不仅同样具备实现简单，执行高效等特点，更重要的是它可以有效的解决循环引用的问题，防止内存泄漏的发生。这种类型的垃圾收集通常也叫作追踪性垃圾收集。
　　思想：以根对象集合（GC Roots）为起始点，按照从上至下的方式搜索被根对象集合所连接的目标对象是否可达。可达：存活；不可达，死亡。
　　所谓"GC Roots"根集合就是一组必须活跃的引用。

　　那么，如何确定 GC Roots？即：哪些元素可以作为GC Roots？
　　（1）虚拟机栈中引用的对象。比如，各个线程被调用的方法中使用的参数、局部变量等。
　　（2）本地方法栈内JNI（本地方法）引用的对象。
　　（3）方法区中类静态属性引用的对象。比如，Java类的引用类型静态变量。
　　（4）方法区中常量引用的对象。比如，字符串常量池（String Table）里的引用。
　　（5）所有被同步锁synchronized持有的对象。
　　（6）Java虚拟机内部的引用。基本数据类型对应的Class对象，一些常驻的异常对象，系统类加载器。
　　（7）反映Java虚拟机内部情况的JMXBean、JVMTI中注册的回调、本地代码缓存等。
　　除了这些固定的GC Roots集合以外，根据用户所选用的垃圾收集器以及当前回收的内存区域不同，还可以有其他对象"临时性"的加入，共同构成完整GC Roots集合。比如：分代收集和局部回收（Partial GC）。
　　比如，只针对新生代的回收，那么被老年代的对象所引用的对象也应该加入到GC Roots中考虑，才能保证可达性分析的准确性。
　　小技巧：由于Root采用栈方式存放变量和指针，所以，如果一个指针保存了堆内存里面的对象，但是自己又不存放在堆内存里，那它就是一个Root。

　　注意：如果使用可达性分析算法，那么分析工作必须在一个能保障一致性的快照中进行，这点不满足的话分析结果的准确性就无法保证。这点也是导致GC时必须STW的一个重要原因。即使是号称几乎不会发生停顿的CMS收集器中，枚举根节点时也必须要停顿。
　　即，打扫门店的时候，必须关门（停止营业）。

3、对象的finalization机制

　　Java语言提供了对象终止机制来允许开发人员提供对象被销毁前的自定义处理逻辑。垃圾回收之前，总会先调用这个对象的finalize()方法。finalize()方法允许在子类中被重写，用于在对象被回收时进行资源释放。通常进行一些资源释放和清理工作，比如关闭文件、套接字和数据库连接等。
　　永远不要主动调用对象的finalize()方法。应该交给垃圾回收机制调用，理由：
　　（1）在finalize()时可能会导致对象复活。
　　（2）finalize()方法的执行时间没有保障，它完全由GC线程决定，极端情况下，若不发生GC，则finalize()方法将没有执行机会。
　　（3）一个糟糕的finalize()会严重影响GC的性能。
　　由于finalize()方法的存在，对象有三种可能的状态。如果某个对象不可达，一般来说，此对象需要被回收。但事实，它们暂处理"缓刑"阶段，有可能在某个条件下，复活自己。如果这样，那对它的回收就是不合理的。三种状态：
　　可触及的：从根节点开始，可达，存活对象。
　　可复活的：对象的所有引用都被释放，但是有可能在finalize()中复活。
　　不可触及的：finalize()被调用，且没有复活。则必须死！
　　finalize()只会被调用一次！
　　总结：不可达，是垃圾。在回收之前，会调用finalize()方法。finalize()方法是由垃圾回收器自己来调，且只会被调用一次。
　　代码示例：演示可复活的对象

public class CanReliveObj {

    // 类变量，属于 GC Root
    public static CanReliveObj obj;

    //此方法只能被调用一次
    @Override
    protected void finalize() throws Throwable {
        super.finalize();
        System.out.println("调用当前类重写的finalize()方法");
        obj = this;//当前待回收的对象在finalize()方法中与引用链上的一个对象obj建立了联系
    }

    public static void main(String[] args) {
        try {
            obj = new CanReliveObj();
            // 对象第一次成功拯救自己
            obj = null;
            System.gc();//调用垃圾回收器
            System.out.println("第1次 gc");
            // 因为Finalizer线程优先级很低，暂停2秒，以等待它
            Thread.sleep(2000);
            if (obj == null) {
                System.out.println("obj is dead");
            } else {
                System.out.println("obj is still alive");
            }
            
            System.out.println("第2次 gc");
            // 下面这段代码与上面的完全相同，但是这次自救却失败了
            obj = null;
            System.gc();
            // 因为Finalizer线程优先级很低，暂停2秒，以等待它
            Thread.sleep(2000);
            if (obj == null) {
                System.out.println("obj is dead");
            } else {
                System.out.println("obj is still alive");
            }
        } catch (InterruptedException e) {
            e.printStackTrace();
        }
    }
}

// 结果
第1次 gc
调用当前类重写的finalize()方法
obj is still alive
第2次 gc
obj is dead

4、MAT与JProfiler的GC Roots溯源

　　一个程序当中，到底有多少个GC Roots ，分别又是什么呢？可以通过一些工具来查看。
　　MAT是Memory Analyzer Tool的简称，它是一款功能强大的Java堆内存分析器。用于查找内存泄漏以及查看内存消耗情况，是一款免费的性能分析工具。
　　官网下载：http://www.eclipse.org/mat/

　　代码示例：用MAT查看GC Roots

// 在输入前后分别获取一次dump文件
public class GCRootsTest {
    public static void main(String[] args) {
        List<Object> list = new ArrayList<>();
        Date date = new Date();

        for (int i = 0; i < 100; i++) {
            list.add(String.valueOf(i));
            try {
                Thread.sleep(10);
            } catch (InterruptedException e) {
                e.printStackTrace();
            }
        }

        System.out.println("数据添加完毕，请操作：");

        new Scanner(System.in).next();
        list = null;
        date = null;

        System.out.println("list、birth已置空，请操作：");
        new Scanner(System.in).next();

        System.out.println("结束");
    }
}

　　获取dump文件
　　方式一：命令行使用jmap

　　jps // 获取pid
　　jmap -dump:format=b,live,file=test1.bin #{pid}

　　方式二：使用JVisualVM
　　应用程序—>监视—>堆dump
　　用MAT打开两个dump文件，对比就可知道。

　　代码示例：同上。用JProfiler查看GC Roots

　　代码示例：用JProfiler分析OOM

package com.lx.jvm;

import java.util.ArrayList;

// -Xms8m -Xmx8m -XX:+HeapDumpOnOutOfMemoryError
public class HeapOOM {
    // 1MB
    byte[] buffer = new byte[1 * 1024 * 1024];

    public static void main(String[] args) {
        ArrayList<HeapOOM> list = new ArrayList<>();

        int count = 0;
        try {
            while (true) {
                list.add(new HeapOOM());
                count++;
            }
        } catch (Throwable e) {
            System.out.println("count = " + count);
            e.printStackTrace();
        }
    }
}

// 结果
java.lang.OutOfMemoryError: Java heap space
Dumping heap to java_pid12820.hprof ...
Heap dump file created [7834867 bytes in 0.011 secs]
count = 6
java.lang.OutOfMemoryError: Java heap space
    at com.lx.jvm.HeapOOM.<init>(HeapOOM.java:8)
    at com.lx.jvm.HeapOOM.main(HeapOOM.java:16)

　　用JProfiler打开java_pid12820.hprof

5、清除阶段：标记-清除算法（Mark-Sweep）

　　当成功判定是否是垃圾后，接下来就是释放掉无用对象所占用的内存空间，以便有足够的可用内存空间为新对象分配内存。思想：
　　标记：Collector从引用根节点开始遍历，标记所有被引用的对象。一般是在对象的Header中记录为可达对象。
　　清除：Collector对堆内存从头到尾进行线性的遍历，如果某个对象在其Header中没有标记为可达对象，则将其回收。清除的是死亡对象。

　　缺点：效率不算高；GC时，需要停止整个应用程序，导致用户体验差；这种方式清理出来的内存是不连续的，会产生内存碎片，需要维护一个空闲列表。
　　注意：何为清除？
　　这里所谓的清除并不是真的置空，而是把需要清除的对象地址保存在空闲的地址列表中。下次有新的对象需要加载时，判断垃圾的位置空间是否够，如果够，就存放。

6、清除阶段：复制算法（Copying）

　　思想：将活着的内存空间分为两块，每次只使用其中一块，在垃圾回收时将正在使用的内存中的存活对象复制到未被使用的内存块中，之后清除正在使用的内存块中的所有对象，交换两个内存的角色，完成垃圾回收。
　　复制的是存活对象。

　　优点：没有标记和清除过程，实现简单，运行高效；保证空间的连续性，不会出现"碎片"问题。
　　缺点：需要两倍的内存空间；对于G1这种分拆成为大量region的GC，复制而不是移动，意味着GC需要维护region之间对象引用关系，不管是内存占用或者时间开销也不小。
　　注意：此算法存活对象数量很越少，效果越好！不然就白瞎折腾嘛！适用于垃圾很多，存活对象很少，那么需要复制过去的对象就很少，就最理想。比如：S0/S1区。
　　如果从根节点标记的存活对象很多（垃圾很少），极端的都存活的话，那么就会把所有的对象都复制过来一遍，完了之后还什么垃圾也没回收到，还把栈上的引用地址也全都修改一遍。就很得不偿失了。
　　应用场景：在新生代，对常规应用的垃圾回收，一次通常可以回收70%~99%的内存空间，回收性价比很高。所以现在的商业虚拟机都是用这种收集算法回收新生代。

　　结论：在新生代用复制算法是很理想的。在老年代用复制算法，就不理想了，因为很多对象都是要持久存活的。

7、清除阶段：标记-压缩算法（Mark-Compact）

　　思想：第一阶段和标记-清除算法一样，从根节点开始标记所有被引用的对象。第二阶段将所有的存活对象压缩到内存的一端，按顺序排放，之后，清理边界外所有的空间。

　　标记-压缩算法的最终效果等同于标记-清除后，再进行一次内存碎片整理。因此，也把它称为标记-清除-压缩算法。
　　二者的本质差异在于标记-清除是一种非移动式的回收算法，标记-压缩是移动式的。是否移动回收后的存活对象是一项优缺点并存的风险决策。
　　被整理后，当需要给新的对象分配内存时，JVM只需要持有一个内存的起始地址即可，这比维护一个空闲列表显然少了很多开销。
　　解决了标记清除和复制算法的缺点。
　　优点：解决了标记-清除中，内存分散的缺点；解决了复制中，内存减半的代价。
　　缺点：效率上，低于复制算法；移动对象的同时，如果对象被其他对象引用，则还需要调整引用的地址；移动过程中，需要全程停止用户应用程序，即STW。

8、三种算法的对比

	标记-清除	复制	标记-压缩
速度	中等	最快	最慢
空间开销	少（会堆积碎片）	需要活对象的2倍大小（不堆积碎片）	少（不堆积碎片）
移动对象	否	是	是

　　效率上说，复制算法最好，但是却浪费了太多内存。为了兼顾各个指标，标记-压缩相对来说更平滑一些，但是效率不尽人意。它比复制多了一个标记的阶段，比标记-清除多了一个整理内存的阶段。
　　难道就没有一种最优的算法吗？没有最优的！只有最适合的！

9、分代收集算法

　　分代收集算法，基于这样一个事实：不同对象的生命周期是不一样的。因此，不同生命周期的对象采取不同的收集方式，以便提高回收效率。
　　一般地，把Java堆分为新生代和老年代，这样就可以根据各个年代的特点使用不同的回收算法，以提高垃圾回收效率。
　　在Java程序中，有些对象是与业务信息相关，比如：Http请求中的Session对象、线程、Socket连接，这类对象跟业务直接挂钩，生命周期比较长；但是有一些对象，主要是程序运行过程中生成的临时变量，这些对象生命周期比较短，比如：String对象，由于其不变类的特性，系统会产生大量的这些对象，有些对象甚至只用一次即可回收。
　　目前，几乎所有的GC都是采用分代收集算法执行垃圾回收的。在Hotspot中，基于分代的概念，GC所使用的内存回收算法必须结合新生代、老年代各自的特点。
　　新生代：对象生命周期短、存活率低，回收频繁。这种情况复制算法的回收整理，速度是最快的。
　　老年代：区域较大，对象生命周期长、存活率高，回收不及新生代频繁。这种情况复制算法明显不合适，一般由标记-清除或标记-清除与标记-整理的混合实现。
　　（1）Mark阶段：开销与存活对象的数量成正比。
　　（2）Sweep阶段：开销与所管理区域的大小成正比。
　　（3）Compact阶段：开销与存活对象的数据成正比。

10、增量收集算法、分区算法

　　增量收集算法：
　　上述现有的算法，在垃圾回收过程中，应用程序将处于一种STW（stop the world）的状态。在这个状态下，应用程序所有的线程都会挂起，暂停一切正常工作，等待垃圾回收的完成。如果垃圾回收时间过长，势必将严重影响用户体验或系统的稳定性。为了解决STW时间过长的问题。对实时垃圾收集算法的研究直接导致了增量收集算法的诞生。
　　思想：如果一次性将所有的垃圾进行处理，会造成系统长时间的停顿，那么就可以让垃圾收集线程和应用程序线程交替执行。每次，垃圾收集线程只收集一小片区域的内存空间，接着切换到应用程序线程，依次反复，直到垃圾收集完成。
　　总的来说，增量收集算法的基础仍是传统的标记-清除和复制算法。增量收集算法通过对线程间冲突的妥善处理，允许垃圾收集线程以分阶段的方式完成标记、清理或复制工作。
　　为解决，或者说平衡， 用户线程与gc线程之间的矛盾（gc时会停止所有用户线程，会严重影响用户体验）。增量收集算法，就是为了在二者之间找到平衡，使其最佳。
　　缺点：使用这种方式，由于在垃圾回收过程中，间断性的还执行了应用程序代码，所以能减少系统的停顿时间。但是，因为线程上下文切换的消耗，会使得垃圾回收的总体成本上升，造成系统吞吐量的下降。
　　分区算法：
　　一般地，在相同条件下，堆空间越大，一次GC所需要的时间就越长，有关GC产生的停顿也越长。为了更好的控制GC产生的停顿时间，将一块大的内存区域分割成多个小块，根据目标的停顿时间，每次合理的回收若干个小区间，而不是整个堆空间，从而减少一次GC所产生的停顿。
　　分代算法将按照对象的生命周期长短划分成两个部分，分区算法将整个堆空间划分成连续的不同小区间region。
　　每一个小区间都独立使用，独立回收。这种算法的好处是可以控制一次回收多少个小区间。

　　注意：这些只是基本的算法思路，实际GC实现过程要复杂的多，目前还在发展中的前沿GC都是复合算法，并且并行和并发兼备。