运行时数据区及线程
运行时数据区
Java虚拟机定义了若干种程序运行时期间会使用到的运行时数据区,其中有一些会随着虚拟机启动而创建,随着虚拟机退出而销毁。另外一些则是与线程一一对应,这些与线程对应的数据区域会随着线程的开始和结束而创建和销毁。
灰色的为单独线程私有的,红色的为多个线程共享的。即
每个线程:独立包括程序计数器、栈、本地栈。
线程间共享:堆、堆外内存(永久代或元空间、代码缓存)。
线程
- 线程是一个程序里的运行单元。JVM允许一个应用有多个线程并行的执行。
- 在HotSpot JVM里,每个线程都与操作系统的本地线程直接映射。
当一个Java线程准备好执行以后,此时一个操作系统的本地线程也同时创建。Java线程执行失败后,本地线程也会回收。
- 操作系统负责所有线程的安排调度到任何一个可用的CPU上。一旦本地线程初始号成功,它就会调用Java线程中的run()方法。
- 如果你使用jconsole或者任何一个调试工具,都能看到在后台有许多线程在运行。这些后台线程不包括调用public static void main(String[])
守护线程、普通线程
- 这些主要的后台系统线程在HotSpot JVM里主要是以下几点:
虚拟机线程:这种线程的操作是需要JVM达到安全点才会出现。这些操作必须在不同线程中方式的原因是他们都需要JVM达到安全点,这样堆才不会变化。这种线程的执行类型包括“stop-the-world”的垃圾收集,线程栈收集,线程挂起以及偏向锁撤销。
周期任务线程:这种线程是时间周期事件的体现(比如中断),他们一般用户周期性操作的调度执行。
GC线程:这种线程对于在JVM里的不同种类的垃圾收集行为提供支持。
编译线程:这种线程在运行时将字节码编译成到本地代码
信号调度线程:这种线程接受信号并发送到JVM,在它内通过调用适当方法进行处理。
PC Register程序计数器
JVM中的程序计数器,Register的命名源于CPU的寄存器,寄存器存储指令相关的线程信息。CPU只有把数据装载到寄存器中才能够运行。
这里,并非是广义上所指的物理寄存器,或许将其翻译为PC计数器会更加贴切(也称程序钩子),并且不容易引起不必要的误会。JVM中的PC寄存器是对物理PC寄存器的一种抽象模拟。
作用:PC寄存器用来存储指向下一条指令的地址,也即将要执行的指令代码。由执行引擎读取下一条指令。
- 它是一块很小的内存空间,几乎可以忽略不计。也是运行速度最快的存储区域。
- 在JVM规范中,每个线程都有它自己的程序计数器,是线程私有的,生命周期与线程的生命周期保持一致。
- 任何时间一个线程都只有一个方法在执行,也就是所谓的当前方法。程序计数器会存储当前线程正在执行的Java方法的JVM指令地址;或者,如果是在执行native方法,则是未指定值(underfined)。
- 它是程序控制流的指示器,分支、循环、跳转、异常处理、线程恢复等基础功能都需要依赖这个计数器来完成。
- 字节码解释器工作时就是通过改变这个计数器的值来选取下一条需要执行的字节码指令。
- 它是唯一一个在Java虚拟机规范中没有规定任何OutOfMemoryError情况的区域。
转换成流程图
虚拟机栈
内存中的栈和堆
栈是运行时的单位,堆是存储的单位。
即:栈解决程序的运行问题,即程序如何执行,或者说如何处理数据。堆解决的是数据存储的问题,即数据怎么放、放在哪儿。
虚拟机栈的基本内容
- Java虚拟机栈是什么?
Java虚拟机,早期也叫Java栈。每个线程在创建时都会创建一个虚拟机栈,其内部保存一个个的栈桢,对应着一次次的Java方法调用。
- 生命周期
生命周期和线程一致。
- 作用
主管Java程序的运行,它保存方法的局部变量(8种基本类型、对象的引用地址)、部分结果,并参与方法的调用和返回。
- 局部变量、成员变量
- 基本数据变量、引用类型变量(类、数组、接口)
- 栈的优点
- 栈是一种快速有效的分配存储方式,访问速度仅次于程序计数器。
- JVM直接对Java栈的操作只有两个:
- 每个方法执行,伴随着进栈(入栈、压栈)
- 执行结束后的出栈工作
- 对于栈来说不存在垃圾回收的问题
- 栈中可能出现的异常
Java虚拟机规范允许Java栈的大小是动态的或者固定不变的。
- 如果采用固定大小的Java虚拟机栈,那每一个线程的Java虚拟机栈容量可以在线程创建的时候独立选定。如果线程请求分配的栈容量超过Java虚拟机栈允许的最大容量,Java虚拟机将会抛出一个StackOverflowError异常。
- 如果Java虚拟机栈可以动态扩展,并且尝试扩展的时候无法申请到足够的内存,或者在创建新的线程时没有足够的内存去创建对应的虚拟机栈,那Java虚拟机将会抛出一个OutOfMemoryError异常。
栈的存储单位
栈中存储什么?
- 每个线程都有自己的栈,栈中的数据都是以栈桢格式存在
- 在这个线程上正在执行的每个方法都各自对应一个栈桢(Stack Frame)
- 栈桢是一个内存区块,是一个数据集,维系着方法执行过程中的各种数据信息。
栈运行原理
- JVM直接对Java栈的操作只有两个,就是对栈桢的压栈和出栈,遵循“先进后出”、“后进先出”原则。
- 在一条活动线程中,一个时间点上,只会有一个活动的栈桢。即只有当前正在执行的方法的栈桢(栈顶栈桢)是有效的,这个栈桢被称为当前栈桢,与当前栈桢相对应的方法就是当前方法,定义这个方法的类就是当前类。
- 执行引擎运行的所有字节码指令只针对当前栈桢进行操作。
- 如果在这个该方法中调用了其他方法,对应的新的栈桢会被创建出来,放在栈的顶端,称为当前栈桢。
- 不同线程中所包含的栈桢是不允许存在相互引用的,即不可能在在一个栈桢之中引用另一个线程的栈桢。
- 如果当前方法调用了其他方法,方法返回之际,当前栈桢会传回此方法的执行结果给前一个栈桢,接着虚拟机会丢弃当前栈桢,使前一个栈桢重新成为当前栈桢。
- Java方法有两种返回函数的方式,一种是正常的函数返回,使用return指令;另一种是抛出异常。不管使用哪种方式,都会导致栈桢被弹出。
栈桢的内部结构
每个栈桢中都存储着:
- 局部变量表
- 操作数栈(或表达式栈)
- 动态链接(或指向运行时常量池的方法引用)
- 方法返回地址(方法正常退出或者异常退出的定义)
- 一些附加信息
局部变量表
- 局部变量表被称为局部变量数组或本地变量表
- 定义为一个数字数组,主要用于存储方法参数和定义在方法体内的局部变量,这些数据类型包括各类基本数据类型、对象引用,以及returnAddress类型。
- 由于局部变量表是建立在线程的栈上,是线程的私有数据,因此不存在数据安全问题。
- 局部变量表所需的容量大小在编译期确定下来的,并保存在方法的Code属性的maximum lock variables数据项中。在方法运行期间是不会改变局部变量表的大小的。
- 方法嵌套调用的次数由栈的大小决定。一般来说,栈越大,方法嵌套调用次数越多。对于一个函数而言,它的参数和局部变量越多,使得局部变量表膨胀,它的栈桢就越大,以满足方法调用所需传递的信息增大的需求。进而函数调用就会占用更多的栈空间,导致其嵌套调用次数就会越少。
- 局部变量表中的变量只在当前方法调用中有效。在方法执行时,虚拟机通过使用局部变量表完成参数值到参数变量列表的传递过程。当方法调用结束后,随着方法栈桢的销毁,局部变量表也会随之销毁。
字节码中方法内部结构的剖析
关于Slot的理解
- 参数值的存放总是在局部变量数组的index0开始,到数组长度-1的索引结束。
- 局部变量表,最基本的存储单元是Slot(变量槽)
- 局部变量表存放编译器可知的各种基本数据类型(8种),引用类型(reference),returnAddress类型的变量。
- 在局部变量表,32位以内的类型只占用一个slot(包括returnAddress类型),64位的类型(long和double)占用两个slot。
- byte、short、char在存储前被转换为int,boolean也被转换为int,0 表示false,非0表示true。
- long和double则占据两个slot。
- JVM会为局部变量表中的每一个Slot都分配一个访问索引,通过这个索引即可成功访问到局部变量表中指定的局部变量值。
- 当一个实例方法被调用的时候,它的方法参数和方法体内部定义的局部变量将会按照顺序被复制到局部变量表中的每一个Slot上。
- 如果需要访问局部变量表中一个64bit的局部变量值时,只需要使用前一个索引即可。(比如:long和double类型变量)
- 如果当前帧是由构造方法或者实例方法创建的,那么该对象引用this将会存放在index为0的slot处,其余的参数按照参数表顺序继续排列。
Slot的重复利用
栈桢中的局部变量表中的槽位是可以重复利用的,如果一个局部变量过了其作用域,那么在其作用域之后申明的新的局部变量就很有可能会复用过期局部变量的槽位,从而达到节省资源的目的。
public class SlotTest{
public void localVar(){
{
int a = 0;
}
//此时变量b就会复用a的槽位。
int b = 0;
}
}
静态变量与局部变量的对比
- 变量的分类:
- 按照数据类型分: (1)基本数据类型;(2)引用数据类型;
- 按照在类中声明的位置分:
(1)成员变量:在使用前都经历过默认初始化赋值
类变量:连接的准备阶段:给类变量默认赋值 -> 初始化阶段: 给类变量显式赋值即静态代码块赋值;
实例变量:随着对象的创建,会在堆空间中分配实例变量空间,并进行默认赋值;
(2)局部变量:在使用前,必须要进行显式赋值的,否则编译不通过;
- 参数表分配完毕之后,再根据方法体内定义的变量的顺序和作用域分配。
- 我们知道类变量表有两次初始化的机会,第一次是在“准备阶段”,执行系统初始化,对类变量设置零值,另一次则是在“初始化”阶段,赋予程序员在代码中定义的初始值。
- 和类变量初始化不同的是,局部变量表不存在系统初始化的过程,这意味着一旦定义了局部变量则必须认为的初始化,否则无法使用。
- 在栈桢中,与性能调优关系最为密切的部分就是前面提到的局部变量表。在方法执行时,虚拟机使用局部变量表完成方法的传递。
- 局部变量表中的变量也是重要的垃圾回收根节点,只要被局部变量表中直接或间接引用的对象都不会被回收。
操作数栈
-
每一个独立的栈桢中除了包含局部变量表以外,还包含一个后进先出的操作数栈,也可以称之为表达式栈。
-
操作数栈,在方法执行过程中,根据字节码指令,往栈中写入数据或提取数据,即入栈/出栈
- 某些字节码指令将值压入操作数栈,其余的字节码指令将操作数取出栈。使用他们后再把结果压入栈。
- 比如:执行复制、交换、求和等操作。
-
如果被调用的方法带有返回值的话,其返回值将会被压入当前栈桢的操作数栈中,并更新PC寄存器中下一条需要执行的字节码指令。
-
操作数栈中元素的数据类型必须与字节码指令的序列严格匹配,这由编译器在编译器期间进行验证,同时在类加载过程中的类检验阶段的数据流分析阶段再次验证。
-
另外,我们说Java虚拟机的解释引擎是基于栈的执行引擎,其中的栈指的就是操作数栈。
-
操作数栈,主要用于保存计算过程的中间结果,同时作为计算过程中变量临时存储空间。
-
操作数栈就是JVM执行引擎的一个工作区,当一个方法刚开始执行的时候,一个新的栈桢也会随之被创建出来,这个方法的操作数栈是空的。
-
每一个操作数栈都会拥有一个明确的栈深度用于存储数值,其所需的最大深度在编译器就定义好了,保存在方法的Code属性中,为max_stack的值。
-
栈中的任何一个元素都是可以任意的Java数据类型。
- 32bit的类型占用一个栈单位深度。
- 64bit的类型占用两个栈单位深度。
-
操作数栈并非采用访问索引的方式来进行数据访问的,而是只能通过标准的入栈和出栈操作来完成一次数据访问。
动态链接(指向运行时常量池的方法引用)
- 每一个栈桢内部都包含一个指向运行时常量池中该栈桢所属方法的引用。包含这个引用的目的就是为了支持当前方法的代码能够实现动态链接。比如: invokedynamic指令
- 在Java源文件被编译到字节码文件中时,所有的变量和方法引用都作为符号引用保存在class文件的常量池里。比如:描述一个方法调用了另外的其他方法时,就是通过常量池中指向方法的符号引用来表示的,那么动态链接的作用就是为了将这些符号引用转换为调用方法的直接引用。
那么什么是动态链接,具体看下面的例子
public class DynamicTest {
int num = 0;
private void methodA(){
System.out.println("methodA");
}
private int methodB(){
methodA();
num++;
return num;
}
}
字节码指令 javap 反编译后
常量池在运行时会放入方法区,所以叫作运行时常量池。
常量池的作用是:提供一些符号和常量,便于指令的识别。
方法的调用
在JVM中,将符号引用转换为调用方法的直接引用于方法的绑定机制相关。
- 静态链接:当一个字节码文件被装载进JVM内部时,如果被调用的目标方法在编译期可知,且运行期保持不变时。这种情况下将调用方法的符号引用转换为直接引用的过程称之为静态链接。
- 动态链接:如果被调用的方法在编译期无法被确定下来,也就是说,只能够在程序运行期将调用方法的符号引用转换为直接引用,由于这种引用转换过程具备动态性,因此也就被称之为动态链接。
对应的方法的绑定机制为:早期绑定和晚期绑定。绑定是一个字段、方法或者类在符号引用被替换为直接引用的过程,这仅仅发生一次。 - 早期绑定:就是指被调用的目标方法如果在编译期可知,且运行期保持不变时,即可将这个方法与所属的类型进行绑定,这样一来,由于明确了被调用的目标方法究竟是哪一个,因此也就可以使用静态链接的方式将符号引用转换为直接引用。
- 晚期绑定:如果被调用的方法在编译期无法被确定下来,只能够在程序运行期根据实际的类型绑定相关的方法,这种绑定方式也就被称之为晚期绑定。
非虚方法(编译期确定具体调用方法)
静态方法、私有方法、final方法、实例构造器、父类方法都是非虚方法。
其他方法都是称为虚方法。虚拟机提供了一下几条方法调用指令:
普通调用指令:
1.invokestatic
:调用静态方法,解析阶段确定唯一方法版本
2.invokespecial
:调用方法、私有及父类方法,解析阶段确定唯一方法版本
3.invokevirtual
:调用所有虚方法(final方法除外)
4.invokeinterface
:调用接口方法动态调用指令
5.invokedynamic:动态解析出需要调用的方法,然后执行
前四条指令固化在虚拟机内部,方法的调用执行不可人为干预,而invokedynamic指令则支持由用户确定方法版本。其中invokestatic指令和invokespecial指令调用的方法称为非虚方法,其余的(final修饰的除外)称为虚方法。
方法调用:方法重写的本质
Java语言中方法重写的本质
- 1.找到操作数栈桢的第一个元素所执行的对象的实际类型,记作C。
- 2.如果在过程结束;如果不通类型C中找到与常量中的描述符合简单名称都相符的方法,则进行访问权限校验,如果通过则访问这个方法的直接引用,查找不通过,则返回java.lang.IllegalAccessError异常。
- 3.否则,按照继承关系从下往上依次对C的各个父类进行第2步的搜索和验证过程。
- 4.如果始终没有找到合适的方法,则抛出java.lang.AbstractMethodError异常。
IllegalAccessError介绍
程序试图访问或修改一个属性或调用一个方法,这个属性或方法,你没有权限访问。一般的这个会引起编译期异常。这个错误如果发生在运行时,就说明一个类发生了不兼容的改变。
方法调用:虚方法表
- 在面向对象的编程中,会很频繁的使用动态分派,如果在每次动态分派的过程中都要重新再类的方法元数据中搜索合适的目标的话就可能影响到执行效率。因此,为了提高性能,JVM采用在类的方法区建立一个虚方法表(非虚方法不会出现在这个表中)来实现。使用索引表来代替查找。
- 每个类中都有一个虚方法表,表中存放着各个方法的实际入口。
- 那么虚方法表什么时候被创建?
虚方法表会在类加载的链接阶段被创建并开始初始化,类的变量初始值准备完成之后,JVM会把该类的方发表也初始化完毕。
方法返回地址
- 存放调用该方法的PC寄存器的值
- 一个方法的结束,有两种方式:
- 正常执行完成
- 出现未处理的异常,非正常退出
- 无论通过哪种方式退出,在方法退出后都返回到该方法被调用的位置。方法正常退出时,调用者的PC计数器的值作为返回地址,即调用该方法的指令的下一个指令的地址。而通过异常退出的,返回地址是要通过异常表来确定,栈桢中一般不会保存这部分信息。
当一个方法喀什执行后,只有两种方式可以退出这个方法:
1.执行引擎遇到任意一个方法返回的字节码指令,会有返回值传递给上层的方法调用者,简称正常完成出口; - 一个方法的正常调用完成之后究竟需要使用哪一个返回指令还需要根据方法返回值的实际数据类型而定。
- 在字节码指令汇总,返回指令包含ireturn(当返回值是boolean、byte、char、short和int类型时使用)、lreturn、freturn、dreturn以及areturn,另外还有一个return指令供声明为void的方法、实例初始化方法、类和接口的初始化方法使用。
2.在方法执行的过程中遇到了异常,并且这个异常没有在方法内进行处理,也就是只要在本方法的异常表中没有搜索到匹配的异常处理器,就会导致方法退出。简称异常完成出口。
方法执行过程中抛出异常时的异常处理,存储在一个异常处理表,方便发生异常的时候找到处理异常的代码。
字节码异常表
Exception | tbale | ||
---|---|---|---|
from | to | target | type |
4 | 16 | 19 | any |
19 | 21 | 19 | any |
上面的数字from或to以及target的数字代表的是字节码地址,type是异常类型。
栈面试的题目
- 举例栈溢出的情况?(StackOverflowError)
通过设置-Xss设置栈的大小 - 调整栈大小就能保证不出现溢出吗?
不能 - 分配的栈内存越大越好吗?
不是 - 垃圾回收是否会涉及到虚拟机栈?
不会
本地方法
什么是本地方法?
- 简单地讲,一个Native Method就是一个Java调用非Java代码的接口,一个Native Method是这样一个Java方法;该方法的实现由非Java语言实现,比如C。这个特征并非Java所持有,很多其他的编程语言都有这一机制,比如在C++中你可以用extern “C”告诉C++编译器去调试一个C的函数。
- 在定义一个Native method时,并不提供实现体,因为其实现体是由非Java语言在外面实现的。
为什么要使用Native Method?
Java使用起来非常方便,然而有些层次的任务用Java实现起来不容易,或者我们对程序的效率很在意时,问题就来了。
- 与Java环境外交互:
有时java应用需要与Java外面的环境交互,这是本地方法存在的主要原因。 - 与操作系统交互
- Sun‘s Java
本地方法栈
- Java虚拟机栈用于管理Java方法的调用,而本地方法栈用于管理本地方法的调用。
- 本地方法栈,也是线程私有的。
- 允许被实现成固定或者是可动态扩展的内存大小。
- 如果线程请求分配的栈容量超过本地方法栈允许的最大容量,Java虚拟机将会抛出一个StackOverflowError异常
- 如果本地方法栈可以动态扩展,并且尝试扩展的时候无法申请到足够的内存,或者在创建新的线程时没有足够的内存去创建对应的本地方法栈,那么Java虚拟机将会抛出一个OutOfMemoryError异常。
- 本地方法是使用C语言实现的。
- 它的具体做法是Native Method Stack中登记Native方法,在Execution Engine执行时加载本地方法库。
- 当某一个线程调用一个本地方法时,它进入了一个全新的并且不再受虚拟机限制的世界。它和虚拟机拥有同样的权限。
- 本地方法可以通过本地方法接口来访问虚拟机内部的运行时数据区。
- 它甚至可以直接使用本地处理器中的寄存器。
- 直接从本地内存的堆中分配任意数量的内存。
- 并不是所有的JVM都支持本地方法。因为Java虚拟机规范并没有明确要求本地方法栈的使用语言、具体实现方式、数据结构等。如果JVM产品不打算支持Native方法,也可以无需实现本地方法栈。
- 在HotSpot JVM中,直接将本地方法栈和虚拟机栈合二为一。
堆
堆的核心概述
- 一个JVM实例只存在一个堆内存,堆也是Java内存管理的核心区域。
- Java堆区在JVM启动的时候即被创建,其空间大小也就确定了。是JVM管理的最大一块内存空间。
- 堆内存的大小是可以调节的。
- 《Java虚拟机规范》规定,堆可以处于物理上不连续的内存空间中,但在逻辑上它应该被视为连续的。
- 所有的线程共享Java堆,在这里还可以划分线程私有的缓冲区
- 《Java虚拟机规范》中对Java堆的描述是:所有的对象实例以及数组都应当运行时分配在堆上。
- 数组和对象可能永远不会存储在栈上,因为栈桢中保存引用,这个引用指向对象或者数组在堆中的位置。
- 在方法结束后,堆中的对象不会马上被移除,仅仅在垃圾收集的时候才会被移除。
- 堆,是GC(Garbage Collection,垃圾收集器)执行垃圾回收的重点区域。
内存细分
现代垃圾收集器大部分基于分代收集理论设计,堆空间细分为:
- Java 8 及以后堆内存逻辑上分为三部分:新生代、老年代、元空间
- Young Generation Space 新生代 Young/New
- 又被划分为Eden区和Survivor区
- Tenure Generation Space 老年代 Old/Tenure
- Meta Space 元空间 Meta
- Young Generation Space 新生代 Young/New
堆空间大小设置
- Java堆区用于存储Java对象实例,那么堆的带下在JVM启动时就已经设定好了,可以通过选项“-Xmx” 和“-Xms”来进行设置。
- “-Xms”用于表示堆区的初始内存,等价于
-XX:InitialHeapSize
- “-Xmx”用于表示堆区的最大内存,等价于
-XX:MaxHeapSize
- “-Xms”用于表示堆区的初始内存,等价于
- 一旦堆区中的内存大小超过“-Xmx”所指定的最大内存时,将会抛出OutOfMemoryError异常。
- 通常会将-Xms和-Xmx设置相同的值,其目的是为了能够在Java垃圾回收机制清理完堆区后不需要重新分隔计算堆区大小,从而提高性能。
- 默认情况下,初始内存大小:物理电脑内存大小/64,最大内存大小:物理电脑内存大小/4。
测试程序:
public static void main(String[] args) {
long mNum = 1024 * 1024;
//返回Java虚拟机中的堆的内存总量
long initialMemory = Runtime.getRuntime().totalMemory() / mNum;
//返回Java虚拟机试图使用的最大堆内存空间
long maxMemory = Runtime.getRuntime().maxMemory() / mNum;
System.out.println("-Xms:" + initialMemory + "M");
System.out.println("-Xmx:" + maxMemory + "M");
System.out.println("系统内存大小为:" + initialMemory * 64 / 1024 + "G" );
System.out.println("系统内存大小为:" + maxMemory * 4 / 1024 + "G" );
}
假设设置-Xms600M -Xmx600M
,我们发现打印结果如下:
发现只有575M,我们可以打开CMD或者终端;
jps
命令查看当前的应用进程号
然后用命令jstat -gc 【进程号】
可以查看到
S0C 25600
S1C 25600
S0U 0
S1U 0
EC 153600
EU 15360.5
OC 409600
- S0C、S1C、EC属于新生代 OC属于老年代
- (S0C + S1C + EC + OC)/ 1024 = 600M
但是为什么使用只有575,因为在实际使用中S0C和S1C只有一个使用,所以少了25M
或者在VM参数中增加-XX:+PrintGCDetails
打印信息如下:
年轻代和老年代
-
存储在JVM中的Java对象可以被划为两类:
- 一类是生命周期较短的瞬时对象,这类对象的创建和消亡都非常迅速
- 另外一类对象的生命周期却非常长,在某些极端的情况下还能够与JVM的生命周期保持一致
-
Java堆区进一步细分的话,可以划分为年轻代和老年代
-
其中年轻代又可以划分为Eden空间,Survivor0空间和Survivor1空间(有时也叫from区、to区)
-
配置新生代和老年代的堆结构
- 默认
-XX:NewRatio=2
,表示新生代占1,老年代占2,新生代占整个堆的1/3 - 可以修改
-XX:NewRatio=4
,表示是新生代占1,老年代占4,新生代占整个堆的1/5
- 默认
-
可以通过命令
jinfo -flag NewRatio
【进程号】查看进程的堆结构比例
-
在HotSpot中,Eden空间和另外两个Survivor空间缺省所占的比例是8:1:1
-
当然开发人员可以通过选项
-XX:SurvivorRatio
调整这个空间比例。比如-XX:SurvivorRatio=8
-
几乎所有的Java对象都是在Eden区被new出来的
-
绝大部分的Java对象的销毁都在新生代进行了。
-
可以使用选项”-Xmn“设置新生代最大内存大小
- 这个参数一般使用默认值就可以了。
对象分配过程
为新对象分配内存时一件非常严谨和复杂的任务,JVM的设计者不仅需要考虑内存如何分配、在哪里分配等问题,并且由于内存分配算法与内存回收算法密切相关,所以还需要考虑GC执行完内存回收后是否会在内存空间中产生内存碎片。
- new的对象先放Eden区,此区有大小限制。
- 当Eden区的空间填满时,程序又需要创建对象,JVM的垃圾回收器将对Eden区进行垃圾回收(Minor GC),将Eden区中不再被其他对象所引用的对象进行销毁。再加载新的对象放到Eden区。
- 然后将Eden区中的剩余对象移动到Survivor0区
- 如果再次触发垃圾回收,此时上次幸存下来的放到Survivor0区的,如果没有回收,就会放到Survivor1区。
- 如果再次经历垃圾回收,此时会重新放回Survivor0区,接着再去Survivor1区。
- 什么时候去养老区呢?默认15次。可以设置参数
-XX:MaxTenuringThreshold<N>
进行设置。
总结:
- 针对Survivor0,Survivor1区总结:复制之后又交换,谁空谁是To。
- 关于垃圾回收:频繁在新生代收集,很少在老年代几乎不在永久代/元空间收集。
Minor GC、Major GC与Full GC
JVM在进行GC时,并非每次都对上面三个内存区域(新生代、老年代;方法区)一起回收的,大部分时候回收的都是指新生代。
针对HotSpot VM的实现,它里面的GC按照回收区域分为两大种类型:一种是部分收集(Partial GC),一种是整堆收集(Full GC)
- 部分收集:不是完整收集整个Java堆的垃圾收集,其中又分为:
- 新生代收集(Minor GC / Young GC):只是新生代(Eden/S0、S1)的垃圾收集。
- 老年代收集(Major GC / Old GC):只是老年代的垃圾收集。
- 目前,只有CMS GC会有单独收集老年代的行为。
- 注意,很多时候Major GC 会和Full GC混淆使用,需要具体分辨是老年代回收还是整堆回收。
- 混合收集(Mixed GC):收集整个新生代以及部分老年代的垃圾收集。
- 目前只有G1 GC会有这种行为。
- 整堆收集(Full GC):收集整个Java堆的方法区的垃圾收集。
最简单的分代式GC策略的触发条件
-
年轻代GC(Minor GC)触发机制:
- 当年轻代空间不足时,就会触发Minor GC,这里的年轻代满指的是Eden区满,Survivor满不会引发GC。(每次Minor GC会清理年轻代的内存。)
- 因为Java对象大多都具备朝生夕灭的特性,所以Minor GC非常频繁,一般回收速度也比较快。
- Minor GC会引发STW,暂停其他用户线程,等垃圾回收结束,用户线程才恢复运行。
-
老年代GC(Major GC/FUll GC)触发机制:
- 指发生在老年代的GC,对象从老年代消失时,我们说:”Major GC“或”Full GC“发生了。
- 出现了Major GC,经常会伴随至少一次的Minor GC(但非绝对的,在Parallel Scavenge收集器的手机策略里就直接进行Major GC的策略选择过程)。
- 也就是在老年代空间不足时,会先尝试触发Minor GC。如果之后空间还不足,则触发Major GC
- Major GC的速度一般会比Minor GC慢10倍以上,STW的时间更长。
- 如果Major GC后,内存还不足,就报OOM了。
-
Full GC触发机制:
触发Full GC 执行情况有如下五种:
(1) 调用System.gc()
时,系统建议执行Full GC,但是不必然执行。
(2) 老年代空间不足。
(3) 方法区空间不足。
(4) 通过Minor GC后进入老年代的平均代销大于老年代的可用内存。
(5) 由Eden区、Survivor Space0(From Space)区向Survivor Space1(To Space)区复制时,对象大小大于To Space可用内存,则把该对象转存到老年代,且老年代的可用内存小于该对象大小。
说明:Full GC是开发或调优中尽量避免的,这样暂停时间会短一些。
内存分配策略(或对象提升(Promotion)规则)
如果对象在Eden出生并经过第一次MinorGC后仍然存活,并且能被Survivor容纳的话,将被移动到Survivor空间中,并将对象年龄设为1。对象在Survivor区中每熬过一次Minor GC,年龄就增加1岁,当它的年龄增加到一定程度(默认15岁,其实每个JVM、每个GC都有所不同)时,就会被晋升到老年代中。
对象晋升老年代的年龄阈值,可以通过选项-XX:MaxThenuringThreshold
来设置。
针对不同年龄段的对象分配原则如下所示:
- 优先分配到Eden
- 大多对象直接分配到老年代
- 尽量避免程序中出现过多的大对象。
- 长期存活的对象分配到老年代
- 动态对象年龄判断
- 如果Survivor区中相同年龄的所有对象大小的总和大于Survivor空间的一半,年龄大于或等于该年龄的对象可以直接进入老年代,无须等到MaxTenruingThreshold中要求的年龄。
- 空间分配担保
-XX:HandlePromotionFailure
对象分配过程:TLAB
为什么有TLAB(Thread Local Allocation Buffer 线程本地分配缓存区)?
- 堆区是线程共享区域,任何线程都可以访问到堆区中的共享数据
- 由于对象实例的创建在JVM中非常频繁,因此在并发环境下从堆区中划分内存空间是线程不安全的。
- 为避免多个线程操作同一地址,需要使用加锁等机制,进而影响分配速度。
什么是TLAB?
- 从内存模型而不是垃圾收集的角度,对Eden区域继续进行划分,JVM为每个线程分配了一个私有缓存区域,它包含在Eden空间内。
- 多线程同时分配内存时,使用TLAB可以避免一系列的非线程安全问题,同时还能够提升内存分配的吞吐量,因此我们将这种内存分配方式称之为快速分配策略。
- 所有的OpenJDK衍生出来的JVM都提供了TLAB的设计。
TLAB的再说明
- 尽管不是所有的对象实例都能够在TLAB中成功分配内存,但JVM确实将TLAB作为内存分配的首选。
- 在程序中,开发人员可以通过选项
-XX:UseTLAB
设置是否开启TLAB空间。 - 默认情况下,TLAB空间的内存非常小,仅占有整个Eden空间的1%,当我们可以通过选项
-XX:TLABWasteTargetPercent
设置TLAB空间所占用Eden空间的百分比大小。 - 一旦对象在TLAB空间分配内存失败时,JVM就会尝试着通过使用加锁机制确保数据操作的原子性,从而直接Eden空间中分配内存。
对象分配过程:TLAB
堆空间中常用的JVM参数
-XX:+PrintFlagsInitial
查看所有参数的默认初始值-XX:+PrintFlagsFinal
查看所有的参数的最终值(可能会存在修改,不再是初始值)-Xms
初始堆空间内存(默认为物理内存的1/64)-Xmx
最大堆空间内存(默认为物理内存的1/4)-Xmn
设置新生代的大小。(初始值及最大值)-XX:NewRatio
配置新生代与老年代的堆结构占比-XX:SurvivorRaito
设置新生代中Eden与S0/S1的空间比例。- 如果设置此值偏大
如果伊甸园区比较大那么幸存者0/1区就比较小,可以存放的对象就比较少,再往伊甸园区对象后发生Minor GC时幸存者区很可能回满,则幸存者区的对象就会直接去老年代,这样导致的后果是Minor GC失去意义,因为此时Minor GC无法回收幸存者区,且里面的对象年龄没有达到阈值15就会去老年代。那么可能提高Major GC次数。 - 如果设置此值偏小
如果伊甸园区比较小,幸存者区比较大。因为YoungGC或者Minor GC是伊甸园区满的时候触发,如果此时伊甸园区比较小,那么触发Minor GC就比较频繁,会影响用户进程,STW时间变长。
- 如果设置此值偏大
-XX:MaxTenuringThreshold
设置新生代垃圾的最大年龄-XX:+PrintGCDetails
输出详细的GC处理日志-XX:+PrintGC
和-verbose:gc
打印gc简要信息-XX:HandlePromotionFailure
是否设置空间分配担保
在发生Minor GC之前,虚拟机会检查老年代最大可用的连续空间是否大于新生代所有对象的总空间。
- 如果大于,则此次Minor GC是安全的
- 如果小于,则虚拟机会查看
-XX:HandlePromotionFailure
设置值是否允许担保失败。-
如果HanlePromotionFailure=true,那么会继续检查老年代最大可用连续空间是否大于历次晋升到老年代的对象的平均大小。
- 如果大于,则尝试一次Minor GC,但这次Minor GC依然是由风险的;
- 如果小于,则改为进行一次Full GC。
-
如果HandlePromotionFailure=false,则改为进行一次Full GC.
-
JDK6 Update24之后的规则变为只要老年代的连续空间大于新生代对象总大小或者历次晋升的平均大小就会进行Minor GC,否则将进行Full GC。
堆是分配对象存储的唯一选择吗?
在《深入理解Java虚拟机》中关于Java堆内存有这样一段描述:
随着JIT编译期的发展与逃逸分析技术逐渐成熟,栈上分配、标量替换优化技术将会导致一些微妙的变化,所有的对象都分配到堆上也渐渐不那么绝对了。
在Java虚拟机中,对象是Java堆中分配内存的,这是一个普遍的常识。但是有一种特殊情况,那就是如果经过逃逸分析后发现,一个对象并没有逃逸出方法的话,那么就可能被优化成栈上分配。这样就无需再堆上分配内存,也无须进行垃圾回收了。这也是最常见的堆外存储技术。
基于OpenJDK深度定制的TaoBaoVM,其中创新的GCIH(GC invisible heap)技术实现off-heap,将生命周期较长的Java对象从heap中移至heap外,并且GC不能管理GCIH内部的Java对象,从此达到降低GC的回收频率和提升GC的回收效率的目的。
逃逸分析概述
- 如何将堆上的对象分配到栈,需要使用逃逸分析手段。
- 这是一种可以有效减少Java程序中同步负载和内存堆分配压力的跨函数全局数据流分析算法。
- 通过逃逸分析,Java HotSpot编译期能够分析出一个新的对象的引用的使用范围从而决定是否要将这个对象分配到堆上。
- 逃逸分析的基本行为就是分析对象动态作用域:
- 当一个对象在方法中被定义后,对象只在方法内部使用,则认为没有发生逃逸。
- 当一个对象在方法中被定义后,它被外部方法所引用,则认为发生逃逸。列如作为调用参数传递到其他地方中。
- 快速判断是否发生逃逸分析,就看new的对象实体是否在外部会使用。
发生逃逸的几种情况。
public class EscapeAnalysis {
public EscapeAnalysis obj;
/*
* 方法返回EscapeAnalysis对象,发生逃逸
* */
public EscapeAnalysis genInstance(){
return obj == null? new EscapeAnalysis() : obj;
}
/*
* 为成员属性赋值,发生逃逸
* */
public void setObj(){
this.obj = new EscapeAnalysis();
}
/*
* 引用成员变量的值,发生逃逸
* */
public void useEscapeAnalysis(){
EscapeAnalysis escapeAnalysis = genInstance();
}
}
- 可以通过
-XX:+PrintEscapeAnalysis
查看逃逸分析的筛选结果。
逃逸分析:代码优化
使用逃逸分析,编译期可以对代码做如下优化:
1.栈上分配。将堆分配转化为栈分配。如果一个对象在子程序中被分配,要使指向该对象的指针永远不会逃逸,对象可能是栈分配的候选,而不是堆分配。
2.同步省略。如果一个对象被发现只能从一个线程被访问到,那么对于这个对象的操作可以不考虑同步。
3.分离对象或标量替换。有的对象可能不需要作为一个连续的内存结构存在也可以被访问到,那么对象的部分(或全部)可以不存储在内存,而是存储在CPU寄存器中。
栈上分配
- JIT编译期在编译期间根据逃逸分析的结果,发现如果一个对象并没有逃逸出方法的话,就可能被优化为栈上分配。分配完成后,继续在调用栈内执行,最后线程结束,栈空间被回收,局部变量对象也被回收。这样就无须进行垃圾回收了。
- 常见的栈上分配的场景
- 逃逸分析汇总,已经说明了。分别是给成员变量赋值、方法返回值、实例引用传递。
同步省略
- 线程同步的代价是相当高的,同步的后果是降低并发性和性能。
- 在动态编译同步块的时候,JIT编译期可以借助逃逸分析来判断同步块所使用的锁对象是否只能够被一个线程访问而没有被发布到其他线程。如果没有,那么JIT编译期在编译这个同步块的时候就会取消对着部分代码的同步。这样就能大大提高并发性和性能,这个取消同步的过程就叫同步省略,也叫锁消除。
public void f(){
Object hollis = new Object();
synchronized (hollis){
System.out.println(hollis.toString());
}
}
优化为
public void f(){
Object hollis = new Object();
System.out.println(hollis.toString());
}
分离对象或标量替换
标量是指无法再分解成更小的数据的数据。Java中原始数据类型就是标量。
相对的,那些还可以分解的数据叫作聚合量,Java中的对象就是聚合量,因为他可以分解成其他聚合量和标量。
在JIT阶段,如果经过逃逸分析,发现一个对象不会被外界访问的话,那么经过JIT优化,就会把这个对象拆解成若干个其中包含的若干个成员变量来代替。这个过程就是标量替换。
方法区
栈、堆、方法区的关系
运行时数据区结构图
从线程共享与否角度来看
栈、堆、方法区的交互关系
这两幅图中:
- reference就是person
- Person就是对象类型数据
- new Person就是对象实例数据
方法区的理解
《Java虚拟机规范》中明确说明:”尽管所有的方法区在逻辑上是属于堆的一部分,但一些简单的实现可能不会选择去进行垃圾收集或者进行压缩。“ 但对于HotSpotJVM而言,方法区还有一个别名叫作Non-Heap(非堆),目的就是要和堆分开。
所以,方法区看作是一块独立于Java堆的内存空间。
- 方法区(Method Area)与Java堆一样,是各个线程共享的内存区域。
- 方法区在JVM启动的时候被创建,并且它的实际的物理内存空间中和Java堆区一样都可以是不连续的。
- 方法区的大小,跟堆空间一样,可以选择固定大小或者可扩展。
- 方法区的大小决定了系统可以保存多少个类,如果系统定义了太多类,导致方法区溢出,虚拟机同样会抛出内存溢出错误:java.lang.OutOfMemoryError: PermGen space或者java.lang.OutOfMemoryError:Metaspace
- 加载大量的第三方的jar包:Tomcat部署的工程过多(30-50),大量动态的生成反射类。
- 关闭JVM就会释放这个区域的内存。
HotSpot中方法区的演进
- 在jdk7及以前,习惯上把方法区,称为永久代。jdk8开始,使用元空间取代了永久代。
- 本质上,方法区和永久代并不等价,仅是对HotSpot而言。《Java虚拟机规范》对如何实现方法区,不做统一要求。列如:BEA JRockit/IBM J9中不存在永久代的概念。
- 现在来看,当年使用永久代,不是好的idea。导致Java程序更容易OOM(超过-XX:maxPermSize上限)
- 而到JDK8放弃了永久代的概念,改用与JRockit、J9一样在本地内存中实现的元空间(Metaspace)来代替。
- 元空间的本质与永久代类似,都是对JVM规范中方法区的实现,不过元空间与永久代最大的区别在于:元空间不在虚拟机设置的内存中,而是使用本地内存。
- 永久代、元空间二者不只是名字变了,内部结构也调整了。
- 根据《Java虚拟机规范》的规定,如果方法区无法满足新的内存分配需求时将抛出OOM异常。
设置方法区大小和OOM
JDK8及以后:
- 元数据区大小可以使用参数
-XX:MetaspaceSize
和-XX:MaxMetaspaceSize
指定,替代上述原有的两个参数。 - 默认值依赖于平台。windows下,
-XX:MetaspaceSize
是21M,-XX:MaxMetaspaceSize
的值是-1,即没有限制。 - 与永久代不通,如果不指定大小,默认情况下,虚拟机会耗尽所有的可用系统内存。如果元数据区发生溢出,虚拟机一样会抛出异常OutOfMemoryError:Metaspace
-XX:MetaspaceSize
设置初始的元空间大小。对于一个64位服务器端JVM来说,其默认的-XX:MetaspaceSize
值位21MB。这就是初始的高水位线,一旦触及这个水位线,Full GC将会被触发并卸载没有用的类(即这些类对应的类加载器不再存活),然后这个高水位线将被重置。新的高水位线的值取决于GC后释放了多少元空间。如果释放的空间不足,那么在不超过MaxMetaspaceSize时,适当提高该值。如果释放空间过多,则适当降低该值。- 如果初始化的高水位线设置过低,上述高水位线调整情况会发生很多次。通过垃圾回收器的日志可以观察到Full GC多次调用。为了避免频繁地GC,建议将
-XX:MetaspaceSize
设置一个相对较高的值。
如何解决这些OOM?
1.要解决OOM异常或heap space的异常,一般的手段是通过内存映像分析工具对于dump出来的堆转储快照进行分析,重点是确认内存汇总的对象是否是有必要的,也就是要先分析清楚到底是出现了内存泄漏(Memory Leak)还是内存溢出(Memory Overflow)。
2.如果内存泄漏,可进一步通过工具查看泄漏对象到GC Roots的引用链。于是就能找到泄漏对象是通过怎样的路径与GC Roots相关联导致垃圾收集器无法自动回收它们。掌握了泄漏对象的类型信息,以及GC Roots引用链的信息,就可以比较准确地定位出泄漏代码的位置。
3.如果不存在内存泄漏,换句话说就是内存汇总的对象确实都还必须存活着,那应当检查虚拟机的堆参数(-Xmx与-Xms),与机器物理内存对比看是否还可以调大,从代码上检查是否存在某些对象生命周期过长、持有状态时间过长的情况,尝试减少程序运行期的内存消耗。
方法区存储什么?
它用于存储已被虚拟机加载的类型信息、常量、静态变量、即时编译期编译后的代码缓存等。
方法区的内部结构
类型信息
对每个加载的类型(类class、接口interface、枚举enum、注解annotation),JVM必须在方法区中存储以下类型信息:
(1) 这个类型的完整有效名称(全名=包名.类名)
(2) 这个类型的直接父类的完整有效名(对于interface或是java.lang.Object 都没有父类)
(3) 这个类型的修饰符(public,abstract,final的某个子集)
(4) 这个类型直接接口的有一个有序列表
域信息
- JVM必须在方法区中保存类型的所有域的相关信息以及域的声明顺序。
- 域的相关信息包括:域名称、域类型、域修饰符(public,private,protected,static,final,volatile,transient的某个子集)
方法信息
JVM必须保存所有方法的以下信息,同域信息一样包括声明顺序:
- 方法名称
- 方法的返回类型(或 void)
- 方法参数的数量和类型(按顺序)
- 方法的修饰符(public,private,protected,static,final,synchronized,native,abstract的一个子集)
- 方法的字节码(bytecodes)、操作数栈、局部变量表及大小(abstract和native方法除外)
- 异常表(abstract和native方法除外)
- 每个异常处理的开始位置、结束位置、代码处理在程序计数器中的偏移地址被捕获的异常类的常量池索引。
运行时常量池
- 运行时常量池是方法区的一部分。
- 常量池表(Constant Pool Table)是class文件的一部分,用于存放编译期生成的各种字面量与符号引用,这部分内容将在类加载后存放到方法区的运行时常量池中。
- 运行时常量池,在加载类和接口到虚拟机后,就会创建对应的运行时常量池。
- JVM为每个已加载的类型都维护一个常量池。池中的数据项像数组项一样,是通过索引访问的。
- 运行时常量池中包含多种不同的常量,包括编译期就已经明确的数值字面量,也包括到运行期解析后才能够获得的方法或者字段引用,此时不再是常量池中的符号地址了,这里换为真实地址。
- 运行时常量池,相对于Class文件常量池的另一个重要特征是:具备动态性。
- String.intern()
- 运行时常量池,相对于Class文件常量池的另一个重要特征是:具备动态性。
- 运行时常量池类似于传统编程语言中的符号表,但是它包含的数据却比符号表更加丰富一些。
- 当创建类或者接口的运行时常量池时,如果构造运行时常量池所需的内存空间超过方法区所能提供的最大值,则JVM会抛OutOfMemoryError异常。
运行时常量池 VS 常量池
- 方法区内部包含了运行时常量池。
- 字节码文件,内部包含了常量池。
- 要弄清楚方法区,需要理解清楚ClassFile,因为家在类的信息都在方法区。
- 要弄清楚方法区的运行时常量池,需要理解清楚ClassFile中的常量池。
常量池、可以看做是一张表,虚拟机指令根据这张常量表找到要执行的类名、方法名、参数类型、字面量等类型。
方法区的演进细节
1.首先明确:只有HotSpot才有永久代。BEA、JRockit、IBM J9等来说,是不存在永久代的概念的。原则上如何实现方法区属于虚拟机实现细节,不受《Java虚拟机规范》管束,并不要求统一。
2.HotSpot中方法区的变法:
JDK1.6及以前 | 有永久代(permanent Generation),静态变量存放在永久代上 |
---|---|
JDK1.7 | 有永久代,但已经逐步”去永久代“,字符串常量池、静态变量移除,保存在堆中 |
JDK1.8及以后 | 无永久代,类型信息、字段、方法、常量保存在本地内存的元空间,但字符串常量池、静态变量仍在堆 |
永久代为什么要被元空间替换?
- 随着Java8的到来,HotSpot VM中再也见不到永久代了。但是这并不意味着类的元数据信息也消失了。这些数据被移动到一个与堆不相连的本地内存区域,这个区域叫做元空间(Mataspace)。
- 由于类的元数据分配的本地内存中,元空间的最大可分配空间就是系统可用内存空间。
- 这项改动是很有必要的,原因有:
- 为永久代设置大小是很难确定的。
在某些场景下,如果动态加载类过多,容易产生perm区的OOM。比如某个实际Web工程中,因为功能点比较多,在运行过程汇总,要不断动态加载很多类,经常出现致命错误。
Exception in thred 'doubbo client x.x connection' java.lang.OutOfMemoryError:PermGenspace'
而元空间和永久代之间最大的区别在于:元空间并不在虚拟机中,而是使用本地内存。因此,默认情况下,元空间的大小仅受本地内存限制。 - 对永久代进行调优是很困难的。
- 为永久代设置大小是很难确定的。
StringTable为什么要调整?
jdk7中将StringTable放到堆空间汇总。因为永久代的回收率很低,在full gc的时候才会触发。而full gc是老年代的空间不足、永久代不足时才会触发。这就导致StringTable回收效率不高。我们开发中会有大量字符串被创建,回收效率低、导致永久代内存不足。放到堆里,能及时回收内存。
方法区的垃圾收集
这个区域的回收效果比较难令人满意,尤其是类型的卸载,条件相当苛刻。但是这部分区域的回收有时又确实是必要的。
方法区的垃圾收集主要回收两部分内容:常量池中废弃的常量和不再使用的类型。
-
方法区内常量池之中主要存放的两个类常量:字面量和符号引用。字面量比较接近Java语言层次的常量概念,如文本字符串、被声明为final的常量值等。而符号引用则属于编译原理方面的概念,包括下面三类常量:
- 类和接口的权限定名
- 字段的名称和描述符
- 方法的名称和描述符
-
HotSpot虚拟机对常量池的回收策略是很明显的,只要常量池中常量没有被任何地方引用,就可以被回收。
-
回收废弃常量与回收Java堆中的对象非常相似。
-
判定一个常量是否“废弃”还是相对简单,而要判定一个类型是否属于“不再被使用的类”的条件就比较苛刻了。需要同时满足下面三个条件:
- 该类所有的实例都已经被回收,也就是Java堆中不存在该类及其任何派生子类的实例。
- 加载该类的类加载器已经被回收,这个条件除非是经过精心设计的可替换类加载器的场景,如OSGI、JSP的重加载等,否则通常是很难达成的。
- 该类对应的java.lang.Class对象没有在任何地方被引用,无法再任何地方通过反射访问该类的方法。
-
Java虚拟机被允许对满足上述三个条件的无用类进行回收,这里说的仅仅是“被允许”,而并不是和对象一样,没有引用就必然会回收。关于是否对类型进行回收,HotSpot虚拟机提供了
-Xnoclassgc
参数进行控制,还可以使用-verbose:class
以及-XX:+TraceClass-Loading
、-XX:+TraceClassUnLoading
查看类加载和卸载信息。 -
在大量使用反射、动态代理、CGLib等字节码框架,动态生成JSP以及OSGI这类频繁自定义类加载器的场景中,通常都需要Java虚拟机具备类型卸载的能力,以保证不会对方法区造成过大的内存压力。
对象的实例化内存布局与访问定位
对象的实例化
创建对象的方式
-
new
- 最常见的方式
- 变形1:XXX的静态方法
- 变形2:XXX的Builder/XXXFactory的静态方法
-
Class的newInstance():反射的方式,只能调用空参的构造器,权限必须是public
-
Constructor的newInstance(XXX):反射的方式,可以调用空参、带参的构造器,权限没有要求。
-
使用clone():不调用任何构造器,当前类需要实现Cloneable接口,实现clone()
-
使用反序列化:从文件中、从网络中获取对象一个二进制流。
-
第三方库Objenesis
创建对象的步骤
1.判断对象对应的类是否加载、链接、初始化
虚拟机遇到一条new指令,首先去检查这个指令的参数能否在Metaspace的常量池中定位到一个类的符号引用,并且检查这个符号引用代表的类是否已经被加载、解析和初始化(即判断类元信息是否存在)。
如果没有,那么在双亲委派模式下,使用当前类加载器以ClassLoder+包名+类名为Key进行查找对应的.class文件。如果没有找到文件,则抛出ClassNotFundException异常。
如果找到,则进行类加载,并生成对应的Class类对象。
2.为对象分配内存
首先计算对象占用空间大小
接着在堆中划分一块内存给新对象。
如果实例成员变量是引用变量,仅分配引用变量空间即可,即4个字节大小。
-
如果内存规整
-
指针碰撞
如果内存规整的,那么虚拟机将采用的是指针碰撞(Bump The Pointer)来为对象分配内存
意思是所有用过的内存在一边,空闲的内存在另一边,中间放着一个指针作为分界点的指示器,分配内存就仅仅把指针向空闲的那边挪动一段与对象大小相等的距离。
如果垃圾收集器选择的是Serial、ParNew这种基于压缩算法的,虚拟机采用这种分配方式,一般使用带有compact(整理)过程的收集器时,使用指针碰撞。
-
-
如果内存不规整
-
虚拟机需要维护一个列表
-
空闲列表分配
如果内存是规整的,已使用的内存和未使用的内存相互交错,那么虚拟机将采用的是空闲列表法来为对象分配内存。
意思是虚拟机维护了一个列表,记录上哪些内存块是可用的,再分配的时候从列表中找到一块足够大的空间划分给对象实例,并更新列表上的内容,这种分配方式成为“空闲列表(Free List)”
-
-
说明
选择哪种分配方式由Java堆是否规整决定,而Java堆是否规整又由采用的垃圾收集器(标记压缩、标记整理)是否带有压缩整理功能决定。
3.处理并发安全问题
-
采用CAS配上失败重试保证更新的原子性
-
每个线程预先分配一块TLAB
- 通过
-XX:+/-UseTlAB
参数来设定
- 通过
4.初始化分配到的空间
- 所有属性设置默认值,保证对象实例字段在不赋值时可以直接使用
5.设置对象的对象头
将对象的所属类(即类的元数据信息),对象的HashCide和对象的GC信息、锁信息等数据存储在对象的对象头中,这个过程的具体设置方式取决于JVM实现。
6.执行init方法进行初始化
在Java程序的视角看来,初始化才正式开始,初始化成员变量,执行实例化代码块,调用类的构造方法,并把堆内对象的首地址赋值给引用变量。
因此一般来说(由字节码汇中是否跟随由invokespecial指令所决定),new指令之后会接着就是执行方法,把对象按照程序员的意愿进行初始化,这样一个真正可用的对象才算完全创建出来。
对象的内存布局
对象头(Header)
包括两部分
-
运行时元数据(Mark Word)
- 哈希值(HashCode)
- GC分代年龄
- 锁状态标志
- 线程持有的锁
- 偏向线程ID
- 偏向时间戳
-
类型指针
- 指向类元数据InstanceKlass,确定该对象所属的类型
说明:如果是数组,还需记录数组的长度
实例数据(Instance Data)
说明
- 它是对象真正存储的有效信息,包括程序代码中定义的各种类型的字段(包括从父类继承下来的合本身拥有的字段)
规则
- 相同宽度的字段总是被分配在一起
- 父类中定义的变量会出现在子类之前
- 如果CompactFields参数为true(默认true):子类的窄变量可能插入到父类变量的空隙
对齐填充(Padding)
不是必须的,也没有特别含义,仅仅祈祷占位符的作用
例子图示
下面一个例子和图示来详细解释对象内存布局
Customer.java
public class Customer {
int id = 1001;
String name;
Account account;
{
name = "匿名客户";
}
public Customer(){
account = new Account();
}
}
class Account{
}
CustomerTest.java
public class CustomerTest {
public static void main(String[] args) {
Customer cust = new Customer();
}
}
对象访问定位
图示
创建对象的目的是为了使用它
JVM是如何通过栈桢中的对象引用访问到其内部的对象实例的呢?
定位,通过栈上reference访问
对象访问方式主要有两种方式
句柄访问
-
图示
-
好处
reference中存储稳定句柄地址,对象被移动(垃圾收集时移动对象很普遍)时只会改变句柄中实例数据指针即可,reference本身不需要被修改。
直接指针(HotSpot采用)
- 图示
直接内存
概述
- 直接内存不是虚拟机运行时数据区的一部分,也不是《Java虚拟机规范》中定义的内存区域。
- 直接内存是Java堆外的、直接向系统申请的内存区间。
- 来源于NIO(New IO / Non-Blocking IO),通过存在堆中的DirectByteBuffer操作Native内存
- 通常,访问直接内存的速度会优于Java堆。即读写性能高
- 因此处于性能考虑,读写频繁的场合可能会考虑使用直接内存。
- Java的NIO库允许Java程序使用直接内存,用于数据缓冲区。
- 也可能导致OutOfMemoryError:Direct buffer memory异常
- 由于直接内存在Java堆外,因此它的大小不会直接受限于-Xmx指定的最大堆大小,但是系统内存是有限的,Java堆和直接内存的总和依然受限于操作系统能给出的最大内存。
- 缺点
- 分配回收成本较高
- 不受JVM内存回收管理
- 直接内存大小可以通过MaxDirectMemorySize设置
- 如果不指定,默认与堆的最大值-Xmx参数值一致。
测试例子
public class BufferTest {
private static final int BUFFER = 1024 * 1024 * 1024;
public static void main(String[] args) {
//直接分配本地内存空间
ByteBuffer byteBuffer = ByteBuffer.allocateDirect(BUFFER);
System.out.println("直接内存分配完毕!");
Scanner scanner = new Scanner(System.in);
scanner.next();
System.out.println("直接内存开始释放!");
byteBuffer = null;
System.gc();
scanner.next();
}
}
执行引擎
概述
- 执行引擎是Java虚拟机核心组成部分之一。
- “虚拟机”是一个相对于“物理机”的概念,这两种机器都有代码执行能力,其区别是物理机的执行引擎是直接建立在处理器、缓存、指令集和操作系统层面上的,而虚拟机的执行引擎则是由软件自行实现的,因此可以不受物理条件制约地定制指令集与执行引擎的结构体系,能够执行那些不被硬件直接支持的指令集格式。
- JVM的主要任务是负责装载字节码到其内部,但字节码并不能够直接运行在操作系统之上,因为字节码指令并非等价于本地机器指令,它内部包含的仅仅只是一些能够被JVM所识别的字节码指令、符号表,以及其他辅助信息。
- 那么,如果想要让一个Java程序运行起来,执行引擎(Execution Engine)的任务就是将字节码指令解释/编译为对应平台上的本地机器指令才可以。简单来说,JVM中的执行引擎充当了将高级语言翻译为机器语言的译者。
Java代码编译和执行的过程
什么是解释器(Interpreter)
当Java虚拟机启动时会根据预定义的规范对字节码采用逐行解释的方式执行,将每条字节码文件中的内容“翻译”为对应平台的本地机器指令执行。
什么是JIT编译器
JIT(Just In Time Compiler)编译器:就是虚拟机将源代码直接编译成和本地机器平台相关的机器语言。
StringTable
String的基本特性
- String:字符串,使用一对""引起来表示
- String声明为final的,不可被继承。
- String实现了Serializable接口:表示字符串是支持序列化的。实现了Compareable接口:表示String可以比较大小。
- String在jdk8及以前内部定义了final char[] value用于存储字符串数据。jdk9时改为byte[]
- String:代表不可变的字符序列。简称:不可变性。
- 当对字符串重新赋值时,需要重新指定内存区域赋值,不能使用原有的value进行赋值。
- 当对现有的字符串进行连接操作时,也需要重新制定内存区域赋值,不能使用原有的value进行赋值。
- 当调用String的replace()方法修改指定字符或字符串时,也需要重新指定内存区域赋值,不能使用原有的value进行赋值。
- 通过字面量的方式(区别于new)给一个字符串赋值,此时的字符串声明在字符串常量池中。
- 字符串常量池中不会存储相同内容的字符串的。
- String的String Pool是一个固定大小的Hashtable,默认值大小长度是1009。如果放进String Pool的String非常多,就会造成Hash冲突严重,从而导致链表会很长,而链表长了后直接造成的影响就是当调用String.intern时性能会大幅下降。
- 使用
-XX:StringTableSize
可设置StringTable的长度 - 在jdk6中StringTable固定的,就是1009的长度,所以如果常量池中的字符串过多就会导致效率下降很快。StringTableSize设置没有要求
- 在jdk7中,StringTabe的长度默认值是60013
String的内存结构
String的内存分配
- 在Java语言中有8种基本数据类型和一种比较特殊的类型String。这些类型为了使它们运行过程中速度更快、更节省内存,都提供了一种常量池的概念。
- 常量池就类似一个Java系统级别提供的缓存。8种基本数据类型的常量池是系统协调的,String类型的常量池比较特殊。它的主要使用方法有两种。
- 直接使用双引号声明出来的String对象会直接存储在常量池中
- 比如:String info = "baiyuliuguang"
- 如果不是用双引号声明的String对象,可以直接使用String提供的intern()方法。
- 直接使用双引号声明出来的String对象会直接存储在常量池中
- 在jdk6 之前,字符串常量池存放在永久代。
- jdk7中Oracle的工程师对字符串池的逻辑做了很大的改变,即将字符串常量池的位置调整到Java堆内。
- 所有字符串都保存在堆(Heap)中,和其他普通对象一样,这样可以让你在进行调优应用仅需要调整堆大小就可以了。
- jdk8元空间,字符串常量在堆。
StringTable为什么调整?
- 永久代PermSize默认比较小
- 永久代垃圾回收频率低
字符串拼接操作
- 常量与常量的拼接结果在常量池,原理是编译期优化
- 常量池中不会存在相同内容的常量。
- 只要其中有一个是变量,结果就在堆中。变量拼接的原理是StringBuilder
- 字符串拼接操作不一定使用的是StringBuilder,如果拼接符号左右两边都是字符串常量或常量引用,则仍然使用编译期优化,即非StringBuilder的方式。
- 如果拼接的结果调用intern()方法,则主动将常量池中还没有的字符串对象放入池,并返回此对象地址。
- intern():判断字符串常量池中是否存在字符串值,如果存在则返回常量池中字符串的地址;
- 如果字符串常量池中不存在字符串,则常量池中加载一份字符串,并返回此对象的地址。
String直接拼接和StringBuilder的append拼接效率差别
首先StringBuild的append()的方式添加字符串的效率要远高于使用String的字符串拼接方式
- StringBuilder的append()方式:创建过多StringBuilder和String的对象。
- 使用String的字符串拼接方式:内存中由于创建了较多的StringBuilder和String的对象,内存占用更大;如果GC,需要花费额外的时间。
intern()的使用
如果不是用双引号声明的String对象,可以使用String提供的intern方法:intern方法会从字符串常量池中查询当前字符串是否存在,如果不存在就会将当前字符串放入常量池中。
- 比如:
String myInfo = new String("I love China").intern();
也就是说如果在任意字符串上调用String.intern()方法,那么其返回结果所指向的那个类实例,必须和直接以常理形式出现的字符串实例完全相同。因此,下列表达式的值必定是true:
("a" + "b" + "c").intern() == "abc";//true
简单通俗点讲,interned String 就是确保字符串的内存里只有一份拷贝,这样可以节约内存空间,加快字符串操作任务的执行速度。注意这个值会被存放在字符串内部池(String Intern Pool)。
如何保证变量s指向的是字符串常量池中的数据?
有两种方式:
方式一:
String s = "baiyuliuguang"; //字面量定义的方式
方式二:
String s = new String("baiyuliuguang").intern()//调用intern()方法
面试题
题目new String("ab")会创建几个对象?
两个对象
一个对象是:new 关键字在堆空间创建的。
一个对象是:字符串常量池中的对象。字节码指令ldc
new String("a") + new String("b")呢?
对象1: new StringBuilder();
对象2:new String("a");
对象3:常量池中的"a"
对象4:new String("b");
对象5:常量池中的"b"
其中StringBuilder.toString();
对象6:new String("ab");
注:toString()方法调用在字符串常量池中没有生成"ab";
intern()面试题
//s 指向堆空间中的"1"
String s = new String("1");
s.intern();
// s2 指向常量池中的"1"
String s2 = "1";
System.out.println(s == s2);// jdk6:false jdk7/8:false
/*s3变量记录的地址为:toString()中new String("11");
执行完该行代码后,字符串常量池不存在字符串"11"; */
String s3 = new String("1") + new String("1");
/* jdk6:创建了一个新的对象“11”,也就是新的地址。
jdk7/8:此时常量池中并没有创建"11"而是创建一个指向堆空间中new String("11")的地址引用并返回。 */
s3.intern();
String s4 = "11";//使用的是上一行代码中字符串常量池中"11"的地址
System.out.println(s3 == s4);//jdk6:false jdk7/8:true
总结
- jdk1.6中,将这个字符串对象尝试放入字符串常量池中。
- 如果字符串常量池有,则并不会放入,返回已有的字符串常量池中的对象地址
- 如果没有,则会把此对象复制一份,放入串池,并返回串池中对象地址
- jdk1.7起,将这个字符串对象尝试放入字符串常量池。
- 如果字符串常量池中有,则并不会放入。返回已有的字符串常量池中的对象的地址。
- 如果没有,则会把堆空间中有的对象的引用地址复制一份,放入字符串常量池,并返回字符串常量池汇中的引用地址。
StringTable的垃圾回收
-XX:+PrintStringTableStatistics
开启打印StringTable信息
G1中的String去重操作
-
背景:对许多Java应用做的测试得出以下结果:
- 堆存活数据集合里面String对象占25%
- 堆存活数据集合里面重复的String对象有13.5%
- String对象的平均长度是45
-
许多大规模的Java应用的瓶颈在于内存,测试表明,在这类类型的应用里面,Java堆中存活的数据集合差不多25%是String对象。更进一步,这里面差不多一半String对象是重复的,重复的意思是说:String1.equals(String2) == true 。堆上存在重复的String对象必然是一种内存浪费。这个项目将在G1垃圾收集器中实现自动持续堆重复的String对象进行去重,这样就能避免浪费内存。
-
实现
- 当垃圾收集器工作的时候,会访问堆上存活的对象。对每一个访问的对象都会检查是否是候选的要去重的String对象。
- 如果是,把这个对象的一个引用插入到队列中等待后续的处理。一个去重的线程在后台运行,处理这个队列。处理队列的一个元素意味着从队列删除这个元素,然后尝试去重它引用的String对象。
- 使用一个hashtable来记录所有的被String对象使用的不重复的char数组。当去重的时候,会查这个hashtable,来看堆上是否已经存在一个一模一样的char数组。
- 如果存在,String对象会被调整引用那个数组,释放对原来的数组的引用,最终会被垃圾收集器回收掉。
- 如果查找失败,char数组会被插入到hashtable,这样以后的时候就可以共享这个数组了。
-
命令行选项
UseStringDeduplication(bool)
开启String去重,默认是不开启的,需要手动开启PrintStringDeduplicationStatistics(bool)
打印详细的去重统计信息。StringDeduplicationAgeThreshold(uintx)
达到这个年龄的String对象呗认为是去重的候选对象。
垃圾回收
概述
- 什么是垃圾?
- 垃圾是指在运行程序中没有任何指针指向的对象,这个对象就是需要被回收的垃圾
- 如果不及时对内存中的垃圾进行清理,那么,这些垃圾对象所占的内存空间会一直保留到应用程序结束,被保留的空间无法被其他对象使用。甚至可能导致内存溢出。
为什么需要GC?
- 对于高级语言来说,一个基本认知是如果不进行垃圾回收,内存迟早都会消耗完,因为不断地分配内存空间而不进行回收,就好像不停地生产生活垃圾而从来不打扫。
- 除了释放没用的对象,垃圾回收也可以清除内存里的记录碎片。碎片整理将所占用的堆内存移到堆的一端,以便JVM将整理出的内存分配给新的对象。
- 随着应用程序所应付的业务越来越庞大、复杂,用户越来越多,没用GC就不能保证应用程序的正常进行。而经常造成STW的GC又跟不上实际的需求,所以才会不断地尝试对GC进行优化。
垃圾回收相关算法
垃圾标记阶段:对象存活判断
- 在堆里存放着几乎所有的Java对象实例,在GC执行垃圾回收之前,首先需要区分出内存中拿些是存活对象,哪些是已经死亡的对象。只有被标记为已经死亡的对象,GC才会在执行垃圾回收时,释放掉其所占用的内存空间,因此这个过程我们可以称为垃圾标记阶段。
- 当一个对象已经不再被任何的存活对象继续引用,就宣判已经死亡。
- 判断对象存活一般有两种方式:引用计数算法和可达性分析算法。
引用计数算法
- 引用计数算法(Reference Counting)比较简单,对每个对象保存一个整型的引用计数器属性。用于记录对象被引用的情况。
- 对一个对象A,只要有任何一个对象引用了A,则A的引用计数器就加1;当引用失效时,引用计数器就减1.只要对象A的引用计数器的值为0时,即表示对象A不可能在被使用,可进行回收。
- 优点:实现简单,垃圾对象便于辨识;判定效率高,回收没有延迟性。
- 缺点:
- 需要单独的字段存储计数器,这样的做法增加了存储空间的开销。
- 每次赋值都需要更新计数器,伴随加法和减法操作,增加了时间开销。
- 引用计数器有一个严重的问题,即无法处理循环引用的情况,这是一个致命的缺陷,导致Java的垃圾回收器中没有使用这类算法。
循环引用问题图解
当P置空时,因为循环引用所以后面的三个对象计数都不会是0,虽然已经用不到了但是无法释放,造成内存泄漏。
小结
- 引用计数算法,是很多语言资源回收选择,列如因为人工智能而更加火热的Python,它更是同时支持引用计数和垃圾回收机制。
- Java没有选择引用计数,是因为其存在一个基本难题,很难处理循环引用关系。
- Python如何解决循环引用?
- 手动解除:在合适的时机,解除引用关系。
- 使用弱引用weakref,weakref是Python提供的标准库,旨在解决循环引用。
可达性分析算法(或跟搜素算法、追踪性垃圾收集)
- 相对于引用计数算法而言可达性分析算法不仅同样具备实现简单和执行高效等特点,更重要的是该算法可以有效解决在引用计数算法中循环引用的问题,防止内存泄漏的发生。
- 相较于引用计数算法,可达性分析就是Java、C#选择的。这种类型的垃圾收集通常也叫作追踪性垃圾收集(Tracing Garbage Collection)
- 所谓“GC Roots”根集合就是一组必须活跃的引用。
- 基本思路
- 可达性分析算法是以根对象集合(GC Roots)为起始点,按照从上至下的方式搜索被跟对象集合所连接的目标对象是否可达。
- 使用可达性分析算法后,内存中的存活对象都会被跟对象集合直接或间接连接着,搜索所走过的路径称为引用链(Reference Chain)
- 如果目标对象没有任何引用链相连,则是不可达的,就意味着该对象已经死亡,可以标记为垃圾对象。
- 在可达性分析算法中,只有能够被根对象集合直接或者间接连接的对象才是存活对象。
GC Roots
在Java语言中,GC Roots包括以下几类元素:
- 虚拟机栈中引用的对象
- 比如:各个线程被调用的方法中使用到的参数、局部变量等。
- 本地方法栈内JNI(通常说的本地方法)引用的对象。
- 方法区中类静态属性引用的对象
- 比如:Java类的引用类型静态变量。
- 方法区中常量引用的对象
- 比如:字符串常量池(String Table)里的引用。
- 所有 被同步锁synchronized持有的对象
- Java虚拟机内部的引用。
- 基本数据类型对应的Class对象,一些常驻的异常对象(如:NullPointerExecption、OutOfMemoryError),系统类加载器。
- 反映java虚拟机内部情况的JMXBean、JVMTI中注册的回调、本地代码缓存等。
- 除了固定的GC Roots集合以外, 根据用户所选用的垃圾收集器以及当前回收的内存区域不通,还可以有其他对象“临时性”地加入,共同构成完整GC Roots集合。比如:分代收集和局部回收(Partial GC)。
- 如果只针对Java堆中的某一块区域进行垃圾回收(比如:典型的只针对新生代),必须考虑到内存区域是虚拟机自己的实现细节,更不是孤立封闭的,这个区域的对象完全有可能被其他区域的对象所引用,这是就需要一并将关联的区域对象也加入GC Roots集合中去考虑,才能保证可达性分析的准确性。
- 小技巧:由于Root 采用栈方式存放变量和指针,所以如果一个指针,它保存了一个堆内存里的对象,但是自己又不存放在堆内存里面,那它就是Root。
注意
- 如果使用可达性分析算法来判断内存是否可回收,那么分析工作必须在一个能保障一致性的快照中进行。这点不满足的话分析结果的准确性就无法保证。
- 这点也是导致GC进行时必须“Stop The World”的一个重要原因。
- 即使是号称(几乎)不会发生停顿的CMS收集器汇总,枚举根节点时也是必须要停顿的。
对象的finalization机制
- Java语言提供了对象终止(finalization)机制来允许开发人员提供对象被销毁之前的自定义处理逻辑。
- 当垃圾回收器发现没有引用指向一个对象,即:垃圾回收此对象之前,总会先调用这个对象的finalize()方法。
- finalize()方法允许在子类中被重写,用于在对象被回收时进行资源释放。通常这个方法中进行一些资源释放和清理的工作,比如关闭文件、套接字和数据库连接等。
- 永远不要主动调用某个对象的finalize()方法,应该交给垃圾回收机制调用。理由包括下面三点:
- 在finalize()时可能会导致对象复活。
- finalize()方法的执行时间是没有保障的,它完全由GC线程决定,极端情况下,若不发生GC,则finalize()方法将没有执行机会。
- 一个糟糕的finalize()会严重影响GC的性能。
- 从功能上来说,finalize()方法与C++中的析构函数比较相似,但是Java采用的基于垃圾回收器的自动内存管理机制,所以finalize()方法在本质上不同于C++中的析构函数。
- 由于finalize()方法的存在,虚拟机中的对象一般处于三种可能的状态。
对象的三种状态
- 如果从所有根节点都无法访问到某个对象,说明对象已经不再使用了。一般来说,此对象需要被回收。但事实上,也并非是“非死不可”的,这时候它们暂时处于“缓刑”阶段。一个无法触及的对象有可能在某一个条件下“复活”自己,如果这样,那么对它的回收就是不合理的,为此,定义虚拟机中的对象额能的三种状态,如下:
- 可触及的:从根节点开始,可以到达这个对象。
- 可复活的:对象的所有引用都被释放,但是对象有可能在finalize()中复活。
- 不可触及的:对象的finalize()被调用,并且没有复活,那么就会进入不可触及状态。不可触及的对象不可能被复活,因为finalize()只会被调用一次。
- 以上三种状态中,是由于finalize()方法的存在,进行区分,只有在对象不可触及时才可以被回收。
具体过程
- 判定一个对象objA是否可回收,至少精力两次标记过程:
- 如果对象objA到GC Roots没有引用链,则进行第一次标记。
- 进行筛选,判断此对象是否有必要执行finalize()方法
- 如果对象objA没有重写finalize()方法,或者finalize()方法已经被虚拟机调用过,则虚拟机视为“没有必要执行”,objA判定为不可触及的。
- 如果对象objA重写了finalize()方法,且还未执行过,那么objA会被插入到F-Queue队列中,由一个虚拟机自动创建的、低优先级的Finalizer线程触发其finalize()方法执行。
- finalize()方法时对象逃脱死亡的最后机会,稍后GC会对F-Queue队列中的对象进行第二次标记。如果objA在finalize()方法中与引用链上的任何一个对象建立了联系,那么在第二次标记时,objA会被移出“即将回收”集合。之后,对象会再次出现没有引用存在的情况。在这个情况下,finalize()方法不会再被再次调用,对象会直接变成不可触及的状态,也就是说,一个对象的finalize()方法只会被调用一次。
标记-清除(Mark-Sweep)算法
当成功区分出内存中存活对象和死亡对象后,GC接下来的任务就是执行垃圾回收,释放掉无用对象所占用的内存空间,以便有足够的可用内存空间为新对象分配内存。
目前在JVM中比较常见的三种垃圾收集算法是标记-清除算法(Mark-Sweep)、复制算法(Copying)、标记-压缩算法(Mark-Copact)。
背景:
标记-清除算法(Mark-Sweep)是一种非常基础和常见的垃圾收集算法,该算法被J.McCarthy等人在1960年提出并应用于Lisp语言。
执行过程
当堆中的有效内存空间被耗尽的时候,就会停止整个程序(也被称为stop the world),然后进行两项工作,第一项则是标记,第二项则是清除。
- 标记: Collector从引用根节点开始遍历,标记所有被引用的对象。一般在对象的Header中记录为可达对象。
- 清除:Collector对堆内存从头到尾进行线性的遍历,如果发现某个对象在其Header中没有标记为可达对象,则将其回收。
缺点
- 效率不算高
- 在进行GC的时候,需要停止整个应用程序,导致用户体验差。
- 在这种方式清理出来的空闲内存是不连续的,产生内存碎片。需要维护一个空闲列表。
注意:何为清除?
- 这里所谓的清除并不是真的置空,而是把需要清除的对象地址保存在空闲的地址列表里,下次有新的对象需要加载时,判断垃圾的位置空间是否够,如果够就存放。
复制(Copying)算法
背景
为了解决标记清除算法在垃圾收集效率方面的缺陷。
核心思想:
将活着的内存空间分为两块,每次只使用其中一块,在垃圾回收时将正在使用的内存中的存活对象复制到未被使用的内存块中,之后清除正在使用的内存块中的所有对象,交换两个内存角色,完成垃圾回收。
优点
- 没有标记和清除过程,实现简单,运行高效。
- 复制过去以后保证空间的连续性,不会出现“碎片”问题。
缺点
- 此算法的缺点是很明显,就是需要两倍的内存空间。
- 对于G1这种分拆成大量region的GC,复制而不是移动,意味着GC需要维护region之间对象引用关系,不管是内存占用或者时间开销也不小,
注意要点
如果系统中的垃圾很多,复制算法不会太理想,因为你复制算法需要复制的存活对象数量通常需要不会太大,或者说是非常低才行。
应用场景
在新生代,对常规应用的垃圾回收,一次通常可以回收70%-99%的内存空间。回收性价比很高,所以现在商用虚拟机都是用这种收集算法回收新生代。
标记-压缩(或标记-整理、Mark-Compact)算法
背景
复制算法的高效性是建立在存活对象少,垃圾对象多的前提下的。这种情况在新生代经常发生,但是在老年代,更常见的情况是大部分对象都是存活对象。如果依然使用复制算法,由于存活对象比较多,复制成本也将很高。因此,基于老年代垃圾回收的特性,需要使用其他的算法。
标记-清除算法的确可以用在老年代,但是该算法不但效率低下,而且执行完内存回收后还会产生内存碎片,所以JVM的设计者需要再此基础上进行改进。标记-压缩算法由此诞生
执行过程
第一阶段和标记-清除算法一样,从根节点开始标记所有被引用对象,
第二阶段将所有的存活对象压缩到内存的一端,按顺序排放。
之后清理边界外所有的空间。
总结
标记-压缩算法的最终效果等同于标记-清除算法执行完成后,再进行一次内存碎片整理,因此,也可以把它称为标记-清除-压缩算法。
二者的本质差异在于标记-清除算法是一种非移动式的回收算法,标记-压缩是移动式的。是否移动回收后的存活对象是一项优缺点并存的风险决策。
可以看到,标记的存活对象将会被整理,按照内存地址依次排列,而未被标记的内存会被清理掉。如此一来,当我们需要给新对象分配内存时,JVM只需要持有一个内存的起始地址即可,这比维护一个空闲列表显然少了许多开销。
优点
- 消除了标记-清除算法当中,内存区域分散的缺点,我们需要给新对象分配内存时,JVM只需要持有一个内存的起始地址即可。
- 消除了复制算法当中内存减半的高额代价。
缺点
- 从效率上来说,标记-整理算法要低于复制算法。
- 移动对象的同时,如果对象被其他对象引用,则还需要调整引用的地址。
- 移动过程中,需要全程暂停用户程序。即:STW。
对比三种算法
标记-清除(Mark-Sweep) | 标记-整理(Mark-Compact) | 复制(Copying) | |
---|---|---|---|
速度 | 中等 | 最慢 | 最快 |
空间开销 | 少(但会堆积碎片) | 少(不堆积碎片) | 通常需要活对象的2倍大小(不堆积碎片) |
移动对象 | 否 | 是 | 是 |
效率上来说,复制算法是当之无愧的老大,但是却浪费太多内存。
而为了尽量兼顾上面提到的三个指标,标记-整理算法相对来说更平滑一些,但是效率上不尽如人意,它比复制算法多了一个标记阶段,比标记-清除多了一个整理内存的阶段。
分代收集算法
前面所有这些算法,并没有一种算法可以完全替代其他算法,它们都具有自己独特的优势和特点。分代收集算法应运而生。
分代收集算法,是基于这样一个事实:不同的对象的生命周期是不一样的。因此,不同生命周期的对象可以采取不同的收集方式,以便提供回收效率。一般是把Java堆分为新生代和老年代,这样及尅根据各个年代的特点是用不同的回收算法,以提高垃圾回收的效率。
在Java程序运行的过程中,会产生大量的对象,其中有些对象是与业务信息先关的,比如Http请求的Session对象、线程、Socket连接,这类对象跟业务直接挂钩,因此生命周期比较长。但是还有一些对象,主要是程序运行过程中生成的临时变量,这些对象生命周期会比较短,比如:String对象,由于其不变类的特性,系统会产生大量的这些对象,有些对象甚至只用一次即可回收。
目前几乎所有的GC都是采用分代收集(Generational Collecting)算法执行垃圾回收的。
在HotSpot中,基于分代概念,GC所使用的内存回收算法必须结合年轻代和老年代各自的特点。
- 年轻代(Young Gen)
年轻代特点:区域相对老年代较小,对象生命周期短、存活率低、回收频繁。
这种情况复制算法的回收整理,速度是最快的。复制算法的效率只和当前存活对象大小有关,因此很适用于年轻代的回收。而复制算法内存利用率不高的问题,通过hotspot中的两个survivor的设计得到缓解。 - 老年代(Tenured Gen)
老年代特点:区域较大,对象生命周期长、存活率高,回收不及年轻代频繁。
这种情况存在大量存活率高的对象,复制算法明显变得不合适。一般由标记-清除或者是标记-清除与标记-整理的混合实现。- Mark阶段的开销与存活对象的数量成正比。
- Sweep阶段的开销与所管理区域的大小成正相关。
- Compact阶段的开销与存活对象的数据成正比。
以HotSpot中的CMS回收器为例,CMS是基于Mark-Sweep实现的,对于对象的回收效率很高。而对于碎片问题,CMS采用基于Mark-Compact算法的Serial Old回收器作为补偿措施:当内存回收不佳(碎片导致的Concurrent Mode Failure时),将采用Serial Old执行Full GC 以达到对老年代内存的整理。
分代的思想被现有的虚拟机广泛使用。几乎所有的垃圾回收器都区分新生代和老年代。
增量收集算法
上述现有的算法,在垃圾回收过程中,应用软件将处于一种Stop the world的状态。在Stop the World状态下,应用程序所有的线程都会挂起,暂停一切正常的工作,等待垃圾回收的完成。如果垃圾回收时间长,应用程序会被挂起很久,将严重影响用户体验或者系统的稳定性。为了解决这个问题,即对实时垃圾收集算法的研究直接导致了增量收集(Incremental Collecting)算法的诞生。
基本思想
如果一次性将所有的垃圾进行处理,需要造成系统长时间的停顿,那么就可以让垃圾收集线程和应用程序线程交替执行。每次,垃圾收集线程只收集一小片区域的内存空间,接着切换到应用程序线程。依次反复,知道垃圾收集完成。
总得来说,增量收集算法的基础仍是传统的标记-清除和复制算法。增量收集算法通过对线程间冲突的妥善处理,允许垃圾收集线程以分阶段的方式完成标记、清理或复制工作。
缺点
使用这种方式,由于在垃圾回收过程中,间断性地执行了应用程序代码,所以能减少系统的停顿时间,但是由于线程切换和上下文转换的消耗会使得垃圾回收总体成本上升,造成系统吞吐量的下降。
分区算法
一般来说,在相同条件下,堆空间越大,一次GC时所需要的时间就越长,有关GC产生的停顿也就越长。为了更好地控制GC产生的停顿时间,将一块大的内存区域分割成多个小块,根据目标的停顿时间,每次合理地回收若干个小区间,而不是整个堆空间,从而减少一次GC所产生的停顿。
分代算法将按照对象生命周期长短划分成两个部分,分区算法将整个堆空间划分成连续的不同小区间region。
每一个小区间都独立使用,独立回收。这种算法的好处就是可以控制一次回收多少个小区间。
System.gc()理解
- 在默认情况下,通过System.gc()或者Runtime.getRuntime().gc()的调用,会显式触发Full GC,同时对老年代和新生代进行回收,尝试释放被丢弃对象占用的内存。
- 然而System.gc()调用附带一个免责声明,无法保证对垃圾收集器的调用。
- JVM实现者可以通过对System.gc()调用来决定JVM的GC行为。而一般情况下,垃圾回收应该是自动进行的,无须手动触发,否则就太过于麻烦了。在一些特殊情况下,如我们正在编写一个性能基准,我们可以在运行之间调用System.gc()。
内存溢出
- 内存溢出相对于内存泄漏来说,尽管更容易被理解,但是同样的,内存溢出也是引发程序崩溃的罪魁祸首之一。
- 由于GC一直在发展,所以一般情况下,除非应用程序占用的内存增长速度非常快,造成垃圾回收已经跟不上内存消耗的速度,否则不太容易出现OOM。
- 大多数情况下,GC会进行各种年龄段的垃圾回收,来一次独占式的Full GC 操作,这时候会回收大量的内存,供应用程序继续使用。
- javadoc中对OutOfMemoryError的解释是,没有空闲内存,并且垃圾收集器无法提供更多内存。
- 没有空闲内存的情况原因有二:
- Java虚拟机的堆内存设置不够。
- 代码中创建了大量大对象,并且长时间不能被垃圾收集器收集(存在被引用)
- 在抛出OutOfMemoryError之前,通常垃圾收集器会被触发,尽其所能去清理空间。
- 列如:在引用机制分析中,涉及到JVM会去尝试回收软引用指向的对象等。
- 在java.nio.BIts.reserveMermory()方法中,我们能清楚看到,System.gc()会被调用,以清理空间。
- 也不是任何情况下垃圾收集器会被触发
- 比如,我们分配一个超大对象,类似一个超大数组超过堆的最大值,JVM可以判断出垃圾收集并不能解决这个问题,所以直接抛出OutOfMemoryError。
内存泄漏(Memory Leak)
也称作“存储渗漏”。严格来说,只有对象不会再被程序用到了,但是GC又不能回收他们的情况,才叫内存泄漏。
但是实际情况很多时候一些不太好实践会导致对象的生命周期变得很长甚至导致OOM,也可以叫做宽泛意义上的“内存泄漏”。
尽管内存泄漏不会立刻引起程序崩溃,但是一旦发生内存泄漏,程序中的可用内存就会被逐步蚕食,直至耗尽所有内存,最终出现OutOfMemoryError异常,导致程序崩溃。
注意,这里的存储空间并不是指物理内存,而是指虚拟内存大小,这个虚拟内存大小取决与磁盘交换区设定的大小。
内存泄漏举例
- 单例模式
单例的生命周期和应用程序一样长,所以单例程序中,如果持有外部对象的引用的话,那么这个外部对象是不可能被回收的,则导致内存泄漏的产生
2.一些提供close的资源未关闭导致内存泄漏
数据连接(DataSource.getConnection()),网络连接(Socket)和io连接必须手动close,否则不可能被回收。
Stop The World
-
Stop-the-World,简称STW,指的是GC事件发生过程中,会产生应用程序的停顿。停顿产生时整个程序线程都会被暂停,没有任何响应,有点像卡死的感觉,这个停顿称为STW。
- 可达性分析算法中枚举根节点(GC Roots)会导致所有Java执行线程停顿。
- 分析工作必须在一个确保一致性的快照中进行。
- 一致性指整个分析期间整个执行系统看起来像被冻结在某个时间点上。
- 如果出现分析过程中对象引用关系还在不断变化,则分析结果的准确性无法保证。
- 可达性分析算法中枚举根节点(GC Roots)会导致所有Java执行线程停顿。
-
被STW中断的应用程序线程会在完成GC之后恢复,频繁中断会让用户感觉像是网速不快造成电影卡带一样,所以我们需要减少STW的发生。
安全点(Safepoint)
程序执行时并非在所有地方都能停顿下来开始GC,只有在特定的位置才能停顿下来开始GC,这些位置称为“安全点”。
Safe Point的选择很重要,如果太少可能导致GC等待时间太长,如果太频繁可能导致运行时的性能问题。大部分指令的执行时间都非常短暂,通常会根据“是否具有让程序长时间执行的特征”为标准。比如:选择一些执行时间比较长的指令作为Safe Point,如方法调用、循环跳转和异常跳转等。
如何再GC发生时,检查所有线程都跑到最近的安全点停顿下来?
抢先式中断(目前没有虚拟机采用)
首先中断所有线程。目前还有线程不在安全点,就恢复线程,让线程跑到安全点。
主动式中断
设置一个中断标志,各个线程运行到Safe Point的时候主动轮询这个标志,如果中断标志为真,则将自己进行中断挂起。
安全区域(Safe Region)
SafePoint机制保证了程序执行时,在不太长的时间内就会遇到可进入GC的SafePoint。但是,程序“不执行”的时候呢?列如线程处于Sleep状态或Blocked状态,这时候线程无法响应JVM的中断请求,“走”到安全点去中断挂起,JVM也不太可能等待线程被唤醒。对于这种情况,就需要安全区域(Safe Region)来解决。
安全区域是指在一段代码中,对象引用关系不会发生变化,在这个区域中的任何位置开始GC都是安全的,我们也可以把Safe Region 看作是扩展了的Safe Point。
实际执行
- 当线程运行到Safe Region的代码时,首先标识已经进入Safe Region,如果这段时间内发生GC,JVM会忽略标识为Safe Region状态的线程。
- 当线程即将离开Safe Region时,会检查JVM是否已经完成GC,如果完成了,则继续运行,否则线程必须等待直到收到可以安全离开Safe Region的信号为止。
引用
Reference 子类中只有终结器引用是包内可见的,其他3中引用类型均是public,可以在应用程序中直接使用。
- 强引用(Strong Reference):最传统的“引用”的定义,是指在程序代码之中普遍存在的引用赋值,即类似“Object obj = new Object()”这种引用关系。无论任何情况下,只要强引用关系还存在,垃圾收集器就永远不会回收掉被引用的对象。
- 软引用(Soft Reference):在系统将要发生内存溢出之前,将会把这些对象列入回收范围之中进行第二次回收。如果这次回收后还没有足够的内存,才会抛出内存溢出异常。
- 弱引用(Weak Reference):被弱引用关联的对象只能生存到下一次垃圾收集之前。当垃圾收集器工作时,无论内存空间是否足够,都会回收掉被弱引用关联的对象。
- 虚引用(Phantom Reference)一个对象是否有虚引用的存在,完全不会对其生存时间构成影响,也无法通过虚引用来获得一个对象的实例。为一个对象设置虚引用关联的唯一目的就是能在这个对象被收集器回收时收到一个系统通知。
强引用 - 不回收
在Java程序中,最常见的引用类型是强引用(普通系统99%以上都是强引用),也就是我们最常见的普通对象引用,也是默认的引用类型。
当在Java语言中使用new操作符创建一个新的对象,并将其赋值给一个变量的时候,这个变量就成为指向该对象的一个强引用。
强引用的对象是可触及的,垃圾收集器就永远不会回收掉被引用的对象。
对于一个普通的对象,如果没有其他的引用关系,只要超过了引用的作用域或者显式地将相应(强)引用赋值为null,就是可以当做垃圾被收集了,当然具体回收实际还是要看垃圾收集策略。
相对的,软引用、弱引用、虚引用的对象是软可触及,弱可触及和虚可触及的,在一定条件下,都是可以被回收的,所有强引用造成Java内存泄漏的主要原因之一。
- 强引用可以直接访问目标对象。
- 强引用所指向的对象在任何时候都不会被系统回收,虚拟机宁愿抛出OOM异常,也不会回收强引用所指向对象。
- 强引用可能导致内存泄漏。
软引用 - 内存不足即回收
软引用是用来描述一些还有,但非必需的对象。只被软引用关联着的对象,在系统将要发生内存溢出异常前,会把这些对象列进回收范围之中进行第二次回收,如果这次回收还没有足够的内存,才会抛出内存溢出异常。
软引用通常用来实现内存敏感的缓存,比如:高速缓存就有用到软引用。如果还有空闲内存,就可以暂时保留缓存,当内存不足时清理掉,这样就保证了使用缓存的同时,不会耗尽内存。
垃圾回收器在某个时刻决定回收软可达的对象时候,会清理软引用,并可选地把引用存放到一个引用队列(Reference Queue)。
类似弱可用,只不过Java虚拟机会尽量让软引用的存活时间长一些,迫不得已才清理。
弱引用(Weak Reference)一发现即回收
弱引用也是用来描述那些非必须对象,只被弱引用关联的对象只能生存到下一次垃圾收集发生为止。在系统GC时,只要发现弱引用,不管系统堆空间使用是否充足,都会回收掉只被弱引用关联的对象。
但是,由于垃圾回收器的线程通常优先级很低,因此,并不一定能很快地发现持有弱引用的对象。在这种情况下,弱引用对象可以存在较长的时间。
弱引用和软引用一样,在构造弱引用时,也可以指定一个引用队列,当弱引用对象被回收时,就会加入指定的引用队列,通过这个队列可以跟踪对象的回收情况。
软引用、弱引用都非常适合来保存那些可有可无的缓存数据。如果这么做,当系统内存不足时,这些缓存数据会被回收,不会导致内存溢出。而当内存资源充足时,这些缓存数据又可以存在相当长的时间,从而起到加速系统的作用。
弱引用对象与软引用对象的最大不同就在于,当GC在进行回收时,需要通过算法检查是否回收软引用对象,而对于弱引用对象,GC总是进行回收。弱引用对象更容易、更快被GC回收。
虚引用(Phantom Reference)- 对象回收跟踪
称为“幽灵引用” 或者 “幻影引用”,是所有引用类型中最弱的一个。
一个对象是否有虚引用的存在,完全不会决定对象的生命周期。如果一个对象仅持有虚引用,那么它和没有引用几乎是一样的,随时都可能被垃圾回收器回收。
它不能单独使用,也无法通过虚引用来获取被引用的对象。当试图通过虚引用的get()方法取得对象时,总是null。
为了一个对象设置虚引用关联的唯一目的在于跟踪垃圾回收过程。比如:能在这个对象被收集器回收时收到一个系统通知。
-
虚引用必须和引用队列一起使用。虚引用在创建时必须提供一个引用队列作为参数。当垃圾回收器准备回收一个对象时,如果发现它还有虚引用,就会在回收对象后,将这个虚引用加入引用队列,以通知应用程序对象的回收情况。
-
由于虚引用可以跟踪对象的回收时间,因此,也可以将一些资源释放操作放置在虚引用中执行和记录
终结器引用
- 它用以实现对象的finalize()方法,也可以称为终结器引用。
- 无需手动编码,其内部配合引用队列使用。
- 在GC时,终结器引用入队。由Finalizer线程通过终结器引用找到被引用对象并调用它的finalize()方法,第二次GC时才能回收被引用对象。
垃圾回收器
概述
- 垃圾收集器没有在规范中进行过多的规定,可以由不同的厂商、不同版本的JVM来实现。
- 由于JDK的版本处于高速迭代过程中,因此Java发展至今已经衍生了众多的GC版本。
- 不同角度分析垃圾收集器,可以将GC分为不同的类型。
评估GC的性能指标
-
吞吐量:运行用户代码的时间占总运行时间的比例
- (总运行时间:程序的运行时间 + 内存回收的时间)
-
垃圾收集开销: 吞吐量的补数,垃圾收集所用时间与总运行时间的比例。
-
暂停时间:执行垃圾收集时,程序的工作线程被暂停的时间。
-
收集频率:相对于应用程序的执行,收集操作发生的频率。
-
内存占用: Java堆区所占的内存大小。
-
快速:一个对象从诞生到被回收所经历的时间。
需要特别关注以下两点:
- 吞吐量
- 暂停时间
吞吐量
-
吞吐量就是CPU用于运行用户代码的时间与CPU总消耗时间的比值,即吞吐量 = 运行用户代码时间 / (运行用户代码时间 + 垃圾收集时间)。
- 比如: 虚拟机总运行了100分钟,其中垃圾收集花掉了1分钟,那吞吐量就是99%。
-
这种情况下,应用程序能容忍较高的暂停时间,因此,高吞吐量的应用程序有更长的时间基准,快速响应是不必考虑的。
-
吞吐量优先,意味着在单位时间内,STW时间最短: 0.2 + 0.2 = 0.4
7种经典的垃圾收集器
-
串行回收器:Serial、Serial Old
-
并行回收器:ParNew、Parallel Scavenge、Parallel Old
-
并发回收器:CMS、G1
-
新生代收集器:Serial、ParNew、Parallel Scavenge
-
老年代收集器:Serial Old、Parallel Old、CMS
-
整堆收集器:G1
- 两个收集器间有连线的,表明他们可以搭配使用:Serial/Serial Old、Serial/CMS、ParNew/Serial Old、ParNew/CMS、Parallel Scavenge/Serial Old、Parallel Scavenge/Parallel Old、G1;
- 其中Serial Old作为CMS出现“Concurrent Mode Failure”失败的后备预案。
- (红色虚线)由于维护和兼容性测试的成本,在JDk 8时将Serial+CMS、ParNew+Serial Old这两个组合声明为废弃(JEP 173),并在JDK 9中安全取消了这些组合的支持(JEP214),即:移除。
- (绿色虚线)JDk 14中:弃用Parallel Scavenge 和 SerialOld GC组合(JEP 366)
- JDK 14中:删除CMS垃圾回收器(JEP 363)
如何查看默认的垃圾收集器
-
-XX:+PrintCommandLineFlags
查看命令行相关参数(包含使用的垃圾收集器) -
使用命令行指令:
jinfo -flag 相关垃圾回收器参数 进程ID
Serial 回收器:串行回收
-
Serial收集器时最基本、历史最悠久的垃圾收集器了。JDK1.3之前回收新生代唯一的选择。
-
Serial收集器作为HotSpot中Client模式下的默认新生代垃圾收集器。
-
Serial收集器采用复制算法、串行回收金和“Stop-the-World”机制的方式执行内存回收。
-
除了年轻代之外、Serial收集器还提供用于执行老年代垃圾收集的Serial Old收集器。Serial Old收集器同样也采用串行回收和“Stop the World”机制,只不过内存回收算法使用的是标记-压缩算法。
- Serial Old 是运行在Client模式下默认的老年代的垃圾回收器。
- Serial Old 在Server模式下主要有两个用途:(1)与新生代的Parallel Scavenge配合使用 (2)作为老年代CMS收集器的后备垃圾收集方案。
这个收集器是一个单线程的收集器,但它的“单线程”的意义并不仅仅说明它只会使用一个CPU或一条收集线程去完成垃圾收集工作,更重要的是它进行垃圾收集时,必须暂停其他所有的工作线程,直到它收集结束(Stop The World)。
-
优势简单而高效(与其他收集器的单线程比),对于限定单个CPU的环境来说,Serial收集器由于没有线程交互的开销,专心做垃圾收集自然可以获得最高的单线程收集效率。
- 运行在Client模式下的虚拟机是不错的选择
-
在HotSpot虚拟机中,使用
-XX:+UseSerialGC
参数可以指定年轻代和老年代都使用串行收集器。- 等价于新生代用Serial GC,且老年代用Serial Old GC
ParNew回收器:并行回收
-
如果说Serial GC是年轻代中的单线程垃圾收集器,那么ParNew收集器则是Serial收集器的多线程版本。
- Par是Parallel的缩写,New:只处理的是新生代。
-
ParNew收集器除了采用并行回收的方式执行内存回收外,两款垃圾收集器之前几乎没有任何区别。ParNew收集器在年轻代中同样也是采用复制算法、“Stop-the-World”机制。
-
ParNew 是很多JVM运行在Server模式下新生代的默认垃圾收集器。
-
在程序中,开发人员可以通过选项“-XX:UseParNewGC”手动指定使用ParNew收集器执行内存回收任务。它表示年轻代使用并行收集器,不影响老年代。
-
-XX:ParallelGCThreads
限制线程数量,默认开启和CPU数据相同的线程数。
Parallel Scavenge 回收器:吞吐量优先
-
HotSpot的年轻代中除了拥有ParNew收集器是基于并行回收的以外,Parallel Scavenge收集器同样也采用了复制算法、并行回收和“Stop the World”机制。
-
Parallel收集器和ParNew收集器不同,Parallel Scavenge收集器的目标则是达到一个可控制的吞吐量(Throughput),它也被称为吞吐量优先的垃圾收集器。
-
自适应调节策略也是Parallel Scavenge与ParNew一个重要区别。
-
高吞吐量则可以高效率地利用CPU时间,尽快完成程序的运算任务,主要适合在后台运算而不需要太多交互的任务。因此,常见在服务器环境中使用。例如,那些执行批量处理、订单处理、工资支付、科学计算的应用程序。
-
Parallel 收集器在JDK1.6时提供了用于执行老年代垃圾收集的Parallel Old收集器,用来代替老年代的Serial Old收集器。
-
Parallel Old收集器采用了标记-压缩算法,但同样也是基于并行回收和“Stop-the-World”机制。
参数配置
-
-XX:+UseParallelGC
手动指定年轻代使用Parallel并行收集器执行内存回收任务。 -
-XX:+UseParallelOldGC
手动指定老年代都是使用并行回收收集器。- 分别适用于新生代和老年代,默认jdk8是开启的
- 上面两个参数,默认开启一个,另一个也会被开启。(互相激活)
-
-XX:ParallelGCThreads
设置年轻代并行收集器的线程数。一般地,最好与CPU数量相等,以避免过多的线程数影响垃圾收集性能。- 在默认情况下,当CPU数量小于8个,ParallelGCThreads的值等于CPU数量。
- 当CPU数量大于8个,ParallelGCThreads的值等于3+[5*CPU_Count]/8。
CMS回收器:低延迟
-
这款收集器是HopSpot虚拟机中第一款真正意义上的并发收集器,它第一次实现了让垃圾收集线程与用户线程同时工作。
-
CMS收集器的关注点是尽可能缩短垃圾收集时用户线程的停顿时间。停顿时间越短(低延迟)就越适合与用户交互的程序,良好的响应速度能提升用户体验。
-
CMS的垃圾收集算法采用标记-清除算法,并且也会“Stop-the-World”
工作原理
-
初始标记(Initial-Mark)阶段:在这个阶段中,程序中所有的工作线程都将会因为“Stop the World”机制而出现短暂的暂停,这个阶段的主要任务仅仅只是标记处GC Roots能直接关联到的对象。一旦标记完成之后就会恢复之前被暂停的所有应用线程。由于直接关联对象比较小,所以这里的速度非常快。
-
并发标记(Concurrent Mark)阶段:从GC Roots的直接关联对象开始遍历整个对象图的过程,这个过程耗时较长但是不需要停顿用户线程,可以与垃圾收集线程一起并发运行。
-
重新标记(Remark)阶段:由于在并发标记阶段中,程序的工作线程会和垃圾收集线程同时运行或者交叉运行,因此为了修正并发标记期间,因用户程序继续运作而导致标记产生变动的那一部分对象的标记记录,这个阶段的停顿时间通常会比初始标记阶段稍长一些,但也远比并发标记阶段的时间短。
-
并发清除(Concurrent-Sweep)阶段:此阶段清理删除掉标记阶段判断的已经死亡的对象,释放内存空间。由于不需要移动存活对象,所以这个阶段也是可以与用户线程并发的。
由于最耗费时间的并发标记与并发清除阶段都不需要暂停工作,所以整体的回收时低停顿的。
另外,由于在垃圾收集阶段用户线程没有中断,所以在CMS回收过程中,还应该确保应用程序用户线程有足够的内存可用。因此,CMS收集器不能像其他收集器那样等到老年代几乎完全被填满了在进行收集,而是当堆内存使用率达到某一阈值时,便开始进行回收,以确保应用程序在CMS工作过程中依然有足够的空间支持应用程序运行。要是CMS运行期间预留的内存无法满足程序需要,就会出现一次“Concurrent Mode Failure”失败,这时虚拟机将启动后备预案:临时启用Serial Old收集器来重新进行老年代的垃圾收集,这样停顿时间就很长了。
CMS收集器的垃圾收集算法采用的是标记-清除算法,这意味着每次执行完内存回收后,由于被执行内存回收的无用对象所占用的内存空间极有可能是不连续的一些内存块,不可避免地将会产生一些内存碎片。那么CMS在为新对象分配内存空间时,将无法使用指针碰撞(Bump the Pointer)技术,而只能够选择空闲列表(Free List)执行内存分配。
为什么不能把算法缓存Mark Compact?
因为并发清除的时候,用Compact整理内存的话,原来的用户线程使用的内存还怎么用?要保证用户线程能继续执行,前提它运行的资源不受影响。Mark Compact更适合“Stop the world”这种场景下使用。
优点
-
并发收集
-
低延迟
弊端
-
会产生内存碎片,导致并发清除后,用户线程可用的空间不足。无法分配大对象的情况下,不得不提前触发Full GC。
-
CMS收集器对CPU资源非常敏感。在并发阶段,它虽然不会导致用户停顿,但是会因为占用了一部分线程而导致应用程序变慢,总吞吐量会降低。
-
CMS收集器无法处理浮动垃圾。可能出现“Concurrent Mode Failure”失败而导致另一次Full GC的产生。在并发标记阶段由于程序的工作线程和垃圾收集线程是同时运行或者交叉运行的,那么在并发标记阶段如果产生新的垃圾对象,CMS将无法对这些垃圾对象进行标记,最终会导致这些新产生的垃圾对象没有被及时回收。
Serial GC、Parallel GC、CMS有什么不同?
-
最小化使用内存和并行开销,选择Serial GC。
-
最大化应用程序的吞吐量,选择Parallel GC。
-
最小化GC的中断或停顿时间,选择CMS GC。
G1回收器:区域化分代式
为什么叫Garbage First(G1)呢?
-
因为G1是一个并行回收器,它把堆内存分割为很多不相关的区域(Region)(物理上不连续的)使用不同的Region来表示Eden、幸存者0区,幸存者1区,老年代等。
-
G1 GC 有计划地避免在整个Java堆中进行全区域的垃圾收集。G1跟踪各个Region里面的垃圾堆积的价值大小(回收所获得的空间大小以及回收所需要时间的经验值),在后台维护一个优先列表,每次根据允许的收集收件,优先回收价值最大的Region。
-
由于这种方式的侧重点在于回收垃圾最大量的区间(Region),所以我们给G1一个字:垃圾优先(Garbage First)。
与其他收集器相比G1的优势
-
并行与并发
-
并行性:G1在回收期间,可以有多个GC线程同时工作,有效利用多核计算能力。此时用户线程STW。
-
并发性:G1拥有与应用程序交替执行的能力,部分工作可以和应用程序同时执行,因此,一般来说,不会在整个回收阶段发生完全阻塞应用程序的情况。
-
-
分代收集
-
从分代上看,G1依然属于分代型垃圾收集器,它会区分年轻代和老年代,年轻代依然有Eden区和Survivor区。但从堆的结构上看,它不要求整个Eden区、年轻代或者老年代都是连续的,也不再坚持固定大小和固定数量。
-
将堆空间分为若干个区域(Region),这些区域中包含了逻辑上的年轻代和老年代。
-
和之前的各类回收器不同,它同时兼顾年轻代和老年代。对比其他回收器,或者工作在年轻代,或者工作在老年代。
-
-
空间整合
-
CMS:“标记-清除”算法、内存碎片、若干次GC后进行一次碎片整理
-
G1将内存划分一个个的Region。内存的回收时以Region作为基本单位。Region之间是复制算法,但整体上实际可看作是标记-压缩(Mark-Compact)算法,两种算法都可以避免内存碎片。这种特性有利于程序长时间运行,分配大对象时不会因为无法找到连续内存空间而提前触发下一次 GC。尤其是当Java堆非常大的时候,G1的优势更加明显。
-
-
可预测的停顿时间模型(即:软实时Soft real-time)
这是G1相对CMS的另一大优势,G1除了最求低停顿外,还能建立可预测的停顿时间模型,能让使用者明确指定在一个长度为M毫秒的时间片段内,消耗在垃圾收集上的时间不得超过N毫秒。-
由于分区的原因,G1可以只选取部分区域进行内存回收,这样缩小了回收的范围,因此对于全局停顿情况的发生也能得到较好的控制。
-
G1跟踪各个Region里面的垃圾堆积的价值大小(回收所获得的空间大小以及回收所需时间的经验值),在后台维护一个优先列表,每次根据允许的收集时间,优先回收价值最大的Region。保证了G1收集器在有限的时间内可以获取尽可能高的收集效率。
-
相比CMS GC,G1未必能做到CMS在最好情况下的延时停顿,但是最差情况要好很多。
-
缺点
G1垃圾收集产生的内存占用(Footprint)还是程序运行时的额外执行负载(Overload)都要比CMS要高。
从经验上来说,在小内存应用上CMS的表现大概率会优于G1,而G1在大内存应用上则发挥其优势。平衡点在6-8G之间。
参数设置
-
-XX:+UseG1GC
手动指定使用G1收集器执行内存回收任务。 -
-XX:G1HeapRegionSize
设置每个Region的大小。值是2的幂,范围是1MB到32MB之间,目标根据最小的Java堆大小划分出2048个区域。默认是堆内存的1/2000。 -
-XX:MaxGCPauseMillis
设置期望达到的最大GC停顿时间指标(JVM会尽力实现,但不保证达到)。默认值是200ms -
-XX:ParallelGCThread
设置STW工作线程数的值,最多设置8 -
-XX:ConcGCThreads
设置并发标志的线程数。将n设置为并行垃圾回收线程数(ParallelGCThreads)的1/4左右。 -
-XX:InitiatingHeapOccupancyPercent
设置触发并发GC周期的Java堆占用率阈值。超过此值,就触发GC。默认值45。
G1回收器的常见操作步骤
G1的设计原则就是简化JVM性能调优,开发人员只要简单的三步即可完成调优:
第一步:开启G1垃圾收集器
第二步:设置堆的最大内存
第三步:设置最大停顿时间
G1中提供了三种垃圾回收模式:YoungGC、Mixed GC和Full GC,在不同的条件下被触发。
G1回收器的使用场景
-
面向服务端应用,针对具有大内存、多处理器的机器。
-
最主要应用是需要低GC延迟
-
用来替换掉JDK1.5中的CMS收集器,下面情况G1比CMS好
- 超过50%的java堆被活动数据占用;
- 对象分配频率或年代提升频率变化很大;
- GC停顿时间过长(长于0.5至1秒)
-
HotSpot垃圾收集器里,除了G1以外,其他的垃圾收集器使用内置的JVM线程执行GC的多线程操作,而G1 GC可以采用应用线程承担后台运行的GC工作,即当JVM的GC线程处理速度慢时,系统会调用应用程序线程帮助加速垃圾回收过程。
分区Region:化整为零
使用G1收集器时,它将整个Java堆划分成约2048个大小相同的独立Region块,每个Region块大小根据堆空间的实际大小而定,整体被控制在范围是1MB到32MB之间,且为2的N次幂,可以通过-XX:G1HeapRegionSize
设定。所有的Region大小相同,且在JVM生命周期内不会被改变。
虽然还保留有新生代和老年代的概念,但新生代和老年代不再是物理隔离的了,它们都是一部分Region(不需要连续)的集合。通过Region的动态分配方式实现逻辑上的连续。
-
一个region有可能属于Eden、Survivor或者Old/Tenured内存区域。但是一个region只可能属于一个角色。图中的E表示该region属于Eden内存区域,S表示属于Survivor内存区域,O表示属于Old内存区域。图中空白的表示未使用的内存空间。
-
G1 垃圾收集器还增加了一种新的内存区域,叫作Humongous内存区域,如图中的H块。主要用于存储大对象,如果超过1.5个region,就放到H。
设置H的原因
对于堆中的大对象,默认直接会分配到老年代,但是如果它是一个短期存在的大对象,就会对垃圾收集器造成负面影响。为了解决这个问题,G1划分了一个Humongous区,它用来专门存放大对象,如果一个H区装不下一个大对象,那么G1会寻找连续的H区来存储。为了能找到连续的H区,有时候不得不启动Full GC。G1的大多数行为都把H区作为老年代的一部分来看。
G1回收器垃圾回收过程
G1 GC的垃圾回收过程主要包括如下三个环节:
-
年轻代GC (Young GC)
-
老年代GC + 并发标记过程(Concurrent Marking)
-
混合回收(Mixed GC)
-
(如果需要,单线程、独占式、高强度的Full GC 还是继续存在的。它针对GC的评估失败提供了一种失败保护机制,即强力回收。)
应用程序分配内存,当年轻代的Eden区用尽时开始年轻代回收过程;G1的年轻代收集阶段是一个并行的独占式收集器。在年轻代回收期,G1 GC暂停所有应用程序线程,启动多线程执行年轻代回收。然后从年轻代区间移动存活对象到Survivor区间或者老年区间,也有可能是两个区间都会涉及。
当堆内存使用达到一定值(默认45%)时,开始老年代并发标记过程。
标记完成马上开始混合回收过程。对于一个混合回收器,G1 GC从老年代区间移动存活对象到空闲区间,这些空闲区间也成为了老年代的一部分。和年轻代不同,老年代的G1回收器和其他GC不同,G1的老年代回收器不需要整个老年代被回收,一次只需要扫描/回收一小部分老年代的Region就可以了。同时,这个老年代Region是和年轻代一起被回收的。
Remembered Set
-
一个对象被不同区域引用的问题
-
一个Region不可能是孤立的,一个Region中的对象可能被其他任意Region中对象引用,判断对象存活时,是否需要扫描整个Java堆才能保证准确?
-
在其他的分代收集器,也存在这样的问题(而G1更突出)
-
回收新生代也不得不同时扫描老年代
-
这样的话会降低Minor GC的效率
解决办法
-
无论G1还是其他分代收集器,JVM都是使用Remembered Set来避免全局扫描
-
每个Region都有一个对应的Remembered Set
-
每次Reference类型数据写操作时,都会产生一个Write Barrier暂时中断操作
-
然后检查将要写入的引用指向的对象是否和该Reference类型数据在不同的Region(其他收集器:检查老年代对象是否引用新生代对象)
-
如果不通,通过CardTable把相关引用信息记录到引用指向对象的所在Region对应的Remembered Set中
-
当进行垃圾收集时,在GC根节点的枚举范围加入Remembered Set,就可以保证不进行全局扫描,也不会有遗漏
G1回收过程一:年轻代
JVM启动时,G1先准备好Eden区,程序在运行过程中不断创建对象到Eden区,当Eden空间耗尽时,G1会启动一次年轻代垃圾回收过程。
年轻代垃圾回收只会回收Eden区和Survivor区。
YGC时,首先G1停止应用程序的执行(STW),G1创建回收集(Collection Set),回收集是指需要被回收的内存分段的集合,年轻代回收过程的回收集包含年轻代Eden区和Survivor区所有的内存分段。
开始下面回收过程 :
- 扫描根
- 更新RSet
- 处理RSet
- 复制对象
- 处理引用
G1回收过程一:并发标记过程
- 初始标记阶段
- 根区域扫描
- 并发标记
- 再次标记
- 独占清理
- 并发清理阶段