Sun公司设计java语言的目标是让Java程序不必经过修改就可以在各种各样的计算机（包括PC机和工作站）上运行。为了实现这一目标，Sun公司提供了一阵Java虚拟机（Java Virtual Machine，JVM）的机制，其工作原理及流程图为：
Java虚拟机是编译和运行Java程序等的各种命令及其运行环境的总称。Java源程序在编译之后生成后缀为“.class”的文件，该文件以字节码（bytecode）的方式进行编码。这种字节码实际上是一种伪代码，它包含各种指令，这些指令基本上是与平台无关的指令。Java虚拟机在字节码文件（及编译生成的后缀为.class的文件）的基础上解释这些字节码，及将这些字节码转行成为本地计算机的机器代码，并交给本地计算机执行。
这样，字节码实际上是一种与平台无关的伪代码，通过Java命令变成在各种平台上的机器代码。这些伪代码最终是在本地计算机平台上运行的，但Java程序就好像是在这些Java命令的基础上运行的，因此这些Java命令的集合好像是采用软件技术实现的一种虚拟计算机。这就是Java虚拟机名称的由来。
Java虚拟机执行字节码的过程由一个循环组成，它不停地家族程序，进行合法性和安全性检测，以及解释执行，直到程序执行完毕（包括异常退出）。Java虚拟机首先从后缀为“.class”文件中加载字节码到内存中；接着在内存中检测代码的合法性和安全性，例如，检测Java程序用到的数组是否越界、所要访问的内存地址是否合法等；然后解释执行通过检测的代码，及根据不同的计算机平台将字节码转化成为相应的计算机平台的机器代码，再交给相应的计算机执行。如果加载的代码不能通过合法性和安全性检测，则Java虚拟机执行相应的异常处理程序。Java虚拟机不停地执行这个过程直到程序执行结束。虽然Java语言含有编译命令，但是Java虚拟机对字节码的解释执行机制决定了Java语言是一种解释执行的语言。