• [转]Java NIO原理图文分析及代码实现

    本文转自：http://weixiaolu.iteye.com/blog/1479656

    前言:
    最近在分析hadoop的RPC(Remote Procedure Call Protocol ，远程过程调用协议，它是一种通过网络从远程计算机程序上请求服务，而不需要了解底层网络技术的协议。可以参考：http://baike.baidu.com/view/32726.htm）机制时，发现hadoop的RPC机制的实现主要用到了两个技术：动态代理（动态代理可以参考博客：http://weixiaolu.iteye.com/blog/1477774）和java NIO。为了能够正确地分析hadoop的RPC源码，我觉得很有必要先研究一下java NIO的原理和具体实现。
    这篇博客我主要从两个方向来分析java NIO
    目录： 一．java NIO 和阻塞I/O的区别      1. 阻塞I/O通信模型      2. java NIO原理及通信模型 二．java NIO服务端和客户端代码实现
    具体分析：
    一．java NIO 和阻塞I/O的区别
    1. 阻塞I/O通信模型
    假如现在你对阻塞I/O已有了一定了解，我们知道阻塞I/O在调用InputStream.read()方法时是阻塞的，它会一直等到数据到来时（或超时）才会返回；同样，在调用ServerSocket.accept()方法时，也会一直阻塞到有客户端连接才会返回，每个客户端连接过来后，服务端都会启动一个线程去处理该客户端的请求。阻塞I/O的通信模型示意图如下：

    如果你细细分析，一定会发现阻塞I/O存在一些缺点。根据阻塞I/O通信模型，我总结了它的两点缺点： 1. 当客户端多时，会创建大量的处理线程。且每个线程都要占用栈空间和一些CPU时间
    2. 阻塞可能带来频繁的上下文切换，且大部分上下文切换可能是无意义的。
    在这种情况下非阻塞式I/O就有了它的应用前景。
    2.     java NIO原理及通信模型
    Java NIO是在jdk1.4开始使用的，它既可以说成“新I/O”，也可以说成非阻塞式I/O。下面是java NIO的工作原理：
    1. 由一个专门的线程来处理所有的 IO 事件，并负责分发。 2. 事件驱动机制：事件到的时候触发，而不是同步的去监视事件。 3. 线程通讯：线程之间通过 wait,notify 等方式通讯。保证每次上下文切换都是有意义的。减少无谓的线程切换。
    阅读过一些资料之后，下面贴出我理解的java NIO的工作原理图：

    （注：每个线程的处理流程大概都是读取数据、解码、计算处理、编码、发送响应。）
    Java NIO的服务端只需启动一个专门的线程来处理所有的 IO 事件，这种通信模型是怎么实现的呢？呵呵，我们一起来探究它的奥秘吧。java NIO采用了双向通道（channel）进行数据传输，而不是单向的流（stream），在通道上可以注册我们感兴趣的事件。一共有以下四种事件：

    事件名 对应值
    服务端接收客户端连接事件 SelectionKey.OP_ACCEPT(16)
    客户端连接服务端事件 SelectionKey.OP_CONNECT(8)
    读事件 SelectionKey.OP_READ(1)
    写事件 SelectionKey.OP_WRITE(4)
       
       
       
       
       

    服务端和客户端各自维护一个管理通道的对象，我们称之为selector，该对象能检测一个或多个通道 (channel) 上的事件。我们以服务端为例，如果服务端的selector上注册了读事件，某时刻客户端给服务端发送了一些数据，阻塞I/O这时会调用read()方法阻塞地读取数据，而NIO的服务端会在selector中添加一个读事件。服务端的处理线程会轮询地访问selector，如果访问selector时发现有感兴趣的事件到达，则处理这些事件，如果没有感兴趣的事件到达，则处理线程会一直阻塞直到感兴趣的事件到达为止。下面是我理解的java NIO的通信模型示意图：

    二．java NIO服务端和客户端代码实现
    为了更好地理解java NIO,下面贴出服务端和客户端的简单代码实现。
    服务端：

    Java代码 复制代码 收藏代码
    1. package cn.nio; 
    2.  
    3. import java.io.IOException; 
    4. import java.net.InetSocketAddress; 
    5. import java.nio.ByteBuffer; 
    6. import java.nio.channels.SelectionKey; 
    7. import java.nio.channels.Selector; 
    8. import java.nio.channels.ServerSocketChannel; 
    9. import java.nio.channels.SocketChannel; 
    10. import java.util.Iterator; 
    11.  
    12. /**
    13. * NIO服务端
    14. * @author 小路
    15. */ 
    16. publicclass NIOServer { 
    17.     //通道管理器 
    18.     private Selector selector; 
    19.  
    20.     /**
    21.      * 获得一个ServerSocket通道，并对该通道做一些初始化的工作
    22.      * @param port  绑定的端口号
    23.      * @throws IOException
    24.      */ 
    25.     publicvoid initServer(int port) throws IOException { 
    26.         // 获得一个ServerSocket通道 
    27.         ServerSocketChannel serverChannel = ServerSocketChannel.open(); 
    28.         // 设置通道为非阻塞 
    29.         serverChannel.configureBlocking(false); 
    30.         // 将该通道对应的ServerSocket绑定到port端口 
    31.         serverChannel.socket().bind(new InetSocketAddress(port)); 
    32.         // 获得一个通道管理器 
    33.         this.selector = Selector.open(); 
    34.         //将通道管理器和该通道绑定，并为该通道注册SelectionKey.OP_ACCEPT事件,注册该事件后， 
    35.         //当该事件到达时，selector.select()会返回，如果该事件没到达selector.select()会一直阻塞。 
    36.         serverChannel.register(selector, SelectionKey.OP_ACCEPT); 
    37.     } 
    38.  
    39.     /**
    40.      * 采用轮询的方式监听selector上是否有需要处理的事件，如果有，则进行处理
    41.      * @throws IOException
    42.      */ 
    43.     @SuppressWarnings("unchecked") 
    44.     publicvoid listen() throws IOException { 
    45.         System.out.println("服务端启动成功！"); 
    46.         // 轮询访问selector 
    47.         while (true) { 
    48.             //当注册的事件到达时，方法返回；否则,该方法会一直阻塞 
    49.             selector.select(); 
    50.             // 获得selector中选中的项的迭代器，选中的项为注册的事件 
    51.             Iterator ite = this.selector.selectedKeys().iterator(); 
    52.             while (ite.hasNext()) { 
    53.                 SelectionKey key = (SelectionKey) ite.next(); 
    54.                 // 删除已选的key,以防重复处理 
    55.                 ite.remove(); 
    56.                 // 客户端请求连接事件 
    57.                 if (key.isAcceptable()) { 
    58.                     ServerSocketChannel server = (ServerSocketChannel) key 
    59.                             .channel(); 
    60.                     // 获得和客户端连接的通道 
    61.                     SocketChannel channel = server.accept(); 
    62.                     // 设置成非阻塞 
    63.                     channel.configureBlocking(false); 
    64.  
    65.                     //在这里可以给客户端发送信息哦 
    66.                     channel.write(ByteBuffer.wrap(new String("向客户端发送了一条信息").getBytes())); 
    67.                     //在和客户端连接成功之后，为了可以接收到客户端的信息，需要给通道设置读的权限。 
    68.                     channel.register(this.selector, SelectionKey.OP_READ); 
    69.                      
    70.                     // 获得了可读的事件 
    71.                 } elseif (key.isReadable()) { 
    72.                         read(key); 
    73.                 } 
    74.  
    75.             } 
    76.  
    77.         } 
    78.     } 
    79.     /**
    80.      * 处理读取客户端发来的信息 的事件
    81.      * @param key
    82.      * @throws IOException
    83.      */ 
    84.     publicvoid read(SelectionKey key) throws IOException{ 
    85.         // 服务器可读取消息:得到事件发生的Socket通道 
    86.         SocketChannel channel = (SocketChannel) key.channel(); 
    87.         // 创建读取的缓冲区 
    88.         ByteBuffer buffer = ByteBuffer.allocate(10); 
    89.         channel.read(buffer); 
    90.         byte[] data = buffer.array(); 
    91.         String msg = new String(data).trim(); 
    92.         System.out.println("服务端收到信息："+msg); 
    93.         ByteBuffer outBuffer = ByteBuffer.wrap(msg.getBytes()); 
    94.         channel.write(outBuffer);// 将消息回送给客户端 
    95.     } 
    96.      
    97.     /**
    98.      * 启动服务端测试
    99.      * @throws IOException
    100.      */ 
    101.     publicstaticvoid main(String[] args) throws IOException { 
    102.         NIOServer server = new NIOServer(); 
    103.         server.initServer(8000); 
    104.         server.listen(); 
    105.     } 
    106.  
    107. }  
    package cn.nio;

import java.io.IOException;
import java.net.InetSocketAddress;
import java.nio.ByteBuffer;
import java.nio.channels.SelectionKey;
import java.nio.channels.Selector;
import java.nio.channels.ServerSocketChannel;
import java.nio.channels.SocketChannel;
import java.util.Iterator;

/**
 * NIO服务端
 * @author 小路
 */
public class NIOServer {
	//通道管理器
	private Selector selector;

	/**
	 * 获得一个ServerSocket通道，并对该通道做一些初始化的工作
	 * @param port  绑定的端口号
	 * @throws IOException
	 */
	public void initServer(int port) throws IOException {
		// 获得一个ServerSocket通道
		ServerSocketChannel serverChannel = ServerSocketChannel.open();
		// 设置通道为非阻塞
		serverChannel.configureBlocking(false);
		// 将该通道对应的ServerSocket绑定到port端口
		serverChannel.socket().bind(new InetSocketAddress(port));
		// 获得一个通道管理器
		this.selector = Selector.open();
		//将通道管理器和该通道绑定，并为该通道注册SelectionKey.OP_ACCEPT事件,注册该事件后，
		//当该事件到达时，selector.select()会返回，如果该事件没到达selector.select()会一直阻塞。
		serverChannel.register(selector, SelectionKey.OP_ACCEPT);
	}

	/**
	 * 采用轮询的方式监听selector上是否有需要处理的事件，如果有，则进行处理
	 * @throws IOException
	 */
	@SuppressWarnings("unchecked")
	public void listen() throws IOException {
		System.out.println("服务端启动成功！");
		// 轮询访问selector
		while (true) {
			//当注册的事件到达时，方法返回；否则,该方法会一直阻塞
			selector.select();
			// 获得selector中选中的项的迭代器，选中的项为注册的事件
			Iterator ite = this.selector.selectedKeys().iterator();
			while (ite.hasNext()) {
				SelectionKey key = (SelectionKey) ite.next();
				// 删除已选的key,以防重复处理
				ite.remove();
				// 客户端请求连接事件
				if (key.isAcceptable()) {
					ServerSocketChannel server = (ServerSocketChannel) key
							.channel();
					// 获得和客户端连接的通道
					SocketChannel channel = server.accept();
					// 设置成非阻塞
					channel.configureBlocking(false);

					//在这里可以给客户端发送信息哦
					channel.write(ByteBuffer.wrap(new String("向客户端发送了一条信息").getBytes()));
					//在和客户端连接成功之后，为了可以接收到客户端的信息，需要给通道设置读的权限。
					channel.register(this.selector, SelectionKey.OP_READ);
					
					// 获得了可读的事件
				} else if (key.isReadable()) {
						read(key);
				}

			}

		}
	}
	/**
	 * 处理读取客户端发来的信息 的事件
	 * @param key
	 * @throws IOException 
	 */
	public void read(SelectionKey key) throws IOException{
		// 服务器可读取消息:得到事件发生的Socket通道
		SocketChannel channel = (SocketChannel) key.channel();
		// 创建读取的缓冲区
		ByteBuffer buffer = ByteBuffer.allocate(10);
		channel.read(buffer);
		byte[] data = buffer.array();
		String msg = new String(data).trim();
		System.out.println("服务端收到信息："+msg);
		ByteBuffer outBuffer = ByteBuffer.wrap(msg.getBytes());
		channel.write(outBuffer);// 将消息回送给客户端
	}
	
	/**
	 * 启动服务端测试
	 * @throws IOException 
	 */
	public static void main(String[] args) throws IOException {
		NIOServer server = new NIOServer();
		server.initServer(8000);
		server.listen();
	}

}

    客户端：

    Java代码 复制代码 收藏代码
    1. package cn.nio; 
    2.  
    3. import java.io.IOException; 
    4. import java.net.InetSocketAddress; 
    5. import java.nio.ByteBuffer; 
    6. import java.nio.channels.SelectionKey; 
    7. import java.nio.channels.Selector; 
    8. import java.nio.channels.SocketChannel; 
    9. import java.util.Iterator; 
    10.  
    11. /**
    12. * NIO客户端
    13. * @author 小路
    14. */ 
    15. publicclass NIOClient { 
    16.     //通道管理器 
    17.     private Selector selector; 
    18.  
    19.     /**
    20.      * 获得一个Socket通道，并对该通道做一些初始化的工作
    21.      * @param ip 连接的服务器的ip
    22.      * @param port  连接的服务器的端口号        
    23.      * @throws IOException
    24.      */ 
    25.     publicvoid initClient(String ip,int port) throws IOException { 
    26.         // 获得一个Socket通道 
    27.         SocketChannel channel = SocketChannel.open(); 
    28.         // 设置通道为非阻塞 
    29.         channel.configureBlocking(false); 
    30.         // 获得一个通道管理器 
    31.         this.selector = Selector.open(); 
    32.          
    33.         // 客户端连接服务器,其实方法执行并没有实现连接，需要在listen（）方法中调 
    34.         //用channel.finishConnect();才能完成连接 
    35.         channel.connect(new InetSocketAddress(ip,port)); 
    36.         //将通道管理器和该通道绑定，并为该通道注册SelectionKey.OP_CONNECT事件。 
    37.         channel.register(selector, SelectionKey.OP_CONNECT); 
    38.     } 
    39.  
    40.     /**
    41.      * 采用轮询的方式监听selector上是否有需要处理的事件，如果有，则进行处理
    42.      * @throws IOException
    43.      */ 
    44.     @SuppressWarnings("unchecked") 
    45.     publicvoid listen() throws IOException { 
    46.         // 轮询访问selector 
    47.         while (true) { 
    48.             // 选择一组可以进行I/O操作的事件，放在selector中,客户端的该方法不会阻塞， 
    49.             //这里和服务端的方法不一样，查看api注释可以知道，当至少一个通道被选中时， 
    50.             //selector的wakeup方法被调用，方法返回，而对于客户端来说，通道一直是被选中的 
    51.             selector.select(); 
    52.             // 获得selector中选中的项的迭代器 
    53.             Iterator ite = this.selector.selectedKeys().iterator(); 
    54.             while (ite.hasNext()) { 
    55.                 SelectionKey key = (SelectionKey) ite.next(); 
    56.                 // 删除已选的key,以防重复处理 
    57.                 ite.remove(); 
    58.                 // 连接事件发生 
    59.                 if (key.isConnectable()) { 
    60.                     SocketChannel channel = (SocketChannel) key 
    61.                             .channel(); 
    62.                     // 如果正在连接，则完成连接 
    63.                     if(channel.isConnectionPending()){ 
    64.                         channel.finishConnect(); 
    65.                          
    66.                     } 
    67.                     // 设置成非阻塞 
    68.                     channel.configureBlocking(false); 
    69.  
    70.                     //在这里可以给服务端发送信息哦 
    71.                     channel.write(ByteBuffer.wrap(new String("向服务端发送了一条信息").getBytes())); 
    72.                     //在和服务端连接成功之后，为了可以接收到服务端的信息，需要给通道设置读的权限。 
    73.                     channel.register(this.selector, SelectionKey.OP_READ); 
    74.                      
    75.                     // 获得了可读的事件 
    76.                 } elseif (key.isReadable()) { 
    77.                         read(key); 
    78.                 } 
    79.  
    80.             } 
    81.  
    82.         } 
    83.     } 
    84.     /**
    85.      * 处理读取服务端发来的信息 的事件
    86.      * @param key
    87.      * @throws IOException
    88.      */ 
    89.     publicvoid read(SelectionKey key) throws IOException{ 
    90.         //和服务端的read方法一样 
    91.     } 
    92.      
    93.      
    94.     /**
    95.      * 启动客户端测试
    96.      * @throws IOException
    97.      */ 
    98.     publicstaticvoid main(String[] args) throws IOException { 
    99.         NIOClient client = new NIOClient(); 
    100.         client.initClient("localhost",8000); 
    101.         client.listen(); 
    102.     } 
    103.  
    104. }  
    package cn.nio;

import java.io.IOException;
import java.net.InetSocketAddress;
import java.nio.ByteBuffer;
import java.nio.channels.SelectionKey;
import java.nio.channels.Selector;
import java.nio.channels.SocketChannel;
import java.util.Iterator;

/**
 * NIO客户端
 * @author 小路
 */
public class NIOClient {
	//通道管理器
	private Selector selector;

	/**
	 * 获得一个Socket通道，并对该通道做一些初始化的工作
	 * @param ip 连接的服务器的ip
	 * @param port  连接的服务器的端口号         
	 * @throws IOException
	 */
	public void initClient(String ip,int port) throws IOException {
		// 获得一个Socket通道
		SocketChannel channel = SocketChannel.open();
		// 设置通道为非阻塞
		channel.configureBlocking(false);
		// 获得一个通道管理器
		this.selector = Selector.open();
		
		// 客户端连接服务器,其实方法执行并没有实现连接，需要在listen（）方法中调
		//用channel.finishConnect();才能完成连接
		channel.connect(new InetSocketAddress(ip,port));
		//将通道管理器和该通道绑定，并为该通道注册SelectionKey.OP_CONNECT事件。
		channel.register(selector, SelectionKey.OP_CONNECT);
	}

	/**
	 * 采用轮询的方式监听selector上是否有需要处理的事件，如果有，则进行处理
	 * @throws IOException
	 */
	@SuppressWarnings("unchecked")
	public void listen() throws IOException {
		// 轮询访问selector
		while (true) {
			// 选择一组可以进行I/O操作的事件，放在selector中,客户端的该方法不会阻塞，
			//这里和服务端的方法不一样，查看api注释可以知道，当至少一个通道被选中时，
			//selector的wakeup方法被调用，方法返回，而对于客户端来说，通道一直是被选中的
			selector.select();
			// 获得selector中选中的项的迭代器
			Iterator ite = this.selector.selectedKeys().iterator();
			while (ite.hasNext()) {
				SelectionKey key = (SelectionKey) ite.next();
				// 删除已选的key,以防重复处理
				ite.remove();
				// 连接事件发生
				if (key.isConnectable()) {
					SocketChannel channel = (SocketChannel) key
							.channel();
					// 如果正在连接，则完成连接
					if(channel.isConnectionPending()){
						channel.finishConnect();
						
					}
					// 设置成非阻塞
					channel.configureBlocking(false);

					//在这里可以给服务端发送信息哦
					channel.write(ByteBuffer.wrap(new String("向服务端发送了一条信息").getBytes()));
					//在和服务端连接成功之后，为了可以接收到服务端的信息，需要给通道设置读的权限。
					channel.register(this.selector, SelectionKey.OP_READ);
					
					// 获得了可读的事件
				} else if (key.isReadable()) {
						read(key);
				}

			}

		}
	}
	/**
	 * 处理读取服务端发来的信息 的事件
	 * @param key
	 * @throws IOException 
	 */
	public void read(SelectionKey key) throws IOException{
		//和服务端的read方法一样
	}
	
	
	/**
	 * 启动客户端测试
	 * @throws IOException 
	 */
	public static void main(String[] args) throws IOException {
		NIOClient client = new NIOClient();
		client.initClient("localhost",8000);
		client.listen();
	}

}

    小结：
    终于把动态代理和java NIO分析完了，呵呵，下面就要分析hadoop的RPC机制源码了，博客地址：http://weixiaolu.iteye.com/blog/1504898。不过如果对java NIO的理解存在异议的，欢迎一起讨论。

    如需转载，请注明出处：http://weixiaolu.iteye.com/blog/1479656
  • 相关阅读:
    Python之并发编程（三）生产者与消费者模型
    Python之并发编程（四）多线程(相关理论)
    cookiesession okenkey四大参数解析
    常见http返回的状态码
    for遍历用例数据时，报错：TypeError: list indices must be integers, not dict，'int' object is not iterable解决方法
    python中调用函数时，参数顺序与参数赋值问题
    自动化测试用例中的raise
    python --------简单的socket通话实现例子
    python---------------logging
    Monkey
  • 原文地址：https://www.cnblogs.com/freeliver54/p/2968467.html
Copyright © 2020-2023  润新知