• 使用Java NIO编写高性能的服务器


    转载 http://tenyears.iteye.com/blog/40489  格式化处理

    从JDK 1.4开始,Java的标准库中就包含了NIO,即所谓的“New IO”。其中最重要的功能就是提供了“非阻塞”的IO,当然包括了Socket。NonBlocking的IO就是对select(Unix平台下)以及 WaitForMultipleObjects(Windows平台)的封装,提供了高性能、易伸缩的服务架构。

    说来惭愧,直到JDK1.4才有这种功能,但迟到者不一定没有螃蟹吃,NIO就提供了优秀的面向对象的解决方案,可以很方便地编写高性能的服务器。

    话说回来,传统的Server/Client实现是基于Thread per request,即服务器为每个客户端请求建立一个线程处理,单独负责处理一个客户的请求。比如像Tomcat(新版本也会提供NIO方案)、Resin等Web服务器就是这样实现的。当然为了减少瞬间峰值问题,服务器一般都使用线程池,规定了同时并发的最大数量,避免了线程的无限增长。

    但这样有一个问题:如果线程池的大小为100,当有100个用户同时通过HTTP现在一个大文件时,服务器的线程池会用完,因为所有的线程都在传输大文件了,即使第101个请求者仅仅请求一个只有10字节的页面,服务器也无法响应了,只有等到线程池中有空闲的线程出现。

    另外,线程的开销也是很大的,特别是达到了一个临界值后,性能会显著下降,这也限制了传统的Socket方案无法应对并发量大的场合,而“非阻塞”的IO就能轻松解决这个问题。

    下面只是一个简单的例子:服务器提供了下载大型文件的功能,客户端连接上服务器的12345端口后,就可以读取服务器发送的文件内容信息了。注意这里的服务器只有一个主线程,没有其他任何派生线程,让我们看看NIO是如何用一个线程处理N个请求的。

    NIO服务器最核心的一点就是反应器模式:当有感兴趣的事件发生的,就通知对应的事件处理器去处理这个事件,如果没有,则不处理。所以使用一个线程做轮询就可以了。当然这里这是个例子,如果要获得更高性能,可以使用少量的线程,一个负责接收请求,其他的负责处理请求,特别是对于多CPU时效率会更高。

    关于使用NIO过程中出现的问题,最为普遍的就是为什么没有请求时CPU的占用率为100%?出现这种问题的主要原因是注册了不感兴趣的事件,比如如果没有数据要发到客户端,而又注册了写事件(OP_WRITE),则在 Selector.select()上就会始终有事件出现,CPU就一直处理了,而此时select()应该是阻塞的。

    另外一个值得注意的问题是:由于只使用了一个线程(多个线程也如此)处理用户请求,所以要避免线程被阻塞,解决方法是事件的处理者必须要即刻返回,不能陷入循环中,否则会影响其他用户的请求速度。

    具体到本例子中,由于文件比较大,如果一次性发送整个文件(这里的一次性不是指send整个文件内容,而是通过while循环不间断的发送分组包),则主线程就会阻塞,其他用户就不能响应了。这里的解决方法是当有WRITE事件时,仅仅是发送一个块(比如4K字节)。发完后,继续等待WRITE事件出现,依次处理,直到整个文件发送完毕,这样就不会阻塞其他用户了。

    服务器的例子:

    package nio.file;            

                import java.io.FileInputStream;
                import java.io.IOException;
                import java.net.InetSocketAddress;
                import java.nio.ByteBuffer;
                import java.nio.CharBuffer;
                import java.nio.channels.FileChannel;
                import java.nio.channels.SelectionKey;
                import java.nio.channels.Selector;
                import java.nio.channels.ServerSocketChannel;
                import java.nio.channels.SocketChannel;
                import java.nio.charset.Charset;
                import java.nio.charset.CharsetDecoder;
                import java.util.Iterator;            

                /**
                 * 测试文件下载的NIOServer
                 * 
                 * 
    @author tenyears.cn
                 
    */
                public class NIOServer {
                  static int BLOCK = 4096;
                  // 处理与客户端的交互
                  public class HandleClient {
                    protected FileChannel channel;
                    protected ByteBuffer buffer;
                    public HandleClient() throws IOException {
                      this.channel = new FileInputStream(filename).getChannel();
                      this.buffer = ByteBuffer.allocate(BLOCK);
                    }

                    public ByteBuffer readBlock() {
                      try {
                        buffer.clear();
                        int count = channel.read(buffer);
                        buffer.flip();
                        if (count <= 0)
                          return null;
                      } catch (IOException e) {
                        e.printStackTrace();
                      }
                      return buffer;
                    }

                    public void close() {
                      try {
                        channel.close();
                      } catch (IOException e) {
                        e.printStackTrace();
                      }
                    }
                  }            

                  protected Selector selector;
                  protected String filename = "d:\\bigfile.dat"; // a big file
                  protected ByteBuffer clientBuffer = ByteBuffer.allocate(BLOCK);
                  protected CharsetDecoder decoder;            

                  public NIOServer(int port) throws IOException {
                    selector = this.getSelector(port);
                    Charset charset = Charset.forName("GB2312");
                    decoder = charset.newDecoder();
                  }            

                  // 获取Selector

                  protected Selector getSelector(int port) throws IOException {
                    ServerSocketChannel server = ServerSocketChannel.open();
                    Selector sel = Selector.open();
                    server.socket().bind(new InetSocketAddress(port));
                    server.configureBlocking(false);
                    server.register(sel, SelectionKey.OP_ACCEPT);
                    return sel;
                  }            

                  // 监听端口

                  public void listen() {
                    try {
                      for (;;) {
                        selector.select();
                        Iterator<selectionkey></selectionkey> iter = selector.selectedKeys().iterator();
                        while (iter.hasNext()) {
                          SelectionKey key = iter.next();
                          iter.remove();
                          handleKey(key);
                        }
                      }
                    } catch (IOException e) {
                      e.printStackTrace();
                    }
                  }            

                  // 处理事件
                  protected void handleKey(SelectionKey key) throws IOException {
                    if (key.isAcceptable()) { // 接收请求
                      ServerSocketChannel server = (ServerSocketChannel) key.channel();
                      SocketChannel channel = server.accept();
                      channel.configureBlocking(false);
                      channel.register(selector, SelectionKey.OP_READ);
                    } else if (key.isReadable()) { // 读信息
                      SocketChannel channel = (SocketChannel) key.channel();
                      int count = channel.read(clientBuffer);
                      if (count > 0) {
                        clientBuffer.flip();
                        CharBuffer charBuffer = decoder.decode(clientBuffer);
                        System.out.println("Client >>" + charBuffer.toString());
                        SelectionKey wKey = channel.register(selector,
                            SelectionKey.OP_WRITE);
                        wKey.attach(new HandleClient());
                      } else
                        channel.close();
                      clientBuffer.clear();
                    } else if (key.isWritable()) { // 写事件
                      SocketChannel channel = (SocketChannel) key.channel();
                      HandleClient handle = (HandleClient) key.attachment();
                      ByteBuffer block = handle.readBlock();
                      if (block != null)
                        channel.write(block);
                      else {
                        handle.close();
                        channel.close();
                      }
                    }
                  }            

                  public static void main(String[] args) {
                    int port = 12345;
                    try {
                      NIOServer server = new NIOServer(port);
                      System.out.println("Listernint on " + port);
                      while (true) {
                        server.listen();
                      }

                    } catch (IOException e) {
                      e.printStackTrace();
                    }
                  }

                } 

    该代码中,通过一个HandleClient来获取文件的一块数据,每一个客户都会分配一个HandleClient的实例。

    下面是客户端请求的代码,也比较简单,模拟100个用户同时下载文件。

    package nio.file;

                import java.io.IOException;
                import java.net.InetSocketAddress;
                import java.nio.ByteBuffer;
                import java.nio.CharBuffer;
                import java.nio.channels.SelectionKey;
                import java.nio.channels.Selector;
                import java.nio.channels.SocketChannel;
                import java.nio.charset.Charset;
                import java.nio.charset.CharsetEncoder;
                import java.util.Iterator;
                import java.util.concurrent.ExecutorService;
                import java.util.concurrent.Executors;            

                /**
                 * 文件下载客户端
                 * 
    @author tenyears.cn
                 
    */
                public class NIOClient {
                  static int SIZE = 100;
                  static InetSocketAddress ip = new InetSocketAddress("localhost",12345);
                  static CharsetEncoder encoder = Charset.forName("GB2312").newEncoder();
                  static class Download implements Runnable {
                    protected int index;
                    public Download(int index) {
                      this.index = index;
                    }            

                    public void run() {
                      try {
                        long start = System.currentTimeMillis();
                        SocketChannel client = SocketChannel.open();
                        client.configureBlocking(false);
                        Selector selector = Selector.open();
                        client.register(selector, SelectionKey.OP_CONNECT);
                        client.connect(ip);
                        ByteBuffer buffer = ByteBuffer.allocate(8 * 1024);
                        int total = 0;
                        FOR: for (;;) {
                          selector.select();
                          Iterator<selectionkey></selectionkey> iter = selector.selectedKeys()
                              .iterator();
                          while (iter.hasNext()) {
                            SelectionKey key = iter.next();
                            iter.remove();
                            if (key.isConnectable()) {
                              SocketChannel channel = (SocketChannel) key
                                  .channel();
                              if (channel.isConnectionPending())
                                channel.finishConnect();
                              channel.write(encoder.encode(CharBuffer
                                  .wrap("Hello from " + index)));
                              channel.register(selector, SelectionKey.OP_READ);
                            } else if (key.isReadable()) {
                              SocketChannel channel = (SocketChannel) key
                                  .channel();
                              int count = channel.read(buffer);
                              if (count > 0) {
                                total += count;
                                buffer.clear();
                              } else {
                                client.close();
                                break FOR;
                              }
                            }
                          }
                        }
                        double last = (System.currentTimeMillis() - start) * 1.0 / 1000;
                        System.out.println("Thread " + index + " downloaded " + total
                            + "bytes in " + last + "s.");
                      } catch (IOException e) {
                        e.printStackTrace();
                      }
                    }
                  }            

                  public static void main(String[] args) throws IOException {
                    ExecutorService exec = Executors.newFixedThreadPool(SIZE);
                    for (int index = 0; index < SIZE; index++) {
                      exec.execute(new Download(index));
                    }
                    exec.shutdown();
                  }

                } 

  • 相关阅读:
    Linq与Lambda,神一般的工作效率
    svn和git孰优孰劣
    关于C++的***5的输出问题
    POJ 3469 Dual Core CPU(最小割)
    HDU 4259 Double Dealing
    最大流Dinic算法
    HDU 4442 Physical Examination(2012年金华赛区现场赛A题)
    int ,long , long long类型的范围
    POJ 1679 The Unique MST(判断最小生成树是否唯一)
    HDU 4280 Island Transport(网络流)
  • 原文地址:https://www.cnblogs.com/chenying99/p/2686624.html
Copyright © 2020-2023  润新知