• Java实现简单的RPC框架(美团面试)


    一、RPC简介

    RPC,全称为Remote Procedure Call,即远程过程调用,它是一个计算机通信协议。它允许像调用本地服务一样调用远程服务。它可以有不同的实现方式。如RMI(远程方法调用)、Hessian、Http invoker等。另外,RPC是与语言无关的。

    PC概述

    RPC(Remote Procedure Call)即远程过程调用,允许一台计算机调用另一台计算机上的程序得到结果,而代码中不需要做额外的编程,就像在本地调用一样。

    现在互联网应用的量级越来越大,单台计算机的能力有限,需要借助可扩展的计算机集群来完成,分布式的应用可以借助RPC来完成机器之间的调用。

    RPC框架原理

    在RPC框架中主要有三个角色:Provider、Consumer和Registry。如下图所示: 

    节点角色说明: 
    * Server: 暴露服务的服务提供方。 
    * Client: 调用远程服务的服务消费方。 
    * Registry: 服务注册与发现的注册中心。

       

    RPC示意图

    如上图所示,假设Computer1在调用sayHi()方法,对于Computer1而言调用sayHi()方法就像调用本地方法一样,调用 –>返回。但从后续调用可以看出Computer1调用的是Computer2中的sayHi()方法,RPC屏蔽了底层的实现细节,让调用者无需关注网络通信,数据传输等细节。

    一次完整的RPC调用流程(同步调用,异步另说)如下: 
    1)服务消费方(client)调用以本地调用方式调用服务; 
    2)client stub接收到调用后负责将方法、参数等组装成能够进行网络传输的消息体; 
    3)client stub找到服务地址,并将消息发送到服务端; 
    4)server stub收到消息后进行解码; 
    5)server stub根据解码结果调用本地的服务; 
    6)本地服务执行并将结果返回给server stub; 
    7)server stub将返回结果打包成消息并发送至消费方; 
    8)client stub接收到消息,并进行解码; 
    9)服务消费方得到最终结果。

    RPC框架的目标就是要2~8这些步骤都封装起来,让用户对这些细节透明。

    服务注册&发现

     
    服务提供者启动后主动向注册中心注册机器ip、port以及提供的服务列表; 
    服务消费者启动时向注册中心获取服务提供方地址列表,可实现软负载均衡和Failover;

    使用到的技术

    1、动态代理 
    生成 client stub和server stub需要用到 Java 动态代理技术 ,我们可以使用JDK原生的动态代理机制,可以使用一些开源字节码工具框架 如:CgLib、Javassist等。

    2、序列化 
    为了能在网络上传输和接收 Java对象,我们需要对它进行 序列化和反序列化操作。 
    * 序列化:将Java对象转换成byte[]的过程,也就是编码的过程; 
    * 反序列化:将byte[]转换成Java对象的过程;

    可以使用Java原生的序列化机制,但是效率非常低,推荐使用一些开源的、成熟的序列化技术,例如:protobuf、Thrift、hessian、Kryo、Msgpack

    关于序列化工具性能比较可以参考:jvm-serializers

    3、NIO 
    当前很多RPC框架都直接基于netty这一IO通信框架,比如阿里巴巴的HSF、dubbo,Hadoop Avro,推荐使用Netty 作为底层通信框架。

    4、服务注册中心 
    可选技术: 
    * Redis 
    * Zookeeper 
    * Consul 
    * Etcd

    二、RPC框架的实现

        上面介绍了RPC的核心原理:RPC能够让本地应用简单、高效地调用服务器中的过程(服务)。它主要应用在分布式系统。如Hadoop中的IPC组件。但怎样实现一个RPC框架呢?

    从下面几个方面思考,仅供参考:

    1.通信模型:假设通信的为A机器与B机器,A与B之间有通信模型,在Java中一般基于BIO或NIO;。

    2.过程(服务)定位:使用给定的通信方式,与确定IP与端口及方法名称确定具体的过程或方法;

    3.远程代理对象:本地调用的方法(服务)其实是远程方法的本地代理,因此可能需要一个远程代理对象,对于Java而言,远程代理对象可以使用Java的动态对象实现,封装了调用远程方法调用;

    4.序列化,将对象名称、方法名称、参数等对象信息进行网络传输需要转换成二进制传输,这里可能需要不同的序列化技术方案。如:protobuf,Arvo等。

     

     

    三、Java实现RPC框架

    1、实现技术方案

         下面使用比较原始的方案实现RPC框架,采用Socket通信、动态代理与反射与Java原生的序列化。

    2、RPC框架架构

    RPC架构分为三部分:

    1)服务提供者,运行在服务器端,提供服务接口定义与服务实现类。

    2)服务中心,运行在服务器端,负责将本地服务发布成远程服务,管理远程服务,提供给服务消费者使用。

    3)服务消费者,运行在客户端,通过远程代理对象调用远程服务。

    3、 具体实现

    服务提供者接口定义与实现,代码如下:

    public interface HelloService {
     
        String sayHi(String name);
     
    }

    HelloServices接口实现类:

    public class HelloServiceImpl implements HelloService {
     
        public String sayHi(String name) {
            return "Hi, " + name;
        }
     
    }

    服务中心代码实现,代码如下:

    public interface Server {
        public void stop();
     
        public void start() throws IOException;
     
        public void register(Class serviceInterface, Class impl);
     
        public boolean isRunning();
     
        public int getPort();
    }

    服务中心实现类:

    public class ServiceCenter implements Server {
        private static ExecutorService executor = Executors.newFixedThreadPool(Runtime.getRuntime().availableProcessors());
     
        private static final HashMap<String, Class> serviceRegistry = new HashMap<String, Class>();
     
        private static boolean isRunning = false;
     
        private static int port;
     
        public ServiceCenter(int port) {
            this.port = port;
        }
     
        public void stop() {
            isRunning = false;
            executor.shutdown();
        }
     
        public void start() throws IOException {
            ServerSocket server = new ServerSocket();
            server.bind(new InetSocketAddress(port));
            System.out.println("start server");
            try {
                while (true) {
                    // 1.监听客户端的TCP连接,接到TCP连接后将其封装成task,由线程池执行
                    executor.execute(new ServiceTask(server.accept()));
                }
            } finally {
                server.close();
            }
        }
     
        public void register(Class serviceInterface, Class impl) {
            serviceRegistry.put(serviceInterface.getName(), impl);
        }
     
        public boolean isRunning() {
            return isRunning;
        }
     
        public int getPort() {
            return port;
        }
     
        private static class ServiceTask implements Runnable {
            Socket clent = null;
     
            public ServiceTask(Socket client) {
                this.clent = client;
            }
     
            public void run() {
                ObjectInputStream input = null;
                ObjectOutputStream output = null;
                try {
                    // 2.将客户端发送的码流反序列化成对象,反射调用服务实现者,获取执行结果
                    input = new ObjectInputStream(clent.getInputStream());
                    String serviceName = input.readUTF();
                    String methodName = input.readUTF();
                    Class<?>[] parameterTypes = (Class<?>[]) input.readObject();
                    Object[] arguments = (Object[]) input.readObject();
                    Class serviceClass = serviceRegistry.get(serviceName);
                    if (serviceClass == null) {
                        throw new ClassNotFoundException(serviceName + " not found");
                    }
                    Method method = serviceClass.getMethod(methodName, parameterTypes);
                    Object result = method.invoke(serviceClass.newInstance(), arguments);
     
                    // 3.将执行结果反序列化,通过socket发送给客户端
                    output = new ObjectOutputStream(clent.getOutputStream());
                    output.writeObject(result);
                } catch (Exception e) {
                    e.printStackTrace();
                } finally {
                    if (output != null) {
                        try {
                            output.close();
                        } catch (IOException e) {
                            e.printStackTrace();
                        }
                    }
                    if (input != null) {
                        try {
                            input.close();
                        } catch (IOException e) {
                            e.printStackTrace();
                        }
                    }
                    if (clent != null) {
                        try {
                            clent.close();
                        } catch (IOException e) {
                            e.printStackTrace();
                        }
                    }
                }
     
            }
        }
    }

     客户端的远程代理对象:

    public class RPCClient<T> {
        public static <T> T getRemoteProxyObj(final Class<?> serviceInterface, final InetSocketAddress addr) {
            // 1.将本地的接口调用转换成JDK的动态代理,在动态代理中实现接口的远程调用
            return (T) Proxy.newProxyInstance(serviceInterface.getClassLoader(), new Class<?>[]{serviceInterface},
                    new InvocationHandler() {
                        public Object invoke(Object proxy, Method method, Object[] args) throws Throwable {
                            Socket socket = null;
                            ObjectOutputStream output = null;
                            ObjectInputStream input = null;
                            try {
                                // 2.创建Socket客户端,根据指定地址连接远程服务提供者
                                socket = new Socket();
                                socket.connect(addr);
     
                                // 3.将远程服务调用所需的接口类、方法名、参数列表等编码后发送给服务提供者
                                output = new ObjectOutputStream(socket.getOutputStream());
                                output.writeUTF(serviceInterface.getName());
                                output.writeUTF(method.getName());
                                output.writeObject(method.getParameterTypes());
                                output.writeObject(args);
     
                                // 4.同步阻塞等待服务器返回应答,获取应答后返回
                                input = new ObjectInputStream(socket.getInputStream());
                                return input.readObject();
                            } finally {
                                if (socket != null) socket.close();
                                if (output != null) output.close();
                                if (input != null) input.close();
                            }
                        }
                    });
        }
    }
     

    最后为测试类:

    public class RPCTest {
     
        public static void main(String[] args) throws IOException {
            new Thread(new Runnable() {
                public void run() {
                    try {
                        Server serviceServer = new ServiceCenter(8088);
                        serviceServer.register(HelloService.class, HelloServiceImpl.class);
                        serviceServer.start();
                    } catch (IOException e) {
                        e.printStackTrace();
                    }
                }
            }).start();
            HelloService service = RPCClient.getRemoteProxyObj(HelloService.class, new InetSocketAddress("localhost", 8088));
            System.out.println(service.sayHi("test"));
        }
    }

    运行结果:

    regeist service HelloService
    start server
    Hi, test

    四、总结

          RPC本质为消息处理模型,RPC屏蔽了底层不同主机间的通信细节,让进程调用远程的服务就像是本地的服务一样。

    五、可以改进的地方

         这里实现的简单RPC框架是使用Java语言开发,与Java语言高度耦合,并且通信方式采用的Socket是基于BIO实现的,IO效率不高,还有Java原生的序列化机制占内存太多,运行效率也不高。可以考虑从下面几种方法改进。

    1. 可以采用基于JSON数据传输的RPC框架;
    2. 可以使用NIO或直接使用Netty替代BIO实现;
    3. 使用开源的序列化机制,如Hadoop Avro与Google protobuf等;
    4. 服务注册可以使用Zookeeper进行管理,能够让应用更加稳定。

    参考:Java实现简单的RPC框架

    参考:从零开始实现RPC框架 - RPC原理及实现

  • 相关阅读:
    微软职位内部推荐-SENIOR DEVELOPMENT LEAD
    微软职位内部推荐-SENIOR SDE
    微软职位内部推荐-Software Development Engineer 2
    微软职位内部推荐-SENIOR PRODUCER
    微软职位内部推荐-Senior Data Scientist
    微软职位内部推荐-Data Scientist
    微软职位内部推荐-Sr Development Lead-OSG-IPX
    类和对象
    Netty线程模型
    sbit命令行中运行scala脚本
  • 原文地址:https://www.cnblogs.com/aspirant/p/8631359.html
Copyright © 2020-2023  润新知