（转）tomcat架构&session共享

（二期）16、tomcat的整体架构与session共享方案

【课程16】tomcat...共享.xmind47.6KB

【课程16】tomcat...流程.xmind0.6MB

【课程16】tomcat...组件.xmind0.6MB

【课程16】tomcat...架构.xmind0.9MB

【课程16】手写一...mcat.xmind0.1MB

【课程16预习】tom...架构.xmind0.6MB

课程目标：

• 理解tomcat的基本组成与工作流程

• 学会手动写一个迷你tomcat

讲课顺序

• tomcat简介

• 整体架构

• 架构组成了解

• 工作流程

• 两大组件

• 手写一个简易tomcat

• 优化方向

• tomcat的session插件演示

tomcat维基百科

Tomcat是由Apache软件基金会下属的Jakarta项目开发的一个Servlet容器，按照Sun Microsystems提供的技术规范，实现了对Servlet和JavaServer Page（JSP）的支持，并提供了作为Web服务器的一些特有功能，如Tomcat管理和控制平台、安全域管理和Tomcat阀等。

由于Tomcat本身也内含了一个HTTP服务器，它也可以被视作一个单独的Web服务器。

http server与tomcat

划重点：

• http server与application server的不一样在哪？

严格的来说，Apache/Nginx 应该叫做「HTTP Server」；而 Tomcat 则是一个「Application Server」，或者更准确的来说，是一个「Servlet/JSP」应用的容器。

一个 HTTP Server 关心的是 HTTP 协议层面的传输和访问控制，所以在 Apache/Nginx 上你可以看到代理、负载均衡等功能。客户端通过 HTTP Server 访问服务器上存储的资源（HTML 文件、图片文件等等）。一个 HTTP Server 始终只是把服务器上的文件如实的通过 HTTP 协议传输给客户端。

对于 Tomcat 来说，就是需要提供 JSP/Sevlet 运行需要的标准类库、Interface 等。为了方便，应用服务器往往也会集成 HTTP Server 的功能，但是不如专业的 HTTP Server 那么强大，所以应用服务器往往是运行在 HTTP Server 的背后，执行应用，将动态的内容转化为静态的内容之后，通过 HTTP Server 分发到客户端。

HTTP服务器本质上也是一种应用程序——它通常运行在服务器之上，绑定服务器的IP地址并监听某一个tcp端口来接收并处理HTTP请求。

Tomcat运行在JVM之上，它和HTTP服务器一样，绑定IP地址并监听TCP端口，同时还包含以下指责：

• 管理Servlet程序的生命周期

• 将URL映射到指定的Servlet进行处理

• 与Servlet程序合作处理HTTP请求——根据HTTP请求生成HttpServletRequest对象并传递给Servlet进行处理，将Servlet中的HttpServletResponse对象生成的内容返回给浏览器。

tomcat的整体架构

• 好文：https://blog.csdn.net/xlgen157387/article/details/79006434

整体架构

划重点：

• 主要两个组件是哪两个？

• 两个重要组件的功能分别是啥？

Tomcat中最顶层的容器是Server，代表着整个服务器，从上图中可以看出，一个Server可以包含至少一个Service，用于具体提供服务。

Service主要包含两个部分：Connector和Container。从上图中可以看出 Tomcat 的心脏就是这两个组件，他们的作用如下：

• 1、Connector用于处理连接相关的事，并提供Socket与Request和Response相关的转化; 

• 2、Container用于封装和管理Servlet，以及具体处理Request请求；

其他组件说明：

• Jasper：负责jsp页面的解析，jsp属性的验证,同时负责将jsp动态转换为java代码并编译成class。

• Naming：资源管理，负责数据库连接池、EJB、mail等通过JDNI获取的内容。

• Session：会话管理的组件

• Logging：日志相关

• JMX：性能监控等

小结：

（1）Tomcat中只有一个Server，一个Server可以有多个Service，一个Service可以有多个Connector和一个Container； 

（2）Server掌管着整个Tomcat的生死大权； 

（4）Service 是对外提供服务的； 

（5）Connector用于接受请求并将请求封装成Request和Response来具体处理； 

（6）Container用于封装和管理Servlet，以及具体处理request请求；

两大组件 --- Connector

划重点：

• connector的工作流程？

• connector有哪些优化手段？

基本功能

一个Connecter将在某个指定的端口上侦听客户请求，接收浏览器的发过来的 tcp 连接请求，创建一个 Request 和 Response 对象分别用于和请求端交换数据，然后会产生一个线程来处理这个请求并把产生的 Request 和 Response 对象传给处理Engine(Container中的一部分)，从Engine出获得响应并返回客户。 

Tomcat中有两个经典的Connector，

• 一个直接侦听来自Browser的HTTP请求，

• 另外一个来自其他的WebServer请求。

HTTP/1.1 Connector在端口8080处侦听来自客户Browser的HTTP请求，AJP/1.3 Connector在端口8009处侦听其他Web Server（其他的HTTP服务器）的Servlet/JSP请求。 

Connector 最重要的功能就是接收连接请求然后分配线程让 Container 来处理这个请求，所以这必然是多线程的，多线程的处理是 Connector 设计的核心。

Connector 中具体是用ProtocolHandler 来处理请求的，不同的ProtocolHandler 代表不同的连接类型，比如， Http11Protocol 使用的是普通Socket 来连接的， Http 11 NioProtocol 使用的是NioSocket 来连接的。 

ProtocolHandler 里面有3 个非常重要的组件： Endpoint 、Processor 和Adapter。

• Endpoint用于处理底层Socket 的网络连接，

• Acceptor 用于监昕请求

• AsyncTimeout 用于检查异步request 的超时

• Handler 用于处理接收到的Socket，在内部调用了Processor 进行处理。

• Processor 用于将Endpoint 接收到的Socket 封装成Request,

• Adapter 用于将封装好的Request 交给Container 进行具体处理。

也就是说Endpoint用来实现TCP/IP 协议， Processor 用来实现HTTP 协议， Adapter 将请求适配到Servlet 容器进行具体处理。

优化方向

在使用tomcat时，经常会遇到连接数、线程数之类的配置问题，就是在这里做优化。 可以说，Servlet容器处理请求，是需要Connector进行调度和控制的，Connector是Tomcat处理请求的主干 ，因此Connector的配置和使用对Tomcat的性能有着重要的影响。

优化包括NIO/BIO模式、线程池、连接数等。

• 文章参考：https://www.cnblogs.com/kismetv/p/7806063.html

优化一：指定protocol -- BIO、NIO、NIO2，APR。

如果没有指定protocol，则使用默认值HTTP/1.1，其含义如下：

• 在Tomcat7中，自动选取使用BIO或APR（如果找到APR需要的本地库，则使用APR，否则使用BIO）；

• 在Tomcat8中，自动选取使用NIO或APR（如果找到APR需要的本地库，则使用APR，否则使用NIO）。

优化二：3个参数：acceptCount、maxConnections、maxThreads

当客户端向服务器发送请求时，如果客户端与OS 完成三次握手建立了连接，则OS 将该连接放入accept 队列。

对应三个节点，请求进入accept队列中，请求获取到链接，请求获得线程处理请求。

<Connector port="8080" protocol="org.apache.coyote.http11.Http11NioProtocol" acceptCount="2" maxConnections="10" maxThreads="2"

           connectionTimeout="20000"

           redirectPort="8443" />

• 1、acceptCount

accept队列的长度；当accept队列中连接的个数达到acceptCount时，队列满，进来的请求一律被拒绝。默认值是100。

acceptCount的设置，与应用在连接过高情况下希望做出什么反应有关系。如果设置过大，后面进入的请求等待时间会很长；如果设置过小，后面进入的请求立马返回connection refused。

• 2、maxConnections

Tomcat在任意时刻接收和处理的最大连接数。当Tomcat接收的连接数达到maxConnections时，Acceptor线程不会读取accept队列中的连接；这时accept队列中的线程会一直阻塞着，直到Tomcat接收的连接数小于maxConnections。如果设置为-1，则连接数不受限制。

maxConnections的设置与Tomcat的运行模式有关。

1. 如果tomcat使用的是BIO，那么maxConnections的值应该与maxThreads一致；

1. 如果tomcat使用的是NIO，那么类似于Tomcat的默认值，maxConnections值应该远大于maxThreads。

• 3、maxThreads

请求处理线程的最大数量。默认值是200（Tomcat7和8都是的）。如果该Connector绑定了Executor，这个值会被忽略，因为该Connector将使用绑定的Executor，而不是内置的线程池来执行任务。

优化三：线程池Executor

Executor元素代表Tomcat中的线程池，可以由其他组件共享使用；要使用该线程池，组件需要通过executor属性指定该线程池。

<Executor name="tomcatThreadPool" namePrefix ="catalina-exec-" maxThreads="150" minSpareThreads="4" />

<Connector executor="tomcatThreadPool" port="8080" protocol="HTTP/1.1" connectionTimeout="20000" redirectPort="8443" acceptCount="1000" />

• name：该线程池的标记

• maxThreads：线程池中最大活跃线程数，默认值200（Tomcat7和8都是）

• minSpareThreads：线程池中保持的最小线程数，最小值是25

• maxIdleTime：线程空闲的最大时间，当空闲超过该值时关闭线程（除非线程数小于minSpareThreads），单位是ms，默认值60000（1分钟）

• daemon：是否后台线程，默认值true

• threadPriority：线程优先级，默认值5

• namePrefix：线程名字的前缀，线程池中线程名字为：namePrefix+线程编号

linux下的一些有用命令

 netstat命令是一个监控TCP/IP网络的非常有用的工具

#查看连接情况

netstat -nat | grep 8080

1、LISTEN

服务侦听中（LISTEN）状态。

2、ESTABLISHED

ESTABLISHED的意思是建立连接。表示两台机器正在通信。

3、CLOSE_WAIT

对方主动关闭连接或者网络异常导致连接中断，这时我方的状态会变成CLOSE_WAIT 此时我方要调用close()来使得连接正确关闭

4、TIME_WAIT

我方主动调用close()断开连接，收到对方确认后状态变为TIME_WAIT。

#获取tomcat的pid

ps -ef | grep tomcat

#查看该进程内有多少个线程

#其中，nlwp含义是number of light-weight process。

ps -o nlwp 32283

#ps -eLo pid ,stat可以找出所有线程,并打印其所在的进程号和线程当前的状态

#两个grep命令分别筛选进程号和线程状态；

#wc统计个数

ps -eLo pid,stat | grep 32283| grep running | wc -l

（pid是32283）

（该进程内有32个线程）

（查看进程的运行情况，SL表示空闲）

（筛选出运行中的线程，结果是0）

两大组件 --- Container

划重点：

• container的每一个组件分别代表着项目的那些部分？

• 注意组件之间的上下隶属关系

组成部分

Container用于封装和管理Servlet，以及具体处理Request请求，在Connector内部包含了4个子容器

4个子容器的作用分别是：

（1）Engine：引擎，用来管理多个站点，一个Service最多只能有一个Engine； 

（2）Host：代表一个站点，也可以叫虚拟主机，通过配置Host就可以添加站点； 

（3）Context：代表一个应用程序，对应着平时开发的一套程序，或者一个WEB-INF目录以及下面的web.xml文件； 

（4）Wrapper：每一Wrapper封装着一个Servlet；

tomcat的基本工作流程

划重点

• tomcat的工作流程是怎么样的？

• 能否根据流程抽象一些重要步骤出来？

  

如何确定请求由谁处理？

当请求被发送到Tomcat所在的主机时，如何确定最终哪个Web应用来处理该请求呢？

（1）根据协议和端口号选定Service和Engine

Service中的Connector组件可以接收特定端口的请求，因此，当Tomcat启动时，Service组件就会监听特定的端口。在第一部分的例子中，Catalina这个Service监听了8080端口（基于HTTP协议）和8009端口（基于AJP协议）。当请求进来时，Tomcat便可以根据协议和端口号选定处理请求的Service；Service一旦选定，Engine也就确定。

通过在Server中配置多个Service，可以实现通过不同的端口号来访问同一台机器上部署的不同应用。

（2）根据域名或IP地址选定Host

Service确定后，Tomcat在Service中寻找名称与域名/IP地址匹配的Host处理该请求。如果没有找到，则使用Engine中指定的defaultHost来处理该请求。在第一部分的例子中，由于只有一个Host（name属性为localhost），因此该Service/Engine的所有请求都交给该Host处理。

（3）根据URI选定Context/Web应用

这一点在Context一节有详细的说明：Tomcat根据应用的 path属性与URI的匹配程度来选择Web应用处理相应请求，这里不再赘述。

（HTTP请求过程）

 

Tomcat Server处理一个HTTP请求的过程

1、用户点击网页内容，请求被发送到本机端口8080，被在那里监听的Coyote HTTP/1.1 Connector获得。 

2、Connector把该请求交给它所在的Service的Engine来处理，并等待Engine的回应。 

3、Engine获得请求localhost/test/index.jsp，匹配所有的虚拟主机Host。 

4、Engine匹配到名为localhost的Host（即使匹配不到也把请求交给该Host处理，因为该Host被定义为该Engine的默认主机），名为localhost的Host获得请求/test/index.jsp，匹配它所拥有的所有的Context。Host匹配到路径为/test的Context（如果匹配不到就把该请求交给路径名为“ ”的Context去处理）。 

5、path=“/test”的Context获得请求/index.jsp，在它的mapping table中寻找出对应的Servlet。Context匹配到URL PATTERN为*.jsp的Servlet,对应于JspServlet类。 

6、构造HttpServletRequest对象和HttpServletResponse对象，作为参数调用JspServlet的doGet（）或doPost（）.执行业务逻辑、数据存储等程序。 

7、Context把执行完之后的HttpServletResponse对象返回给Host。 

8、Host把HttpServletResponse对象返回给Engine。 

9、Engine把HttpServletResponse对象返回Connector。 

10、Connector把HttpServletResponse对象返回给客户Browser。

一些相关图

（配置文件server.xml）

 

（tomcat的组件启动流程图）

手写一个迷你tomcat

代码作者：张丰哲  https://www.jianshu.com/p/dce1ee01fb90

• 需求

编写一个迷你tomcat

• 需求分析

tomcat是一个专门处理servlet的web容器。前提需要了解tomcat的工作原理与流程。

一般容器处理流程是这样的，客户端发起请求，web容器接受请求，处理请求，然后把得到结果返回给客户端。

所以提取要点如下：

• 请求端口监控

• 把请求的信息封装起来

• 请求处理

• 把响应结果封装起来

因此至少需要以下几个类

• Request 封装请求

• Servlet 请求处理的Servlet

• Response 封装响应结果

• MyTomcat 启动监控和处理服务

以上可以说我们已经设计出了一个超级简单的tomcat，但是这个tomcat有点局限性，只有一个servert， 也就是说，这个tomcat只能处理一个url，为了让服务器能够处理多个servlet，我们必须抽象封装servlet。 请求url与servelt是一一对应关系，所以，我们可以通过一个map把这些关系在启动过程中就初始化加载进来， 因此我们可以封装一个ServletMapping类用于封装映射关系， 然后初始化的话可以放在一个config类中统一管理（真实的tomcat是直接在web.xml配置映射关系） 因此又多了两个类

• ServletMapping 封装url与Servlet的对应关系

• ServletMappingConfig 配置项目的Servlet与Url关系，用于初始化

然后，现在可以通过url找到对应的servlet了，每个Servrt的结构应该一直，因此抽象一个MyServlet类，固定处理的方法是service（）； 后面添加业务处理的时候都要继承这个MyServlet抽象类。比如我要加一个HelloWorldServlet，对应url是"/hello"， 我就需要显示MyServlet抽象类，编写业务逻辑，然后在ServletMappingConfig中配置映射关系。

现在好了，我编写了很多url对应的servelt，如果找不到url，我应该抛出404错误，这个我们先跳过。 当我获取到url对应的servelt名称之后，现在又有一个问题来了，我如何去运行这个servlet的service（）业务代码呢？ 同学们可能说直接new HelloWorldServlet（）.service（）不就行了么，这里涉及到一个问题，因为后面业务越来越多，需要的servelt也越来越多， 所以不可能全部通过一个个去判断然后new对象，这时候我们自然想到可以通过反射方式获取servlet实例，然后调用service（）； 所以在tomcat的处理请求阶段，我们可以通过反射方式去调用业务逻辑。

至此。需求分析完毕。

具体代码请看具体项目。

为什么要实现session共享

我们使用单台Tomcat的时候不会有共享sesssion的疑虑，只要使用Tomcat的默认配置即可，session即可存储在Tomcat上。

但是随着业务的扩大，增加Tomcat节点构成Tomcat集群大势所趋，分布式带来了增加更大规模并发请求的优势，但是也随之到来了一个问题，每个Tomcat只存储来访问自己的请求产生的session，如果Tomcat-A已经为客户端C创建了会话session，那么Tomcat-B并不知道客户端已与集群中的Tomcat-A产生了会话，在访问时就会为C再创建一份session，如果是基于session的验证会话权限的接口(如用户登录认证后才可访问的数据接口)，将会导致在访问集群中不同节点的时候重复认证。session的不共享导致原来的会话管理机制在Tomcat集群中无法工作。

tomcat中的session是如何工作的

深度好文：https://www.cnblogs.com/kismetv/p/7228274.html

tomcat集群环境下实现session共享的几种方式

第一种：粘性session，基于nginx的ip-hash，当前用户的请求都集中定位到一台服务器中，这样单台服务器保存了用户的session登录信息。

第二种：session复制共享：sessionreplication，如tomcat自带session共享，主要是指集群环境下，多台应用服务器之间同步session，使session保持一致，对外透明。

第三种：基于cache DB缓存的session共享，比如基于 memcache/redis缓存的 session 共享。

注意点，只支持tomcat7，tomcat8以上不支持。

实现过程：

第一步：首先导入相关的jar包到tomcat的lib文件夹中，如redis和tomcat关联的jar包，redis的包等。

commons-pool2-2.2.jar0.1MB

tomcat-redis-session-m....0.0.jar21KB

jedis-2.5.2.jar0.3MB

第二步：配置tomcat。打开context.xml，在<Context>标签内添加如下代码，其中，host是redis的ip，port是端口。：

context.xml1.7KB

<Valve className="com.orangefunction.tomcat.redissessions.RedisSessionHandlerValve" />

 <Manager className="com.orangefunction.tomcat.redissessions.RedisSessionManager" host="localhost"  port="6379" database="0" maxInactiveInterval="60" />

第三步：接下来就是可以直接把项目放在webapp下面运行项目啦，你会发现，tomcat的session信息已经存到redis中。多个tomcat可以改变端口，然后用nginx做下负载均衡，可以随时切换tomcat，然后session已经共享了。

index.jsp0.6KB

• 试验大环境：（分别8080,8081端口）

https://pan.baidu.com/s/1IXyXGgkGkHqLNKmyewGF1A