nginx

1.动静分离
Nginx是一种轻量级，高性能，多进程的Web服务器，非常适合作为静态资源的服务器使用，而动态的访问操作可以使用稳定的Apache、Tomcat及IIS等来实现，
这里就以Nginx作为代理服务器的同时，也使用其作为静态资源的服务器。
静态资源通过绝对路径去访问，放在nginx服务器当中。
动态资源通过url拼接字符串的方式去访问例如tomcat服务器
2.负载均衡
举个例子来说就是在配置三台nginx服务器，当在客户端访问nginx是刷新页面会出现三个不同的页面。
（1）Nginx的upstream目前支持以下几种方式的分配
1、轮询（默认）
每个请求按时间顺序逐一分配到不同的后端服务器，如果后端服务器down掉，能自动剔除。
2、weight
指定轮询几率，weight和访问比率成正比，用于后端服务器性能不均的情况。
2、ip_hash
每个请求按访问ip的hash结果分配，这样每个访客固定访问一个后端服务器，可以解决session的问题。
3、fair（第三方）
按后端服务器的响应时间来分配请求，响应时间短的优先分配。
4、url_hash（第三方）
按访问url的hash结果来分配请求，使每个url定向到同一个后端服务器，后端服务器为缓存时比较有效。



（2）Session问题
当我们确定一系列负载的服务器后，那我们的WEB站点会分布到这些服务器上。这个时候如果采用Test2 每一次请求随机访问任何一台服务器上，
这样导致你访问A服务器后，下一次请求又突然转到B服务器上。这个时候与A服务器建立的Session，传到B站点服务器肯定是无法正常响应的。我们看一下常用的解决方案：

Session或凭据缓存到独立的服务器
Session或凭据保存数据库中
nginx ip_hash 保持同一IP的请求都是指定到固定的一台服务器

第一种缓存的方式比较理想，缓存的效率也比较高。但是每一台请求服务器都去访问Session会话服务器，那不是加载重了这台Session服务器的负担吗？

第二种保存到数据库中，除了要控制Session的有效期，同时加重了数据库的负担，所以最终的转变为SQL Server 负载均衡，涉及读，写，过期，同步。

第三种通过nginx ip_hash负载保持对同一服务器的会话，这种看起来最方便，最轻量。
（3）文件上传下载

如果实现了负载均衡，除了Session问题，我们还会碰到文件的上传下载问题。文件不可能上传不同的服务器上，这样会导致下载不到对应文件的问题。我们看一下下面的方案

独立文件服务器 
文件压缩数据库

两种方案都是常用的，我们来说一下文件压缩数据库，以前的方式都是将文件二进制压缩至关系型数据库，而现在NOSQL的流行，加上MongoDB处理文件又比较方便，
所以文件压库又多了一种选择。毕竟文件服务器的效率和管理以及安全都不及数据库。
3.反向代理
反向代理（Reverse Proxy）方式是指以代理服务器来接受Internet上的连接请求，然后将请求转发给内部网络上的服务器；并将从服务器上得到的结果返回给Internet上请求连接的客户端，
此时代理服务器对外就表现为一个服务器。
通常的代理服务器，只用于代理内部网络对Internet的连接请求，客户机必须指定代理服务器,并将本来要直接发送到Web服务器上的http请求发送到代理服务器中。
当一个代理服务器能够代理外部网络上的主机，访问内部网络时，这种代理服务的方式称为反向代理服务。
4.单点故障
某台节点服务器挂了，但是Nginx仍然会可能选中这个出故障的机器，然后就一直连接着是因为超时时间很长，具体多长不清楚，所以为了避免一直连接着，我们需要设置超时时间
用Keepalived搭建双Nginx server集群，防止单点故障
5.优化
（1）高层的配置（nginx.conf）

user www-data; 
pid /var/run/nginx.pid; 
worker_processes auto; 
worker_rlimit_nofile 100000;

user和pid应该按默认设置 - 我们不会更改这些内容，因为更改与否没有什么不同。
worker_processes 定义了nginx对外提供web服务时的worker进程数。最优值取决于许多因素，包括（但不限于）CPU核的数量、存储数据的硬盘数量及负载模式。
不能确定的时候，将其设置为可用的CPU内核数将是一个好的开始（设置为“auto”将尝试自动检测它）。
worker_rlimit_nofile 更改worker进程的最大打开文件数限制。如果没设置的话，这个值为操作系统的限制。设置后你的操作系统和Nginx可以处理比“ulimit -a”更多的文件，
所以把这个值设高，这样nginx就不会有“too many open files”问题了。
（2）Events模块
events模块中包含Nginx中所有处理连接的设置。

events { 
worker_connections 2048; 
multi_accept on; 
use epoll; 
}

worker_connections 设置可由一个worker进程同时打开的最大连接数。如果设置了上面提到的worker_rlimit_nofile，我们可以将这个值设得很高。
记住，最大客户数也由系统的可用socket连接数限制（~ 64K），所以设置不切实际的高没什么好处。
multi_accept 告诉nginx收到一个新连接通知后接受尽可能多的连接。
use 设置用于复用客户端线程的轮询方法。如果你使用Linux 2.6+，你应该使用epoll。如果你使用FreeBSD，你应该使用kqueue。
（值得注意的是如果你不知道Nginx该使用哪种轮询方法的话，它会选择一个最适合你操作系统的）
（3）HTTP 模块
HTTP模块控制着Nginx http处理的所有核心特性。因为这里只有很少的配置，所以我们只节选配置的一小部分。所有这些设置都应该在http模块中，甚至你不会特别的注意到这段设置。

http { 
server_tokens off; 
sendfile on; 
tcp_nopush on; 
tcp_nodelay on; 
... 
}

server_tokens 并不会让nginx执行的速度更快，但它可以关闭在错误页面中的nginx版本数字，这样对于安全性是有好处的。
sendfile 可以让sendfile()发挥作用。sendfile()可以在磁盘和TCP socket之间互相拷贝数据(或任意两个文件描述符)。Pre-sendfile是传送数据之前在用户空间申请数据缓冲区。
之后用read()将数据从文件拷贝到这个缓冲区，write()将缓冲区数据写入网络。sendfile()是立即将数据从磁盘读到OS缓存。
因为这种拷贝是在内核完成的，sendfile()要比组合read()和write()以及打开关闭丢弃缓冲更加有效(更多有关于sendfile)。
tcp_nopush 告诉nginx在一个数据包里发送所有头文件，而不一个接一个的发送。
tcp_nodelay 告诉nginx不要缓存数据，而是一段一段的发送--当需要及时发送数据时，就应该给应用设置这个属性，这样发送一小块数据信息时就不能立即得到返回值。

access_log off; 
error_log /var/log/nginx/error.log crit;

access_log 设置nginx是否将存储访问日志。关闭这个选项可以让读取磁盘IO操作更快(aka,YOLO)
（4）error_log 告诉nginx只能记录严重的错误：

keepalive_timeout 10; 
client_header_timeout 10; 
client_body_timeout 10; 
reset_timedout_connection on; 
send_timeout 10; 

nginx重要特性

• 静态资源高速高并发访问及缓存
• 反向代理加速，数据缓存
• 简单负载均衡，节点健康检查容错功能
• FastCGI服务的缓存加速
• 支持FastCGI，Uwsgi，SCGI，Memcached Servers的加速和缓存
• 支持SSL，TLS，SNI
• 具有模块化结构：过滤器包括gzip压缩，ranges支持，chunked响应，XSLT,SSL及图像缩放等功能。在SSI过滤器中，一个包含多个SSI的页面，如果经由FastCGI或反向代理处理，可被并行处理。

  WWW服务特性

• 支持基于名字，端口及ip的多虚拟主机站点
• 支持keep-alive 和 pipelined 连接
• 可进行简单，方便，灵活的配置和管理
• 支持修改nginx配置时平滑重启，不影响线上业务
• 可自定义访问日志格式，临时缓冲写日志操作，快速日志轮询及通过rsyslog处理日志
• 可利用信号控制nginx进程
• 支持3xx-5xx HTTP状态码重定向
• 支持rewrite模块，支持URI重写及正则表达式匹配
• 基于客户端ip地址和HTTP基本认证的访问控制
• 支持PUT,DELETE,MKCOL,COPY,MOVE等特殊的HTTP请求方法
• 支持FLV流和MP4流产品应用
• 支持HTTP响应速率限制
• 支持同一IP地址并发连接或请求数限制
• 支持邮件代理服务

  重点

• 高并发：可支持几万并发（特别是静态）
• 资源消耗小：3万并发开启十个nginx线程消耗不到200MB
• 反向代理：相当于专业的Haproxy
• Squid缓存功能
• 网络IO的epoll模型

企业中应用

• WEB服务软件
• 反向代理负载均衡（upstream）
• 前端数据缓存 （proxy-cache模块）

• Apache Nginx lighttpd 性能比较

• Lighttpd是一个具有非常低的内存开销，cpu占用率低，效能好，以及丰富的模块等特点。lighttpd是众多OpenSource轻量级的web server中较为优秀的一个。支持FastCGI, CGI, Auth, 输出压缩(output compress), URL重写, Alias等重要功能。

  Lighttpd使用fastcgi方式运行php,它会使用很少的PHP进程响应很大的并发量。

  Fastcgi的优点在于：

  ·         从稳定性上看, fastcgi是以独立的进程池运行来cgi,单独一个进程死掉,系统可以很轻易的丢弃,然后重新分配新的进程来运行逻辑.

  ·         从安全性上看, fastcgi和宿主的server完全独立, fastcgi怎么down也不会把server搞垮,

  ·         从性能上看, fastcgi把动态逻辑的处理从server中分离出来, 大负荷的IO处理还是留给宿主server, 这样宿主server可以一心一意作IO,对于一个普通的动态网页来说, 逻辑处理可能只有一小部分, 大量的图片等静态IO处理完全不需要逻辑程序的参与(注1)

  ·         从扩展性上讲, fastcgi是一个中立的技术标准, 完全可以支持任何语言写的处理程序(php,java,python...)

  2.apache

  apache是世界排名第一的web服务器, 根据netcraft(www.netsraft.co.uk)所作的调查,世界上百分之五十以上的web服务器在使用apache.

  1995年4月, 最早的apache(0.6.2版)由apache group公布发行. apache group 是一个完全通过internet进行运作的非盈利机构, 由它来决定apache web服务器的标准发行版中应该包含哪些内容. 准许任何人修改隐错, 提供新的特征和将它移植到新的平台上, 以及其它的工作. 当新的代码被提交给apache group时, 该团体审核它的具体内容, 进行测试, 如果认为满意, 该代码就会被集成到apache的主要发行版中.

  apache 的特性:

  1) 几乎可以运行在所有的计算机平台上.

  2) 支持最新的http/1.1协议

  3) 简单而且强有力的基于文件的配置(httpd.conf).

  4) 支持通用网关接口(cgi)

  5) 支持虚拟主机.

  6) 支持http认证.

  7) 集成perl.

  8) 集成的代理服务器

  9) 可以通过web浏览器监视服务器的状态, 可以自定义日志.

  10) 支持服务器端包含命令(ssi).

  11) 支持安全socket层(ssl).

  12) 具有用户会话过程的跟踪能力.

  13) 支持fastcgi

  14) 支持java servlets

  3.nginx

  Nginx是俄罗斯人编写的十分轻量级的HTTP服务器,Nginx，它的发音为“engine X”， 是一个高性能的HTTP和反向代理服务器，同时也是一个IMAP/POP3/SMTP 代理服务器．Nginx是由俄罗斯人 Igor Sysoev为俄罗斯访问量第二的 Rambler.ru站点开发.

  Nginx以事件驱动的方式编写，所以有非常好的性能，同时也是一个非常高效的反向代理、负载平衡。其拥有匹配 Lighttpd的性能，同时还没有Lighttpd的内存泄漏问题，而且Lighttpd的mod_proxy也有一些问题并且很久没有更新。但是Nginx并不支持cgi方式运行，原因是可以减少因此带来的一些程序上的漏洞。所以必须使用FastCGI方式来执行PHP程序。

  nginx做为HTTP服务器，有以下几项基本特性：

  处理静态文件，索引文件以及自动索引；打开文件描述符缓冲．

  无缓存的反向代理加速，简单的负载均衡和容错．

  FastCGI，简单的负载均衡和容错．

  模块化的结构。包括gzipping, byte ranges, chunked responses,以及 SSI-filter等filter。如果由FastCGI或其它代理服务器处理单页中存在的多个SSI，则这项处理可以并行运行，而不需要相互等待。

  Nginx专为性能优化而开发，性能是其最重要的考量,实现上非常注重效率。它支持内核Poll模型，能经受高负载的考验,有报告表明能支持高达 50,000个并发连接数。

  Nginx具有很高的稳定性。其它HTTP服务器，当遇到访问的峰值，或者有人恶意发起慢速连接时，也很可能会导致服务器物理内存耗尽频繁交换，失去响应，只能重启服务器。例如当前apache一旦上到200个以上进程，web响应速度就明显非常缓慢了。而Nginx采取了分阶段资源分配技术，使得它的CPU与内存占用率非常低。nginx官方表示保持10,000个没有活动的连接，它只占2.5M内存，所以类似DOS这样的攻击对nginx来说基本上是毫无用处的。就稳定性而言,nginx比lighthttpd更胜一筹。

  Nginx支持热部署。它的启动特别容易, 并且几乎可以做到7*24不间断运行，即使运行数个月也不需要重新启动。你还能够在不间断服务的情况下，对软件版本进行进行升级。

  二.3种WEB服务器的比较：

  server	Apache	Nginx	Lighttpd
  Proxy代理	非常好	非常好	一般
  Rewriter	好	非常好	一般
  Fcgi	不好	好	非常好
  热部署	不支持	支持	不支持
  系统压力比较	很大	很小	比较小
  稳定性	好	非常好	不好
  安全性	好	一般	一般
  技术支持	非常好	很少	一般
  静态文件处理	一般	非常好	好
  Vhosts虚拟主机	支持	不支持	支持
  反向代理	一般	非常好	一般
  Session sticky	支持	不支持	不支持

  注：在相对比较大的网站，节约下来的服务器成本无疑是客观的。而有些小型网站往往服务器不多，如果采用 Apache 这类传统 Web 服务器，似乎也还能撑过去。但有其很明显的弊端： Apache 在处理流量爆发的时候(比如爬虫或者是 Digg 效应) 很容易过载，这样的情况下采用 Nginx 最为合适。

  建议方案：

  Apache 后台服务器（主要处理php及一些功能请求 如：中文url）

  Nginx  前端服务器（利用它占用系统资源少得优势来处理静态页面大量请求）

  Lighttpd 图片服务器

  总体来说，随着nginx功能得完善将使他成为今后web server得主流。

  三.性能测试：

  将分别测试3种软件在对动态页面和静态页面请求及并发时的响应时间

  l        静态页面 搜狐首页

  LIGHTTPD

  n/-c(ab参数)	cpu%	Mem	RequestsperSecond	Time taken for tests
  100000/100	64	60	462.75	21.6
  100000/200	67	60	312.07	32.4
  100000/500	83	60	137.24	72.8
  100000/1000 出现错误丢包	94	60	126.6	78.9

  NGINX

  n/-c(ab参数)	cpu%	Mem	RequestsperSecond	Time taken for tests
  100000/100	34.6	140	943.66	10.597
  100000/200	35.6	110	924.32	10.818
  100000/500	34.3	110	912.68	10.956
  100000/1000	37	160	832.59	12.106

  APACHE

  n/-c(ab参数)	cpu%	Mem	RequestsperSecond	Time taken for tests
  100000/100	40.6	170	690.72	14.47
  100000/200	41.1	180	685.39	14.59
  100000/500	42.3	190	633.64	15.78
  100000/1000	43.1	200	547.53	18.26

  l        动态页面 内部社区首页

  LIGHTTPD

  n/-c(ab参数)	cpu%	Mem	RequestsperSecond	Time taken for tests
  1000/100	50	200	33.54	29.816
  1000/200	52	210	30.43	32.858
  1000/500	54	230	25.79	38.76
  1000/1000	62	250	24.83	40.28

  NGINX

  n/-c(ab参数)	cpu%	Mem	RequestsperSecond	Time taken for tests
  1000/100	53.8	250	83.12	12.305
  1000/200	55.8	250	74.05	13.504
  1000/500	56	260	58.99	16.951
  1000/1000	58	260	43.41	23.347

  APACHE

  n/-c(ab参数)	cpu%	Mem	RequestsperSecond	Time taken for tests
  100000/100	60	200	27.37	36.541
  100000/200	61	220	23.82	41.981
  100000/500	73	150	20.59	48.562
  100000/1000	53	200	27.18	36.796

  l        PHPINFO函数页

  LIGHTTPD

  n/-c(ab参数)	cpu%	Mem	RequestsperSecond	Time taken for tests
  100000/100	45	20	168.06	59.504
  100000/200	47	22	140.64	71.103
  100000/500	49	24	52.80	189.386
  100000/1000	在请求到4840时测试测试程序死掉

  NGINX

  n/-c(ab参数)	cpu%	Mem	RequestsperSecond	Time taken for tests
  100000/100	70	120	143.46	69.706
  100000/200	72	130	140.57	71.140
  100000/500	73	150	135.87	73.601
  100000/1000	77	160	132.18	75.657

  APACHE 出现丢包

  n/-c(ab参数)	cpu%	Mem	RequestsperSecond	Time taken for tests
  100000/100	70	180	245.73	40.694
  100000/200	72	190	245.79	40.684
  100000/500	75	200	241.29	41.443
  100000/1000	77	220	236.74	42.239

  四．各大网站WEB服务器资源列表

  网站名   操作系统   web服务器

  1.门户网站类：

  搜狐     LINUX           apache 1.3.37

  新浪     LINUX           apache 2.0.54

  迅雷     LINUX           nginx 0.6.31

  163      LINUX           apache 2.2.6

  2.搜索类

  百度      unknown        BWS 1.0

  Google   linux           gws

  Sougou   FreeBSD         apache 2.2.4

  Hao123   linux          apache 2.2.4

  4. 电子邮箱类

  126        linux         apache

  Hotmail    win2003      microsoft-IIS 6.0

  新浪邮箱    F5 Big-IP    apache 2.2.8

  263        linux         apache 2.2.6

  5. 博客类

  新浪博客    linux          nginx 0.5.35

  搜狐博客    linux          nginx

  迅雷博客    linux          nginx 0.6.32

  天涯博客    F5 Big-IP      Microsoft-IIS/5.0

  6．视频类

  优酷         linux          apache

  土豆         linux          apache

  Ku6         linux           apache

  六间房       linux          nginx 0.6.14