使用nginx代理weblogic负载方案

之前一直用apache来做weblogic的前端，由于nginx对静态内容的出色性能，不得不转投nginx。这里就不
再写weblogic的安装了。

安装nginx
nginx需要pcre做支持，一般系统都自带，当然可以自己下载高版本的源码包安装，建议大家使用高版本的pcre，
这样使用正则的时候会有更好的支持。
首先去http://wiki.nginx.org//NginxChs下载nginx，我用了0.7

# tar zxvf nginx-0.7.59.tar.gz
# cd nginx-0.7.59
# ./configure –with-http_stub_status_module –prefix=/opt/nginx
# make
# make install

–with-http_stub_status_module 增加nginx的监控模块，用来监控 Nginx 的当前状态。

下面来配置nginx
配置文件，在/opt/nginx/conf下的nginx.conf，为了省事，直接复制我的配置文件过来：
#user nobody;
worker_processes 10;

#error_log  logs/error.log;
#error_log  logs/error.log  notice;
#error_log  logs/error.log  info;

#pid logs/nginx.pid;

events {
use epoll; //nginx处理连接的方法，epoll – 高效的方法，使用于Linux内核2.6版本及以后的系统。
worker_connections 51200;
}

http {
include mime.types;
default_type application/octet-stream;

    #log_format  main  ‘$remote_addr – $remote_user [$time_local] $request ‘
    #                  ‘”$status” $body_bytes_sent “$http_referer” ‘
    #                  ‘”$http_user_agent” “$http_x_forwarded_for”‘;

#access_log logs/access.log main;

sendfile on;
#tcp_nopush on;

#keepalive_timeout 0;
keepalive_timeout 75;

#gzip on;

upstream 99ding {
         server 124.42.*.***:7002 weight=10;
         server 124.42.*.***:7001 weight=10;
    }        //因为我的weblogic没有做集群，所以只能用nginx自带的负载均衡，不过推荐使用weblogic的集群

    server {
        listen       80;
        server_name  www.test.com;

#charset koi8-r;

#access_log logs/host.access.log main;

         location ~ ^/status/ {
            stub_status on;
            access_log off;
         }       //监控nginx的状态：http://www.test.com/status/

        location / {
            root   /opt/html/app;
            index  index.html index.htm;
            expires 30d;    //expires是设定cookie的存活时间，我用了30天
        }

         location ~ ^/(WEB-INF)/ {
            deny all;
         }

         location ~ .(htm|html|gif|jpg|jpeg|png|bmp|ico|rar|css|js|zip|txt|flv|swf|mid|doc|ppt|xls|pdf|txt|mp3|wma)$ {
             root /opt/html/app;
            expires 24h;
        }

        location ~ (.jsp)|(.do) {
            proxy_pass  http://test;
            proxy_set_header    X-Real-IP  $remote_addr;

            proxy_set_header    Host       $host;
            proxy_set_header   X-Forwarded-For  $proxy_add_x_forwarded_for;
            proxy_buffer_size 4k;
            proxy_buffers 4 32k;
            proxy_busy_buffers_size 64k;
            proxy_temp_file_write_size 64k;
            proxy_max_temp_file_size 512m;
        }       //最关键的地方，将jsp和do文件转给weblogic处理，这里使用的是上面创建的test（负载均衡的名字），如果不用

负载均衡，可以把test用 “ip:端口号”来代替，例如http://10.0.0.1:7001

#error_page 404 /404.html;

        # redirect server error pages to the static page /50x.html
        #
        error_page   500 502 503 504  /50x.html;
        location = /50x.html {
            root   html;
        }

}

接下来启动服务即可，首先检查配置文件是否有错误：
/opt/nginx/sbin/nginx -t -c /opt/nginx/conf/nginx.conf
启动服务：
/opt/nginx/sbin/nginx -c /opt/nginx/conf/nginx.conf

nginx用做weblogic前端七层负载

准备安装包(nginx和upstream_hash)

								https://github.com/evanmiller/nginx_upstream_hash
							
								http://nginx.org/download/

编译安装

								tar -zxvf nginx-0.7.65.tar.gz
							
								unzip cep21-nginx_upstream_hash-99ace64.zip
							
								patch -p0 < ../cep21-nginx_upstream_hash-99ace64/nginx.patch
							
								patching file src/http/ngx_http_upstream.h
							
								./configure –add-module=../cep21-nginx_upstream_hash-99ace64 –prefix=/ngboss/webproxy1
							
								make && make install

配置nginx

								#user  webproxy1 webproxy1;
							
								worker_processes  1;
							
								#error_log  logs/error.log;
							
								#error_log  logs/error.log  notice;
							
								error_log  logs/error.log  info;
							
								pid        logs/nginx.pid;
							
								events {
							
								    use         epoll;
							
								    worker_connections  51200;
							
								}
							
								http {
							
								    include       mime.types;
							
								    default_type  application/octet-stream;
							
								    log_format main ‘$remote_addr – $remote_user [$time_local] “$request” ‘
							
								                    ‘$status $body_bytes_sent “$http_referer” ‘
							
								                    ‘”$http_user_agent” “$http_x_forwarded_for”‘;
							
								    access_log  logs/access.log  main;
							
								    sendfile        on;
							
								    #tcp_nopush     on;
							
								    keepalive_timeout  15;
							
								    #gzip  on;
							
								    userid          on;
							
								    userid_name     QHAINGBOSSID;
							
								    userid_domain   192.168.102.249;
							
								    userid_path     /;
							
								    userid_expires  2d;
							
								    upstream ngboss_cluster {
							
								        hash   $cookie_QHAINGBOSSID;
							
								        server 192.168.102.249:8081;
							
								    }
							
								    upstream saleserv_cluster {
							
								        hash $cookie_QHAINGBOSSID;
							
								        server 192.168.102.249:8083;
							
								    }
							
								    server {
							
								        listen       9090;
							
								        server_name  localhost;
							
								        proxy_redirect off;
							
								        location /saleserv {
							
								            if ($request_uri ~* “.*.(js|css|gif|jpg|jpeg|png|bmp|swf)$”) {
							
								                expires max;
							
								            }
							
								            proxy_pass http://saleserv_cluster;
							
								        }      
							
								        location / {
							
								            if ($request_uri ~* “.*.(js|css|gif|jpg|jpeg|png|bmp|swf)$”) {
							
								                expires max;
							
								            }
							
								            proxy_pass http://ngboss_cluster;
							
								        }
							
								    }
							
								}

起停控制

								# 启服务
							
								sbin/nginx
							
								# 停服务
							
								sbin/nginx -s stop
							
								# 平滑重启
							
								kill -HUP `cat logs/nginx.pid `

==============================================

1.Nginx代理与负载均衡配置与优化

Nginx从0.7.48版本开始，支持了类似Squid的缓存功能。Nginx的Web缓存服务主要由proxy_cache相关指令集和fastcgi_cache相关指令集构成，前者用于反向代理时，对后端内容源服务器进行缓存，后者主要用于对FastCGI的动态程序进行缓存。两者的功能基本上一样。

Nginx 0.8.32版本，proxy_cache和fastcgi_cache已经比较完善，加上第三方的ngx_cache_purge模块（用于清除指定URL的缓存），已经可以完全取代Squid。

在功能上，Nginx已经具备Squid所拥有的Web缓存加速功能、清除指定URL缓存的功能。而在性能上，Nginx对多核CPU的利用，胜过Squid不少。另外，在反向代理、负载均衡、健康检查、后端服务器故障转移、Rewrite重写、易用性上，Nginx也比Squid强大得多。这使得一台Nginx可以同时作为“负载均衡服务器”与“Web缓存服务器”来使用。

下面的文档说明了nginx如何做代理服务器，将请求转发到其他服务器，本身不做缓存。使用版本为nginx-0.8.15，配置如下：

http

{

……..

client_max_body_size 300m ; // 允许客户端请求的最大单个文件字节数

client_body_buffer_size 128k;

// 缓冲区代理缓冲用户端请求的最大字节数，可以理解为先保存到本地再传给用户

proxy_connect_timeout 600;

// 跟后端服务器连接的超时时间_发起握手等候响应超时时间

proxy_read_timeout 600;

// 连接成功后_等候后端服务器响应时间_其实已经进入后端排队之中等候处理

proxy_send_timeout 600;

proxy_buffer_size 16k; // 会保存用户的头信息，供nginx进行规则处理

proxy_buffers 4 32k; // 告诉nginx保存单个用的几个buffer最大用多大空间

proxy_busy_buffers_size 64k;

proxy_max_temp_file_size 64k;

// proxy缓存临时文件的大小

upstream clubsrv {

server 192.168.0.110:80 weight=5;

server 192.168.0.121:80 weight=5;

}

upstream mysrv {

server 192.168.0.32:80 weight=2;

server 127.0.0.1:8000 weight=8;

}

server {

listen 80;

server_name club.xywy.com;

charset gbk;

root /www;

access_log logs/aaa.log combined;

//下面是第一个域名，使用clubsrv的代理

location / {

proxy_next_upstream http_502 http_504 error timeout invalid_header;

// 如果后端服务器返回502、504或执行超时等错误，自动将请求转发到upstream另一台服务器

proxy_pass http://clubsrv;

// 与上面upstream自己命名的名字填写一致

proxy_redirect off;

proxy_set_header Host club.xywy.com;

proxy_set_header X-Real-IP $remote_addr;

proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;

// nginx在前端做代理，后端的日志会显示127.0.0.1，上面配置可以显示用户真实IP（还需装第三方软件，见下面的详细说明）

index index.htm index.html index.php;

}

//下面是第二个域名，使用mysrv的代理，访问www.sum.com/message目录下的

server {

listen 80;

server_name www.sum.com;

location /message {

proxy_pass http://mysrv;

proxy_set_header Host $host;

// 访问这个域名的，只有mysrv 本机可以访问

}

//访问除了/message之外的www.sum.com/ 地址，

location / {

proxy_pass http://mysrv;

proxy_set_header Host $host;

proxy_set_header X-Real-IP $remote_addr;

下面的配置，与上面错误返回的效果相同，这里可以不写。

error_page 500 502 503 504 /50x.html;

location = /50x.html

{

root html;

}

2、Nginx负载均衡指令

Nginx属于软件的七层负载均衡（lvs是软件的四层负载均衡的代表），七层负载均衡软件还有L7SW（Layer7 switching）、HAProxy等。支持负载均衡的模块是Http Upstream。下面介绍此模块及他下面的几个指令

HTTP Upstream模块

（1）ip_hash指令

当对后端的多台动态应用服务器做负载均衡时，ip_hash指令将某个客户端IP的请求通过哈希算法定位到同一台后端服务器上。这样，当来自某ip用户在Sever A上登录后，再访问该站点的其他URL时，能保证访问仍在Server A上。如果不加ip_hash，加入用户在Server A上登录，再访问该站点其他URL，就有可能跳转到后端的Sever B、C…..，而session记录在A上，B、C上没有，就会提示用户未登录。

注意：但这种访问不能保证后端服务器的负载均衡，可能后端有些server接受到的请求多，有些server接受的少，设置的权重值不起作用。

建议如果后端的动态应用程序服务器能做到session共享，而不用nginx上配置ip_hash的方式。

upstream mysrv {

ip_hash;

server 192.168.0.110:80 weight=2;

server 127.0.0.1:8000 down;

server 192.168.0.212:80 weight=8;

}

（2）server指令

该指令用语指定后端服务器的名称和参数。服务器的名称可以是一个域名，一个ip，端口号或UNIX Socket。

参数介绍：

weight=number ：设置服务器权重，权重值越高，被分配到客户端请求数越多。默认为1；

max_fails=numbser ：在fail_timeout指定的时间内对后端服务器请求失败的次数，如果检测到后端服务器无法连接及发生错误（404除外），则标记为失败。如果没有设置，默认为1。设置为0则关闭这项检查。

fail_timeout=time ：在经历参数max_fails设置的失败次数后，暂停的时间。

down ：表示服务器为永久离线状态。

Backup ：仅仅在非backup服务器全部down或繁忙的时候才启用。

配置如下：

upstream mysrv {

ip_hash;

server www.xywy.com weight=2;

server 127.0.0.1:8000 down;

server 192.168.0.212:80 max_fails=3 fail_timeout=30s;

server unix:/tmp/bakend3;

}

=================================================

打算使用nginx做负载均衡，把请求代理转到一个apache上，apache后面是WebLogic上的应用。apache上有别的插件，必须要过apache。
    down到nginx-0.6.35，安装后，配置很简单。配置后问题如下：走nginx直接到WebLogic上的应用没有问题；但是nginx到apache再到WebLogic上的应用就有问题。
    日志中是302(nginx中”HTTP/1.1 302 2783″，apache上是”HTTP/1.0 302 2771″)。对比后，开始以为是HTTP/1.1和HTTP/1.0的问题。后来想到 Nginx 和浏览器使用 HTTP/1.1 进行对话，而在后台服务中使用 HTTP/1.0，是对的，然后注意到 2个web服务上得到的返回给客户端的不包括响应头的字节数是不一样长的，这个缺的 12 字节缺在哪里还需要追究一下。
    同时想起来访问测试的时候访问 /web 和访问 /web/ 是不一样的，apache上是可以处理掉的，注意到apache处理类似的资源请求时日志中会先打 302，然后后面自动加 / ，之后日志中就200了。nginx没有处理，不知道是没有设置的缘故还是他本身就不能处理类似的问题。不过后者几率应该不大，还得研究一下nginx配置和apache的相关处理机制。
    再有想到用重写机制来加上对”/”的处理，但是考虑到nginx代理到apache上也会报302，估计这样也解决不了问题，还得研究一下proxy的配置。
    OK，看看以上3条路那条是正解。