|
Nginx的负载均衡是基于反向代理实现的,因此,本文先讨论什么是反向代理,再在这个的基础上讨论负载均衡以及负载均衡时应该注意哪些策略。 反向代理:如下图所示, 8 G# A2 G& ~( B7 W
↓-----Nginx将结果返回给浏览器---丨 对Tomcat来说,只知道服务对象是Nginx服务器 浏览器 -发起对该域的访问请求-> Nginx --------------Nginx将请求来转发给Tomcat服务器----> Tomcat... 丨-对Tomcat来说,只对nginx负责,将结果返回给Nginx服务器---↑ 1 S1 n8 N' f* A5 P; Q( B
从图中,我们可以知道,对于浏览器来说,他会发一个http://www.a.com/uri请求到Nginx服务器,对于他来说,他认为数据就是从http://www.a.com/uri域中返回的,事实上,当http://www.a.com/uri到达Nginx服务器后,Nginx服务器会将其转发给http://www.b.com/uri,从http://www.b.com/uri域中取得数据并将其返回给浏览器,这个步骤浏览器是不知道的,也就是说,浏览器并不知道http://www.b.com/uri该域的存在,同理,http://www.b.com/uri所在的域(图中的Tomcat)也并不知道浏览器的存在,他也只对Nginx负责。Nginx的这么一个过程便称为反向代理。$ j. k( z/ @" v! V# o: r0 w
9 `) p: ^* C4 M那么,Nginx服务器是如何实现这一步的呢,事实上也很简单,只需要在location中做一下简单的配置即可,命令大概如下图所示:(配置完命令记得reload重新加载才能生效)+ ?1 ^7 w8 t2 I' ]& G
# L8 P0 D5 c5 D
( p/ c& ?: n0 n. a, g f. `6 k- worker_processes 1;1 K {/ }" N6 ]; H9 y+ {
- events{
复制代码 2 v) V+ t" V: b( _5 f* B5 `( j, W
5 j; a6 A2 t7 x' N! f
重点在于location处,这样的配置代表的是,所有来自浏览器的请求,在Nginx收到之后,都会代理到http://192.168.1.62:8080所在的地方
) @$ z9 b' e; p/ K
! j. F( r, `) T6 X* N8 N; M l比如,我浏览器上发起http://192.168.1.61/a/index.html;Nginx收到之后,将会发出http:// 192.168.1.62:8080/a/index.html这么一个请求到所连接的服务器上,如上图的Tomcat。% w, C }; p6 Z* T
2 Z2 y/ R! M; a+ {, N6 x6 G9 h- C7 D6 L0 ~# [; z( ~2 W# @0 j/ n
接下来我们做这样一个假设,假如后端连接着几台。几十台服务器呢,这个时候Nginx也是做同样的代理吗,答案是肯定的。图示如下:那么,在这么多台服务器上,Nginx的转发又是基于怎样的策略呢?这个时候就涉及在负载均衡了,说白了就是,应该怎样的分发,才能做到资源的最大限度的利用?
* ^; V* [3 C' I2 W7 S1 ]7 m( R5 x
( l" [1 Z! ]6 z' ^2 K/ ?& ?7 w0 a8 }7 B( [9 O
, E7 G9 O+ _$ i1 }) x/ {. B
8 g# ], U. v( V( w
负载均衡策略( 我们这里假设三台服务器的IP地址分别为 http:// 192.168.1.62:8080 http:// 192.168.1.63:8080 http:// 192.168.1.64:8080 ) 1. 平均轮询配置如下图:
6 V) j6 R+ ^- `! \
5 x0 C; R# f8 g- q7 D2 Z
. E2 X, U4 b9 u5 g" ]% j' Y% g这里我们把后台所有的服务器放入upstream中,并在代理中进行引用。, @% P2 F: C' t
2. 加权轮询,使用weight参数设置,配置如下! O3 Y* E: n- A# X% m
) N. o/ G0 k) Q0 E" a3. ip_hash策略
' K4 h3 g3 v, ^* y(根据用户的IP地址进行hash运算,只要是同个用户发的请求,就会被永远地转发在某台服务器上,比如张三发的请求第一次时是由Tomcat1返回的,李四的是有Tomcat2返回的,那么,以后张三的所有请求,都有由Tomcat1返回,这就是ip_hash策略),配置如下:
, i: E" p% {2 R( f 其他地方保持不变,在upstreaem中如下设置:
5 q4 W$ A- a. p6 l, T
6 }% v" x+ t5 ?/ l7 A: }& h* Y2 [6 g- D; y j! r0 g
# E8 N8 g- q+ k* [9 L8 ?( Q B$ X y" f* _8 O& U
4. fair策略/ U0 M+ x* u. E. W& P# R; [! e
(动态weight策略,我们的加权轮询是显式指定weight的,而fair策略是根据服务器的响应能力进行动态指定的,而意义上讲,我觉得是更为智能化的解决方法,不过这里要记住一点,fair策略是一个第三方策略)
" |, e3 p! |5 T8 x+ e7 @9 O5. url_hash策略4 M! F) o3 U. f7 x1 v1 K
n$ v: w# W' q) A! L& a0 A( s
(类似于ip,只不过绑定的值是url,这个也是第三方策略) c" T/ K1 G. v( P( Z" d. L
fair策略与url_hash策略的配置与ip_hash策略的类似,直接把upstream tomcats 中的ip_hash替换为fair和url_hash即可,不过这里需要注意的是fair和url_hash都是第三方扩展,因此需要先安装第三方扩展模块,直接百度搜索nginx-upstream-fair-master.zip与upstream-url-hash -master.zip;解压安装使用make&&make install重新编译源文件即可
: i' L8 Q7 a2 {: a5 d
$ ]$ S* v' z$ r( ^ `4 h0 W* v$ t8 n. x6 s9 E
: A1 d4 A o# w' lurl_hash策略的用处?5 S9 w: W! P% M) ?9 H
7 R+ j! d! F) I9 S+ V
url_hash策略比较适合于大型电子商务网站,对于不同的商品便是不同的url,我们可以据此进行负载均衡。
4 Z7 B# v0 Y5 W9 n, s$ A8 y# H3 l$ h- I, B- U
原理就是不同的商品形成不同的静态页面,然后服务器根据不同商品的火爆程度,按照命中率高的放在缓存里,加快访问速度,也就是说实现了一个基于缓存的服务器,相当于把有限的缓存最优化起来;
/ o/ A- S" {( m# w9 Y' |+ S' ]% P" E3 m+ B9 H- k
9 U# M: L' w* p$ a w3 U6 P2 i* u H. f( e I' ]5 M' i+ S
其他的配置
+ |! i' D. A6 G9 ^备份与停机状态:/ R" Z+ I; M4 d, w) P& n. c
server 192.168.1.64 backup;//备份,不参与转发,只有当所有服务器都挂掉时才参与转发;$ w8 d! x* `7 K* u6 }
# U; I% g& p$ m7 t: a% n4 ]7 Zserver 192.168.1.65 down;//临时停机维护,不参与任何转发,是关闭状态,
" ~, |# X( n6 ?: A8 R9 m' v9 Y( D# x
down存在的意义在于,有时我们需要对服务器做临时停机更新维护,假如我们直接关闭服务器的话,那么对于Nginx来说,他还是会把请求发到该服务器上的,因为他并不知道服务器已关,而设置down后,Nginx则不会再发到该服务器上了,避免造成无用的请求浪费。1 {: O g+ Y5 G, j( c" ?
1 e2 z* ]! m" o4 k. n5 @; e% b, B( U( w
1 K# q9 A0 k" i7 ]) x( f. \" L
max_fails: 达到指定次数后认为服务器挂掉
0 y. W4 k: ]5 ~/ y# P A! A3 v
$ r: n* o3 x+ c' K0 j fail_timeout:挂掉多久后再次测试是否已经挂掉
1 {( k" @7 J1 K$ M; z( z$ F; g
" C( O" D3 ~! C- U5 P1 ~配置命令% ?9 S0 }7 w! w
& o1 ?( v) |' W+ k/ qserver 192.168.1.66 max_fails=2 fail_timeout=60s;" F s# m/ A) Z$ @
1 N5 c3 K/ E! K3 X, U
后记
# A8 S: j2 [$ \8 D7 _我们知道,服务器是会存储用户的session的,那么,如果按照上文所说的,比如fair策略,每次Nginx会根据后端服务器群的能力把请求分发出去,那假如第一次时分在了A,那么我把数据存储到了A服务器上,第二次时,刚好被分配到了B服务器上,那么问题来了,我的session不就不见了?(这就是我们在访问部分网站时有时我们的登录状态会不见)当然了,你可能 会说,ip_hash策略不就可以避免这一点吗?没错,这确实是一个解决方法,那除了ip_hash呢?其他策略下又当如何呢?下篇博客将会讲到负载均衡下如何对session进行处理。4 x* z/ ^: a p" U+ B% V! g: T) I
( f8 E9 Q) ?$ V3 ^- C3 w7 L
m- i9 q% } m6 U! r2 v
1 k! V; C" s9 O4 h I! O) ^% C' _2 m8 ~
; [+ J) R7 S- e/ t+ i4 l |