|
Nginx的负载均衡是基于反向代理实现的,因此,本文先讨论什么是反向代理,再在这个的基础上讨论负载均衡以及负载均衡时应该注意哪些策略。 反向代理:如下图所示,
6 F3 r2 w- T1 s
↓-----Nginx将结果返回给浏览器---丨 对Tomcat来说,只知道服务对象是Nginx服务器 浏览器 -发起对该域的访问请求-> Nginx --------------Nginx将请求来转发给Tomcat服务器----> Tomcat... 丨-对Tomcat来说,只对nginx负责,将结果返回给Nginx服务器---↑
4 H$ y5 y# Y3 J( q( g从图中,我们可以知道,对于浏览器来说,他会发一个http://www.a.com/uri请求到Nginx服务器,对于他来说,他认为数据就是从http://www.a.com/uri域中返回的,事实上,当http://www.a.com/uri到达Nginx服务器后,Nginx服务器会将其转发给http://www.b.com/uri,从http://www.b.com/uri域中取得数据并将其返回给浏览器,这个步骤浏览器是不知道的,也就是说,浏览器并不知道http://www.b.com/uri该域的存在,同理,http://www.b.com/uri所在的域(图中的Tomcat)也并不知道浏览器的存在,他也只对Nginx负责。Nginx的这么一个过程便称为反向代理。
" q; Y+ N, x# f4 X% c2 W5 `" s$ W# L% K; e: ]7 }
那么,Nginx服务器是如何实现这一步的呢,事实上也很简单,只需要在location中做一下简单的配置即可,命令大概如下图所示:(配置完命令记得reload重新加载才能生效)+ L: J" F- w( B$ k" s" x
7 _$ g9 u* J$ r; @ M( X5 @. J5 Y; E. S7 l& Q' {
- worker_processes 1;% p& t% K) f5 z- I6 G3 H
- events{
复制代码
* H- y1 K9 g6 i W. Y
; h9 ~2 r, a8 @重点在于location处,这样的配置代表的是,所有来自浏览器的请求,在Nginx收到之后,都会代理到http://192.168.1.62:8080所在的地方
7 L8 P z" j/ E9 h9 T- T" J" o6 k3 s0 |& |; a+ H4 \
比如,我浏览器上发起http://192.168.1.61/a/index.html;Nginx收到之后,将会发出http:// 192.168.1.62:8080/a/index.html这么一个请求到所连接的服务器上,如上图的Tomcat。
' h$ g1 B# g% X& T( C* m8 ~7 ^$ |) n
/ i, m ], |( }6 L' h
接下来我们做这样一个假设,假如后端连接着几台。几十台服务器呢,这个时候Nginx也是做同样的代理吗,答案是肯定的。图示如下:那么,在这么多台服务器上,Nginx的转发又是基于怎样的策略呢?这个时候就涉及在负载均衡了,说白了就是,应该怎样的分发,才能做到资源的最大限度的利用?
4 p7 J# H" A: u+ P# b: w+ k4 A/ z; M
& o* V. X, B0 D' v* n% G
, t! B3 K7 E0 r9 O) e
3 q; N$ `. W" h. J! f0 m负载均衡策略( 我们这里假设三台服务器的IP地址分别为 http:// 192.168.1.62:8080 http:// 192.168.1.63:8080 http:// 192.168.1.64:8080 ) 1. 平均轮询配置如下图:
$ l1 X. c+ y$ G3 o$ i
2 l/ r5 R$ F" e y
( ]' ~ x0 K* |" C( {
这里我们把后台所有的服务器放入upstream中,并在代理中进行引用。
& x: O+ A; ]: S2 d( T* U0 |" G 2. 加权轮询,使用weight参数设置,配置如下' \. `9 }- n+ p
; H, f% g0 ~, I" U
3. ip_hash策略
- O# b. n! o5 E1 P& m0 X(根据用户的IP地址进行hash运算,只要是同个用户发的请求,就会被永远地转发在某台服务器上,比如张三发的请求第一次时是由Tomcat1返回的,李四的是有Tomcat2返回的,那么,以后张三的所有请求,都有由Tomcat1返回,这就是ip_hash策略),配置如下:
! U& A) E \! Y5 z 其他地方保持不变,在upstreaem中如下设置:( f! o3 y _# @. {
6 J7 m! f/ f# D- ^
5 j9 N% g6 k' H
. Y# ]" @% J2 t# b# a
; D: ~8 k$ S, j+ y2 Q6 o: c4. fair策略0 w6 b6 [1 J: ~
(动态weight策略,我们的加权轮询是显式指定weight的,而fair策略是根据服务器的响应能力进行动态指定的,而意义上讲,我觉得是更为智能化的解决方法,不过这里要记住一点,fair策略是一个第三方策略)
5 ]! c% a" W4 r# E! Y3 p* s- p5. url_hash策略# m( ^: ~9 Q7 k) p' k2 g
4 c5 [. p( G! r ^/ V, ~
(类似于ip,只不过绑定的值是url,这个也是第三方策略)$ ~' w; B8 m0 I! ]
fair策略与url_hash策略的配置与ip_hash策略的类似,直接把upstream tomcats 中的ip_hash替换为fair和url_hash即可,不过这里需要注意的是fair和url_hash都是第三方扩展,因此需要先安装第三方扩展模块,直接百度搜索nginx-upstream-fair-master.zip与upstream-url-hash -master.zip;解压安装使用make&&make install重新编译源文件即可
8 F3 j; b% p* J2 C4 G* T
3 K. [; j2 A2 ?* g' y4 x$ L) t4 d7 @+ n& ?
. q& G7 a# e; e: q/ Q2 S: m# X
url_hash策略的用处? x" X% v2 s% C
( H; v: l ]- \8 t$ u: ~8 C
url_hash策略比较适合于大型电子商务网站,对于不同的商品便是不同的url,我们可以据此进行负载均衡。7 H |0 U& |: D, a
$ o+ b$ r! G- F0 `原理就是不同的商品形成不同的静态页面,然后服务器根据不同商品的火爆程度,按照命中率高的放在缓存里,加快访问速度,也就是说实现了一个基于缓存的服务器,相当于把有限的缓存最优化起来;& J% ^0 c: u( l) q( F8 w, ]
& r2 m( f7 }& x
9 J) Z4 K# ~1 u) h/ i, z. B- I! B
其他的配置
; q, z% ~4 R' C4 U+ j备份与停机状态:
@9 p$ v/ P* P# t; a$ H3 Cserver 192.168.1.64 backup;//备份,不参与转发,只有当所有服务器都挂掉时才参与转发;' U+ {9 ?- o7 I. u7 f9 ] v
$ B( V* _. }+ V5 x" |) Gserver 192.168.1.65 down;//临时停机维护,不参与任何转发,是关闭状态,
2 C; r4 C; J2 v5 ?! _! q) U" t) j0 g/ ^0 F4 ]8 `) V/ X
down存在的意义在于,有时我们需要对服务器做临时停机更新维护,假如我们直接关闭服务器的话,那么对于Nginx来说,他还是会把请求发到该服务器上的,因为他并不知道服务器已关,而设置down后,Nginx则不会再发到该服务器上了,避免造成无用的请求浪费。 \9 [( \2 I; B" ]+ |
8 t; L/ l# _2 g: N& l
# W3 G) M# Y) K2 o+ n3 c9 z( e9 X6 t6 \4 r( _( @
max_fails: 达到指定次数后认为服务器挂掉; j) Z- F4 _6 M; g+ c
3 b9 Z, D0 A8 f8 B4 m( e- _
fail_timeout:挂掉多久后再次测试是否已经挂掉
* _$ ~% O2 a5 Z9 P3 e
1 l! I5 s }$ F: _: Q配置命令8 y6 r2 v& O6 o- }$ \
) t. A# r2 u2 u9 R* n- c* n
server 192.168.1.66 max_fails=2 fail_timeout=60s;
" X7 j# x4 y$ Z1 X9 a. @
) B1 h+ N& l3 f' h 后记! D) i7 K+ l; n7 R9 o
我们知道,服务器是会存储用户的session的,那么,如果按照上文所说的,比如fair策略,每次Nginx会根据后端服务器群的能力把请求分发出去,那假如第一次时分在了A,那么我把数据存储到了A服务器上,第二次时,刚好被分配到了B服务器上,那么问题来了,我的session不就不见了?(这就是我们在访问部分网站时有时我们的登录状态会不见)当然了,你可能 会说,ip_hash策略不就可以避免这一点吗?没错,这确实是一个解决方法,那除了ip_hash呢?其他策略下又当如何呢?下篇博客将会讲到负载均衡下如何对session进行处理。2 h3 u9 ?. }# m) m* n6 b' i
8 @$ \% Y7 {" ^1 |- i+ W9 ]( o3 N; l$ s4 W1 \! F5 ?
, X2 x/ ?9 z3 A
/ @% C: v$ z0 g, z, I! b6 u, b' c% p" C* |
|