|
Nginx的负载均衡是基于反向代理实现的,因此,本文先讨论什么是反向代理,再在这个的基础上讨论负载均衡以及负载均衡时应该注意哪些策略。 反向代理:如下图所示,
. A T2 Q% O# Q* T8 e! v) I, i
↓-----Nginx将结果返回给浏览器---丨 对Tomcat来说,只知道服务对象是Nginx服务器 浏览器 -发起对该域的访问请求-> Nginx --------------Nginx将请求来转发给Tomcat服务器----> Tomcat... 丨-对Tomcat来说,只对nginx负责,将结果返回给Nginx服务器---↑
, i% X6 R; r3 w$ S9 z V从图中,我们可以知道,对于浏览器来说,他会发一个http://www.a.com/uri请求到Nginx服务器,对于他来说,他认为数据就是从http://www.a.com/uri域中返回的,事实上,当http://www.a.com/uri到达Nginx服务器后,Nginx服务器会将其转发给http://www.b.com/uri,从http://www.b.com/uri域中取得数据并将其返回给浏览器,这个步骤浏览器是不知道的,也就是说,浏览器并不知道http://www.b.com/uri该域的存在,同理,http://www.b.com/uri所在的域(图中的Tomcat)也并不知道浏览器的存在,他也只对Nginx负责。Nginx的这么一个过程便称为反向代理。
6 l! T+ W/ b! c( ?. Q3 T$ ^
6 m) U/ u+ I C# h3 y那么,Nginx服务器是如何实现这一步的呢,事实上也很简单,只需要在location中做一下简单的配置即可,命令大概如下图所示:(配置完命令记得reload重新加载才能生效)5 Y) E; V" Q6 r9 N Z5 B2 D
/ u2 ~0 ^5 L# i- N6 b J& u, q3 J9 l+ n
- worker_processes 1;4 ^. |' [* {4 G& v3 ~. \* |! F
- events{
复制代码 $ B5 u! S: }! o
, {( ]: V Z% i! Z; i
重点在于location处,这样的配置代表的是,所有来自浏览器的请求,在Nginx收到之后,都会代理到http://192.168.1.62:8080所在的地方
1 k- C4 d) N7 n7 D* d f
n. T; L+ X, U- n: I比如,我浏览器上发起http://192.168.1.61/a/index.html;Nginx收到之后,将会发出http:// 192.168.1.62:8080/a/index.html这么一个请求到所连接的服务器上,如上图的Tomcat。
) H/ ~7 o' g3 D2 S) F8 G/ K
/ Y' H2 e0 `. I$ i8 E* [
) [$ V: o2 c9 J$ x) W8 p. m5 X接下来我们做这样一个假设,假如后端连接着几台。几十台服务器呢,这个时候Nginx也是做同样的代理吗,答案是肯定的。图示如下:那么,在这么多台服务器上,Nginx的转发又是基于怎样的策略呢?这个时候就涉及在负载均衡了,说白了就是,应该怎样的分发,才能做到资源的最大限度的利用?* C9 y9 t: F' G
" K% J7 F7 `/ e
# o5 L, ]2 @& H* w, q0 c/ W
/ l, b* D. S1 T6 o& }
1 U/ u% `# e5 w. X, y负载均衡策略( 我们这里假设三台服务器的IP地址分别为 http:// 192.168.1.62:8080 http:// 192.168.1.63:8080 http:// 192.168.1.64:8080 ) 1. 平均轮询配置如下图:
% W# }& b' d' \* @! @( G
/ _+ b) s5 _/ q5 H# L: _: X' y% n( g5 U, H# F. \
这里我们把后台所有的服务器放入upstream中,并在代理中进行引用。
$ T+ {4 ~. N/ N# l' p6 S 2. 加权轮询,使用weight参数设置,配置如下
' R3 k4 _8 M% H F
: @, j( D. |9 D7 ~0 g0 h. w
3. ip_hash策略! O( q. Q4 u5 w
(根据用户的IP地址进行hash运算,只要是同个用户发的请求,就会被永远地转发在某台服务器上,比如张三发的请求第一次时是由Tomcat1返回的,李四的是有Tomcat2返回的,那么,以后张三的所有请求,都有由Tomcat1返回,这就是ip_hash策略),配置如下:
2 v0 K- K o. V2 Q8 O 其他地方保持不变,在upstreaem中如下设置:
5 D/ O9 d) L) @ h# X
! _- {4 H/ B# j" G1 x# p2 F
% y: U1 C7 V+ a; M1 g0 o' l
G( H3 ]# Q2 |3 T
# `& u& C5 G& [( t% }1 V4. fair策略" S2 N3 K" W/ T! I; M2 S
(动态weight策略,我们的加权轮询是显式指定weight的,而fair策略是根据服务器的响应能力进行动态指定的,而意义上讲,我觉得是更为智能化的解决方法,不过这里要记住一点,fair策略是一个第三方策略)$ z" m& t8 a$ X, Q
5. url_hash策略% \- `2 i5 D, ^: w0 k% l! l* E
6 x# W. p5 Z" d: j(类似于ip,只不过绑定的值是url,这个也是第三方策略)
0 b4 m6 M; e& ]$ q" r: `fair策略与url_hash策略的配置与ip_hash策略的类似,直接把upstream tomcats 中的ip_hash替换为fair和url_hash即可,不过这里需要注意的是fair和url_hash都是第三方扩展,因此需要先安装第三方扩展模块,直接百度搜索nginx-upstream-fair-master.zip与upstream-url-hash -master.zip;解压安装使用make&&make install重新编译源文件即可
. _% Z8 [ W7 n! U S( \9 s# r8 e3 L4 B# L9 ]
- J0 f" E) u1 O; R
8 A. ]6 z, M7 qurl_hash策略的用处?
5 F$ t9 n, a& S. C# s- I3 b8 G+ T/ w; e9 k: ]+ V+ R
url_hash策略比较适合于大型电子商务网站,对于不同的商品便是不同的url,我们可以据此进行负载均衡。
& f8 ^6 q3 | {* W& `: O3 |3 q* U& W* c* p. m& {
原理就是不同的商品形成不同的静态页面,然后服务器根据不同商品的火爆程度,按照命中率高的放在缓存里,加快访问速度,也就是说实现了一个基于缓存的服务器,相当于把有限的缓存最优化起来;/ _$ m' ]. L7 Z; z% e* Q# c
, A: s' ?' R4 Z% Y
' [; L- Z0 J W& D
8 N2 S2 v2 ~$ G: @; U3 L其他的配置. `& j9 K Q7 X
备份与停机状态:4 F/ M# H! R( t7 G; |4 f
server 192.168.1.64 backup;//备份,不参与转发,只有当所有服务器都挂掉时才参与转发;* f# p0 X8 m3 O! _0 c: e2 r9 L
0 e- i& F6 C3 f. j0 bserver 192.168.1.65 down;//临时停机维护,不参与任何转发,是关闭状态,
! ?4 [3 C3 `, e4 q
3 Z; k" {! Y; ?down存在的意义在于,有时我们需要对服务器做临时停机更新维护,假如我们直接关闭服务器的话,那么对于Nginx来说,他还是会把请求发到该服务器上的,因为他并不知道服务器已关,而设置down后,Nginx则不会再发到该服务器上了,避免造成无用的请求浪费。( I+ ^+ o0 @. ? M. h) j
, p" o4 ~8 P' _/ S+ |
3 z& ^+ r8 W+ U o2 _) i: u- {2 H
max_fails: 达到指定次数后认为服务器挂掉
( H/ _+ S. `9 K+ }( g# z5 [/ r: [! W9 [- e ^. m
fail_timeout:挂掉多久后再次测试是否已经挂掉$ k( E9 b& X* C. b1 n
! B) S& q" G+ m& j, \; A
配置命令 G5 C& N; o6 ^1 y6 T" R
: g- a( w6 e, Y1 `server 192.168.1.66 max_fails=2 fail_timeout=60s;3 e# R0 N- J4 s7 b: C0 }: x
0 H3 @! V' b$ y7 g0 { 后记
( m/ x+ g0 F( _8 H% C. u我们知道,服务器是会存储用户的session的,那么,如果按照上文所说的,比如fair策略,每次Nginx会根据后端服务器群的能力把请求分发出去,那假如第一次时分在了A,那么我把数据存储到了A服务器上,第二次时,刚好被分配到了B服务器上,那么问题来了,我的session不就不见了?(这就是我们在访问部分网站时有时我们的登录状态会不见)当然了,你可能 会说,ip_hash策略不就可以避免这一点吗?没错,这确实是一个解决方法,那除了ip_hash呢?其他策略下又当如何呢?下篇博客将会讲到负载均衡下如何对session进行处理。
8 X) A; t9 i8 }. d P. y0 u$ }
$ |; d: E9 X6 R; g( C: t' g$ i0 o! \* V7 I+ j7 G
8 F/ x) Y4 @6 ~& N
4 @7 H# I8 P( e2 u& Q {) y
1 \( O5 X* f( b& J/ k/ J9 l
|