|
Nginx的负载均衡是基于反向代理实现的,因此,本文先讨论什么是反向代理,再在这个的基础上讨论负载均衡以及负载均衡时应该注意哪些策略。 反向代理:如下图所示,
4 Y9 U0 x) o: ^1 {/ Q) ?5 V
↓-----Nginx将结果返回给浏览器---丨 对Tomcat来说,只知道服务对象是Nginx服务器 浏览器 -发起对该域的访问请求-> Nginx --------------Nginx将请求来转发给Tomcat服务器----> Tomcat... 丨-对Tomcat来说,只对nginx负责,将结果返回给Nginx服务器---↑
* [1 _. @& r" T从图中,我们可以知道,对于浏览器来说,他会发一个http://www.a.com/uri请求到Nginx服务器,对于他来说,他认为数据就是从http://www.a.com/uri域中返回的,事实上,当http://www.a.com/uri到达Nginx服务器后,Nginx服务器会将其转发给http://www.b.com/uri,从http://www.b.com/uri域中取得数据并将其返回给浏览器,这个步骤浏览器是不知道的,也就是说,浏览器并不知道http://www.b.com/uri该域的存在,同理,http://www.b.com/uri所在的域(图中的Tomcat)也并不知道浏览器的存在,他也只对Nginx负责。Nginx的这么一个过程便称为反向代理。
, Y. t) k e5 k, p
0 _( D Q6 o9 C9 l那么,Nginx服务器是如何实现这一步的呢,事实上也很简单,只需要在location中做一下简单的配置即可,命令大概如下图所示:(配置完命令记得reload重新加载才能生效)
" G# ^ f4 \% e- ]$ P: x3 m, Q o! V2 I& h8 D7 o
1 O$ N. }6 H' V; f
- worker_processes 1;
! x5 |4 r9 I: O6 ^ - events{
复制代码 ( i' Z5 W' @5 q6 ?- I) T+ U- ]2 I- M) I
6 P& b2 ^' _7 G9 Q+ C% J
重点在于location处,这样的配置代表的是,所有来自浏览器的请求,在Nginx收到之后,都会代理到http://192.168.1.62:8080所在的地方3 E; \' y( }) f) d
/ o+ ^ z0 b: M. \7 _; ?
比如,我浏览器上发起http://192.168.1.61/a/index.html;Nginx收到之后,将会发出http:// 192.168.1.62:8080/a/index.html这么一个请求到所连接的服务器上,如上图的Tomcat。
' B8 W9 [! J; p' B) b3 d7 ^: c* L! m, R" _0 S+ `
! r; D) [& E4 z: }8 B% m接下来我们做这样一个假设,假如后端连接着几台。几十台服务器呢,这个时候Nginx也是做同样的代理吗,答案是肯定的。图示如下:那么,在这么多台服务器上,Nginx的转发又是基于怎样的策略呢?这个时候就涉及在负载均衡了,说白了就是,应该怎样的分发,才能做到资源的最大限度的利用?
6 R( A' \' ]) O; x( ]
+ E I$ [: n3 H- ?( g4 b
* i2 N$ {. @6 ^: r5 k5 R8 r0 ?* `
4 Y$ m" o4 \ W/ ]0 T8 w
* } D4 C1 g6 O- \4 v
负载均衡策略( 我们这里假设三台服务器的IP地址分别为 http:// 192.168.1.62:8080 http:// 192.168.1.63:8080 http:// 192.168.1.64:8080 ) 1. 平均轮询配置如下图: 3 M/ L5 o6 x& M2 f7 [
% W! n2 i9 [5 n9 f
$ `0 D4 [1 W; z, k
这里我们把后台所有的服务器放入upstream中,并在代理中进行引用。
3 w4 d0 ^0 r. }3 v 2. 加权轮询,使用weight参数设置,配置如下
0 @5 n3 R- t7 H% Z) s4 `/ Q
% T& N5 x8 u- ^. ^
3. ip_hash策略
5 {# s: i+ k3 R8 D+ j+ T(根据用户的IP地址进行hash运算,只要是同个用户发的请求,就会被永远地转发在某台服务器上,比如张三发的请求第一次时是由Tomcat1返回的,李四的是有Tomcat2返回的,那么,以后张三的所有请求,都有由Tomcat1返回,这就是ip_hash策略),配置如下:% T, e5 z) G, M; E& u' g2 k' m
其他地方保持不变,在upstreaem中如下设置:
3 w' h1 O; m3 T/ j' k
7 Q; h8 m5 P6 E0 ~9 J* M$ S" |3 @# f# l2 ?* L$ @: e
6 m% ^: ]. L$ M. E3 v2 c+ \
9 V! H6 j$ {9 ^4 {3 x- Y
4. fair策略2 j7 {4 m3 B! g$ e+ c
(动态weight策略,我们的加权轮询是显式指定weight的,而fair策略是根据服务器的响应能力进行动态指定的,而意义上讲,我觉得是更为智能化的解决方法,不过这里要记住一点,fair策略是一个第三方策略)
) \( J( W; s, Q( \$ b1 T, e7 E1 B5. url_hash策略
( {+ H% `8 z' R9 _- @
! Z* L% n. N; p1 Z! d8 V* V(类似于ip,只不过绑定的值是url,这个也是第三方策略)
- \+ \) g1 |( F6 t; q# Rfair策略与url_hash策略的配置与ip_hash策略的类似,直接把upstream tomcats 中的ip_hash替换为fair和url_hash即可,不过这里需要注意的是fair和url_hash都是第三方扩展,因此需要先安装第三方扩展模块,直接百度搜索nginx-upstream-fair-master.zip与upstream-url-hash -master.zip;解压安装使用make&&make install重新编译源文件即可& q+ a+ X9 [ G
" H) e- y+ W) w& V! N5 t- O& z5 U5 M5 }8 @" G) }
4 @, \& p7 n, d' a7 T) Zurl_hash策略的用处?
7 G) y2 J+ n+ E5 v6 y( l: _; f" X2 U4 P
url_hash策略比较适合于大型电子商务网站,对于不同的商品便是不同的url,我们可以据此进行负载均衡。
/ g! I, J) y8 c
2 ]! J( G& c# j J原理就是不同的商品形成不同的静态页面,然后服务器根据不同商品的火爆程度,按照命中率高的放在缓存里,加快访问速度,也就是说实现了一个基于缓存的服务器,相当于把有限的缓存最优化起来;
$ l& |7 R4 m! g" L7 ^$ J4 V# u p9 Q3 k) U! A/ C' g2 q( `. W
1 g2 Z8 T" [( g8 ]- n1 y
' l7 Q! z8 H' m其他的配置. p9 t8 }, N6 P( ^; W+ @! j
备份与停机状态:- o" K4 y/ u8 h: k" \
server 192.168.1.64 backup;//备份,不参与转发,只有当所有服务器都挂掉时才参与转发;
1 ?- E1 B( U& m9 Z/ b$ h4 }* z
0 q9 W% v& I7 t( ]' oserver 192.168.1.65 down;//临时停机维护,不参与任何转发,是关闭状态,3 e/ Y% ^; _" C) x$ Z
# B# R# U# x) ?, S8 k! \
down存在的意义在于,有时我们需要对服务器做临时停机更新维护,假如我们直接关闭服务器的话,那么对于Nginx来说,他还是会把请求发到该服务器上的,因为他并不知道服务器已关,而设置down后,Nginx则不会再发到该服务器上了,避免造成无用的请求浪费。. u: ~! ]; [8 T% ]
( G; F) ?& |( q
0 j& B; `5 D* R0 V S2 e' L4 O" F. |8 O- r J) l) _
max_fails: 达到指定次数后认为服务器挂掉
! D/ j; O3 ?$ R) g# J( C; N6 S, j6 v" ^( l- o
fail_timeout:挂掉多久后再次测试是否已经挂掉( l$ P9 N% ?# k( l# g# |' L
' p: L$ S: ]3 p0 G
配置命令, g2 w! B& |, f ^* k( D
$ b5 }0 X- P- q: @* p) X& Q! ]server 192.168.1.66 max_fails=2 fail_timeout=60s;* e$ |5 ?) ~! m1 Y( |
4 f. v2 i. @5 ]4 T( \! y. C/ B! v
后记
8 l; `7 j) I `1 I+ J我们知道,服务器是会存储用户的session的,那么,如果按照上文所说的,比如fair策略,每次Nginx会根据后端服务器群的能力把请求分发出去,那假如第一次时分在了A,那么我把数据存储到了A服务器上,第二次时,刚好被分配到了B服务器上,那么问题来了,我的session不就不见了?(这就是我们在访问部分网站时有时我们的登录状态会不见)当然了,你可能 会说,ip_hash策略不就可以避免这一点吗?没错,这确实是一个解决方法,那除了ip_hash呢?其他策略下又当如何呢?下篇博客将会讲到负载均衡下如何对session进行处理。
9 H3 R3 k5 L. `! r7 t6 P% S8 I/ N3 `. y5 s& _ o. e m
& d/ \9 ? e( i3 L* n- ~
* D2 v" d; s) U8 G ?9 j& z/ g) H. @ g9 N0 W
y& O7 r- D- u
|