|
Nginx的负载均衡是基于反向代理实现的,因此,本文先讨论什么是反向代理,再在这个的基础上讨论负载均衡以及负载均衡时应该注意哪些策略。 反向代理:如下图所示, ! B& K8 o# ?& t }8 `+ n+ Y. ^
↓-----Nginx将结果返回给浏览器---丨 对Tomcat来说,只知道服务对象是Nginx服务器 浏览器 -发起对该域的访问请求-> Nginx --------------Nginx将请求来转发给Tomcat服务器----> Tomcat... 丨-对Tomcat来说,只对nginx负责,将结果返回给Nginx服务器---↑
M+ k* c$ _! v6 [0 L从图中,我们可以知道,对于浏览器来说,他会发一个http://www.a.com/uri请求到Nginx服务器,对于他来说,他认为数据就是从http://www.a.com/uri域中返回的,事实上,当http://www.a.com/uri到达Nginx服务器后,Nginx服务器会将其转发给http://www.b.com/uri,从http://www.b.com/uri域中取得数据并将其返回给浏览器,这个步骤浏览器是不知道的,也就是说,浏览器并不知道http://www.b.com/uri该域的存在,同理,http://www.b.com/uri所在的域(图中的Tomcat)也并不知道浏览器的存在,他也只对Nginx负责。Nginx的这么一个过程便称为反向代理。
. L: x4 G8 D; k/ r
$ k+ F/ s% i$ L r: a. ]那么,Nginx服务器是如何实现这一步的呢,事实上也很简单,只需要在location中做一下简单的配置即可,命令大概如下图所示:(配置完命令记得reload重新加载才能生效)
" k; X% M+ C9 L! x E3 r% P9 Z$ ~" B; b, P) E* K/ r
! k/ ?" i4 j. V7 w* B* s* f- worker_processes 1;9 D" f& u2 y2 I |" n) S2 L2 j
- events{
复制代码
4 X; b: k+ e# e$ w; ?
4 E- P: ]# L3 {1 V/ ?重点在于location处,这样的配置代表的是,所有来自浏览器的请求,在Nginx收到之后,都会代理到http://192.168.1.62:8080所在的地方/ ~' N+ v: _: Q
* R: E8 @* ~% r4 x& M
比如,我浏览器上发起http://192.168.1.61/a/index.html;Nginx收到之后,将会发出http:// 192.168.1.62:8080/a/index.html这么一个请求到所连接的服务器上,如上图的Tomcat。
( b" F5 F0 j8 l: _% V% H
& @$ }* u/ ?# C+ A8 q( f. D5 D1 E
接下来我们做这样一个假设,假如后端连接着几台。几十台服务器呢,这个时候Nginx也是做同样的代理吗,答案是肯定的。图示如下:那么,在这么多台服务器上,Nginx的转发又是基于怎样的策略呢?这个时候就涉及在负载均衡了,说白了就是,应该怎样的分发,才能做到资源的最大限度的利用?
+ ^- j4 O% N% F6 x% ~/ c
) h0 I0 E6 D/ D6 e6 Y
6 H# j' e" j- [# S# J/ S! ~4 X
4 [# T$ `3 A5 G+ {1 S
5 ^! e9 y6 `1 b; h' H7 ?负载均衡策略( 我们这里假设三台服务器的IP地址分别为 http:// 192.168.1.62:8080 http:// 192.168.1.63:8080 http:// 192.168.1.64:8080 ) 1. 平均轮询配置如下图:
9 X; Z5 d8 M7 V. `; ^8 z0 M
' u1 e. D ~3 i" O+ F8 b
# b1 b/ ^: C8 w! _" A6 _这里我们把后台所有的服务器放入upstream中,并在代理中进行引用。5 v* U9 c/ T0 {6 u* y
2. 加权轮询,使用weight参数设置,配置如下6 r S+ d) j/ {% p0 j
9 [; X: b( W& [. j+ r8 E% A
3. ip_hash策略
8 s( q0 G* V1 w(根据用户的IP地址进行hash运算,只要是同个用户发的请求,就会被永远地转发在某台服务器上,比如张三发的请求第一次时是由Tomcat1返回的,李四的是有Tomcat2返回的,那么,以后张三的所有请求,都有由Tomcat1返回,这就是ip_hash策略),配置如下:) T! D$ u; Q! g0 R& e6 N. n5 f
其他地方保持不变,在upstreaem中如下设置:
' v: s6 L5 [1 g$ ]1 h; ^% F, y+ n; w! E' C9 H' D B
* _& [) t4 j* S$ R/ J" n
' ?! Q6 x; [! E. q" V
: [* P- u! a6 D# B7 E
4. fair策略
l& y! m: u1 r" L+ \8 y- A* [( Y0 [, J(动态weight策略,我们的加权轮询是显式指定weight的,而fair策略是根据服务器的响应能力进行动态指定的,而意义上讲,我觉得是更为智能化的解决方法,不过这里要记住一点,fair策略是一个第三方策略)
/ q6 M& \6 W+ @1 Q- e5. url_hash策略% ]" h! W$ G1 h% x) Q
- y' I4 x1 f" [. o% T& U(类似于ip,只不过绑定的值是url,这个也是第三方策略)
0 f7 N8 U/ M7 J! M) Sfair策略与url_hash策略的配置与ip_hash策略的类似,直接把upstream tomcats 中的ip_hash替换为fair和url_hash即可,不过这里需要注意的是fair和url_hash都是第三方扩展,因此需要先安装第三方扩展模块,直接百度搜索nginx-upstream-fair-master.zip与upstream-url-hash -master.zip;解压安装使用make&&make install重新编译源文件即可! F# C d5 m- y$ A: z
! r8 L( ` r' B, {
* o. v& s3 a5 O7 V5 A7 ^* `. I5 a- E* s3 W" `+ o: A/ \" p
url_hash策略的用处?
( M: r* d$ `3 M* E0 R
% ?: U) ?0 Q! H7 ^9 v4 T1 u1 _9 murl_hash策略比较适合于大型电子商务网站,对于不同的商品便是不同的url,我们可以据此进行负载均衡。. S! L! }, d# i
4 w0 s8 l2 l6 `2 _# o, D9 u原理就是不同的商品形成不同的静态页面,然后服务器根据不同商品的火爆程度,按照命中率高的放在缓存里,加快访问速度,也就是说实现了一个基于缓存的服务器,相当于把有限的缓存最优化起来;
" z1 w- k4 v, v! t4 v" V
8 l) g5 u. W/ o: z- G1 [+ Q1 v; e: n- w+ F9 }5 B
& }, q% ]1 N- }/ q0 t' z
其他的配置
* z( C. M1 ]7 Q! N, d: q备份与停机状态:
$ R7 x$ ?1 y3 ^! e+ lserver 192.168.1.64 backup;//备份,不参与转发,只有当所有服务器都挂掉时才参与转发;! B; f# z7 X1 E9 F4 j# g: N& ~
6 B4 L8 T2 i+ C3 Cserver 192.168.1.65 down;//临时停机维护,不参与任何转发,是关闭状态,
w9 `: Q% j7 E2 P4 _
% x8 n/ ^) m. I: G& E# M& x; J% Jdown存在的意义在于,有时我们需要对服务器做临时停机更新维护,假如我们直接关闭服务器的话,那么对于Nginx来说,他还是会把请求发到该服务器上的,因为他并不知道服务器已关,而设置down后,Nginx则不会再发到该服务器上了,避免造成无用的请求浪费。
|0 ^. ]0 J+ q. ~( N- R5 o/ g k9 e) o2 J
* V" d3 W& t% v$ a* o* s7 ?
" \$ k0 u/ N, ~ G( Kmax_fails: 达到指定次数后认为服务器挂掉
* I% D! L5 T4 T$ Y3 k) @
4 ]2 |. L* R2 L% B( q, J fail_timeout:挂掉多久后再次测试是否已经挂掉
$ r3 n4 j5 O4 \7 H6 N: Z6 P' Z3 X4 g2 N) A. g) x& \
配置命令
3 N ^* _7 b" ]% b/ O! T# E# {* O/ P% b4 ], E# x
server 192.168.1.66 max_fails=2 fail_timeout=60s;" r# v9 S$ Q! k& J3 T$ G) q0 Q3 a
6 g8 Z; U; o* q4 s' e
后记
% F( u, y3 h6 ~: M1 Q我们知道,服务器是会存储用户的session的,那么,如果按照上文所说的,比如fair策略,每次Nginx会根据后端服务器群的能力把请求分发出去,那假如第一次时分在了A,那么我把数据存储到了A服务器上,第二次时,刚好被分配到了B服务器上,那么问题来了,我的session不就不见了?(这就是我们在访问部分网站时有时我们的登录状态会不见)当然了,你可能 会说,ip_hash策略不就可以避免这一点吗?没错,这确实是一个解决方法,那除了ip_hash呢?其他策略下又当如何呢?下篇博客将会讲到负载均衡下如何对session进行处理。
4 u- |9 f6 ], F1 O, \. L( C
% ]! k8 d, U' J& e$ Q+ ?3 c- d& m
* d/ m6 c8 R5 b0 t9 U4 V* u
7 P! I$ y7 G% b$ N6 J1 @* C+ p: ]2 v
3 e. e) C) ?4 c8 z6 A/ P! A9 R0 Z! o$ u% y6 Z2 n$ h2 c3 T$ g
|