|
Nginx的负载均衡是基于反向代理实现的,因此,本文先讨论什么是反向代理,再在这个的基础上讨论负载均衡以及负载均衡时应该注意哪些策略。 反向代理:如下图所示, * n3 p! a. a& O* ?# E) |$ s
↓-----Nginx将结果返回给浏览器---丨 对Tomcat来说,只知道服务对象是Nginx服务器 浏览器 -发起对该域的访问请求-> Nginx --------------Nginx将请求来转发给Tomcat服务器----> Tomcat... 丨-对Tomcat来说,只对nginx负责,将结果返回给Nginx服务器---↑ / ~* s: x( _! ?: Y" T5 W: O: l: |
从图中,我们可以知道,对于浏览器来说,他会发一个http://www.a.com/uri请求到Nginx服务器,对于他来说,他认为数据就是从http://www.a.com/uri域中返回的,事实上,当http://www.a.com/uri到达Nginx服务器后,Nginx服务器会将其转发给http://www.b.com/uri,从http://www.b.com/uri域中取得数据并将其返回给浏览器,这个步骤浏览器是不知道的,也就是说,浏览器并不知道http://www.b.com/uri该域的存在,同理,http://www.b.com/uri所在的域(图中的Tomcat)也并不知道浏览器的存在,他也只对Nginx负责。Nginx的这么一个过程便称为反向代理。
; v5 j" \5 E* `
2 G( Q! r* r% j+ e- S" p5 L那么,Nginx服务器是如何实现这一步的呢,事实上也很简单,只需要在location中做一下简单的配置即可,命令大概如下图所示:(配置完命令记得reload重新加载才能生效)
- q, v$ t6 s7 j8 s* z0 `# l- [& m( q# K" W. R
3 W+ Q6 I& \, K( I- worker_processes 1;
0 H% j, H6 Q. s) H" ? - events{
复制代码 + N) F0 P3 u y2 T- v
( j' W+ h* ]' u重点在于location处,这样的配置代表的是,所有来自浏览器的请求,在Nginx收到之后,都会代理到http://192.168.1.62:8080所在的地方3 w7 Y5 r; o: T& M1 n! R
3 b' o6 k6 X# k* @: J0 l比如,我浏览器上发起http://192.168.1.61/a/index.html;Nginx收到之后,将会发出http:// 192.168.1.62:8080/a/index.html这么一个请求到所连接的服务器上,如上图的Tomcat。
* n% x, U8 k! h' R( {
/ z, j1 n" ~. E9 H* W! p4 V" ^& R/ ~7 y q) t) r; Z& K
接下来我们做这样一个假设,假如后端连接着几台。几十台服务器呢,这个时候Nginx也是做同样的代理吗,答案是肯定的。图示如下:那么,在这么多台服务器上,Nginx的转发又是基于怎样的策略呢?这个时候就涉及在负载均衡了,说白了就是,应该怎样的分发,才能做到资源的最大限度的利用?
- x( x* N" @+ Y w( t% E' W1 b) c
4 z8 x; |6 C% S( w
2 V8 @9 x' e5 f4 A0 s9 k
5 Y; h r4 O6 [- k' h! K3 ?2 @
5 L& f% E ?! p1 D) }* G% j负载均衡策略( 我们这里假设三台服务器的IP地址分别为 http:// 192.168.1.62:8080 http:// 192.168.1.63:8080 http:// 192.168.1.64:8080 ) 1. 平均轮询配置如下图:
9 `( _& e2 v/ s! ?8 y5 D
! `8 g: U- v3 `0 ]
( x$ q8 z0 `' L. h9 \: C
这里我们把后台所有的服务器放入upstream中,并在代理中进行引用。6 c- k' ^# E) a( T9 w! }, y
2. 加权轮询,使用weight参数设置,配置如下
* q2 ]! R' `+ S( s) l
2 m. T( g# L- X0 |' m" W f% R
3. ip_hash策略
4 G5 R0 ]4 P' h1 i3 h(根据用户的IP地址进行hash运算,只要是同个用户发的请求,就会被永远地转发在某台服务器上,比如张三发的请求第一次时是由Tomcat1返回的,李四的是有Tomcat2返回的,那么,以后张三的所有请求,都有由Tomcat1返回,这就是ip_hash策略),配置如下:+ t. N; l; l" v# W9 G* i
其他地方保持不变,在upstreaem中如下设置:
5 m+ s- d; F q9 F! R
- Z1 Q! x, Z' d- a, ^% a5 E7 | ?( b9 [' H/ W
% A0 {! O3 F6 v' w' N" B z9 G5 p4 M- r2 s" O2 n. Q' P* e# O2 I
4. fair策略
7 e- d& }, h8 P2 P& L% _/ T(动态weight策略,我们的加权轮询是显式指定weight的,而fair策略是根据服务器的响应能力进行动态指定的,而意义上讲,我觉得是更为智能化的解决方法,不过这里要记住一点,fair策略是一个第三方策略)2 P$ S, B+ } B2 D9 U& l% j
5. url_hash策略* |" ]% v8 a, ]" Z$ r
4 ^- z! e2 K" h3 F
(类似于ip,只不过绑定的值是url,这个也是第三方策略)5 g' S+ c- Q6 m! f8 p# Y5 `8 E
fair策略与url_hash策略的配置与ip_hash策略的类似,直接把upstream tomcats 中的ip_hash替换为fair和url_hash即可,不过这里需要注意的是fair和url_hash都是第三方扩展,因此需要先安装第三方扩展模块,直接百度搜索nginx-upstream-fair-master.zip与upstream-url-hash -master.zip;解压安装使用make&&make install重新编译源文件即可
7 q# ^, Q( i, O- t- g; f/ X) ~* U7 v% j
; @ `9 {9 ~. n1 M1 }3 D \2 j# }' h# R: K4 b6 t
url_hash策略的用处?
8 t1 B- m7 X a: J# K2 a% N% ?, r0 A- O4 N
url_hash策略比较适合于大型电子商务网站,对于不同的商品便是不同的url,我们可以据此进行负载均衡。' V; ^* R/ s3 d1 z/ R/ F
: q+ u7 [& h- J6 [, @9 a4 |原理就是不同的商品形成不同的静态页面,然后服务器根据不同商品的火爆程度,按照命中率高的放在缓存里,加快访问速度,也就是说实现了一个基于缓存的服务器,相当于把有限的缓存最优化起来;
$ c% I1 h1 g/ O& N/ `* [+ X
% Y2 g X p# ]# ^/ B/ w* ]; v! P5 Z. J( ~, S% W
2 R( C( H) U% H {2 @0 Y% {0 m' Z( ~0 K其他的配置6 q" k! P ?# e0 c
备份与停机状态:; O4 X: {- F9 j' A) O
server 192.168.1.64 backup;//备份,不参与转发,只有当所有服务器都挂掉时才参与转发;, T9 |1 f. b7 n/ @; x: A) N, X
& @2 T% f" A! V ^) K" {. L) O) Nserver 192.168.1.65 down;//临时停机维护,不参与任何转发,是关闭状态,& ? j {3 g2 o( G
3 D8 F+ L6 A" N* Odown存在的意义在于,有时我们需要对服务器做临时停机更新维护,假如我们直接关闭服务器的话,那么对于Nginx来说,他还是会把请求发到该服务器上的,因为他并不知道服务器已关,而设置down后,Nginx则不会再发到该服务器上了,避免造成无用的请求浪费。4 N+ V3 P9 x8 Y8 |( a. C; y
% L$ P2 T8 S. G$ d$ q8 K: Q
# T- D( i6 r: K; \8 S
1 D2 u' U, r4 Vmax_fails: 达到指定次数后认为服务器挂掉
# ~& t) N W3 b9 r2 o7 X, A1 b# A$ z- i# g) u
fail_timeout:挂掉多久后再次测试是否已经挂掉
{* S7 m8 b2 i+ C( d/ u6 `+ W7 [
配置命令
# Q h& j2 v X8 y- L% T$ b+ I8 b( n5 C7 m) r3 c% D3 B. c" x
server 192.168.1.66 max_fails=2 fail_timeout=60s;
0 d, g' c; l! [- c1 j
" [, Q! e7 Z; R" s$ l0 Y: H 后记% t) c7 {5 { U: x d7 k h
我们知道,服务器是会存储用户的session的,那么,如果按照上文所说的,比如fair策略,每次Nginx会根据后端服务器群的能力把请求分发出去,那假如第一次时分在了A,那么我把数据存储到了A服务器上,第二次时,刚好被分配到了B服务器上,那么问题来了,我的session不就不见了?(这就是我们在访问部分网站时有时我们的登录状态会不见)当然了,你可能 会说,ip_hash策略不就可以避免这一点吗?没错,这确实是一个解决方法,那除了ip_hash呢?其他策略下又当如何呢?下篇博客将会讲到负载均衡下如何对session进行处理。
8 E9 n, h7 P. U5 G& |+ h" O, i% U8 D/ o
& _2 D0 y, M8 ]. Z# C- y3 ^0 @: R5 F" g7 u$ f
2 ~4 a8 A! L( j3 |# R) y8 j/ b
% d. m0 }. f( T7 g- H |