一、關(guān)于Nginx的負(fù)載均衡
在服務(wù)器集群中，Nginx起到一個(gè)代理服務(wù)器的角色(即反向代理)，為了避免單獨(dú)一個(gè)服務(wù)器壓力過(guò)大，將來(lái)自用戶的請(qǐng)求轉(zhuǎn)發(fā)給不同的服務(wù)器。詳情請(qǐng)查看我的另一篇博客。
二、Nginx負(fù)載均衡策略
負(fù)載均衡用于從“upstream”模塊定義的后端服務(wù)器列表中選取一臺(tái)服務(wù)器接受用戶的請(qǐng)求。一個(gè)最基本的upstream模塊是這樣的，模塊內(nèi)的server是服務(wù)器列表：
#動(dòng)態(tài)服務(wù)器組
upstreamdynamic_zuoyu{
serverlocalhost:8080;#tomcat7.0
serverlocalhost:8081;#tomcat8.0
serverlocalhost:8082;#tomcat8.5
serverlocalhost:8083;#tomcat9.0
}
在upstream模塊配置完成后，要讓指定的訪問反向代理到服務(wù)器列表：
#其他頁(yè)面反向代理到tomcat容器
location~.*${
indexindex.jspindex.html;
proxy_passhttp://dynamic_zuoyu;
}
這就是最基本的負(fù)載均衡實(shí)例，但這不足以滿足實(shí)際需求;目前Nginx服務(wù)器的upstream模塊支持6種方式的分配：
負(fù)載均衡策略
輪詢默認(rèn)方式weight權(quán)重方式ip_hash依據(jù)ip分配方式least_conn最少連接方式fair(第三方)響應(yīng)時(shí)間方式url_hash(第三方)依據(jù)URL分配方式在這里，只詳細(xì)說(shuō)明Nginx自帶的負(fù)載均衡策略，第三方不多描述。
1、輪詢
最基本的配置方法，上面的例子就是輪詢的方式，它是upstream模塊默認(rèn)的負(fù)載均衡默認(rèn)策略。每個(gè)請(qǐng)求會(huì)按時(shí)間順序逐一分配到不同的后端服務(wù)器。
有如下參數(shù)：
fail_timeout與max_fails結(jié)合使用。max_fails設(shè)置在fail_timeout參數(shù)設(shè)置的時(shí)間內(nèi)最大失敗次數(shù)，如果在這個(gè)時(shí)間內(nèi)，所有針對(duì)該服務(wù)器的請(qǐng)求都失敗了，那么認(rèn)為該服務(wù)器會(huì)被認(rèn)為是停機(jī)了，
fail_time服務(wù)器會(huì)被認(rèn)為停機(jī)的時(shí)間長(zhǎng)度,默認(rèn)為10s。backup標(biāo)記該服務(wù)器為備用服務(wù)器。當(dāng)主服務(wù)器停止時(shí)，請(qǐng)求會(huì)被發(fā)送到它這里。down標(biāo)記服務(wù)器永久停機(jī)了。注意：
在輪詢中，如果服務(wù)器down掉了，會(huì)自動(dòng)剔除該服務(wù)器。
缺省配置就是輪詢策略。
此策略適合服務(wù)器配置相當(dāng)，無(wú)狀態(tài)且短平快的服務(wù)使用。
2、weight
權(quán)重方式，在輪詢策略的基礎(chǔ)上指定輪詢的幾率。例子如下：
#動(dòng)態(tài)服務(wù)器組upstream dynamic_zuoyu { server localhost:8080 weight=2; #tomcat 7.0 server localhost:8081; #tomcat 8.0 server localhost:8082 backup; #tomcat 8.5 server localhost:8083 max_fails=3 fail_timeout=20s; #tomcat 9.0}
在該例子中，weight參數(shù)用于指定輪詢幾率，weight的默認(rèn)值為1,;weight的數(shù)值與訪問比率成正比，比如Tomcat 7.0被訪問的幾率為其他服務(wù)器的兩倍。
注意：
權(quán)重越高分配到需要處理的請(qǐng)求越多。
此策略可以與least_conn和ip_hash結(jié)合使用。
此策略比較適合服務(wù)器的硬件配置差別比較大的情況。
3、ip_hash
指定負(fù)載均衡器按照基于客戶端IP的分配方式，這個(gè)方法確保了相同的客戶端的請(qǐng)求一直發(fā)送到相同的服務(wù)器，以保證session會(huì)話。這樣每個(gè)訪客都固定訪問一個(gè)后端服務(wù)器，可以解決session不能跨服務(wù)器的問題。
#動(dòng)態(tài)服務(wù)器組
upstreamdynamic_zuoyu{
ip_hash;#保證每個(gè)訪客固定訪問一個(gè)后端服務(wù)器
serverlocalhost:8080weight=2;#tomcat7.0
serverlocalhost:8081;#tomcat8.0
serverlocalhost:8082;#tomcat8.5
serverlocalhost:8083max_fails=3fail_timeout=20s;#tomcat9.0
}
注意：
在nginx版本1.3.1之前，不能在ip_hash中使用權(quán)重(weight)。
ip_hash不能與backup同時(shí)使用。
此策略適合有狀態(tài)服務(wù)，比如session。
當(dāng)有服務(wù)器需要剔除，必須手動(dòng)down掉。
4、least_conn
把請(qǐng)求轉(zhuǎn)發(fā)給連接數(shù)較少的后端服務(wù)器。輪詢算法是把請(qǐng)求平均的轉(zhuǎn)發(fā)給各個(gè)后端，使它們的負(fù)載大致相同;但是，有些請(qǐng)求占用的時(shí)間很長(zhǎng)，會(huì)導(dǎo)致其所在的后端負(fù)載較高。這種情況下，least_conn這種方式就可以達(dá)到更好的負(fù)載均衡效果。
#動(dòng)態(tài)服務(wù)器組
upstreamdynamic_zuoyu{
least_conn;#把請(qǐng)求轉(zhuǎn)發(fā)給連接數(shù)較少的后端服務(wù)器
serverlocalhost:8080weight=2;#tomcat7.0
serverlocalhost:8081;#tomcat8.0
serverlocalhost:8082backup;#tomcat8.5
serverlocalhost:8083max_fails=3fail_timeout=20s;#tomcat9.0
}
注意：
此負(fù)載均衡策略適合請(qǐng)求處理時(shí)間長(zhǎng)短不一造成服務(wù)器過(guò)載的情況。
5、第三方策略
第三方的負(fù)載均衡策略的實(shí)現(xiàn)需要安裝第三方插件。
①fair
按照服務(wù)器端的響應(yīng)時(shí)間來(lái)分配請(qǐng)求，響應(yīng)時(shí)間短的優(yōu)先分配。
#動(dòng)態(tài)服務(wù)器組
upstreamdynamic_zuoyu{
serverlocalhost:8080;#tomcat7.0
serverlocalhost:8081;#tomcat8.0
serverlocalhost:8082;#tomcat8.5
serverlocalhost:8083;#tomcat9.0
fair;#實(shí)現(xiàn)響應(yīng)時(shí)間短的優(yōu)先分配
}
②url_hash
按訪問url的hash結(jié)果來(lái)分配請(qǐng)求，使每個(gè)url定向到同一個(gè)后端服務(wù)器，要配合緩存命中來(lái)使用。同一個(gè)資源多次請(qǐng)求，可能會(huì)到達(dá)不同的服務(wù)器上，導(dǎo)致不必要的多次下載，緩存命中率不高，以及一些資源時(shí)間的浪費(fèi)。而使用url_hash，可以使得同一個(gè)url(也就是同一個(gè)資源請(qǐng)求)會(huì)到達(dá)同一臺(tái)服務(wù)器，一旦緩存住了資源，再此收到請(qǐng)求，就可以從緩存中讀取。
#動(dòng)態(tài)服務(wù)器組
upstreamdynamic_zuoyu{
hash$request_uri;#實(shí)現(xiàn)每個(gè)url定向到同一個(gè)后端服務(wù)器
serverlocalhost:8080;#tomcat7.0
serverlocalhost:8081;#tomcat8.0
serverlocalhost:8082;#tomcat8.5
serverlocalhost:8083;#tomcat9.0
}
三、總結(jié)
以上便是6種負(fù)載均衡策略的實(shí)現(xiàn)方式，其中除了輪詢和輪詢權(quán)重外，都是Nginx根據(jù)不同的算法實(shí)現(xiàn)的。在實(shí)際運(yùn)用中，需要根據(jù)不同的場(chǎng)景選擇性運(yùn)用，大都是多種策略結(jié)合使用以達(dá)到實(shí)際需求。希望對(duì)大家的學(xué)習(xí)有所幫助，也希望大家多多支持服務(wù)器之家。
