大型網(wǎng)站架構(gòu)系列：負(fù)載均衡詳解（下）

上一篇：《大型網(wǎng)站架構(gòu)系列：負(fù)載均衡詳解（上）》

一、軟件負(fù)載均衡概述

硬件負(fù)載均衡性能優(yōu)越，功能全面，但是價(jià)格昂貴，一般適合初期或者土豪級(jí)公司長(zhǎng)期使用。因此軟件負(fù)載均衡在互聯(lián)網(wǎng)領(lǐng)域大量使用。常用的軟件負(fù)載均衡軟件有Nginx，Lvs，HaProxy等。

二、Ngnix負(fù)載均衡

Ngnix是一款輕量級(jí)的Web服務(wù)器/反向代理服務(wù)器，工作在七層Http協(xié)議的負(fù)載均衡系統(tǒng)。具有高性能、高并發(fā)、低內(nèi)存使用等特點(diǎn)。是一個(gè)輕量級(jí)的Http和反向代理服務(wù)器。Nginx使用epoll and kqueue作為開發(fā)模型。能夠支持高達(dá) 50,000 個(gè)并發(fā)連接數(shù)的響應(yīng)。

操作系統(tǒng)：Liunx，Windows（Linux、FreeBSD、Solaris、Mac OS X、AIX以及Microsoft Windows）

開發(fā)語言：C

并發(fā)性能：官方支持每秒5萬并發(fā)，實(shí)際國內(nèi)一般到每秒2萬并發(fā)，有優(yōu)化到每秒10萬并發(fā)的。具體性能看應(yīng)用場(chǎng)景。

2.1.特點(diǎn)

1.模塊化設(shè)計(jì)：良好的擴(kuò)展性，可以通過模塊方式進(jìn)行功能擴(kuò)展。

2.高可靠性：主控進(jìn)程和worker是同步實(shí)現(xiàn)的，一個(gè)worker出現(xiàn)問題，會(huì)立刻啟動(dòng)另一個(gè)worker。

3.內(nèi)存消耗低：一萬個(gè)長(zhǎng)連接（keep-alive）,僅消耗2.5MB內(nèi)存。

4.支持熱部署：不用停止服務(wù)器，實(shí)現(xiàn)更新配置文件，更換日志文件、更新服務(wù)器程序版本。

5.并發(fā)能力強(qiáng)：官方數(shù)據(jù)每秒支持5萬并發(fā)；

6.功能豐富：優(yōu)秀的反向代理功能和靈活的負(fù)載均衡策略

2.2.功能

2.2.1基本功能

支持靜態(tài)資源的web服務(wù)器。

http,smtp,pop3協(xié)議的反向代理服務(wù)器、緩存、負(fù)載均衡；

支持FASTCGI（fpm）

支持模塊化，過濾器（讓文本可以實(shí)現(xiàn)壓縮，節(jié)約帶寬）,ssl及圖像大小調(diào)整。

內(nèi)置的健康檢查功能

基于名稱和ip的虛擬主機(jī)

定制訪問日志

支持平滑升級(jí)

支持KEEPALIVE

支持url rewrite

支持路徑別名

支持基于IP和用戶名的訪問控制。

支持傳輸速率限制，支持并發(fā)數(shù)限制。

2.2.2擴(kuò)展功能

2.2.3性能

Nginx的高并發(fā)，官方測(cè)試支持5萬并發(fā)連接。實(shí)際生產(chǎn)環(huán)境能到2-3萬并發(fā)連接數(shù)。10000個(gè)非活躍的HTTP keep-alive 連接僅占用約2.5MB內(nèi)存。三萬并發(fā)連接下，10個(gè)Nginx進(jìn)程，消耗內(nèi)存150M。淘寶tengine團(tuán)隊(duì)測(cè)試結(jié)果是“24G內(nèi)存機(jī)器上，處理并發(fā)請(qǐng)求可達(dá)200萬”。

2.3架構(gòu)

2.3.1Nginx的基本工作模式

一個(gè)master進(jìn)程，生成一個(gè)或者多個(gè)worker進(jìn)程。但是這里master是使用root身份啟動(dòng)的，因?yàn)閚ginx要工作在80端口。而只有管理員才有權(quán)限啟動(dòng)小于低于1023的端口。master主要是負(fù)責(zé)的作用只是啟動(dòng)worker，加載配置文件，負(fù)責(zé)系統(tǒng)的平滑升級(jí)。其它的工作是交給worker。那么當(dāng)worker被啟動(dòng)之后，也只是負(fù)責(zé)一些web最簡(jiǎn)單的工作，而其他的工作都是有worker中調(diào)用的模塊來實(shí)現(xiàn)的。

模塊之間是以流水線的方式實(shí)現(xiàn)功能的。流水線，指的是一個(gè)用戶請(qǐng)求，由多個(gè)模塊組合各自的功能依次實(shí)現(xiàn)完成的。比如：第一個(gè)模塊只負(fù)責(zé)分析請(qǐng)求首部，第二個(gè)模塊只負(fù)責(zé)查找數(shù)據(jù)，第三個(gè)模塊只負(fù)責(zé)壓縮數(shù)據(jù)，依次完成各自工作。來實(shí)現(xiàn)整個(gè)工作的完成。

他們是如何實(shí)現(xiàn)熱部署的呢？其實(shí)是這樣的，我們前面說master不負(fù)責(zé)具體的工作，而是調(diào)用worker工作，他只是負(fù)責(zé)讀取配置文件，因此當(dāng)一個(gè)模塊修改或者配置文件發(fā)生變化，是由master進(jìn)行讀取，因此此時(shí)不會(huì)影響到worker工作。在master進(jìn)行讀取配置文件之后，不會(huì)立即的把修改的配置文件告知worker。而是讓被修改的worker繼續(xù)使用老的配置文件工作，當(dāng)worker工作完畢之后，直接當(dāng)?shù)暨@個(gè)子進(jìn)程，更換新的子進(jìn)程，使用新的規(guī)則。

2.3.2Nginx支持的sendfile機(jī)制

Sendfile機(jī)制，用戶將請(qǐng)求發(fā)給內(nèi)核，內(nèi)核根據(jù)用戶的請(qǐng)求調(diào)用相應(yīng)用戶進(jìn)程，進(jìn)程在處理時(shí)需要資源。此時(shí)再把請(qǐng)求發(fā)給內(nèi)核（進(jìn)程沒有直接IO的能力），由內(nèi)核加載數(shù)據(jù)。內(nèi)核查找到數(shù)據(jù)之后，會(huì)把數(shù)據(jù)復(fù)制給用戶進(jìn)程，由用戶進(jìn)程對(duì)數(shù)據(jù)進(jìn)行封裝，之后交給內(nèi)核，內(nèi)核在進(jìn)行tcp/ip首部的封裝，最后再發(fā)給客戶端。這個(gè)功能用戶進(jìn)程只是發(fā)生了一個(gè)封裝報(bào)文的過程，卻要繞一大圈。因此nginx引入了sendfile機(jī)制，使得內(nèi)核在接受到數(shù)據(jù)之后，不再依靠用戶進(jìn)程給予封裝，而是自己查找自己封裝，減少了一個(gè)很長(zhǎng)一段時(shí)間的浪費(fèi)，這是一個(gè)提升性能的核心點(diǎn)。

以上內(nèi)容摘自網(wǎng)友發(fā)布的文章，簡(jiǎn)單一句話是資源的處理，直接通過內(nèi)核層進(jìn)行數(shù)據(jù)傳遞，避免了數(shù)據(jù)傳遞到應(yīng)用層，應(yīng)用層再傳遞到內(nèi)核層的開銷。

目前高并發(fā)的處理，一般都采用sendfile模式。通過直接操作內(nèi)核層數(shù)據(jù)，減少應(yīng)用與內(nèi)核層數(shù)據(jù)傳遞。

2.3.3Nginx通信模型（I/O復(fù)用機(jī)制）

開發(fā)模型：epoll和kqueue。

支持的事件機(jī)制：kqueue、epoll、rt signals、/dev/poll 、event ports、select以及poll。

支持的kqueue特性包括EV_CLEAR、EV_DISABLE、NOTE_LOWAT、EV_EOF，可用數(shù)據(jù)的數(shù)量，錯(cuò)誤代碼.

支持sendfile、sendfile64和sendfilev;文件AIO；DIRECTIO;支持Accept-filters和TCP_DEFER_ACCEP.

以上概念較多，大家自行百度或谷歌，知識(shí)領(lǐng)域是網(wǎng)絡(luò)通信（BIO,NIO,AIO）和多線程方面的知識(shí)。

2.4均衡策略

nginx的負(fù)載均衡策略可以劃分為兩大類：內(nèi)置策略和擴(kuò)展策略。內(nèi)置策略包含加權(quán)輪詢和ip hash，在默認(rèn)情況下這兩種策略會(huì)編譯進(jìn)nginx內(nèi)核，只需在nginx配置中指明參數(shù)即可。擴(kuò)展策略有很多，如fair、通用hash、consistent hash等，默認(rèn)不編譯進(jìn)nginx內(nèi)核。由于在nginx版本升級(jí)中負(fù)載均衡的代碼沒有本質(zhì)性的變化，因此下面將以nginx1.0.15穩(wěn)定版為例，從源碼角度分析各個(gè)策略。

2.4.1. 加權(quán)輪詢（weighted round robin）

輪詢的原理很簡(jiǎn)單，首先我們介紹一下輪詢的基本流程。如下是處理一次請(qǐng)求的流程圖：

圖中有兩點(diǎn)需要注意：

第一，如果可以把加權(quán)輪詢算法分為先深搜索和先廣搜索，那么nginx采用的是先深搜索算法，即將首先將請(qǐng)求都分給高權(quán)重的機(jī)器，直到該機(jī)器的權(quán)值降到了比其他機(jī)器低，才開始將請(qǐng)求分給下一個(gè)高權(quán)重的機(jī)器；

第二，當(dāng)所有后端機(jī)器都down掉時(shí)，nginx會(huì)立即將所有機(jī)器的標(biāo)志位清成初始狀態(tài)，以避免造成所有的機(jī)器都處在timeout的狀態(tài)，從而導(dǎo)致整個(gè)前端被夯住。

2.4.2. ip hash

ip hash是nginx內(nèi)置的另一個(gè)負(fù)載均衡的策略，流程和輪詢很類似，只是其中的算法和具體的策略有些變化，如下圖所示：

2.4.3. fair

fair策略是擴(kuò)展策略，默認(rèn)不被編譯進(jìn)nginx內(nèi)核。其原理是根據(jù)后端服務(wù)器的響應(yīng)時(shí)間判斷負(fù)載情況，從中選出負(fù)載最輕的機(jī)器進(jìn)行分流。這種策略具有很強(qiáng)的自適應(yīng)性，但是實(shí)際的網(wǎng)絡(luò)環(huán)境往往不是那么簡(jiǎn)單，因此要慎用。

2.4.4 通用hash、一致性hash

這兩種也是擴(kuò)展策略，在具體的實(shí)現(xiàn)上有些差別，通用hash比較簡(jiǎn)單，可以以nginx內(nèi)置的變量為key進(jìn)行hash，一致性hash采用了nginx內(nèi)置的一致性hash環(huán)，可以支持memcache。

2.5場(chǎng)景

Ngnix一般作為入口負(fù)載均衡或內(nèi)部負(fù)載均衡，結(jié)合反向代理服務(wù)器使用。以下架構(gòu)示例，僅供參考，具體使用根據(jù)場(chǎng)景而定。

2.5.1入口負(fù)載均衡架構(gòu)

Ngnix服務(wù)器在用戶訪問的最前端。根據(jù)用戶請(qǐng)求再轉(zhuǎn)發(fā)到具體的應(yīng)用服務(wù)器或二級(jí)負(fù)載均衡服務(wù)器（LVS）

2.5.2內(nèi)部負(fù)載均衡架構(gòu)

LVS作為入口負(fù)載均衡，將請(qǐng)求轉(zhuǎn)發(fā)到二級(jí)Ngnix服務(wù)器，Ngnix再根據(jù)請(qǐng)求轉(zhuǎn)發(fā)到具體的應(yīng)用服務(wù)器。

本文名稱：大型網(wǎng)站架構(gòu)系列：負(fù)載均衡詳解（下）
URL網(wǎng)址：http://www.bm7419.com/news34/86734.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供微信公眾號(hào)、營(yíng)銷型網(wǎng)站建設(shè)、網(wǎng)站設(shè)計(jì)公司、定制開發(fā)、網(wǎng)站設(shè)計(jì)、網(wǎng)站收錄

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來源： 創(chuàng)新互聯(lián)