前言

當(dāng)我們需要處理成千上萬的的用戶請(qǐng)求時(shí)，當(dāng)一臺(tái)服務(wù)器可能無法滿足這千萬級(jí)別的請(qǐng)求時(shí)就可能需要擴(kuò)容，增加服務(wù)器的數(shù)量來維持響應(yīng)請(qǐng)求。服務(wù)器數(shù)量增多了，那流量如何均衡分配也是一個(gè)問題。這時(shí)就需要一個(gè)負(fù)載均衡，進(jìn)行協(xié)調(diào)可用服務(wù)器之間的流量。

本文主要講述使用 Golang 實(shí)現(xiàn)一個(gè)簡單的流浪均衡器。

負(fù)載均衡

負(fù)載均衡器就是一個(gè)能夠?qū)φ?qǐng)求流量通過算法將請(qǐng)求轉(zhuǎn)發(fā)到相應(yīng)的后端服務(wù)。其基本是在所有后端服務(wù)前置。一個(gè)用戶請(qǐng)求過來先經(jīng)過負(fù)載均衡器，然后由負(fù)載均衡器轉(zhuǎn)發(fā)請(qǐng)求到具體的后端服務(wù)上。所以其功能相對(duì)來說其實(shí)很簡單：轉(zhuǎn)發(fā)請(qǐng)求。其核心就是，均衡算法然后實(shí)現(xiàn)均衡轉(zhuǎn)發(fā)請(qǐng)求。常用的算法有以下幾種：

輪詢算法

輪詢法就是通過順序輪流轉(zhuǎn)發(fā)到后端服務(wù)器上。這種方式是最簡單的，只需要按照順序進(jìn)行分配，不關(guān)心各服務(wù)負(fù)載情況，只需關(guān)心服務(wù)是否可用。如果檢查服務(wù)存活可用則直接轉(zhuǎn)發(fā)到當(dāng)前服務(wù)。

所以這種方法比較適合用在多個(gè)服務(wù)器間硬件能力和處理能力都差不多的情況，然后對(duì)請(qǐng)求進(jìn)行拆分均衡的轉(zhuǎn)發(fā)到各服務(wù)上。

簡單實(shí)現(xiàn)輪詢例子：

type roundRobin struct {
    targets []*url.URL
    index   int
}

func (rr *roundRobin) nextTarget() *url.URL {
    target := rr.targets[rr.index]
    rr.index = (rr.index + 1) % len(rr.targets)
    return target
}

func (rr *roundRobin) ServeHTTP(w http.ResponseWriter, r *http.Request) {
    target := rr.nextTarget()
    proxy := httputil.NewSingleHostReverseProxy(target)
    proxy.ServeHTTP(w, r)
}

定義了一個(gè)名為 roundRobin 的結(jié)構(gòu)體，并實(shí)現(xiàn)了一個(gè)名為 nextTarget 的方法，該方法返回下一個(gè)目標(biāo)服務(wù)器的 URL。在 ServeHTTP 方法中，我們使用 nextTarget 方法獲取下一個(gè)目標(biāo)服務(wù)器的 URL，并創(chuàng)建一個(gè)反向代理對(duì)象來將請(qǐng)求轉(zhuǎn)發(fā)到選定的服務(wù)器。

加權(quán)輪詢算法

加圈輪詢算法是基于輪詢算法的。當(dāng)后端服務(wù)處理能力有差別的時(shí)候，比如可能A服務(wù)處理能力強(qiáng)于B服務(wù)2倍，那可以通過加權(quán)方式控制A服務(wù)處理請(qǐng)求多于B服務(wù)。

type serverWeight int

const (
	ServerA serverWeight = 6
	ServerB serverWeight = 3
	ServerC serverWeight = 1
)

比如以上配置表示，每有10個(gè)請(qǐng)求就會(huì)有6個(gè)會(huì)轉(zhuǎn)發(fā)到A服務(wù)器，3個(gè)轉(zhuǎn)發(fā)到B服務(wù)器，1個(gè)轉(zhuǎn)發(fā)到C服務(wù)器。

最少連接數(shù)算法

最小連接數(shù)是轉(zhuǎn)發(fā)依據(jù)始終是按照服務(wù)器當(dāng)前連接數(shù)最小的那個(gè)進(jìn)行轉(zhuǎn)發(fā)。這種方式可以更加有效的利用后端服務(wù)，合理的分流到各服務(wù)器。該算法不僅要檢查各服務(wù)是否有效，還需要記錄各服務(wù)已存在的連接數(shù)量。有點(diǎn)像連接池管理。

當(dāng)然最少連接數(shù)算法，也可以對(duì)它們?cè)黾訖?quán)重，即在比較連接數(shù)時(shí)同時(shí)考慮各服務(wù)的權(quán)重，被選中的服務(wù)器其連接數(shù)與權(quán)重的比要最小才能被選中。

詳細(xì)實(shí)現(xiàn)

定義結(jié)構(gòu)體

其他的算法，這里就不一一展開說明，想了解可以自己搜索。本文主要實(shí)踐使用最少連接算法的負(fù)責(zé)均衡器。所以一個(gè)均衡器的工作是查找連接數(shù)最少的服務(wù)，然后根據(jù)服務(wù)地址轉(zhuǎn)發(fā)出去。當(dāng)然還需要知道當(dāng)前可用服務(wù)是否存活。所以可以先定義一個(gè)記錄這些信息的結(jié)構(gòu)體，如服務(wù)請(qǐng)求地址，存活狀態(tài)、連接數(shù)等相關(guān)信息。

type Backend interface {
    GetURL() string
    GetConnections() int
}

type leastConn struct {
    targets []Backend
    mutex   sync.Mutex
}

func (lc *leastConn) leastTarget() Backend {
    var target Backend
    minConns := math.MaxInt32

    for _, t := range lc.targets {
        lc.mutex.Lock()
        conns := t.GetConnections()
        lc.mutex.Unlock()

        if conns < minConns {
            minConns = conns
            target = t
        }
    }
    return target
}

func (lc *leastConn) ServeHTTP(w http.ResponseWriter, r *http.Request) {
    target := lc.leastTarget()
    targetURL := target.GetURL()

    proxy := httputil.NewSingleHostReverseProxy(targetURL)
    proxy.ServeHTTP(w, r)
}

為了避免出現(xiàn)競爭情況，通過增加鎖來控制。RWMutex 適合用于讀多寫少的場景。支持多個(gè) goroutie 可以同時(shí)獲取讀鎖，但是寫時(shí)僅支持一個(gè) goroutine 占有。reverseProxy 官網(wǎng)的解釋：是一種 Http Handler ，接收請(qǐng)求并發(fā)送到另一臺(tái)服務(wù)器中，把響應(yīng)代理回客戶端。所以 ReverseProxy 的作用就是轉(zhuǎn)發(fā)原始的請(qǐng)求。

在上面的代碼中國，我們定義了一個(gè)名為 Backend 的接口，并實(shí)現(xiàn)了一個(gè)名為 leastConn 的結(jié)構(gòu)體。在 leastConn 結(jié)構(gòu)體中，我們使用 Backend 接口代替直接使用 URL 來表示服務(wù)器，這樣我們可以將任何實(shí)現(xiàn)了 Backend 接口的服務(wù)器添加到負(fù)載均衡器中。

在 leastTarget 方法中，我們使用 Backend 接口的方法來獲取每個(gè)服務(wù)器的當(dāng)前連接數(shù)，并選擇連接數(shù)最少的服務(wù)器來處理該請(qǐng)求。

以上就是Go語言實(shí)戰(zhàn)之實(shí)現(xiàn)均衡器功能的詳細(xì)內(nèi)容，更多關(guān)于Go均衡器的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章！