前言

一般來(lái)說(shuō)，我們?cè)谠O(shè)計(jì)系統(tǒng)的時(shí)候，為了系統(tǒng)的高擴(kuò)展性，會(huì)盡可能的創(chuàng)建無(wú)狀態(tài)的系統(tǒng)，這樣我們就可以采用集群的方式部署，最終很方便的根據(jù)需要?jiǎng)討B(tài)增減服務(wù)器數(shù)量。但是，要使系統(tǒng)具有更好的可擴(kuò)展性，除了無(wú)狀態(tài)設(shè)計(jì)之外，還要考慮采用什么負(fù)載均衡算法，本文就帶領(lǐng)大家認(rèn)識(shí)以下常見(jiàn)的4種負(fù)載均衡算法。

什么是負(fù)載均衡

負(fù)載均衡是指多臺(tái)服務(wù)器以對(duì)稱(chēng)的方式組成一個(gè)服務(wù)器集群。每臺(tái)服務(wù)器的地位相當(dāng)（但不同的服務(wù)器可能性能不同），可以獨(dú)立提供服務(wù)，無(wú)需其他服務(wù)器的輔助。為了保證系統(tǒng)的可擴(kuò)展性，需要有一種算法能夠?qū)⑾到y(tǒng)負(fù)載平均分配給集群中的每臺(tái)服務(wù)器。這種算法稱(chēng)為負(fù)載均衡算法。負(fù)責(zé)執(zhí)行負(fù)載均衡算法并平均分配請(qǐng)求的服務(wù)器稱(chēng)為負(fù)載均衡器。

隨機(jī)算法

隨機(jī)算法非常簡(jiǎn)單，該算法的核心是通過(guò)隨機(jī)函數(shù)隨機(jī)獲取一個(gè)服務(wù)器進(jìn)行訪(fǎng)問(wèn)。假設(shè)我們現(xiàn)在有四臺(tái)服務(wù)器，192.168.1.1~ 192.168.1.4, 該算法用java實(shí)現(xiàn)大致如下：

public class RandomTest {
    private static final List<String> servers = Arrays.asList("192.168.1.1", "192.168.1.2", "192.168.1.3", "192.168.1.4");
    public static String getServer() {
        Random random = new Random();
        int index = random.nextInt(servers.size());
        return servers.get(index);
    }
    public static void main(String[] args) {
        for (int i = 0; i < 10; i++) {
            String server = getServer();
            System.out.println("select server: "+server);
        }
    }
}

當(dāng)樣本較小時(shí)，算法可能分布不均勻，但根據(jù)概率論，樣本越大，負(fù)載會(huì)越均勻，而負(fù)載均衡算法本來(lái)就是為應(yīng)對(duì)高并發(fā)場(chǎng)景而設(shè)計(jì)的。該算法的另一個(gè)缺點(diǎn)是所有機(jī)器都有相同的訪(fǎng)問(wèn)概率, 如果服務(wù)器性能不同，負(fù)載將不平衡。

輪詢(xún)算法

Round-Robin輪詢(xún)算法是另一種經(jīng)典的負(fù)載均衡算法。請(qǐng)求以循環(huán)的方式分發(fā)到集群中的所有服務(wù)器。同理，對(duì)于上述四臺(tái)服務(wù)器，假設(shè)客戶(hù)端向集群發(fā)送10個(gè)請(qǐng)求，則請(qǐng)求分布將如下圖所示：

在十個(gè)請(qǐng)求中，第一、第五和第九個(gè)請(qǐng)求將分配給192.168.1.1，第二、第六和第十個(gè)請(qǐng)求將分配給192.168.1.2，依此類(lèi)推。我們可以看到round-robin算法可以在集群中均勻的分配請(qǐng)求。但是，該算法具有與隨機(jī)算法相同的缺點(diǎn)，如果服務(wù)器性能不同，負(fù)載將不平衡，因此需要加權(quán)輪詢(xún)算法。

加權(quán)輪詢(xún)算法

Weighted Round-Robin加權(quán)輪詢(xún)算法是在round-robin算法的基礎(chǔ)上根據(jù)服務(wù)器的性能分配權(quán)重。服務(wù)器能支持的請(qǐng)求越多，權(quán)重就越高，分配的請(qǐng)求也就越多。對(duì)于同樣的10個(gè)請(qǐng)求，使用加權(quán)輪詢(xún)算法的請(qǐng)求分布會(huì)如下圖所示：

可以看到192.168.1.4權(quán)重最大，分配的請(qǐng)求數(shù)最多?？匆幌率褂肑ava簡(jiǎn)單實(shí)現(xiàn)的以下加權(quán)循環(huán)算法。

public class RoundRobinTest {
    public class Node{
        private String ip;
        private Integer weight;
        private Integer currentWeight;
        public Node(String ip,Integer weight) {
            this.ip = ip;
            this.weight = weight;
            this.currentWeight = weight;
        }
        public String getIp() {
            return ip;
        }
        public void setIp(String ip) {
            this.ip = ip;
        }
        public Integer getWeight() {
            return weight;
        }
        public void setWeight(Integer weight) {
            this.weight = weight;
        }
        public Integer getCurrentWeight() {
            return currentWeight;
        }
        public void setCurrentWeight(Integer currentWeight) {
            this.currentWeight = currentWeight;
        }
    }
    List<Node> servers = Arrays.asList(
            new Node("192.168.1.1",1),
            new Node("192.168.1.2",2),
            new Node("192.168.1.3",3),
            new Node("192.168.1.4",4));
    private Integer totalWeight;
    public RoundRobinTest() {
        this.totalWeight = servers.stream()
                .mapToInt(Node::getWeight)
                .reduce((a,b)->a+b).getAsInt();
    }
    public String getServer() {
        Node node = servers.stream().max(Comparator.comparingInt(Node::getCurrentWeight)).get();
        node.setCurrentWeight(node.getCurrentWeight()-totalWeight);
        servers.forEach(server->server.setCurrentWeight(server.getCurrentWeight()+server.getWeight()));
        return node.getIp();
    }
    public static void main(String[] args) {
        RoundRobinTest roundRobinTest = new RoundRobinTest();
        for (int i = 0; i < 10; i++) {
            String server = roundRobinTest.getServer();
            System.out.println("select server: "+server);
        }
    }

該算法的核心是的動(dòng)態(tài)計(jì)算currentWeight。每個(gè)服務(wù)器被選中后，currentWeight需要減去所有服務(wù)器的權(quán)重之和，這樣可以避免權(quán)重高的服務(wù)器一直被選中。權(quán)重高的服務(wù)器有更多的分配請(qǐng)求，請(qǐng)求可以平均分配給所有服務(wù)器。

哈希算法

哈希算法，顧名思義，就是利用哈希表根據(jù) 計(jì)算出請(qǐng)求的路由hashcode%N。這里hashcode代表哈希值，N代表服務(wù)器數(shù)量。該算法的優(yōu)點(diǎn)是實(shí)現(xiàn)起來(lái)非常簡(jiǎn)單。具體實(shí)現(xiàn)如下：

private static final List<String> servers = Arrays.asList("192.168.1.1", "192.168.1.2", "192.168.1.3", "192.168.1.4");
    public static String getServer(String key) {
        int hash = key.hashCode();
        int index =  hash%servers.size();
        return servers.get(index);
    }
    public static void main(String[] args) {
        for (int i = 0; i < 10; i++) {
            String server = getServer(String.valueOf(i));
            System.out.println("select server: "+server);
        }
    }

哈希算法在很多緩存分布式存儲(chǔ)系統(tǒng)中很常見(jiàn)，比如Memorycached和Redis，但是一般不會(huì)用到上面的哈希算法，而是優(yōu)化后的一致性哈希算法。

補(bǔ). 源地址哈希法

源地址哈希法是一種負(fù)載均衡算法，它基于請(qǐng)求的源IP地址來(lái)確定請(qǐng)求應(yīng)該分配給哪個(gè)后端服務(wù)器。通過(guò)使用哈希函數(shù)將源IP地址映射到服務(wù)器列表中的一個(gè)服務(wù)器，可以實(shí)現(xiàn)對(duì)請(qǐng)求的分散和負(fù)載均衡。

使用源地址哈希法的負(fù)載均衡過(guò)程如下：

• 維護(hù)一個(gè)服務(wù)器列表，其中包含所有可用的后端服務(wù)器。
• 當(dāng)收到一個(gè)新的請(qǐng)求時(shí)，使用哈希函數(shù)計(jì)算請(qǐng)求的源IP地址的哈希值。
• 將哈希值與服務(wù)器列表的大小取模，得到一個(gè)索引值。
• 將請(qǐng)求發(fā)送到索引值對(duì)應(yīng)的服務(wù)器，并等待響應(yīng)。

通過(guò)源地址哈希法，相同的源IP地址將始終映射到同一個(gè)后端服務(wù)器，從而實(shí)現(xiàn)了會(huì)話(huà)的保持。這對(duì)于某些應(yīng)用場(chǎng)景（例如需要保持會(huì)話(huà)狀態(tài)）非常重要。

源地址哈希法的優(yōu)點(diǎn)是能夠?qū)崿F(xiàn)請(qǐng)求的一致性分配，相同的源IP地址將被分配到同一個(gè)服務(wù)器上，避免了會(huì)話(huà)中斷和數(shù)據(jù)不一致的問(wèn)題。然而，當(dāng)服務(wù)器列表發(fā)生變化時(shí)（例如服務(wù)器上線(xiàn)或下線(xiàn)），會(huì)導(dǎo)致哈希結(jié)果的變化，可能會(huì)導(dǎo)致一些請(qǐng)求重新分配給其他服務(wù)器

總結(jié)

本文總結(jié)了負(fù)載均衡常見(jiàn)的4種算法，我們可以發(fā)現(xiàn)nginx或者spring cloud中的ribbon都使用到了這樣的算法思想，我們可以根據(jù)自己的業(yè)務(wù)場(chǎng)景選擇合適算法。

到此這篇關(guān)于Java常見(jiàn)的四種負(fù)載均衡算法的文章就介紹到這了,更多相關(guān)Java 負(fù)載均衡 內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！