詳解go-zero如何實(shí)現(xiàn)計(jì)數(shù)器限流

更新時(shí)間：2023年08月08日 09:41:23 作者：AlwaysBeta

這篇文章主要來(lái)和大家說(shuō)說(shuō)限流，主要包括計(jì)數(shù)器限流算法以及具體的代碼實(shí)現(xiàn)，文中的示例代碼講解詳細(xì)，感興趣的小伙伴可以跟隨小編一起學(xué)習(xí)一下

固定窗口計(jì)數(shù)器

算法概念如下：

將時(shí)間劃分為多個(gè)窗口；
在每個(gè)窗口內(nèi)每有一次請(qǐng)求就將計(jì)數(shù)器加一；
如果計(jì)數(shù)器超過(guò)了限制數(shù)量，則本窗口內(nèi)所有的請(qǐng)求都被丟棄當(dāng)時(shí)間到達(dá)下一個(gè)窗口時(shí)，計(jì)數(shù)器重置。

固定窗口計(jì)數(shù)器是最為簡(jiǎn)單的算法，但這個(gè)算法有時(shí)會(huì)讓通過(guò)請(qǐng)求量允許為限制的兩倍。

考慮如下情況：限制 1 秒內(nèi)最多通過(guò) 5 個(gè)請(qǐng)求，在第一個(gè)窗口的最后半秒內(nèi)通過(guò)了 5 個(gè)請(qǐng)求，第二個(gè)窗口的前半秒內(nèi)又通過(guò)了 5 個(gè)請(qǐng)求。這樣看來(lái)就是在 1 秒內(nèi)通過(guò)了 10 個(gè)請(qǐng)求。

滑動(dòng)窗口計(jì)數(shù)器

算法概念如下：

將時(shí)間劃分為多個(gè)區(qū)間；
在每個(gè)區(qū)間內(nèi)每有一次請(qǐng)求就將計(jì)數(shù)器加一維持一個(gè)時(shí)間窗口，占據(jù)多個(gè)區(qū)間；
每經(jīng)過(guò)一個(gè)區(qū)間的時(shí)間，則拋棄最老的一個(gè)區(qū)間，并納入最新的一個(gè)區(qū)間；
如果當(dāng)前窗口內(nèi)區(qū)間的請(qǐng)求計(jì)數(shù)總和超過(guò)了限制數(shù)量，則本窗口內(nèi)所有的請(qǐng)求都被丟棄。

滑動(dòng)窗口計(jì)數(shù)器是通過(guò)將窗口再細(xì)分，并且按照時(shí)間滑動(dòng)，這種算法避免了固定窗口計(jì)數(shù)器帶來(lái)的雙倍突發(fā)請(qǐng)求，但時(shí)間區(qū)間的精度越高，算法所需的空間容量就越大。

go-zero 實(shí)現(xiàn)

go-zero 實(shí)現(xiàn)的是固定窗口的方式，計(jì)算一段時(shí)間內(nèi)對(duì)同一個(gè)資源的訪問(wèn)次數(shù)，如果超過(guò)指定的 limit，則拒絕訪問(wèn)。當(dāng)然如果在一段時(shí)間內(nèi)訪問(wèn)不同的資源，每一個(gè)資源訪問(wèn)量都不超過(guò) limit，此種情況是不會(huì)拒絕的。

而在一個(gè)分布式系統(tǒng)中，存在多個(gè)微服務(wù)提供服務(wù)。所以當(dāng)瞬間的流量同時(shí)訪問(wèn)同一個(gè)資源，如何讓計(jì)數(shù)器在分布式系統(tǒng)中正常計(jì)數(shù)？

這里要解決的一個(gè)主要問(wèn)題就是計(jì)算的原子性，保證多個(gè)計(jì)算都能得到正確結(jié)果。

通過(guò)以下兩個(gè)方面來(lái)解決：

使用 redis 的 incrby 做資源訪問(wèn)計(jì)數(shù)
采用 lua script 做整個(gè)窗口計(jì)算，保證計(jì)算的原子性

接下來(lái)先看一下 lua script 的源碼：

//?core/limit/periodlimit.go
const?periodScript?=?`local?limit?=?tonumber(ARGV[1])
local?window?=?tonumber(ARGV[2])
local?current?=?redis.call("INCRBY",?KEYS[1],?1)
if?current?==?1?then
????redis.call("expire",?KEYS[1],?window)
end
if?current?<?limit?then
????return?1
elseif?current?==?limit?then
????return?2
else
????return?0
end`

主要就是使用 INCRBY 命令來(lái)實(shí)現(xiàn)，第一次請(qǐng)求需要給 key 加上一個(gè)過(guò)期時(shí)間，到達(dá)過(guò)期時(shí)間之后，key 過(guò)期被清楚，重新計(jì)數(shù)。

限流器初始化：

type?(
????//?PeriodOption?defines?the?method?to?customize?a?PeriodLimit.
????PeriodOption?func(l?*PeriodLimit)
????//?A?PeriodLimit?is?used?to?limit?requests?during?a?period?of?time.
????PeriodLimit?struct?{
????????period?????int??//?窗口大小，單位?s
????????quota??????int??//?請(qǐng)求上限
????????limitStore?*redis.Redis
????????keyPrefix??string???//?key?前綴
????????align??????bool
????}
)
//?NewPeriodLimit?returns?a?PeriodLimit?with?given?parameters.
func?NewPeriodLimit(period,?quota?int,?limitStore?*redis.Redis,?keyPrefix?string,
????opts?...PeriodOption)?*PeriodLimit?{
????limiter?:=?&PeriodLimit{
????????period:?????period,
????????quota:??????quota,
????????limitStore:?limitStore,
????????keyPrefix:??keyPrefix,
????}
????for?_,?opt?:=?range?opts?{
????????opt(limiter)
????}
????return?limiter
}

調(diào)用限流：

//?key?就是需要被限制的資源標(biāo)識(shí)
func?(h?*PeriodLimit)?Take(key?string)?(int,?error)?{
????return?h.TakeCtx(context.Background(),?key)
}
//?TakeCtx?requests?a?permit?with?context,?it?returns?the?permit?state.
func?(h?*PeriodLimit)?TakeCtx(ctx?context.Context,?key?string)?(int,?error)?{
????resp,?err?:=?h.limitStore.EvalCtx(ctx,?periodScript,?[]string{h.keyPrefix?+?key},?[]string{
????????strconv.Itoa(h.quota),
????????strconv.Itoa(h.calcExpireSeconds()),
????})
????if?err?!=?nil?{
????????return?Unknown,?err
????}
????code,?ok?:=?resp.(int64)
????if?!ok?{
????????return?Unknown,?ErrUnknownCode
????}
????switch?code?{
????case?internalOverQuota:?//?超過(guò)上限
????????return?OverQuota,?nil
????case?internalAllowed:???//?未超過(guò)，允許訪問(wèn)
????????return?Allowed,?nil
????case?internalHitQuota:??//?正好達(dá)到限流上限
????????return?HitQuota,?nil
????default:
????????return?Unknown,?ErrUnknownCode
????}
}

到此這篇關(guān)于詳解go-zero如何實(shí)現(xiàn)計(jì)數(shù)器限流的文章就介紹到這了,更多相關(guān)go-zero計(jì)數(shù)器限流內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！

您可能感興趣的文章: