Golang WaitGroup實(shí)現(xiàn)原理解析
原理解析
type WaitGroup struct {
noCopy noCopy
// 64-bit value: high 32 bits are counter, low 32 bits are waiter count.
// 64-bit atomic operations require 64-bit alignment, but 32-bit
// compilers only guarantee that 64-bit fields are 32-bit aligned.
// For this reason on 32 bit architectures we need to check in state()
// if state1 is aligned or not, and dynamically "swap" the field order if
// needed.
state1 uint64
state2 uint32
}
其中 noCopy 是 golang 源碼中檢測禁止拷貝的技術(shù)。如果程序中有 WaitGroup 的賦值行為,使用 go vet 檢查程序時(shí),就會(huì)發(fā)現(xiàn)有報(bào)錯(cuò)。但需要注意的是,noCopy 不會(huì)影響程序正常的編譯和運(yùn)行。
state1字段
- 高32位為counter,代表目前尚未完成的協(xié)程個(gè)數(shù)。
- 低32位為waiter,代表目前已調(diào)用
Wait的 goroutine 的個(gè)數(shù),因?yàn)?code>wait可以被多個(gè)協(xié)程調(diào)用。
state2為信號量。
WaitGroup 的整個(gè)調(diào)用過程可以簡單地描述成下面這樣:
- 當(dāng)調(diào)用
WaitGroup.Add(n)時(shí),counter 將會(huì)自增:counter + n - 當(dāng)調(diào)用
WaitGroup.Wait()時(shí),會(huì)將waiter++。同時(shí)調(diào)用runtime_Semacquire(semap), 增加信號量,并掛起當(dāng)前 goroutine。 - 當(dāng)調(diào)用
WaitGroup.Done()時(shí),將會(huì)counter--。如果自減后的 counter 等于 0,說明 WaitGroup 的等待過程已經(jīng)結(jié)束,則需要調(diào)用runtime_Semrelease釋放信號量,喚醒正在WaitGroup.Wait的 goroutine。
關(guān)于內(nèi)存對其
func (wg *WaitGroup) state() (statep *uint64, semap *uint32) {
if unsafe.Alignof(wg.state1) == 8 || uintptr(unsafe.Pointer(&wg.state1))%8 == 0 {
// state1 is 64-bit aligned: nothing to do.
return &wg.state1, &wg.state2
} else {
// state1 is 32-bit aligned but not 64-bit aligned: this means that
// (&state1)+4 is 64-bit aligned.
state := (*[3]uint32)(unsafe.Pointer(&wg.state1))
return (*uint64)(unsafe.Pointer(&state[1])), &state[0]
}
}
如果變量是 64 位對齊 (8 byte), 則該變量的起始地址是 8 的倍數(shù)。如果變量是 32 位對齊 (4 byte),則該變量的起始地址是 4 的倍數(shù)。
當(dāng) state1 是 32 位的時(shí)候,那么state1被當(dāng)成是一個(gè)數(shù)組[3]uint32,數(shù)組的第一位是semap,第二三位存儲著counter, waiter正好是64位。
為什么會(huì)有這種奇怪的設(shè)定呢?這里涉及兩個(gè)前提:
前提 1:在 WaitGroup 的真實(shí)邏輯中, counter 和 waiter 被合在了一起,當(dāng)成一個(gè) 64 位的整數(shù)對外使用。當(dāng)需要變化 counter 和 waiter 的值的時(shí)候,也是通過 atomic 來原子操作這個(gè) 64 位整數(shù)。
前提 2:在 32 位系統(tǒng)下,如果使用 atomic 對 64 位變量進(jìn)行原子操作,調(diào)用者需要自行保證變量的 64 位對齊,否則將會(huì)出現(xiàn)異常。golang 的官方文檔 sync/atomic/#pkg-note-BUG 原文是這么說的:
On ARM, x86-32, and 32-bit MIPS, it is the caller’s responsibility to arrange for 64-bit alignment of 64-bit words accessed atomically. The first word in a variable or in an allocated struct, array, or slice can be relied upon to be 64-bit aligned.
因此,在前提 1 的情況下,WaitGroup 需要對 64 位進(jìn)行原子操作。根據(jù)前提 2,WaitGroup 需要自行保證 count+waiter 的 64 位對齊。
這個(gè)方法非常的巧妙,只不過是改變 semap 的位置順序,就既可以保證 counter+waiter 一定會(huì) 64 位對齊,也可以保證內(nèi)存的高效利用。
注: 有些文章會(huì)講到,WaitGroup 兩種不同的內(nèi)存布局方式是 32 位系統(tǒng)和 64 位系統(tǒng)的區(qū)別,這其實(shí)不太嚴(yán)謹(jǐn)。準(zhǔn)確的說法是 32 位對齊和 64 位對齊的區(qū)別。因?yàn)樵?32 位系統(tǒng)下,state1 變量也有可能恰好符合 64 位對齊。
在sync.mutex的源碼中就沒有出現(xiàn)內(nèi)存對其的操作,雖然它也有大量的atomic操作,那是因?yàn)?code>state int32。
在sync.mutex中也是將四個(gè)狀態(tài)存在一個(gè)變量地址,其實(shí)這么做的目的就是為了實(shí)現(xiàn)原子操作,因?yàn)闆]有辦法同時(shí)修改多個(gè)變量還要保證原子性。
WaitGroup 直接把 counter 和 waiter 看成了一個(gè)統(tǒng)一的 64 位變量。其中 counter 是這個(gè)變量的高 32 位,waiter 是這個(gè)變量的低 32 位。 在需要改變 counter 時(shí), 通過將累加值左移 32 位的方式。
這里的原子操作并沒有使用Mutex或者RWMutex這樣的鎖,主要是因?yàn)殒i會(huì)帶來不小的性能損耗,存在上下文切換,而對于單個(gè)內(nèi)存地址的原子操作最好的方式是atomic,因?yàn)檫@是由底層硬件提供的支持(CPU指令),粒度更小,性能更高。
源碼部分
func (wg *WaitGroup) Add(delta int) {
// wg.state()返回的是地址
statep, semap := wg.state()
// 原子操作,修改statep高32位的值,即counter的值
state := atomic.AddUint64(statep, uint64(delta)<<32)
// 右移32位,使高32位變成了低32,得到counter的值
v := int32(state >> 32)
// 直接取低32位,得到waiter的值
w := uint32(state)
// 不規(guī)范的操作
if v < 0 {
panic("sync: negative WaitGroup counter")
}
// 不規(guī)范的操作
if w != 0 && delta > 0 && v == int32(delta) {
panic("sync: WaitGroup misuse: Add called concurrently with Wait")
}
// 這是正常的情況
if v > 0 || w == 0 {
return
}
// 剩下的就是 counter == 0 且 waiter != 0 的情況
// 在這個(gè)情況下,*statep 的值就是 waiter 的值,否則就有問題
// 在這個(gè)情況下,所有的任務(wù)都已經(jīng)完成,可以將 *statep 整個(gè)置0
// 同時(shí)向所有的Waiter釋放信號量
// This goroutine has set counter to 0 when waiters > 0.
// Now there can't be concurrent mutations of state:
// - Adds must not happen concurrently with Wait,
// - Wait does not increment waiters if it sees counter == 0.
// Still do a cheap sanity check to detect WaitGroup misuse.
if *statep != state {
panic("sync: WaitGroup misuse: Add called concurrently with Wait")
}
// Reset waiters count to 0.
*statep = 0
for ; w != 0; w-- {
runtime_Semrelease(semap, false, 0)
}
}func (wg *WaitGroup) Done() {
wg.Add(-1)
}
func (wg *WaitGroup) Wait() {
// wg.state()返回的是地址
statep, semap := wg.state()
// for循環(huán)是配合CAS操作
for {
state := atomic.LoadUint64(statep)
v := int32(state >> 32) // counter
w := uint32(state) // waiter
// 如果counter為0,說明所有的任務(wù)在調(diào)用Wait的時(shí)候就已經(jīng)完成了,直接退出
// 這就要求,必須在同步的情況下調(diào)用Add(),否則Wait可能先退出了
if v == 0 {
return
}
// waiter++,原子操作
if atomic.CompareAndSwapUint64(statep, state, state+1) {
// 如果自增成功,則獲取信號量,此處信號量起到了同步的作用
runtime_Semacquire(semap)
return
}
}
}
總結(jié)一下,WaitGroup 的原理就五個(gè)點(diǎn):內(nèi)存對齊,原子操作,counter,waiter,信號量。
- 內(nèi)存對齊的作用是為了原子操作。
- counter的增減使用原子操作,counter的作用是一旦為0就釋放全部信號量。
- waiter的自增使用原子操作,waiter的作用是表明要釋放多少信號量。
到此這篇關(guān)于Golang WaitGroup實(shí)現(xiàn)原理解析的文章就介紹到這了,更多相關(guān)Go WaitGroup內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Golang中類型轉(zhuǎn)換利器cast庫的用法詳解
cast庫是一個(gè)簡潔而強(qiáng)大的第三方庫,它的主要功能是實(shí)現(xiàn)類型之間的安全轉(zhuǎn)換,而在Golang開發(fā)中,類型轉(zhuǎn)換是一個(gè)常見且不可避免的過程,下面我們就來看看cast庫在Golang中的具體應(yīng)用吧2024-11-11
使用Golang?Validator包實(shí)現(xiàn)數(shù)據(jù)驗(yàn)證詳解
在開發(fā)過程中,數(shù)據(jù)驗(yàn)證是一個(gè)非常重要的環(huán)節(jié),而golang中的Validator包是一個(gè)非常常用和強(qiáng)大的數(shù)據(jù)驗(yàn)證工具,提供了簡單易用的API和豐富的驗(yàn)證規(guī)則,下面我們就來看看Validator包的具體使用吧2023-12-12

