Python多路復(fù)用selector模塊的基本使用
1. IO多路復(fù)用
O多路復(fù)用技術(shù)是使用一個(gè)可以同時(shí)監(jiān)視多個(gè)IO阻塞的中間人去監(jiān)視這些不同的IO對(duì)象,這些被監(jiān)視的任何一個(gè)或多個(gè)IO對(duì)象有消息返回,都將會(huì)觸發(fā)這個(gè)中間人將這些有消息IO對(duì)象返回,以供獲取他們的消息。
使用IO多路復(fù)用的優(yōu)點(diǎn)在于,進(jìn)程在單線程的情況下同樣可以同時(shí)處理多個(gè)IO阻塞。與傳統(tǒng)的多線程/多進(jìn)程模型比,I/O多路復(fù)用系統(tǒng)開(kāi)銷小,系統(tǒng)不需要?jiǎng)?chuàng)建新的進(jìn)程或者線程,也不需要維護(hù)這些進(jìn)程和線程的運(yùn)行,降底了系統(tǒng)的維護(hù)工作量,節(jié)省了系統(tǒng)資源,
Python提供了selector模塊來(lái)實(shí)現(xiàn)IO多路復(fù)用。同時(shí),不同的操作系統(tǒng)上,這中間人的可選則的類型是不同的,目前常見(jiàn)的有,epoll, kqueue, devpoll, poll,select等;kqueue(BSD,mac支持),devpoll(solaris支持)和epoll的實(shí)現(xiàn)基本相同,epoll在Linux2.5+內(nèi)核中實(shí)現(xiàn),Windows系統(tǒng)只實(shí)現(xiàn)了select。
1.1. epoll,poll, select的比較
select和poll使用輪詢的方式去檢測(cè)監(jiān)視的所有IO是否有數(shù)據(jù)返回,需要不斷的遍歷每一個(gè)IO對(duì)象,這是一種費(fèi)時(shí)的操作,效率較低。poll優(yōu)于select的一點(diǎn)是select限制了最大監(jiān)視IO數(shù)為1024,這對(duì)于需要大量網(wǎng)絡(luò)IO連接的服務(wù)器來(lái)顯然是不夠的;而poll對(duì)于這個(gè)個(gè)數(shù)沒(méi)有限制。但是這同樣面臨問(wèn)題,在使用輪詢的方式監(jiān)視這些IO時(shí),IO數(shù)越大,意味著每一次輪詢消耗的時(shí)間越多。效率也就越低,這是輪詢無(wú)法解決的問(wèn)題。
epoll就是為了解決這樣的問(wèn)題誕生的,首先他沒(méi)有最大的監(jiān)視的IO數(shù)的限制,并且沒(méi)有使用輪詢的方式去檢測(cè)這些IO,而是采用了事件通知機(jī)制和回調(diào)來(lái)獲取這些有消息返回的IO對(duì)象,只有“活躍”的IO才會(huì)主動(dòng)的去調(diào)用callback函數(shù)。這個(gè)IO將會(huì)直接被處理而不需要輪詢。
2. selector模塊的基本使用
import selectors
import socket
# 創(chuàng)建一個(gè)socketIO對(duì)象,監(jiān)聽(tīng)后將可以接受請(qǐng)求消息了
sock = socket.socket()
sock.bind(("127.0.0.1", 80))
sock.listen()
slt = selectors.DefaultSelector() # 使用系統(tǒng)默認(rèn)selector,Windows為select,linux為epoll
# 將這個(gè)socketIO對(duì)象加入到,select中監(jiān)視
slt.register(fileobj=sock, events=selectors.EVENT_READ, data=None)
# 循環(huán)處理消息
while True:
# select方法:輪詢這個(gè)selector,當(dāng)有至少一個(gè)IO對(duì)象有消息返回時(shí)候,將會(huì)返回這個(gè)有消息的IO對(duì)象
ready_events = slt.select(timeout=None)
print(ready_events) # 準(zhǔn)備好的IO對(duì)象們
break
ready_events 為一個(gè)列表(代表注冊(cè)到這個(gè)select中的所有的有數(shù)據(jù)可接收IO對(duì)象),列表中的每一個(gè)元組為:
SelectorKey對(duì)象:
- fileobj:注冊(cè)的socket對(duì)象
- fd:文件描述符
- data:注冊(cè)時(shí)我們傳入的參數(shù),可以是任意值,綁定到一個(gè)屬性上,方便之后使用。
mask值
- EVENT_READ : 表示可讀的; 它的值其實(shí)是1;
- EVENT_WRITE: 表示可寫(xiě)的; 它的值其實(shí)是2;
- 或者二者的組合
例如:
[(SelectorKey(fileobj=<socket.socket fd=456, family=AddressFamily.AF_INET, type=SocketKind.SOCK_STREAM, proto=0, laddr=('127.0.0.1', 80)>, fd=456, events=1, data=None),
1)]
處理這個(gè)請(qǐng)求,只需要使用該socket對(duì)應(yīng)方法即可,該socket用于接收請(qǐng)求的連接,使用accept方法就可以處理這個(gè)請(qǐng)求。
當(dāng)接受請(qǐng)求之后,又將會(huì)產(chǎn)生新的客戶端,我們將其放入selector中一并監(jiān)視,當(dāng)有消息來(lái)時(shí),如果是連接請(qǐng)求,handle_request()函數(shù)處理,如果是客戶端的消息,handle_client_msg()函數(shù)處理。
對(duì)于select中有兩類socket,所以我們需要判斷被激活后返回的socket是哪一種,再調(diào)用不同的函數(shù)做不同的請(qǐng)求。如果這個(gè)select中的socket種類有很多,將無(wú)法如此判斷。解決辦法就是將處理函數(shù)綁定到對(duì)應(yīng)的selectkey對(duì)象中,可以使用data參數(shù)。
def handle_request(sock:socket.socket, mask): # 處理新連接
conn, addr = sock.accept()
conn.setblocking(False) # 設(shè)定非阻塞
slt.register(conn, selector.EVENT_READ, data=handle_client_msg)
def handle_client_msg(sock:socket.socket, mask) # 處理消息
data = sock.recv()
print(data.decode())
sock = socket.socket()
sock.bind(("127.0.0.1", 80))
sock.listen()
slt = selectors.DefaultSelector()
slt.register(fileobj=sock, events=selectors.EVENT_READ, data=handle_request)
while True:
ready_events = slt.select(timeout=None)
for event, mask in ready_events:
event.data(event.fileobj, mask)
# 不同的socket有不同data函數(shù),使用自己綁定的data函數(shù)調(diào)用,再將自己的socket作為參數(shù)。就可以處理不同類型的socket。
上面使用data很好的解決了上面問(wèn)題,但是需要注意,綁定到data屬性上函數(shù)(或者說(shuō)可調(diào)用對(duì)象)最終會(huì)使用event.data(event.fileobj)的方式調(diào)用,這些函數(shù)接受的參數(shù)應(yīng)該相同。
到此這篇關(guān)于Python多路復(fù)用selector模塊的文章就介紹到這了,更多相關(guān)Python selector模塊內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
python機(jī)器學(xué)習(xí)XGBoost梯度提升決策樹(shù)的高效且可擴(kuò)展實(shí)現(xiàn)
這篇文章主要為大家介紹了python機(jī)器學(xué)習(xí)XGBoost梯度提升決策樹(shù)的高效且可擴(kuò)展實(shí)現(xiàn),有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2024-01-01
python使用Psutil模塊實(shí)現(xiàn)獲取計(jì)算機(jī)相關(guān)信息
psutil 是一個(gè)跨平臺(tái)的庫(kù),用于獲取進(jìn)程和系統(tǒng)運(yùn)行狀態(tài)的信息,這篇文章主要為大家詳細(xì)介紹了python如何調(diào)用psutil模塊實(shí)現(xiàn)獲取計(jì)算機(jī)相關(guān)信息,有需要的小伙伴可以了解下2023-11-11
Python的collections模塊中的OrderedDict有序字典
字典是無(wú)序的,但是collections的OrderedDict類為我們提供了一個(gè)有序的字典結(jié)構(gòu),名副其實(shí)的Ordered+Dict,下面通過(guò)兩個(gè)例子來(lái)簡(jiǎn)單了解下Python的collections模塊中的OrderedDict有序字典:2016-07-07
Keras目標(biāo)檢測(cè)mtcnn?facenet搭建人臉識(shí)別平臺(tái)
這篇文章主要為大家介紹了Keras目標(biāo)檢測(cè)mtcnn?facenet搭建人臉識(shí)別平臺(tái),有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2022-05-05
Python實(shí)現(xiàn)破解網(wǎng)站登錄密碼(帶token驗(yàn)證)
這篇文章主要為大家介紹一個(gè)Python暴力破解網(wǎng)站登錄密碼腳本(帶token驗(yàn)證),文中的過(guò)程講解詳細(xì),對(duì)我們學(xué)習(xí)Python有一定的幫助,感興趣的可以學(xué)習(xí)一下2022-02-02
基于Python實(shí)現(xiàn)簡(jiǎn)單的人臉識(shí)別系統(tǒng)
這篇文章主要介紹了如何通過(guò)Python實(shí)現(xiàn)一個(gè)簡(jiǎn)單的人臉識(shí)別系統(tǒng),文中的示例代碼講解詳細(xì),對(duì)我們學(xué)習(xí)Python有一定的幫助,感興趣的可以跟隨小編一起試一試2022-01-01

