修改Python的pyxmpp2中的主循環(huán)使其提高性能
更新時(shí)間：2015年04月24日 10:05:32 作者：C Wong
這篇文章主要介紹了修改Python的pyxmpp2中的主循環(huán)使其提高性能,pyxmpp2是Python中使用需XMPP協(xié)議的一個(gè)常用工具,要的朋友可以參考下
引子
之前clubot使用的pyxmpp2的默認(rèn)mainloop也就是一個(gè)poll的主循環(huán),但是clubot上線后資源占用非常厲害,使用strace跟蹤發(fā)現(xiàn)clubot在不停的poll,查看pyxmpp2代碼發(fā)現(xiàn)pyxmpp2的poll在使用超時(shí)阻塞時(shí)使用最小超時(shí)時(shí)間,而最小超時(shí)時(shí)間一直是0,所以會(huì)變成一個(gè)沒(méi)有超時(shí)的非阻塞poll很浪費(fèi)資源,不打算更改庫(kù)代碼,所以自己仿照poll的mainloop寫(xiě)了一個(gè)更加高效的epoll的mainloop
實(shí)現(xiàn)
#!/usr/bin/env python
# -*- coding:utf-8 -*-
#
# Author : cold
# E-mail : wh_linux@126.com
# Date : 13/01/06 10:41:31
# Desc : Clubot epoll mainloop
#
from __future__ import absolute_import, division
import select
from pyxmpp2.mainloop.interfaces import HandlerReady, PrepareAgain
from pyxmpp2.mainloop.base import MainLoopBase
from plugin.util import get_logger
class EpollMainLoop(MainLoopBase):
""" Main event loop based on the epoll() syscall on Linux system """
READ_ONLY = (select.EPOLLIN | select.EPOLLPRI | select.EPOLLHUP |
select.EPOLLERR |select.EPOLLET)
READ_WRITE = READ_ONLY | select.EPOLLOUT
def __init__(self, settings = None, handlers= None):
self.epoll = select.epoll()
self._handlers = {}
self._unprepared_handlers = {}
self._timeout = None
self._exists_fd = {}
self.logger = get_logger()
MainLoopBase.__init__(self, settings, handlers)
return
def _add_io_handler(self, handler):
self._unprepared_handlers[handler] = None
self._configure_io_handler(handler)
def _configure_io_handler(self, handler):
if self.check_events():
return
if handler in self._unprepared_handlers:
old_fileno = self._unprepared_handlers[handler]
prepared = self._prepare_io_handler(handler)
else:
old_fileno = None
prepared = True
fileno = handler.fileno()
if old_fileno is not None and fileno != old_fileno:
del self._handlers[old_fileno]
self._exists.pop(old_fileno, None)
self.epoll.unregister(old_fileno)
if not prepared:
self._unprepared_handlers[handler] = fileno
if not fileno:
return
self._handlers[fileno] = handler
events = 0
if handler.is_readable():
events |= self.READ_ONLY
if handler.is_writable():
events |= self.READ_WRITE
if events:
if fileno in self._exists_fd:
self.epoll.modify(fileno, events)
else:
self._exists_fd.update({fileno:1})
self.epoll.register(fileno, events)
def _prepare_io_handler(self, handler):
ret = handler.prepare()
if isinstance(ret, HandlerReady):
del self._unprepared_handlers[handler]
prepared = True
elif isinstance(ret, PrepareAgain):
if ret.timeout is not None:
if self._timeout is not None:
self._timeout = min(self._timeout, ret.timeout)
else:
self._timeout = ret.timeout
prepared = False
else:
raise TypeError("Unexpected result from prepare()")
return prepared
def _remove_io_handler(self, handler):
if handler in self._unprepared_handlers:
old_fileno = self._unprepared_handlers[handler]
del self._unprepared_handlers[handler]
else:
old_fileno = handler.fileno()
if old_fileno is not None:
try:
del self._handlers[old_fileno]
self._exists.pop(old_fileno, None)
self.epoll.unregister(old_fileno)
except KeyError:
pass
def loop_iteration(self, timeout = 60):
next_timeout, sources_handled = self._call_timeout_handlers()
if self.check_events():
return
if self._quit:
return sources_handled
for handler in list(self._unprepared_handlers):
self._configure_io_handler(handler)
if self._timeout is not None:
timeout = min(timeout, self._timeout)
if next_timeout is not None:
timeout = min(next_timeout, timeout)
if timeout == 0:
timeout += 1 # 帶有超時(shí)的非阻塞,解約資源
events = self.epoll.poll(timeout)
for fd, flag in events:
if flag & (select.EPOLLIN | select.EPOLLPRI | select.EPOLLET):
self._handlers[fd].handle_read()
if flag & (select.EPOLLOUT|select.EPOLLET):
self._handlers[fd].handle_write()
if flag & (select.EPOLLERR | select.EPOLLET):
self._handlers[fd].handle_err()
if flag & (select.EPOLLHUP | select.EPOLLET):
self._handlers[fd].handle_hup()
#if flag & select.EPOLLNVAL:
#self._handlers[fd].handle_nval()
sources_handled += 1
self._configure_io_handler(self._handlers[fd])
return sources_handled
使用
如何使用新的mainloop?只需在實(shí)例化Client時(shí)傳入
mainloop = EpollMainLoop(settings) client = Client(my_jid, [self, version_provider], settings, mainloop)
這樣就會(huì)使用epoll作為mainloop
注意
epoll僅僅在Linux下支持
相關(guān)文章
利用Python開(kāi)發(fā)一個(gè)功能全面的Markdown編輯工具
這篇文章主要為大家詳細(xì)介紹了如何利用Python開(kāi)發(fā)一個(gè)功能全面的Markdown編輯工具,支持Markdown內(nèi)容的編輯,HTML預(yù)覽等功能,需要的可以參考下2025-03-03
解決keras模型保存h5文件提示無(wú)此目錄問(wèn)題
這篇文章主要介紹了解決keras模型保存h5文件提示無(wú)此目錄問(wèn)題，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2020-07-07
淺談keras中的后端backend及其相關(guān)函數(shù)(K.prod,K.cast)
這篇文章主要介紹了淺談keras中的后端backend及其相關(guān)函數(shù)(K.prod,K.cast)，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2020-06-06
這篇文章主要介紹了Python yield使用方法，大家參考使用吧2013-12-12
一篇文章講解用VScode寫(xiě)Python怎么運(yùn)行
這篇文章主要介紹了如何在Visual?Studio?Code（VSCode）中編寫(xiě)和運(yùn)行Python代碼,包括安裝VSCode、安裝Python插件、配置Python環(huán)境、創(chuàng)建和運(yùn)行Python文件、調(diào)試Python代碼、代碼格式化、代碼片段、Git集成以及單元測(cè)試等,需要的朋友可以參考下2024-12-12
hash()是Python 中的一個(gè)內(nèi)置函數(shù),用于計(jì)算對(duì)象的哈希值,哈希值是一個(gè)整數(shù),用于唯一標(biāo)識(shí)對(duì)象,下面這篇文章主要給大家介紹了關(guān)于Python中hash()函數(shù)之哈希值奧秘的相關(guān)資料,需要的朋友可以參考下2024-06-06
今天小編就為大家分享一篇Django中提示消息messages的設(shè)置方式，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2019-11-11
對(duì)Python3之進(jìn)程池與回調(diào)函數(shù)的實(shí)例詳解
今天小編就為大家分享一篇對(duì)Python3之進(jìn)程池與回調(diào)函數(shù)的實(shí)例詳解，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2019-01-01
python中sys.argv函數(shù)精簡(jiǎn)概括
本篇文章給大家分享了關(guān)于python中sys.argv函數(shù)的相關(guān)知識(shí)點(diǎn)，有興趣的朋友可以參考學(xué)習(xí)下。2018-07-07
關(guān)于PyQt5中QtGui.QImage圖片顯示問(wèn)題解析
PyQt作為Qt語(yǔ)言的Python擴(kuò)展，可以用來(lái)方便快速的開(kāi)發(fā)界面應(yīng)用，本文重點(diǎn)給大家介紹PyQt5中的QtGui.QImage圖片顯示問(wèn)題分析，需要的朋友可以參考下2022-03-03