python 監(jiān)聽salt job狀態(tài),并任務(wù)數(shù)據(jù)推送到redis中的方法
salt分發(fā)后,主動將已完成的任務(wù)數(shù)據(jù)推送到redis中,使用redis的生產(chǎn)者模式,進行消息傳送
#coding=utf-8
import fnmatch,json,logging
import salt.config
import salt.utils.event
from salt.utils.redis import RedisPool
import sys,os,datetime,random
import multiprocessing,threading
from joi.utils.gobsAPI import PostWeb
logger = logging.getLogger(__name__)
opts = salt.config.client_config('/data/salt/saltstack/etc/salt/master')
r_conn = RedisPool(opts.get('redis_db')).getConn()
lock = threading.Lock()
class RedisQueueDaemon(object):
'''
redis 隊列監(jiān)聽器
'''
def __init__(self,r_conn):
self.r_conn = r_conn #redis 連接實例
self.task_queue = 'task:prod:queue' #任務(wù)消息隊列
def listen_task(self):
'''
監(jiān)聽主函數(shù)
'''
while True:
queue_item = self.r_conn.blpop(self.task_queue,0)[1]
print "queue get",queue_item
#self.run_task(queue_item)
t = threading.Thread(target=self.run_task,args=(queue_item,))
t.start()
def run_task(self,info):
'''
執(zhí)行操作函數(shù)
'''
lock.acquire()
info = json.loads(info)
if info['type'] == 'pushTaskData':
task_data = self.getTaskData(info['jid'])
task_data = json.loads(task_data) if task_data else []
logger.info('獲取緩存數(shù)據(jù):%s' % task_data)
if task_data:
if self.sendTaskData2bs(task_data):
task_data = []
self.setTaskData(info['jid'], task_data)
elif info['type'] == 'setTaskState':
self.setTaskState(info['jid'],info['state'],info['message'])
elif info['type'] == 'setTaskData':
self.setTaskData(info['jid'], info['data'])
lock.release()
def getTaskData(self,jid):
return self.r_conn.hget('task:'+jid,'data')
def setTaskData(self,jid,data):
self.r_conn.hset('task:'+jid,'data',json.dumps(data))
def sendTaskData2bs(self,task_data):
logger.info('發(fā)送任務(wù)數(shù)據(jù)到后端...')
logger.info(task_data)
if task_data:
p = PostWeb('/jgapi/verify',task_data,'pushFlowTaskData')
result = p.postRes()
print result
if result['code']:
logger.info('發(fā)送成功!')
return True
else:
logger.error('發(fā)送失?。?)
return False
else:
return True
def setTaskState(self,jid,state,message=''):
logger.info('到后端設(shè)置任務(wù)【%s】狀態(tài)' % str(jid))
p = PostWeb('/jgapi/verify',{'code':jid,'state':'success','message':message},'setTaskState')
result = p.postRes()
if result['code']:
logger.info('設(shè)置任務(wù)【%s】狀態(tài)成功!' % str(jid))
return True,result
else:
logger.error('設(shè)置任務(wù)【%s】狀態(tài)失敗!' % str(jid))
return result
def salt_job_listener():
'''
salt job 監(jiān)聽器
'''
sevent = salt.utils.event.get_event(
'master',
sock_dir=opts['sock_dir'],
transport=opts['transport'],
opts=opts)
while True:
ret = sevent.get_event(full=True)
if ret is None:
continue
if fnmatch.fnmatch(ret['tag'], 'salt/job/*/ret/*'):
task_key = 'task:'+ret['data']['jid']
task_state = r_conn.hget(task_key,'state')
task_data = r_conn.hget(task_key,'data')
if task_state:
jid_data = {
'code':ret['data']['jid'],
'project_id':settings.SALT_MASTER_OPTS['project_id'],
'serverip':ret['data']['id'],
'returns':ret['data']['return'],
'name':ret['data']['id'],
'state':'success' if ret['data']['success'] else 'failed',
}
task_data = json.loads(task_data) if task_data else []
task_data.append(jid_data)
logger.info("新增數(shù)據(jù):%s" % json.dumps(task_data))
r_conn.lpush('task:prod:queue',json.dumps({'type':'setTaskData','jid':ret['data']['jid'],'data':task_data}))
#r_conn.hset(task_key,'data',json.dumps(task_data))
if task_state == 'running':
if len(task_data)>=1:
logger.info('新增消息到隊列:pushTaskData')
r_conn.lpush('task:prod:queue',json.dumps({'jid':ret['data']['jid'],'type':'pushTaskData'}))
else:
logger.info('任務(wù){(diào)0}完成,發(fā)送剩下的數(shù)據(jù)到后端...'.format(task_key))
logger.info('新增消息到隊列:pushTaskData')
r_conn.lpush('task:prod:queue',json.dumps({'jid':ret['data']['jid'],'type':'pushTaskData'}))
print datetime.datetime.now()
def run():
print 'start redis product queue listerner...'
logger.info('start redis product queue listerner...')
multiprocessing.Process(target=RedisQueueDaemon(r_conn).listen_task,args=()).start()
print 'start salt job listerner...'
logger.info('start salt job listerner...')
multiprocessing.Process(target=salt_job_listener,args=()).start()
'''
p=multiprocessing.Pool(2)
print 'start redis product queue listerner...'
p.apply_async(redis_queue_listenr,())
print 'start salt job listerner...'
p.apply_async(salt_job_listener,())
p.close()
p.join()
'''
以上這篇python 監(jiān)聽salt job狀態(tài),并任務(wù)數(shù)據(jù)推送到redis中的方法就是小編分享給大家的全部內(nèi)容了,希望能給大家一個參考,也希望大家多多支持腳本之家。
- Python 通過監(jiān)聽端口實現(xiàn)唯一腳本運行方式
- Python2.7:使用Pyhook模塊監(jiān)聽鼠標(biāo)鍵盤事件-獲取坐標(biāo)實例
- python利用wx實現(xiàn)界面按鈕和按鈕監(jiān)聽和字體改變的方法
- Python寫一個基于MD5的文件監(jiān)聽程序
- python hook監(jiān)聽事件詳解
- Python文件監(jiān)聽工具pyinotify與watchdog實例
- Python實現(xiàn)一個服務(wù)器監(jiān)聽多個客戶端請求
- Python簡單實現(xiàn)socket信息發(fā)送與監(jiān)聽功能示例
- Python利用pyHook實現(xiàn)監(jiān)聽用戶鼠標(biāo)與鍵盤事件
- Python中使用PyHook監(jiān)聽鼠標(biāo)和鍵盤事件實例
- Python監(jiān)聽剪切板實現(xiàn)方法代碼實例
相關(guān)文章
Python中出現(xiàn)"No?module?named?'requests'"
這篇文章主要給大家介紹了關(guān)于Python中出現(xiàn)"No?module?named?'requests'"的解決辦法,"No?module?named?requests"是Python報錯提示,意味著你在使用某個Python程序或腳本時,沒有找到名為requests的模塊,需要的朋友可以參考下2023-11-11
python中*args與**kwarsg及閉包和裝飾器的用法
這篇文章主要介紹了python中*args與**kwarsg及閉包和裝飾器的用法說明,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教2022-07-07
Python的dict字典結(jié)構(gòu)操作方法學(xué)習(xí)筆記
這篇文章主要介紹了Python的dict字典結(jié)構(gòu)操作方法學(xué)習(xí)筆記本,字典的操作是Python入門學(xué)習(xí)中的基礎(chǔ)知識,需要的朋友可以參考下2016-05-05
關(guān)于Python函數(shù)對象的名稱空間和作用域
這篇文章主要介紹了關(guān)于Python函數(shù)對象的名稱空間和作用域,數(shù)據(jù)的名稱是儲存到棧區(qū),而數(shù)據(jù)的內(nèi)容是儲存到堆區(qū),當(dāng)我們要去使用數(shù)據(jù)的內(nèi)容時,我們可以通過數(shù)據(jù)的名稱來直接去表示數(shù)據(jù)的內(nèi)容,需要的朋友可以參考下2023-04-04
python+excel接口自動化獲取token并作為請求參數(shù)進行傳參操作
這篇文章主要介紹了python+excel接口自動化獲取token并作為請求參數(shù)進行傳參操作,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-11-11

