Python定時任務(wù)隨機(jī)時間執(zhí)行的實(shí)現(xiàn)方法
背景:
有一個爬蟲服務(wù),需要定時從公開網(wǎng)站上拉取一些數(shù)據(jù),為了避免被識別為爬蟲(防爬蟲的識別需要根據(jù)很多特征,時間僅僅是其中一個維度),需要在指定的時間內(nèi),隨機(jī)生成一個時間爬取
腳本是python寫的,直接上代碼...
import logging
import traceback
from datetime import datetime
from apscheduler.schedulers.background import BackgroundScheduler
scheduler = BackgroundScheduler()
def spider_schedule():
# spider_schedule是job_id
scheduler.remove_job('spider_schedule')
try:
print 'spider start... ', datetime.now().strftime('%Y-%m-%d %X')
#--------自己的業(yè)務(wù)代碼-------
pass
#---------------------------
print 'spider end... ', datetime.now().strftime('%Y-%m-%d %X')
except Exception as e:
print traceback.format_exc(e)
finally:
interval_minutes = random.randint(60, 120) # 1-120分鐘隨機(jī)選一個時間
interval_seconds = random.randint(1, 60) # 1~60秒隨機(jī)選一個時間
scheduler.add_job(spider_schedule, 'interval', minutes=interval_minutes, seconds=interval_seconds, id='spider_schedule')
if __name__ == '__main__':
scheduler.add_job(spider_schedule, 'interval', seconds=10, id='spider_schedule')
scheduler.start()
ps:下面看下python定時執(zhí)行任務(wù)的三種方式
#!/user/bin/env python
# @Time :2018/6/7 16:31
# @Author :PGIDYSQ
#@File :PerformTaskTimer.py
#定時執(zhí)行任務(wù)命令
#1.定時任務(wù)代碼
import time,os,sched
# schedule = sched.scheduler(time.time,time.sleep)
# def perform_command(cmd,inc):
# os.system(cmd)
# print('task')
# def timming_exe(cmd,inc=60):
# schedule.enter(inc,0,perform_command,(cmd,inc))
# schedule.run()
# print('show time after 2 seconds:')
# timming_exe('echo %time%',2)
#2.周期性執(zhí)行任務(wù)
schedule = sched.scheduler(time.time,time.sleep)
def perform_command(cmd,inc):
#在inc秒后再次運(yùn)行自己,即周期運(yùn)行
schedule.enter(inc, 0, perform_command, (cmd, inc))
os.system(cmd)
def timming_exe(cmd,inc=60):
schedule.enter(inc,0,perform_command,(cmd,inc))
schedule.run()#持續(xù)運(yùn)行,直到計(jì)劃時間隊(duì)列變成空為止
print('show time after 2 seconds:')
timming_exe('echo %time%',2)
#3.循環(huán)執(zhí)行命令
# import time,os
# def re_exe(cmd,inc = 60):
# while True:
# os.system(cmd)
# time.sleep(inc)
# re_exe("echo %time%",5)
相關(guān)文章
django基礎(chǔ)學(xué)習(xí)之send_mail功能
這篇文章主要給大家介紹了關(guān)于django基礎(chǔ)學(xué)習(xí)之send_mail功能的相關(guān)資料,文中通過示例代碼介紹的非常詳細(xì),對大家學(xué)習(xí)或者使用django具有一定的參考學(xué)習(xí)價值,需要的朋友們下面來一起學(xué)習(xí)學(xué)習(xí)吧2019-08-08
Python?numpy之線性代數(shù)與隨機(jī)漫步
這篇文章主要介紹了Python?numpy之線性代數(shù)與隨機(jī)漫步,線性代數(shù),矩陣計(jì)算,優(yōu)化與內(nèi)存;比如矩陣乘法,分解,行列式等數(shù)學(xué)知識,是所有數(shù)組類庫的重要組成部分2022-07-07
pandas實(shí)現(xiàn)導(dǎo)出數(shù)據(jù)的四種方式
這篇文章主要介紹了pandas實(shí)現(xiàn)導(dǎo)出數(shù)據(jù)的四種方式,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-12-12
在pycharm中debug 實(shí)時查看數(shù)據(jù)操作(交互式)
這篇文章主要介紹了在pycharm中debug 實(shí)時查看數(shù)據(jù)操作(交互式),具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-06-06
詳談Python3 操作系統(tǒng)與路徑 模塊(os / os.path / pathlib)
下面小編就為大家分享一篇詳談Python3 操作系統(tǒng)與路徑 模塊(os / os.path / pathlib),具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2018-04-04

