如何在django中運行scrapy框架
1.新建一個django項目,
2.前端展示一個按鈕
<form action="/start/" method="POST">
{% csrf_token %}
<input type="submit" value="啟動爬蟲">
</form>
3.在django項目的根目錄創(chuàng)建scrapy項目
4.cmd命令行運行:scrapyd 啟動服務
5.將scrapy項目部署到當前工程:scrapyd-deploy 爬蟲名稱 -p 項目名稱
6.views.py
# 首頁
def index(request):
return render(request,'index.html',locals())
def start(request):
if request.method == 'POST':
# 啟動爬蟲
url = 'http://localhost:6800/schedule.json'
data = {'project': 'ABCkg', 'spider': 'abckg'}
print(requests.post(url=url, data=data))
return JsonResponse({'result':'ok'})
7.在本地6800端口點擊jobs當前爬蟲項目就在運行了。
8.寫一個按鈕,點擊停止scrapy爬蟲
def stop(request):
if request.method == 'POST':
# 停止爬蟲
url = 'http://127.0.0.1:6800/cancel.json'
data={"project":'ABCkg','job':'b7fe64ee7ad711e9b711005056c00008'}
print(requests.post(url=url, data=data))
return JsonResponse({'result':'stop'})
總結:
----------------scrapyd 管理----------------------
1、獲取狀態(tài)
http://127.0.0.1:6800/daemonstatus.json
2、獲取項目列表
http://127.0.0.1:6800/listprojects.json
3、獲取項目下已發(fā)布的爬蟲列表
http://127.0.0.1:6800/listspiders.json?project=myproject
4、獲取項目下已發(fā)布的爬蟲版本列表
http://127.0.0.1:6800/listversions.json?project=myproject
5、獲取爬蟲運行狀態(tài)
http://127.0.0.1:6800/listjobs.json?project=myproject
6、啟動服務器上某一爬蟲(必須是已發(fā)布到服務器的爬蟲)
http://localhost:6800/schedule.json
(post方式,data={"project":myproject,"spider":myspider})
7、刪除某一版本爬蟲
http://127.0.0.1:6800/delversion.json -d project=項目名 -d versions
(post方式,data={"project":myproject,"version":myversion})
8、刪除某一工程,包括該工程下的各版本爬蟲
http://127.0.0.1:6800/delproject.json
(post方式,data={"project":myproject})
9、取消爬蟲
http://127.0.0.1:6800/cancel.json
(post方式,data={"project":myproject,'job':myjob})
以上就是本文的全部內(nèi)容,希望對大家的學習有所幫助,也希望大家多多支持腳本之家。
相關文章
pandas根據(jù)指定條件篩選數(shù)據(jù)的實現(xiàn)示例
條件篩選是pandas中非常重要的一個功能,它允許我們根據(jù)特定條件來快速、高效地篩選數(shù)據(jù),本文主要介紹了pandas根據(jù)指定條件篩選數(shù)據(jù)的實現(xiàn)示例,具有一定的參考價值,感興趣的可以了解一下2024-03-03
基于注解實現(xiàn) SpringBoot 接口防刷的方法
這篇文章主要介紹了基于注解實現(xiàn) SpringBoot 接口防刷的方法,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧2021-03-03
解決Django中調(diào)用keras的模型出現(xiàn)的問題
今天小編就為大家分享一篇解決Django中調(diào)用keras的模型出現(xiàn)的問題,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2019-08-08
python實現(xiàn)的守護進程(Daemon)用法實例
這篇文章主要介紹了python實現(xiàn)的守護進程(Daemon)用法,實例分析了Python進程操作的相關技巧,需要的朋友可以參考下2015-06-06
Python簡單格式化時間的方法【strftime函數(shù)】
這篇文章主要介紹了Python簡單格式化時間的方法,結合實例形式分析了Python使用strftime函數(shù)進行時間格式化的操作技巧,需要的朋友可以參考下2016-09-09

