如何基于線程池提升request模塊效率
更新時(shí)間:2020年04月18日 09:09:01 作者:返回主頁(yè)人生苦短,我用python
這篇文章主要介紹了如何基于線程池提升request模塊效率,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下
普通方法:爬取梨視頻
import re
import time
import random
import requests
from lxml import etree
start_time = time.time()
url = "https://www.pearvideo.com/category_3"
headers = {
"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/79.0.3945.88 Safari/537.36"
}
ex = 'srcUrl="(.*?)",vdoUrl=srcUrl'
def request_video(url):
"""
向視頻鏈接發(fā)送請(qǐng)求
"""
return requests.get(url=url, headers=headers).content
def save_video(content):
"""
將視頻的二進(jìn)制數(shù)據(jù)保存到本地
"""
video_name = str(random.randint(100, 999)) + ".mp4"
with open(video_name, 'wb') as f:
f.write(content)
# 獲取首頁(yè)源碼
page_text = requests.get(url=url, headers=headers).text
tree = etree.HTML(page_text)
li_list = tree.xpath('//ul[@class="listvideo-list clearfix"]/li')
video_url_list = list()
for li in li_list:
detail_url = "https://www.pearvideo.com/" + li.xpath('./div/a/@href')[0]
# 獲取該視頻頁(yè)面的源碼
detail_page_text = requests.get(url=detail_url, headers=headers).text
# 正則匹配視頻的URL
video_url = re.findall(ex, detail_page_text, re.S)[0]
video_url_list.append(video_url)
content = request_video(video_url)
save_video(content)
print("執(zhí)行耗時(shí): ", time.time() - start_time)
執(zhí)行耗時(shí): 147.22410440444946
使用線程池:爬取梨視頻
# 使用線程池爬去梨視頻的
import re
import time
import random
import requests
from lxml import etree
from multiprocessing.dummy import Pool
start_time = time.time()
url = "https://www.pearvideo.com/category_3"
headers = {
"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/79.0.3945.88 Safari/537.36"
}
ex = 'srcUrl="(.*?)",vdoUrl=srcUrl'
def request_video(url):
"""
向視頻鏈接發(fā)送請(qǐng)求
"""
return requests.get(url=url, headers=headers).content
def save_video(content):
"""
將視頻的二進(jìn)制數(shù)據(jù)保存到本地
"""
video_name = str(random.randint(100, 999)) + ".mp4"
with open(video_name, 'wb') as f:
f.write(content)
# 獲取首頁(yè)源碼
page_text = requests.get(url=url, headers=headers).text
tree = etree.HTML(page_text)
li_list = tree.xpath('//ul[@class="listvideo-list clearfix"]/li')
video_url_list = list()
for li in li_list:
detail_url = "https://www.pearvideo.com/" + li.xpath('./div/a/@href')[0]
# 獲取該視頻頁(yè)面的源碼
detail_page_text = requests.get(url=detail_url, headers=headers).text
# 正則匹配視頻的URL
video_url = re.findall(ex, detail_page_text, re.S)[0]
video_url_list.append(video_url)
pool = Pool(4)
#使用線程池將視頻的二進(jìn)制數(shù)據(jù)下載下來(lái)
content_list = pool.map(request_video, video_url_list)
# 使用線程池將視頻的二進(jìn)制數(shù)據(jù)保存到本地
pool.map(save_video, content_list)
print("執(zhí)行耗時(shí): ", time.time() - start_time)
以上就是本文的全部?jī)?nèi)容,希望對(duì)大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
您可能感興趣的文章:
- Python requests模塊cookie實(shí)例解析
- python爬蟲(chóng)開(kāi)發(fā)之Request模塊從安裝到詳細(xì)使用方法與實(shí)例全解
- Python requests模塊基礎(chǔ)使用方法實(shí)例及高級(jí)應(yīng)用(自動(dòng)登陸,抓取網(wǎng)頁(yè)源碼)實(shí)例詳解
- Python3離線安裝Requests模塊問(wèn)題
- Python3使用requests模塊實(shí)現(xiàn)顯示下載進(jìn)度的方法詳解
- Python3爬蟲(chóng)爬取百姓網(wǎng)列表并保存為json功能示例【基于request、lxml和json模塊】
- Node.js 使用request模塊下載文件的實(shí)例
相關(guān)文章
詳解Python如何使用Netmiko進(jìn)行文件傳輸
Netmiko是一個(gè)用于連接和管理各種網(wǎng)絡(luò)設(shè)備的Python庫(kù),它是Paramiko的一個(gè)擴(kuò)展。本文就來(lái)講講如何利用Netmiko實(shí)現(xiàn)文件傳輸功能吧2023-05-05
pyqt6實(shí)現(xiàn)關(guān)閉窗口前彈出確認(rèn)框的示例代碼
本文主要介紹了pyqt6實(shí)現(xiàn)關(guān)閉窗口前彈出確認(rèn)框的示例代碼,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2024-02-02
Python學(xué)習(xí)筆記之圖片人臉檢測(cè)識(shí)別實(shí)例教程
這篇文章主要給大家介紹了關(guān)于Python學(xué)習(xí)筆記之圖片人臉檢測(cè)識(shí)別的相關(guān)資料,文中通過(guò)示例代碼以及圖文介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2019-03-03
python實(shí)現(xiàn)人臉識(shí)別代碼
這篇文章主要介紹了python實(shí)現(xiàn)人臉識(shí)別代碼,還是比較不錯(cuò)的,這里分享個(gè)大家,共需要的朋友參考。2017-11-11
python中l(wèi)eastsq函數(shù)的使用方法
這篇文章主要介紹了python中l(wèi)eastsq函數(shù)的使用方法,leastsq作用是最小化一組方程的平方和,下面文章舉例說(shuō)明詳細(xì)內(nèi)容,具有一的參考價(jià)值,需要的小伙伴可以參考一下
2022-03-03
Python函數(shù)isalnum用法示例小結(jié)
isalnum()函數(shù)是Python中的一個(gè)內(nèi)置函數(shù),用于判斷字符串是否只由數(shù)字和字母組成,其內(nèi)部實(shí)現(xiàn)原理比較簡(jiǎn)單,只需遍歷字符串中的每一個(gè)字符即可,這篇文章主要介紹了Python函數(shù)isalnum用法介紹,需要的朋友可以參考下
2024-01-01 
