python 多線程爬取壁紙網(wǎng)站的示例
更新時間:2021年02月20日 15:15:47 作者:Martina_oh
這篇文章主要介紹了python 多線程爬取壁紙網(wǎng)站的示例,幫助大家更好的理解和學(xué)習(xí)使用python,感興趣的朋友可以了解下
基本開發(fā)環(huán)境
· Python 3.6
· Pycharm
需要導(dǎo)入的庫

目標(biāo)網(wǎng)頁分析

網(wǎng)站是靜態(tài)網(wǎng)站,沒有加密,可以直接爬取



整體思路:
1、先在列表頁面獲取每張壁紙的詳情頁地址
2、在壁紙詳情頁面獲取壁紙真實高清url地址
3、保存地址
代碼實現(xiàn)
模擬瀏覽器請請求網(wǎng)頁,獲取網(wǎng)頁數(shù)據(jù)

這里只選擇爬取前10頁的數(shù)據(jù)
代碼如下
import threading
import parsel
import requests
def get_html(html_url):
'''
獲取網(wǎng)頁源代碼
:param html_url: 網(wǎng)頁url
:return:
'''
response = requests.get(url=html_url, headers=headers)
return response
def get_par(html_data):
'''
把 response.text 轉(zhuǎn)換成 selector 對象 解析提取數(shù)據(jù)
:param html_data: response.text
:return: selector 對象
'''
selector = parsel.Selector(html_data)
return selector
def download(img_url, title):
'''
保存數(shù)據(jù)
:param img_url: 圖片地址
:param title: 圖片標(biāo)題
:return:
'''
content = get_html(img_url).content
path = '壁紙\\' + title + '.jpg'
with open(path, mode='wb') as f:
f.write(content)
print('正在保存', title)
def main(url):
'''
主函數(shù)
:param url: 列表頁面 url
:return:
'''
html_data = get_html(url).text
selector = get_par(html_data)
lis = selector.css('.wb_listbox div dl dd a::attr(href)').getall()
for li in lis:
img_data = get_html(li).text
img_selector = get_par(img_data)
img_url = img_selector.css('.wb_showpic_main img::attr(src)').get()
title = img_selector.css('.wb_pictitle::text').get().strip()
download(img_url, title)
end_time = time.time() - s_time
print(end_time)
if __name__ == '__main__':
for page in range(1, 11):
url = 'http://www.deskbizhi.com/min/list-{}.html'.format(page)
main_thread = threading.Thread(target=main, args=(url,))
main_thread.start()
以上就是python 多線程爬取壁紙網(wǎng)站的示例的詳細(xì)內(nèi)容,更多關(guān)于python 爬取壁紙網(wǎng)站的資料請關(guān)注腳本之家其它相關(guān)文章!
相關(guān)文章
Keras預(yù)訓(xùn)練的ImageNet模型實現(xiàn)分類操作
這篇文章主要介紹了Keras預(yù)訓(xùn)練的ImageNet模型實現(xiàn)分類操作,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-07-07

