手把手帶你用python爬取小姐姐私房照
如何用Python搞到小姐姐私房照
本文純技術(shù)角度出發(fā),教你如何用Python爬蟲(chóng)獲取百度圖庫(kù)海量照片——技術(shù)無(wú)罪。
學(xué)會(huì)獲取小姐姐私房照同理可得也能獲取其他的照片,技術(shù)原理是一致的。
目標(biāo)站點(diǎn)
百度圖片使用關(guān)鍵字搜索 小姐姐私房照
https://image.baidu.com/
開(kāi)發(fā)環(huán)境
- 系統(tǒng):Windows10 64位
- Python版本:Python3.6.5(Python3以上版本即可)
- IDE:Pycharm(非必須,其實(shí)你完全可以記事本寫(xiě)代碼)
- 第三方庫(kù):requests、jsonpath
效果預(yù)覽
網(wǎng)頁(yè)私房照

代碼爬取效果

正式教程
一、第三方庫(kù)安裝
在確保你正確安裝了Python解釋器之后,我們還需要安裝幾個(gè)第三方庫(kù),命令如下**[在終端中安裝即可]**:
HTTP請(qǐng)求庫(kù):
pip3 install requests
JSON數(shù)據(jù)解析庫(kù):
pip3 install jsonpath
二、爬蟲(chóng)的基本套路
- 不管是爬取哪類(lèi)網(wǎng)站,在爬蟲(chóng)中基本都遵循以下的基本套路:
請(qǐng)求數(shù)據(jù) → 獲取響應(yīng)內(nèi)容 → 解析內(nèi)容 → 保存數(shù)據(jù)

- 當(dāng)然,以上步驟是代碼的編寫(xiě)思路,實(shí)際操作中應(yīng)該還要添加一個(gè)前置步驟,所以完整流程如下:
分析目標(biāo)站點(diǎn) → 請(qǐng)求網(wǎng)站獲取數(shù)據(jù) → 解析內(nèi)容 → 保存數(shù)據(jù)

分析目標(biāo)站點(diǎn)
快速的分析目標(biāo)站點(diǎn)就很容易發(fā)現(xiàn)百度圖庫(kù)的圖片資源是通過(guò)AJAX加載的,所以我們要請(qǐng)求的鏈接并非瀏覽器地址欄鏈接,而是ajax加載的數(shù)據(jù)包的資源路徑,如圖:

那么問(wèn)題來(lái)了,如何獲取到這些數(shù)據(jù)包的地址?其實(shí)很簡(jiǎn)單,如圖所示:

請(qǐng)求網(wǎng)站獲取數(shù)據(jù)
編寫(xiě)代碼請(qǐng)求資源,這里有一點(diǎn)需要注意:請(qǐng)求頭必須攜帶,否則有可能請(qǐng)求失敗導(dǎo)致報(bào)錯(cuò)。
import requests # 導(dǎo)包
# 構(gòu)建請(qǐng)求頭,把爬蟲(chóng)程序偽裝成正常的瀏覽器用戶(hù)
headers = {
'sec-fetch-dest': 'image',
'Host': 'image.baidu.com',
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/89.0.4389.82 Safari/537.36 Edg/89.0.774.50',
}
# 資源包的url鏈接
url = 'https://image.baidu.com/search/acjson?tn=resultjson_com&logid=10913526997707526921&ipn=rj&ct=201326592&is=&fp=result&queryWord=%E5%B0%8F%E5%A7%90%E5%A7%90%E7%A7%81%E6%88%BF%E7%85%A7&cl=2&lm=-1&ie=utf-8&oe=utf-8&adpicid=&st=-1&z=&ic=&hd=&latest=©right=&word=%E5%B0%8F%E5%A7%90%E5%A7%90%E7%A7%81%E6%88%BF%E7%85%A7&s=&se=&tab=&width=&height=&face=0&istype=2&qc=&nc=1&fr=&expermode=&force=&pn=210&rn=30&gsm=d2&1616553658252='
# 構(gòu)建請(qǐng)求
response = requests.get(url,headers=headers)
# 查看狀態(tài)碼
print(response.status_code)
# 獲取原始數(shù)據(jù)
response.json()
解析數(shù)據(jù)
上述代碼最終獲取到的數(shù)據(jù)是json數(shù)據(jù),也就是我們Python中常說(shuō)的字典,它長(zhǎng)這樣:
{
"queryEnc":"%D0%A1%BD%E3%BD%E3%CB%BD%B7%BF%D5%D5",
"queryExt":"小姐姐私房照",
"listNum":758,
"displayNum":8392,
"gsm":"f0",
"bdFmtDispNum":"約8,390",
"bdSearchTime":"",
"isNeedAsyncRequest":0,
"bdIsClustered":"1",
"data":[
Object{...}, # 沒(méi)張私房照對(duì)應(yīng)的詳細(xì)信息,其中就有圖片的URL
Object{...},
···
}
既然它是一個(gè)字典,我們當(dāng)然是可以使用Python中的鍵值索引方式獲取到想要的數(shù)據(jù),但是此方法太笨,這里介紹一種更加高明的方式,使用jsonpath解析數(shù)據(jù)
# 這一行代碼便可以獲取到所有圖片的URL,返回的是一個(gè)列表,遍歷即可拿到每一個(gè)URL imgs = jsonpath.jsonpath(json_data, '$..middleURL')
使用requests請(qǐng)求圖片URL,獲取圖片數(shù)據(jù)
image_data = requests.get(page_url).content
保存數(shù)據(jù)
使用Python中的文件對(duì)象,保存圖片,圖片名字使用時(shí)間戳命名,避免圖片重名
with open('imgs/' + datetime.now().strftime("%Y%m%d%H%M%S%f") + '.jpg', 'wb') as f:
f.write(image_data)
寫(xiě)在最后
到這整個(gè)兒爬蟲(chóng)程序就寫(xiě)完了。
當(dāng)然,當(dāng)前的這個(gè)只能爬取一個(gè)資源包中的數(shù)據(jù),要爬取多個(gè)資源包或者說(shuō)全部資源包的數(shù)據(jù)也是很簡(jiǎn)單的,只需要分析分析資源包的URL變化規(guī)律就不難發(fā)現(xiàn)其中的某個(gè)關(guān)鍵字變化,靈活改變?cè)撽P(guān)鍵字就可以不斷爬取。
文章正文到這里已經(jīng)結(jié)束了,只是想感謝一些閱讀我文章的人。
我退休后一直在學(xué)習(xí)如何寫(xiě)文章,說(shuō)實(shí)在的,每次我在后臺(tái)看到一些讀者的回應(yīng)就會(huì)覺(jué)得很欣慰,于是我想把我收藏的一些編程干貨貢獻(xiàn)給大家,回饋每一個(gè)讀者,希望能幫到你們。
到此這篇關(guān)于手把手帶你用python爬取小姐姐私房照的文章就介紹到這了,更多相關(guān)python爬取圖片內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
在pycharm中執(zhí)行 os.makedirs 提示用戶(hù)名或密碼不正確的問(wèn)題及解決方法
這篇文章主要介紹了在pycharm中執(zhí)行 os.makedirs 提示用戶(hù)名或密碼不正確的問(wèn)題及解決方法,本文給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友參考下吧2024-01-01
Python獲取和設(shè)置代理的動(dòng)態(tài)IP的方式
在網(wǎng)絡(luò)世界中,代理和動(dòng)態(tài)IP是非常常見(jiàn)的概念,尤其對(duì)于需要大規(guī)模訪(fǎng)問(wèn)網(wǎng)站或者需要隱藏真實(shí)IP地址的應(yīng)用程序來(lái)說(shuō),更是必不可少的工具,本文將給大家介紹如何使用編程技術(shù)來(lái)實(shí)現(xiàn)動(dòng)態(tài)IP的設(shè)置和管理,需要的朋友可以參考下2024-05-05
Python實(shí)現(xiàn)數(shù)據(jù)庫(kù)與Excel文件之間的數(shù)據(jù)自動(dòng)化導(dǎo)入與導(dǎo)出
數(shù)據(jù)庫(kù)和Excel文件是兩種常見(jiàn)且重要的數(shù)據(jù)存儲(chǔ)方式,本文將介紹如何使用Python有效地實(shí)現(xiàn)數(shù)據(jù)庫(kù)與Excel文件之間的數(shù)據(jù)自動(dòng)化導(dǎo)入與導(dǎo)出,以SQLite數(shù)據(jù)庫(kù)為例,需要的朋友可以參考下2024-06-06
Python+Tkinter實(shí)現(xiàn)簡(jiǎn)單的畫(huà)圖軟件
這篇文章主要為大家詳細(xì)介紹了如何利用Python和Tkinter實(shí)現(xiàn)編寫(xiě)一個(gè)簡(jiǎn)單的畫(huà)圖軟件,可以實(shí)現(xiàn)畫(huà)圖、保存、撤銷(xiāo)等功能,感興趣的可以了解一下2023-04-04
python使用opencv實(shí)現(xiàn)馬賽克效果示例
這篇文章主要介紹了python使用opencv實(shí)現(xiàn)馬賽克效果,結(jié)合實(shí)例形式分析了Python使用cv2模塊操作圖片實(shí)現(xiàn)馬賽克效果的相關(guān)技巧,需要的朋友可以參考下2019-09-09
Python 在 VSCode 中使用 IPython Kernel 的方法詳解
這篇文章主要介紹了Python 在 VSCode 中使用 IPython Kernel 的方法,本文通過(guò)實(shí)例代碼給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2020-09-09

