Python爬蟲圖片懶加載技術(shù) selenium和PhantomJS解析
一.什么是圖片懶加載？
- 案例分析：抓取站長(zhǎng)素材http://sc.chinaz.com/中的圖片數(shù)據(jù)
#!/usr/bin/env python
# -*- coding:utf-8 -*-
import requests
from lxml import etree
if __name__ == "__main__":
url = 'http://sc.chinaz.com/tupian/gudianmeinvtupian.html'
headers = {
'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36',
}
#獲取頁(yè)面文本數(shù)據(jù)
response = requests.get(url=url,headers=headers)
response.encoding = 'utf-8'
page_text = response.text
#解析頁(yè)面數(shù)據(jù)（獲取頁(yè)面中的圖片鏈接）
#創(chuàng)建etree對(duì)象
tree = etree.HTML(page_text)
div_list = tree.xpath('//div[@id="container"]/div')
#解析獲取圖片地址和圖片的名稱
for div in div_list:
image_url = div.xpath('.//img/@src')
image_name = div.xpath('.//img/@alt')
print(image_url) #打印圖片鏈接
print(image_name)#打印圖片名稱
運(yùn)行結(jié)果觀察發(fā)現(xiàn)，我們可以獲取圖片的名稱，但是鏈接獲取的為空，檢查后發(fā)現(xiàn)xpath表達(dá)式也沒有問題，究其原因出在了哪里呢？
- 圖片懶加載概念：
圖片懶加載是一種網(wǎng)頁(yè)優(yōu)化技術(shù)。圖片作為一種網(wǎng)絡(luò)資源，在被請(qǐng)求時(shí)也與普通靜態(tài)資源一樣，將占用網(wǎng)絡(luò)資源，而一次性將整個(gè)頁(yè)面的所有圖片加載完，將大大增加頁(yè)面的首屏加載時(shí)間。為了解決這種問題，通過(guò)前后端配合，使圖片僅在瀏覽器當(dāng)前視窗內(nèi)出現(xiàn)時(shí)才加載該圖片，達(dá)到減少首屏圖片請(qǐng)求數(shù)的技術(shù)就被稱為“圖片懶加載”。
- 網(wǎng)站一般如何實(shí)現(xiàn)圖片懶加載技術(shù)呢？
在網(wǎng)頁(yè)源碼中，在img標(biāo)簽中首先會(huì)使用一個(gè)“偽屬性”（通常使用src2，original......）去存放真正的圖片鏈接而并非是直接存放在src屬性中。當(dāng)圖片出現(xiàn)到頁(yè)面的可視化區(qū)域中，會(huì)動(dòng)態(tài)將偽屬性替換成src屬性，完成圖片的加載。
- 站長(zhǎng)素材案例后續(xù)分析：通過(guò)細(xì)致觀察頁(yè)面的結(jié)構(gòu)后發(fā)現(xiàn)，網(wǎng)頁(yè)中圖片的鏈接是存儲(chǔ)在了src2這個(gè)偽屬性中
#!/usr/bin/env python
# -*- coding:utf-8 -*-
import requests
from lxml import etree
if __name__ == "__main__":
url = 'http://sc.chinaz.com/tupian/gudianmeinvtupian.html'
headers = {
'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36',
}
#獲取頁(yè)面文本數(shù)據(jù)
response = requests.get(url=url,headers=headers)
response.encoding = 'utf-8'
page_text = response.text
#解析頁(yè)面數(shù)據(jù)（獲取頁(yè)面中的圖片鏈接）
#創(chuàng)建etree對(duì)象
tree = etree.HTML(page_text)
div_list = tree.xpath('//div[@id="container"]/div')
#解析獲取圖片地址和圖片的名稱
for div in div_list:
image_url = div.xpath('.//img/@src'2) #src2偽屬性
image_name = div.xpath('.//img/@alt')
print(image_url) #打印圖片鏈接
print(image_name)#打印圖片名稱
二.selenium
- 什么是selenium？
是Python的一個(gè)第三方庫(kù)，對(duì)外提供的接口可以操作瀏覽器，然后讓瀏覽器完成自動(dòng)化的操作?！ ?/p>
- 環(huán)境搭建
1.安裝selenum：pip install selenium
2.獲取某一款瀏覽器的驅(qū)動(dòng)程序（以谷歌瀏覽器為例）
2.1 谷歌瀏覽器驅(qū)動(dòng)下載地址
2.2 下載的驅(qū)動(dòng)程序必須和瀏覽器的版本統(tǒng)一
大家可以根據(jù)http://blog.csdn.net/huilan_same/article/details/51896672中提供的版本映射表進(jìn)行對(duì)應(yīng)
- 效果展示：大家可以將如下代碼運(yùn)行，觀看效果
from selenium import webdriver
from time import sleep
# 后面是你的瀏覽器驅(qū)動(dòng)位置，記得前面加r'','r'是防止字符轉(zhuǎn)義的
driver = webdriver.Chrome(r'驅(qū)動(dòng)程序路徑')
# 用get打開百度頁(yè)面
driver.get("http://www.baidu.com")
# 查找頁(yè)面的“設(shè)置”選項(xiàng)，并進(jìn)行點(diǎn)擊
driver.find_elements_by_link_text('設(shè)置')[0].click()
sleep(2)
# # 打開設(shè)置后找到“搜索設(shè)置”選項(xiàng)，設(shè)置為每頁(yè)顯示50條
driver.find_elements_by_link_text('搜索設(shè)置')[0].click()
sleep(2)
# 選中每頁(yè)顯示50條
m = driver.find_element_by_id('nr')
sleep(2)
m.find_element_by_xpath('//*[@id="nr"]/option[3]').click()
m.find_element_by_xpath('.//option[3]').click()
sleep(2)
# 點(diǎn)擊保存設(shè)置
driver.find_elements_by_class_name("prefpanelgo")[0].click()
sleep(2)
# 處理彈出的警告頁(yè)面 確定accept() 和 取消dismiss()
driver.switch_to_alert().accept()
sleep(2)
# 找到百度的輸入框，并輸入 美女
driver.find_element_by_id('kw').send_keys('美女')
sleep(2)
# 點(diǎn)擊搜索按鈕
driver.find_element_by_id('su').click()
sleep(2)
# 在打開的頁(yè)面中找到“Selenium - 開源中國(guó)社區(qū)”，并打開這個(gè)頁(yè)面
driver.find_elements_by_link_text('美女_百度圖片')[0].click()
sleep(3)
# 關(guān)閉瀏覽器
driver.quit()
- 代碼操作：
#導(dǎo)包
from selenium import webdriver
#創(chuàng)建瀏覽器對(duì)象，通過(guò)該對(duì)象可以操作瀏覽器
browser = webdriver.Chrome('驅(qū)動(dòng)路徑')
#使用瀏覽器發(fā)起指定請(qǐng)求
browser.get(url)
#使用下面的方法，查找指定的元素進(jìn)行操作即可
find_element_by_id 根據(jù)id找節(jié)點(diǎn)
find_elements_by_name 根據(jù)name找
find_elements_by_xpath 根據(jù)xpath查找
find_elements_by_tag_name 根據(jù)標(biāo)簽名找
find_elements_by_class_name 根據(jù)class名字查找
三.PhantomJS
PhantomJS是一款無(wú)界面的瀏覽器，其自動(dòng)化操作流程和上述操作谷歌瀏覽器是一致的。由于是無(wú)界面的，為了能夠展示自動(dòng)化操作流程，PhantomJS為用戶提供了一個(gè)截屏的功能，使用save_screenshot函數(shù)實(shí)現(xiàn)。
-案例：
from selenium import webdriver
import time
# phantomjs路徑
path = r'PhantomJS驅(qū)動(dòng)路徑'
browser = webdriver.PhantomJS(path)
# 打開百度
url = 'http://www.baidu.com/'
browser.get(url)
time.sleep(3)
browser.save_screenshot(r'phantomjs\baidu.png')
# 查找input輸入框
my_input = browser.find_element_by_id('kw')
# 往框里面寫文字
my_input.send_keys('美女')
time.sleep(3)
#截屏
browser.save_screenshot(r'phantomjs\meinv.png')
# 查找搜索按鈕
button = browser.find_elements_by_class_name('s_btn')[0]
button.click()
time.sleep(3)
browser.save_screenshot(r'phantomjs\show.png')
time.sleep(3)
browser.quit()
【重點(diǎn)】selenium+phantomjs 就是爬蟲終極解決方案:有些網(wǎng)站上的內(nèi)容信息是通過(guò)動(dòng)態(tài)加載js形成的，所以使用普通爬蟲程序無(wú)法回去動(dòng)態(tài)加載的js內(nèi)容。例如豆瓣電影中的電影信息是通過(guò)下拉操作動(dòng)態(tài)加載更多的電影信息。
綜合操作：
- 需求：盡可能多的爬取豆瓣網(wǎng)中的電影信息
from selenium import webdriver
from time import sleep
import time
if __name__ == '__main__':
url = 'https://movie.douban.com/typerank?type_name=%E6%81%90%E6%80%96&type=20&interval_id=100:90&action='
# 發(fā)起請(qǐng)求前，可以讓url表示的頁(yè)面動(dòng)態(tài)加載出更多的數(shù)據(jù)
path = r'C:\Users\Administrator\Desktop\爬蟲授課\day05\ziliao\phantomjs-2.1.1-windows\bin\phantomjs.exe'
# 創(chuàng)建無(wú)界面的瀏覽器對(duì)象
bro = webdriver.PhantomJS(path)
# 發(fā)起url請(qǐng)求
bro.get(url)
time.sleep(3)
# 截圖
bro.save_screenshot('1.png')
# 執(zhí)行js代碼（讓滾動(dòng)條向下偏移n個(gè)像素（作用：動(dòng)態(tài)加載了更多的電影信息））
js = 'document.body.scrollTop=2000'
bro.execute_script(js) # 該函數(shù)可以執(zhí)行一組字符串形式的js代碼
time.sleep(4)
bro.save_screenshot('2.png')
time.sleep(2)
# 使用爬蟲程序爬去當(dāng)前url中的內(nèi)容
html_source = bro.page_source # 該屬性可以獲取當(dāng)前瀏覽器的當(dāng)前頁(yè)的源碼（html）
with open('./source.html', 'w', encoding='utf-8') as fp:
fp.write(html_source)
bro.quit()
四.谷歌無(wú)頭瀏覽器
由于PhantomJs最近已經(jīng)停止了更新和維護(hù)，所以推薦大家可以使用谷歌的無(wú)頭瀏覽器，是一款無(wú)界面的谷歌瀏覽器。
from selenium import webdriver
from selenium.webdriver.chrome.options import Options
import time
# 創(chuàng)建一個(gè)參數(shù)對(duì)象，用來(lái)控制chrome以無(wú)界面模式打開
chrome_options = Options()
chrome_options.add_argument('--headless')
chrome_options.add_argument('--disable-gpu')
# 驅(qū)動(dòng)路徑
path = r'C:\Users\ZBLi\Desktop\1801\day05\ziliao\chromedriver.exe'
# 創(chuàng)建瀏覽器對(duì)象
browser = webdriver.Chrome(executable_path=path, chrome_options=chrome_options)
# 上網(wǎng)
url = 'http://www.baidu.com/'
browser.get(url)
time.sleep(3)
browser.save_screenshot('baidu.png')
browser.quit()
以上就是本文的全部?jī)?nèi)容，希望對(duì)大家的學(xué)習(xí)有所幫助，也希望大家多多支持腳本之家。
相關(guān)文章
這篇文章主要介紹了Python中編寫ORM框架的入門指引,示例代碼基于Python2.x版本,需要的朋友可以參考下2015-04-04
Python編寫可視化界面的全過(guò)程（Python+PyCharm+PyQt）
這篇文章主要給大家介紹了關(guān)于Python編寫可視化界面的相關(guān)資料,主要使用了Python+PyCharm+PyQt，文中通過(guò)實(shí)例代碼介紹的非常詳細(xì)，需要的朋友可以參考下2021-05-05
這篇文章主要介紹了使用Python下載抖音各大V視頻的思路詳解,本文給大家介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值，需要的朋友可以參考下2021-02-02
Falcon?是一個(gè)Python?的?Web?框架,專注于為構(gòu)建?API?提供一個(gè)極其輕量級(jí)、超全面的性能平臺(tái),下面小編就來(lái)為大家詳細(xì)介紹一下Python如何使用Falcon構(gòu)建?API吧2023-11-11
Python for循環(huán)通過(guò)序列索引迭代過(guò)程解析
這篇文章主要介紹了Python for循環(huán)通過(guò)序列索引迭代過(guò)程解析,文中通過(guò)示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2020-02-02
使用Python實(shí)現(xiàn)提取PDF文件中指定頁(yè)面的內(nèi)容
在日常工作和學(xué)習(xí)中,我們經(jīng)常需要從PDF文件中提取特定頁(yè)面的內(nèi)容,本文主要為大家詳細(xì)介紹了如何使用Python編程語(yǔ)言和兩個(gè)強(qiáng)大的庫(kù)——pymupdf和wxPython來(lái)實(shí)現(xiàn)這個(gè)任務(wù),需要的可以了解下2023-12-12
使用Pytorch實(shí)現(xiàn)Swish激活函數(shù)的示例詳解
激活函數(shù)是人工神經(jīng)網(wǎng)絡(luò)的基本組成部分,他們將非線性引入模型,使其能夠?qū)W習(xí)數(shù)據(jù)中的復(fù)雜關(guān)系,Swish 激活函數(shù)就是此類激活函數(shù)之一,在本文中,我們將深入研究 Swish 激活函數(shù),提供數(shù)學(xué)公式,探索其相對(duì)于 ReLU 的優(yōu)勢(shì),并使用 PyTorch 演示其實(shí)現(xiàn)2023-11-11
這篇文章主要介紹了Python求導(dǎo)數(shù)的方法,涉及Python數(shù)學(xué)運(yùn)算的相關(guān)技巧,需要的朋友可以參考下2015-05-05
Python 內(nèi)置變量和函數(shù)的查看及說(shuō)明介紹
今天小編就為大家分享一篇Python 內(nèi)置變量和函數(shù)的查看及說(shuō)明介紹，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2019-12-12
這篇文章主要為大家詳細(xì)介紹了python讀取各種文件數(shù)據(jù)方法，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下2018-12-12