python繞過圖片滑動(dòng)驗(yàn)證碼實(shí)現(xiàn)爬取PTA所有題目功能 附源碼
最近學(xué)了python爬蟲,本著學(xué)以致用的態(tài)度去應(yīng)用在生活中。突然發(fā)現(xiàn)算法的考試要來了,范圍就是PTA刷過的題。讓我一個(gè)個(gè)復(fù)制粘貼?不可能,必須爬它!
先開頁面,人傻了,PTA的題目是異步加載的,爬了個(gè)寂寞(空數(shù)據(jù))。AJAX我又不熟,突然想到了selenium。
selenium可以模擬人的操作讓瀏覽器自動(dòng)執(zhí)行動(dòng)作,具體的自己去了解,不多說了。干貨來了:
登錄界面有個(gè)圖片的滑動(dòng)驗(yàn)證碼

破解它的最好方式就是用opencv,opencv巨強(qiáng),自己了解。
思路開始:
1.將背景圖片和可滑動(dòng)的圖片下載
2.用opencv匹配這兩張圖片的最匹配位置,不用在意怎么實(shí)現(xiàn)的,算法極其BT,不是我這種數(shù)學(xué)不及格的人能想的。最終會(huì)得到一個(gè)匹配度最高的XY值
3.由于Y值不用考慮,拖動(dòng)滑塊是X值的事情,調(diào)用selenium里抓放的函數(shù),把X值丟進(jìn)去,讓瀏覽器自動(dòng)滑動(dòng)即可。
注意:由于算法問題,可能不能一次成功,重啟程序就行了,或者改動(dòng)代碼。
4.進(jìn)去之后就用selenium各種操作爬就完事了
以下是源碼:
from selenium import webdriver
from selenium.webdriver.common.action_chains import ActionChains
import requests
import time
import numpy
import cv2
import os
#作者:許文鴻
#未經(jīng)允許不可轉(zhuǎn)載,轉(zhuǎn)載時(shí)注明出處
#創(chuàng)建 WebDriver 對(duì)象,指明使用chrome瀏覽器驅(qū)動(dòng)
web = webdriver.Chrome(r'd:\chromedriver.exe')
web.implicitly_wait(5)
#調(diào)用WebDriver 對(duì)象的get方法 可以讓瀏覽器打開指定網(wǎng)址
web.get('https://pintia.cn/auth/login')
zh = web.find_element_by_xpath('/html/body/div[1]/div[3]/div/div[2]/form/div[1]/div[1]/div/div/div[1]/input')
mm = web.find_element_by_xpath('/html/body/div[1]/div[3]/div/div[2]/form/div[1]/div[2]/div/div/div[1]/input')
#在PTA的賬號(hào)密碼:
zh.send_keys('******@qq.com')
mm.send_keys('******')
#找到登錄按鈕并點(diǎn)擊
web.find_element_by_xpath('/html/body/div[1]/div[3]/div/div[2]/form/div[2]/button/div/div').click()
#等待兩秒,驗(yàn)證碼加載完成
time.sleep(2)
#bg背景圖片
bg_img_src = web.find_element_by_xpath(
'/html/body/div[3]/div[2]/div/div/div[2]/div/div[1]/div/div[1]/img[1]').get_attribute('src')
#front可拖動(dòng)圖片
front_img_src = web.find_element_by_xpath(
'/html/body/div[3]/div[2]/div/div/div[2]/div/div[1]/div/div[1]/img[2]').get_attribute('src')
#保存圖片
with open("bg.jpg", mode="wb") as f:
f.write(requests.get(bg_img_src).content)
with open("front.jpg", mode="wb") as f:
f.write(requests.get(front_img_src).content)
#將圖片加載至內(nèi)存
bg = cv2.imread("bg.jpg")
front = cv2.imread("front.jpg")
js = 'alert("本人可能將此程序用于python課設(shè),請(qǐng)靚仔靚女不要直接提交本人代碼。即將報(bào)錯(cuò),需要?jiǎng)h除第42~44行代碼即可正常運(yùn)行");'
web.execute_script(js)
time.sleep(15)
#將背景圖片轉(zhuǎn)化為灰度圖片,將三原色降維
bg = cv2.cvtColor(bg, cv2.COLOR_BGR2GRAY)
#將可滑動(dòng)圖片轉(zhuǎn)化為灰度圖片,將三原色降維
front = cv2.cvtColor(front, cv2.COLOR_BGR2GRAY)
front = front[front.any(1)]
#用cv算法匹配精度最高的xy值
result = cv2.matchTemplate(bg, front, cv2.TM_CCOEFF_NORMED)
#numpy解析xy,注意xy與實(shí)際為相反,x=y,y=x
x, y = numpy.unravel_index(numpy.argmax(result), result.shape)
#找到可拖動(dòng)區(qū)域
div = web.find_element_by_xpath('/html/body/div[3]/div[2]/div/div/div[2]/div/div[2]/div[2]')
#拖動(dòng)滑塊,以實(shí)際相反的y值代替x
ActionChains(web).drag_and_drop_by_offset(div, xoffset=y // 0.946, yoffset=0).perform()
#至此成功破解驗(yàn)證碼,由于算法問題,準(zhǔn)確率不能達(dá)到100%,可能需要多運(yùn)行1~2次
for page in range(0, 1000):
time.sleep(1)
#此處的網(wǎng)址為PTA固定網(wǎng)頁,僅需要更換page
web.get('https://pintia.cn/problem-sets?tab=1&filter=all&page={page_}'.format(page_=page))
#獲取當(dāng)前頁面題目集網(wǎng)址,A_s為a標(biāo)簽的列表,urls用戶存放網(wǎng)址
A_s = web.find_elements_by_class_name('name_QIjv7')
urls = []
for a in A_s:
urls.append(a.get_attribute('href'))
#當(dāng)頁面不存在可爬取的網(wǎng)址,則退出程序
if urls.__len__() == 0:
print('爬取完成')
os._exit()
#對(duì)剛才獲取的網(wǎng)址列表進(jìn)行遍歷
for url in urls:
web.get(url)
#找到對(duì)應(yīng)的題目對(duì)象
tm = web.find_elements_by_css_selector("[class='problemStatusRect_3kpmC PROBLEM_ACCEPTED_1Dzzi']")
tm_total = 0
for i in range(0, 1000):
# 遍歷該頁面的題型
try:
tm_type = web.find_element_by_xpath(
'/html/body/div/div[3]/div[2]/div/div[2]/div[{i_}]/div/div[2]'.format(i_=i * 2 + 2)).text
# 如果題型為編程/函數(shù),記錄對(duì)應(yīng)的數(shù)量,方便后續(xù)爬取
if tm_type == '編程題' or tm_type == '函數(shù)題':
tm_total += int(web.find_element_by_xpath(
'/html/body/div/div[3]/div[2]/div/div[2]/div[{i_}]/a/div/div'.format(i_=i * 2 + 2)).text[0])
except:
break
# 根據(jù)函數(shù)/編程題數(shù)量取相應(yīng)的題目對(duì)象,舍棄其他題目
if tm_total != 0:
tm = tm[-tm_total:]
else:
tm = []
# 遍歷剩余題目
for tm_index in tm:
try:
tm_index.click()
time.sleep(0.5)
#獲取題目中的代碼
tm_title = web.find_element_by_css_selector(
"[class='text-center black-3 text-4 font-weight-bold my-3']").text
mycode = web.find_element_by_css_selector('textarea').get_attribute('value')
print('題目:' + tm_title)
print(mycode)
#接下來可以存入
except:
continue
到此這篇關(guān)于python繞過圖片滑動(dòng)驗(yàn)證碼實(shí)現(xiàn)爬取PTA所有題目功能 附源碼的文章就介紹到這了,更多相關(guān)python圖片滑動(dòng)驗(yàn)證碼內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
PyTorch環(huán)境中CUDA版本沖突問題排查與解決方案
在使用 PyTorch 進(jìn)行深度學(xué)習(xí)開發(fā)時(shí),CUDA 版本兼容性問題是個(gè)老生常談的話題,本文將通過一次真實(shí)的排查過程,剖析 PyTorch 虛擬環(huán)境自帶 CUDA 運(yùn)行時(shí)庫與系統(tǒng)全局 CUDA 環(huán)境沖突的場景,需要的朋友可以參考下2025-02-02
python編程進(jìn)階之異常處理用法實(shí)例分析
這篇文章主要介紹了python編程進(jìn)階之異常處理用法,結(jié)合實(shí)例形式分析了python異常捕獲、處理相關(guān)語句、使用技巧與操作注意事項(xiàng),需要的朋友可以參考下2020-02-02
python繪制評(píng)估優(yōu)化算法性能的測試函數(shù)
這篇文章主要為大家詳細(xì)介紹了python繪制評(píng)估優(yōu)化算法性能的測試函數(shù),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2019-06-06
Python自動(dòng)化測試?yán)鱯elenium詳解
Selenium是一種常用的Web自動(dòng)化測試工具,支持多種編程語言和多種瀏覽器,可以模擬用戶的交互行為,自動(dòng)化地執(zhí)行測試用例和生成測試報(bào)告。Selenium基于瀏覽器驅(qū)動(dòng)實(shí)現(xiàn),結(jié)合多種定位元素的方法,可以實(shí)現(xiàn)各種復(fù)雜的Web應(yīng)用程序的測試2023-04-04
解決Python?出現(xiàn)File?“<stdin>“,?line?1非語法錯(cuò)誤的問題
這篇文章主要介紹了Python?出現(xiàn)File?“<stdin>“,?line?1非語法錯(cuò)誤的解決辦法,本文給大家講解的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2023-03-03
Python3 全自動(dòng)更新已安裝的模塊實(shí)現(xiàn)
這篇文章主要介紹了Python3 全自動(dòng)更新已安裝的模塊實(shí)現(xiàn),文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-01-01
Python實(shí)現(xiàn)圖片滑動(dòng)式驗(yàn)證識(shí)別方法
驗(yàn)證碼作為一種自然人的機(jī)器人的判別工具,被廣泛的用于各種防止程序做自動(dòng)化的場景中。這篇文章主要介紹了Python實(shí)現(xiàn)圖片滑動(dòng)式驗(yàn)證識(shí)別方法,需要的朋友可以參考下2017-11-11
Django Path轉(zhuǎn)換器自定義及正則代碼實(shí)例
這篇文章主要介紹了Django Path轉(zhuǎn)換器自定義及正則代碼實(shí)例,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2020-05-05

