Python爬蟲實戰(zhàn)JS逆向AES逆向加密爬取

更新時間：2021年10月13日 15:04:35 作者：五包辣條！

一個建筑行業(yè)的堂哥為了搞一些商業(yè)數(shù)據(jù)前前后后花了1w，辣條我半個小時就能解決的事情，這就是技術(shù)的魅力！聲明：爬取是的公開數(shù)據(jù)

爬取目標(biāo)

網(wǎng)址：監(jiān)管平臺

工具使用

開發(fā)工具：pycharm

開發(fā)環(huán)境：python3.7， Windows10

使用工具包：requests，AES，json

涉及AES對稱加密問題需要安裝node.js環(huán)境

使用npm install 安裝 crypto-js

項目思路解析

確定數(shù)據(jù) 在這個網(wǎng)頁可以看到數(shù)據(jù)是動態(tài)返回的但是都是加密的如何確定是我們需要的?

突然想到如果我分頁是不是會直接加載第二個頁面然后查看相似度找到第一個頁面, 我真是太聰明了

數(shù)據(jù)找到了現(xiàn)在開始尋找加密但是突然發(fā)現(xiàn)沒有加密的關(guān)鍵字? 那我們通過url 下手試試在All里面全局搜索 query/comp/list(url后面的參數(shù))

找到這個接口鼠標(biāo)右鍵可以在源代碼查看他

慢慢調(diào)試中間調(diào)試太多了我就不一一截圖出來了跑到這里發(fā)現(xiàn)data 里面的參數(shù) 和我們看到的加密一致

h(t.data) 加密位置

進(jìn)去h里面 (鼠標(biāo)光標(biāo)放到 h上面會顯示他的 js地址如果沒有顯示就是證明你還沒有執(zhí)行到這里需要在前面打上斷點刷新頁面調(diào)試)

發(fā)現(xiàn)這個采用AES加密算法使用模型CBC模式采用填充方式為 Pkcs7

AES.decrypt() # 參數(shù)說明秘鑰模式偏移值

f = 'jo8j9wGw%6HbxfFn' # 秘鑰

m = '0123456789ABCDEF' # 偏移值

證明數(shù)據(jù)推導(dǎo)正確在 return r.toString() 打上斷點

r里面數(shù)據(jù)正常返回

簡易源碼分享

import requests
from Crypto.Cipher import AES
import json
url = 'http://jzsc.mohurd.gov.cn/api/webApi/dataservice/query/comp/list?pg=2&pgsz=15&total=0'
headers = {
    'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/93.0.4577.63 Safari/537.36 Edg/93.0.961.38'
}
response = requests.get(url, headers=headers).text
f = 'jo8j9wGw%6HbxfFn'  # 秘鑰
m = '0123456789ABCDEF'  # 偏移值
# 轉(zhuǎn)碼  utf-8?  字節(jié) 16進(jìn)制
m = bytes(m, encoding='utf-8')
f = bytes(f, encoding='utf-8')
# 創(chuàng)建一個AES算法 秘鑰  模式 偏移值
cipher = AES.new(f, AES.MODE_CBC, m)
# 解密
decrypt_content = cipher.decrypt(bytes.fromhex(response))
result = str(decrypt_content, encoding='utf-8')
# OKCS7 填充
length = len(result) # 字符串長度
unpadding = ord(result[length - 1]) # 得到最后一個字符串的ASCII
result = result[0:length - unpadding]
result = json.loads(result)['data']['list'] # dupms json.dumps()  dict  格式 json的
# {"鍵":"值"}
for i in result:
    print(i)

以上就是Python爬蟲實戰(zhàn)JS逆向AES逆向加密爬取的詳細(xì)內(nèi)容，更多關(guān)于Python爬取JS逆向AES逆向加密的資料請關(guān)注腳本之家其它相關(guān)文章！

您可能感興趣的文章: