Scrapy模擬登錄趕集網(wǎng)的實(shí)現(xiàn)代碼

更新時(shí)間：2020年07月07日 10:06:52 作者：人丑就要多讀書(shū)-Wu

這篇文章主要介紹了Scrapy模擬登錄趕集網(wǎng)的實(shí)現(xiàn)代碼，本文通過(guò)代碼圖文相結(jié)合給大家介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下

1.打開(kāi)趕集網(wǎng)登錄界面，先模擬登錄并抓包，獲得post請(qǐng)求的request參數(shù)

2. 我們只需構(gòu)造出上面的參數(shù)傳入formdata即可

參數(shù)分析：

　　setcookie：為自動(dòng)登錄所傳的值，不勾選時(shí)默認(rèn)為0。

　　__hash__值的分析：只需要查看response網(wǎng)頁(yè)源代碼即可，然后用正則表達(dá)式提取。

3.代碼實(shí)現(xiàn)

1.workon到自己的虛擬環(huán)境 cmd切換到項(xiàng)目目錄，輸入scrapy startproject ganjiwangdenglu,然后就可以用pycharm打開(kāi)該目錄啦。

2.在pycharm terminal中輸入scrapy ganji ganjicom 創(chuàng)建地址，如下為項(xiàng)目目錄

3. 代碼詳情

import scrapy
import re

class GanjiSpider(scrapy.Spider):
  name = 'ganji'
  allowed_domains = ['ganji.com']
  start_urls = ['https://passport.ganji.com/login.php']

  def parse(self, response):
    hash_code = re.search(r'"__hash__":"(.+)"}', response.text).group(1) # 正則獲取哈希
    img_url = 'https://passport.ganji.com/ajax.php?dir=captcha&module=login_captcha' # 驗(yàn)證碼url
    yield scrapy.Request(img_url, callback=self.do_formdata, meta={'hash_code': hash_code}) # 發(fā)送獲取驗(yàn)證碼請(qǐng)求并保存驗(yàn)證碼到本地

  def do_formdata(self, response):
    with open('yzm.jpg', 'wb') as f:
      f.write(response.body)
      # 驗(yàn)證碼三種方案：1，保存下來(lái)手動(dòng)輸入，2，云打碼，3 tesseract模塊，在這里我們手動(dòng)輸入
    code = input('請(qǐng)輸入驗(yàn)證碼：')
    # 創(chuàng)建表單
    formdata = {
      'username': 'your_username',
      'password': 'your_password',
      'setcookie': '14',
      'checkCode': code,
      'next': '',
      'source': 'passport',
      '__hash__': response.request.meta['hash_code'] # meta是在respose.request中
    }
    login_url = "https://passport.ganji.com/login.php"
    yield scrapy.FormRequest(url=login_url, formdata=formdata, callback=self.after_login) # 發(fā)送登錄請(qǐng)求

  def after_login(self, response):
    print(response.text)

4.終端輸入scrapy carwl ganji 即可大功告成。

返回來(lái)的json字符串解析如下：