python爬蟲獲取多頁天涯帖子

更新時間：2018年02月23日 14:18:40 作者：zengdamo

本篇文章通過爬取多頁天涯帖子內(nèi)容來教給大家深入理解python爬蟲相關(guān)知識，有興趣的參考學(xué)習(xí)下。

今天練習(xí)了抓取多頁天涯帖子，重點復(fù)習(xí)的知識包括

soup.find_all和soup.selcet兩個篩選方式對應(yīng)不同的參數(shù)；
希望將獲取到的多個內(nèi)容組合在一起返回的時候，要用'zip()'的代碼來實現(xiàn)；
兩層代碼結(jié)構(gòu)之間的關(guān)系如何構(gòu)造；

這里有一個疑問：有時候一個標(biāo)簽可以有多個屬性，不知道soup.find_all()能不能接受不止一個屬性以縮小查找的范圍。

# 引入庫和請求頭文件
import requests
from bs4 import BeautifulSoup
headers = {
  'User-Agent':'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/62.0.3202.94 Safari/537.36'
}

# 定義主體函數(shù)。函數(shù)主體由四部分組成：
#1.請求網(wǎng)址
#2.解析網(wǎng)頁，形成可查找的html格式
#3.通過soup.select或者sopu.find_all查找需要的標(biāo)簽
#4.通過zip()代碼將多個內(nèi)容合并在一起

def get_content(url):
  res = requests.get(url,headers = headers)
  res.encoding = 'utf-8'
  soup = BeautifulSoup(res.text,'html.parser')
  contents = soup.find_all('div','bbs-content')
  authors = soup.find_all('a','js-vip-check')
  for author,content in zip(authors,contents):
    data = {
    'author':author.get_text().strip(),
    'content': content.get_text().strip()
  }
    print(data)
# 在這里構(gòu)造一個兩層鏈接結(jié)構(gòu)：帖子的1、2、3、4頁和帖子的詳情頁的關(guān)系在這里實現(xiàn)
if __name__ == '__main__':
  urls = ['http://bbs.tianya.cn/post-develop-2271894-{}.shtml'.format(str(i)) for i in range (1,5)] # 要注意，這里的‘5'是不包括在范圍里的
  for url in urls:
    get_content(url)

您可能感興趣的文章:

相關(guān)文章

Python抽象和自定義類定義與用法示例
這篇文章主要介紹了Python抽象和自定義類定義與用法,結(jié)合實例形式分析了Python抽象方法、抽象類相關(guān)功能、定義、用法及相關(guān)操作注意事項,需要的朋友可以參考下
2018-08-08
pytorch中的squeeze函數(shù)、cat函數(shù)使用
這篇文章主要介紹了pytorch中的squeeze函數(shù)、cat函數(shù)使用，具有很好的參考價值，希望對大家有所幫助。如有錯誤或未考慮完全的地方，望不吝賜教
2021-05-05
基于python的Tkinter實現(xiàn)一個簡易計算器
這篇文章主要介紹了基于python的Tkinter實現(xiàn)一個簡易計算器的相關(guān)資料，還為大家分享了僅用用50行Python代碼實現(xiàn)的簡易計算器，感興趣的小伙伴們可以參考一下
2015-12-12
Python使用matplotlib繪制隨機漫步圖
這篇文章主要為大家詳細(xì)介紹了使用Python生成隨機漫步數(shù)據(jù)，使用matplotlib繪制隨機漫步圖，具有一定的參考價值，感興趣的小伙伴們可以參考一下
2018-08-08
Jupyter?Notebook的使用詳解
JupyterNotebook是一個強大的工具,可以用于數(shù)據(jù)科學(xué)和機器學(xué)習(xí)等領(lǐng)域的各種任務(wù),該文章介紹了JupyterNotebook的基本使用方法,包括新建和保存Notebook,插入圖像,運行代碼,以及許多快捷鍵的使用
2025-01-01
Django實現(xiàn)圖片文字同時提交的方法
這篇文章主要介紹了Django實現(xiàn)圖片文字同時提交的方法,較為詳細(xì)的分析了Django+jQuery實現(xiàn)圖片與文字同時提交的相關(guān)技巧,需要的朋友可以參考下
2015-05-05
淺談python的elementtree模塊處理中文注意事項
這篇文章主要介紹了淺談python的elementtree模塊處理中文注意事項，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧
2020-03-03
pytorch之torchvision.transforms圖像變換實例
今天小編就為大家分享一篇pytorch之torchvision.transforms圖像變換實例，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧
2019-12-12
詳解向scrapy中的spider傳遞參數(shù)的幾種方法(2種)
這篇文章主要介紹了詳解向scrapy中的spider傳遞參數(shù)的幾種方法,文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧
2020-09-09
python 插入日期數(shù)據(jù)到Oracle實例
這篇文章主要介紹了python 插入日期數(shù)據(jù)到Oracle實例，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧
2020-03-03