Python編寫百度貼吧的簡單爬蟲

更新時間：2015年04月02日 09:31:23 投稿：hebedich

這篇文章主要介紹了Python編寫百度貼吧的簡單爬蟲，簡單實現(xiàn)了下載對應(yīng)頁碼的頁面并存為以當前時間命名的html文件，這里分享給大家，拋磚引玉。

操作：輸入帶分頁的地址，去掉最后面的數(shù)字，設(shè)置一下起始頁數(shù)和終點頁數(shù)

功能：下載對應(yīng)頁碼的所有頁面并儲存為HTML文件，以當前時間命名

代碼：

# -*- coding: utf-8 -*-
 
#----------------------------
#  程序：百度貼吧的小爬蟲
#  日期：2015/03/28
#  語言：Python 2.7
#  操作：輸入帶分頁的地址，去掉最后面的數(shù)字，設(shè)置一下起始頁數(shù)和終點頁數(shù)
#  功能：下載對應(yīng)頁碼的所有頁面并儲存為HTML文件，以當前時間命名
#----------------------------
 
import urllib2
import time
 
def baidu_tieba(url, start, end):
  for i in range(start, end):
    sName = time.strftime('%Y%m%d%H%M%S') + str(i) + '.html'
    print '正在下載第' + str(i) + '個網(wǎng)頁，并將其儲存為' + sName + '...'
    f = open(sName, 'w+')
    m = urllib2.urlopen(url+str(i))
    n = m.read()
    f.write(n)
    f.close()
  print '成功下載'
     
baiduurl = str(raw_input('請輸入貼子的地址,去掉pn后面的數(shù)字>>\n'))
begin_page = int(raw_input('請輸入帖子的起始頁碼>>\n'))
end_page = int(raw_input('請輸入帖子的終止頁碼>>\n'))        
 
baidu_tieba(baiduurl, begin_page, end_page)

以上所述就是本文的全部內(nèi)容了，希望能夠?qū)Υ蠹覍W習Python制作爬蟲有所幫助。

您可能感興趣的文章:

相關(guān)文章

Python經(jīng)驗總結(jié):兩種Type?Error問題
這篇文章主要介紹了Python經(jīng)驗總結(jié):兩種Type?Error問題,具有很好的參考價值,希望對大家有所幫助,如有錯誤或未考慮完全的地方,望不吝賜教
2023-09-09
Mysql分組查詢group by與with rollup方式
這篇文章主要介紹了Mysql分組查詢group by與with rollup方式,具有很好的參考價值,希望對大家有所幫助,如有錯誤或未考慮完全的地方,望不吝賜教
2023-08-08
Python使用py2neo操作圖數(shù)據(jù)庫neo4j的方法詳解
這篇文章主要介紹了Python使用py2neo操作圖數(shù)據(jù)庫neo4j的方法,結(jié)合實例形式詳細分析了Python使用py2neo操作圖數(shù)據(jù)庫neo4j的具體步驟、原理、相關(guān)使用技巧與操作注意事項,需要的朋友可以參考下
2020-01-01
對Python中for復合語句的使用示例講解
今天小編就為大家分享一篇對Python中for復合語句的使用示例講解，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧
2018-11-11
如何在Python函數(shù)執(zhí)行前后增加額外的行為
有的時候會需要在函數(shù)前后添點額外的功能（比如過濾、計時等）時，以前總是首先想到裝飾器。最近學習了Python的上下文管理器，所以本文就給大家介紹了如何在Python函數(shù)執(zhí)行前后增加額外的行為，有需要的朋友們可以參考借鑒，下面來一起看看吧。
2016-10-10
python得到qq句柄,并顯示在前臺的方法
今天小編就為大家分享一篇python得到qq句柄,并顯示在前臺的方法，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧
2018-10-10
淺談django 模型類使用save()方法的好處與注意事項
這篇文章主要介紹了淺談django 模型類使用save()方法的好處與注意事項，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧
2020-03-03
windows下的pycharm安裝及其設(shè)置中文菜單
這篇文章主要介紹了windows下的pycharm安裝及其設(shè)置中文菜單，文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值，需要的朋友們下面隨著小編來一起學習學習吧
2020-04-04
基于Python實現(xiàn)報表自動化并發(fā)送到郵箱
作為數(shù)據(jù)分析師，我們需要經(jīng)常制作統(tǒng)計分析圖表。但是報表太多的時候往往需要花費我們大部分時間去制作報表。本文將利用Python實現(xiàn)報表自動化并發(fā)送到郵箱，需要的可以參考一下
2022-07-07
Linux下python3.7.0安裝教程
這篇文章主要為大家詳細介紹了Linux下python3.7.0安裝教程，具有一定的參考價值，感興趣的小伙伴們可以參考一下
2018-07-07