Python爬蟲爬取微博熱搜保存為 Markdown 文件的源碼
什么是爬蟲?
網(wǎng)絡爬蟲(又被稱為網(wǎng)頁蜘蛛,網(wǎng)絡機器人,在FOAF社區(qū)中間,更經(jīng)常的稱為網(wǎng)頁追逐者),是一種按照一定的規(guī)則,自動地抓取萬維網(wǎng)信息的程序或者腳本。另外一些不常使用的名字還有螞蟻、自動索引、模擬程序或者蠕蟲。
其實通俗的講就是通過程序去獲取web頁面上自己想要的數(shù)據(jù),也就是自動抓取數(shù)據(jù)
爬蟲可以做什么?
你可以爬取小姐姐的圖片,爬取自己有興趣的島國視頻,或者其他任何你想要的東西,前提是,你想要的資源必須可以通過瀏覽器訪問的到。
爬蟲的本質(zhì)是什么?
上面關于爬蟲可以做什么,定義了一個前提,是瀏覽器可以訪問到的任何資源,特別是對于知曉web請求生命周期的學者來說,爬蟲的本質(zhì)就更簡單了。爬蟲的本質(zhì)就是模擬瀏覽器打開網(wǎng)頁,獲取網(wǎng)頁中我們想要的那部分數(shù)據(jù)。
微博熱搜榜python爬蟲,僅供學習交流

源碼及注釋:
# -*- coding=UTF-8 -*-
#!usr/bin/env python
import os
import time
import requests
from lxml import etree
url = "https://s.weibo.com/top/summary?cate=realtimehot"
headers={
'Host': 's.weibo.com',
'Accept': 'text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8,application/signed-exchange;v=b3',
'Accept-Encoding': 'gzip, deflate, br',
'Accept-Language': 'zh-CN,zh;q=0.9',
'Connection': 'keep-alive',
'Referer': 'https://weibo.com/',
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/78.0.3904.97 Safari/537.36'
}
r = requests.get(url,headers=headers)
print(r.status_code)
html_xpath = etree.HTML(r.text)
data = html_xpath.xpath('//*[@id="pl_top_realtimehot"]/table/tbody/tr/td[2]')
num = -1
# # 解決存儲路徑
# time_path = time.strftime('%Y{y}%m{m}%dww22uck',time.localtime()).format(y='年', m='月', d='日')
# time_name = time.strftime('%Y{y}%m{m}%dk2ecca2%H{h}',time.localtime()).format(y='年', m='月', d='日',h='點')
# root = "./" + time_path + "/"
# path = root + time_name + '.md'
# if not os.path.exists(root):
# os.mkdir(root)
# 解決存儲路徑
time_path = time.strftime('%Y{y}%m{m}%dasoommq',time.localtime()).format(y='年', m='月', d='日')
time_name = time.strftime('%Y{y}%m{m}%d2qmk0ee%H{h}',time.localtime()).format(y='年', m='月', d='日',h='點')
year_path = time.strftime('%Y{y}',time.localtime()).format(y='年')
month_path = time.strftime('%m{m}',time.localtime()).format(m='月')
day_month = time.strftime('%do2aw2ec',time.localtime()).format(d='日')
all_path = "./" + year_path + '/'+ month_path + '/' + day_month
if not os.path.exists(all_path):
# 創(chuàng)建多層路徑
os.makedirs(all_path)
# 最終文件存儲位置
root = all_path + "/"
path = root + time_name + '.md'
print(path)
# 文件頭部信息
with open(path,'a') as f:
f.write('{} {}\n\n'.format('# ',time_name+'數(shù)據(jù)'))
f.close()
for tr in (data):
title = tr.xpath('./a/text()')
hot_score = tr.xpath('./span/text()')
num += 1
# 過濾第 0 條
if num == 0:
pass
else:
with open(path,'a') as f:
f.write('{} {}、{}\n\n'.format('###',num,title[0]))
f.write('{} {}\n\n'.format('微博當時熱度為:',hot_score[0]))
f.close()
print(num,title[0],'微博此時的熱度為:',hot_score[0])
運行:
運行結束后會在當前文件夾下生成以時間命名的文件夾,并且會生成以具體小時為單位的具體時間命名的 Markdown 文件,如下:

查看:

到此這篇關于Python爬蟲爬取微博熱搜保存為 Markdown 文件的文章就介紹到這了,更多相關Python爬蟲爬取微博熱搜保存內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家!
相關文章
Python自動化操作Excel方法詳解(xlrd,xlwt)
Excel是Windows環(huán)境下流行的、強大的電子表格應用。本文將詳解用Python利用xlrd和xlwt實現(xiàn)自動化操作Excel的方法詳細,需要的可以參考一下2022-06-06
python筆記_將循環(huán)內(nèi)容在一行輸出的方法
今天小編就為大家分享一篇python筆記_將循環(huán)內(nèi)容在一行輸出的方法,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2019-08-08
CentOS下使用yum安裝python-pip失敗的完美解決方法
這篇文章主要介紹了CentOS下使用yum安裝python-pip失敗的完美解決方法,需要的朋友可以參考下2017-08-08

