python解析html提取數(shù)據(jù),并生成word文檔實(shí)例解析
簡(jiǎn)介
今天試著用ptyhon做了一個(gè)抓取網(wǎng)頁(yè)內(nèi)容,并生成word文檔的功能,功能很簡(jiǎn)單,做一下記錄以備以后用到。
生成word用到了第三方組件python-docx,所以先進(jìn)行第三方組件的安裝。由于windows下安裝的python默認(rèn)不帶setuptools這個(gè)模塊,所以要先安裝setuptools這個(gè)模塊。
安裝
1、在python官網(wǎng)上找到 https://bootstrap.pypa.io/ez_setup.py ,把代碼保存到本地并執(zhí)行: python ez_setup.py
2、下載python-docx (https://pypi.python.org/pypi/python-docx/0.7.4),下載完成后解壓并進(jìn)入到 XXX\python-docx-0.7.4 安裝python-docx : python setup.py install
這樣python-docx就安裝成功了,可以用它來(lái)操作word文檔了,word文檔的生成參考的這里https://python-docx.readthedocs.org/en/latest/index.html
html解析用到的是sgmllib里的SGMLParser url內(nèi)容的獲取用到的是urllib、urllib2
實(shí)現(xiàn)代碼
# -*- coding: cp936 -*-
from sgmllib import SGMLParser
import os
import sys
import urllib
import urllib2
from docx import Document
from docx.shared import Inches
import time
##獲取要解析的url
class GetUrl(SGMLParser):
def __init__(self):
SGMLParser.__init__(self)
self.start=False
self.urlArr=[]
def start_div(self,attr):
for name,value in attr:
if value=="ChairmanCont Bureau":#頁(yè)面js中的固定值
self.start=True
def end_div(self):
self.start=False
def start_a(self,attr):
if self.start:
for name,value in attr:
self.urlArr.append(value)
def getUrlArr(self):
return self.urlArr
##解析上面獲取的url,獲取有用數(shù)據(jù)
class getManInfo(SGMLParser):
def __init__(self):
SGMLParser.__init__(self)
self.start=False
self.p=False
self.dl=False
self.manInfo=[]
self.subInfo=[]
def start_div(self,attr):
for name,value in attr:
if value=="SpeakerInfo":#頁(yè)面js中的固定值
self.start=True
def end_div(self):
self.start=False
def start_p(self,attr):
if self.dl:
self.p=True
def end_p(self):
self.p=False
def start_img(self,attr):
if self.dl:
for name,value in attr:
self.subInfo.append(value)
def handle_data(self,data):
if self.p:
self.subInfo.append(data.decode('utf-8'))
def start_dl(self,attr):
if self.start:
self.dl=True
def end_dl(self):
self.manInfo.append(self.subInfo)
self.subInfo=[]
self.dl=False
def getManInfo(self):
return self.manInfo
urlSource="http://www.XXX"
sourceData=urllib2.urlopen(urlSource).read()
startTime=time.clock()
##get urls
getUrl=GetUrl()
getUrl.feed(sourceData)
urlArr=getUrl.getUrlArr()
getUrl.close()
print "get url use:" + str((time.clock() - startTime))
startTime=time.clock()
##get maninfos
manInfos=getManInfo()
for url in urlArr:#one url one person
data=urllib2.urlopen(url).read()
manInfos.feed(data)
infos=manInfos.getManInfo()
manInfos.close()
print "get maninfos use:" + str((time.clock() - startTime))
startTime=time.clock()
#word
saveFile=os.getcwd()+"\\xxx.docx"
doc=Document()
##word title
doc.add_heading("HEAD".decode('gbk'),0)
p=doc.add_paragraph("HEADCONTENT:".decode('gbk'))
##write info
for infoArr in infos:
i=0
for info in infoArr:
if i==0:##img url
arr1=info.split('.')
suffix=arr1[len(arr1)-1]
arr2=info.split('/')
preffix=arr2[len(arr2)-2]
imgFile=os.getcwd()+"\\imgs\\"+preffix+"."+suffix
if not os.path.exists(os.getcwd()+"\\imgs"):
os.mkdir(os.getcwd()+"\\imgs")
imgData=urllib2.urlopen(info).read()
try:
f=open(imgFile,'wb')
f.write(imgData)
f.close()
doc.add_picture(imgFile,width=Inches(1.25))
os.remove(imgFile)
except Exception as err:
print (err)
elif i==1:
doc.add_heading(info+":",level=1)
else:
doc.add_paragraph(info,style='ListBullet')
i=i+1
doc.save(saveFile)
print "word use:" + str((time.clock() - startTime))
總結(jié)
以上就是本文關(guān)于python解析html提取數(shù)據(jù),并生成word文檔實(shí)例解析的全部?jī)?nèi)容,希望對(duì)大家有所幫助。感興趣的朋友可以繼續(xù)參閱本站其他相關(guān)專(zhuān)題,如有不足之處,歡迎留言指出。感謝朋友們對(duì)本站的支持!
相關(guān)文章
python重寫(xiě)方法和重寫(xiě)特殊構(gòu)造方法
這篇文章主要介紹了python重寫(xiě)方法和重寫(xiě)特殊構(gòu)造方法,對(duì)于父類(lèi)的方法,只要他不符合子類(lèi)模擬的實(shí)物的行為,都可以進(jìn)行重寫(xiě),更多相關(guān)內(nèi)容需要的朋友可以參考一下2022-07-07
Python實(shí)現(xiàn)多任務(wù)進(jìn)程示例
大家好,本篇文章主要講的是Python實(shí)現(xiàn)多任務(wù)進(jìn)程示例,感興趣的同學(xué)趕快來(lái)看一看吧,對(duì)你有幫助的話(huà)記得收藏一下,方便下次瀏覽2022-01-01
pandas實(shí)現(xiàn)excel中的數(shù)據(jù)透視表和Vlookup函數(shù)功能代碼
今天小編就為大家分享一篇pandas實(shí)現(xiàn)excel中的數(shù)據(jù)透視表和Vlookup函數(shù)功能代碼,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2020-02-02
python爬蟲(chóng)入門(mén)教程--正則表達(dá)式完全指南(五)
要想做爬蟲(chóng),不可避免的要用到正則表達(dá)式,如果是簡(jiǎn)單的字符串處理,類(lèi)似于split,substring等等就足夠了,可是涉及到比較復(fù)雜的匹配,當(dāng)然是正則的天下,下面這篇文章主要給大家介紹了python爬蟲(chóng)之正則表達(dá)式的相關(guān)資料,需要的朋友可以參考下。2017-05-05
Python腳本實(shí)現(xiàn)自動(dòng)刪除C盤(pán)臨時(shí)文件夾
在日常使用電腦的過(guò)程中,臨時(shí)文件夾往往會(huì)積累大量的無(wú)用數(shù)據(jù),占用寶貴的磁盤(pán)空間,下面我們就來(lái)看看Python如何通過(guò)腳本實(shí)現(xiàn)自動(dòng)刪除C盤(pán)臨時(shí)文件夾吧2025-01-01
Python基于checksum計(jì)算文件是否相同的方法
這篇文章主要介紹了Python基于checksum計(jì)算文件是否相同的方法,涉及Python針對(duì)二進(jìn)制文件的讀取與判定技巧,需要的朋友可以參考下2015-07-07
Python 完美解決 Import “模塊“ could not&n
這篇文章主要介紹了Python 完美解決 Import “模塊“ could not be resolved ...,本文給大家分享問(wèn)題原因及解決方法,需要的朋友可以參考下2022-11-11

