python3 requests庫實(shí)現(xiàn)多圖片爬取教程

更新時(shí)間：2019年12月18日 10:45:27 作者：small_brother

今天小編就為大家分享一篇python3 requests庫實(shí)現(xiàn)多圖片爬取教程，具有很好的參考價(jià)值，希望對大家有所幫助。一起跟隨小編過來看看吧

最近對爬蟲比較感興趣，所以就學(xué)了一下，看人家都在網(wǎng)上爬取那么多美女圖片養(yǎng)眼，我也迫不及待的試了一下，不多說，切入正題。

其實(shí)爬取圖片和你下載圖片是一個(gè)樣子的，都是操作鏈接，也就是url，所以當(dāng)我們確定要爬取的東西后就要開始尋找url了，所以先打開百度圖片搜一下

然后使用瀏覽器F12進(jìn)入開發(fā)者模式，或者右鍵檢查元素

注意看xhr，點(diǎn)開觀察有什么不一樣的（如果沒有xhr就在網(wǎng)頁下滑）

第一個(gè)是這樣的

第二個(gè)是這樣的

注意看，pn是不是是30的倍數(shù)，而此時(shí)網(wǎng)頁圖片的數(shù)量也在增多，發(fā)現(xiàn)了這個(gè)，進(jìn)url看一下，首先看原網(wǎng)頁源碼

view-source:http://image.baidu.com/search/index?tn=baiduimage&ipn=r&ct=201326592&cl=2&lm=-1&st=-1&fm=index&fr=&hs=0&xthttps=111121&sf=1&fmq=&pv=&ic=0&nc=1&z=&se=1&showtab=0&fb=0&width=&height=&face=0&istype=2&ie=utf-8&word=%E7%BE%8E%E5%A5%B3&oq=%E7%BE%8E%E5%A5%B3&rsp=-1

再看看兩個(gè)Requests URL的頁面，發(fā)現(xiàn)都是這樣的

不用管他，找我們要的信息，ObjURL，"ObjURL":"http:\/\/image.tianjimedia.com\/uploadimages\/2015\/131\/34\/545szi3x5s84_680x500.jpg"

就是這個(gè)，好，現(xiàn)在東西都找到在哪了，寫程序咯

import re
import requests
import os
 
name=input('輸入文件夾名稱:')
robot='C:/Users/lenovo/Desktop/'+name+'/'
kv={'user-agent':'mozilla/5.0'}
 
#獲取url對應(yīng)的源碼頁面
def getHTMLText(url):
 try:
  r=requests.get(url,timeout=30,headers=kv)
  r.raise_for_status()
  r.encoding=r.apparent_encoding
  return r.text
 except:
  return ''
 
#解析url源碼頁面
def parserHTML(html):
#正則表達(dá)式為獲取ObjURL
 pattern=r'"ObjURL":"(.*?)"'
 reg=re.compile(pattern)
 urls=re.findall(reg,html)
 return urls
 
#下載圖片
def download(List):
 for url in List:
  try:
   path=robot+url.split('/')[-1]
   url=url.replace('\\','')
   r=requests.get(url,timeout=30)
   r.raise_for_status()
   r.encoding=r.apparent_encoding
   if not os.path.exists(robot):
    os.makedirs(robot)
   if not os.path.exists(path):
    with open(path,'wb') as f:
     f.write(r.content)
     f.close()
     print(path+' 文件保存成功')
   else:
    print('文件已經(jīng)存在')
  except:
   continue
 
#通過Requests URL請求到更多的url源碼頁面
def getmoreurl(num,word):
 ur=[]
 url=r'http://image.baidu.com/search/acjson?tn=resultjson_com&ipn=rj&ct=201326592&is=&fp=result&queryWord={word}&cl=2&lm=-1&ie=utf-8&oe=utf-8&adpicid=&st=-1&z=&ic=0&word={word}&s=&se=&tab=&width=&height=&face=0&istype=2&qc=&nc=1&fr=&cg=girl&pn={pn}&rn=30'
 for x in range(1,num+1):
#word為搜索關(guān)鍵詞，num為想獲取的頁面數(shù)量
  u=url.format(word=word,pn=30*x)
  ur.append(u)
 return ur
 
def main():
 n=int(input('輸入想下載多少張圖片(n*30)：'))
 word=input('輸入想下載的圖片:')
#初始頁面url
 url='http://image.baidu.com/search/index?tn=baiduimage&ipn=r&ct=201326592&cl=2&lm=-1&st=-1&fm=result&fr=&sf=1&fmq=1499773676062_R&pv=&ic=0&nc=1&z=&se=1&showtab=0&fb=0&width=&height=&face=0&istype=2&ie=utf-8&word={word}'.format(word=word)
 html=getHTMLText(url)
 urls=parserHTML(html)
 download(urls)
#下面操作獲取的更多頁面圖片
 url1=getmoreurl(n,word)
 for i in range(n):
  html1=getHTMLText(url1[i])
  urls1=parserHTML(html1)
  download(urls1)
 
main()

然后試一試效果