PHP批量采集下載圖片的實(shí)現(xiàn)代碼
設(shè)計(jì)思路 考慮到單純的采集一個(gè)網(wǎng)頁(yè)的圖片,太麻煩,所以直接采集他的列表頁(yè),獲取列表的url然后在一一采集,但是用php匹配列表頁(yè)的url太麻煩,第一列表頁(yè)有很多無(wú)效url這對(duì)我這個(gè)正則小菜鳥(niǎo)實(shí)在是個(gè)問(wèn)題,看了一下列表頁(yè)的結(jié)構(gòu),果斷采用jquery獲取url,jquery的萬(wàn)能選擇器又再次強(qiáng)大起來(lái)了。
jquery獲取url,然后ajax傳遞url—>對(duì)應(yīng)PHP文件,遍歷url參數(shù)—->單頁(yè)面采集保存圖片
jquery程序
<script src="http://www.cztv.com/uibase/jquery.js"></script>
<script >
$(document).ready(function(){
var hrefs ='';
$('.f_folder>a').each(function(i){
var href = $('.f_folder:eq('+i+')>a:eq(0)').attr('href');
if(href!='undefined'){
hrefs +=href+',';
}
})
$.getJSON("http://www.****.com/365/getimg.php?hrefs="+hrefs+"&callback=?", function(data){
//alert(data.info);
});
});
</script>
這里把url拼接成‘,’分割的字符串傳遞url,使用getjson是為了跨域需要,關(guān)于getjson常見(jiàn)的幾個(gè)問(wèn)題可以參看<$.getjson遇到的幾個(gè)問(wèn)題>
PHP采集程序
<?php
// 抓起365圖片
error_reporting(E_ALL ^ E_NOTICE);
set_time_limit(0);//設(shè)置PHP超時(shí)時(shí)間
/**
* 得到當(dāng)前時(shí)間
*/
function getMicrotime() {
list ($usec, $sec) = explode(" ", microtime());
return ((float) $usec + (float) $sec);
}
$stime = getMicrotime();
$callback = $_GET['callback'];
$hrefs = $_GET['hrefs'];
$urlarray = explode(',',$hrefs);
//獲取指定url的所有圖片
function getimgs($url){
$dirname = basename($url,".php");
if(!file_exists($dirname)){
mkdir('365/'.$dirname.'');
}
clearstatcache();
$data = file_get_contents($url);
preg_match_all("/(href|src)=(["|']?)([^ "'>]+.(jpg|png|PNG|JPG|gif))\2/i", $data, $matches);
//$matches[3] = array_unique($matches[3]);
unset($data);
$i=0;
if(count($matches[3])>0){
foreach($matches[3] as $k=>$v){
//簡(jiǎn)單判斷是否是標(biāo)準(zhǔn)url,而不是相對(duì)路徑
if(substr($v,0,4)=='http'){
$ext = pathinfo($v,PATHINFO_EXTENSION);//圖片擴(kuò)展
if(!file_exists('365/'.$dirname.'/'.$k.'.'.$ext)){
file_put_contents('365/'.$dirname.'/'.$k.'.'.$ext,file_get_contents($v));
$i++;
}else{
unset($v);
}
clearstatcache();
}else{
unset($v);
}
}
unset($matches);
return $i;
}
}
foreach($urlarray as $k=>$v){
if($v!=''){
$j +=getimgs($v);
}
}
$etime = getMicrotime();
echo "合計(jì)采集了".$j."張圖片";
echo "用時(shí)".($etime-$stime)."秒";
考慮到性能問(wèn)題:在getimgs方法中所用的變量都是使用后便注銷(xiāo)(unset)了,以便釋放內(nèi)存。
設(shè)計(jì)到的幾個(gè)知識(shí)點(diǎn)
判斷是否是標(biāo)準(zhǔn)有效圖片url
if(substr($v,0,4)==’http’)這個(gè)只是簡(jiǎn)單的判斷一下匹配到的圖片url是否是標(biāo)準(zhǔn)的url,因?yàn)椴杉膱D片可能是相對(duì)路徑的,這里我直接放棄這種圖片的采集,當(dāng)然你也可以把這種圖片還原成標(biāo)準(zhǔn)圖片路徑,還有一個(gè)問(wèn)題就是即使是標(biāo)準(zhǔn)url格式,這樣的圖片也未必可以采集,因?yàn)槟悴恢肋@個(gè)圖片是否還有,也許這個(gè)圖片url已經(jīng)無(wú)效了,如果你想更嚴(yán)格的判斷這個(gè)圖片url是否真實(shí)有效可以推薦看我之前的《PHP判斷遠(yuǎn)程url是否有效的幾種方法》有三種方法可以驗(yàn)證是否是有效url。
獲取圖片格式
$ext = pathinfo($v,PATHINFO_EXTENSION);//圖片擴(kuò)展
這里使用了pathinfo的方法,總結(jié)有7種方法可以獲取到文件的格式,推薦文章:《PHP判斷圖片格式的七種方法》
下載保存到本地
file_put_contents(’365/’.$dirname.’/’.$k.’.’.$ext,file_get_contents($v));
file_put_contents() 函數(shù)把一個(gè)字符串寫(xiě)入文件中。
與依次調(diào)用 fopen(),fwrite() 以及 fclose() 功能一樣。
file_get_contents() 函數(shù)把整個(gè)文件讀入一個(gè)字符串中。
因?yàn)榉?wù)器支持file_get_contents,如果服務(wù)器把這個(gè)函數(shù)禁用了,可以使用curl,這個(gè)工具要比f(wàn)ile_get_contents更加強(qiáng)大,推薦學(xué)習(xí)《CURL的學(xué)習(xí)和應(yīng)用(附多線(xiàn)程)》,可以使用curl的多線(xiàn)程下載存儲(chǔ),效果更好
清除文件操作緩存
clearstatcache() 函數(shù)清除文件狀態(tài)緩存。clearstatcache() 函數(shù)會(huì)緩存某些函數(shù)的返回信息,以便提供更高的性能。但是有時(shí)候,比如在一個(gè)腳本中多次檢查同一個(gè)文件,而該文件在此腳本執(zhí)行期間有被刪除或修改的危險(xiǎn)時(shí),你需要清除文件狀態(tài)緩存,以便獲得正確的結(jié)果。要做到這一點(diǎn),就需要使用 clearstatcache() 函數(shù)。官方手冊(cè):
程序執(zhí)行時(shí)間計(jì)算
/**
* 得到當(dāng)前時(shí)間
*/
function getMicrotime() {
list ($usec, $sec) = explode(" ", microtime());
return ((float) $usec + (float) $sec);
}
可以參考本博客文章;《獲取php頁(yè)面執(zhí)行時(shí)間,數(shù)據(jù)庫(kù)讀寫(xiě)次數(shù),函數(shù)調(diào)用次數(shù)等【THINKPHP】》
最后看一下效果;

409秒采集了214張圖片,大概2秒下載保存了一張圖片,圖片總大小約62M,這樣看來(lái):
一個(gè)小時(shí)60*60可以大約下載1800張圖片
相關(guān)文章
在IIS7.0下面配置PHP 5.3.2運(yùn)行環(huán)境的方法
最近心血來(lái)潮,想學(xué)習(xí)一下php,既然想學(xué)習(xí)了就得需要搭環(huán)境。在網(wǎng)上找來(lái)找去都是說(shuō)IIS5.0或者6.0的配置。真是看得云里霧里的,這樣直接影響了我的判斷力?,F(xiàn)特意寫(xiě)下來(lái)在IIS7.0下面如何進(jìn)行配置PHP。2010-04-04
推薦10個(gè)提供免費(fèi)PHP腳本下載的網(wǎng)站
這篇文章主要介紹了推薦10個(gè)提供免費(fèi)PHP腳本下載的網(wǎng)站,需要的朋友可以參考下2014-12-12
Yii2簡(jiǎn)單實(shí)現(xiàn)給表單添加驗(yàn)證碼的方法
這篇文章主要介紹了Yii2簡(jiǎn)單實(shí)現(xiàn)給表單添加驗(yàn)證碼的方法,簡(jiǎn)單分析了Yii中控制器的相關(guān)設(shè)置、表單模型的創(chuàng)建及視圖的調(diào)用技巧,需要的朋友可以參考下2016-07-07
詳解PHP內(nèi)置訪(fǎng)問(wèn)資源的超時(shí)時(shí)間 time_out file_get_contents read_file
本篇文章是對(duì)PHP內(nèi)置訪(fǎng)問(wèn)資源的超時(shí)時(shí)間time_out file_get_contents read_file進(jìn)行了詳細(xì)的分析介紹,需要的朋友參考下2013-06-06
CentOS下PHP7的編譯安裝及MySQL的支持和一些常見(jiàn)問(wèn)題的解決辦法
這篇文章主要介紹了CentOS下PHP7的編譯安裝及MySQL的支持和一些問(wèn)題的解決 的相關(guān)資料,需要的朋友可以參考下2015-12-12
discuz免激活同步登入代碼修改方法(discuz同步登錄)
無(wú)需激活直接同步登入discuz,測(cè)試版本:discuz! x3,理論也支持2.5,大家測(cè)試再用吧2013-12-12

