Python3實(shí)現(xiàn)的爬蟲爬取數(shù)據(jù)并存入mysql數(shù)據(jù)庫操作示例
本文實(shí)例講述了Python3實(shí)現(xiàn)的爬蟲爬取數(shù)據(jù)并存入mysql數(shù)據(jù)庫操作。分享給大家供大家參考,具體如下:
爬一個電腦客戶端的訂單。羅總推薦,抓包工具用的是HttpAnalyzerStdV7,與chrome自帶的F12類似??蛻舳擞薪訂未髲d,羅列所有訂單的簡要信息。當(dāng)單子被接了,就不存在了。我要做的是新出訂單就爬取記錄到我的數(shù)據(jù)庫zyc里。
設(shè)置每10s爬一次。
抓包工具頁面如圖:

首先是爬蟲,先找到數(shù)據(jù)存儲的頁面,再用正則爬出。
# -*- coding:utf-8 -*-
import re
import requests
import pymysql #Python3的mysql模塊,Python2 是mysqldb
import datetime
import time
def GetResults():
requests.adapters.DEFAULT_RETRIES = 5 #有時(shí)候報(bào)錯,我在網(wǎng)上找的不知道啥意思,好像也沒用。
reg = [r'"id":(.*?),',
r'"order_no":"(.*?)",',
r'"order_title":"(.*?)",',
r'"publish_desc":"(.*?)",',
r'"game_area":"(.*?)\\/(.*?)\\/(.*?)",',
r'"order_current":"(.*?)",',
r'"order_content":"(.*?)",',
r'"order_hours":(.*?),',
r'"order_price":"(.*?)",',
r'"add_price":"(.*?)",',
r'"safe_money":"(.*?)",',
r'"speed_money":"(.*?)",',
r'"order_status_desc":"(.*?)",',
r'"order_lock_desc":"(.*?)",',
r'"cancel_type_desc":"(.*?)",',
r'"kf_status_desc":"(.*?)",',
r'"is_show_pwd":(.*?),',
r'"game_pwd":"(.*?)",',
r'"game_account":"(.*?)",',
r'"game_actor":"(.*?)",',
r'"left_hours":"(.*?)",',
r'"created_at":"(.*?)",',
r'"account_id":"(.*?)",',
r'"mobile":"(.*?)",',
r'"contact":"(.*?)",',
r'"qq":"(.*?)"},']
results=[]
try:
for l in range(1,2): #頁碼
proxy = {'HTTP':'61.135.155.82:443'} #代理ip
html = requests.get('https://www.dianjingbaozi.com/api/dailian/soldier/hall?access_token=3ef3abbea1f6cf16b2420eb962cf1c9a&dan_end=&dan_start=&game_id=2&kw=&order=price_desc&page=%d'%l+'&pagesize=30&price_end=0&price_start=0&server_code=000200000000&sign=ca19072ea0acb55a2ed2486d6ff6c5256c7a0773×tamp=1511235791&type=public&type_id=%20HTTP/1.1',proxies=proxy) # 用get的方式訪問。網(wǎng)頁解碼成中文。接單大廳頁。
#
html=html.content.decode('utf-8')
outcome_reg_order_no = re.findall(r'"order_no":"(.*?)","game_area"', html) #獲取訂單編號,因?yàn)橛唵卧斍轫搖rl與訂單編號有關(guān)。
for j in range(len(outcome_reg_order_no)):
html_order = requests.get('http://www.lpergame.com/api/dailian/order/detail?access_token=eb547a14bad97e1ee5d835b32cb83ff1&order_no=' +outcome_reg_order_no[j] + '&sign=c9b503c0e4e8786c2945dc0dca0fabfa1ca4a870×tamp=1511146154 HTTP/1.1',proxies=proxy) #訂單詳細(xì)頁
html_order=html_order.content.decode('utf-8')
# print(html_order)
outcome_reg = []
for i in range(len(reg)):#每條訂單
outcome = re.findall(reg[i], html_order)
if i == 4:
for k in range(len(outcome)):
outcome_reg.extend(outcome[k])
else:
outcome_reg.extend(outcome)
results.append(outcome_reg) #結(jié)果集
return results
except:
time.sleep(5) #有時(shí)太頻繁會報(bào)錯。
print("失敗")
pass
根據(jù)爬蟲結(jié)果建表,這里變量名要準(zhǔn)確。并且要設(shè)置唯一索引,使每次爬的只有新訂單入庫。
def mysql_create():
mysql_host = ''
mysql_db = 'zyc'
mysql_user = 'zyc'
mysql_password = ''
mysql_port = 3306
db = pymysql.connect(host=mysql_host, port=mysql_port, user=mysql_user, password=mysql_password, db=mysql_db,charset='utf8') # 連接數(shù)據(jù)庫編碼注意是utf8,不然中文結(jié)果輸出會亂碼
sql_create = "CREATE TABLE DUMPLINGS (id CHAR(10),order_no CHAR(50),order_title VARCHAR(265),publish_desc VARCHAR(265),game_name VARCHAR(265),"\
"game_area VARCHAR(265),game_area_distinct VARCHAR(265),order_current VARCHAR(3908),order_content VARCHAR(3908),order_hours CHAR(10)," \
"order_price FLOAT(10),add_price FLOAT(10),safe_money FLOAT(10),speed_money FLOAT(10),order_status_desc VARCHAR(265),"\
"order_lock_desc VARCHAR(265),cancel_type_desc VARCHAR(265),kf_status_desc VARCHAR(265),is_show_pwd TINYINT,game_pwd CHAR(50),"\
"game_account VARCHAR(265),game_actor VARCHAR(265),left_hours VARCHAR(265),created_at VARCHAR(265),account_id CHAR(50),"\
"mobile VARCHAR(265),mobile2 VARCHAR(265),contact VARCHAR(265),contact2 VARCHAR(265),qq VARCHAR(265),"\
"PRIMARY KEY (`id`),UNIQUE KEY `no`(`order_no`))ENGINE=InnoDB AUTO_INCREMENT=12 DEFAULT CHARSET=utf8"
sql_key="CREATE UNIQUE INDEX id ON DUMPLINGS(id)"
cursor = db.cursor()
cursor.execute("DROP TABLE IF EXISTS DUMPLINGS")
cursor.execute(sql_create)# 執(zhí)行SQL語句
cursor.execute(sql_key)
db.close() # 關(guān)閉數(shù)據(jù)庫連
把數(shù)據(jù)導(dǎo)入Mysql,注意編碼和字段之間的匹配。
def IntoMysql(results):
mysql_host = ''
mysql_db = 'zyc'
mysql_user = 'zyc'
mysql_password = ''
mysql_port = 3306
db = pymysql.connect(host=mysql_host, port=mysql_port, user=mysql_user, password=mysql_password, db=mysql_db,charset='utf8') # 連接數(shù)據(jù)庫編碼注意是utf8,不然中文結(jié)果輸出會亂碼
cursor = db.cursor()
for j in range(len(results)):
try:
sql = "INSERT INTO DUMPLINGS(id,order_no,order_title,publish_desc ,game_name," \
"game_area,game_area_distinct,order_current,order_content,order_hours," \
"order_price,add_price,safe_money,speed_money,order_status_desc," \
"order_lock_desc,cancel_type_desc,kf_status_desc,is_show_pwd,game_pwd," \
"game_account,game_actor,left_hours,created_at,account_id," \
"mobile,mobile2,contact,contact2,qq) VALUES ("
for i in range(len(results[j])):
sql = sql + "'" + results[j][i] + "',"
sql = sql[:-1] + ")"
sql = sql.encode('utf-8')
cursor.execute(sql)
db.commit()
except:pass
db.close()
每十秒運(yùn)行一次。
mysql_create()
i=0
while True:
results = GetResults()
IntoMysql(results)
i=i+1
print("爬蟲次數(shù):",i)
time.sleep(10)
結(jié)果如圖:

更多關(guān)于Python相關(guān)內(nèi)容可查看本站專題:《Python Socket編程技巧總結(jié)》、《Python正則表達(dá)式用法總結(jié)》、《Python數(shù)據(jù)結(jié)構(gòu)與算法教程》、《Python函數(shù)使用技巧總結(jié)》、《Python字符串操作技巧匯總》、《Python+MySQL數(shù)據(jù)庫程序設(shè)計(jì)入門教程》及《Python常見數(shù)據(jù)庫操作技巧匯總》
希望本文所述對大家Python程序設(shè)計(jì)有所幫助。
相關(guān)文章
三步實(shí)現(xiàn)Django Paginator分頁的方法
這篇文章主要介紹了三步實(shí)現(xiàn)Django Paginator分頁的方法,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2019-06-06
Python讀取Excel一列并計(jì)算所有對象出現(xiàn)次數(shù)的方法
這篇文章主要給大家介紹了關(guān)于Python讀取Excel一列并計(jì)算所有對象出現(xiàn)次數(shù)的相關(guān)資料,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-09-09
Python中創(chuàng)建數(shù)值列表的4種方法總結(jié)
在Python中列表(List)是一種有序、可變的數(shù)據(jù)類型,被廣泛用于存儲和處理多個元素,這篇文章主要給大家介紹了關(guān)于Python中創(chuàng)建數(shù)值列表的4種方法,需要的朋友可以參考下2024-05-05
python3 實(shí)現(xiàn)的人人影視網(wǎng)站自動簽到
這里給大家分享的是使用Python3結(jié)合計(jì)劃任務(wù),實(shí)現(xiàn)的人人影視網(wǎng)站自動簽到功能的代碼,非常的實(shí)用,有需要的小伙伴可以參考下2016-06-06

