深入分析python數(shù)據(jù)挖掘 Json結(jié)構(gòu)分析

json是一種輕量級的數(shù)據(jù)交換格式,也可以說是一種配置文件的格式

這種格式的文件是我們在數(shù)據(jù)處理經(jīng)常會遇到的
python提供內(nèi)置的模塊json,只需要在使用前導(dǎo)入即可
你可以通過幫助函數(shù)查看json的幫助文檔

json常用的方法有l(wèi)oad、loads、dump以及dumps,這個都屬于python初級,我不做過多解釋
json可以結(jié)合數(shù)據(jù)庫一起使用,在這以后要處理大量數(shù)據(jù)時非常有用
下面我們正式來利用數(shù)據(jù)挖掘?qū)son文件進(jìn)行處理
現(xiàn)在很多網(wǎng)站都運用了Ajax,所以一般很多都是XHR文件
通過這里我想利用一個地圖網(wǎng)站來演示

我們通過瀏覽器的調(diào)試獲取了相關(guān)url
https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ
下面我們通過requests模塊中的get方法,模擬瀏覽器發(fā)出的http請求,并返回的到的結(jié)果對象
代碼如下
# coding=utf-8 __Author__ = "susmote" import requests url = "https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ" resp = requests.get(url) print(resp.text[0:200])
在終端中運行結(jié)果如下

數(shù)據(jù)已經(jīng)獲取到了,但是為了接下來能使用這些數(shù)據(jù),我們需要利用json模塊對這些數(shù)據(jù)進(jìn)行分析
代碼如下
import requests import json url = "https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ" resp = requests.get(url) json_dict = json.loads(resp.text) print(type(json_dict)) print(json_dict.keys())
簡單講一下上面的代碼:
導(dǎo)入json模塊,然后調(diào)用loads方法,將返回的文本作為方法的參數(shù)傳入
在終端中運行結(jié)果如下

可以看出,轉(zhuǎn)換的結(jié)果是與json字符串對應(yīng)的字典,因為type(json_dict)返回的是<class 'dict'>
因為對象是一個字典,所以我們可以調(diào)用字典的方法,在這里我們調(diào)用的就是keys方法
結(jié)果返回三個鍵,即status、searcOpt、data
下面我們來查看data鍵里面的數(shù)據(jù)
import requests import json url = "https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ" resp = requests.get(url) json_dict = json.loads(resp.text) print(json_dict['data'])
下面在終端中運行這一段代碼

可以看到里面有很多我們需要的數(shù)據(jù),如

不一一標(biāo)出,通過跟網(wǎng)頁顯示的相比較,就能清楚哪些是有用的了
下面我們通過代碼獲取有用的信息,把它清晰的輸出
# coding=utf-8
__Author__ = "susmote"
import requests
import json
url = "https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ"
resp = requests.get(url)
json_dict = json.loads(resp.text)
data_dict = json_dict['data']
data_list = data_dict['poi_list']
dis_data = data_list[0]
print('城市: ', dis_data['cityname'])
print('名稱: ', dis_data['name'])
print('電話: ', dis_data['tel'])
print('區(qū)號: ', dis_data['areacode'])
print('地址: ', dis_data['address'])
print('經(jīng)度: ', dis_data['longitude'])
print('緯度: ', dis_data['latitude'])
因為返回的是一個字典,通過對文件結(jié)構(gòu)的研究,字典中嵌套著列表,列表中又嵌套著字典,通過層層解套,成功獲取數(shù)據(jù)
我這里把步驟分開列出了,所以你會看的更加清楚
下面我們通過終端運行程序,獲取我們想要的信息

是不是非常簡單了,這個程序可以作為一個模版,獲取其他地方的信息時只需要改一個url即可
例如以下幾個范例
北京大學(xué)

或者是騰訊大廈

數(shù)據(jù)挖掘是沒有盡頭的,希望大家多分析數(shù)據(jù),找到你想要的數(shù)據(jù)
相關(guān)文章
Python如何通過手肘法實現(xiàn)k_means聚類詳解
K-means聚類算法是一種常見的無監(jiān)督學(xué)習(xí)算法,用于將數(shù)據(jù)集分成k個不同的簇,下面這篇文章主要給大家介紹了關(guān)于Python如何通過手肘法實現(xiàn)k_means聚類的相關(guān)資料,需要的朋友可以參考下2023-04-04
pandas把所有大于0的數(shù)設(shè)置為1的方法
今天小編就為大家分享一篇pandas把所有大于0的數(shù)設(shè)置為1的方法,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2019-01-01
使用Python創(chuàng)建一個文件夾結(jié)構(gòu)生成器
這篇文章主要為大家詳細(xì)介紹了如何使用Python創(chuàng)建一個文件夾結(jié)構(gòu)生成器,文中的示例代碼講解詳細(xì),感興趣的小伙伴可以跟隨小編一起學(xué)習(xí)一下2025-01-01
Python Numpy教程之排序,搜索和計數(shù)詳解
這篇文章主要為大家詳細(xì)介紹了Python?NumPy中排序,搜索和計數(shù)的實現(xiàn),文中的示例代碼講解詳細(xì),對我們學(xué)習(xí)Python有一定幫助,需要的可以參考一下2022-08-08

