Python?數(shù)據(jù)分析教程探索性數(shù)據(jù)分析
什么是探索性數(shù)據(jù)分析(EDA)?
EDA 是數(shù)據(jù)分析下的一種現(xiàn)象,用于更好地理解數(shù)據(jù)方面,例如:
– 數(shù)據(jù)的主要特征
– 變量和它們之間的關系
– 確定哪些變量對我們的問題很重要
我們將研究各種探索性數(shù)據(jù)分析方法,
例如:
- 描述性統(tǒng)計,這是一種簡要概述我們正在處理的數(shù)據(jù)集的方法,包括樣本的一些度量和特征
- 分組數(shù)據(jù) [使用group by 進行基本分組]
- ANOVA,方差分析,這是一種計算方法,可將觀察集中的變化劃分為不同的分量。
- 相關和相關方法
我們將使用的數(shù)據(jù)集是子投票數(shù)據(jù)集,您可以在 python 中將其導入為:
import pandas as pd
Df = pd.read_csv("https://vincentarelbundock.github.io / Rdatasets / csv / car / Child.csv")描述性統(tǒng)計
描述性統(tǒng)計是了解數(shù)據(jù)特征和快速總結數(shù)據(jù)的有用方法。python 中的 Pandas 提供了一個有趣的方法describe() 。describe 函數(shù)對數(shù)據(jù)集應用基本統(tǒng)計計算,如極值、數(shù)據(jù)點計數(shù)標準差等。任何缺失值或 NaN 值都會被自動跳過。describe() 函數(shù)很好地描繪了數(shù)據(jù)的分布情況。
DF.describe()
這是您在運行上述代碼時將獲得的輸出:

另一種有用的方法是 value_counts(),它可以獲取分類屬性值系列中每個類別的計數(shù)。例如,假設您正在處理一個客戶數(shù)據(jù)集,這些客戶在列名 age 下分為青年、中年和老年類別,并且您的數(shù)據(jù)框是“DF”。您可以運行此語句以了解有多少人屬于各個類別。在我們的數(shù)據(jù)集示例中可以使用教育列
DF["education"].value_counts()
上述代碼的輸出將是:

另一個有用的工具是 boxplot,您可以通過 matplotlib 模塊使用它。箱線圖是數(shù)據(jù)分布的圖形表示,顯示極值、中位數(shù)和四分位數(shù)。我們可以使用箱線圖輕松找出異常值?,F(xiàn)在再次考慮我們一直在處理的數(shù)據(jù)集,讓我們在屬性總體上繪制一個箱線圖
import pandas as pd
import matplotlib.pyplot as plt
DF = pd.read_csv("https://raw.githubusercontent.com / fivethirtyeight / data / master / airline-safety / airline-safety.csv")
y = list(DF.population)
plt.boxplot(y)
plt.show()發(fā)現(xiàn)異常值后,輸出圖將如下所示:

分組數(shù)據(jù)
Group by 是 pandas 中可用的一個有趣的度量,它可以幫助我們找出不同分類屬性對其他數(shù)據(jù)變量的影響。讓我們看一個在同一數(shù)據(jù)集上的示例,我們想找出人們的年齡和教育對投票數(shù)據(jù)集的影響。
DF.groupby(['education', 'vote']).mean()
輸出會有點像這樣:

如果按輸出表進行分組難以理解,則進一步的分析師使用數(shù)據(jù)透視表和熱圖對其進行可視化。
方差分析
ANOVA 代表方差分析。執(zhí)行它是為了找出不同類別數(shù)據(jù)組之間的關系。
在 ANOVA 下,我們有兩個測量結果:
– F-testscore:顯示組均值相對于變化的變化
– p 值:顯示結果的重要性
這可以使用 python 模塊 scipy 方法名稱f_oneway()
這些樣本是每組的樣本測量值。
作為結論,如果 ANOVA 檢驗給我們一個大的 F 檢驗值和一個小的 p 值,我們可以說其他變量和分類變量之間存在很強的相關性。
相關性和相關性計算
相關性是上下文中兩個變量之間的簡單關系,使得一個變量影響另一個變量。相關性不同于引起的行為。計算變量之間相關性的一種方法是找到 Pearson 相關性。在這里,我們找到兩個參數(shù),即皮爾遜系數(shù)和 p 值。當 Pearson 相關系數(shù)接近 1 或 -1 且 p 值小于 0.0001 時,我們可以說兩個變量之間存在很強的相關性。
Scipy 模塊還提供了一種執(zhí)行 pearson 相關性分析的方法,
這里的示例是您要比較的屬性。
到此這篇關于Python 數(shù)據(jù)分析教程探索性數(shù)據(jù)分析的文章就介紹到這了,更多相關Python 索性數(shù)據(jù)分析內容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家!
相關文章
python中的print()函數(shù)end=' '的使用及說明
這篇文章主要介紹了python中的print()函數(shù)end=' '的使用及說明,具有很好的參考價值,希望對大家有所幫助,如有錯誤或未考慮完全的地方,望不吝賜教2024-02-02
Python 中urls.py:URL dispatcher(路由配置文件)詳解
這篇文章主要介紹了Python 中urls.py:URL dispatcher(路由配置文件)詳解的相關資料,需要的朋友可以參考下2017-03-03
Python實現(xiàn)json對值進行模糊搜索的示例詳解
我經(jīng)常使用json進行存儲配置,于是常常遇到這樣的問題:如果想要對某個數(shù)組里的值進行模糊搜索,同時輸出相關的其他數(shù)組相同位置的的值該如何實現(xiàn)呢?本文就來和大家詳細聊聊2023-01-01
Python實現(xiàn)Ollama的提示詞生成與優(yōu)化
這篇文章主要為大家詳細介紹了Python實現(xiàn)Ollama的提示詞生成與優(yōu)化的相關知識,文中的示例代碼講解詳細,感興趣的小伙伴可以跟隨小編一起學習一下2024-12-12

