(手寫)PCA原理及其Python實(shí)現(xiàn)圖文詳解

更新時(shí)間：2021年08月17日 09:16:33 作者：Raymond_桐

這篇文章主要介紹了Python來PCA算法，小編覺得挺不錯(cuò)的，現(xiàn)在分享給大家，也給大家做個(gè)參考。一起跟隨小編過來看看吧，希望能給你帶來幫助

1、背景

為什么需要降維呢？

因?yàn)閿?shù)據(jù)個(gè)數(shù) N 和每個(gè)數(shù)據(jù)的維度 p 不滿足 N >> p，造成了模型結(jié)果的“過擬合”。有兩種方法解決上述問題：

增加N;減小p。

這里我們講解的 PCA 屬于方法2。

2、樣本均值和樣本方差矩陣

在這里插入圖片描述

3、PCA

在這里插入圖片描述

3.1 最大投影方差

在這里插入圖片描述

3.2 最小重構(gòu)距離

在這里插入圖片描述

4、Python實(shí)現(xiàn)

"""
    -*- coding: utf-8 -*-
    @ Time     : 2021/8/15  22:19
    @ Author   : Raymond
    @ Email    : wanght2316@163.com
    @ Editor   : Pycharm
"""
from sklearn.datasets import load_digits
from sklearn.decomposition import PCA
import pandas as pd
import matplotlib.pyplot as plt

digits = load_digits()
print(digits.keys())
print("數(shù)據(jù)的形狀為: {}".format(digits['data'].shape))
# 構(gòu)建模型 - 降到10 d
pca = PCA(n_components=10)
pca.fit(digits.data)
projected=pca.fit_transform(digits.data)
print('降維后主成分的方差值為：',pca.explained_variance_)
print('降維后主成分的方差值占總方差的比例為：',pca.explained_variance_ratio_)
print('降維后最大方差的成分為：',pca.components_)
print('降維后主成分的個(gè)數(shù)為：',pca.n_components_)
print('original shape:',digits.data.shape)
print('transformed shape:',projected.shape)
s = pca.explained_variance_
c_s = pd.DataFrame({'b': s,'b_sum': s.cumsum() / s.sum()})
c_s['b_sum'].plot(style= '--ko',figsize= (10, 4))
plt.rcParams['font.sans-serif'] = ['SimHei']  # 指定默認(rèn)字體
plt.rcParams['axes.unicode_minus'] = False  # 解決保存圖像是負(fù)號(hào)'-'顯示為方塊的問題
plt.axhline(0.85,  color= 'r',linestyle= '--')
plt.text(6, c_s['b_sum'].iloc[6]-0.08, '第7個(gè)成分累計(jì)貢獻(xiàn)率超過85%', color='b')
plt.title('PCA 各成分累計(jì)占比')
plt.grid()
plt.savefig('./PCA.jpg')
plt.show()

結(jié)果展示：

在這里插入圖片描述

總結(jié)

本篇文章就到這里了，希望能給你帶來幫助，也希望您能夠多多關(guān)注腳本之家的更多內(nèi)容！

您可能感興趣的文章:

Python
PCA

相關(guān)文章

Pandas_cum累積計(jì)算和rolling滾動(dòng)計(jì)算的用法詳解
今天小編就為大家分享一篇Pandas_cum累積計(jì)算和rolling滾動(dòng)計(jì)算的用法詳解，具有好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過來看看吧
2019-07-07
詳解Python傳入?yún)?shù)的幾種方法
這篇文章主要介紹了Python傳入?yún)?shù)的幾種方法，文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧
2019-05-05
python3+selenium實(shí)現(xiàn)126郵箱登陸并發(fā)送郵件功能
這篇文章主要為大家詳細(xì)介紹了python3+selenium實(shí)現(xiàn)126郵箱登陸并發(fā)送郵件功能，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下
2019-01-01
Pandas替換NaN值的方法實(shí)現(xiàn)
本文主要介紹了Pandas替換NaN值的方法實(shí)現(xiàn)，文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧
2023-01-01
利用Python獲取趕集網(wǎng)招聘信息前篇
這篇文章主要為大家分享了如何利用Python獲取趕集網(wǎng)招聘信息的前一篇內(nèi)容，感興趣的小伙伴們可以參考一下
2016-04-04
Django自定義認(rèn)證方式用法示例
這篇文章主要介紹了Django自定義認(rèn)證方式用法,結(jié)合實(shí)例形式分析了Django自定義認(rèn)證的創(chuàng)建、設(shè)置及功能實(shí)現(xiàn)技巧,需要的朋友可以參考下
2017-06-06
python3安裝pip3（install pip3 for python 3.x）
這篇文章主要為大家詳細(xì)介紹了install pip3 for python 3.x，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下
2018-04-04
python執(zhí)行shell并獲取結(jié)果的詳細(xì)示例
在Python中執(zhí)行Shell命令并獲取其結(jié)果,通?？梢允褂胹ubprocess模塊,這個(gè)模塊允許我們啟動(dòng)新的進(jìn)程,連接到它們的輸入/輸出/錯(cuò)誤管道,并獲取它們的返回碼,下面是一個(gè)詳細(xì)的示例,展示了如何使用subprocess.run()函數(shù)來執(zhí)行Shell命令并獲取其輸出,需要的朋友可以參考下
2024-07-07
圖文詳解Django使用Pycharm連接MySQL數(shù)據(jù)庫
這篇文章主要介紹了Django使用Pycharm連接MySQL數(shù)據(jù)庫的實(shí)現(xiàn),文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下
2019-08-08
Python上下文管理器類和上下文管理器裝飾器contextmanager用法實(shí)例分析
這篇文章主要介紹了Python上下文管理器類和上下文管理器裝飾器contextmanager用法,結(jié)合實(shí)例形式分析了上下文管理器類定義、使用、sqlalchemy實(shí)現(xiàn)數(shù)據(jù)庫的自動(dòng)提交和回滾相關(guān)操作技巧,需要的朋友可以參考下
2019-11-11