python實(shí)現(xiàn)最小二乘法線性擬合

更新時(shí)間：2019年07月19日 11:08:32 作者：王勇21633012

這篇文章主要為大家詳細(xì)介紹了python實(shí)現(xiàn)最小二乘法線性擬合，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下

本文python代碼實(shí)現(xiàn)的是最小二乘法線性擬合，并且包含自己造的輪子與別人造的輪子的結(jié)果比較。

問題：對(duì)直線附近的帶有噪聲的數(shù)據(jù)進(jìn)行線性擬合，最終求出w,b的估計(jì)值。

最小二乘法基本思想是使得樣本方差最小。

代碼中self_func()函數(shù)為自定義擬合函數(shù)，skl_func()為調(diào)用scikit-learn中線性模塊的函數(shù)。

import numpy as np
import matplotlib.pyplot as plt
from sklearn.linear_model import LinearRegression
 
n = 101
 
x = np.linspace(0,10,n)
noise = np.random.randn(n)
y = 2.5 * x + 0.8 + 2.0 * noise
 
def self_func(steps=100, alpha=0.01):
  w = 0.5
  b = 0
  alpha = 0.01
  for i in range(steps):
    y_hat = w*x + b
    dy = 2.0*(y_hat - y)
    dw = dy*x
    db = dy
    w = w - alpha*np.sum(dw)/n
    b = b - alpha*np.sum(db)/n
    e = np.sum((y_hat-y)**2)/n
    #print (i,'W=',w,'\tb=',b,'\te=',e)
  print ('self_func:\tW =',w,'\n\tb =',b)
  plt.scatter(x,y)
  plt.plot(np.arange(0,10,1), w*np.arange(0,10,1) + b, color = 'r', marker = 'o', label = 'self_func(steps='+str(steps)+', alpha='+str(alpha)+')')
 
def skl_func():
  lr = LinearRegression()
  lr.fit(x.reshape(-1,1),y)
  y_hat = lr.predict(np.arange(0,10,0.75).reshape(-1,1))
  print('skl_fun:\tW = %f\n\tb = %f'%(lr.coef_,lr.intercept_))
  plt.plot(np.arange(0,10,0.75), y_hat, color = 'g', marker = 'x', label = 'skl_func')
  
self_func(10000)
skl_func()
plt.legend(loc='upper left')
plt.show()

結(jié)果：

self_func: W = 2.5648753825503197 b = 0.24527830841237772
skl_fun: W = 2.564875 b = 0.245278

以上就是本文的全部?jī)?nèi)容，希望對(duì)大家的學(xué)習(xí)有所幫助，也希望大家多多支持腳本之家。

您可能感興趣的文章:

相關(guān)文章

python實(shí)現(xiàn)括號(hào)匹配的思路詳解
這篇文章主要介紹了python實(shí)現(xiàn)括號(hào)匹配及匹配格式的相關(guān)知識(shí)，非常不錯(cuò)，具有一定的參考借鑒價(jià)值,需要的朋友可以參考下
2018-08-08
python 求定積分和不定積分示例
今天小編就為大家分享一篇python 求定積分和不定積分示例，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過來看看吧
2019-11-11
Django事務(wù)transaction的使用以及多個(gè)裝飾器問題
這篇文章主要介紹了Django事務(wù)transaction的使用以及多個(gè)裝飾器問題,具有很好的參考價(jià)值,希望對(duì)大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教
2023-08-08
Python中的線程操作模塊(oncurrent)
這篇文章介紹了Python中的線程操作模塊(oncurrent)，文中通過示例代碼介紹的非常詳細(xì)。對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值，需要的朋友可以參考下
2022-05-05
利用python調(diào)整Excel行高和列寬的操作示例
在Excel中,默認(rèn)的行高和列寬可能不足以完全顯示某些單元格中的內(nèi)容,特別是當(dāng)內(nèi)容較長時(shí),通過調(diào)整行高和列寬,可以確保所有數(shù)據(jù)都能完整顯示,避免內(nèi)容被截?cái)?本文將介紹如何通過Python調(diào)整Excel的行高列寬、或設(shè)置自適應(yīng)行高列寬,需要的朋友可以參考下
2024-11-11
Python調(diào)用百度AI實(shí)現(xiàn)身份證識(shí)別
這篇文章主要介紹了Python通過調(diào)用百度AI的文字識(shí)別功能實(shí)現(xiàn)對(duì)身份證進(jìn)行識(shí)別，代碼具有一定的學(xué)習(xí)價(jià)值，感興趣的朋友一起來看看效果吧
2021-12-12
Django def clean()函數(shù)對(duì)表單中的數(shù)據(jù)進(jìn)行驗(yàn)證操作
這篇文章主要介紹了Django def clean()函數(shù)對(duì)表單中的數(shù)據(jù)進(jìn)行驗(yàn)證操作，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過來看看吧
2020-07-07
詳解Python類的定義與實(shí)例
這篇文章給大家介紹Python類的定義與實(shí)例，下面是一個(gè)使用?NewSpaceGraph?類的示例，展示了如何實(shí)例化該類并調(diào)用其方法，感興趣的朋友跟隨小編一起看看吧
2024-04-04
python密碼學(xué)實(shí)現(xiàn)文件加密教程
這篇文章主要為大家介紹了python密碼學(xué)實(shí)現(xiàn)文件加密教程，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進(jìn)步，早日升職加薪
2022-05-05
Python練習(xí)之操作MySQL數(shù)據(jù)庫
這篇文章主要介紹了Python練習(xí)之操作MySQL數(shù)據(jù)庫，文章通過如何創(chuàng)建MySQL數(shù)據(jù)表？如何向MySQL表中插入數(shù)據(jù)？如何查詢MySQL中的數(shù)據(jù)？的三個(gè)問題展開了詳細(xì)的內(nèi)容介紹
2022-06-06