Python利用邏輯回歸分類實現(xiàn)模板

更新時間：2020年02月15日 16:14:37 作者：米米奇

這篇文章主要介紹了Python利用邏輯回歸分類實現(xiàn)模板的思路，本文通過實例代碼給大家介紹的非常詳細，具有一定的參考借鑒價值,需要的朋友可以參考下

Logistic Regression Classifier邏輯回歸主要思想就是用最大似然概率方法構建出方程，為最大化方程，利用牛頓梯度上升求解方程參數(shù)。

優(yōu)點：計算代價不高，易于理解和實現(xiàn)。
缺點：容易欠擬合，分類精度可能不高。
使用數(shù)據(jù)類型：數(shù)值型和標稱型數(shù)據(jù)。

好了，下面開始正文。

算法的思路我就不說了，我就提供一個萬能模板，適用于任何緯度數(shù)據(jù)集。
雖然代碼類似于梯度下降，但他是個分類算法

定義sigmoid函數(shù)

def sigmoid(x):
 return 1/(1+np.exp(-x))

進行邏輯回歸的參數(shù)設置以及迭代

def weights(x,y,alpha,thershold):
 #初始化參數(shù)
 m,n = x_train.shape
 theta = np.random.rand(n) #參數(shù)
 cnt = 0 # 迭代次數(shù)
 max_iter = 50000
 #開始迭代
 while cnt < max_iter:
  cnt += 1
  diff = np.full(n,0)
  for i in range(m):
   diff = (y[i]-sigmoid(theta.T @ x[i]))*x[i]
   theta = theta + alpha * diff
  if(abs(diff)<thershold).all():
   break
 return theta

預測函數(shù)

def predict(x_test,theta):
 if sigmoid(theta.T @ x_test)>0.5:
  return 1
 else:return 0

調(diào)用函數(shù)

x_train = np.array([[1,2.697,6.254],
     [1,1.872,2.014],
     [1,2.312,0.812],
     [1,1.983,4.990],
     [1,0.932,3.920],
     [1,1.321,5.583],
     [1,2.215,1.560],
     [1,1.659,2.932],
     [1,0.865,7.362],
     [1,1.685,4.763],
     [1,1.786,2.523]])
y_train = np.array([1,0,0,1,0,1,0,0,1,0,1])
alpha = 0.001 # 學習率
thershold = 0.01 # 指定一個閾值，用于檢查兩次誤差
print(weights(x_train,y_train,alpha,thershold))

總結

以上所述是小編給大家介紹的Python利用邏輯回歸分類實現(xiàn)模板，希望對大家有所幫助！

您可能感興趣的文章:

python實現(xiàn)音樂播放器 python實現(xiàn)花框音樂盒子
這篇文章主要為大家詳細介紹了python實現(xiàn)音樂播放器，實現(xiàn)花框音樂盒子，文中示例代碼介紹的非常詳細，具有一定的參考價值，感興趣的小伙伴們可以參考一下
2020-02-02
Tensorflow分類器項目自定義數(shù)據(jù)讀入的實現(xiàn)
這篇文章主要介紹了Tensorflow分類器項目自定義數(shù)據(jù)讀入的實現(xiàn)，小編覺得挺不錯的，現(xiàn)在分享給大家，也給大家做個參考。一起跟隨小編過來看看吧
2019-02-02
Python 獲得命令行參數(shù)的方法(推薦)
本篇將介紹python中sys, getopt模塊處理命令行參數(shù)的方法，本文給大家介紹的非常詳細，具有參考借鑒價值，需要的朋友參考下吧
2018-01-01
Python實現(xiàn)堡壘機模式下遠程命令執(zhí)行操作示例
這篇文章主要介紹了Python實現(xiàn)堡壘機模式下遠程命令執(zhí)行操作,結合實例形式分析了Python堡壘機模式執(zhí)行遠程命令的原理與相關操作技巧,需要的朋友可以參考下
2019-05-05
python3 簡單實現(xiàn)組合設計模式
這篇文章主要介紹了python3 簡單實現(xiàn)組合設計模式的方法，文中示例代碼非常詳細，幫助大家更好的理解和學習，感興趣的朋友可以了解下
2020-07-07
這篇文章主要介紹了python在windows下實現(xiàn)備份程序,需要的朋友可以參考下
2014-07-07