python實現(xiàn)梯度法 python最速下降法
更新時間:2020年03月24日 12:07:32 作者:風度翩翩豬肉王子
這篇文章主要為大家詳細介紹了python梯度法,最速下降法的原理,文中示例代碼介紹的非常詳細,具有一定的參考價值,感興趣的小伙伴們可以參考一下
假設我們已經知道梯度法——最速下降法的原理。
現(xiàn)給出一個算例:

如果人工直接求解:


現(xiàn)給出Python求解過程:
import numpy as np
from sympy import *
import math
import matplotlib.pyplot as plt
import mpl_toolkits.axisartist as axisartist
# 定義符號
x1, x2, t = symbols('x1, x2, t')
def func():
# 自定義一個函數(shù)
return pow(x1, 2) + 2 * pow(x2, 2) - 2 * x1 * x2 - 2 * x2
def grad(data):
# 求梯度向量,data=[data1, data2]
f = func()
grad_vec = [diff(f, x1), diff(f, x2)] # 求偏導數(shù),梯度向量
grad = []
for item in grad_vec:
grad.append(item.subs(x1, data[0]).subs(x2, data[1]))
return grad
def grad_len(grad):
# 梯度向量的模長
vec_len = math.sqrt(pow(grad[0], 2) + pow(grad[1], 2))
return vec_len
def zhudian(f):
# 求得min(t)的駐點
t_diff = diff(f)
t_min = solve(t_diff)
return t_min
def main(X0, theta):
f = func()
grad_vec = grad(X0)
grad_length = grad_len(grad_vec) # 梯度向量的模長
k = 0
data_x = [0]
data_y = [0]
while grad_length > theta: # 迭代的終止條件
k += 1
p = -np.array(grad_vec)
# 迭代
X = np.array(X0) + t*p
t_func = f.subs(x1, X[0]).subs(x2, X[1])
t_min = zhudian(t_func)
X0 = np.array(X0) + t_min*p
grad_vec = grad(X0)
grad_length = grad_len(grad_vec)
print('grad_length', grad_length)
print('坐標', X0[0], X0[1])
data_x.append(X0[0])
data_y.append(X0[1])
print(k)
# 繪圖
fig = plt.figure()
ax = axisartist.Subplot(fig, 111)
fig.add_axes(ax)
ax.axis["bottom"].set_axisline_style("-|>", size=1.5)
ax.axis["left"].set_axisline_style("->", size=1.5)
ax.axis["top"].set_visible(False)
ax.axis["right"].set_visible(False)
plt.title(r'$Gradient \ method - steepest \ descent \ method$')
plt.plot(data_x, data_y, label=r'$f(x_1,x_2)=x_1^2+2 \cdot x_2^2-2 \cdot x_1 \cdot x_2-2 \cdot x_2$')
plt.legend()
plt.scatter(1, 1, marker=(5, 1), c=5, s=1000)
plt.grid()
plt.xlabel(r'$x_1$', fontsize=20)
plt.ylabel(r'$x_2$', fontsize=20)
plt.show()
if __name__ == '__main__':
# 給定初始迭代點和閾值
main([0, 0], 0.00001)
最終結果圖如下所示:

以上就是本文的全部內容,希望對大家的學習有所幫助,也希望大家多多支持腳本之家。
相關文章
Pandas?DataFrame添加一行數(shù)據(jù)的幾種方法
在處理數(shù)據(jù)分析和數(shù)據(jù)科學項目時,經常會使用到Python中的pandas庫來進行數(shù)據(jù)操作和分析,其中DataFrame是pandas庫中最重要的數(shù)據(jù)結構之一,這篇文章主要給大家介紹了關于Pandas?DataFrame添加一行數(shù)據(jù)的幾種方法,需要的朋友可以參考下2024-08-08
Python中for循環(huán)可迭代對象迭代器及生成器源碼學習
這篇文章主要為大家介紹了Python中for循環(huán)可迭代對象迭代器及生成器的源碼學習,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進步,早日升職加薪2022-05-05
Python 爬蟲批量爬取網頁圖片保存到本地的實現(xiàn)代碼
這篇文章主要介紹了Python 爬蟲批量爬取網頁圖片保存到本地,本文通過實例代碼給大家介紹的非常詳細,對大家的學習或工作具有一定的參考借鑒價值,需要的朋友可以參考下2020-12-12
使用wxPython和OpenCV實現(xiàn)手勢識別相機功能
在這篇博客中,我將分享一個有趣的?Python?項目:通過?wxPython?創(chuàng)建圖形界面,利用?OpenCV?的計算機視覺技術實現(xiàn)實時手勢識別,以下是項目的完整實現(xiàn)過程,包括代碼分析、使用說明和可能的優(yōu)化建議,需要的朋友可以參考下2025-04-04
python3.4用函數(shù)操作mysql5.7數(shù)據(jù)庫
這篇文章主要為大家詳細介紹了python3.4用函數(shù)操作mysql5.7數(shù)據(jù)庫,具有一定的參考價值,感興趣的小伙伴們可以參考一下2017-06-06

