python 非線性規(guī)劃方式(scipy.optimize.minimize)

更新時(shí)間：2020年02月11日 10:05:00 作者：ronaldo_liu2018

今天小編就為大家分享一篇python 非線性規(guī)劃方式(scipy.optimize.minimize)，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧

一、背景：

現(xiàn)在項(xiàng)目上有一個(gè)用python 實(shí)現(xiàn)非線性規(guī)劃的需求。非線性規(guī)劃可以簡(jiǎn)單分兩種，目標(biāo)函數(shù)為凸函數(shù) or 非凸函數(shù)。

凸函數(shù)的非線性規(guī)劃，比如fun=x^2+y^2+x*y，有很多常用的python庫(kù)來(lái)完成，網(wǎng)上也有很多資料，比如CVXPY

非凸函數(shù)的非線性規(guī)劃（求極值），從處理方法來(lái)說(shuō)，可以嘗試以下幾種：

1.純數(shù)學(xué)方法，求導(dǎo)求極值；

2.使用神經(jīng)網(wǎng)絡(luò)，深度學(xué)習(xí)來(lái)處理，可參考反向傳播算法中鏈?zhǔn)角髮?dǎo)的過(guò)程；

3.尋找一些python庫(kù)來(lái)做，本文介紹scipy.optimize.minimize的使用方法

二、庫(kù)方法介紹

官方文檔：https://docs.scipy.org/doc/scipy/reference/generated/scipy.optimize.minimize.html

來(lái)看下改方法的入?yún)?/p>

scipy.optimize.minimize(fun, x0, args=(), method=None, jac=None, hess=None, hessp=None, bounds=None, constraints=(), tol=None, callback=None, options=None)

解釋：

fun: 求最小值的目標(biāo)函數(shù)

x0:變量的初始猜測(cè)值，如果有多個(gè)變量，需要給每個(gè)變量一個(gè)初始猜測(cè)值。minimize是局部最優(yōu)的解法，所以

args:常數(shù)值,后面demo會(huì)講解，fun中沒(méi)有數(shù)字，都以變量的形式表示，對(duì)于常數(shù)項(xiàng)，需要在這里給值

method:求極值的方法，官方文檔給了很多種。一般使用默認(rèn)。每種方法我理解是計(jì)算誤差，反向傳播的方式不同而已，這塊有很大理論研究空間

constraints:約束條件，針對(duì)fun中為參數(shù)的部分進(jìn)行約束限制

三、demo

1.計(jì)算 1/x+x 的最小值

# coding=utf-8
from scipy.optimize import minimize
import numpy as np
 
#demo 1
#計(jì)算 1/x+x 的最小值
 def fun(args):
  a=args
  v=lambda x:a/x[0] +x[0]
  return v
 
 if __name__ == "__main__":
  args = (1) #a
  x0 = np.asarray((2)) # 初始猜測(cè)值
  res = minimize(fun(args), x0, method='SLSQP')
  print(res.fun)
  print(res.success)
  print(res.x)

執(zhí)行結(jié)果:函數(shù)的最小值為2點(diǎn)多，可以看出minimize求的局部最優(yōu)

2.計(jì)算 (2+x1)/(1+x2) - 3*x1+4*x3 的最小值 x1,x2,x3的范圍都在0.1到0.9 之間

# coding=utf-8
from scipy.optimize import minimize
import numpy as np
 
# demo 2
#計(jì)算 (2+x1)/(1+x2) - 3*x1+4*x3 的最小值 x1,x2,x3的范圍都在0.1到0.9 之間
def fun(args):
 a,b,c,d=args
 v=lambda x: (a+x[0])/(b+x[1]) -c*x[0]+d*x[2]
 return v
def con(args):
 # 約束條件 分為eq 和ineq
 #eq表示 函數(shù)結(jié)果等于0 ； ineq 表示 表達(dá)式大于等于0 
 x1min, x1max, x2min, x2max,x3min,x3max = args
 cons = ({'type': 'ineq', 'fun': lambda x: x[0] - x1min},\
    {'type': 'ineq', 'fun': lambda x: -x[0] + x1max},\
    {'type': 'ineq', 'fun': lambda x: x[1] - x2min},\
    {'type': 'ineq', 'fun': lambda x: -x[1] + x2max},\
   {'type': 'ineq', 'fun': lambda x: x[2] - x3min},\
    {'type': 'ineq', 'fun': lambda x: -x[2] + x3max})
 return cons
 
if __name__ == "__main__":
 #定義常量值
 args = (2,1,3,4) #a,b,c,d
 #設(shè)置參數(shù)范圍/約束條件
 args1 = (0.1,0.9,0.1, 0.9,0.1,0.9) #x1min, x1max, x2min, x2max
 cons = con(args1)
 #設(shè)置初始猜測(cè)值 
 x0 = np.asarray((0.5,0.5,0.5))
 
 res = minimize(fun(args), x0, method='SLSQP',constraints=cons)
 print(res.fun)
 print(res.success)
 print(res.x)

執(zhí)行結(jié)果：