程江麗

(河南師范大學(xué)數(shù)學(xué)與信息科學(xué)學(xué)院，河南 新鄉(xiāng) 453000)

假設(shè)最優(yōu)化問題的模型是：

minf(x),

s.t.x∈

一、基本思想

(一)擬牛頓法的基本思想

在求解n維無約束優(yōu)化問題時，用迭代點的梯度和Hesse陣Gk的某個近似矩陣Bk對目標(biāo)函數(shù)進(jìn)行二次函數(shù)近似，然后把二次函數(shù)的極小點作為新的迭代點[1]。

(二)非線性共軛梯度法的基本思想

在求解n維非線性問題時，用當(dāng)前點的負(fù)梯度方向與算法的前一個方向的線性組合作為當(dāng)前的搜索方向，在非精確線搜索條件下經(jīng)過有限步終止[2]。

二、數(shù)值計算

(一)小型優(yōu)化問題

對于小型無約束優(yōu)化問題，比如：

minf(x)=4(x12-x2)2+3(x1-1)2,x∈R2

表1 擬牛頓法的數(shù)值結(jié)果

表2 非線性共軛梯度法的數(shù)值結(jié)果

通過表1和表2可以看出，擬牛頓法的迭代次數(shù)和運(yùn)行時間都少于非線性共軛梯度法的迭代次數(shù)和運(yùn)行時間，而目標(biāo)函數(shù)值方面，擬牛頓法精確度更高一些。

(二)大規(guī)模優(yōu)化問題

對于大規(guī)模的無約束優(yōu)化問題，比如：

其中，n取1000.同樣選取相同的初始點，編程計算得出擬牛頓法和非線性共軛梯度法的數(shù)值計算結(jié)果，如表3和表4所示：

表3 擬牛頓法的數(shù)值計算結(jié)果

buzy表示計算器繁忙，一直不顯示結(jié)果。

表4 非線性共軛梯度法的數(shù)值結(jié)果

通過上面的結(jié)果比較可以發(fā)現(xiàn)，在大規(guī)模無約束優(yōu)化問題中，非線性共軛梯度法的迭代次數(shù)和運(yùn)行時間明顯少于擬牛頓法的迭代次數(shù)，并且擬牛頓法中對于某些與精確解較遠(yuǎn)的點無法計算出數(shù)值解，所以，非線性共軛梯度法明顯優(yōu)于擬牛頓法。

三、總結(jié)

在實際科學(xué)計算中，往往遇到的更多的是大規(guī)模計算問題，而此時的非線性共軛梯度法比擬牛頓法的效率更高一些，當(dāng)然，在小規(guī)模的計算問題中，也可以采用擬牛頓法，因為它具有二階收斂速度，收斂性更好。在以后的學(xué)習(xí)和工作中，我們也應(yīng)不斷地觀察發(fā)現(xiàn)新問題，以不斷探索新的知識。