宋田田，潘振寬，魏偉波，李青

青島大學(xué)計(jì)算機(jī)科學(xué)技術(shù)學(xué)院,青島 266071

0 引 言

經(jīng)過(guò)近30年的發(fā)展，變分方法已經(jīng)成為圖像處理與分析的重要數(shù)學(xué)基礎(chǔ)(Scherzer，2015；Paragios等，2006；Aubert和Kornprobst，2006；Chan和Shen，2005)，其中，圖像恢復(fù)的變分模型具有基礎(chǔ)地位。該類模型一般包含數(shù)據(jù)項(xiàng)和規(guī)則項(xiàng)，出于對(duì)圖像特征保持的考慮，其規(guī)則項(xiàng)往往是非線性、非光滑，甚至是非凸的。這些特點(diǎn)不僅導(dǎo)致數(shù)值算法設(shè)計(jì)的困難，且其數(shù)值方法的計(jì)算效率往往較低，成為變分圖像處理與分析模型工程應(yīng)用的主要瓶頸之一(Kimmel和Tai，2019；Glowinski等，2016)。

以總變差(total variation，TV)(Rudin等，1992)為代表的一階變分模型可以保持圖像的邊緣特征，是變分圖像處理與分析問(wèn)題的基礎(chǔ)模型。為了克服基于原變量的時(shí)間步進(jìn)方法(Rudin等，1992)和固定點(diǎn)迭代方法(Vogel和Oman，1996)計(jì)算效率低的問(wèn)題，Chan等人(1999)提出了原—對(duì)偶變量方法(primal-dual method，PD)，Chambolle(2004)提出了經(jīng)典的對(duì)偶方法(dual method，DM)，Goldstein和Osher(2009)提出了SB(split bregman)方法。Wu和Tai(2010)證明，SB算法與增廣Lagrange方法(augmented Lagrangian method，ALM)或交替方向乘子法(alternating direction methods of multipliers，ADMM)(Glowinski和Le Tallec，1989)是等價(jià)的。Daubechies等人(2004)以交替迭代優(yōu)化為框架提出了經(jīng)典的軟閾值迭代算法(iterative shirinkage-thresholding algorithm，ISTA)。上述方法均為基于一階導(dǎo)數(shù)或梯度的一階方法，其收斂率為O (1/k)，k為迭代次數(shù)。

早在20世紀(jì)80年代初，Nesterov(1983)針對(duì)光滑凸目標(biāo)函數(shù)的優(yōu)化問(wèn)題，基于函數(shù)外插或慣性加速的思想，通過(guò)設(shè)計(jì)適當(dāng)?shù)膽T性參數(shù)，將基于梯度的方法的算法收斂率提高至O (1/k2)，為變分圖像處理模型的加速算法設(shè)計(jì)奠定了基礎(chǔ)。Beck和Teboulle(2009a，b)針對(duì)組合目標(biāo)函數(shù)結(jié)合Nesterov方法與ISTA方法提出了快速ISTA方法，即快速軟閾值迭代算法(fast iterative shirinkage-thresholding algorithm，F(xiàn)ISTA)?；谙嗨频乃悸罚珺eck和Teboulle(2014)提出了快速對(duì)偶方法(fast dual，F(xiàn)D)、Chambolle和Pock(2011)提出了快速原—對(duì)偶變量方法(fast PD，F(xiàn)PD)、Zhu和Chan(2008)提出了原—對(duì)偶變量混合梯度方法(primal-dual hybrid gradient，PDHG)，Goldstein等人(2014)提出了快速ADMM方法。該類加速方法設(shè)計(jì)的關(guān)鍵是最優(yōu)慣性參數(shù)的設(shè)計(jì)，該參數(shù)依賴于目標(biāo)函數(shù)的光滑度與凸性，但通常的變分圖像處理模型往往局部強(qiáng)凸或完全非凸，導(dǎo)致這些參數(shù)估計(jì)困難或過(guò)分耗時(shí)，其慣性加速類算法會(huì)引起漣漪或振蕩現(xiàn)象(O’Donoghue和Candès，2015)，達(dá)不到預(yù)期加速效果。改進(jìn)的單調(diào)算法(Beck和Teboulle，2009b)、回溯算法(Goldstein等，2014)或重啟動(dòng)算法(O’Donoghue和Candès，2015)的研究成為近年慣性加速方法實(shí)用化的重要方向之一。單調(diào)類算法依據(jù)相鄰兩次迭代結(jié)果構(gòu)造慣性加速，回溯方法是通過(guò)向后尋找能夠使得能量值下降的最小步長(zhǎng)來(lái)保證算法能量值下降，重啟動(dòng)算法則在能量非下降時(shí)重置初始參數(shù)，這些方案均能避免振蕩現(xiàn)象，并保持算法收斂率仍為O(1/k2)，該研究正在成為凸優(yōu)化計(jì)算領(lǐng)域的熱點(diǎn)問(wèn)題之一(Kim和Fessler，2018；Calatroni和Chambolle，2019；Buccini等，2020)。但相關(guān)研究和應(yīng)用在計(jì)算機(jī)視覺領(lǐng)域還限于基于一階導(dǎo)數(shù)的變分圖像處理模型及經(jīng)典的Lasso模型(陳少利，2017；李啟朋，2018；李星 等，2019；潘樹林 等，2019)。

基于二階導(dǎo)數(shù)的變分模型可有效克服一階導(dǎo)數(shù)模型引起的階梯效應(yīng)問(wèn)題，其規(guī)則項(xiàng)的形式多樣，且由于模型的非線性、非光滑性和非凸性，其計(jì)算效率低的問(wèn)題更加突出。Bredies等人(2010)直接將Nesterov型加速方案應(yīng)用于基于二階導(dǎo)數(shù)的總廣義變差(total generalized variation，TGV)模型計(jì)算；Liu等人(2012)設(shè)計(jì)了基于總海森(total Hessian，TH)變分模型的快速PDHG算法；Yashtini和Kang(2016)則用相同的方法設(shè)計(jì)了基于歐拉彈性能(Euler’s elastica，EE)的算法設(shè)計(jì)。Bredies等人(2010)的方法包含2個(gè)凸的非光滑規(guī)則項(xiàng)，Liu等人(2012)的方法包含1個(gè)凸的非光滑規(guī)則項(xiàng)，Yashtini和Kang(2016)的方法包含非凸、非光滑規(guī)則項(xiàng)，除快速算法本身可能引起的振蕩問(wèn)題，非凸性亦可引起能量上升，但前期研究均未考慮這些因素。重啟動(dòng)策略有望一并克服這些問(wèn)題。

含二階導(dǎo)數(shù)變分圖像恢復(fù)模型的規(guī)則項(xiàng)主要包括總廣義變差(TGV)(Bredies等，2010)、總拉普拉斯(total Laplacian，TL)(Chan等，2010)、總海森(total Hessian，TH)(Lysaker等，2003)、總平均曲率(total mean curvature，TMC)(Zhu等，2014)和歐拉彈性能(Euler’s elastica，EE)(Yashtini和Kang，2016；Tai等，2011；Kang等，2019)等形式，均為非強(qiáng)凸項(xiàng)，其中，TGV、TL和TH為凸非光滑項(xiàng)，TMC和EE為非凸非光滑項(xiàng)。

本文的目的是以快速ADMM方法為框架，探討重啟動(dòng)快速算法在這些模型算法設(shè)計(jì)中應(yīng)用的可能性。原始ADMM方法的收斂速率為O (1/k)，慣性加速方法如快速ADMM理論上可以將收斂速率提高至O (1/k2)。但該類加速方法過(guò)分依賴最優(yōu)慣性參數(shù)的設(shè)計(jì)，一般的變分模型很難估計(jì)最優(yōu)慣性參數(shù)，無(wú)法找到最優(yōu)步長(zhǎng)，并會(huì)產(chǎn)生能量振蕩現(xiàn)象，降低收斂速率，無(wú)法達(dá)到預(yù)期效果。重啟動(dòng)算法可以避免振蕩現(xiàn)象，從而提高計(jì)算效率。

本文針對(duì)二階模型在加速后進(jìn)行重啟動(dòng)，真正提高算法的收斂速率。重啟動(dòng)快速ADMM方法的時(shí)間復(fù)雜度的精確分析很困難，故本文選用兩種典型的基于拉普拉斯以及基于曲率的二階模型進(jìn)行研究，以探討重啟動(dòng)快速ADMM方法的計(jì)算效率問(wèn)題。本文方法亦可自然拓展到基于類似模型的重啟動(dòng)快速算法。

1 TV模型的重啟動(dòng)快速ADMM算法

圖像噪聲去除是圖像恢復(fù)的基本問(wèn)題，圖像噪聲去除的TV模型(Rudin等，1992)可表達(dá)為能量泛函極值問(wèn)題，具體為

(1)

(2)

式中，增廣Lagrange函數(shù)為

在交替優(yōu)化過(guò)程中的兩個(gè)子優(yōu)化問(wèn)題分別為

(3)

(4)

Goldstein等人(2014)證明，采用該加速方案，其算法的收斂率可提高為O(1/k2)。為了避免漣漪現(xiàn)象，Goldstein等人(2014)設(shè)計(jì)了重啟動(dòng)方法，并提出判斷重啟動(dòng)條件的簡(jiǎn)單形式的組合殘差公式作為簡(jiǎn)化能量變化的依據(jù)。具體為

(5)

αk+1=1,wk+1←wk,βk+1←βk,ck+1←ck

(6)

算法1：TV模型的重啟動(dòng)快速ADMM算法

初始化：u0,w0,γ,β0,μ>0,

α0=1,c0>0,η∈(0,1)

fork=0，1，2，3，…，do

uk+1=argminE(u,wk)；

wk+1=argminE(uk+1,w)；

ifck+1<ηckthen

wk+1←wk+1+θk+1(wk+1-wk)；

βk+1←βk+1+θk+1(βk+1-βk)；

else;

αk+1=1；

wk+1←wk；

βk+1←βk；

end if;

直到E(u)收斂；

end for。

重啟動(dòng)快速ADMM方法的每次迭代屬于以下3種類型之一：1)當(dāng)算法中ck+1<ηck不等式未被滿足時(shí)，發(fā)生“重啟動(dòng)”迭代。2)“未加速”迭代在“重啟動(dòng)”迭代之后立即發(fā)生。在這樣的迭代中，αk=1，因此算法的加速步驟被禁用，使得迭代等同于原始ADMM。3)“加速”迭代是指沒有任何“重啟”或“未加速”的迭代，在這樣的迭代中αk>1，算法中ck+1<ηck不等式被滿足，調(diào)用算法的加速步驟。

這樣，算法使用“重啟動(dòng)”方法增強(qiáng)函數(shù)值的單調(diào)性。這種類似的重啟動(dòng)規(guī)則已經(jīng)用于針對(duì)無(wú)約束最小化的研究(Kim和Fessler，2018)。

2 TL模型的重啟動(dòng)快速ADMM算法

基于二階導(dǎo)數(shù)圖像恢復(fù)變分TL模型是為克服一階TV模型的階梯效應(yīng)問(wèn)題提出的(Lysaker等，2003)，其能量泛函極小值問(wèn)題為

(7)

為了克服TL規(guī)則項(xiàng)變分引起的計(jì)算困難，引入了兩組輔助變量、Lagrange乘子及懲罰參數(shù)設(shè)計(jì)其ADMM算法，以便將原復(fù)雜優(yōu)化問(wèn)題轉(zhuǎn)化為交替優(yōu)化的一系列簡(jiǎn)單子優(yōu)化問(wèn)題求解。然后，這些子問(wèn)題可以通過(guò)快速傅里葉變換(fast Fourier transform，F(xiàn)FT)和解析形式的軟閾值公式進(jìn)行求解。

(8)

式中，增廣Lagrange函數(shù)為

式(8)中的3個(gè)子優(yōu)化問(wèn)題分別為

(9)

使用標(biāo)準(zhǔn)變分方法求解式(9)第1行，可得關(guān)于u的Euler-Lagrange方程，具體為

(10)

(11)

同樣，使用標(biāo)準(zhǔn)變分方法求解式(9)第2行，可得關(guān)于w的Euler-Lagrange方程，即

(12)

該方程組亦可采用FFT求解，即

(13)

對(duì)于式(9)第3行，其解v可用解析形式的軟閾值公式表示，具體為

(14)

采用與Goldstein等人(2014)和Buccini等人(2020)相同的思路，可設(shè)計(jì)TL模型原變量與對(duì)偶變量組合殘差公式，即

(15)

由此，得到應(yīng)用于TL模型的重啟動(dòng)快速ADMM算法，描述如下。

算法2：TL模型的重啟動(dòng)快速ADMM算法

α0=1,c0>0,η∈(0,1);

fork=0，1，2，3，…，do

uk+1=argminE(u,wk,vk);

wk+1=argminE(uk+1,w,vk);

vk+1=argminE(uk+1,wk+1,vk);

ifck+1<ηckthen;

wk+1←wk+1+θk+1(wk+1-wk);

else

αk+1=1;

wk+1←wk;

end if；

直至E(u)收斂；

end for。

3 EE模型的重啟動(dòng)快速ADMM算法

EE模型結(jié)合了TV規(guī)則項(xiàng)和曲率項(xiàng)，使用歐拉的彈性項(xiàng)作為規(guī)則項(xiàng)，相應(yīng)的圖像噪聲去除變分模型為

(16)

歐拉彈性能最早由Nitzberg等人(1993)應(yīng)用于深度圖像分割與虛幻輪廓恢復(fù)。Masnou和Morel(1998)將其推廣到大破損圖像修復(fù)，Zhu等人(2013)將其推廣到圖像分割變分模型。EE模型可以有效減少階梯效應(yīng)并產(chǎn)生更接近原圖的圖像，而且可以在去除噪聲的同時(shí)保留圖像的邊緣信息。

(17)

|p|≤1，|w|-p·w≥0

(18)

為了進(jìn)一步簡(jiǎn)化每個(gè)子優(yōu)化問(wèn)題的目標(biāo)函數(shù)，再引入一個(gè)新的輔助向量m代替式(18)中的變量p。引入輔助向量m后，模型共有5個(gè)約束，即

(19)

在EE模型中，引入4個(gè)輔助變量w，p，v和m，4個(gè)Lagrange乘子β1，β2，β3和β4以及4個(gè)懲罰參數(shù)μ1，μ2，μ3和μ4，采用ADMM將式(17)轉(zhuǎn)化為

(20)

式中，增廣Lagrange函數(shù)為

應(yīng)用交替優(yōu)化技術(shù)，式(20)中的5個(gè)子優(yōu)化問(wèn)題分別為

(21)

使用標(biāo)準(zhǔn)變分方法求解式(21)第1行，得到關(guān)于u的Euler-Lagrange方程，即

(22)

(23)

對(duì)于式(21)第2行，其解w可用解析形式的廣義軟閾值公式表示，即

(24)

同樣，使用標(biāo)準(zhǔn)變分方法求解式(21)第3行，可得關(guān)于p的Euler-Lagrange方程，即

(25)

該方程組亦可采用FFT求解，即

(26)

使用標(biāo)準(zhǔn)變分方法求解式(21)第4行，可得關(guān)于v的Euler-Lagrange方程，即

(27)

相應(yīng)的解析解為

(28)

使用標(biāo)準(zhǔn)變分方法求解式(21)第5行，可得關(guān)于m的Euler-Lagrange方程，即

(29)

相應(yīng)的解析解為

(30)

(31)

采用與Goldstein等人(2014)和Buccini等人(2020)相同的策略，設(shè)計(jì)EE模型的原變量和對(duì)偶變量組合殘差公式，即

(32)

由此，得到應(yīng)用于EE模型的重啟動(dòng)快速ADMM算法，描述如下。

算法3：EE模型的重啟動(dòng)快速ADMM算法

(μ1,μ2,μ3,μ4)>0,α0=1,c0>0,η∈(0,1)

fork=0，1，2，3，…，do

uk+1=argminE(u,wk,pk,vk,mk);

wk+1=argminE(uk+1,w,pk,vk,mk);

pk+1=argminE(uk+1,wk+1,p,vk,mk);

vk+1=argminE(uk+1,wk+1,pk+1,v,mk);

mk+1=argminE(uk+1,wk+1,pk+1,vk+1,m);

ifck+1<ηckthen

wk+1←wk+1+θk+1(wk+1-wk);

else

αk+1=1;

wk+1←wk;

end if；

直到E(u)收斂；

end for。

4 數(shù)值實(shí)驗(yàn)

針對(duì)TL模型和 EE模型在噪聲去除和邊緣保持等方面的性能已經(jīng)有了大量研究。本文研究的重點(diǎn)是在相關(guān)懲罰參數(shù)確定的情況下，在保持原有模型噪聲去除性態(tài)的基礎(chǔ)上，比較原始ADMM、快速ADMM 和重啟動(dòng)快速ADMM方法的計(jì)算效率。

由于TL模型和EE模型的解決方案通常不是唯一的，無(wú)法比較均方根差(root mean square error，RMSE)。實(shí)驗(yàn)時(shí)，使用相對(duì)能量誤差|Ek-Ek-1|/Ek<0.001作為停止準(zhǔn)則，Ek表示當(dāng)前第k步迭代的原始能量，Ek-1表示前一步(第k-1步)迭代的原始能量。當(dāng)相對(duì)能量誤差無(wú)法達(dá)到停止標(biāo)準(zhǔn)時(shí)，算法將在迭代500次后自動(dòng)停止。

實(shí)驗(yàn)使用3.19 GHz CPU，在Windows 10(64位)操作系統(tǒng)下用MATLAB R2016a版本進(jìn)行。

4.1 Total Laplacian 模型

TL模型如式(7)所示。f表示含噪聲的圖像時(shí)，最小化式(7)的目的是找到與含噪聲的圖像f相似的去噪后的圖像u，同時(shí)保證圖像光滑、邊緣保持，且不會(huì)出現(xiàn)邊緣的階梯效應(yīng)。參數(shù)γ控制數(shù)據(jù)項(xiàng)和規(guī)則項(xiàng)之間的權(quán)衡。模型參數(shù)γ主要影響圖像的質(zhì)量，為了更清晰地展示懲罰參數(shù)μ1和μ2與算法性能之間的關(guān)系，固定γ=1。

快速算法的目標(biāo)是在保證圖像質(zhì)量不降低的基礎(chǔ)上，提高算法的收斂速率從而加快計(jì)算效率。以Texture圖像(圖1第3行)為例，圖2展示了原始ADMM、快速ADMM 和重啟動(dòng)快速ADMM這3種算法應(yīng)用到TL模型后輸出的圖像，3種算法的參數(shù)取值均為μ1=5,μ2=0.001,γ=1，峰值信噪比(peak signal-to-noise ratio，PSNR)分別為26.518、26.542和26.969。

圖1 測(cè)試圖像Fig.1 Test images ((a)original images;(b)Gaussian noisy images;(c)salt and pepper noisy images)

圖2 去噪效果圖Fig.2 Images denoising effect ((a)ADMM;(b)fast ADMM;(c)restart fast ADMM)

懲罰參數(shù)的數(shù)值理論上可以無(wú)窮大，但由于引入了Lagrange方程，懲罰可以通過(guò)Lagrange乘子β調(diào)節(jié)，所以懲罰參數(shù)不需要過(guò)大。懲罰參數(shù)的選擇在理論上沒有答案，目前都是通過(guò)實(shí)驗(yàn)調(diào)節(jié)選取。本實(shí)驗(yàn)選取了大量懲罰參數(shù)，在不同參數(shù)組合的情況下分析3種算法的計(jì)算效率。不同的參數(shù)對(duì)于快速ADMM方法的計(jì)算效率影響較大，當(dāng)μ1=5時(shí)，快速ADMM方法均加速無(wú)效，對(duì)于重啟動(dòng)方法則基本無(wú)影響。

表1 TL模型消除高斯白噪聲的運(yùn)行結(jié)果Table 1 Running results of TL model to eliminate Gaussian noise

表2 TL模型消除椒鹽噪聲的運(yùn)行結(jié)果Table 2 Running results of TL model to eliminate salt and pepper noise

為了可以更清晰地了解在計(jì)算過(guò)程中3種算法的能量值和相對(duì)能量誤差的變化趨勢(shì)，以TL模型消除高斯白噪聲為例，對(duì)3種算法在TL模型中迭代40次的能量值進(jìn)行比較，結(jié)果如圖3所示。圖4表示使用相對(duì)能量誤差作為停止準(zhǔn)則時(shí)，3種算法在TL模型中的收斂曲線。參數(shù)取值均為μ1=5、μ2=0.001、γ=1。

從圖3和圖4可以看出，重啟動(dòng)快速ADMM算法的能量值和相對(duì)能量誤差是單調(diào)下降的，且能量值達(dá)到穩(wěn)定狀態(tài)最快；快速ADMM算法會(huì)產(chǎn)生振蕩。這是由于TL模型的非光滑性，使光滑參數(shù)和Lipschitz參數(shù)很難估計(jì)，導(dǎo)致振蕩的周期很難估計(jì)。重啟動(dòng)快速ADMM算法在計(jì)算過(guò)程中根據(jù)組合殘差的大小，自適應(yīng)地調(diào)整步長(zhǎng)從而消除振蕩現(xiàn)象，提高了計(jì)算效率。

圖3 3種算法在TL模型中迭代40次的能量值比較Fig.3 Comparison of energy values of the three algorithms iterations 40 times in TL model((a)Lena;(b)Castle;(c)Texture;(d)Barbara;(e)Peppers)

圖4 3種算法在TL模型中的收斂曲線Fig.4 Convergence curves of the three algorithms in TL model((a)Lena;(b)Castle;(c)Texture;(d)Barbara;(e)Peppers)

4.2 Euler’s elastica 模型

表3 EE模型消除高斯白噪聲的運(yùn)行結(jié)果Table 3 Running results of EE model to eliminate Gaussian noise

表4 EE模型消除椒鹽噪聲的運(yùn)行結(jié)果Table 4 Running results of EE model to eliminate salt and pepper noise

同樣，為了可以更清楚地了解在計(jì)算過(guò)程中3種算法能量值和相對(duì)能量誤差的變化趨勢(shì)，以EE模型消除高斯白噪聲為例，對(duì)3種算法在EE模型中迭代40次的能量值進(jìn)行比較，結(jié)果如圖5所示。圖6表示使用相對(duì)能量誤差作為停止準(zhǔn)則時(shí)，3種算法在EE模型中的收斂曲線。參數(shù)取值均為a=0.2、b=2、μ1=0.06、μ2=2、μ3=2 000、μ4=400。

從圖5和圖6可以看出:1)通過(guò)函數(shù)的能量值曲線，重啟動(dòng)快速ADMM的函數(shù)值相較于其他兩種算法能夠更快地接近穩(wěn)定。2)快速 ADMM算法在圖5的5幅圖像中都出現(xiàn)了函數(shù)值不單調(diào)下降的情況，這種缺陷極大降低了算法效率。這是因?yàn)榭焖貯DMM無(wú)法計(jì)算最優(yōu)步長(zhǎng)，加速步長(zhǎng)過(guò)大，導(dǎo)致錯(cuò)過(guò)了極小值從而出現(xiàn)了函數(shù)值不單調(diào)下降情況，因此產(chǎn)生振蕩。3)重啟動(dòng)快速ADMM算法的能量值和相對(duì)能量誤差是單調(diào)下降的，且能量值達(dá)到穩(wěn)定狀態(tài)最快。

圖5 3種算法在EE模型中迭代40次的能量值比較Fig.5 Comparison of energy values of the three algorithms iterations 40 times in EE model((a)Lena;(b)Castle;(c)Texture;(d)Barbara;(e)Peppers)

圖6 3種算法在EE模型中的收斂曲線Fig.6 Convergence curves of the three algorithms in EE model((a)Lena;(b)Castle;(c)Texture;(d)Barbara;(e)Peppers)

5 結(jié) 論

本文以圖像噪聲去除為背景，針對(duì)含二階導(dǎo)數(shù)規(guī)則項(xiàng)的非線性、非光滑的TL模型及非線性、非光滑、非凸的EE模型，以ADMM方法為基礎(chǔ)，引入Neserov慣性加速及重啟動(dòng)策略設(shè)計(jì)了相應(yīng)的快速算法及重啟動(dòng)快速算法。對(duì)不同的變量進(jìn)行加速，重啟動(dòng)快速算法的計(jì)算效率較原始的ADMM方法和快速ADMM方法均有較大提高，為更明顯地顯示實(shí)驗(yàn)效果，本文選取加速效率較為明顯的變量進(jìn)行加速實(shí)驗(yàn)。重啟動(dòng)算法的計(jì)算效率對(duì)所選懲罰參數(shù)具有魯棒性，其計(jì)算效率的提高還得益于優(yōu)化子問(wèn)題的快速FFT求解及解析形式的軟閾值公式的使用。這些有益的探索可為其他形式高階變分圖像處理與分析模型的快速求解提供借鑒。

但是，含高階導(dǎo)數(shù)的非線性、非光滑和非凸變分模型的ADMM方法及其重啟動(dòng)快速算法設(shè)計(jì)還缺乏足夠的理論支撐。目前的理論研究還局限于由兩個(gè)函數(shù)組合的目標(biāo)函數(shù)的優(yōu)化問(wèn)題，且確定性的理論成果集中于光滑、強(qiáng)凸及含一個(gè)線性約束的優(yōu)化問(wèn)題。對(duì)于計(jì)算機(jī)視覺中的含高階導(dǎo)數(shù)的非光滑、非凸變分模型的快速算法研究，本文的工作僅限于嘗試性算法設(shè)計(jì)及數(shù)值驗(yàn)證，后續(xù)復(fù)雜的算法理論分析對(duì)算法的推廣將具有重要價(jià)值。