摘要:現(xiàn)有分布式在線優(yōu)化方法的實(shí)現(xiàn)通常依賴于通信網(wǎng)絡(luò)中節(jié)點(diǎn)間的實(shí)時(shí)信息交換,這在實(shí)際應(yīng)用中會(huì)帶來(lái)無(wú)法承受的通信帶寬等資源的消耗。為了減少通信成本,將邊事件觸發(fā)技術(shù)應(yīng)用于分布式在線約束凸優(yōu)化,其中每個(gè)智能體僅知曉時(shí)變的局部目標(biāo)函數(shù),所有智能體的公共目標(biāo)是求解優(yōu)化解序列來(lái)最小化網(wǎng)絡(luò)總目標(biāo)值(所有局部目標(biāo)函數(shù)的總和)。首先,針對(duì)分布式在線梯度下降算法,在固定強(qiáng)連通有向圖的假設(shè)下,設(shè)計(jì)了一個(gè)邊事件觸發(fā)機(jī)制。然后,基于所設(shè)計(jì)的邊事件觸發(fā)機(jī)制,為每個(gè)智能體的Regret建立了一個(gè)上界,發(fā)現(xiàn)該上界與事件觸發(fā)閾值直接相關(guān)。進(jìn)一步的分析表明,只要邊事件觸發(fā)閾值隨著時(shí)間趨于無(wú)窮大而收斂至零時(shí),Regret是次線性增長(zhǎng)的。最后,通過(guò)面向時(shí)變經(jīng)濟(jì)調(diào)度和糖尿病分類預(yù)測(cè)問(wèn)題的數(shù)值仿真實(shí)驗(yàn),驗(yàn)證了所提出算法的有效性。
關(guān)鍵詞:分布式優(yōu)化;邊事件觸發(fā)通信;在線凸優(yōu)化;約束優(yōu)化
中圖分類號(hào): TP18" " " " " " " " " 文獻(xiàn)標(biāo)志碼: A文章編號(hào): 1673-2340(2024)03-0047-12
Abstract: The implementation of existing distributed online optimization methods typically relies on real-time information exchange between nodes in a communication network, which incurs unsustainable resource consumption such as communication bandwidth in practical applications. To reduce communication costs, edge-based event-triggering technology is applied to distributed online constrained convex optimization, where each agent only knows its own time-varying local objective functions, and the common goal of all agents is to calculate the optimal sequence of solutions to minimize the total network objective value (the sum of all local objective functions). Firstly, an edge-based event-triggering mechanism is designed for the distributed online gradient descent algorithm under the assumption of a fixed strongly connected directed graph. Then, based on the designed edge-based event-triggering mechanism, an upper bound for each agent′s Regret is established, which is found to be directly related to the event-triggering threshold. Further analysis reveals that as long as the edge-based event-triggering threshold converges to zero over time, the Regret exhibits sublinear growth. Finally, the effectiveness of the proposed algorithm is verified through numerical simulation experiments oriented towards time-varying economic dispatch and diabetes classification prediction problems.
Key words: distributed optimization; edge-based event-triggered communication; online convex optimization; constrained optimization
近年來(lái),隨著技術(shù)進(jìn)步和先進(jìn)計(jì)算設(shè)備的普及,分布式凸優(yōu)化問(wèn)題吸引了廣泛關(guān)注。分布式凸優(yōu)化對(duì)機(jī)器學(xué)習(xí)、無(wú)線通信控制系統(tǒng)、信號(hào)處理、電力和傳感器網(wǎng)絡(luò)[1]等領(lǐng)域的眾多工程應(yīng)用尤為重要,因?yàn)檫@些應(yīng)用總是涉及一些模型或?qū)崿F(xiàn)形式必然是分布式結(jié)構(gòu)的場(chǎng)景,比如分布式協(xié)同定位、分布式估計(jì)[2]、編隊(duì)控制[3]和資源調(diào)度分配[4]。這些應(yīng)用通常需要采用分布式算法來(lái)實(shí)現(xiàn),也就是利用多個(gè)分布式節(jié)點(diǎn)去協(xié)同合作,而不是依賴傳統(tǒng)計(jì)算方法中的單一中心節(jié)點(diǎn)處理所有信息。具體而言,通常需要多個(gè)智能體共同最小化一個(gè)全局目標(biāo)函數(shù),也就是所有智能體的局部目標(biāo)函數(shù)之和。在這些應(yīng)用中,智能體除了可以利用有限的本地局部信息,還能與通信網(wǎng)絡(luò)中的相鄰節(jié)點(diǎn)交換信息。
在動(dòng)態(tài)和不確定的環(huán)境中,如可再生能源系統(tǒng)和傳感器網(wǎng)絡(luò)中,系統(tǒng)目標(biāo)函數(shù)會(huì)因噪聲和不可預(yù)測(cè)變量的影響而持續(xù)變化[5],現(xiàn)有的分布式靜態(tài)凸優(yōu)化方法面臨著新的挑戰(zhàn)。為應(yīng)對(duì)目標(biāo)函數(shù)的時(shí)變特性,分布式在線優(yōu)化被提出并受到關(guān)注。顯著區(qū)別于傳統(tǒng)的靜態(tài)或時(shí)不變優(yōu)化方法,在分布式在線優(yōu)化中多智能體系統(tǒng)需要在不了解全局和局部目標(biāo)函數(shù)演變信息的情況下作出優(yōu)化決策。這樣的設(shè)定與現(xiàn)實(shí)生活中的一些應(yīng)用情境非常契合,例如傳感器最優(yōu)測(cè)量值可能隨測(cè)量環(huán)境和對(duì)象特性的改變而變化。分布式在線優(yōu)化算法的優(yōu)化性能一般通過(guò)“Regret”指標(biāo)來(lái)衡量[6],這一指標(biāo)可以評(píng)估算法求解得出的時(shí)序優(yōu)化解與預(yù)知全局信息下能采取的最優(yōu)解之間的差異。若算法的Regret能以次線性速率增長(zhǎng),則表明其性能良好,也意味著優(yōu)化算法能很好地適應(yīng)目標(biāo)函數(shù)的時(shí)變特性并保持優(yōu)化求解的魯棒性。
近期,分布式在線優(yōu)化引起了極大的研究熱潮,涌現(xiàn)出了一系列重要的研究成果。圍繞分布式在線優(yōu)化問(wèn)題中通信網(wǎng)絡(luò)結(jié)構(gòu)、目標(biāo)函數(shù)凸/非凸性和優(yōu)化求解速度等關(guān)鍵挑戰(zhàn),不同研究者設(shè)計(jì)了不同類別的分布式在線優(yōu)化協(xié)議[7-12]。文獻(xiàn)[7-8]提出了基于梯度下降策略的分布式在線優(yōu)化算法,并詳細(xì)分析了其收斂性能。不同于梯度下降策略,文獻(xiàn)[9]基于集中式對(duì)偶優(yōu)化算法提出了分布式場(chǎng)景下的對(duì)偶平均在線優(yōu)化算法。此外,文獻(xiàn)[10]實(shí)現(xiàn)了同時(shí)將鞍點(diǎn)動(dòng)態(tài)和分布式在線次梯度下降方法應(yīng)用于在線凸優(yōu)化問(wèn)題。文獻(xiàn)[11]則將鏡像下降法應(yīng)用到分布式在線優(yōu)化問(wèn)題的求解中。基于這些工作,文獻(xiàn)[12]提出了一種依賴于分布式輔助優(yōu)化的偽凸函數(shù)求解策略。
上述所有分布式在線優(yōu)化算法的設(shè)計(jì)完全依賴于智能體間持續(xù)的、實(shí)時(shí)的信息交換,這可能會(huì)給一些具有有限資源(帶寬、通信能量等)的通信網(wǎng)絡(luò)(例如由低功率、經(jīng)濟(jì)型傳感器組成的網(wǎng)絡(luò))帶來(lái)極大的通信負(fù)擔(dān)[13]。這些算法要求每個(gè)智能體在每次迭代時(shí)同步計(jì)算并傳播優(yōu)化更新信息,這樣的通信設(shè)計(jì)既耗費(fèi)帶寬又不切實(shí)際,特別是對(duì)于由具有不同數(shù)據(jù)傳輸和計(jì)算能力的異構(gòu)多智能體組成的系統(tǒng)而言。此外,從計(jì)算和通信層面來(lái)說(shuō),分布式算法的有效性極大程度上取決于通信效率,多智能體之間數(shù)據(jù)傳輸所花費(fèi)的時(shí)間通常超過(guò)計(jì)算所需時(shí)間[14]。上述原因激發(fā)了研究者們對(duì)于如何設(shè)計(jì)更高通信效率策略從而避免依賴持續(xù)實(shí)時(shí)信息交互和同步計(jì)算的研究興趣[15],這能確保在通信資源受限場(chǎng)景中分布式在線優(yōu)化方法仍然有效。
事件觸發(fā)機(jī)制是一類能實(shí)現(xiàn)減輕分布式系統(tǒng)中通信消耗的策略。這種機(jī)制的設(shè)計(jì)思路是令智能體僅在必要時(shí)刻傳輸數(shù)據(jù)來(lái)保持系統(tǒng)穩(wěn)定或保證收斂,目前事件觸發(fā)機(jī)制已在分布式控制[16]和靜態(tài)優(yōu)化[17]中被廣泛應(yīng)用。具體來(lái)說(shuō),事件觸發(fā)機(jī)制使智能體僅在實(shí)時(shí)狀態(tài)與預(yù)期狀態(tài)之前存在顯著偏差時(shí),才將自己的局部狀態(tài)信息發(fā)送給鄰居。文獻(xiàn)[18]將事件觸發(fā)機(jī)制成功應(yīng)用到面向無(wú)向通信網(wǎng)絡(luò)的在線梯度下降方法中,使智能體可以依據(jù)事件觸發(fā)通信條件來(lái)判斷是否進(jìn)行局部信息傳播從而優(yōu)化通信。進(jìn)一步,可以通過(guò)將事件觸發(fā)機(jī)制與量化機(jī)制相結(jié)合,實(shí)現(xiàn)進(jìn)一步降低通信成本的目標(biāo)。文獻(xiàn)[19]成功地在有向通信網(wǎng)絡(luò)假設(shè)下設(shè)計(jì)了融合事件觸發(fā)機(jī)制與具有量化機(jī)制的零梯度和分布式優(yōu)化方法。這些研究成果展示了分布式優(yōu)化算法設(shè)計(jì)向更高通信效率發(fā)展的趨勢(shì),提升了分布式優(yōu)化方法在通信資源受限網(wǎng)絡(luò)中的應(yīng)用潛力。然而,不同于要求智能體在事件觸發(fā)時(shí)刻向所有鄰居傳輸最新局部信息的基于節(jié)點(diǎn)觸發(fā)的傳統(tǒng)事件觸發(fā)方法,基于通信邊的邊事件觸發(fā)機(jī)制提供了一個(gè)更有前景的替代方案[20]。這種通信策略同樣源自分布式控制領(lǐng)域,它規(guī)定局部信息只在特定的基于通信邊的事件觸發(fā)條件滿足時(shí)才會(huì)在兩個(gè)智能體之間被傳輸,這實(shí)現(xiàn)了節(jié)點(diǎn)間點(diǎn)對(duì)點(diǎn)層面的數(shù)據(jù)采樣和控制更新。對(duì)于每個(gè)智能體而言,這種機(jī)制使得它在每條通信邊上的通信都不是局部同步的,而是異步和間歇性的。這種點(diǎn)對(duì)點(diǎn)的通信方式本質(zhì)上將進(jìn)一步減少信息傳輸?shù)念l率和次數(shù),會(huì)在各種應(yīng)用中帶來(lái)進(jìn)一步節(jié)省通信資源消耗的顯著優(yōu)勢(shì)[21]。據(jù)我們所知,目前尚未有融合邊事件觸發(fā)機(jī)制的分布式在線優(yōu)化算法設(shè)計(jì)研究。
基于以上討論,本文旨在利用邊事件觸發(fā)機(jī)制,為分布式在線約束凸優(yōu)化設(shè)計(jì)一種具有更高通信效率的在線優(yōu)化算法。與現(xiàn)有的基于節(jié)點(diǎn)觸發(fā)的事件觸發(fā)機(jī)制相比,本文所提出的融合邊事件觸發(fā)機(jī)制的分布式在線優(yōu)化協(xié)議確保每個(gè)智能體在每個(gè)觸發(fā)時(shí)刻僅與部分鄰居進(jìn)行通信,這將進(jìn)一步減少網(wǎng)絡(luò)內(nèi)的通信頻率。然而,一個(gè)重大研究挑戰(zhàn)在于如何為通信網(wǎng)絡(luò)中的每條通信邊設(shè)計(jì)適當(dāng)?shù)氖录|發(fā)條件,這些條件將直接決定點(diǎn)對(duì)點(diǎn)信息傳輸?shù)念l率和局部?jī)?yōu)化過(guò)程,同時(shí)還要確保分布式在線優(yōu)化算法的Regret指標(biāo)是次線性增長(zhǎng)的。此外,對(duì)所提出的基于邊的事件觸發(fā)條件,如何進(jìn)行理論分析來(lái)驗(yàn)證分布式在線約束優(yōu)化算法的可行性,也是主要難題。
1" "預(yù)備知識(shí)與問(wèn)題模型
1.1" "符號(hào)定義
首先介紹本文中用于算法描述和算法分析的一些必要的符號(hào)定義。令Z、Z、R、R、R和R分別表示整數(shù)集、非負(fù)整數(shù)集、實(shí)數(shù)集、n維實(shí)數(shù)向量、n × m維實(shí)數(shù)矩陣和非負(fù)實(shí)數(shù)集。令x、‖x‖和‖x‖分別表示實(shí)數(shù)x的絕對(duì)值、向量x的歐幾里得范數(shù)和1-范數(shù)。向量1表示完全由1組成的列向量。對(duì)一個(gè)矩陣X,當(dāng)其滿足∑x = 1,?坌i∈[m]和∑x = 1,?坌j∈[m]時(shí),矩陣X具有雙隨機(jī)性質(zhì)。
對(duì)于任何凸函數(shù)f : R → R,f表示其梯度或次梯度,滿足不等式f(y) - f(x)≥f(x)·(y - x),所有x,y∈R。如果函數(shù)f : R → R在R上是μ-強(qiáng)凸的,對(duì)μ≥0,則它滿足對(duì)于x,y∈R必有
f(y)≥f(x) + f(x)·(y - x) + y - x。
定義Π是關(guān)于集合Ω的投影算子,也就是Π(x) = arg miny∈Ωy - x。
1.2" "圖論知識(shí)
本文將節(jié)點(diǎn)間的信息交換建模為圖。將包含n個(gè)節(jié)點(diǎn)的時(shí)變有向圖表示為G(t) = {V, E(t)}。這里,V = {1,…,n}表示節(jié)點(diǎn)集合,而E(t)?哿V × V是關(guān)于時(shí)間t的邊集合。如果從節(jié)點(diǎn)j到節(jié)點(diǎn)i存在一條有向通信信道,則(j,i)∈E(t)。對(duì)于任何節(jié)點(diǎn)i,其入鄰居集和出鄰居集分別定義為N (t) := { j(j,i)∈E(t)}和N (t) := { j(i,j)∈E(t)}。如果在圖G(t)內(nèi)每個(gè)節(jié)點(diǎn)到其他各個(gè)節(jié)點(diǎn)都存在一條通信路徑,則該有向圖被認(rèn)為是強(qiáng)連通的。針對(duì)時(shí)變有向圖G(t),定義一個(gè)權(quán)重矩陣A(t)∈R。當(dāng)G(t)中存在節(jié)點(diǎn)j到節(jié)點(diǎn)i的通信信道或i = j時(shí),矩陣A(t)的第(i,j)項(xiàng)a(t)是嚴(yán)格正的,否則a(t) = 0。
下列關(guān)于通信圖的假設(shè)將用于本文所提算法及其后續(xù)對(duì)單個(gè)節(jié)點(diǎn)的個(gè)體Regret分析中。
假設(shè)1" "對(duì)于任意時(shí)間t,通信網(wǎng)絡(luò)G(t)都是強(qiáng)連通的,且其對(duì)應(yīng)的權(quán)重矩陣A(t)是雙隨機(jī)的。
1.3" "分布式在線約束凸優(yōu)化問(wèn)題模型
在分布式在線凸優(yōu)化問(wèn)題中,假設(shè)存在一系列時(shí)變?nèi)滞钩杀竞瘮?shù),這些函數(shù)未被預(yù)先獲取并隨時(shí)間逐漸被節(jié)點(diǎn)知曉。具體來(lái)說(shuō),在每個(gè)時(shí)間t∈{1,…,T}(T∈Z是時(shí)間范圍),每個(gè)節(jié)點(diǎn)i∈V選擇一個(gè)優(yōu)化解估計(jì)值z(mì)(t)∈Ω,Ω是優(yōu)化解約束集合。然后,節(jié)點(diǎn)i會(huì)獲得一個(gè)局部凸成本函數(shù)f(·) : Ω → R并得知當(dāng)前估計(jì)值所對(duì)應(yīng)的目標(biāo)值f(z(t))。因此,每個(gè)時(shí)刻t的全局目標(biāo)函數(shù)可表示為
f(z) = ∑f(z),
其中z∈Ω是決策變量。然后,所有節(jié)點(diǎn)的目標(biāo)是最小化在時(shí)間范圍T內(nèi)累積的時(shí)變目標(biāo)函數(shù),可表示為
min∑f(z),
其中節(jié)點(diǎn)i∈V 僅知曉分配給自己的局部凸目標(biāo)函數(shù)f(·),假設(shè)f(·)不被任何節(jié)點(diǎn)知曉。
假設(shè)2" "優(yōu)化解約束集合Ω是緊的、凸的且有界的,也就是對(duì)任意x∈Ω,總有‖x‖≤R,R是一個(gè)常數(shù)。
假設(shè)3" "所有局部目標(biāo)函數(shù)f(z)在Ω上是μ-強(qiáng)凸的。f(z)的梯度范數(shù)是L-有界的,即
f(z)≤L,?坌z∈Ω,
其中L是某個(gè)正常數(shù)。
假設(shè)4" "所有局部目標(biāo)函數(shù)f(z)在Ω上是凸的且f(z)的梯度范數(shù)是L-有界的。
注1" "在很多實(shí)際應(yīng)用中假設(shè)3和4均成立。例如在分布式在線邏輯回歸問(wèn)題中,局部損失函數(shù)通常是f(x) = lg(1 + e),其中w是特征向量,d∈{-1,1}是數(shù)據(jù)標(biāo)簽值。在這個(gè)問(wèn)題中,只要特征向量是聯(lián)合有界的,那么假設(shè)3和4必定成立,因?yàn)?/p>
‖f(x)‖ = ‖w‖≤‖w‖。
因?yàn)閺?qiáng)凸函數(shù)一定是嚴(yán)格凸函數(shù),但嚴(yán)格凸函數(shù)不一定是強(qiáng)凸函數(shù)。假設(shè)4中對(duì)于局部目標(biāo)函數(shù)的約束要求相比假設(shè)3低,更具一般性。在后續(xù)證明中,需要定義L = ∑L。
本文的目標(biāo)是基于梯度下降的優(yōu)化思想開(kāi)發(fā)一種分布式在線約束凸優(yōu)化算法,旨在最小化有限時(shí)間范圍T內(nèi)所有節(jié)點(diǎn)的累積局部目標(biāo)函數(shù)之和。鑒于分布式在線優(yōu)化問(wèn)題中目標(biāo)函數(shù)的時(shí)變性質(zhì),Regret成為評(píng)估算法性能的關(guān)鍵指標(biāo)。因此,引入針對(duì)單個(gè)節(jié)點(diǎn)j∈V" 的個(gè)體Regret的定義,可得
R(T) =∑∑f(z(t)) - ∑∑f(z),
其中z = arg min∑f (z)是事后能求解得到的最優(yōu)固定解。
值得強(qiáng)調(diào)的是,每個(gè)智能體在任何給定時(shí)間t只能知曉自己的局部目標(biāo)函數(shù)及其次梯度信息,以及由鄰居發(fā)送過(guò)來(lái)的有限信息。因此,節(jié)點(diǎn)無(wú)法獨(dú)立計(jì)算其個(gè)體Regret。本文的主要目標(biāo)是設(shè)計(jì)一個(gè)分布式次梯度在線優(yōu)化算法,用于時(shí)變有向網(wǎng)絡(luò)中的每個(gè)節(jié)點(diǎn)i∈V" 的局部?jī)?yōu)化更新,旨在確保每個(gè)節(jié)點(diǎn)的個(gè)體Regret關(guān)于T呈現(xiàn)次線性增長(zhǎng),意味著對(duì)于每個(gè)節(jié)點(diǎn)j∈V" 都有l(wèi)im = 0。這種次線性Regret意味著隨著T趨于無(wú)窮,算法平均性能趨于最優(yōu)。
2" "算法設(shè)計(jì)與分析
2.1" "融合邊事件觸發(fā)的分布式在線約束凸優(yōu)化算法設(shè)計(jì)
本章節(jié)介紹所設(shè)計(jì)的分布式邊事件觸發(fā)在線凸優(yōu)化算法,該算法在分布式梯度下降算法的基礎(chǔ)上融合了邊事件觸發(fā)機(jī)制,保證每個(gè)節(jié)點(diǎn)的個(gè)體Regret是次線性增長(zhǎng)的。考慮一組由V = {1,…,n}表示的多智能體系統(tǒng),所有節(jié)點(diǎn)通過(guò)時(shí)變強(qiáng)連通有向圖G(t) = (V,E(t))進(jìn)行通信。在每個(gè)時(shí)刻t∈{1,…,T},節(jié)點(diǎn)i存儲(chǔ)并更新多個(gè)變量:x(t)和{(t)}。x(t)表示局部決策變量;{(t)}代表由節(jié)點(diǎn)i的鄰居發(fā)送給它的事件觸發(fā)局部?jī)?yōu)化變量。在每次迭代t∈{1,…,T}中,節(jié)點(diǎn)i利用當(dāng)前時(shí)刻所能獲得局部目標(biāo)函數(shù)的梯度信息,根據(jù)
x(t + 1) =Π(∑a(t)(t) - α(t)f(x(t)))(1)
進(jìn)行局部?jī)?yōu)化解更新。其中:f(x(t))是函數(shù)f(·)在x(t)處的梯度/次梯度;α(t)是優(yōu)化步長(zhǎng);(t)是由待設(shè)計(jì)的邊事件觸發(fā)條件所確定的在從節(jié)點(diǎn)j到節(jié)點(diǎn)i的通信信道中傳輸?shù)氖录|發(fā)優(yōu)化變量。為簡(jiǎn)潔起見(jiàn),我們將使用f(t)來(lái)表示f(x(t))。對(duì)于所有i∈V ,其局部?jī)?yōu)化解在t = 0時(shí)需要初始化為x(0)∈Ω。
接下來(lái)介紹所設(shè)計(jì)的邊事件觸發(fā)規(guī)則?;谶吺录|發(fā)規(guī)則,每個(gè)節(jié)點(diǎn)i∈V在每個(gè)時(shí)刻t會(huì)執(zhí)行判斷操作,從而決定是否通過(guò)各自的通信鏈路向鄰居傳輸其當(dāng)前優(yōu)化解。如果在時(shí)刻t,節(jié)點(diǎn)i向節(jié)點(diǎn)j發(fā)送其局部?jī)?yōu)化解x(t),則將時(shí)刻t定義為節(jié)點(diǎn)i相對(duì)于節(jié)點(diǎn)j的觸發(fā)時(shí)刻,這樣的第l次觸發(fā)時(shí)刻表示為t,其中l(wèi)∈N。不失一般性,為所有i∈V和j∈N (t)設(shè)置t = 0,意味著在初始時(shí)刻t = 0時(shí),所有節(jié)點(diǎn)需要將其初始優(yōu)化解發(fā)送給所有鄰居。令(t)代表節(jié)點(diǎn)i截止時(shí)刻t最后一次發(fā)送給節(jié)點(diǎn)j的局部?jī)?yōu)化變量,那么它可以被定義為
(t) = x(t),如果t∈T" (t - 1),否則,
其中T" 表示節(jié)點(diǎn)i對(duì)節(jié)點(diǎn)j的邊觸發(fā)時(shí)刻集合。(t)的定義表明:在時(shí)刻t,節(jié)點(diǎn)j存儲(chǔ)并使用來(lái)自節(jié)點(diǎn)i的最新局部?jī)?yōu)化變量。具體來(lái)說(shuō),如果時(shí)刻t是T" 中的一個(gè)觸發(fā)時(shí)刻,節(jié)點(diǎn)j就會(huì)用x(t)更新其存儲(chǔ)變量(t)。相反,如果時(shí)刻t不是觸發(fā)時(shí)刻(即t?埸T" ),節(jié)點(diǎn)j將持續(xù)使用最近一次觸發(fā)的局部?jī)?yōu)化變量(t′),其中t′是距離時(shí)刻t最近的觸發(fā)時(shí)刻(即t - 1,t - 2,…,t′ + 1?埸T" )。假設(shè)每個(gè)節(jié)點(diǎn)在每次迭代中都能更新自己的局部?jī)?yōu)化變量,因此對(duì)于所有t∈N和i∈V , (t) = x(t)。如果
x(t) - (t - 1) gt; E(t),
那么,節(jié)點(diǎn)i將在時(shí)刻t將其局部?jī)?yōu)化解x(t)發(fā)送給鄰居節(jié)點(diǎn)j。其中E(t) gt; 0表示當(dāng)前優(yōu)化解x(t)與最近觸發(fā)變量(t)之間允許的最大誤差閾值??梢灾庇^發(fā)現(xiàn)較低的閾值 E(t)會(huì)促使節(jié)點(diǎn)i更頻繁地向節(jié)點(diǎn)j發(fā)送其局部?jī)?yōu)化解。因此,每個(gè)節(jié)點(diǎn)可以通過(guò)調(diào)整 E(t)來(lái)調(diào)節(jié)與其鄰居節(jié)點(diǎn)j的通信頻率。通過(guò)所設(shè)計(jì)的邊事件觸發(fā)機(jī)制,對(duì)于所有i∈V , j∈N (t),t∈N可以保證條件
x(t) - (t)≤E(t)成立。
2.2" "算法分析
在對(duì)所設(shè)計(jì)的分布式在線約束凸優(yōu)化算法進(jìn)行節(jié)點(diǎn)個(gè)體Regret分析之前,需要先給出關(guān)于優(yōu)化步長(zhǎng)α(t)和事件觸發(fā)閾值E(t)的必要假設(shè)。
假設(shè)5" "對(duì)于任意i,j∈V ,優(yōu)化步長(zhǎng)序列{α(t)}和邊觸發(fā)閾值{E(t)}是單調(diào)非增的。
接下來(lái)開(kāi)始對(duì)所設(shè)計(jì)的分布式在線約束凸優(yōu)化算法進(jìn)行分析。首先定義輔助變量如下:
(t) := ∑x(t),
(t + 1) := ∑a(t)(t) - α(t)f(x(t)),
?準(zhǔn)(t) := (t) - x(t),
ξ(t) := x(t) - (t)。
基于輔助變量ξ(t)的定義,可以發(fā)現(xiàn)
‖ξ(t + 1)‖ = ‖Π((t + 1)) - (t + 1)‖≤
α(t)‖f(x(t))‖≤α(t)L,
其中第1個(gè)不等式是根據(jù)投影算子的性質(zhì)得到的,具體來(lái)說(shuō),對(duì)于任意x和y∈Ω,必定存在‖Π(x) - x‖≤‖y - x‖。
引理1" "當(dāng)假設(shè)1、2和3成立,那么對(duì)于任意x∈Ω和t≥1,依據(jù)所提出的算法(1)進(jìn)行更新的局部最優(yōu)解必定滿足
‖(t + 1) - x‖≤
‖(t) - x‖ + (∑‖∑a(t)?準(zhǔn)(t)‖) +
( + )∑‖∑a(t)?準(zhǔn)(t)‖ +
[ f (x) - f ((t))] +
∑‖x(t) - (t)‖ +
∑‖(t) - (t + 1)‖ +
4Lα(t) - ‖x - (t)‖。(3)
證明:定義X(t) = [x(t),…,x(t)],
(t) = [(t),…,(t)],
G(t) = [f(t),…,f(t)],
ξ(t) = [ξ(t),…,ξ(t)],
E(t) = [?準(zhǔn)(t),…,?準(zhǔn)(t);…,?準(zhǔn)(t),…;?準(zhǔn)(t),…,
?準(zhǔn)(t)]。
那么根據(jù)所設(shè)計(jì)的分布式在線優(yōu)化算法,可以得到
(t + 1) =
A(t)X(t) + diag(A(t)E(t)) - α(t)G(t),
X(t + 1) =
A(t)X(t) + diag(A(t)E(t)) - α(t)G(t) +
ξ(t + 1)。
由于A(t)是雙隨機(jī)矩陣,因此必有A(t)1 = 1,那么根據(jù)(t)的定義可得
(t + 1) = 1X(t) + ∑∑a(t)?準(zhǔn)(t) +
∑ξ(t + 1) - ∑f(x(t))。
那么對(duì)于任意x∈Ω可以輕易得到
‖(t + 1) - x‖ =
‖(t) - x‖ + ∑((t) - x)ξ(t + 1) +
∑(((t) - x)∑a(t)?準(zhǔn)(t)) -
∑((t) - x)f(x(t)) +
‖∑[∑a(t)?準(zhǔn)(t) - α(t)f(x(t)) +
ξ(t + 1)]‖。
針對(duì)上述等式中的‖∑[∑a(t)?準(zhǔn)(t) - α(t)f(x(t)) + ξ(t + 1)]‖,利用‖ξ(t + 1)‖≤α(t)L可進(jìn)行放縮操作得到
‖∑[∑a(t)?準(zhǔn)(t) - α(t) + ξ(t + 1)]‖≤
[∑(‖∑a(t)?準(zhǔn)(t)‖ + 2Lα(t))]≤
(∑‖∑a(t)?準(zhǔn)(t)‖) + 4nLα(t) +
4nLα(t)∑‖∑a(t)?準(zhǔn)(t)‖。
針對(duì)((t) - x)∑a(t)?準(zhǔn)(t),結(jié)合假設(shè)2中的約束集合有界性,可以得到
((t) - x)∑a(t)?準(zhǔn)(t)≤
‖(t) - x‖‖∑a(t)?準(zhǔn)(t)‖≤
2R‖∑a(t)?準(zhǔn)(t)‖。
針對(duì)((t) - x)f(x(t)),由于假設(shè)3滿足,因此根據(jù)凸函數(shù)的性質(zhì),不等式
-((t) - x)f(x(t)) =
(x - x(t))f(x(t)) +
(x(t) - (t))f(x(t))≤
f(x) - f(x(t)) + L‖x(t) - (t)‖ -
‖x - x(t)‖≤
f(x) - f((t)) + f((t)) - f(x(t)) +
L‖x(t) - (t)‖ - ‖x - x(t)‖≤
f(x) - f((t)) + 2L‖x(t) - (t)‖ -
‖(t) - x(t)‖ - ‖x - x(t)‖≤
f(x) - f((t)) + 2L‖x(t) - (t)‖ -
‖x - (t)‖
必定成立。
針對(duì)((t) - x)ξ(t + 1),可進(jìn)行如下處理:
((t) - x)ξ(t + 1)≤
((t) - (t + 1))ξ(t + 1) +
((t + 1) - x)(Π((t + 1)) - (t + 1))≤
((t) - (t + 1))ξ(t + 1)≤
Lα(t)‖(t) - (t + 1)‖。
上述第2個(gè)不等式基于投影算子的性質(zhì)所得,即((t + 1) - x)(Π((t + 1)) - (t + 1))≤0。將上述不等式進(jìn)行整合就可以完成引理1的證明。
引理2[22]" "當(dāng)時(shí)變通信拓?fù)銰(t)滿足假設(shè)1時(shí),那么對(duì)于任意i∈{1,…,n}和t≥s≥0,存在0 lt; β lt; 1和C gt; 0使得其權(quán)重矩陣A(t)滿足
∑[A(t:s)] - ≤Cβ,
其中A(t:s) = A(t)A(t - 1) … A(s)。
引理3" "當(dāng)假設(shè)1、2和3均滿足時(shí),對(duì)于任意x∈Ω和t≥1,依據(jù)所提出算法(1)更新的局部最優(yōu)解必定滿足
‖(t) - x(t)‖≤
RnCβ + Cn∑β?準(zhǔn)(s) +
2CLn∑βα(s),
‖(t) - (t + 1)‖≤
RnCβ + Cn∑β?準(zhǔn)(s) +
2CLn∑βα(s) + ?準(zhǔn)(t),
‖(t) - (t + 1)‖≤
qRnCβ + Cn∑β?準(zhǔn)(s) +
2CLn∑βα(s) + α(t)L + ?準(zhǔn)(t)。
證明:定義Φ(t) = ∑a(t)?準(zhǔn)(t)和Φ(t) = [Φ(t),…,Φ(t)],那么式(2)可改寫(xiě)為
X(t + 1) =
A(t)X(t) + Φ(t) - α(t)G(t) + ξ(t + 1)。(4)
對(duì)式(4)從時(shí)刻1到t進(jìn)行嵌套處理,整理后可發(fā)現(xiàn)
X(t) =
A(t - 1:1)X(1) + ∑A(t - 2:s)Φ(s) -
∑α(s)A(t - 2:s)G(s) +
∑A(t - 2:s)ξ(s)。(5)
依據(jù)式(5)和對(duì)(t)的定義,‖(t) - x(t)‖對(duì)任意i∈{1,…,n}滿足
‖(t) - x(t)‖ = ‖(1 - e)X(t)‖≤
‖(1 - eA(t - 1:1))X(1)‖ +
‖∑(1 - eA(t - 2:s))Φ(s)‖ +
‖∑(1 - eA(t - 2:s))α(s)G(s)‖ +
‖∑(1 - eA(t - 2:s))ξ(s + 1)‖≤
CβX(1) + ∑CβΦ(s) +
∑Cβα(s)G(s) +
∑Cβξ(s)≤
RnCβ + Cn∑β?準(zhǔn)(s) +
2CLn∑α(s),
其中?準(zhǔn)(t) = max ?準(zhǔn)(t)。然后基于
‖(t) - (t)‖≤
‖(t) - x(t)‖ + ‖x(t) - (t)‖≤
‖(t) - x(t)‖ + ‖?準(zhǔn)(t)‖,
‖(t) - (t + 1)‖≤
‖(t) - ∑a(t)(t) + α(t)f(x(t))‖≤
‖∑a(t)((t) - (t)) + α(t)f(x(t))‖≤
∑a(t)‖(t) - (t)‖ + α(t)L
可直接完成引理3的證明。
將引理1和引理3放在一起考慮,可以得到如下關(guān)于Regret的初步結(jié)論。
引理4" "如果假設(shè)1、2和3均成立,優(yōu)化步長(zhǎng)α(t)滿足假設(shè)5,且≥和 - ≥,對(duì)于任意的s∈{1,…,n},運(yùn)行算法(1),如下結(jié)論必定成立:
∑f (x(t)) - f (x)≤
- μnRT + ( + 3Ln)∑E(t) +
( + 3nL)∑α(t) + ∑ +
2Rn∑ + ,
其中E(t) := max ?準(zhǔn)(t)。
證明:對(duì)不等式(3)的兩邊都乘以并在[1,T]上進(jìn)行累加,可以得到
∑‖(t + 1) - x‖≤
∑‖(t) - x‖ + 2nL∑α(t) +
∑((∑‖∑a(t)?準(zhǔn)(t)‖)) +
∑(2L + )∑‖∑a(t)?準(zhǔn)(t)‖ +
∑(f (x) - f ((t))) +
2L∑∑‖x(t) - (t)‖ +
L∑∑‖(t) - (t + 1)‖ -
∑‖x - (t)‖。(6)
因?yàn)槟繕?biāo)函數(shù)具有凸的性質(zhì),所以有
f (x) - f ((t)) =
f(x) - f (x(t)) + f (x(t)) - f ((t))≤
f(x) - f (x(t)) + nL‖x(t) - (t)‖。(7)
將式(7)代入不等式(6)中并進(jìn)行整理后可得
∑f (x(t)) - f (x)≤
∑(‖(t) - x‖ - ‖(t + 1) - x‖) +
∑(∑‖∑a(t)?準(zhǔn)(t)‖) +
2nL∑α(t) +
∑(2L + )∑‖∑a(t)?準(zhǔn)(t)‖ +
nL∑‖x(t) - (t)‖ +
2L∑∑‖x(t) - (t)‖ -
∑‖x - (t)‖ +
L∑∑‖(t) - (t + 1)‖。(8)
下面對(duì)式(8)右邊的每一項(xiàng)進(jìn)行定界分析。首先,針對(duì)包含∑‖∑a(t)?準(zhǔn)(t)‖的三項(xiàng)進(jìn)行分析。基于邊事件觸發(fā)閾值是單調(diào)非增的假設(shè),可以得到
∑(∑‖∑a(t)?準(zhǔn)(t)‖) +
∑(2L + )∑‖∑a(t)?準(zhǔn)(t)‖≤
∑nE(t) +
∑(2L + )nE(t) =
∑E(t) + ∑(2nL + )E(t),
其中E(t) := max ?準(zhǔn)(t)。進(jìn)一步考慮包含‖x(t) - (t)‖,‖x(t) - (t)‖和‖(t) - (t + 1)‖的三項(xiàng),參考引理3,可獲得它們的上界為
nL∑‖x(t) - (t)‖ +
2L∑∑‖x(t) - (t)‖ +
L∑∑‖(t) - (t + 1)‖≤
4nL∑(RnCβ + Cn∑βE(s) +
2CLn∑βα(s)) +
L∑∑(α(t)L + ‖?準(zhǔn)(t)‖)≤
+ ∑E(t) +
Ln∑E(t) + ∑α(t) +
Ln∑α(t)。
最后,考慮剩下的關(guān)于‖(t) - x‖的兩項(xiàng),利用事實(shí)‖(t) - x‖≤4R,≥和 - ≥,可得
∑(‖(t) - x‖ - ‖(t + 1) - x‖) -
∑‖x - (t)‖≤
‖(1) - x‖ +
∑( - ) ×
‖(t) - x‖ - ∑‖x - (t)‖≤
n( - )‖(1) - x‖ +
∑‖(t) - x‖ ×
( - "- )≤
- μnRT。
把上述得到的定界分析結(jié)果代入式(8),并令x = x*,E(t) := max ?準(zhǔn)(t),即可完成證明。
注2" "當(dāng)目標(biāo)函數(shù)僅滿足凸函數(shù)假設(shè)而不滿足μ-強(qiáng)凸性質(zhì)時(shí),僅需刪除不等式(6)右邊的
-μnRT項(xiàng),結(jié)論依舊成立。
基于上述所有已獲得的引理,可以得到不同步長(zhǎng)選擇下的針對(duì)每個(gè)節(jié)點(diǎn)的個(gè)體Regret上界的分析結(jié)論。
定理1" "當(dāng)假設(shè)1、2和3均成立,令優(yōu)化步長(zhǎng)為α(t) = ,邊事件觸發(fā)閾值設(shè)定為E(t)≤,那么對(duì)于?坌j∈V ,其個(gè)體Regret必定滿足
∑f (x(t)) - f (x*)≤
+ ( + 3nL)∑ +
( + 3Ln)∑ + ∑( + )∈
O (1 + ln T)。
證明:將j = s代入引理4并基于事實(shí)∑≤(1 + ln T)可直接證明上述不等式。
定理2" "當(dāng)假設(shè)1、2和4均成立,令優(yōu)化步長(zhǎng)為α(t) = ,邊事件觸發(fā)閾值設(shè)定為E(t)≤,那么對(duì)于?坌j∈V ,其個(gè)體Regret必定滿足
∑ f (x(t)) - f (x*)≤
2Rn + "+
( + 3Ln)∑ +
( + 3nL + 2Rn)∑ +
∑∈O()。
證明:將x = x*,j = s代入引理4并基于事實(shí)∑≤2[23]可直接證明上述不等式。
注3nbsp; "當(dāng)局部目標(biāo)函數(shù)僅滿足凸性質(zhì)時(shí),雖然此場(chǎng)景下可以選擇更大的步長(zhǎng)α(t) = ,但此時(shí)只能獲得Regret上界O (),不及目標(biāo)函數(shù)滿足μ-強(qiáng)凸性質(zhì)時(shí)的上界O (1 + ln T)。
注4" "從定理1和定理2中可以明顯發(fā)現(xiàn),當(dāng)所有信道的邊事件觸發(fā)閾值最大值減小時(shí),每個(gè)節(jié)點(diǎn)的個(gè)體Regret收斂越快,但也意味著每條邊的通信頻率和通信成本必定會(huì)增加。因此,從綜合考慮的角度出發(fā),最優(yōu)的邊事件觸發(fā)閾值選擇不存在,需要根據(jù)應(yīng)用場(chǎng)景來(lái)選擇能權(quán)衡通信成本和收斂性能的邊事件觸發(fā)閾值。
注5" "從定理1和定理2的證明過(guò)程中,可以明顯發(fā)現(xiàn)所提出算法不完全依賴于目標(biāo)函數(shù)的梯度信息,次梯度的性質(zhì)也能確保定理1和2的成立。因此,所提出的在線優(yōu)化算法也可以用于次梯度場(chǎng)景。另外,本文僅關(guān)注確保所提出在線優(yōu)化算法收斂的優(yōu)化步長(zhǎng)充分條件??紤]到優(yōu)化步長(zhǎng)的選擇對(duì)收斂速度至關(guān)重要,會(huì)在之后的工作中進(jìn)行研究。
3" "仿真驗(yàn)證
在本節(jié)中,給出兩個(gè)仿真案例(分布式經(jīng)濟(jì)調(diào)度和分布式糖尿病在線預(yù)測(cè))用來(lái)驗(yàn)證所提出算法(1)的有效性。
3.1" "分布式時(shí)變經(jīng)濟(jì)調(diào)度
本仿真案例將在筆記本電腦(CPU為AMD Ryzen 7 4800H,運(yùn)存為16 GB,MATLAB版本為2020b)上對(duì)IEEE 14總線系統(tǒng)上的分布式時(shí)變經(jīng)濟(jì)調(diào)度問(wèn)題進(jìn)行求解,從而證明所提出的分布式在線優(yōu)化算法(1)的有效性。
IEEE 14總線系統(tǒng)包含5臺(tái)發(fā)電裝置,設(shè)定為總線{1,2,3,6,8}。每個(gè)發(fā)電裝置i有一個(gè)本地發(fā)電成本函數(shù)f(x(t)),具體表達(dá)形式為
f(x(t)) = ax(t) + b(t)x(t)。
系統(tǒng)同時(shí)還包含9個(gè)用電負(fù)荷,設(shè)定為總線{4,5,7,9,10,11,12,13,14},每個(gè)負(fù)荷也有一個(gè)本地函數(shù)f(x(t)) = 0。參考電力系統(tǒng)優(yōu)化求解需求,經(jīng)濟(jì)調(diào)度問(wèn)題中本地成本函數(shù)的變化周期為15 min。本案例考慮的時(shí)變經(jīng)濟(jì)調(diào)度問(wèn)題的時(shí)間跨度為4個(gè)月,總變化周期數(shù)T = 11 520。成本函數(shù)中的固定參數(shù)a和時(shí)變參數(shù)b(t)在表1中給出,其中b(t)的具體表達(dá)式為b(t) = b + Δb × 。
注6" "本文考慮了一個(gè)時(shí)間跨度為4個(gè)月的時(shí)變經(jīng)濟(jì)調(diào)度問(wèn)題。目標(biāo)函數(shù)中的時(shí)變特性主要通過(guò)參數(shù)b(t)來(lái)體現(xiàn),該參數(shù)假定是每月遞增的,可以對(duì)應(yīng)于實(shí)際應(yīng)用中電力發(fā)電設(shè)備的老化和發(fā)電成本的相應(yīng)增加。
時(shí)變經(jīng)濟(jì)調(diào)度問(wèn)題的數(shù)學(xué)模型可以表示為
minimize ∑∑f(x(t)),
subject to ∑x(t) = D,
其中D = 380 MW。為了處理模型中的等式約束,我們可以基于拉格朗日對(duì)偶轉(zhuǎn)換函數(shù)Ψ(λ(t)) = min f(x(t)) - λ(x(t) - D),然后可以得到對(duì)偶問(wèn)題,
min∑∑Ψ(λ(t)),
其中λ(t)是拉格朗日乘子。
仿真實(shí)驗(yàn)結(jié)果如圖1—4所示。具體來(lái)說(shuō),圖1展示了5個(gè)發(fā)電裝置在11 520次迭代中局部?jī)?yōu)化變量的收斂情況,驗(yàn)證了分布式在線優(yōu)化算法(1)可以實(shí)現(xiàn)其一致性。圖2描述了所有發(fā)電裝置的本地發(fā)電量的演變趨勢(shì),收斂的優(yōu)化結(jié)果與由集中優(yōu)化方法計(jì)算得到的結(jié)果一致。圖3展示了發(fā)電裝置1的個(gè)體Regret,表現(xiàn)出了次線性增長(zhǎng)特性。圖4比較了從發(fā)電裝置3到發(fā)電裝置4的信道上的邊事件觸發(fā)誤差與閾值,并顯示相應(yīng)的事件觸發(fā)時(shí)刻。
3.2" "分布式糖尿病在線預(yù)測(cè)
進(jìn)一步通過(guò)分布式實(shí)時(shí)糖尿病預(yù)測(cè)問(wèn)題評(píng)估所提出的分布式在線優(yōu)化算法(1)。本文采用分布式在線正則化邏輯回歸,給10個(gè)計(jì)算節(jié)點(diǎn)分配了基于數(shù)據(jù)集子集的局部損失函數(shù),體現(xiàn)了該問(wèn)題設(shè)定在時(shí)變數(shù)據(jù)驅(qū)動(dòng)應(yīng)用中的實(shí)用性。局部損失函數(shù)定義為
f(x) = ∑lg(1 + e)。
在本仿真實(shí)驗(yàn)中,每個(gè)節(jié)點(diǎn)i在時(shí)刻t處理一批數(shù)據(jù){(a,b)},這些數(shù)據(jù)來(lái)自Kaggle中的diabetes-binary-BRFSS2015數(shù)據(jù)集[24]。該數(shù)據(jù)集包含70 692條記錄,每條記錄有21個(gè)特征和一個(gè)二元目標(biāo)標(biāo)簽。在損失函數(shù)中,特征向量是a∈R,二元標(biāo)簽為b∈{-1,1}。我們對(duì)特征向量事先進(jìn)行了歸一化處理,并將數(shù)據(jù)集均勻分配給10個(gè)節(jié)點(diǎn),每個(gè)節(jié)點(diǎn)存儲(chǔ)了7 069個(gè)樣本。
使用本文所提出的分布式在線優(yōu)化算法,仿真實(shí)驗(yàn)結(jié)果展示在圖5—7中。圖5顯示了所有節(jié)點(diǎn)的局部?jī)?yōu)化解x的第一維分量的收斂情況,可以發(fā)現(xiàn)達(dá)成了一致性。圖6表明,隨著t接近無(wú)窮大,節(jié)點(diǎn)1 的個(gè)體Regret以次線性速率增長(zhǎng),從而證實(shí)了本文中的理論發(fā)現(xiàn)。關(guān)于節(jié)點(diǎn)1到節(jié)點(diǎn)2的通信,圖7比較了邊事件觸發(fā)誤差與閾值,并展示了對(duì)應(yīng)的邊事件觸發(fā)時(shí)刻。
4" "結(jié)論
本文提出了一種用于分布式在線無(wú)約束凸優(yōu)化問(wèn)題的融合邊事件觸發(fā)機(jī)制的投影梯度下降優(yōu)化算法?;谒O(shè)計(jì)的算法,每個(gè)節(jié)點(diǎn)可以維持對(duì)時(shí)變最優(yōu)解的估計(jì),并基于鄰居的信息進(jìn)行更新,節(jié)點(diǎn)間的信息傳遞由邊事件觸發(fā)條件控制。研究發(fā)現(xiàn),對(duì)于凸或μ-強(qiáng)凸局部目標(biāo)函數(shù),當(dāng)算法中的優(yōu)化步長(zhǎng)和邊事件觸發(fā)閾值是單調(diào)衰減時(shí),每個(gè)節(jié)點(diǎn)的個(gè)體Regret的上界具有次線性增長(zhǎng)特性,具體可表示為O (1+ln T)或O()。通過(guò)面向時(shí)變經(jīng)濟(jì)調(diào)度和糖尿病在線預(yù)測(cè)問(wèn)題的仿真實(shí)驗(yàn)驗(yàn)證了算法的有效性。
參考文獻(xiàn):
[ 1 ] HE X, ZHAO Y, HUANG T W. Optimizing the dynamic economic dispatch problem by the distributed consensus-based ADMM approach[J]. IEEE Transactions on Industrial Informatics, 2020, 16(5):3210-3221.
[ 2 ] TRON R, THOMAS J, LOIANNO G, et al. A distributed optimization framework for localization and formation control:applications to vision-based measurements[J]. IEEE Control Systems Magazine, 2016, 36(4):22-44.
[ 3 ] WU C, FANG H, ZENG X L, et al. Distributed conti-
nuous-time algorithm for time-varying optimization with affine formation constraints[J]. IEEE Transactions on Automatic Control, 2023, 68(4):2615-2622.
[ 4 ] LIU T, TAN X Q, SUN B, et al. Energy management of cooperative microgrids:a distributed optimization approach[J]. International Journal of Electrical Power amp; Energy Systems, 2018, 96:335-346.
[ 5 ] SHAHRAMPOUR S, JADBABAIE A. An online optimization approach for multi-agent tracking of dynamic parameters in the presence of adversarial noise[C]//Proceedings of the 2017 American Control Conference (ACC), Seattle, WA, USA. New York:IEEE Xplore, 2017:3306-3311.
[ 6 ] ZINKEVICH M. Online convex programming and genera-
lized infinitesimal gradient ascent[C]//Proceedings of the Twentieth International Conference on International Conference on Machine Learning, August 21-24, 2003, Washington, DC, USA. New York:ACM, 2003:928-935.
[ 7 ] DIXIT R, BEDI A S, RAJAWAT K. Online learning over dynamic graphs via distributed proximal gradient algorithm[J]. IEEE Transactions on Automatic Control, 2021, 66(11):5065-5079.
[ 8 ] YAN F, SUNDARAM S, VISHWANATHAN S V N, et al. Distributed autonomous online learning:regrets and intrinsic privacy-preserving properties[J]. IEEE Transactions on Knowledge and Data Engineering, 2013, 25(11):2483-2493.
[ 9 ] HOSSEINI S, CHAPMAN A, MESBAHI M. Online distributed convex optimization on dynamic networks[J]. IEEE Transactions on Automatic Control, 2016, 61(11):3545-3550.
[10] GHARESIFARD B, CORT?魪S J. Distributed continuous-time convex optimization on weight-balanced digraphs[J]. IEEE Transactions on Automatic Control, 2014, 59(3):781-786.
[11] SHAHRAMPOUR S, JADBABAIE A. Distributed online optimization in dynamic environments using mirror descent[J]. IEEE Transactions on Automatic Control, 2018, 63(3):714-725.
[12] LU K H, JING G S, WANG L. Online distributed optimization with strongly pseudoconvex-sum cost functions[J]. IEEE Transactions on Automatic Control, 2020, 65(1):426-433.
[13] APPADWEDULA S, VEERAVALLI V V, JONES D L. Decentralized detection with censoring sensors[J]. IEEE Transactions on Signal Processing, 2008, 56(4):1362-1373.
[14] ZHAO H B, MENG X Y, WU S T. Distributed edge-based event-triggered coordination control for multi-agent systems[J]. Automatica, 2021, 132:109797.
[15] NOWZARI C, GARCIA E, CORT?魪S J. Event-triggered communication and control of networked systems for multi-agent consensus[J]. Automatica, 2019, 105:1-27.
[16] MAZO M, TABUADA P. Decentralized event-triggered control over wireless sensor/actuator networks[J]. IEEE Transactions on Automatic Control, 2011, 56(10):2456-2461.
[17] KAJIYAMA Y, HAYASHI N, TAKAI S. Distributed subgradient method with edge-based event-triggered communication[J]. IEEE Transactions on Automatic Control, 2018, 63(7):2248-2255.
[18] LIU C X, LI H P, SHI Y, et al. Distributed event-triggered gradient method for constrained convex minimization[J]. IEEE Transactions on Automatic Control, 2020, 65(2):778-785.
[19] CHEN W S, REN W. Event-triggered zero-gradient-sum distributed consensus optimization over directed networks[J]. Automatica, 2016, 65:90-97.
[20] GUO S P, MENG X Y. Fully distributed control of multiagent networks with edge-based event-triggered communication[J]. IEEE Transactions on Automatic Control, 2023, 68(9):5630-5637.
[21] CHENG B, LI Z K. Coordinated tracking control with asynchronous edge-based event-triggered communications[J]. IEEE Transactions on Automatic Control, 2019, 64(10):4321-4328.
[22] NEDI A, OLSHEVSKY A. Distributed optimization over time-varying directed graphs[J]. IEEE Transactions on Automatic Control, 2015, 60(3):601-615.
[23] CAO X Y, BAAR T. Decentralized online convex optimization with feedback delays[J]. IEEE Transactions on Automatic Control, 2022, 67(6):2889-2904.
[24] TU Z P, WANG X, HONG Y G, et al. Distributed online convex optimization with compressed communication[C]//Proceedings of the 36th International Conference on Neural Information Processing Systems, November 28, 2022, New Orleans, LA, USA. New York:ACM, 2022:34492-34504.
(責(zé)任編輯:仇慧)
收稿日期: 2024-01-10 接受日期: 2024-02-21
基金項(xiàng)目: 江蘇省基礎(chǔ)研究計(jì)劃青年基金項(xiàng)目(BK20230605);江蘇省高等學(xué)?;A(chǔ)科學(xué)(自然科學(xué))研究面上項(xiàng)目(23KJB120011)
第一作者簡(jiǎn)介: 毛帥(1994— ), 男, 講師, 博士。
* 通信聯(lián)系人: 張新松(1980— ), 男, 教授, 博士, 博士生導(dǎo)師, 主要研究方向?yàn)殡娏ο到y(tǒng)運(yùn)行與規(guī)劃、風(fēng)力發(fā)電整合及儲(chǔ)能系統(tǒng)。
E-mail:zhang.xs@ntu.edu.cn