謝奕彬,高文華

(華南理工大學(xué)數(shù)學(xué)學(xué)院,廣東廣州 510640)

1 引言

有線和無線技術(shù)的最新進(jìn)展導(dǎo)致了大規(guī)模網(wǎng)絡(luò)的出現(xiàn),帶來了多智能體網(wǎng)絡(luò)中的許多新應(yīng)用,其中分布式優(yōu)化問題得到了廣泛關(guān)注,其目標(biāo)函數(shù)為網(wǎng)絡(luò)中所有智能體的目標(biāo)函數(shù)之和,每個(gè)智能體在僅知道自身目標(biāo)函數(shù)的情況下,利用網(wǎng)絡(luò)通信對(duì)狀態(tài)信息進(jìn)行更新,最終所有的智能體的狀態(tài)在最優(yōu)解處達(dá)到一致.分布式優(yōu)化理論和應(yīng)用已經(jīng)成為當(dāng)代系統(tǒng)和控制科學(xué)的重要發(fā)展方向之一,并在許多領(lǐng)域取得了重大突破[1-7].例如近年來逐漸取得廣泛關(guān)注的智能電網(wǎng)調(diào)度策略、分布式機(jī)器學(xué)習(xí)、基于分布式優(yōu)化的信息-物理系統(tǒng)的優(yōu)化控制、自主式水下機(jī)器人的隊(duì)形控制、基于算術(shù)均值融合的分布式隨機(jī)集多目標(biāo)跟蹤等[8-10].

分布式優(yōu)化問題的特點(diǎn)是算法設(shè)計(jì)依賴于節(jié)點(diǎn)組成的通信網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)和節(jié)點(diǎn)間的信息傳輸方式,而傳輸?shù)男畔⒁蕾囉谀繕?biāo)函數(shù)模型,不同性質(zhì)的目標(biāo)函數(shù)假設(shè)意味著個(gè)體能獲取的信息不同.下面就從網(wǎng)絡(luò)結(jié)構(gòu)、信息傳輸和目標(biāo)函數(shù)3方面闡述已有的與本文相關(guān)的研究結(jié)果.

早期的研究大多考慮在平衡網(wǎng)絡(luò)中分布式優(yōu)化算法,如Nedi′c(2009)提出了分布式次梯度算法[11-12],Srivastava(2010)研究了帶白噪聲的分布式次梯度算法[13],Lin(2016)研究了通信帶延遲的分布式次梯度算法[14].

現(xiàn)實(shí)中智能體很可能分布在時(shí)變不平衡網(wǎng)絡(luò)中,此時(shí)通信網(wǎng)絡(luò)圖的權(quán)重矩陣不再是雙隨機(jī)的.為了解決不平衡網(wǎng)絡(luò)所帶來的影響,Nedi′c(2015)提出了subgradient-push算法[15],只要求權(quán)重矩陣是列隨機(jī)矩陣,隨后(2017)提出了Push-DIGing算法,要求權(quán)重矩陣是列隨機(jī)且采用了固定步長.而Xie(2018)借助優(yōu)化問題的上境圖形式抵消了不平衡圖給分布式次梯度算法帶來的影響[16].

上述分布式算法要求智能體準(zhǔn)確地接收到鄰居的狀態(tài)信息.但隨著模型規(guī)模變大,例如在深度學(xué)習(xí)算法中,每次迭代的通信開銷成為主要瓶頸,量化通信是解決此問題的主要方法,但這導(dǎo)致了許多的結(jié)果無法直接應(yīng)用.Rabbat(2005)研究了分布式量化增量優(yōu)化算法[17],Nedi′c(2008)研究了分布式量化次梯度算法[18],Taheri(2020)研究了量化graident-push算法[19].此外,Li(2011)提出了一個(gè)基于編譯碼方案的量化器[20],Yi(2014)應(yīng)用這個(gè)編譯碼的量化方案設(shè)計(jì)了分布式量化次梯度算法[21].Zhang(2018)將節(jié)點(diǎn)間的量化信息減少到只用符號(hào)信息[22].

為了進(jìn)一步解決通信成本問題,可以讓智能體選擇在必要時(shí)才與鄰居通信.Yu(2019)研究了基于事件觸發(fā)機(jī)制和傳輸延遲的分布式優(yōu)化算法[23],Hayashi和Naoki(2020)提出了基于事件觸發(fā)機(jī)制的定步長次梯度分布式算法[24],Li(2018)結(jié)合了事件觸發(fā)機(jī)制和量化的技術(shù),提出了基于事件觸發(fā)機(jī)制的分布式量化次梯度算法[25].

上述文獻(xiàn)為解決目標(biāo)函數(shù)不可微都采用了次梯度的方法,當(dāng)目標(biāo)函數(shù)的次梯度求解太過于繁瑣時(shí),Nesterov(2017)提出了一種隨機(jī)無梯度方法[26].隨機(jī)無梯度方法僅要求目標(biāo)函數(shù)是凸的且Lipschitz連續(xù),其求解過程不需用到梯度信息,具有廣泛的應(yīng)用前景.文獻(xiàn)[27-33]將隨機(jī)無梯度方法應(yīng)用到分布式算法上.特別地,Yuan(2015)基于gradient-push提出了不平衡圖上的隨機(jī)無梯度算法[32],但該算法不易拓展到約束優(yōu)化問題.Ding(2017)提出了分布式量化隨機(jī)無梯度投影算法[33],但該算法僅適用于時(shí)變平衡圖的情況且在文章中沒有給出具體的量化方案.

目前,分布式隨機(jī)無梯度方法有待深入研究,本文在文獻(xiàn)[33]的基礎(chǔ)上,應(yīng)用文獻(xiàn)[34]中對(duì)梯度加權(quán)的方法,將隨機(jī)無梯度投影算法拓展到時(shí)變不平衡圖上,該算法僅要求權(quán)重矩陣是行隨機(jī)的,這在基于廣播的通信機(jī)制中具有更好的實(shí)用性.同時(shí)為減少通信成本,本文結(jié)合了編譯碼動(dòng)態(tài)量化規(guī)則和事件觸發(fā)機(jī)制提出了基于事件觸發(fā)機(jī)制的分布式量化隨機(jī)無梯度投影算法,降低了對(duì)通信網(wǎng)絡(luò)的帶寬要求且更大效率地利用通信資源.

本文的主要結(jié)果是如下3個(gè)方面:

1) 在分布式優(yōu)化算法的基礎(chǔ)上,考慮到了通信帶寬和通信成本的限制,采用了基于事件觸發(fā)的動(dòng)態(tài)編譯碼方案進(jìn)行信息傳輸,有效地降低了對(duì)網(wǎng)絡(luò)通信帶寬的要求和通信次數(shù).此外,采用了隨機(jī)無梯度方法替代傳統(tǒng)的次梯度方法,僅要求目標(biāo)函數(shù)是凸的且Lipschitz連續(xù).

2) 在所有的量化器不飽和的條件下,第3.2節(jié)給出一種時(shí)變不平衡有向圖上的分布式算法求解優(yōu)化問題的近似解.

3) 在所有的量化器不飽和的條件下,第4節(jié)對(duì)所提算法進(jìn)行收斂性分析,給出算法的收斂速率,并求出了量化器不飽和的量化水平下界.

本文余下部分的結(jié)構(gòu)如下:第2節(jié)介紹了分布式優(yōu)化問題并給出預(yù)備知識(shí);第3節(jié)陳述了編譯碼量化規(guī)則和事件觸發(fā)設(shè)置,設(shè)計(jì)了基于事件觸發(fā)的分布式量化隨機(jī)無梯度算法;第4節(jié)研究了所提出的算法的收斂性并給出使量化器不飽和的量化水平下界;第5節(jié)提供了具體的仿真來驗(yàn)證分布式優(yōu)化算法的有效性;最后,第6節(jié)給出結(jié)論.

記號(hào):所有向量均視為列向量.智能體i涉及的變量(可能是標(biāo)量、集合和函數(shù))均標(biāo)有下標(biāo)i,例如xi(k)智能體i在迭代時(shí)刻k的狀態(tài)值.用代表涉及量化的相關(guān)變量估計(jì),例如(k)代表智能體j得到對(duì)xi(k)的量化估計(jì)值.用?·代表涉及事件觸發(fā)機(jī)制的相關(guān)變量估計(jì),例如(k)為考慮事件觸發(fā)機(jī)制后智能體j得到對(duì)xi(k)的估計(jì)值.設(shè)1m為所有元素均為1的m維列向量,I為m維單位矩陣,R和Rn分別為全體實(shí)數(shù)集合和n維實(shí)數(shù)空間.向量x的歐式范數(shù)和無窮范數(shù)分別記為‖x‖和‖x‖∞,

向量x在非空閉凸集X上的投影記為PX(x),

?f(x)代表f(x)的梯度,問題(1)-(2)的最優(yōu)解分別記為x?和,即

2 問題描述與預(yù)備知識(shí)

本文考慮一個(gè)由V={1,2,···,m}標(biāo)記的智能體網(wǎng)絡(luò).智能體之間可以局部的交換信息.多智能體系統(tǒng)的共同目標(biāo)是協(xié)同求解一個(gè)凸優(yōu)化問題,該問題的目標(biāo)函數(shù)是所有智能體局部目標(biāo)函數(shù)的和,

其中:fi:Rn →R是智能體i的局部目標(biāo)函數(shù),全局約束集X ?Rn.

假設(shè)1a)X是一個(gè)有限的非空的閉凸集,半徑為CX.即‖x‖≤CX,?x ∈X.

b) 優(yōu)化問題(1)的最優(yōu)解集非空.

c) 局部目標(biāo)函數(shù)fi(x)為凸的且L0(fi)-Lipschitz連續(xù),即存在L0(fi)＞0使得

注1文獻(xiàn)[34]采用次梯度算法,假設(shè)中不要求目標(biāo)函數(shù)滿足Lipschitz連續(xù)的條件,只要求次梯度存在且有界,而根據(jù)文獻(xiàn)[35],次梯度有界其本質(zhì)等價(jià)于目標(biāo)函數(shù)Lipschitz連續(xù).在非光滑優(yōu)化算法中,存在目標(biāo)函數(shù)非光滑非Lipschitz連續(xù)的優(yōu)化算法,如文獻(xiàn)[35],但該算法依然需要計(jì)算次梯度.隨機(jī)無梯度方法如文獻(xiàn)[27-33]皆要求目標(biāo)函數(shù)Lipschitz連續(xù),以保證光滑后的函數(shù)能逼近原函數(shù).本文假設(shè)1是隨機(jī)無梯度方法的通常假設(shè).

由于每個(gè)局部目標(biāo)函數(shù)fi(x)都是非光滑的,則fi(x)的梯度不存在,而次梯度信息在有些實(shí)際問題中計(jì)算相對(duì)復(fù)雜,此時(shí)基于梯度或次梯度的方法不能有效的解決優(yōu)化問題(1).為此,本文通過高斯光滑函數(shù)fi,μi(x)逼近原目標(biāo)函數(shù)進(jìn)而得到隨機(jī)無梯度,用于代替?zhèn)鹘y(tǒng)的梯度信息.由文獻(xiàn)[26]知高斯光滑函數(shù)fi,μi(x)和隨機(jī)無梯度定義如下:

其中μi是(x)的非負(fù)光滑參數(shù).

其中u是單位球體上均勻分布的隨機(jī)向量.由文[26]可知fi,μi(x)是可微的,且有

其中F(k)是由迭代算法從0步到k ?1步產(chǎn)生的隨機(jī)變量構(gòu)成的σ-代數(shù),即

注21)次梯度的計(jì)算需要一定的技巧與時(shí)間,且在次梯度的計(jì)算過程中,有時(shí)需要額外的內(nèi)存來儲(chǔ)存中間變量,這對(duì)于有記憶限制的模型不再適用.2) 當(dāng)系統(tǒng)的確切表達(dá)式不可知,僅知道系統(tǒng)的輸入與輸出時(shí),基于次梯度的算法不再適用但可以采用隨機(jī)無梯度方法[36-37].

引理1[26]若fi(x)滿足假設(shè)1(c)則

a)fi,μi(x)是凸函數(shù),且滿足

將問題(1)的目標(biāo)函數(shù)用所對(duì)應(yīng)的高斯光滑函數(shù)替代,得到問題(2).

多智能體之間的信息通信可以建模成時(shí)變有向

圖G(k)=(V,E(k)),其中節(jié)點(diǎn)i ∈V代表第i個(gè)智能體,有向邊(i,j)∈E(k)表示在k時(shí)刻信息可以從智能體i傳送到智能體j.A(k)=[aij(k)]為時(shí)變有向圖G(k)的非負(fù)權(quán)重矩陣,當(dāng)(i,j)∈E(k)則有aji(k)＞0,否則aji(k)=0.如果存在一系列的有向邊(i1,i2),(i2,i3),···,(it?1,it),使 得(il?1,il)∈E(k),l=2,···,t,稱k時(shí)刻i1是可達(dá)it.如果任意節(jié)點(diǎn)都是可達(dá)其他節(jié)點(diǎn)的,稱時(shí)變有向圖是強(qiáng)連通的.本文對(duì)時(shí)變有向圖的連通性有如下常見的假設(shè),見文獻(xiàn)[15,34,38].

假設(shè)2時(shí)變有向圖是B-強(qiáng)連通的,即對(duì)任意k≥0,存在一個(gè)正整數(shù)B使得

是強(qiáng)連通的.

在假設(shè)2的條件下,時(shí)變有向圖G(k)不需要在任意時(shí)刻k都保持連通,但G(k)是B-強(qiáng)連通的,以保證在B連續(xù)時(shí)間段內(nèi)信息能從一個(gè)節(jié)點(diǎn)傳輸?shù)搅硪粋€(gè)節(jié)點(diǎn).

注3對(duì)于時(shí)變不平衡有向圖,權(quán)重矩陣的雙隨機(jī)條件不再滿足,許多平衡圖下的算法不再適用,因此有必要設(shè)計(jì)新的分布式優(yōu)化算法.文獻(xiàn)[15]提出gradient-push算法,該算法要求權(quán)重矩陣是列隨機(jī)的,即=1,為此每個(gè)節(jié)點(diǎn)要求知道它的出度.而本文僅要求權(quán)重矩陣是行隨機(jī)的,相比于雙隨機(jī)矩陣和列隨機(jī)矩陣,行隨機(jī)矩陣在通信機(jī)制中有更好的實(shí)用性.

定義轉(zhuǎn)移矩陣A(k:s):

引理2[34]在假設(shè)2成立的條件下,對(duì)于所有s≥0,存在一隨機(jī)向量π(k),即πT(k)1m=1,

a) 對(duì)任意i,j ∈V和k≥s,有

其中常數(shù)C ＞0,0＜ξ ＜1.

b) 對(duì)任意i ∈V和k≥0,有πi(k)≥η成立,其中η ＞0.

智能體在傳遞信息之前必須將模擬信號(hào)轉(zhuǎn)換成數(shù)字信號(hào),而這就必須涉及到量化器的設(shè)計(jì)和使用.最基本的量化操作就是取整,一般稱之為均勻量化.這種量化器易于實(shí)現(xiàn)和分析,但遺憾的是如果要量化的信息具有非常大的幅值,則對(duì)量化結(jié)果進(jìn)行編碼就需要相當(dāng)多的比特?cái)?shù).這將會(huì)給通訊網(wǎng)絡(luò)帶來巨大的負(fù)載.許多研究人員提出了新的量化器形式,例如抖動(dòng)量化器,對(duì)數(shù)量化器等,這些量化操作相比于基礎(chǔ)的均勻量化來說均有不同方面性能的提升,但這種靜態(tài)的量化方案所產(chǎn)生的量化誤差是從始至終都存在的.文獻(xiàn)[20]提出了一種動(dòng)態(tài)量化的方案,通過在量化編譯中引入動(dòng)態(tài)的伸縮函數(shù)β(k),隨著智能體狀態(tài)的變化動(dòng)態(tài)地調(diào)整量化信號(hào),以此逐步消除量化對(duì)信號(hào)傳輸?shù)挠绊?

傳統(tǒng)的分布式優(yōu)化算法通常會(huì)固定采樣周期,在每個(gè)周期開始的時(shí)候,傳感器會(huì)對(duì)智能體的狀態(tài)進(jìn)行采樣量化并發(fā)送出去,但這種模式會(huì)造成不必要的網(wǎng)絡(luò)資源的浪費(fèi).一個(gè)最明智的方法是通過事件觸發(fā)更新.其主要的思想是讓智能體在必要時(shí)刻才進(jìn)行信息傳輸,更確切地說,只有當(dāng)系統(tǒng)的某一項(xiàng)指標(biāo)超過了閾值,通信才會(huì)發(fā)生.從這個(gè)意義上講,事件觸發(fā)策略比傳統(tǒng)的固定采樣周期的策略在減少不必要的通訊方面更具有優(yōu)勢.

下面本文結(jié)合動(dòng)態(tài)量化編譯和事件觸發(fā)機(jī)制,提出基于事件觸發(fā)機(jī)制的分布式量化隨機(jī)無梯度投影算法解決不平衡圖上的分布式優(yōu)化問題.

3 基于事件觸發(fā)的分布式量化隨機(jī)無梯度算法

3.1 編譯碼量化規(guī)則和事件觸發(fā)設(shè)置

上述靜態(tài)均勻量化器的量化水平為2K+1,所需的比特?cái)?shù)為nlog2(2K+1).可以通過降低量化水平減少信息傳輸所需的比特?cái)?shù),從而減少信息傳輸所需的帶寬,但量化水平過小會(huì)導(dǎo)致量化器飽和從而算法不收斂.為此,本文采用與文獻(xiàn)[20,25]類似的動(dòng)態(tài)編譯碼方案替代傳統(tǒng)的靜態(tài)均勻量化器,降低量化水平的同時(shí)確保量化器不飽和.

在k時(shí)刻,有向通信通道(i,j)上信息發(fā)送端智能體i的編碼器設(shè)計(jì)如下:

其中:ξij(k)是編碼器的內(nèi)部變量;xi(k)和sij(k)分別為編碼器的輸入和輸出;kij表示智能體i在k時(shí)刻之前的最新事件觸發(fā)時(shí)刻;β(k ?1)是伸縮函數(shù),用于放大縮小信號(hào)xi(k)?ξ(kij);Iij(k)為示性函數(shù),

信息接收端智能體j的解碼器設(shè)計(jì)如下:

3.2 基于事件觸發(fā)的分布式量化隨機(jī)無梯度投影算法

為解決分布式優(yōu)化問題(1),本文提出如下的基于事件觸發(fā)的分布式量化隨機(jī)無梯度投影算法:

4 收斂性分析和量化水平估計(jì)

為證明所提出算法的收斂性,本文先給出下面4個(gè)引理.

引理3[40]投影的非擴(kuò)張性.

引理4卷積上界公式:

引 理5[41]設(shè){ι(k)},{χ(k)}和{ψ(k)}是非負(fù)的隨機(jī)序列,{ζ(k)}為確定性的非負(fù)序列.記F(k)是通過ι(1),···,ι(k),χ(1),···,χ(k),ψ(1),···,ψ(k)產(chǎn)生的σ-代數(shù),若有

引理6在量化器不飽和的條件下有

下面是本文的主要結(jié)果.在量化器不飽和的條件下,定理1和定理2證明了所提算法的收斂性,定理3給出了算法的收斂速率,定理4求出了使得量化器不飽和的最小的量化水平.

定理1在量化器不飽和及假設(shè)1-4成立的條件下,迭代序列xi(k)幾乎必然收斂到問題(2)的最優(yōu)解.即存在使得

倒數(shù)第3個(gè)不等式是由于(x)的凸性,最后一個(gè)不等式是由于范數(shù)的凸性和權(quán)重矩陣A(k)是行隨機(jī)的,結(jié)合d1的定義和式(22)有

注6由假設(shè)3-4可知,定理2中不等式右邊的第1項(xiàng)在k趨向∞時(shí)會(huì)趨于0,第2項(xiàng)是由于本文的算法采用了隨機(jī)無梯度方法而產(chǎn)生的.由定理2可知算法產(chǎn)生的序列E[f((k))]能收斂到問題1最優(yōu)值的鄰域,其半徑由μi和L0(fi)所決定,在μi →0,?i ∈V的情況下,當(dāng)k →∞,E[f((k))]收斂到f(x?).

為使得量化器不飽和可以一直采用較大的量化水平,但會(huì)造成通信資源的浪費(fèi).現(xiàn)在筆者給出隨迭代時(shí)間變化的量化水平更新規(guī)則以節(jié)約通信成本.

定理4在假設(shè)1-4成立和隨機(jī)無梯度有界的條件下,若K(k)滿足

即量化器在k+1時(shí)刻不飽和,故定理2成立.

5 數(shù)值仿真

考慮由10個(gè)智能體組成的多智能體系統(tǒng):

假設(shè)x ∈R,X=[?2,2].智能體i的局部目標(biāo)函數(shù)如下:

其中:pi=10,?i ∈V,λ=10,aij和bij都是按照正態(tài)分布隨機(jī)生成的.通信網(wǎng)絡(luò)按照圖1給出了時(shí)變的一般不平衡有向圖連接,其中任何單個(gè)圖都不連通的,但它們的聯(lián)合圖是連通的.假設(shè)在整個(gè)迭代過程中,圖G(k)在圖1中的兩個(gè)圖上連續(xù)變化.

圖1 時(shí)變聯(lián)合強(qiáng)連通有向圖Fig.1 Time-varying joint strongly connected directed graph

由引理1的結(jié)論

將本文算法與分布式gradient-push,原有的不帶事件觸發(fā)和量化機(jī)制的隨機(jī)無梯度投影方法在相同參數(shù)設(shè)置下進(jìn)行對(duì)比.圖2 比較了3 種算法誤差f(x)?f(x?)的收斂情況,結(jié)果表明3種算法都能收斂到最優(yōu)解.

圖2 誤差f(x)?f(x?)的收斂情況Fig.2 Convergence of error f(x)?f(x?)

相比于gradient-push算法,雖然gradient-push算法有更快的收斂速率,如圖3所示,但帶投影算子的gradient-push的收斂性尚未得到證明,且算法要求權(quán)重矩陣是列隨機(jī)矩陣,這在構(gòu)造權(quán)重矩陣時(shí)要求每個(gè)智能體知道節(jié)點(diǎn)的出度.

圖3 Gradient-push算法狀態(tài)值xi(k)的收斂情況Fig.3 Convergence of state value xi(k) of Gradient-push algorithm

而本文的算法是針對(duì)約束優(yōu)化問題,且僅要求權(quán)重矩陣是行隨機(jī)矩陣,在基于廣播的通信機(jī)制中具有更好的實(shí)用性.相比于原有的不帶事件觸發(fā)和量化機(jī)制的隨機(jī)無梯度投影方法,兩種算法的收斂速率變化不大,如圖4-5所示.但本文的算法不要求智能體準(zhǔn)確地接收到鄰居的狀態(tài)信息,且應(yīng)用了量化通信和事件觸發(fā)機(jī)制,降低了對(duì)通信網(wǎng)絡(luò)的帶寬要求且減少了通信次數(shù),如圖6所示,其中*為事件觸發(fā)時(shí)刻.圖7顯示了不同參數(shù)μi對(duì)狀態(tài)值收斂情況的影響,可以看出,選取不同μi值,雖然不會(huì)影響到智能體的收斂速率,但μi過大時(shí),會(huì)影響到狀態(tài)值收斂的精確度.

圖4 Gradient-free projection算法狀態(tài)值xi(k)的收斂情況Fig.4 Convergence of state value xi(k) of Gradient-free projection algorithm

圖5 本文算法狀態(tài)值xi(k)的收斂情況Fig.5 Convergence of state value xi(k)of the algorithm in this paper

圖6 事件觸發(fā)時(shí)刻數(shù)列Fig.6 Event trigger time sequence

圖7 不同參數(shù)μ對(duì)智能體1的狀態(tài)收斂情況的影響Fig.7 The influence of different parametersμon the state convergence of agent 1

6 結(jié)論

本文結(jié)合編譯碼動(dòng)態(tài)量化規(guī)則和事件觸發(fā)機(jī)制提出了一種基于事件觸發(fā)的分布式量化隨機(jī)無梯度投影算法,用于解決分布式約束優(yōu)化問題.所提出算法適用于一般行隨機(jī)的時(shí)變不平衡有向圖,這在基于廣播的通信機(jī)制中具有更好的實(shí)用性.本文證明了當(dāng)目標(biāo)函數(shù)為凸且Lipschitz連續(xù),在選取合適的量化水平后,所有的智能體的狀態(tài)值收斂到其高斯光滑近似函數(shù)的最優(yōu)解,序列E[f((k))]能收斂到問題1最優(yōu)值的鄰域,并給出了選擇不同步長時(shí)算法的收斂速率.數(shù)值仿真驗(yàn)證了所提算法的收斂性,表明了在合理的設(shè)置事件觸發(fā)機(jī)制和量化通信的規(guī)則后,降低了對(duì)通信網(wǎng)絡(luò)的帶寬的要求,更有效地利用通信資源,同時(shí)不會(huì)降低原有分布式隨機(jī)無梯度算法的收斂速率.