Abstract：Federated learning achieves joint trairung modeling of fauh data from various factories while protecting privacy.However， due to the high heterogeneity of factory equipment operation data， traditional federated learning has low communicationefficiency. To address the above /ssues， an equ/pment fault diagnosis method based on high-efficiency communication federatedlearning was proposed. Firstly， a federated dynamic weighted balancing model was proposecl， which dynamically adjusts the trainingfrequency and uploaded parameter amount of the factory sub end， and improves communication efficiency by reducing communicationtime-. Secondly， a dual jump gate， cyclic unit diagnostic ruode，l with an attention mechanism was proposecl， which assigns differentweights to diffe，rent features to quickly extract fault features， effectively shortening communication rounds and improving communicationeffic，iency. Finally， experimental validation was conducted using the bearing failure datasets of Case Western Reserve University andPaderborn University. The experimental results show that compared with the federated average algorithm， this method achieves a faultdiagnosis accuracy of 92. 20% ， while reducing communication time by 56. 88%" and shortening communic，ation rounds by 47. 37% ，effectively improving communication efficiency.

Keywords：fault diagnosis; federated learning; data heterogeneity; corrununication efficiency; dynamic weighting

0" 引" 言

聯(lián)邦學(xué)習(xí)作為分布式機(jī)器學(xué)習(xí)新范式，在保護(hù)數(shù)據(jù)隱私的基礎(chǔ)上實(shí)現(xiàn)聯(lián)合多參與方共同建模，進(jìn)而有效解決數(shù)據(jù)孤島問題。將聯(lián)邦學(xué)習(xí)應(yīng)用在設(shè)備故障診斷領(lǐng)域，可以解決單一工廠數(shù)據(jù)量不足的問題，進(jìn)一步提高設(shè)備故障診斷的準(zhǔn)確率。但是傳統(tǒng)聯(lián)邦學(xué)習(xí)頻繁進(jìn)行模型參數(shù)交換導(dǎo)致巨大的通信開銷，而參與訓(xùn)練的各工廠子端往往因擁有受限的通信資源而不能承受過高的通信成本，因此如何在聯(lián)合訓(xùn)練時(shí)降低通信開銷、提升通信效率成為關(guān)鍵問題。

有學(xué)者針對(duì)上述問題進(jìn)行了研究，如Ye等提出了一種邊緣聯(lián)邦學(xué)習(xí)，通過對(duì)設(shè)備端輸出信息進(jìn)行量化，分離局部模型訓(xùn)練，增加一定的本地計(jì)算時(shí)間，降低全局通信頻率從而減少通信時(shí)長，提升通信效率。Reisizadeh等 選擇將算法優(yōu)化與壓縮的思路結(jié)合起來，其提出的FedPAQ算法要求服務(wù)器只選擇一小部分客戶端參與訓(xùn)練，同時(shí)客戶端減少上傳局部模型次數(shù)，并在上傳之前進(jìn)行量化更新操作，有效減少通信中的參數(shù)量。Wang等[10]提出了一種經(jīng)驗(yàn)驅(qū)動(dòng)的控制框架與深度Q學(xué)習(xí)機(jī)制，它智能地選擇客戶端設(shè)備參與每一輪聯(lián)合學(xué)習(xí)，加快收斂速度的同時(shí)有效降低通信輪數(shù)。上述方法通過對(duì)信息量化壓縮或選擇優(yōu)質(zhì)客戶端減少通信時(shí)間以及通信輪次，從而有效提升了通信效率，但上述方法忽略了不同客戶端診斷性能和設(shè)備運(yùn)行數(shù)據(jù)的相異性。為了解決上述問題，諶明等提出一種面向推薦系統(tǒng)的聯(lián)邦學(xué)習(xí)蒸餾方法，通過知識(shí)遷移降低模型復(fù)雜度，有效提升用戶差異環(huán)境下模型訓(xùn)練效率，并減少傳輸?shù)臄?shù)據(jù)量提升通信效率。王惜民等[12]提出一種基于數(shù)據(jù)不平衡和類別不平衡分布下聯(lián)邦學(xué)習(xí)的設(shè)備選擇算法，通過組合式多壁老虎機(jī)學(xué)習(xí)算法框架進(jìn)行設(shè)備選擇與類別估計(jì)，使全局模型更加平衡，有效減少通信輪次提升通信效率。賀文晨等，考慮非獨(dú)立同分布數(shù)據(jù)對(duì)聯(lián)邦學(xué)習(xí)性能的影響，提出基于深度強(qiáng)化學(xué)習(xí)的聯(lián)邦學(xué)習(xí)節(jié)點(diǎn)選擇方法，提升聯(lián)邦學(xué)習(xí)模型準(zhǔn)確率的同時(shí)優(yōu)化訓(xùn)練時(shí)延。上述方法能夠在異質(zhì)數(shù)據(jù)下有效提高通信效率，但代價(jià)是在一定程度上降低了模型準(zhǔn)確性，難以兼顧通信效率以及聯(lián)合訓(xùn)練效果。

針對(duì)上述問題，本文基于高效通信動(dòng)態(tài)聯(lián)邦學(xué)習(xí)的設(shè)備故障診斷方法主要貢獻(xiàn)如下：

1）提出聯(lián)邦動(dòng)態(tài)加權(quán)平衡模型。該模型在每輪通信中，根據(jù)上一輪次的通信結(jié)果，動(dòng)態(tài)加權(quán)調(diào)整各工廠子端模型的訓(xùn)練次數(shù)和子端向中心端上傳的模型參數(shù)量，兼顧聯(lián)合訓(xùn)練效率的同時(shí)進(jìn)一步減少通信時(shí)長。

2）提出帶注意力機(jī)制的雙跳門循環(huán)單元診斷模型。該模型為不同特征賦予不同權(quán)重，快速提取故障的隱性特征，提升各工廠子端故障診斷準(zhǔn)確率的同時(shí)兼顧聯(lián)合訓(xùn)練效率，進(jìn)一步減少通信輪次。

1" 方法框架

針對(duì)因各工廠子端間故障數(shù)據(jù)異質(zhì)性強(qiáng)，導(dǎo)致傳統(tǒng)聯(lián)邦學(xué)習(xí)通信效率低的問題，提出一種基于高效通信聯(lián)邦學(xué)習(xí)的設(shè)備故障診斷方法，方法框架如圖1所示。

各工廠子端在中心服務(wù)器的協(xié)調(diào)下實(shí)現(xiàn)聯(lián)合訓(xùn)練建模。首先，各工廠子端利用本地的故障數(shù)據(jù)，通

過帶注意力機(jī)制的雙跳門循環(huán)單元（ skip attentionconnection-bidirectional gate recurrent unit，SAC-BiG-RU）診斷模型完成本地訓(xùn)練。隨后將訓(xùn)練完成的局部模型參數(shù)上傳，通過聯(lián)邦動(dòng)態(tài)加權(quán)平衡（ federa-ted-dynamic weighted balance，F(xiàn)ed-DWB）模型動(dòng)態(tài)調(diào)整參與通信的各工廠子端的傳參比例系數(shù)，加權(quán)計(jì)算得出最終參與中心聚合的參數(shù)量；其次，將其上傳到中心服務(wù)器，完成中心聚合得到全局模型，根據(jù)全局模型的訓(xùn)練結(jié)果，通過Fed - DWB模型加權(quán)計(jì)算得出下一輪通信中各工廠子端的平衡系數(shù)，根據(jù)其大小動(dòng)態(tài)調(diào)整各工廠子端的本地訓(xùn)練次數(shù);最后，將全局模型參數(shù)下發(fā)給各工廠子端完成本輪次的通信并進(jìn)入下一輪次，直至滿足聯(lián)合訓(xùn)練的故障診斷準(zhǔn)確率為止。

針對(duì)因各工廠子端間故障數(shù)據(jù)異質(zhì)性大，導(dǎo)致聯(lián)合訓(xùn)練建模通信時(shí)間過長的問題，提出Fed-DWB模型，其模型結(jié)構(gòu)如圖2所示，

假設(shè)共有 N 個(gè)工廠子端，每個(gè)工廠子端有本地?cái)?shù)據(jù)集Data\"， n=（1，2，…，N） x_n 表示 Dataⁿ 的特征樣本， y_n 表示 Dataⁿ 的標(biāo)簽樣本，則梯度 G_n 為

式中： L_n（x_n，y_n;τ） 表示在給定模型參數(shù) χ_t 上對(duì)樣本（x_n，y_n） 進(jìn)行預(yù)測所得到的損失結(jié)果。在每一輪通信中，各工廠子端基于梯度信息以及全局模型參數(shù)更新局部模型參數(shù)，則工廠子端 n 在第 k+1 輪次進(jìn)行多次局部更新之后得到的局部模型參數(shù) h_n^k+1 為

h_n^k+1H_n^k-θG_n

式中： H_n^k 為全局模型參數(shù)； θ 為模型學(xué)習(xí)率。

隨后引入平衡系數(shù) ω_n^k 的概念，在第一個(gè)通信輪次中將各子端的 ω_n¹ 都初始化為默認(rèn)值 p

p（ω₁¹，ω₂¹，…，ω_n¹）

則工廠子端 n 在第 k 輪通信的 ω_n^k 為

式中： ω_n^k 由信準(zhǔn)率、準(zhǔn)確率差值以及工廠子端與中心端的模型距離三部分值動(dòng)態(tài)加權(quán)求和得出; η_?μ 、λ 為不同的權(quán)重系數(shù)； φ_n^k/T_K 為信準(zhǔn)率; T_k 為第 k 次通信的通信時(shí)長； φ_n^k 為第 n 個(gè)工廠子端第 k 輪通信的診斷準(zhǔn)確率； D_n^k 為被選工廠子端的局部模型與全局模型間的距離。 D_n^k 具體計(jì)算式根據(jù)歐式距離計(jì)算公式得出，設(shè)第 k 輪工廠子端 n 完成本地更新后局部模型參數(shù)為 h_n^k=（a₁₁，a₁₂，…，a_1n） ，第 k-1 輪的全局模型參數(shù)為 H_n^k-1=（b₂₁，b₂₂，…，b_2n） ，將標(biāo)準(zhǔn)化歐式距離[14]記為 D_n^k ：

式中： h_n^k 和 H_n^k-1 包含相同維度和數(shù)量的張量，樣本（h_n^k，H_n^k-1） ）方差為 S_k ，結(jié)合式（5）則有

隨后被選工廠子端會(huì)根據(jù)其 ω_n^k 動(dòng)態(tài)加權(quán)調(diào)整上傳參數(shù)比例， ω_n^k 越高上傳局部模型參數(shù)比重越大，反之上傳模型參數(shù)比重越小，如式（7）＼～（8）：

L=c{ω₁^k，ω₂^k，…，ω_n^k}

ω_n-L+1^k?，…，?ω_n-1^k?ω_n^k

在聯(lián)合訓(xùn)練過程中，每輪通信都會(huì)隨機(jī)選擇固定百分比 ∣c∣ 的 L 個(gè)工廠子端參與本輪訓(xùn)練。隨后將L 個(gè)工廠子端的 ω_n^k 按大小排列，按照其大小，動(dòng)態(tài)調(diào)整參與通信工廠子端的上傳模型參數(shù)比例 ζ_n^k ：

ζ_n^k←（ω_n-L+1^k，…，ω_n-1^kω_n^k）

則第 n 個(gè)工廠子端在第 k 輪通信中實(shí)際上傳的參數(shù)量 為

式中：STC {} 為稀疏三元壓縮函數(shù)[15]； G_n^k 為第 k 輪通信中工廠子端 n 的梯度信息； e^k 為調(diào)整傳參量后的誤差。各工廠子端將局部模型參數(shù)上傳至中心服務(wù)器，進(jìn)行中心聚合并更新全局模型。利用聯(lián)邦平均算法（federated averaging algorithm，F(xiàn)edAvg）[16]，全局更新過程可表示為

式中： H_n^k+1 為第 k 輪更新后的全局模型參數(shù)； N 為聚合的工廠子端數(shù)； u_n 為參與通信第 n 個(gè)工廠子端的數(shù)據(jù)樣本量； U 為所有工廠子端數(shù)據(jù)樣本總量。完成中心聚合后進(jìn)行下發(fā)過程。根據(jù)式（5）通過動(dòng)態(tài)加權(quán)計(jì)算得出下一通信輪次的 w_n^k+1 ，隨著通信輪次的增加 ω_n^k 會(huì)隨之改變，比較前后兩個(gè)通信輪次各子端的 w_n^k ，進(jìn)而動(dòng)態(tài)調(diào)整子端訓(xùn)練次數(shù)，如式（14）＼～（16）：

式中： E_n 為第 Ω_n 個(gè)子端模型的訓(xùn)練次數(shù); E，e 分別為訓(xùn)練次數(shù)的上下限； ε 為常量值。若參與本輪通信子端的 w_n^k 比上一通信輪次的 w_n^k-1 大，通信子端的訓(xùn)練次數(shù)自適應(yīng)增加一次，反之，則自適應(yīng)減少一次。本輪通信未被選中子端的 w_n^k 保持不變。

通過平衡系數(shù)動(dòng)態(tài)調(diào)整每個(gè)通信輪次的上傳參數(shù)比例和各工廠子端模型的訓(xùn)練次數(shù)，在減少傳遞參數(shù)量的同時(shí)，保證更優(yōu)質(zhì)的子端模型得到更多的訓(xùn)練次數(shù)，進(jìn)而降低聯(lián)邦學(xué)習(xí)的通信時(shí)長，提升全局的通信效率。

1.2 SAC-BiGRU診斷模型

針對(duì)因各工廠子端間故障數(shù)據(jù)異質(zhì)性大，導(dǎo)致聯(lián)合訓(xùn)練建模達(dá)到指定模型精度的通信輪次過多的問題，本節(jié)提出在工廠子端搭建SAC－BiGRU診斷模型，分為輸人層、特征提取層、分類層。該診斷模型如圖3所示。

將原始故障振動(dòng)信號(hào)數(shù)據(jù)輸入兩層雙向跳躍門 循環(huán)單元（bidirectional gate recurrent unit，BiG

RU）[17-18]中 代表數(shù)據(jù)在門循環(huán)單元中的流向。通過調(diào)整BiGRU的記憶單元數(shù)目以及網(wǎng)絡(luò)的層數(shù)，實(shí)現(xiàn)對(duì)不同維度信號(hào)特征的充分提取，利用雙向特性充分提取故障數(shù)據(jù)中的隱性特征。隨后通過concat函數(shù)將兩個(gè)流向的數(shù)據(jù)進(jìn)行拼接，通過BN層進(jìn)行歸一化，再通過ReLu函數(shù)進(jìn)行激活。之后加入改進(jìn)的卷積塊注意模塊（improvedconvolu-tionalblockattentionmodule，ICBAM），對(duì)主通道上的數(shù)據(jù)進(jìn)行權(quán)重計(jì)算，為不同數(shù)據(jù)特征賦予不同權(quán)重，快速提取故障數(shù)據(jù)特征。同時(shí)在原有模型結(jié)構(gòu)中融人帶注意力機(jī)制的跳躍連接（skipattentioncon-nect，SAC）結(jié)構(gòu)，即在BiGRU層外加人了融合IC-BAM模塊的跳躍連接，可以更好的降低模型復(fù)雜度并且加快模型收斂速度的同時(shí)達(dá)到理想的故障診斷率。

1.2.1 SAC結(jié)構(gòu)

深層神經(jīng)網(wǎng)絡(luò)構(gòu)建的診斷模型隨網(wǎng)絡(luò)層數(shù)的增加診斷率會(huì)隨之提升，但在數(shù)據(jù)傳遞過程中存在信息丟失和損耗過大的問題，進(jìn)而會(huì)影響模型精度[19]。傳統(tǒng)跳躍連接結(jié)構(gòu)雖然有效降低模型復(fù)雜度以減少過擬合和梯度消失的問題[20]，但忽略了將原始信號(hào)輸入和輸入的非線性變化疊加時(shí)對(duì)故障數(shù)據(jù)不同特征的權(quán)重分配，會(huì)導(dǎo)致部分重要故障特征未被充分學(xué)習(xí)，難以降低由于數(shù)據(jù)數(shù)量不同和數(shù)據(jù)質(zhì)量不同對(duì)模型精度的影響以及聯(lián)合訓(xùn)練的通信輪次。針對(duì)上述問題，在跳躍連線上加入了ICBAM模塊，對(duì)數(shù)據(jù)特征進(jìn)行權(quán)重提取，隨后將ICBAM模塊中的通道注意力模塊進(jìn)一步改進(jìn)，選擇一維全局平均池化代替用于處理圖片分類任務(wù)的二維全局平局池化，用一維最大池化代替二維最大池化，使其更適合處理一維故障特征。SAC結(jié)構(gòu)如圖4所示。

圖中： x_input 為數(shù)據(jù)輸入； 為中間變量; x_output 為數(shù)據(jù)輸出； f 為ReLU激活函數(shù); F 為殘差函數(shù)；h 為shortcut函數(shù); W，W_i?W_s 代表殘差函數(shù)與之相對(duì)應(yīng)的權(quán)重參數(shù)。通過shortcut進(jìn)行同等映射如下：

F=W_ih（W，x_input）

輸入數(shù)據(jù)在主通道中進(jìn)行權(quán)重計(jì)算的同時(shí)，部分?jǐn)?shù)據(jù)進(jìn)行一維平均池化操作和一維最大池化操作得到兩個(gè)標(biāo)量，接著通過兩層全連接神經(jīng)網(wǎng)絡(luò)，將從最大池化與平均池化提取的不同維度特征實(shí)現(xiàn)轉(zhuǎn)換融合。將原先不同維度的特征轉(zhuǎn)化為可疊加的特征進(jìn)行拼接，得到新的特征池。最后，通過Sigmoid激活函數(shù)得到權(quán)重系數(shù)，將權(quán)重系數(shù)和原來的特征相乘即可得到縮放后的新特征。其計(jì)算過程見式（19）＼～（21）：

p^M=M_p{x_input}

p^A=A_p{x_input}

sx_input=f_Sigmod（p^?MΔqΔqP^?A）

其中： $M _ { p } ＼left＼{ ＼begin{array} { l l } ＼right＼} ＼end{array}$ 代表最大池化操作； A_p{} 代表平均池化操作； 表示池化后的特征矢量； s，l 分別為跳躍連線和主通道上的權(quán)重。最后將兩個(gè)部分的數(shù)據(jù)輸入進(jìn)行殘差計(jì)算，其計(jì)算如式（22）～（23）所示：

通過上述改進(jìn)，即分別在原始信號(hào)輸入和輸入的非線性變化中加入注意力模塊對(duì)其進(jìn)行加權(quán)特征提取[21]。進(jìn)一步融合特征通道和特征空間兩個(gè)維度的注意力機(jī)制，并對(duì)神經(jīng)網(wǎng)絡(luò)中的兩個(gè)維度方向進(jìn)行權(quán)重分配，加快模型擬合故障數(shù)據(jù)的速度，同時(shí)進(jìn)一步提升診斷模型的精度。將上述SAC結(jié)構(gòu)融入BiGRU網(wǎng)絡(luò)中，可以有效解決由于數(shù)據(jù)數(shù)量和數(shù)據(jù)質(zhì)量的差異造成模型訓(xùn)練準(zhǔn)確率不佳的問題，可以進(jìn)一步減少到達(dá)指定模型精度的通信輪次，提升通信效率。

2 實(shí)驗(yàn)結(jié)果及分析

本節(jié)以美國凱斯西儲(chǔ)大學(xué)軸承故障數(shù)據(jù)與德國帕德博恩軸承數(shù)據(jù)為實(shí)驗(yàn)數(shù)據(jù)，驗(yàn)證本文方法的優(yōu)越性與魯棒性。

2.1 實(shí)驗(yàn)環(huán)境與數(shù)據(jù)

實(shí)驗(yàn)運(yùn)行環(huán)境：Intel（R）Core（TM）i7-6700HQ處理器，頻率 2.60GHz ，內(nèi)存16 GB，Windows10，64位操作系統(tǒng)的計(jì)算機(jī)，程序開發(fā)環(huán)境為Python3.7。

數(shù)據(jù)集1：美國凱斯西儲(chǔ)大學(xué)（casewestern re-serveuniversity，CWRU）電氣工程實(shí)驗(yàn)室的軸承故障數(shù)據(jù)，軸承型號(hào)為6205-2RSJEMSKF深溝球軸承。利用電火花加工方式分別在軸承上對(duì)內(nèi)圈（in-nerraceway，IR）外圈（outerraceway，OR）和滾動(dòng)體（Ball，BO）設(shè)置了3個(gè)等級(jí)的單點(diǎn)故障，故障直徑分別為 0.007，0.014，0.021 英寸。本實(shí)驗(yàn)選取采樣頻率為 12kHz 狀態(tài)下，電機(jī)驅(qū)動(dòng)端（driverend）在負(fù)載為 0HP 時(shí)的數(shù)據(jù)進(jìn)行仿真實(shí)驗(yàn)，劃分為10類故障類型，每種類型包含20000條數(shù)據(jù)，每條數(shù)據(jù)采樣長度為2048個(gè)數(shù)據(jù)點(diǎn)。將數(shù)據(jù)集打亂后按照7：3比例劃分訓(xùn)練集與測試集，樣本信息如表1所示。

數(shù)據(jù)集2：德國帕德博恩大學(xué)（paderbornuniversity，PU）電氣工程實(shí)驗(yàn)室的軸承故障數(shù)據(jù)，測試軸承型號(hào)均為6203型號(hào)滾動(dòng)軸承。本實(shí)驗(yàn)選取采樣頻率為 64kHz 狀態(tài)下加速壽命試驗(yàn)數(shù)據(jù)進(jìn)行仿真實(shí)驗(yàn)，軸承故障分為單點(diǎn)損傷（singledamage，S）和多點(diǎn)損傷（multipledamage，M）;故障發(fā)生的位置分為軸承的內(nèi)圈和外圈；故障類型分為疲勞點(diǎn)蝕（fa-tiguepitting，F(xiàn)P）和壓痕（indentation，IN），劃分為7類故障類型，每種類型包含5000個(gè)樣本，每個(gè)樣本長度為2048個(gè)數(shù)據(jù)點(diǎn)。將數(shù)據(jù)集打亂后按照7：3比例劃分訓(xùn)練集與測試集。樣本信息如表2所示。

2.2 實(shí)驗(yàn)結(jié)果對(duì)比分析

為驗(yàn)證本文方法對(duì)通信效率的優(yōu)化效果，將對(duì)比實(shí)驗(yàn)分為兩部分：設(shè)置Fed-DWB模型對(duì)比實(shí)驗(yàn)，驗(yàn)證對(duì)通信時(shí)長的優(yōu)化效果；設(shè)置Fed-DWB模型結(jié)合SAC-BiGRU模型對(duì)比實(shí)驗(yàn)，驗(yàn)證SAC-BiGRU對(duì)通信輪次的優(yōu)化效果以及二者結(jié)合后的優(yōu)化效果。實(shí)驗(yàn)中SAC-BiGRU模型具體參數(shù)見表3。

2.2.1 Fed-DWB模型對(duì)比實(shí)驗(yàn)

為驗(yàn)證Fed-DWB模型對(duì)聯(lián)邦學(xué)習(xí)中通信時(shí)長和通信效率的優(yōu)化效果，利用上述數(shù)據(jù)集分別進(jìn)行實(shí)驗(yàn)驗(yàn)證，將兩組數(shù)據(jù)集按照預(yù)設(shè)數(shù)據(jù)量占比（1：2：3，，10）對(duì)實(shí)驗(yàn)數(shù)據(jù)集進(jìn)行隨機(jī)采樣，并隨機(jī)分配給10個(gè)不同的工廠子端模擬其不同的本地故障數(shù)據(jù)。隨機(jī)采樣以及分配不同比例的數(shù)據(jù)量可以滿足數(shù)據(jù)異質(zhì)性的需求，同時(shí)滿足交叉驗(yàn)證的合理性。首先驗(yàn)證聯(lián)邦學(xué)習(xí)的有效性并確定好后續(xù)實(shí)驗(yàn)基本實(shí)驗(yàn)參數(shù)。實(shí)驗(yàn)結(jié)果如表4所示。

由表4可知，在相同通信輪次和訓(xùn)練次數(shù)下，不同 Ψ_c 值（即參與通信的工廠子端比例）對(duì)聯(lián)合訓(xùn)練準(zhǔn)確率和時(shí)間的影響，隨著 c 值的增加，準(zhǔn)確率隨之升高，但通信時(shí)長也呈上升趨勢。基于本文對(duì)于通信優(yōu)化的需求，以下實(shí)驗(yàn)將固定通信輪次 =10… 0.3、傳參比例 =1 ，記錄工廠子端利用FedAvg在不同訓(xùn)練次數(shù)（E）以及利用聯(lián)邦近端算法（federatedproximal，F(xiàn)edProx）[22]、Fed-DWB 模型動(dòng)態(tài)調(diào)整工廠子端訓(xùn)練次數(shù)（Ep）下的準(zhǔn)確率、通信時(shí)長和信準(zhǔn)率的變化情況，如表5所示。

由表5可知，在兩個(gè)數(shù)據(jù)集中，利用FedAvg，當(dāng)E=1 時(shí)，通信時(shí)長最短但準(zhǔn)確率最低。兩個(gè)數(shù)據(jù)集中分別當(dāng) E=3，E=4 的時(shí)候準(zhǔn)確率最高，為93.38% 和 93.16% 。通過對(duì)比，利用Fed-DWB準(zhǔn)確率達(dá)到 93.17% 與 93.03% 的同時(shí)通信時(shí)長接近最短。相較于FedAvg， E=5 時(shí)分別縮短了 0.29min 和 0.69min ，信準(zhǔn)率分別提高了 4.19% 與 7.56% ：相較于FedProx準(zhǔn)確率分別提高了 0.26% 與1.16% ，通信時(shí)長均縮短 0.05min ，可見在通信上的優(yōu)化效果。由此可以說明，利用Fed-DWB模型動(dòng)態(tài)調(diào)整工廠子端訓(xùn)練次數(shù)可以充分利用各工廠資源，使反饋效果更好的子端獲得更多的訓(xùn)練次數(shù)，達(dá)到更好的訓(xùn)練效果。

進(jìn)一步驗(yàn)證利用Fed-DWB模型僅動(dòng)態(tài)調(diào)整傳參比例的優(yōu)化效果，固定通信輪次 Fe-dAvg 中 E=3 ，記錄不同傳參比例以及動(dòng)態(tài)調(diào)整上傳參數(shù)比例（ ?sp? 下的準(zhǔn)確率、通信時(shí)長和信準(zhǔn)率的變化情況，如表6所示，

由表6可知，F(xiàn)edAvg與FedProx隨上傳參數(shù)比例增大準(zhǔn)確率穩(wěn)步提升，但通信時(shí)長也隨之增加。

Fed-DWB相比于FedAvg傳參比例為1時(shí)，通信時(shí)長分別縮短了 0.50min 與 0.51min ;相比于Fed-Prox，分別縮短了 0.37min 與 0.34min ，準(zhǔn)確率接近于最高值分別為 93.05% 93.13% ，同時(shí)信準(zhǔn)率達(dá)到最高的 45.39% 與 42.98% ，由此可以說明，利用Fed-DWB模型動(dòng)態(tài)調(diào)整工廠子端上傳參數(shù)比例可以減少通信參數(shù)量，有效縮短數(shù)據(jù)交互的通信時(shí)長，使模型更快的達(dá)到較好的診斷效果。

基于上述實(shí)驗(yàn)，以CWRU為例，利用Fed-DWB模型同時(shí)動(dòng)態(tài)加權(quán)調(diào)整工廠子端訓(xùn)練次數(shù)以及上傳參數(shù)比例，利用FedAvg，固定傳參比例 =1 ，分別設(shè)計(jì) E=1 和4；以及固定 E=3 ，傳參比例 =0.5 和0.8；同時(shí)利用FedProx，設(shè)計(jì) E=Ep ，傳參比例為0.3和0.7與之對(duì)比，其實(shí)驗(yàn)結(jié)果如圖5所示。

由圖5可知，F(xiàn)ed-DWB相比于FedAvg與Fed-Prox，在準(zhǔn)確率達(dá)到最高的 93.05% 的同時(shí)信準(zhǔn)率也有較為明顯的優(yōu)勢，達(dá)到 45.39% ，較最低準(zhǔn)確率和信準(zhǔn)率分別提高了 15.76% 與 8.64% 。從通信優(yōu)化的角度出發(fā)，F(xiàn)ed-DWB優(yōu)化效果明顯。由此可以說明，利用Fed-DWB模型動(dòng)態(tài)調(diào)整訓(xùn)練次數(shù)和傳參量有效降低了數(shù)據(jù)異質(zhì)性對(duì)通信效率的影響，降低通信過程中數(shù)據(jù)交互量的同時(shí)，保證優(yōu)質(zhì)子端獲得更多的訓(xùn)練資源，有效解決了由于故障數(shù)據(jù)異質(zhì)性大導(dǎo)致的聯(lián)合訓(xùn)練建模通信時(shí)間過長的問題。

2.2.2 Fed-DWB結(jié)合SAC-BiGRU的對(duì)比實(shí)驗(yàn)

為進(jìn)一步驗(yàn)證SAC-BiGRU診斷模型對(duì)聯(lián)合訓(xùn)練通信輪次的優(yōu)化效果以及Fed-DWB結(jié)合SAC-BiGRU對(duì)通信的進(jìn)一步優(yōu)化，以下實(shí)驗(yàn)利用Fe-dAvg、FedProx以及Fed-DWB分別設(shè)置GRU、BiGRU和SAC-BiGRU三種診斷模型，記錄聯(lián)合訓(xùn)練準(zhǔn)確率達(dá)到 92.20% 的通信時(shí)長和通信輪次的變化情況，如表7所示。

由表7可知，在兩個(gè)數(shù)據(jù)集中，使用FedAvg、FedProx以及Fed-DWB搭配GRU診斷模型時(shí)，達(dá)到指定聯(lián)合訓(xùn)練準(zhǔn)確率所用的通信時(shí)長與通信輪次均是最多的，而用SAC-BiGRU診斷模型的通信時(shí)長最短，同時(shí)所用的通信輪次最少。由此可以說明，利用SAC-BiGRU診斷模型在有限的訓(xùn)練次數(shù)中可以充分提取故障特征，使全局模型更快達(dá)到指定的準(zhǔn)確率，有效減少所需的通信輪次以及通信時(shí)長。通過縱向?qū)Ρ劝l(fā)現(xiàn)Fed-DWB結(jié)合SAC-BiGRU所需通信時(shí)長最短、通信輪次最少，在通信時(shí)長上分別較最長的通信時(shí)長縮短了 6.42min 與 6.89min ，通信輪次分別縮短了9輪與10輪，可見Fed-DWB結(jié)合SAC-BiGRU具有更好的通信優(yōu)化效果。

基于上述實(shí)驗(yàn)，以CWRU 為例，利用 FedAvg、FedProx與Fed-DWB搭配不同的診斷模型，設(shè)置通信輪次為5、10、15和20，對(duì)比不同方法所需要的通信時(shí)長，其實(shí)驗(yàn)結(jié)果如圖6所示。進(jìn)一步，聯(lián)合訓(xùn)練達(dá)到指定準(zhǔn)確率 92.20% 時(shí)，對(duì)比不同方法的通信輪次的實(shí)驗(yàn)結(jié)果如圖7所示。

由圖6可知，本文所提出的Fed-DWB模型結(jié)合SAC-BiGRU診斷模型在不同通信輪次下通信時(shí)長均是最短的。在通信10輪時(shí)相較于FedAvg通信時(shí)長降低了 56.88% ，相較于FedProx通信時(shí)長降低了53.19% ，證明了其對(duì)通信時(shí)長的顯著優(yōu)化效果。

由圖7可知，達(dá)到指定準(zhǔn)確率時(shí)，F(xiàn)ed-DWB結(jié)合SAC-BiGRU相較于FedAvg結(jié)合GRU在通信輪次上減少了9輪，降低了 47.37% ，相較于FedProx結(jié)合GRU減少了7輪，降低了 41.18% ，同時(shí)證明了其在通信輪次上的顯著優(yōu)化效果。由此可見本文所提方法通過動(dòng)態(tài)調(diào)整工廠子端訓(xùn)練次數(shù)和中心聚合時(shí)的傳參比例來減少通信時(shí)長，并充分提取故障特征提升各子端模型精度，從而縮短聯(lián)合訓(xùn)練達(dá)到指定準(zhǔn)確率的通信輪次，在保證故障診斷準(zhǔn)確率的同時(shí)，充分利用各子端計(jì)算資源，快速聚合優(yōu)質(zhì)子端的模型參數(shù)，提高通信效率。

3結(jié)論

針對(duì)各工廠子端數(shù)據(jù)異質(zhì)性大，導(dǎo)致傳統(tǒng)聯(lián)邦學(xué)習(xí)通信效率低的問題，本文提出了一種基于高效通信聯(lián)邦學(xué)習(xí)的設(shè)備故障診斷方法。首先，提出Fed-DWB模型，有效減少通信中參數(shù)量的同時(shí)，保證優(yōu)質(zhì)工廠子端獲得更多本地訓(xùn)練次數(shù)，進(jìn)而減少通信時(shí)長：其次，提出SAC-BiGRU診斷模型，在有限的訓(xùn)練次數(shù)中充分提取故障特征，提升各子端故障診斷準(zhǔn)確率的同時(shí)保證聯(lián)合訓(xùn)練效率，有效減少通信輪次。實(shí)驗(yàn)表明，本文方法相較于FedAvg結(jié)合GRU的方法，在故障診斷準(zhǔn)確率到達(dá) 92.20% 的同時(shí)，通信時(shí)長降低了 56.88% ，通信輪次縮短了47.37% ;相較于FedProx結(jié)合GRU的方法，在故障診斷準(zhǔn)確率到達(dá) 92.20% 的同時(shí)，通信時(shí)長降低了53.19% ，通信輪次縮短了 41.18% 。實(shí)現(xiàn)典型故障精準(zhǔn)診斷分類的同時(shí)，減少了聯(lián)合訓(xùn)練建模的通信時(shí)長以及通信輪次，兼顧診斷準(zhǔn)確率的同時(shí)有效提升了通信效率，解決了異質(zhì)數(shù)據(jù)下傳統(tǒng)聯(lián)邦學(xué)習(xí)通信效率低的問題。

參考文獻(xiàn)：

[1]TYAGI S，RAJPUT I S，PANDEY R. Federated Learning：Applications，Security Hazards and Defense Measures[C] //2O23 International Conference on Device Intellgence，Computing and Communication Technologies， （DICCT）. IEEE，2023：477.

[2］李少波，楊磊，李傳江，等．聯(lián)邦學(xué)習(xí)概述：技術(shù)、應(yīng) 用及未來［J]．計(jì)算機(jī)集成制造系統(tǒng)，2022，28 （7） ： 2119. LI S B，YANG L，LI C J，et al. Overview of Federated Learning： Technology，Applications，and the Future[J]. Computer Integrated Manufacturing System，2022，28 （7）： 2119.

[3]HUANG G Y，LEE C H. Federated Learning Architecture for Bearing Fault Diagnosis[C]//2O21 International Conference on System Science and Engineering （ICSSE） . IEEE，2021：408.

[4]GENG D Q，HE H W，LAN X C，et al. Bearing Fault Diagnosis Based on Improved Federated Learning Algorithm[J].Computing，2022， 104（1）：1 ：

[5]DU J，QIN N，HUANG D， et al. An Efficient Federated Learning Framework for Machinery Fault Diagnosis With Improved Model Aggregation and Local Model Training [J]． IEEE Transactions on Neural Networks and Learning Systems，2023，35：10086.

[6]GUERRA E，WILHELMI F，MIOZZO M，et al. The Cost of Training Machine Learning Models over Distributed Data Sources[J]. IEEE Open Journal of the Communications Society，2023，4： 1111.

[7］邱鑫源，葉澤聰，崔翛龍，等．聯(lián)邦學(xué)習(xí)通信開銷研 究綜述[J]．計(jì)算機(jī)應(yīng)用，2022，42（2）：333. QIU XY，YE Z C，CUI X L，et al. A Review of Research on Communication Costs in Federated Learning[J] Computer Applications，2022， 42 （2） ： 333.

[8]YEY，LI S，LIU F，et al. EdgeFed：Optimized Federated Learning Based on Edge Computing[J]. IEEE Access，，2020，8： 209191.

[9]REISIZADEH A，MOKHTARI A，HASSANI H，et al. Fedpaq： a Communication-efficient Federated Learning Method with Periodic Averaging and Quantization[C]// International Conference on Artificial Intelligence and Statistics， 2020：2021.

[10] WANG H， KAPLAN Z， NIU D，et al. Optimizing Federated Learning on Non-iid Data with Reinforcement Learning[C]//IEEE INFOCOM 2020 - IEEE Conference on Computer Communications. IEEE，2020：1698.

［11］諶明，張蕾，馬天翼．一種基于注意力聯(lián)邦蒸餾的推 薦方法[J]．軟件學(xué)報(bào)，2021，32（12）：3852. CHEN M，ZHANG L，MA TY.A Recommendation Method Based on Attention Federated Distillation[J] Journal of Software Science，2021，32（12） ： 3852.

[12］王惜民，范睿．基于類別不平衡數(shù)據(jù)聯(lián)邦學(xué)習(xí)的設(shè)備 選擇算法［J]．計(jì)算機(jī)應(yīng)用研究，2021，38 （10）： 2968. WANG X M，F(xiàn)AN R. Device Selection Algorithm Based on Class Unbalanced Data Federated Learning[J]. Computer Application Research，2021，38（10）： 2968.

[13］賀文晨，郭少勇，邱雪松，等．基于DRL的聯(lián)邦學(xué)習(xí) 節(jié)點(diǎn)選擇方法[J]．通信學(xué)報(bào)，2021，42（6）：62. HE WC，GUO SY，QIUXS，et al. DRL Based Federated Learning Node Selection Method[J].Journal of Communications，2021，42（6） ： 62.

[14]YIFENG D，ANQIL，KAI M，et al. Research on Optimal Strategy of Residential Buildings Energy Based on Standardized Euclidean Distance Measure Similarity Search Method[J].IOP Conference Series：Earth and Environmental Science，2021，651（2）：22052.

[15]GARCIA-ARIAS AL，OKOSHI Y，HASHIMOTO M，et al. Recurrent Residual Networks Contain Stronger Lottery Tickets[J]. IEEE Access，2023，11：16588.

[16]MCMAHAN HB，MOORE E，RAMAGE D， et al. Communication Efcient Learning of Deep Networks from Decentralized Data[J]. Artificial Intelligence and Statistics， Florida，2017：1273.

[17]TONG W，LIYUE F，YUHU Z，et al. Service Price Forecasting of Urban Charging Infrastructure by Using Deep Stacked CNN-BiGRU Network [J]. Engineering Applicationsof Artificial Intelligence，2022，116：105445.

[18］陰艷超，洪志敏，顧文娟，等．融合多通道CNN-BiGRU與時(shí)間模式注意力機(jī)制的多工序工藝質(zhì)量預(yù)測方 法［J]．計(jì)算機(jī)集成制造系統(tǒng)，2024：1. YIN Y C，HONG Z M，GU W J，et al. A Multi Process Process Quality Prediction Method Based on the Fusion of Multichannel CNN BiGRU and Time Pattern Attention Mechanism[J] Computer Integrated Manufacturing System，2024：1.

[19］李峰，陳皖皖，楊義.基于稀疏自適應(yīng)S變換和深度殘 差網(wǎng)絡(luò)的軸承故障診斷方法［J].電機(jī)與控制學(xué)報(bào)， 2022，26（8） ：112. LIF，CHENWW，YANGY.Research onBearing Fault Diagnosis Based on Sparse Adaptive S-transform and Deep Residual Network[J]. ELECTRIC MACHINES AND CONTROL， 2022，26（8） ：112.

[20]DUAN Y，LI H，HE M，et al. A BiGRU Autoencoder RemainingUseful Life Prediction Scheme with Attention Mechanism and Skip Connection[J]. IEEE Sensors Journal，2021，21（9）：10905.

[21］柳秀，馬善濤，謝怡寧，等．面向軸承故障診斷的深 度學(xué)習(xí)方法［J]．哈爾濱理工大學(xué)學(xué)報(bào)，2022，27 （4）：118. LIU X，MA S T， XIE Y N，et al. A Deep Learning Method for Bearing Fault Diagnosis[J]. Journal of Harbin Institute of Technology，2022，27（4）： 118.

[22]LIT，SAHUAK，ZAHEERM，etal.Federated Optimization in Heterogeneous Networks [J]. Proceedings of Machine learning and systems， 2020，2：429.

（編輯：溫澤宇）