劉慶祥，許小龍，張旭云，竇萬(wàn)春

(1.南京信息工程大學(xué) 計(jì)算機(jī)與軟件學(xué)院，江蘇 南京210044；2.中國(guó)科學(xué)院 計(jì)算技術(shù)研究所，北京100190；3.麥考瑞大學(xué) 計(jì)算機(jī)系，澳大利亞 悉尼 NSW 2109；4.計(jì)算機(jī)軟件新技術(shù)國(guó)家重點(diǎn)實(shí)驗(yàn)室，江蘇 南京210023)

0 引言

在邊緣計(jì)算中，服務(wù)器被部署在網(wǎng)絡(luò)邊緣。邊緣服務(wù)器相對(duì)用戶(hù)更近，使得計(jì)算任務(wù)的遷移時(shí)間更短，因此其成為計(jì)算任務(wù)執(zhí)行的首選平臺(tái)[1]。但是邊緣服務(wù)器資源有限，隨著移動(dòng)終端數(shù)量增多，應(yīng)用功能更加復(fù)雜，計(jì)算任務(wù)遷移到邊緣服務(wù)器處理時(shí)的排隊(duì)時(shí)間較長(zhǎng)，增大了計(jì)算延遲[2]。同時(shí)，用戶(hù)向服務(wù)器遷移的計(jì)算任務(wù)中難免包含自己的隱私信息。這些信息在服務(wù)器中保存，使得用戶(hù)對(duì)私有數(shù)據(jù)不可控。

聯(lián)邦學(xué)習(xí)中，所有參與者運(yùn)行同一機(jī)器學(xué)習(xí)模型，即所有終端協(xié)同完成模型的訓(xùn)練，降低了終端的學(xué)習(xí)開(kāi)銷(xiāo)，提高了學(xué)習(xí)效率。同時(shí)，參與者將計(jì)算模型產(chǎn)生的參數(shù)進(jìn)行更新而不是將原始數(shù)據(jù)遷移到服務(wù)器上聚合，使得用戶(hù)數(shù)據(jù)僅保存在本地，在服務(wù)器上并沒(méi)有備份，因此用戶(hù)的隱私得到保護(hù)[3]。服務(wù)器對(duì)參與者產(chǎn)生的更新參數(shù)聚合完成后，將結(jié)果返回各參與者作為下次學(xué)習(xí)模型的參數(shù)初始值。服務(wù)器與參與者的交互方式、參與者之間的協(xié)同方式解決了數(shù)據(jù)孤島問(wèn)題，同時(shí)避免了部分參與者網(wǎng)絡(luò)不穩(wěn)定帶來(lái)的負(fù)面情況[4]。

基于聯(lián)邦學(xué)習(xí)的邊緣智能協(xié)同計(jì)算與隱私保護(hù)方法研究將聯(lián)邦學(xué)習(xí)的機(jī)制應(yīng)用到邊緣計(jì)算中，以此緩解邊緣計(jì)算所引起的用戶(hù)隱私泄露的情況。同時(shí)考慮在這種模式下，如何保障數(shù)據(jù)分析精度、減少模型聚合的通信開(kāi)銷(xiāo)、提高聯(lián)邦學(xué)習(xí)的參數(shù)更新效率。

1 相關(guān)工作

傳統(tǒng)的聯(lián)邦學(xué)習(xí)機(jī)制中，雖然用戶(hù)的私有數(shù)據(jù)并不會(huì)傳遞給其他設(shè)備，但終端將本地更新后的數(shù)據(jù)直接上傳至邊緣服務(wù)器，仍然存在通過(guò)上傳數(shù)據(jù)反演出用戶(hù)私有數(shù)據(jù)這一隱私泄露的可能[5-6]。HAO等[7]提出一種非交互性的保障隱私的聯(lián)邦學(xué)習(xí)算法。該方法即使在多個(gè)聯(lián)邦學(xué)習(xí)參與者串通的情況下也可保證隱私不被泄露。XU等[8]在保護(hù)用戶(hù)隱私的同時(shí)，考慮如何驗(yàn)證服務(wù)器聚合數(shù)據(jù)的正確性，并在分析解決上述問(wèn)題的方法基礎(chǔ)上提出了可驗(yàn)證的聯(lián)邦學(xué)習(xí)隱私保護(hù)框架(VerifyNet)。

另一方面，如何提高其通信效率、減少通信開(kāi)銷(xiāo)也逐漸成為當(dāng)前研究的重要問(wèn)題。WEI等[9]提出移動(dòng)終端根據(jù)中心服務(wù)器的反饋信息來(lái)驗(yàn)證當(dāng)前的參數(shù)更新，從而決定是否將自己的更新量上傳至服務(wù)器。但該算法執(zhí)行時(shí)，移動(dòng)終端需要額外的開(kāi)銷(xiāo)來(lái)確定本地更新量是否和全局收斂具有相關(guān)性。WANG等[10]設(shè)計(jì)了一個(gè)控制算法，在給定的資源下，根據(jù)收斂約束，調(diào)整局部更新和全局聚合的次數(shù)，從而最大程度地提高資源使用率。但是該算法運(yùn)行的前提是局部更新消耗等數(shù)量的資源?？紤]到終端的差異性以及數(shù)據(jù)大小的不同，局部更新消耗的資源必定不同，影響局部更新次數(shù)。YANG等[11]通過(guò)加快FedAvg算法聚合的速度來(lái)提高通信效率。這種方式可以在一定程度上降低通信開(kāi)銷(xiāo)，但是算法的實(shí)現(xiàn)過(guò)程仍然采用了FedAvg的框架，并沒(méi)有在最大程度上降低模型學(xué)習(xí)時(shí)間。

當(dāng)前采用聯(lián)邦學(xué)習(xí)來(lái)保護(hù)邊緣計(jì)算中用戶(hù)隱私的工作較少，且盡管已經(jīng)有一些工作致力于研究怎樣提高聯(lián)邦學(xué)習(xí)效率，但這些方法或多或少存在一些紕漏。因此，基于聯(lián)邦學(xué)習(xí)的邊緣智能協(xié)同計(jì)算與隱私保護(hù)方法研究使用聯(lián)邦學(xué)習(xí)的機(jī)制保護(hù)邊緣計(jì)算中用戶(hù)隱私，同時(shí)探尋提高聯(lián)邦學(xué)習(xí)效率、減少移動(dòng)終端開(kāi)銷(xiāo)的方法。

2 基于聯(lián)邦學(xué)習(xí)的邊緣計(jì)算系統(tǒng)

2.1 系統(tǒng)架構(gòu)

在一個(gè)邊緣計(jì)算服務(wù)器的覆蓋范圍內(nèi)共有M個(gè)用戶(hù)各使用一個(gè)移動(dòng)終端。D={d1，d2，…，dM}表示這M個(gè)移動(dòng)終端的集合，其中dm表示第m個(gè)移動(dòng)終端。一共需要經(jīng)過(guò)N輪全局更新達(dá)到聯(lián)邦學(xué)習(xí)要求或者模型收斂停止學(xué)習(xí)。Rn(1≤n≤N)表示第n輪聚合時(shí)參與的移動(dòng)終端的集合。IMAXm, n表示當(dāng)dm∈Rn時(shí)，dm在本地迭代運(yùn)行學(xué)習(xí)模型的最大次數(shù)。

基于聯(lián)邦學(xué)習(xí)的邊緣計(jì)算系統(tǒng)架構(gòu)如圖1所示。在每一輪全局更新開(kāi)始時(shí)，邊緣服務(wù)器確定本輪的參與終端，將模型參數(shù)傳遞至這些終端，并將參與的終端信息傳遞至第三方密鑰生成平臺(tái)。密鑰生成平臺(tái)生成這些參與者的密鑰，傳遞至相應(yīng)參與者。本地更新時(shí)，各參與者利用本地?cái)?shù)據(jù)進(jìn)行學(xué)習(xí)。學(xué)習(xí)結(jié)束后，得到本地更新的模型參數(shù)，利用密鑰對(duì)數(shù)據(jù)加密后上傳至邊緣服務(wù)器。服務(wù)器聚合所有參與者的上傳數(shù)據(jù)，生成下一次各參與者學(xué)習(xí)的模型參數(shù)。上述過(guò)程一直持續(xù)，直至達(dá)到最大全局聚合輪數(shù)，或者整個(gè)聯(lián)邦學(xué)習(xí)模型收斂。

2.2 隱私保護(hù)機(jī)制設(shè)計(jì)

本研究認(rèn)為密鑰生成平臺(tái)是一個(gè)完全可信任的平臺(tái)，除此以外的設(shè)備，包括所有的終端以及邊緣服務(wù)器均會(huì)按照聯(lián)邦學(xué)習(xí)的協(xié)議執(zhí)行程序，但不排除他們嘗試獲取其他用戶(hù)的隱私數(shù)據(jù)的可能。這一設(shè)定也被廣泛地作為研究聯(lián)邦學(xué)習(xí)中隱私保護(hù)的基礎(chǔ)[12-14]。因此，為了防止其他設(shè)備根據(jù)終端上傳的模型參數(shù)反演出本地?cái)?shù)據(jù)，終端不能將本地更新后的參數(shù)直接上傳至邊緣服務(wù)器。換言之，為了保護(hù)用戶(hù)隱私，應(yīng)該保證除了終端本身，其余設(shè)備都對(duì)終端的本地?cái)?shù)據(jù)以及本地更新后的實(shí)際參數(shù)不可知。同時(shí)隱私保護(hù)機(jī)制也需要保證邊緣服務(wù)器能夠聚合得到真正的模型。本部分介紹了終端如何根據(jù)密鑰對(duì)上傳的數(shù)據(jù)進(jìn)行加密。

3 模型建立與問(wèn)題定義

3.1 模型分析

設(shè)flagm, n表示dm是否參與第n輪聚合，其計(jì)算方式如下：

(1)

假設(shè)在第n輪全局聚合中，dm處理一個(gè)樣本的時(shí)鐘周期為cm, n。終端dm本地?cái)?shù)據(jù)集共有sm個(gè)樣本。dm計(jì)算樣本時(shí)間

(2)

式中：fm,n表示dm的主頻，Im, n表示dm在第n輪實(shí)際循環(huán)的次數(shù)，且Im, n≤IMAXm, n。

dm運(yùn)行模型產(chǎn)生的能耗

(3)

假設(shè)在第n輪，dm與服務(wù)器之間傳輸?shù)臄?shù)據(jù)量大小為lm, n，信道帶寬為Bm, n，則dm的傳輸時(shí)間

(4)

第n輪中，dm產(chǎn)生的傳輸能耗

(5)

式中：pm, n表示dm,n在第n輪的傳輸功率。

所有終端在整個(gè)模型運(yùn)行期間的時(shí)間開(kāi)銷(xiāo)：

(6)

終端與服務(wù)器通信過(guò)程中，信道傳播時(shí)間相對(duì)很小，因此本研究考慮時(shí)間開(kāi)銷(xiāo)時(shí)，對(duì)其忽略不計(jì)。

所有終端在聯(lián)邦學(xué)習(xí)期間產(chǎn)生的能耗表示為

(7)

3.2 問(wèn)題定義

本研究旨在通過(guò)聯(lián)邦學(xué)習(xí)的方式保護(hù)邊緣計(jì)算中用戶(hù)的隱私，同時(shí)在保證學(xué)習(xí)精度的前提下，減少時(shí)間開(kāi)銷(xiāo)和移動(dòng)終端能耗，其形式化表示為：

minE,T；

(8)

s.t.λm≥Λm，m=1,2,…,M。

(9)

其中：λm表示聯(lián)邦學(xué)習(xí)結(jié)束后dm的學(xué)習(xí)精度，即dm學(xué)習(xí)的樣本正確率；Λm表示dm的目標(biāo)學(xué)習(xí)精度。式(9)表示聯(lián)邦學(xué)習(xí)后每個(gè)模型的精度應(yīng)不小于目標(biāo)學(xué)習(xí)精度，以此保證聯(lián)邦學(xué)習(xí)的學(xué)習(xí)精度。

4 算法設(shè)計(jì)

由圖1可知，在整個(gè)過(guò)程中，對(duì)聯(lián)邦學(xué)習(xí)的性能和學(xué)習(xí)效率有較大影響的過(guò)程包括參與者選擇、本地更新和全局聚合。其中，參與者選擇確定了選擇哪些終端作為參與者，決定某一終端是否要參與本輪的聯(lián)邦學(xué)習(xí)；本地更新決定了終端運(yùn)行學(xué)習(xí)模型的方式，對(duì)其分析精度有直接影響；全局聚合決定了下一輪參與者學(xué)習(xí)的模型，聚合方式的優(yōu)劣直接影響了參與者的時(shí)間、能耗和學(xué)習(xí)精度等性能。因此本章針對(duì)上述3個(gè)過(guò)程分別提出改進(jìn)后的算法，最后總結(jié)概括了整個(gè)聯(lián)邦學(xué)習(xí)的算法過(guò)程。

4.1 參與者確定算法

dm數(shù)據(jù)集中任意的第j(1≤j≤sm)個(gè)樣本均由xm,j和ym, j兩部分組成。其中：xm,j描述了樣本的特征，其作為模型的輸入；ym, j∈{+1，-1}表示樣本的標(biāo)簽，是期望的模型輸出。認(rèn)為樣本是線性可分的，采用支持向量機(jī)模型(Support Vector Machine，SVM)來(lái)解決這個(gè)典型的二分類(lèi)問(wèn)題。因此，每次dm本地更新的目標(biāo)為：

(10)

(11)

ξm,j≥0。

(12)

其中：Wm和bm表示dm當(dāng)前的模型參數(shù)；ξm, j為引入的松弛變量。將上述式子進(jìn)一步轉(zhuǎn)化為：

(13)

式中：Jm(Wm)為dm最終的損失函數(shù)[16]。每次選擇之前，邊緣服務(wù)器比較每個(gè)終端的分析精度和目標(biāo)精度，只選擇那些沒(méi)有達(dá)到精度要求的終端。當(dāng)一個(gè)終端的分析精度達(dá)到目標(biāo)精度時(shí)，該終端在以后的全局更新中都不會(huì)被選擇。這種方式使得每個(gè)終端的精度都盡可能大，且降低了對(duì)其他終端的干擾。

4.2 本地更新算法

(14)

(15)

式中：θ為一個(gè)常數(shù)，ηm, max表示dm的最大學(xué)習(xí)率。這種計(jì)算方式使得學(xué)習(xí)率可以自適應(yīng)當(dāng)前學(xué)習(xí)精度，避免了學(xué)習(xí)率過(guò)大或過(guò)小造成的負(fù)面影響。

4.3 全局聚合算法

FedAvg聚合算法對(duì)所有參與者的權(quán)值求平均值。第n+1輪模型參數(shù)

(16)

這種參數(shù)聚合的方式可能會(huì)導(dǎo)致一些參與者在下一輪的精度低于上一輪的精度，因?yàn)榉?wù)器在聚合的時(shí)候?qū)λ袇⑴c者作平均考慮，忽略了參與者之間的影響。

因此，本研究使用q-FedSGD算法中參數(shù)聚合機(jī)制[17]。第n+1輪模型參數(shù)

(17)

式中：Wn表示第n輪的模型參數(shù)；Δm, n和hm, n的計(jì)算表達(dá)式分別如下：

(18)

(19)

其中：q和L均為常數(shù)。這種方式使得參數(shù)聚合更加有效。

4.4 基于聯(lián)邦學(xué)習(xí)的邊緣計(jì)算方法

基于聯(lián)邦學(xué)習(xí)的邊緣計(jì)算方法(Federated Learning Basecl Edge Computing,FLBEC)算法流程如圖3所示。其中邊緣服務(wù)器首先選擇每輪的參與者，然后將模型參數(shù)傳遞至參與者，參與者進(jìn)行本地更新。本地更新過(guò)程中，如果學(xué)習(xí)精度大于目標(biāo)精度，則停止本地更新。否則，向邊緣服務(wù)器傳遞聚合需要的數(shù)據(jù)。邊緣服務(wù)器在所有參與者本地更新結(jié)束后，則聚合生成下輪全局更新的參數(shù)。該算法一直持續(xù)至達(dá)到最大的全局更新輪數(shù)，或者所有的終端都達(dá)到了目標(biāo)學(xué)習(xí)精度。

5 實(shí)驗(yàn)分析

5.1 實(shí)驗(yàn)配置

在實(shí)驗(yàn)中，使用的數(shù)據(jù)集為Vehicle數(shù)據(jù)集，它包括由傳感器網(wǎng)絡(luò)收集的聲學(xué)、地震和紅外傳感器數(shù)據(jù)[18]。為了實(shí)現(xiàn)對(duì)比，另外運(yùn)行2個(gè)聯(lián)邦學(xué)習(xí)算法，具體如下：

(1)FedAvg[19]。每輪服務(wù)器將所有終端作為參與者，本地更新時(shí)，參與者通過(guò)SVM進(jìn)行學(xué)習(xí)。在參數(shù)聚合階段，使用簡(jiǎn)單的平均聚合方式。該方法作為聯(lián)邦學(xué)習(xí)最經(jīng)典的算法之一，在很多聯(lián)邦學(xué)習(xí)相關(guān)的文獻(xiàn)中都被當(dāng)作對(duì)比方法使用。

(2)q-FedSGD[17]。每輪服務(wù)器隨機(jī)選擇15個(gè)終端作為參與者，本地更新時(shí)，參與者只是通過(guò)SVM進(jìn)行學(xué)習(xí)。在參數(shù)聚合階段，使用改進(jìn)后的參數(shù)聚合算法。該方法旨在保證終端參與聯(lián)邦學(xué)習(xí)精度，降低各終端學(xué)習(xí)精度的誤差。

5.2 實(shí)驗(yàn)對(duì)比分析

本節(jié)對(duì)FLBEC、FedAvg和q-FedSGD 3個(gè)算法中，終端在聯(lián)邦學(xué)習(xí)結(jié)束后的目標(biāo)學(xué)習(xí)精度、終端參與聯(lián)邦學(xué)習(xí)時(shí)間以及能耗開(kāi)銷(xiāo)進(jìn)行對(duì)比。從這3個(gè)方面驗(yàn)證FLBEC方法的高效性。

5.2.1 終端學(xué)習(xí)精確度對(duì)比分析

如圖4所示為3個(gè)算法下各終端的學(xué)習(xí)精度與目標(biāo)精度差，從中可以看出各算法在保證學(xué)習(xí)精度方面的效果。因?yàn)镕edAvg在聯(lián)邦學(xué)習(xí)中能保證學(xué)習(xí)精確性，所以本研究將其運(yùn)行結(jié)束后終端學(xué)習(xí)精度的0.99倍作為FLBEC算法中各終端的目標(biāo)精度。由圖5可知，q-FedSGD中大多數(shù)終端的精度小于目標(biāo)精度。在FLBEC中，只有d5沒(méi)有達(dá)到目標(biāo)精度，從而表明FLBEC算法能保證終端的學(xué)習(xí)精度。

5.2.2 終端學(xué)習(xí)時(shí)間對(duì)比分析

該部分對(duì)FedAvg、q-FedSGD、FLBEC三個(gè)算法運(yùn)行時(shí)，每個(gè)終端參與聯(lián)邦學(xué)習(xí)的時(shí)間進(jìn)行對(duì)比分析。由上述分析可知，終端參與聯(lián)邦學(xué)習(xí)的時(shí)間由本地運(yùn)行機(jī)器學(xué)習(xí)模型的計(jì)算時(shí)間和上傳數(shù)據(jù)的傳輸時(shí)間組成。而計(jì)算時(shí)間與運(yùn)行機(jī)器學(xué)習(xí)模型的次數(shù)成正比，傳輸時(shí)間與參與全局更新的輪數(shù)成正比。如圖6所示，對(duì)所有終端而言，F(xiàn)edAvg算法的時(shí)間最長(zhǎng)，因?yàn)樵撍惴ㄖ?，所有終端均參與每輪的全局更新。由于q-FedSGD每輪只選擇一部分終端作為參與者，終端的學(xué)習(xí)時(shí)間比FedAvg算法小。同時(shí)，該算法對(duì)終端進(jìn)行隨機(jī)選擇，導(dǎo)致每個(gè)終端的學(xué)習(xí)時(shí)間與FedAvg算法中學(xué)習(xí)時(shí)間的差值并不相同。在FLBEC算法中，當(dāng)終端達(dá)到目標(biāo)精度時(shí)，即不再被服務(wù)器選中，因此整體來(lái)看，終端的學(xué)習(xí)時(shí)間在3個(gè)算法中最少。但也存在例外，d5在FLBEC下的時(shí)間與在FedAvg下的時(shí)間相等。因?yàn)樵谒写蔚谋镜馗轮?，?始終小于Λ5，所以d5在所有聯(lián)邦學(xué)習(xí)輪次中均被選擇。

5.2.3 終端能耗對(duì)比分析

本節(jié)分析了FedAvg、q-FedSGD、FLBEC三個(gè)算法中各終端參與聯(lián)邦學(xué)習(xí)的總能耗，能耗描述了參與聯(lián)邦學(xué)習(xí)的開(kāi)銷(xiāo)。對(duì)移動(dòng)終端終端而言，其物理尺寸、計(jì)算能力有限，因此能耗是在考慮運(yùn)行哪種算法的最重要的標(biāo)準(zhǔn)之一。盡管一個(gè)聯(lián)邦學(xué)習(xí)算法能最大程度上保證學(xué)習(xí)精度，如果運(yùn)行需要很大的能耗開(kāi)銷(xiāo)，其在實(shí)際應(yīng)用中也不會(huì)被優(yōu)先考慮。

圖5所示為3個(gè)算法中，各終端學(xué)習(xí)的總能耗。總能耗分為傳輸能耗和計(jì)算能耗。由計(jì)算表達(dá)式可知，計(jì)算能耗與計(jì)算時(shí)間成正比，傳輸能耗與傳輸時(shí)間成正比。因此，3個(gè)算法下各終端的能耗分布趨勢(shì)和時(shí)間分布相似。

6 結(jié)束語(yǔ)

針對(duì)邊緣計(jì)算中終端處理大量數(shù)據(jù)效率低下且存在隱私泄露的風(fēng)險(xiǎn)，基于聯(lián)邦學(xué)習(xí)的邊緣智能協(xié)同計(jì)算與隱私保護(hù)方法研究設(shè)計(jì)了保護(hù)邊緣計(jì)算中用戶(hù)隱私的機(jī)制。同時(shí)，通過(guò)提出的聯(lián)邦學(xué)習(xí)算法降低終端的開(kāi)銷(xiāo)，提高聯(lián)邦學(xué)習(xí)的效率。結(jié)果表明，本研究提出的FLBEC方法在保證各終端學(xué)習(xí)精度達(dá)到一定值的情況下，與FedAvg方法和q-FedSGD方法相比，能大幅度降低終端聯(lián)邦學(xué)習(xí)時(shí)間和能耗。

另一方面，考慮到終端計(jì)算資源和存儲(chǔ)資源的有限性，在未來(lái)的相關(guān)工作中，聯(lián)邦學(xué)習(xí)將會(huì)與邊緣計(jì)算進(jìn)一步結(jié)合，最大程度地降低終端開(kāi)銷(xiāo)。同時(shí)，更多的數(shù)據(jù)集將被用來(lái)訓(xùn)練FLBEC方法，從而驗(yàn)證其高效性。同時(shí)，對(duì)本研究所提出的隱私保護(hù)機(jī)制做進(jìn)一步優(yōu)化，設(shè)計(jì)出更完備的基于聯(lián)邦學(xué)習(xí)框架保護(hù)邊緣計(jì)算中用戶(hù)隱私的機(jī)制。