摘" 要: 在智能電網(wǎng)中,非侵入式負(fù)荷檢測等技術(shù)的實現(xiàn)都需要使用大量標(biāo)記過的電器功率數(shù)據(jù),而這類數(shù)據(jù)的收集和標(biāo)注十分昂貴、耗時并且容易侵犯用戶的安全隱私。為了應(yīng)對數(shù)據(jù)收集的挑戰(zhàn),文中提出一種將時序生成對抗網(wǎng)絡(luò)和通道空間雙注意力機制相結(jié)合的數(shù)據(jù)生成方法,用來合成與實際電器功率數(shù)據(jù)相似的合成數(shù)據(jù)。時序生成對抗網(wǎng)絡(luò)結(jié)合無監(jiān)督的靈活性和有監(jiān)督的可控性,能夠進行家用電器數(shù)據(jù)生成,注意力機制又能夠使時序生成對抗網(wǎng)絡(luò)注重電器啟動時的波形,忽略電器未啟動時的干擾,構(gòu)建一個符合真實工況且隨機的數(shù)據(jù)生成模型。文中使用五種性能度量指標(biāo)對該模型生成的數(shù)據(jù)進行評估,并且使用主成分分析(PCA)降維進行可視化分析。實驗結(jié)果表明,使用該方法生成的合成數(shù)據(jù)具有與真實數(shù)據(jù)非常相似的特征,并有較高的精度。
關(guān)鍵詞: 數(shù)據(jù)生成; 時序生成對抗網(wǎng)絡(luò); 注意力機制; 深度神經(jīng)網(wǎng)絡(luò); 數(shù)據(jù)收集; 電器波形
中圖分類號: TN919?34" " " " " " " " " " " " "文獻標(biāo)識碼: A" " " " " " " " " " " " " 文章編號: 1004?373X(2024)11?0161?07
Appliance data generation method based on TimeGAN and attention mechanism
SHI Qingyi, WANG Wei, AN Siguang, ZOU Guoping
(College of Mechanical and Electrical Engineering, China Jiliang University, Hangzhou 310018, China)
Abstract: In smart grids, the implementation of technologies such as non?intrusive load detection requires the use of a large amount of labeled appliance power data, and the collection and labeling of such data is expensive, time?consuming, and prone to violating users′ security and privacy. In order to address the challenge of data collection, a data generation method that combines TimeGAN and channel space dual attention mechanism is proposed to generate the synthesized data that is similar to the actual appliance power data. TimeGAN combines the unsupervised flexibility and the supervised controllability, which is able to perform data generation for household appliances, while the attention mechanism enables TimeGAN to focus on waveforms when appliances are activated and ignore disturbances when appliances are unactivated, so as to construct a stochastic data generation model that conforms to the real working conditions. The data generated by this model is evaluated by five performance indexes and visualized with principal component analysis (PCA) dimensionality reduction. Experimental results show that the synthetic data generated by this method has very similar characteristics to the real data and has high accuracy.
Keywords: data generation; TimeGAN; attention mechanism; deep neural network; data collection; appliance waveform
0" 引" 言
21世紀(jì),智能電網(wǎng)成為人們生活中不可或缺的一部分,它能夠利用先進的信息和通信技術(shù)實時監(jiān)測、控制和優(yōu)化電力系統(tǒng)的運行,這有助于提高電網(wǎng)的運行效率、減少能源浪費、降低電網(wǎng)損耗。智能電網(wǎng)不僅直接關(guān)聯(lián)著人們的用電需求,還對經(jīng)濟發(fā)展和國家安全具有重要影響。
智能電網(wǎng)中有許多技術(shù)需要使用大量的數(shù)據(jù)進行訓(xùn)練才能得到,比如非侵入式負(fù)荷檢測[1]、用電負(fù)荷預(yù)測[2]、防竊電監(jiān)測[3]等。這些數(shù)據(jù)的收集需要在用戶用電入口處安裝智能電表,不僅收集和標(biāo)注費時費力,而且在處理敏感數(shù)據(jù)時可能會面臨數(shù)據(jù)安全的挑戰(zhàn)。然而通過算法在短時間內(nèi)生成大量的合成數(shù)據(jù)可以減少此類問題,對于家庭中使用頻率較低導(dǎo)致采集量較小的電器,如烤箱、吸塵器、烘干機等,合成數(shù)據(jù)尤為重要。在合成數(shù)據(jù)的基礎(chǔ)上還可以設(shè)置算法,數(shù)據(jù)創(chuàng)建時自動進行電器標(biāo)注,從而減少標(biāo)注過程的耗時,提高效率。
為了合成數(shù)據(jù)以解決收集信息所面臨的一系列挑戰(zhàn),文獻[4]提出了一種生成對抗網(wǎng)絡(luò)模型(GAN),它是一類功能強大的神經(jīng)網(wǎng)絡(luò),由兩個相互競爭的神經(jīng)網(wǎng)絡(luò)模型組成,兩部分相互競爭、相互制衡,分析、捕獲和復(fù)制數(shù)據(jù)集中的變化,以合成數(shù)據(jù)。文獻[5]中使用CycleGAN框架將LSTM?RNN模型作為生成器和鑒別器框架,在韓國熱電廠提供的真實發(fā)電廠數(shù)據(jù)集上進行實驗,該數(shù)據(jù)集共包含691 200個數(shù)據(jù)點,收集時間超過18天。文獻[6]提出了一種合成電器簽名的生成器TraceGAN,它是基于有條件的、逐步增長的一維Wasserstein GAN改進得來的,能夠很好地合成家用電器數(shù)據(jù)。文獻[7]創(chuàng)建的TimeGAN框架除了真實序列和合成序列上的無監(jiān)督對抗損失之外,還使用原始數(shù)據(jù)作為監(jiān)督引入了逐步監(jiān)督損失,減少對抗性學(xué)習(xí)空間的高維性,通過聯(lián)合訓(xùn)練嵌入網(wǎng)絡(luò)和生成器網(wǎng)絡(luò),可以將監(jiān)督損失最小化。
為了更好地捕捉圖像的視覺結(jié)構(gòu),文獻[8]提出了一種注意力機制,可以使模型選擇性地聚焦于圖像擁有較為明顯的特征上。文獻[9]提出了一種可以使用編碼器解碼器的注意力模塊,通過改進特征映射使模型不僅表現(xiàn)良好,而且對于噪聲輸入的抗干擾能力也較強。在文獻[10]中提出了一個利用通道間關(guān)系的模塊,他們使用全局平均池化特征來計算通道注意力。文獻[11]提出卷積注意力模塊(Convolutional Block Attention Module),是一種前饋卷積神經(jīng)網(wǎng)絡(luò),此模塊沿兩個獨立的維度(通道和空間)將注意力乘以輸入特征來細(xì)化特征,是一種適配性極高的注意力機制。
起初生成對抗網(wǎng)絡(luò)用于圖像識別領(lǐng)域,此類數(shù)據(jù)不隨時間動態(tài)變化,與其他變量呈簡單或線性關(guān)系。然而,智能電網(wǎng)中常用的家用電器序列為時間序列,在分解時需要處理大量的時間序列數(shù)據(jù)。對于此類數(shù)據(jù),時序生成對抗網(wǎng)絡(luò)能夠捕獲家用電器序列隨時間的動態(tài)變化,同時在生成合成數(shù)據(jù)時保留變量之間的復(fù)雜關(guān)系??臻g通道注意力機制是一種輕量的注意力模塊,可以在空間和通道上同時使用注意力機制,相較于其他注意力模塊,更適合于識別家用電器序列。
本文的創(chuàng)新點如下:
1) 使用時序生成對抗網(wǎng)絡(luò)來合成智能電網(wǎng)中所使用的電器數(shù)據(jù),其設(shè)計目的是捕捉真實數(shù)據(jù)的特征以及這些特征隨時間的復(fù)雜動態(tài)變化。新引入的嵌入網(wǎng)絡(luò)提供了特征和潛在表示之間的可逆映射,嵌入網(wǎng)絡(luò)和恢復(fù)網(wǎng)絡(luò)保持了潛在空間中潛在向量和特征之間的關(guān)系,而生成器和鑒別器網(wǎng)絡(luò)的工作保持不變。
2) 在1)的基礎(chǔ)上加入注意力機制以提升生成數(shù)據(jù)的質(zhì)量,空間通道注意力機制是一種輕量的注意力模塊,可以在空間和通道上同時使用注意力機制,通過將TimeGAN和注意力機制相結(jié)合來增加網(wǎng)絡(luò)的表征力,分別在嵌入網(wǎng)絡(luò)和生成網(wǎng)絡(luò)后加入注意力機制,能夠幫助網(wǎng)絡(luò)更好地捕捉到時間序列中全局與局部特征間的依賴關(guān)系,讓模型能夠關(guān)注到重要特征,抑制不必要特征,從而生成與原有數(shù)據(jù)集相近的高質(zhì)量數(shù)據(jù)。
1" 研究設(shè)計與方法論
1.1" 融合TimeGAN和CBAM的模型
時序生成對抗網(wǎng)絡(luò)不是在特征空間中生成數(shù)據(jù),而是在嵌入空間中生成數(shù)據(jù),并且作為生成器輸入的隨機矢量是由高斯分布采樣得到的,所生成的數(shù)據(jù)經(jīng)過通道空間注意力機制進行進一步的處理,使模型關(guān)注主要數(shù)據(jù),忽視次要數(shù)據(jù),并將生成器通過生成損失函數(shù)形成反饋,進一步調(diào)整生成數(shù)據(jù)的合理性,生成函數(shù)采用靜態(tài)潛伏向量和時間潛伏向量的元組來生成嵌入空間中的合成潛伏向量。在這一步中進行特征與潛在表示之間的可逆映射,并計算監(jiān)督損失。在接下來的步驟中,鑒別從嵌入空間接收靜態(tài)代碼和時間代碼并進行分類,從而獲得無監(jiān)督損失的值。
此外,鑒別器網(wǎng)絡(luò)還與鑒別器損失函數(shù)相關(guān)聯(lián),該損失函數(shù)通過更新層權(quán)值到最優(yōu)解,從而幫助鑒別器網(wǎng)絡(luò)對假數(shù)據(jù)和原始數(shù)據(jù)進行無偏分類。發(fā)生器和鑒別器采用循環(huán)網(wǎng)絡(luò)(GRU),它是循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Network, RNN)的一種,和LSTM(Long Short?term Memory)一樣,也是為了解決長期記憶和反向傳播中的梯度等問題而提出來的。在生成器網(wǎng)絡(luò)中,使用梯度上升技術(shù)來尋找全局極大值,在鑒別器函數(shù)中使用梯度下降技術(shù)來尋找全局極小值。生成器網(wǎng)絡(luò)試圖最小化對抗損失,而判別函數(shù)試圖在最小?最大博弈中使其最大化。這個過程在循環(huán)中進行多次迭代,直到該模型學(xué)習(xí)動態(tài)能耗模式,生成與真實數(shù)據(jù)特征相似的合成數(shù)據(jù)。
在生成器網(wǎng)絡(luò)中,使用梯度上升技術(shù)來尋找全局極大值,在鑒別器函數(shù)中使用梯度下降技術(shù)來尋找全局極小值。生成器網(wǎng)絡(luò)試圖最小化對抗損失,而判別函數(shù)試圖在最小?最大博弈中使其最大化。這個過程在循環(huán)中進行多次迭代,生成與真實數(shù)據(jù)特征相似的合成數(shù)據(jù),其訓(xùn)練流程如圖1所示。
1.2" GAN與TimeGAN
1.2.1" 生成對抗網(wǎng)絡(luò)
生成對抗網(wǎng)絡(luò)是深度學(xué)習(xí)領(lǐng)域中最新提出的網(wǎng)絡(luò)結(jié)構(gòu),生成器和鑒別器的原理是在零和博弈理論基礎(chǔ)上提出的,其工作原理如圖2所示。生成器的輸入為隨機向量,并負(fù)責(zé)生成合成數(shù)據(jù),鑒別器的任務(wù)是將生成器生成的數(shù)據(jù)和實際數(shù)據(jù)區(qū)分開。在模型訓(xùn)練過程中,兩者相互對抗、共同進步,使生成器生成的數(shù)據(jù)更接近真實數(shù)據(jù),從而獲得所需的數(shù)據(jù)。
假設(shè)某個先驗分布[Z~Pzz],想要學(xué)習(xí)一個生成器函數(shù)[G],使得[G(Z)~Pdata(x)]。為了達(dá)到這個目標(biāo),引入一個鑒別函數(shù)[D],讓[G]和[D]使用函數(shù)[V(G,D)]按照式(1)進行極小極大博弈。
[minGmaxDV(G,D)=Ex~Pdata (x)[logD(x)]+EZ~Pz(z)[log(1-D(G(z)))]] (1)
式中:[E]表示真實數(shù)據(jù)[x]和隨機向量[Z]的數(shù)學(xué)期望;生成器函數(shù)[G]可以是全連接神經(jīng)網(wǎng)絡(luò)、卷積神經(jīng)網(wǎng)絡(luò)等模型。通過噪點分布[P(z)](一般是高斯分布),得到一個生成數(shù)據(jù)的分布[Pg(x)],希望[Pg(x)]非??拷黐Pdata(x)],其目的是擬合逼近真實分布。判別函數(shù)[D]需要解決傳統(tǒng)的二分類問題,其目的是有效地區(qū)分真實分布和生成分布,即衡量[Pg(x)]和[Pdata(x)]之間的差距,并通過反復(fù)的迭代訓(xùn)練得到結(jié)果。
1.2.2" 時序生成對抗網(wǎng)絡(luò)
生成對抗網(wǎng)絡(luò)由兩個神經(jīng)網(wǎng)絡(luò)組成,而時序生成對抗網(wǎng)絡(luò)除了生成網(wǎng)絡(luò)和鑒別網(wǎng)絡(luò)之外,還引入了兩個新的模塊,即嵌入網(wǎng)絡(luò)和恢復(fù)網(wǎng)絡(luò),這兩個新網(wǎng)絡(luò)統(tǒng)稱為自動編碼器。時序生成對抗網(wǎng)絡(luò)能夠捕捉真實時間序列的特征規(guī)律和未知局限性,新引入的嵌入網(wǎng)絡(luò)提供了特征和潛在表示之間的可逆映射,嵌入網(wǎng)絡(luò)和恢復(fù)網(wǎng)絡(luò)保持了潛在空間中潛在向量和特征之間的關(guān)系,而生成器和鑒別器網(wǎng)絡(luò)的工作保持不變。與傳統(tǒng)的對抗網(wǎng)絡(luò)類似,生成器和鑒別器都與各自的損耗函數(shù)相關(guān)聯(lián),也稱為無監(jiān)督損失。除了無監(jiān)督損失,TimeGAN還有另外兩個損失函數(shù),稱為監(jiān)督損失和重建損失,這兩個函數(shù)與自動編碼器相關(guān)聯(lián)。模型的總體架構(gòu)概述如圖3所示。
1.3" 空間通道雙注意力機制
空間通道雙注意力機制是一種結(jié)構(gòu)精煉且效率高的前饋卷積神經(jīng)網(wǎng)絡(luò),起初使用在圖像處理領(lǐng)域,但現(xiàn)在可以延伸到其他領(lǐng)域,如處理時間序列數(shù)據(jù)。CBAM是由通道注意力模塊(Channel Attention Module, CAM)和空間注意力模塊(Spartial Attention Module, SAM)兩個獨立模塊組成,預(yù)先通過通道注意力機制加權(quán)后,再經(jīng)過空間注意力模塊,最終進行加權(quán)得到結(jié)果。這樣能夠節(jié)約參數(shù)和計算力,并且保證了能夠作為即插即用的模塊集成到現(xiàn)有的網(wǎng)絡(luò)架構(gòu)中去,整體流程如圖4所示。
1.3.1" 通道注意力模塊
通道注意力模塊將輸入的三維特征[F(H×W×C)]分別經(jīng)過最大池化層和平均池化層,得到[FCavg]和[FCmax]兩個維度為[1×1×C]的特征,再將兩個特征分別送入一個共享網(wǎng)絡(luò)MLP之后,對輸出的特征進行加和運算,再通過Sigmoid激活函數(shù),最終生成的通道注意力特征[MC∈R1×1×C]為空間注意力模塊提供需要的輸入特征,其計算公式見式(2),具體結(jié)構(gòu)如圖5所示。
[MC(F)=σ(MLP(AvgPool(F))+MLP(MaxPool(F)))]
[=σW1W0FCavg +W1W0FCmax]" " " (2)
式中:[σ]表示Sigmoid函數(shù);[W0∈RC/r×C],[W1∈RC×C/r],并且共享網(wǎng)絡(luò)MLP的權(quán)重[W0]和[W1]是共享的。
通道注意力模塊是將特征在空間維度上進行壓縮,得到一個一維矢量后再進行操作。在壓縮時,平均池化層和最大池化層可用來聚合特征映射的信息,送到共享網(wǎng)絡(luò)MLP后,壓縮輸入特征的空間維數(shù),逐元素求和合并以產(chǎn)生通道注意力特征。對于輸入的特征,通道注意力模塊關(guān)注的是輸入特征上哪些內(nèi)容是有重要作用的,平均池化層對特征上的每一個像素點都有反饋,而最大值池化在進行梯度反向傳播計算時,只有特征圖中響應(yīng)最大的地方有梯度的反饋。
1.3.2" 空間注意力模塊
空間注意力模塊將通道注意力模塊輸出的特征[MC]作為本模塊的輸入,首先經(jīng)過最大池化層和平均池化層,得到兩個二維映射特征:[FSavg∈R1×H×W]和[FSmax∈R1×H×W],將這兩個特征進行通道拼接操作之后,再經(jīng)過一個7×7的標(biāo)準(zhǔn)卷積層,降維為1后,經(jīng)過Sigmoid激活函數(shù)生成空間注意力特征[MS],其公式如式(3)所示,具體結(jié)構(gòu)如圖6所示。最后將該特征和該模塊的輸入做乘法,最終生成整個注意力機制的特征。
[MS(F)=σf7×7([AvgPool(F);MaxPool(F)])=σf7×7FSavg;FSmax]" (3)
式中:[σ]表示Sigmoid函數(shù);[f7×7]表示濾波大小為7×7的卷積運算。
空間注意力機制是對通道進行壓縮,在通道維度中分別進行了平均值池化和最大值池化,最大池化的操作就是在通道上提取最大值,平均池化的操作就是在通道上提取平均值,接著將前面提取到的特征(通道數(shù)都為1)合并得到一個雙通道的特征。
2" 實驗和評估
2.1" 數(shù)據(jù)集信息及選用電器
本文使用的數(shù)據(jù)集來自于常用數(shù)據(jù)集REDD,此數(shù)據(jù)集為幾個月內(nèi)的眾多真實房屋內(nèi)的特定電器的用電量,每個房屋都記錄了低頻功率數(shù)據(jù)和高頻電壓電流數(shù)據(jù),低頻功率數(shù)據(jù)總共有6個家庭的數(shù)據(jù),本文選用低頻功率第一個家庭中的冰箱、洗碗機、微波爐、水壺4種電器進行數(shù)據(jù)生成實驗。
2.2" 評估指標(biāo)
本文使用了五種常用性能指標(biāo)對生成的數(shù)據(jù)進行評估,分別是準(zhǔn)確率(Accuracy)、精確率(Precision)、召回率(Recall)、[F1]分?jǐn)?shù)([F1]?score)、AUC值。其中,AUC值指的是ROC曲線下的面積,它常常被用來作為判別生成數(shù)據(jù)好壞的指標(biāo),AUC可以看作是隨機從正負(fù)樣本中選取一對樣本后,其中正樣本的得分大于負(fù)樣本的概率。其他合成數(shù)據(jù)的評估指標(biāo)采用準(zhǔn)確率、精確率、召回率、[F1]分?jǐn)?shù),表達(dá)式分別如下:
[Accuracy=1-n=1∞et2×n=1∞ true ×100%] (4)
[Precision=True?PositivesTrue?Positives+False?Positives] (5)
[Recall=True?PositivesTrue?Positives+False?Negatives] (6)
[F1?score=2×Precision×RecallPrecision+Recall] (7)
式中:[n]是樣本數(shù);[et=predicted load-actual load];[true=actual load]。將評估生成數(shù)據(jù)的好壞看作二分類問題,生成的數(shù)據(jù)被分為兩類(設(shè)他們分別是正、反類或0、1類),而在經(jīng)過分類器分類之后,每一個數(shù)據(jù)樣本都會被分類器認(rèn)定為某一類(正(Positive)或反(Negative)),這也就是分類結(jié)果,最終判斷其分類結(jié)果正確與否(True和False)。
在使用傳統(tǒng)數(shù)據(jù)評估指標(biāo)的基礎(chǔ)上,本文還使用了主成分分析算法(PCA)進行數(shù)據(jù)評估,主成分分析算法是最常用的線性降維方法,它的目標(biāo)是通過某種線性投影,將高維的數(shù)據(jù)映射到低維的空間中,并期望在所投影的維度上數(shù)據(jù)的信息量最大(方差最大),以此使用較少的數(shù)據(jù)維度,同時保留住較多的原數(shù)據(jù)點的特性。PCA降維的目的就是在盡量保證信息量不丟失的情況下,對原始特征進行降維,也就是盡可能將原始特征往具有最大投影信息量的維度上進行投影,將原特征投影到這些維度上,使降維后信息量損失最小。
2.3" 模型對照以及實驗超參數(shù)設(shè)置
存儲電器數(shù)據(jù)的數(shù)據(jù)集以CSV的格式進行儲存,電器數(shù)據(jù)經(jīng)過預(yù)處理,使用“Min?Max標(biāo)量”對數(shù)據(jù)進行歸一化處理,將數(shù)據(jù)處理到0~1之間的值,再使用滑動窗口算法將數(shù)據(jù)切割成更小的數(shù)據(jù)載荷,再進行隨機排列,之后作為輸入傳遞給帶注意力的TimeGAN進行模型訓(xùn)練。使用Python語言實現(xiàn)帶注意力的TimeGAN框架,搭建的環(huán)境中各種數(shù)據(jù)包的版本如表1所示。
3" 結(jié)果與討論
3.1" 實驗結(jié)果對比
在對數(shù)據(jù)進行歸一化處理后,使用滑動窗口算法對真實的電器序列數(shù)據(jù)進行數(shù)據(jù)預(yù)處理,取一個大小為24的窗口,并沿著數(shù)據(jù)集的行運行,每次移動一個位置,獲得一定數(shù)量的2D矩陣,每個矩陣的長度為24,并具有所有列特征。之后將處理好的數(shù)據(jù)輸入到TimeGAN和CBAM混合模型中進行訓(xùn)練得到合成數(shù)據(jù),訓(xùn)練中的損失函數(shù)如圖7所示,真實數(shù)據(jù)與其合成電器的對比如圖8所示。
為驗證模型的準(zhǔn)確性,本文選取兩種其他模型作為對比模型,其中,一個為不帶注意力機制的時序生成對抗網(wǎng)絡(luò),另一個為同樣可以進行數(shù)據(jù)生成的TraceGAN。使用這兩種模型在相同的環(huán)境下對所選的4種電器進行數(shù)據(jù)生成,并選用Accuracy、Precision、Recall、[F1]?score、AUC五種評估指標(biāo)進行對比,對比結(jié)果如表2所示。
從表2中可以看出,改進后的TimeGAN在數(shù)據(jù)相似性、數(shù)據(jù)時序一致性、數(shù)據(jù)質(zhì)量等方面,均比原始的TimeGAN有了明顯的提升,改進后的TimeGAN可以生成更加真實和高質(zhì)量的數(shù)據(jù),相比于原始的TimeGAN在數(shù)據(jù)重構(gòu)方面和泛化能力方面都有所提高。相較于同樣能夠進行數(shù)據(jù)生成的TraceGAN來說,在Accuracy、Recall、[F1]?score、AUC指標(biāo)上有更好的表現(xiàn),這表明改進后的TimeGAN可以更好地模擬原始數(shù)據(jù)的分布和時序特征,進而生成更加真實、高質(zhì)量和多樣性的數(shù)據(jù)。
3.2" 可視化結(jié)果對比
為了更加準(zhǔn)確地對三種模型進行對比,本文還使用了主成分分析算法(PCA)對生成的數(shù)據(jù)進行比對,圖9~圖11為三種模型的PCA對比圖。其中灰色為真實數(shù)據(jù),黑色為合成數(shù)據(jù)。
由圖9~圖11可知,與使用PCA進行可視化的其他模型相比,改進后的TimeGAN生成的合成數(shù)據(jù)集與原始數(shù)據(jù)的重疊程度明顯更好,其本質(zhì)為改進后的TimeGAN能夠生成更加貼近真實數(shù)據(jù)的樣本,證明當(dāng)深度學(xué)習(xí)的數(shù)據(jù)量不夠時,可以通過此模型來合成新的數(shù)據(jù)以供使用。
4" 結(jié)" 論
在本文中,使用時序生成對抗網(wǎng)絡(luò)進行電器運行數(shù)據(jù)生成,并加入了通道空間雙注意力機制,將無監(jiān)督GAN的多功能性與監(jiān)督自回歸模型的時間動態(tài)控制相結(jié)合,使用監(jiān)督損失和聯(lián)合訓(xùn)練的嵌入網(wǎng)絡(luò),使構(gòu)建模型在生成時間序列數(shù)據(jù)方面有顯著改進。利用REDD數(shù)據(jù)集中4種電器來訓(xùn)練所提出的模型,使用Accuracy、Precision、Recall、[F1]?score、AUC五種評估指標(biāo)進行對比,并使用主成分分析法具象化生成數(shù)據(jù)與真實數(shù)據(jù)之間的相似程度,證明提出的TimeGAN和注意力機制的數(shù)據(jù)生成方法在原有框架上有很大提升。
注:本文通訊作者為汪偉。
參考文獻
[1] HART G W. Non intrusive appliance load monitoring [J]. Proceedings of the IEEE, 1992, 80(2): 1870?1891.
[2] 穆晨宇,薛文斌,穆羨瑛,等.基于VMD?LSTM?Attention模型的短期負(fù)荷預(yù)測研究[J].現(xiàn)代電子技術(shù),2023,46(17):174?178.
[3] 梁鍵,何江海,楊海濤.基于聚類算法的感應(yīng)式機械電能表防竊電監(jiān)測方法[J].自動化與儀表,2023,38(10):81?85.
[4] GOODFELLOW I, POUGET?ABADIE J. Generative adversarial nets [C]// Advances in Neural Information Processing Systems. [S.l.: s.n.], 2014: 2672?2680.
[5] GIOVANNI B, FABRIZIO C. Load identification system for residential applications based on the NILM technique [C]// 2020 IEEE International Instrumentation and Measurement Technology Conference. New York: IEEE, 2020: 1?6.
[6] ALON H, RICHARD J, STEPHEN M, et al. TraceGAN: Synthesizing appliance power signatures using generative adversarial networks [J]. IEEE transactions on smart grid, 2021, 12(5): 4553?4563.
[7] JINSUNG Y, DANIEL J. Time?series generative adversarial networks [C]// Proceedings of the 33rd International Conference on Neural Information Processing. [S.l.: s.n.], 2019: 5485?5495.
[8] HU J, SHEN L, SUN G. Squeeze?and?excitation networks [C]// 2018 IEEE/CVF Conference on Computer Vision and Pattern Recognition. New York: IEEE, 2018: 7132?7141.
[9] WANG F, JIANG M T, QIAN C, et al. Residual attention network for image classification [C]// IEEE Conference on Computer Vision and Pattern Recognition. New York: IEEE, 2017: 6450?6458.
[10] LONG C, HANWANG Z, JUN X, et al. SCA?CNN: Spatial and channel?wise attention in convolutional networks for image captioning [C]// 2017 IEEE Conference on Computer Vision and Pattern Recognition. New York: IEEE, 2017: 6298?6306.
[11] SANGHYUN W, JONGCHAN P, JOON?YOUNG L. CBAM: Convolutional block attention module [C]// 15th European Conference on Computer Vision. Heidelberg, Germany: Springer, 2018: 3?19.
[12] 燕續(xù)峰,翟少鵬,王治華,等.深度神經(jīng)網(wǎng)絡(luò)在非侵入式負(fù)荷分解中的應(yīng)用[J].電力系統(tǒng)自動化,2019,43(1):126?132.
[13] 周明,宋旭帆,涂京,等.基于非侵入式負(fù)荷監(jiān)測的居民用電行為分析[J].電網(wǎng)技術(shù),2018,42(10):3268?3276.
[14] 徐曉會,趙書濤,崔克彬.基于卷積塊注意力模型的非侵入式負(fù)荷分解算法[J].電網(wǎng)技術(shù),2021,45(9):3700?3706.
[15] HE K M, ZHANG X Y, REN S Q, et al. Deep residual learning for image recognition [C]// IEEE Conference on Computer Vision and Pattern Recognition. New York: IEEE, 2016: 770?778.
[16] ZHOU G, LI Z, FU M, et al. Sequence?to?sequence load disaggregation using multiscale residual neural network [J]. IEEE transactions on instrumentation and measurement, 2021, 70: 1?10.
[17] RAFIQ H, ZHANG H X, LI H M, et al. Regularized LSTM based deep learning model: First step towards real?time non?intrusive load monitoring [C]// IEEE International Conference on Smart Energy Grid Engineering. New York: IEEE, 2018: 234?239.
[18] 王瑩,項雯,張群,等.泛在電力物聯(lián)網(wǎng)下基于DPSO?Kmeans的客戶用電行為分析[J].哈爾濱理工大學(xué)學(xué)報,2022,27(2):106?113.
[19] DEVLIN J, CHANG M W, LEE K, et al. BERT: Pre?training of deep bidirectional transformers for language understanding [C]// Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies. [S.l.: s.n.], 2019: 4171?4186.
[20] 孫林,張一曼,張辰珂,等.基于改進粒子群和K?means聚類的優(yōu)化算法[J].江蘇科技大學(xué)學(xué)報(自然科學(xué)版),2023,37(3):81?90.
[21] KELLY J, KNOTTENBELT W. The UK?DALE dataset, domestic appliance?level electricity demand and whole?house demand from five UK homes [J]. Scientific data, 2015, 2(1): 1?14.
[22] 林順富,詹銀楓,李毅,等.基于CNN?BiLSTM與DTW的非侵入式住宅負(fù)荷監(jiān)測方法[J].電網(wǎng)技術(shù),2022,46(5):1973?1981.
作者簡介:施清譯(1998—),男,山東煙臺人,碩士,研究方向為非侵入式負(fù)荷監(jiān)測。
汪" 偉(1964—),男,浙江杭州人,教授,研究方向為非侵入式負(fù)荷監(jiān)測、鋰電池狀態(tài)估計及容量預(yù)測。
安斯光(1981—),女,吉林吉林人,教授,研究方向為電磁場數(shù)值計算。
鄒國平(1982—),男,浙江杭州人,博士,高級工程師,研究方向為多物理耦合場、電氣檢測技術(shù)。