劉海東，崔昊楊，樓志斌

(上海電力大學(xué) 電子與信息工程學(xué)院，上海 200090)

0 引 言

隨著智能電能表大規(guī)模安裝部署以及大數(shù)據(jù)技術(shù)的發(fā)展應(yīng)用使得對(duì)用戶負(fù)荷的能耗監(jiān)測(cè)成為可能。非侵入式負(fù)荷監(jiān)測(cè)(Nonintrusive Load Monitoring, NILM)技術(shù)是指在用戶總功率信息中提取出單個(gè)電器的功率數(shù)據(jù)，來判斷各電器的運(yùn)行狀態(tài)和能耗值。

非侵入式負(fù)荷分解最早于上世紀(jì)90年代由Hart提出，通過非侵入式采集硬件，獲得總功率信號(hào)并分析，進(jìn)而識(shí)別出電器設(shè)備的消耗曲線[1]。家庭用電行為習(xí)慣的差異以及智能家用電器運(yùn)行狀態(tài)的復(fù)雜性對(duì)算法模型的泛化能力提出了更高的要求。與高頻采樣相比，低頻采樣在硬件設(shè)備方面要求較低，在負(fù)荷側(cè)易于推廣實(shí)施。

以高頻采樣數(shù)據(jù)為主的研究，主要針對(duì)在電器發(fā)生瞬態(tài)行為時(shí)，通過數(shù)據(jù)中包含豐富的暫態(tài)特征信息[2]提取出各家用電器的獨(dú)有負(fù)荷特征，實(shí)現(xiàn)負(fù)荷分解。文獻(xiàn)[3]基于改進(jìn)匈牙利算法對(duì)負(fù)荷開啟與關(guān)閉時(shí)的暫態(tài)特征進(jìn)行匹配，實(shí)現(xiàn)負(fù)荷事件檢測(cè)。文獻(xiàn)[4-5]采用電器暫態(tài)特征融合的方法，并基于神經(jīng)網(wǎng)絡(luò)模型實(shí)現(xiàn)負(fù)荷的識(shí)別與分解。文獻(xiàn)[6]提出了一種動(dòng)態(tài)時(shí)間規(guī)整(Dynamic Time Warping, DTW)算法，通過提取暫態(tài)特征與參照模板進(jìn)行匹配，從而對(duì)負(fù)荷進(jìn)行識(shí)別，但未考慮用電器重合的情況。

以低頻采樣數(shù)據(jù)為主的研究，主要通過穩(wěn)態(tài)功率、均方根電壓等穩(wěn)態(tài)負(fù)荷特征建立分解模型。文獻(xiàn)[7]提出了一種基于隱馬爾科夫(Hidden Markov Models, HMM)算法和改進(jìn)Viterbi算法結(jié)合的分解方法。文獻(xiàn)[8]以穩(wěn)態(tài)電流諧波幅值作為負(fù)荷特征，用Adaboost算法和改進(jìn)后的反向傳播神經(jīng)網(wǎng)(Back Propagation, BP)實(shí)現(xiàn)負(fù)荷識(shí)別。

Kelly等人在2015年首次將深度學(xué)習(xí)應(yīng)用到NILM領(lǐng)域，提出了長短期記憶網(wǎng)絡(luò)(Long Short Term Memory, LSTM)、去噪自編碼器(Denoised Auto Encoder, DAE)和回歸分解器三種模型并進(jìn)行驗(yàn)證[9]。文獻(xiàn)[10-11]將機(jī)器翻譯領(lǐng)域中的端到端(Sequence to Sequence,Seq2Seq)模型應(yīng)用到非侵入式負(fù)荷分解中，并采用編解碼機(jī)制的網(wǎng)絡(luò)模型，其分解效果有很大改善。文獻(xiàn)[12-14]則在已有算法模型的基礎(chǔ)上進(jìn)行優(yōu)化，在負(fù)荷分解準(zhǔn)確率上有所提高。

不同國家和地區(qū)，其采樣頻率、采樣設(shè)備、環(huán)境以及用戶用電行為習(xí)慣存有較大差異[15-16]，而上述基于深度神經(jīng)網(wǎng)絡(luò)模型的研究在不同數(shù)據(jù)集中測(cè)試效果較差，網(wǎng)絡(luò)模型跨域分解的泛化能力并不理想。 雖然文獻(xiàn)[23]提出了基于CNN的序列到點(diǎn)模型，并討論了有關(guān)跨數(shù)據(jù)集分解問題，但僅是初步嘗試，未做進(jìn)一步研究，且分解準(zhǔn)確率較差。

文中基于深度學(xué)習(xí)，提出了一種雙向LSTM編解碼的序列到點(diǎn)模型，并運(yùn)用遷移學(xué)習(xí)[17]實(shí)現(xiàn)跨域分解，在UKDALE[18]、REFIT[19]、REDD[20]和DRED[21]四種數(shù)據(jù)集上訓(xùn)練和測(cè)試。文章首先與目前分解效果較好的DAE[22]模型和基于CNN網(wǎng)絡(luò)的Seq2Seq[23]模型進(jìn)行遷移預(yù)測(cè)對(duì)比，驗(yàn)證本模型神經(jīng)網(wǎng)絡(luò)架構(gòu)的優(yōu)越性。其次在跨域分解泛化性方面與文獻(xiàn)[16]中基于CNN網(wǎng)絡(luò)進(jìn)行跨域分解的模型進(jìn)行對(duì)比，該模型也屬于Seq2Point模型的一種。

1 非侵入式負(fù)荷跨域分解模型

1.1 分解模型流程圖

文中所提出的非侵入式負(fù)荷跨域分解模型流程圖如圖1所示。

圖1 非侵入式負(fù)荷跨域分解流程圖

文中所提模型通過對(duì)源域低頻數(shù)據(jù)學(xué)習(xí)訓(xùn)練，得到預(yù)訓(xùn)練模型，然后在不同數(shù)據(jù)集中對(duì)預(yù)訓(xùn)練模型進(jìn)行遷移學(xué)習(xí)，獲得適用于目標(biāo)域數(shù)據(jù)集分解任務(wù)的網(wǎng)絡(luò)模型，從而實(shí)現(xiàn)跨域負(fù)荷分解。

1.2 滑窗算法與序列到點(diǎn)模型

由于深度學(xué)習(xí)模型的輸入序列長度有限且固定，而負(fù)荷功耗數(shù)據(jù)是一種長序列數(shù)據(jù)，不能直接輸入。因此文章采用滑動(dòng)窗口的方法，通過設(shè)定負(fù)荷輸入窗口的大小對(duì)功耗數(shù)據(jù)進(jìn)行分段，每個(gè)窗口包含功耗數(shù)據(jù)的時(shí)間序列索引和各種power特性。模型的輸入窗口范圍設(shè)定為10 min～30 min，類似于一個(gè)mini_batch的大小。以6 s的采樣周期為例，每個(gè)窗口的大小為100～300個(gè)采樣點(diǎn)。

基于CNN和LSTM的算法采用了端到端(Seq2Seq)模型，該模型的輸出值是對(duì)窗口數(shù)據(jù)的平均預(yù)測(cè)，平滑了邊緣數(shù)據(jù)，造成負(fù)荷分解誤差。文章采用序列到點(diǎn)(Seq2Point)模型預(yù)測(cè)窗口的中點(diǎn)值，減小了窗口邊緣信息的影響，凸顯輸入窗口中處于穩(wěn)定狀態(tài)的真實(shí)信息，提高了模型的泛化性。

1.2.1 負(fù)荷分解模型

分解任務(wù)模型可以描述為：Y={y1,y2,……,yT}表示在一段時(shí)間內(nèi)某用戶的總功率消耗，假設(shè)房屋內(nèi)有M種電器，其中電器i在相應(yīng)時(shí)間段內(nèi)的功率消耗可表示為Xi={xi1,xi2,……,xiT}，每個(gè)時(shí)間步長內(nèi)的總功率是該段時(shí)間內(nèi)所有負(fù)荷設(shè)備功率的總和，完整的分解模型可以表示為：

(1)

式中ut表示未知電器在t時(shí)刻的功率數(shù)據(jù)；∈t表示t時(shí)刻的零均值高斯噪聲[24]。

1.2.2 基于LSTM編解碼機(jī)制的Seq2Point模型

文章采用端到點(diǎn)的模型結(jié)構(gòu)，并引入了基于LSTM網(wǎng)絡(luò)的編解碼架構(gòu)對(duì)輸入信息進(jìn)行提取和訓(xùn)練。相比于基于CNN網(wǎng)絡(luò)的Seq2Point模型[16]LSTM網(wǎng)絡(luò)能夠提取時(shí)間關(guān)聯(lián)信息，減少源信息的丟失。模型針對(duì)不同電器設(shè)計(jì)輸入窗口Yt:(t+win-1)的大小，所提編解碼結(jié)構(gòu)如圖2所示。

圖2 基于LSTM網(wǎng)絡(luò)的編解碼結(jié)構(gòu)圖

輸入窗口功耗數(shù)據(jù)yt:θt經(jīng)編碼器對(duì)時(shí)間序列的先后順序編碼，生成當(dāng)前時(shí)刻隱藏狀態(tài)向量ht：

ht=f(ht-1,yt:θt)

(2)

式中θt=(t+win-1)，編碼過程中由輸入序列每時(shí)刻的隱藏狀態(tài){h1,h2,…,hT}，獲取包含窗口全部功耗信息的上下文向量C：

C=f(h1,h2,…,hT)

(3)

解碼時(shí)將上下文向量C作為輸入信號(hào)的一部分參與運(yùn)算，并生成解碼向量C過程中的隱藏狀態(tài)St，解碼器網(wǎng)絡(luò)將包含的功耗信息分解出來。

St=f(St-1,xt-1:σt-1,C)

(4)

P(xt:σt|x1:σ1,x2:σ2,…,xt-1:σt-1)=g(st,xt-1:σt-1,C)

(5)

1.3 神經(jīng)網(wǎng)絡(luò)架構(gòu)設(shè)計(jì)

文章采用基于LSTM網(wǎng)絡(luò)的Encoder-Decoder結(jié)構(gòu)，神經(jīng)網(wǎng)絡(luò)架構(gòu)如圖3所示。

圖3 神經(jīng)網(wǎng)絡(luò)架構(gòu)圖

網(wǎng)絡(luò)架構(gòu)采用一個(gè)卷積層讀取輸入層已處理好的窗口數(shù)據(jù)，編碼器采用兩層雙向LSTM網(wǎng)絡(luò)，生成包含Yt:(t+win-1)中全部功耗信息的上下文向量C，解碼器采用與編碼器相同的網(wǎng)絡(luò)架構(gòu)，經(jīng)過Dense全連接層，在輸出層得到輸出窗口的預(yù)測(cè)中點(diǎn)元素。

為防止預(yù)訓(xùn)練模型時(shí)過度擬合的現(xiàn)象發(fā)生，編碼器層間同樣加入Dropout層，keep_prob設(shè)置為0.5，采用Adam優(yōu)化器，損失函數(shù)采用均方誤差(Mse)函數(shù)，定義如下：

(6)

1.4 遷移學(xué)習(xí)

遷移學(xué)習(xí)在NLP領(lǐng)域應(yīng)用較為廣泛，能夠極大地減小計(jì)算資源和訓(xùn)練時(shí)間，文中進(jìn)行遷移學(xué)習(xí)的過程如圖4所示。

針對(duì)NILM領(lǐng)域中不同數(shù)據(jù)集同類型電器負(fù)荷特征相似，且需訓(xùn)練數(shù)據(jù)量大的特點(diǎn)，文章基于負(fù)荷特征信息，采用模型遷移的方式，對(duì)預(yù)訓(xùn)練模型進(jìn)行微調(diào)來實(shí)現(xiàn)遷移學(xué)習(xí)。

在微調(diào)過程中，將源域訓(xùn)練模型中全連接層之前的網(wǎng)絡(luò)層凍結(jié)，即共享編解碼網(wǎng)絡(luò)及其網(wǎng)絡(luò)權(quán)重，通過降低未凍結(jié)層中的學(xué)習(xí)率進(jìn)行多次微調(diào)，在目標(biāo)域數(shù)據(jù)集中重新訓(xùn)練全連接層，進(jìn)而獲得新的隨機(jī)權(quán)重。此遷移學(xué)習(xí)過程節(jié)省了主要網(wǎng)絡(luò)的訓(xùn)練時(shí)間地同時(shí)，獲得了對(duì)目標(biāo)數(shù)據(jù)集有較好分解能力的網(wǎng)絡(luò)模型，極大地提高了模型的泛化性。

圖4 遷移學(xué)習(xí)模型

2 數(shù)據(jù)選取與處理

2.1 數(shù)據(jù)集介紹

為了驗(yàn)證所提分解算法的有效性和準(zhǔn)確性，本文選擇了以下四個(gè)公開的數(shù)據(jù)集，涵蓋了不同國家不同地區(qū)的數(shù)據(jù)樣本。

UK-DALE數(shù)據(jù)集[18]是英國的Jack Kelly在2015年首次發(fā)布的包含5個(gè)英國家庭的總電源和子設(shè)備的有功功率，數(shù)據(jù)集中的采樣周期為6 s，其中也記錄了16 kHz的高頻數(shù)據(jù)，采集時(shí)間大致為1年～2.5年。

REFIT數(shù)據(jù)集[19]是英國的Stratitclyde大學(xué)于2015年發(fā)布，包含了來自英國拉夫堡地區(qū)20個(gè)家庭的總電源和9個(gè)子設(shè)備的有功功率測(cè)量，采樣周期為8 s，采集時(shí)間為兩年。

REDD數(shù)據(jù)集[20]于2011年發(fā)布，采集了6個(gè)美國家庭的總功率和子設(shè)備能耗數(shù)據(jù)，采樣頻率為1 Hz，其中還包含兩個(gè)房屋主電源的高頻數(shù)據(jù)。

DRED數(shù)據(jù)集[21]是荷蘭TUDelft大學(xué)發(fā)布的荷蘭一所房屋的電力數(shù)據(jù)，包含了房屋環(huán)境信息和電器設(shè)備能耗信息，采樣頻率為1 Hz，采集時(shí)間為6個(gè)月。

上述數(shù)據(jù)集的格式不統(tǒng)一，選擇通過NILMTK工具包[22]的解析器將其轉(zhuǎn)換為hdf5格式。

2.2 電器選擇與數(shù)據(jù)預(yù)處理

為了使最終的結(jié)果與其他文獻(xiàn)有可比性，選擇的電器分別為冰箱、電水壺、洗衣機(jī)、微波爐以及洗碗機(jī)。由于四種不同數(shù)據(jù)集的采樣頻率不同，使得跨數(shù)據(jù)集間的負(fù)荷激活提取以及訓(xùn)練完成后的測(cè)試存在困難，采取的方法是對(duì)于采樣周期大于1 s的數(shù)據(jù)集，將窗口讀取到的輸入序列通過正向填充的方法預(yù)處理到1 s，然后返回到原來的采樣間隔，將得到的輸入序列數(shù)據(jù)減去激活設(shè)備的平均值，再除以標(biāo)準(zhǔn)差。該方法只作為一種數(shù)據(jù)標(biāo)準(zhǔn)化的處理手法并不會(huì)對(duì)原有數(shù)據(jù)中包含的負(fù)荷特征信息產(chǎn)生影響。針對(duì)各電器的工作周期不同，本文通過對(duì)窗口的大小進(jìn)行多次微調(diào)，選擇出激活設(shè)備的序列長度，以及對(duì)應(yīng)的平均功率值與標(biāo)準(zhǔn)差功率值，相關(guān)參數(shù)如表1所示。

表1 文中對(duì)每種電器設(shè)備使用的參數(shù)

2.3 數(shù)據(jù)的選擇

因采集所采用的設(shè)備以及測(cè)量時(shí)激活或捕獲設(shè)備狀態(tài)存在不確定性，使得數(shù)據(jù)集中難免存在噪聲數(shù)據(jù)。噪聲占比過大會(huì)嚴(yán)重影響分解性能，因此，選取數(shù)據(jù)集中的可靠數(shù)據(jù)作為訓(xùn)練數(shù)據(jù)十分重要。多數(shù)文獻(xiàn)采用能量比(Energy Ratio, ER)作為房屋數(shù)據(jù)集的評(píng)價(jià)指標(biāo)，但評(píng)價(jià)結(jié)果較單一，文章引入了測(cè)試集比率(Test Set Ratio, TSR)和噪聲總比率(Noise to Aggregate Ratio, NAR)[25]兩種關(guān)于數(shù)據(jù)集的評(píng)價(jià)指標(biāo)。

NAR的設(shè)定源于實(shí)際數(shù)據(jù)集中總功率信號(hào)所包含的未知設(shè)備及其他噪聲信號(hào)所引起的誤差項(xiàng)，為了量化有功功率信號(hào)的噪聲量，引入噪聲總比率，其定義為：

(7)

式中yt是總功率信號(hào)；xit為電器設(shè)備i(i=1,2,3,…,M)的功率信號(hào)；t為觀察到的時(shí)間幀的長度。

TSR用于描述能量時(shí)間序列的測(cè)試持續(xù)時(shí)間與總持續(xù)時(shí)間之間的比率，即有效采集時(shí)間與總時(shí)間的比率，定義為：

(8)

基于這兩種評(píng)價(jià)標(biāo)準(zhǔn)文中測(cè)試了所選4個(gè)測(cè)試集中所有的房屋數(shù)據(jù)，以一到兩個(gè)月為時(shí)間間隔對(duì)其進(jìn)行評(píng)價(jià)，選取評(píng)分較高時(shí)間段的作為訓(xùn)練和測(cè)試數(shù)據(jù)。另外，REDD數(shù)據(jù)集中House3中的數(shù)據(jù)只有40多天，不作為訓(xùn)練集。所選數(shù)據(jù)集的相關(guān)評(píng)價(jià)如表2所示。

表2 所選數(shù)據(jù)集房屋的NAR和TSR評(píng)分

3 實(shí)驗(yàn)分析

3.1 實(shí)驗(yàn)平臺(tái)

軟件平臺(tái)為Win10操作系統(tǒng)，Python3.7.3(64位)Tensorflow-gpu1.14.1、Keras，開發(fā)環(huán)境基于開源NILMTK工具包，編譯IDE為Jupyter與Spyder。

3.2 評(píng)價(jià)指標(biāo)

為了對(duì)所述模型全面評(píng)價(jià)，并方便與其它文獻(xiàn)的方法進(jìn)行對(duì)比，文中選取了準(zhǔn)確率(Accuracy)、精準(zhǔn)度Precision、召回率Recall、F1分?jǐn)?shù)(狀態(tài)預(yù)測(cè))、平均絕對(duì)誤差(MAE)和均方根誤差(RMSE)六種評(píng)價(jià)指標(biāo)。

(9)

(10)

(11)

(12)

(13)

(14)

3.3 結(jié)果分析

基于上節(jié)所述評(píng)價(jià)指標(biāo),在4個(gè)數(shù)據(jù)集上做了大量測(cè)試，由于數(shù)據(jù)集和房屋數(shù)量大，其訓(xùn)練和測(cè)試的組合方式也很多，文章主要以UK-DALE和REFIT兩個(gè)數(shù)據(jù)集作為訓(xùn)練集，REFIT、REDD和DRED三個(gè)數(shù)據(jù)集作為測(cè)試集。所選訓(xùn)練數(shù)據(jù)與測(cè)試數(shù)據(jù)如表3所示。

表3 所選訓(xùn)練集和測(cè)試集

該實(shí)驗(yàn)選取UK-DALE數(shù)據(jù)集House1,House2中三到四個(gè)月的電器數(shù)據(jù)作為訓(xùn)練集，以REFIT數(shù)據(jù)集House2中的10天電器數(shù)據(jù)作為測(cè)試集。采用遷移學(xué)習(xí)在訓(xùn)練集中進(jìn)行預(yù)訓(xùn)練，在目標(biāo)域中對(duì)比三種算法在五種常用電器測(cè)試效果，并對(duì)文章模型功率分解結(jié)果進(jìn)行可視化展示，如圖5所示。

可以看出文章關(guān)注的并不僅僅是各電器運(yùn)行時(shí)短時(shí)間內(nèi)預(yù)測(cè)的準(zhǔn)確度，還包括未運(yùn)行時(shí)長時(shí)間內(nèi)預(yù)測(cè)情況。所提模型在電器未啟用的較長時(shí)間段，能夠較為準(zhǔn)確地判斷出電器的開關(guān)狀態(tài)。針對(duì)冰箱，所提模型經(jīng)過一個(gè)運(yùn)行周期的適應(yīng)，分解的預(yù)測(cè)值能夠穩(wěn)定在真實(shí)值附近波動(dòng)；對(duì)于洗衣機(jī)和水壺兩種設(shè)備，功率分解預(yù)測(cè)曲線與真實(shí)值曲線基本重合，且在其他關(guān)閉時(shí)間未有明顯波動(dòng)；對(duì)于洗碗機(jī)而言雖出現(xiàn)誤差，但總體分解效果較好。由于微波爐是一種短時(shí)運(yùn)行用電器，運(yùn)行時(shí)間只有幾分鐘，測(cè)試選取的時(shí)間相比其他用電器跨度大，所以分解效果出現(xiàn)較大偏差。圖6為三種算法對(duì)五種電器功耗預(yù)測(cè)分解后的評(píng)價(jià)對(duì)比結(jié)果。

圖5 文章算法對(duì)各電器的跨域負(fù)荷分解結(jié)果

圖6 測(cè)試結(jié)果評(píng)價(jià)

由圖6中測(cè)試評(píng)價(jià)結(jié)果可以看出，所提跨域分解遷移學(xué)習(xí)模型在5種家用電器的負(fù)荷分解準(zhǔn)確率均能達(dá)到92%以上，準(zhǔn)確度和f1分?jǐn)?shù)的得分比另外兩種模型均高，說明本模型的分解準(zhǔn)確性和泛化性更具優(yōu)勢(shì)。文章同樣在REDD與DRED數(shù)據(jù)集中進(jìn)行大量對(duì)比測(cè)試，結(jié)果顯示文中模型在三種電器中均取得了較好的分解效果，尤其以對(duì)DRED數(shù)據(jù)集中的冰箱功耗分解測(cè)試中，分解準(zhǔn)確率達(dá)到了90%較于DAE和Seq2Seq模型分別提高12%和36%，分解誤差則分別降低了42%和48%。

所提模型與文獻(xiàn)[16]提出的基于CNN網(wǎng)絡(luò)跨域分解模型進(jìn)行對(duì)比，該模型不僅所選數(shù)據(jù)集覆蓋的地域范圍廣，并且在2019年歐洲NILM會(huì)議上與其他最新研究成果對(duì)比均取得較高的效果。選取REFIT作為訓(xùn)練集，REDD中的House2作為測(cè)試集，與文獻(xiàn)[16]中評(píng)價(jià)指標(biāo)一致。測(cè)試結(jié)果表明文中模型的網(wǎng)絡(luò)架構(gòu)在很大程度上提高了負(fù)荷跨數(shù)據(jù)集分解的準(zhǔn)確率，誤差也大幅度縮小，選取其中四種指標(biāo)其結(jié)果如表4所示。

表4 文中模型與文獻(xiàn)模型結(jié)果對(duì)比

4 結(jié)束語

文章針對(duì)低頻數(shù)據(jù)，采用深度學(xué)習(xí)架構(gòu)，提出了一種更具泛化性的跨域分解模型。

(1)采用滑窗算法實(shí)現(xiàn)對(duì)輸入序列分段，解決了深度學(xué)習(xí)模型不能輸入長序列的問題，并針對(duì)不同用電器設(shè)定了窗口大小；

(2)采用序列到點(diǎn)模型預(yù)測(cè)輸出序列窗口的中點(diǎn)值，減小了邊緣數(shù)據(jù)的影響；

(3)引入基于雙向LSTM網(wǎng)絡(luò)的Encoder-Decoder結(jié)構(gòu)，能夠?qū)π畔⒂行崛∨c利用從而增大數(shù)據(jù)樣本預(yù)測(cè)正確的概率；

(4)采用基于模型遷移的學(xué)習(xí)方法實(shí)現(xiàn)不同數(shù)據(jù)集間的跨域分解，提高了網(wǎng)絡(luò)模型的泛化能力。

文章模型在多個(gè)評(píng)價(jià)指標(biāo)上均取得較好的結(jié)果，證明了該模型在實(shí)現(xiàn)跨數(shù)據(jù)集預(yù)測(cè)的優(yōu)越性以及更好的泛化性。