亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        基于自學(xué)習(xí)邊權(quán)重圖卷積網(wǎng)絡(luò)的用戶用能分類①

        2022-09-20 04:11:46李文峰鄧曉平孟宋萍
        關(guān)鍵詞:電表卷積神經(jīng)網(wǎng)絡(luò)

        李文峰, 鄧曉平, 彭 偉, 孟宋萍

        (山東建筑大學(xué) 信息與電氣工程學(xué)院, 濟(jì)南 250101)

        智能電表作為一種末端設(shè)備, 在智能電網(wǎng)中早已得到了廣泛的應(yīng)用. 智能電表記錄的高分辨率數(shù)據(jù)涵蓋了消費(fèi)者用電行為的海量信息, 為分析用戶能耗行為提供了重要參考. 同時, 電力服務(wù)部門和公司開始以用戶為導(dǎo)向, 通過深入挖掘用電數(shù)據(jù)和客戶潛在需求,提供穩(wěn)定, 安全, 便捷, 高效, 環(huán)保的個性化綜合用能服務(wù). 用戶分類是智能電表數(shù)據(jù)分析的重要領(lǐng)域, 旨在通過智能電表數(shù)據(jù)對不同的負(fù)荷或用戶進(jìn)行分類. 通過對智能電表數(shù)據(jù)進(jìn)行分類, 電力部門不僅可以了解區(qū)域內(nèi)不同用戶的特征及構(gòu)成, 改善用戶用電質(zhì)量, 還可根據(jù)用戶分布協(xié)調(diào)區(qū)域用能總量, 提高資源利用率. 因此, 用戶分類在電網(wǎng)智能化發(fā)展和智能電表數(shù)據(jù)應(yīng)用上具有重要意義, 并在能耗預(yù)測[1], 竊電檢測[2]和個性化電價設(shè)計(jì)[3]等其他領(lǐng)域發(fā)揮著重要作用.

        用戶分類的方法可分為無監(jiān)督分類方法和監(jiān)督分類方法. 其中, 無監(jiān)督分類方法以聚類[4]作為主要的分類手段, 常用的方法包括模糊C均值算法[5], 層次聚類[6]和自組織映射[7]等. 但上述方法的分類性能受算法參數(shù), 先驗(yàn)知識和異常數(shù)據(jù)的影響. 因此, 無監(jiān)督方法不適合大規(guī)模數(shù)據(jù)集和復(fù)雜場景下的分類任務(wù).

        監(jiān)督分類方法旨在建立用能數(shù)據(jù)與用戶標(biāo)簽之間的映射關(guān)系, 從而實(shí)現(xiàn)用戶分類. 隨著深度學(xué)習(xí)的興起,許多深度學(xué)習(xí)方法開始被應(yīng)用于有監(jiān)督的用戶分類領(lǐng)域, 如極限學(xué)習(xí)機(jī)[8], 深度置信網(wǎng)絡(luò)[9]和卷積神經(jīng)網(wǎng)絡(luò)[10]等. 在文獻(xiàn)[11]中, 研究人員使用遞歸算法去除冗余特征, 并提出了一種基于極限學(xué)習(xí)機(jī)和支持向量機(jī)的混合網(wǎng)絡(luò)以實(shí)現(xiàn)用戶分類和預(yù)測. 文獻(xiàn)[12]構(gòu)建了一種基于卷積網(wǎng)絡(luò)的分類架構(gòu), 并在該分類網(wǎng)絡(luò)上實(shí)現(xiàn)了多種優(yōu)化算法的性能比較. 除此之外, 文獻(xiàn)[13]通過基于樣本的過采樣方法解決分類數(shù)據(jù)不平衡問題,并在此基礎(chǔ)上構(gòu)建長短期網(wǎng)絡(luò)提取用戶特征, 輸出用戶類別. 該方法有效提高了在不平衡數(shù)據(jù)集上的分類精度. 但深度學(xué)習(xí)方法的提取特征多為抽象特征, 難以直觀表示數(shù)據(jù)之間的相互關(guān)系. 此外, 各種分類方法在用戶分類的精度仍需進(jìn)一步提高.

        近年來, 圖神經(jīng)網(wǎng)絡(luò)[14]作為一種新興的深度學(xué)習(xí)技術(shù), 已成功地應(yīng)用于多領(lǐng)域分類任務(wù)中, 如圖像識別[15], 文本分類[16]和交通預(yù)測[17]等. 與現(xiàn)有方法相比,圖神經(jīng)網(wǎng)絡(luò)不僅可以直觀地表示數(shù)據(jù)之間的關(guān)系, 而且特征學(xué)習(xí)也更加多樣化. 因此, 圖神經(jīng)網(wǎng)絡(luò)在用戶用能分類領(lǐng)域提供了一條有效的思路, 但需要解決由離散數(shù)據(jù)到圖數(shù)據(jù)的轉(zhuǎn)化問題.

        在相關(guān)工作的啟發(fā)下, 本文提出了一種基于自學(xué)習(xí)邊權(quán)重的圖卷積網(wǎng)絡(luò)分類方法(AEW-GCN), 實(shí)現(xiàn)了不同社會信息下的用戶分類. 本文的主要貢獻(xiàn)為: (1) 構(gòu)建了一種自學(xué)習(xí)邊權(quán)重的圖卷積分類網(wǎng)絡(luò), 通過構(gòu)建圖卷積分類器, 提高了用戶分類的準(zhǔn)確率; (2) 給出了一種基于注意力機(jī)制的圖轉(zhuǎn)化方法, 實(shí)現(xiàn)了由智能電表數(shù)據(jù)到圖數(shù)據(jù)的自動轉(zhuǎn)換, 并自動學(xué)習(xí)圖數(shù)據(jù)特征,從而減少了對人工特征的依賴; (3) 在實(shí)際數(shù)據(jù)集中與現(xiàn)有分類方法進(jìn)行了對比, 在不同社會信息下的分類實(shí)驗(yàn)驗(yàn)證了本文方法的有效性和優(yōu)越性.

        1 相關(guān)介紹

        1.1 用戶用能分類問題

        用戶用能分類旨在尋找用戶能耗數(shù)據(jù)與用戶標(biāo)簽之間的最優(yōu)映射函數(shù). 用戶用能分類過程如圖1所示,其主要包括用戶特征的表示和用戶分類兩個過程. 特征表示是將實(shí)例從輸入空間映射到特征空間的過程.假設(shè)用戶能耗數(shù)據(jù)為 X, 用戶標(biāo)簽為Y , 特征表示的過程可表示為:

        其中, C f 是用戶特征, E 是特征提取函數(shù), θe為特征函數(shù)的參數(shù).

        對于已知的用戶特征C f 和用戶標(biāo)簽Y , 用戶分類的過程是通過構(gòu)建分類器篩選用戶特征并根據(jù)相應(yīng)特征輸出用戶類別, 此過程可表示為:

        由上述特征表示和分類過程可以得出, 分類問題的實(shí)質(zhì)在于尋找一組最優(yōu)參數(shù), 該組參數(shù)使得網(wǎng)絡(luò)的分類正確率最高或誤差最小.

        1.2 圖神經(jīng)網(wǎng)絡(luò)

        圖是一種特殊的數(shù)據(jù)結(jié)構(gòu), 它對實(shí)例(節(jié)點(diǎn))進(jìn)行建模, 并表示實(shí)例之間(邊)的關(guān)系. 在一個圖中, 節(jié)點(diǎn)的數(shù)據(jù)及其鄰居節(jié)點(diǎn)的邊包含了大量的潛在信息. 圖神經(jīng)網(wǎng)絡(luò)旨在從節(jié)點(diǎn)數(shù)據(jù)及其邊中提取所需的特征,并根據(jù)提取的特征輸出相應(yīng)的結(jié)果. 圖神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程可以表示為:

        其中, hv為特征向量, fG為圖神經(jīng)網(wǎng)絡(luò)內(nèi)置函數(shù), xv,te[v]和 xne[v]分別為節(jié)點(diǎn)數(shù)據(jù)、節(jié)點(diǎn)的邊權(quán)重和鄰居節(jié)點(diǎn)數(shù)據(jù). A ct 和ov為激活函數(shù)與網(wǎng)絡(luò)輸出. 圖神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程可由圖2表示.

        圖2 圖神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)過程

        2 自學(xué)習(xí)邊權(quán)重的圖卷積分類網(wǎng)絡(luò)

        本文提出了一種自動學(xué)習(xí)邊權(quán)重的圖卷積分類網(wǎng)絡(luò)(AEW-GCN), 其利用圖卷積網(wǎng)絡(luò)構(gòu)建分類器, 并引入帶有注意力機(jī)制圖轉(zhuǎn)化方法 能夠有效提升用戶分類的精度, 自動學(xué)習(xí)特征并減少對人工特征的依賴. 該網(wǎng)絡(luò)由3部分組成, 分別為圖初始化層、特征提取與變換層和圖卷積分類層. 其中, 圖初始化層完成圖數(shù)據(jù)轉(zhuǎn)換, 特征提取與變換層實(shí)現(xiàn)圖上特征的提取和篩選, 圖卷積分類層輸出最終分類結(jié)果, 整個分類網(wǎng)絡(luò)的架構(gòu)如圖3所示. 下面將對網(wǎng)絡(luò)的每個部分展開介紹.

        圖3 自學(xué)習(xí)邊權(quán)重圖卷積分類網(wǎng)絡(luò)圖

        2.1 圖初始化層

        由于原始用能數(shù)據(jù)不能直接被圖神經(jīng)網(wǎng)絡(luò)處理,為此, 本文建立了一個帶有注意力機(jī)制的圖初始化層以實(shí)現(xiàn)由原始數(shù)據(jù)到圖數(shù)據(jù)的轉(zhuǎn)化. 圖初始化層主要有兩個功能, 一方面, 圖初始化層將原始時間序列數(shù)據(jù)轉(zhuǎn)化為無向完全圖; 另一方面, 注意力機(jī)制的應(yīng)用使得網(wǎng)絡(luò)能夠自動學(xué)習(xí)圖的邊的權(quán)重參數(shù), 并隨網(wǎng)絡(luò)更新參數(shù). 將原始數(shù)據(jù)轉(zhuǎn)化為圖的過程分為以下幾個步驟.

        首先, 能耗數(shù)據(jù)由GRU-CNN混合層處理, 該混合層由一層GRU和CNN堆棧而成. 混合層的目的是提取原始數(shù)據(jù)的時序特征, 并輸出狀態(tài)參數(shù)R. 狀態(tài)參數(shù)R的計(jì)算過程可表示為:

        其中, X 為輸入數(shù)據(jù), fgru是 GRU網(wǎng)絡(luò)內(nèi)置函數(shù), d是卷積核, k為卷積通道數(shù).

        其次, 圖初始化層以狀態(tài)參數(shù)R 作為初始值, 根據(jù)注意機(jī)制計(jì)算節(jié)點(diǎn)權(quán)重矩陣W . 權(quán)重矩陣的計(jì)算過程可表示為:

        其中, Q和 K 為查詢值和鍵值, WQ和WK分別為 Q 和 K 的參數(shù), S為輸入的維度, Softmax表示Softmax函數(shù).

        最后, 圖初始化層以權(quán)重矩陣W 作為鄰接矩陣, 生成圖數(shù)據(jù). 生成的圖數(shù)據(jù)可表示為:

        其中, Xv是 節(jié)點(diǎn)數(shù)據(jù), N 為圖上節(jié)點(diǎn)數(shù)目.

        2.2 特征提取與變換層

        特征提取與變換層旨在提取圖中的特征并輸出新的特征重構(gòu)圖. 為了更全面地提取圖數(shù)據(jù)特征, 本文引入圖傅里葉變換(GFT)和離散傅里葉變換(DFT)作為特征提取方法. 其中, 圖傅里葉變換可以充分考慮圖結(jié)構(gòu)特點(diǎn), 離散傅里葉變換則提取節(jié)點(diǎn)數(shù)據(jù)特征. 特征提取過程可表示為:

        其中, G和F 分別為圖傅里葉變換與離散傅里葉變換,Gf為特征數(shù)據(jù).

        特征提取完成后, 本文使用多層門控線性單元(GLU)對特征進(jìn)行篩選, 為提高原始特征的利用率, 本文在特征篩選中引入跳躍連接機(jī)制, 這使得每一層GLU網(wǎng)絡(luò)輸出由當(dāng)前層和它之前層的輸出共同決定.第 p層的特征篩選過程可表示為:

        其中, Xp是第p 層輸入, fGLU表 示GLU內(nèi)置函數(shù),ReLU為ReLU函數(shù), Hi為 p 層 之前的特征輸出, Hp為 第 p層輸出, σ為Sigmoid函數(shù). 特征篩選網(wǎng)絡(luò)架構(gòu)可如圖4所示.

        圖4 特征篩選網(wǎng)絡(luò)架構(gòu)

        根據(jù)篩選特征, 特征重構(gòu)圖可被表示為:

        其中, G-1和F-1分別表示圖傅里葉與離散傅里葉的逆變換過程, Gr代表輸出特征重構(gòu)圖, Hr為重構(gòu)特征.

        2.3 圖卷積分類層

        圖卷積分類層實(shí)現(xiàn)特征重構(gòu)圖上的卷積運(yùn)算, 并輸出分類結(jié)果. 圖上的卷積過程可表示為:

        其中, Gr是特征重構(gòu)圖, Xgr為重構(gòu)節(jié)點(diǎn)數(shù)據(jù), gc是圖卷積算子, Ugr是重構(gòu)特征圖的特征向量矩陣, ⊙表示哈達(dá)瑪積.

        為了減少卷積運(yùn)算中的參數(shù)和計(jì)算量, 本文使用切比雪夫卷積核代替?zhèn)鹘y(tǒng)的圖卷積核, 則圖卷積過程可被重新表示為:

        其中, yc為卷積輸出, θG和TG為切比雪夫卷積核參數(shù),可由特征重構(gòu)圖的特征值矩陣Λgr計(jì) 算得出, λmax是中最大的特征值, IN為單位矩陣, σ是Sigmoid函數(shù).

        最后, 網(wǎng)絡(luò)通過全連接層輸出最后的分類結(jié)果︿y ,該過程可表示為:

        其中, Wu和 bu是 全連接層的參數(shù)與偏置值, σ為Sigmoid函數(shù).

        3 實(shí)驗(yàn)

        3.1 實(shí)驗(yàn)數(shù)據(jù)

        本文所采用的實(shí)驗(yàn)數(shù)據(jù)是由愛爾蘭能源管制委員會(CER)[18]提供, 該委員會提供了包含了超過4 300個用戶530天的電力和天然氣消費(fèi)信息. 數(shù)據(jù)采樣間隔為30 min. 為了充分證明該方法的有效性, 本文選取70%的數(shù)據(jù)進(jìn)行訓(xùn)練, 10%的數(shù)據(jù)作為驗(yàn)證集, 剩余20%的數(shù)據(jù)作為測試集. 此外, CER數(shù)據(jù)集中還包含兩份問卷, 問卷中包含了用戶的人口統(tǒng)計(jì)學(xué)信息、生活方式和家庭規(guī)模等多種社會信息. 本文從問卷中選取了4種典型的社會信息, 并將每種社會信息下的不同類別作為智能電表數(shù)據(jù)的標(biāo)簽, 以此實(shí)現(xiàn)不同社會信息下智能電表數(shù)據(jù)的用戶分類, 并驗(yàn)證所提出方法的有效性. 本文所選的4種社會信息及其類別如表1所示.

        表1 智能電表數(shù)據(jù)的社會信息及分類表

        3.2 對比方法

        為了充分驗(yàn)證本文提出的方法的性能, 本文將提出的方法與3種典型的分類方法進(jìn)行了比較, 下面對對比方法進(jìn)行簡要介紹.

        (1) 支持向量機(jī)(SVM): 支持向量機(jī)是一種分類領(lǐng)域的典型方法, 因此, 本文將SVM方法作為對比方法之一. 在SVM方法中, 原始數(shù)據(jù)將不做任何處理直接輸入至SVM網(wǎng)絡(luò)中.

        (2) 主成分分析支持向量機(jī)(PCA+SVM): PCA是一種常用的數(shù)據(jù)處理手段, 本文應(yīng)用PCA方法對原始用能數(shù)據(jù)進(jìn)行降維處理, 并選取一定數(shù)量的相關(guān)特征作為SVM網(wǎng)絡(luò)的輸入. 由于特征數(shù)目影響分類精度,我們選擇實(shí)驗(yàn)中精度最高的特征作為該方法的精度.

        (3) 卷積神經(jīng)網(wǎng)絡(luò)(CNN): 與支持向量機(jī)相比, 卷積神經(jīng)網(wǎng)絡(luò)可以自動學(xué)習(xí)數(shù)據(jù)特征并輸出用戶類別.本文也將其作為一種典型的分類方法進(jìn)行比較.

        3.3 性能指標(biāo)

        考慮到多個用戶信息分類的不平衡性, 本文使用準(zhǔn)確率(Acc)和F1值對模型進(jìn)行用戶分類性能評估.Acc代表了分類正確的樣本數(shù)占樣本總數(shù)的比例, 它能夠客觀評價模型在多類別中的分類能力. F1值是精確率(Pre)和召回率(Rec)的調(diào)和均值, 可作為模型在不平衡數(shù)據(jù)集上性能的重要參考. 在實(shí)際分類任務(wù)當(dāng)中,模型的Acc與F1越高, 表示模型的分類性能越好. 相關(guān)公式表達(dá)如下:

        3.4 實(shí)驗(yàn)配置

        本文使用交叉熵?fù)p失函數(shù)[19]作為目標(biāo)函數(shù)以評估模型的優(yōu)劣, 具體表達(dá)為:

        其中, J 為樣本總數(shù), M 為類別數(shù), m是樣本實(shí)際類別,sgn 為符號函數(shù), pj,m代表樣本 j 被分入m 類的概率.

        在模型訓(xùn)練過程中, 采用Adam優(yōu)化算法[20]以尋找最優(yōu)參數(shù). 與傳統(tǒng)的梯度下降法相比, Adam優(yōu)化器計(jì)算當(dāng)前梯度的一階動量和二階動量以實(shí)現(xiàn)自適應(yīng)參數(shù)優(yōu)化, 這種優(yōu)化方式使得梯度更新過程更加平滑, 具有更好的尋找最優(yōu)解的能力. 決定Adam優(yōu)化器的參數(shù)主要有學(xué)習(xí)率α, β1, β2和 ε, 通常分別設(shè)為0.001, 0.9,0.999和1 0-8.

        3.5 實(shí)驗(yàn)結(jié)果

        本文方法在不同社會信息上的分類準(zhǔn)確率和F1值如表2所示. 在4種不同社會信息中, 準(zhǔn)確率和F1值得均值分別為74.9%和71.9%, 分類模型在#2社會信息(主要收入者是否退休)和#4社會信息(是否有孩子)的正確率均超過80%, 在#1社會信息(主要收入者年齡)的準(zhǔn)確率超過75%, 在#3社會信息(主要收入者的社會等級)的分類準(zhǔn)確率保持在60%左右. 其中,在#3社會信息上的分類結(jié)果說明用戶社會等級并不能顯著影響用戶用能行為. 從以上結(jié)果來看, 本文提出的AEW-GCN方法能夠?qū)崿F(xiàn)基于用戶信息的分類任務(wù).

        表2 AEW-GCN分類結(jié)果

        表3和表4分別顯示了對比方法對4種社會信息分類的準(zhǔn)確率和F1值. 可以看出, 所有方法在4種社會信息上的分類性能分布相似, 它們均在#2社會信息和#4社會信息上表現(xiàn)出較好的分類性能. 這證明了這兩類社會信息可以用于區(qū)分不同的用戶. 在3種對比方法中, 與原始SVM方法相比, 使用主成分分析(PCA)進(jìn)行特征處理的分類性能略有提高(其分類性能在Acc上提升為1.2%). 與兩種SVM方法相比,CNN的分類效果得到了更好的結(jié)果, 其分類性能在兩種評價指標(biāo)上提高了約3.2%和3.8%. 與上述方法相比, 本文提出的方法則實(shí)現(xiàn)了進(jìn)一步的性能提升, AEWGCN方法的分類準(zhǔn)確率分別提高了10.9%, 9.7%和6.5%, F1值提高了12%, 16.4%和9.2%, 這充分證明了本文所提出的方法在基于社會信息的用戶分類上的有效性和優(yōu)越性.

        表3 不同方法在4種社會信息分類的準(zhǔn)確率

        表4 不同方法在4種社會信息分類的F1值

        4 結(jié)語

        本文提出了一種自學(xué)習(xí)邊權(quán)重的圖卷積網(wǎng)絡(luò), 實(shí)現(xiàn)了不同社會信息下智能電表數(shù)據(jù)的用戶分類. 該方法引入注意力機(jī)制實(shí)現(xiàn)圖的初始化, 利用包括傅里葉變換在內(nèi)的多種手段進(jìn)行特征提取和特征選擇, 最后應(yīng)用圖卷積層輸出分類結(jié)果. 為了證明本文方法的有效性, 我們在智能電表數(shù)據(jù)集上與其他分類方法進(jìn)行了比較. 實(shí)驗(yàn)結(jié)果表明, 本文提出的方法取得了較好的分類性能. 在今后的工作中, 我們將進(jìn)一步探討所提方法在更多社會信息中的分類性能, 并在智能電表數(shù)據(jù)的用戶分類過程中考慮環(huán)境和天氣因素對用戶用能行為的影響.

        猜你喜歡
        電表卷積神經(jīng)網(wǎng)絡(luò)
        巧判電表測量對象
        電表“對”與“錯”歸類巧掌握
        基于3D-Winograd的快速卷積算法設(shè)計(jì)及FPGA實(shí)現(xiàn)
        神經(jīng)網(wǎng)絡(luò)抑制無線通信干擾探究
        電子制作(2019年19期)2019-11-23 08:42:00
        從濾波器理解卷積
        電子制作(2019年11期)2019-07-04 00:34:38
        基于傅里葉域卷積表示的目標(biāo)跟蹤算法
        看電表
        基于神經(jīng)網(wǎng)絡(luò)的拉矯機(jī)控制模型建立
        復(fù)數(shù)神經(jīng)網(wǎng)絡(luò)在基于WiFi的室內(nèi)LBS應(yīng)用
        基于支持向量機(jī)回歸和RBF神經(jīng)網(wǎng)絡(luò)的PID整定
        国产亚洲精品国产精品| 91久久综合精品国产丝袜长腿| 青青草视频国产在线观看| 最新中文字幕亚洲一区| 国产午夜福利久久精品| 欧美性猛交xxxx黑人| 亚洲欧洲无码精品ⅤA| 国产一区二区三区的区| 亚洲av成人片色在线观看高潮| 亚洲av无码男人的天堂在线| 欧美精品日韩一区二区三区| 亚洲国产一区二区av| 极品少妇hdxx麻豆hdxx| 一本大道久久香蕉成人网| 亚洲无线码一区在线观看| 亚洲丰满熟女乱一区二区三区| 国产特黄级aaaaa片免| 日本大片免费观看完整视频| 69搡老女人老妇女老熟妇| 一本色道久在线综合色| 麻豆╳╳╳乱女另类| 亚洲综合伊人制服丝袜美腿| 亚洲中文字幕日本日韩| av一区二区三区在线| 伊人久久五月丁香综合中文亚洲| 久9热免费精品视频在线观看| 亚洲精品中文字幕乱码| 丰满少妇人妻无码专区| xxxx国产视频| 区二区三区亚洲精品无| 亚无码乱人伦一区二区| 波多野结衣中文字幕久久| 国产亚洲无码1024| 青草久久婷婷亚洲精品| 人妻少妇精品视频无码专区| 97精品国产91久久久久久久 | 亚洲精品一区二在线观看| 奇米影视7777久久精品| 亚洲色欲在线播放一区| 人妻av不卡一区二区三区| 精品国产精品三级精品av网址|