李智勇 蘇寅生 李斌 劉春曉 李豹 譚守標(biāo)

摘 要：為了預(yù)測家庭短期電力負(fù)荷，提出一種基于多任務(wù)貝葉斯時空高斯過程的電力負(fù)荷預(yù)測方法，有效地捕捉不同居住社區(qū)之間的關(guān)聯(lián)性和家庭之間的局部空間變化。為了更好地捕捉不同居住社區(qū)之間關(guān)聯(lián)性，提出了一種新的多任務(wù)學(xué)習(xí)方法，即低秩Dirty模型，通過使用“公共特征集”和“共享低秩結(jié)構(gòu)”來改進(jìn)多任務(wù)貝葉斯時空高斯過程的學(xué)習(xí)。為了克服低階dirty模型和高斯過程參數(shù)聯(lián)合估計(jì)的困難，提出了一種迭代算法。實(shí)驗(yàn)結(jié)果表明，與已有的幾種方法相比，該方法可以有效地預(yù)測電力負(fù)荷。

關(guān)鍵詞：負(fù)荷預(yù)測;多任務(wù)學(xué)習(xí);高斯過程;關(guān)聯(lián)性;低秩結(jié)構(gòu)

DOI：10.15938/j.jhust.2021.04.007

中圖分類號：TP391.3

文獻(xiàn)標(biāo)志碼：A

文章編號：1007-2683（2021）04-0046-10

Abstract：In order to forecast short-term household power load， a power load forecasting method based on multi-task Bayesian spatiotemporal Gaussian process（MT-BSGP） is proposed. The proposed method can effectively capture the relationship between different residential communities and the local spatial changes between families. In order to better capture the relevance between different residential communities， a new multi-task learning（MTL） method， namely low rank dirty model（LRDM）， is proposed. The proposed model improves the learning of multi-task Bayesian spatiotemporal Gaussian process by using “common set of features” and “shared low-rank structure”. In order to overcome the difficulty of joint estimation of LRDM and Gaussian process（GP） parameters， an iterative algorithm is proposed. The experimental results show that the proposed method can effectively forecast the power load compared with the existing methods.

Keywords：load forecasting; multi-task learning; Gaussian process; relevance; low-rank structure

0 引 言

負(fù)荷預(yù)測對于平衡電力供需、避免電網(wǎng)不穩(wěn)定至關(guān)重要[1-4]。短期負(fù)荷預(yù)測主要是對一小時到一周的用電負(fù)荷進(jìn)行預(yù)測，可以指導(dǎo)電力公司和發(fā)電廠通過按需發(fā)電來調(diào)節(jié)發(fā)電量以滿足市場需求[5-9]。然而，由于電網(wǎng)的復(fù)雜性和用電量的不確定性，負(fù)荷預(yù)測仍然具有挑戰(zhàn)性。隨著新數(shù)據(jù)分析技術(shù)的發(fā)展，智能電表等先進(jìn)數(shù)據(jù)采集系統(tǒng)的應(yīng)用，提高了負(fù)荷預(yù)測水平。近年來，基于機(jī)器學(xué)習(xí)的負(fù)荷預(yù)測方法得到了越來越多的關(guān)注。例如，自回歸綜合移動平均（autoregressive integrated moving average，ARIMA）模型是最常用的方法之一[10]，多線性回歸和高斯過程回歸也是電力負(fù)荷預(yù)測的有效方法[11]。在機(jī)器學(xué)習(xí)領(lǐng)域，支持向量機(jī)、人工神經(jīng)網(wǎng)絡(luò)是應(yīng)用廣泛的電力負(fù)荷預(yù)測方法。大多數(shù)現(xiàn)有的基于機(jī)器學(xué)習(xí)的負(fù)荷預(yù)測方法，包括到前面提到的方法都屬于單任務(wù)學(xué)習(xí)（single-task learning，STL）方法的范疇。然而，STL方法的預(yù)測性能受到數(shù)據(jù)缺失、測量錯誤、測量分辨率低的影響。

近年來，在多任務(wù)學(xué)習(xí)框架下，多個模型在多個數(shù)據(jù)源上聯(lián)合學(xué)習(xí)。融合來自多個數(shù)據(jù)源的用電量數(shù)據(jù)，為提高負(fù)荷預(yù)測水平提供了新的契機(jī)。Zhang等[12]研究了多任務(wù)高斯過程在電力負(fù)荷預(yù)測中的應(yīng)用。Fiot等[13]使用了一種基于核的MTL方法，稱為低秩輸出核學(xué)習(xí)（low-rank output kernel learning，LR-OKL），用于配電站的中期負(fù)荷預(yù)測。在機(jī)器學(xué)習(xí)領(lǐng)域，通常采用基于正則化的策略來提取多個數(shù)據(jù)源之間的相似知識或變化模式，以提高學(xué)習(xí)性能（稱為相關(guān)性）。該方法引入了一定的正則化項(xiàng)，將加權(quán)懲罰項(xiàng)應(yīng)用于目標(biāo)函數(shù)的學(xué)習(xí)[14]。MTL也被開發(fā)用來處理高斯過程模型的MTL[15]。雖然先前的研究已經(jīng)證明了MTL方法的潛力，但是從多個任務(wù)中找出數(shù)據(jù)集之間的相關(guān)性仍然是一個巨大的挑戰(zhàn)。

從應(yīng)用角度來看，大量的負(fù)荷預(yù)測研究僅使用歷史用電量數(shù)據(jù)進(jìn)行預(yù)測。最近，電力負(fù)荷預(yù)測研究超越了只考慮歷史用電量數(shù)據(jù)的方法，并將天氣條件納入其中，以提高預(yù)測精度。系統(tǒng)體系、多網(wǎng)絡(luò)理論和“智能城市”概念的出現(xiàn)，鼓勵了新的研究，這些研究考慮了電力網(wǎng)絡(luò)與其它基礎(chǔ)設(shè)施網(wǎng)絡(luò)的相互依賴性和互聯(lián)性。該文提出的模型受文[16]的啟發(fā)，提出了配電網(wǎng)中交通負(fù)荷與用電量的關(guān)系框架。文[16]對電力和交通負(fù)荷的聯(lián)合預(yù)測結(jié)果表明，將交通數(shù)據(jù)和機(jī)動車信息作為預(yù)測因子可以提高電力負(fù)荷預(yù)測的準(zhǔn)確性。因此，該文采用用電量數(shù)據(jù)、交通量數(shù)據(jù)和氣象參數(shù)相結(jié)合作為短期電力負(fù)荷預(yù)測的預(yù)測因子。

該文旨在改進(jìn)基于多任務(wù)學(xué)習(xí)（MTL）框架的短期負(fù)荷預(yù)測，其中一個“任務(wù)”是指學(xué)習(xí)每個居民小區(qū)的負(fù)荷預(yù)測模型，“多任務(wù)”是指通過融合多個社區(qū)的數(shù)據(jù)，共同學(xué)習(xí)多個社區(qū)的負(fù)荷預(yù)測模型。具體就是，將城市中多個居住社區(qū)在相似條件或設(shè)置下的訓(xùn)練數(shù)據(jù)進(jìn)行融合，通過探索不同社區(qū)間數(shù)據(jù)模式的相似性，共同學(xué)習(xí)社區(qū)間的相關(guān)性。因此，利用關(guān)聯(lián)性概念來描述環(huán)境和交通條件對多個居住社區(qū)用電量的相似影響是可行的。在居民外出上班的早晨，居民區(qū)附近的交通量更大，導(dǎo)致居民家庭用電量減少，直到下午人們回家。此外，由于空調(diào)負(fù)荷的影響，用電量隨環(huán)境溫度的變化而變化。環(huán)境和交通數(shù)據(jù)對電力消費(fèi)的影響在一個城市的不同居民社區(qū)中有相似之處。此外，可能存在一些特定于社區(qū)的信息，例如社區(qū)內(nèi)的局部時空變化，這些信息不在社區(qū)之間共享。從方法論的角度來看：①傳統(tǒng)的MTL方法，包括基于正則化的方法[17]和基于核的方法[15]，并沒有區(qū)分在社區(qū)間普遍共享的總體趨勢和局部時空變化;②基于正則化的MTL方法通過在目標(biāo)函數(shù)中引入一些正則化項(xiàng)來表征相關(guān)性，這些正則化項(xiàng)是基于“公共特征集”或“共享低秩結(jié)構(gòu)”，它們只部分地捕捉不同任務(wù)之間的關(guān)聯(lián)性。

本文針對現(xiàn)有方法的不足，提出了一種基于多任務(wù)貝葉斯時空高斯過程（MT-BSGP）的短期電力負(fù)荷預(yù)測方法。

1 多任務(wù)貝葉斯時空高斯過程（MT-BSGP）

為了預(yù)測電力負(fù)荷，提出一個用于負(fù)荷預(yù)測的MT-BSGP。首先，提出了融合社區(qū)環(huán)境和交通數(shù)據(jù)的預(yù)測模型的結(jié)構(gòu);然后，建立了估計(jì)MT-BSGP的學(xué)習(xí)問題;再次，介紹了現(xiàn)有的基于正則化的MTL方法;為了提高M(jìn)T-BSGP的學(xué)習(xí)性能，提出了LRDM;最后，通過迭代算法學(xué)習(xí)MTL框架下的模型參數(shù)實(shí)現(xiàn)LRDM。

1.1 社區(qū)預(yù)測模型

單個社區(qū)的用電量E預(yù)測如下：

其中：μ表示用電量數(shù)據(jù)的平均偏移或趨勢模式;η表示數(shù)據(jù)中相關(guān)的隨機(jī)過程;ε表示噪聲，其為正態(tài)分布的獨(dú)立同分布，且均值為零，方差為σ2ε。μ和η反映了數(shù)據(jù)之間的系統(tǒng)級相關(guān)性，可用于提高預(yù)測精度。

有很多方法可以擴(kuò)展η。一種常用的方法是根據(jù)用戶的用電模式將相似或相關(guān)的行為分組到一個簇中。因此，η可以擴(kuò)展為基于同一簇內(nèi)消費(fèi)者數(shù)據(jù)的預(yù)測因子[18]。如果消費(fèi)者表現(xiàn)為空間聚集模式，η可以用空間相關(guān)過程來表征，其原因包括：①電網(wǎng)的拓?fù)洳季趾宛伨€的側(cè)聯(lián)性。②居住區(qū)的人口統(tǒng)計(jì)和地形特征，包括土地利用、建筑類型、建筑規(guī)模、景觀設(shè)計(jì)、家庭收入水平，從而導(dǎo)致住戶的空間相關(guān)過程用電模式。例如，一個社區(qū)的大多數(shù)建筑遵循相似的設(shè)計(jì)和足跡，由同一個開發(fā)商和類似的建筑材料建造，這些材料使建筑具有相似的絕緣、建筑圍護(hù)結(jié)構(gòu)等，從而導(dǎo)致類似的電力消耗。消費(fèi)者活動中的相關(guān)性進(jìn)一步導(dǎo)致了相關(guān)的用電行為，因?yàn)猷徑鐓^(qū)中類似環(huán)境和交通道路條件導(dǎo)致消費(fèi)者活動往往是相關(guān)的。

上述原因反映了人類-電力系統(tǒng)中導(dǎo)致空間依賴性的系統(tǒng)級原因是全球趨勢、空間相關(guān)過程（通常是高斯過程）和獨(dú)立變化的組合。因此，上述模型可以簡化為：

式（2）為一個貝葉斯時空高斯過程（Bayesian spatiotemporal Gaussian process，BSGP）模型。GP為高斯過程參數(shù)。采用式（2）的一個目的是，在歷史數(shù)據(jù)有限甚至沒有數(shù)據(jù)的情況下預(yù)測家庭的電力負(fù)荷。大多數(shù)的預(yù)測方法都需要一定數(shù)量的歷史記錄來記錄感興趣的家庭（或地點(diǎn)）。BSGP模型可以在沒有足夠歷史數(shù)據(jù)的情況下，利用鄰居的信息預(yù)測電力負(fù)荷。

假設(shè)均值μ為與電力消耗相關(guān)的變量的線性模型。s表示每個房屋的位置和時間t的索引。μ可以展開為：μ（s，t）=∑i∑jXij（s，t）βj。本文提出的模型受到了文[7]中提供的交通與電網(wǎng)之間因果關(guān)系的啟發(fā)，將這兩個變量用于負(fù)荷預(yù)測。因此，在本文中，設(shè)定X為輸入變量，可以包含用電量數(shù)據(jù)、小區(qū)附近的交通量（Tr）、溫度（T）、濕度（H）和太陽輻射（S）等參數(shù)。而且，家庭數(shù)量和收入水平等社會經(jīng)濟(jì)因素也可以在負(fù)荷預(yù)測中發(fā)揮重要作用，并有可能納入預(yù)測模型。當(dāng)這些輸入數(shù)據(jù)可用時，它們可作為線性項(xiàng)包含在模型中。此外，生活水平會對平均耗電量以及用電模式的時間波動產(chǎn)生影響。平均生活水平也可以納入模型中。然而，短期內(nèi)社區(qū)所有家庭的生活水平相對穩(wěn)定，因此不影響所提出的負(fù)荷預(yù)測方法的性能。

向量β是輸入變量的系數(shù)。例如，如果存在M個房屋和τ個的時間點(diǎn)，則μ可以展開為：

其中：n為觀測次數(shù);時間序列模型中的時間間隔p由自相關(guān)函數(shù)（autocorrelation function，ACF）確定。用偏自相關(guān)函數(shù)（partial autocorrelation function，PACF）求出模型中需要多少個早期觀測值。β→=[β1，…，βp+4]表示輸入變量對電力消耗的影響，變量的個數(shù)為p+4。式（2）中的“GP”項(xiàng)是正態(tài)分布，其中均值為0和協(xié)方差矩陣為∑GP=（σ2GP|t）exp（-（φ|t）‖si-sj‖2），φ>0，其中∑GP的特征是在每個時間戳上具有房屋不變的公共方差（σ2GP|t）和空間相關(guān)函數(shù)（k（si，sj;φ））。通常為k（si，sj;φ）選擇平方指數(shù)相關(guān)函數(shù)，該函數(shù)包含每個時間戳（φ|t）上的衰變參數(shù)和兩個房屋之間的平方距離（‖si-sj‖2）。

總之，在所提出模型的基礎(chǔ)上建立了負(fù)荷預(yù)測的多任務(wù)學(xué)習(xí)問題，并提出了一種有效的算法來解決該問題，并將在以下各部分中進(jìn)行介紹。

基于以上提出的模型，所提出的MT-BSGP的總體框架如圖1所示。MT-BSGP包括：提出的LRDM，其用于估計(jì)在社區(qū)間相似的總體平均偏移或趨勢模式;一個特定于社區(qū)并捕獲局部變化和空間相關(guān)性的高斯過程（GP）;LRDM和GP之間的迭代估計(jì)過程。

1.2 MT-BSGP結(jié)構(gòu)

在MTL框架下，通過融合來自多個社區(qū)的數(shù)據(jù)，可以改進(jìn)BSGP的估計(jì)。通過探索不同社區(qū)之間的相關(guān)性，提出了MT-BSGP的結(jié)構(gòu)。社區(qū)間的相關(guān)性體現(xiàn)在環(huán)境因素/交通量與用電量之間的相似關(guān)系上。因此，在MTL框架下，不同社區(qū)的BSGP系數(shù)β可以“相似相關(guān)”。這種相關(guān)性的數(shù)學(xué)特征將在下面介紹。此外，GP捕獲了特定于社區(qū)的家庭用電量數(shù)據(jù)之間的時空相關(guān)性。為了描述空間相關(guān)性，已有研究將高斯過程應(yīng)用于負(fù)荷預(yù)測[19]。

假設(shè)存在Z個社區(qū)，對于社區(qū)l=1，…，Z，提出的MT-BSGP模型結(jié)構(gòu)如下：

MT-BSGP由兩個學(xué)習(xí)目標(biāo)來估計(jì)，包括：①“μ”的MTL;②在每個社區(qū)內(nèi)分別學(xué)習(xí)“GP”。μ的MTL目標(biāo)是同時估算β→1，…，β→Z，這里給定每個社區(qū)的包含環(huán)境、交通和歷史用電量的數(shù)據(jù)X，以及β→1，…，β→Z之間的關(guān)系。GP的目標(biāo)是根據(jù)每個社區(qū)的數(shù)據(jù)和相關(guān)系數(shù)β→l來估計(jì)GP參數(shù)，而相關(guān)系數(shù)β→l由MTL估計(jì)。學(xué)習(xí)目標(biāo)如式（5）所示：

1.3 基于正則化的MTL方法

這部分介紹了線性回歸模型（如μ）的基于正則化的MTL方法的公式，并給出了兩個常用范數(shù)作為學(xué)習(xí)目標(biāo)中的正則化項(xiàng)?；谡齽t化的MTL是為了解決下面的問題：

其中βj，k是β的第j行和第k列。l1，∞正則化器引入一個群稀疏結(jié)構(gòu)，在所有社區(qū)中對μ模型進(jìn)行變量選擇;它對每一行的最大絕對值之和進(jìn)行懲罰，以鼓勵β的每行元素有0元素。因此，l1，∞正則化器可以找到一組共同的輸入變量，這些變量對不同社區(qū)的用電量數(shù)據(jù)有影響。

2）所有社區(qū)的共享低秩結(jié)構(gòu)：

其中σi是通過奇異值分解得到的矩陣β的奇異值。

這兩類范數(shù)從兩個不同的角度捕捉了社區(qū)間關(guān)聯(lián)性的信息。本文結(jié)合兩類范數(shù)的相關(guān)信息，在下一部分提出了一種改進(jìn)MT-BSGP方法。

1.4 提出的LRDM

通過將變量系數(shù)（β→l）分解為稀疏分量（P→l）和稀疏分量（Q→l），Jalali等提出了一個Dirty模型[5]，如下：

其中使用稀疏分量Q→l懲罰是處理特定于社區(qū)的變化，而使用群稀疏分量P→l懲罰則是為了捕捉不同社區(qū)模型估計(jì)之間的相關(guān)性。

受“Dirty”模型和兩種捕獲相關(guān)性信息的范數(shù)的啟發(fā)，該文進(jìn)一步為矩陣Q→l構(gòu)造了一個低秩結(jié)構(gòu)，以包含更多群稀疏分量無法捕捉到的社區(qū)間相關(guān)性信息，從而得到LRDM。LRDM的目標(biāo)如下：

因此，提出的LRDM旨在將上述兩類范數(shù)結(jié)合起來。特別地，該文提出整合l1，∞和l*范數(shù)可以增加在多個社區(qū)中獲取更多共享信息的機(jī)會，并且可以優(yōu)于現(xiàn)有的僅利用l1，∞或l*來獲取相關(guān)性的MTL方法。式（11）中提出的LRDM是一個無約束凸優(yōu)化問題，其函數(shù)是非平滑的。這種非平滑性存在于l1，∞或l*中，這給解決式（11）中的LRDM問題帶來了挑戰(zhàn)。一種解決方法是使用加速近似法[20]，因?yàn)樗哂凶罴训氖諗克俣群吞幚泶笠?guī)模非平滑優(yōu)化問題的能力。

為了估計(jì)表征LRDM精度的理論邊界，考慮l≥2和n≥1時式（11）的優(yōu)化問題以及所有任務(wù)的訓(xùn)練數(shù)據(jù)大小相同。同時，定義以下參數(shù)：

理論邊界的證明類似于文[20]中的推導(dǎo)過程。精度邊界的數(shù)值估計(jì)詳見3.3節(jié)實(shí)驗(yàn)部分。

1.5 MT-BSGP參數(shù)估計(jì)的迭代算法

為了建立MT-BSGP模型，每個社區(qū)需要估計(jì)兩類參數(shù)，包括μl中的β→l，以及GPl中每個時間戳的σ2GPl和φl。學(xué)習(xí)的挑戰(zhàn)在于，β→l應(yīng)根據(jù)MTL框架下所有社區(qū)的數(shù)據(jù)進(jìn)行聯(lián)合估算;而GPl是特定于社區(qū)的，應(yīng)根據(jù)社區(qū)l的數(shù)據(jù)進(jìn)行估算。μl估計(jì)的任何變化都會直接影響GPl，反之亦然。該文提出了一個迭代算法來聯(lián)合估計(jì)式（5）中的所有參數(shù)。

MT-BSGP的流程圖如圖2所示，其中上標(biāo)表示迭代次數(shù)。在初始化中，第1次迭代時，GP和β→l的參數(shù)被賦予零值。為conv指定一個大的數(shù)字，并且根據(jù)期望的精度確定conv的閾值。另外，還要為λ1（群稀疏分量系數(shù)）和λ2（低秩分量系數(shù)）設(shè)置初始值。在訓(xùn)練階段，將訓(xùn)練數(shù)據(jù)（Trr）分成10個相等的子集（Trrk，k=1，…，10），并對任何給定的λ1和λ2進(jìn)行10次交叉驗(yàn)證，算法1給出了10倍交叉驗(yàn)證。如下所示：

在此基礎(chǔ)上，對LRDM進(jìn)行9個子集訓(xùn)練，然后在第10個子集上進(jìn)行測試。誤差Erk通過λ1和λ2的每個值以及這10個部分中的每個值的均方根誤差（RMSE）來估計(jì)。E-r（i）是Erk是這10個部分（迭代）的平均誤差，即選擇λ1和λ2的LRDM的平均誤差。該過程適用于λ1和λ2的所有m個建議值。最后，選擇最小E-r（i），并確定λ1和λ2的最佳值。在確定訓(xùn)練部分中的λ1和λ2之后，開始學(xué)習(xí)模型參數(shù)的迭代過程。在迭代j中，通過從電力消耗數(shù)據(jù)中減去在迭代j-1中獲得的高斯過程來更新μ模型，并使用所提出的LRDM來估計(jì)系數(shù)β→l。然后進(jìn)行收斂性測試，以檢查μ的收斂性。根據(jù)系數(shù)向量的變化是否在預(yù)先設(shè)定的閾值（ε）內(nèi)判斷收斂性;否則，在進(jìn)行下一次迭代之前，算法通過從耗電量數(shù)據(jù)（Yl）中減去迭代j處的估計(jì)μ來更新GP。此過程將一直運(yùn)行，直到通過收斂測試。最后，將預(yù)測的用電量與實(shí)際值進(jìn)行比較，得到誤差。

2 案例研究

本文所提出的MT-BSGP模型通過安慶市兩個居民社區(qū)的實(shí)際數(shù)據(jù)進(jìn)行了驗(yàn)證。電耗數(shù)據(jù)（kWh）每30min遠(yuǎn)程測量一次，并由安慶電力公司的電表數(shù)據(jù)管理系統(tǒng)存儲。交通數(shù)據(jù)來自安慶市交警大隊(duì)。該市有6個不同的遙測交通監(jiān)測站點(diǎn)，每30min連續(xù)存儲一次交通量，安慶市僅收集特定地點(diǎn)和特定日期的當(dāng)?shù)氐缆方煌〝?shù)據(jù)。此外，環(huán)境數(shù)據(jù)，包括溫度、濕度和太陽輻射可通過選定社區(qū)的監(jiān)測記錄獲得。

為了數(shù)據(jù)的隱私保護(hù)，該文選取安慶市的兩個居住社區(qū)稱為東北社區(qū)和東南社區(qū)。東北部和東南部社區(qū)的測量包括2019年10月、11月和12月每30min收集的50戶居民的用電量和環(huán)境數(shù)據(jù)。同時，每小時從同一區(qū)域采集交通量并用作預(yù)測變量。東北社區(qū)的數(shù)據(jù)量相對較少，這些數(shù)據(jù)僅在2019年的某些時間在裝有交通檢測器的地點(diǎn)收集。東北地區(qū)只有2019年10月、11月和12月18個工作日的10棟房子的數(shù)據(jù)。此外，選取東南社區(qū)的所有可用數(shù)據(jù)（50戶×92d×48個30min增量=220800個觀測值）和東北社區(qū)17個工作日（10戶×17d×48個30min增量=8160個觀測值）作為訓(xùn)練數(shù)據(jù)。選取東北社區(qū)最后一個剩余工作日（10棟房屋×1d×48個30min增量=480個觀測值）作為測試數(shù)據(jù)，該數(shù)據(jù)不在訓(xùn)練數(shù)據(jù)范圍內(nèi)。

3 實(shí)驗(yàn)結(jié)果與分析

該部分驗(yàn)證所提出的MT-BSGP的短期負(fù)荷預(yù)測性能。提出的模型輸入為歷史用電量、溫度、濕度、太陽輻射和交通量。通過在5%顯著性水平上檢查ACF和PACF圖，時間序列建模的時間間隔p=2。在進(jìn)行10倍交叉驗(yàn)證后，選擇λ1=100和λ2=300。迭代算法經(jīng)過6次迭代后收斂。采用均方根誤差（root mean square error，RMSE）和對稱平均絕對百分比誤差（symmetric mean absolute percentage error，SMAPE）作為誤差指標(biāo)，即：

式中：y（i）為觀測值;y^（i）為預(yù)測值;n為觀測值總數(shù)。RMSE和SMAPE是通過對東北社區(qū)所有房屋的預(yù)測誤差進(jìn)行匯總得到的。

3.1 多任務(wù)學(xué)習(xí)與單任務(wù)學(xué)習(xí)

該部分首先比較MT-BSGP和BSGP，BSGP只依賴于一個社區(qū)的數(shù)據(jù)，即單任務(wù)學(xué)習(xí)。此外，將提出的MT-BSGP方法與其他的電力預(yù)測方法進(jìn)行了比較，包括ARIMAX、支持向量機(jī)（support vector machine，SVM）、隨機(jī)森林（random forest，RF）和神經(jīng)網(wǎng)絡(luò)（neural network，NN）回歸。所有這些方法只在東北部社區(qū)并使用相同的輸入數(shù)據(jù)（包括電力、天氣和交通量）來實(shí)現(xiàn);而MT-BSGP探索了東南社區(qū)的類似數(shù)據(jù)模式，以補(bǔ)充更多信息來預(yù)測東北社區(qū)的電力。由這些方法得到的RMSE和SMAPE如表1所示。實(shí)驗(yàn)結(jié)果表明，在單任務(wù)結(jié)構(gòu)下，MT-BSGP與ARIMAX相比減少了34%，與BSGP相比減少了22%，與SVM相比減少了20%，與RF相比減少了17%，與NN相比減少了15%?？梢钥闯?，多個數(shù)據(jù)源的組合可以減少M(fèi)T-BSGP的預(yù)測誤差。

在性能比較中，對所有的方法進(jìn)行了優(yōu)化，并為它們選擇了最佳的參數(shù)。例如，對于ARIMAX，通過用R編程語言在forecast包的auto函數(shù)中搜索可能的模型來選擇最佳模型。對于SVM，采用徑向基函數(shù)核函數(shù)，通過10次交叉驗(yàn)證進(jìn)行參數(shù)優(yōu)化，得到最優(yōu)參數(shù)。在參數(shù)優(yōu)化后，用R語言在randomForest包中實(shí)現(xiàn)RF。對于NN，采用多層感知器方法，通過優(yōu)化隱層參數(shù)、每個隱層中的神經(jīng)元數(shù)目和誤差函數(shù)偏導(dǎo)數(shù)的閾值作為停止準(zhǔn)則，確定最佳初始值;選取隱層3個神經(jīng)元的最佳神經(jīng)網(wǎng)絡(luò)，閾值為0.01，最大步長為1×107。

圖3比較了MT-BSGP預(yù)測負(fù)荷曲線與實(shí)際負(fù)荷曲線。從圖3可以看出，MT-BSGP方法可以有效地捕捉家庭電力負(fù)荷的趨勢。

3.2 多任務(wù)學(xué)習(xí)與基于融合數(shù)據(jù)的學(xué)習(xí)

MTL并不像合并來自多個社區(qū)的數(shù)據(jù)那么簡單。簡單的多社區(qū)數(shù)據(jù)融合忽略了社區(qū)的獨(dú)特信息和社區(qū)間的差異，從而引入了可能對模型學(xué)習(xí)過程產(chǎn)生負(fù)面影響的信息。然而，MTL探索了數(shù)據(jù)中的相似模式，并區(qū)分了社區(qū)間共享的信息和社區(qū)特定的信息，從而提高了學(xué)習(xí)的準(zhǔn)確性。當(dāng)兩個數(shù)據(jù)集具有一定的相似性但也存在顯著的差異時，將這些數(shù)據(jù)集合到單個任務(wù)學(xué)習(xí)框架中通常比在多任務(wù)學(xué)習(xí)框架中分別處理它們的效果差。

圖4是MT-BSGP與其他三種方法的比較結(jié)果。可以看出，MT-BSGP在融合數(shù)據(jù)上的性能明顯優(yōu)于SVM、RF和NN。比較表1和圖4，使用合并數(shù)據(jù)進(jìn)行的學(xué)習(xí)并沒有明顯降低RMSE。因此，MTL方法在探索社區(qū)間的關(guān)聯(lián)性和不同社區(qū)間的知識轉(zhuǎn)移以提高預(yù)測精度方面具有重要價值。

3.3 MT-BSGP與MTL方法

本文提出的MT-BSGP方法與三種基于正則化的MTL方法進(jìn)行了比較，包括Dirty模型[14]、稀疏低秩（sparse-low rank，SLR）[19]和魯棒（robust）MTL[20]，以及與LR-OKL[13]進(jìn)行了比較。提出的LRDM與上述基于正則化的MTL方法之間的差異如表2所示。在有GP和沒有GP的情況下，使用上述MTL方法獲得的結(jié)果在表3中給出。實(shí)驗(yàn)結(jié)果表明，在基于正則化的MTL方法中加入GP可以明顯提高預(yù)測精度。與SLR+GP相比，MT-BSGP使RMSE降低了22%。實(shí)驗(yàn)結(jié)果還表明，LRDM的性能比Dirty模型高11%。在Dirty模型中加入共享低秩結(jié)構(gòu)（l*）可以顯著提高預(yù)測精度，從而說明低秩結(jié)構(gòu)對提高預(yù)測精度的貢獻(xiàn)。同時，與SLR和Robust方法相比，LRDM的RMSE分別減少了24%和10%。

圖5比較了MT-BSGP、BSGP和LR-OKL在工作日隨機(jī)選擇的房屋的預(yù)測負(fù)荷情況。盡管LR-OKL與表3中所示的其他方法相比，其誤差顯著降低，但提出的MT-BSGP進(jìn)一步將RMSE降低了14%，并更好地捕捉了時間數(shù)據(jù)變化。給定相同的MTL數(shù)據(jù)源，所提出的MT-BSGP還利用了模型結(jié)構(gòu)的優(yōu)點(diǎn)。該模型結(jié)構(gòu)被分解為一個μ和一個GP，μ用于捕獲社區(qū)之間的共享時間相關(guān)性，GP對特定于社區(qū)的局部變化進(jìn)行建模?；诜纸獾哪Ｐ停é?GP）優(yōu)于LR-OKL所采用的集成核方法，因?yàn)樵贚R-OKL方法中為核函數(shù)選擇合適的參數(shù)。實(shí)驗(yàn)結(jié)果表明，最大誤差出現(xiàn)在高峰時段（第33個30min）。該結(jié)果很正常，因?yàn)榉逯地?fù)荷是一個相對罕見的事件，每天發(fā)生一次，持續(xù)時間很短。因此，負(fù)荷預(yù)測對于高峰負(fù)荷的誤差通常大于非高峰負(fù)荷。從圖5可以看出，在全天的總體性能方面，MT-BSGP方法優(yōu)于其它方法。對于峰值負(fù)荷預(yù)測，MT-BSGP方法也優(yōu)于其他方法。圖6進(jìn)一步比較了所有方法的標(biāo)準(zhǔn)差。可以看出，MT-BSGP具有最小的平均RMSE和標(biāo)準(zhǔn)差。

3.4 MT-BSGP與基于聚類的方法

為了體現(xiàn)所提出的MT-BSGP優(yōu)于基于聚類的方法，將BSGP和MT-BSGP與基于聚類的負(fù)荷預(yù)測模型[18]進(jìn)行了比較。根據(jù)文[18]，該方法考慮不同的k（例如，k從1到10），并根據(jù)獲得的最小誤差來選擇最佳k。給定的k進(jìn)行k-means聚類后，將LS-SVM應(yīng)用于每個簇。然后，得到并結(jié)合每個簇的預(yù)測結(jié)果，從而得到最終的估計(jì)結(jié)果。而且，選擇精度最高的k值來確定類的數(shù)量。

利用k-means算法對訓(xùn)練數(shù)據(jù)中的房屋（東南社區(qū)50戶，東北社區(qū)10戶）進(jìn)行聚類，根據(jù)其在1到10之間的不同指定“k”下的負(fù)荷消耗模式進(jìn)行聚類。因此，對于每個指定的“k”，所有的房屋都被聚集到k個簇中。然后，對每一個簇進(jìn)行LS-SVM訓(xùn)練，并對其進(jìn)行第二天的預(yù)測，并記錄RMSE。最后，集合每個“k”的誤差，并選擇導(dǎo)致最小誤差的“k”（由LS-SVM獲得）。根據(jù)文[18]的過程，東南社區(qū)選擇k=5，東北社區(qū)選擇k=4。然后，對東南部和東北部的所有簇進(jìn)行了空間依賴性檢驗(yàn)，實(shí)驗(yàn)結(jié)果表明，東南部的簇4和5以及東北部的簇1和3在簇內(nèi)確實(shí)表現(xiàn)出了空間依賴性。MT-BSGP與其他方法在東南部和東北部具有空間依賴性的簇進(jìn)行了實(shí)驗(yàn)，實(shí)驗(yàn)結(jié)果如表4所示。從表4看出，在SMAPE方面，BSGP可以將東南社區(qū)的簇4和5的精度分別提高22%和20%。在SMAPE方面，在東北社區(qū)的簇1和3，BSGP的精度比基于k-means的LS-SVM分別高出9%和7%。因此，在一些空間相關(guān)性仍然存在的簇中，考慮GP和空間相關(guān)性可以提高預(yù)測效果。

4 結(jié) 論

為了預(yù)測電力短期負(fù)荷，提出一種基于MT-BSGP的方法，該方法可以捕捉城市不同居住社區(qū)之間的關(guān)聯(lián)性和家庭之間的局部空間變化。為了更好地捕捉不同居住社區(qū)之間關(guān)聯(lián)性，提出了一種新的多任務(wù)學(xué)習(xí)方法，即LRDM。該方法通過使用“公共特征集”（ll，∞范數(shù)）和“共享低秩結(jié)構(gòu)”（l*范數(shù)）來改進(jìn)MT-BSGP的學(xué)習(xí)。另外，為了克服LRDM和高斯過程參數(shù)聯(lián)合估計(jì)的困難，提出了一種迭代算法。通過采集到的安慶市相關(guān)數(shù)據(jù)進(jìn)行實(shí)驗(yàn)，得到了以下結(jié)論：1）與傳統(tǒng)的單任務(wù)學(xué)習(xí)方法（ARIMAX、BSGP、SVM、RF和NN）相比，MT-BSGP的性能分別提高了34%、22%、20%、17%和15%;2）所提出的MT-BSGP比基于融合多社區(qū)數(shù)據(jù)的SVM、RF和NN的性能分別高出20%、18%和17%。3）提出的MT-BSGP的性能優(yōu)于SLR、Dirty、Robust和LR-OKL。因?yàn)樗讦讨型瑫r使用了“公共特征集”和“共享低秩結(jié)構(gòu)”，故可以跨社區(qū)共享;同時采用μ-GP分解結(jié)構(gòu)。4）由于空間依賴性可能仍然存在于某些簇中，因此提出的算法的性能優(yōu)于基于k-means的LS-SVM方法，而空間依賴性只能由MT-BSGP中的GP捕捉到。在將來的工作中，在電力市場中的動態(tài)定價方案中將考慮采用提出的負(fù)荷預(yù)測方法，以提高能源利用率和成本效益。

參 考 文 獻(xiàn)：

[1] 李軍，李世昌.基于K-SVD-OMP的稀疏表示方法在電力負(fù)荷預(yù)測中的應(yīng)用[J].電機(jī)與控制學(xué)報，2020，24（9）：156.

LI Jun， LI Shichang. Application of Sparse Representation Method Based on K-SVD-OMP in Electricity Load Forecasting[J]. Electric Machines and Control， 2020， 24（9）：156.

[2] 向紅偉，常喜強(qiáng)，呂夢琳，等.考慮光、儲、燃聯(lián)合發(fā)電的微電網(wǎng)優(yōu)化運(yùn)行[J].哈爾濱理工大學(xué)學(xué)報，2020，25（2）：73.

XIANG Hongwei， CHANG Xiqiang， LV Menglin， et al. Optimal Operation of Microgrid Considering Photovoltaic， Storage and Turbine[J]. Journal of Harbin University of Science and Technology， 2020， 25（2）：73.

[3] 李翔宇，趙冬梅.市場機(jī)制下多微電網(wǎng)多時間尺度優(yōu)化調(diào)度研究[J].電機(jī)與控制學(xué)報，2020，24（7）：29.

LI Xiangyu， ZHAO Dongmei. Multi-time Scale Optimal Scheduling Strategy of Multi-microgrid Based on Market Mechanism[J]. Electric Machines and Control， 2020， 24（7）：29.

[4] 李洪躍，王錫淮，肖健梅.差分進(jìn)化改進(jìn)微電網(wǎng)負(fù)荷頻率混合H2/H∞魯棒控制[J].電機(jī)與控制學(xué)報，2019，23（11）：118.

LI Hongyue， WANG Xihuai， XIAO Jianmei.Differential Evolution Algorithm Improving for Micro-grid Load Frequency Mixed H2/H∞ Robust Control[J]. Electric Machines and Control， 2019， 23（11）：118.

[5] 龐傳軍，張波，余建明.基于LSTM循環(huán)神經(jīng)網(wǎng)絡(luò)的短期電力負(fù)荷預(yù)測[J].電力工程技術(shù)，2021，40（1）：175.

PANG Chuanjun， ZHANG Bo， YU Jianming. Short-term Power Load Forecasting Based on LSTM Recurrent NeuralNetwork[J]. Electric Power Engineering Technology， 2021， 40（1）：175.

[6] 王闖，蘭程皓，凌德祥，等.LSTM模型在電力系統(tǒng)負(fù)荷預(yù)測中的應(yīng)用[J].電力大數(shù)據(jù)，2021，24（1）：17.

WANG Chuang， LAN Chenghao， LING Dexiang， et al. Application for LSTMModel in Power System Load Forecasting[J]. Power Systems and Big Data， 2021， 24（1）：17.

[7] 范海虹.基于螢火蟲算法的短期電力負(fù)荷預(yù)測方法[J].中國電力，2021，54（3）：141.

FAN Haihong. Short-Term Power Load Forecasting Method Based on Glowworm Swarm Optimization Algorithm[J]. Electric Power， 2021， 54（3）：141.

[8] 楊婧，安江.基于自適應(yīng)混合算法的短期電力負(fù)荷預(yù)測[J].計(jì)算機(jī)與數(shù)字工程，2020，48（11）：2569.

YANG Jing， AN Jiang. Short-Term Load Forecasting Based on an Adaptive Hybrid Method[J]. Computer and Digital Engineering，2020， 48（11）：2569.

[9] 牛安敏，張宏立，王聰.基于VMD-Leaky-ESN的電力系統(tǒng)短期負(fù)荷多步預(yù)測方法[J].新疆大學(xué)學(xué)報（自然科學(xué)版）（中英文），2020，37（4）：562.

NIU A M， ZHANG H L， WANG C. Multi-step Short-term Load Forecasting Method of Power System Based on VMD-Leaky-ESN Algorithm[J]. Journal of Xinjiang University（Natural Science Edition in Chinese and English）， 2020， 37（4）：562.

[10]蘇振宇，龍勇，趙麗艷.基于regARIMA模型的月度負(fù)荷預(yù)測效果研究[J].中國電力，2018，51（5）：166.

SU Zhenyu， LONG Yong， ZHAO Liyan. Study on the Monthly Power Load Forecasting Performance Based on Reg ARIMA Model [J]. Electric Power， 2018， 51（5）：166.

[11]SHENG H， XIAO J， CHENG Y， et al. Short-term Solar Power Forecasting Based on Weighted Gaussian Process Regression[J]. IEEE Transaction on Industrial Electronics， 2018， 65（1）：300.

[12]ZHANG Y， LUO G， PU F. Power Load Forecasting Based on Multi-task Gaussian Process[J]. IFAC Proceedings Volumes， 2014， 47（3）：3651.

[13]FIOT J， DINUZZO F. Electricity Demand Forecasting by Multi-task Learning[J]. IEEE Transactions on Smart Grid， 2018， 9（2）：544.

[14]JALALI A， RAVIKUMAR P， SANGHAVI S. A Dirty Model for Multiple Sparse Regression[J]. IEEE Transactions on Information Theory， 2013， 59（12）：7947.

[15]史佳琪，譚濤，郭經(jīng)，等.基于深度結(jié)構(gòu)多任務(wù)學(xué)習(xí)的園區(qū)型綜合能源系統(tǒng)多元負(fù)荷預(yù)測[J].電網(wǎng)技術(shù)，2018，42（3）：698.

[16]KONILA Sriram L M， GILANIFAR M， ZHOU Y， et al. Causal Markov Elman Network for Load Forecasting in Multinetwork Systems[J]. IEEE Transactions on Industrial Electronics， 2019， 66（2）：1434.

[17]任海軍，張曉星，孫才新，等.短期負(fù)荷多變量混沌時間序列正則化回歸局域預(yù)測方法[J].計(jì)算機(jī)科學(xué)，2010，37（7）：220.

REN Haijun， SUN Xiaoxing， SUN Caixin， et al. Regulation Regression Local Forecasting Method of Multivariable Chaotic Time Series in Short-term Electrical Load[J]. Computer Science，2010， 37（7）：220.

[18]WANG X， LEE W， HUANG H， et al. Factors that Impact the Accuracy of Clustering-based Load forEcasting [J]. IEEE Transactions on Industry Applications， 2016， 52（5）：3625.

[19]XIE G， CHEN X， WENG Y. An Integrated Gaussian Process Modeling Framework for Residential Load Prediction[J]. IEEE Transactions on Power Systems， 2018， 33（6）：7238.

[20]蘇運(yùn)，卜凡鵬，郭乃網(wǎng)，等.基于低秩表示的多任務(wù)短期電力負(fù)荷預(yù)測的研究[J].現(xiàn)代電力，2019，36（3）：58.

SU Yun， BU Fanpeng， GUO Naiwang， et al. Research on Short-term Load Forecast Using Multi-task With Low-rank Representation[J]. Modern Electric Power， 2019， 36（3）：58.

（編輯：溫澤宇）