項洪印,韓磊樂,石超君,張 珂,李星寬,楊世芳

(1.華北電力大學(xué)電子與通信工程系,河北 保定 071003;2.華北電力大學(xué)河北省電力物聯(lián)網(wǎng)技術(shù)重點實驗室,河北 保定 071003;3.華北電力大學(xué) 電力工程系,河北 保定 071003)

1 引 言

云是一種常見而重要的自然現(xiàn)象,其為大氣中水滴、冰晶或兩者的聚合體,占全球陸地面積的60 %以上[1]。云通過抑制太陽短波和長波輻射在維持大氣輻射收支平衡中起重要作用[2]。光伏發(fā)電功率預(yù)測受局部區(qū)域云類別、云量變化、太陽輻照度和太陽能電池性能等多重因素影響,其中云類別是影響光伏發(fā)電功率預(yù)測的重要原因[3]。因此,通過云觀測準(zhǔn)確獲取天空云信息進(jìn)而對云準(zhǔn)確分類對光伏發(fā)電功率精準(zhǔn)預(yù)測有重要意義[4]。傳統(tǒng)地基云觀測方式主要為人工觀測,此方式嚴(yán)重依賴觀測員的經(jīng)驗,無法實現(xiàn)標(biāo)準(zhǔn)化,效率較低。因此,地基云自動觀測受到相關(guān)學(xué)者們的廣泛關(guān)注[5]?；趥鹘y(tǒng)機(jī)器學(xué)習(xí)的地基云圖分類方法大多通過人工設(shè)計云圖特征對云圖分類,而基于深度學(xué)習(xí)的地基云圖分類方法主要通過深度神經(jīng)網(wǎng)絡(luò)(Deep Neural Network,DNN)自主學(xué)習(xí)云圖特征對云圖分類[8]。

早年,相關(guān)學(xué)者對基于傳統(tǒng)機(jī)器學(xué)習(xí)的地基云圖分類方法進(jìn)行了大量研究。Singh等人[9]提出了用于自動訓(xùn)練云分類器紋理功能的方法,該方法在對云進(jìn)行特征提取時,分別用到了自相關(guān)、共發(fā)生矩陣、邊緣頻率、Laws紋理分析和原始長度五種特征提取方法,較其他云分類方法具備準(zhǔn)確率高和分類速度快的優(yōu)勢,但其對混合云分類能力不足。Heinle等人[10]通過提取云圖顏色和紋理特征,采用K鄰近法(K-Nearest Neighbor,KNN)將云分為七類。Buch等人[11]先提取云圖中紋理測量、位置信息和像素亮度等特征,再采用二進(jìn)制決策樹方法將云分為高積云、卷云、積云和層云。Neto等人[12]使用多維歐幾里得幾何距離和貝葉斯分類器分別對云圖進(jìn)行特征描述和模式分類。Liu等人[13]提出了一種顯著的局部二值模式(Salient Local Binary Pattern,SLBP)對地基云圖分類,其利用SLBP來捕獲描述性信息,可抑制噪聲,提高分類精度。Cheng等人[14]結(jié)合統(tǒng)計紋理和局部紋理特征,提出了一種基于塊的混合云分類方法,分類精度高于傳統(tǒng)紋理特征。Kliangsuwan等人[15]采用紋理、二維函數(shù)距、abs-FFT、log-FFT和快速傅里葉變換投影提取云圖特征。Li等人[16]將地基云圖視為圖像塊映射的微觀結(jié)構(gòu)集合,通過支持向量機(jī)(Support Vector Machines,SVM)將云圖分為卷云、積云、層云、混合云和晴空等五類。Liu等人[17]提出了聯(lián)合稀疏編碼的新穎編碼策略,克服了傳統(tǒng)稀疏編碼在訓(xùn)練階段忽略對同一類的異構(gòu)特征和編碼系數(shù)的關(guān)系,有效提升了云分類性能。Zhang等人[18]基于顯著的局部二值模式(Salient Local Binary Pattern,SLBP)提出了PSLBP(Pyramid Salient Local Binary Pattern)描述符,可提取云圖分辨率信息,并通過級聯(lián)SLBP信息描述紋理分辨率的變化,進(jìn)而提升云圖分類精度。Tang等人[19]提出基于黎曼特征代碼本對云圖區(qū)域協(xié)方差描述符進(jìn)行編碼提取直方圖特征,并通過SVM對云圖分類。此類方法對人工設(shè)計的地基云圖特征依賴性強(qiáng),而人工設(shè)計的特征對復(fù)雜云描述不夠準(zhǔn)確,因而難以獲取良好的分類結(jié)果。

近年來,在不同學(xué)科和人工智能交叉融合大背景下,基于深度學(xué)習(xí)的地基云圖分類方法以其優(yōu)越分類性能成為研究熱點。針對地基云圖獨有特征,Shi等人[20]提出基于深度卷積激活的特征(Deep Convolutional Activations-Based Features,DCAFs)對地基云圖分類,結(jié)果優(yōu)于人工設(shè)計的云圖特征。Ye等人[21]借助卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network,CNN)提取云圖特征,并提出基于地基云圖局部模式挖掘方法優(yōu)化云圖局部特征,提升了云圖分類精度。Zhang等人[22]首次將尾跡云作為新型云納入地基云圖數(shù)據(jù)庫,提出基于CloudNet的地基云圖分類方法,并提升了地基云圖分類精度。Wang等人[23]提出基于AlexNet[24]改進(jìn)的CloudA網(wǎng)絡(luò),在SWIMCAT(Singapore Whole-Sky Imaging Categories)地基云圖數(shù)據(jù)集上的分類精度超過傳統(tǒng)地基云圖分類方法。Liu等人[25]通過融合異構(gòu)特征、本地視覺特征和多模式信息提出多特征提取和多模式融合的網(wǎng)絡(luò)(Multi-Evidence and Multi-Modal Fusion Network,MMFN),顯著提升了云圖分類精度。針對傳統(tǒng)神經(jīng)網(wǎng)絡(luò)對地基云圖類內(nèi)和類間分類能力不足的問題,Zhu等人[3]提出采用改進(jìn)的組合卷積神經(jīng)網(wǎng)絡(luò)對云圖分類,分類精度較傳統(tǒng)神經(jīng)網(wǎng)絡(luò)有了較大提升。與此同時,Yu等人[26]通過兩個子卷積神經(jīng)網(wǎng)絡(luò)對地基云圖進(jìn)行特征提取,并采用加權(quán)稀疏表示編碼進(jìn)行分類,解決了多模式地基云圖數(shù)據(jù)中遮擋的問題,大大的提升了云圖分類的魯棒性。Liu等人[27]首次提出基于圖卷積(Graph Convolutional Network,GCN)的地基云圖分類方法,但GCN分配的權(quán)重不能準(zhǔn)確反映連接節(jié)點的重要性,從而降低了聚合云圖特征的辨別力。為彌補(bǔ)該方面的不足,Liu等人[28]提出用于地基云分類的上下文注意力網(wǎng)絡(luò),并公開發(fā)布新的云圖分類數(shù)據(jù)集。此外,Liu等人[29]結(jié)合CNN和GCN提出基于異構(gòu)深度特征學(xué)習(xí)的多模態(tài)地基云圖分類方法。Wang等人[30]結(jié)合深度學(xué)習(xí)和遷移學(xué)習(xí),提出一種基于遷移式卷積網(wǎng)絡(luò)(Transfer Convolutional Neural Network,TCNN)的地基云圖分類方法。上述基于深度學(xué)習(xí)的地基云圖分類方法的性能較傳統(tǒng)機(jī)器學(xué)習(xí)方法有了顯著提升。

本文首先歸納了云圖采集設(shè)備和云圖分類標(biāo)準(zhǔn),其次介紹了2種典型的地基云圖分類數(shù)據(jù)集,接著從傳統(tǒng)機(jī)器學(xué)習(xí)和深度學(xué)習(xí)兩方面詳細(xì)論述了典型的地基云圖分類方法,此外在兩種不同地基云圖分類數(shù)據(jù)集上比較了不同方法的性能,最后對地基云圖分類方法進(jìn)行了總結(jié)和展望。

2 地基云圖采集及分類標(biāo)準(zhǔn)介紹

2.1 地基云圖采集

地基云圖主要通過地基全天空成像儀獲取[31]。地基全天空成像儀起源于19世紀(jì)初,由美國物理學(xué)教授Wood依據(jù)魚從水中觀看水上景物的光學(xué)原理提出[32]。1915年,Fassig首次在氣象文獻(xiàn)中描述了可觀測180°大視場全天空地基云的全天空相機(jī)[33]。1924年,Hill提出了一種復(fù)雜度魚眼相機(jī)成像系統(tǒng),為全天空成像儀的成功研制奠定了重要基礎(chǔ)[34]。1950年,Abe成功研制出全天空成像儀,實現(xiàn)了全天空成像[35]。目前,具有代表性的地基全天空成像儀有ASI(All Sky Imager)[36-37]、ASC(All-Sky-View Camera)[38]、WSI(Whole Sky Imager)[39]、WSC(Whole Sky Camera)[40]和TSI(Total Sky Imager)[41]。

ASI由GFAT研發(fā),包括彩色CCD相機(jī)和魚眼鏡頭。其中,彩色CCD相機(jī)提供三通道全色圖像,可區(qū)分曝光時間相同、曝光度不同的圖像細(xì)節(jié),減少暗噪聲。魚眼鏡頭體積減少了33 %,視場從180°拓寬至185°,能顯示出整個天空圓頂,降低圖像失真程度,其太陽跟蹤器的遮光球能使相機(jī)避陽,使電荷耦合器件免受太陽直接輻射的影響。ASI可每5 min連續(xù)拍攝地基云圖,分辨率為900×900,設(shè)備外觀和拍攝的地基云圖如圖1所示。

圖1 ASI地基全天空成像儀和拍攝的地基云圖

ASC配備了180°視場魚眼鏡頭的CCD相機(jī),可直接捕捉完整的全天空地基云圖,不需要太陽跟蹤器或傳統(tǒng)的遮光球、黑色陰影條等遮光設(shè)備。ASC應(yīng)用高動態(tài)范圍技術(shù),將10張曝光時間不同的照片融合于一張圖像,獲取清晰的全天空圖像,拍攝的地基云圖數(shù)據(jù)覆蓋各種云層、不同時間段和多類別太陽的方位角和仰角,分辨率為2000×1944,設(shè)備外觀和拍攝的地基云圖如圖2所示。

圖2 ASC地基全天空成像儀和拍攝的地基云圖

美國Yankee公司研制出不需要魚眼鏡頭的地基全天空成像儀TSI。TSI通過安裝在CCD相機(jī)正下方的半球曲面鏡反射全天空地基云圖,接著由CCD相機(jī)對準(zhǔn)半球曲面鏡拍照獲取全天空地基云圖和其他天空云狀信息。該設(shè)備因設(shè)計簡單、價格便宜且便于攜帶和維護(hù)而受到學(xué)者們廣泛關(guān)注,設(shè)備外觀和拍攝的地基云圖如圖3所示。此外,基于海上環(huán)境的地基全天空成像儀[42]由德國基爾大學(xué)萊布尼茨海洋科學(xué)研究所研發(fā),其裝備了183°視場魚眼鏡頭的CCD相機(jī),可獲取高品質(zhì)無鏡頭陰影的分辨率為3648×2736的全天空地基云圖,成本較低,其設(shè)備外觀及其拍攝的地基云圖如圖4所示。

圖3 TSI地基全天空成像儀和拍攝的地基云圖

圖4 德國基爾大學(xué)研制的地基全天空成像儀和拍攝的地基云圖

國內(nèi)學(xué)者也推動了地基全天空成像儀的研究和發(fā)展,中國科學(xué)院大氣物理研究所研發(fā)出可見光全天空云特性自動觀測系統(tǒng),最高可每30 s拍攝一張分辨率為2272×1704的24位彩色全天空圖像[43]。由于地基全天空成像儀拍攝的夜間云圖質(zhì)量遠(yuǎn)遠(yuǎn)低于白天云圖,一些紅外云觀測設(shè)備便相繼問世,實現(xiàn)了對云量、云狀和云底高度的全天連續(xù)觀測的效果。常見的紅外云觀測設(shè)備主要有紅外云分析儀(Infrared Cloud Analyzer,ICA)[44]、紅外云成像儀(Infrared Cloud Imager,ICI)[45-48]和全天空紅外測云系統(tǒng)(Whole Sky Infrared Cloud Measuring System,WSIRCMS)[49]等。

綜上所述,地基云圖拍攝成像設(shè)備的成本遠(yuǎn)低于空天云圖拍攝成像設(shè)備,經(jīng)過不斷發(fā)展從單一的、有限的地基云圖至包含云高、降水等信息的云圖,不僅為地基云圖分類任務(wù)提供大量數(shù)據(jù)支持,成為眾多研究人員的最佳選擇,還推進(jìn)了地基云自動化觀測的發(fā)展。

2.2 地基云圖分類標(biāo)準(zhǔn)

云的形成和演變對光伏發(fā)電功率預(yù)測具有重要影響。國際氣象組織根據(jù)云的外部形狀、云高、形成原因及內(nèi)部結(jié)構(gòu),將云分為為3族10屬29類,如表1所示[50]。其中,3族是把云從低到高分為低云、中云和高云族,每一族云又經(jīng)過劃分確定了10屬,包括積云、高積云、積雨云、層積云、層云、高層云、雨層云、卷云、卷層云和卷積云。此外,云的類別根據(jù)云的透明度和排列還能細(xì)分成不同變種,總共超過100種組合。因此,在不同科研任務(wù)中,學(xué)者需根據(jù)研究任務(wù)需求采用合理的云圖分類標(biāo)準(zhǔn)。

表1 10屬云分類

3 基于機(jī)器學(xué)習(xí)的地基云分類

隨著人工智能的不斷發(fā)展,機(jī)器學(xué)習(xí)已廣泛應(yīng)用于地基云圖分類任務(wù)。目前,基于機(jī)器學(xué)習(xí)的地基云圖分類方法主要基于傳統(tǒng)機(jī)器學(xué)習(xí)和深度學(xué)習(xí)范式提出。基于傳統(tǒng)機(jī)器學(xué)習(xí)的地基云圖分類方法大多通過人工設(shè)計云圖特征對云圖分類,而基于深度學(xué)習(xí)的地基云圖分類方法主要通過深度神經(jīng)網(wǎng)絡(luò)自主學(xué)習(xí)云圖特征對云圖分類。

3.1 基于傳統(tǒng)機(jī)器學(xué)習(xí)的地基云分類研究

基于傳統(tǒng)機(jī)器學(xué)習(xí)的地基云圖分類方法先對云圖特征提取再用分類器進(jìn)行分類[51]。常用的特征提取方法有直方圖紋理特征提取[52-53]、灰度共生矩陣法[54]、小波變換紋理特征提取[55]、二值模式特征提取[56]等。除了特征提取外,分類器也是云圖分類的關(guān)鍵。常用的分類器有KNN[10,57-58]、貝葉斯網(wǎng)絡(luò)[4,59]、SVM[2]等。

3.1.1 SLBP特征提取方法

局部二值模式(Local Binary Pattern,LBP)作為經(jīng)典的紋理描述符,通過描述局部圖像紋理空間結(jié)構(gòu)的灰度紋理提取圖像特征0。均勻LBP將結(jié)構(gòu)信息與直線或低曲率邊緣相結(jié)合,較大幅度提升了圖像分類的精度。然而,地基云圖特征復(fù)雜,包含曲率邊緣、交叉邊界和拐角等復(fù)雜結(jié)構(gòu),均勻LBP特征提取方法對云圖特征描述不精確?；诰鶆騆BP的不足,基于顯著模式的SLBP特征提取方法被提出,其可降低對噪聲的敏感性,對云圖特征描述更加精確。SLBP表達(dá)式如式(1)所示:

(1)

SLBP方法的計算復(fù)雜度為O(P·V)。其中,P為每個中心像素的相鄰像素數(shù);V為單幅云圖總像素數(shù);R為圓周半徑。P和R是指定參數(shù),可以看作常數(shù)。由此得知SLBP計算復(fù)雜度是線性的,可在不增加計算復(fù)雜度的同時提升云圖分類性能。

3.1.2 HOG特征提取方法

HOG顏色描述符是依據(jù)不同顏色在整幅圖中所占的比例,適用于難以自動分類的圖像。多數(shù)圖像基于RGB顏色空間,但RGB顏色空間結(jié)構(gòu)并不符合地基云圖顏色相似性的主觀判斷。因此,HSV顏色空間被提出替代RGB顏色空間應(yīng)用在地基云圖分類任務(wù),其三個分量分別代表色彩(Hue)、飽和度(Saturation)和值(Value)。從RGB空間到HSV空間的轉(zhuǎn)換如式(5)所示。在提取特征向量過程中還引入了L2正則化來提高模型的泛化能力。

v=max(r,g,b)

(2)

(3)

(4)

(5)

3.1.3K鄰近(KNN)分類方法

K鄰近法指從訓(xùn)練集中獲取K個樣本來預(yù)測當(dāng)前待預(yù)測樣本的目標(biāo)屬性值,其包括K值選取、距離度量和分類預(yù)測三要素。對于K值選擇,一般先根據(jù)樣本分布選擇一個較小的值,然后通過交叉驗證來選擇一個較為合適的最終值。當(dāng)選擇較小K值時,表示使用較小領(lǐng)域中的樣本進(jìn)行預(yù)測,訓(xùn)練誤差會減小,但會導(dǎo)致模型變復(fù)雜,容易過擬合。當(dāng)選擇較大K值時,表示使用較大領(lǐng)域中的樣本進(jìn)行預(yù)測,訓(xùn)練誤差會增大,同時會使模型變簡單,容易導(dǎo)致欠擬合。通過度量樣本空間中點與點間的距離來表示兩個樣本點間的相似度。距離越短,表示相似度越高;反之,相似度越低。距離度量的方式一般有:閔可夫斯基距離、歐氏距離、曼哈頓距離、切比雪夫距離、余弦距離、卡方距離。其中卡方距離度量和歐式距離度量為常用的距離度量方式,主要衡量兩個體間的差異性,表達(dá)式如式(6)～(7)所示:

(6)

(7)

K鄰近法的分類規(guī)則通常由多數(shù)表決法或加權(quán)多數(shù)表決法決定。多數(shù)表決法是指每個臨近樣本的權(quán)重是一樣的,即最終預(yù)測結(jié)果為出現(xiàn)類別最多的類。加權(quán)多數(shù)表決法指每個鄰近樣本權(quán)重不同,一般采用權(quán)重和距離成反比的方式來計算,即最終預(yù)測結(jié)果為出現(xiàn)權(quán)重最大的類。KNN通過計算待測樣本數(shù)據(jù)和訓(xùn)練數(shù)據(jù)中不同類別數(shù)據(jù)點間的相似度對待測樣本分類。相比其他分類器算法,KNN具有訓(xùn)練復(fù)雜度低、準(zhǔn)確度高、對異常點不敏感的特點。其中,通過構(gòu)建KD樹來獲取鄰近樣本數(shù)據(jù)。算法的具體步驟如圖5所示。

圖5 KNN方法的實現(xiàn)過程

3.2 基于深度學(xué)習(xí)的地基云分類研究

深度學(xué)習(xí)屬于機(jī)器學(xué)習(xí)范疇,其以大量訓(xùn)練樣本數(shù)據(jù)為基礎(chǔ),發(fā)展出一系列深度網(wǎng)絡(luò)如深度自動編碼器(Deep Auto Encoder,DAE)[60]、受限玻爾茲曼機(jī)(Restricted Boltzmann Machine,RBM)[61]、深度置信網(wǎng)絡(luò)(Deep Belief Network,DBN)[62-64]和CNN[24]等,是人工智能的核心技術(shù)之一。當(dāng)前在人工智能與不同學(xué)科交叉融合進(jìn)一步增強(qiáng)的新態(tài)勢下,基于深度學(xué)習(xí)的地基云圖分類方法以其優(yōu)越分類性能成為研究熱點。本節(jié)主要介紹幾種典型基于深度學(xué)習(xí)的地基云圖分類網(wǎng)絡(luò)。

3.2.1 CloudNet網(wǎng)絡(luò)

傳統(tǒng)地基云分類方法對學(xué)者的主觀經(jīng)驗依賴性強(qiáng),致使云圖分類結(jié)果準(zhǔn)確率不高、誤差較大且耗時長。針對傳統(tǒng)地基云圖分類方法的不足,Zhang等人[22]提出了一種卷積神經(jīng)網(wǎng)絡(luò)模型CloudNet對云圖分類,網(wǎng)絡(luò)模型結(jié)構(gòu)如圖6所示。CloudNet是由AlexNet[24]改進(jìn)而來的,是一種優(yōu)化的CNN。CloudNet包括5個卷積層和2個全連接層,可用于序列到序列之間學(xué)習(xí)任務(wù),其網(wǎng)絡(luò)架構(gòu)較之前網(wǎng)絡(luò)更簡單,參數(shù)量更少[65]。CloudNet架構(gòu)簡單化致使其更適合學(xué)習(xí)地基云圖特征,提高地基云分類的準(zhǔn)確性,可避免傳統(tǒng)依賴人為經(jīng)驗分類造成的誤差。由于地基云圖特征難以提取[21],預(yù)處理后的彩色圖片通過魯棒策略輸入網(wǎng)絡(luò);第三卷積層和第四卷積層直接相連;同時在網(wǎng)絡(luò)第五層和第六層間應(yīng)用Dropout[66];最后通過激活函數(shù)Softmax輸出包含所有類別概率的分布。

圖6 CloudNet網(wǎng)絡(luò)結(jié)構(gòu)

CloudNet是卷積神經(jīng)網(wǎng)絡(luò)在地基云圖分類領(lǐng)域的初步探索,其分類性能較傳統(tǒng)地基云圖分類方法有了較大提升,為后續(xù)基于卷積神經(jīng)網(wǎng)絡(luò)的系列地基云圖分類方法的研究奠定了堅實基礎(chǔ)。但該網(wǎng)絡(luò)結(jié)構(gòu)較為簡單,對地基云圖特征提取能力有限,分類結(jié)果仍有提升空間。

3.2.2 CloudA網(wǎng)絡(luò)

針對小規(guī)模地基可見光云分類,Wang等[23,67]提出一種網(wǎng)絡(luò)結(jié)構(gòu)簡單的新型卷積神經(jīng)網(wǎng)絡(luò)CloudA,大幅減少需要學(xué)習(xí)的參數(shù)量,可有效避免過擬合問題,網(wǎng)絡(luò)結(jié)構(gòu)如圖7所示。CloudA包含4個卷積層、4個池化層和3個全連接層。CloudA網(wǎng)絡(luò)第一層為內(nèi)核大小5×5且輸出通道數(shù)量32的卷積層,第二層為內(nèi)核大小5×5且輸出通道數(shù)量為64的卷積層,第三、四層為卷積核大小3×3,輸出通道數(shù)量128的卷積層;每個卷積層使用ReLU[68]激活函數(shù),連接的池化層為最大池化層。最后,經(jīng)過三個全連接層連接分類器對云圖進(jìn)行分類運算。CloudA網(wǎng)絡(luò)參數(shù)迭代訓(xùn)練過程中,不斷通過前向計算和反向傳播更新權(quán)重至模型收斂,繼而利用驗證集來檢測模型性能。

圖7 CloudA網(wǎng)絡(luò)結(jié)構(gòu)

3.2.3 TGCN網(wǎng)絡(luò)

研究大規(guī)模地基云圖數(shù)據(jù)集的分類精度,CNN云圖分類方法較傳統(tǒng)云圖分類方法有極大提升。但CNN表示過程僅涉及圖像特征和固定圖像節(jié)點結(jié)構(gòu),易忽略圖像節(jié)點結(jié)構(gòu)間的聯(lián)系,致使對圖像表示能力不足[69-71],進(jìn)而限制地基云圖分類性能的進(jìn)一步提升。具體來說,CNN以地基云圖像及其標(biāo)簽作為輸入,沒有考慮地基云圖節(jié)點間的聯(lián)系,無法發(fā)現(xiàn)地基云圖間內(nèi)在的數(shù)據(jù)結(jié)構(gòu)。圖卷積神經(jīng)網(wǎng)絡(luò)的提出為提升地基云圖分類精度提供了新思路,其以自動學(xué)習(xí)圖像特征信息和結(jié)構(gòu)信息的優(yōu)勢在圖像分類領(lǐng)域掀起了熱潮。Liu等[27]首次將GCN應(yīng)用在地基云圖分類領(lǐng)域,提出采用圖譜卷積網(wǎng)絡(luò)建立不同云圖間的聯(lián)系,搭建更適合地基云圖分類的深度網(wǎng)絡(luò)(Task-Based Graph Convolutional Network,TGCN),進(jìn)一步提升地基云圖分類精度,網(wǎng)絡(luò)結(jié)構(gòu)如圖8所示。TGCN包括圖譜構(gòu)造、圖譜特征矩陣、鄰接矩陣構(gòu)造、圖譜表征學(xué)習(xí)和分類模塊。TGCN將圖譜計算融入到深度網(wǎng)絡(luò)為地基云圖構(gòu)建了一個相似圖譜,其中每個節(jié)點對應(yīng)于一個基于CNN的地基云圖特征,學(xué)習(xí)地基云分類的圖像關(guān)系并區(qū)分特征。此外,TGCN充分利用CNN特征學(xué)習(xí)過程的標(biāo)簽信息,以監(jiān)督學(xué)習(xí)方式來學(xué)習(xí)云圖特征,提出一種基于地基云圖相似性的有效鄰接矩陣來描述結(jié)點之間的關(guān)系,并且鄰接矩陣在特征優(yōu)化過程中進(jìn)行更新來保證節(jié)點關(guān)系的有效性。同時,具有圖卷積的圖譜允許節(jié)點信息沿圖譜邊緣傳播。因此,每個節(jié)點的特征表示是由本節(jié)點和其他節(jié)點信息得到。最后,將基于GCN[72-75]的特征與基于CNN的特征融合,進(jìn)行云圖分類。

圖8 TGCN網(wǎng)絡(luò)結(jié)構(gòu)

3.2.4 CGAT網(wǎng)絡(luò)

基于傳統(tǒng)機(jī)器學(xué)習(xí)方法和多數(shù)深度學(xué)習(xí)方法的地基云圖分類,側(cè)重學(xué)習(xí)云圖的表示特征?；趫D卷積神經(jīng)網(wǎng)絡(luò)(Graph Convolutional Network,GCN)的地基云圖分類方法則以加權(quán)的方式對云圖連通節(jié)點的信息進(jìn)行聚合,進(jìn)而形成聚合特征,如TGCN網(wǎng)絡(luò)。但GCN對云圖連通節(jié)點所分配的權(quán)重并不能準(zhǔn)確反映其重要性,致使分類器降低了對聚合特征(Aggregated Features,AFs)的識別能力。為提升TGCN網(wǎng)絡(luò)對聚合特征的識別能力,Liu等人[28]提出一種適用于地基云圖分類的上下文圖譜注意機(jī)制網(wǎng)絡(luò)(Context Graph Attention Network,CGAT),其網(wǎng)絡(luò)結(jié)構(gòu)如圖9所示。CGAT網(wǎng)絡(luò)由圖譜構(gòu)造、上下文圖譜注意機(jī)制層(Context Graph Attention layer,CGA layer)、最終表征和分類器組成。CGAT首先利用CNN提取地基云圖的深度特征(Deep Features,DFs)并計算DFS相似度,將云圖的DFs視為節(jié)點,并將DFs相似度大于預(yù)設(shè)閾值的節(jié)點視作邊界構(gòu)造圖譜。圖譜輸入CGA層,通過學(xué)習(xí)上下文圖譜注意力機(jī)制系數(shù)(Context Attention Coefficients,CACs)[76]作為節(jié)點權(quán)重,其系數(shù)可準(zhǔn)確反映不同節(jié)點的重要性,不僅能獲取重要地基云圖連接節(jié)點的AFs,還能提升AFs穩(wěn)定性。最后,將DFs和AFs連接,獲得云結(jié)構(gòu)和紋理信息豐富且云圖相關(guān)性信息豐富的最終表征。CGAT利用兩個分類器對云圖進(jìn)行分類,獲得云圖的預(yù)測概率,并利用交叉熵?fù)p失函數(shù)訓(xùn)練CGAT整體框架。

圖9 CGAT網(wǎng)絡(luò)結(jié)構(gòu)

3.2.5 ICN網(wǎng)絡(luò)

盡管將GCN網(wǎng)絡(luò)用于大規(guī)模地基云圖分類可極大提升其分類精度,但仍無法完美克服云圖類內(nèi)差異性和類間相似性帶來的問題,傳統(tǒng)卷積網(wǎng)絡(luò)在區(qū)分能力方面明顯不足[77-80]。為提高基于深度學(xué)習(xí)方法的地基云圖分類性能,Zhu等人[3]將多通道深度學(xué)習(xí)方法引入地基云圖分類,提出了一種改進(jìn)的組合卷積網(wǎng)絡(luò)(Improved Combined Network,ICN)對地基云圖進(jìn)行分類,網(wǎng)絡(luò)結(jié)構(gòu)如圖10所示。為了解決由像素信息冗余引起的子網(wǎng)絡(luò)過擬合問題,ICN將VGG-16中最大池化層改為重疊池化層,消除信息冗余并降低過擬合風(fēng)險。同時,VGG-16特征傳輸信道引入信道注意模塊ECA-WS,致使網(wǎng)絡(luò)表達(dá)信道信息能力提升,并實現(xiàn)子網(wǎng)絡(luò)間參數(shù)同步優(yōu)化。兩個子網(wǎng)絡(luò)對輸入圖像進(jìn)行特征提取后,采用決策融合算法對多尺度的子網(wǎng)絡(luò)輸出進(jìn)行融合。再根據(jù)每個類別中云圖像的數(shù)量,對融合結(jié)果賦予不同的權(quán)值,從而解決了網(wǎng)絡(luò)規(guī)模限制和數(shù)據(jù)集不平衡的問題[81]。最后,對兩個子網(wǎng)絡(luò)的輸出進(jìn)行加權(quán),以提高分類精度。子網(wǎng)絡(luò)分別引入ResNet-50[82]和VGG-16[83]深度卷積神經(jīng)網(wǎng)絡(luò),來獲取地基云圖特征。VGG-16通過堆疊多個3×3大小的卷積核來取代更大尺寸的卷積核,確保網(wǎng)絡(luò)在獲得相同接受域的同時學(xué)習(xí)更復(fù)雜的非線性映射模式。ResNet-50由多個殘余結(jié)構(gòu)組成,每個殘余結(jié)構(gòu)添加了一個直接連接信道。殘差學(xué)習(xí)可以減少特征傳播到更深的網(wǎng)絡(luò)時的信息損失。EAC(Efficient Channel Attention)注意力模塊[84]是在SE(Squeeze-and-Excitation)注意力模塊[85]上的改進(jìn),是基于SE不降維的局部跨通道交互策略,可自適應(yīng)選擇一維卷積核的大小。

圖10 ICN網(wǎng)絡(luò)結(jié)構(gòu)

3.2.6 RIWSRC網(wǎng)絡(luò)

地基云圖存在不同云屬遮擋問題。雖然卷積神經(jīng)網(wǎng)絡(luò)可極大提高地基云圖分類準(zhǔn)確率,但處理不同云屬遮擋問題時魯棒性較差,易對不同云屬產(chǎn)生誤判。為解決上述問題,Yu等人[26]提出一種新的地基云圖分類方法(RIWSRC)。RIWSRC使用雙通道卷積神經(jīng)網(wǎng)絡(luò)對地基云圖進(jìn)行特征提取,并采用加權(quán)稀疏表示編碼[86-87]來對云圖分類,有效提升卷積神經(jīng)網(wǎng)絡(luò)處理不同云屬遮擋問題時的魯棒性,具體網(wǎng)絡(luò)結(jié)構(gòu)如圖11所示。RIWSRC采用基于ResNet-50和Inception-v3的雙通道網(wǎng)絡(luò)提取云圖特征,其魯棒性優(yōu)于單通道網(wǎng)絡(luò)。殘差結(jié)構(gòu)內(nèi)置于ResNet-50,能阻止梯度消失發(fā)生,數(shù)據(jù)通過其中可快速傳播。同時,該網(wǎng)絡(luò)連接ReLU激活函數(shù)使其具有稀疏性,得以降低梯度消失的可能性。Inception-v3是一種基于Inception模型[65]的卷積神經(jīng)網(wǎng)絡(luò),由不同類型的Inception模塊堆疊,以提取不同空間尺寸信息[88],通過減小分辨率來降低計算復(fù)雜性并提高性能。云圖特征提取后進(jìn)行向量化并加權(quán)求和,并將其輸入到基于編碼的稀疏分類算法中進(jìn)行分類[89]。其中,基于編碼的稀疏分類算法是基于傳統(tǒng)稀疏分類算法改進(jìn)的,具有更好的魯棒性[90]。由于每個卷積神經(jīng)網(wǎng)絡(luò)的性能不同,RIWSRC融合多個卷積神經(jīng)網(wǎng)絡(luò)提取云圖特征效果更佳。

圖11 RIWSRC網(wǎng)絡(luò)結(jié)構(gòu)

4 數(shù)據(jù)集和地基云分類方法性能比較

本節(jié)將在Kiel-F和MGCD兩種地基云圖分類數(shù)據(jù)集上比較不同地基云圖分類方法的性能。

4.1 地基云圖分類數(shù)據(jù)集介紹

4.1.1 Kiel-F數(shù)據(jù)集

Kiel-F數(shù)據(jù)集由地基全天空成像儀拍攝,該成像儀由德國基爾大學(xué)萊布尼茨海洋科學(xué)研究所聯(lián)合Shirshov海洋研究所開發(fā),配備魚眼鏡頭CCD數(shù)碼相機(jī),能夠?qū)崿F(xiàn)183°的視場,相比其他天空成像儀沒有鏡頭陰影。Kiel-F數(shù)據(jù)集包含1500張高質(zhì)量彩色、JPEG格式地基云圖,最大分辨率為3648×2736,涵蓋高積云(altocumulus)、卷云(cirrus)、晴空(clear sky)、積雨云(cumulonimbus)、積云(cumulus)、層積云(stratocumulus)、層云(stratus)7類云,具體信息如表2所示。盡管Kiel-F數(shù)據(jù)集在海上拍攝,較陸地拍攝的圖像更清晰且分辨率更高,但其中所有地基云圖均有設(shè)備遮擋部分,網(wǎng)絡(luò)提取地基云圖特征時會產(chǎn)生誤差。具體圖樣如圖12所示。

表2 Kiel-F數(shù)據(jù)集具體信息

圖12 Kiel-F數(shù)據(jù)集樣本圖例

4.1.2 MGCD數(shù)據(jù)集

多模態(tài)地基云圖數(shù)據(jù)集(MGCD)是第一個由地基云圖和多模態(tài)信息組成的數(shù)據(jù)集。MGCD數(shù)據(jù)集共有8000個地基云圖樣本,訓(xùn)練集和測試集各4000個樣本,包含高積云(altocumulus)、卷云(cirrus)、晴空(clear sky)、積雨云(cumulonimbus)、積云(cumulus)、層積云(stratocumulus)、混合云(mix)7類云。每個地基云圖樣本包含同時間拍攝的地基云圖和捕獲的多模態(tài)信息。此外,云量不超過10 %的云圖被歸類為晴空,其中,地基云圖由帶有魚眼鏡頭的全天空相機(jī)采集獲得,其數(shù)據(jù)存儲格式為JPEG,像素分辨率為1024×1024;多模態(tài)信息由氣象站采集,包括溫度、濕度、壓力、風(fēng)速,并將這四個要素存儲至同一矢量中。圖13為部分MGCD數(shù)據(jù)集云圖示例,具體信息如表3所示。

表3 MGCD數(shù)據(jù)集具體信息

圖13 MGCD數(shù)據(jù)集樣本圖例

4.2 地基云圖分類方法在Kiel-F數(shù)據(jù)集上的比較

4.2.1 實驗細(xì)節(jié)

本組實驗在Kiel-F數(shù)據(jù)集上比較SLBP+KNN、HOG+KNN、CloudNet、CloudA和ResNet-50[91]不同地基云圖分類方法的性能。SLBP將(P,R)設(shè)置為(24,3),并將輸入圖像歸一化,有效降低圖像間光照變化的影響。HOG采用顏色直方圖方法提取圖像特征向量,并統(tǒng)計各個特征向量的均值進(jìn)行歸一化處理,能有效減少分類誤判。SLBP和HOG都采用KNN分類器對測試樣本分類識別,且K=11。另外,CloudNet、CloudA和ResNet-50方法設(shè)置相同參數(shù),且輸入其中的地基云圖分辨率為224×224。訓(xùn)練過程中,所有CNN網(wǎng)絡(luò)的學(xué)習(xí)初始率設(shè)為0.002,批量大小(Batchsize)設(shè)置為32,并使用adam優(yōu)化器[92]優(yōu)化網(wǎng)絡(luò)中所有可使用的參數(shù)。實驗采用Windows11操作系統(tǒng),基于pycharm平臺的python語言和pytorch框架,CUP設(shè)備型號為inter-i7-10,顯卡設(shè)備型號為GTX-1050Ti。此外,從Kiel-F數(shù)據(jù)集的每個類中隨機(jī)抽取80 %的樣本作為訓(xùn)練數(shù)據(jù),余下每個類中20 %的樣本作為測試數(shù)據(jù)。訓(xùn)練周期(epoch)設(shè)為40。

4.2.2 實驗結(jié)果分析

本組實驗采用平均準(zhǔn)確率和平均召回率兩種評價指標(biāo)來評估不同地基云圖分類方法的性能,結(jié)果如表4所示。由表4可知,SLBP+KNN在數(shù)據(jù)集Kiel-F上的平均準(zhǔn)確率和平均召回率高于HOG+KNN,表明SLBP比HOG對地基云圖提取特征更有優(yōu)勢;基于SLBP+KNN的地基云圖分類方法和基于深度學(xué)習(xí)地基云圖分類方法性能相差不大,甚至略高于結(jié)構(gòu)簡單、網(wǎng)絡(luò)層數(shù)較少的深度學(xué)習(xí)方法;而基于HOG+KNN的地基云圖分類方法性能遠(yuǎn)低于基于深度學(xué)習(xí)的地基云圖分類方法。實驗結(jié)果表明,深度學(xué)習(xí)分類方法在地基云圖分類方面具有優(yōu)越性能,但在小數(shù)據(jù)集上分類性能較傳統(tǒng)機(jī)器學(xué)習(xí)分類方法優(yōu)勢較小。此外,3種深度學(xué)習(xí)分類方法的平均準(zhǔn)確率和平均召回率均超過90 %,但基于ResNet-50的地基云圖分類方法平均準(zhǔn)確率和平均召回率比其他2種深度學(xué)習(xí)分類方法高,表明增加網(wǎng)絡(luò)提取特征層數(shù)和結(jié)構(gòu)復(fù)雜度能夠提高地基云圖分類精度。

表4 五種地基云圖分類方法結(jié)果

4.3 地基云圖分類方法在MGCD數(shù)據(jù)集上的比較

4.3.1 實驗細(xì)節(jié)

本組實驗在MGCD數(shù)據(jù)集上比較CloudNet、CloudA、TGCN、CGAT、ICN、RIWSRC不同基于深度學(xué)習(xí)的地基云圖分類方法性能。實驗中,6種方法設(shè)置相同權(quán)重參數(shù),且輸入地基云圖分辨率為224×224。訓(xùn)練期間,所有CNN網(wǎng)絡(luò)的學(xué)習(xí)初始率設(shè)為0.002,批量大小(Batchsize)設(shè)置為32,并使用adam優(yōu)化器[92]優(yōu)化網(wǎng)絡(luò)中所有可使用的參數(shù)。實驗同樣采用Windows11操作系統(tǒng),基于pycharm平臺的python語言和pytorch框架,CUP設(shè)備型號為inter-i7-10,顯卡設(shè)備型號為GTX-2060。此外,從MGCD數(shù)據(jù)集的每個類中隨機(jī)抽取50 %的樣本作為訓(xùn)練數(shù)據(jù),余下每個類中50 %的樣本作為測試數(shù)據(jù)。

4.3.2 實驗結(jié)果分析

本組實驗采用平均準(zhǔn)確率和平均召回率兩種評價指標(biāo)來評估不同地基云圖分類方法的性能,實驗結(jié)果如表5所示。由表5可知,網(wǎng)絡(luò)層數(shù)少、結(jié)構(gòu)簡單的CloudNet和CloudA準(zhǔn)確率和召回率遠(yuǎn)低于TGCN、CGAT、ICN和RIWSRC,表明增加深度學(xué)習(xí)網(wǎng)絡(luò)層數(shù)或提升網(wǎng)絡(luò)結(jié)構(gòu)的復(fù)雜性能夠提升分類精度。TGCN利用GCN和CNN提取地基云圖特征并融合,其過程增加了地基云圖間關(guān)聯(lián)性功能、深度特征監(jiān)督學(xué)習(xí),并將其平均準(zhǔn)確率和平均召回率分別提升至89.48 %和90.43 %。CGAT解決了TGCN無法完全反映連接節(jié)點的重要性且降低聚合特征識別等問題,通過添加上下文圖譜注意機(jī)制層,增強(qiáng)對聚合特征的識別能力,將聚合特征和深度特征融合對地基云圖進(jìn)行分類。根據(jù)表5顯示,CGAT的平均準(zhǔn)確率和平均召回率高于TGCN,表明在獲得聚合特征方面,CGAT通過上下文圖譜注意力機(jī)制層比TGCN通過圖譜卷積網(wǎng)絡(luò)聚合特征具有優(yōu)勢。ICN和RIWSRC是2種應(yīng)用組合卷積神經(jīng)網(wǎng)絡(luò)提取地基云圖特征的分類方法。ICN利用改進(jìn)的VGG-16子網(wǎng)絡(luò)和ResnNet-50子網(wǎng)絡(luò)提取云圖特征,而RIWSRC利用Inception-V3子網(wǎng)絡(luò)和ResNet-50子網(wǎng)絡(luò)提取云圖特征。表5中的數(shù)據(jù)顯示RIWSRC的平均準(zhǔn)確率和平均召回率比ICN高,表明Inception-V3的優(yōu)越性。另外,基于圖譜卷積和組合卷積神經(jīng)網(wǎng)絡(luò)的地基云圖分類方法的精度比網(wǎng)絡(luò)層數(shù)少、結(jié)構(gòu)簡單的深度學(xué)習(xí)分類方法高。

表5 六種地基云圖分類方法結(jié)果

5 結(jié)論與展望

地基云圖分類具有廣闊的應(yīng)用價值,近年來得到了越來越多的關(guān)注與研究。云圖分類不僅是光伏功率預(yù)測的基礎(chǔ),還是氣象天氣預(yù)測的關(guān)鍵,更是改善和推演氣候環(huán)境的重要因素。為應(yīng)對不同使用場景,我們需要開發(fā)更好的地基云圖分類模型,不斷提升地基云圖分類精度。本文首先歸納了地基云圖分類標(biāo)準(zhǔn)和多種采集設(shè)備,并簡要介紹了8種地基云圖分類方法。同時,本文介紹了Kiel-F和MGCD兩種常用的全天空地基云圖分類數(shù)據(jù)集,該數(shù)據(jù)集可支撐更復(fù)雜的深度學(xué)習(xí)模型在地基云圖分類領(lǐng)域得到評估和應(yīng)用。此外,本文從傳統(tǒng)機(jī)器學(xué)習(xí)和深度學(xué)習(xí)角度對近幾年地基云圖分類研究方法進(jìn)行對比。實驗數(shù)據(jù)表明,對多模式、多樣本地基云圖數(shù)據(jù)集分類,基于深度學(xué)習(xí)的地基云圖分類方法性能優(yōu)于基于傳統(tǒng)機(jī)器學(xué)習(xí)的地基云圖分類方法,合理增加深度學(xué)習(xí)模型的網(wǎng)絡(luò)層數(shù)并提升其結(jié)構(gòu)復(fù)雜程度能進(jìn)一步提升地基云圖分類精度。

目前最先進(jìn)的地基云圖分類方法研究大多基于卷積神經(jīng)網(wǎng)絡(luò)模型上的評估和驗證,其性能隨著不斷優(yōu)化現(xiàn)有卷積神經(jīng)網(wǎng)絡(luò)或提出新的卷積神經(jīng)網(wǎng)絡(luò)而提升。即便如此,現(xiàn)有深度學(xué)習(xí)方法在處理規(guī)模大、分類情況復(fù)雜的地基云圖時仍顯得捉襟見肘。因此,如何提升復(fù)雜情況下地基云圖分類精度、增強(qiáng)其方法魯棒性需要更多研究。放眼未來,我們將根據(jù)不同的應(yīng)用需求并結(jié)合目前的研究熱點,深度挖掘最新圖像分類方法在地基云圖分類上的潛能并優(yōu)化其適用性,以如何提升復(fù)雜情況下地基云圖的分類精度、魯棒性、訓(xùn)練速度和最優(yōu)參數(shù)為研究方向,研究云量信息、云狀和云高等關(guān)鍵因素在地基云圖分類中的影響,開發(fā)性能更優(yōu)的云圖分類方法。