摘 要:圖濾波器設(shè)計是圖信號處理領(lǐng)域中一個備受關(guān)注且富有挑戰(zhàn)性的課題。隨著圖卷積神經(jīng)網(wǎng)絡(luò)的迅速發(fā)展,圖濾波器的設(shè)計變得尤為重要,由于它們能夠有效捕捉圖中節(jié)點之間的復(fù)雜關(guān)系和局部模式,生成更具信息量的節(jié)點從而提升節(jié)點表示的能力,因此在圖數(shù)據(jù)的分析與學(xué)習(xí)中發(fā)揮著關(guān)鍵作用。圖傅里葉變換和圖小波變換已被嵌入到圖卷積神經(jīng)網(wǎng)絡(luò)中:圖傅里葉變換能夠提供頻域信息,而圖小波變換則引入了多尺度分析的思想,使濾波器能夠更靈活地適應(yīng)不同尺度上的圖信號特征。研究圖小波變換濾波器,并對Heat kernel、Mexican-hat和Meyer三種濾波器的性能進(jìn)行對比與分析,為基于圖小波變換的圖卷積神經(jīng)網(wǎng)絡(luò)濾波器的選擇提供參考依據(jù)。
關(guān)鍵詞:譜圖小波變換;圖濾波器;圖信號處理;圖拉普拉斯矩陣;圖卷積神經(jīng)網(wǎng)絡(luò);多尺度分析
中圖分類號:TP391.4 文獻(xiàn)標(biāo)識碼:A 文章編號:2095-1302(2025)08-00-05
0 引 言
圖濾波研究已在多個領(lǐng)域得到廣泛應(yīng)用,例如多智能體系統(tǒng)[1]、腦網(wǎng)絡(luò)連接分析[2]以及圖像去噪[3-4]等。在圖信號處理中,圖濾波器被定義為對給定圖信號的頻譜中各頻率分量進(jìn)行增強(qiáng)或衰減的操作。圖濾波器主要分為空間域濾波和譜域濾波兩類,本文研究的譜圖小波變換圖濾波器屬于譜域濾波器。隨著神經(jīng)網(wǎng)絡(luò)的快速發(fā)展,研究者們開始將神經(jīng)網(wǎng)絡(luò)應(yīng)用于圖這一特殊的數(shù)據(jù)結(jié)構(gòu),圖神經(jīng)網(wǎng)絡(luò)因此備受關(guān)注。在此背景下,許多研究者致力于探索圖卷積濾波器的研究,而圖的時域卷積通常通過轉(zhuǎn)化為頻域計算來實現(xiàn)。因此,頻域濾波器的選擇尤為重要。
譜圖理論是微分幾何的一個分支,其起源可以追溯到古希臘時期的等周問題(Isoperimetric Problems)。1997年,文獻(xiàn)[5]首次系統(tǒng)性地提出了譜圖理論,使其成為一個相對獨(dú)立的理論領(lǐng)域。該理論的核心思想是通過研究圖的鄰接矩陣、拉普拉斯矩陣等的譜性質(zhì),深入挖掘圖結(jié)構(gòu)中所蘊(yùn)含的信息。譜圖理論結(jié)合了微分幾何、矩陣分析和線性代數(shù)等方法,在離散與連續(xù)空間之間建立了橋梁。2012年,文獻(xiàn)[6]將雙通道小波濾波器組應(yīng)用于分析任意有限加權(quán)無向圖頂點上定義的函數(shù)。2013年,文獻(xiàn)[7]將傳統(tǒng)離散信號理論推廣到圖信號上,并首次引入了圖濾波器的概念。2015年,文獻(xiàn)[8]提出了自回歸移動平均(ARMA)濾波器。2016年,文獻(xiàn)[9]設(shè)計了一種在譜域中定義的三邊濾波器,這是一種與數(shù)據(jù)相關(guān)的濾波器,用于圖信號去噪。同年,文獻(xiàn)[10]通過引入對離散圖差異的L1范數(shù)懲罰,擴(kuò)展了趨勢濾波器的思想,提出了一系列自適應(yīng)估計器。2017年,Gavili和Zhang定義了一組能量守恒的圖移位算子,并證明了圖的鄰接矩陣相對于這些移位算子是線性移位不變(LSI)的。在此基礎(chǔ)上,他們引入了圖有限脈沖響應(yīng)(GFIR)濾波器和圖無限脈沖響應(yīng)(GIIR)濾波器。此外,文獻(xiàn)[11]利用經(jīng)典的正交鏡像濾波器和線性相位、臨界/過采樣濾波器組構(gòu)造了幾乎緊致的譜圖小波,其濾波函數(shù)為多項式形式,無需進(jìn)行特征分解,適用于大規(guī)模圖濾波。2018年,文獻(xiàn)[12]提出了熱核局部擴(kuò)散方法。2019年,文獻(xiàn)[13]使用圖小波基替代圖傅里葉基,提出了圖小波神經(jīng)網(wǎng)絡(luò),并利用熱核構(gòu)造了圖數(shù)據(jù)上的低通濾波器。同年,文獻(xiàn)[14]設(shè)計了邊變圖濾波器,該濾波器擴(kuò)展了分布式圖濾波器的功能,允許每個節(jié)點以不同的權(quán)重對鄰居信號進(jìn)行加權(quán)。2020年,文獻(xiàn)[15]提出了一種從多信號/數(shù)據(jù)觀測中聯(lián)合識別圖及基于圖濾波器(圖拉普拉斯矩陣的函數(shù))的方法,該方法可用于學(xué)習(xí)擴(kuò)散(熱)核。同年,文獻(xiàn)[3]將圖濾波器應(yīng)用于圖像去噪,顯著提升了去噪效果。2021年,文獻(xiàn)[16]提出了頻率濾波嵌入(Frequency Filtering Embedding, FFE)算法,該算法通過濾波函數(shù)對選定頻率進(jìn)行放大或衰減,并利用圖傅里葉變換將圖信號轉(zhuǎn)換到譜域進(jìn)行頻率濾波,以提取圖的特征。同年,文獻(xiàn)[17]對雙通道臨界采樣樣條圖濾波器組(SGFB)進(jìn)行了改進(jìn),提出了一種基于多項式濾波器的算法,避免了計算圖拉普拉斯矩陣的特征分解,優(yōu)化了分析濾波器在頻譜域中的形狀,降低了計算復(fù)雜度。文獻(xiàn)[18]提出了分布式非線性多項式圖濾波器(Distributed Nonlinear Polynomial Graph Filter, NPGF),該濾波器基于Hadamard乘積多項式來刻畫系統(tǒng)的非線性輸入輸出關(guān)系,并通過繪制頻率響應(yīng)系數(shù)圖研究了濾波器結(jié)構(gòu)因素對輸出圖譜的影響。2022年,文獻(xiàn)[19]提出了一種基于擴(kuò)展圖的濾波模型,該模型包含兩個并行圖濾波操作:一個操作在原始圖上,其中有向邊指向節(jié)點;另一個操作在擴(kuò)展圖上,其中有向邊從節(jié)點離開。與單一圖濾波器相比,這種設(shè)計能夠更靈活地控制信息在擴(kuò)展圖上的流動,并具有更強(qiáng)的數(shù)學(xué)可處理性。同年,文獻(xiàn)[20]提出了基于環(huán)分解濾波器(Ring-Decomposition-based Filter, RDF)框架,其基本原理是通過添加路徑從環(huán)構(gòu)建2連通圖。實驗表明,該濾波器在去噪和異常值檢測任務(wù)中表現(xiàn)優(yōu)越。2023年,文獻(xiàn)[21]提出了一種新的圖濾波器和基于高階二分圖的多視圖聚類方法。該方法首先對原始數(shù)據(jù)特征空間進(jìn)行圖濾波,然后采用兩步隨機(jī)游走方法構(gòu)建每個視圖的二部圖結(jié)構(gòu)關(guān)系,全面考慮了噪聲特征和復(fù)雜圖結(jié)構(gòu)對結(jié)果的影響,降低了權(quán)重參數(shù)選擇的復(fù)雜性。同年,文獻(xiàn)[22]提出了非線性圖濾波器—中值自回歸圖濾波器(Median Autoregressive Graph Filter, MAF),該濾波器是一階ARMA圖濾波器的擴(kuò)展,具有與線性濾波器類似的局部化特性,并且能夠以分布式方式實現(xiàn)。
在前述研究的啟發(fā)下,本文研究基于譜圖小波變換(Spectral Graph Wavelet Transform, SGWT)的圖濾波器,對Heat kernel、Mexican-hat、Meyer三種濾波器進(jìn)行研究,并對濾波結(jié)果進(jìn)行分析。
1 圖小波變換原理
1.1 圖的定義
首先,定義N個節(jié)點的無向圖G(V, E, X),包括一個節(jié)點集合V,一個節(jié)點集合E和一個節(jié)點屬性集合X。其中X也是圖信號,即圖節(jié)點上信號的值集,屬性矩陣X=[xl]N×k由節(jié)點屬性向量組成。其中xl是第l-th節(jié)點的屬性向量,k為向量的維度(“屬性”和“特征”可以互換使用)。
1.2 圖傅里葉變換
1.3 譜圖小波變換
在給定小波變換的情況下,譜圖小波變換的步驟如下:
(1)通過傅里葉變換將定點域上的圖信號和小波基函數(shù)轉(zhuǎn)換到頻譜域。
(2)利用小波函數(shù)在頻域上的濾波性質(zhì),對圖傅里葉頻譜域上的圖信號進(jìn)行濾波。
(3)利用圖傅里葉逆變換[23]將濾波結(jié)果重投影回空間域。
2 基于圖小波變換的濾波器
2.1 Heat kernel
2.2 Mexican-hat
2.3 Meyer
3 實驗結(jié)果
Heat kernel 是一種基于熱核函數(shù)的小波濾波器,具有指數(shù)衰減特性。尺度參數(shù)s越大,衰減速度越快,同時 Heat kernel具有低通濾波特性,如圖1所示。通過調(diào)整 Heat kernel的尺度參數(shù)s,可以在不同尺度上捕捉圖中的局部結(jié)構(gòu),在平滑和去噪任務(wù)中表現(xiàn)出較好的效果。
如圖2所示,Mexican-hat 小波濾波器具有尖峰和谷的小波形狀,在頻域上表現(xiàn)出明顯的帶阻特性。它適用于突出高頻部分,能夠有效捕捉圖中的局部極值和尖峰。Mexican-hat小波濾波器的尺度參數(shù)s的計算公式如下:
Mexican-hat和 Meyer小波濾波器在頻域上具有明顯的帶阻特性,適用于高頻信息的提取。Heat kernel小波濾波器主要用于頻譜平滑的圖結(jié)構(gòu),能夠較好地保留低頻信息。Meyer小波濾波器和Mexican-hat小波濾波器具有多尺度適應(yīng)性,能夠處理不同尺度上的圖結(jié)構(gòu)。相比之下,Mexican-hat小波濾波器更加局部化。Mexican-hat適用于高頻信息的提取,Heat kernel適用于平滑和去噪,而Meyer則適用于包含多尺度信息的復(fù)雜圖結(jié)構(gòu)。Meyer小波濾波器濾波結(jié)果如圖3所示。
4 結(jié) 語
圖濾波器在圖卷積神經(jīng)網(wǎng)絡(luò)(GCN)中被用于學(xué)習(xí)圖結(jié)構(gòu)中的節(jié)點特征。通過卷積操作,圖濾波器能夠有效捕捉圖中節(jié)點之間的關(guān)系和局部模式,從而生成更具信息量的節(jié)點表示,這對于圖結(jié)構(gòu)數(shù)據(jù)的特征學(xué)習(xí)至關(guān)重要。本文專注于圖小波變換濾波器的研究,并對三種不同濾波器的性能進(jìn)行了對比。通過深入分析這些濾波器的特性和效果,我們旨在為基于圖小波變換的圖卷積神經(jīng)網(wǎng)絡(luò)提供選擇濾波器的參考。這不僅有助于理解圖濾波器的設(shè)計原理,還為未來在圖信號處理領(lǐng)域的進(jìn)一步研究奠定了基礎(chǔ)。這一工作有望為提升圖卷積神經(jīng)網(wǎng)絡(luò)在復(fù)雜圖結(jié)構(gòu)數(shù)據(jù)中的性能做出重要貢獻(xiàn)[23]。
參考文獻(xiàn)
[1]李玉婷. 基于圖濾波的多智能體系統(tǒng)編隊控制[D].武漢:武漢科技大學(xué),2021.
[2]楊曦潔. 基于圖度量與圖濾波的臆想癥患者腦網(wǎng)絡(luò)功能連接分析[D].武漢:武漢科技大學(xué),2021.
[3]陳瑛. 基于圖濾波器優(yōu)化的圖像去噪算法研究[D].南京:東南大學(xué),2020.
[4] MEYER F G, SHEN X L. Perturbation of the eigenvectors of the graph laplacian: application to image denoising [J]. Applied and computational harmonic analysis, 2014, 36(2): 326-334.
[5] CHUNG F K. Spectral graph theory [M]. Providence, RI: American mathematical society, 1997.
[6] NARANG S K, ORTEGA A. Perfect reconstruction two-channel wavelet filter banks for graph structured data [J]. IEEE transactions on signal processing, 2012, 60(6): 2786-2799.
[7] SANDRYHAILA A, MOURA J M F. Discrete signal processing on graphs: Graph filters [C]// 2013 IEEE International Conference on Acoustics, Speech and Signal Processing. [S.l.]: IEEE, 2013: 6163-6166.
[8] LOUKAS A, SIMONETTO A, LEUS G. Distributed autoregressive moving average graph filters [J]. IEEE signal process letters, 2015, 22(11): 1931-1935.
[9] ONUKI M, ONO S, YAMAGISHI M, et al. Graph signal denoising via trilateral filter on graph spectral domain [J]. IEEE transactions on signal and information processing over networks, 2016, 2(2): 137-148.
[10] WANG Y X, SHARPNACK J, SMOLA A, et al. Trend filtering on graphs [J]. The journal of machine learning research, 2016, 17(1): 3651-3691.
[11] TAY D B H, TANAKA Y, SAKIYAMA A, et al. Almost tight spectral graph wavelets with polynomial filters [J]. IEEE journal on selected topics in signal processing, 2017, 11(6): 812-824.
[12] GAMA F, RIBEIRO A, BRUNA J. Diffusion scattering transforms on graphs [C]// in International Conference on Learning Representations (ICLR). [S.l.]: [s.n.], 2018.
[13] XU B, SHEN H, CAO Q, et al. Graph wavelet neural network [J]. IEEE transactions on neural networks and learning systems, 2020, 31(9): 3401-3412.
[14] COUTINO M, ISUFI E, LEUS G. Advances in distributed graph filtering [J]. IEEE transactions on signal processing, 2019, 67(9): 2320-2333.
[15] EGILMEZ H E, PAVEZ E, ORTEGA A. Graph learning from filtered signals: graph system and diffusion kernel identification [J]. IEEE transactions signal information process network, 2019, 5(2): 360-374.
[16] BAHONAR H, MIRZAEI A, SADRI S, et al. Graph embedding using frequency filtering [J]. IEEE transactions on pattern analysis and machine, 2021, 43(2): 473-484.
[17] MIRAKI A, SAEEDI S H. A modified spline graph filter bank [J]. Circuits system signal process, 2021, 40(4): 2025-2035.
[18] XIAO Z, FANG H, WANG X. Distributed nonlinear polynomial graph filter and its output graph spectrum: filter analysis and design [J]. IEEE transactions on signal processing, 2021, 69(7): 123-135.
[19] DAS B, ISUFI E. Graph filtering over expanding graphs [C]// in 2022 IEEE Data Science and Learning Workshop (DSLW). Grenoble, France: IEEE, 2022: 1-8.
[20] YANG Z, ZHENG X, YU Z, et al. Graph filter design by ring-decomposition for 2-connected graphs [J]. Signal processing, 2022, 8(2): 456-468.
[21] ZHAO X Y, YAN W Q, REN J R, et al. Graph-filtering and high-order bipartite graph based multiview graph clustering [J]. Digital signal processing: a review journal, 2023, 133: 103847.
[22] TAY D B. Median autoregressive graph filters [J]. IEEE signal processing letters, 2023, 30: 833-837.
[23] HAMMOND D K, VANDERGHEYNST P, GRIBONVAL R. Wavelets on graphs via spectral graph theory [J]. Applied and computational harmonic analysis, 2011, 30 (2): 129-150.