摘要：文章提出了一種基于混沌壓縮感知和深度學(xué)習(xí)網(wǎng)絡(luò)的壓縮感知新模型，稱為混沌深度壓縮感知模型。該模型將傳統(tǒng)壓縮感知中的迭代步驟轉(zhuǎn)化為深度網(wǎng)絡(luò)形式，并將相關(guān)混沌參數(shù)應(yīng)用于測量矩陣生成和深度網(wǎng)絡(luò)訓(xùn)練過程。混沌深度網(wǎng)絡(luò)中的所有參數(shù)都將通過程序自動(dòng)學(xué)習(xí)獲取，不再需要人工設(shè)計(jì)。

關(guān)鍵詞：壓縮感知；深度學(xué)習(xí)；神經(jīng)網(wǎng)絡(luò)；混沌理論

doi：10.3969/J.ISSN.1672-7274.2023.02.032

中圖分類號：TP 391.41" " " " " " " "文獻(xiàn)標(biāo)示碼：A" " " " " " " "文章編碼：1672-7274（2023）02-00-03

A New Compressed Sensing Model Based on Chaotic Compressed Sensing and Deep Learning Network

CHEN Yixin， MA Zeng

（Basic Department of Naval Submarine Academy， Qingdao 266000， China）

Abstract： A new compressed sensing model based on chaotic compressed sensing and deep learning network is proposed， which is called chaotic deep compressed sensing. The iterative steps in traditional compressed sensing are transformed into deep network form， and the relevant chaotic parameters are applied to the measurement matrix generation and deep network training process. All parameters in the chaotic depth network will be acquired automatically through program learning， and no manual design is required.

Key words： compressed sensing; deep learning; neural network; chaos theory

0" 引言

壓縮感知理論證明，當(dāng)一個(gè)信號在某些變換域表現(xiàn)出稀疏性時(shí)，它能夠以較高的概率使用比奈奎斯特抽樣理論所確定的少得多的測量值重構(gòu)[1]。這種新穎的采集策略對硬件更加友好，它支持以亞奈奎斯特采樣率捕獲圖像或視頻[2-3]。此外，通過利用信號固有的冗余，在壓縮感知的同時(shí)進(jìn)行采樣和壓縮，能夠大大降低對高傳輸帶寬和大存儲(chǔ)空間的需求，使得低開銷數(shù)據(jù)傳輸成為可能[4-5]。在過去的十幾年中，大量的圖像壓縮感知方法被提出，它們大多利用結(jié)構(gòu)稀疏性作為先驗(yàn)知識，然后以迭代的方式求解稀疏正則化優(yōu)化問題[6-8]。這些方法基于已有研究的圖像生成模型和圖像固有特性，在大多數(shù)情況下具有很強(qiáng)的收斂性和理論分析能力[9-10]。然而，傳統(tǒng)的壓縮感知方法通常通過迭代計(jì)算實(shí)現(xiàn)信號恢復(fù)過程，而這些迭代算法的計(jì)算復(fù)雜度較高，所以求解速度很慢。此外，在大多數(shù)傳統(tǒng)方法中需要傳輸整個(gè)測量矩陣作為通信密鑰，而這些大維度測量矩陣也將占用極大的存儲(chǔ)和運(yùn)算空間。近年來，深度神經(jīng)網(wǎng)絡(luò)的強(qiáng)大學(xué)習(xí)能力逐漸得到國內(nèi)外相關(guān)學(xué)者的重視。與基于傳統(tǒng)迭代算法相比，非迭代、可學(xué)習(xí)的深度網(wǎng)絡(luò)結(jié)構(gòu)大大降低了求解數(shù)學(xué)問題的時(shí)間復(fù)雜度，同時(shí)實(shí)現(xiàn)了令人印象深刻的重構(gòu)性能。因此，若能將深度學(xué)習(xí)方法的非迭代特性與混沌壓縮感知的優(yōu)秀加密性能相結(jié)合，就有望設(shè)計(jì)出一種更加快速、精確的混沌深度壓縮感知方案。

1" 傳統(tǒng)壓縮感知

給定線性測量值y，傳統(tǒng)的圖像壓縮感知方法通常通過求解以下一般凸優(yōu)化問題來重構(gòu)原始圖像x：

式中，x為原始值；y為測量值；為測量矩陣；為稀疏化矩陣；λ為預(yù)先定義的正則化參數(shù)。

式（1）中的一般凸優(yōu)化問題是一種線形可逆數(shù)學(xué)問題。在傳統(tǒng)壓縮感知中，通常使用一階近似算法來求解這一類典型的線形可逆問題，此類一階近似算法可以基于如下迭代步驟實(shí)現(xiàn)。

式中，t為當(dāng)前迭代次數(shù)；ρ為所設(shè)置的步長。式（3）是近端映射的一種特殊情況，即

該近端映射的正則化算子用公式又可以被表示為

式（4）是求解上述迭代步驟的關(guān)鍵，也是壓縮感知重構(gòu)算法的關(guān)鍵。近年來，許多國內(nèi)外相關(guān)研究也在對此類近端映射的求解方法進(jìn)行探索和優(yōu)化。例如，當(dāng)，當(dāng)W為小波變換稀疏化矩陣時(shí)，基于小波變換的正交性，能夠推出

然而，在這種傳統(tǒng)壓縮感知重構(gòu)過程中，上述迭代步驟的求解過程相當(dāng)煩瑣。此外，這些傳統(tǒng)的壓縮感知方法為了獲得精確的信號重構(gòu)，都需要進(jìn)行相當(dāng)多次數(shù)的迭代，其計(jì)算量之龐大更是不言而喻。

2" 混沌深度網(wǎng)絡(luò)壓縮感知

混沌深度網(wǎng)絡(luò)的結(jié)構(gòu)如圖1所示，其具體設(shè)計(jì)過程如下。

首先，引入一個(gè)可學(xué)習(xí)的非線性變換函數(shù)，用以替代傳統(tǒng)壓縮感知中的稀疏化矩陣，即式（1）中的Ψ。如圖1所示，兩組由卷積層組合而成，兩組卷積層之間由一個(gè)整流函數(shù)（ReLU）層連接。用替代Ψ后式（1）的求解將被轉(zhuǎn)化為

通過一階近似法求解式（7），并令步長ρ也成為可學(xué)習(xí)的參數(shù)，可得類似于式（2）和式（3）的兩個(gè)迭代步驟：

如圖1所示，這兩個(gè)不斷重復(fù)的迭代步驟被設(shè)計(jì)為深度網(wǎng)絡(luò)的周期形式，則式（8）和式（9）中的p為周期計(jì)數(shù)，為在第p個(gè)周期的即時(shí)重構(gòu)結(jié)果。

基于圖像逆問題的一般假設(shè)，服從獨(dú)立正態(tài)分布，且均值為0，方差為，因此，根據(jù)文獻(xiàn)[11]能夠得到如下近似：

將λ與合并為參數(shù)θ，即

從而得到

更進(jìn)一步地，的封閉解形式可以表示為

為了計(jì)算，進(jìn)一步引入的左逆運(yùn)算，，I為單位運(yùn)算。于是得到：

如圖1所示，為的對稱結(jié)構(gòu)，也被設(shè)計(jì)為兩組由ReLU層分隔的卷積層。混沌深度網(wǎng)絡(luò)中的所有參數(shù)都通過學(xué)習(xí)獲取，根據(jù)前文的相關(guān)過程敘述，其可學(xué)習(xí)參數(shù)集可被總結(jié)為。

若為給定的訓(xùn)練數(shù)據(jù)對，則以為輸入，為期望輸出，將得到的作為輸出結(jié)果，其中為預(yù)先設(shè)定的總周期數(shù)。

本方法中，約束條件被設(shè)計(jì)為

損失函數(shù)被設(shè)計(jì)為

3" 結(jié)束語

本文給出了一種基于混沌壓縮感知和深度學(xué)習(xí)網(wǎng)絡(luò)的壓縮感知新方案，稱為混沌深度壓縮感知。該方法綜合了現(xiàn)有兩類壓縮感知方法的優(yōu)點(diǎn)：傳統(tǒng)壓縮感知方法的一步壓縮加密操作和深度學(xué)習(xí)方法的響應(yīng)速度。在本方法中，將不斷重復(fù)的迭代步驟設(shè)計(jì)為深度網(wǎng)絡(luò)的周期形式，并將相關(guān)混沌參數(shù)應(yīng)用于測量矩陣生成和深度網(wǎng)絡(luò)訓(xùn)練過程。混沌深度網(wǎng)絡(luò)中的所有參數(shù)均可通過學(xué)習(xí)獲得，不再需要人工設(shè)計(jì)?！?/p>

參考文獻(xiàn)

[1] DONOHO D L. Compressed sensing[J]. IEEE Transactions on Information Theory， 2006， 52（4）： 1289-1306.

[2] DONOHO D L， ELAD M. Optimally sparse representation in general （nonorthogonal） dictionaries via 1 minimization[J]. Proceedings of the National Academy of Sciences， 2003， 100（5）： 2197-2202.

[3] BARANIUK R G， CEVHER V， DUARTE M F， 等. Model-Based Compressive Sensing[J]. IEEE Transactions on Information Theory， 2010， 56（4）： 1982-2001.

[4] SONG P， MOTA J F C， DELIGIANNIS N， 等. Measurement matrix design for compressive sensing with side information at the encoder[C]//2016 IEEE Statistical Signal Processing Workshop （SSP）. 2016： 1-5.

[5] HUANG R， RHEE K H， UCHIDA S. A parallel image encryption method based on compressive sensing[J]. Multimedia Tools and Applications， 2014， 72（1）： 71-93.

[6] TROPP J A， GILBERT A C. Signal Recovery From Random Measurements Via Orthogonal Matching Pursuit[J]. IEEE Transactions on Information Theory， 2007， 53（12）： 4655-4666.

[7] LI C， YIN W， JIANG H， etc. An E?cient Augmented Lagrangian Method with Applications to Total Variation Minimization[J]. 2012： 26.

[8] SUNGKWANG MUN， FOWLER J E. Block compressed sensing of images using directional transforms[C]//2009 16th IEEE International Conference on Image Processing （ICIP）. Cairo， Egypt： IEEE， 2009.

[9] CHEN C， TRAMEL E W， FOWLER J E. Compressed-sensing recovery of images and video using multihypothesis predictions[C]//2011 Conference Record of the Forty Fifth Asilomar Conference on Signals， Systems and Computers （ASILOMAR）. Pacific Grove， CA， USA： IEEE， 2011.

[10] ZHOU N， ZHANG A， WU J， 等. Novel hybrid image compression-encryption algorithm based on compressive sensing[J]. Optik， 2014， 125（18）： 5075-5080.

[11] J. Zhang and B. Ghanem， ‘ISTA-Net： Interpretable Optimization-Inspired Deep Network for Image Compressive Sensing’， in 2018 IEEE/CVF Conference on Computer Vision and Pattern Recognition， Salt Lake City， UT， 2018（7）： 1828-1837.