劉 榮，李 冠，賈 斌

(山東科技大學(xué) 計(jì)算機(jī)科學(xué)與工程學(xué)院，山東 青島 266590)

0 引 言

作為隱蔽傳輸和數(shù)據(jù)保密的重要方式，圖像隱寫(image steganography)[1]技術(shù)一直受到廣大學(xué)者的極大關(guān)注。本文將深度學(xué)習(xí)中的生成對抗網(wǎng)絡(luò)技術(shù)應(yīng)用到圖像隱寫領(lǐng)域中，改變傳統(tǒng)的“文件加密”的固有方式，通過載體圖像隱藏通信的內(nèi)容并隱蔽通信的行為，能夠有效地減少攻擊者對機(jī)密數(shù)據(jù)的監(jiān)聽和獲取，保障用戶掌控和管理機(jī)密數(shù)據(jù)的主動性。

自生成對抗網(wǎng)絡(luò)(generative adversarial networks，GAN)[2]的理論框架提出后，為優(yōu)化其訓(xùn)練過程出現(xiàn)了一系列衍生模型[3]。Radford等[4]把卷積神經(jīng)網(wǎng)絡(luò)思想運(yùn)用到原始GAN中，提出DCGAN(deep convolutional GAN)，該模型在網(wǎng)絡(luò)訓(xùn)練過程中提高了生成圖像的真實(shí)性，但它忽略了網(wǎng)絡(luò)收斂速度問題。Volkhonskiy等[5]提出SGAN(Steganographic GAN)模型，該模型在DCGAN的基礎(chǔ)上，增加了一個新的判別網(wǎng)絡(luò)S，但該網(wǎng)絡(luò)在訓(xùn)練過程中存在梯度消失和訓(xùn)練不穩(wěn)定的問題。Arjovsky等[6]考慮到網(wǎng)絡(luò)訓(xùn)練的梯度問題，將JS散度用Wasserstein距離來代替，得到WGAN(Wasserstein GAN)模型，它使網(wǎng)絡(luò)訓(xùn)練速度顯著提高，但網(wǎng)絡(luò)訓(xùn)練不易收斂、生成樣本質(zhì)量存在不足。Shi等[7]提出SSGAN(secure steganography based on GAN)隱寫模型，使用WGAN的總體架構(gòu)，雖性能得到提高，但網(wǎng)絡(luò)訓(xùn)練不易收斂，隱寫過程仍采用傳統(tǒng)隱寫算法，導(dǎo)致載密圖像在安全性方面存在不足。Tang等[8]提出ASDL-GAN(automatic steganographic distortion learning GAN)模型，利用生成器把載體圖像轉(zhuǎn)換成一個像素轉(zhuǎn)變概率矩陣，使用CNN設(shè)計(jì)的三元嵌入模擬器，結(jié)合像素轉(zhuǎn)變概率矩陣將秘密信息嵌入到載體圖像中。Yang等[9]從信道選擇的角度改進(jìn)了ASDL-GAN，通過信道選擇先判斷出圖像中的最佳嵌入位置，再使用U-Net[10]結(jié)構(gòu)得到圖像像素轉(zhuǎn)變概率矩陣。Zhu等[11]提出隱寫模型HiDDeN(hiding data with deep networks)，在模型中引入了一個噪聲層，利用多種方式來模擬載密圖像的失真，使模型魯棒性進(jìn)一步提升。

為解決圖像隱寫過程中，現(xiàn)有圖像隱寫模型存在的網(wǎng)絡(luò)訓(xùn)練不易收斂、梯度爆炸和生成樣本質(zhì)量差等問題，本文提出基于改進(jìn)生成對抗網(wǎng)絡(luò)的圖像自適應(yīng)隱寫模型SWGAN-GP(steganography Wasserstein generative adversarial networks with gradient penalty)。該模型將生成圖像作為載體，通過HUGO算法進(jìn)行信息隱藏，在損失函數(shù)中加入梯度懲罰，保障網(wǎng)絡(luò)收斂速度和訓(xùn)練穩(wěn)定性以及生成圖像樣本質(zhì)量，在網(wǎng)絡(luò)卷積層中增加注意力機(jī)制，增強(qiáng)模型學(xué)習(xí)能力從而更好處理圖像紋理細(xì)節(jié)。經(jīng)過網(wǎng)絡(luò)的迭代優(yōu)化，生成圖像質(zhì)量不斷提高，載密圖像也具有更高的抗檢測性。

1 預(yù)備工作

1.1 生成對抗網(wǎng)絡(luò)

生成對抗網(wǎng)絡(luò)采用的本質(zhì)思想是二人零和博弈，通過對抗訓(xùn)練達(dá)到網(wǎng)絡(luò)平衡。生成對抗網(wǎng)絡(luò)結(jié)構(gòu)由一個生成模型和一個判別模型組成，二者之間的對抗訓(xùn)練采用博弈論方法進(jìn)行，并與無監(jiān)督方式相結(jié)合，通過不斷改進(jìn)迭代優(yōu)化策略，達(dá)到共同訓(xùn)練從而不斷改善輸出結(jié)果、提高網(wǎng)絡(luò)模型性能的目的。GAN模型如圖1所示。

圖1 GAN模型

生成模型G和判別模型D的對抗訓(xùn)練可以描述為博弈競爭模型，如式(1)

(1)

式中：E代表期望，pnoise(z)和pdata(x)是隨機(jī)噪聲樣本分布和真實(shí)數(shù)據(jù)樣本分布，G(z)是輸入噪聲z到生成模型G后得到的生成數(shù)據(jù)樣本，D(x)表示輸入到判別模型D的數(shù)據(jù)是真實(shí)數(shù)據(jù)樣本的概率，若輸出結(jié)果為1則表示輸入的x是真實(shí)數(shù)據(jù)樣本，若輸出結(jié)果為0則表示輸入的x是生成模型的生成數(shù)據(jù)樣本。

1.2 Wasserstein GAN與WGAN-GP

WGAN(Wasserstein GAN)作為原始GAN的衍生模型之一，將JS散度用Wasserstein距離來代替，改進(jìn)損失函數(shù)，解決了原始生成式對抗網(wǎng)絡(luò)在網(wǎng)絡(luò)訓(xùn)練過程中存在的梯度消失和不穩(wěn)定的難題，同時(shí)保證了生成數(shù)據(jù)樣本多樣性。Wasserstein距離度量方法如式(2)

(2)

(3)

式中：K表示函數(shù)f的一階Lipschitz常數(shù)，K的變化會引起網(wǎng)絡(luò)梯度發(fā)生K倍數(shù)的變化，但不影響梯度的方向，WGAN訓(xùn)練判別器D和生成器G如式(4)

(4)

由于權(quán)重約束和損失函數(shù)之間的相互作用，采用WGAN模型仍存在網(wǎng)絡(luò)訓(xùn)練不易收斂、梯度爆炸的難題并且生成圖像樣本質(zhì)量與真實(shí)圖像質(zhì)量仍有差距。因此Gulrajani等[12]提出改進(jìn)模型WGAN-GP，用梯度懲罰(gra-dient penalty)代替權(quán)重減枝(weight clipping)方法，其本質(zhì)是在原來的損失函數(shù)中增加了一個使梯度與K之間關(guān)聯(lián)起來的懲罰項(xiàng)以此保留1-Lipschitz連續(xù)性。WGAN-GP訓(xùn)練判別器D和生成器G如式(5)

(5)

WGAN-GP模型將梯度懲罰策略應(yīng)用到訓(xùn)練網(wǎng)絡(luò)中，提高了網(wǎng)絡(luò)收斂性能和生成圖像樣本質(zhì)量，使網(wǎng)絡(luò)訓(xùn)練更穩(wěn)定，在不同網(wǎng)絡(luò)架構(gòu)下更具普適性。因此本文模型使用WGAN-GP，解決圖像隱寫過程中，現(xiàn)有的基于生成對抗網(wǎng)絡(luò)的圖像隱寫模型存在的網(wǎng)絡(luò)訓(xùn)練不易收斂、梯度爆炸和生成圖像樣本質(zhì)量差的難題。

1.3 HUGO隱寫算法

在圖像隱寫領(lǐng)域，隱寫算法可以分為兩大類：空域隱寫和變換域隱寫[13]?？沼螂[寫最常用的是最低有效位嵌入算法(least significant bit，LSB)[14]。通過修改圖像的像素值將秘密信息嵌入到載體圖像中，但該方法會破壞載體圖像的統(tǒng)計(jì)特征導(dǎo)致信息隱藏后的載密圖像極易被隱寫分析算法檢測，安全性能不足。本文模型使用一種空域自適應(yīng)隱寫算法HUGO(highly undetectable steganography)[15]，通過高效編碼算法為像素中的嵌入信息分配代價(jià)，建立圖像像素之間的高維統(tǒng)計(jì)模型，使用加權(quán)范數(shù)函數(shù)來表示特征空間，以提取隱寫檢測技術(shù)中用到的SPAM特征為基礎(chǔ)，據(jù)此計(jì)算載體圖像像素的改變程度，進(jìn)而定義最小化失真并選擇合適的隱寫嵌入方案，通過編碼的方式為秘密信息選擇最佳嵌入位置，盡可能把信息嵌入到不易察覺的復(fù)雜紋理區(qū)域中，從而提高載密圖像信息的抗檢測性并達(dá)到更高的嵌入率。該算法在設(shè)計(jì)時(shí)就是從隱寫分析角度入手，減少紋理修改痕跡，其抗檢測性能強(qiáng)。在相同的安全級別下，該算法的嵌入容量是LSB匹配算法的7倍[15]，嵌入過程在減少圖像失真的同時(shí)保障了載密圖像的傳輸可靠性，因此本文模型使用HUGO自適應(yīng)隱寫算法進(jìn)行圖像隱寫操作。

2 本文模型設(shè)計(jì)與實(shí)現(xiàn)

本文根據(jù)生成對抗網(wǎng)絡(luò)原理和圖像自適應(yīng)空域隱寫技術(shù)，結(jié)合WGAN-GP模型的處理思路，改進(jìn)SSGAN模型，提出了基于改進(jìn)生成對抗網(wǎng)絡(luò)的圖像自適應(yīng)隱寫模型SWGAN-GP，并對其設(shè)計(jì)思想和創(chuàng)新性的工作，以及實(shí)現(xiàn)模型的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)、模型中圖像自適應(yīng)隱寫算法的原理和圖像隱寫與分析流程進(jìn)行了詳細(xì)闡述。

2.1 SWGAN-GP模型設(shè)計(jì)

基于改進(jìn)生成對抗網(wǎng)絡(luò)的圖像自適應(yīng)隱寫模型SWGAN-GP主要由生成器G、判別器D、隱寫判別器S以及隱寫嵌入單元E這4部分組成，模型如圖2所示，下面將詳細(xì)闡述其設(shè)計(jì)思想及創(chuàng)新性的工作。

圖2 SWGAN-GP模型

首先，SWGAN-GP模型中的生成器G會通過隨機(jī)噪聲z為驅(qū)動得到生成圖像G(z)，以此作為信息隱藏的載體圖像，然后模型使用隱寫嵌入單元E中的HUGO自適應(yīng)隱寫算法將秘密信息嵌入到生成圖像G(z)中，得到載密圖像Stego(G(z))。本文模型將真實(shí)圖像樣本x和載密圖像Stego(G(z))輸入到判別器D中，通過改進(jìn)的網(wǎng)絡(luò)模型判斷圖像來源，以此提高判別器D對載密圖像和真實(shí)圖像的識別能力，而該操作會通過損失回傳機(jī)制影響生成器G更新權(quán)重，使其參數(shù)不斷迭代優(yōu)化從而生成更高質(zhì)量的載體圖像。同時(shí)，模型將生成圖像G(z)和載密圖像Stego(G(z))輸入到隱寫判別器S中，利用網(wǎng)絡(luò)模型對圖像來源進(jìn)行區(qū)分，隱寫判別器S在迭代訓(xùn)練過程中也會通過損失回傳機(jī)制影響生成器G的權(quán)重更新，以此不斷提高載密圖像的真實(shí)度，最終達(dá)到以假亂真的效果，保障載密圖像的傳輸可靠性。生成器G與判別器D和隱寫判別器S對抗博弈，網(wǎng)絡(luò)參數(shù)不斷迭代優(yōu)化，模型最終趨于納什均衡，判別器D難以區(qū)分載密圖像和真實(shí)圖像，隱寫判別器S也難以判斷出生成圖像和載密圖像，至此認(rèn)為生成器G的生成圖像達(dá)到最佳效果。SWGAN-GP模型功能流程框架具體如圖3所示。

圖3 SWGAN-GP模型功能流程框架

本文設(shè)計(jì)的基于改進(jìn)生成對抗網(wǎng)絡(luò)的圖像自適應(yīng)隱寫模型SWGAN-GP將WGAN-GP架構(gòu)應(yīng)用到圖像隱寫領(lǐng)域中。本文SWGAN-GP模型的創(chuàng)新性工作具體歸納如下：模型使用WGAN-GP架構(gòu)代替原有SSGAN模型中的WGAN，在網(wǎng)絡(luò)結(jié)構(gòu)中改進(jìn)了損失函數(shù)，將梯度懲罰加入網(wǎng)絡(luò)進(jìn)行迭代優(yōu)化，通過限制網(wǎng)絡(luò)梯度解決了原有SSGAN隱寫模型在圖像隱寫過程中存在的網(wǎng)絡(luò)訓(xùn)練不易收斂、梯度爆炸和生成樣本質(zhì)量差的難題；在信息隱藏過程中使用HUGO自適應(yīng)隱寫算法代替原有SSGAN模型中的LSB算法，提高了載密圖像的安全性和抵御隱寫分析的能力；在網(wǎng)絡(luò)卷積層中加入了注意力機(jī)制[16]，以此增強(qiáng)模型學(xué)習(xí)能力從而更好處理圖像紋理細(xì)節(jié)。

2.2 模型網(wǎng)絡(luò)結(jié)構(gòu)實(shí)現(xiàn)

生成器G用于生成圖像作為信息隱藏的載體，保障載密圖像在傳輸過程中更具安全性。模型采用如圖4所示的生成器網(wǎng)絡(luò)結(jié)構(gòu)，首先以輸入的服從高斯分布的隨機(jī)噪聲z為驅(qū)動，將128維向量通過Linear線性單元變成1×1×1024，然后通過Reshape函數(shù)重構(gòu)變成通道數(shù)為1024，大小為1×1的圖像，而后使用5個C2D-LN-RuLU(Conv2d-Layer Normalization[17]-ReLU)轉(zhuǎn)置卷積網(wǎng)絡(luò)組合使圖像逐漸增大，之后網(wǎng)絡(luò)加入注意力機(jī)制用于處理圖像紋理細(xì)節(jié)，提高生成圖像樣本的質(zhì)量。圖像再經(jīng)過一個轉(zhuǎn)置卷積網(wǎng)絡(luò)組合并采用Tanh激活函數(shù)層得到最終的生成圖像樣本。圖4中k代表卷積核大小，n表示卷積核數(shù)量，s表示卷積步長。整個訓(xùn)練過程通過不斷迭代優(yōu)化，將生成圖像樣本質(zhì)量不斷提升從而更加滿足信息隱藏的安全性要求。

圖4 生成器G網(wǎng)絡(luò)結(jié)構(gòu)

判別器D用于判別圖像是來源于真實(shí)圖像樣本x還是載密圖像Stego(G(z))，輸出圖像真實(shí)度的概率值label，越接近1說明圖像越真實(shí)。模型采用如圖5所示的判別器D網(wǎng)絡(luò)結(jié)構(gòu)。首先，將真實(shí)圖像樣本x和載密圖像Stego(G(z))輸入到判別器D網(wǎng)絡(luò)中。然后，模型使用6個C2D-LN-LR(Conv2d-Layer Normalization-Leaky ReLU)卷積網(wǎng)絡(luò)組合提取圖像特征。圖像經(jīng)過每個卷積層后大小遞減，通道數(shù)加倍并在最后一個卷積網(wǎng)絡(luò)組合之前加入注意力機(jī)制，以此加強(qiáng)對圖像樣本紋理細(xì)節(jié)的處理能力，最后使用sigmoid激活函數(shù)輸出圖像真實(shí)度的概率值label。整個網(wǎng)絡(luò)加入梯度懲罰，提高了判別器D的網(wǎng)絡(luò)收斂性能，使網(wǎng)絡(luò)訓(xùn)練更加穩(wěn)定。

圖5 判別器D網(wǎng)絡(luò)結(jié)構(gòu)

判別器D網(wǎng)絡(luò)結(jié)構(gòu)中使用了梯度懲罰，下面是其訓(xùn)練過程的偽代碼：

算法：WGAN with gradient penalty。

輸入：初始值梯度懲罰系數(shù)λ，batch大小m，Adam超參數(shù)α，β1，β2，判別器初始參數(shù)ω0，生成器初始參數(shù)θ0，生成器迭代一次后判別器的迭代次數(shù)ncritic。

輸出：生成器參數(shù)θ，判別器參數(shù)ω。

(1)whileθhas not converged do

(2) fort=1,…,ncrinicdo

(3) fori=1,mdo

(4) Sample real datex～Pr,latent

variablez～p(z),αrandom numberε～[0，1].

(8) end for

(10) end for

(13)end while

隱寫判別器S用于判別圖像是來源于生成圖像G(z)還是載密圖像Stego(G(z))。模型使用GNCNN網(wǎng)絡(luò)[18]檢測輸入的圖像類型是否是載密圖像。首先利用高通濾波器(HPF)對輸入圖像做濾波預(yù)處理，然后使用卷積神經(jīng)網(wǎng)絡(luò)組合用作隱寫分析，最后使用全連接層輸出分類結(jié)果。隱寫判別器S的網(wǎng)絡(luò)結(jié)構(gòu)如圖6所示。

圖6 隱寫判別器S網(wǎng)絡(luò)結(jié)構(gòu)

生成器G、判別器D和隱寫判別器S通過參數(shù)共享機(jī)制，更新網(wǎng)絡(luò)的權(quán)重，優(yōu)化網(wǎng)絡(luò)模型。網(wǎng)絡(luò)的目標(biāo)函數(shù)式如式(6)，調(diào)整參數(shù)α∈[0,1]以平衡生成圖像的真實(shí)性和隱寫圖像的適用性之間的關(guān)系

(6)

2.3 圖像自適應(yīng)隱寫算法實(shí)現(xiàn)

本文SWGAN-GP模型的圖像隱寫嵌入單元E使用了圖像自適應(yīng)隱寫算法HUGO，相較于傳統(tǒng)的LSB隱寫算法，該算法通過保留載體圖像的高維統(tǒng)計(jì)特征并限制秘密信息嵌入到圖像不易察覺的復(fù)雜紋理區(qū)域，從而提高了載密圖像的抗檢測性。HUGO模塊如圖7所示，該算法主要包含失真計(jì)算、編碼和模型校正3個過程。首先將載體圖像輸入到失真計(jì)算部分，計(jì)算出將秘密信息隱藏進(jìn)載體圖像后的圖像失真值，通過失真計(jì)算過程找出最小的失真隱寫方案。編碼部分則通過模擬嵌入或?qū)嶋H編碼嵌入(syndrome trellis code，STC編碼[19])的方式將信息隱藏進(jìn)載體圖像的同時(shí)還能保證秘密信息的完整性。信息嵌入圖像后通過模型校正部分驗(yàn)證圖像的適用性，需要調(diào)整更改部分像素值，使載密圖像的失真程度達(dá)到最低，從而保證了載密圖像的安全性，當(dāng)生成的載密圖像沒有達(dá)到安全性要求時(shí)，圖像再由高維模型進(jìn)行評估調(diào)整，反之，當(dāng)圖像通過校正達(dá)到安全性要求后即生成符合要求的載密圖像。

圖7 HUGO算法模塊

本文模型的圖像隱寫嵌入單元E中的圖像隱寫與分析流程如圖8所示，將生成圖像G(z)作為信息隱藏的載體圖像，通過失真計(jì)算單元，統(tǒng)計(jì)圖像中的可變像素值，然后將秘密信息通過編碼單元的STC編碼選擇可嵌入位置和最小化失真函數(shù)，最后使用模型校正單元確定更改后的像素值，把秘密信息隱藏到載體圖像中，最終得到載密圖像Stego(G(z))。載密圖像Stego(G(z))通過公開信道傳輸?shù)浇邮照吆螅邮照呃脗鬏旊p方的共享參數(shù)進(jìn)行解密，通過生成奇偶校驗(yàn)矩陣解碼載密圖像Stego(G(z))，提取其中的秘密信息和載體圖像。

圖8 圖像隱寫與分析流程

圖像隱寫嵌入單元E中使用的HUGO自適應(yīng)隱寫算法，下面是其隱寫過程的偽代碼：

算法：HUGO embedding algorithm。

輸入：載體圖像X，秘密信息message。

輸出：載密圖像Y。

(1)for (i,j) in PIXELS{

(2) Yp=X;Yp(i,j)+ +;rho_p(i,j)=D(X,Yp);

(3) Ym=X;Ym(i,j)- -;rho_m(i,j)=D(X,Ym);

(4)}

(5)rho_min=min(rho_p,rho_m);

(6)PIXELS_TO_CHANGE=minmize_emb_

impact(LSB(X),

(7)rho_min,message)

(8)Y=X;

(9)for(i,j) in PIXELS_TO_CHANGE{

(10) if(model_correction_step_enabled){

(11) Yp=Y; Yp(i,j)+ +; dp=D(X,Yp);

(12) Ym=Y; Ym(i,j)- -; dm=D(X,Ym); ?

(13) if(dp

(14) else{Y(i,j)- -; }

(15) }else{

(16) if(rho_p(i,j)

(17) else{Y(i,j)- -;}

(18) }

(19)}

在失真計(jì)算單元中，將失真函數(shù)定義為SPAM特征向量的加權(quán)值，把載體圖像的每一維設(shè)置一個權(quán)重值ρi。將秘密信息先以隨機(jī)嵌入方式嵌入到載體圖像中，在多次隨機(jī)嵌入后比較得到的ρi值，通過式(7)得出最小的失真值Dmin

(7)

失真函數(shù)D(X,Y)定義為載體圖像X和載密圖像Y差的加權(quán)和，計(jì)算方法如式(8)

(8)

(9)

ω(d1,d2,d3)是權(quán)重函數(shù)度量因子，計(jì)算方式如式(10)

(10)

通過對HUGO失真函數(shù)的定義，可以發(fā)現(xiàn)，圖像紋理像素發(fā)生變化時(shí)，d1，d2，d3值越大則失真函數(shù)的值越小。通過調(diào)整標(biāo)量參數(shù)σ和γ值增強(qiáng)載密圖像的抗檢測性，其中，σ與γ均為大于零的可調(diào)整參數(shù)。

載體圖像按照以上過程計(jì)算出圖像失真，評估出圖像中更適合進(jìn)行隱寫編碼的區(qū)域，然后通過編碼單元進(jìn)行隱寫操作，通過模型校正單元得到最終的包含秘密信息的載密圖像。

3 實(shí)驗(yàn)結(jié)果與分析

3.1 實(shí)驗(yàn)平臺與數(shù)據(jù)

本文根據(jù)設(shè)計(jì)的基于改進(jìn)生成對抗網(wǎng)絡(luò)的圖像自適應(yīng)隱寫模型SWGAN-GP，采用手寫數(shù)字識別數(shù)據(jù)集MNIST和普適物體識別數(shù)據(jù)集CIFAR-10驗(yàn)證所提出方案的有效性，MNIST數(shù)據(jù)集包含60 000個訓(xùn)練圖像和10 000個測試圖像，圖像樣本均為PNG灰度圖像，每張圖像大小為28×28像素；CIFAR-10數(shù)據(jù)集包含50 000個訓(xùn)練圖像和10 000個測試圖像，圖像樣本分為10個類別不同的物品的PNG彩色圖像，每張圖像大小為32×32像素，每個像素點(diǎn)包含RGB這3個數(shù)值，范圍是0～255。本文實(shí)驗(yàn)配置的計(jì)算機(jī)環(huán)境為：Intel(R)Core(TM)i5-8400H CPU 2.80 GHz四核處理器，NVIDIA GeForce GTX1060 GPU，8 GB運(yùn)行內(nèi)存(RAM)，基于python3.5的深度學(xué)習(xí)框架Tensorflow(1.4.0)?？紤]到模型的生成效果和圖像隱寫的有效性，對圖像數(shù)據(jù)集進(jìn)行預(yù)處理，將構(gòu)建的訓(xùn)練集由Train表示，并將其余的作為測試集Test。使用訓(xùn)練集訓(xùn)練模型，并在測試集上進(jìn)行測試驗(yàn)證。

3.2 實(shí)驗(yàn)參數(shù)設(shè)置

對SWGAN-GP模型進(jìn)行訓(xùn)練，網(wǎng)絡(luò)訓(xùn)練初期，生成器的生成圖像質(zhì)量較差，判別器可以很快識別出圖像來源，這也表示真實(shí)圖像樣本與生成圖像樣本的Wasserstein距離較大。在網(wǎng)絡(luò)不斷訓(xùn)練優(yōu)化的過程中，判別器D網(wǎng)絡(luò)的損失值d_loss呈現(xiàn)增加趨勢，生成器G網(wǎng)絡(luò)的損失值g_loss呈現(xiàn)下降趨勢。在實(shí)際訓(xùn)練過程中，對于MNIST數(shù)據(jù)集，將batch設(shè)為200，epoch設(shè)為110，每個epoch迭代訓(xùn)練200次，總迭代次數(shù)為22 000次；對于CIFAR-10數(shù)據(jù)集，將batch設(shè)為196，epoch設(shè)為110，每個epoch迭代訓(xùn)練196次，總迭代次數(shù)為21 560次。通過損失回傳機(jī)制調(diào)整網(wǎng)絡(luò)權(quán)值，判別器的權(quán)值更新一次后，再將生成器的權(quán)值更新兩次，當(dāng)網(wǎng)絡(luò)模型最終收斂時(shí)，表示真實(shí)圖像樣本與生成圖像樣本的Wasserstein距離較小，此時(shí)，生成器G網(wǎng)絡(luò)就可以實(shí)現(xiàn)生成圖像增強(qiáng)任務(wù)，提高生成圖像樣本質(zhì)量效果。

由于網(wǎng)絡(luò)中使用了梯度懲罰，梯度訓(xùn)練穩(wěn)定，因此，本文網(wǎng)絡(luò)模型使用Adam(adaptive moment estimation)[20]自適應(yīng)學(xué)習(xí)率優(yōu)化算法代替原SSGAN模型中的RMSprop算法，其本質(zhì)是基于動量的RMSprop，既能處理稀疏矩陣又能處理非平穩(wěn)目標(biāo)項(xiàng)。Adam算法通過計(jì)算梯度的一階矩估計(jì)和二階矩估計(jì)，動態(tài)調(diào)整不同參數(shù)的學(xué)習(xí)率，并對學(xué)習(xí)率明確范圍而進(jìn)行動態(tài)約束，使參數(shù)調(diào)整更平穩(wěn)，計(jì)算效率更高，內(nèi)存需求更小。經(jīng)實(shí)驗(yàn)訓(xùn)練驗(yàn)證比較，其超參數(shù)最終設(shè)定為：α=0.0001，β1=0.5，β2=0.999，生成器G學(xué)習(xí)率設(shè)置為0.0002，判別器D學(xué)習(xí)率設(shè)置為0.0001。根據(jù)多次實(shí)驗(yàn)驗(yàn)證與經(jīng)驗(yàn)分析，將梯度懲罰系數(shù)λ設(shè)置為10。在信息隱藏過程中，根據(jù)2.3節(jié)所述，以0.4 bpp(bit per pixel)的嵌入率對圖像進(jìn)行隱寫，通過實(shí)驗(yàn)驗(yàn)證，設(shè)置本文閾值T=255時(shí)，圖像直方圖統(tǒng)計(jì)特征失效，更能夠保障載密圖像安全性，同時(shí)，為了降低參數(shù)σ和γ值選取的復(fù)雜性，通過最大平均差異MMD值(maximum mean discrepancy)評估不同σ和γ值下載密圖像的抗檢測性，結(jié)果表明當(dāng)σ=10，γ=4時(shí)MMD值最小，載密圖像可檢測性最低。

3.3 實(shí)驗(yàn)結(jié)果分析

3.3.1 圖像質(zhì)量效果

本文使用了所有數(shù)據(jù)集樣本用于訓(xùn)練測試SWGAN-GP網(wǎng)絡(luò)模型。網(wǎng)絡(luò)訓(xùn)練過程中得到的生成圖像樣本如圖9和圖10所示。由圖9可以發(fā)現(xiàn)，隨著網(wǎng)絡(luò)的不斷訓(xùn)練優(yōu)化，MNIST數(shù)據(jù)集生成圖像的質(zhì)量效果越來越好，當(dāng)epoch達(dá)到20時(shí)，生成器的生成圖像就可以清晰可辨，網(wǎng)絡(luò)模型不斷對抗訓(xùn)練，生成器的泛化能力進(jìn)一步提升，由此使得圖像中的生成數(shù)據(jù)信息越來越清晰，生成的手寫數(shù)字多樣性不斷提高。

圖9 MNIST 數(shù)據(jù)集生成樣本

圖10給出了CIFAR-10數(shù)據(jù)集在訓(xùn)練完成70個epoch后的生成圖像，圖像共包含10類：圖中每一列給出了每一類圖像中的4個隨機(jī)生成圖像樣本，從左到右依次分別是airplane、automobile、bird、cat、deer、dog、frog、horse、ship、truck。

圖10 CIFAR-10數(shù)據(jù)集各類圖像生成樣本

將生成圖像樣本進(jìn)行質(zhì)量分析，采用IS(inception score)[21]指標(biāo)比較不同模型在相同迭代次數(shù)下生成圖像樣本的實(shí)驗(yàn)效果，以此驗(yàn)證本文SWGAN-GP模型生成圖像的質(zhì)量效果。IS指標(biāo)評估方式如式(11)所示

(11)

表1 IS(inception score)值比較

此外，本文還使用峰值信噪比PSNR(peak signal to noise ratio)指標(biāo)比較不同模型生成圖像樣本與載密圖像之間的質(zhì)量差異，以此評估本文SWGAN-GP模型生成圖像的安全性。PSNR指標(biāo)計(jì)算方式如式(12)所示

(12)

式中：I表示生成圖像樣本，J表示載密圖像，(i,j)表示不同類型圖像對應(yīng)的像素值。將不同模型在CIFAR-10數(shù)據(jù)集上完全訓(xùn)練之后的PSNR值進(jìn)行比較，PSNR值越大表示生成圖像樣本與載密圖像之間的差異越小，圖像安全性越高。本文從不同模型在CIFAR-10數(shù)據(jù)集上訓(xùn)練后的每一類圖像中隨機(jī)選取10張生成圖像和載密圖像，計(jì)算其PSNR平均值，結(jié)果見表2?？梢钥闯?，本文模型生成圖像樣本的PSNR值均明顯優(yōu)于其它模型。

表2 PSNR(peak signal to noise ratio)值比較

3.3.2 圖像隱寫效果

采用圖像灰度直方圖(Gray histogram)對不同隱寫算法下，模型在圖像隱寫操作前后的載體圖像和載密圖像穩(wěn)定性進(jìn)行比較分析，以此驗(yàn)證本文SWGAN-GP模型的圖像隱寫效果?；叶戎狈綀D評估計(jì)算方式如式(13)所示

(13)

式中：k表示灰度級，rk表示灰度級為k的灰度值，nk表示具有灰度值rk的圖像像素個數(shù)，MN乘積表示圖像像素的總個數(shù)，p表示頻率?；叶戎狈綀D的本質(zhì)就是圖像中灰度值的函數(shù)，通過計(jì)算表示出具有不同灰度值的圖像像素個數(shù)，更加直觀反映了圖像中的不同灰度分布情況。

本文將通過以上方法計(jì)算模型生成的載體圖像在嵌入率為0.4 bpp并且嵌入秘密信息相同的前提下，使用不同的隱寫算法后，輸出的載密圖像灰度直方圖。圖像灰度直方圖對比結(jié)果如圖11所示，其中，橫坐標(biāo)表示灰度值，范圍是0～255，0為黑色，255為白色；縱坐標(biāo)表示像素個數(shù)，即灰度級的出現(xiàn)頻率。從圖11中可以觀察到，采用LSB隱寫算法時(shí)，載體圖像的像素灰度變化相對較大，并且攻擊者在獲取到載密圖像后，采用簡單的卡方分析、RS分析、GPC分析等算法就可以根據(jù)載密圖像的灰度直方圖進(jìn)行圖像隱寫分析。實(shí)驗(yàn)所得載體圖像與載密圖像及其灰度直方圖對比結(jié)果如圖11所示，圖11給出了圖(a)、圖(b)、圖(c)3組圖像的對比結(jié)果，每組圖像及其灰度直方圖為上下對應(yīng)關(guān)系。由實(shí)驗(yàn)驗(yàn)證分析可得，相較于SGAN、SSGAN等模型中使用的LSB隱寫算法，本文SWGAN-GP模型所使用的HUGO自適應(yīng)隱寫算法對載體圖像的修改程度更小，秘密信息在隱藏到載體圖像后，生成的載密圖像與原始載體圖像的灰度直方圖相比，灰度變化情況更小，圖像的隱寫效果更具穩(wěn)定性。即使載密圖像在公開信道中傳輸，攻擊者在獲取到載密圖像后，也很難通過灰度直方圖等信息分析出載密圖像中隱藏的秘密信息。

圖11 載體圖像與載密圖像及其灰度直方圖對比結(jié)果

采用最小平均錯誤檢測率PE值評估不同模型生成的載密圖像的抗檢測能力，PE值越高表示模型的隱寫算法的抗檢測能力越強(qiáng)，載密圖像的安全性也越高。最小平均錯誤檢測率PE值計(jì)算方式如式(14)所示，其中，PFA表示虛警率，PMD表示漏檢率

(14)

本文將使用LSB隱寫算法的圖像隱寫模型與本文圖像隱寫模型的載密圖像進(jìn)行比較，通過比較不同嵌入容量下的PE值，評估載密圖像的抗檢測能力。表3給出了不同嵌入容量下，使用LSB隱寫算法的圖像隱寫模型的PE值的變化情況，以及本文圖像隱寫模型在使用不同的閾值參數(shù)T時(shí)的PE值變化情況。

表3 PE值隨著嵌入容量變化的比較

根據(jù)表3及實(shí)驗(yàn)中的詳細(xì)數(shù)據(jù)，圖12給出了不同模型算法的PE值隨著嵌入容量變化的折線圖，它可以更加直觀地表示出，隨著隱寫容量的增加，不同模型隱寫算法的PE值變化情況。結(jié)合表3數(shù)據(jù)和圖12曲線，分析可得，隨著嵌入容量的增加，不同模型的PE值逐漸減小，表示其載密圖像的抗檢測性也在降低，而在相同嵌入容量下，采用本文模型隱寫算法并且在閾值參數(shù)T設(shè)置為255時(shí)，載密圖像的隱蔽性更好，更能達(dá)到安全傳輸?shù)哪康摹?/p>

圖12 PE值隨著嵌入容量變化的圖像

根據(jù)以上實(shí)驗(yàn)結(jié)果對比分析，更進(jìn)一步表明，采用本文模型的隱寫算法時(shí)，對載體圖像的紋理修改程度更小，從而更好地保障了載密圖像中秘密信息的安全隱藏和傳輸過程中的安全性。

3.3.3 圖像分類效果

為進(jìn)一步驗(yàn)證SWGAN-GP模型中判別器的有效性，將本文模型在MNIST數(shù)據(jù)集和CIFAR-10數(shù)據(jù)集上進(jìn)行實(shí)驗(yàn)并與其它模型進(jìn)行對比。首先，本文比較了不同模型的判別器對真實(shí)圖像和生成圖像的分類準(zhǔn)確率，準(zhǔn)確率越低，說明生成圖像越接近真實(shí)圖像，圖像質(zhì)量效果越好。實(shí)驗(yàn)結(jié)果見表4，本文模型的判別器在判別真實(shí)圖像與生成圖像時(shí)的分類準(zhǔn)確率均低于其它模型的方法，對生成圖像的識別準(zhǔn)確率有明顯降低，這也意味著本文模型的生成圖像更能達(dá)到以假亂真的效果。

表4 不同模型的圖像分類準(zhǔn)確率結(jié)果比較

而后，本文比較了不同模型的隱寫判別器S對載體圖像和載密圖像的分類錯誤率情況，錯誤率越高，說明載密圖像越接近原始的載體圖像，載密圖像的抗檢測分析能力越強(qiáng)。實(shí)驗(yàn)結(jié)果如圖13所示，在嵌入容量均為0.4 bpp的情況下，隨著網(wǎng)絡(luò)訓(xùn)練迭代次數(shù)的增加，不同模型的隱寫判別器S的分類錯誤率也在明顯提高，表示其載密圖像的抗檢測性也在增強(qiáng)，而在相同迭代次數(shù)下，本文模型的隱寫判別器的分類錯誤率明顯高于其它模型，具有顯著的優(yōu)勢，當(dāng)epoch達(dá)到75時(shí)，本文隱寫判別器S的分類錯誤率便能夠達(dá)到20%左右，由此也說明，在相同訓(xùn)練迭代次數(shù)下，相較于SGAN和SSGAN模型，本文模型生成的載密圖像隱寫效果更好，圖像的安全性也更高。

圖13 不同模型的隱寫判別器S的分類錯誤率圖像

最后，將本文模型與其它模型的損失值對比，通過圖14可以更加直觀地看出本文模型收斂速度更快，模型訓(xùn)練更穩(wěn)定。將實(shí)驗(yàn)結(jié)果進(jìn)行比較分析，本文模型提出的方法生成圖像樣本質(zhì)量更好，通過不斷迭代優(yōu)化，判別器D的圖像分類準(zhǔn)確率明顯降低，隱寫判別器S的分類錯誤率顯著提高，由此說明本文方法通過不斷訓(xùn)練優(yōu)化最終生成的載密圖像更具安全性，在傳輸過程中的抗檢測性效果更好。

圖14 不同模型的訓(xùn)練損失值結(jié)果對比

4 結(jié)束語

本文提出的基于改進(jìn)生成對抗網(wǎng)絡(luò)的圖像自適應(yīng)隱寫模型SWGAN-GP，是在結(jié)合SSGAN與WGAN-GP模型處理思路的基礎(chǔ)上，改進(jìn)模型網(wǎng)絡(luò)結(jié)構(gòu)，解決了圖像隱寫過程中，現(xiàn)有的基于生成對抗網(wǎng)絡(luò)的圖像隱寫模型存在的網(wǎng)絡(luò)訓(xùn)練不易收斂、梯度爆炸和生成樣本質(zhì)量差等問題。通過在損失函數(shù)中加入梯度懲罰，在網(wǎng)絡(luò)結(jié)構(gòu)中引入注意力機(jī)制并使用HUGO自適應(yīng)隱寫算法進(jìn)行信息隱藏，既減少了載體圖像失真程度又能夠準(zhǔn)確提取圖像隱寫信息。同時(shí)，使用MNIST數(shù)據(jù)集和CIFAR-10數(shù)據(jù)集評估本文模型的性能，IS值分別提高了0.2和0.5，在圖像分類準(zhǔn)確率上降低了5%，圖像隱寫分析錯誤率上提高了4%左右。理論分析和實(shí)驗(yàn)結(jié)果表明本文提出的模型方法具有更好的學(xué)習(xí)泛化能力，提高了網(wǎng)絡(luò)收斂速度，使網(wǎng)絡(luò)訓(xùn)練更加穩(wěn)定，生成圖像樣本的質(zhì)量更好。在應(yīng)對隱寫分析檢測時(shí)，載密圖像抗檢測性能進(jìn)一步提升，由此保障了載密圖像在公開社交網(wǎng)絡(luò)傳輸通信中的安全性。在個人、企業(yè)以及國家的機(jī)密信息通信過程中，本文圖像自適應(yīng)隱寫模型SWGAN-GP能夠在載體圖像中隱藏通信的內(nèi)容并隱蔽通信的行為，可以作為實(shí)際應(yīng)用環(huán)境中一種保障通信信息安全的重要途徑，對機(jī)密信息進(jìn)行隱蔽傳輸和數(shù)據(jù)保密，模型在不同的應(yīng)用場景下均具有重要且廣泛的應(yīng)用前景和實(shí)用價(jià)值。