穆 明，李紅杏，戚 晗，趙 亮，林 娜，拱長青

(沈陽航空航天大學(xué) 計算機學(xué)院，沈陽 110136)

人工智能領(lǐng)域的機器學(xué)習(xí)和深度學(xué)習(xí)在數(shù)據(jù)分析和分類方面實現(xiàn)了質(zhì)的飛躍。近十年來，神經(jīng)網(wǎng)絡(luò)已經(jīng)成為主流的機器學(xué)習(xí)模型，并在自然語言處理[1]、圖像識別[2]、目標(biāo)檢測[3]等領(lǐng)域取得了一系列成果。然而，量子機器學(xué)習(xí)可以利用量子處理器自動識別數(shù)據(jù)中的結(jié)構(gòu)和模式，這是傳統(tǒng)機器學(xué)習(xí)算法所無法實現(xiàn)的[4]。此外，谷歌宣稱他們已經(jīng)實現(xiàn)“量子霸權(quán)”，首次在實驗中證明了量子計算機相對于傳統(tǒng)架構(gòu)計算機的優(yōu)越性：世界第一的超級計算機Summit需要計算1萬年的實驗，谷歌的量子計算機只用了3分20秒[5]。

量子神經(jīng)網(wǎng)絡(luò)(QNN)旨在利用量子力學(xué)中量子計算的量子并行、量子糾纏以及量子相干等特性來改進經(jīng)典神經(jīng)網(wǎng)絡(luò)架構(gòu)。QNN是一個將傳統(tǒng)人工神經(jīng)網(wǎng)絡(luò)(ANN)模型與量子信息和量子計算概念相結(jié)合的研究領(lǐng)域，它充分利用了ANN和量子計算的優(yōu)勢。1995年，Kak[6]首次提出了量子計算的概念，此后，QNN在全世界范圍內(nèi)引起了學(xué)者們廣泛的研究熱情，提出了很多種QNN模型，如量子BP[7]神經(jīng)網(wǎng)絡(luò)、量子Hopfield神經(jīng)網(wǎng)絡(luò)[8]以及通用量子門神經(jīng)網(wǎng)絡(luò)[9]等。2018年，Daskin[10]提出了一種具有周期性激活函數(shù)的單量子神經(jīng)元神經(jīng)網(wǎng)絡(luò)，該模型只需一個復(fù)雜的量子門就可以模擬由神經(jīng)元構(gòu)建的經(jīng)典神經(jīng)網(wǎng)絡(luò)；2019年，Cong[11]等人提出了一種量子卷積神經(jīng)網(wǎng)絡(luò)(QCNN)，對于輸入規(guī)模為N量子位的數(shù)據(jù)集，該模型僅使用O(log(N))的參數(shù)便可以對其進行有效的訓(xùn)練及驗證；2020年，Chen[12]等人提出了用于深度強化學(xué)習(xí)的變分量子線路，與經(jīng)典神經(jīng)網(wǎng)絡(luò)相比，使用量子信息編碼方案可以有效減少模型參數(shù)數(shù)量；同年，Raychev[4]提出一種變分量子線路神經(jīng)網(wǎng)絡(luò)模型，可在概率空間中對數(shù)據(jù)進行分類；2021年，在COVID-19全球大流行的嚴(yán)峻形勢下，Kairon[13]提出了一種連續(xù)變分量子神經(jīng)網(wǎng)絡(luò)，并對美國和印度的新冠病毒病例進行了研究與預(yù)測。然而，迄今為止，幾乎所有的量子神經(jīng)網(wǎng)絡(luò)模型都是在理論上提出的模型[14]，或是通過經(jīng)典方法以及量子模擬器來模擬量子環(huán)境。因此，它們還無法在現(xiàn)實世界中實現(xiàn)。雖然也有部分變分量子神經(jīng)網(wǎng)絡(luò)進行了NISQ環(huán)境下的量子真機實驗，但是涉及的量子比特個數(shù)以及實驗數(shù)據(jù)規(guī)模十分有限。

QNN的設(shè)計面臨一系列困難，包括設(shè)計合理的量子感知器、(深度)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)、優(yōu)化算法以及損失函數(shù)等。本文提出了一種優(yōu)化的變分量子神經(jīng)網(wǎng)絡(luò)，即由可在目前的NISQ設(shè)備上執(zhí)行的變分量子線路結(jié)合機器學(xué)習(xí)策略構(gòu)成的一種混合量子經(jīng)典計算模型，通過經(jīng)典優(yōu)化器來完成參數(shù)的優(yōu)化過程，該模型可以有效解決NISQ設(shè)備面臨的電路深度難題，從而提高網(wǎng)絡(luò)性能。VQNN模型中的量子線路由兩部分組成：第一部分為量子態(tài)編碼線路，用于將經(jīng)典數(shù)據(jù)編碼為量子態(tài)數(shù)據(jù)；第二部分對應(yīng)一個參數(shù)可調(diào)的變分量子電路，通過優(yōu)化參數(shù)來模擬學(xué)習(xí)目標(biāo)的經(jīng)典概率分布，并將其信息編碼到量子線路的參數(shù)中。與基于張量網(wǎng)絡(luò)的方法不同，VQC的量子比特之間形成高度糾纏態(tài)，其參數(shù)數(shù)量隨著量子比特數(shù)量呈多項式增長，因此，該方法的應(yīng)用領(lǐng)域更加廣闊。VQC的概率輸出分布可以通過測量電路的最終量子態(tài)輸出來獲得，接下來便可以使用經(jīng)典計算機進行后處理。這種結(jié)構(gòu)在VQNN的設(shè)計中表現(xiàn)出了相當(dāng)大的靈活性，使得VQC易于與經(jīng)典的ML融合，從而構(gòu)成一種混合量子經(jīng)典神經(jīng)網(wǎng)絡(luò)。本文進一步探索了利用VQNN來構(gòu)建基于實際應(yīng)用的分類器，實驗結(jié)果可信。之后本文利用IBM量子云平臺提供的在線量子處理器進行了真實量子環(huán)境下的VQNN入侵檢測實驗。雖然與量子模擬器環(huán)境下相比存在不可忽視的誤差，但是這項工作展示了一個可以應(yīng)用VQNN的領(lǐng)域，這必將鼓勵其他領(lǐng)域研究人員進行更加深入的探索。

1 變分量子神經(jīng)網(wǎng)絡(luò)方案設(shè)計

1.1 基于經(jīng)典優(yōu)化器優(yōu)化的變分量子神經(jīng)網(wǎng)絡(luò)模型

變分量子神經(jīng)網(wǎng)絡(luò)是由可執(zhí)行酉變換的隱藏層量子感知器組成的量子線路，該線路作用于輸入量子態(tài)并執(zhí)行相應(yīng)的酉變換，以生成期望的量子態(tài)輸出。該網(wǎng)絡(luò)利用參數(shù)可調(diào)的量子位寄存器對量子線路的輸入進行酉變換，并通過測量操作獲得隨頻率(概率)出現(xiàn)的量子比特串輸出分布，即通過變分量子神經(jīng)網(wǎng)絡(luò)在輸入與輸出之間建立映射關(guān)系。本文構(gòu)建的VQNN模型框架如圖1所示。

圖1 變分量子神經(jīng)網(wǎng)絡(luò)模型框架

要實現(xiàn)VQNN，第一步是將經(jīng)典計算機輸入的經(jīng)典數(shù)據(jù)X編碼為可被量子線路加載的量子態(tài)|X〉，該過程被稱為量子態(tài)編碼(QSE)。對于具有n個屬性的數(shù)據(jù)x，量子態(tài)編碼公式為

(1)

其中，gi為用于編碼的量子門，fi是將xi編碼為量子門gi參數(shù)的編碼函數(shù)。

接下來，通過VQC1對編碼后的量子數(shù)據(jù)|X〉執(zhí)行相應(yīng)的酉變換，得到變換后的量子態(tài)輸出|Y′〉。VQC是由具有固定深度且參數(shù)可調(diào)的量子門組成的量子線路，VQC是VQNN進行量子計算的關(guān)鍵，類似于神經(jīng)網(wǎng)絡(luò)中的隱藏層。VQC輸出可以表示為一系列層與層之間映射變換εl的組合，如式(2)所示。

ρout=εout(εh(…ε2(ε1(ρin))…))

(2)

緊接著，對VQC1的輸出進行測量，并將測量結(jié)果作為第二次QSE的編碼參數(shù)。然后，通過VQC2執(zhí)行相應(yīng)的酉變換并得到期望輸出|Y〉。最終，對量子態(tài)期望輸出進行測量，并通過經(jīng)典計算機對測量后獲得的經(jīng)典輸出分布進行采樣，結(jié)合經(jīng)典機器學(xué)習(xí)領(lǐng)域中的優(yōu)化器，根據(jù)真實輸出與理想輸出之間的損失來自動調(diào)整VQC的酉矩陣參數(shù)。重復(fù)此過程，直至VQNN輸出結(jié)果與期望輸出之間誤差在可以接受的范圍為止。

雖然QSE1與QSE2功能相同，都是將經(jīng)典數(shù)據(jù)編碼為量子態(tài)數(shù)據(jù)，但目的不同，QSE1用于將數(shù)據(jù)集編碼為量子態(tài)數(shù)據(jù)，QSE2用于將中間測量編碼為量子態(tài)數(shù)據(jù)，且編碼函數(shù)不同，QSE1的編碼函數(shù)為f(x)=-2π*x，QSE2的編碼函數(shù)為f(x)=-π*x，其中本文所用符號*均表示乘法。同理，VQC1用于對量子態(tài)數(shù)據(jù)集進行酉變換，目的是捕獲數(shù)據(jù)集中的量子關(guān)聯(lián)，而VQC2是對中間測量輸出進行酉變換，目的是捕獲中間測量的量子關(guān)聯(lián)。類似地，中間測量的作用是引入兩個VQC之間的非線性操作，而輸出層的測量則是為了獲得對于輸入數(shù)據(jù)的結(jié)果預(yù)測。

1.2 模型訓(xùn)練與測試

圖2為變分量子神經(jīng)網(wǎng)絡(luò)攻擊檢測模型訓(xùn)練與測試過程圖。

圖2 變分量子神經(jīng)網(wǎng)絡(luò)訓(xùn)練與測試過程

從圖2可以看出，本文所提VQNN攻擊檢測模型由3大模塊組成，分別為預(yù)處理模塊、訓(xùn)練模塊以及入侵檢測模塊。其中數(shù)據(jù)預(yù)處理過程用于完成數(shù)據(jù)初始化工作，包括數(shù)據(jù)的歸一化以及數(shù)據(jù)劃分等，并將劃分好的訓(xùn)練數(shù)據(jù)集與測試數(shù)據(jù)集分別交由訓(xùn)練模塊與測試模塊處理，該過程通過經(jīng)典計算機完成。訓(xùn)練模塊完成VQNN攻擊檢測模型的訓(xùn)練過程，該模型需要通過經(jīng)典計算機與量子計算機的協(xié)同配合才能完成。最后一個模塊便是攻擊檢測模塊，該模塊利用訓(xùn)練模塊訓(xùn)練好的VQNN模型對數(shù)據(jù)集進行預(yù)測，并完成模型的性能評估。

算法1與算法2分別為VQNN攻擊檢測模型的訓(xùn)練過程與測試過程所對應(yīng)的偽代碼，如表1所示。

表1 偽代碼

其中，總代價函數(shù)loss是關(guān)于VQC參數(shù)θ與訓(xùn)練集{X,Y}的函數(shù)，可以通過經(jīng)典計算機對VQC參數(shù)進行最小化尋優(yōu)和更新，直至滿足終止條件。本文建立了經(jīng)典計算機與量子設(shè)備之間的聯(lián)系，即在經(jīng)典計算機上通過機器學(xué)習(xí)策略完成了量子神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過程。當(dāng)模型訓(xùn)練完成后，就可以將訓(xùn)練好的VQNN模型部署到真實量子設(shè)備中進行網(wǎng)絡(luò)攻擊檢測。

2 仿真實驗與結(jié)果分析

2.1 實驗數(shù)據(jù)集與評價指標(biāo)

本文選取的實驗數(shù)據(jù)集為KDD CUP99數(shù)據(jù)集，由于原始數(shù)據(jù)集中存在眾多不相關(guān)特征及冗余特征，因此在訓(xùn)練過程中可能會出現(xiàn)因入侵檢測數(shù)據(jù)集的維度過高而導(dǎo)致檢測算法實時性較差的情況，以及冗余特征之間的相互依賴會降低模型的檢測精度。因此，有必要對原始數(shù)據(jù)集進行特征選擇，通過刪除入侵檢測數(shù)據(jù)集中的無關(guān)特征和冗余特征，構(gòu)造有效特征子集。基于現(xiàn)有的特征選擇算法[15-16]，并考慮IBM Quantum在線量子云平臺最多支持5個qubits的量子真機實驗。本文選擇的特征子集為

{protocol_type,service,src_bytes,dst_bytes,count}

對于檢測系統(tǒng)來說，評價指標(biāo)是評估一個系統(tǒng)性能好壞的關(guān)鍵要素[17]，定義入侵檢測系統(tǒng)評價指標(biāo)的重要概念有真陽性(TP)、假陽性(FP)、真陰性(TN)以及假陰性(FN)等4個概念。根據(jù)這些概念定義的評價指標(biāo)有準(zhǔn)確率、精確率、召回率和F1值。

準(zhǔn)確率是指模型預(yù)測正確的結(jié)果所占的比例，包括對正常數(shù)據(jù)以及攻擊數(shù)據(jù)的精準(zhǔn)預(yù)測，準(zhǔn)確率的計算公式如式(3)所示。

(3)

精確率是指當(dāng)攻擊檢測系統(tǒng)發(fā)出預(yù)警時，確為網(wǎng)絡(luò)入侵的概率，精確率的計算公式如式(4)所示。

(4)

召回率是指當(dāng)被監(jiān)控網(wǎng)絡(luò)受到入侵攻擊時，檢測系統(tǒng)可以正確發(fā)出警報的概率，召回率的定義公式如式(5)所示。

(5)

F1值是用來衡量檢測模型準(zhǔn)確性的指標(biāo)，它同時考慮了精確率和召回率，F(xiàn)1值可以看作是模型精度和召回率的調(diào)和平均值，F(xiàn)1值的計算公式如式(6)所示。

(6)

2.2 量子模擬器實驗

為實現(xiàn)上述VQNN攻擊檢測模型，本文遵循圖1所示混合量子經(jīng)典框架，該框架可為NISQ設(shè)備中部署并實現(xiàn)量子線路與算法提供指導(dǎo)。實驗平臺選取專門用于量子機器學(xué)習(xí)的 Python 框架TensorFlow Quantum(TFQ)，TFQ側(cè)重于構(gòu)建量子經(jīng)典混合模型。該平臺允許在量子虛擬機(QVM)和量子處理單元(QPU)上部署用戶設(shè)計的變分量子線路。

本文設(shè)計的量子態(tài)編碼線路QSE1、QSE2如圖3所示。

圖3 量子態(tài)編碼線路圖

VQC是VQNN中最關(guān)鍵的組成部分，VQC設(shè)計的好壞將直接影響VQNN模型的整體性能，為此，本文設(shè)計一個高度糾纏且可以執(zhí)行任意酉變換的VQC1，如圖4所示。

圖4 變分量子線路1圖

VQC1的輸入為QSE1編碼后的量子態(tài)數(shù)據(jù)。R(α,β,γ)為可實現(xiàn)希爾伯特空間任意酉變換的量子旋轉(zhuǎn)門組，如式(7)所示。

R(α,β,γ)=Rz(α)Ry(β)Rz(γ)

(7)

與VQC1不同，VQC2用于捕獲中間測量結(jié)果的量子關(guān)聯(lián)，其對彼此之間的糾纏度要求不高，所以，本文設(shè)計了一個低糾纏且可以執(zhí)行任意酉變換的VQC2，如圖5所示。

圖5 變分量子線路2圖

量子旋轉(zhuǎn)門組的酉矩陣參數(shù)和為VQC的可調(diào)參數(shù)，同時也為VQNN模型待優(yōu)化參數(shù)，該參數(shù)由經(jīng)典計算機傳入，并由經(jīng)典計算機通過優(yōu)化器對其進行優(yōu)化。

本實驗所選實驗平臺為TensorFlow Quantum、系統(tǒng)為Windows 10專業(yè)版、Python版本為Python-2.7、處理器為Intel(R)Core(TM)i7-6700HQ CPU @ 2.60Hz 2.59 GHz；量子線路為5量子位的量子線路，對應(yīng)待編碼的經(jīng)典數(shù)據(jù)特征向量維度，量子線路深度為5。在訓(xùn)練過程中，本文使用Keras優(yōu)化器提供的SGD、RMSprop、Adagrad、Adadelta、Adam、Adamax以及Nadam等優(yōu)化方法。

為了探索優(yōu)化方法的選取對VQNN模型性能的影響，本文使用上述7種方法進行了對比實驗，不同優(yōu)化方法的優(yōu)化性能如圖6所示。

根據(jù)圖6所示對比結(jié)果可知，Adam方法針對本實驗表現(xiàn)出了最佳的優(yōu)化性能，因此，本文選用學(xué)習(xí)率為0.01的Adam優(yōu)化的VQNN進行網(wǎng)絡(luò)攻擊檢測實驗。表2為利用Adam優(yōu)化方法優(yōu)化的VQNN模型VQNN-Adam和在攻擊檢測領(lǐng)域常用的經(jīng)典檢測模型以及量子門線路神經(jīng)網(wǎng)絡(luò)QGCNN分別進行網(wǎng)絡(luò)入侵檢測實驗得到的實驗對比結(jié)果。

表2 攻擊檢測實驗結(jié)果對比

圖6 優(yōu)化方法性能對比圖

從實驗結(jié)果可以看出，VQNN的訓(xùn)練MSE和測試MSE均低于其他檢測模型，而其入侵攻擊檢測的準(zhǔn)確率、精確率和F1值均高于其他模型。

根據(jù)性能評價指標(biāo)可知，模型的準(zhǔn)確率、精確率、召回率和F1值越高，并且訓(xùn)練MSE和測試MSE越低，模型的性能越好。因此，從表2的實驗結(jié)果不難看出，VQNN的準(zhǔn)確率與精確率均表現(xiàn)最佳，分別為94.06%和94.69%，超出預(yù)測效果相對較好的QGCNN 2.06%與3.28%，高于ANN 3.06%與4.69%，甚至比SVM高出21.39%與24.26%。此外，VQNN也擁有最高的F1值，綜合上述實驗對比結(jié)果不難得出，VQNN在保持相對較低的訓(xùn)練與測試MSE的條件下表現(xiàn)出了最佳的檢測性能。此外，在保證較高檢測精度的條件下，VQNN測試耗時也是所有對比模型中用時最少的，僅為0.199 8 s，優(yōu)于QGCNN模型3.5 ms，比SVM少耗時18.4 ms。

VQNN表現(xiàn)出良好檢測性能的原因是在VQC與成熟的經(jīng)典機器學(xué)習(xí)策略相結(jié)合的背景下，量子經(jīng)典混合神經(jīng)網(wǎng)絡(luò)可以產(chǎn)生具有低深度量子線路的高度糾纏態(tài)。高度糾纏狀態(tài)的潛在優(yōu)勢是能夠有效地表示目標(biāo)任務(wù)的解空間。也就是說，量子態(tài)編碼和VQC旨在捕獲量子數(shù)據(jù)中的量子關(guān)聯(lián)[18]。同時，在這個框架下，VQC的輸出為多種模式下的一種疊加，并以最好的形式來匹配相關(guān)目標(biāo)任務(wù)，VQC所具備的這種量子疊加性質(zhì)使VQNN模型具備一定的容錯能力。此外，量子并行性與經(jīng)典計算的多核運算不同，量子計算的語義特征是完全意義上的通過一次操作即可改變?nèi)繑?shù)據(jù)的并行計算，所以量子并行計算可以顯著提高運行速度。

2.3 量子真機實驗

由于上述VQNN的實驗結(jié)果是基于TensorFlow Quantum量子模擬器，是在理想環(huán)境下測得的結(jié)果，為了進一步驗證VQNN的整體性能，本文設(shè)計了基于真實量子設(shè)備的VQNN攻擊檢測實驗。將Tensor Flow Quantum訓(xùn)練后所得的VQC參數(shù)作為NISQ設(shè)備中量子線路的量子門參數(shù)來構(gòu)建基于量子計算機的量子線路，隨機選取100個實驗數(shù)據(jù)進行測試。實驗平臺為IBM 提供的量子云平臺IBM Quantum。實驗結(jié)果的混淆矩陣如表3所示。

表3 IBM Quantum實驗混淆矩陣

根據(jù)表3所示混淆矩陣，結(jié)合評價指標(biāo)(3)～(6)，不難得出，運行在真實NISQ量子設(shè)備上的VQNN攻擊檢測系統(tǒng)的準(zhǔn)確率為83%、精確率為88.33%、召回率為84.13%、F1值為86.18%。顯而易見，基于真實量子線路構(gòu)建的、可在量子處理器上運行的VQNN的評價指標(biāo)與理想情況下所得結(jié)果并不完全一致。

<1)，且各件產(chǎn)品是否為不合格品相互獨立．

量子真機與量子模擬器所得結(jié)果存在差異的主要原因是當(dāng)前NISQ設(shè)備并不支持量子糾錯，且量子門的酉變換也存在誤差(如CNOT門誤差)，以及其他測量誤差和一些不確定因素。此外，由于IBMQ提供的量子設(shè)備對一次排隊的作業(yè)數(shù)量有限制，所以，實際上本文將100個測量數(shù)據(jù)分布到了平臺提供的6個不同的量子設(shè)備上運行。這些量子設(shè)備的處理器和版本也都不盡相同。正是由于這些因素的存在，才導(dǎo)致在模擬器條件下所測得的理想值與IBM Quantum量子處理器的實際運行結(jié)果之間存在誤差，導(dǎo)致精確率降低6.3%。但在真實量子設(shè)備中運行的VQNN仍然比經(jīng)典的SVM和NB檢測模型具有更好的攻擊檢測精度。本實驗所使用的6個量子設(shè)備單次執(zhí)行攻擊檢測所用時間如表4所示。

表4 量子真機耗時

表4中的總耗時包括傳輸時間、確認(rèn)時間以及排隊等待時間等，而系統(tǒng)耗時又包括制備、運行等過程。由于不同量子設(shè)備結(jié)構(gòu)不同且分布于世界各地，因此網(wǎng)絡(luò)延遲及排隊用時各不相同，所以總耗時也不盡相同。

此外，由于本文提出的模型為特定條件下針對5量子比特，即特征向量維度為5的仿真模擬與真機實驗，目的是為了用更少的時間去訓(xùn)練完成一個性能相對優(yōu)異的攻擊檢測系統(tǒng)。雖然造成檢測精度上的損失，即不能實現(xiàn)當(dāng)前最佳攻擊檢測模型在無特征約束條件下99%以上的檢測精度，但本文所提出的模型是一種基于短時間與高精度的綜合考量。該模型在特征數(shù)量為5的條件下表現(xiàn)出了最佳性能，高于當(dāng)前同等條件下Cosine_PIO[15]、LSSVM[15]以及ID3-BA[19]等模型的檢測精度。

3 結(jié)論

本文提出了一種改進混合量子經(jīng)典架構(gòu)，由QSE以及VQC結(jié)合經(jīng)典機器學(xué)習(xí)策略組成。該架構(gòu)通過編碼函數(shù)對經(jīng)典數(shù)據(jù)進行量子態(tài)編碼，并通過張量映射方法將經(jīng)典數(shù)據(jù)加載到量子線路。利用VQC在希爾伯特空間進行酉變換，通過測量操作以及經(jīng)典計算機的后處理引入并加強非線性?？蓪QC以及經(jīng)典后處理視為單層VQNN，通過復(fù)用的方式構(gòu)建深度混合量子經(jīng)典架構(gòu)。實驗證明了本文所提出的改進VQNN模型的可行性，并在TensorFlow Quantum量子模擬器以及IBM Quantum真實量子設(shè)備上設(shè)計并實現(xiàn)了該模型。研究結(jié)果表明，可以將量子計算機應(yīng)用于安全領(lǐng)域，以提高未來安全系統(tǒng)的可靠性。此外，該工作提供了一個將量子計算與經(jīng)典機器學(xué)習(xí)相結(jié)合的新思路。VQNN是否完全優(yōu)于經(jīng)典神經(jīng)網(wǎng)絡(luò)這個問題和證明“量子霸權(quán)”一樣困難，但是VQNN可提供一個可行的分析框架。