孫太平 吳玉椿2)? 郭國(guó)平2)3)

1) (中國(guó)科學(xué)技術(shù)大學(xué), 中國(guó)科學(xué)院量子信息重點(diǎn)實(shí)驗(yàn)室, 合肥 230026)

2) (合肥綜合性國(guó)家科學(xué)中心人工智能研究院, 合肥 230088)

3) (合肥本源量子計(jì)算科技有限責(zé)任公司, 合肥 230026)

近年來(lái), 很多基于生成模型的機(jī)器學(xué)習(xí)算法, 如生成對(duì)抗網(wǎng)絡(luò)、玻爾茲曼機(jī)、自編碼器等, 在數(shù)據(jù)生成、概率模擬等方面有廣泛的應(yīng)用. 另一方面, 融合量子計(jì)算和經(jīng)典機(jī)器學(xué)習(xí)的量子機(jī)器學(xué)習(xí)算法也不斷被提出.特別地, 量子生成模型作為量子機(jī)器學(xué)習(xí)的分支, 目前已有很多進(jìn)展. 量子生成算法是一類(lèi)量子-經(jīng)典混合算法, 算法中引入?yún)?shù)量子線路, 通過(guò)執(zhí)行參數(shù)線路得到損失函數(shù)及其梯度, 然后通過(guò)經(jīng)典的優(yōu)化算法來(lái)優(yōu)化求解, 從而完成對(duì)應(yīng)的生成任務(wù). 與經(jīng)典生成模型相比, 量子生成模型通過(guò)參數(shù)線路將數(shù)據(jù)流映射到高維希爾伯特空間, 在高維空間中學(xué)習(xí)數(shù)據(jù)的特征, 從而在一些特定問(wèn)題上超越經(jīng)典生成模型. 在中等規(guī)模含噪聲的量子體系下, 量子生成模型是一類(lèi)有潛力實(shí)現(xiàn)量子優(yōu)勢(shì)的量子機(jī)器學(xué)習(xí)算法.

1 引 言

在經(jīng)典計(jì)算領(lǐng)域, 生成模型被廣泛應(yīng)用于各個(gè)領(lǐng)域, 如圖像生成[1]、語(yǔ)音合成[2]、藥物設(shè)計(jì)[3]、圖像轉(zhuǎn)換[4]等. 近來(lái)已有對(duì)經(jīng)典生成模型的量子版本的研究, 如量子生成對(duì)抗網(wǎng)絡(luò)[5,6]、量子玻恩機(jī)[7,8]、量子玻爾茲曼機(jī)[9-12]、量子自編碼器[13-15]以及量子貝葉斯網(wǎng)絡(luò)[16]等.

量子生成模型是受經(jīng)典機(jī)器學(xué)習(xí)模型啟發(fā), 使用量子計(jì)算機(jī)來(lái)改進(jìn)經(jīng)典模型中的生成步驟, 以完成數(shù)據(jù)生成、概率模擬任務(wù)的一類(lèi)算法.

這類(lèi)算法的主要步驟是, 通過(guò)量子線路生成量子態(tài), 用量子態(tài)觀測(cè)結(jié)果構(gòu)建損失函數(shù), 再通過(guò)經(jīng)典的優(yōu)化算法進(jìn)行迭代優(yōu)化, 從而得到最優(yōu)的參數(shù)變量集合以完成相應(yīng)的生成任務(wù). 因此, 這些算法被統(tǒng)稱(chēng)為量子-經(jīng)典混合算法. 這種量子-經(jīng)典混合的閉環(huán)優(yōu)化思想始于變分量子算法[17], 即通過(guò)量子計(jì)算機(jī)和參數(shù)化量子門(mén)操作集合獲得分子的量子態(tài)表示, 測(cè)量分子模型對(duì)應(yīng)的哈密頓量的期望值, 以此作為目標(biāo)函數(shù)進(jìn)行變分優(yōu)化.

量子相位估計(jì)[18]在大數(shù)分解[18]、HHL[19]等被證明有量子優(yōu)勢(shì)的算法上具有廣泛的應(yīng)用, 但基于以下原因相位估計(jì)算法無(wú)法在當(dāng)前的計(jì)算體系下有效實(shí)現(xiàn): 1) 當(dāng)前硬件體系多集中于單量子門(mén)和兩比特糾纏門(mén)的實(shí)現(xiàn), 相位估計(jì)用到的受控幺正門(mén)(c-Uj)必須分解為基本門(mén)的組合, 此過(guò)程會(huì)顯著降低受控幺正門(mén)的保真度; 2) 相位估計(jì)用到的量子傅里葉逆變換需要O(n2) (n為量子比特個(gè)數(shù))數(shù)量級(jí)的量子門(mén), 使得深層量子線路的態(tài)保真度無(wú)法達(dá)到量子計(jì)算要求. 量子計(jì)算體系的噪聲不可避免, 當(dāng)前只有中等規(guī)模的量子比特、無(wú)法實(shí)現(xiàn)有效的量子糾錯(cuò)[20]技術(shù), 這使量子-經(jīng)典混合算法受到廣泛關(guān)注.

盡管已有多種量子生成任務(wù)在真實(shí)量子芯片上完成, 如利用量子生成對(duì)抗網(wǎng)絡(luò)進(jìn)行圖像生成與識(shí)別[21], 但對(duì)于參數(shù)量子線路(Parameterized Quantum Circuit, PQC, 見(jiàn)附錄)的表示能力與經(jīng)典網(wǎng)絡(luò)相比是否具有優(yōu)勢(shì)還缺少理論的結(jié)果.Du等[22]嘗試從內(nèi)在的線路結(jié)構(gòu)出發(fā)證明其結(jié)論,而經(jīng)典深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)和量子線路的比較還沒(méi)有結(jié)論. 同樣的, 量子生成網(wǎng)絡(luò)作為量子機(jī)器學(xué)習(xí)的一部分, 如何將經(jīng)典數(shù)據(jù)轉(zhuǎn)化為量子態(tài)、如何從測(cè)量結(jié)果獲取經(jīng)典信息仍需要更直觀更普適的方法.

本文主要分析一些常見(jiàn)量子生成模型的優(yōu)勢(shì)和劣勢(shì), 并對(duì)其擴(kuò)展性展開(kāi)討論. 量子生成模型的分類(lèi)與經(jīng)典生成模型類(lèi)似, 是以任務(wù)為導(dǎo)向的. 量子生成模型基本沿襲與之對(duì)應(yīng)的經(jīng)典生成模型的命名, 如量子生成對(duì)抗網(wǎng)絡(luò)是使用量子線路來(lái)完成經(jīng)典生成對(duì)抗任務(wù)的一種量子生成模型. 對(duì)于利用量子體系特有的性質(zhì)以完成生成任務(wù)的, 如量子玻恩機(jī), 則是用量子專(zhuān)有的玻恩測(cè)量命名. 還有一些模型保留了原作者的命名方式, 歸并在“其他生成模型”這一節(jié)進(jìn)行介紹. 一些量子生成模型如量子生成對(duì)抗網(wǎng)絡(luò)、量子玻恩機(jī)、量子自編碼器等用到的參數(shù)量子線路, 在附錄里會(huì)有詳細(xì)的介紹. 通過(guò)對(duì)這些模型的比較, 可以從不同角度理解量子生成模型的構(gòu)建思路, 以此為不同的計(jì)算任務(wù)構(gòu)建與之適應(yīng)的計(jì)算模型提供啟發(fā).

2 量子生成模型

2.1 量子生成對(duì)抗網(wǎng)絡(luò)

經(jīng)典的生成對(duì)抗網(wǎng)絡(luò)[23](generative adversarial Network, GAN)被視為深度學(xué)習(xí)中的前沿進(jìn)展. GAN在生成圖像[1]、語(yǔ)音[2]、文本[24]等方面具有非常廣泛的應(yīng)用. 經(jīng)典生成對(duì)抗網(wǎng)絡(luò)是一類(lèi)有兩個(gè)玩家的博弈游戲, 一個(gè)是生成器(generator), 記為G, 另一個(gè)為鑒別器(discriminator), 記為D. 對(duì)于已存在的源數(shù)據(jù)→x～pdata, 生成器G生成新的數(shù)據(jù)以逼近真實(shí)的源數(shù)據(jù)分布, 使D無(wú)法區(qū)分?jǐn)?shù)據(jù)的來(lái)源; 而鑒別器D對(duì)每個(gè)輸入數(shù)據(jù)給出真或假的決策概率, 以最大程度地區(qū)分這兩類(lèi)數(shù)據(jù).

如果G產(chǎn)生的數(shù)據(jù)足夠逼近目標(biāo)數(shù)據(jù), D無(wú)論對(duì)于何種輸入數(shù)據(jù), 都有50%的幾率誤判, 這時(shí)生成對(duì)抗網(wǎng)絡(luò)就達(dá)到了Nash平衡點(diǎn). 設(shè)真實(shí)的源數(shù)據(jù)標(biāo)簽為1, 由G產(chǎn)生的數(shù)據(jù)標(biāo)簽為0, D輸出(0,1)間的概率值, 那么生成對(duì)抗網(wǎng)絡(luò)的損失函數(shù)可以被定義為:

生成對(duì)抗網(wǎng)絡(luò)的訓(xùn)練策略是, 更新其中一方的參數(shù)時(shí), 另一方的參數(shù)保持不變. 對(duì)于上述的損失函數(shù)模型, 優(yōu)化任務(wù)為 m inθGmaxθDL(D,G). 采用經(jīng)典神經(jīng)網(wǎng)絡(luò)構(gòu)建的GAN模型, 可以用反向傳播算法來(lái)實(shí)現(xiàn)梯度計(jì)算.

量子的生成對(duì)抗網(wǎng)絡(luò)[5,21,25,26](quantum GAN,QGAN)基本保留了經(jīng)典生成對(duì)抗模型的特征, 不同之處在于量子生成對(duì)抗網(wǎng)絡(luò)用到的數(shù)據(jù)集既可以是量子的也可以是經(jīng)典的, 而且可選擇地, 生成器與鑒別器也可以為經(jīng)典神經(jīng)網(wǎng)絡(luò)或參數(shù)量子線路.

對(duì)于數(shù)據(jù)是量子的, 生成器與鑒別器也都是量子的情況, Dallaire-Demers等[5]提出了這樣的QGAN模型: 源數(shù)據(jù)的概率分布模型為pR(x) , 由某個(gè)未知(有可能很復(fù)雜)的過(guò)程R生成. 由參數(shù)θG確定的生成器G生成新的數(shù)據(jù)樣本, 由參數(shù)θD確定的鑒別器D識(shí)別這兩類(lèi)數(shù)據(jù). 用標(biāo)簽λ指定源數(shù)據(jù)中的類(lèi)別,, 考慮噪聲|z〉 , 可以按照(1)式定義與參數(shù)有關(guān)的損失函數(shù)L(θD,θG) , 這里D的輸入是R(|λ〉) 或G(θG,|λ,z〉)) :

其中含φ的項(xiàng)是調(diào)整源數(shù)據(jù)和生成部分占整體的比例. 一般取Dallaire-Demers等構(gòu)建的量子生成對(duì)抗網(wǎng)絡(luò)線路圖如圖1所示.

圖1 量子生成對(duì)抗網(wǎng)絡(luò)結(jié)構(gòu)[5]Fig. 1. The general structure of QGAN[5].

量子生成對(duì)抗網(wǎng)絡(luò)的任務(wù)就是通過(guò)參數(shù)優(yōu)化來(lái)實(shí)現(xiàn) m inθGmaxθDL(θD,θG) , 從而得到最接近于源數(shù)據(jù)概率分布的分布模型與鑒別模型. 量子線路的梯度可以用數(shù)值差分[27]、參數(shù)位移法則[27]、以及Hadamard test線路[5]來(lái)求. Dallaire-Demers在數(shù)值模擬上實(shí)現(xiàn)了源數(shù)據(jù)為|0〉,|1〉 兩個(gè)量子態(tài)的生成對(duì)抗任務(wù).

Lloyd等[6]討論了當(dāng)數(shù)據(jù)是量子的, 鑒別器是量子或經(jīng)典的, 生成器是經(jīng)典的量子生成對(duì)抗模型. Lloyd所述的量子數(shù)據(jù)是通過(guò)對(duì)一個(gè)量子體系進(jìn)行固定的測(cè)量得到的數(shù)據(jù)分布. 根據(jù)量子優(yōu)越性[19]的表述, 經(jīng)典的生成器不能有效地匹配量子數(shù)據(jù)分布, 或者更準(zhǔn)確地, 除非有指數(shù)的資源可用,經(jīng)典的生成器無(wú)法模擬量子數(shù)據(jù)的分布pR(x). 對(duì)于數(shù)據(jù)是經(jīng)典的, 生成器和鑒別器都是量子的情況, Lloyd通過(guò)對(duì)比得出, 經(jīng)典的生成器和鑒別器在計(jì)算梯度時(shí)需要O(N2) 個(gè)比特和O(N2) 步時(shí)間(N是經(jīng)典數(shù)據(jù)的維度), 而量子的生成器和鑒別器在計(jì)算協(xié)方差矩陣時(shí), 如果矩陣是低秩和稀疏的,需要O(logN) 個(gè)量子比特和O(poly(logN)) 個(gè)邏輯門(mén)操作.

Zeng等[26]結(jié)合量子玻恩機(jī)構(gòu)建了經(jīng)典數(shù)據(jù)-量子生成器-經(jīng)典鑒別器的量子生成對(duì)抗模型, 實(shí)現(xiàn)條帶圖(bars and stripes, BAS)[8,16,26,28]的概率生成與識(shí)別(見(jiàn)第2節(jié)). 類(lèi)似的, Situ等[29]將BAS圖的每個(gè)點(diǎn)都編碼至量子比特上, 通過(guò)參數(shù)量子線路構(gòu)建的生成器生成量子態(tài), 測(cè)量結(jié)果輸入至經(jīng)典神經(jīng)網(wǎng)絡(luò)構(gòu)建的鑒別器, 也實(shí)現(xiàn)了BAS圖的生成.Zouful等[25]通過(guò)測(cè)量量子態(tài)在計(jì)算基上的投影,將其轉(zhuǎn)化為數(shù)據(jù)對(duì)應(yīng)的概率, 以此為基礎(chǔ)構(gòu)建生成對(duì)抗網(wǎng)絡(luò), 實(shí)現(xiàn)了對(duì)數(shù)正態(tài)分布、雙峰高斯分布等概率分布的學(xué)習(xí)和生成. 值得注意的是, 連續(xù)數(shù)據(jù)被截?cái)嗖⑸崛氲脚R近整數(shù)值, 所以該模型仍是離散數(shù)據(jù)的概率學(xué)習(xí)模型.

隨著量子硬件操控水平的提高, 在量子芯片上實(shí)現(xiàn)量子生成對(duì)抗網(wǎng)絡(luò)已經(jīng)有相關(guān)的工作. Hu[30]等利用超導(dǎo)量子體系首次實(shí)現(xiàn)了具有量子數(shù)據(jù)、量子生成器、量子鑒別器的量子生成對(duì)抗網(wǎng)絡(luò)的實(shí)驗(yàn)驗(yàn)證, 生成保真度高達(dá)98.8%. 在Hu的實(shí)驗(yàn)中, 量子數(shù)據(jù)為單比特量子態(tài), 生成器參數(shù)為量子門(mén)旋轉(zhuǎn)角度. 在優(yōu)化D或G時(shí)采用梯度下降算法, 量子系統(tǒng)的操控和測(cè)量通過(guò)FPGA(field programmable gate arrays)實(shí)現(xiàn), 線路梯度通過(guò)經(jīng)典計(jì)算機(jī)估算得到. 該實(shí)驗(yàn)對(duì)于NISQ體系下的量子機(jī)器學(xué)習(xí)優(yōu)勢(shì)的探索具有重要意義. 此外, Huang等[21]通過(guò)將測(cè)量量子生成器得到的數(shù)據(jù)作為經(jīng)典圖像灰度值, 完成了手寫(xiě)數(shù)字集0和1的生成對(duì)抗任務(wù), 為量子比特資源受限條件下經(jīng)典數(shù)據(jù)的生成提供了一個(gè)思路.

2.2 量子玻恩機(jī)

量子玻恩機(jī)[7,8](quantum circuit Born machine,QCBM)是基于波函數(shù)的概率解釋的一種模型. 量子玻恩機(jī)將概率分布編碼至初態(tài)上, 把量子態(tài)在計(jì)算基上的投影作為數(shù)據(jù)的概率. 量子玻恩機(jī)是一種隱式的生成模型, 因?yàn)槲覀儗?shí)際上并不需要知道這個(gè)純態(tài)的密度矩陣, 而只需要知道疊加態(tài)振幅的模值. 這樣的設(shè)定對(duì)量子線路的結(jié)構(gòu)限制也更少, 所以一般被認(rèn)為具有更強(qiáng)的表示能力.

對(duì)目標(biāo)概率分布 π (x) 進(jìn)行采樣得到數(shù)據(jù)集D={x}, QCBM通過(guò)參數(shù)量子線路把初態(tài)|0〉 演化為|ψθ〉 , 并在計(jì)算基上的測(cè)量得到生成數(shù)據(jù)x～pθ(x)=|〈x|ψθ〉|2的概率分布. 訓(xùn)練目標(biāo)是讓模型的概率分布pθ接近真實(shí)數(shù)據(jù)分布 π (x). QCBM采用所謂的MMD(Maximum Mean Discrepancy)損失函數(shù):

其中φ將x映射到高維Hilbert空間. 進(jìn)一步地,定義核函數(shù)K(x,y)=φ(x)Tφ(y) , (3)式即可避免在高維空間中進(jìn)行運(yùn)算, 等價(jià)于

核函數(shù)可以取為高斯形式:K(x,y)=直接計(jì)算上述損失函數(shù)的梯度比較困難, 但可以證明, 下式無(wú)偏地等價(jià)于梯度:

其中pθ+(x) 和pθ-(x) 是在參數(shù)下 的模型輸出概率,是參數(shù)空間的第 (l,α) 個(gè)單位矢量(α和l分別表示迭代的步數(shù)與當(dāng)前迭代的第l個(gè)參數(shù)的下標(biāo)).

對(duì)所有量子比特進(jìn)行測(cè)量, 會(huì)得到計(jì)算基上的概率分布. 源數(shù)據(jù)被映射為經(jīng)典的比特流數(shù)據(jù), 與量子態(tài)的計(jì)算基一一對(duì)應(yīng). 這種映射是一種同構(gòu),源數(shù)據(jù)空間和映射空間一樣大, 因此數(shù)據(jù)集的數(shù)據(jù)必須是有限的. 對(duì)于N個(gè)數(shù)據(jù)的集合, 需要n～O(log(N))個(gè)量子比特. 而生成線路中所用的量子門(mén)個(gè)數(shù)一般為O(poly(n)).

量子玻恩機(jī)是一種隱式生成模型, 模型本身并不涉及經(jīng)典數(shù)據(jù)的特征維度, 甚至不涉及數(shù)據(jù)本身的形態(tài). 在量子體系中不需要考慮數(shù)據(jù)的原本面貌是什么. 無(wú)論是圖片、數(shù)字還是文字, 都會(huì)被編碼為經(jīng)典比特流數(shù)據(jù). 一旦數(shù)據(jù)同構(gòu)的方式確定了,基于量子線路的優(yōu)化體系就與原本的數(shù)據(jù)形態(tài)無(wú)關(guān)了.

利用量子玻恩機(jī)進(jìn)行概率分布的學(xué)習(xí)和生成在條帶圖(bars and stripes, BAS)[8,16,26,28]任務(wù)中取得很好的結(jié)果, 對(duì)于理想的無(wú)誤差測(cè)量, 量子玻恩機(jī)生成真實(shí)數(shù)據(jù)分布的比率為95.7%[8]. 此外通過(guò)對(duì)量子玻恩機(jī)的非計(jì)算基測(cè)量, 可以得到更多的信息, 這種方法可用來(lái)生成先驗(yàn)概率分布, 如經(jīng)典生成對(duì)抗網(wǎng)絡(luò)的先驗(yàn)分布[31]. Cheng等[32]還從信息熵的角度比較了量子玻恩機(jī)與受限玻爾茲曼機(jī)[33,34], 為理解基于概率的生成模型和基于能量的生成模型提供了一個(gè)新的視角. Coyle等[35]提出一種量子玻恩機(jī)的子類(lèi)—量子伊辛玻恩機(jī)—并引入量子核函數(shù)[36]來(lái)討論量子學(xué)習(xí)優(yōu)勢(shì).

2.3 量子玻爾茲曼機(jī)

與前述模型不同, 量子玻爾茲曼機(jī)[9-12](quantum Boltzmann machine, QBM)需要一種專(zhuān)用的量子計(jì)算機(jī)—量子退火機(jī).

經(jīng)典的玻爾茲曼機(jī)被廣泛用作機(jī)器學(xué)習(xí)的基礎(chǔ)工具, 例如深度信念網(wǎng)絡(luò)[37,38]和深度玻爾茲曼機(jī)[37,39]. 玻爾茲曼機(jī)是二進(jìn)制數(shù)節(jié)點(diǎn)構(gòu)成的概率生成網(wǎng)絡(luò), 由可見(jiàn)節(jié)點(diǎn)和隱藏節(jié)點(diǎn)組成, 記為za,a=1,2,···,N, 其中N是總節(jié)點(diǎn)數(shù). 這里為了和后面的量子生成模型保持一致, 取za∈{+1,-1}而不是za∈{+1,0}. 為區(qū)別可見(jiàn)節(jié)點(diǎn)和隱藏節(jié)點(diǎn), 我們分別記為zν,zi. 同時(shí)用向量符號(hào)v,h,z=(v,h) 表示可見(jiàn)態(tài)、隱藏態(tài)和組合態(tài). 在物理上其能量可以用伊辛模型表示:

其中ba,wab是在訓(xùn)練的過(guò)程中進(jìn)行需要優(yōu)化的參數(shù). 定義負(fù)對(duì)數(shù)相似度損失函數(shù):

其中觀測(cè)到可見(jiàn)態(tài)h的概率為邊際分布Pv=那么玻爾茲曼機(jī)的任務(wù)就是優(yōu)化哈密頓量的參量θ∈{ba,wab}, 使邊際分布盡可能接近真實(shí)的數(shù)據(jù)分布這樣就可以用梯度的方法來(lái)優(yōu)化玻爾茲曼機(jī):

其中 〈 ···〉 和 〈 ···〉v分別為對(duì)自由變量的玻爾茲曼均值以及對(duì)可見(jiàn)變量的玻爾茲曼均值.是雙重均值. 這樣我們就得到更新法則:

關(guān)于如何估算等式右邊的兩項(xiàng)均值, 在機(jī)器學(xué)習(xí)領(lǐng)域已經(jīng)有較多的方案, 其中一個(gè)簡(jiǎn)化的玻爾茲曼機(jī)模型—稱(chēng)之為受限玻爾茲曼機(jī)(restricted Boltzmann machine, RBM)—已經(jīng)成功的應(yīng)用于實(shí)例[40].

量子玻爾茲曼機(jī)的出發(fā)點(diǎn)是使用作為物理實(shí)體的量子比特來(lái)替代經(jīng)典的比特或節(jié)點(diǎn). 然而不同的是, 量子力學(xué)體系的哈密頓量是 2N×2N維的矩陣. 而且量子力學(xué)算符大多是不對(duì)易的, 這對(duì)于求解梯度十分不便. 橫場(chǎng)伊辛模型的哈密頓量形式為:

其中I,σz,σx為泡利矩陣, 下標(biāo)a表示作用于第a個(gè)量子比特. 與經(jīng)典玻爾茲曼機(jī)類(lèi)似, 定義配分函數(shù)和密度矩陣分別為:Z=Tr[e-H],ρ=Z-1e-H. 對(duì)于給定的可見(jiàn)態(tài) |v〉 , 可定義邊際分布Pv=Tr[Λvρ],Λv=|v〉〈v|?Ih. 其 中Ih為 作 用在隱藏變量的單位陣.

那么類(lèi)似地, 可以得到量子損失函數(shù)和對(duì)應(yīng)梯度為:

然而H和?θH并不對(duì)易, 也就是e-H?θH. 這樣在求解期望值的時(shí)候就會(huì)十分困難. 盡管Amin[9]通過(guò)分析的方法估算除了損失函數(shù)的界, 在一些特定的條件下可以估算損失函數(shù)的梯度, 但與前述量子生成模型相比, 參數(shù)更新的成本已然增加了.

盡管如此, 量子玻爾茲曼機(jī)仍然可以用來(lái)完成監(jiān)督學(xué)習(xí)任務(wù), 可以生成概率分布, 可以進(jìn)行鑒別學(xué)習(xí). Amin等[9]用量子玻爾茲曼機(jī)實(shí)現(xiàn)了伯努利分布的概率生成. Kieferová[12]用量子玻爾茲曼機(jī)設(shè)計(jì)了一種生成模型用以實(shí)現(xiàn)部分的量子態(tài)層析,并且除非BQP=BPP, 經(jīng)典計(jì)算機(jī)無(wú)法有效地模擬其訓(xùn)練過(guò)程. Dorband[41]在D-wave量子退火機(jī)上演示了量子玻爾茲曼機(jī)的構(gòu)建過(guò)程. 但是, 相較于其他量子生成模型, 量子玻爾茲曼機(jī)帶來(lái)的近似誤差是難以避免的, 同時(shí)也難以說(shuō)明相較于經(jīng)典版本的優(yōu)勢(shì)所在.

2.4 量子自編碼器

在經(jīng)典的數(shù)據(jù)處理中, 通過(guò)機(jī)器學(xué)習(xí)中的自編碼器可以將數(shù)據(jù)從一個(gè)高維空間縮減到低維空間.經(jīng)典的自編碼模型可以概括為: 通過(guò)參數(shù)化的神經(jīng)網(wǎng)絡(luò)來(lái)訓(xùn)練一個(gè)數(shù)據(jù)集, 其數(shù)據(jù)維度為 (n+k) , 得到擦除k個(gè)特征或維度的新數(shù)據(jù), 如果這些數(shù)據(jù)可以通過(guò)解碼器(神經(jīng)網(wǎng)絡(luò))重新生成接近于原數(shù)據(jù)的一組新數(shù)據(jù), 那么留下的n維數(shù)據(jù)被稱(chēng)為壓縮數(shù)據(jù). 這個(gè)過(guò)程被稱(chēng)為數(shù)據(jù)壓縮. 數(shù)據(jù)壓縮對(duì)于處理稀疏特征數(shù)據(jù)集或高維數(shù)據(jù)集是十分直觀和有效的手段. 受此啟發(fā), 量子自編碼器[13-15](quantum autoencoder)被設(shè)計(jì)為量子態(tài)壓縮的工具.

Romero等[13]提出的量子自編碼器與經(jīng)典類(lèi)似: 記{pi,|ψi〉A(chǔ)B}是 (n+k) 個(gè)量子比特上的純態(tài)集合, 子系統(tǒng)A和子系統(tǒng)B分別占有n和k個(gè)比特. 記Uθ為作用在 (n+k) 個(gè)比特上的幺正算符,其中θ={θ1,θ2,···}是參數(shù)集合, 以及|a〉B′為k比特寄存器的參考純態(tài). 通過(guò)經(jīng)典的優(yōu)化方式, 我們希望平均保真度函數(shù)取得最大值:

其中ψiAB=|ψi〉〈ψi|AB, 以及aB′=|a〉〈a|B′.

量子自編碼器的核心在于, 如果想要有效地壓縮量子態(tài), 必須保證態(tài)|ψi′〉=Uθ|ψi〉A(chǔ)B是A, B兩個(gè)子系統(tǒng)的直積態(tài). 即當(dāng)下式成立時(shí), 才有C1=1 :

對(duì)輸出態(tài)進(jìn)行量子態(tài)層析以確定其密度矩陣是非常困難的. 可以證明測(cè)量B和B'寄存器的態(tài)保真度等價(jià)于AB寄存器初態(tài)和末態(tài)的保真度(我們稱(chēng)B寄存器輸出態(tài)為冗態(tài)). 這樣, 可以定義另一種平均保真度C2(θ) ,

實(shí)際上求兩個(gè)態(tài)的保真度, 有一種SWAP測(cè)試線路可以完成[42].

通過(guò)參數(shù)量子線路來(lái)構(gòu)建作用于AB系統(tǒng)的幺正變換, 并通過(guò)SWAP測(cè)試線路得到保真度信息. 取損失函數(shù)為L(zhǎng)=-log(1-C2) , 采用經(jīng)典方式進(jìn)行優(yōu)化, 可以得到保真度最高的參數(shù)線路, 這樣就實(shí)現(xiàn)了數(shù)據(jù)壓縮.

如圖2所示, 量子態(tài)壓縮模型可以由以下步驟來(lái)構(gòu)建: 第一, 制備初態(tài)|ψi〉 和參考態(tài) |a〉 , 并假設(shè)制備是有效的; 第二, 構(gòu)建參數(shù)線路, 初態(tài)在幺正算符U下演化; 第三, 通過(guò)SWAP測(cè)試得到冗態(tài)和參考態(tài)之間的保真度.

圖2 量子自編碼器的訓(xùn)練示意圖, 其中 p 表示變量, 摘自[13]Fig. 2. Schematic representation of the hybrid scheme for training a quantum autoencoder where p represents variables, image from[13].

量子自編碼器在氫分子態(tài)的應(yīng)用是一個(gè)成功的例證[13]. 其方法是用4 qubits來(lái)模擬氫分子, 通過(guò)變分量子求解器(VQE)求出對(duì)于固定原子間距的量子態(tài), 以此作為量子自編碼器的輸入態(tài). 氫分子的態(tài)并非占滿了4 bit的希爾伯特空間, 這就為量子態(tài)壓縮提供了可能. 直觀上看, 量子態(tài)壓縮的過(guò)程就像在整個(gè)希爾伯特空間中將若干子空間碎片像拼圖一樣拼接成緊密的空間. 量子自編碼器在量子加法器方面也有一定的應(yīng)用[14], 這種加法器用以實(shí)現(xiàn)將兩個(gè)相同比特?cái)?shù)的量子子系統(tǒng)編碼到一個(gè)新的子空間. Ding等[43]借助超導(dǎo)量子體系在實(shí)驗(yàn)上驗(yàn)證了量子加法器的可行性, 實(shí)驗(yàn)保真度與理論值一致.

Pepper等[44]采用了Romero等[13]提出的量子自編碼器框架, 不同的是, 其數(shù)據(jù)壓縮任務(wù)是將多維量子比特(qutrit,|ψ〉=α|0〉+β|1〉+γ|2〉(已歸一化))壓縮為二維量子比特(qubit)態(tài). 通過(guò)光量子實(shí)驗(yàn)體系, Pepper等在實(shí)驗(yàn)上實(shí)現(xiàn)了qutrits的壓縮, 并且證明了這樣的實(shí)驗(yàn)優(yōu)化系統(tǒng)對(duì)擾動(dòng)是魯棒的. Bondarenko等[45]注意到經(jīng)典數(shù)據(jù)通過(guò)經(jīng)典自編碼器可以有效地去除噪聲, 因此量子自編碼器同樣有類(lèi)似的作用. 通過(guò)構(gòu)建以自旋翻轉(zhuǎn)噪聲和任意幺正門(mén)噪聲為主的GHZ含噪聲量子態(tài), Bondarenko等驗(yàn)證了量子自編碼器在量子數(shù)據(jù)去噪方面的作用.

如何判斷量子態(tài)能否通過(guò)量子自編碼器有效壓縮一直受到關(guān)注, Huang等[46]在理論上論證了實(shí)現(xiàn)有效量子自編碼態(tài)壓縮的條件, 并證明了若輸入數(shù)據(jù)的最大線性無(wú)關(guān)向量的個(gè)數(shù)不超過(guò)隱變量空間(壓縮后的低維空間)的維度, 那么量子自編碼器就可以無(wú)損地將高維數(shù)據(jù)壓縮至低維. Huang等利用量子光學(xué)體系在實(shí)驗(yàn)上驗(yàn)證了其理論的結(jié)果. 此外Cao等[47]提出可在量子退火機(jī)上運(yùn)行、通過(guò)噪聲輔助的絕熱模型, 同樣可以完成量子自編碼任務(wù). 同時(shí), 對(duì)量子態(tài)壓縮的探索也使得量子梯度消失的現(xiàn)象—也即貧瘠高原的現(xiàn)象—得到進(jìn)一步的研究[48].

2.5 其他生成模型

從前述量子生成模型可以看出, 經(jīng)典機(jī)器學(xué)習(xí)給我們帶來(lái)了很多啟發(fā). 類(lèi)似地, 經(jīng)典領(lǐng)域中因子圖(factor graph)可以作為概率生成模型, Gao等[49]提出了一種量子生成模型(quantum generative model, QGM), 并證明此模型可以高效地表示任意因子圖. 并且通過(guò)理論證明至少存在一些特定的概率分布, 可以被QGM有效表示, 但不能被任意具有多項(xiàng)式量級(jí)變量的因子圖有效表示. 如果多項(xiàng)式層次作為Pvs. NP問(wèn)題的泛化是不塌縮的話,QGM相對(duì)于經(jīng)典的因子圖具有指數(shù)優(yōu)勢(shì).

同時(shí), 除了QGM的表示能力和泛化能力,Gao等[49]還提出了一種通用的量子學(xué)習(xí)算法, 該算法利用張量網(wǎng)絡(luò)、對(duì)多體糾纏量子態(tài)的父哈密頓量(parent Hamiltonian)構(gòu)建、以及遞歸的量子相位估計(jì)進(jìn)行學(xué)習(xí). 顯然希望這種算法對(duì)任意問(wèn)題都能在多項(xiàng)式時(shí)間內(nèi)解決是不現(xiàn)實(shí)的, 但作者證明了至少存在一些問(wèn)題, QGM相對(duì)于任意經(jīng)典算法均有指數(shù)加速的效果, 前提是假設(shè)量子計(jì)算機(jī)不能被經(jīng)典計(jì)算機(jī)有效地模擬.

直觀地理解QGM中的指數(shù)加速效果: 機(jī)器學(xué)習(xí)中的生成模型旨在通過(guò)尋找潛在的概率分布, 對(duì)自然界任意的數(shù)據(jù)生成過(guò)程進(jìn)行建模. 由于自然界受量子力學(xué)定律支配, 用經(jīng)典生成模型中的概率分布對(duì)真實(shí)世界中的數(shù)據(jù)進(jìn)行建模具有很大的局限性. Gao等[49]提出的QGM模型, 用一個(gè)多體糾纏量子態(tài)的概率幅對(duì)數(shù)據(jù)的相關(guān)性進(jìn)行參數(shù)化. 因?yàn)榱孔痈怕史南喔尚援a(chǎn)生的現(xiàn)象比經(jīng)典的復(fù)雜得多, QGM才有可能在特定情況下實(shí)現(xiàn)性能的顯著提升. QGM使用圖態(tài)|G〉 表示, 由m個(gè)量子比特與圖G構(gòu)成. 如圖3所示.

圖3 經(jīng)典和量子生成模型 (a) 因子圖表示; (b)張量網(wǎng)絡(luò)態(tài)表示; (c)量子生成模型定義[49]Fig. 3. Classical and quantum generative models: (a) Illustration of a factor graph; (b) illustration of a tensor network state;(c) QGM definition[49].

Gao[50]有另一篇工作同樣旨在發(fā)掘量子相關(guān)性在生成模型中的作用. 其中比較了經(jīng)典貝葉斯網(wǎng)絡(luò)順序模型與對(duì)應(yīng)的一維張量網(wǎng)絡(luò), 展示了矩陣直積態(tài)(matrix product states, MPSs)比經(jīng)典機(jī)器學(xué)習(xí)模型有更強(qiáng)的表示能力. 因?yàn)橐痪S模型可以在經(jīng)典計(jì)算機(jī)上被有效模擬, Gao等采用數(shù)值模擬的方式測(cè)試了真實(shí)數(shù)據(jù)集的生成, 發(fā)現(xiàn)MPS生成能力比經(jīng)典模型有提升. 此結(jié)果為理解基于MPS的機(jī)器學(xué)習(xí)算法提供了新的視角, 因?yàn)橛幸活?lèi)張量網(wǎng)絡(luò)子類(lèi)不能有效地被經(jīng)典計(jì)算機(jī)模擬, 但是可以在量子計(jì)算機(jī)上構(gòu)建, 這就使得在機(jī)器學(xué)習(xí)中的生成模型框架下量子優(yōu)勢(shì)是可能存在的.

除以上的量子生成模型外, 還有基于貝葉斯理論提出量子貝葉斯線路[16]. 這種量子線路引入輔助比特表示先驗(yàn)概率分布, 通過(guò)受控操作傳遞給數(shù)據(jù)比特寄存器. 這樣可以極大地規(guī)避參數(shù)量子線路中出現(xiàn)的生成概率不均勻的問(wèn)題.

3 量子生成模型展望

隨著量子計(jì)算機(jī)硬件的不斷發(fā)展, 量子生成模型也不只在量子虛擬機(jī)上得到實(shí)現(xiàn), 基于真實(shí)量子芯片的生成模型受到了廣泛的關(guān)注, 但是量子生成模型存在的問(wèn)題仍待解決.

首先, 量子生成模型是否可以生成任意概率分布的數(shù)據(jù)? 對(duì)于連續(xù)變量的數(shù)據(jù), 量子生成模型還無(wú)法像經(jīng)典神經(jīng)網(wǎng)絡(luò)一樣有效地生成. 同時(shí), 數(shù)據(jù)是量子還是經(jīng)典的決定了生成模型的選取. 對(duì)于經(jīng)典數(shù)據(jù), 利用MPQCs或MPSs生成量子態(tài), 對(duì)量子態(tài)的測(cè)量得到了量子信息的經(jīng)典統(tǒng)計(jì)結(jié)果. 如何更有效地生成量子態(tài)以及如何從量子態(tài)讀取更多信息一直受到關(guān)注, 不同的量子生成模型給出了不同的策略, 然而對(duì)于任意連續(xù)變量數(shù)據(jù)的生成還需要進(jìn)一步的探索.

其次, 量子生成模型作為量子機(jī)器學(xué)習(xí)的一部分, 如何體現(xiàn)量子計(jì)算的優(yōu)勢(shì), 仍然是一個(gè)開(kāi)放性問(wèn)題. 對(duì)量子線路的表示能力的研究為我們提供了一個(gè)思路, 但是對(duì)于不同的生成模型很難給出統(tǒng)一的表示能力定義. 而Gao等[49,50]從量子相關(guān)性出發(fā), 直觀上將量子內(nèi)在相關(guān)性的參數(shù)化來(lái)實(shí)現(xiàn)經(jīng)典生成模型無(wú)法模擬的任務(wù), 說(shuō)明了量子優(yōu)勢(shì)在機(jī)器學(xué)習(xí)領(lǐng)域中的存在性.

對(duì)于量子生成模型, 還需要進(jìn)一步探索. 在量子領(lǐng)域, 量子生成模型提供了NISQ體系下可執(zhí)行的算法, 在機(jī)器學(xué)習(xí)領(lǐng)域, 它引入了量子計(jì)算和量子信息的理念, 使機(jī)器學(xué)習(xí)算法突破經(jīng)典計(jì)算的瓶頸成為可能.

感謝中國(guó)科學(xué)技術(shù)大學(xué)薛程博士和趙健博士的討論.

附錄A 參數(shù)量子線路

量子計(jì)算機(jī)遵循量子力學(xué)定律進(jìn)行邏輯運(yùn)算和信息存取. 而量子力學(xué)體系區(qū)別于經(jīng)典體系之處在于, 由于疊加態(tài)和糾纏態(tài)的存在, 相同位數(shù)的量子數(shù)據(jù)比經(jīng)典數(shù)據(jù)有著指數(shù)強(qiáng)的表示能力. 將量子信息轉(zhuǎn)化為經(jīng)典信息需要對(duì)量子態(tài)進(jìn)行測(cè)量.

量子計(jì)算的基本計(jì)算單位是量子比特(qubit), 單比特量子疊加態(tài)記為|ψ〉=α|0〉+β|1〉 (已歸一化). 根據(jù)玻恩的幾率解釋, 對(duì)單比特量子態(tài)進(jìn)行測(cè)量, 得到0態(tài)的概率為|α|2, 得到1態(tài)的概率為|1〉. 對(duì)于多量子比特系統(tǒng), 根據(jù)量子力學(xué)體系的完備性, 量子態(tài)可在計(jì)算基上展開(kāi), 由|Φ〉=測(cè)得任意態(tài) |i〉 的概率為|ai|2. 對(duì)于泡利算符σi,i∈{0,x,y,z}, 其期望值可以通過(guò)算符的譜來(lái)計(jì)算, 即其中λj為本征值,|ψj〉為本征態(tài). 對(duì)于一個(gè)更復(fù)雜的哈密頓量H, 我們總能將其分解為若干泡利算符的直積, 再分別求出各個(gè)部分的期望值,即m∈{0,x,y,z},αi,j,k...m為泡利基的實(shí)系數(shù).

通過(guò)測(cè)量量子態(tài)在計(jì)算基上的投影或哈密頓量的期望值得到的經(jīng)典數(shù)據(jù), 其處理策略也根據(jù)量子生成模型的不同而有各式的差異. 如對(duì)于量子玻恩機(jī), 量子測(cè)量得到的數(shù)據(jù)被映射為數(shù)據(jù)集的概率分布, 顯然這樣對(duì)于小型數(shù)據(jù)集或稀疏數(shù)據(jù)集有表示優(yōu)勢(shì). 而對(duì)于量子生成對(duì)抗網(wǎng)絡(luò), 測(cè)量得到的數(shù)據(jù)可直接作為生成數(shù)據(jù)以混淆源數(shù)據(jù).

量子生成模型的核心在于利用量子計(jì)算機(jī)生成量子態(tài),對(duì)量子態(tài)進(jìn)行測(cè)量得到經(jīng)典的有效信息. 如何有效地生成量子態(tài), 是我們面臨的首要問(wèn)題. 參數(shù)量子線路(PQC)為這一問(wèn)題提供了一個(gè)思路.

參數(shù)量子線路一般由若干單量子門(mén)和多量子糾纏門(mén)組合得到, 單量子門(mén)可以是任意單比特幺正門(mén)US(θ) , 常用的有泡利旋轉(zhuǎn)門(mén)多量子門(mén)一般采用UCZ=|0〉〈0|?I+|1〉〈1|?σz,UCNOT=|0〉〈0|?I+|1〉〈1|?σx等兩比特門(mén). 單量子門(mén)和多量子門(mén)交替的結(jié)構(gòu)極大地提高了態(tài)的糾纏能力, 擴(kuò)展了態(tài)的表示空間.

記量子線路的參數(shù)為θ, 則參數(shù)量子線路可以用U(θ)表示. 若要保證參數(shù)量子線路是有效的, 其參數(shù)總量和線路深度都有相應(yīng)的限制. 一般設(shè)定參數(shù)的總量是多項(xiàng)式級(jí)的,即n～O(poly(N)) , 其中n為參數(shù)個(gè)數(shù),N為量子比特個(gè)數(shù).同時(shí)線路的深度也設(shè)為多項(xiàng)式級(jí)的, 即L～O(poly(N)).

如何使參數(shù)量子線路有更強(qiáng)的表示能力一直受到關(guān)注.最直觀的方式是增加參數(shù)量子線路的深度, 構(gòu)成MPQCs(multiple parameterized quantum circuits). 然而MPQCs的線路深度至多為多項(xiàng)式級(jí)的才能滿足有效性要求, 也即圖A1中的PQC模塊數(shù)是常數(shù)級(jí)的, 不隨量子比特?cái)?shù)目增長(zhǎng). 而且由于量子噪聲的存在, 增加PQC的模塊數(shù)會(huì)極大地影響量子態(tài)的保真度, 所以在真實(shí)的任務(wù)中往往會(huì)限制PQC的模塊數(shù). 除此之外還可以通過(guò)非計(jì)算基補(bǔ)充測(cè)量的方式, 來(lái)獲取更多的數(shù)據(jù)信息, 這種方法在QCAAN線路[31]中被提到.

圖 A1 參數(shù)量子線路示意圖Fig. A1. Illustration of MPQCs.

對(duì)經(jīng)典神經(jīng)網(wǎng)絡(luò)的表示能力的研究是一項(xiàng)非常重要的課題, 參數(shù)量子線路的表示能力直接關(guān)系到其能否體現(xiàn)量子優(yōu)越性. Du等[22]證明了在多項(xiàng)式層次結(jié)構(gòu)保持的前提下, 具有O(poly(N)) 個(gè)門(mén)的參數(shù)量子線路, 其表示能力比具有O(poly(N)) 個(gè)參數(shù)的經(jīng)典玻爾茲曼機(jī)要強(qiáng). 盡管如此, 參數(shù)量子線路和經(jīng)典神經(jīng)網(wǎng)絡(luò)的直接比較還有一些困難, 如何定義對(duì)量子和經(jīng)典體系均適用的表示能力指標(biāo), 以及參數(shù)量子線路能否體現(xiàn)量子的優(yōu)越性, 仍是開(kāi)放性的問(wèn)題.