王怡星，韓仁坤，劉子揚，張揚, ，陳剛, ,*

1. 西安交通大學(xué) 機械結(jié)構(gòu)強度與振動國家重點實驗室，西安 710049 2.西安交通大學(xué) 航天航空學(xué)院 先進(jìn)飛行器服役環(huán)境與控制陜西省重點實驗室，西安 710049 3.中國空氣動力研究與發(fā)展中心 計算空氣動力研究所，綿陽 621000

流場預(yù)測與載荷建模是飛行器設(shè)計領(lǐng)域至關(guān)重要的環(huán)節(jié)。計算流體力學(xué)(CFD)通過對流場基本物理方程的高精度數(shù)值求解，在眾多應(yīng)用中發(fā)揮著越來越重要的作用[1-4]。然而，CFD對網(wǎng)格質(zhì)量要求高、數(shù)值求解過程復(fù)雜、動網(wǎng)格處理難度大導(dǎo)致計算耗費大，限制了CFD方法在諸如高精度氣動優(yōu)化設(shè)計、氣動伺服彈性、閉環(huán)流動控制等多學(xué)科耦合建模與優(yōu)化等問題中應(yīng)用[5-6]。當(dāng)網(wǎng)格數(shù)量巨大、幾何外形復(fù)雜時，CFD方法所需要的前后處理、計算時間以及海量數(shù)據(jù)后處理往往是多學(xué)科優(yōu)化問題迭代過程中難以承受的。本征正交分解(Proper Othogonal Decomposition, POD)[7]、動模態(tài)分解(Dynamic Mode Decomposition, DMD)[8]等模型降階方法極大地減少了復(fù)雜系統(tǒng)的求解復(fù)雜度，提升了建模與求解效率。但傳統(tǒng)模型降階方法也存在一些顯著的不足：不適合或難以應(yīng)用于多尺度、瞬態(tài)過程、間斷過程，并且在發(fā)生移動、縮放及旋轉(zhuǎn)變換時無法保證不變性[9]。

事實上，自然界具有高超飛行能力的生物無一不是通過經(jīng)驗學(xué)習(xí)來掌握流體運動規(guī)律并提升飛行效率的。因此，采用基于經(jīng)驗的學(xué)習(xí)方法解決復(fù)雜流動預(yù)測、建模與閉環(huán)控制是可行且具有重要價值的。新一代人工智能技術(shù)的核心算法——深度學(xué)習(xí)和強化學(xué)習(xí)技術(shù)能夠從大數(shù)據(jù)中自動尋找隱藏特征信息，并且可以直接處理原始形態(tài)數(shù)據(jù)獲得經(jīng)驗或知識，從而可以預(yù)測復(fù)雜非線性系統(tǒng)的未來行為[10]。深度學(xué)習(xí)技術(shù)提出后短短幾年內(nèi)就在圖像處理、視頻和語音識別、語言翻譯、疾病診斷等領(lǐng)域創(chuàng)造了顛覆性的變化[10-11]，揭開了數(shù)據(jù)驅(qū)動研究新范式的大幕，并迅速推動了眾多學(xué)科研究范式的變革。

與POD和DMD等方法相比，深度神經(jīng)網(wǎng)絡(luò)(Deep Neural Network, DNN)則有望解決傳統(tǒng)降階方法所固有的缺點[9]。因此，在流體力學(xué)建模及預(yù)測方面，深度學(xué)習(xí)技術(shù)具有重大應(yīng)用前景?！叭f能近似性質(zhì)”[12-13]指出：一個滿足一定條件的前饋神經(jīng)網(wǎng)絡(luò)，只要給定足夠數(shù)量的隱藏單元，它可以以任意精度來近似Borel可測函數(shù)。由于實際應(yīng)用中大多數(shù)函數(shù)均滿足該定理所述條件，因此流場深度學(xué)習(xí)的可行性從理論上也得到了堅實保證。然而，由于不存在通用的訓(xùn)練算法[14]，目標(biāo)神經(jīng)網(wǎng)絡(luò)是不容易得到的。如果對于可能的分布做出預(yù)假設(shè)，就可以設(shè)計出對于這些分布表現(xiàn)很好的學(xué)習(xí)算法[14]。因此，深度學(xué)習(xí)的重點在于針對特定問題尋找所適宜的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和形式設(shè)計，以及相對應(yīng)的良好算法。

在深度學(xué)習(xí)大熱之前，基于傳統(tǒng)淺層神經(jīng)網(wǎng)絡(luò)的機器學(xué)習(xí)技術(shù)已被證明在流體力學(xué)問題中是有效的[15-16]。但傳統(tǒng)神經(jīng)網(wǎng)絡(luò)存在如下兩大問題：① 采用全連接方式的神經(jīng)元消耗了大量的計算資源，并且無法提取結(jié)構(gòu)化的時空信息；② 傳統(tǒng)訓(xùn)練算法對于深層網(wǎng)絡(luò)的訓(xùn)練誤差無法有效地傳遞，造成深層網(wǎng)絡(luò)的潛力無法發(fā)揮。這對于具有復(fù)雜流動特征的流體系統(tǒng)來說極大地阻礙了神經(jīng)網(wǎng)絡(luò)的應(yīng)用。近些年來，由于可提取結(jié)構(gòu)化信息的卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Networks, CNN)[17]、深度學(xué)習(xí)算法和GPU(Graphic Processing Unit)加速技術(shù)的突破性進(jìn)展[18]為上述兩大問題提供了解決方案，深度學(xué)習(xí)技術(shù)在眾多科學(xué)與工程領(lǐng)域均獲得極大成功[11, 17, 19]。

文獻(xiàn)[20]通過理論推導(dǎo)，對流場基本控制方程進(jìn)行變換，得到了與深度卷積神經(jīng)網(wǎng)絡(luò)以及訓(xùn)練算法相類似的表達(dá)，這從理論上說明了目前的深度學(xué)習(xí)算法是非常適合于對流體系統(tǒng)進(jìn)行學(xué)習(xí)的。近年來，深度學(xué)習(xí)在流體力學(xué)中的應(yīng)用潛力也逐漸被挖掘出來[5, 6, 9, 21-34]。深度神經(jīng)網(wǎng)絡(luò)一旦訓(xùn)練成功，在應(yīng)用時僅需要很少的計算時間和計算資源[20, 28, 32-33, 35-36]，使得流體力學(xué)深度學(xué)習(xí)技術(shù)具有重要學(xué)術(shù)和工程應(yīng)用價值。

當(dāng)前學(xué)術(shù)界關(guān)于流體力學(xué)與深度學(xué)習(xí)技術(shù)的交叉研究主要集中在以下3個方面：

1) 對于流體力學(xué)控制方程的學(xué)習(xí)。該研究從偏微分方程的數(shù)學(xué)求解出發(fā)，探索應(yīng)用神經(jīng)網(wǎng)絡(luò)輔助求解的方法。采用該方法對流體力學(xué)方程進(jìn)行建模有如下兩個思路：應(yīng)用深度神經(jīng)網(wǎng)絡(luò)以偏微分方程整體為目標(biāo)進(jìn)行學(xué)習(xí)，以及只對諸如雷諾平均Navier-Stokes(RANS)方程中雷諾應(yīng)力等部分項進(jìn)行的學(xué)習(xí)。

2) 流場重構(gòu)。這種方法將幾何外形特征表達(dá)等已知信息輸入網(wǎng)絡(luò)，并期望直接獲得與CFD相同的流場解。它類似于圖像生成，只不過生成的對象是流場各基本變量。該方法使用深度學(xué)習(xí)的強大表征能力，直接從流場數(shù)據(jù)中挖掘規(guī)律。由于網(wǎng)絡(luò)可以輸出流場各物理量，因此應(yīng)用時方便簡單。但這種方法對網(wǎng)絡(luò)規(guī)模要求較高，需要精心設(shè)計網(wǎng)絡(luò)結(jié)構(gòu)，訓(xùn)練時還需要反復(fù)調(diào)整各種超參數(shù)，以便獲得精度高、泛化性強的神經(jīng)網(wǎng)絡(luò)；另外，特征提取方法也是值得研究的重要內(nèi)容：文獻(xiàn)[14]指出，對于可能分布的預(yù)假設(shè)直接關(guān)系到深度學(xué)習(xí)的最終效果，因此如何表示物理量并與神經(jīng)網(wǎng)絡(luò)相結(jié)合具有重要研究價值。

3) 力系數(shù)等特征量的映射與應(yīng)用。該研究通過神經(jīng)網(wǎng)絡(luò)直接映射至諸如力系數(shù)等各種流場特征量。與流場重構(gòu)方法不同的是，該方法忽略了流場細(xì)節(jié)，只關(guān)心力系數(shù)等最終結(jié)果，屬于黑箱方法。但這種方法可以直接獲得工程應(yīng)用中所需結(jié)果，因此對于氣動優(yōu)化、氣動彈性控制等領(lǐng)域具有較大應(yīng)用價值。

應(yīng)用深度學(xué)習(xí)技術(shù)解決流體力學(xué)問題通常遵循如下步驟：首先，制定特征提取方式，確定神經(jīng)網(wǎng)絡(luò)輸入及目標(biāo)輸出的表示形式；其次，確定網(wǎng)絡(luò)結(jié)構(gòu)，依據(jù)不同任務(wù)中數(shù)據(jù)的分布形式，設(shè)計并確定相應(yīng)的網(wǎng)絡(luò)結(jié)構(gòu)和激活函數(shù)等神經(jīng)網(wǎng)絡(luò)要素以使數(shù)據(jù)獲得最佳表達(dá)；然后，確定訓(xùn)練算法，設(shè)計相應(yīng)的損失函數(shù)及訓(xùn)練流程，并根據(jù)驗證結(jié)果調(diào)整網(wǎng)絡(luò)結(jié)構(gòu)及參數(shù)設(shè)置，以獲得最佳網(wǎng)絡(luò)；最后，設(shè)計神經(jīng)網(wǎng)絡(luò)應(yīng)用接口，方便實際使用。深度學(xué)習(xí)采用的基本流程如圖1所示。

圖1 流體力學(xué)深度學(xué)習(xí)建模的基本流程Fig.1 Basic process of modeling of deep learning for fluid mechanics

本文從流體力學(xué)與深度學(xué)習(xí)技術(shù)的交叉融合角度出發(fā)，較為系統(tǒng)地介紹了復(fù)雜流動深度學(xué)習(xí)建模技術(shù)及其最新進(jìn)展。第1節(jié)介紹了深度學(xué)習(xí)中常被用到的基本理論和相關(guān)技術(shù)；第2節(jié)針對流體力學(xué)控制方程的深度學(xué)習(xí)建模，介紹了直接對流體力學(xué)偏微分方程的學(xué)習(xí)，以及對RANS方程中雷諾應(yīng)力項的學(xué)習(xí)；第3節(jié)以流場重構(gòu)技術(shù)為核心，并以作者課題組最新研究進(jìn)展為重點，首先介紹深度學(xué)習(xí)技術(shù)中主要采取的幾種特征提取方式及各自的優(yōu)缺點，然后從固定邊界定常流場、固定邊界非定常流場、動邊界非定常流場、相關(guān)改進(jìn)及其他應(yīng)用等幾方面介紹深度學(xué)習(xí)在流場重構(gòu)方面的應(yīng)用及最新進(jìn)展；第4節(jié)介紹對于力系數(shù)等特征量的深度學(xué)習(xí)建模方法以及相關(guān)應(yīng)用；第5節(jié)探討流場深度學(xué)習(xí)技術(shù)目前面臨的挑戰(zhàn)，并對未來研究方向給出相關(guān)建議。

1 深度學(xué)習(xí)基本理論

依據(jù)“萬能近似性質(zhì)”[12-13]，神經(jīng)網(wǎng)路具有對絕大多數(shù)實際映射關(guān)系的建模能力。因此，深度神經(jīng)網(wǎng)絡(luò)是深度學(xué)習(xí)技術(shù)的核心組成部分。神經(jīng)網(wǎng)絡(luò)主要由神經(jīng)元和激活函數(shù)組成，其實現(xiàn)的映射可以表示為對于神經(jīng)元中權(quán)重的一系列線性張量變換，以及激活函數(shù)所引入的非線性變換。損失函數(shù)衡量了網(wǎng)絡(luò)輸出和目標(biāo)值之間的差距。因此DNN的訓(xùn)練實際是一個優(yōu)化過程：對于給定的輸入和輸出，尋找可以使損失函數(shù)最小化的一組神經(jīng)元權(quán)重值。DNN訓(xùn)練過程主要分為以下幾步：

1) 前饋。神經(jīng)網(wǎng)絡(luò)根據(jù)目前神經(jīng)元權(quán)重，對輸入進(jìn)行變換得到輸出。

2) 誤差計算。根據(jù)指定的損失函數(shù)形式，計算當(dāng)前網(wǎng)絡(luò)輸出值與目標(biāo)值之間的差距，得到標(biāo)量型的誤差值。

3) 后向傳播。通過鏈?zhǔn)椒▌t，從輸出位置開始依次向后計算損失函數(shù)值對于各神經(jīng)元權(quán)重的偏導(dǎo)數(shù)。

4) 根據(jù)第3)步計算的偏導(dǎo)數(shù)，更新神經(jīng)元權(quán)重值。

5) 重復(fù)第1)～4)步，直至損失函數(shù)計算的誤差值滿足要求。

傳統(tǒng)神經(jīng)網(wǎng)絡(luò)使用如圖2所示的全連接層。定義W為神經(jīng)元權(quán)重矩陣，b為偏置向量，輸入和輸出分別為X和Y，則單層網(wǎng)絡(luò)實現(xiàn)的計算過程可以表示為

圖2 神經(jīng)網(wǎng)絡(luò)示意圖Fig.2 Schematic diagram of neural network

Y=WX+B

(1)

由于第2層及之后的每一個神經(jīng)元均與前一層的所有神經(jīng)元相連接，因此當(dāng)輸入輸出量維度較高時，會導(dǎo)致數(shù)以千計甚至上萬的神經(jīng)元連接，這將極大地降低計算效率；并且為數(shù)過多的連接很容易產(chǎn)生過擬合現(xiàn)象[32]，使得網(wǎng)絡(luò)泛化性大大降低。因此全連接網(wǎng)絡(luò)一般僅在分類器等應(yīng)用中的最后幾層使用。卷積神經(jīng)網(wǎng)絡(luò)(CNN)不僅極大地降低了神經(jīng)元的個數(shù)，并且可以提取結(jié)構(gòu)化的空間信息，因此被廣泛應(yīng)用于圖像識別等人工智能應(yīng)用場景中。CNN由卷積核構(gòu)成，卷積核依次對輸入矩陣進(jìn)行掃描并與對應(yīng)位置數(shù)值相乘得到輸出，其過程如圖3所示。

圖3 卷積操作過程Fig.3 Process of convolution operation

與全連接網(wǎng)絡(luò)不同的是，權(quán)重矩陣中非卷積核覆蓋的位置均為0。由于卷積核掃描至邊界位置時，只能覆蓋部分輸入量，因此存在所謂的補丁(Padding)操作，也就是認(rèn)為沒有被卷積核覆蓋的位置值為0。如果沒有Padding，通過卷積核提取到的特征矩陣將會變小，從而損失一部分信息，并限制了網(wǎng)絡(luò)的深度。而另一方面，Padding又會引入不必要的信息，影響權(quán)重的正確更新。因此是否使用Padding是在實際應(yīng)用中需要權(quán)衡的問題。在進(jìn)行全連接或卷積這樣的線性操作后，非線性激活函數(shù)對每一層的輸出進(jìn)行非線性變換。雙曲正切函數(shù)(f(x)=tanh(x))、sigmoid函數(shù)(f(x)=1/(1+exp(-x)))，以及整流線性單元(ReLU,f(x)=max(0,x))[17]等是常用的激活函數(shù)。另外，池化層有時連接在卷積層之后，通過依次對所提取的特征矩陣中不相鄰的子區(qū)域取最大值來進(jìn)一步提取重要信息。

對具有時間結(jié)構(gòu)信息的數(shù)據(jù)進(jìn)行建模時，長短期記憶(Long Short-Term Memory, LSTM)網(wǎng)絡(luò)[37]具有良好的性能。LSTM網(wǎng)絡(luò)基本結(jié)構(gòu)如圖4所示，其主要由3個門來控制細(xì)胞狀態(tài)：忘記門、輸入門和輸出門。LSTM的第1步即忘記門決定需要丟棄哪些信息，該部分操作由sigmoid處理；第2步是決定添加哪些新信息，這一步主要利用tanh層；更新完細(xì)胞狀態(tài)后需要判斷輸出哪些狀態(tài)特征，這里需要將輸入經(jīng)過一個稱為輸出門的sigmoid層得到判斷條件，然后將細(xì)胞狀態(tài)經(jīng)過tanh層得到向量，該向量與輸出門得到的判斷條件相乘就得到了最終單元的輸出。

圖4 長短期記憶(LSTM)網(wǎng)絡(luò)基本結(jié)構(gòu)Fig.4 Basic structure of Long and Short-Term Memory (LSTM) network

在網(wǎng)絡(luò)訓(xùn)練過程中，如果直接使用后向傳播，當(dāng)網(wǎng)絡(luò)層數(shù)較深時，將出現(xiàn)誤差無法有效傳遞，從而導(dǎo)致神經(jīng)元參數(shù)不能更新的情況。因此神經(jīng)網(wǎng)絡(luò)的應(yīng)用曾一度局限在簡單函數(shù)擬合等場景中。2006年，Hinton等提出采用無監(jiān)督預(yù)訓(xùn)練對權(quán)值進(jìn)行初始化，并使用有監(jiān)督訓(xùn)練微調(diào)的方法解決深層網(wǎng)絡(luò)訓(xùn)練中梯度消失的問題[38]。目前，諸如Tensorflow、Pytorch等機器學(xué)習(xí)庫常用的人工智能框架均已在底層實現(xiàn)了相應(yīng)的訓(xùn)練算法，使用者無需關(guān)注內(nèi)部實現(xiàn)過程，通過調(diào)用相關(guān)函數(shù)即可方便地實現(xiàn)深度學(xué)習(xí)訓(xùn)練過程。

如果僅使用誤差值或其各種范數(shù)作為損失函數(shù)，將可能導(dǎo)致網(wǎng)絡(luò)泛化性降低。這是因為模型的學(xué)習(xí)能力沒有被恰當(dāng)?shù)叵拗?，從而使得模型僅對訓(xùn)練集具有較小的誤差，但增加了方差。另外，在一些具有物理背景的應(yīng)用中，對于某些物理特性的要求與保證甚至要高于精度等數(shù)學(xué)特性[39-40]，因此僅使用誤差來訓(xùn)練網(wǎng)絡(luò)顯然是不合適的。對于神經(jīng)網(wǎng)絡(luò)的訓(xùn)練，實際上是一個優(yōu)化過程：

minL2(W;X,Y)

s.t.Lphysics=0

(2)

式中：L2為誤差函數(shù)；Lphysics為需要考慮的物理特征。為了求解這一約束優(yōu)化問題，構(gòu)造拉格朗日函數(shù)：

J(W,α;X,Y)=L2+αLphysics

(3)

式中：α為KKT乘子。優(yōu)化問題(2)的解在J(W,α;X,Y)取最小值時得到。也就是說，解約束優(yōu)化問題(2)的過程其實就是最小化方程(3)的過程。因此，實際所采用的損失函數(shù)應(yīng)當(dāng)具有式(3)的形式。參數(shù)α?xí)绊懠s束區(qū)域的大小，這需要根據(jù)具體問題進(jìn)行相應(yīng)地調(diào)整。改造損失函數(shù)實際上是一種正則化方法[14]。除此之外，常用的正則化方法還有Dropout[14]等技術(shù)。

(4)

式中：Pdata和PG(x)分別表示生成數(shù)據(jù)與目標(biāo)的分布；KL是交叉熵，用于衡量兩個分布之間的相似性。因此，對抗訓(xùn)練實際上是一種最大似然估計方法，它可以自動地尋找到目標(biāo)數(shù)據(jù)的分布特性。而這一點恰恰是希望在流體力學(xué)相關(guān)問題建模中達(dá)到的目的。

2 流動控制方程的深度學(xué)習(xí)技術(shù)

本節(jié)以流體力學(xué)控制方程本身為核心，主要對目前發(fā)展的偏微分方程深度學(xué)習(xí)技術(shù)進(jìn)行介紹。關(guān)于僅從數(shù)據(jù)層面進(jìn)行深度學(xué)習(xí)而不涉及其數(shù)學(xué)控制方程的方法在第3節(jié)和第4節(jié)中介紹。另外，一些方法雖然考慮了控制方程[32, 43]，但主要是以損失函數(shù)的形式引入網(wǎng)絡(luò)訓(xùn)練過程中，其核心目的還是在于數(shù)據(jù)層面的擬合，而不是求解數(shù)學(xué)方程本身，因此也不屬于本節(jié)討論范圍，相關(guān)介紹參見3.5節(jié)。對流動控制方程進(jìn)行深度學(xué)習(xí)的方法主要可以分為兩類：直接對方程學(xué)習(xí)；以及首先對方程中某些項進(jìn)行學(xué)習(xí)，然后嵌入到方程求解過程。

2.1 偏微分方程深度學(xué)習(xí)技術(shù)

實際物理背景下的函數(shù)基本都符合泰勒級數(shù)展開條件，并收斂于原函數(shù)。因此直接對數(shù)學(xué)控制方程進(jìn)行學(xué)習(xí)在數(shù)學(xué)上是可行、有保證的。Rudy等[44]使用稀疏回歸技術(shù)學(xué)習(xí)泰勒級數(shù)展開中的各項系數(shù)及各階導(dǎo)數(shù)形式。該方法實現(xiàn)了可解釋性的機器學(xué)習(xí)技術(shù)，但是需要構(gòu)建函數(shù)庫來確保所涉及到的函數(shù)形式被包括在其中。這種方法的主要缺點是：使用的差分求解在很多情況下是病態(tài)或不穩(wěn)定的，并且構(gòu)建的函數(shù)庫有可能由于不全面而導(dǎo)致學(xué)習(xí)失敗。Raissi[45]通過構(gòu)造兩個不同深度神經(jīng)網(wǎng)絡(luò)分別對泰勒級數(shù)中的系數(shù)和函數(shù)項進(jìn)行學(xué)習(xí)，解決了上述兩個問題。由于函數(shù)項是由神經(jīng)網(wǎng)絡(luò)表示的，因此只能學(xué)習(xí)到原函數(shù)的抽象表達(dá)，但這并不影響其在實際問題中的應(yīng)用。該方法在對于Burgers方程[46]、納維-斯托克斯(N-S)方程等微分方程的求解上展示出了很好的效果，相關(guān)數(shù)據(jù)和代碼已開源(具體網(wǎng)址為https:∥github.com/maziarraissi/DeepHPMs)。

湍流研究方面，湍流大數(shù)據(jù)與人工智能相結(jié)合是湍流研究的一個新領(lǐng)域。時空尺度在湍流中的極端分離使得求解全尺度流動結(jié)構(gòu)在湍流中是不現(xiàn)實的。常見的解決方法是對小尺度進(jìn)行截斷并進(jìn)行建模，例如RANS和大渦模擬(LES)。在航空航天中應(yīng)用廣泛的RANS模型基于渦黏假設(shè)，主要適用于附著流動，在分離流中預(yù)測能力受限，而雷諾應(yīng)力模型的預(yù)測性能也并未得到本質(zhì)提升，計算效率與穩(wěn)定性有待提高。同時，模型參數(shù)設(shè)置需要有很豐富的經(jīng)驗。近年來，利用機器學(xué)習(xí)來發(fā)展湍流封閉模型是當(dāng)前研究的一個活躍領(lǐng)域[47]。目前主要應(yīng)用方法可以分為3類：① 湍流模式方程源項的學(xué)習(xí)；② 湍流模型系數(shù)的學(xué)習(xí)；③ 對特征量的直接學(xué)習(xí)。

已有研究表明，通過直接構(gòu)建流場信息與湍流模型方程源項的映射關(guān)系，可以提升湍流模型的預(yù)測性能[48-49]。Parish等[15]提出了基于流場反演和機器學(xué)習(xí)的湍流模型研究框架，該方法利用高可信度的數(shù)值模擬和實驗數(shù)據(jù)，采用反演模型推斷方法建立當(dāng)?shù)仄骄魑锢砹亢湍Ｐ驮错椀挠成潢P(guān)系，然后再采用機器學(xué)習(xí)方法對k-ε湍流模型源項進(jìn)行修正。該方法在槽道湍流中得到了與直接數(shù)值模擬(DNS)符合很好的結(jié)果(如圖5所示)。Singh等[16]使用相同的結(jié)構(gòu)對S-A模型實現(xiàn)了增強與修正。對翼型繞流湍流分離問題，顯著提升了模型的預(yù)測能力。

圖5 Reτ=2 000槽道湍流模型性能對比[15]Fig.5 Comparison of channel turbulence (Reτ=2 000)[15]

2.2 嵌入式學(xué)習(xí)技術(shù)

2.2.1 對相關(guān)系數(shù)的建模

在對于RANS方程的求解中，雷諾應(yīng)力張量的求解最為復(fù)雜。采用低個數(shù)的方程模型會導(dǎo)致對于流動的細(xì)節(jié)模擬不充分，高個數(shù)的方程模型又會大大增加求解難度。因此有學(xué)者提出使用深度學(xué)習(xí)技術(shù)對RANS方程中的雷諾應(yīng)力相關(guān)量進(jìn)行建模。這樣，不僅解決了直接求解雷諾應(yīng)力時的麻煩，而且由于最終的流場求解方法是根據(jù)流體力學(xué)基本方程所構(gòu)造的，因此求解可靠性也得到了極大的保證。Maulik等[50]使用深度學(xué)習(xí)技術(shù)對大渦模擬中用到的亞格子尺度模型實現(xiàn)了智能分類，并嵌入在LES中，從而解決了LES應(yīng)用必須事先人為確定有關(guān)先驗信息的缺點。張偉偉等構(gòu)造了徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)，并對渦黏性系數(shù)進(jìn)行建模，然后引入CFD計算中，從而提高了計算效率[51]。Luo等[48]對神經(jīng)網(wǎng)絡(luò)、支持向量機等多種機器學(xué)習(xí)模型進(jìn)行了對比分析。Yang和Xiao[49]基于流場反演和機器學(xué)習(xí)對四方程k-ω-γ-Ar轉(zhuǎn)捩模式中的不確定度以及誤差進(jìn)行了量化和改善，對第一模態(tài)時間尺度實現(xiàn)了系數(shù)修正，在二維翼型算例中表現(xiàn)了良好的性能。相關(guān)方法還可見文獻(xiàn)[52-54]。

2.2.2 對特征量的直接預(yù)測

機器學(xué)習(xí)在湍流建模研究中應(yīng)用最廣泛的領(lǐng)域是對相關(guān)特征量的建模與預(yù)測，該方法并非直接獲得升力、阻力等最終統(tǒng)計量，而是為進(jìn)一步湍流模擬提供基礎(chǔ)。該領(lǐng)域的研究通常采用DNS/LES/RANS數(shù)據(jù)進(jìn)行訓(xùn)練，直接獲取流場平均量到關(guān)注量之間的映射。主要可以分為：① 對渦黏性預(yù)測[55-56]；② 對雷諾應(yīng)力差量的預(yù)測[53,57-63]；③ 對雷諾應(yīng)力真值的預(yù)測[50,64-68]。相關(guān)代表性工作如下：

1) 對渦黏性的預(yù)測

張偉偉等[51]采用神經(jīng)網(wǎng)絡(luò)算法，以高雷諾數(shù)翼型繞流的S-A湍流模型計算結(jié)果為訓(xùn)練數(shù)據(jù)，重構(gòu)出渦黏系數(shù)與平均流動變量之間的映射關(guān)系，針對近壁區(qū)、尾跡區(qū)和遠(yuǎn)場區(qū)分別進(jìn)行數(shù)據(jù)驅(qū)動建模，構(gòu)建了相應(yīng)的湍流模型，流程圖如圖6所示。模型對于亞聲速翼型附著流動，實現(xiàn)了與原始SA模型相當(dāng)?shù)男阅?，如圖7所示。Kou和Zhang[55]開展了非線性非定常氣動降階模型的多核神經(jīng)網(wǎng)絡(luò)研究，提出了多核神經(jīng)網(wǎng)絡(luò)并將其應(yīng)用于非定常氣動力建模預(yù)測，構(gòu)建了可以應(yīng)用于變工況條件條件下的氣動載荷預(yù)測模型。

圖6 機器學(xué)習(xí)建模流程[51]Fig.6 Process of machine learning modeling[51]

圖7 翼型繞流渦黏系數(shù)云圖[51]Fig.7 Contour of eddy viscosity coefficient of flow around airfoil[51]

2) 對雷諾應(yīng)力差值的預(yù)測

機器學(xué)習(xí)直接預(yù)測中應(yīng)用最為廣泛的是對雷諾應(yīng)力差值的預(yù)測，該方法用于對RANS模型與高保真模擬之間雷諾應(yīng)力張量的差異進(jìn)行建模，最終應(yīng)用在計算中對RANS模型進(jìn)行修正。Xiao等[58]開發(fā)了一種嵌入先驗知識的貝葉斯框架，用于量化RANS模擬中模型形式的不確定度，并引入了雷諾應(yīng)力。該框架中利用卡爾曼方法吸收先驗知識和觀測數(shù)據(jù)，并將其應(yīng)用到后驗分布中。文獻(xiàn)[63]使用有物理背景指導(dǎo)下的機器學(xué)習(xí)方法，其研究以RANS和DNS模擬的雷諾應(yīng)力差異作為響應(yīng)，獲得差異函數(shù)并將其嵌入RANS求解器中。這一改進(jìn)的湍流模型對于方管流動、周期繞流和高馬赫數(shù)平板邊界層流動，與常規(guī)RANS模型相比，對于平均速度和雷諾應(yīng)力與實驗結(jié)果符合更好，且在回流區(qū)內(nèi)更具優(yōu)勢。然而該模型泛化能力目前還較為有限。

Wang等[57]將RANS求解與DNS求解的雷諾應(yīng)力差異以隨機森林算法學(xué)習(xí)獲得雷諾應(yīng)力差異關(guān)于平均流動的函數(shù)。Wu等[53]針對湍流模型研究提出了較為完整的機器學(xué)習(xí)框架，并進(jìn)行了系列測試。Wang等[60]在高超聲速平板邊界層湍流中獲得了較好的預(yù)測結(jié)果。Wu等[61]解決了由于機器學(xué)習(xí)方法加入所導(dǎo)致的數(shù)值求解不穩(wěn)定問題。Wu等[62]對其團隊所發(fā)展的數(shù)據(jù)驅(qū)動湍流模型進(jìn)行了定量評估。Ti等[59]采用k-ε湍流模型計算結(jié)果作為訓(xùn)練數(shù)據(jù)，構(gòu)建湍動能差值、尾跡特征度量與當(dāng)?shù)亓鲌鲂畔⒁约叭肓鳁l件之間的映射關(guān)系，建立了基于人工智能的風(fēng)力發(fā)電尾跡模型。

3) 對雷諾應(yīng)力真值的預(yù)測

機器學(xué)習(xí)對雷諾應(yīng)力真值預(yù)測的思路與差值預(yù)測基本類似。Ling和Templeton[69]使用支持向量機方法、Adaboost決策樹和隨機森林預(yù)測雷諾應(yīng)力張量中高不確定度的區(qū)域。Ling等[64]首先采用具有深度網(wǎng)絡(luò)來建模各向異性雷諾應(yīng)力張量。他們通過引入伽利略不變量來保證所獲得的的雷諾應(yīng)力張量具有旋轉(zhuǎn)不變性，以k-ε模型計算的雷諾應(yīng)力作為輸入，采用DNS和精細(xì)求解的LES結(jié)果作為真值標(biāo)簽進(jìn)行訓(xùn)練，在非相似流場中得到了較好的結(jié)果，展現(xiàn)出一定的泛化能力。Zhang等[68]將其應(yīng)用于槽道流動。

Weatheritt等[67]采用符號回歸和基因表達(dá)式編程自適應(yīng)演化算法進(jìn)行監(jiān)督學(xué)習(xí)，采用RANS/LES混合方法計算結(jié)果作為訓(xùn)練數(shù)據(jù)，獲得雷諾應(yīng)力代數(shù)模型，并提出了數(shù)據(jù)驅(qū)動湍流模型的先驗訓(xùn)練與后驗預(yù)測的研究思路框架。Cruz等[65]以DNS數(shù)據(jù)訓(xùn)練流場，學(xué)習(xí)得到雷諾應(yīng)力矢量并對k-ε湍流模型進(jìn)行修正。Maulik等[70]采用深度神經(jīng)網(wǎng)絡(luò)訓(xùn)練并預(yù)測定常狀態(tài)下的湍流渦黏系數(shù)，實現(xiàn)后臺階流動模擬的精度和速度的提升。

3 流場重構(gòu)的深度學(xué)習(xí)技術(shù)

對基本控制方程進(jìn)行深度學(xué)習(xí)建模雖然有較強的物理可解釋性，但其中涉及到復(fù)雜的偏微分方程求解以及數(shù)值計算方法等技術(shù)，建模時需要提取額外特征量進(jìn)行單獨建模，之后又要與偏微分方程的數(shù)值求解進(jìn)行融合。在應(yīng)用中，不可避免地要耗費較大計算資源，操作復(fù)雜，不一定適合于對計算效率有較高要求的工程應(yīng)用場景。實際上，依據(jù)“萬能近似性質(zhì)”[12-13]，能夠直接對流體力學(xué)方程解進(jìn)行映射建模的深度網(wǎng)絡(luò)是存在的。因此，深度學(xué)習(xí)流場重構(gòu)技術(shù)近些年來逐漸發(fā)展起來，并展示出精確、便捷、高效的特點，為氣動外形智能優(yōu)化設(shè)計、流固耦合建模與控制、閉環(huán)流動控制等應(yīng)用提供了新的機遇。

雖然在神經(jīng)元個數(shù)足夠多時，數(shù)學(xué)分析表明滿足要求的深度神經(jīng)網(wǎng)絡(luò)是存在的。但現(xiàn)實世界中的計算資源、計算時間都是有限的，不可能永無止盡地嘗試下去。機器學(xué)習(xí)的重點并不是尋找一個絕對意義上好的學(xué)習(xí)算法，而是尋找一個適合于深度學(xué)習(xí)技術(shù)、符合真實世界的分布，并且針對這種分布設(shè)計性能相對較好的學(xué)習(xí)算法。因此，尋找針對特定問題的特征提取方式、合適的網(wǎng)絡(luò)結(jié)構(gòu)和訓(xùn)練方法就是擺在流場重構(gòu)技術(shù)面前的主要研究內(nèi)容。本節(jié)首先介紹了目前利用深度學(xué)習(xí)進(jìn)行流場重構(gòu)中常用到的幾何外形特征提取技術(shù)，然后以具體問題為導(dǎo)向，分別介紹了固定邊界條件下定常與非定常流場、動邊界非定常流場深度學(xué)習(xí)，以及相關(guān)改進(jìn)措施。

3.1 幾何外形特征提取方法

目前深度學(xué)習(xí)建模技術(shù)雖然已經(jīng)在流體力學(xué)領(lǐng)域進(jìn)行了諸多探索[64,71-74]，但主要集中于可用性和有效性研究。大多數(shù)早期研究僅采用諸如飛行攻角、馬赫數(shù)等狀態(tài)參數(shù)作為輸入，缺乏對于幾何外形表達(dá)方式的詳細(xì)研究。另外，飛行器外形設(shè)計中，要求可以在氣動外形變化時給出流動和氣動力的快速預(yù)測，實現(xiàn)幾何外形作為輸入的氣動建模能力。因此幾何外形特征提取方式是流動人工智能建模中需要重點研究的關(guān)鍵問題。

Zhang等[71]曾對二維翼型兩種不同表達(dá)所產(chǎn)生的輸入數(shù)據(jù)導(dǎo)致的預(yù)測結(jié)果進(jìn)行了對比分析，并發(fā)現(xiàn)相較于簡單地采用幾何坐標(biāo)作為輸入，利用像素密度作為輸入顯著地提高了預(yù)測效果。對于圓這類簡單的二維幾何外形，Miyanawala和Jaiman[72]使用矩形網(wǎng)格內(nèi)每一網(wǎng)格點到邊界的最近距離作為輸入來預(yù)測阻力系數(shù)，并得到了很好的效果。以上研究表明：幾何外形特征提取方法對于深度學(xué)習(xí)建模效果具有決定性的影響。然而，現(xiàn)有研究基本上局限于圓這類簡單、特殊的幾何外形，缺乏廣泛通用性。并且通過這些方式表示的幾何信息具有很大的冗余性。筆者團隊等[75]提出一種流場特征提取方法，主要采用Laplace形式的偏微分方程生成流場網(wǎng)格，并將各網(wǎng)格點曲率值作為深度學(xué)習(xí)網(wǎng)絡(luò)輸入數(shù)據(jù)，通過這種方法在一定程度上表達(dá)了邊界對周圍流場造成的影響。對于長短徑比為3的半橢圓得到的網(wǎng)格曲率云圖如圖8所示。為了引入攻角、來流速度等工況參數(shù)，構(gòu)造了串行復(fù)合深度神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)并取得了較好的結(jié)果。另外，還有使用深度學(xué)習(xí)技術(shù)提取的特征表達(dá)作為輸入的有關(guān)研究[76-77]。這些研究將自編碼器對幾何外形的壓縮表達(dá)作為幾何特征并輸入神經(jīng)網(wǎng)絡(luò)。

圖8 長短徑比為3的半橢圓所產(chǎn)生的 網(wǎng)格線曲率云圖[75]Fig.8 Contour of curvature of grid lines caused by ellipses with different long-short axis ratios[75]

利用深度學(xué)習(xí)技術(shù)進(jìn)行流場重構(gòu)的探索目前任然處于起步階段，對神經(jīng)網(wǎng)絡(luò)建模精度和泛化能力影響至關(guān)重要的幾何特征提取方式還缺乏充分系統(tǒng)的研究。如何構(gòu)造適合于深度學(xué)習(xí)的幾何外形表達(dá)方式，并具有較強的實用性是未來研究有待探索的方向。

3.2 定常流場深度學(xué)習(xí)技術(shù)

定常流場重構(gòu)類似于圖像生成技術(shù)。由于流場離散表達(dá)具有空間結(jié)構(gòu)，因此卷積神經(jīng)網(wǎng)絡(luò)是這類研究中主要采用的網(wǎng)絡(luò)形式。CNN是從計算機視覺領(lǐng)域發(fā)展起來的，擅長處理圖像數(shù)據(jù)。一般將流場重構(gòu)對應(yīng)于計算機視覺中圖像到圖像的回歸任務(wù)，流場信息值類似于圖像中的像素點。神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)與自編碼器原理相似：如圖9所示，首先為編碼過程，通過CNN卷積核逐步提取不同范圍內(nèi)的流場特征；在得到一定維度的抽象特征后，通過解碼器逐漸豐富流場細(xì)節(jié)，最后輸出所需要的定常流場。自編碼器具有良好的特性：如果解碼器是線性的，并且訓(xùn)練時采用均方根誤差做為損失函數(shù)，則可以得到與POD方法相同的低維子空間[14]。

圖9 自編碼器Fig.9 Autoencoder

Ribeiro等[77]利用自編碼器實現(xiàn)了對圓等幾何外形的繞流流場重構(gòu)，結(jié)果表明深度神經(jīng)網(wǎng)絡(luò)具備學(xué)習(xí)NS方程的能力，并且計算效率與CFD方法相比得到了極大地提升。由于定常流場研究中樣本構(gòu)造成本較高，每一個樣本均需要對不同的幾何外形重新計算流場信息。定常流場的深度學(xué)習(xí)實際上對神經(jīng)網(wǎng)絡(luò)泛化能力具有極大挑戰(zhàn)性。相對于非定常周期流場的深度學(xué)習(xí)預(yù)測與建模而言，關(guān)聯(lián)幾何外形變化的定常流動灰箱建模相關(guān)研究實際上更為少見。當(dāng)前更多的研究是從氣動力系數(shù)直接出發(fā)進(jìn)行黑箱建模，沒有有效利用深度學(xué)習(xí)特性。

3.3 固定邊界條件下非定常流場深度學(xué)習(xí)技術(shù)

非定常流動中每一個時間步的計算僅需要在前一時間步的基礎(chǔ)上做時間推進(jìn)即可，樣本構(gòu)造相對較為簡便。同時實際非定常流動應(yīng)用場景對神經(jīng)網(wǎng)絡(luò)的泛化能力要求并沒有像關(guān)聯(lián)幾何外形變化問題的要求那樣高，因此當(dāng)前深度學(xué)習(xí)在非定常流動建模技術(shù)中得到了更多的探索。非定常流動具有時空特性同時變化的特點，必須考慮時間效應(yīng)，因此長短期記憶網(wǎng)絡(luò)被廣泛采用。

韓仁坤等[33]構(gòu)建了能夠從高維非定常流場數(shù)據(jù)中直接捕捉非定常流動時空特征的混合深度神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，實現(xiàn)了利用前k個時間步流場數(shù)據(jù)預(yù)測下一時刻流場數(shù)據(jù)的目的。訓(xùn)練后的混合深度神經(jīng)網(wǎng)絡(luò)可以實現(xiàn)一定范圍內(nèi)不同雷諾數(shù)的非定常流場預(yù)測。該方法混合了常用的神經(jīng)網(wǎng)絡(luò)形式，具有較典型的特征。下邊詳細(xì)闡述該方法的實施流程：

1) 數(shù)據(jù)集構(gòu)造。利用高精度數(shù)值模擬方法計算非定常流場動態(tài)過程，并記錄各時刻的流場信息。選擇能夠包含流場特征主要變化范圍的矩形區(qū)域作為采樣區(qū)域，并在區(qū)域內(nèi)均勻放置個數(shù)為Nx×Ny的采樣點，如圖10[33]所示。然后，將無量綱化的流場變量投影到該采樣區(qū)域上，并將物體內(nèi)部數(shù)據(jù)點的對應(yīng)值設(shè)為0。每個采樣時間步將三維流場變量(p*、u*和v*)均做相同處理，因此每個瞬時流場可以表示為Nx×Ny×3的三維數(shù)據(jù)。將所獲得的數(shù)據(jù)按時間順序排列，按照一定比例分成訓(xùn)練和測試集。

圖10 翼型繞流的結(jié)構(gòu)化網(wǎng)格(黑色)與均勻分布的笛卡爾網(wǎng)格(紅色)[33]Fig.10 Structured grid (black) and uniformly distributed Cartesian grid (red)[33]

2) 網(wǎng)絡(luò)結(jié)構(gòu)確定。網(wǎng)絡(luò)由六層卷積神經(jīng)網(wǎng)絡(luò)(CNN)層、1層卷積長短期記憶神經(jīng)網(wǎng)絡(luò)(ConvLSTM)層和6層反卷積神經(jīng)網(wǎng)絡(luò)(DeCNN)層組成，如圖11[33]所示。其中，卷積層的作用是捕捉各個時間步流場數(shù)據(jù)的空間結(jié)構(gòu)特征并降低流場數(shù)據(jù)維度；卷積長短時記憶層的作用是在保留流場空間結(jié)構(gòu)特征的同時學(xué)習(xí)各時間步之間流場時間演化特征；反卷積層的作用是將預(yù)測的下一時間步流場特征擴展成高維流場數(shù)據(jù)。在卷積層與卷積長短時記憶層之間需要進(jìn)行數(shù)據(jù)變換，將各個時間步流場卷積得到的相同類型流場特征組合，使用前k個時間步的相同類型特征預(yù)測下一時間步該類型特征的狀態(tài)。

圖11 混合深度神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)[33]Fig.11 Architecture of hybrid deep neural network[33]

3) 神經(jīng)網(wǎng)絡(luò)訓(xùn)練。采用均方根誤差(RMSE)來評價模型的性能：

(5)

采用Adam算法作為優(yōu)化算法對神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練。在該算法中，使用指數(shù)移動平均來更新梯度向量和平方梯度。

4) 翼型繞流預(yù)測。利用訓(xùn)練后的神經(jīng)網(wǎng)絡(luò)對雷諾數(shù)為8 000、來流攻角為20°的情況進(jìn)行預(yù)測。預(yù)測中使用前16個時間步的流場數(shù)據(jù)預(yù)測第17個時間步的流場數(shù)據(jù)，并將預(yù)測數(shù)據(jù)作為輸入數(shù)據(jù)，持續(xù)迭代預(yù)測下一時間步的流場。這樣，前16個時間步之后的流場數(shù)據(jù)均來自神經(jīng)網(wǎng)絡(luò)預(yù)測輸出。結(jié)果顯示，測試階段兩個周期內(nèi)流場的預(yù)測值和準(zhǔn)確結(jié)果之間的均方根誤差小于1%。圖12[33]展示了第64個時間步的混合深度神經(jīng)網(wǎng)絡(luò)預(yù)測結(jié)果與CFD計算結(jié)果的瞬時流場比較。所有預(yù)測結(jié)果與CFD結(jié)果吻合較好，混合深度神經(jīng)網(wǎng)絡(luò)能夠準(zhǔn)確地預(yù)測出流場結(jié)構(gòu)。在圖13[33]所示翼型周圍選取兩個特征位置A和B用于顯示時間序列預(yù)測精度，流向速度的預(yù)測結(jié)果和CFD計算結(jié)果的時間歷程對比展示在圖14[33]中?？梢钥闯?，隨著時間推進(jìn)，神經(jīng)網(wǎng)絡(luò)預(yù)測流場和CFD計算流場的誤差積累不明顯。這是因為卷積神經(jīng)網(wǎng)絡(luò)能夠忽略某些位置較小的誤差，而捕捉流場的主要時空結(jié)構(gòu)特征。因此所構(gòu)造的神經(jīng)網(wǎng)絡(luò)完成了預(yù)定目標(biāo)，實現(xiàn)了對非定常流場時空特征的學(xué)習(xí)。

圖12 第64個時間步的流向速度神經(jīng)網(wǎng)絡(luò)預(yù)測結(jié)果與CFD計算結(jié)果比較[33]Fig.12 Comparison of prediction results of flow direction velocity by neural network with those calculated by CFD at the 64th time step[33]

圖13 翼型周圍選取兩個特征位置顯示時間序列預(yù)測精度[33]Fig.13 Selection of two feature positions around airfoil to show prediction accuracy of time series[33]

圖14 流向速度在兩個選定位置的神經(jīng)網(wǎng)絡(luò)預(yù)測結(jié)果和CFD計算結(jié)果的時間歷程對比[33]Fig.14 Comparison of time history between neural network prediction results and CFD calculation results of flow velocity at two selected positions[33]

在跨聲速狀態(tài)下，由于激波與邊界層的相互干擾作用會引起流動分離，進(jìn)而產(chǎn)生激波振蕩現(xiàn)象。這種自維持激波運動現(xiàn)象被稱為跨聲速抖振?？缏曀俣墩駟栴}具有復(fù)雜的非定常和非線性效應(yīng)。對于該問題的研究手段主要有試驗與數(shù)值計算，且對試驗環(huán)境與計算資源的要求很高。隨著深度學(xué)習(xí)的發(fā)展，其強大的特征提取與非線性表達(dá)能力為跨聲速抖振問題的研究帶來新的手段。本文作者等從流場特征學(xué)習(xí)的角度入手，基于卷積神經(jīng)網(wǎng)絡(luò)與長短時記憶網(wǎng)絡(luò)構(gòu)造深度神經(jīng)網(wǎng)絡(luò)，利用高精度數(shù)值計算得到的流場時空序列數(shù)據(jù)對網(wǎng)絡(luò)進(jìn)行訓(xùn)練，直接從原始高維流場數(shù)據(jù)中捕捉跨聲速強非線性流場時空特征，對其中復(fù)雜非定常非線性變化規(guī)律進(jìn)行學(xué)習(xí)，較好地實現(xiàn)了流場預(yù)測。

研究采用OAT15A超臨界翼型作為對象。由于激波振蕩現(xiàn)象發(fā)生在翼型上表面區(qū)域，采樣時選擇該區(qū)域作為流場特征區(qū)域，如圖15所示。計算工況為Ma=0.73，3.5°迎角，雷諾數(shù)為3×106。該數(shù)據(jù)樣本集由西北工業(yè)大學(xué)航空學(xué)院王剛教授提供。

圖15 數(shù)據(jù)采樣區(qū)Fig.15 Data sampling area

通過對圖11所示的混合神經(jīng)網(wǎng)絡(luò)進(jìn)行改進(jìn)，實現(xiàn)了非定常強間斷非線性流場重構(gòu)。圖16展示了預(yù)測20時間步后的對比情況。在流場翼型上表面距翼型前緣位置x/c=0.43處設(shè)置考察點，流場變量的預(yù)測情況見圖17。通過比較瞬時流場云圖，神經(jīng)網(wǎng)絡(luò)預(yù)測結(jié)果與數(shù)值計算結(jié)果吻合良好，流場分布一致；流場中預(yù)測誤差偏大的區(qū)域主要集中在激波位置處，這是由于激波位置處存在較大的數(shù)據(jù)梯度，但不影響神經(jīng)網(wǎng)絡(luò)對于流場整體的預(yù)測，且瞬時流場內(nèi)激波位置預(yù)測基本與計算結(jié)果吻合。通過比較考察點處的流場變量變化情況，預(yù)測結(jié)果在多個周期內(nèi)基本符合數(shù)值計算得到的變化規(guī)律，在時間維度上變化同步。這表明深度神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)到了跨聲速抖振的流場時空變化特征，能夠初步實現(xiàn)對激波運動的重構(gòu)與預(yù)測。在強非線性流體問題方面，深度神經(jīng)網(wǎng)絡(luò)也展現(xiàn)出了強大的學(xué)習(xí)能力。

圖16 流向速度預(yù)測結(jié)果和數(shù)值計算結(jié)果 對比(20時間步)Fig.16 Comparisons of instantaneous flow fields between prediction results and numerical calculation results(after 20 time-steps)

圖17 流場變量在考察點A處速度預(yù)測情況Fig.17 Prediction of flow field variables at survey point A

固定邊界下非定常流場深度學(xué)習(xí)預(yù)測與重構(gòu)技術(shù)是當(dāng)前研究熱點之一。Wang[22]和Omata[23]等也利用卷積自編碼器實現(xiàn)了非定常流場的降階。Mohan[24]、Pawar[25]以及Deng[26]等在POD方法得到的降階子空間上，采用LSTM網(wǎng)絡(luò)實現(xiàn)了流場的時間演進(jìn)。Huang等[6]使用CNN與LSTM結(jié)合的方式實現(xiàn)了對三維火焰演化預(yù)測。湍流研究方面，CNN與LSTM混合網(wǎng)絡(luò)則展現(xiàn)出對時空特征的良好建模能力[31]。另外，對抗訓(xùn)練方式的引入進(jìn)一步提升了深度網(wǎng)絡(luò)預(yù)測效果[32, 34]。

3.4 動邊界非定常流場深度學(xué)習(xí)技術(shù)

動邊界非定常流動現(xiàn)象在飛行游走生物、柔性仿生飛行器以及柔性旗幟等可變形柔性結(jié)構(gòu)流固耦合動力學(xué)系統(tǒng)中普遍存在。隨著人類對昆蟲和鳥類飛行機理認(rèn)識的逐步深入，以及智能材料結(jié)構(gòu)技術(shù)、信息技術(shù)和制造技術(shù)的飛速發(fā)展，對于流固耦合效應(yīng)的研究與開發(fā)具有重要意義。實驗研究和數(shù)值模擬均表明，柔性撲翼在非定常流場中的周期性運動比剛性撲翼能夠產(chǎn)生更大的推力，其非定?？諝鈩恿εc漩渦在流場中的產(chǎn)生、融合、機翼形狀改變及結(jié)構(gòu)柔性密切相關(guān)[78]。然而，包括POD、DMD在內(nèi)的傳統(tǒng)降階模型雖然能以較少自由度描述原系統(tǒng)的主要動力學(xué)特性，但是這類降階模型受限于所依賴的數(shù)學(xué)算法基礎(chǔ)，都難以直接構(gòu)造出包含分離和漩渦等強非線性多尺度流動現(xiàn)象的流固耦合系統(tǒng)高質(zhì)量降階模型，并且在整個系統(tǒng)參數(shù)空間內(nèi)缺乏魯棒性。而作為顛覆性大數(shù)據(jù)處理技術(shù)和人工智能技術(shù)代表的深度學(xué)習(xí)技術(shù)無疑為解決這一問題提供了強大武器。

盡管深度學(xué)習(xí)在流體力學(xué)和結(jié)構(gòu)力學(xué)中的嘗試從2016年就已經(jīng)開始，但從現(xiàn)有公開文獻(xiàn)來看，固定邊界非定常流動重構(gòu)仍然是當(dāng)前研究熱點，而含運動邊界的非定常流動應(yīng)用報道非常少見，對流固耦合動力學(xué)系統(tǒng)建模也未見公開報道。韓仁坤等基于對固定邊界非定常流動建模提出的混合神經(jīng)網(wǎng)絡(luò)基本結(jié)構(gòu)[33]，進(jìn)一步改進(jìn)發(fā)展了適用于動邊界非定常流場深度學(xué)習(xí)建模方法，對于周期性振動的圓形動邊界非定常流場，獲得了較好的預(yù)測效果[79](如圖18所示)，并在不同振動幅度、不同雷諾數(shù)下具有不錯的泛化性能。

圖18 流向速度在選定位置的神經(jīng)網(wǎng)絡(luò)預(yù)測結(jié)果和CFD計算結(jié)果時間歷程對比[79]Fig.18 Comparison of time history between neural network prediction results and CFD calculation results of flow velocity at the selected position[79]

作者所在課題組近期應(yīng)用卷積自編碼器，并且通過損失函數(shù)引入對于動邊界的考慮，實現(xiàn)了翼型俯仰沉浮氣動彈性運動狀態(tài)下的非定常流場預(yù)測。從圖19可以看到，深度神經(jīng)網(wǎng)絡(luò)對非定常流場做出了較為準(zhǔn)確的預(yù)測。但由于動邊界效應(yīng)，靠近邊界處始終是誤差最大位置處。另外，在對動邊界非定常流場的預(yù)測中，神經(jīng)網(wǎng)絡(luò)傾向于抹平流場中的變化(如圖20所示)。研究中還發(fā)現(xiàn)，在經(jīng)過足夠長的時間步后，神經(jīng)網(wǎng)絡(luò)的預(yù)測會逐漸縮小幾何邊界的范圍，直至消失。造成這一現(xiàn)象的原因可能與動邊界的處理有關(guān)，是未來研究需要進(jìn)一步探討的方向。

圖19 深度神經(jīng)網(wǎng)絡(luò)在10個時間步后對 流向速度的預(yù)測結(jié)果Fig.19 Prediction results of flow velocity by deep neural network after 10 time steps

圖20 3個位置處動邊界非定常流場流向速度預(yù)測值與CFD計算值比較Fig.20 Comparison of predicted flow velocity and CFD calculation results of unsteady flow field with moving boundary at three locations

3.5 相關(guān)改進(jìn)措施

當(dāng)采用深度學(xué)習(xí)技術(shù)對流體力學(xué)相關(guān)特性進(jìn)行學(xué)習(xí)時，神經(jīng)網(wǎng)絡(luò)的形式主要由卷積神經(jīng)網(wǎng)絡(luò)，與長短時記憶網(wǎng)絡(luò)組成。卷積網(wǎng)絡(luò)提取空間特征，長短時記憶網(wǎng)絡(luò)提取時間特征。目前尚未見有新的基本網(wǎng)絡(luò)形式被采用。網(wǎng)絡(luò)結(jié)構(gòu)方面的改進(jìn)主要集中在各種網(wǎng)絡(luò)與訓(xùn)練方法的搭配上。除此之外，如第1節(jié)所述，改造損失函數(shù)對結(jié)果會產(chǎn)生較大影響。因此，流體力學(xué)深度學(xué)習(xí)效果的改進(jìn)主要圍繞網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計、訓(xùn)練算法，以及損失函數(shù)3方面進(jìn)行。

Raissi等[43]將流體力學(xué)基本方程——N-S方程引入損失函數(shù)，實現(xiàn)對圓柱尾流流場以及顱內(nèi)動脈瘤影響的生物流場重構(gòu)，這一成果發(fā)表在國際頂級學(xué)術(shù)期刊Science上。其具體做法是通過自動微分技術(shù)對網(wǎng)絡(luò)輸出變量求導(dǎo)，并代入N-S方程計算殘差，損失函數(shù)定義為傳統(tǒng)二范數(shù)誤差與這一殘差的和。預(yù)測結(jié)果表明訓(xùn)練過程所用到的損失函數(shù)確實提升了神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)效果。相關(guān)方法被同一作者應(yīng)用于渦致振動的研究中，同樣顯示出了良好效果[5]。與Raissi直接求解流體控制方程的殘差不同，Lee和You[32]采用有限體積法的思想計算網(wǎng)格點處的物理守恒量，將預(yù)測結(jié)果與目標(biāo)值之間物理守恒量的差值作為損失函數(shù)。其文中詳細(xì)研究了將物理守恒律引入損失函數(shù)以及是否采用對抗訓(xùn)練方式對網(wǎng)絡(luò)學(xué)習(xí)能力造成的影響。研究表明考慮損失函數(shù)對于非對抗性的訓(xùn)練具有改進(jìn)作用，但采用對抗方式時不對損失函數(shù)引入額外物理守恒項的結(jié)果更好。這恰恰驗證了第1節(jié)中關(guān)于對抗訓(xùn)練優(yōu)點的相關(guān)論述。由于對抗訓(xùn)練過程中會自發(fā)地尋找到內(nèi)在規(guī)律，因此引入額外的約束反而是給出了錯誤的引導(dǎo)。但對抗訓(xùn)練收斂難度大，極易發(fā)散，這是在實際應(yīng)用中必須注意的問題。綜合考慮，采用考慮物理守恒性質(zhì)的損失函數(shù)進(jìn)行非對抗訓(xùn)練是實際應(yīng)用深度學(xué)習(xí)技術(shù)解決流體力學(xué)問題的推薦方法。損失函數(shù)除引入物理特征量之外，Mathieu等[80]指出通過修正預(yù)測量的梯度誤差，可以更精準(zhǔn)地預(yù)測細(xì)節(jié)。

另外，作者課題組在相關(guān)研究中引入自編碼器實現(xiàn)流場降階，并對比研究了是否采用對抗方式，以及是否采取降階網(wǎng)絡(luò)對深度神經(jīng)網(wǎng)絡(luò)建模能力的影響。圖21示出了不同網(wǎng)絡(luò)對非定常流場的預(yù)測結(jié)果。研究表明降階網(wǎng)絡(luò)與對抗訓(xùn)練都有利于建模能力的提升。在采用降階網(wǎng)絡(luò)后，雖然在訓(xùn)練過程中需要對降階網(wǎng)絡(luò)進(jìn)行額外訓(xùn)練，但訓(xùn)練結(jié)束后，可方便高效地應(yīng)用。因此在實際使用中推薦采用自編碼器實現(xiàn)的降階網(wǎng)絡(luò)，并進(jìn)行對抗式訓(xùn)練。

圖21 深度神經(jīng)網(wǎng)絡(luò)非定常流場預(yù)測二范數(shù)誤差累積與預(yù)測時間步的關(guān)系Fig.21 Accumulation of the second norm errors of predictions based on deep neural networks with time steps of unsteady flow field

4 流體力學(xué)特征量的直接映射與應(yīng)用

對諸如升力系數(shù)等流體力學(xué)特征量的直接映射屬于黑箱方法，它不關(guān)心流場細(xì)節(jié)，僅尋求從幾何外形和工況等條件直接獲得所需變量的方法。該應(yīng)用場景是數(shù)據(jù)科學(xué)技術(shù)所要解決的傳統(tǒng)問題。深度學(xué)習(xí)由于其強大的非線性表征能力，為該問題的解決提供了堅實的基礎(chǔ)。與第3節(jié)所不同的是，網(wǎng)絡(luò)中引入全連接層將具有空間結(jié)構(gòu)化的信息展成一維向量后輸出，從而實現(xiàn)回歸。多篇文獻(xiàn)均已成功利用深度學(xué)習(xí)技術(shù)構(gòu)建力預(yù)測神經(jīng)網(wǎng)絡(luò)[20, 35-36, 81]。Salehipour等[82]利用卷積神經(jīng)網(wǎng)絡(luò)對相關(guān)物理背景下的湍流混合效率進(jìn)行建模，顯示出深度學(xué)習(xí)技術(shù)相較于一些傳統(tǒng)方法具有更可靠、更精確的預(yù)測能力。本文作者在3.4節(jié)所述網(wǎng)絡(luò)的基礎(chǔ)上，引入力系數(shù)預(yù)測網(wǎng)絡(luò)，并與結(jié)構(gòu)動力學(xué)求解器耦合，實現(xiàn)了深度神經(jīng)網(wǎng)絡(luò)松耦合氣動彈性模擬。對于NACA0012翼型，在翼型進(jìn)入穩(wěn)定振蕩過程后，深度神經(jīng)網(wǎng)絡(luò)對升力系數(shù)作出的預(yù)測如圖22所示。張偉偉團隊利用LSTM實現(xiàn)了非定常氣動力建模。在其研究中，以NACA64A010翼型兩自由度跨聲速狀態(tài)為測試算例,驗證了深度神經(jīng)網(wǎng)絡(luò)能夠準(zhǔn)確把握不同流動和結(jié)構(gòu)參數(shù)下,諸如極限環(huán)等氣動力與氣動彈性響應(yīng)動態(tài)特征[83]。由于該類方法直接預(yù)測最終氣動力等統(tǒng)計量，屬于純黑箱方法，這里主要是說明深度學(xué)習(xí)的擬合能力，不做過多介紹。

圖22 深度神經(jīng)網(wǎng)絡(luò)松耦合氣動彈性模擬 系統(tǒng)對升力系數(shù)的預(yù)測Fig.22 Prediction of lift coefficient made by deep neural network aeroelastic simulation system

除上述黑箱方法外，張偉偉教授研究團隊引入高斯與小波基函數(shù)，構(gòu)建了復(fù)合神經(jīng)網(wǎng)絡(luò)，并使用POD等方法為網(wǎng)絡(luò)提供先驗信息。該網(wǎng)絡(luò)對非線性非定常問題成功實現(xiàn)了降階目的[55]。上述研究結(jié)果表明工程問題中直接利用深度學(xué)習(xí)方式快速獲得流體力學(xué)特征量是可行的，并且有巨大應(yīng)用前景。

5 面臨的挑戰(zhàn)與未來發(fā)展趨勢

流體力學(xué)與人工智能技術(shù)的交叉具有較大發(fā)展前景，從目前其在流體力學(xué)應(yīng)用中獲得的廣泛關(guān)注和初步應(yīng)用來看，以深度學(xué)習(xí)和強化學(xué)習(xí)為代表的人工智能技術(shù)推動數(shù)據(jù)驅(qū)動的流體力學(xué)研究新范式的建立只是時間問題[9]。深度神經(jīng)網(wǎng)絡(luò)的建立離不開特定問題特定數(shù)據(jù)集，因此流體力學(xué)深度學(xué)習(xí)預(yù)測與建模技術(shù)應(yīng)當(dāng)以具體問題為導(dǎo)向，即針對特定問題分別尋找相適宜的建模方法。根據(jù)作者近期相關(guān)研究經(jīng)驗和初步認(rèn)識，認(rèn)為深度學(xué)習(xí)技術(shù)在流體力學(xué)中應(yīng)用面臨的挑戰(zhàn)和需要盡快突破的科學(xué)問題如下：

1) 數(shù)據(jù)構(gòu)造與學(xué)習(xí)方式。深度學(xué)習(xí)依賴大數(shù)據(jù)，只有足夠大量的數(shù)據(jù)才能實現(xiàn)深度網(wǎng)絡(luò)的充分學(xué)習(xí)。而流體力學(xué)高精度計算需要耗費巨大計算資源；且在某些情況下獲取數(shù)據(jù)成本高昂甚至無法獲得數(shù)據(jù)，比如飛行試驗數(shù)據(jù)。因此如何構(gòu)造數(shù)據(jù)，并在小樣本集上對網(wǎng)絡(luò)進(jìn)行訓(xùn)練是深度學(xué)習(xí)應(yīng)用中亟待解決的問題。另外，如3.1節(jié)所述，數(shù)據(jù)提取及表達(dá)方式直接關(guān)系到深度學(xué)習(xí)建模效果，因此探索合理高效的特征提取方式也是重要研究方向。

2) 神經(jīng)網(wǎng)絡(luò)超參數(shù)和激活函數(shù)選取。雖然提取時、空特征的最佳網(wǎng)絡(luò)形式分別為LSTM和CNN，然而對于一定量的樣本規(guī)模來說，設(shè)置幾層網(wǎng)絡(luò)、每層網(wǎng)絡(luò)設(shè)置多少個神經(jīng)元可以達(dá)到最好的學(xué)習(xí)效果是沒有通用解決方法的。實際使用中需要耗費大量資源反復(fù)嘗試，這無疑為深度學(xué)習(xí)應(yīng)用帶來了障礙。激活函數(shù)方面，已有研究表明不同激活函數(shù)對建模能力是有較大影響的[84-86]。是否有較通用的網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計模式，針對特定問題，哪種激活函數(shù)可以達(dá)到最佳的建模效果，這些都是對于實際應(yīng)用具有重要價值的研究方向。

3) 訓(xùn)練方法。3.5節(jié)中的相關(guān)研究表明，對抗訓(xùn)練可以提升深度網(wǎng)絡(luò)學(xué)習(xí)能力。然而對抗訓(xùn)練難以收斂，且并非所有問題都適合采取對抗訓(xùn)練的方式。另外，訓(xùn)練中所用到的損失函數(shù)構(gòu)造可以明顯改善深度學(xué)習(xí)效果。因此如何在對抗帶來的好處與訓(xùn)練難度之間平衡，如何針對特定問題、特定網(wǎng)絡(luò)結(jié)構(gòu)和訓(xùn)練方式構(gòu)造相適宜的損失函數(shù)，將會對深度學(xué)習(xí)效果產(chǎn)生重要影響。

4) 可靠性問題。深度學(xué)習(xí)被應(yīng)用的大部分場景均是在數(shù)據(jù)層面進(jìn)行數(shù)據(jù)特性挖掘，由于沒有可靠的數(shù)學(xué)物理方程作為保證，神經(jīng)網(wǎng)絡(luò)的可靠性與穩(wěn)定性很大程度限制了深度學(xué)習(xí)在對安全性有較高要求的領(lǐng)域中應(yīng)用。因此對深度學(xué)習(xí)可靠性進(jìn)行分析也是擺在研究者面前的一大難題。

5) 深度學(xué)習(xí)與流體力學(xué)的深度融合。在第2節(jié)介紹了從流體力學(xué)控制方程出發(fā)的深度學(xué)習(xí)技術(shù)，然而這些方法目前只能應(yīng)用于一些特殊條件下，且沒有與具體問題特性結(jié)合起來。深度學(xué)習(xí)與各學(xué)科的融合不僅會為實際問題帶來新的解決手段，對各學(xué)科的發(fā)展也具有重要意義。

6) 流體力學(xué)標(biāo)準(zhǔn)數(shù)據(jù)集的構(gòu)造。為了更方便地進(jìn)行深度學(xué)習(xí)研究與檢驗，在圖像處理領(lǐng)域有著名的ImageNet數(shù)據(jù)集。目前對于流體力學(xué)的深度學(xué)習(xí)研究每次均需要耗費大量資源構(gòu)造數(shù)據(jù)集；且由于數(shù)據(jù)來源不同，方法的檢驗與改進(jìn)面臨很大障礙。因此流體力學(xué)相關(guān)標(biāo)準(zhǔn)數(shù)據(jù)集的提出對深度學(xué)習(xí)的發(fā)展將具有重要意義。

7) 空氣動力數(shù)字孿生(Aerodynamic Digital Twin)技術(shù)。數(shù)字孿生應(yīng)用場景為流體力學(xué)人工智能建模技術(shù)提出了全新的機遇和挑戰(zhàn)?？諝鈩恿W(xué)作為飛行器、船舶和汽車等先進(jìn)運載和能源動力裝備發(fā)展的先行官和關(guān)鍵基礎(chǔ)支撐，毋庸置疑是構(gòu)建面向全壽命周期的高端裝備數(shù)字孿生中不可或缺的一環(huán)。通過與人工智能建模技術(shù)相結(jié)合，有可能發(fā)展出準(zhǔn)實時、交互式、動態(tài)進(jìn)化、高保真、數(shù)據(jù)驅(qū)動的具備大數(shù)據(jù)處理能力和進(jìn)化能力的空氣動力數(shù)字孿生系統(tǒng)。

8) 數(shù)據(jù)驅(qū)動的流體力學(xué)研究新范式構(gòu)建。以深度學(xué)習(xí)技術(shù)為代表的人工智能技術(shù)本身仍處于發(fā)展階段，過去幾年其在各行各業(yè)取得了令人矚目的成就，顯示出深度學(xué)習(xí)技術(shù)的強大潛力。流體力學(xué)深度學(xué)習(xí)技術(shù)方興未艾呈現(xiàn)百花齊放的良好局面，但仍然處于起步和探索階段，與工業(yè)界對流體力學(xué)人工智能技術(shù)的能力期望仍具有較大差距。與新一代可解釋人工智能技術(shù)相結(jié)合的數(shù)據(jù)驅(qū)動流體力學(xué)研究新范式的建立，則更需要學(xué)術(shù)界和工業(yè)界的科研工作者的共同努力。