陳健 王東東 劉宇翔 陳 俊

(廈門大學(xué)土木工程系,福建廈門 361005)

(廈門市交通基礎(chǔ)設(shè)施智能管養(yǎng)工程技術(shù)研究中心,福建廈門 361005)

引言

無網(wǎng)格法采用僅需位置信息的系列節(jié)點構(gòu)造空間離散,具有離散形式靈活、形函數(shù)高階光滑、計算精度高、后處理簡潔等優(yōu)點,因而在結(jié)構(gòu)靜動力分析方面得到了快速的發(fā)展和應(yīng)用[1-9].但無網(wǎng)格形函數(shù)通常不是多項式、形式比較復(fù)雜,其影響域一般也大于傳統(tǒng)有限元形函數(shù),因而無網(wǎng)格法的計算效率相對較低[10-11].再者,無網(wǎng)格動力分析進一步將無網(wǎng)格空間離散和時間離散方法相結(jié)合,例如常用的Newmark 方法,需要逐步遞推求解每個時間步的動力響應(yīng),更加劇降低了無網(wǎng)格法的計算效率[3,6].同時,每個無網(wǎng)格動力分析過程都是針對特定問題,給定條件的任何改變都需要對該問題重新進行遞推動力計算,存在大量的冗余工作.因而提高無網(wǎng)格動力分析效率是無網(wǎng)格法研究領(lǐng)域的一個重要問題.

近年來,隨著大數(shù)據(jù)與人工智能技術(shù)的迅速發(fā)展,數(shù)據(jù)驅(qū)動與人工智能計算力學(xué)的結(jié)合[12-13]逐漸興起,有力促進了計算力學(xué)新方法的研究.例如,Oishi和Yagawa[14]利用機器學(xué)習(xí)模型處理復(fù)雜數(shù)據(jù)關(guān)系的強大能力,提出了一種基于人工神經(jīng)網(wǎng)絡(luò)的新型高效有限元剛度矩陣數(shù)值積分方法.李想等[15]探討了機器學(xué)習(xí)與計算力學(xué)結(jié)合的不同形式.Tang 等[16]提出了一種基于數(shù)據(jù)驅(qū)動,能夠?qū)⒁痪S數(shù)據(jù)有效推廣至三維情況的非線性彈性力學(xué)模型.Feng 等[17]將相場模擬與深度學(xué)習(xí)相結(jié)合,通過相場模擬準(zhǔn)備結(jié)構(gòu)裂紋擴展的圖像數(shù)據(jù),來訓(xùn)練卷積網(wǎng)絡(luò)模型,從而判斷出結(jié)構(gòu)的剩余使用壽命.嚴(yán)子銘等[18]通過多種機器學(xué)習(xí)方法建立了頁巖氣采收率合理預(yù)測模型.陽杰等[19]應(yīng)對數(shù)據(jù)驅(qū)動計算力學(xué)模型的訓(xùn)練階段,提出了一種分層數(shù)據(jù)搜索方案,通過將訓(xùn)練集進行切割形成多層級子數(shù)據(jù)庫,來降低模型訓(xùn)練過程中數(shù)據(jù)過濾的時間.黃鐘民等[20]采用神經(jīng)網(wǎng)絡(luò)方法研究面內(nèi)變剛度功能梯度薄板彎曲問題.

在提高無網(wǎng)格法的計算效率方面,除了發(fā)展高效無網(wǎng)格算法[6-10],機器學(xué)習(xí)領(lǐng)域的進展也為無網(wǎng)格法精度和效率的提升提供了新的途徑.例如,Wang和Zhang[21]將機器學(xué)習(xí)中的全連接神經(jīng)網(wǎng)絡(luò)近似看作為形函數(shù),提出了一種無網(wǎng)格形式的配點法.該方法無需事先假定形函數(shù)形式,其將網(wǎng)絡(luò)損失函數(shù)采用變分形式構(gòu)造,進而通過訓(xùn)練確定網(wǎng)絡(luò)超參數(shù)最終獲取數(shù)值解.Brink 等[22]將深度學(xué)習(xí)與配點法相結(jié)合,采用神經(jīng)網(wǎng)絡(luò)來確定基函數(shù)形式以及相關(guān)權(quán)重,在網(wǎng)絡(luò)訓(xùn)練完畢后對非線性偏微分方程進行逼近求解.最近,劉宇翔等[23]基于卷積神經(jīng)網(wǎng)絡(luò)方法,提出了伽遼金無網(wǎng)格法形函數(shù)影響域的一種機器學(xué)習(xí)優(yōu)化選擇策略.在此基礎(chǔ)上,本文通過研究無網(wǎng)格動力分析的機器學(xué)習(xí)代理模型,加速無網(wǎng)格動力分析的計算過程.

循環(huán)神經(jīng)網(wǎng)絡(luò)(recurrent neural network,RNN)是一類用于處理序列數(shù)據(jù),具有記憶功能的遞歸神經(jīng)網(wǎng)絡(luò),其內(nèi)部信息通常按照數(shù)據(jù)序列順序方向進行傳遞;由于其內(nèi)置循環(huán)模塊具有記憶性及參數(shù)共享等性質(zhì),因此在對序列信息的特征進行提取時具有良好的效果[24-25].該網(wǎng)絡(luò)作為深度學(xué)習(xí)中的一類典型算法,被廣泛應(yīng)用于自然語言處理[26]、包含時間序列信息的數(shù)據(jù)特征提取[27]等.傳統(tǒng)的循環(huán)神經(jīng)網(wǎng)絡(luò)在單個時間步上通常以一維向量的數(shù)據(jù)形式實現(xiàn)網(wǎng)絡(luò)的訓(xùn)練和傳遞.然而,若將卷積神經(jīng)網(wǎng)絡(luò)(convolutional neural network,CNN) 引入循環(huán)神經(jīng)網(wǎng)絡(luò),前者網(wǎng)絡(luò)包含的卷積核具有權(quán)值共享特性,可以有效降低網(wǎng)絡(luò)超參數(shù)訓(xùn)練量,防止過擬合情況發(fā)生,并且無需將多維數(shù)據(jù)信息展開為一維信息進行傳遞,充分保留了原始數(shù)據(jù)的空間信息.因此兩種網(wǎng)絡(luò)有機融合形成的循環(huán)卷積神經(jīng)網(wǎng)絡(luò)能夠處理任意維度的數(shù)據(jù)形式[28],并充分提取數(shù)據(jù)在時間和空間上的雙重特征,具有更廣泛的適用性[29].

本文首先對比分析了無網(wǎng)格離散數(shù)據(jù)與深度學(xué)習(xí)訓(xùn)練樣本、采用Newmark 方法的無網(wǎng)格動力分析流程與循環(huán)卷積神經(jīng)網(wǎng)絡(luò)序列信息傳遞模式之間的關(guān)系,揭示了無網(wǎng)格動力分析與循環(huán)卷積神經(jīng)網(wǎng)絡(luò)在計算流程與信息傳遞等方面具有輸入和輸出的內(nèi)在一致性,建立了兩者的本征聯(lián)系.隨后,基于該本征聯(lián)系發(fā)展了與無網(wǎng)格法相匹配的循環(huán)卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計方法,進而提出了一種無網(wǎng)格動力分析的循環(huán)卷積神經(jīng)網(wǎng)絡(luò)代理模型.無網(wǎng)格動力分析的循環(huán)卷積神經(jīng)網(wǎng)絡(luò)代理模型充分吸收了無網(wǎng)格法節(jié)點模型離散靈活、數(shù)值樣本精度高的優(yōu)點,能夠在保證精度的前提下顯著提升無網(wǎng)格動力分析的計算效率.

1 無網(wǎng)格動力分析基本方程

1.1 無網(wǎng)格形函數(shù)

其中c(x) 為待定系數(shù)向量,φ(xI-x) 為核函數(shù),本文中選為三次樣條函數(shù)[1].p[p](x)為p階基向量

待定系數(shù)向量c(x)可通過施加下面的p階一致性或完備性條件進行求解[2-3]

容易證明,式(3)等價于

進一步將形函數(shù)表達(dá)式(1)代入式(4),有

式中A(x) 為矩量矩陣

由式(5)可得c(x)=A-1(x)p(0),則式(4)定義的再生核無網(wǎng)格形函數(shù)變?yōu)?/p>

注意到無網(wǎng)格形函數(shù) ΨI(x) 通常不具有插值特性,即 ΨI(xJ)≠δIJ,因而需要采用附加方式來施加位移邊界條件[5].

1.2 彈性動力學(xué)控制方程及無網(wǎng)格離散

不失一般性,這里以彈性力學(xué)問題為例討論無網(wǎng)格法動力分析的基本方程.對于空間區(qū)域 Ω 的彈性力學(xué)問題,其運動方程為

其中,i,j=1,2,···,nsd,nsd為空間維度,ρ為密度,ui為位移分量,σij為應(yīng)力分量,bi為體力分量,u˙i和u¨i分別表示速度和加速度分量.T是動力分析總時長,和分別為強制邊界和自然邊界,nj為自然邊界 Γhi的外法向量分量,和分別為強制和自然邊界上給定的位移和面力分量,u0i和u˙0i為初始位移和速度分量.

如前所述,無網(wǎng)格形函數(shù)的非插值特性使得無網(wǎng)格法難以直接施位移制邊界條件.針對該問題,本文采用Nitsche 變分方法引入位移邊界條件,式(8)對應(yīng)的等效積分弱形式為[30]

其中 α 為位移邊界條件對應(yīng)的罰因子.Nitsche 變分方法不僅保持了離散方程的對稱性,同時降低了計算結(jié)果對罰因子的敏感性.

基于式(7)的無網(wǎng)格形函數(shù),位移和加速度變量的離散形式為

將式(10)和式(11)代入式(9),有

其中,a=為加速度系數(shù)向量,M和K為質(zhì)量矩陣和剛度矩陣,f為力向量,它們分別對應(yīng)的元素為

對于平面應(yīng)力問題,式(13)～ 式(15)中的形函數(shù)矩陣 ΨI、位移梯度矩陣BI、方向矩陣N和彈性矩陣D分別為

其中E和ν 表示彈性模量和泊松比.注意到式(13)中定義的質(zhì)量和剛度矩陣都需要采用數(shù)值積分進行計算,但是由于無網(wǎng)格形函數(shù)不是多項式,因而傳統(tǒng)高斯積分方法并不能保證無網(wǎng)格法數(shù)值積分的準(zhǔn)確性.

為了提高計算效率,同時滿足積分約束條件,即準(zhǔn)確求解形式為p次多項式的解析解所需的積分條件,本文采用再生光滑梯度積分方法進行空間積分[10],將BI中的標(biāo)準(zhǔn)形函數(shù)梯度ΨI,x替換為再生光滑梯度[10].同時,為了保證數(shù)值實現(xiàn)的一致性,這里質(zhì)量矩陣也采用再生光滑梯度積分方法進行數(shù)值積分.注意到再生光滑梯度積分方法的積分采樣點具有全域等效積分點最少的特點,因此能夠顯著提高計算效率并保證最優(yōu)收斂性[11].在再生光滑梯度理論框架下[10],無網(wǎng)格形函數(shù)的再生光滑梯度可以表示為

其中 ΩC為背景數(shù)值積分單元,ΓC為ΩC的邊界,ni表示 ΓC的外法向量分量,p[p-1] 為(p-1) 階基函數(shù)向量.方便起見,一般選三角形積分單元,此時GC可以解析計算.另一方面,對于向量,采用全域優(yōu)化的內(nèi)嵌一致的顯式高效數(shù)值積分方法進行計算[10].

對于時間域,本文采用Newmark 法進行離散分析.便于時域積分起見,將時間域劃分成一組等距的時間間隔,例如NT表示總的時間步數(shù).Newmark 時間積分方法的預(yù)測-校正離散格式為[31]

其中β和γ為積分參數(shù),本文算例中取γ=1/2,β=1/4,此時Newmark 法即平均加速度法,具有二階精度.將式(23)代入式(12)即可得到離散的無網(wǎng)格動力方程

根據(jù)式(24)以及初始位移和速度條件,便可求出動力系統(tǒng)的整個時域響應(yīng).但是由于無網(wǎng)格法本身計算的復(fù)雜性,因此動力計算過程的效率較低,如何提升動力問題的計算效率是無網(wǎng)格法研究領(lǐng)域的一個重要問題.

2 全卷積與循環(huán)神經(jīng)網(wǎng)絡(luò)

2.1 全卷積神經(jīng)網(wǎng)絡(luò)

卷積層與轉(zhuǎn)置卷積層是全卷積神經(jīng)網(wǎng)絡(luò)最具代表性的結(jié)構(gòu).與經(jīng)典的卷積神經(jīng)網(wǎng)絡(luò)[17]相比,全卷積神經(jīng)網(wǎng)絡(luò)將前者網(wǎng)絡(luò)結(jié)構(gòu)中最后的全連接層部分替換為卷積層.如圖1 所示,若卷積步長為1,其卷積層中的卷積運算過程為

圖1 全卷積神經(jīng)網(wǎng)絡(luò)中的卷積與轉(zhuǎn)置卷積操作Fig.1 Convolution and transpose convolution operations in full convolution neural networks

其中xIJ表示矩陣x中位置為 (I,J) 的子矩陣,zIJ表示矩陣z中位置為 (I,J) 的元素;w為權(quán)重矩陣,又被稱為卷積核,卷積核的尺寸與子矩陣xIJ的尺寸相同.式中“ :”表示雙點積,即矩陣對應(yīng)位置的元素相乘后再相加.

同時可見與卷積層相對應(yīng)的轉(zhuǎn)置卷積層中的運算過程,其計算方式是將輸入樣本尺寸通過填充0 元素進行放大后,再進行卷積操作.值得指出的是,轉(zhuǎn)置卷積并不真正是卷積的逆運算,例如對于圖中的輸入樣本x,經(jīng)過轉(zhuǎn)置卷積操作之后并不能恢復(fù)到原始的數(shù)值,只保留有原始的形狀,即兩種卷積過程只在形式上存在一定聯(lián)系,而對應(yīng)數(shù)值一般并不相同.

2.2 循環(huán)神經(jīng)網(wǎng)絡(luò)

循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)是一種應(yīng)用于自然語言處理、語音識別等領(lǐng)域的特殊神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)[25].與全連接神經(jīng)網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)相比,循環(huán)神經(jīng)網(wǎng)絡(luò)通過引入循環(huán)模塊實現(xiàn)了一種“記憶”功能,即當(dāng)前時間步的輸出不僅與當(dāng)前時間步的輸入有關(guān),還與之前所有歷史時間步的輸入-輸出信息相關(guān)聯(lián).

同時,為了解決普通循環(huán)神經(jīng)網(wǎng)絡(luò)的長期依賴問題,在此引入長短期記憶神經(jīng)網(wǎng)絡(luò)(long short-term memory,LSTM)[24],以緩解隨著循環(huán)次數(shù)增多而產(chǎn)生的梯度消失問題,進而更好地利用前面的歷史信息來加強網(wǎng)絡(luò)的學(xué)習(xí).如圖2 所示,LTSM 網(wǎng)絡(luò)的特點在于通過其內(nèi)部被稱為“門”的結(jié)構(gòu),對信息進行選擇性遺忘、增填及更新,其中包含“遺忘門(forget gate)”、“輸入門(input gate)”和“輸出門(output gate)”.循環(huán)模塊中包含的 S和T 分別表示典型的S i g m o i d和T a n h 激活函數(shù):S(x)=1/(1+e-x),T(x)=(ex-e-x)/(ex+e-x),網(wǎng)絡(luò)中主要通過這兩個激活函數(shù)對歷史信息進行篩選控制.下面對各個“門”進行簡要分析.

圖2 LSTM 循環(huán)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)框架與循環(huán)模塊Fig.2 Schematic illustartion of LSTM and recurrent module

首先,信息經(jīng)過遺忘門的過程可描述為[25]

其中,xIJ(tn+1) 為時間步tn+1時刻輸入變量x(tn+1) 的(I,J)子矩陣,hIJ(tn) 為上一時間步tn時刻輸出變量h(tn)的 (I,J) 子矩陣.wx f和wh f為輸入變量x和h對應(yīng)的卷積核,βf為二者卷積核偏置之和.該過程讀取上一時間步輸出h(tn)和新時間步輸入x(tn+1),通過學(xué)習(xí)訓(xùn)練輸出數(shù)值為0～ 1 之間的遺忘因子f(tn+1),并與上一時間步的單元狀態(tài)C(tn) 相乘實現(xiàn)選擇性遺忘功能.

對于輸入門,其功能是控制當(dāng)前時間步單元狀態(tài)C(tn+1) 的輸入信息,在此過程中,輸入變量x(tn+1),h(tn)通過卷積核及偏置wxi,whi,βi篩選,留下可進入的候補信息i(tn+1)

此外,通過卷積核wxg,whg及對應(yīng)偏置量βg的篩選,留下可進入的候補信息g(tn+1) 為

最后,輸入變量x(tn+1)和h(tn) 經(jīng)過“輸出門”,通過卷積核wxo和who及偏置量βo來提取出直接組成最后輸出h(tn+1) 的部分信息o(tn+1)

因此更新后的單元狀態(tài)C(tn+1)和輸出h(tn+1) 分別為

變量C(tn+1)和h(tn+1) 分別將作為長期記憶和短期記憶,進入到下一時間步的循環(huán)之中.

3 無網(wǎng)格動力分析的循環(huán)卷積神經(jīng)網(wǎng)絡(luò)代理模型

3.1 無網(wǎng)格數(shù)據(jù)與機器學(xué)習(xí)模型樣本的匹配性

網(wǎng)絡(luò)模型的預(yù)測能力依賴于訓(xùn)練數(shù)據(jù)集的質(zhì)量.合適的數(shù)據(jù)集不僅需要數(shù)據(jù)內(nèi)部存在本征聯(lián)系,而且數(shù)據(jù)蘊含的多樣性同樣重要.在準(zhǔn)備神經(jīng)網(wǎng)絡(luò)的訓(xùn)練數(shù)據(jù)集時,需預(yù)先確定訓(xùn)練樣本的尺寸大小,與之對應(yīng)的是相同尺寸大小的離散數(shù)據(jù)量和訓(xùn)練樣本.同時,為了使得神經(jīng)網(wǎng)絡(luò)的預(yù)測能力具有高度泛化特性,需要在準(zhǔn)備數(shù)據(jù)集時盡可能地考慮工況的多樣性,例如邊界條件施加方式、計算區(qū)域形狀等,并通過不斷模擬這些條件的變化來持續(xù)豐富數(shù)據(jù)集.

如圖3 所示,無網(wǎng)格法僅通過節(jié)點離散進行計算分析,在空間離散形式上具有高度靈活性,能夠確保節(jié)點數(shù)目與機器學(xué)習(xí)樣本尺寸的匹配性,同時由于無網(wǎng)格形函數(shù)的高階光滑特性,可獲得高精度的數(shù)值結(jié)果樣本.與之相對應(yīng),基于有序單元離散的有限元法,在節(jié)點數(shù)目確定后,對于不同計算模型,難以保證在離散分析過程中不出現(xiàn)為了匹配節(jié)點數(shù)目與機器學(xué)習(xí)樣本尺寸而產(chǎn)生的單元畸變,從而導(dǎo)致結(jié)果樣本精度的明顯下降.

圖3 數(shù)值計算產(chǎn)生數(shù)據(jù)與機器學(xué)習(xí)訓(xùn)練樣本之間的對應(yīng)關(guān)系Fig.3 Schemetic illustration of the corresponding relationship between the data generated by numerical simulations and the machine learning training samples

3.2 無網(wǎng)格動力分析與長短期記憶神經(jīng)網(wǎng)絡(luò)傳遞過程的本征聯(lián)系

在采用Newmark 法的無網(wǎng)格動力分析中,可將整個流程分為計算階段和傳遞階段,兩個階段交替進行.

(1) Newmark 方法計算階段

將每個新時間步的外荷載fn+1和上一時間步求得的位移、速度和加速度向量 (dn,vn,an) 作為輸入,可以通過式(22)～ 式(24)得到該時間步的位移、速度和加速度 (dn+1,vn+1,an+1) .方便起見,將位移和速度更新過程表示為

其中,N(·) 表示式(22)～ 式(24)的計算過程.

(2) Newmark 方法傳遞階段

當(dāng)從計算階段求得第n+1 個時間步的位移、速度和加速度 (dn+1,vn+1,an+1),該信息將繼續(xù)沿著時間坐標(biāo)傳遞,參與到第n+2 個時間步的計算階段,之后循環(huán)往復(fù)直至計算結(jié)束.

綜合Newmark 法的計算階段和傳遞階段,可將采用Newmark 法的無網(wǎng)格動力分析作為一個在離散時間點上進行計算的序列問題,其中每一個時間步的計算都需要利用上一步計算得到的歷史信息.

與采用Newmark 法的無網(wǎng)格動力分析相對應(yīng),長短期記憶神經(jīng)網(wǎng)絡(luò)同樣可以分為計算階段和傳遞階段.

(1) LSTM 網(wǎng)絡(luò)計算階段

對于長短期記憶神經(jīng)網(wǎng)絡(luò),在計算階段中由上一步的輸入變量Cn和hn,再結(jié)合新時間步的輸入變量zn+1,給出該時間步的輸出變量Cn+1和hn+1

其中,其中 L(·) 表示式(26)～ 式(31)的計算過程.

(2) LSTM 網(wǎng)絡(luò)傳遞階段

在長短期記憶神經(jīng)網(wǎng)絡(luò)中,經(jīng)過第n+1 次循環(huán)的計算階段,可以得到單元狀態(tài)Cn+1和輸出變量hn+1,其中包含了經(jīng)前若干模塊逐個處理后的信息,然后繼續(xù)將信息向第n+2 次循環(huán)傳遞長期和短期記憶.

圖4 分別給出了采用Newmark 方法的無網(wǎng)格動力分析過程與長短期記憶神經(jīng)網(wǎng)絡(luò)傳遞過程.兩者的對比分析表明,無網(wǎng)格動力分析與長短期記憶神經(jīng)網(wǎng)絡(luò)在計算流程與信息傳遞等方面具有內(nèi)在一致性和本征聯(lián)系,例如荷載與輸入相對應(yīng),位移與輸出相對應(yīng),加速度和速度與單元狀態(tài)相對應(yīng),Newmark 時間積分與長短期記憶循環(huán)模塊相對應(yīng)等.此外,注意到無網(wǎng)格形函數(shù)的影響域和卷積神經(jīng)網(wǎng)絡(luò)核函數(shù)的感受野也存在相似關(guān)系[23].因此,可以利用該本征聯(lián)系,發(fā)展無網(wǎng)格動力分析的循環(huán)卷積神經(jīng)網(wǎng)絡(luò)代理模型,從而提高無網(wǎng)格動力分析的計算效率.

圖4 無網(wǎng)格動力分析與長短期記憶神經(jīng)網(wǎng)絡(luò)之間的本征聯(lián)系Fig.4 Intrinsic relationships between dynamic meshfree analysis and long short-term memory neural network

3.3 基于循環(huán)卷積神經(jīng)網(wǎng)絡(luò)的無網(wǎng)格法代理模型設(shè)計

將全卷積神經(jīng)網(wǎng)絡(luò)與循環(huán)神經(jīng)網(wǎng)絡(luò)進行結(jié)合,建立無網(wǎng)格動力分析代理模型,目的是分別提取數(shù)據(jù)的空間信息和時間信息,對無網(wǎng)格動力分析過程進行預(yù)測.針對代理模型構(gòu)建,首先應(yīng)匹配網(wǎng)絡(luò)的輸入輸出樣本尺寸和無網(wǎng)格離散形式.在網(wǎng)絡(luò)訓(xùn)練過程中,將每個離散時間點上的力向量矩陣作為輸入,以位移、速度、加速度等場變量的數(shù)值解矩陣作為輸出進行學(xué)習(xí).當(dāng)所設(shè)計的神經(jīng)網(wǎng)絡(luò)訓(xùn)練完成之后,即可封裝成為代理模型,然后向其輸入任意離散時間步上的力向量矩陣,就可快速預(yù)測出當(dāng)前時刻對應(yīng)的無網(wǎng)格數(shù)值解.

圖5 所示為無網(wǎng)格動力分析代理模型框架圖,其中無網(wǎng)格動力分析的循環(huán)卷積神經(jīng)網(wǎng)絡(luò)設(shè)計借鑒了U-Net 網(wǎng)絡(luò)結(jié)構(gòu)中的卷積過程,同時引入長短期記憶循環(huán)模塊.在該網(wǎng)絡(luò)中,首先通過多個“卷積-激活函數(shù)-最大池化”模塊,將輸入信息進行壓縮得到特征,然后將壓縮后的特征輸入至長短期記憶循環(huán)模塊中提取時序信息,最后通過“逆卷積-激活函數(shù)-最大池化”模塊過程將特征信息進行擴充得到輸出,其中卷積與轉(zhuǎn)置卷積模塊使用的激活函數(shù)為Leaky ReLU 函數(shù)[32].采用MSE(mean squared error)誤差來衡量迭代學(xué)習(xí)過程的收斂性,其定義為

圖5 無網(wǎng)格動力分析的循環(huán)卷積神經(jīng)網(wǎng)絡(luò)代理模型框架Fig.5 The structure of recurrent convolution neural network surrogate model for dynamic meshfree analysis

4 數(shù)值算例

4.1 數(shù)據(jù)集準(zhǔn)備

為了說明無網(wǎng)格動力分析的循環(huán)卷積神經(jīng)網(wǎng)絡(luò)代理模型的構(gòu)造過程和預(yù)測準(zhǔn)確性,本文考慮圖6所示的4 種不同區(qū)域的彈性力學(xué)問題作為訓(xùn)練目標(biāo),其中彈性模量和泊松比分別為E=2×107,ν=0.3 .算例均采用 32×32=1024 個節(jié)點的無網(wǎng)格離散,然后通過無網(wǎng)格計算準(zhǔn)備訓(xùn)練數(shù)據(jù),與神經(jīng)網(wǎng)絡(luò)的輸入輸出尺寸相匹配.這里考慮不同形狀計算區(qū)域是為了增強網(wǎng)絡(luò)的預(yù)測能力,提高代理模型的泛用性.本文代理模型的泛用性主要包含兩方面,其一針對的是數(shù)據(jù)結(jié)構(gòu),即所提基于無網(wǎng)格法的代理模型可接受任意維度的數(shù)據(jù).當(dāng)求解區(qū)域的形狀、邊界條件等發(fā)生改變時,僅需重新準(zhǔn)備相應(yīng)數(shù)據(jù)集,無需改變網(wǎng)絡(luò)結(jié)構(gòu)便可進行訓(xùn)練,完成無網(wǎng)格動力分析數(shù)值解預(yù)測.其二針對的是求解問題類型,當(dāng)數(shù)據(jù)集經(jīng)過積累變得愈加豐富時,所能求解的問題類型也會隨之增多.同時,本文考慮如下的多項式與三角函數(shù)兩種不同形式的精確解

圖6 無網(wǎng)格動力分析訓(xùn)練集包含的計算模型與離散模型Fig.6 Computational models and discretizations for the training set of dynamic meshfree analysis

其中t∈[0,1].式(35) 中系數(shù)cij和式(36) 中系數(shù){cx,cy,ca}均是定義在一定范圍內(nèi)的隨機數(shù),具體如下

注意到這里給出精確解僅是為不同計算模型提供體力項和邊界條件,而通過無網(wǎng)格計算生成的數(shù)值解,才是用于訓(xùn)練的數(shù)據(jù)集.

無網(wǎng)格計算中采用二次基函數(shù),數(shù)值積分采用RKGSI 積分方法[10],時間積分步長為 Δt=0.002 s,總時間步數(shù)為500.為使網(wǎng)絡(luò)模型更具有代表性,同時簡化網(wǎng)絡(luò)訓(xùn)練,每間隔50 個時間步提取一次信息,共計提取 11 個時間步的信息.此外,為統(tǒng)一輸入輸出矩陣尺寸,將尺寸為 2048×1 的每個時間步的力向量中每一個節(jié)點的值按節(jié)點位置排列成 2×32×32 的矩陣形式.由于共有11 個時間步信息,將這11 個時間步重新排列的力向量矩陣按時間順序堆疊為11×2×32×32的矩陣.同樣,無網(wǎng)格數(shù)值解也按時間順序和節(jié)點位置排列成 11×2×32×32 的矩陣.至此,無網(wǎng)格動力分析的循環(huán)卷積神經(jīng)網(wǎng)絡(luò)訓(xùn)練方案中所有的輸入輸出信息,均已準(zhǔn)備完畢.在本次訓(xùn)練中,對每一種不同的幾何邊界問題,多項式精確解與三角函數(shù)精確解均各計算1500 組樣本,其中1200 組樣本作為訓(xùn)練集,250 組樣本作為驗證集,50 組樣本作為測試集,因此總訓(xùn)練集數(shù)目為4×1200×2=9600組,總驗證集數(shù)目為 4×250×2=2000 組,總測試集數(shù)目為 4×50×2=400 組.

4.2 網(wǎng)絡(luò)具體參數(shù)與訓(xùn)練情況

本文采用基于梯度下降算法的Adam 優(yōu)化器進行網(wǎng)絡(luò)參數(shù)訓(xùn)練.圖7 給出了本文所提出的無網(wǎng)格動力分析網(wǎng)絡(luò)代理模型的具體數(shù)據(jù)傳遞過程.同時,為保證參數(shù)訓(xùn)練效果,對網(wǎng)絡(luò)參數(shù)采用Xavier 正態(tài)分布進行初始化處理,相應(yīng)的網(wǎng)絡(luò)代理模型參數(shù)收斂特性見圖8.圖8 結(jié)果表明,損失函數(shù)MSE的值隨迭代次數(shù)的增加而逐漸減小,因此證明無網(wǎng)格動力分析網(wǎng)絡(luò)代理模型的參數(shù)具有良好的收斂特性,其預(yù)測準(zhǔn)確性隨迭代過程不斷提高.

圖7 無網(wǎng)格動力分析的循環(huán)卷積神經(jīng)網(wǎng)絡(luò)代理模型具體數(shù)據(jù)傳遞過程Fig.7 Detailed data transfer process of the recurrent convolution neural network surrogate model for dynamic meshfree analysis

圖8 無網(wǎng)格動力分析的循環(huán)卷積神經(jīng)網(wǎng)絡(luò)代理模型訓(xùn)練歷史Fig.8 Training history of the recurrent convolution neural network surrogate model for dynamic meshfree analysis

4.3 預(yù)測結(jié)果

圖9～ 圖12 給出了基于無網(wǎng)格動力分析的循環(huán)卷積神經(jīng)網(wǎng)絡(luò)代理模型,對無網(wǎng)格動力分析數(shù)值解的預(yù)測結(jié)果.對于4 種不同形狀區(qū)域的彈性力學(xué)問題,在t=0.6 s和t=1 s 兩個時間節(jié)點分別列出了一組隨機多項式測試樣本的預(yù)測結(jié)果以及一組隨機三角函數(shù)測試樣本的預(yù)測結(jié)果.圖中預(yù)測解和分別表示無網(wǎng)格動力分析的循環(huán)卷積神經(jīng)網(wǎng)絡(luò)代理模型預(yù)測所得到的x和y方向的位移結(jié)果,數(shù)值解和分別表示直接采用無網(wǎng)格動力分析方法得到的x和y方向的位移數(shù)值解,和表示代理模型預(yù)測結(jié)果與無網(wǎng)格法動力分析數(shù)值結(jié)果兩者之間的差異.可以看出,對于解析解為多項式和三角函數(shù)的不同形狀彈性力學(xué)問題,基于無網(wǎng)格動力分析的循環(huán)卷積神經(jīng)網(wǎng)絡(luò)代理模型得到的預(yù)測解和無網(wǎng)格動力分析數(shù)值解均吻合良好,表明本文所提的循環(huán)卷積神經(jīng)網(wǎng)絡(luò)代理模型能很好地預(yù)測彈性動力分析的無網(wǎng)格數(shù)值解.

圖9 方形區(qū)域彈性力學(xué)問題代理模型預(yù)測解與無網(wǎng)格數(shù)值解對比Fig.9 Comparison between the predicted solution of the recurrent convolution neural network surrogate model and the meshless numerical solution of the elasticity problem in the square region

圖9 方形區(qū)域彈性力學(xué)問題代理模型預(yù)測解與無網(wǎng)格數(shù)值解對比(續(xù))Fig.9 Comparison between the predicted solution of the recurrent convolution neural network surrogate model and the meshless numerical solution of the elasticity problem in the square region (continued)

圖10 L 形區(qū)域彈性力學(xué)問題代理模型預(yù)測解與無網(wǎng)格數(shù)值解對比Fig.10 Comparison between the predicted solution of the recurrent convolution neural network surrogate model and the meshless numerical solution of the elasticity problem in the L-shape region

圖11 圓形區(qū)域彈性力學(xué)問題代理模型預(yù)測解與無網(wǎng)格數(shù)值解對比Fig.11 Comparison between the predicted solution of the recurrent convolution neural network surrogate model and the meshless numerical solution of the elasticity problem in the circular region

圖12 四分之一環(huán)形區(qū)域彈性力學(xué)問題代理模型預(yù)測解與無網(wǎng)格數(shù)值解對比Fig.12 Comparison between the predicted solution of the recurrent convolution neural network surrogate model and the meshless numerical solution of the elasticity problem in the quarter annular region

表1 列出了無網(wǎng)格動力分析的循環(huán)卷積神經(jīng)網(wǎng)絡(luò)代理模型各個階段的計算耗時,其中數(shù)值計算及訓(xùn)練數(shù)據(jù)產(chǎn)生使用Intel Core i5-10500 CPU 進行計算,代理模型訓(xùn)練及預(yù)測使用NVIDIA GeForce RTX 3060 進行計算.該代理模型的整個計算流程中包含數(shù)據(jù)集準(zhǔn)備階段、模型超參數(shù)訓(xùn)練階段以及模型預(yù)測階段.如表1 所示,線下準(zhǔn)備訓(xùn)練集耗時占據(jù)了整個流程用時的90%以上,這也是機器學(xué)習(xí)的特征之一,即線下訓(xùn)練數(shù)據(jù)準(zhǔn)備的復(fù)雜性與重要性.但當(dāng)模型訓(xùn)練完成后,由采用代理模型與傳統(tǒng)無網(wǎng)格法同時對400 組動力問題進行線上計算的所用時間比較可見,相比于傳統(tǒng)的無網(wǎng)格動力分析,無網(wǎng)格動力分析的循環(huán)卷積神經(jīng)網(wǎng)絡(luò)代理模型可以大幅減少計算時間,顯著提升計算效率.

表1 彈性問題下無網(wǎng)格法動力分析與循環(huán)卷積神經(jīng)網(wǎng)絡(luò)代理模型訓(xùn)練預(yù)測時間對比Table 1 Comparison of the training and prediction cost between dynamic meshfree analysis and recurrent convolution neural network surrogate model for elastic problems

5 結(jié)論

傳統(tǒng)的無網(wǎng)格動力分析需要計算每一時間步上的結(jié)構(gòu)響應(yīng),并通過循環(huán)傳遞到下一時間步實現(xiàn)整個時間域上的動力響應(yīng)分析.由于無網(wǎng)格法形函數(shù)較為復(fù)雜,質(zhì)量和剛度矩陣帶寬也大于對應(yīng)階次的有限元法,因而動力分析效率較低.針對該問題,本文系統(tǒng)研究了無網(wǎng)格動力分析過程與長短期記憶神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)預(yù)測過程之間存在的內(nèi)在相似性和本征聯(lián)系,同時充分利用無網(wǎng)格法在產(chǎn)生多樣化訓(xùn)練樣本數(shù)據(jù)方面的精度和離散靈活性優(yōu)勢,提出了卷積模塊與循環(huán)模塊并存的循環(huán)卷積神經(jīng)網(wǎng)絡(luò)作為無網(wǎng)格動力分析代理模型.基于無網(wǎng)格動力分析的循環(huán)卷積神經(jīng)網(wǎng)絡(luò)代理模型,可以高效便捷地獲取任意時刻的無網(wǎng)格動力分析響應(yīng).文中通過4 種不同形狀的彈性力學(xué)問題的數(shù)據(jù)學(xué)習(xí),構(gòu)建了相應(yīng)的無網(wǎng)格動力分析的循環(huán)卷積神經(jīng)網(wǎng)絡(luò)代理模型.結(jié)果表明,在保證精度的情況下,本文提出的無網(wǎng)格動力分析的循環(huán)卷積神經(jīng)網(wǎng)絡(luò)代理模型可以大幅提高無網(wǎng)格動力分析的計算效率.