李峻屹

(陜西警官職業(yè)學院 信息技術系， 陜西 西安 710021)

0 引言

偏微分方程在物理化學、金融、工程等領域都有非常廣泛的應用.但是針對實際應用問題，方程往往不存在解析解.因此對偏微分方程進行數(shù)值求解，傳統(tǒng)的數(shù)值計算方法如有限差分方法[1,2]、有限體積方法[3,4]、有限元方法等[5,6]，這類方法嚴格依賴于網(wǎng)格的屬性.但在許多情況下生成網(wǎng)格非常耗時，特別是對于復雜區(qū)域.為了解決這一困難，學者們提出了各種無網(wǎng)格方法.如無網(wǎng)格局部Petrov-Galerkin，光滑粒子流體動力學方法[7]等，但是都伴隨著耗時間、計算量大等棘手問題.

隨著可用數(shù)據(jù)和計算資源的爆炸性增長，機器學習和數(shù)據(jù)分析的最新進展已經(jīng)在不同的科學學科中產(chǎn)生了革命性的結果，包括圖像識別、自然語言處理、認知科學和基因組學.然而，在分析復雜的物理、生物或工程系統(tǒng)的過程中，數(shù)據(jù)采集的成本往往過高，不可避免地面臨著在部分信息下得出結論和做出決策的挑戰(zhàn).在這種小數(shù)據(jù)區(qū)域中，絕大多數(shù)最先進的機器學習技術(例如，深度/卷積/遞歸神經(jīng)網(wǎng)絡)缺乏魯棒性，無法提供任何收斂保證.訓練一個深度學習算法，從幾個潛在的非常高維的輸入和輸出數(shù)據(jù)對中準確地識別非線性映射的任務看起來是不可行的.

為了使這一任務變得可處理，在許多與物理和生物系統(tǒng)建模有關的案例中，存在著大量的先驗知識，可以將這種結構化的先驗信息編碼到學習算法中，即能夠放大和充分利用所看到數(shù)據(jù)的信息內(nèi)容，使算法能夠快速地尋找到最優(yōu)的解決方案，并且即使在只有少數(shù)先驗信息的情況下，也能夠很好地利用.結構化先驗信息構建具有物理信息的高效的學習算法已經(jīng)在[8-10]中有所體現(xiàn).除此之外，也可使用高斯過程回歸[11]設計適合于給定線性算子的函數(shù)表示，并且能夠精確地推斷解并提供不確定性估計.

在更新的研究中，Raissi等[12,13]在推理和系統(tǒng)辨識的背景下提出了對非線性問題的擴展.盡管高斯過程在編碼先驗信息方面具有靈活性，但非線性問題的處理引入了兩個重要的局限性.

首先，在文獻[12,13]中，必須在時間上局部線性化任何非線性項，從而限制了所提出的方法在離散時間域的適用性，并在強非線性區(qū)域中損害了其預測的準確性.

其次，高斯過程回歸的貝葉斯性質(zhì)需要某些先驗假設，這些假設可能會限制模型的表示能力，并導致魯棒性問題，尤其是對于非線性問題[14].而Stokes 問題的算法研究作為流體力學中十分活躍的一個研究方向。受文獻[15]的啟發(fā)，本文主要研究通過PINN結合先驗物理知識求解Stokes問題，用數(shù)值算例驗證本文所采用方法的有效性及高效性.

1 PINNs

眾所周知，求解偏微分方程的數(shù)值方法有很多，如有限差分法、有限元法、譜法等，但這些方法都需要在偏微分方程的平面區(qū)域或者立體表面建立網(wǎng)格，這對于高維問題是復雜甚至不可能的.然而，除了傳統(tǒng)的數(shù)值計算方法，無網(wǎng)格數(shù)值方法如徑向基函數(shù)法，已經(jīng)被證明是不穩(wěn)定的[16].

隨著神經(jīng)網(wǎng)絡的發(fā)展，卷積神經(jīng)網(wǎng)絡、DGM、生成式對抗網(wǎng)絡等深度學習方法的應用越來越廣泛，例如，在圖像處理領域、工程仿真領域、衛(wèi)星圖像檢測領域等.然而，在具體操作中，如文獻[17]所示，正弦函數(shù)始終是最好的激活函數(shù).在這種情況下，PINNs的輸出可以理解為解的廣義Fourier級數(shù)近似.訓練過程實際上是求廣義Fourier近似的最小二乘解.因此，最小二乘Fourier近似的穩(wěn)定性和精度理論可以部分地解釋PINNs的穩(wěn)定性和精確性，這一點已經(jīng)在的大量實驗中得到了證明.

本文利用PINNs作為通用函數(shù)逼近器,其基本結構如圖1所示.即可以在不進行局部線性化的情況下，直接處理非線性問題.根據(jù)神經(jīng)網(wǎng)絡的輸入坐標和模型參數(shù)來區(qū)分以獲得具有一定物理先驗信息的神經(jīng)網(wǎng)絡.約束這類神經(jīng)網(wǎng)絡以遵守任何對稱性、不變性或源自控制觀測數(shù)據(jù)的物理定律，其一般由非定常非線性偏微分方程所描述.這種簡單而強大的結構使我們能夠解決計算科學中的一系列問題，如本文提出使用具有先驗信息的PINNs求解非定常Stokes問題并在后面給出數(shù)值算例.

圖1 神經(jīng)網(wǎng)絡示意圖

2 數(shù)值算例

本文應用PINNs對二維非定常Stokes方程進行求解，進一步證明深度學習求解偏微分方程的可行性和有效性.通過將方程真解攜帶的先驗信息作為神經(jīng)網(wǎng)絡的輸入進行訓練，在一定程度上避免了初始樣本選擇的盲目性.圖2給出了本文所用算法的流程圖.

圖2 算法流程圖

在流體力學中，由黏性不可壓縮流體的動量守恒方程可以得到Navier-Stokes方程.但由于其中包含了非線性項，通常情況下很難求解.因此可根據(jù)實際情況，對模型進行簡化.對于液滴在黏性流體中運動這一類問題，由于雷諾系數(shù)小，可以用Stokes方程來描述.設Ω是屬于Rd(d=2,3,…)的有界子集，?Ω為Dirichlet邊界，ΩT表示[0,T]×Ω；考慮如下二維非定常Stokes問題：

ut-v2u+p=f,

(1)

(2)

u|?ΩT=0,

(3)

u|t=0=0.

(4)

在本文中，d=2,u=u(t,x,y)=(u1,u2),p=p(t,x,y)分別表示速度和壓力，f為右端項.其中式(2)稱為不可壓縮條件，式(3)和(4)分別表示邊界條件和初始條件.T=(0,20],(x,y)=[1,8]×[-2,2].

(5)

式(5)中：N表示樣本個數(shù)，U表示神經(jīng)網(wǎng)絡解，u表示真解.

本文使用每層具有20個神經(jīng)元的PINNs網(wǎng)絡對非定常Stokes問題進行求解，通過計算真解與逼近解之間的誤差定義收斂函數(shù).通過設置固定迭代次數(shù)或者滿足收斂條件來終止訓練.通過式(5)計算真解與逼近解之間的L2誤差，本文只計算速度，壓力類似，因此在本文中不多做贅述.

表1列出了不同網(wǎng)絡層數(shù)及不同時間刻度下，真解速度u與神經(jīng)網(wǎng)絡解U的L2誤差。本文將每個時間點中最優(yōu)異的結果標黑.可以看出，隨著層數(shù)的增加真解與逼近解之間的誤差逐漸收斂到一個穩(wěn)定的數(shù)量級上，并且能夠在不同的時間上保持收斂.

圖3～8給出了在1個、3個和8個隱層下PINNs對速度u1和u2的逼近性能，更準確和生動地反映出了表1的信息.進一步說明了PINNs求解非定常Stokes問題的有效性和高效性.

表1 真解速度u與神經(jīng)網(wǎng)絡解U的L2誤差

(a)u (b)U

(c)ERRL2圖3 u1的L2誤差圖(1個隱層)

(a)u (b)U

(c)ERRL2圖4 u1的L2誤差圖(3個隱層)

(a)u (b)U

(c)ERRL2圖5 u1的L2誤差圖(8個隱層)

(a)u (b)U

(c)ERRL2圖6 u2的L2誤差圖(1個隱層)

(a)u (b)U

(c)ERRL2圖7 u2的L2誤差圖(3個隱層)

(a)u (b)U

(c)ERRL2圖8 u2的L2誤差圖(8個隱層)

3 結論

本文利用 PINN求解Stokes問題，通過網(wǎng)絡優(yōu)化逼近真解與數(shù)值解之間的誤差，并通過數(shù)值模擬證明理論的可行性，為之后高維問題的求解奠定了基礎.