麥嘉琪徐鵬程丁松孫陽庭陸文聰

(1.上海大學(xué)理學(xué)院,上海200444;2.上海大學(xué)材料基因組工程研究院材料信息與數(shù)據(jù)科學(xué)中心,上海200444;3.上海大學(xué)計算機工程與科學(xué)學(xué)院,上海200444;4.復(fù)旦大學(xué)材料科學(xué)系,上海200433)

不銹鋼因其良好的力學(xué)性能和耐腐蝕性能,在石油、化工、核電等領(lǐng)域有著廣泛的應(yīng)用[1].在點焊過程中,不銹鋼的接頭性能,特別是耐腐蝕性能,受其成分、工藝的影響較大.點蝕是不銹鋼局部腐蝕的現(xiàn)象之一[2],會造成不銹鋼的失效,對不銹鋼的危害性非常大.點蝕電位是評價點蝕行為難易程度的重要指標之一[3],國內(nèi)外學(xué)者對此開展了大量的研究[4-6].已有的不銹鋼點蝕電位測量方法主要包括電化學(xué)測試法和化學(xué)浸泡法.但這些方法高度依賴于精密的測量儀器,每一步都需要精準把控技術(shù)細節(jié).影響點蝕電位的因素主要有環(huán)境因素與材料因素兩類[7].因此,獲取環(huán)境和材料的相關(guān)參數(shù)可以實現(xiàn)對點蝕電位的預(yù)測和評價.

隨著材料信息學(xué)的高速發(fā)展,機器學(xué)習(xí)(machine learning,ML)為材料性能的預(yù)測提供了便捷而高效的支持.ML是一種新興的人工智能算法,近年來在材料領(lǐng)域受到了越來越多的關(guān)注.許多通過ML算法預(yù)先對目標性能作出評估的材料已經(jīng)被成功合成.ML算法致力于從給定的輸入與輸出變量中探索出材料性能與其影響因素(包括結(jié)構(gòu)和工藝等參數(shù))之間的關(guān)系,以此來預(yù)測未知材料的性能.例如:Tao等[8]通過梯度提升回歸(gradient boosting regressor,GBR)算法發(fā)現(xiàn)了高產(chǎn)氫速率的光催化鈣鈦礦材料;Yang等[9]通過機器學(xué)習(xí)高通量篩選和模式識別逆投影,設(shè)計出了高硬度的高熵合金,并揭示了重要描述符對目標性能的影響.

本工作利用支持向量回歸(support vector regression,SVR)結(jié)合遺傳算法(genetic algorithm,GA)對不銹鋼的點蝕電位建立了高精度ML模型,以不銹鋼制造過程的元素成分和工藝參數(shù)作為模型的輸入變量,探索并解釋了影響點蝕電位的重要特征.

1 ML算法簡介

1.1 遺傳算法

遺傳算法是模擬達爾文生物進化論和遺傳學(xué)原理的一種全局搜索算法,是特征篩選過程的常用算法之一[10].該算法采用概率化尋優(yōu)的方法,可以自動捕捉優(yōu)化的搜索空間,自適應(yīng)地調(diào)整搜索方向,適用于搜索、優(yōu)化和學(xué)習(xí)等各種問題,并能提供高質(zhì)量的解決方案.基于這些優(yōu)勢,遺傳算法已被廣泛應(yīng)用于組合優(yōu)化、ML和自適應(yīng)控制等領(lǐng)域.

圖1 ML工作流程Fig.1 Workflow of ML

1.2 支持向量機

支持向量機[10](support vector machine,SVM)是基于統(tǒng)計學(xué)習(xí)理論的ML算法,包括支持向量分類(support vector classification,SVC)算法和SVR算法.SVR算法利用不敏感損失函數(shù)ε來避免“過擬合”現(xiàn)象,并且能夠提高模型的泛化能力.懲罰因子C可以對訓(xùn)練誤差超出ε范圍的樣本進行限制[11],通過不同的核函數(shù)方法(線性核函數(shù)、多項式核函數(shù)、徑向基核函數(shù)),將高維空間向量的內(nèi)積轉(zhuǎn)變?yōu)榍笏愕途S向量內(nèi)積的問題.另外,SVR算法特別適合小樣本集建模的情況,能最大限度地提高模型預(yù)測結(jié)果的可靠性和穩(wěn)定性.本工作中的目標變量是連續(xù)性的,因此選用SVR算法,并利用網(wǎng)格搜索方法對其不敏感損失函數(shù)ε、懲罰因子C和徑向基核函數(shù)γ這3個重要參數(shù)進行優(yōu)化.

1.3 評價指標

本工作以留一法交叉驗證(leave-one-out cross validation,LOOCV)的相關(guān)系數(shù)(correlation coefficient)R和均方根誤差(root mean squared error,RMSE)作為模型的評價指標.它們的數(shù)學(xué)定義式為

式中:yei是樣本的實驗值;ypi是樣本的預(yù)測值;是所有樣本實驗值的平均值;是所有樣本預(yù)測值的平均值;N是樣本數(shù)量.

2 點蝕電位的SVR模型

2.1 數(shù)據(jù)處理與特征篩選

本工作的數(shù)據(jù)由復(fù)旦大學(xué)孫陽庭課題組提供,數(shù)據(jù)集中含有30個不銹鋼點蝕電位,共有12種元素成分和11種工藝參數(shù)(見表1).在對數(shù)據(jù)進行預(yù)處理的過程中,將熱處理方式的固溶溫度和固溶時間分別作為兩個特征變量進行討論.另外,采用指示變量標記不同的溶液體系,其中NaCl溶液體系標記為1,其他為0.應(yīng)用本課題組開發(fā)的ExpMiner軟件(http://materials-data-mining.com/home#)隨機劃分訓(xùn)練集和測試集,比例為3∶1,后續(xù)的ML工作均在該軟件上進行.

表1 點蝕電位的元素成分及工藝參數(shù)類別Table 1 Elements and process parameters of pitting potential

特征篩選是ML過程中重要的環(huán)節(jié)之一,篩選出的特征很大程度上會影響ML模型的應(yīng)用效果.本工作通過SVR結(jié)合GA對23個原始特征進行降維,并利用實驗值與LOOCV預(yù)測值之間的相關(guān)系數(shù)R和均方根誤差RMSE來評價特征篩選的結(jié)果,其中R值越大RMSE越小就代表模型擬合的效果越好.變量篩選后,將前10個特征作為后續(xù)建模的特征,其中包括4個元素成分(Cr、Ni、Mo和稀土元素)和6個工藝參數(shù)(拋光尺寸、氯離子濃度、鈉離子濃度、溶液體系、溫度和掃描速率).

2.2 模型與超參數(shù)優(yōu)化

選定最佳特征集后,利用材料的點蝕電位和特征數(shù)據(jù)集來建立預(yù)測點蝕電位的ML模型,并以LOOCV的相關(guān)系數(shù)R和均方根誤差RMSE作為評價指標.為了進一步優(yōu)化模型提高預(yù)報性能,本工作采用網(wǎng)格搜索的方式對算法的超參數(shù)進行優(yōu)化,主要包括不敏感損失函數(shù)ε、懲罰因子C和徑向基核函數(shù)γ,其取值范圍、步長和最佳參數(shù)如表2所示,優(yōu)化前后訓(xùn)練集模型性能的提升效果如圖2所示.超參數(shù)優(yōu)化后的模型訓(xùn)練效果優(yōu)異,相關(guān)系數(shù)R達到0.97,RMSE僅為0.06(見圖3).下一步,將從數(shù)據(jù)集中選擇從未參與過模型訓(xùn)練的8個樣本作為獨立測試集,使用該模型進行預(yù)報,測試模型的魯棒性和泛化能力.由圖4所示的擬合結(jié)果可以明顯看出,預(yù)測值與實驗值十分接近,說明模型的預(yù)測準確度較高,同時具有良好的魯棒性和泛化能力,滿足對點蝕電位預(yù)測的實際需求.

圖3 超參數(shù)優(yōu)化后訓(xùn)練集模型的預(yù)測結(jié)果Fig.3 Prediction results of the optimal training model after hyperparameter optimization

圖4 獨立測試集的預(yù)測結(jié)果Fig.4 Prediction results of the independent test sets

表2 超參數(shù)優(yōu)化及最佳參數(shù)Table 2 Hyper-parameter optimization and optimal parameters

圖2 超參數(shù)優(yōu)化前后訓(xùn)練集的LOOCV結(jié)果Fig.2 LOOCV results of the training sets before and after hyperparameter optimization

2.3 特征解釋與分析

通過Pearson相關(guān)系數(shù)對各個特征進行重要性排序,結(jié)果如圖5所示.可見,對點蝕電位影響最大的是Cr元素含量,其次是溫度和Mo元素含量,且均與點蝕電位呈正相關(guān)關(guān)系.結(jié)合圖6(a)對Cr元素的敏感性分析可知,隨著Cr元素質(zhì)量百分比的增加,點蝕電位呈現(xiàn)較大的遞增趨勢.這一現(xiàn)象與實驗經(jīng)驗是相符的.已有大量研究[12-13]表明,Cr是影響點蝕電位最為重要的元素.在不銹鋼中,Cr主要以Cr2O3、CrOOH等氧化物形式穩(wěn)定存在,并能在不銹鋼表面形成致密的鈍化膜,提高不銹鋼的鈍化能力和破壞后的再修復(fù)能力[7].

圖5 點蝕電位預(yù)測模型中最佳特征集的Pearson相關(guān)系數(shù)Fig.5 Pearson correlation coefficients of the optimum feature set in the pitting potential prediction model

圖6 重要特征的敏感性分析Fig.6 Sensitivity analysis of the important features

國際上通常使用耐點蝕當量(pitting resistance equivalent,PRE)來評估不銹鋼的耐點蝕性能[14],公式為PRE=%Cr+3.3%×%Mo+16×%N.由該公式可知:Cr和Mo元素的含量越高,相應(yīng)地PRE值就越大,耐點蝕性能也就越好;Mo元素可以與Cr元素協(xié)同配合,提升鈍化膜的穩(wěn)定性,使得不銹鋼點蝕難以發(fā)生.

常溫下,不銹鋼表面鈍化膜的形成與溶解處于動態(tài)平衡狀態(tài),點蝕行為不易發(fā)生,點蝕電位處于相對較高的水平.但隨著溫度升高,鈍化膜生成與溶解的化學(xué)反應(yīng)平衡被打破,化學(xué)反應(yīng)速率加快,使得鈍化膜變薄而容易發(fā)生點蝕擊穿[15].此時點蝕電位逐漸降低,容易發(fā)生點蝕[12].已有研究發(fā)現(xiàn),稀土元素的存在對不銹鋼具有凈化作用[16-17].在不銹鋼中添加少量的稀土元素可以明顯減少氧和硫的含量,抑制氧和硫的化合物形成,降低不銹鋼中有害相的析出.因此,當不銹鋼中含有少量稀土元素時,點蝕電位處于較高水平,具有較強的抗腐蝕能力.

3 結(jié)束語

本工作以不銹鋼的元素成分和工藝參數(shù)作為ML模型的輸入變量,采用SVR結(jié)合GA建立材料點蝕電位的定量預(yù)測模型.經(jīng)過特征篩選優(yōu)選出對點蝕電位較為重要的描述符.LOOCV和獨立測試集評估了模型的穩(wěn)定性和泛化能力,Pearson相關(guān)系數(shù)和敏感性分析揭示了描述符對點蝕電位的具體影響.ML算法為材料點蝕電位的預(yù)測開辟了新的途徑,可望在不銹鋼生產(chǎn)設(shè)計和防腐評價中得到廣泛應(yīng)用.

另外值得關(guān)注的是,對于一種新材料的研發(fā),每一個實驗樣本都是難得而寶貴的.今后期望基于材料基因工程的思想,充分利用好現(xiàn)有的小樣本數(shù)據(jù)集,在良好的ML模型指導(dǎo)下,深入挖掘目標變量與眾多特征參數(shù)之間的映射關(guān)系規(guī)律,有方向性地搜索出更多滿足實際應(yīng)用需求的樣本,以供后續(xù)實驗設(shè)計參考,加速新材料的研發(fā).