楊靜文，陳小勇，張軍華

基于機器學(xué)習(xí)的電噴印精度預(yù)測方法研究

楊靜文，陳小勇，張軍華

（桂林電子科技大學(xué) 機電工程學(xué)院，廣西 桂林 541004）

節(jié)省電流體噴射打印精度預(yù)測的時間和解決電流體工藝參數(shù)的選擇問題，達到提高電流體打印的質(zhì)量和效率的目的。為了對電流體噴射打印精度進行預(yù)測，提出有限元模型與機器學(xué)習(xí)相結(jié)合的方法?；诰€性回歸、支持向量回歸和神經(jīng)網(wǎng)絡(luò)等機器學(xué)習(xí)算法建立4種參數(shù)與射流直徑的關(guān)系模型。算法結(jié)果表明：支持向量回歸和神經(jīng)網(wǎng)絡(luò)預(yù)測模型的決定系數(shù)2能達到0.9以上，表示模型可信度高；支持向量回歸和神經(jīng)網(wǎng)絡(luò)預(yù)測模型指標(biāo)都比線性回歸預(yù)測模型的小。機器學(xué)習(xí)算法可對電噴印打印精度進行有效預(yù)測，預(yù)測效率提高了十幾倍，節(jié)省了精度預(yù)測的時間。

機器學(xué)習(xí)；電流體微納打印；射流精度；預(yù)測模型

電流體噴射打印技術(shù)（E-Jet Printing）是一種基于電流體動力學(xué)的打印制造技術(shù)，其利用電場力和機械力影響流體，以“拉”的方式從液錐（泰勒錐）頂端向下形成精細射流和微滴，從而實現(xiàn)材料的高分辨率打印制造[1]。電流體噴墨打印制造技術(shù)的優(yōu)點：摒棄了傳統(tǒng)的增材制造加工工藝，利用流體形成的精細射流，在襯底上直接打印出圖案化的高分辨率的微納結(jié)構(gòu)；電流體打印材料廣泛，應(yīng)用領(lǐng)域較多，如可穿戴設(shè)備[2]、柔性電子設(shè)備、材料成形、光學(xué)器件[3]等，在這些領(lǐng)域中都顯示出很大的應(yīng)用潛力。

電噴印成形機理比較復(fù)雜，而且影響因素很多，主要包括：打印材料性能（質(zhì)量分數(shù)、密度、電導(dǎo)率、表面張力等），工藝參數(shù)（入口流速、電壓等），結(jié)構(gòu)參數(shù)（噴嘴內(nèi)徑、收集板高度等）。為了對電流體射流穩(wěn)定性和精度進行預(yù)測，一些學(xué)者也展開了研究。Jayasinghe等[4]首先報道了陶瓷懸浮液的電射流打印技術(shù)，之后使用濃縮的懸浮液打印了寬度為70 μm的圖案。高翔宇等[5]通過調(diào)整打印工藝參數(shù)來影響錐射流的形狀和尺寸，揭示了打印尺寸與錐長和射流長度的關(guān)系及規(guī)律。Jeong等[6]用納米顆粒和石墨烯打印出源電極、漏電極和溝道并制備了薄膜晶體管。Parke等[7]使用細小的毛細管噴針打印了直徑為490 nm的點陣列。

機器學(xué)習(xí)算法就是從數(shù)據(jù)中自動分析獲得規(guī)律，因此該研究基于機器學(xué)習(xí)算法和有限元相結(jié)合建立了加工參數(shù)與電流體射流精度的預(yù)測方法[8]。調(diào)節(jié)電流體噴射打印技術(shù)的過程特性（外加電壓、溶液流速）和結(jié)構(gòu)特性（噴嘴直徑、收集板高度）4種參數(shù)，得到大量的模擬試驗作為樣本。利用機器學(xué)習(xí)算法對電噴印打印精度進行預(yù)測，以此提高噴射打印設(shè)計效率。

1 電流體射流理論分析與模型

電噴印的基本原理見圖1。通過在噴嘴和襯底之間加高電壓（幾百到幾千伏），相同極性的電荷就會聚集到噴嘴尖端，當(dāng)尖端電場力超過液體的表面張力時，液體就會從半球形彎月牙面變成錐形（泰勒錐）[9]。隨著電場強度的增強，泰勒錐的頂端噴出一個小射流或液滴，一般可達到幾十nm到1 μm，最終實現(xiàn)高分辨率打印。電噴印噴嘴結(jié)構(gòu)見圖2。其中高電位電壓范圍為1 200～2 500 V，噴嘴內(nèi)徑為0.05～0.2 mm，噴嘴距基板高度為0.4～1 mm，入口流速為0.05～0.2 m/s，以上數(shù)值是前期仿真探索后得到的能夠使電流體形成穩(wěn)定錐射流的參數(shù)范圍。

圖1 EHD打印噴射技術(shù)原理

圖2 電噴印噴嘴結(jié)構(gòu)

根據(jù)以上分析，文中使用COMSOL有限元多物理場耦合分析軟件建立電流體射流狀態(tài)數(shù)值仿真模型。施加不同電壓時得到的射流成型狀態(tài)見圖3。電流體射流成形過程屬于多物理場耦合問題。

圖3 不同電壓下的射流成型狀態(tài)

2 機器學(xué)習(xí)算法

文中利用線性回歸、支持向量回歸和神經(jīng)網(wǎng)絡(luò)等機器學(xué)習(xí)算法建立4種參數(shù)與射流直徑之間的關(guān)系。給定由4個屬性描述的示例，其中是在第個屬性上的取值，因變量是射流直徑，記為。下面將具體介紹所使用的機器學(xué)習(xí)算法[10]。

2.1 線性回歸算法

線性模型形式簡單，容易建模，支持向量機和神經(jīng)網(wǎng)絡(luò)等非線性模型基本上都是通過在線性模型上引入層級結(jié)構(gòu)或高維映射而得到的，線性模型的表達式見式（1）。

(1)

(2)

2.2 支持向量回歸算法

支持向量用于回歸任務(wù)得到支持向量回歸算法（Support Vector Regression，SVR），支持向量回歸算法是給定訓(xùn)練樣本，使得與盡可能接近，引入松弛變量后的SVR算法為：

(3)

將樣本從原始空間映射到一個更高維的特征空間，即引入核函數(shù)后，將線性回歸拓展到非線性回歸。得到核化后的SVR模型為：

(4)

在不知道特征映射形式的情況下，支持向量機模型預(yù)測的一個關(guān)鍵因素是核函數(shù)的選用。支持向量機常用的核函數(shù)有：多項式核、高斯核（RBF核）和Sigmoid核等。

2.3 神經(jīng)網(wǎng)絡(luò)算法

神經(jīng)網(wǎng)絡(luò)是廣泛的并行互連網(wǎng)絡(luò)，由具有適應(yīng)性的神經(jīng)元組成[11]。神經(jīng)網(wǎng)絡(luò)算法包括多層感知機（Multilayer Perceptron，MLP）、卷積神經(jīng)網(wǎng)絡(luò)、BP算法等。

多層感知器是一個全連接神經(jīng)網(wǎng)絡(luò)，由輸入層、隱藏層（1個或多個）和輸出層組成。隱層的數(shù)量通常由具體問題來確定[12]，MLP使用激活函數(shù)來生成神經(jīng)元的輸出。常用的激活函數(shù)有Sigmoid函數(shù)、Tanh函數(shù)和ReLU函數(shù)。3種函數(shù)的表達式見（5）—（7）。

(5)

(6)

(7)

3 電噴印預(yù)測模型和性能評估

文中應(yīng)用python語言的第三方模塊scikit– learn[13]庫來編寫和運行算法。scikit–learn以numpy、scipy、matplotlib等數(shù)據(jù)包為基礎(chǔ)，能實現(xiàn)機器學(xué)習(xí)中的數(shù)據(jù)預(yù)處理、模型選擇、分類、回歸、聚類等功能。使用機器學(xué)習(xí)建立預(yù)測模型的流程見圖4。

圖4 機器學(xué)習(xí)方法建立預(yù)測模型的基本流程

3.1 建立數(shù)據(jù)集

進行機器學(xué)習(xí)要確定輸入變量和輸出變量，并建立包含一定數(shù)量數(shù)據(jù)的數(shù)據(jù)集。電流體噴射打印射流直徑的統(tǒng)計結(jié)果圖5。

圖5 射流直徑數(shù)據(jù)集的分布

3.2 數(shù)據(jù)預(yù)處理

3.2.1 劃分數(shù)據(jù)集

通常把數(shù)據(jù)按8∶2的比例劃分為訓(xùn)練集和測試集。訓(xùn)練集用于訓(xùn)練模型，測試集用來評估模型的性能[14]。

由于樣本數(shù)不夠多，所以采用折交叉驗證的方法[15]，其具體過程：將全體訓(xùn)練數(shù)據(jù)等分為份，每次取1份數(shù)據(jù)用于模型評估，余下（?1）份數(shù)據(jù)用來訓(xùn)練模型，這個過程重復(fù)次。一般來說，值越大，模型的預(yù)測的精度就越高，但同時計算量也會增加。出于預(yù)測精度和效率的考慮，這里將的值確定為5。

3.2.2 特征縮放

不同特征數(shù)據(jù)之間的量級不同，例如：電極電壓量級為103，入口流量量級為10?2。如果數(shù)據(jù)不按比例縮放，轉(zhuǎn)化成無量綱化的數(shù)據(jù)，電極兩端電壓這個特征就會對模型結(jié)果產(chǎn)生決定性的影響，影響模型的精度。因此，采用特征縮放方法對原始數(shù)據(jù)進行無量綱化處理，以保證計算精度和預(yù)測的準確性。

文中所用的特征縮放方法為“線性函數(shù)歸一化”，表達式見式（8）。

(8)

式中：norm為歸一化后的數(shù)值；為原始數(shù)據(jù)；、分別為范圍內(nèi)的最大值和最小值。

3.2.3 模型超參數(shù)調(diào)優(yōu)

3.3 模型預(yù)測

3.3.1 線性回歸

線性回歸算法使用L1正則化的LASSO線性回歸來建立預(yù)測模型。正則化的作用是避免模型產(chǎn)生過擬合，這里將正則參數(shù)的搜索范圍設(shè)置為0.01～100，交叉驗證得到最佳正則參數(shù)為0.01。線性回歸模型預(yù)測值與實際值的比較結(jié)果見圖6。

圖6 線性回歸模型預(yù)測值與實際值的比較

由圖6可知，線性回歸算法預(yù)測準確率不高，特別是在打印尺寸變大的情況下。造成這種情況的原因是假設(shè)該問題是線性關(guān)系，但是該假設(shè)不足以預(yù)測打印精度，因此后面用到非線性模型來預(yù)測。

3.3.2 支持向量回歸

高斯核有較好的學(xué)習(xí)能力，文中采用高斯核作為支持向量回歸模型的核函數(shù)，見式（9）。

(9)

支持向量回歸輸出變量在測試集上預(yù)測值與真值的對比見圖7?？梢钥闯觯闹兴惴ㄔ谟?xùn)練集和預(yù)測集上的預(yù)測效果都很好，這是因為通過核方法將線性模型轉(zhuǎn)化為核化的非線性模型后，非線性核有時能顯著提高模型的性能。

圖7 SVR模型預(yù)測值與實際值的比較

3.3.3 神經(jīng)網(wǎng)絡(luò)

多層感知機需提前定義隱層的層數(shù)、單個隱層神經(jīng)元個數(shù)和激活函數(shù)的形式等參數(shù)，學(xué)習(xí)器中需要設(shè)定學(xué)習(xí)率、優(yōu)化算法、隨機種子、權(quán)重和閾值等參數(shù)[16]。通過超參數(shù)調(diào)優(yōu)獲得最佳的一組超參數(shù)：優(yōu)化算法選擇擬牛頓法，正則化為L2正則，正則系數(shù)為1×10?5，隱層層數(shù)為2，各層的神經(jīng)元數(shù)量為5和2。tanh函數(shù)在隱藏層的表現(xiàn)要好于sigmoid函數(shù)，因此激活函數(shù)選擇tanh函數(shù)。

該神經(jīng)網(wǎng)絡(luò)模型的預(yù)測結(jié)果見圖8，可以看出數(shù)據(jù)點的誤差較小，模型的可信度較好，訓(xùn)練得到的模型兼顧訓(xùn)練集和預(yù)測集上的性能，基本達到需要的精度。

圖8 多層感知機模型預(yù)測值與實際值的比較

3.4 模型性能的評估

對學(xué)習(xí)器的泛化性能進行評估，這里選擇決定系數(shù)2、開方均方誤差RMSE、平均絕對誤差MAE等3個回歸模型性能評價指標(biāo)對預(yù)測性能進行評價，計算式見式（10）—（12）。

(10)

(11)

(12)

綜上，所有的評價指標(biāo)都表明支持向量回歸、神經(jīng)網(wǎng)絡(luò)算法都能達到很高的預(yù)測精度，而線性回歸算法預(yù)測可信度較低。

表1 3種機器學(xué)習(xí)算法模型在不同的數(shù)據(jù)集上的性能比較

Tab.1 Performance comparison of three machine learning algorithm models on different datasets

4 結(jié)語

文中基于機器學(xué)習(xí)理論，應(yīng)用線性回歸、支持向量回歸和神經(jīng)網(wǎng)絡(luò)3種機器學(xué)習(xí)算法構(gòu)建了3種機器學(xué)習(xí)模型，并利用所構(gòu)建的算法模型實現(xiàn)電噴印精度的預(yù)測。分析了4種參數(shù)與射流直徑的關(guān)系。結(jié)果表明，利用機器學(xué)習(xí)建立預(yù)測模型進行能夠高效地預(yù)測射流直徑，相比傳統(tǒng)基于CFD模擬計算的方法，機器學(xué)習(xí)的預(yù)測效率提高了十幾倍，而且預(yù)測精度具有較高的精度和可信度。

1）通過支持向量機可以準確預(yù)測電噴印精度，利用交叉驗證的方法能夠有效提高預(yù)測的準確性；激活函數(shù)為tanh的神經(jīng)網(wǎng)絡(luò)，可以準確預(yù)測電流體噴射打印精度，而線性回歸算法只能預(yù)測線性模型，擬合效果差。

2）將電流體噴射打印技術(shù)研究從傳統(tǒng)的解析計算和數(shù)值模擬的方法轉(zhuǎn)為利用數(shù)據(jù)驅(qū)動的建模方法，可提高電流體噴射打印設(shè)計效率，實現(xiàn)柔性電子、生物醫(yī)藥、光學(xué)器件等的精確打印。

3）機器學(xué)習(xí)預(yù)測模型的建立可為電流體噴射打印設(shè)計和優(yōu)化提供數(shù)據(jù)支持和指導(dǎo)作用。后續(xù)可以將機器學(xué)習(xí)建立的電流體射流精度模型與遺傳算法、灰狼優(yōu)化算法等智能算法相結(jié)合，從而找到多個約束條件下的噴射打印最優(yōu)解。

[1] JANG J, HYUN B G, JI S, et al. Rapid Production of Large-Area, Transparent and Stretchable Electrodes Using Metal Nanofibers as Wirelessly Operated Wearable Heaters[J]. NPG Asia Materials, 2017, 9(9): 1-8.

[2] KIM S Y, KIM K, HWANG Y H, et al. High-Resolution Electrohydrodynamic Inkjet Printing of Stretchable Metal Oxide Semiconductor Transistors with High Performance[J]. Nanoscale, 2016, 8(39): 17113-17121.

[3] IM H G, AN B W, JIN J, et al. A High-Performance, Flexible and Robust Metal Nanotrough-Embedded Transparent Conducting Film for Wearable Touch Screen Panels[J]. Nanoscale, 2016, 8(7): 3916-3922.

[4] JAYASINGHE S N, EDIRISINGHE M J, WILDE T. A Novel Ceramic Printing Technique Based on Electrostatic Atomization of a Suspension[J]. Materials Research Innovations, 2002, 6(3): 92-95.

[5] 高翔宇, 楊偉東, 王媛媛, 等. 微滴噴射工藝參數(shù)與液滴形態(tài)關(guān)系的數(shù)值模擬[J]. 機械科學(xué)與技術(shù), 2021, 40(3): 475-480.

GAO Xiang-yu, YANG Wei-dong, WANG Yuan-yuan, et al. Numerically Simulating Relationship of Process Parameters between Droplet Ejection and Droplet Morphology[J]. Mechanical Science and Technology for Aerospace Engineering, 2021, 40(3): 475-480.

[6] JEONG S, LEE S H, JO Y, et al. Air-Stable, Surface-Oxide Free Cu Nanoparticles for Highly Conductive Cu Ink and Their Application to Printed Graphene Transistors[J]. Journal of Materials Chemistry C, 2013, 1(15): 2704-2710.

[7] JANG-UNG P, MATT H, JUN K S, et al. High-Resolution Electrohydrodynamic Jet Printing[J]. Nature Materials, 2007, 6(10): 782-789.

[8] GE Y, LI X, LANG L, et al. Prediction of CNC Bending Quality of Tubes Based on Machine Learning[J]. Journal of Beijing University of Aeronautics and Astronautics, 2016, 42(8): 1691-1697.

[9] 錢江紅, 杜致遠, 杜召亮, 等. 柔性襯底的電流體噴射按需打印研究[J]. 機電工程技術(shù), 2020, 49(9): 40-41.

QIAN Jiang-hong, DU Zhi-yuan, DU Zhao-liang, et al. Research on Electrohydrodynamic Drop-on-Demand Printing of Flexible Substrate[J]. Mechanical & Electrical Engineering Technology, 2020, 49(9): 40-41.

[10] 張冬梅, 閆蓓. 對話周志華教授: 關(guān)于人工智能和機器學(xué)習(xí)[J]. 科學(xué)通報, 2017, 62(33): 3800-3801.

ZHANG Dong-mei, YAN Bei. Professor Zhou Zhihua: About Artificial Intelligence and Machine Learning[J]. Chinese Science Bulletin, 2017, 62(33): 3800-3801.

[11] TEUVO K. An Introduction to Neural Computing[J]. Neural Networks, 1988, 1(1): 3-16.

[12] KIM H, SUI C, CAI K et al., Fast and Precise High-Speed Channel Modeling and Optimization Technique Based on Machine Learning[J]. Journal of Robotics & Machine Learning, 2019, 60(6): 2049-2052.

[13] ARLOT S, CELISSE A. A Survey of Cross-Validation Procedures for Model Selection[J]. Statistics Surveys, 2010, 4: 40-79.

[14] WAN Xing. Influence of Feature Scaling on Convergence of Gradient Iterative Algorithm[J]. Journal of Physics: Conference Series, 2019, 1213(3): 1-4.

[15] REN Y. Optimizing Predictive Maintenance with Machine Learning for Reliability Improvement[J]. ASCE- ASME Journal of Risk and Uncertainty in Engineering Systems, 2021, 7(3): 2-5.

[16] 亓欣波, 李長鵬, 李陽, 等. 基于機器學(xué)習(xí)的電子束選區(qū)熔化成形件密度預(yù)測[J]. 機械工程學(xué)報, 2019, 55(15): 48-55.

QI Xin-bo, LI Chang-peng, LI Yang, et al. Machine Learning Algorithms on Density Prediction of Electron Beam Selective Melted Parts[J]. Journal of Mechanical Engineering, 2019, 55(15): 48-55.

Machine Learning Based E-jet Printing Accuracy Prediction Method

YANG Jing-wen, CHEN Xiao-yong, ZHANG Jun-hua

(College of Mechanical & Electrical Engineering, Gulin University of Electronic Technology,Guangxi Guilin 541004, China)

The work aims to save time in predicting the accuracy of E-jet printing, solve the problems in selection of electrofluidic process parameters, and improve the design quality and efficiency of electrofluidic printing. A combination of finite element models and machine learning was proposed to predict the accuracy of E-jet printing. Based on machine learning algorithms such as linear regression, support vector regression and neural networks, a model on relationship between four parameters and jet diameter was established. The algorithm results showed that the determination coefficient2of the support vector regression and neural network prediction models could reach above 0.9, indicating that the models were highly credible; RMSE and MAE, which were indicators of model error, were both smaller than those of the linear regression prediction models. Machine learning algorithms enable effective prediction of E-jet printing accuracy, increasing prediction efficiency by more than a factor of ten and saving time on accuracy prediction.

machine learning; electrofluidic micro-nano printing; jet accuracy; prediction model

TS853+.5

A

1001-3563(2022)13-0203-06

10.19554/j.cnki.1001-3563.2022.13.026

2021?08?20

廣西自然科學(xué)基金（22GXNSFAA035616）；廣西制造系統(tǒng)和先進制造技術(shù)重點實驗室基金（2006540007Z）

楊靜文（1997—），女，桂林電子科技大學(xué)碩士生，主攻基于電流體動力學(xué)的柔性電子3D打印技術(shù)。

陳小勇（1984—），男，碩士，高級實驗師，主要研究方向為基于電流體動力學(xué)的柔性電子3D打印、微電子互連技術(shù)。

責(zé)任編輯：曾鈺嬋