楊靜文，陳小勇，張軍華

基于機器學習的電噴印精度預測方法研究

楊靜文，陳小勇，張軍華

（桂林電子科技大學 機電工程學院，廣西 桂林 541004）

節(jié)省電流體噴射打印精度預測的時間和解決電流體工藝參數(shù)的選擇問題，達到提高電流體打印的質量和效率的目的。為了對電流體噴射打印精度進行預測，提出有限元模型與機器學習相結合的方法?；诰€性回歸、支持向量回歸和神經網絡等機器學習算法建立4種參數(shù)與射流直徑的關系模型。算法結果表明：支持向量回歸和神經網絡預測模型的決定系數(shù)2能達到0.9以上，表示模型可信度高；支持向量回歸和神經網絡預測模型指標都比線性回歸預測模型的小。機器學習算法可對電噴印打印精度進行有效預測，預測效率提高了十幾倍，節(jié)省了精度預測的時間。

機器學習；電流體微納打印；射流精度；預測模型

電流體噴射打印技術（E-Jet Printing）是一種基于電流體動力學的打印制造技術，其利用電場力和機械力影響流體，以“拉”的方式從液錐（泰勒錐）頂端向下形成精細射流和微滴，從而實現(xiàn)材料的高分辨率打印制造[1]。電流體噴墨打印制造技術的優(yōu)點：摒棄了傳統(tǒng)的增材制造加工工藝，利用流體形成的精細射流，在襯底上直接打印出圖案化的高分辨率的微納結構；電流體打印材料廣泛，應用領域較多，如可穿戴設備[2]、柔性電子設備、材料成形、光學器件[3]等，在這些領域中都顯示出很大的應用潛力。

電噴印成形機理比較復雜，而且影響因素很多，主要包括：打印材料性能（質量分數(shù)、密度、電導率、表面張力等），工藝參數(shù)（入口流速、電壓等），結構參數(shù)（噴嘴內徑、收集板高度等）。為了對電流體射流穩(wěn)定性和精度進行預測，一些學者也展開了研究。Jayasinghe等[4]首先報道了陶瓷懸浮液的電射流打印技術，之后使用濃縮的懸浮液打印了寬度為70 μm的圖案。高翔宇等[5]通過調整打印工藝參數(shù)來影響錐射流的形狀和尺寸，揭示了打印尺寸與錐長和射流長度的關系及規(guī)律。Jeong等[6]用納米顆粒和石墨烯打印出源電極、漏電極和溝道并制備了薄膜晶體管。Parke等[7]使用細小的毛細管噴針打印了直徑為490 nm的點陣列。

機器學習算法就是從數(shù)據(jù)中自動分析獲得規(guī)律，因此該研究基于機器學習算法和有限元相結合建立了加工參數(shù)與電流體射流精度的預測方法[8]。調節(jié)電流體噴射打印技術的過程特性（外加電壓、溶液流速）和結構特性（噴嘴直徑、收集板高度）4種參數(shù)，得到大量的模擬試驗作為樣本。利用機器學習算法對電噴印打印精度進行預測，以此提高噴射打印設計效率。

1 電流體射流理論分析與模型

電噴印的基本原理見圖1。通過在噴嘴和襯底之間加高電壓（幾百到幾千伏），相同極性的電荷就會聚集到噴嘴尖端，當尖端電場力超過液體的表面張力時，液體就會從半球形彎月牙面變成錐形（泰勒錐）[9]。隨著電場強度的增強，泰勒錐的頂端噴出一個小射流或液滴，一般可達到幾十nm到1 μm，最終實現(xiàn)高分辨率打印。電噴印噴嘴結構見圖2。其中高電位電壓范圍為1 200～2 500 V，噴嘴內徑為0.05～0.2 mm，噴嘴距基板高度為0.4～1 mm，入口流速為0.05～0.2 m/s，以上數(shù)值是前期仿真探索后得到的能夠使電流體形成穩(wěn)定錐射流的參數(shù)范圍。

圖1 EHD打印噴射技術原理

圖2 電噴印噴嘴結構

根據(jù)以上分析，文中使用COMSOL有限元多物理場耦合分析軟件建立電流體射流狀態(tài)數(shù)值仿真模型。施加不同電壓時得到的射流成型狀態(tài)見圖3。電流體射流成形過程屬于多物理場耦合問題。

圖3 不同電壓下的射流成型狀態(tài)

2 機器學習算法

文中利用線性回歸、支持向量回歸和神經網絡等機器學習算法建立4種參數(shù)與射流直徑之間的關系。給定由4個屬性描述的示例，其中是在第個屬性上的取值，因變量是射流直徑，記為。下面將具體介紹所使用的機器學習算法[10]。

2.1 線性回歸算法

線性模型形式簡單，容易建模，支持向量機和神經網絡等非線性模型基本上都是通過在線性模型上引入層級結構或高維映射而得到的，線性模型的表達式見式（1）。

(1)

(2)

2.2 支持向量回歸算法

支持向量用于回歸任務得到支持向量回歸算法（Support Vector Regression，SVR），支持向量回歸算法是給定訓練樣本，使得與盡可能接近，引入松弛變量后的SVR算法為：

(3)

將樣本從原始空間映射到一個更高維的特征空間，即引入核函數(shù)后，將線性回歸拓展到非線性回歸。得到核化后的SVR模型為：

(4)

在不知道特征映射形式的情況下，支持向量機模型預測的一個關鍵因素是核函數(shù)的選用。支持向量機常用的核函數(shù)有：多項式核、高斯核（RBF核）和Sigmoid核等。

2.3 神經網絡算法

神經網絡是廣泛的并行互連網絡，由具有適應性的神經元組成[11]。神經網絡算法包括多層感知機（Multilayer Perceptron，MLP）、卷積神經網絡、BP算法等。

多層感知器是一個全連接神經網絡，由輸入層、隱藏層（1個或多個）和輸出層組成。隱層的數(shù)量通常由具體問題來確定[12]，MLP使用激活函數(shù)來生成神經元的輸出。常用的激活函數(shù)有Sigmoid函數(shù)、Tanh函數(shù)和ReLU函數(shù)。3種函數(shù)的表達式見（5）—（7）。

(5)

(6)

(7)

3 電噴印預測模型和性能評估

文中應用python語言的第三方模塊scikit– learn[13]庫來編寫和運行算法。scikit–learn以numpy、scipy、matplotlib等數(shù)據(jù)包為基礎，能實現(xiàn)機器學習中的數(shù)據(jù)預處理、模型選擇、分類、回歸、聚類等功能。使用機器學習建立預測模型的流程見圖4。

圖4 機器學習方法建立預測模型的基本流程

3.1 建立數(shù)據(jù)集

進行機器學習要確定輸入變量和輸出變量，并建立包含一定數(shù)量數(shù)據(jù)的數(shù)據(jù)集。電流體噴射打印射流直徑的統(tǒng)計結果圖5。

圖5 射流直徑數(shù)據(jù)集的分布

3.2 數(shù)據(jù)預處理

3.2.1 劃分數(shù)據(jù)集

通常把數(shù)據(jù)按8∶2的比例劃分為訓練集和測試集。訓練集用于訓練模型，測試集用來評估模型的性能[14]。

由于樣本數(shù)不夠多，所以采用折交叉驗證的方法[15]，其具體過程：將全體訓練數(shù)據(jù)等分為份，每次取1份數(shù)據(jù)用于模型評估，余下（?1）份數(shù)據(jù)用來訓練模型，這個過程重復次。一般來說，值越大，模型的預測的精度就越高，但同時計算量也會增加。出于預測精度和效率的考慮，這里將的值確定為5。

3.2.2 特征縮放

不同特征數(shù)據(jù)之間的量級不同，例如：電極電壓量級為103，入口流量量級為10?2。如果數(shù)據(jù)不按比例縮放，轉化成無量綱化的數(shù)據(jù)，電極兩端電壓這個特征就會對模型結果產生決定性的影響，影響模型的精度。因此，采用特征縮放方法對原始數(shù)據(jù)進行無量綱化處理，以保證計算精度和預測的準確性。

文中所用的特征縮放方法為“線性函數(shù)歸一化”，表達式見式（8）。

(8)

式中：norm為歸一化后的數(shù)值；為原始數(shù)據(jù)；、分別為范圍內的最大值和最小值。

3.2.3 模型超參數(shù)調優(yōu)

3.3 模型預測

3.3.1 線性回歸

線性回歸算法使用L1正則化的LASSO線性回歸來建立預測模型。正則化的作用是避免模型產生過擬合，這里將正則參數(shù)的搜索范圍設置為0.01～100，交叉驗證得到最佳正則參數(shù)為0.01。線性回歸模型預測值與實際值的比較結果見圖6。

圖6 線性回歸模型預測值與實際值的比較

由圖6可知，線性回歸算法預測準確率不高，特別是在打印尺寸變大的情況下。造成這種情況的原因是假設該問題是線性關系，但是該假設不足以預測打印精度，因此后面用到非線性模型來預測。

3.3.2 支持向量回歸

高斯核有較好的學習能力，文中采用高斯核作為支持向量回歸模型的核函數(shù)，見式（9）。

(9)

支持向量回歸輸出變量在測試集上預測值與真值的對比見圖7。可以看出，文中算法在訓練集和預測集上的預測效果都很好，這是因為通過核方法將線性模型轉化為核化的非線性模型后，非線性核有時能顯著提高模型的性能。

圖7 SVR模型預測值與實際值的比較

3.3.3 神經網絡

多層感知機需提前定義隱層的層數(shù)、單個隱層神經元個數(shù)和激活函數(shù)的形式等參數(shù)，學習器中需要設定學習率、優(yōu)化算法、隨機種子、權重和閾值等參數(shù)[16]。通過超參數(shù)調優(yōu)獲得最佳的一組超參數(shù)：優(yōu)化算法選擇擬牛頓法，正則化為L2正則，正則系數(shù)為1×10?5，隱層層數(shù)為2，各層的神經元數(shù)量為5和2。tanh函數(shù)在隱藏層的表現(xiàn)要好于sigmoid函數(shù)，因此激活函數(shù)選擇tanh函數(shù)。

該神經網絡模型的預測結果見圖8，可以看出數(shù)據(jù)點的誤差較小，模型的可信度較好，訓練得到的模型兼顧訓練集和預測集上的性能，基本達到需要的精度。

圖8 多層感知機模型預測值與實際值的比較

3.4 模型性能的評估

對學習器的泛化性能進行評估，這里選擇決定系數(shù)2、開方均方誤差RMSE、平均絕對誤差MAE等3個回歸模型性能評價指標對預測性能進行評價，計算式見式（10）—（12）。

(10)

(11)

(12)

綜上，所有的評價指標都表明支持向量回歸、神經網絡算法都能達到很高的預測精度，而線性回歸算法預測可信度較低。

表1 3種機器學習算法模型在不同的數(shù)據(jù)集上的性能比較

Tab.1 Performance comparison of three machine learning algorithm models on different datasets

4 結語

文中基于機器學習理論，應用線性回歸、支持向量回歸和神經網絡3種機器學習算法構建了3種機器學習模型，并利用所構建的算法模型實現(xiàn)電噴印精度的預測。分析了4種參數(shù)與射流直徑的關系。結果表明，利用機器學習建立預測模型進行能夠高效地預測射流直徑，相比傳統(tǒng)基于CFD模擬計算的方法，機器學習的預測效率提高了十幾倍，而且預測精度具有較高的精度和可信度。

1）通過支持向量機可以準確預測電噴印精度，利用交叉驗證的方法能夠有效提高預測的準確性；激活函數(shù)為tanh的神經網絡，可以準確預測電流體噴射打印精度，而線性回歸算法只能預測線性模型，擬合效果差。

2）將電流體噴射打印技術研究從傳統(tǒng)的解析計算和數(shù)值模擬的方法轉為利用數(shù)據(jù)驅動的建模方法，可提高電流體噴射打印設計效率，實現(xiàn)柔性電子、生物醫(yī)藥、光學器件等的精確打印。

3）機器學習預測模型的建立可為電流體噴射打印設計和優(yōu)化提供數(shù)據(jù)支持和指導作用。后續(xù)可以將機器學習建立的電流體射流精度模型與遺傳算法、灰狼優(yōu)化算法等智能算法相結合，從而找到多個約束條件下的噴射打印最優(yōu)解。

[1] JANG J, HYUN B G, JI S, et al. Rapid Production of Large-Area, Transparent and Stretchable Electrodes Using Metal Nanofibers as Wirelessly Operated Wearable Heaters[J]. NPG Asia Materials, 2017, 9(9): 1-8.

[2] KIM S Y, KIM K, HWANG Y H, et al. High-Resolution Electrohydrodynamic Inkjet Printing of Stretchable Metal Oxide Semiconductor Transistors with High Performance[J]. Nanoscale, 2016, 8(39): 17113-17121.

[3] IM H G, AN B W, JIN J, et al. A High-Performance, Flexible and Robust Metal Nanotrough-Embedded Transparent Conducting Film for Wearable Touch Screen Panels[J]. Nanoscale, 2016, 8(7): 3916-3922.

[4] JAYASINGHE S N, EDIRISINGHE M J, WILDE T. A Novel Ceramic Printing Technique Based on Electrostatic Atomization of a Suspension[J]. Materials Research Innovations, 2002, 6(3): 92-95.

[5] 高翔宇, 楊偉東, 王媛媛, 等. 微滴噴射工藝參數(shù)與液滴形態(tài)關系的數(shù)值模擬[J]. 機械科學與技術, 2021, 40(3): 475-480.

GAO Xiang-yu, YANG Wei-dong, WANG Yuan-yuan, et al. Numerically Simulating Relationship of Process Parameters between Droplet Ejection and Droplet Morphology[J]. Mechanical Science and Technology for Aerospace Engineering, 2021, 40(3): 475-480.

[6] JEONG S, LEE S H, JO Y, et al. Air-Stable, Surface-Oxide Free Cu Nanoparticles for Highly Conductive Cu Ink and Their Application to Printed Graphene Transistors[J]. Journal of Materials Chemistry C, 2013, 1(15): 2704-2710.

[7] JANG-UNG P, MATT H, JUN K S, et al. High-Resolution Electrohydrodynamic Jet Printing[J]. Nature Materials, 2007, 6(10): 782-789.

[8] GE Y, LI X, LANG L, et al. Prediction of CNC Bending Quality of Tubes Based on Machine Learning[J]. Journal of Beijing University of Aeronautics and Astronautics, 2016, 42(8): 1691-1697.

[9] 錢江紅, 杜致遠, 杜召亮, 等. 柔性襯底的電流體噴射按需打印研究[J]. 機電工程技術, 2020, 49(9): 40-41.

QIAN Jiang-hong, DU Zhi-yuan, DU Zhao-liang, et al. Research on Electrohydrodynamic Drop-on-Demand Printing of Flexible Substrate[J]. Mechanical & Electrical Engineering Technology, 2020, 49(9): 40-41.

[10] 張冬梅, 閆蓓. 對話周志華教授: 關于人工智能和機器學習[J]. 科學通報, 2017, 62(33): 3800-3801.

ZHANG Dong-mei, YAN Bei. Professor Zhou Zhihua: About Artificial Intelligence and Machine Learning[J]. Chinese Science Bulletin, 2017, 62(33): 3800-3801.

[11] TEUVO K. An Introduction to Neural Computing[J]. Neural Networks, 1988, 1(1): 3-16.

[12] KIM H, SUI C, CAI K et al., Fast and Precise High-Speed Channel Modeling and Optimization Technique Based on Machine Learning[J]. Journal of Robotics & Machine Learning, 2019, 60(6): 2049-2052.

[13] ARLOT S, CELISSE A. A Survey of Cross-Validation Procedures for Model Selection[J]. Statistics Surveys, 2010, 4: 40-79.

[14] WAN Xing. Influence of Feature Scaling on Convergence of Gradient Iterative Algorithm[J]. Journal of Physics: Conference Series, 2019, 1213(3): 1-4.

[15] REN Y. Optimizing Predictive Maintenance with Machine Learning for Reliability Improvement[J]. ASCE- ASME Journal of Risk and Uncertainty in Engineering Systems, 2021, 7(3): 2-5.

[16] 亓欣波, 李長鵬, 李陽, 等. 基于機器學習的電子束選區(qū)熔化成形件密度預測[J]. 機械工程學報, 2019, 55(15): 48-55.

QI Xin-bo, LI Chang-peng, LI Yang, et al. Machine Learning Algorithms on Density Prediction of Electron Beam Selective Melted Parts[J]. Journal of Mechanical Engineering, 2019, 55(15): 48-55.

Machine Learning Based E-jet Printing Accuracy Prediction Method

YANG Jing-wen, CHEN Xiao-yong, ZHANG Jun-hua

(College of Mechanical & Electrical Engineering, Gulin University of Electronic Technology,Guangxi Guilin 541004, China)

The work aims to save time in predicting the accuracy of E-jet printing, solve the problems in selection of electrofluidic process parameters, and improve the design quality and efficiency of electrofluidic printing. A combination of finite element models and machine learning was proposed to predict the accuracy of E-jet printing. Based on machine learning algorithms such as linear regression, support vector regression and neural networks, a model on relationship between four parameters and jet diameter was established. The algorithm results showed that the determination coefficient2of the support vector regression and neural network prediction models could reach above 0.9, indicating that the models were highly credible; RMSE and MAE, which were indicators of model error, were both smaller than those of the linear regression prediction models. Machine learning algorithms enable effective prediction of E-jet printing accuracy, increasing prediction efficiency by more than a factor of ten and saving time on accuracy prediction.

machine learning; electrofluidic micro-nano printing; jet accuracy; prediction model

TS853+.5

A

1001-3563(2022)13-0203-06

10.19554/j.cnki.1001-3563.2022.13.026

2021?08?20

廣西自然科學基金（22GXNSFAA035616）；廣西制造系統(tǒng)和先進制造技術重點實驗室基金（2006540007Z）

楊靜文（1997—），女，桂林電子科技大學碩士生，主攻基于電流體動力學的柔性電子3D打印技術。

陳小勇（1984—），男，碩士，高級實驗師，主要研究方向為基于電流體動力學的柔性電子3D打印、微電子互連技術。

責任編輯：曾鈺嬋