隨機(jī)森林算法在電噴印液滴直徑預(yù)測中的應(yīng)用

郭智穎，勞宗堃，陳遠(yuǎn)汾，尤 暉

（廣西大學(xué)機(jī)械工程學(xué)院，廣西 南寧 530004）

1 引言

電流體噴射打印［1］（簡稱電噴印）技術(shù)是一種新型的噴墨打印技術(shù)。傳統(tǒng)的噴墨打印技術(shù)通過熱能或壓電陶瓷的振動來形成噴射液滴，而電噴印技術(shù)是利用電場“拉”、“拽”的作用，使液滴噴射到基板上。電流體噴射打印時，施加在噴頭和基板上的電壓形成強(qiáng)電場，噴嘴處的功能性油墨在強(qiáng)電場作用下逐漸由彎月面變形成泰勒錐，并在泰勒錐尖端處產(chǎn)生直徑遠(yuǎn)小于噴嘴內(nèi)徑的液滴或者射流。在強(qiáng)電場的“拉”、“拽”的作用下，使得電噴印可以打印粘度范圍非常廣（1cp-10000cp）的功能性材料。電噴印技術(shù)加工工藝簡單，打印成本較低，與功能性材料兼容好，并打破了傳統(tǒng)噴墨打印技術(shù)分辨率較低的限制，因此在國內(nèi)外引起了廣泛的關(guān)注。目前電噴印在晶體管［2］、憶阻器［3-4］、顯示設(shè)備［5-6］、透明電極［7］、發(fā)光二極管［8］、柔性可拉伸電子［9］、生物工程［10-11］、微流控芯片［12］、3D結(jié)構(gòu)［13-15］、光學(xué)器件［16-18］、超導(dǎo)材料［19］等領(lǐng)域有著良好的應(yīng)用前景。為了保證加工質(zhì)量，精確控制打印器件的分辨率十分重要，而電噴印液滴的大小是影響打印分辨率的主要因素，因此，如何精確預(yù)測并控制打印液滴的大小是保證加工質(zhì)量的關(guān)鍵。電噴印是十分復(fù)雜的多物理場耦合過程，其打印的液滴直徑受到多種因素的影響，如施加電壓、供給流量或背壓、噴嘴到基板的距離等［20-21］。文獻(xiàn)［1、22］發(fā)現(xiàn)噴嘴的尺寸和形狀也對電噴印的結(jié)果有一定的影響。文獻(xiàn)［23］研究了脈沖電壓和偏壓對射流的影響。文獻(xiàn)［24-25］發(fā)現(xiàn)油墨的屬性會對電噴印產(chǎn)生一定的影響。目前，研究人員預(yù)測電噴印液滴直徑主要有兩種方法，一種是建立理論模型來預(yù)測液滴的直徑，另一種是利用回歸分析來擬合出經(jīng)驗性的公式。文獻(xiàn)［26-27］將電噴印分為噴射前、噴射時和噴射后三個過程，并分別對這三個過程進(jìn)行理論建模，對于噴射的過程，根據(jù)文獻(xiàn)［28］標(biāo)度公式來計算噴射時間與噴射體積，但其理論計算結(jié)果和實驗結(jié)果相差較大。導(dǎo)致理論計算的結(jié)果和實驗結(jié)果相差較大原因可能是噴嘴與基板之間的局部微觀環(huán)境，如氣壓、溫度、濕度等，不同于實驗過程中所控制的宏觀環(huán)境，且在滴液噴射的過程中局部微環(huán)境在不斷的變化，而這些局部微環(huán)境在已報道的理論模型中并沒有體現(xiàn)出來。理論模型為我們研究打印規(guī)律提供基礎(chǔ)，但是很難找到適合的公式來精確預(yù)測打印液滴的尺寸。文獻(xiàn)［29］用回歸分析擬合出了基電壓、高電壓、脈沖頻率和噴嘴距基板的距離與噴印液滴直徑的經(jīng)驗公式，結(jié)果表明預(yù)測結(jié)果與實際打印結(jié)果相差較大，并且由于是實驗擬合的經(jīng)驗公式，該公式具有一定的局限性。回歸分析原理簡單，理論比較成熟，但回歸分析的參數(shù)不能及時、準(zhǔn)確地進(jìn)行調(diào)整，所擬合出的經(jīng)驗公式往往只在特定的條件下適用。綜上所述，急需建立一種能精確預(yù)測電噴印液滴打印直徑的方法。

與電噴印相似，許多科學(xué)研究和工程實際問題非常復(fù)雜，不可預(yù)測，具有很大的挑戰(zhàn)，難以處理環(huán)境對其的影響，導(dǎo)致許多原理不能完全解釋實際的結(jié)果。因此，許多科研人員采用機(jī)器學(xué)習(xí)的方法來對這些問題進(jìn)行預(yù)測，并且成功的應(yīng)用于醫(yī)學(xué)診斷［30］、氣象預(yù)報［31］和軸承壽命預(yù)測［32］等多個領(lǐng)域。其中，隨機(jī)森林算法非線性映射能力、自適應(yīng)、自學(xué)習(xí)、泛化能力和容錯能力較強(qiáng)，可以降低建立模型的復(fù)雜程度、減輕過擬合、降低計算量，保證數(shù)據(jù)之間的關(guān)聯(lián)性和預(yù)測模型的精度。目前，隨機(jī)森林回歸已經(jīng)成功應(yīng)用于股票價格預(yù)測［33］和道路交通狀況預(yù)測［34］等問題。

以電噴印液滴直徑預(yù)測為研究對象，選取幾種關(guān)鍵參數(shù)（基電壓、高電壓、脈沖頻率、噴頭與基板的距離、油墨電導(dǎo)率及粘度）作為輸入?yún)?shù)，建立了基于隨機(jī)森林算法的液滴直徑預(yù)測模型。隨后，將隨機(jī)森林回歸模型（Random Forest Regression，RFR）的預(yù)測結(jié)果與其他幾種常見的算法模型（決策樹回歸模型（Classification and Regression Trees，CART）、支持向量機(jī)回歸模型（Support Vector Regression，SVR）、神經(jīng)網(wǎng)絡(luò)回歸模型（Artificial Neural Network，ANN））的預(yù)測結(jié)果相比較，驗證了模型的適用性及預(yù)測準(zhǔn)確性。

2 隨機(jī)森林回歸的基本原理

2.1 隨機(jī)森林原理

隨機(jī)森林［35］是一種集成學(xué)習(xí)算法，它是在決策樹為基學(xué)習(xí)器構(gòu)建bagging集成的基礎(chǔ)上，通過Bootstrap技術(shù)，從樣本集中有放回地重復(fù)隨機(jī)抽取多個樣本及其特征，構(gòu)造多個決策樹，當(dāng)處理分類問題時，最終模型的預(yù)測結(jié)果以多個決策樹“投票”的方式?jīng)Q定。隨機(jī)森林液滴直徑預(yù)測模型的預(yù)測結(jié)果為每棵決策樹的均值。

根據(jù)上述隨機(jī)森林原理，對液滴直徑預(yù)測研究建立的隨機(jī)森林液滴直徑預(yù)測模型流程圖，如圖1所示。

圖1 隨機(jī)森林液滴直徑預(yù)測模型流程圖Fig.1 Flow Chart of Droplet Diameter Prediction Model of Random Forest

2.2 RFR模型建立的步驟

（1）數(shù)據(jù)的讀取與預(yù)處理。讀取電噴印液滴直徑數(shù)據(jù)，將數(shù)據(jù)集按照8：2的比例劃分為訓(xùn)練集D和測試集S；再利用數(shù)據(jù)標(biāo)準(zhǔn)化方法對訓(xùn)練集D與測試集S進(jìn)行預(yù)處理；

（2）生成樣本集。采用bootstrap從訓(xùn)練集D中有放回地抽取與其容量相同的樣本集，重復(fù)K次，得到K個樣本集q1，q2，…，qk；

（3）生成決策樹。電噴印液滴直徑預(yù)測屬于回歸問題。對于回歸問題，隨機(jī)森林的基學(xué)習(xí)器為回歸決策樹，其節(jié)點根據(jù)最小均方差原則進(jìn)行分裂，如式（1）所示。

式中：xi—n維輸入向量；yi—輸出值；A—任意劃分特征；s—對應(yīng)特征的劃分點；Dl和Dr—被s點劃分樣本集的左側(cè)數(shù)據(jù)集與右側(cè)數(shù)據(jù)集；cl—Dl的輸出均值；cr—Dr的輸出均值。決策樹的各個子節(jié)點不斷使用式（1）進(jìn)行劃分，直到滿足設(shè)定的閾值，將樣本集劃分為M個數(shù)據(jù)集D1，D2，…，Dm。

決策樹模型為：

當(dāng)溫衡跟陶小西看到《兩小無猜》最后的結(jié)局時都愣了許久，電影中最后一個敢不敢的游戲，卻換來他們?nèi)绱似嗤竦慕Y(jié)局。陶小西紅著眼眶說太慘了，早知道不看了，但是溫衡卻說，相愛的人以這種方法死去，真是她聽過最浪漫的事。

式中：I—指標(biāo)函數(shù)，

利用樣本集與回歸決策樹模型生成對應(yīng)的K棵CART 回歸決策樹｛T1（x，θ1），T2（x，θ2），…，Tk（x，θk）｝，在生成決策樹時，從上述6個關(guān)鍵影響打印液滴尺寸的參數(shù)中，無放回地抽取m（m≤6）維打印液滴尺寸的參數(shù)作為每個分裂節(jié)點的特征變量；

（4）結(jié)果的預(yù)測。將測試數(shù)據(jù)集s輸入至隨機(jī)森林模型中，遍歷所有決策樹，得到每棵決策樹的預(yù)測結(jié)果并計算其算術(shù)平均值，作為最終電噴印液滴直徑的預(yù)測結(jié)果。

隨機(jī)森林模型為：

2.3 性能評價指標(biāo)

對液滴直徑預(yù)測的研究選取平均絕對百分比誤差（Mean Absolute Percent Error，MAPE）和均方根誤差（Root-Mean-Square Error，RMSE）作為評價指標(biāo)。MAPE 能定量反映預(yù)測模型的精度，其值越小，表明預(yù)測模型預(yù)測精度越高，MAPE表達(dá)式，如式（4）所示；RMSE是衡量電噴印的直徑實際值和RFR預(yù)測值之間的偏差，反映了樣本的離散程度，RMSE表達(dá)式，如式（5）所示。

式中：n—預(yù)測樣本的個數(shù)；yi—液滴的真實直徑；—模型預(yù)測的液滴直徑。

3 實驗

3.1 實驗裝置

實驗中使用的實驗裝置（電流體噴射打印機(jī)）示意圖，如圖2所示。電流體噴射打印機(jī)，如圖3所示。該電流體噴射打印機(jī)由供壓模塊（函數(shù)發(fā)生器、高壓放大器）、供液模塊（壓力泵、針管和噴頭）、運動模塊（XYZ移動機(jī)構(gòu)）、觀察模塊（高速攝影機(jī)和光源）和控制模塊（上位機(jī)控制）共五個模塊組成。

圖2 實驗裝置示意圖Fig.2 Schematic Diagram of Experimental Device

圖3 電流體噴射打印機(jī)Fig.3 Electrohydrodynamic Inkjet Printer

精密點膠針頭（28G，內(nèi)徑0.17mm，外徑0.35mm），與儲存打印油墨的一次性注射針管（1ml）連接。壓力泵與一次性針管通過整流閥連接，控制施加在打印油墨上的氣壓，進(jìn)而控制油墨的供給流量。在本實驗中，為減少氣壓不穩(wěn)定對打印結(jié)果的影響，不使用氣壓進(jìn)行供液。實驗過程中氣壓設(shè)置為0。精密點膠噴頭作為正極，基板作為負(fù)極，分別與高壓放大器連接。實驗所需的電壓由函數(shù)發(fā)生器和高壓放大器共同產(chǎn)生，函數(shù)發(fā)生器生成所需要的波形，并將波形信號傳遞給高壓放大器為打印提供所需要的電壓。基板固定在XY工作臺上，襯底（硅片，直徑200mm，厚度800μm）通過真空吸附固定在基板上，XY工作臺在上位機(jī)的控制下進(jìn)行移動，打印出所需要的圖案，通過控制XY工作臺的移動速度，控制打印液滴陣列之間的間距。注射針管與噴頭固定在Z軸上，通過控制Z軸的上升與下降，控制噴嘴與襯底之間的距離。當(dāng)半月面和襯底之間的電場強(qiáng)度超過閾值時，油墨在噴嘴處形成泰勒錐，并從尖端噴射出來。在電噴印的過程中，電場強(qiáng)度可以通過改變噴嘴到襯底的距離或電壓脈沖的基電壓和高電壓進(jìn)行調(diào)整。

3.2 實驗材料

將甘油、超純水和氯化鈉混合溶液作為打印材料，其中調(diào)節(jié)超純水的比例可以調(diào)節(jié)混合溶液的粘度，調(diào)節(jié)氯化鈉的比例可以調(diào)節(jié)混合溶液的電導(dǎo)率。溶液的詳細(xì)參數(shù)，如表1所示。

表1 溶液的參數(shù)Tab.1 Parameters of the Solution

3.3 實驗設(shè)計

選擇Box-Behnken響應(yīng)面設(shè)計（BBD），以便在模型中考慮可能的二次效應(yīng)。BBD由設(shè)計空間邊緣的實驗點和位于中心的附加實驗點組成，即每個因素有3個水平，以電導(dǎo)率、粘度、高電壓、基電壓、頻率和針頭高度作為影響因素，設(shè)計6因素3水平的54組實驗，實驗條件及其打印參數(shù)，如表2所示。為了提高模型的可靠性，每組實驗重復(fù)10次，選取平均值作為液滴的實際直徑。

表2 選定的因素及水平Tab.2 Selected Factors and Levels

3.4 液滴直徑測量方法

液滴的尺寸測量工具為金相顯微鏡（40倍物鏡），并使用顯微鏡配套的測量軟件進(jìn)行液滴的尺寸測量。

4 結(jié)果分析與對比

4.1 實驗結(jié)果

按照BBD實驗設(shè)計的54組實驗進(jìn)行實驗，并用金相顯微鏡進(jìn)行觀察和測量電噴印液滴，所得的液滴顯微鏡圖像，如圖4所示。54組電噴印液滴直徑，如圖5所示。由圖5可知電噴印液滴直徑最小標(biāo)準(zhǔn)偏差和最大標(biāo)準(zhǔn)偏差分別為0.629μm和6.349μm，只有幾組數(shù)據(jù)標(biāo)準(zhǔn)偏差較大，其他數(shù)據(jù)標(biāo)準(zhǔn)偏差整體在1μm 到4μm之內(nèi)。

圖4 電噴印液滴顯微鏡圖像Fig.4 The Microscope Image of Electrohydrodynamic Inkjet Printing Drop

圖5 電噴印液滴直徑Fig.5 Electrohydrodynamic Inkjet Printing Droplet Diameter

4.2 RFR模型的預(yù)測效果

為了得到電噴印液滴直徑預(yù)測模型的最優(yōu)參數(shù)，使用網(wǎng)格搜索和留一法進(jìn)行得到的最優(yōu)決策樹的個數(shù)k為20。將劃分的11個測試集帶入模型進(jìn)行預(yù)測，RFR模型的預(yù)測結(jié)果，如圖6、表3所示。由圖6可知，RFR液滴直徑預(yù)測值與液滴直徑實際值偏差較小，并且基本都在實際值的標(biāo)準(zhǔn)誤差范圍之內(nèi)。由表3可知，RFR預(yù)測結(jié)果的最大相對誤差為5.899%，整體預(yù)測相對誤差較小。根據(jù)式（4）、式（5）可知，MAPE 和RMSE 分別為2.226%與2.274%，兩個評價指標(biāo)都較小，不超過10%；與理論建模及回歸分析的預(yù)測效果相比，預(yù)測精度有了較大的提高，驗證了RFR液滴預(yù)測模型的有效性。

表3 液滴實際直徑與RFR液滴預(yù)測直徑Tab.3 Actual Droplet Diameter and Droplet Predicted Diameter of RFR

圖6 液滴實際直徑與RFR預(yù)測直徑Fig.6 Actual Droplet Diameter and Droplet Predicted Diameter of RFR

4.3 不同模型性能對比

為了充分驗證RFR 預(yù)測模型的合理性與適用性，這里分別利用決策樹回歸模型（CART）、支持向量機(jī)回歸模型（SVR）、神經(jīng)網(wǎng)絡(luò)回歸模型（ANN）進(jìn)行對比。各預(yù)測模型的預(yù)測評價指標(biāo)，如圖7所示。

圖7 各模型評價指標(biāo)Fig.7 Evaluation Index of Each Model

由圖7中四種模型評價指標(biāo)的對比結(jié)果可以看出，相比CART、SVR和ANN算法，RFR預(yù)測模型的評價指標(biāo)MAPE值與RMSE值最小，說明該模型預(yù)測效果最佳，證明RFR液滴預(yù)測模型的性能要優(yōu)于其余三種預(yù)測模型。在其余三種預(yù)測算法中，神經(jīng)網(wǎng)絡(luò)回歸算法預(yù)測性能最佳。但對比隨機(jī)森林模型，神經(jīng)網(wǎng)絡(luò)預(yù)測模型精度不高的原因有：（1）神經(jīng)網(wǎng)絡(luò)回歸模型的訓(xùn)練需要大量的數(shù)據(jù)，而電噴印液滴直徑訓(xùn)練集過少，導(dǎo)致神經(jīng)網(wǎng)絡(luò)不能得到充分訓(xùn)練；（2）ANN容易陷入局部極小化，導(dǎo)致ANN模型的預(yù)測精度沒有RFR模型的精度高。

5 結(jié)論

（1）將隨機(jī)森林回歸算法應(yīng)用于電噴印液滴直徑預(yù)測中，建立了基于隨機(jī)森林算法的電噴印液滴直徑預(yù)測模型，提出相應(yīng)的建模流程和步驟，為電噴印的液滴直徑預(yù)測研究提供了一種新方法。

（2）基于大量文獻(xiàn)和實驗經(jīng)驗選取了6個主要影響電噴印液滴直徑的因素，使用Box-Behnken響應(yīng)面設(shè)計（BBD）方法設(shè)計了54組實驗，并以54組實驗數(shù)據(jù)為樣本，建立電噴印訓(xùn)練樣本集與測試樣本集，選取最優(yōu)參數(shù)進(jìn)行建模，由圖5可看知RFR模型具有較強(qiáng)的預(yù)測能力，與理論建模及回歸分析預(yù)測模型的預(yù)測效果相比，預(yù)測精度有了較大的提高。驗證了該模型在電噴印液滴直徑預(yù)測上應(yīng)用的可行性。

（3）將隨機(jī)森林回歸模型與CART、SVR、ANN模型的評價指標(biāo)進(jìn)行了對比分析，結(jié)果表明隨機(jī)森林模型具有更高的精度，進(jìn)一步證明了基于隨機(jī)森林的電噴印液滴直徑預(yù)測模型的優(yōu)越性，證明了該模型對電噴印液滴直徑預(yù)測具有應(yīng)用價值。