摘要：在復(fù)雜的半導(dǎo)體生產(chǎn)過程中，為了減少成本、縮短周期，須優(yōu)化質(zhì)量檢測(cè)過程。本文對(duì)半導(dǎo)體的生產(chǎn)特點(diǎn)進(jìn)行分析，結(jié)合數(shù)據(jù)預(yù)測(cè)的深度學(xué)習(xí)理念，構(gòu)建基于長(zhǎng)短期記憶網(wǎng)絡(luò)（Long Short-Term Memory，LSTM）的質(zhì)量預(yù)測(cè)模型。與基礎(chǔ)預(yù)測(cè)模型相比，該模型考慮在復(fù)雜加工過程中使用的不同工具，引入工具識(shí)別模塊。改進(jìn)后的模型提高了質(zhì)量預(yù)測(cè)的準(zhǔn)確性和預(yù)測(cè)能力。對(duì)薄膜晶體管液晶顯示器（TFT-LCD）的生產(chǎn)數(shù)據(jù)進(jìn)行驗(yàn)證，本文方法預(yù)測(cè)結(jié)果更接近真實(shí)值，均方根誤差（Root Mean Square Error，RMSE）和平均絕對(duì)誤差（Mean Absolute Error，MAE）2類指標(biāo)均大幅度降低。

關(guān)鍵詞：半導(dǎo)體；質(zhì)量；改進(jìn)循環(huán)神經(jīng)網(wǎng)絡(luò)

中圖分類號(hào)：TP391""""""""" 文獻(xiàn)標(biāo)志碼：A

半導(dǎo)體信息化程度、生產(chǎn)成本很高，生產(chǎn)過程、工序十分復(fù)雜，因此其生產(chǎn)質(zhì)量十分重要。本文提出一種基于改進(jìn)循環(huán)神經(jīng)網(wǎng)絡(luò)（Recurrent Neural Network，RNN）的質(zhì)量預(yù)測(cè)方法，同時(shí)加入工具識(shí)別模塊，能夠根據(jù)生產(chǎn)數(shù)據(jù)實(shí)時(shí)進(jìn)行質(zhì)量預(yù)測(cè)，有助于及時(shí)發(fā)現(xiàn)質(zhì)量問題，為調(diào)整生產(chǎn)計(jì)劃留出充足時(shí)間。

1半導(dǎo)體質(zhì)量預(yù)測(cè)模型

1.1LSTM適配性

長(zhǎng)短期記憶網(wǎng)絡(luò)（Long Short-Term Memory，LSTM）是一種深度學(xué)習(xí)模型[1]，其作用是對(duì)序列數(shù)據(jù)進(jìn)行建模。利用RNN來存儲(chǔ)和檢索信息。半導(dǎo)體生產(chǎn)復(fù)雜程度高，使用的工具很多，每一道工序都可能對(duì)半導(dǎo)體質(zhì)量造成重大影響。考慮上述情況，因?yàn)橘|(zhì)量預(yù)測(cè)期間須考慮的變量較多，所以本文選擇了LSTM，其有以下2個(gè)優(yōu)點(diǎn)。1）LSTM具有“記憶單元”結(jié)構(gòu)，可對(duì)長(zhǎng)時(shí)間序列數(shù)據(jù)進(jìn)行建模。多工序數(shù)據(jù)通常具有長(zhǎng)期的依賴性和記憶效應(yīng)，LSTM的內(nèi)部記憶單元可以存儲(chǔ)和檢索長(zhǎng)期記憶，捕捉長(zhǎng)期依賴性，提高模型的性能。2）LSTM每個(gè)時(shí)間步能夠輸入多個(gè)特征，并處理具有多維特征值的數(shù)據(jù)，其結(jié)構(gòu)使其能夠適應(yīng)不同的序列長(zhǎng)度和數(shù)據(jù)模式，因此其非常適合處理具有多個(gè)特征值的多工序數(shù)據(jù)。

綜上所述，當(dāng)處理多工序數(shù)據(jù)的時(shí)序和依賴關(guān)系時(shí)，LSTM的適應(yīng)性很強(qiáng)，表現(xiàn)優(yōu)秀，因此本文使用LSTM對(duì)半導(dǎo)體質(zhì)量進(jìn)行預(yù)測(cè)。

1.2LSTM模型簡(jiǎn)介

LSTM模型在RNN的基礎(chǔ)上增加了3個(gè)門控機(jī)制，分別為“遺忘門”“輸入門”和“輸出門”[2]。LSTM單元由單元狀態(tài)（Ct）、遺忘門（ft）、輸入門（it）和輸出門（Ot）組成。設(shè)t時(shí)刻的輸入序列為向量Xt，輸出序列為ht，3個(gè)門以及LSTM單元內(nèi)部計(jì)算過程如公式（1）～公式（6）所示。

式中：ft為遺忘門；i為輸入門；Ot為輸出門；σ為Sigmoid激活函數(shù)；tanh為tanh激活函數(shù)；ht、ht-1為時(shí)間步的隱藏狀態(tài)；Wfh、Wih、Woh和Wch分別為3個(gè)門和單元狀態(tài)的互連權(quán)重矩陣；Wfx、Wix、Wox和Wcx分別為3個(gè)門和單元狀態(tài)的輸入權(quán)重矩陣；bf、bi、bo和bc分別為每個(gè)門輸出相應(yīng)的偏置項(xiàng)；Ct和Ct-1分別為t和t-1時(shí)刻記憶單元中的狀態(tài)向量；Ct為t時(shí)刻候選單元中的狀態(tài)向量；為矩陣的元素乘積。

2半導(dǎo)體質(zhì)量預(yù)測(cè)模型構(gòu)建

2.1特征選擇與數(shù)據(jù)預(yù)處理

在半導(dǎo)體的生產(chǎn)數(shù)據(jù)中有許多干擾數(shù)據(jù)，會(huì)對(duì)模型訓(xùn)練造成困擾。因此，在準(zhǔn)備訓(xùn)練深度學(xué)習(xí)模型的過程中，須處理異常值并對(duì)數(shù)據(jù)進(jìn)行歸一化處理，其目的是將特征數(shù)值縮放至統(tǒng)一的范圍，加快學(xué)習(xí)算法的收斂速度，使模型對(duì)特征尺度不敏感。本文使用MinMaxScaler模型對(duì)數(shù)據(jù)進(jìn)行歸一化處理，它可以將數(shù)據(jù)縮放至（0，1），如公式（7）所示。

（7）

式中：min和max分別為數(shù)據(jù)的最小值和最大值；X為原始數(shù)據(jù)；X'為統(tǒng)一后的數(shù)據(jù)。

對(duì)序列數(shù)據(jù)進(jìn)行處理，須將原始數(shù)據(jù)重構(gòu)為序列格式，輸入LSTM模型中。將數(shù)據(jù)集分割為訓(xùn)練集和測(cè)試集，本文選擇80%訓(xùn)練集和20%測(cè)試集。

2.2工具識(shí)別

由于該加工過程的復(fù)雜程度較高，因此本文首次建立的預(yù)測(cè)模型預(yù)測(cè)結(jié)果不佳。分析生產(chǎn)數(shù)據(jù)的特點(diǎn)后，發(fā)現(xiàn)其中的“工具”字段有5種分類（不同工具導(dǎo)致的誤差棒如圖1所示）。因此，增加工具識(shí)別模塊，對(duì)質(zhì)量預(yù)測(cè)模型進(jìn)行優(yōu)化。

使用檢測(cè)工具圖像或特征來識(shí)別其類型和狀態(tài)，進(jìn)行預(yù)測(cè)和決策。為保證模型準(zhǔn)確性和魯棒性，須關(guān)注數(shù)據(jù)分布的均衡性和異常值。由于半導(dǎo)體制造工具精度高，數(shù)據(jù)須保留至小數(shù)點(diǎn)后6位，因此本文在工具識(shí)別過程中充分考慮數(shù)據(jù)精度和變化情況，保證預(yù)測(cè)結(jié)果的準(zhǔn)確性和可靠性。

誤差棒圖是一種常用的數(shù)據(jù)可視化方法，其作用是顯示數(shù)據(jù)的平均值以及數(shù)據(jù)值在平均值附近的波動(dòng)。導(dǎo)入所需的庫(kù)，從數(shù)據(jù)框中提取按照“TOOL”分組的數(shù)據(jù)。本文提取每個(gè)分組的“Value”列的數(shù)據(jù)計(jì)算其平均值和標(biāo)準(zhǔn)差。創(chuàng)建1個(gè)位置列表，在圖中標(biāo)記每個(gè)數(shù)據(jù)集，創(chuàng)建1個(gè)圖形，并使用errorbar函數(shù)繪制誤差棒圖。這個(gè)函數(shù)接受3個(gè)參數(shù)：位置（即x軸上的標(biāo)簽）、平均值以及標(biāo)準(zhǔn)差。在Matplotlib庫(kù)中，o是一個(gè)Marker參數(shù)，表示使用圓點(diǎn)作為數(shù)據(jù)點(diǎn)的標(biāo)記符。capsize是1個(gè)參數(shù)，其作用是設(shè)置誤差棒的大小。誤差棒是一種常用的可視化方法，表示數(shù)據(jù)點(diǎn)的不確定性或誤差。capsize參數(shù)控制誤差棒的大小，單位為點(diǎn)數(shù)。本文設(shè)capsize=5即將誤差棒的大小設(shè)為5點(diǎn)數(shù)。須展示每個(gè)“TOOL”中“Value”列數(shù)據(jù)的分布情況以及與平均值相比這些數(shù)據(jù)的波動(dòng)，誤差棒能夠直觀展示這些信息。使用不同工具，數(shù)據(jù)集的預(yù)測(cè)值明顯不同，因此，有必要加入工具識(shí)別模塊。

2.3算法優(yōu)化

自適應(yīng)矩估計(jì)算法（Adaptive Moment Estimation，Adam）是一種優(yōu)化算法，也是改進(jìn)的隨機(jī)梯度下降（Stochastic Gradient Descent，SGD）方法，其結(jié)合動(dòng)量和自適應(yīng)學(xué)習(xí)率進(jìn)行調(diào)整，能夠加速模型收斂，提高訓(xùn)練效果。本文采用Adam來最小化LSTM模型的損失函數(shù)。Adam的優(yōu)勢(shì)主要包括以下2點(diǎn)。1）加速收斂，利用動(dòng)量和自適應(yīng)學(xué)習(xí)率進(jìn)行調(diào)整，可以縮短訓(xùn)練時(shí)間。2）適用于大規(guī)模數(shù)據(jù)，擴(kuò)展性較好，能夠處理海量數(shù)據(jù)并進(jìn)行優(yōu)化。將Adam與半導(dǎo)體數(shù)據(jù)的質(zhì)量預(yù)測(cè)模型進(jìn)行結(jié)合，訓(xùn)練并優(yōu)化模型參數(shù)，提高預(yù)測(cè)準(zhǔn)確性和效率。這種方法可以有效應(yīng)用于半導(dǎo)體數(shù)據(jù)的質(zhì)量預(yù)測(cè)，利用模型評(píng)估和可視化結(jié)果對(duì)模型性能進(jìn)行分析和優(yōu)化。

更新模型參數(shù)，計(jì)算過程如公式（8）所示。

（8）

式中：θt為當(dāng)前模型參數(shù)的更新值；θt-1為模型參數(shù)在時(shí)間步的值；gi（θt-1）為第i個(gè)樣本的梯度；m為樣本數(shù)；α為學(xué)習(xí)率。

2.4模型訓(xùn)練

本文利用阿里天池工業(yè)AI大賽-智能制造質(zhì)量預(yù)測(cè)中薄膜晶體管液晶顯示器（TFT-LCD）的生產(chǎn)數(shù)據(jù)來檢驗(yàn)提出的多工序產(chǎn)品質(zhì)量預(yù)測(cè)模型。TFT-LCD半導(dǎo)體智能制造質(zhì)量預(yù)測(cè)數(shù)據(jù)集包括反應(yīng)機(jī)臺(tái)的溫度、氣體、液體流量、功率以及制成時(shí)間等因子，根據(jù)影響因子設(shè)計(jì)模型，準(zhǔn)確預(yù)測(cè)與其對(duì)應(yīng)的特性數(shù)值[3]。

本文使用多模型訓(xùn)練方法對(duì)每個(gè)工具的數(shù)據(jù)集分別建立模型進(jìn)行訓(xùn)練。這種方法可以充分利用每個(gè)工具數(shù)據(jù)集的特點(diǎn)，提高模型的泛化能力和預(yù)測(cè)精度。為每個(gè)數(shù)據(jù)集量身定制1個(gè)模型，當(dāng)處理相應(yīng)數(shù)據(jù)時(shí)，保證模型具有較高的準(zhǔn)確性和可靠性。同時(shí)，多模型訓(xùn)練還可以增加模型的魯棒性，降低單個(gè)模型在訓(xùn)練過程中可能出現(xiàn)的過擬合或欠擬合風(fēng)險(xiǎn)。

為方便進(jìn)行處理與訓(xùn)練，本文對(duì)現(xiàn)實(shí)的工具工序進(jìn)行了數(shù)據(jù)層面的抽象定義，使用5種工具的數(shù)據(jù)劃分?jǐn)?shù)據(jù)集，其中一種工具J的數(shù)據(jù)集的損失函數(shù)曲線如圖2所示，準(zhǔn)確率曲線如圖3所示，由圖2、圖3可知，該工具的損失函數(shù)下降明顯。

2.5結(jié)果與分析

為驗(yàn)證改進(jìn)循環(huán)神經(jīng)網(wǎng)絡(luò)的質(zhì)量預(yù)測(cè)模型的準(zhǔn)確性，本文采用均方根誤差（Root Mean Square Error，RMSE）、平均絕對(duì)誤差（Mean Absolute Error，MAE）對(duì)結(jié)果進(jìn)行量化評(píng)估。從結(jié)果可以看出，使用這些因子優(yōu)化后的模型預(yù)測(cè)準(zhǔn)確率明顯上升，能夠準(zhǔn)確預(yù)測(cè)產(chǎn)品質(zhì)量。

優(yōu)化前模型MSE為5.436306136454508，RMSE為2.3315887580048305；優(yōu)化后模型MSE為0.06469379271560773，RMSE為0.25434974487034134。

模型優(yōu)化前的結(jié)果如圖4所示。雖然預(yù)測(cè)模型能夠根據(jù)半導(dǎo)體生產(chǎn)數(shù)據(jù)的大致趨勢(shì)進(jìn)行變化，但是在具體的表現(xiàn)上，無論是上升還是下降都不夠明顯，與半導(dǎo)體生產(chǎn)數(shù)據(jù)的真實(shí)值之間存在一定的差距。模型優(yōu)化后的結(jié)果如圖5所示，由圖5可知，優(yōu)化后的模型能夠更加緊密地貼合半導(dǎo)體生產(chǎn)數(shù)據(jù)的真實(shí)值，魯棒性和泛化能力更強(qiáng)，說明模型能夠更好地適應(yīng)復(fù)雜多變的半導(dǎo)體生產(chǎn)數(shù)據(jù)，預(yù)測(cè)準(zhǔn)確性較高。

3結(jié)論

本文根據(jù)半導(dǎo)體生產(chǎn)數(shù)據(jù)特點(diǎn)進(jìn)行分析，結(jié)合數(shù)據(jù)預(yù)測(cè) 的深度學(xué)習(xí)理念構(gòu)建了基于LSTM的質(zhì)量預(yù)測(cè)模型，為其他復(fù)雜產(chǎn)品的質(zhì)量預(yù)測(cè)提供參考。本文使用分類思想，針對(duì)模型在使用過程中的不同工具進(jìn)行識(shí)別，分類預(yù)測(cè)思想可以大幅度提高預(yù)測(cè)準(zhǔn)確性。

使用本文提出的方法能夠?qū)崟r(shí)監(jiān)控并預(yù)警生產(chǎn)過程，提前發(fā)現(xiàn)當(dāng)前工序的問題，防止問題傳遞至后續(xù)工序[4]，減少生產(chǎn)資源浪費(fèi)，提高產(chǎn)品合格率。工藝人員能夠基于預(yù)測(cè)模型獲取的關(guān)鍵參數(shù)針對(duì)性能表現(xiàn)較差的產(chǎn)品進(jìn)行問題追溯，調(diào)整關(guān)鍵的影響因子，加快不良問題的處理速度，提升整體工藝水平。

參考文獻(xiàn)

[1]周朝營(yíng). 基于LSTM模型的橋梁監(jiān)測(cè)信號(hào)恢復(fù)方法研究[D]. 重慶：重慶交通大學(xué)，2023.

[2]涂新前. 基于神經(jīng)網(wǎng)絡(luò)模型的永安市小流域水環(huán)境質(zhì)量預(yù)測(cè)的研究[J]. 皮革制作與環(huán)?？萍?，2023，4（20）：75-78.

[3]王譯可. 基于改進(jìn)BiLSTM和FBN的多工序產(chǎn)品質(zhì)量預(yù)測(cè)與控制研究[D]. 沈陽：沈陽大學(xué)，2022.

[4]楊少華. 一種基于XGBoost的智能制造質(zhì)量預(yù)測(cè)模型[J]. 科學(xué)技術(shù)創(chuàng)新，2021（11）：18-20.