張振興，楊任農(nóng)，房育寰

（空軍工程大學航空航天工程學院，西安 710038）

0 引言

近年來，飛行軌跡預測一直是個研究熱點，飛行軌跡的準確預測在未來空中管理系統(tǒng)和作戰(zhàn)飛機控制中發(fā)揮著重要作用。根據(jù)安裝位置的不同，航跡預測可以分為機載航跡預測系統(tǒng)和地面航跡預測系統(tǒng)，本文著眼于提高軌跡預測的速度和精度，為機載航跡預測系統(tǒng)提供一種新的方法。

目前對飛行軌跡預測的研究主要分為兩類：一類是基于理論分析的參數(shù)方法［1-3］，利用空氣動力學模型或者牛頓力學模型，通過對不同飛行階段建立運動方程，確定飛機的運動狀態(tài)量。但是在求解模型時，忽略了許多無法實時測量的參數(shù)，比如飛機所處位置的風速、溫度和大氣壓力等，同時也沒有考慮管制因素，使得模型的準確度降低。另一類是基于歷史數(shù)據(jù)的經(jīng)驗方法，例如改進的卡爾曼濾波方法［4］、基因表達式編程（GEP）［5］等方法，通過分析歷史數(shù)據(jù)，將模型中的關(guān)鍵因子提取出來，實現(xiàn)對飛行性能模型的逼近和預測?？紤]到飛行軌跡預測模型的復雜性，為了準確對其進行建模，本文采用基于神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)建模方法。神經(jīng)網(wǎng)絡(luò)由于具有優(yōu)秀的非線性映射功能、獨有的多輸入多輸出等特點，已被應用在飛行軌跡預測中［6］。但是，由于BP神經(jīng)網(wǎng)絡(luò)和Elman神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)相對簡單，雖然在一定程度上提高了飛行軌跡的預測精度，仍無法準確快速地對飛機高階非線性系統(tǒng)建模［7-8］。

針對以上問題，本文在NARX動態(tài)神經(jīng)網(wǎng)絡(luò)［9］的基礎(chǔ)上，增加網(wǎng)絡(luò)承接層和自反饋連接，建立了Elman-NARX神經(jīng)網(wǎng)絡(luò)模型。這種模型能夠存儲更多的歷史狀態(tài)信息，提高網(wǎng)絡(luò)非線性性能和動態(tài)性能，同時增加了輸出變量對輸入變量的依賴程度，對高階動態(tài)系統(tǒng)建模更準確。為了提高網(wǎng)絡(luò)訓練速度和泛化能力，利用貝葉斯正則化方法訓練神經(jīng)網(wǎng)絡(luò)，簡化網(wǎng)絡(luò)結(jié)構(gòu)，保證網(wǎng)絡(luò)預測的準確性。最后，將其應用到飛行軌跡預測實驗中，結(jié)果表明了該方法的有效性，并且具有廣泛的應用價值。

1 飛機飛行軌跡神經(jīng)網(wǎng)絡(luò)預測模型

在飛機飛行過程中，由于飛行員實時對飛機進行操縱，無法進行長時間飛行軌跡準確預測，本文將長時間分解為多個短時間，預測飛行軌跡。飛機飛行軌跡預測模型是一個復雜的非線性動態(tài)系統(tǒng)，受到多種因素影響，其中，飛行員的操縱量是影響飛機飛行軌跡的關(guān)鍵要素［10］，文獻［7］采用升降舵和方向舵偏角以及發(fā)動機推力作為輸入對無人機軌跡進行預測，取得較好的效果。但是，由于獲取有人機偏角數(shù)據(jù)較困難，不能采用文獻［7］中無人機軌跡預測模型的輸入量作為本模型的輸入量?？紤]到在飛機飛行過程中，飛行員通過對操縱系統(tǒng)的控制，包括駕駛桿、油門桿和腳蹬，保證對飛機縱向、橫向、航向以及在機動飛行和起飛著陸時機翼増升裝置的操縱，改變飛機的運動狀態(tài)，本文采用飛行員的操縱量：駕駛桿前后和左右偏移量、腳蹬偏移量和油門桿偏移量作為預測飛行軌跡神經(jīng)網(wǎng)絡(luò)模型的輸入量，為了實時的對后幾個時刻的飛機位置進行預測，將飛機的三維坐標作為神經(jīng)網(wǎng)絡(luò)模型輸出量，建立神經(jīng)網(wǎng)絡(luò)飛行軌跡預測模型。

2 Elman-NARX神經(jīng)網(wǎng)絡(luò)模型及學習算法

NARX自回歸神經(jīng)網(wǎng)絡(luò)是在BP神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上，增加了從輸出層到輸入層的反饋延遲以及輸入變量的延遲，使得網(wǎng)絡(luò)具有動態(tài)和記憶功能，為了進一步提高其對復雜非線性動態(tài)系統(tǒng)建模的能力，可以對其結(jié)構(gòu)進行改進。

2.1 Elman-NARX神經(jīng)網(wǎng)絡(luò)模型建立

在NARX動態(tài)神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上，借鑒Elman神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)特點，增加網(wǎng)絡(luò)承接層和自反饋連接，建立了Elman-NARX神經(jīng)網(wǎng)絡(luò)模型。圖1所示為網(wǎng)絡(luò)的結(jié)構(gòu)圖。該網(wǎng)絡(luò)是對標準NARX神經(jīng)網(wǎng)絡(luò)進行改進，即在隱含層中增加了反饋連接到輸入層的承接層，以及在承接層上增加了一個增益為α的自反饋連接，這樣，就在輸入變量不變的情況下，達到了提高網(wǎng)絡(luò)存儲和記憶歷史信息的能力的效果。

在圖 1 中，Iu表示外部輸入變量，u=1，2，…，m，l表示隱含層節(jié)點數(shù)，x（k）表示第k次迭代承接層輸出，h（k）表示第k次迭代隱含層輸出，O（k）表示第k次迭代輸出層輸出，w1、w2、w3和 w4分別表示承接層到隱含層，反饋延遲輸出變量到隱含層，輸入變量到隱含層以及隱含層到輸出層的連接權(quán)值，f（·）表示隱含層的傳遞函數(shù)，g（·）表示輸出層的傳遞函數(shù)，假設(shè)外部輸入變量Ik的延遲長度為p，輸出變量O（k）的反饋延遲長度為n，則該網(wǎng)絡(luò)的數(shù)學模型為：

與NARX神經(jīng)網(wǎng)絡(luò)數(shù)學模型相比，該模型的數(shù)學表達式中增加了式（1），式（1）可以繼續(xù)化簡為：

2.2 Elman-NARX神經(jīng)網(wǎng)絡(luò)學習算法

Elman-NARX神經(jīng)網(wǎng)絡(luò)雖然保留歷史狀態(tài)信息的能力更強，但是NARX神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)復雜，可能會影響網(wǎng)絡(luò)的速度和泛化能力［12］。為了簡化網(wǎng)絡(luò)結(jié)構(gòu)，進一步提高模型的速度和預測精度，采用貝葉斯正則化算法來訓練網(wǎng)絡(luò)。

2.2.1 正則化神經(jīng)網(wǎng)絡(luò)

神經(jīng)網(wǎng)絡(luò)的泛化能力與網(wǎng)絡(luò)結(jié)構(gòu)的復雜程度直接相關(guān)，如果神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)比較復雜，權(quán)值相對較大，則易發(fā)生過擬合現(xiàn)象。正則化是一種通過在神經(jīng)網(wǎng)絡(luò)的訓練性能函數(shù)中加入懲罰項［13］，簡化網(wǎng)絡(luò)的權(quán)值連接結(jié)構(gòu)，從而進一步提高其泛化能力的訓練方法。神經(jīng)網(wǎng)絡(luò)一般的訓練性能函數(shù)的均方誤差為：

式中，n表示訓練樣本總組數(shù)，yi表示第i組訓練樣本的預測值，ti表示第i組訓練樣本的實際值。

貝葉斯正則化加入懲罰項后的訓練性能函數(shù)為：

式中，α，β表示性能參數(shù)，N表示網(wǎng)絡(luò)結(jié)構(gòu)中的權(quán)值總數(shù)，wk表示第k個權(quán)值。性能參數(shù)β和α決定了訓練性能函數(shù)中網(wǎng)絡(luò)的均方誤差和權(quán)值的均方值所占的比重，如果β遠大于α，則訓練強調(diào)網(wǎng)絡(luò)均方誤差，與原性能函數(shù)一致；如果α遠大于β，則訓練注重網(wǎng)絡(luò)權(quán)值的均方值，最終得到的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)簡單，輸出更加平滑，不會出現(xiàn)過擬合和陷入極小值等問題。

2.2.2 貝葉斯學習方法

Mackey［14］首次提出用貝葉斯方法，通過在訓練的過程中自適應調(diào)節(jié)性能參數(shù)α和β的大小，得到最適合的性能參數(shù)。

將w視為隨機變量，根據(jù)貝葉斯規(guī)則［14］，在已知訓練數(shù)據(jù)條件下，w的后驗概率為

式中，D表示訓練數(shù)據(jù)集，M表示Elman-NARX神經(jīng)網(wǎng)絡(luò)模型，表示標準化因子，表示w的先驗概率密度函數(shù)，表示w給定時的概率密度函數(shù)。

根據(jù)以往的經(jīng)驗，假設(shè)飛行訓練數(shù)據(jù)中的噪聲和權(quán)向量服從高斯分布，則有：

由式（8）～式（10）可得：

式中，N表示網(wǎng)絡(luò)實際參數(shù)的總個數(shù)，γ表示網(wǎng)絡(luò)有效參數(shù)的個數(shù)體現(xiàn)了網(wǎng)絡(luò)的實際規(guī)模。

為了提高網(wǎng)絡(luò)的收斂速度，利用Levenberg-Marquradt算法訓練網(wǎng)絡(luò)。LM算法是梯度下降法和牛頓法的結(jié)合，通過加入比例因子μ來調(diào)節(jié)權(quán)重，極大地加快了網(wǎng)絡(luò)的收斂速度，權(quán)值更新公式為：

其中，ηn表示學習率表示神經(jīng)網(wǎng)絡(luò)誤差函數(shù)的一階梯度。

算法步驟如下：

Step1以較小的初始值初始化性能參數(shù)α和β，以及神經(jīng)網(wǎng)絡(luò)的權(quán)值和閾值；

Step2利用Levenberg-Marquradt算法訓練神經(jīng)網(wǎng)絡(luò)，保證目標函數(shù)F（w）最??；

Step4根據(jù)式（12）和式（13）更新性能參數(shù) α 和β，以及神經(jīng)網(wǎng)絡(luò)的權(quán)值和閾值；

Step5判斷神經(jīng)網(wǎng)絡(luò)是否收斂或者達到最大迭代次數(shù)。如果是，則結(jié)束訓練；如果不是，重復步驟2～5。

圖2所示為整個算法流程圖：

3 實驗仿真分析

由于無法獲取各種飛行情況下的軌跡數(shù)據(jù)庫，采用飛機模擬器采集特定仿真環(huán)境下的飛行數(shù)據(jù)進行仿真實驗，以某型飛機模擬器的飛行軌跡作為研究對象，驗證基于貝葉斯正則化的Elman-NARX神經(jīng)網(wǎng)絡(luò)方法預測飛行軌跡的有效性。

本文同時使用BP神經(jīng)網(wǎng)絡(luò)、Elman神經(jīng)網(wǎng)絡(luò)、NARX神經(jīng)網(wǎng)絡(luò)以及基于貝葉斯正則化和LM算法的Elman-NARX神經(jīng)網(wǎng)絡(luò)進行仿真實驗。

3.1 飛行仿真實驗

仿真時以飛機初始時刻質(zhì)心位置為坐標原點，以過原點的緯線切線指向東為軸，以過原點經(jīng)線切線指向北為軸，并根據(jù)右手定則確定軸，建立類地面坐標系。

在不考慮風擾動的前提下，將飛機駕駛桿橫向和縱向偏移量、油門桿偏移量、腳蹬偏移量和時間作為預測模型的輸入量，將飛機三維坐標作為輸出量。在實際預測時，利用每一次預測的實際值替代預測值，更新學習樣本，進行下一次預測，保證飛行軌跡長期預測的準確性。

3.2 參數(shù)設(shè)置及性能指標

神經(jīng)網(wǎng)絡(luò)參數(shù)：1）隱含層數(shù)：單層；2）隱含層傳遞函數(shù)：雙曲正切Sigmoid函數(shù)；3）隱含層節(jié)點數(shù)和動態(tài)神經(jīng)網(wǎng)絡(luò)的時間延遲：隱含層節(jié)點數(shù)范圍取在［1，20］之間，時間延遲范圍取在［1，5］之間，采用列舉法確定最優(yōu)值；4）學習率：自適應學習率方法，初始值設(shè)置為0.1；5）最大訓練次數(shù)均設(shè)置為800；6）訓練精度均設(shè)置為5*10-5。

貝葉斯正則化算法：性能參數(shù)α和β起始時均設(shè)置為0.1；

3.3 軌跡預測仿真實驗結(jié)果

選取飛行數(shù)據(jù)中的50組數(shù)據(jù)完成訓練和預測任務。其中，前40組數(shù)據(jù)用于訓練網(wǎng)絡(luò)，后10組數(shù)據(jù)用于評價模型。

圖3所示為前4種神經(jīng)網(wǎng)絡(luò)預測飛機軌跡的3個坐標的相對誤差結(jié)果對比。由圖3可知，預測精度大小比較：Elman-NARX神經(jīng)網(wǎng)絡(luò)＞NARX神經(jīng)網(wǎng)絡(luò)＞Elman神經(jīng)網(wǎng)絡(luò)＞BP神經(jīng)網(wǎng)絡(luò)。由此可知，動態(tài)神經(jīng)網(wǎng)絡(luò)的預測結(jié)果優(yōu)于靜態(tài)BP神經(jīng)網(wǎng)絡(luò)，Elman-的預測精度最高，3個坐標預測的相對誤差均小于1*e-3，達到了期望目標，要比其他兩種動態(tài)神經(jīng)網(wǎng)絡(luò)預測結(jié)果更好，達到了預期目的。飛機軌跡預測如下頁圖4所示。

圖5為基于貝葉斯正則化的Elman-神經(jīng)網(wǎng)絡(luò)訓練進化曲線，由圖5可知，改進后的神經(jīng)網(wǎng)絡(luò)收斂速度較快，訓練6次基本達到誤差要求，訓練時間為0.941 s，基本滿足機載軌跡預測系統(tǒng)要求。

為了全面直觀地評價基于LM算法和貝葉斯算法的預測結(jié)果，分別將均方根誤差（Root Mean Square Error，RMSE）和相關(guān)系數(shù)R作為性能指標。均方根誤差越小，相關(guān)系數(shù)越大，說明模型的預測精度越高，性能越好。

表1為基于貝葉斯正則化和LM算法的Elman-NARX神經(jīng)網(wǎng)絡(luò)的預測結(jié)果進行比較，其中BR表示貝葉斯算法。由表1可知：貝葉斯正則化算法優(yōu)于LM算法，預測結(jié)果的精度和相關(guān)性均優(yōu)于LM算法。

綜上所述，本文提出的基于貝葉斯正則化的Elman-NARX神經(jīng)網(wǎng)絡(luò)模型可以較好地對飛機動態(tài)系統(tǒng)建模，以較高的精度和速度預測飛行軌跡，具有實際應用價值。

4 結(jié)論

飛機系統(tǒng)是一個高階非線性動態(tài)系統(tǒng)，本文提出的基于貝葉斯正則化的Elman-NARX神經(jīng)網(wǎng)絡(luò)模型，提升了高階動態(tài)系統(tǒng)的預測精度和速度，優(yōu)于一般的動態(tài)神經(jīng)網(wǎng)絡(luò)。對飛行軌跡預測時，預測的精度和速度都較高，具有實際應用價值。此外，本文提出的這種模型具有普適性，適用于所有的高階非線性動態(tài)系統(tǒng)，可以被廣泛應用在電價預測、高爐鐵水含硅量預測、高速鐵路沉降預測等方面，應用前景較好。

參考文獻：

［1］THIPPHAVONG D P，SCHULTZ C A，LEE A G，et al.Adaptive algorithm to improve trajectory prediction accuracy of climbing aircraft［J］.Journal of Guidance，Control，and Dynamics，2013，36（1）：15-24.

［2］AMIT A G.Adaptive improvement of climb performance［D］.Cincinnati：University of Cincinnati，2003.

［3］PREVOST C G，DESBIENS A，GAGNON E.Extended kalman filter for state estimation and trajectory prediction of a moving objected detected by an unmanned aerial vehicle［C］//Proceedings of the 2007 American Control Conference.Piscataway：IEEE Press，2007.

［4］王濤波，黃寶軍.基于改進卡爾曼濾波的四維飛行航跡預測模型［J］.計算機應用，2014，34（6）：1812-1815.

［5］杜冬，麥海波.基于GEP的四維飛行軌跡預測模型［J］.四川大學學報（自然科學版），2013，50（4）：749-752.

［6］譚偉，陸百川，黃美靈.神經(jīng)網(wǎng)絡(luò)結(jié)合遺傳算法用于航跡預測［J］.重慶交通大學學報（自然科學版），2010，38（1）：147-150.

［7］王儉臣，齊曉慧.基于EPSO-BP的Elman網(wǎng)絡(luò)及其在飛行軌跡預測中的應用［J］. 控制與決策，2013，28（12）：1884-1888.

［8］吳建鋒，何小榮，陳丙珍.動態(tài)過程神經(jīng)網(wǎng)絡(luò)模型的研究（一）［J］.系統(tǒng)工程理論與實踐，2001，12（12）：47-53.

［9］CAI L，MA S Y，CAI H T，et al.Prediction of SYM-H index by NARX neural network from IMF and solar wind data［J］.Sci China Ser E-Tech Sci，2009，52（10）：2877-2885.

［10］陳廷楠.飛機飛行性能品質(zhì)與控制［M］.北京：國防工業(yè)出版社，2007.

［11］MARTIN T H，MOHAMMAD B M.Training feedback network with the marquardt algorithm［J］.IEEE Transaction on Neural Networks，1994，5（6）：989-993.

［12］李偉，何鵬舉，楊恒，等.基于粗糙集和改進遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的算法研究［J］.西北工業(yè)大學學報，2012，30（10）：601-606.

［13］ZHANG L，LUH P B，KASIVISWANATHAN K.Energy clearing price prediction and confidence interval estimation with cascaded neural networks［J］.IEEE Transactions on Power Systems，2003，18（1）：99-105.

［14］MACKAY D J C.Bayesian interpolation［J］.Neural Computation A，1992，4（3）：415-447.