沈強，劉潔瑜，王琪，王杰飛(第二炮兵工程大學(xué)，西安710025)

基于相關(guān)向量機的MEMS陀螺儀隨機漂移補償

沈強，劉潔瑜*，王琪，王杰飛
(第二炮兵工程大學(xué)，西安710025)

提出了一種基于相關(guān)向量機的MEMS陀螺儀隨機漂移預(yù)測方法。針對MEMS陀螺儀隨機漂移誤差的非線性、不確定性等特點，建立了相關(guān)向量機預(yù)測模型，并采用EM算法獲得模型的參數(shù)。針對隨機漂移的混沌特性，利用相空間重構(gòu)技術(shù)，將重構(gòu)后的漂移序列作為輸入變量進行模型的訓(xùn)練和預(yù)測。訓(xùn)練和測試結(jié)果均表明，該方法具有很好的預(yù)測效果，優(yōu)于常用的時間序列分析法和支持向量機法。利用預(yù)測結(jié)果對隨機漂移進行補償，有效地提高了陀螺的使用精度。

MEMS陀螺儀;隨機漂移;相關(guān)向量機;相空間重構(gòu);EM算法

隨著精確制導(dǎo)武器的迅速發(fā)展，MEMS慣性器件正成為當(dāng)前慣性技術(shù)的一個研究熱點。MEMS陀螺的隨機漂移產(chǎn)生的機理錯綜復(fù)雜，具有非線性和不確定性等特點，已成為影響MEMS陀螺儀精度的主要因素，必須通過有效的方法進行預(yù)測和補償［1］。

比較常用的處理方法包括以時間序列分析為主的線性預(yù)測方法和神經(jīng)網(wǎng)絡(luò)、機器學(xué)習(xí)等非線性預(yù)測方法。文獻［2-4］將線性預(yù)測方法和神經(jīng)網(wǎng)絡(luò)應(yīng)用于MEMS陀螺的隨機漂移補償，在一定程度上提高了陀螺儀的精度，但是線性預(yù)測方法必須假設(shè)時間序列具有平穩(wěn)性、獨立性特征，會對模型的精度產(chǎn)生不利影響;神經(jīng)網(wǎng)絡(luò)存在過擬合現(xiàn)象，算法泛化能力差。基于機器學(xué)習(xí)理論的支持向量機方法SVM(Support Vector Machine)不易發(fā)生過擬合現(xiàn)象，有良好的泛化性能，文獻［5-6］將SVM用于陀螺儀隨機誤差的建模，取得了較好的效果。但該方法也具有明顯的缺陷:解相對上述方法是稀疏的，但當(dāng)訓(xùn)練集增大時，核函數(shù)數(shù)量顯著增加;需要調(diào)整不敏感參數(shù)，通常要求交叉驗證，浪費時間和數(shù)據(jù)計算;核函數(shù)必須為連續(xù)對稱的正定核。

相關(guān)向量機RVM(Relevance Vector Machine)是一種新的機器學(xué)習(xí)算法，與SVM相比，它是一種基于貝葉斯的稀疏概率模型，通過回歸估計獲得預(yù)測值的分布。RVM能夠突破SVM固有的局限，在預(yù)測性能相當(dāng)?shù)那闆r下，能夠極大的減少所需的核函數(shù)［7-8］。

本文將相關(guān)向量機用于MEMS陀螺儀的隨機漂移預(yù)測補償。首先對隨機漂移序列進行相空間重構(gòu)，然后利用重構(gòu)后的時間序列建立RVM預(yù)測模型，并采用EM算法估計模型參數(shù)，最后通過實驗驗證模型的有效性。

1 相關(guān)向量機模型

假定訓(xùn)練樣本集{xi，ti}ni=1，目標(biāo)值ti獨立分布，且?guī)в懈郊釉肼暒舏，則目標(biāo)值可以表示為

其中，w是模型權(quán)值。則RVM的模型由下式定義［9］

式中，w=(w0，w1，…，wn)T為權(quán)值，K(·，·)為核函數(shù)，基函數(shù)由核參數(shù)化。

假設(shè)εi～N(0，σ2)，σ2假設(shè)為未知量，后面在數(shù)據(jù)訓(xùn)練的時候迭代更新獲取。則存在p(ti|x)=N(ti|y(xi)，σ2)。那么數(shù)據(jù)集的似然函數(shù)可以表示為

其中，t=(t1，t2，…，tn)T為目標(biāo)向量;Φ=［φ(x1)，φ(x2)，…，φ(xn)］T為參數(shù)向量;φ(xi)=［1，K (x1，xi)，…，K(xn，xi)］T為基函數(shù)。

如果直接通過最大似然函數(shù)來估計w，會導(dǎo)致過學(xué)習(xí)現(xiàn)象，因而定義服從高斯分布的先驗概率分布

α=(α0，α1，…，αn)T為n+1維超參數(shù)。這樣每一個權(quán)值對應(yīng)一個獨立的超參數(shù)，這是導(dǎo)致模型稀疏性的根本原因。

2 MEMS陀螺隨機漂移建模

MEMS陀螺隨機漂移可以看成是一個與溫度、形變、應(yīng)力干擾等相關(guān)量有關(guān)的多維非線性混沌系統(tǒng)。受各種變量的影響，隨機漂移具有相對復(fù)雜、難以精確預(yù)測的特點。一般的建模過程會進行簡化和假設(shè)，影響模型的精度，利用相空間重構(gòu)法將陀螺隨機漂移時間序列擴展到高維相空間后，再進行超參數(shù)的求解，一方面可以充分體現(xiàn)序列信息，顯著提高預(yù)測精度［10-12］;另一方面，可把一維標(biāo)量序列轉(zhuǎn)換為滿足RVM要求的測試序列。

2.1 相空間重構(gòu)

假設(shè)檢測到的隨機漂移序列是{xt}nt=1，根據(jù)坐標(biāo)延遲重構(gòu)法的Takens嵌入定理，狀態(tài)空間中重構(gòu)的一點狀態(tài)向量可以表示為xt=(xt-(m-1)τ，xt-(m-2)τ，…xt)T，其中m為嵌入維數(shù)，τ為延遲時間。于是重構(gòu)的預(yù)測模型為

在這里可將xi+1看作RVM的目標(biāo)值，而xi為輸入值。

在相空間重構(gòu)中，嵌入維數(shù)m和時間延遲τ的選取十分重要，其精度直接關(guān)系到相空間重構(gòu)后描述奇異吸引子特征的不變量的準(zhǔn)確度。大量實驗表明m和τ的關(guān)系與重構(gòu)相空間的時間窗tw密切相關(guān)(tw=(m-1)τ)，對于特定的時間序列，其tw相對固定，m和τ不恰當(dāng)?shù)呐鋵⒅苯佑绊懼貥?gòu)后的相空間結(jié)構(gòu)與原空間的等價關(guān)系，因此相應(yīng)地產(chǎn)生了m和τ的聯(lián)合算法，如時間窗口法、C-C法等［13］。C-C法基于大量統(tǒng)計結(jié)果產(chǎn)生，計算量少，計算速度快，抗噪聲性能好，本文采用C-C法來進行相空間重構(gòu)參數(shù)的選擇。

2.2 超參數(shù)求解

根據(jù)貝葉斯公式，由前面的模型推理得權(quán)值的后驗概率分布為

式中，σ2也作為RVMR的一個超參數(shù)，協(xié)方差矩陣Σ和均值向量μ分別為

其中A=diag(α0，α1，…，αn)T為對角陣。RVM學(xué)習(xí)問題轉(zhuǎn)化為求解超參數(shù)后驗分布關(guān)于α和σ2的最大值問題。超參數(shù)α和σ2的優(yōu)化，可通過EM算法近似求得

其中Σn是Σ中第i項在對角線上的元素。

先給出α和σ2初始值，然后通過式(9)、式(10)迭代計算，逐漸逼近優(yōu)化的超參數(shù)α和σ2。在重新估計過程中，大部分的αi會趨向無窮大，其對應(yīng)的wi為0，相關(guān)的核函數(shù)就會刪除，其他權(quán)值不為零的訓(xùn)練樣本成為關(guān)聯(lián)向量(RV)，從而實現(xiàn)了稀疏化。RVM使用的核函數(shù)比SVM少得多，因此，在預(yù)測性能相當(dāng)?shù)那闆r下，RVM的稀疏性明顯高于SVM。

2.3 回歸預(yù)測

假設(shè)由2.2得到的超參數(shù)估計值為αM和σ2M，則對于新的測試樣本，目標(biāo)值t*后驗概率分布可由式

得到。式(11)中被積分的兩項都服從高斯分布，故

其中，期望y*及和方差σ2*分別為

可以通過式(12)來預(yù)測t*的真實值，而σ2*為兩預(yù)測變量的期望誤差之和。

可見，RVM可以給出結(jié)果的后驗概率，可根據(jù)訓(xùn)練數(shù)據(jù)自動調(diào)整其稀疏性，而SVM則需要由一個正規(guī)化參數(shù)來控制其稀疏性。

3 實驗結(jié)果及分析

采集微慣性組合XW-ADU5600中x軸陀螺儀的靜、動態(tài)輸出數(shù)據(jù)，得到陀螺儀的輸出序列，首先進行確定性誤差補償，得到陀螺儀隨機漂移的時間序列。使用C-C法進行相空間重構(gòu)時，數(shù)據(jù)超過3 000效果較好，因此本文選取其中長度為3 500的一段漂移序列進行實驗，其中前2 500個數(shù)據(jù)作為訓(xùn)練數(shù)據(jù)，后1 000作為測試數(shù)據(jù)。通過C-C法獲得嵌入維數(shù)m和時間延遲τ。

RVM權(quán)值是在貝葉斯框架下用最大似然方法來訓(xùn)練的，且RVM的核函數(shù)不受Mercer條件的限制，因此基函數(shù)可選用每個訓(xùn)練樣本為中心的高斯函數(shù)。當(dāng)缺少過程的先驗知識時，在預(yù)測性能上徑向基核函數(shù)要優(yōu)于其他核函數(shù)。因此本文選用常用的徑向基函數(shù)核K(xi，xj)=exp(-γ‖xi-xj‖2)，其中核函數(shù)的寬度參數(shù)γ取3.5，學(xué)習(xí)過程最大迭代次數(shù)選擇1 200。

3.1 靜態(tài)實驗

圖1為回歸RVM在靜態(tài)條件下的預(yù)測結(jié)果。原始1 000點漂移的RMSE標(biāo)準(zhǔn)差為0.105 3°/s，預(yù)測后的RMSE標(biāo)準(zhǔn)差為0.006 0°/s，陀螺儀精度提高了17.55倍。

為了證明RVM對陀螺漂移預(yù)測效果提高的有效性，將基于時間序列的ARMA(2，1)模型、RBF神經(jīng)網(wǎng)絡(luò)以及SVM用于陀螺靜態(tài)漂移的預(yù)測，并對預(yù)測結(jié)果進行了比較，結(jié)果如表1所示。

表1 各種方法比較

圖1 靜態(tài)條件下的預(yù)測結(jié)果

SVM和RVM相對ARMA、RBF神經(jīng)網(wǎng)絡(luò)具有較明顯的優(yōu)勢，對于訓(xùn)練樣本，SVM支持向量個數(shù)為126，而RVM相關(guān)向量個數(shù)為34，稀疏化效果明顯優(yōu)于前者，即RVM使用的核函數(shù)更少，結(jié)構(gòu)更為簡單，因此預(yù)測速度更快，占用內(nèi)存更少。

3.2 恒速率實驗

將陀螺儀放置在速率轉(zhuǎn)臺上控制轉(zhuǎn)臺分別以角速率20°/s、40°/s、60°/s旋轉(zhuǎn)并且各采集1組數(shù)據(jù)。圖2為回歸相關(guān)向量機法在恒速率條件下的預(yù)測結(jié)果。

圖2 恒速率條件下的預(yù)測結(jié)果

由圖2可以直觀的看出，預(yù)測后的漂移有明顯的降低。具體原始數(shù)據(jù)和預(yù)測值的均值和RMSE標(biāo)準(zhǔn)差數(shù)值如表2所示。

表2 恒速率條件下預(yù)測結(jié)果

根據(jù)表內(nèi)數(shù)據(jù)，在恒速率條件下RVM預(yù)測精度也有顯著提高，證明RVM方法依然有效。

4 結(jié)束語

本文將基于貝葉斯的相關(guān)向量機法用于MEMS陀螺儀的隨機漂移預(yù)測補償，通過C-C法相空間重構(gòu)將時間序列轉(zhuǎn)換為相關(guān)向量機模型可用的數(shù)據(jù)形式，通過EM算法實現(xiàn)了相關(guān)向量機回歸的超參數(shù)優(yōu)化。實驗結(jié)果表明，該方法克服了傳統(tǒng)方法的不足，并彌補了支持向量機的缺陷，非常適合MEMS陀螺儀隨機漂移的預(yù)測補償，對于提高MEMS陀螺儀的應(yīng)用精度具有一定的參考意義。

［1］陳旭光，楊平，陳意.MEMS陀螺儀零位誤差分析與處理［J］.傳感技術(shù)學(xué)報，2012，25(5):628-632.

［2］談?wù)穹?，張勤?MEMS陀螺誤差辨識與補償［J］.傳感器與微系統(tǒng)，2010，29(3):39-41

［3］牛春峰，劉世平，王中原.基于小波神經(jīng)網(wǎng)絡(luò)的MEMS陀螺輸出預(yù)測方法［J］.海軍工程大學(xué)學(xué)報，2012，24(2):29-32.

［4］宋吉磊，吳訓(xùn)忠，郭鈴.微機電系統(tǒng)陀螺儀隨機漂移誤差建模與濾波研究［J］.導(dǎo)彈與航天運載技術(shù)，2012(4):35-38

［5］李澤民，段鳳陽，馬佳智.基于支持向量機的MEMS陀螺儀隨機漂移補償［J］.傳感技術(shù)學(xué)報，2012，25(8):1084-1087

［6］Sebald D，Buckiew J.Support Vector Machine Techniques for Nonlinear Equalization［J］.IEEE Transactions on Signal Processing，2000，48(11):3217-3226.

［7］Wahyu C，Achmad W，Bo-Suk Y.Application of Relevance Vector Machine and Logistic Regression for Machine Degradation Assessment［J］.Mechanical System and Signal Processing，2010(24): 1161-1171.

［8］楊樹仁，沈洪遠(yuǎn).基于相關(guān)向量機的機器學(xué)習(xí)算法研究與應(yīng)用［J］.計算機技術(shù)與自動化，2010，29(1):43-47

［9］Tipping M E.Sparse Bayesian Learning and the Relevance Vector Machine［J］.Journal of Machine Learning Research，2001，1(3): 211-244.

［10］吉訓(xùn)生，王壽榮.硅微陀螺漂移混沌特性分析及預(yù)測［J］.中北大學(xué)學(xué)報，2011，32(5):567-573.

［11］孫宏偉，房建成.基于多尺度多參量的硅MEMS陀螺儀漂移預(yù)測［J］.宇航學(xué)報，2009，30(2):591-594.

［12］李松，劉力軍，谷晨.混沌時間序列預(yù)測模型的比較研究［J］.計算機工程與應(yīng)用，2009，45(32):53-56.

［13］陸振波，蔡志明，姜可宇.基于改進的C-C方法的相空間重構(gòu)參數(shù)選擇［J］.系統(tǒng)仿真學(xué)報，2007，19(11):2527-2529.

沈強(1989-)，男，漢族，山東人，碩士研究生，儀器科學(xué)與技術(shù)專業(yè)，主要研究方向為MEMS陀螺儀誤差補償技術(shù)研究，shenq110@163.com;

劉潔瑜(1970-)，女，漢族，陜西西安人，博士學(xué)位，教授，碩士生導(dǎo)師，主要研究方向為慣性儀表及導(dǎo)航技術(shù)，主持并參與了多項重要科研項目，多次獲得各級獎項，liujieyu128@163.com。

Random Drift Compensation of MEMS Gyros Based on Relevance Vector Machine

SHEN Qiang，LIU Jieyu*，WANG Qi，WANG Jiefei

(The Second Artillery Engineering University，Xi’an 710025，China)

A prediction and compensation method for MEMS gyroscope random drift based on relevance vector machine is proposed in this paper.Objected to the nonlinearity and indetermination of random drift error，the relevance vector machine modelis established，and the parameters ofprediction modelare gotby the Expectation Maximization (EM)algorithm.According to the chaotic property of random drift，the drift time-series which have been reconstructed by phase space reconstruction are used in this model.Both the train and test results indicate that this method can predict the gyroscope random drift accurately.Its prediction accuracy is superior to the time series method and support vector machine.Gyroscopes application precision can be further improved in practical system ifrandom drift is compensated by the predicting result.

MEMS gyroscope;random drift;relevance vector machine;phase space reconstruction;EM algorithm

V241.5

A

1004－1699(2014)05－0596－04

10.3969/j.issn.1004－1699.2014.05.005

2014-03-05

2014-04-22