唐興佳，張秀方

(西安電子科技大學(xué)理學(xué)院，陜西 西安 710071)

在傳輸通道未知情況下，從觀測(cè)信號(hào)中恢復(fù)統(tǒng)計(jì)獨(dú)立的源信號(hào)，稱為盲信號(hào)分離(Base Station Subsystem，BSS)［1］。作為當(dāng)前信號(hào)處理領(lǐng)域研究的熱點(diǎn)課題之一，BSS已經(jīng)在地震勘探、移動(dòng)通信、語音處理、列陣信號(hào)處理及生物醫(yī)學(xué)工程等領(lǐng)域得到廣泛應(yīng)用。

獨(dú)立分量分析(ICA)［2］起源于BSS中的雞尾酒會(huì)問題，即在多個(gè)人的說話聲相互混疊的情況下，將各個(gè)人的語音單獨(dú)分離出來。ICA算法主要分為批處理算法和自適應(yīng)算法兩類。批處理算法，如FastICA算法［2］、聯(lián)合對(duì)角化算法［2］等，數(shù)值穩(wěn)定性較好，但不適于觀測(cè)數(shù)據(jù)即時(shí)更新的系統(tǒng)。自適應(yīng)算法，如EASI算法［3］、自然梯度 ICA 算法［1］等，計(jì)算量較小，且具有在線學(xué)習(xí)能力，但算法的收斂性和穩(wěn)定性受學(xué)習(xí)步長的影響較大。

ICA的核心是通過恢復(fù)信號(hào)之間的統(tǒng)計(jì)獨(dú)立性，實(shí)現(xiàn)信號(hào)分離，而信號(hào)之間統(tǒng)計(jì)獨(dú)立一定線性不相關(guān)。在ICA的基本假設(shè)下，限定分離矩陣的正交性約束，等價(jià)于分離信號(hào)為白化信號(hào)。傳統(tǒng)的自然梯度IAC算法沒有注意到分離信號(hào)的這一假設(shè)要求，使得分離矩陣的迭代過程不穩(wěn)定，最終導(dǎo)致恢復(fù)的源信號(hào)不準(zhǔn)確。

為提高算法的穩(wěn)定性、收斂性以及分離結(jié)果的準(zhǔn)確性，文中基于自然梯度ICA算法，改進(jìn)提出一種自適應(yīng)調(diào)整步長的加權(quán)正交約束自然梯度ICA算法，然后通過實(shí)驗(yàn)仿真驗(yàn)證新算法的優(yōu)越性。

1 問題描述

在ICA模型中，觀測(cè)信號(hào)來自一組傳感器的輸出，每個(gè)傳感器接收到的都是多個(gè)源信號(hào)的混合。n個(gè)信號(hào)源發(fā)出的源信號(hào)st=(s1(t)，s2(t)，…，sn(t))T通過傳輸通道被m個(gè)傳感器接收，得到觀測(cè)信號(hào)xt=(x1(t)，x2(t)，…，xm(t))T。在無噪聲條件下，ICA 瞬時(shí)混合模型可表示為［2］

其中，A為混合矩陣。假設(shè)A具有足夠的非奇異性，則源信號(hào)也可看作觀測(cè)信號(hào)的線性組合。這樣，求解ICA問題就是要確定一個(gè)矩陣W，稱為分離矩陣，使得矩陣變換結(jié)果

可作為源信號(hào) st的估計(jì)［2］，稱 yt=(y1(t)，y2(t)，…，yn(t))T為分離信號(hào)。

上述模型的基本假設(shè)是［2］:(1)源信號(hào)的各個(gè)分量相互獨(dú)立，且最多只有一個(gè)分量服從高斯分布;(2)源信號(hào)的各個(gè)分量具有零均值和單位方差。還需注意的是，在ICA模型中，分離信號(hào)相比于源信號(hào)會(huì)出現(xiàn)順序和幅度上的不確定性。但由于ICA的主要目的是把源信號(hào)分離出來，對(duì)分離信號(hào)的順序并沒有要求，而幅度的不確定，只需在分離信號(hào)前乘以一個(gè)適當(dāng)?shù)南禂?shù)即可消除，因而，ICA的這兩種不確定性對(duì)最終結(jié)果的影響并不大。

2 自然梯度ICA算法

對(duì)于ICA模型，源信號(hào)無法被直接觀測(cè)，且混合矩陣A未知，但源信號(hào)的各個(gè)分量相互獨(dú)立是已知的。前文已經(jīng)指出，ICA的關(guān)鍵就是根據(jù)源信號(hào)之間的統(tǒng)計(jì)獨(dú)立性，尋找觀測(cè)信號(hào)x的某個(gè)特殊的矩陣變換y=Wx，使得變換后的每個(gè)分量都能表示一個(gè)不同的源信號(hào)。因此，求解ICA模型，首先要對(duì)分離結(jié)果Wx的獨(dú)立性做出度量，然后將該度量函數(shù)作為目標(biāo)函數(shù)，借助梯度下降等優(yōu)化方法，即可找到問題的解。

文中基于似然度［2］構(gòu)造獨(dú)立性度量函數(shù)，并得到自然梯度 ICA的在線學(xué)習(xí)規(guī)則［4－7］為

其中，G(y)為分值函數(shù);η(t)為學(xué)習(xí)步長。通常情況下，由于源信號(hào)的概率密度函數(shù)未知，因而，分值函數(shù)也是未知的。實(shí)際應(yīng)用中，常用某個(gè)適當(dāng)?shù)膯握{(diào)奇函數(shù)作為激勵(lì)函數(shù)來代替分值函數(shù)，例如G(y)=y3。

3 加權(quán)正交約束的考慮

由ICA模型的基本假設(shè)可知，源信號(hào)s具有單位方差，則恢復(fù)的分離信號(hào)y也應(yīng)具有單位方差，即E{yyT}=I。假設(shè)觀測(cè)數(shù)據(jù)是白化的，即有E{xxT}=Rx= δ2I，于是

式(4)表明，在恢復(fù)的源信號(hào)y和觀測(cè)信號(hào)x均為單位方差的情況下，分離矩陣W應(yīng)是對(duì)稱正交的［1］。但是，觀測(cè)數(shù)據(jù)x為單位方差不一定總滿足。這樣，分離矩陣的對(duì)稱正交性就是不合實(shí)際的。因此，需要考慮加權(quán)正交約束WRxWT=I。

綜上所述，在不進(jìn)行觀測(cè)數(shù)據(jù)的預(yù)白化時(shí)，可通過對(duì)傳統(tǒng)的自然梯度ICA算法引入加權(quán)正交約束WRxWT=I，便可達(dá)到白化效果［8－9］。文中提出一種近似處理，在自然梯度ICA算法的每步迭代后，對(duì)分離矩陣W進(jìn)行單步正交性修正

4 自適應(yīng)步長的考慮

在自然梯度ICA算法中，學(xué)習(xí)步長η的選擇對(duì)算法的收斂起著關(guān)鍵作用。η越大，收斂速度越快，但收斂后的穩(wěn)態(tài)誤差也就越大;η越小，收斂速度越慢，同樣會(huì)影響到算法的性能。而好的學(xué)習(xí)步長選擇與分離結(jié)果和最優(yōu)值的距離有關(guān)。當(dāng)分離結(jié)果y遠(yuǎn)離其最優(yōu)值時(shí)，應(yīng)增大η的取值，以加快收斂速度;當(dāng)分離結(jié)果y處于其最優(yōu)值附近時(shí)，應(yīng)減小η的取值，以減小算法的穩(wěn)態(tài)誤差。而且，為保證算法的穩(wěn)定收斂，還要限制η的取值范圍［10－12］。一種簡(jiǎn)單的方法是將學(xué)習(xí)步長定義為迭代次數(shù)的反比例函數(shù)或者指數(shù)下降函數(shù)，但在時(shí)變環(huán)境下，這種方法的跟蹤搜索能力并沒有得到根本改善。

自適應(yīng)調(diào)整步長就是依據(jù)上述分析提出的，特別在時(shí)變環(huán)境中，不但能保證算法收斂速度足夠快，而且能提高算法的穩(wěn)定性。在ICA模型中，不可能事先得到模型的最優(yōu)解，也就不可能用實(shí)際誤差來控制學(xué)習(xí)步長。因此，文中通過引入誤差估計(jì)函數(shù)，提出一種自適應(yīng)調(diào)整的步長。

由式(3)可知，當(dāng)算法收斂時(shí)，分離矩陣的相鄰迭代之差W(t)－W(t－1)≈0，換個(gè)角度考慮，就是要求η(t)(I－G(y(t))(y(t))T)W(t－1)≈0。這樣，可以用式(8)構(gòu)造誤差估計(jì)

考慮到延遲誤差對(duì)學(xué)習(xí)步長選擇的影響，這里取H(t)的平滑形式［13］

由于步長的選擇與前一步迭代時(shí)的步長及當(dāng)前迭代的誤差估計(jì)有關(guān)，于是，可以定義自適應(yīng)步長

其中，β為遺忘因子，一般取接近1的實(shí)數(shù)，顯然β越大，學(xué)習(xí)步長的調(diào)整幅度越小。為ρ比例因子。為了避免η(t)過大，導(dǎo)致算法不穩(wěn)定，在此設(shè)定η(t)有上限

5 仿真實(shí)驗(yàn)

為檢驗(yàn)新算法的穩(wěn)定性、收斂性及分離結(jié)果的準(zhǔn)確性，取以下信號(hào)進(jìn)行實(shí)驗(yàn)仿真［14］:s1(t):方波信號(hào)sign(cos(2π×155t));s2(t):高頻正弦信號(hào)sin(2π×800t);s3(t):低頻正弦信號(hào)sin(2π×90t);s4(t):相位調(diào)制信號(hào) sin(2π×300t+6cos(2π×60t));s5(t):幅度調(diào)制信號(hào) sin(2π×10t)sin(2π×300t);s6(t):在［－1，1］上服從均勻分布的噪聲信號(hào)。

假設(shè)模型使用6個(gè)觀測(cè)感應(yīng)器即m=6，n=6;混合矩陣A隨機(jī)產(chǎn)生，且服從［－1，1］上的均勻分布;信號(hào)的采樣周期Ts=0.0001 s;算法收斂穩(wěn)定性能用“串音誤差”來衡量［14］

其中，cpq=［W·A］pq稱為混合 －分離系統(tǒng)的傳遞矩陣。

自適應(yīng)步長加權(quán)正交約束自然梯度ICA算法的仿真實(shí)驗(yàn)步驟如下:

(1)隨機(jī)產(chǎn)生混合矩陣，對(duì)n個(gè)源信號(hào)進(jìn)行線性混合，得到m個(gè)混合信號(hào)。

(2)初始化分離矩陣 W(0)=In×m，協(xié)方差矩陣Rx(0)=Im，學(xué)習(xí)步長 η(0)=0.01，平滑誤差估計(jì)0)=In×n。

(3)取遺忘因子β=0.998，比例因子ρ=0.25。

(4)計(jì)算y(t)=W(t)x(t)。

(5)更新學(xué)習(xí)步長η(t)、更新協(xié)方差矩陣Rx(t)、更新分離矩陣W(t)。

(6)對(duì)分離矩陣W(t)進(jìn)行單步正交性修正。

(7)計(jì)算串音誤差Ect(t)。

(8)如果 t≠T，取 t←t+1，返回步驟(4)，否則，迭代結(jié)束。

(9)依據(jù)y(t)和Ect(t)繪制恢復(fù)的源信號(hào)波形和算法性能曲線。

具體仿真結(jié)果如圖1～圖4所示。

由圖2和圖3可以看出，自然梯度ICA算法可以對(duì)混合信號(hào)進(jìn)行較為有效的分離，但分離結(jié)果的準(zhǔn)確性明顯不高。相比之下，基于自適應(yīng)調(diào)整步長和加權(quán)正交約束的新算法恢復(fù)的源信號(hào)則要更準(zhǔn)確。另外，由圖4可以看出，相比于自然梯度ICA算法，改進(jìn)的新算法在迭代前期具有更快的收斂速度。同時(shí)，自然梯度ICA算法的收斂穩(wěn)定性曲線，在迭代相對(duì)穩(wěn)定后，一直有較大的跳躍，這就意味著算法不穩(wěn)定。自適應(yīng)步長加權(quán)正交約束自然梯度ICA算法減弱了這一曲線跳躍，算法更穩(wěn)定，且穩(wěn)態(tài)誤差更小。由此可得，新算法的收斂性、穩(wěn)定性及分離結(jié)果的準(zhǔn)確性較傳統(tǒng)算法得到了一定改善。

6 結(jié)束語

傳統(tǒng)的自然梯度ICA算法對(duì)分離矩陣的正交性約束未做考慮，且算法的穩(wěn)定性和收斂性受學(xué)習(xí)步長的影響較大，因此算法性能較差。文中通過引入加權(quán)正交約束和自適應(yīng)調(diào)整步長理論，在傳統(tǒng)算法的基礎(chǔ)上，改進(jìn)得到一種新的自然梯度ICA算法。仿真實(shí)驗(yàn)表明，自適應(yīng)步長加權(quán)正交約束自然梯度ICA算法相比于傳統(tǒng)的自然梯度ICA算法具有更快的收斂速度，且算法的穩(wěn)定性和分離結(jié)果的準(zhǔn)確性都有較大提高。

［1］ANDRZEJ C，SHUN－CHI A.自適應(yīng)盲信號(hào)與圖像處理［M］.吾正國，唐勁松，章林柯，譯.北京:電子工業(yè)出版社，2004.

［2］HYVARINEN A，KARHUNEN J，OJA E.Independent component analysis［M］.Newyork:Wiley Press，2001.

［3］CARDOSO J F，LAHELD B.Equivariant adaptive source separation ［J］.IEEE Transactions on Signal Processing，1996，45(2):434 －444.

［4］AMARI S.Natural gradient works efficiently in learning［J］.Neural Computation，1998(10):251 －276.

［5］BELOUCHRANI A，MERAIM K，CARDOSO J F，et al.A blind source separation technique using second－order statistics［J］.IEEE Transactions on Signal Processing，1997，45(2):434－444.

［6］ZHANG W T，LIU N，LOU S T.Joint approximate diagonalization using bilateral rank－reducing householder transform with application in blind source separation ［J］.Chinese Journal of Electronics，2009，18(3):471 －476.

［7］DEGERINE S，KANE E.A comparative study of approximate joint diagonalization algorithms for blind source separation in presence of additive noise［J］.IEEE Transactions on Signal Processing，2007，55(6):3022 －3031.

［8］ZHU Xiaolong，ZHANG Xianda，DING Zizhe，et al.Adaptive nonlinear PCA algorithms for blind source separation without prewhitening［J］.IEEE Transactions on Circuits and Systems，2006，53(3):745 －752.

［9］YE Jimin，HUANG Ting.New Fast－ ICA algorithms for blind source separation without prewhitening［J］.Communications in Computer and Information Science，2011，255(2):579－585.

［10］HYVARINEN A.Fast and robust fixed－point algorithms for independent component analysis［J］.IEEE Transactions on Neural Network，1999，10(3):626 －634.

［11］YANG H H，AMARI S.Adaptive on － line learning algorithms for blind separation:maximum entropy and minimum mutual information ［J］.Neural Computation，1997，9(5):1457－1482.

［12］劉寧，張偉濤，樓順天.可變步長正交性約束的自然梯度盲信號(hào)分離算法［J］.中國鐵道科學(xué)，2010，11(6):98－102.

［13］THOMAS P，ALLEN G，AUGUST N.Step － size control in blind sourse separation［C］.Helsinki，F(xiàn)inland:International Workshop on Independent Component Analysis and Blind Sourse Separation，2000:509 －514.

［14］ZHU Xiaolong，ZHANG Xianda.Blind source separation based on optimally selected estimating functions［J］.Journal of Xidian University，2003，30(3):335－339.