盧中寧　初元紅

摘 要 隨機(jī)雙梯度算法是獨(dú)立分量分析中一個(gè)重要的學(xué)習(xí)算法，但該算法收斂速度慢，穩(wěn)態(tài)誤差大，不利于信號(hào)的準(zhǔn)確適時(shí)性處理.論文重點(diǎn)對(duì)隨機(jī)雙梯度算法進(jìn)行了改進(jìn)，提出一種基于負(fù)熵的隨機(jī)雙梯度算法.在改進(jìn)的算法中，用負(fù)熵來(lái)度量其中的隨機(jī)變量非高斯性，從而來(lái)克服峭度的不穩(wěn)健性.論文最后通過理論分析和仿真實(shí)驗(yàn)證明這種改進(jìn)的隨機(jī)雙梯度算法具有較好的分離效果且穩(wěn)定性高.

關(guān)鍵詞 隨機(jī)雙梯度算法；獨(dú)立分量分析；負(fù)熵；峭度

中圖分類號(hào) TP301.6 文獻(xiàn)標(biāo)識(shí)碼 A 文章編號(hào) 1000-2537（2014）04-0084-04

Abstract Stochastic dual-gradient algorithm is an important learning algorithm of independent component analysis， whose convergence speed is slow and steady-state error is large， which leads to inaccuracy in timely signal processing. Focusing on the improvement of stochastic dual-gradient algorithm， a stochastic dual-gradient algorithm based on negative entropy is proposed， in which negative entropy is used to measure the non-Gaussian of random variables and thus to overcome the kurtosis of robustness in the improved algorithm. By theoretical analysis and simulation experiments the paper finally proves that the improved Stochastic Dual-Gradient Algorithm has better separation effect and higher stability.

Key words stochastic dual-gradient algorithm； independent component analysis； negative entropy； kurtosis

獨(dú)立分量分析（ICA）依據(jù)獨(dú)立原則為多維觀察信號(hào)建立目標(biāo)函數(shù)，利用某種學(xué)習(xí)算法把這些信號(hào)分解成若干獨(dú)立成分以實(shí)現(xiàn)增強(qiáng)和恢復(fù)信號(hào)的目的，目前已成為一種十分有效的盲信號(hào)分離技術(shù) [1-2].從這個(gè)定義可以看出，獨(dú)立分量分析算法由目標(biāo)函數(shù)和學(xué)習(xí)算法組成.不同的目標(biāo)函數(shù)、學(xué)習(xí)算法構(gòu)成的獨(dú)立分量分析算法不同[3-4].一般來(lái)說，處理對(duì)象確立了，目標(biāo)函數(shù)也就很容易確定了[5-6].獨(dú)立分量分析算法的收斂速度、穩(wěn)定性也取決于所選擇的學(xué)習(xí)算法[7-8].這使得學(xué)習(xí)算法的研究成為獨(dú)立分量分析中的一個(gè)中心任務(wù).

目前在獨(dú)立分量分析中也出現(xiàn)了一些較優(yōu)秀的學(xué)習(xí)算法[9-12].然而，在獨(dú)立分量分析中，不管最終選擇哪種學(xué)習(xí)算法，都要在最終的信號(hào)分析時(shí)具有較快的收斂速度和較小的穩(wěn)態(tài)誤差[13].在眾多獨(dú)立分量分析的學(xué)習(xí)算法中，隨機(jī)雙梯度算法是在隨機(jī)梯度法、自然梯度法、相對(duì)梯度法基礎(chǔ)上進(jìn)行的一種改進(jìn)算法[14]，雖然性能較原始算法有很大程度上，但是它因采用峭度為目標(biāo)函數(shù)而易受大幅隨機(jī)脈沖干擾的影響.為此，論文重點(diǎn)對(duì)隨機(jī)雙梯度算法進(jìn)行改進(jìn)并進(jìn)行仿真對(duì)比實(shí)驗(yàn).

1 隨機(jī)梯度算法

隨機(jī)梯度算法是獨(dú)立分量分析中一類較簡(jiǎn)單學(xué)習(xí)算法.例如獨(dú)立分量分析以公式（1）為目標(biāo)函數(shù)：

該算法優(yōu)點(diǎn)在于：在波動(dòng)性較大的情況下，該算法能夠快速調(diào)整學(xué)習(xí)方向，使算法向正確方向行進(jìn).然而，由于涉及到了矩陣優(yōu)化，且該矩陣一般是高階矩陣，這無(wú)疑大大增加了求解式（3）的計(jì)算量.而且，該算法收斂速度慢，同時(shí)還需要對(duì)迭代步長(zhǎng)的設(shè)置有較高的要求.如果迭代步長(zhǎng)設(shè)置不恰當(dāng)，那么該算法就很可能失去收斂性.

為了進(jìn)一步證明本文算法性能的優(yōu)越性，下面給出這兩種算法下原語(yǔ)音信號(hào)與對(duì)應(yīng)分離信號(hào)之間的相關(guān)系數(shù).其結(jié)果如表1所示.

從上述仿真實(shí)驗(yàn)結(jié)果來(lái)看，同傳統(tǒng)算法相比，論文所提的基于負(fù)熵的隨機(jī)雙梯度算法能夠分離出與原信號(hào)較為接近的信號(hào)，據(jù)此可知，本文改進(jìn)算法是可行的.

5 結(jié)束語(yǔ)

研究了傳統(tǒng)隨機(jī)雙梯度算法，指出其因采用峭度作為目標(biāo)函數(shù)而導(dǎo)致尋找獨(dú)立分量時(shí)易受大幅度隨機(jī)脈沖干擾影響方面的不足，提出利用負(fù)熵作為衡量信號(hào)量獨(dú)立性的構(gòu)想并給出一個(gè)改進(jìn)的隨機(jī)雙梯度算法，并通過仿真實(shí)驗(yàn)證明了該算法的有效性.

參考文獻(xiàn)：

[1] 吳宏天，劉 輝.基于方差和峭度的模擬電路故障診斷[J].湖南師范大學(xué)自然科學(xué)學(xué)報(bào)， 2011，34（5）：32-36.

[2] 傅麗華，何燕子，朱 云.長(zhǎng)株潭核心區(qū)土地利用生態(tài)風(fēng)險(xiǎn)驅(qū)動(dòng)因子分析[J]. 湖南師范大學(xué)自然科學(xué)學(xué)報(bào)， 2012，35（5）：85-89.

[3] 易靈芝，龔會(huì)茹，沈建飛.基于相關(guān)因子的太陽(yáng)能光伏發(fā)電系統(tǒng)互補(bǔ)復(fù)合孤島檢測(cè)研究[J].湘潭大學(xué)學(xué)報(bào)：自然科學(xué)版， 2011，33（4）：100-104.

[4] 趙知?jiǎng)牛?陳 林， 王海泉. 基于獨(dú)立分量分析的實(shí)正交空時(shí)分組碼盲識(shí)別[J].通信學(xué)報(bào)， 2012，33（11）：1-7.

[5] 王冬冬.基于獨(dú)立分量分析的熱波檢測(cè)圖像增強(qiáng)[J].科學(xué)技術(shù)與工程， 2013，13（2）：512-515.

[6] 楊俊美，余 華，韋 崗. 獨(dú)立分量分析及其在信號(hào)處理中的應(yīng)用[J].華南理工大學(xué)學(xué)報(bào)：自然科學(xué)版， 2012，40（11）：1-12.

[7] 呂淑平，方興杰. 基于獨(dú)立分量分析的自適應(yīng)在線算法[J].計(jì)算機(jī)應(yīng)用研究， 2010，27（11）：4140-4143.

[8] 于 淼，王曰海，汪國(guó)富.基于獨(dú)立分量分析的跳頻通信抗梳狀阻塞干擾方法[J]. 解放軍理工大學(xué)學(xué)報(bào)：自然科學(xué)版， 2012，13（6）：593-598.

[9] 歐世峰，高 穎，趙曉暉.基于隨機(jī)梯度的變動(dòng)量因子自適應(yīng)白化算法[J].自動(dòng)化學(xué)報(bào)， 2012，38（8）：1370-1374.

[10] 王法松，張林讓.基于自然梯度的獨(dú)立子空間盲信號(hào)處理方法[J]. 南京大學(xué)學(xué)報(bào)：自然科學(xué)版， 2011，47（4）：420-425.

[11] 程 嬌，王曉凱，李 鋒.獨(dú)立分量分析可調(diào)速率相對(duì)梯度算法[J]. 信息與電子工程， 2010，8（2）：207-211.

[12] 初銘暢，熊曉路，于 洋.因子分析在創(chuàng)新型科技人才競(jìng)爭(zhēng)力評(píng)價(jià)中的應(yīng)用[J]. 遼寧工業(yè)大學(xué)學(xué)報(bào)：自然科學(xué)版， 2012，32（5）：343-346.

[13] 張和發(fā)，李立萍. 含噪獨(dú)立分量分析的期望最大化算法[J].電子科技大學(xué)學(xué)報(bào)， 2012，41（4）：527-531.

[14] 高 濤.組合2DFLDA監(jiān)督的非負(fù)矩陣分解和獨(dú)立分量分析的特征提取方法[J]. 計(jì)算機(jī)應(yīng)用研究， 2012，29（4）：1588-1590.

（編輯 胡文杰）