陳　赟，林　峰

(1. 重慶郵電大學(xué) 移通學(xué)院，重慶 合川 401520；

2.重慶郵電大學(xué) 電子信息與網(wǎng)絡(luò)工程研究院，重慶 400065)

摘　要：針對(duì)利用壓縮感知(CS)進(jìn)行信號(hào)分類識(shí)別的問題，提出了一種聯(lián)合欲分類信號(hào)和樣本信號(hào)的健壯CS分類算法。該方法通過引入“同一性”的概念，克服了信號(hào)過完備字典傳統(tǒng)構(gòu)造方式的不足，增強(qiáng)了信號(hào)稀疏表示與信號(hào)類別間的關(guān)聯(lián)性，提升了基于壓縮感知的信號(hào)分類算法性能。仿真實(shí)驗(yàn)證明了所提方法的正確性，并進(jìn)一步表明：在非最優(yōu)過完備字典下，該方法較之傳統(tǒng)CS分類算法更具有分類準(zhǔn)確度。

關(guān)鍵詞：壓縮感知；信號(hào)分類；稀疏表示；同一性

doi:10.3969/j.issn.1002-0802.2015.06.012

基于同一性的健壯CS分類算法

陳赟1，林峰2

(1. 重慶郵電大學(xué) 移通學(xué)院，重慶 合川 401520；

2.重慶郵電大學(xué) 電子信息與網(wǎng)絡(luò)工程研究院，重慶 400065)

摘要：針對(duì)利用壓縮感知(CS)進(jìn)行信號(hào)分類識(shí)別的問題，提出了一種聯(lián)合欲分類信號(hào)和樣本信號(hào)的健壯CS分類算法。該方法通過引入“同一性”的概念，克服了信號(hào)過完備字典傳統(tǒng)構(gòu)造方式的不足，增強(qiáng)了信號(hào)稀疏表示與信號(hào)類別間的關(guān)聯(lián)性，提升了基于壓縮感知的信號(hào)分類算法性能。仿真實(shí)驗(yàn)證明了所提方法的正確性，并進(jìn)一步表明：在非最優(yōu)過完備字典下，該方法較之傳統(tǒng)CS分類算法更具有分類準(zhǔn)確度。

關(guān)鍵詞：壓縮感知；信號(hào)分類；稀疏表示；同一性

doi:10.3969/j.issn.1002-0802.2015.06.012

收稿日期：2015-01-08；修回日期：2015-04-19Received date:2015-01-18；Revised date：2015-04-19

中圖分類號(hào)：TN911.7

文獻(xiàn)標(biāo)志碼：碼：A

文章編號(hào)：號(hào)：1002-0802(2015)06-0687-05

Abstract：Aiming at the problem of CS(Compressive Sensing) for signal recognition, a robust CS classification algorithm in combination with test sample and training samples is proposed. By introducing the concept of identity into signal processing，some deficiencies of traditional construction mode for signal over-complete dictionary are overcome,and the correlation of between signal sparse representations and signal classes is also enhanced, thus the performance of classification algorithm based on compressive sensing is improved. Simulation results verify the correctness of the proposed algorithm, and further show that this algorithm enjoys higher classification accuracy than traditional CS classification methods under non-optimal over-complete dictionary condition.

作者簡介：

A Robust CS Classification Algorithm based on Identity

CHEN Yun1，LIN Feng2

(1. College of Mobile Telecommunication，Chongqing University of Post and Telecommunications，

Hechuan Chongqing 401520，China; 2. Electronic Information and Networking Research Institute,

Chonging University of Posts and Telecommunications，Chongqing 400065，China)

Key words：compressive sensing; signal classification; sparse representation; identity

0引言

信號(hào)分類是模式識(shí)別技術(shù)非常重要的一項(xiàng)應(yīng)用，廣泛存在于現(xiàn)代通信的各個(gè)領(lǐng)域。例如：信號(hào)調(diào)制區(qū)分、敵我身份研判、運(yùn)行狀態(tài)監(jiān)測(cè)、語音文字鑒別等。最近，由Candès、Donoho以及Tao等數(shù)學(xué)家提出的壓縮感知理論(CS，Compressive Sensing)[1]逐漸被應(yīng)用于信號(hào)的模式識(shí)別。該理論的核心觀點(diǎn)是：通過求解一個(gè)非線性最優(yōu)化問題，稀疏信號(hào)可由少量的觀測(cè)值(采樣值)準(zhǔn)確重構(gòu)[1-2]。Wright J等人基于該理論首先提出將人臉圖像分辨問題轉(zhuǎn)化為測(cè)試樣本在訓(xùn)練樣本集中的最稀疏表示問題[3]，即求解最小L1范數(shù)問題。由此，逐漸發(fā)展出基于信號(hào)稀疏表示的一類新型智能模式識(shí)別方法。

研究表明，信號(hào)稀疏表示分類算法(本文稱為CS分類算法)對(duì)噪聲以及樣本維度均具有較好的魯棒性。較之模板匹配[4]、支持向量機(jī)[5]等，該方法在模式識(shí)別領(lǐng)域具有較好的應(yīng)用前景。然而，CS分類算法的性能極大程度地依賴于信號(hào)的過完備字典。只有合適的過完備字典才能保證信號(hào)足夠的稀疏度，從而保證非線性逼近時(shí)信號(hào)分類的準(zhǔn)確度。

本文主要研究CS分類算法中過完備字典構(gòu)造以及分類準(zhǔn)則問題，對(duì)信號(hào)的特征提取與選擇不作詳細(xì)討論。傳統(tǒng)CS分類算法預(yù)先構(gòu)造的過完備字典并不直接包含欲分類的信號(hào)，這種方式存在固定[6-11]、適應(yīng)性差[6-7]或?qū)W習(xí)復(fù)雜[12-14]等缺點(diǎn)。針對(duì)以上問題，本文提出將欲分類信號(hào)修改為新原子插入到各類信號(hào)所對(duì)應(yīng)的過完備字典原子庫中，即Identity Perspective- Compressed Sensing (IP-CS)分類算法。該方法基于同一性觀念，將欲分類信號(hào)看成是各類信號(hào)的同體(同一類型)，彼此越是相似，外部差異性就越??；通過比較插入(信號(hào))原子對(duì)信號(hào)稀疏表示的影響進(jìn)行分類識(shí)別。仿真實(shí)驗(yàn)重點(diǎn)對(duì)比了上述兩種方法在非最優(yōu)過完備字典下的分類性能，證明了所提IP-CS分類算法的有效性與可行性。

1傳統(tǒng)CS分類思想

考慮共有k類的欲識(shí)別信號(hào)，將所有類型的訓(xùn)練樣本組成過完備字典如下：

ψ=[ψ1,ψ2,…,ψk]=

[v11,…,v1n1,d1,v21,…,v2n2,…,vk1,…vknk]∈Rm×n

(1)

其中ψi是第i類訓(xùn)練樣本集，vij是第i類中第j個(gè)訓(xùn)練樣本；j=1,2,…,ni；m是樣本的維度。

基于假設(shè)：任一測(cè)試樣本可由其同類(訓(xùn)練樣本)線性表出，因此測(cè)試樣本x可用過完備字典表示為：

x=ψs0∈Rm

(2)

其中s0是最理想條件下稀疏表示的系數(shù)向量。

CS分類的一般步驟[5-16]為：首先，通過變換矩陣對(duì)信號(hào)進(jìn)行線性測(cè)量；其次，求解最小L1范數(shù)問題尋找最稀疏表示；最后，計(jì)算最優(yōu)非線性逼近分類信號(hào)。上述分類操作的兩個(gè)關(guān)鍵是：過完備字典構(gòu)造和分類準(zhǔn)則。通常的做法是：尋找最匹配的樣本構(gòu)造字典和計(jì)算稀疏表示最小殘差決策分類。

如何找到信號(hào)最佳的樣本是非常困難的，傳統(tǒng)CS分類算法基于人工或?qū)W習(xí)方式的字典構(gòu)造(更新)方式要取得較好的分類效果，要么以字典的“可適性”要么以字典的“復(fù)雜性”為代價(jià)，并且仍然過度依賴于樣本的“匹配度”。當(dāng)外界條件發(fā)生改變時(shí)，過完備字典一旦變得不再“合適”，最小殘差分類準(zhǔn)則也就不再可靠。

2IP-CS分類算法

基于同一性壓縮感知(IP-CS)分類算法，繼承了傳統(tǒng)稀疏表示分類思想，但在過完備字典構(gòu)造以及分類準(zhǔn)則兩方面有所改變。這種改變實(shí)際是一種簡單有效的字典學(xué)習(xí)方式，它將欲分類信號(hào)本身也參與分類決策，而不是僅僅依靠同類型的原子模板。同時(shí)，分類決策基于整個(gè)隨機(jī)矩陣集合也更加準(zhǔn)確、可靠。IP-CS分類算法具體步驟如下。

2.1過完備字典構(gòu)造

根據(jù)傳統(tǒng)CS分類算法，首先(基于人工或?qū)W習(xí))將所有k類訓(xùn)練樣本組成如(1)式所示字典，以此作為IP-CS分類算法的初始默認(rèn)過完備字典。

然后，計(jì)算字典中各類型原子的樣本均值為：

(3)

其中ni是第i類原子vi的樣本數(shù)目。

考慮任何一個(gè)新測(cè)試樣本x∈Rm×1，計(jì)算該信號(hào)對(duì)應(yīng)的所有k個(gè)類型的同體(同一類型)原子為：

(4)

不失一般性，將產(chǎn)生的新原子(同體原子)分別插入對(duì)應(yīng)的訓(xùn)練樣本集末尾：

(5)

更新初始默認(rèn)過完備字典如下：

[v11,…,v1n1,d1,v21,…,v2n2,d2,…,

vk1,…vknk,dk]∈Rm×n′

(6)

其中n′=n1+…+nk+k。由于同體原子di跟隨測(cè)試樣本每次變更，因此式(6)所示過完備字典具備動(dòng)態(tài)更新特點(diǎn)。

同理，測(cè)試樣本x重新用過完備字典可表示如下：

(7)

而s′0=[0,…,0,si1,si2,…sini,sdi,0,…,0]T∈Rn仍是最理想條件下稀疏表示的系數(shù)向量。

2.2稀疏解

根據(jù)壓縮感知理論，選擇高斯隨機(jī)矩陣(滿足RIP性質(zhì)[1])作為變換矩陣Ф∈Rd×m，并且將變換矩陣的每一行都作歸一化處理。

考慮噪聲與誤差，測(cè)試樣本x的觀測(cè)值為：

(8)

使用截?cái)嗯ｎD內(nèi)點(diǎn)法(TNIPM)等算法求解以下L1范數(shù)問題：

(9)

2.3差異分析

計(jì)算線性測(cè)量y與δi近似之間的殘差ri′(y)如下：

(10)

同理，計(jì)算線性測(cè)量y與δi近似之間的殘差ri(y)如下：

(11)

ri(y)為傳統(tǒng)方法下對(duì)各類型間偏差的度量，未考慮新原子貢獻(xiàn)。

(12)

dki用于度量同類型內(nèi)的偏差，其數(shù)值大小反映初始默認(rèn)過完備字典中各類型訓(xùn)練信號(hào)與其同體原子di之間的相似程度。

計(jì)算新原子信號(hào)表示向量sh與同體表示向量shi的差異度如下：

(13)

ski用于度量各類型間的偏差，其數(shù)值大小反映同體原子所屬種群與測(cè)試信號(hào)類型的相似程度。

2.4分類

傳統(tǒng)CS算法分類決策僅僅依據(jù)最小殘差ri(y)，本文IP-CS算法改進(jìn)分類準(zhǔn)則如下：

首先，基于最小錯(cuò)誤概率分類原則，算法采用隨機(jī)矩陣集合{Фj,j=1,2,…,}來進(jìn)行健壯地差異分析；式(10)～式(13)采用隨機(jī)矩陣Фj計(jì)算的結(jié)果分別表示為。

其次，定義特征函數(shù)δi近似線性測(cè)量y的總偏差如下：

(14)

計(jì)算所有第i類總偏差平均如下：

(15)

最后，分類決策如下：

(16)

式(16)表示分類線性測(cè)量y是基于測(cè)試樣本稀疏表示在整個(gè)隨機(jī)矩陣集合上的最小平均總偏差。

3仿真實(shí)驗(yàn)

特征提取與選擇對(duì)模式識(shí)別的算法性能有著極大的影響。為公平地檢驗(yàn)各算法的分類性能，所有算法仿真均采用原始信號(hào)本身作為特征。本文實(shí)驗(yàn)信號(hào)使用4種(QPSK、2-FSK、4-FSK、16-QAM)不同數(shù)字調(diào)制方式，采用IP-CS、傳統(tǒng)CS兩種算法進(jìn)行分類識(shí)別。在MATLAB環(huán)境下，所有數(shù)字調(diào)制信號(hào)均采用相同的碼元速率(40 kb/s)、采樣頻率(800 kHz)與載波頻率(100 kHz)。計(jì)算機(jī)仿真進(jìn)行3組對(duì)比實(shí)驗(yàn)，每組實(shí)驗(yàn)(在不同信噪比條件下)各種數(shù)字調(diào)制方式均產(chǎn)生250個(gè)信號(hào)樣本，其中50個(gè)樣本用于訓(xùn)練，其余200個(gè)樣本則用于測(cè)試。其他的主要仿真實(shí)驗(yàn)參數(shù)如下：設(shè)置錯(cuò)誤容限ε=0.01，變換矩陣采用高斯隨機(jī)矩陣(矩陣行數(shù)d=100，共5個(gè))。

3.1無噪聲條件下分類

第一組實(shí)驗(yàn)在無噪聲條件下產(chǎn)生所有實(shí)驗(yàn)信號(hào)。傳統(tǒng)CS分類器的過完備字典由200個(gè)(每種調(diào)制方式50個(gè))信號(hào)樣本構(gòu)成；IP-CS分類器的初始默認(rèn)過完備字典由196個(gè)(每種調(diào)制方式49個(gè))信號(hào)樣本構(gòu)成。800個(gè)信號(hào)樣本用于測(cè)試分類算法的性能，仿真實(shí)驗(yàn)結(jié)果如表1所示。

表1　(無噪聲)分類器識(shí)別率　(%)

從表1可看出：在理想(無噪聲)條件下，IP-CS算法具有良好的分類準(zhǔn)確度。一方面，該算法秉承了傳統(tǒng)CS算法的“稀疏表示”思想，故可同樣用于區(qū)分不同類型的信號(hào)；另一方面，該算法又引入欲分類信號(hào)本身，避免了決策僅僅依靠同類型原子模板的情況。分類決策充分利用同體原子的貢獻(xiàn)(分解系數(shù))，聯(lián)合考慮“類間”偏差以及“類內(nèi)”偏差，因此IP-CS算法的分類錯(cuò)誤可明顯少于傳統(tǒng)CS算法。

3.2有噪聲條件下分類

考慮一般實(shí)際情況，第二組實(shí)驗(yàn)在高斯白噪聲條件下產(chǎn)生所有實(shí)驗(yàn)信號(hào)。信噪比從-5 dB到15 dB，每次間隔5 dB，共5種噪聲變化情況。過完備字典構(gòu)成同上，算法測(cè)試仿真實(shí)驗(yàn)結(jié)果如圖1所示。

圖1　正確分類的總體概率

圖1給出了兩種算法信號(hào)分類的總體性能，即將每次在相同信噪比條件下所有4種不同數(shù)字調(diào)制信號(hào)被正確分類的概率進(jìn)行算術(shù)平均。總體性能是作為衡量分類準(zhǔn)確度的重要指標(biāo)。圖中實(shí)線與虛線分別是IP-CS、傳統(tǒng)CS兩種分類算法進(jìn)行仿真實(shí)驗(yàn)的總體性能曲線。如圖1所示：對(duì)比發(fā)現(xiàn)兩種算法在同等噪聲環(huán)境下，IP-CS分類算法仍具有更好的識(shí)別性能。

3.3樣本不匹配條件下分類

進(jìn)一步考慮復(fù)雜情況，第三組實(shí)驗(yàn)在(無噪聲、高斯白噪聲)兩種條件下產(chǎn)生所有實(shí)驗(yàn)信號(hào)。當(dāng)外部環(huán)境發(fā)生變化時(shí)，重點(diǎn)測(cè)試分類算法在樣本不匹配情況下的分類性能，以檢驗(yàn)算法的適應(yīng)能力。同理，過完備字典構(gòu)成同上，算法測(cè)試仿真實(shí)驗(yàn)結(jié)果如表2、表3、表4、表5所示。

表2　(情況1)分類器識(shí)別率　(%)

注：情況1——訓(xùn)練樣本(無噪聲)，測(cè)試樣本(信噪比：5 dB)

注：情況2——訓(xùn)練樣本(信噪比：5 dB)，測(cè)試樣本(無噪聲)

注：情況3——訓(xùn)練樣本(信噪比：5 dB)，測(cè)試樣本(信噪比：-5 dB)

注：情況4——訓(xùn)練樣本(信噪比：-5 dB)，測(cè)試樣本(信噪比：5 dB)

CS分類算法的性能優(yōu)劣極大程度地取決于(信號(hào)特征)過完備字典的“合適性”。在實(shí)際中，預(yù)先獲得的訓(xùn)練樣本集不一定能很好反映實(shí)際接收信號(hào)(受外界影響)的特征。表2、表3、表4、表5比較了當(dāng)訓(xùn)練與測(cè)試樣本不匹配時(shí)兩種分類算法(傳統(tǒng)CS、IP-CS)的適應(yīng)能力。從表2、表3、表4、表5可看出：IP-CS分類算法具備健壯的識(shí)別性能，較之傳統(tǒng)CS分類算法適應(yīng)性更強(qiáng)。該優(yōu)勢(shì)得益于過完備字典的“動(dòng)態(tài)原子庫”，并且(相同條件下)插入信號(hào)同體原子的字典構(gòu)造(更新)方式簡單有效。因此，針對(duì)(條件受限下)非最優(yōu)過完備字典的使用，信號(hào)分類采用IP-CS算法可在一定程度上改善傳統(tǒng)算法可能出現(xiàn)的低識(shí)別率狀況。

4結(jié)語

壓縮感知(CS)分類是一種新穎的模式識(shí)別方法，分類識(shí)別基于樣本在過完備字典上的最稀疏表示。本文在此基礎(chǔ)上將稀疏性與同一性有力地結(jié)合，提出了將欲分類信號(hào)參與分類決策的IP-CS分類算法。通過插入同體原子，該算法構(gòu)造的動(dòng)態(tài)過完備字典明顯優(yōu)于傳統(tǒng)靜態(tài)固定字典，具有學(xué)習(xí)簡單、適應(yīng)性好的優(yōu)點(diǎn)。同時(shí)，IP-CS分類算法改進(jìn)了過去只重視信號(hào)“類間”偏差的最小殘差分類準(zhǔn)則，分類決策增加考慮了隨機(jī)矩陣集合測(cè)量以及“類內(nèi)”偏差分析。針對(duì)數(shù)字調(diào)制信號(hào)的分類仿真，實(shí)驗(yàn)證明了本文所提方法的有效性與可行性。通過對(duì)比分析實(shí)驗(yàn)結(jié)果，可以發(fā)現(xiàn)：在非最優(yōu)過完備字典情況下，IP-CS分類算法相比傳統(tǒng)CS分類算法展現(xiàn)出了良好的魯棒性。因此，本文所提方法可用于在樣本數(shù)量受限、匹配性差、維度過高等實(shí)際條件下的信號(hào)分類問題。下一步主要工作將深入研究該算法的性能提升以及模式識(shí)別推廣問題。

參考文獻(xiàn)：

[1]Candès E. Compressive Sampling[C]//Proceedings of the International Congress of Mathematicians. Madrid: Amer Mathematical Society, 2006: 1433-1452.

[2]Richard G, Baraniuk. Compressive Sensing[J]. IEEE Signal Processing Magazine, 2007, 24(4):118-124.

[3]Wright J, YANG A Y, Ganesh A, et al. Robust Face Recognition via Sparse Representation[J]. IEEE Trans. On Pattern Analysis and Machine Intelligence,2009,31(2): 210-227.

[4]于嫻,賀松,彭亞雄等. 基于GMM模型的聲紋識(shí)別模式匹配研究[J].通信技術(shù), 2015，48(01)：97-101.

YU Xian, HE Song, PENG Ya-xiong, et al. Pattern Matching of Voiceprint Recognition based on GMM[J]. Communications Technology, 2015, 48(01): 97-101.

[5]張石清,趙小明,樓宋江等.一種局部敏感的核稀疏表示分類算法[J].光電子.激光, 2014，25(09)：1812-1817.

ZHANG Shi-qing,ZHAO Xiao-ming,LOU Song-jiang,et al. A Classification Algorithm based on Locality-Sensitive Kernel Sparse Representation for Face Recognition[J]. Journal of Optoelectronics.Laser,2014,25(09)：1812-1817.

[6]CHEN Y, LIU J, Lv S T. Modulation Classification based on Bispectrum and Sparse Representation in Cognitive Radio[C]//IEEE 13th International Conference on Communication Technology. Piscataway:IEEE Press,2011:25-28.

[7]SHEN Y, LIU G H, LIU H. Classification of Power Quality Disturbances based on Random Matrix Transform and Sparse Representation[C]//8th World Congress on Intelligent Control and Automation. Piscataway: IEEE Press, 2010: 7-9.

[8]ZHENG C H, ZHANG L, HUANG D S, et al.Metasample-based Sparse Representation for Tumor Classification[J]. IEEE-ACM Trans. On Comput Biol Bioinform, 2011, 8(5): 1273-1282.

[9]呂小聽,李昕,屈燕琴等.基于稀疏表征的話者識(shí)別[J].計(jì)算機(jī)工程與應(yīng)用，2014，50(20)：215-217，243 .

LV Xiao-ting, LI Xin, QU Yan-qin, et al. Speaker Identification based on Sparse Representation[J]. Computer Engineering and Applications,2014,50(20)：215-217,243.

[10]陸慧娟,陸江江,王明怡等.基于壓縮感知的癌癥基因表達(dá)數(shù)據(jù)分類[J].中國計(jì)量學(xué)院學(xué)報(bào)，2012, 23(01)：70-74.

LU Hui-juan, LU Jiang-jiang, WANG Ming-yi, et al. Classification of Cancer Gene Expression Data based on Compressed Sensing[J]. Journal of China University of Metrology, 2012, 23(01)：70-74.

[11]孫道達(dá),趙健,王瑞等.基于稀疏表示的QR碼識(shí)別[J].計(jì)算機(jī)應(yīng)用，2013，33(01)：179-181，185.

SUN Dao-da, ZHAO Jian, WANG Rui,et al. QR Code Recognition based on Sparse Representation[J]. Journal of Computer Applications,2013,33(01):179-181,185.

[12]廖明熙,張小薊,張歆.基于稀疏表示的水聲信號(hào)分類識(shí)別[J].探測(cè)與控制學(xué)報(bào)，2014, 36(04)：67-70，77.

LIAO Ming-xi, ZHANG Xiao-ji, ZHANG Xin. Classification and Recognition of Underwater Acoustic Signal Based on Sparse Representation[J]. Journal of Detection & Control, 2014, 36(04)：67-70, 77.

[13]陳思寶,趙令,羅斌.局部保持的稀疏表示字典學(xué)習(xí)[J].華南理工大學(xué)學(xué)報(bào)自然科學(xué)版，2014，42(01)：142-146.

CHEN Si-bao, ZHAO Ling, LUO Bin. Dictionary Learning via Locality Preserving for Sparse Representation[J]. Journal of South China University of Technology(Natural Science Edition), 2014, 42(01)：142-146.

[14]Ptucha R, Savakis A E. LGE-KSVD: Robust Sparse Representation Classification[J].IEEE Trans. On Image Processing,2014,23(04):1737-1750.

[15]王鏗,張重陽,齊朗曄.基于核距離的稀疏表示的交通標(biāo)識(shí)識(shí)別[J].計(jì)算機(jī)應(yīng)用與軟件，2014，31(03)：146-150.

WANG Keng, ZHANG Chong-yang, QI Lang-ye. Traffic Sign Recognition in Sparse Representation based on Kernel Distance[J]. Computer Applications and Software, 2014, 31(03)：146-150.

[16]Li Y, Yu Z, Bi N, et al. Sparse Representation for Brain Signal Processing : A Tutorial on Methods and Applications[J]. IEEE Signal Processing Magazine, 2014, 31(03):96-106.

陳赟(1981-)，男，碩士，助理講師，主要研究方向?yàn)樾畔⑻幚怼?/p>

林峰(1978-)，男，碩士，高級(jí)工程師，主要研究方向?yàn)槲锫?lián)網(wǎng)、車聯(lián)網(wǎng)。