畢 超,馮玉田,李園輝,王 瑞

(上海大學(xué) 通信與信息工程學(xué)院，上海 200444)

語(yǔ)音信號(hào)的分塊稀疏表示分類研究

畢 超,馮玉田,李園輝,王 瑞

(上海大學(xué) 通信與信息工程學(xué)院，上海 200444)

傳統(tǒng)稀疏表示分類算法(SRC)在處理復(fù)雜多維的向量的時(shí)候，需要對(duì)稀疏后的每個(gè)信號(hào)單獨(dú)處理求殘差，會(huì)導(dǎo)致處理時(shí)間過長(zhǎng)，無(wú)法有效地運(yùn)用于實(shí)際的工程應(yīng)用中。為解決這一問題，提出將圖像處理的分塊稀疏應(yīng)用于語(yǔ)音稀疏表示分類的方法。該方法在傳統(tǒng)稀疏表示分類的基礎(chǔ)上，引入分塊稀疏思想，將語(yǔ)音信號(hào)按指定的長(zhǎng)度處理，從而將若干個(gè)稀疏系數(shù)組成稀疏組來進(jìn)行進(jìn)一步分類識(shí)別。驗(yàn)證實(shí)驗(yàn)表明，源于圖像處理的分塊稀疏表示分類法同樣適用于語(yǔ)音信號(hào)的處理。實(shí)驗(yàn)結(jié)果表明，在識(shí)別率接近的情況下，語(yǔ)音信號(hào)分類識(shí)別所花費(fèi)的時(shí)間比圖像處理明顯降低。這是因?yàn)閳D像稀疏分類的系數(shù)之間相關(guān)性較強(qiáng)，因而分類的識(shí)別率較高；而語(yǔ)音信號(hào)是典型的非平穩(wěn)過程，各種特征參數(shù)隨時(shí)間快速變化，因而根據(jù)長(zhǎng)度分類的相關(guān)性顯著減少。因此，語(yǔ)音信號(hào)識(shí)別的準(zhǔn)確率雖然會(huì)有所降低，但其效率顯著提升。

稀疏表示分類；分塊稀疏；聲頻傳感器；語(yǔ)音信號(hào)處理

0 引 言

傳統(tǒng)的信號(hào)采集來源于模擬系統(tǒng)，采集的信號(hào)是一個(gè)連續(xù)的模擬信號(hào)，傳統(tǒng)的奈奎斯特采樣定理需要根據(jù)原始信號(hào)的帶寬大小決定采樣頻率，而隨著信息技術(shù)的飛速發(fā)展，數(shù)據(jù)量的急劇增大，帶寬也不斷變大，因此對(duì)于設(shè)備的要求也越來越高，迫切需要一種新的信號(hào)采集方法。在這樣的背景下，壓縮感知理論一經(jīng)提出便受到了廣泛研究，研究信號(hào)的稀疏表達(dá)的目的是尋求信號(hào)在某一特定空間下的某種基的最優(yōu)逼近，將原來的連續(xù)信號(hào)轉(zhuǎn)化成只有若干個(gè)參數(shù)的信號(hào)，通過降維來提供一種直接、簡(jiǎn)便的分析方式。信號(hào)變換的本質(zhì)就是透過不同角度不同方式去觀察和認(rèn)識(shí)一個(gè)信號(hào)。信號(hào)的稀疏表示就是在變換域上用盡量少的基函數(shù)來表示原始信號(hào)。而分類問題一直是機(jī)器學(xué)習(xí)和模式識(shí)別研究的一個(gè)焦點(diǎn)問題，各種研究成果層出不窮。近年來，由于壓縮感知技術(shù)的提出和研究的深入，產(chǎn)生了一種新的基于稀疏表示的分類方法，即稀疏表示分類[1](SRC)。該方法一經(jīng)提出，立刻在圖像識(shí)別領(lǐng)域產(chǎn)生了巨大影響，并引入到了音頻[2]等多個(gè)領(lǐng)域。但是稀疏表示分類方法更多地用于科學(xué)研究過程中，在實(shí)際應(yīng)用中并不廣泛，主要是因?yàn)檫@種方法在處理大樣本時(shí)運(yùn)算復(fù)雜度過高，耗費(fèi)的時(shí)間過長(zhǎng)。

文中在稀疏表示分類的基礎(chǔ)上，對(duì)原始的訓(xùn)練樣本，采用分塊稀疏的思想，將訓(xùn)練樣本和測(cè)試樣本按照預(yù)先設(shè)定好的分塊數(shù)量進(jìn)行等大小地劃分，對(duì)各個(gè)分塊進(jìn)行稀疏表示分類。實(shí)驗(yàn)中，通過在原始樣本中取不同的組長(zhǎng)度進(jìn)行分塊后，結(jié)合語(yǔ)音信號(hào)樣本，再對(duì)各種稀疏表示方法的實(shí)驗(yàn)比較來證明分塊稀疏表示分類對(duì)于語(yǔ)音信號(hào)分類的有效性和合理性。

1 SRC算法

稀疏表示分類算法的本質(zhì)是用盡可能少的能包含原始信號(hào)絕大多數(shù)信息的非零系數(shù)構(gòu)成的矩陣來表示原始信息。這是基于壓縮感知理論引申而來的一種算法，由Wright J等[1]在圖像領(lǐng)域最先提出，并取得了不錯(cuò)的實(shí)驗(yàn)效果，其基本原理如下：

(1)輸入一個(gè)包含L個(gè)類的訓(xùn)練矩陣D=[D1,D2,…,DL]∈RM×N,再輸入一個(gè)訓(xùn)練樣本y∈RM，以及一個(gè)可選的容錯(cuò)度ε,其中ε>0。

(2)歸一化D的列，得到單位2范數(shù)。

(1)

由于N>M，此式是個(gè)無(wú)窮解問題，即NP問題，難以求得滿足條件的最稀疏解。E.Candes[3]提出，在滿足一定條件下，可以用1代替0，由于求解1是一個(gè)凸松弛的問題，可以采用線性算法進(jìn)行求解。所以式(1)也能轉(zhuǎn)化成解決1范數(shù)最小化的問題：

(2)

在實(shí)驗(yàn)中考慮到誤差的影響，求解式變?yōu)椋?/p>

(3)

SRC算法將原始數(shù)據(jù)進(jìn)行特征提取之后，將訓(xùn)練集構(gòu)成冗余字典，實(shí)現(xiàn)測(cè)試集的稀疏表示，得到了不錯(cuò)的識(shí)別效果。但是對(duì)于整個(gè)算法的步驟進(jìn)行觀察分析可以發(fā)現(xiàn)，在將測(cè)試集映射到訓(xùn)練集的過程中，需要遍歷訓(xùn)練集的每個(gè)向量來計(jì)算殘差，使得計(jì)算復(fù)雜度非常高，無(wú)形中也增加了將稀疏表示分類算法推廣到實(shí)際工程領(lǐng)域的困難度。

近些年，由于結(jié)構(gòu)化稀疏思想的提出，將訓(xùn)練集和測(cè)試集按照一定的結(jié)構(gòu)進(jìn)行處理，再將其用于稀疏重構(gòu)領(lǐng)域中，獲得了比稀疏重構(gòu)更理想的效果。

文中基于結(jié)構(gòu)化稀疏的思想，將分塊和若干稀疏重構(gòu)算法相結(jié)合，配合稀疏表示分類算法，得到若干種分塊稀疏表示分類算法。通過實(shí)驗(yàn)將這些分塊稀疏表示分類算法與傳統(tǒng)的未分塊稀疏表示分類的識(shí)別率和識(shí)別速度進(jìn)行對(duì)比，以顯示其優(yōu)越性。

2 分塊稀疏表示分類

2.1 分塊稀疏思想

傳統(tǒng)的稀疏表示分類將稀疏性作為唯一的先驗(yàn)信息，而忽略了樣本之間的內(nèi)在聯(lián)系。而在實(shí)際中，非零元的出現(xiàn)往往是相關(guān)的，結(jié)構(gòu)化稀疏正是利用了這一點(diǎn)，將結(jié)構(gòu)先驗(yàn)的知識(shí)運(yùn)用到這一領(lǐng)域。通過結(jié)構(gòu)化稀疏，將若干具有相似結(jié)構(gòu)的向量，通過取某個(gè)特征或者某種計(jì)算方法，構(gòu)成一個(gè)新的向量來代替原始向量組，從而縮減解的自由度，減少計(jì)算復(fù)雜度。目前基于結(jié)構(gòu)化稀疏的研究并不多，主要集中于分塊稀疏、樹稀疏和組稀疏[4-5]。

分塊稀疏是結(jié)構(gòu)化稀疏中最簡(jiǎn)單的一種，它將若干個(gè)連續(xù)向量捆綁在一起組成一個(gè)塊，最終的稀疏結(jié)果必然是非零元成塊出現(xiàn)，如圖1所示[6]。

圖1 分塊稀疏

在實(shí)際中也能找到這樣的例子，如圖2所示的多頻帶信號(hào)。原始的窄帶信號(hào)經(jīng)過高頻載波調(diào)制以后，窄帶信號(hào)的頻譜相對(duì)于高頻載波信號(hào)是稀疏的，但是每個(gè)窄帶信號(hào)都要占據(jù)一段連續(xù)的頻段[7]。三個(gè)載波頻率不同的原始射頻信號(hào)，在接收方會(huì)看成是一個(gè)多頻帶的通信信號(hào)，實(shí)際中信號(hào)包含6個(gè)頻帶，而現(xiàn)有的信號(hào)發(fā)射器的調(diào)制技術(shù)只確定了最大預(yù)期帶寬B，而沒有考慮到窄帶信號(hào)內(nèi)部的這種連續(xù)性，這些都為分塊稀疏的研究提供了現(xiàn)實(shí)意義。

圖2 分塊稀疏實(shí)例(多頻帶通信信號(hào))

2.2 分塊稀疏模型

假設(shè)稀疏向量x∈Rn，取塊長(zhǎng)度為d，d需要滿足能被n整除的條件，即n=d×N。這時(shí)，就將測(cè)試向量分成N塊，即：

(4)

顯然，當(dāng)d取1時(shí)，分塊稀疏就和傳統(tǒng)意義上的稀疏一樣，因此傳統(tǒng)稀疏可以看作是分塊稀疏的一種特例。與此同時(shí)，也將冗余字典按照d的長(zhǎng)度來分塊，即將原始的冗余字典A∈Rm×n分解成N個(gè)矩陣，每個(gè)矩陣的大小是m×d，即：

(5)

類似于傳統(tǒng)稀疏表示問題，從欠定方程y=Ax尋找x向量的稀疏表示，分塊稀疏求解的問題變成了從欠定方程y=Ax中求解塊的某個(gè)特征值的非零元最小個(gè)數(shù)。EldarYC[8]等提出了基于塊2范數(shù)的0范數(shù)的優(yōu)化問題，即

(6)

2.3 分塊稀疏方法

文中采用的分塊稀疏方法，將原有的訓(xùn)練樣本和測(cè)試樣本按照統(tǒng)一的d進(jìn)行劃分后，以塊為單位，和各種稀疏重構(gòu)算法進(jìn)行結(jié)合，通過和原始測(cè)試向量的比較，不斷迭代尋找最小的殘差，找到模擬識(shí)別的類別，最后看與原始訓(xùn)練向量的類別是否相同。經(jīng)過多次實(shí)驗(yàn)，對(duì)于聲音信號(hào)，對(duì)該方法的識(shí)別率和識(shí)別速度相較于未分塊稀疏表示分類進(jìn)行比較。

3 實(shí)驗(yàn)與分析

分塊稀疏提出在圖像處理中[10]，為了證明這種方法與聲音信號(hào)結(jié)合后有非常好的效果，文中特別將其用于聲頻信號(hào)處理。實(shí)驗(yàn)數(shù)據(jù)集來源于國(guó)防高等研究計(jì)劃署DARPA/IXOsSensIT計(jì)劃于2001年9月在美國(guó)加州進(jìn)行的真實(shí)世界無(wú)限分布傳感網(wǎng)絡(luò)實(shí)驗(yàn)時(shí)采集的傳感器數(shù)據(jù)，其中包含了兩種軍事車輛，履帶車(AAV)和重型輪式卡車(DW)的聲波、地震波和紅外波數(shù)據(jù)[11]，該實(shí)驗(yàn)通過對(duì)聲波數(shù)據(jù)進(jìn)行處理來對(duì)車輛進(jìn)行識(shí)別。

在原始數(shù)據(jù)樣本中，每次獨(dú)立實(shí)驗(yàn)各個(gè)樣本點(diǎn)的數(shù)據(jù)并不完全。為保證實(shí)驗(yàn)的準(zhǔn)確性，文中選取了兩類車輛相同車次和相同采樣點(diǎn)的數(shù)據(jù)作為實(shí)驗(yàn)原始數(shù)據(jù)，即取第三輛到第十一輛車的第51，52，53，54，55，56，58，59，60，61個(gè)采樣點(diǎn)，共180個(gè)采樣數(shù)據(jù)，其中采樣頻率為4 960Hz。由于原始數(shù)據(jù)過長(zhǎng)，這里選擇截取前7 000個(gè)數(shù)據(jù)作為改進(jìn)后的原始數(shù)據(jù)。實(shí)驗(yàn)采用了文獻(xiàn)[2]中的聲音信號(hào)特征提取方法，即梅爾頻率倒數(shù)(MFCC)提取特征信號(hào)。為了證明實(shí)驗(yàn)的有效性，將長(zhǎng)度D取不同的值，再與傳統(tǒng)的貪婪重構(gòu)算法結(jié)合分塊稀疏的方法進(jìn)行對(duì)比，以比較其計(jì)算效率。

下面簡(jiǎn)單介紹實(shí)驗(yàn)中用到的各種貪婪重構(gòu)算法：

(1)塊正交匹配追蹤算法(BOMP)。

正交匹配追蹤(OMP)和分塊相結(jié)合的算法[12]，所不同的是將測(cè)試樣本與分塊過后的訓(xùn)練字典以塊為單位進(jìn)行匹配，再進(jìn)行最小二乘法得出與測(cè)試樣本最接近的訓(xùn)練塊，并一直循環(huán)迭代下去，直到誤差小于某個(gè)設(shè)定的值。

(2)組正交匹配追蹤算法(GOMP)。

組稀疏又稱群稀疏，與傳統(tǒng)OMP[13]相比，其主要不同點(diǎn)在于對(duì)稀疏系數(shù)(向量)進(jìn)行分組，每組的大小可人為劃分。一般的處理方法是先標(biāo)記后分群，每次迭代取一個(gè)群向量絕對(duì)值的平均值。

(3)正則化組正交匹配追蹤算法(REGOMP)。

這是由正則化正交匹配追蹤算法(ROMP)[14]引申出來的一種分塊稀疏算法。正則化正交匹配追蹤算法流程與OMP的最大不同之處在于選擇列向量的標(biāo)準(zhǔn)。OMP每次只選擇與殘差內(nèi)積絕對(duì)值最大的那一列，而ROMP則是先選出內(nèi)積絕對(duì)值最大的K列(若所有內(nèi)積中不夠K個(gè)非零值，則將內(nèi)積值非零的列全部選出)，然后再?gòu)倪@K列中按正則化標(biāo)準(zhǔn)再選擇一遍，即為本次迭代選出的列向量(一般并非只有一列)。正則化標(biāo)準(zhǔn)意思是選擇各列向量與殘差內(nèi)積絕對(duì)值的最大值不能比最小值大兩倍以上，且能量最大的一組，因?yàn)闈M足條件的子集并非只有一組。

(4)分段式組正交匹配追蹤(STGOMP)。

這是由分段式正交匹配追蹤算法(STOMP)[15]引申出來的一種分塊稀疏算法。STOMP算法采用分階段的思想，首先根據(jù)相關(guān)原則篩選向量，利用閾值的方法從向量集合中選擇和迭代余量匹配的向量。與OMP算法不同的是，它并不是每次固定選擇一個(gè)匹配向量，而是根據(jù)輸入門限來決定選擇向量的范圍，同時(shí)降低了匹配效率[16]。

最后進(jìn)行分類實(shí)驗(yàn)，在進(jìn)行實(shí)驗(yàn)之前，將待分類樣本中的前90個(gè)編號(hào)設(shè)為1，而后90編號(hào)設(shè)為2。實(shí)驗(yàn)中可以將N個(gè)值設(shè)置為訓(xùn)練樣本，那么另外的90-N樣本則為測(cè)試樣本。分類識(shí)別具有很大的偶然性，為了盡量避免這種偶然性，實(shí)驗(yàn)中采取多次測(cè)量求平均值的方法。

將特征提取后的信號(hào)在固定的塊長(zhǎng)度D下分別進(jìn)行稀疏表示分類，即分別取D=2,D=5和D=10，實(shí)驗(yàn)結(jié)果如表1～3所示。

表1 分塊稀疏表示分類下的識(shí)別率(D=2) %

表2 分塊稀疏表示分類下的識(shí)別率(D=5) %

表3 分塊稀疏表示分類下的識(shí)別率(D=10) %

從實(shí)驗(yàn)結(jié)果可以看出，除了REGOMP-SRC與原始的SRC算法識(shí)別效率差距過大以外，其他的分塊稀疏表示分類算法和原始的稀疏表示分類識(shí)別效率相近，分塊的大小對(duì)于識(shí)別效率的影響不明顯。所以用分塊稀疏表示分類來代替?zhèn)鹘y(tǒng)的稀疏表示分類，從識(shí)別效率上看是沒有任何問題的。

表4顯示了各種分塊識(shí)別算法相對(duì)于原始稀疏表示分類算法在計(jì)算時(shí)間上的差別。

表4 分塊稀疏表示分類下的識(shí)別率 s

從表4可以清楚地看出，分塊稀疏表示分類所花費(fèi)的時(shí)間相比稀疏表示分類大大下降，這與前面提到的分塊可以降低解的自由度相吻合。而且隨著塊長(zhǎng)度D的增加，分塊稀疏表示分類的計(jì)算時(shí)間明顯下降。這里可以把原始的SRC看成D=1的方法，則隨著D的增加，塊的數(shù)量減少，遍歷的組數(shù)減少，自然導(dǎo)致了計(jì)算復(fù)雜度的下降。其中STGOMP算法由于本身遍歷的條件不是誤差小于某個(gè)固定值，而是有固定的迭代次數(shù)，所以這里的計(jì)算時(shí)間相對(duì)變化不大。這也可以看出，迭代次數(shù)是影響稀疏表示分類計(jì)算復(fù)雜度的主要因素。而分塊稀疏表示分類正是通過減少迭代次數(shù)的方法來提高識(shí)別速度的。

4 結(jié)束語(yǔ)

文中提出了將分塊稀疏思想與聲音信號(hào)結(jié)合加以分類的方法，以解決稀疏表示分類對(duì)于實(shí)際應(yīng)用場(chǎng)合識(shí)別速度過慢，難以應(yīng)用到工程項(xiàng)目中的問題。實(shí)驗(yàn)結(jié)果表明，雖然短時(shí)平穩(wěn)特性使聲音信號(hào)的相關(guān)性相比于圖像信號(hào)大打折扣，但是通過分塊稀疏和多種重構(gòu)算法相結(jié)合的稀疏表示分類算法，大大降低了算法的復(fù)雜度，在不降低識(shí)別率的情況下，提高了計(jì)算效率，十分適合實(shí)際工程應(yīng)用。

[1]WrightJ,YangAY,GaneshA,etal.Robustfacerecognitionviasparserepresentation[J].IEEETransactionsonPatternAnalysisandMachineIntelligence,2009,31(2):210-227.

[2]WangK,WangR,FengY,etal.Vehiclerecognitioninacousticsensornetworksviasparserepresentation[C]//IEEEinternationalconferenceonmultimediaandexpoworkshops.[s.l.]:IEEE,2014:1-4.

[3]CandesEJ,RombergJK,TaoT.Stablesignalrecoveryfromincompleteandinaccuratemeasurements[J].CommunicationsonPureandAppliedMathematics,2006,59(8):1207-1223.

[4] 劉 芳,武 嬌,楊淑媛,等.結(jié)構(gòu)化壓縮感知研究進(jìn)展[J].自動(dòng)化學(xué)報(bào),2013,39(12):1980-1995.

[5] 曾 輝.壓縮感知塊稀疏信號(hào)重構(gòu)算法研究[D].湘潭:湘潭大學(xué),2014.

[6] 鄒 健.分塊稀疏表示的理論及算法研究[D].廣州:華南理工大學(xué),2012.

[7]MishaliM,EldarYC.Blindmultibandsignalreconstruction:compressedsensingforanalogsignals[J].IEEETransactionsonSignalProcessing,2009,57(3):993-1009.

[8]EldarYC,MishaliM.Robustrecoveryofsignalsfromastructuredunionofsubspaces[J].IEEETransactionsonInformationTheory,2009,55(11):5302-5316.

[9]ElhamifarE,VidalR.Robustclassificationusingstructured

sparse representation[C]//IEEE conference on computer vision and pattern recognition.[s.l.]:IEEE,2011:1873-1879.

[10] 殷愛菡,姜輝明,朱 明.改進(jìn)的BOMP算法在人臉識(shí)別中的應(yīng)用[J].計(jì)算機(jī)工程與應(yīng)用,2014,50(6):175-178.

[11] Duarte M F,Hu Y H.Vehicle classification in distributed sensor networks[J].Journal of Parallel and Distributed Computing,2004,64(7):826-838.

[12] Eldar Y C,Kuppinger P,B?lcskei H.Block-sparse signals:uncertainty relations and efficient recovery[J].IEEE Transactions on Signal Processing,2010,58(6):3042-3054.

[13] Lozano A C,Swirszcz G,Abe N.Group orthogonal matching pursuit for logistic regression[C]//International conference on artificial intelligence and statistics.[s.l.]:[s.n.],2011:452-460.

[14] Needell D,Vershynin R.Uniform uncertainty principle and signal recovery via regularized orthogonal matching pursuit[J].Foundations of Computational Mathematics,2009,9(3):317-334.

[15] Donoho D L,Tsaig Y,Drori I,et al.Sparse solution of underdetermined systems of linear equations by stagewise orthogonal matching pursuit[J].IEEE Transactions on Information Theory,2012,58(2):1094-1121.

[16] 楊真真,楊 震,孫林慧.信號(hào)壓縮重構(gòu)的正交匹配追蹤類算法綜述[J].信號(hào)處理,2013,29(4):486-496.

Investigation of Voice Signal Classification with Block Sparse

BI Chao,FENG Yu-tian,LI Yuan-hui,WANG Rui

(School of Communication and Information Engineering,Shanghai University,Shanghai 200444,China)

In dealing with complex multidimensional vector,traditional Sparse Representation Classification (SRC) has spent too much time on computing the residual error by sparse signal after each individual treatment，which is unable to be applied in practical engineering effectively.In order to solve this problem,the block sparse method of image processing has been introduced to the voice of the sparse representation classification,which is based on the traditional sparse representation classification and merged with idea of block sparse.Audio signal is treated via given length so that a sparse group has been constructed with several sparse coefficients for further classification in the voice field.Validation experiments have been conducted and its results show that block sparse representation classification stemmed from image processing can be applied in speech signal processing and that time consumption of audio signal classification is less than image processing under the condition of the same recognition rate,due to high correlativity among the coefficients of image sparse classification and thus high recognition rate.This is also because speech signal is classical non-stationary process and its characteristic parameters vary with time rapidly,thus the correlativity of classification with length has been reduced significantly.Therefore,although accuracy of speech signal recognition could decrease,recognition efficiency would be exalted notably.

sparse representation classification;block sparse;audio sensor；voice signal processing

2016-05-09

2016-08-11

時(shí)間：2017-02-17

國(guó)家青年科學(xué)基金項(xiàng)目(61301027)

畢 超(1991-),男,碩士研究生，研究方向?yàn)閴嚎s感知、語(yǔ)音信號(hào)處理;馮玉田,副教授，研究方向?yàn)樗晫W(xué)、壓縮感知。

http://www.cnki.net/kcms/detail/61.1450.TP.20170217.1632.080.html

TP391.4

A

1673-629X(2017)03-0044-04

10.3969/j.issn.1673-629X.2017.03.009