宋耀良 穆 童

(南京理工大學(xué)電子工程與光電技術(shù)學(xué)院，南京，210094)

?

從廣義采樣、小波到壓縮感知*

宋耀良 穆 童

(南京理工大學(xué)電子工程與光電技術(shù)學(xué)院，南京，210094)

采樣是對(duì)模擬信號(hào)進(jìn)行數(shù)字化處理的關(guān)鍵環(huán)節(jié)。近年來(lái)，信號(hào)帶寬及信息傳輸速率的快速增長(zhǎng)致使采用傳統(tǒng)采樣機(jī)理的信號(hào)處理方法面臨巨大挑戰(zhàn)，小波變換與壓縮感知等新型信號(hào)處理技術(shù)應(yīng)運(yùn)而生。在這種情況下，有必要從理論上重新審視經(jīng)典的Shannon-Nyquist采樣定理，研究具有普適性的信號(hào)表達(dá)與采樣重構(gòu)理論。本文從信號(hào)空間投影與函數(shù)表達(dá)的角度分析了信號(hào)表達(dá)的本質(zhì)，介紹了Shannon傳統(tǒng)采樣與重構(gòu)理論，以及由Papoulis提出的經(jīng)Unser等所推廣的廣義采樣與重構(gòu)理論。從數(shù)學(xué)上重點(diǎn)探討了小波變換(Wavelet transform)和壓縮感知(Compressed sensing，CS)等現(xiàn)代信號(hào)處理及變換方法與廣義采樣的一致性。同時(shí)，通過(guò)線性調(diào)頻(Linear frequency modulation, LFM)信號(hào)的實(shí)例仿真，說(shuō)明采樣與重構(gòu)的關(guān)系以及在各個(gè)方法之間的異同性。

香農(nóng)采樣定理；插值；廣義采樣；小波變換；壓縮感知

引 言

1928年Nyquist H在文獻(xiàn)[1]中首次給出了采樣定理，1949年Shannon C E在文獻(xiàn)[2]中正式給出其證明。定理描述為：對(duì)于能量有限的帶限信號(hào)，要想無(wú)失真地恢復(fù)，要求采樣頻率大于信號(hào)帶寬的兩倍。此后，很多文獻(xiàn)將傳統(tǒng)的采樣定理稱(chēng)作Shannon-Nyquist采樣定理，以下簡(jiǎn)稱(chēng)Shannon采樣定理。在Shannon采樣定理中，當(dāng)采樣頻率低于Nyquist采樣率或原信號(hào)非帶限時(shí)會(huì)造成頻譜混疊。由于現(xiàn)實(shí)中不存在理想帶限(時(shí)域無(wú)限)信號(hào)，因此需要采用低通濾波器對(duì)輸入信號(hào)進(jìn)行濾波操作，同時(shí)在重構(gòu)信號(hào)時(shí)濾除頻譜的周期延拓分量。從時(shí)域上看，重構(gòu)所用的插值內(nèi)核Sinc函數(shù)衰減非常緩慢[3]，計(jì)算效率很低，實(shí)時(shí)性差，不適于工程實(shí)現(xiàn)。因此，人們開(kāi)始尋求更加有效的插值函數(shù)。20世紀(jì)90年代，Unser M等將B樣條函數(shù)引入信號(hào)處理領(lǐng)域[4-6]，探討其作為插值內(nèi)核的良好重構(gòu)特性，為發(fā)展新的采樣重構(gòu)理論提供了思路。另一方面，Shannon采樣所基于的理論基礎(chǔ)Fourier變換實(shí)質(zhì)上是將信號(hào)展開(kāi)成三角函數(shù)的線性組合[7]，無(wú)法在時(shí)域和頻域同時(shí)獲得良好的局部特性。同時(shí)，對(duì)非平穩(wěn)信號(hào)而言，其時(shí)域各種時(shí)間統(tǒng)計(jì)量及頻譜結(jié)構(gòu)都會(huì)隨著時(shí)間變化而失去統(tǒng)計(jì)意義[8]。因此，為了適應(yīng)需要處理各種復(fù)雜形式信號(hào)的情形，小波分析應(yīng)運(yùn)而生。1981年Morlet給出了小波分析的概念，1987年Meyer和Mallat研究了多分辨率分析[9]，使其之前構(gòu)造正交小波的方法得以統(tǒng)一。1992年，Walter G基于小波多分辨再生核Hlibert空間建立了小波采樣定理[10]。上述兩種方法本質(zhì)上研究的都是信號(hào)在不同基底下的表達(dá)問(wèn)題，如何將這一類(lèi)方法統(tǒng)一起來(lái)成為一個(gè)完整的理論體系，逐漸成為人們所關(guān)心的問(wèn)題。1977年，Papoulis A在其文章中開(kāi)始引入廣義采樣理論[11]，對(duì)Shannon采樣定理進(jìn)行推廣，探討符合Nyquist采樣率的條件下，基于線性時(shí)不變系統(tǒng)的帶限信號(hào)的采樣與重構(gòu)問(wèn)題。1998年，Unser M和Zerubia J在Papoulis A理論的基礎(chǔ)上，將信號(hào)空間拓展到非帶限情況，使信號(hào)的精確表達(dá)重構(gòu)轉(zhuǎn)向空間投影與信號(hào)在其子空間或投影空間的逼近[12-13]。

但是，這些推廣仍然局限在對(duì)信號(hào)本身的表達(dá)與近似，并沒(méi)有考慮信號(hào)中信息的表達(dá)問(wèn)題，也就是信號(hào)如何向信息空間投影的問(wèn)題。隨著信息技術(shù)的發(fā)展，人們處理的信號(hào)具有更高的帶寬，傳統(tǒng)的采樣方法使硬件的信號(hào)處理性能面臨巨大的挑戰(zhàn)；同時(shí)，人們常常需要壓縮信號(hào)以減小信息傳輸與存儲(chǔ)成本，使采集到的信息大部分被拋棄，從而造成資源浪費(fèi)。因此，研究新的采樣理論已成為必然趨勢(shì)。2004年，Donoho與Candes等首次提出壓縮感知理論[14-17]，使采樣速率完全由信號(hào)中包含的信息所決定，而不再受限于信號(hào)的帶寬，打破了傳統(tǒng)Shannon采樣的局限性，在信號(hào)處理領(lǐng)域開(kāi)辟了全新的研究方向。近年來(lái)，許多文獻(xiàn)對(duì)采樣理論在不同時(shí)期的發(fā)展做了詳細(xì)的綜述[18-21]，從中可以看出信號(hào)采集與信號(hào)變換之間的關(guān)系。本文在分析信號(hào)處理所面臨的諸多挑戰(zhàn)與人們?nèi)找嬖鲩L(zhǎng)的各種需求的基礎(chǔ)上，研究了傳統(tǒng)Shannon采樣定理存在的不足，說(shuō)明了探索一般性的信號(hào)表達(dá)與采樣理論的必要性。從信號(hào)空間投影與函數(shù)表達(dá)的角度分析了信號(hào)采樣與重構(gòu)的本質(zhì)，在分析Shannon理想采樣與重構(gòu)理論、Papoulis的廣義采樣理論和Unser等人推廣的廣義采樣與重構(gòu)理論的基礎(chǔ)上，從數(shù)學(xué)上探討小波變換和壓縮感知等現(xiàn)代信號(hào)處理和變換方法與廣義采樣理論的一致性。同時(shí)，以線性調(diào)頻(Linear frequency modulation, LFM)信號(hào)為例，說(shuō)明采樣與重構(gòu)的關(guān)系以及在各個(gè)方法之間的異同性。

圖1 Shannon-Nyquist采樣過(guò)程Fig.1 Block diagram of Shannon-Nyquist sampling process

1 Shannon-Nyquist采樣與重構(gòu)

傳統(tǒng)的Shannon采樣是一種針對(duì)帶限信號(hào)的等距理想采樣，其處理過(guò)程如圖1所示。輸入的連續(xù)信號(hào)x(t)經(jīng)過(guò)前置濾波器變?yōu)閹扌盘?hào)，以Nyquist采樣率進(jìn)行采樣獲得離散信號(hào)

(1)

為了便于前置濾波器的實(shí)現(xiàn)，降低帶外無(wú)用信號(hào)頻譜重疊的影響，實(shí)際上信號(hào)的采樣頻率往往要比Nyquist采樣率高。信號(hào)重構(gòu)可通過(guò)理想低通濾波器來(lái)實(shí)現(xiàn)，在時(shí)域等同于采用無(wú)限長(zhǎng)的非因果沖激響應(yīng)即Sinc函數(shù)插值重構(gòu)得到

(2)

物理上重構(gòu)的實(shí)現(xiàn)只能通過(guò)非理想的低通濾波或時(shí)域上現(xiàn)在與過(guò)去時(shí)刻的采樣值通過(guò)內(nèi)插來(lái)實(shí)現(xiàn)，但無(wú)論是非理想的低通濾波或有限長(zhǎng)度的插值均會(huì)產(chǎn)生重構(gòu)誤差[22]。下面以線性調(diào)頻信號(hào)為例，通過(guò)仿真說(shuō)明采樣與重構(gòu)的關(guān)系。假設(shè)原始信號(hào)的脈寬為1 ms，帶寬為30 kHz(后文的仿真參數(shù)設(shè)置與此相同)。采樣頻率取70 kHz，具體仿真結(jié)果見(jiàn)圖2。

圖2 基于Shannon采樣定理的LFM信號(hào)仿真結(jié)果Fig.2 Simulation results of LFM signal based on Shannon′s sampling theorem

可以看出，當(dāng)采樣頻率為70 kHz時(shí)基本上能夠無(wú)失真地恢復(fù)原始信號(hào)，有重構(gòu)誤差是因?yàn)樵贛atlab中Sinc函數(shù)取值必須進(jìn)行截?cái)啵瑢?duì)應(yīng)頻譜是非理想低通濾波器，從而造成誤差。由圖2(b)上圖可知，重構(gòu)誤差隨采樣頻率的增大而減小，當(dāng)采樣頻率低于Nyquist采樣率(60 kHz)時(shí)，重構(gòu)誤差將迅速上升。圖2(b)下圖則表示重構(gòu)誤差隨Sinc函數(shù)加窗截?cái)嗪箝L(zhǎng)度的增加而減小，當(dāng)點(diǎn)數(shù)取無(wú)限長(zhǎng)時(shí)理論誤差為零。因此，Shannon采樣的重構(gòu)精度同時(shí)受采樣頻率與插值內(nèi)核的長(zhǎng)度影響，而工程實(shí)現(xiàn)上不可能采用過(guò)高的采樣頻率與過(guò)長(zhǎng)的插值長(zhǎng)度，這正是Shannon采樣局限性的體現(xiàn)。

2 廣義采樣與插值

由式(2)可以發(fā)現(xiàn)，{sinc(t-n),n∈Z}是一個(gè)線性無(wú)關(guān)且相互正交的函數(shù)族。為了理解正交性，可以從空間中函數(shù)投影的角度來(lái)考慮。設(shè)f(x)，g(x)為空間中的連續(xù)函數(shù)，則f(x)在g(x)上的投影可用它們的內(nèi)積表示

(3)

由此定義，可得

(4)

由式(4)可以看出，sinc函數(shù)在時(shí)間軸上的平移函數(shù)族構(gòu)成了所有帶限函數(shù)組成的函數(shù)空間的一組正交基。將上述結(jié)論推廣至更為一般的情形，這里定義一個(gè)基本近似空間V,即

(5)

它表示空間V內(nèi)任意的連續(xù)函數(shù)s(x)都能夠表示為系數(shù)c(k)的序列。

為了使建立的模型具有實(shí)際意義，需要對(duì)其設(shè)置一些限制條件。系數(shù)序列必須平方可和；函數(shù)組{φk=φ(x-k)}k∈Z必須構(gòu)成空間V(φ)的一組Riesz基[23]。Riesz基的定義為：一定存在兩個(gè)正常數(shù)0≤A，B≤+∞，使得

(6)

圖3 廣義采樣過(guò)程Fig.3 Block diagram of generalized sampling process

信號(hào)的采樣及重構(gòu)，實(shí)際上就是對(duì)給定的信號(hào)，通過(guò)選取合適的基，使信號(hào)在這組基下的投影具有所需要的性質(zhì)，如果在某個(gè)基下不符合要求，那么就將其變換到另一個(gè)基下表示。后文所提到的短時(shí)Fourier變換、小波變換以及壓縮感知中的稀疏變換，都是基于這種廣義上的采樣理論思想所進(jìn)行的。與Shannon采樣對(duì)應(yīng)，這里給出廣義采樣的處理框架如圖3所示。

將連續(xù)信號(hào)與基函數(shù)求內(nèi)積、采樣并經(jīng)過(guò)一個(gè)數(shù)字校正濾波器，得到其在該基底上的離散展開(kāi)系數(shù)，再由廣義上的重構(gòu)公式即可恢復(fù)原始信號(hào)。這里討論一個(gè)比較典型的基函數(shù)——B樣條函數(shù)[24-25]。0階B樣條函數(shù)定義為

(7)

將它與自身迭代相乘，便得到k階B樣條函數(shù)

(8)

除了0階以外，高階的B樣條函數(shù)并不是相互正交的，但其均滿足Riesz基限制條件，同時(shí)具有緊支撐以及良好的逼近特性，在投影重構(gòu)中優(yōu)于無(wú)緊支性且衰減緩慢的sinc函數(shù)[26-27]，且其實(shí)現(xiàn)成本較低，更具有工程應(yīng)用價(jià)值。基于3階B樣條函數(shù)對(duì)LFM信號(hào)投影與重構(gòu)的仿真見(jiàn)圖4。

圖4 3階B樣條函數(shù)對(duì)LFM信號(hào)投影重構(gòu)結(jié)果Fig.4 Projection and reconstruction results of LFM signal using three order B-spline function

由圖4(a)可以看出，3階B樣條時(shí)域衰減很快，避免了sinc函數(shù)截?cái)鄮?lái)的重構(gòu)誤差，同時(shí)可以非常準(zhǔn)確地重構(gòu)出原始LFM信號(hào)。經(jīng)計(jì)算得到重構(gòu)誤差為1.26×10-14，這是由于前置濾波器與重構(gòu)濾波器的沖激響應(yīng)是相互正交的，仿真從頻域上實(shí)現(xiàn)，對(duì)應(yīng)頻譜乘積為1，因此理論誤差為零，產(chǎn)生的誤差是由Matlab計(jì)算精度有限導(dǎo)致。

3 采樣與小波變換

Fourier變換在研究時(shí)域信號(hào)的局部特性及處理非平穩(wěn)信號(hào)上性能并不理想。1946年，Gabor給出短時(shí)Fourier變換，利用窗函數(shù)限制計(jì)算范圍，使其簡(jiǎn)單局部化。然而，由于窗函數(shù)在變換過(guò)程中始終保持不變，因此較好的局部特性只能在時(shí)域或頻域內(nèi)獲得，而不能同時(shí)獲得[28]。

希望找到這樣一種基函數(shù)，能夠滿足以下特性：(1)任何復(fù)雜的信號(hào)都可通過(guò)該基函數(shù)的尺度與位置變化所產(chǎn)生的基底進(jìn)行表達(dá)；(2)信號(hào)在該基底下的展開(kāi)系數(shù)能夠反映其時(shí)域局部特性；(3)該基函數(shù)針對(duì)非平穩(wěn)信號(hào)擁有較強(qiáng)的匹配特性。

1909年，Haar首次發(fā)現(xiàn)了這樣的基函數(shù)，即著名的Haar小波[29]

(9)

函數(shù)ψ(t)∈L2(R)稱(chēng)為基本小波，如果它符合該“允許”條件

(10)

(11)

將a,b進(jìn)行變量替換，令a=2-j,b=2-jk，便可得到離散小波變換[8]

(12)

式中:ψj,k(t)=2j/2ψ(2jt-k)。

數(shù)學(xué)上已經(jīng)證明：{ψj,k(t)=2j/2ψ(2jt-k)|j,k∈Z}構(gòu)成了L2(R)的一組規(guī)范正交基，任意能量有限的信號(hào)f(t)∈L2(R)可以在該組基下表示為

(13)

圖5 Haar小波對(duì)LFM信號(hào)分解與重構(gòu)結(jié)果Fig.5 Decomposition and reconstruction results of LFM signal using Haar wavelet

其中離散展開(kāi)系數(shù)cj,k=〈f(t),ψj,k(t)〉，也即式(12)所表示的離散小波變換。

小波在時(shí)域上緊支，同時(shí)也正負(fù)交替振蕩，對(duì)信號(hào)進(jìn)行小波分析可以在信號(hào)的時(shí)域及頻域同時(shí)獲得良好的局部特性，可以用來(lái)處理非平穩(wěn)信號(hào)，并且能在多尺度下由粗到細(xì)地分析信號(hào)，聚焦到信號(hào)的任何細(xì)節(jié)[8,30]?；贖aar小波對(duì)LFM信號(hào)分解重構(gòu)的仿真如圖5所示。由此可以看出，小波分解能夠同時(shí)獲取LFM信號(hào)的低頻信息與高頻信息。低頻信息反映了原始LFM信號(hào)的平均趨勢(shì)，而高頻信息則反映了其波動(dòng)趨勢(shì)，即隨著頻率的增加波動(dòng)越來(lái)越劇烈，這也與客觀事實(shí)相符。相對(duì)于Fourier變換只能分析信號(hào)的頻域特性，利用小波變換可以在不同尺度上研究并處理信號(hào)。例如當(dāng)信號(hào)混入噪聲時(shí)，對(duì)其小波分解后得到的高頻信息做適當(dāng)處理便可達(dá)到去噪的效果[31]。與B樣條重構(gòu)一樣，小波重構(gòu)的誤差同樣來(lái)源于Matlab計(jì)算誤差，其為3.78×10-15。

4 采樣與壓縮感知

以Shannon采樣定理為指導(dǎo)的采樣方法沒(méi)有突破Nyquist采樣率的限制，這對(duì)信號(hào)尤其是寬帶信號(hào)的處理能力及硬件設(shè)備的性能造成了極大的挑戰(zhàn)，尋求一種新的數(shù)據(jù)處理方法已成為必然。2004年Donoho,Candes等首先給出壓縮感知理論，該理論表明：若信號(hào)投影到某個(gè)域內(nèi)具備稀疏性或可壓縮性，那么采用較少的信號(hào)測(cè)量值就能以高概率恢復(fù)原始信號(hào)[14-15]。

考慮長(zhǎng)度為N的信號(hào)x，若其在基底Ψ上K-稀疏，則可表示為x=Ψα，利用測(cè)量矩陣Φ得到x的測(cè)量值y=Φx=ΦΨα。記Θ=ΦΨ，當(dāng)Θ滿足受限等距特性(RIP)準(zhǔn)則時(shí)[32]，就可通過(guò)求解y=Θα的逆問(wèn)題得到α，再代入式x=Ψα即可將原始信號(hào)x從測(cè)量投影值y中正確地恢復(fù)[33]。壓縮感知適用的基本前提有兩個(gè)，分別是信號(hào)的稀疏性，以及測(cè)量矩陣與稀疏基的非相關(guān)性[34]。

CS理論的信號(hào)重構(gòu)問(wèn)題等價(jià)于稀疏約束下的欠定方程求解

(14)

由于對(duì)上式的求解是個(gè)NP-hard問(wèn)題[35]，因此將‖α‖l0松弛為‖α||l1，轉(zhuǎn)化為l1最小范數(shù)下的最優(yōu)化問(wèn)題

(15)

基于該思想的重構(gòu)算法主要包括內(nèi)點(diǎn)法與梯度投影法[36]，隨后又有人提出新的貪婪算法，大大提高了計(jì)算速度，且易于實(shí)現(xiàn)，如匹配追蹤(Matching pursuit, MP)法[37]，正交匹配追蹤(Orthogonal matching pursuit, OMP)法[38]以及分段OMP法[39]，等。

壓縮感知能夠以低速率同時(shí)對(duì)信號(hào)進(jìn)行采樣和壓縮，大大減小了傳感器的計(jì)算壓力與數(shù)據(jù)的傳送、儲(chǔ)存成本。經(jīng)過(guò)10年多的發(fā)展，壓縮感知理論在諸多工程技術(shù)領(lǐng)域已有廣泛的應(yīng)用，例如超寬帶信號(hào)處理[40-42]、高分辨雷達(dá)成像[43-45]、模式識(shí)別[46-48]以及醫(yī)療成像[49-51]等。與此同時(shí)，壓縮感知目前也存在一些問(wèn)題和瓶頸，主要集中在數(shù)學(xué)理論上，例如測(cè)量矩陣與稀疏基的非相關(guān)性難以保證，迭代算法過(guò)程不可控，重構(gòu)算法復(fù)雜度高、運(yùn)算速度慢等[52]。應(yīng)用壓縮感知理論對(duì)LFM信號(hào)進(jìn)行測(cè)量并用OMP算法進(jìn)行重構(gòu)的仿真如圖6所示。

圖6 基于壓縮感知的LFM信號(hào)仿真結(jié)果Fig.6 Simulation results of LFM signal based on compressed sensing

仿真中，對(duì)原始信號(hào)進(jìn)行快速傅里葉變換可以得到其在頻域的稀疏度K，若信號(hào)長(zhǎng)度為N，則由關(guān)系式M≥K×log(N/K)可以得到測(cè)量次數(shù)M。測(cè)量向量由高斯分布隨機(jī)矩陣與LFM信號(hào)時(shí)域相乘得到，見(jiàn)圖6(a)上圖。由圖6(a)下圖可以看出，仿真利用較少的測(cè)量值完成了對(duì)LFM信號(hào)較為準(zhǔn)確的重構(gòu)。在滿足M≥K×log(N/K)的條件下，重構(gòu)誤差隨測(cè)量次數(shù)的增大而減小。同時(shí)，重構(gòu)誤差對(duì)測(cè)量次數(shù)的變化并不敏感，且始終保持在小于1的范圍內(nèi)。因此，壓縮感知相對(duì)于傳統(tǒng)Shannon采樣具有更加高效、低成本的特性，在處理帶寬更大、稀疏度更高的信號(hào)時(shí)，其優(yōu)越性將更加明顯。

5 結(jié)束語(yǔ)

Shannon采樣定理作為通信與信號(hào)處理領(lǐng)域的一個(gè)重要基本結(jié)論，為信號(hào)的數(shù)字化處理奠定了基礎(chǔ)。而隨著信息技術(shù)的發(fā)展，傳統(tǒng)采樣方法所存在的問(wèn)題正在逐步顯現(xiàn)出來(lái)，使其已無(wú)法滿足當(dāng)下各種信息獲取需求。本文針對(duì)Shannon采樣從時(shí)域插值重構(gòu)、時(shí)頻特性分析，以及應(yīng)對(duì)寬帶信號(hào)處理能力等方面理論分析了其存在的缺陷，并通過(guò)仿真驗(yàn)證，從而分別引出廣義采樣、小波變換，以及壓縮感知理論，介紹了其發(fā)展歷程與基本原理，從數(shù)學(xué)角度探討了它們所基于的共同思想，并通過(guò)仿真說(shuō)明其基本實(shí)現(xiàn)方法以及相對(duì)于傳統(tǒng)方法所具有的優(yōu)越性。文中所述的這些方法和理論，不論是對(duì)Shannon采樣定理的發(fā)展、擴(kuò)充還是突破，其本質(zhì)都是將信號(hào)變換到新的基底或者域內(nèi)表達(dá)，使其表現(xiàn)出所需要的某種特性，再通過(guò)構(gòu)造函數(shù)或算法將信號(hào)無(wú)失真或近似地恢復(fù)，從而實(shí)現(xiàn)濾波、去噪和壓縮等功能。從香農(nóng)采樣到廣義采樣、小波變換再到壓縮感知，新的信號(hào)處理方法在不斷地發(fā)展并完善,以適應(yīng)更加豐富多變的信息環(huán)境，而廣義采樣作為一種普適性的信號(hào)表達(dá)與采樣理論，既是對(duì)現(xiàn)有的信號(hào)處理方法規(guī)律的總結(jié)，也為開(kāi)拓新的理論提供了思路。因此深入理解并研究廣義采樣對(duì)信號(hào)處理技術(shù)的發(fā)展與創(chuàng)新具有廣闊而深遠(yuǎn)的意義。

[1] Nyquist H. Certain topics in telegraph transmission theory[J]. Transactions of the American Institute of Electrical Engineers, 1928, 47(2): 617-644.

[2] Shannon C E. Communication in the presence of noise[J]. Proceedings of the IRE, 1949, 37(1): 10-21.

[3] Parker J A, Kenyon R V, Troxel D E. Comparison of interpolating methods for image resampling[J]. Medical Imaging, IEEE Transactions on, 1983, 2(1): 31-39.

[4] Unser M, Aldroubi A, Eden M. B-spline signal processing. I. Theory[J]. Signal Processing, IEEE Transactions on, 1993, 41(2): 821-833.

[5] Unser M, Aldroubi A, Eden M. B-spline signal processing II. Efficiency design and applications[J]. IEEE Transactions on Signal Processing, 1993, 41(2): 834-848.

[6] Unser M. Splines: A perfect fit for signal and image processing[J]. Signal Processing Magazine, IEEE, 1999, 16(6): 22-38.

[7] Welch P D. The use of fast Fourier transform for the estimation of power spectra: A method based on time averaging over short, modified periodograms[J]. IEEE Transactions on Audio and Electroacoustics, 1967, 15(2): 70-73.

[8] Merry R J E, Steinbuch M. Wavelet theory and applications[R]. Literature Study, Eindhoven University of Technology, Department of Mechanical Engineering, Control Systems Technology Group, 2005:3-13.

[9] Mallat S G. A theory for multiresolution signal decomposition: The wavelet representation[J]. Pattern Analysis and Machine Intelligence, IEEE Transactions on, 1989, 11(7): 674-693.

[10]Walter G G. A sampling theorem for wavelet subspaces[J]. IEEE Transactions on Information Theory, 1992, 38(2): 881-884.

[11]Papoulis A. Generalized sampling expansion[J]. IEEE Transactions on Circuits and Systems, 1977, 24(11): 652-654.

[12]Unser M, Aldroubi A. A general sampling theory for nonideal acquisition devices[J]. Signal Processing, IEEE Transactions on, 1994, 42(11): 2915-2925.

[13]Unser M, Zerubia J. A generalized sampling theory without band-limiting constraints[J]. Circuits and Systems II: Analog and Digital Signal Processing, IEEE Transactions on, 1998, 45(8): 959-969.

[14]Donoho D L. Compressed sensing[J]. Information Theory, IEEE Transactions on, 2006, 52(4): 1289-1306.

[15]Candès E J. Compressive sampling[C]//Proceedings of the International Congress of Mathematicians. Madrid: European Mathematical Society, 2006, 3: 1433-1452.

[16]Candè E J, Wakin M B. An introduction to compressive sampling[J]. Signal Processing Magazine, IEEE, 2008, 25(2): 21-30.

[17]Tsaig Y, Donoho D L. Extensions of compressed sensing[J]. Signal Processing, 2006, 86(3): 549-571.

[18]Jerri A J. The Shannon sampling theorem—Its various extensions and applications: A tutorial review[J]. Proceedings of the IEEE, 1977, 65(11): 1565-1596.

[19]Unser M. Sampling 50 years after Shannon[J]. Proceedings of the IEEE, 2000, 88(4): 569-587.

[20]Vaidyanathan P P. Generalizations of the sampling theorem: Seven decades after Nyquist[J]. Circuits and Systems I: Fundamental Theory and Applications, IEEE Transactions on, 2001, 48(9): 1094-1109.

[21]Wu Guochang, Zhang Yadong, Yang Xiaohui. Sampling theory: From Shannon sampling theorem to compressing sampling[J]. Information Technology Journal, 2010, 9(6): 1231-1235.

[22]林茂六, 尹寶智, 劉治宇. 高速采樣信號(hào)數(shù)字內(nèi)插理論與正弦內(nèi)插算法研究[J]. 電子學(xué)報(bào), 2000, 28(12): 8-10.

Lin Maoliu, Yin Baozhi, Liu Zhiyu. Digital interpolation theory and sinc interpolation algorithm on high-speed sampling signals[J]. Acta Electronica Sinica, 2000, 28(12): 8-10.

[23]Daubechies I, Heil C. Ten lectures on wavelets[J]. Computers in Physics, 1992, 6(6): 697-697.

[24]Schoenberg I J. Contributions to the problem of approximation of equidistant data by analytic functions, Part B: On the problem of osculatory interpolation, a second class of analytic approximation formulae[J]. Quart Appl Math, 1946, 4(2): 112-141.

[25]Schoenberg I J. Cardinal interpolation and spline functions: II interpolation of data of power growth[J]. Journal of Approximation Theory, 1972, 6(4): 404-420.

[26]Aldroubi A, Unser M, Eden M. Cardinal spline filters: Stability and convergence to the ideal Sinc interpolator[J]. Signal Processing, 1992, 28(2): 127-138.

[27]Meijering E H W, Niessen W J, Viergever M A. The Sinc-approximating kernels of classical polynomial interpolation[C]//Image Processing, Proceedings 1999 International Conference on. [S.l.]: IEEE, 1999, 3: 652-656.

[28]Aldroubi A. Families of wavelet transforms in connection with Shannon sampling theory and the Gabor transform[J]. Wavelets: A Tutorial in Theory and Applications, 1992: 509-528.

[30]Daubechies I. The wavelet transform, time-frequency localization and signal analysis[J]. Information Theory, IEEE Transactions on, 1990, 36(5): 961-1005.

[31]Ghael S P, Sayeed A M, Baraniuk R G. Improved wavelet denoising via empirical Wiener filtering[C]//Optical Science, Engineering and Instrumentation′97. Bellingham: SPIE, 1997: 389-399.

[32]Foucart S, Lai M J. Sparsest solutions of underdetermined linear systems via lq-minimization for 0

[33]Candès E J, Romberg J, Tao T. Robust uncertainty principles: Exact signal reconstruction from highly incomplete frequency information[J]. Information Theory, IEEE Transactions on, 2006, 52(2): 489-509.

[34]李卓凡, 閆敬文. 壓縮感知及應(yīng)用[J]. 微計(jì)算機(jī)應(yīng)用, 2010 (3): 12-16.

Li Zhuofan, Yan Jingwen. Theory and application of compressive sensing[J]. Microcomputer Applications, 2010 (3): 12-16.

[35]Hochba D S. Approximation algorithms for NP-hard problems[J]. ACM SIGACT News, 1997, 28(2): 40-52.

[36]Figueiredo M A T, Nowak R D, Wright S J. Gradient projection for sparse reconstruction: Application to compressed sensing and other inverse problems[J]. Selected Topics in Signal Processing, IEEE Journal, 2007, 1(4): 586-597.

[37]Neff R, Zakhor A. Very low bit-rate video coding based on matching pursuits[J]. Circuits and Systems for Video Technology, IEEE Transactions on, 1997, 7(1): 158-171.

[38]Tropp J A, Gilbert A C. Signal recovery from random measurements via orthogonal matching pursuit[J]. Information Theory, IEEE Transactions on, 2007, 53(12): 4655-4666.

[39]Donoho D L, Tsaig Y, Drori I, et al. Sparse solution of underdetermined systems of linear equations by stagewise orthogonal matching pursuit[J]. Information Theory, IEEE Transactions on, 2012, 58(2): 1094-1121.

[40]Eldar Y C. Compressed sensing of analog signals in shift-invariant spaces[J]. IEEE Transactions on Signal Processing, 2009, 57(8): 2986-2997.

[41]Shi G, Lin J, Chen X, et al. UWB echo signal detection with ultra-low rate sampling based on compressed sensing[J]. IEEE Transactions on Circuits and Systems II: Express Briefs, 2008, 55(4): 379-383.

[42]Dai W, Milenkovic O. Weighted superimposed codes and constrained integer compressed sensing[J]. IEEE Transactions on Information Theory, 2009, 55(5): 2215-2229.

[43]Herman M A, Strohmer T. High-resolution radar via compressed sensing[J]. IEEE Transactions on Signal Processing, 2009, 57(6): 2275-2284.

[44]Yoon Y S, Amin M G. Compressed sensing technique for high-resolution radar imaging[C]//SPIE Defense and Security Symposium. [S.l.]: International Society for Optics and Photonics, 2008: 69681A-69681A-10.

[45]黃瓊, 屈樂(lè)樂(lè), 吳秉橫, 等. 壓縮感知在超寬帶雷達(dá)成像中的應(yīng)用[J]. 電波科學(xué)學(xué)報(bào), 2010(1): 016.

Huang Qiong, Qu Lele, Wu Bingheng, et al. Compressive sensing for ultra-wideband radar imaging[J]. Chinese Journal of Radio Science, 2010(1): 16.

[46]Elad M. Optimized projections for compressed sensing[J]. IEEE Transactions on Signal Processing, 2007, 55(12): 5695-5702.

[47]Mairal J, Bach F, Ponce J, et al. Discriminative learned dictionaries for local image analysis[C]//IEEE Computer Vision and Pattern Recognition. New York: IEEE, 2008: 1-8.

[48]Wright J, Yang A Y, Ganesh A, et al. Robust face recognition via sparse representation[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2009, 31(2): 210-227.

[49]Lustig M, Donoho D, Pauly J M. Sparse MRI: The application of compressed sensing for rapid MR imaging[J]. Magnetic Resonance in Medicine, 2007, 58(6): 1182-1195.

[50]Provost J, Lesage F. The application of compressed sensing for photo-acoustic tomography[J]. IEEE Transactions on Medical Imaging, 2009, 28(4): 585-594.

[51]Trzasko J, Manduca A. Highly undersampled magnetic resonance image reconstruction via homotopic-minimization[J]. IEEE Transactions on Medical imaging, 2009, 28(1): 106-121.

[52]焦李成, 楊淑媛, 劉芳, 等. 壓縮感知回顧與展望[J]. 電子學(xué)報(bào), 2011, 39(7): 1651-1662.

Jiao Licheng, Yang Shuyuan, Liu Fang, et al. Development and prospect of compressive sensing[J]. Acta Electronica Sinica, 2011, 39(7): 1651-1662.

宋耀良(1980-)，男，教授，研究方向：超寬帶雷達(dá)、超寬帶通信和現(xiàn)代信號(hào)處理技術(shù)，E-mail：ylsong@mail.njust.edu.cn。

穆童(1993-)，男，博士研究生，研究方向：雷達(dá)信號(hào)處理和微波成像。

From Generalized Sampling and Wavelet to Compressed Sensing

Song Yaoliang, Mu Tong

(School of Electronic and Optical Engineering, Nanjing University of Science and Technology, Nanjing, 210094, China)

Sampling is the key procedure for the digital processing of analog signal. In recent years, signal processing methods employing traditional sampling mechanism have faced tremendous challenges due to the rapid growth of signal bandwidth and information transmission rate, and some new signal processing technology such as the wavelet transform and the compressed sensing emerged at the right moment. On this occasion, it is necessary to reexamine the classical Shannon-Nyquist sampling theorem in theory, and study universal expression, sampling and reconstitution theory of signal. The nature of signal expression is analyzed from the point of view of signal projection and function representation. Firstly, the Shannon traditional sampling and reconstruction theory, and the generalized sampling and reconstruction theory proposed by Papoulis and extended by Unser are introduced. Then, the consistency between modern signal processing and transforming methods (wavelet transform, compressed sensing) and generalized sampling theory is investigated mathematically. Meanwhile, the chirp signal is taken as a simulation example to illustrate the relationship between signal sampling and reconstruction, as well as the similarities and differences in each method.

Shannon′s sampling theorem; interpolation; generalized sampling; wavelet transform; compressed sensing

國(guó)家自然科學(xué)基金(61271331,61571229)資助項(xiàng)目。

2016-05-29；

2016-07-02

TN911.7

A