劉 蕾，李建東，閆敬文*

（1.汕頭大學(xué)醫(yī)學(xué)院，廣東 汕頭 515063；2.汕頭大學(xué)工學(xué)院電子系，廣東 汕頭 515063）

0 引言

隨著各類醫(yī)療成像、高清遙感、視頻監(jiān)控等技術(shù)的飛速發(fā)展及應(yīng)用，現(xiàn)代化成像和信息技術(shù)獲取數(shù)據(jù)的能力得到不斷地增強(qiáng)，大體積高維度的海量數(shù)據(jù)使得我們急需提高快速處理數(shù)據(jù)的能力.傳統(tǒng)的數(shù)據(jù)獲取模式要求信號(hào)的采集頻率必須大于或等于信號(hào)帶寬兩倍，才能精確恢復(fù)原信號(hào).按照傳統(tǒng)信號(hào)采集模式，采集后的信號(hào)需先儲(chǔ)存再壓縮傳輸，這將導(dǎo)致大量的冗余數(shù)據(jù)被保留下來，增大采樣硬件成本，且大量的采集數(shù)據(jù)在壓縮中被拋棄，大大降低了采樣效率和硬件的利用效率，極大限制了高效信號(hào)處理的要求.傳統(tǒng)信號(hào)獲取方式的缺陷促使學(xué)者們不斷研究新的信號(hào)獲取方法.2006年，論文“Compressed Sensing”的發(fā)表標(biāo)志著CS理論框架正式被提出[1].Donoho等研究者指出，針對(duì)稀疏或可壓縮信號(hào)，可以采用非線性采樣，在采樣的同時(shí)對(duì)數(shù)據(jù)進(jìn)行壓縮，提高傳感器的采樣效率，同時(shí)也避免大量冗余數(shù)據(jù)被保留而占用有限的儲(chǔ)存資源[1-2].由于壓縮感知理論運(yùn)用非相關(guān)測(cè)量矩陣進(jìn)行壓縮采樣，其采樣頻率可遠(yuǎn)低于奈奎斯特頻率，再按照非線性優(yōu)化的重構(gòu)算法，把復(fù)雜的恢復(fù)計(jì)算部分交給數(shù)據(jù)還原的這一端來做，精確重構(gòu)原始信號(hào)[1-3].圖1給出了傳統(tǒng)數(shù)據(jù)傳輸與CS數(shù)據(jù)傳輸?shù)膮^(qū)別示意圖.

圖1 傳統(tǒng)數(shù)據(jù)傳輸和CS數(shù)據(jù)傳輸.

1 壓縮感知的理論框架基礎(chǔ)

基于壓縮感知非相關(guān)矩陣獲取的投影測(cè)量值的數(shù)據(jù)量遠(yuǎn)遠(yuǎn)小于傳統(tǒng)采樣方法所獲的數(shù)據(jù)量，這不僅突破了采樣定理對(duì)精確重構(gòu)信號(hào)時(shí)采樣頻率的限制，而且提高了數(shù)據(jù)采集端的采樣、儲(chǔ)存及傳輸效率[2-3].尤其是針對(duì)搭載在飛機(jī)或衛(wèi)星上的傳感器采集系統(tǒng)而言，壓縮感知理論減少了大量數(shù)據(jù)的存儲(chǔ)空間，提高了的傳輸效率和傳感器的利用效率.壓縮感知理論指出，信號(hào)或圖像精確重建必須滿足以下三個(gè)條件[4]：

（1）稀疏性，即在某種變換域下信號(hào)或圖像可被稀疏表示；

（2）測(cè)量矩陣滿足限制等容性準(zhǔn)則（Restricted Isometry Property，RIP）條件，即要滿足與信號(hào)本身是互不相干的；

（3）通過非線性優(yōu)化的重建模型精確重建.

1.1 壓縮感知重建的基本知識(shí)

1.1.1 稀疏信號(hào)及信號(hào)的稀疏表示

稀疏信號(hào)是指信號(hào)中只有少數(shù)元素是非零的[2].根據(jù)壓縮感知理論，圖像的重建誤差界是由稀疏逼近誤差決定的[5].對(duì)于任一信號(hào)x∈Rn，令是滿足壓縮感知條件的解，ΨT表示正變換，則ΨTx表示信號(hào)x在變換域ΨT下的稀疏表示，我們僅保留s個(gè)最大系數(shù)即可得到x在變換域ΨT下稀疏逼近表示，用（ΨTx）s表示，則重建誤差可由公式（1）給出：

其中C0，C1是很小的正數(shù)，ε表示噪聲水平[6].公式（1）顯示更加稀疏的表示可以降低重建誤差，因此稀疏性對(duì)提高信號(hào)或圖像重建質(zhì)量起著關(guān)鍵作用.

鑒于我們通常獲取的自然信號(hào)或圖像都是非稀疏的，因此稀疏性的核心思想是尋找Parseval框架一組基或緊框架下的冗余字典（Ψ＝{Ψm}m），使得信號(hào)或圖像在該組基或字典上的投影只存在少數(shù)幾個(gè)大的分量，其他的分量都為零（稀疏的）或者接近零（可壓縮的）[6].常見的稀疏表示方法有傅里葉變換[7]、離散余弦變換DCT、小波變換[7]以及多尺度幾何分析、稀疏字典表示[8]等.典型的多尺度幾何分析方法包括Meyer和Coifman提出的 Brushlet變換[9]，Candès提出的緊框架 Ridgelet變換[10]和 Curvelet變換[11]，Do 提出的緊框架Contourlet變換[12-13]和Labate提出的Shearlet變換[14-15]，Lu和Do[16]提了緊框架Surfacelet變換等.尤其是針對(duì)高維數(shù)據(jù)，圖像的邊界面通常是曲面奇異的[16]，多尺度幾何分析能夠更好地捕捉高維信號(hào)的曲面奇異性，比固定方向的變換有更好的稀疏表示的性質(zhì).

1.1.2 測(cè)量矩陣及不相干性

采樣矩陣和稀疏變換基之間的不相干性是壓縮感知理論成立的另一重要特點(diǎn).不相關(guān)性是指壓縮感知編碼矩陣的列向量必須在相應(yīng)的稀疏基上擴(kuò)散[3].如果用A表示采樣矩陣Φ和稀疏變換基Ψ的乘積，若A滿足限制等容性準(zhǔn)則（Restricted Isometry Property，RIP）條件才能保證信號(hào)成功重建[5].互相干性（mutual-coherence）提供任意兩個(gè)列向量之間相似性的最大值[17]，這是一種最壞的情況，因?yàn)閮蓚€(gè)相似的列向量會(huì)混淆所有基追蹤算法（pursuit algorithm）[18].但是，互相干性沒有真正反映稀疏表示行為和基追蹤算法的性能.互相干性系數(shù)設(shè)為，對(duì)此，Elad提出使用平均相干性（t-averaged mutual coherence），先計(jì)算任意兩列歸一化內(nèi)積，平均相干性定義為大于閾值t的所有內(nèi)積的平均值，它能更好地反映稀疏表示行為和基追蹤算法的性能.常見的能使A滿足約束等距性的測(cè)量矩陣包括Gaussian矩陣[19]，局部傅立葉矩陣[20]、二值隨機(jī)矩陣[21]、局部哈達(dá)瑪矩陣[22]、一致球矩陣[23]以及托普利茲（Toeplitz）矩陣[24]等.

1.2 壓縮感知的稀疏重建模型

Candès等人證明若要精確重建原信號(hào)，可以通過求解最小l0范數(shù)的優(yōu)化問題加以解決，基于壓縮感知理論的重建模型可以寫成如下的表達(dá)式[25]：

除了利用圖像在變換域的稀疏性進(jìn)行的最小l1范數(shù)的稀疏重建外，圖像還可利用梯度的稀疏性進(jìn)行稀疏重建，此時(shí)的稀疏重建模型轉(zhuǎn)化為最小TV求解：

1.3 壓縮感知的低秩重建模型

矩陣的低秩性是指矩陣的秩小于矩陣的行數(shù)或列數(shù).基于此，研究人員將一維信號(hào)的最小化向量的范數(shù)擴(kuò)展成二維矩陣的秩，創(chuàng)造出矩陣的低秩重建算法.

一個(gè)二維圖形對(duì)應(yīng)一個(gè)矩陣，令xi代表第i個(gè)位置處的向量，使用K近鄰算法搜索出其第 i個(gè)位置處的 k 個(gè)相似向量，共同組成向量，由于Xi是由相似向量組成的，因此它有低秩特性.同時(shí)Xi又含有噪聲，所以對(duì)二維圖形建立模型Xi＝Li＋Ni，Ni代表高斯白噪聲矩陣，Li代表低秩矩陣，秩最小化優(yōu)化模型[27]如下：

通常情況下，這個(gè)壓縮傳感重建問題的模型可以寫成：

其中 L（Li，ε）是奇異值的對(duì)數(shù)和.

圖2 不同函數(shù)對(duì)秩的逼近效果

擴(kuò)展到三維數(shù)據(jù)的重建問題涉及到三維張量.建立起相應(yīng)的重建模型之后，先對(duì)張量進(jìn)行CP分解或者Tucker分解，使之變成二階矩陣，進(jìn)而依靠矩陣的恢復(fù)算法進(jìn)行重構(gòu).以CP分解為例，三維的圖像重建可以建立如下的模型：

1.4 壓縮感知深度網(wǎng)絡(luò)模型

近年來，隨著神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)的快速發(fā)展，部分研究者借助神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)構(gòu)建了基于深度網(wǎng)絡(luò)的壓縮感知模型，西安交通大學(xué)構(gòu)建的ADMM-CSNet[28-29]模型和北京大學(xué)的ISTA-Net[29]模型是兩個(gè)典型的模型.這兩個(gè)模型都是針對(duì)圖像壓縮感知重建設(shè)計(jì)的，本質(zhì)上仍然是求解一個(gè)l1范數(shù)稀疏重建問題，求解模型[28]如下：

其中Dl表示某種稀疏或?yàn)V波變換，g（·）表示正則化函數(shù)，代表正則化參數(shù)，L是可能的分組信息.與傳統(tǒng)壓縮感知算法不同，這些參數(shù)在壓縮感知網(wǎng)絡(luò)模型中不需要提前設(shè)置，網(wǎng)絡(luò)模型會(huì)計(jì)算出最優(yōu)參數(shù)，且迭代次數(shù)遠(yuǎn)小于常規(guī)壓縮感知的迭代算法[29-30].除此以外，Kuldeep等研究者提出了一種基于卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的非迭代壓縮感知快速重建算法ReconNet，它以圖像的壓縮感知隨機(jī)測(cè)量值作為輸入返回重建圖像塊[31].Mousavi[32]和Iliadis[33]結(jié)合分塊壓縮感知和全連接神經(jīng)網(wǎng)絡(luò)給出了全連接視頻壓縮感知模型.基于網(wǎng)絡(luò)結(jié)構(gòu)的壓縮感知模型儼然成為了壓縮感知重建的發(fā)展新方向.

2 壓縮感知重建算法

重構(gòu)算法一直以來是壓縮感知理論實(shí)現(xiàn)的重點(diǎn)和難點(diǎn).本文分別介紹稀疏重建模型和低秩重建模型兩種不同模型下的各類重建方法.

2.1 稀疏信號(hào)的重建算法

2.1.1 凸優(yōu)化算法

在稀疏重建模型中，Candès指出可以把復(fù)雜性和不穩(wěn)定性較高的l0范數(shù)最優(yōu)化問題轉(zhuǎn)化為等價(jià)的l1范數(shù)最優(yōu)化問題，通過不斷尋找l1范數(shù)最小的來逼近我們壓縮采樣得到的信號(hào)y，當(dāng)l1范數(shù)不再減少時(shí)，方程組求解成功.這種思路就引出了著名的基追蹤方法（Basis Pursuit，BP），其計(jì)算復(fù)雜度為O（N3）[18].2007年，F(xiàn)igueiredo等人在梯度下降法的基礎(chǔ)上提出了著名的稀疏梯度投影法（Gradient Projection for Sparse Reconstruction，GPSR），該算法受初始值的影響較小，而且通過調(diào)整正則因子可以有效提升算法的重建速度[34].除此以外，典型的凸優(yōu)化算法還包括迭代收縮算法（iterative shrinkage thresholding algorithm，ISTA）[35]、快速迭代收縮算法（fast iterative shrinkage thresholding algorithm，F(xiàn)ISTA）[36]、分裂 Bregman 迭代算法（Split Bregman Iteration，SBI）算法[37]和交替方向乘子法（Alternating Direction Method of Multipliers，ADMM）[38]等.

2.1.2 貪婪迭代算法

貪婪算法出現(xiàn)的時(shí)間較早，解決的是最小l0范數(shù)問題，求解時(shí)利用迭代算法通過減少殘差尋找信號(hào)或圖像的最稀疏表示.最典型的貪婪算法是匹配追蹤算法（MP），由Mallat等人提出[39].隨后，Troppj引入正交的思想，通過遞歸對(duì)己選擇原子集合進(jìn)行正交化以保證迭代的最優(yōu)性，提出了正交匹配追蹤算法（OMP）[40].為了縮小運(yùn)算時(shí)間，提高重建精度，增強(qiáng)重建信號(hào)對(duì)噪聲的魯棒性，在2009年，Needell等人在OMP的基礎(chǔ)上提出了正則正交匹配追蹤（Regularized Orthogonal Matching Pursuit，ROMP）算法[41]和壓縮采樣匹配追蹤（Compressive Sampling Matching Pursuit，CoSaMP）算法[42].同年，Donoho等人提出了一種對(duì)稀疏度K自適應(yīng)的稀疏自適應(yīng)匹配追蹤（Sparsity Adaptive Matching Pursuit，SAMP）算法[43]，可以在K未知的情況下獲得較好的重建效果，速度也遠(yuǎn)快于OMP算法.

2.1.3 最小全變分法

最小全變分法求解的是公式（4）梯度稀疏問題.Candès等研究者從大量自然圖像的離散梯度都是稀疏的角度出發(fā)，提出了針對(duì)圖像重構(gòu)的最小全變分法[44].

該問題的求解可以轉(zhuǎn)換為二階錐規(guī)劃問題.最小全變分模型可以有效地解決圖像壓縮重構(gòu)問題，重構(gòu)結(jié)果精確而且魯棒，但是運(yùn)算速度較慢.

2.1.4 基于Bayesian框架的重建算法

基于Bayesian框架壓縮感知重建算法著重處理時(shí)間相關(guān)性較強(qiáng)的信號(hào).在Bayesian理論框架下，我們可以通過信號(hào)的稀疏表示得到信號(hào)的先驗(yàn)信息，通過壓縮感知非線性采樣得到信號(hào)的后驗(yàn)信息從而恢復(fù)原信號(hào).2001年Tipping提出了結(jié)合稀疏貝葉斯學(xué)習(xí)和相關(guān)向量機(jī)（Relevance Vector Machine，RVM）學(xué)習(xí)算法對(duì)信號(hào)進(jìn)行稀疏重建信號(hào)[45].2008年Ji S等人提出了一種Bayesian壓縮感知（Bayesian Compressive Sensing）BCS算法[46].Bayesian壓縮感知的相關(guān)算法還有Wipf在2004年提出的基于單測(cè)量向量的稀疏貝葉斯學(xué)習(xí)算法（Sparse Bayesian Learning，SBL）[47]和在2007年提出的基于多測(cè)量向量的MSBL算法[48].

2.2 低秩矩陣的重建算法

2.2.1 凸松弛法

凸松弛算法主要解決公式（5）和（6）的重建問題，Cai等人在2008年提出了SVT（Singular Value Thresholding）算法，該算法是基于線性伯格曼迭代（Linearized Bregman Iteration）的軟閾值門限迭代收縮算法，但該算法的計(jì)算復(fù)雜度較高，收斂速度緩慢，且其重構(gòu)解沒有理論保證[49].2010年，Toh K.C.等人提出了NNLS（Nuclear-norm Regularized Least Squares）算法，該算法基于一種加速的近端梯度算法，用ε-最優(yōu)解迭代，求解無約束核范數(shù)非光滑凸優(yōu)化問題[50].同年，Mazumdar R等人利用核范數(shù)作為正則化子，提出了一個(gè)簡(jiǎn)單而有效的凸算法，即Soft-Impuse算法，它使重構(gòu)誤差在核范數(shù)上有界時(shí)達(dá)到最小，該算法軟填充迭代替換丟失的元素與從軟閾值SVD獲得的那些元素[51].2012年，Wen等人提出LMAFit（Low-Rank Matrix Fitting）算法[52]，該算法提出了一個(gè)低階因子分解模型，并構(gòu)造了一個(gè)非線性連續(xù)超松弛（SOR）算法，只需每次迭代求解一個(gè)線性最小二乘問題.大量的數(shù)值實(shí)驗(yàn)表明，LMAFit能夠以比許多核范數(shù)最小化算法快幾倍的速度可靠地解決各種各樣的問題[53].

2.2.2 迭代閾值算法

低秩迭代閾值算法有迭代軟閾值和迭代硬閾值兩類算法，典型的算法包括SVP（Singular Value Projection）算法[54]、NIHT（Normalized Iterative Hard Thresholding）算法[55]和FPCA（Approximate SVD Based FPC Algorithm）算法[56]等.Jain P等人在2010年提出的SVP（Singular Value Projection）算法[54]屬于硬閾值迭代算法，該算法將零矩陣作取為初始矩陣，用投影梯度下降法進(jìn)行迭代更新，算法的收斂速度較快，對(duì)重構(gòu)解的精確性也進(jìn)行了詳細(xì)分析，受采樣值個(gè)數(shù)和原始矩陣的秩影響較小[54].2011年，Ma S等人利用同倫方法和近似奇異值分解過程，提出FPCA算法，該算法求解的是無約束版的核范數(shù)最小化問題[56].2013年，Tanner等人提出NIHT算法，它使用計(jì)算為精確地用于受限子空間的自適應(yīng)步長(zhǎng)，該方法被證明具有接近最優(yōu)的從密集測(cè)量掩?；謴?fù)階的保證，并且被觀察到在某些方面具有優(yōu)于用于密集測(cè)量掩模和進(jìn)入測(cè)量的其它矩陣完成算法的平均情形性能[55].特別地，所提出的算法能夠從非常接近所需的最小測(cè)量次數(shù)恢復(fù)矩陣[55].

2.2.3 貪婪追蹤類算法

貪婪追蹤類算法每次迭代時(shí)選取一個(gè)局部最優(yōu)解來逐步逼近原始矩陣.2009年，Haldar和Hernando提出使用冪分解（PF）算法作為秩約束矩陣恢復(fù)的工具，提出了Incremented Rank Power Factorization算法[56].結(jié)果表明，增秩PF在恢復(fù)低秩矩陣方面明顯優(yōu)于核范數(shù)最小化（NNM），而且速度更快[56].2010年，Lee K等人對(duì)CoSaMP算法進(jìn)行推廣，提出了ADMiRA（Atomic Decomposition for Minimum Rank Approximation）算法[57].ADMiRA算法結(jié)構(gòu)簡(jiǎn)單，計(jì)算量較小，并從理論上嚴(yán)格分析了重構(gòu)解的精確性，但缺點(diǎn)是其受采樣值個(gè)數(shù)和原始矩陣的秩影響較大[57].

3 結(jié)論與展望

壓縮感知理論一經(jīng)問世即得到廣大研究者的青睞，目前壓縮感知理論在通訊、圖像處理、醫(yī)學(xué)成像、生物傳感等眾多領(lǐng)域發(fā)揮著重要的作用.本文在闡述了壓縮感知理論框架和重建模型的基礎(chǔ)上，針對(duì)不同重建模型對(duì)壓縮感知重構(gòu)算法進(jìn)行總結(jié)和評(píng)述.盡管研究者對(duì)壓縮感知理論及重建算法的研究已經(jīng)獲得了很多有意義的成果，然而，隨著新技術(shù)的產(chǎn)生與發(fā)展，將會(huì)不斷涌現(xiàn)出更多的壓縮感知模型和求解方法，如隨著機(jī)器學(xué)習(xí)與深度學(xué)習(xí)模型在大數(shù)據(jù)處理中所展現(xiàn)的優(yōu)勢(shì)，使得壓縮感知理論與深度學(xué)習(xí)網(wǎng)絡(luò)結(jié)構(gòu)的結(jié)合成為新的研究熱點(diǎn)等.