董雋碩,吳玲達(dá),郝紅星

(航天工程大學(xué) 復(fù)雜電子系統(tǒng)仿真實(shí)驗(yàn)室,北京 101400)

稀疏表示的概念由來(lái)已久.1959年,Hubel和Wiesel[1]在觀察哺乳動(dòng)物主視皮層V1 區(qū)神經(jīng)元感受野的反應(yīng)的實(shí)驗(yàn)中發(fā)現(xiàn)該區(qū)域細(xì)胞感受野對(duì)視覺(jué)信息的記錄方法是一種“稀疏表示”.基于這一發(fā)現(xiàn),Barlow[2]于1961年提出了一種假說(shuō),思考了對(duì)視覺(jué)信號(hào)進(jìn)行編碼的可能.1987年Field[3]根據(jù)Hubel和Wiesel的研究結(jié)果,提出將這一稀疏表示的特性應(yīng)用于視網(wǎng)膜成像的研究中,在這一思路的指引下,Michison[4]于1988年通過(guò)結(jié)合神經(jīng)領(lǐng)域的特征與稀疏表示的概念將稀疏編碼應(yīng)用于神經(jīng)領(lǐng)域.之后,在1996年,Olshausen和Field[5]發(fā)現(xiàn)對(duì)自然圖像進(jìn)行稀疏編碼后獲得的基函數(shù)與細(xì)胞感受野的反應(yīng)特性具有相似的特征,通過(guò)將稀疏性作為正則化項(xiàng)的方式,對(duì)感受野的響應(yīng)特性進(jìn)行了模擬,從而很好地解釋了生物學(xué)家觀察到的初級(jí)視皮層的工作機(jī)理.通過(guò)進(jìn)一步對(duì)基函數(shù)與輸出信號(hào)維數(shù)之間的思考,二人研究得出了超完備基稀疏編碼的概念,對(duì)V1區(qū)簡(jiǎn)單細(xì)胞感受野成功建模.同一時(shí)期,LASSO (Least Absolute Shrinkage and Selection Operato)算法[6]于1996年創(chuàng)造性地提出了將l0范數(shù)松弛為l1范數(shù)來(lái)求解稀疏表示模型的方法,開(kāi)辟了一條求解稀疏表示模型的新思路.隨著求解最小化范數(shù)的算法不斷優(yōu)化,稀疏表示理論開(kāi)始被廣泛地應(yīng)用于人臉識(shí)別、目標(biāo)追蹤、盲源分離等領(lǐng)域.

1 稀疏表示原理

對(duì)于一維的離散時(shí)間信號(hào)x,可以用一個(gè)RN空間中的N維列向量來(lái)表示.假設(shè)RN空間內(nèi)的任何信號(hào)都可以通過(guò)N×M維的基向量組來(lái)線性表示.此時(shí)假設(shè)基向量之間都是正交的,則所有的基向量就構(gòu)成了一個(gè)基矩陣 Ψ={Ψ1,Ψ2,···,ΨM},這個(gè)基矩陣就被稱為字典,信號(hào)x就可以通過(guò)基矩陣表示為以下形式[7]:

其中,s是信號(hào)x在基矩陣上的投影,是一個(gè)M維的列向量.如果向量s中的非零值數(shù)目K遠(yuǎn)小于向量的維數(shù)N,則認(rèn)為信號(hào)s是稀疏的,當(dāng)M>N時(shí),s有無(wú)窮多個(gè)解,要得到唯一解需要增加限制條件[8].稀疏表示就是利用這種欠定的情況,從過(guò)完備字典中選取少量原子來(lái)表示出原始信號(hào),即以向量s稀疏為約束條件縮小解的范圍,以此來(lái)降低信號(hào)處理成本,達(dá)到壓縮信號(hào)的效果.圖1描述了原信號(hào)、字典和系數(shù)矩陣三者的關(guān)系.

圖1 稀疏表示示意圖

向量s稀疏的數(shù)學(xué)定義如下[9]:

若存在00 且滿足:

則認(rèn)為信號(hào)在一定意義上是稀疏的.

同時(shí)這一公式也是向量s的lP范數(shù)定義.當(dāng)P為1的時(shí)候得到的就是向量的l1范數(shù),意義是向量各個(gè)分量元素的絕對(duì)值之和;當(dāng)P為2的時(shí)候得到的就是向量的l2范數(shù),數(shù)學(xué)意義為根號(hào)下各元素的平方和.圖2描述了P為不同值時(shí)的lP范數(shù)圖像.

圖2 不同P 值的P 范數(shù)

由此可以將向量s稀疏作為求解線性方程組的限制條件,從而將求解式(1)的問(wèn)題轉(zhuǎn)化為求解向量的最小l0范數(shù)的優(yōu)化問(wèn)題[10],即:

但由于該問(wèn)題是一個(gè)非凸函數(shù)求極值的問(wèn)題,所以直接求解比較困難[11],因而出現(xiàn)了兩種求解思路,一種是通過(guò)松弛l0范數(shù)的方法將非凸問(wèn)題轉(zhuǎn)換為凸函數(shù)再進(jìn)行優(yōu)化,這種方法只能獲得近似解;另一種是采用字典原子匹配的方法,典型的如下文所述貪心算法.本文目的即是根據(jù)不同求解方式的特點(diǎn),對(duì)求解算法進(jìn)行分類,簡(jiǎn)要介紹不同算法的原理并整理不同類別算法的發(fā)展現(xiàn)狀.

2 稀疏表示算法分類

稀疏表示算法根據(jù)優(yōu)化思路可分為貪心算法、約束算法以及其他算法,其中貪心算法又可分為匹配追蹤法、正交匹配追蹤算法以及相關(guān)衍生算法;約束算法可分為梯度投影稀疏重構(gòu)算法、內(nèi)點(diǎn)法和交替方向法以及其他衍生算法;其他算法中仍舊包含很多類別,但由于相關(guān)類別所包含算法較少,就不做進(jìn)一步劃分.本文主要就前兩者的特點(diǎn),簡(jiǎn)單介紹相關(guān)原理及其典型算法和發(fā)展現(xiàn)狀.

2.1 稀疏表示貪心算法

貪心算法的核心思想就是用局部?jī)?yōu)化來(lái)代替全局優(yōu)化,提高算法的運(yùn)算效率.該類算法都是通過(guò)一步一步增加有效列的方式來(lái)獲得最接近原信號(hào)的解.初始有效集合為空集,每一步增加的列都要能夠最大限度地減少有效集與原信號(hào)之間的重構(gòu)殘差,當(dāng)這個(gè)重構(gòu)殘差小于一個(gè)閾值時(shí)結(jié)束運(yùn)算.貪心算法提供了一種求解稀疏表示解的特殊方法[12].

匹配追蹤算法(MP)[13]是最早的使用貪心策略求解稀疏表示問(wèn)題近似解的方法.匹配追蹤算法的思想就是通過(guò)求內(nèi)積的方式,從過(guò)完備字典中尋找與輸入信號(hào)最為匹配的原子,用初始?xì)埐罴舻暨@一原子后得到下一代殘差,重復(fù)這一過(guò)程直到殘差小于給定的閾值[14,15].

匹配追蹤算法提供了求解最小化l0范數(shù)的優(yōu)化問(wèn)題的思路,但其存在一個(gè)明顯的缺陷,即在將信號(hào)殘差向所選原子投影時(shí),由于所選原子之間并不是正交的關(guān)系,所以會(huì)出現(xiàn)同一原子被重復(fù)選中的情況,因而算法需要經(jīng)過(guò)多次迭代才能達(dá)到收斂條件,例如在二維空間中,信號(hào)x可用D=[d1,d2]來(lái)表示,那么匹配追蹤算法就會(huì)在這兩個(gè)向量之間迭代投影,即x=a1d1+a2d2+a3d1+a4d2+···也就是說(shuō)匹配追蹤算法的方向選擇不是最優(yōu)的,而是次優(yōu)的.

在匹配追蹤算法的基礎(chǔ)上,Pati 等人提出了正交匹配追蹤算法(OMP)[16]的概念,正交匹配追蹤算法較MP 算法的根本性進(jìn)展就是在將殘差信號(hào)投影到所選原子之前,先對(duì)所選原子進(jìn)行施密特正交化處理,這一步驟使得算法每次迭代的結(jié)果都是全局最優(yōu)解,收斂速度相較于MP 算法有很大提升,迭代次數(shù)大幅減少.

在MP和OMP 算法的基礎(chǔ)上,又衍生出了很多相關(guān)的貪心算法.2009年,Needell 等人提出了正則正交匹配追蹤算法(ROMP)[17],ROMP 算法將貪心算法與凸優(yōu)化問(wèn)題相結(jié)合,考慮在匹配時(shí)同時(shí)選取內(nèi)積最小的K列,然后通過(guò)正則化約束再進(jìn)行一遍篩選的方式來(lái)提高匹配效率,最終獲得了更快的收斂速度且從含噪聲的觀測(cè)信號(hào)中完整的恢復(fù)出了原信號(hào).Donoho 等人于2012年提出了分段正交匹配追蹤算法(StOMP)[18],通過(guò)設(shè)定閾值、選擇和投影3個(gè)步驟的方式優(yōu)化了OMP 算法.

除此之外,從自適應(yīng)的角度出發(fā),2008年Do 等人提出了稀疏度自適應(yīng)匹配追蹤算法(SAMP)[19],通過(guò)交替估計(jì)的方法解決了稀疏度未知的情況.高睿等人于2010年提出了基于壓縮感知的變步長(zhǎng)自適應(yīng)匹配追蹤重建算法(VssAMP)[20],算法對(duì)SAMP的迭代停止條件進(jìn)行了改進(jìn),只有先后同時(shí)滿足兩個(gè)停止條件時(shí)才會(huì)停止迭代,如果第一個(gè)停止迭代條件不滿足則剩余步驟與SAMP 相同.2012年,Sun 等人提出了稀疏自適應(yīng)壓縮采樣匹配追蹤算法(CSAMP)[21],采用了回溯線搜索的方式,降低了算法的復(fù)雜度,具有高精度、自適應(yīng)性強(qiáng)、高噪聲魯棒性等優(yōu)點(diǎn).2018年王福馳等人引入Dice 系數(shù)匹配準(zhǔn)則改進(jìn)了自適應(yīng)匹配追蹤算法,提高了算法的重構(gòu)質(zhì)量和運(yùn)算速度[22].2019年于金冬等人針對(duì)稀疏度需要作為先驗(yàn)信息的特點(diǎn)提出利用指數(shù)函數(shù)的特性對(duì)稀疏度進(jìn)行分段試探,能夠很大程度上降低對(duì)稀疏度的依賴,自適應(yīng)重構(gòu)出原始信號(hào)的成功率很高[23].同年唐川雁等人針對(duì)SAMP 算法中原子預(yù)選數(shù)量超過(guò)測(cè)量值導(dǎo)致的無(wú)法重構(gòu)的問(wèn)題,提出了變比例的稀疏度自適應(yīng)匹配追蹤算法,在一定程度上提高了重構(gòu)成功率[24].

2009年,Needell 等人還提出了壓縮采樣匹配追蹤算法(CoSaMP)[25]的概念,將限制等距性和剪枝技術(shù)等結(jié)合到OMP 算法的迭代結(jié)構(gòu)中,該算法在重構(gòu)信號(hào)方面的表現(xiàn)也很出色.受到壓縮采樣匹配追蹤算法的啟發(fā),Dai 等人還提出了一種子空間追蹤法(SP)[26],這種算法大幅提升了優(yōu)化的效果,但也顯著增大了計(jì)算量和算法的復(fù)雜度,2010年楊成等人根據(jù)前述算法的研究,提出了壓縮采樣中的稀疏度自適應(yīng)子空間追蹤算法(SASP)[27],改進(jìn)了稀疏度初始估計(jì)值的估計(jì)方法并將弱匹配原則應(yīng)用到字典原子選取中,最后通過(guò)子空間追蹤方法重構(gòu)信號(hào).算法的重構(gòu)效果相對(duì)較好,但時(shí)間復(fù)雜度略高.2017年,為了解決算法應(yīng)用中出現(xiàn)的重構(gòu)遮擋情況,丁函等人提出了貪婪回溯子空間追蹤算法,將正交匹配追蹤算法和子空間追蹤算法相結(jié)合,提高了算法的實(shí)用性[28].

通過(guò)優(yōu)化算法的結(jié)構(gòu),Jost 等人還提出了一種樹(shù)基匹配追蹤(TMP)算法[29],通過(guò)構(gòu)造樹(shù)形結(jié)構(gòu)字典,大幅提高了信號(hào)稀疏分解的速度,但同時(shí)降低了收斂的速度.在此基礎(chǔ)上La和Do 提出了一種新的樹(shù)基正交匹配追蹤(TBOMP)算法[30],通過(guò)將正交匹配追蹤方法與樹(shù)基匹配追蹤算法相結(jié)合,降低了收斂所需時(shí)間,保證了殘差經(jīng)過(guò)有限次迭代后能夠收斂為零.基于此,2013年Gen 等人提出了一種新的基于樹(shù)的回溯正交匹配追蹤算法[31],該算法將小波樹(shù)結(jié)構(gòu)轉(zhuǎn)化為候選原子的對(duì)應(yīng)關(guān)系,而不需要任何信號(hào)稀疏性的先驗(yàn)信息.因此,原子選擇過(guò)程將更加結(jié)構(gòu)化,并且可以縮小搜索空間.此外,根據(jù)回溯過(guò)程,可以檢測(cè)出先前選擇的原子的可靠性,并在每次迭代中刪除不可靠的原子,最終實(shí)現(xiàn)信號(hào)的精確重構(gòu).

2013年,Karahanoglu和Erdogan 創(chuàng)新性的提出了一種具有兩個(gè)階段的前向后追蹤(Forward-Backward Pursuit,FBP)[32]方法,前向階段目的是擴(kuò)大支持度估計(jì),后向階段是為了去除部分不滿意原子,2019年Meng等人對(duì)前后向追蹤算法進(jìn)行了優(yōu)化,提出了改進(jìn)的自適應(yīng)前后向追蹤算法(IAFBP)[33],加快了重建速度的同時(shí)克服了自適應(yīng)過(guò)程中存在的過(guò)度回溯現(xiàn)象,提高了算法的準(zhǔn)確性.

表1為部分代表性算法的觀測(cè)樣本數(shù)量和算法復(fù)雜度比較[34],其中,N是信號(hào)維度,K為稀疏信號(hào)非零元個(gè)數(shù),b為某常數(shù),表式創(chuàng)建樹(shù)的過(guò)程中形成的組的大小.

表1 5 種貪心算法比較

2.2 稀疏表示約束優(yōu)化算法

對(duì)于求解式(3)的方法,有一種思路就是通過(guò)將l0范數(shù)松弛到l1范數(shù),然后再尋求優(yōu)化方法,如式(4)所示:

約束優(yōu)化算法就是通過(guò)這一方式將可微的非約束問(wèn)題轉(zhuǎn)化為光滑可微的約束優(yōu)化問(wèn)題后進(jìn)行求解,代表的有3 種算法分別是梯度投影稀疏重構(gòu)算法、內(nèi)點(diǎn)法和交替方向法.這些方法是對(duì)約束優(yōu)化方法的有效開(kāi)發(fā),具有較好的收斂性.本文接下來(lái)將簡(jiǎn)單介紹這3 類算法各自的特點(diǎn).

2.2.1 梯度投影稀疏重構(gòu)算法

梯度投影系數(shù)重構(gòu)算法的核心思想就是構(gòu)造一個(gè)約束函數(shù)[35],并將約束函數(shù)中的α分為正負(fù)兩個(gè)部分,利用矩陣運(yùn)算進(jìn)行優(yōu)化.

根據(jù)使用的參量的不同,GPSR 又被分為多種其他類型,常用的為GPSR-Basic 算法和GPSR-BB 算法.第1 種算法沿負(fù)梯度方向進(jìn)行搜索,并且采用了一種回溯線搜索的方式使得函數(shù)G充分減小[36],這種方式保證了每一代的目標(biāo)函數(shù)G值都是減小的.第2 種算法雖然不具備這種特性,但是由于具有良好的理論支持和計(jì)算性能,因此受到研究者的重視[37].梯度投影稀疏重構(gòu)算法近年來(lái)也得到了迅速的發(fā)展,2011年Deng 等人提出了一種新的迭代加權(quán)梯度投影算法,即IWGP[38],用于恢復(fù)大尺度背景下的稀疏信號(hào),它減少了對(duì)信號(hào)處理的不良影響,提高了梯度投影的計(jì)算效率.2014年Chen 等人提出了一種基于梯度的二維稀疏圖像重建算法[39],大大減少了二維圖像重構(gòu)的時(shí)間.同一時(shí)期,Liu 等人[40]提出了一種迭代逼近梯度投影算法.通過(guò)引入一個(gè)放松限制變量,可以將噪聲問(wèn)題轉(zhuǎn)化為等式約束問(wèn)題,從而將問(wèn)題轉(zhuǎn)化為二次規(guī)劃問(wèn)題.基于擬拉格朗日函數(shù)和部分對(duì)偶的思想,提出了一種簡(jiǎn)化算法的思路.為了進(jìn)一步提高GPSR-BB 算法的性能,梁丹亞等人于2015年引入了具有全局搜索能力的粒子群優(yōu)化算法.利用粒子群算法的全局發(fā)展能力和GPSR-BB算法的局部搜索能力,提高了算法的收斂速度,降低了算法的運(yùn)行時(shí)間[41].2017年胡劍峰在GPSR-BB 算法的技術(shù)上進(jìn)行了改進(jìn),通過(guò)對(duì)迭代點(diǎn)進(jìn)行常數(shù)步長(zhǎng)的預(yù)測(cè),然后根據(jù)預(yù)測(cè)點(diǎn)計(jì)算得到新的迭代點(diǎn)并進(jìn)行校正,提高了算法的運(yùn)行速度[42].

2.2.2 內(nèi)點(diǎn)法

內(nèi)點(diǎn)法一般結(jié)合牛頓法來(lái)使用,是求解光滑無(wú)約束問(wèn)題的重要方法[43],缺陷是迭代求解牛頓方程十分費(fèi)時(shí).而一種截?cái)嗯ｎD的方法則能夠明顯降低求解所需要的時(shí)間.求解大規(guī)模的最小化l1范數(shù)的模型優(yōu)化問(wèn)題就可以使用基于截?cái)嗯ｎD的內(nèi)點(diǎn)法[44–46].求解優(yōu)化問(wèn)題時(shí)有3個(gè)關(guān)鍵步驟,分別是:(1)將非約束不光滑問(wèn)題轉(zhuǎn)換為約束光滑問(wèn)題.(2)利用內(nèi)點(diǎn)法獲得一個(gè)新的非約束光滑問(wèn)題.(3)通過(guò)截?cái)嗯ｎD法求解.截?cái)嗯ｎD內(nèi)點(diǎn)方法在圖像重構(gòu)、人臉識(shí)別、SAR 成像等等許多領(lǐng)域都有一定的發(fā)展,為許多研究的進(jìn)展提供了新的思路.2018年Corbineau 等人從基礎(chǔ)的內(nèi)點(diǎn)法出發(fā),將算法與一種新的線搜索策略相結(jié)合,提出了一種適用于一般凸約束條件下光滑凸函數(shù)和非光滑凸函數(shù)之和最小化的近似內(nèi)點(diǎn)(PIPA)[47]算法,優(yōu)化了算法的效果.

2.2.3 交替方向法

交替方向法的核心思想就是利用變量可分解的性質(zhì),通過(guò)對(duì)變量的分量分別進(jìn)行優(yōu)化來(lái)達(dá)到優(yōu)化整體變量的效果[48],降低維度,簡(jiǎn)化運(yùn)算,提高效率.交替方向法及其一系列衍生算法,由其求解大規(guī)模優(yōu)化問(wèn)題時(shí)的突出效果,已經(jīng)在機(jī)器學(xué)習(xí)、物聯(lián)網(wǎng)、云計(jì)算等等眾多領(lǐng)域的大數(shù)據(jù)優(yōu)化問(wèn)題中得到應(yīng)用,產(chǎn)生了諸如交替方向乘子法(ADMM)[49]等一系列算法,為不同領(lǐng)域大規(guī)模數(shù)據(jù)優(yōu)化問(wèn)題做出了重要貢獻(xiàn).近兩年更是在多目標(biāo)優(yōu)化調(diào)度[50]、保密能效優(yōu)化[51]、嵌入式系統(tǒng)[52]等領(lǐng)域取得了突出進(jìn)展.表2是3 類約束優(yōu)化算法的對(duì)比.

表2 3 類約束優(yōu)化算法對(duì)比

2.3 其他稀疏表示優(yōu)化算法

用于求解稀疏表示模型的優(yōu)化算法還有很多種類型,其中比較有代表性的有基于近似算法的稀疏表示優(yōu)化算法、基于同倫算法的優(yōu)化算法等.

就像牛頓方法是用于求解非約束光滑模型最小化問(wèn)題的常用方法,近似算法可以看作是求解大規(guī)模的,有約束的,非光滑問(wèn)題的常用方法,特別是在涉及高維問(wèn)題時(shí)有比較突出的效果.近似算法的核心思想是利用近似算子迭代求解子問(wèn)題,其計(jì)算效率比直接求解原問(wèn)題高得多.一般的l1范數(shù)正則化稀疏表示問(wèn)題即是一個(gè)典型的非光滑凸優(yōu)化問(wèn)題,因而利用近似算法可以有效地解決這個(gè)問(wèn)題.近似算法還可以細(xì)分為軟閾值或收縮算子方法、迭代閾值收縮算法、閾值快速迭代收縮算法、基于可分離近似的稀疏重構(gòu)方法等.

同倫理論是從拓?fù)鋵W(xué)領(lǐng)域延伸出來(lái)的,主要應(yīng)用于非線性問(wèn)題求解領(lǐng)域.同倫技術(shù)在稀疏表示中的應(yīng)用最早源于求解l1范數(shù)罰函數(shù)的最小二乘問(wèn)題[53],其基本思想通過(guò)追蹤一個(gè)參數(shù)變化時(shí)連續(xù)變化的參數(shù)路徑來(lái)求解最優(yōu)化問(wèn)題.與OMP 方法相比,同倫方法更有利于通過(guò)在活動(dòng)集中添加或刪除元素來(lái)循序漸進(jìn)地更新稀疏解.代表算法有LASSO 同倫算法[54]、BPDN同倫算法[55]、基于同倫方法的l1范數(shù)重新加權(quán)迭代方法等[54].

3 稀疏表示應(yīng)用與未來(lái)發(fā)展展望

目前稀疏表示的應(yīng)用范疇主要還局限在自然信號(hào)領(lǐng)域,在非自然數(shù)據(jù)信號(hào)領(lǐng)域的應(yīng)用前景尚不明晰,根據(jù)稀疏表示在各個(gè)領(lǐng)域中應(yīng)用的特點(diǎn),可以將稀疏表示的應(yīng)用類型分為基于重構(gòu)的應(yīng)用和基于分類的應(yīng)用[56].

基于重構(gòu)的應(yīng)用主要有圖像去噪[57,58]、圖像信號(hào)重構(gòu)[59]、音頻信號(hào)恢復(fù)[60]、壓縮感知[61]、SAR 成像[62]等,這一類別的應(yīng)用的共同點(diǎn)即需要先獲取目標(biāo)信號(hào)的特征,利用特征構(gòu)建稀疏向量,再利用稀疏表示理論中的數(shù)學(xué)模型進(jìn)行求解以達(dá)到在可允許的誤差范圍內(nèi)重構(gòu)原信號(hào)的效果.

稀疏表示在圖像去噪領(lǐng)域的應(yīng)用相較于空間域去噪和變換域去噪而言有著天然的優(yōu)勢(shì),后兩者的思路分別是將噪聲“平攤”到每個(gè)像素點(diǎn)和將圖像變換到其他頻域來(lái)去掉噪聲比較集中的頻率.對(duì)于稀疏表示方法,稀疏分解的過(guò)程會(huì)將非稀疏性的噪聲信號(hào)排除出去,因而在重構(gòu)圖像的過(guò)程中就不會(huì)出現(xiàn)噪聲信號(hào),稀疏表示方法也因這一特性而在圖像去噪領(lǐng)域擁有巨大的潛能.現(xiàn)階段基于稀疏表示的圖像降噪方法已經(jīng)應(yīng)用到了遙感領(lǐng)域、醫(yī)學(xué)影像處理領(lǐng)域、軍事偵察影像處理領(lǐng)域等,為各個(gè)領(lǐng)域的發(fā)展都做出了突出的貢獻(xiàn).與圖像去噪理論相似,基于稀疏表示的圖像重構(gòu)理論在這些領(lǐng)域中也起著至關(guān)重要的作用,稀疏表示圖像重構(gòu)算法基本思路是通過(guò)算法獲得高分辨率圖像和低分辨率圖像之間的關(guān)系,通過(guò)對(duì)高、低頻圖像塊集進(jìn)行稀疏表示獲得對(duì)應(yīng)的字典,達(dá)到對(duì)于一幅給定低頻成分的圖像,能夠重建出其高頻部分的效果,再將二者進(jìn)行疊加,從而獲得高質(zhì)量高分辨率圖像.

壓縮感知技術(shù)使得用遠(yuǎn)低于奈奎斯特采樣頻率采樣信號(hào),并恢復(fù)出原信號(hào)成為可能,而壓縮感知技術(shù)再信號(hào)重構(gòu)領(lǐng)域使用的稀疏技術(shù)使得其與稀疏表示技術(shù)在信號(hào)重構(gòu)領(lǐng)域相互交融,相輔相成.根據(jù)壓縮感知技術(shù)原理,信號(hào)在某個(gè)變換域稀疏,就能夠通過(guò)求解最優(yōu)化問(wèn)題對(duì)原始信號(hào)進(jìn)行重構(gòu),而語(yǔ)音信號(hào)恰好具有這一天然特性,這就是壓縮感知技術(shù)和稀疏表示技術(shù)在音頻信號(hào)重構(gòu)領(lǐng)域能夠得到應(yīng)用的原因.現(xiàn)階段基于稀疏表示技術(shù)的語(yǔ)音信號(hào)重構(gòu)技術(shù)已經(jīng)在語(yǔ)音信號(hào)識(shí)別、語(yǔ)音分離、信息隱藏等領(lǐng)域做出了重要貢獻(xiàn).

基于分類的應(yīng)用主要有人臉識(shí)別[63]、目標(biāo)追蹤[64]、文本檢測(cè)[65]、盲源分離[66]等,基于分類的應(yīng)用都是通過(guò)提取對(duì)象的特征信息構(gòu)造稀疏的特征向量,這些特征向量之間具有強(qiáng)烈的區(qū)分性,能夠區(qū)分不同類別的信號(hào),再根據(jù)稀疏表示的優(yōu)化方法,判別目標(biāo)信號(hào)與這些特征向量之間的距離,在滿足一定閾值的時(shí)候則判定從屬于該類別,以達(dá)到模式識(shí)別和分類的效果[67].

基于稀疏表示的人臉識(shí)別是近年來(lái)人臉識(shí)別領(lǐng)域的研究熱門(mén),2009年Wright 等人第一次將稀疏表示技術(shù)應(yīng)用到人臉識(shí)別技術(shù)中,算法模型比較簡(jiǎn)單,首先通過(guò)訓(xùn)練獲得過(guò)完備字典,計(jì)算最小化l1范數(shù)約束下的稀疏系數(shù),然后計(jì)算人臉圖像與各類別的稀疏系數(shù)之間的重構(gòu)殘差,取最小殘差為所屬類別.基于稀疏表示的人臉識(shí)別技術(shù)擁有模型簡(jiǎn)單、魯棒性強(qiáng)、光照影響小、可識(shí)別遮擋等的優(yōu)勢(shì),因而在人臉識(shí)別領(lǐng)域得到了迅猛發(fā)展.

由于稀疏表示算法具有計(jì)算速度快、存儲(chǔ)容量要求小、預(yù)測(cè)新數(shù)據(jù)速度快等優(yōu)點(diǎn),基于稀疏表示的目標(biāo)追蹤很快就成為了目標(biāo)追蹤領(lǐng)域的熱門(mén)研究方向,目前基于稀疏表示的目標(biāo)追蹤已經(jīng)應(yīng)用到了軍事領(lǐng)域、交通運(yùn)輸監(jiān)測(cè)、安全監(jiān)控、人機(jī)交互、醫(yī)學(xué)領(lǐng)域、視覺(jué)導(dǎo)航等領(lǐng)域,優(yōu)化了各個(gè)領(lǐng)域目標(biāo)追蹤的效果.

盲源分離技術(shù)是為了解決輸入未知、傳輸信道未知而輸出已知的信號(hào)處理技術(shù),而稀疏表示技術(shù)通過(guò)分開(kāi)混合矩陣的估計(jì)過(guò)程和源信號(hào)的估計(jì)過(guò)程的方式降低了算法復(fù)雜度,提高了源信號(hào)分離精度,成為了當(dāng)前盲源分離問(wèn)題中的熱門(mén)方法.

4 結(jié)束語(yǔ)

近年來(lái)稀疏表示經(jīng)歷了迅猛的發(fā)展,但其中仍有很多問(wèn)題值得深入研究.例如稀疏表示模型的靈活性還有待提高[68],現(xiàn)有稀疏表示算法的目標(biāo)基本都放在了求最稀疏的解上,但在實(shí)際表示時(shí)可能會(huì)存在多目標(biāo)干擾,此時(shí)若一味追求最稀疏的解,很可能無(wú)法得到最優(yōu)解,例如在圖像重構(gòu)時(shí)[69],如果僅考慮稀疏解,就可能會(huì)導(dǎo)致目標(biāo)丟失的現(xiàn)象,因此需要更為靈活的稀疏表示模型來(lái)應(yīng)對(duì)多目標(biāo)干擾時(shí)出現(xiàn)的問(wèn)題.稀疏表示算法的自適應(yīng)性也有待提高,現(xiàn)存的很多算法采用的還是預(yù)先給定參數(shù),再根據(jù)結(jié)果修改參數(shù)的方式進(jìn)行求解,這樣勢(shì)必會(huì)導(dǎo)致工作量倍增且自動(dòng)化程度受限,這就限制了算法在很多自動(dòng)化要求較高的領(lǐng)域中的應(yīng)用.除此之外,現(xiàn)有的稀疏表示模型基本都建立在目標(biāo)函數(shù)為線性函數(shù)且只含高斯白噪聲的基礎(chǔ)上,傳統(tǒng)的稀疏表示算法的目的也是獲得觀測(cè)信號(hào)的線性表示,這就意味著稀疏表示在處理圖像、聲音等信號(hào)時(shí)有著不錯(cuò)的效果,但面對(duì)非自然信號(hào)時(shí)就束手無(wú)策了,因此要想獲得更為廣闊的應(yīng)用空間,就仍需對(duì)算法原理進(jìn)一步改進(jìn).