姜 偉,呂 倩,李 健
主成分分析(PCA)算法作為一種經典的去噪方法已經廣泛應用在圖像處理[1]、計算機視覺[2]等方面,PCA模型適用于去除密集的高斯小噪聲,但是對于非高斯噪聲或當某些位置的噪聲極大時,PCA算法效果很不理想[3].因此,Wright等人提出的魯棒主成分分析[4-5](RPCA)算法可以很好地解決這一問題.由于矩陣的秩是非凸不連續(xù)函數(shù),RPCA優(yōu)化的問題為一個NP-Hard問題,很難求解.因此,引入核范數(shù)魯棒主成分分析[6].該算法對原有模型矩陣的不同奇異值的懲罰力度相同,所求出的全局最優(yōu)解在實際問題中效果差.為此本文提出一個新模型,即基于加權Schatten-p范數(shù)和l2,1范數(shù)的WLSRPCA模型.加權Schatten-p范數(shù)將分配到的不同的奇異值最小化,從而更準確的近似原始的低秩矩陣,l2,1范數(shù)則作為新的損失函數(shù)更高效地找到數(shù)據(jù)中的異常值或特征噪聲[7].此模型既能更好地估計秩的最小化,又能增強對異常值的魯棒性,而且在圖像去噪的應用上有較好的效果.
定義1 對于任意矩陣X∈Rm×n,矩陣X的l2,1范數(shù)定義為.矩陣X的加權Schatten-p范數(shù)定義為tr(WΔp),其中,0<p<1,W=[w1,w2,…,wr] ,r=min{m,n} ,并且wi≥0,i=1,2,…,r.W和Δ是對角矩陣,其中對角元素為wi和σi.
定理1 對于任意矩陣A∈Rm×n,若存在正交矩陣U∈Rm×n和V∈Rm×n,則矩陣A的奇異值分解為,其中對角 矩 陣 ΩA=diag(σ1,σ2,…,σr),其 元 素 滿 足σ1≥σ2≥…≥σr≥0.
引理 1[6]對于任意兩個矩陣A∈Rm×n,B∈Rm×n分別進行奇異值分解,則有A=UΔVT和B=QΛRT,其 中 ,Δ=diag(σ,σ,…,σ) ,12rΛ =diag(b1,b2,…,br).則 (σ1,σ2,…,σr)是以下問題的解.
引理2[6]對于任意兩個矩陣A∈Rm×n和B∈Rm×n,定義σ(A)=[σ1(A),σ2(A),…,σr(A)]T,σ(B)=[σ1(B),σ2(B),…,σr(B)]T. 其 中 ,σi(A) 和σi(B)分別是矩陣A和矩陣B的奇異值,r=min{m,n} ,有 tr(ATB)≤tr(σ(AT)σ(B)).
給定一個數(shù)據(jù)矩陣X∈Rm×n,核范數(shù)魯棒主成分分析模型如式(2)所示.
其目標就是將X分解成低秩矩陣A∈Rm×n和稀疏矩陣B∈Rm×n,即X=A+E(.2)式對所有奇異值都用同一值收縮,根據(jù)奇異值的先驗知識,使不同奇異值對應不同的權值,我們將用加權Schatten-p范數(shù)代替核范數(shù),用l2,1范數(shù)代替l1范數(shù),將分配到不同奇異值的權重最小化.因此建立基于加權Schatten-p范數(shù)和l2,1范數(shù)的WLSRPCA模型,如(3)所示:
對(3)構建增廣拉格朗日函數(shù)如下.
其中,矩陣Y為拉格朗日乘子并且懲罰系數(shù)μ>0.使用交替方向法迭代更新矩陣A,E,Y和懲罰系數(shù)μ.求解目標函數(shù)的流程如表1所示.
表1 求解目標函數(shù)的流程
求解目標函數(shù)的詳細流程如下.
固定矩陣E和矩陣Y,更新迭代矩陣A.刪去(4)式中與矩陣A無關的量,優(yōu)化(5)式問題:
如果權重滿足wr≥…≥w2≥w1≥0,由引理1可得的最優(yōu)解為,其中,根據(jù)廣義軟閾值算法(GST)[5]可知=GST(bi,wi,p),i=1,…,r,0<p<1.即解為
固定矩陣A和矩陣Y,更新迭代矩陣E.刪去(4)式中與矩陣E無關的量,優(yōu)化(6)式問題:
其中,C=X-A+μ-1Y,λ?=λμ-1.
則根據(jù)文獻[8]上式的解為:
其中,(7)式為(6)式每一個優(yōu)化子問題的最優(yōu)解.則E*=Tλ?(C).
固定矩陣A和矩陣E,更新迭代矩陣Y.則矩陣Y的迭代更新公式為Y=Y*+μ(X-A-E).其中,懲罰系數(shù)μ的迭代更新公式為μ=min(ρμ,μmax).
權值W的選取.W=[w1,w2,…,wr]的作用是使矩陣中較大的奇異值收縮幅度變小,較小的奇異值收縮幅度變大.因此其中的wi和σi(X)應為反比例關系.即c>0為一個常數(shù),θ>0保為0時,權重仍可以計算.
以上為應用增廣拉格朗日乘子法求解WLSRPCA模型的過程,具體算法步驟如表2所示.
表2 求解WLSRPCA模型的算法步驟
實驗將本模型與RPCA模型作比較,選取大小650×650,PSNR=62.9,結構化噪聲為10%的圖片,通過他們在圖片恢復上的對比,也可以說是對矩陣恢復模型的精度的比較來檢驗效果如何.下面給出這兩種模型在單張圖片恢復上的效果,及在相同噪聲的情況下兩個模型去噪數(shù)據(jù)的比較,如圖1和表3所示.
表3 去噪后數(shù)據(jù)對
在初始條件相同的情況下,通過圖1可以觀察到,RPCA模型恢復出來的圖片與原始數(shù)據(jù)有一定的差距.而本文所提出的模型對圖片的恢復更接近于原始觀測圖像,即恢復的圖片效果更好.通過表3數(shù)據(jù)顯示,在相同噪聲的情況下,本模型恢復的錯誤率更低于RPCA模型,且PSNR也遠高于RPCA模型.因此,本文模型在圖片恢復方面優(yōu)于RPCA模型.實驗結果證明本文所建模型的有效性及可行性,且算法是收斂的.關于本文WLSRPCA模型是否能夠比RPCA模型更好地去除高斯、椒鹽等噪聲將是今后要關注的問題.