程 斌,汪 偉
(上海理工大學 光電信息與計算機工程學院,上海 200093)
醫(yī)學影像在臨床上應用廣泛,能夠為疾病的診斷提供科學、直觀的依據;同時也能夠結合臨床的癥狀、化驗等結果,為最終病情的確定和后續(xù)的治療計劃提供重要參考.但是,由于物理分辨率的限制,成像的質量遠遠不能滿足醫(yī)學上的需求.為了獲取更高分辨率影像,常采用減小傳感器像素尺寸或增大成像陣列芯片大小等硬件的方法.但當像素尺寸減小時,加性噪聲幾乎維持不變,有效信號的能量將隨傳感器像素尺寸成比例減??;而后者高精度光學傳感器的增大又將會顯著增加成本,給醫(yī)療設備的普及帶來重要阻礙.因此,為了規(guī)避硬件發(fā)展的瓶頸,許多研究者深入地分析了圖像的成像過程,構建出較為理想的圖像退化模型,并嘗試利用同一場景下獲得的低分辨率序列圖像,通過軟件計算來重構出高分辨率的影像.這一思想得到了快速發(fā)展,且很快成為了目前研究的熱點問題之一.
當前,基于空域的超分辨率序列圖像重建算法不斷被提出,包括非均勻插值法、迭代反投影法(iterative back projection,IBP)、凸集投影法(projection onto convex sets,POCS)、最大后驗概率法(maximum a posterior,MAP),POCS-MAP混合法等[1,2].在醫(yī)學中,Wissam基于兩正交的低分辨率核磁共振(magnetic resonance imaging,MRI)數據集和電子計算機斷層掃描(computed tomography,CT)數據集,在上采樣的插值過程中,利用歐式距離計算出每個像素置信度,并結合區(qū)域和局部信息,構造損失因子,修補了IBP算法中的高分辨率圖像初始估計[3];Esben Plenge等人考慮不同的數據和噪聲模型,根據MAP法可靈活調整數據保真項(如l1,l2范數)和正則項(如Tikhonov,總變分正則項等)的特點,將IBP、MAP+ Tikhonov正則項、MAP+Lambda權重正則項3種序列圖像超分辨率重建(multi-image super resolution reconstruction,MISR)方法計算結果與通過高分辨率硬件成像設備直接獲取的MRI圖像進行比對分析,發(fā)現MISR方法能獲得更好的評價結果[4];Jonghye Woo等結合Markov隨機場,提出了一種基于舌頭MRI序列圖像的重建方法[5];除此之外,Hayit Greenspan對MISR方法在醫(yī)學圖像MRI,FMRI(functional MRI),PET(positron emission tomography)上的應用進行了回顧與分析,并以大腦影像為例,比較了不同MISR方法的效果與局限性[6].
除了上述提到的MRI圖像外,M.Dirk Robinson等在前人應用的基礎上,將MISR擴展到乳房X光片(X-ray digital mammography)和光學相干斷層掃描(optical coherence tomography,OCT)應用領域上[7];Hong等利用光流法配準后,基于IBP方法完成了超聲圖像的超分辨率重建[8].在2016年,Springer期刊上發(fā)表了一篇《智能優(yōu)化在生物醫(yī)學中的應用》??痆9],詳細介紹了超分辨重建算法的發(fā)展,重點談到了最優(yōu)化方法在醫(yī)學圖像重建上的應用.并結合癌癥成像數據庫,對采用bicubic插值、IBP、POCS、通過稀疏表示的梯度下降法這四種方法的重建結果進行了分析.
與基于空域的方法相對應,研究者們也提出了基于頻域的超分辨率序列圖像重建算法.在頻域中,成像模型內的卷積、幾何運動等操作都將被轉換為線性的計算,超分辨率重建問題等效為了線性逆向模型的求解,各種頻域變換如離散余弦變換、小波變換、Contourlet變換等在醫(yī)學上相繼得到了應用.Kumar V.R.等人通過對小波變換后子帶系數的奇異值估計和插值法重建了大腦CT、胰腺CT和胸部X光片[10];Yan Shen等基于Contourlet變換重建了乳房X射線圖,幫助乳腺癌診斷中的鈣化檢測[11].在2005年,Arthur L.等提出了非下采樣Contourlet變換(the non-subsampled contourlet transform,NSCT)[12],該方法相對于小波變換、Contourlet變換具有平移不變性的特點.國內的楊貞萍,周靖鴻等人分別則采用該變換,選用光流法配準和矩陣乘法配準,通過系數融合策略重建出文本圖像[13]和遙感圖像[14],這也給該變換在醫(yī)學圖像上的應用提供了可能.
近年來,基于學習的超分辨率重建算法[15,16]得到了快速發(fā)展,其中單幀圖像的超分辨率重建(single-image super-resolution reconstruction,SISR)方法較多,比如Yang的稀疏表示模型、Dong的卷積神經網絡SRCNN、Ledig等提出的生成對抗網絡SRGAN等[17],并且有關研究人員都用在了醫(yī)學圖像上[18-20],而基于學習的MISR方法相對較少,其大多在SISR基礎上,在前級輸入中加入運動補償處理,或設計網絡中就考慮多幀信息的融合問題,如VSRnet (video super-resolution with convolutional neural networks)[21],VESPCN (video efficient sub-pixel convolution network[22],Dynamic filter generate on network[17]等.
牙科疾病的多樣性和個體的差異性給學習類的重建方法帶來了重要麻煩,存在針對不同的病患群體和不同的病灶類型,需獲取大量的訓練樣本和實時效率的問題;而在傳統(tǒng)的MISR方法中,文獻[13]、文獻[14]等提出的配準方法又只能處理序列圖像間的平移情況;另外口腔圖像細節(jié)的損失將會嚴重影響牙醫(yī)的最終診斷,因此本文提出了一種針對醫(yī)學齒科序列圖像的超分辨率重建算法.該算法創(chuàng)新性地將點云中的配準方法,即迭代最近鄰點法[23,24](iterative closest point,ICP)引入到齒科序列圖像的超分辨率重建過程中,并分別在配準點集篩選和配準策略上進行了改進,增強了算法的魯棒性與精確度,從而可以克服實際檢測過程中口腔內部組織三維運動所帶來的配準難題;其次,算法中采用基于多尺度的NSCT變換來融合齒科序列圖像的有效信息,NSCT變換具有平移不變性的特點,其非下采樣的過程不但可以彌補圖像分解過程中信息的丟失,使邊緣等細節(jié)特征得以保留,而且通過對子帶系數的處理,可以將噪聲信息從圖像信息中有效濾除,從而改善超分辨率齒科圖像的重建結果,更好地輔助牙醫(yī)診斷病情和制定治療計劃.
圖像的退化過程是超分辨率重建算法得以實現的理論基礎和依據.現常用的圖像退化(觀測)模型如圖1所示.
圖1 圖像退化模型[1]Fig.1 Image observation model
上述模型數學表達為:
yk=DBkMkx+nk(1≤k≤p)
(1)
其中x表示高分辨率圖像HR;yk表示第k張低分辨率圖像LR;Mk表示幾何形變矩陣;Bk對應著模糊矩陣,如傳感器、運動、光學等模糊,常被模型化成各種點擴散函數(a point spread function, PSF);D代表下采樣矩陣;nk、p分別表示加性噪聲和低分辨率序列圖像幀數.
超分辨率算法的重建過程,即是圖像退化模型的逆過程.因此,要實現高分辨率圖像的重建,必須完成如下三個步驟:矯正低分辨率序列圖像之間的幾何運動、去除模糊和噪聲、圖像上采樣處理,這也構成了本文算法的理論基礎.
如圖2所示,齒科序列圖像超分辨率重建步驟可簡述如下:
圖2 本文重建算法主流程Fig.2 Main flow chart of the proposed reconstruction algorithm
1)讀入從口腔診療設備獲得的低分辨率齒科序列圖像,并進行預處理;
2)結合梯度算子計算邊緣圖像,形態(tài)學優(yōu)化后,提取出初步特征點集,然后經過采樣和邊界點剔除,形成優(yōu)化后的配準點集,如圖2中虛線框部分所示;
3)設定魯棒損失函數,進行ICP算法的迭代配準過程,求得最優(yōu)幾何變換矩陣,并對序列齒科圖像進行矯正;
4)利用軟判決自適應插值法,插值放大已配準的低分辨率序列圖像;
5)采用NSCT變換,提取各圖像的低頻子帶和高頻子帶,對低頻子帶系數采用加權均值融合的策略,對高頻子帶系數用硬閾值去噪后,采用取最大絕對值的融合策略;
6)將NSCT各個子帶系數完成融合后,再結合NSCT反變換,得到最后的超分辨率重建齒科圖像.
為改善口腔視頻圖像存在的噪聲干擾及光照不均勻現象,首先需對源圖像進行預處理,即圖像直方圖均衡化:
(2)
式(2)中rk代表歸一化后的離散灰度級,且0≤rk≤1,k=0,1,2,…,n-1;ni為圖像中第i個灰度級的像素數;n為圖像中的像素總數.
在序列圖像的超分辨率重建方法中,最基本的思想就是整合捕捉到的多幀低分辨率圖像信息來提高空間分辨率,而信息整合的好壞,很大程度上取決于圖像配準的精度.
本文采用迭代最近鄰點法配準低分辨率序列圖像,矯正序列圖像間存在的幾何運動.經典ICP配準方法最早由Besl和McKay提出[23],并在點云的配準上得到了廣泛應用.但該方法對異常點對不敏感、干擾點的存在會引起配準效果的急劇惡化、點集之間需滿足包含的關系,而超分辨率重建結果嚴重依賴于配準效果.所以,本文創(chuàng)新性地在點集的篩選和配準策略上改進了ICP算法,以提高低分辨率齒科序列圖像間運動估計的精度.
2.4.1 配準點集提取與優(yōu)化
通過對多種已有特征點提取方法的比較與分析,本文利用預處理圖像中的梯度信息和邊緣信息,提取出牙體硬組織的邊緣特征點作為初始配準點集.
1)牙體硬組織邊緣圖像LRE的計算
在常用邊緣檢測算法中,相比于Canny算子,Sobel算子雖然檢測精度較低,但具有較低的運算復雜度、對噪聲不敏感.故本文采用Sobel算子提取低分辨率圖像LR的邊緣圖像:
LRE=Sobel(LR)
(3)
2)邊緣圖像的優(yōu)化
對所獲得的邊緣圖像采用數學形態(tài)學中的膨脹操作,既提高了配準點集中有效點的數量,又減少了干擾點在點集中所占的比例,可有效提高配準的精度.
(4)
(5)
3)初始配準點集采樣
為了降低計算量,利用采樣函數對初始特征點集E進行采樣:
Model=sample(ER)
(6)
Data=sample(ETi)(i=2,3,…,M)
(7)
式(6)和式(7)中,ER表示參考幀的初始配準點集,ETi為序列中第i待配準幀的初始配準點集,M為低分辨率醫(yī)學序列圖像幀數,sample()為預設的采樣函數,一般可選為均勻采樣或者隨機采樣函數.
4)配準點集的優(yōu)化
在低分辨率序列圖像間的幾何運動,造成圖像的四周邊界處差異最大,而從這些邊界處提取出的配準點集間很少存在包含關系,即會對配準迭代的過程產生不利影響.因此,需要去除圖像邊界處的邊緣點,從而優(yōu)化配準點集:
Model′=Model(|x-xmid|≤T1,|y-ymid|≤T2)
(8)
Data′=Data(|x-xmid|≤T3,|y-ymid|≤T4)
(9)
其中,T1,T2,T3,T4分別為設定的參考幀點集與待配準幀點集坐標變化閾值,xmid、ymid分別為圖像中心像素的橫坐標與縱坐標.
2.4.2 ICP算法迭代
基于低分辨率參考幀和待配準幀完成特征點集提取和優(yōu)化后,得到優(yōu)化點集Model′和Data′.在經典的ICP配準策略中,所有最近鄰點對的權重都是相同的;但是,對于匹配點間歐式距離過大的情況,極大概率是屬于異常干擾點.因此,為增加配準過程的魯棒性,引入魯棒損失函數來調整不同匹配點對所對應的權值,從而減少異常匹配點對的干擾.其改進后的ICP算法迭代步驟可簡要描述為:
1)設置魯棒損失函數.常見的魯棒損失函數[25]及對應的權值函數如下:
-Huber函數
(10)
(11)
-Tukey′s Biweigh函數
(12)
(13)
-Cauchy函數
(14)
(15)
其中r指的是殘差,kHu、kTu和kCa為預設值.
2)輸入低分辨率參考幀點集Model′和待配準幀點集Data′,根據魯棒損失函數調用相應的權值函數,并設置初始旋轉矩陣和平移向量為單位矩陣E和零向量;
4)以配對點對之間的歐式距離為依據,結合權值函數,確定所有配準點對的權值ωj;
5)根據上述權值大于0的配對點,求得使目標函數Dmin最小化的剛體變換,得出平移參數和旋轉量;
(16)
(17)
其中R(k),T(k)分別為迭代計算的旋轉矩陣和平移向量.
6)如果變換點集與源點集之間的均方根誤差RMSE小于某一給定閾值,或達到設定的最大配準迭代次數時,停止迭代計算;否則,將變換后的點集作為新的待配準點集,按照步驟3)至步驟5)繼續(xù)與源點集迭代計算,求取最優(yōu)的變換參數.
其完整的配準迭代過程偽代碼[25]如下:
算法.The Modified ICP algorithm
輸出:R(k),T(k)
1.Repeat
2.k=k+1
5. if anyωj>0 then
8.R(k)=R*R(k-1)
9.T(k)=R*T(k-1)+T*
10. else
12.R(k)=R(k-1)
13.T(k)=T(k-1)
14. Terminate iteration
15. end if
16. until convergence
17.ReturnR(k),T(k)
在改進ICP配準法完成齒科序列圖像的幀間配準后,本文選用在保持圖像空間一致性上有優(yōu)異表現的軟判決自適應插值法(soft-decision adaptive interpolation,SAI)[26]提高圖像空間分辨率,有效降低插值后的模糊、振鈴和鋸齒現象.
如圖3所示,黑點代表已知的低分辨率像素點,白點和灰點表示待插值的高分辨率像素點.SAI插值算法將先建立圖像的分段自回歸過程(PAR)模型,其中模型參數分別由圖3(b)中八鄰域像素值、圖3(c)中四鄰域像素值得出.然后,基于指定滑窗中的最小均方誤差估計出圖3(a)中灰點的像素值;最后,將模型旋轉45°,估計出白點的像素值,從而得到完整放大后的高分辨率圖像.
圖3 SAI插值法Fig.3 Soft-decision adaptive interpolation
因此,對已配準的低分辨率齒科序列圖像采用SAI插值法放大factor倍,其計算公式可表示為:
(18)
插值放大后的低分辨率序列圖像像素增加,但圖像間的信息仍然獨立,需結合NSCT變換[12]實現齒科序列圖像信息的有效融合.相對于Contourlet變換,NSCT去掉了金字塔分解和方向濾波器分解中的下采樣及綜合濾波前的插值過程,而改為對濾波器進行上采樣、再對信號進行分析濾波和綜合濾波,有效減少了信息的丟失.其融合過程可表述為:
(19)
(20)
2)HRi序列圖像經過NSCT變換分解后,本文采用的融合策略為:低頻采用加權均值的融合方法,主要由于超分辨率重建的重點是重建參考幀,所以會改變參考幀在均值融合過程中所占的比例;高頻采用比較經典的取絕對值最大的融合方法,同時為有效減少圖像噪聲,會在高頻融合前,進行一次硬閾值去噪,即去噪閾值設為對應子帶系數的均方差倍比.
NSCT變換后低頻系數的融合:
(21)
NSCT變換后高頻系數的融合:
(22)
(23)
(24)
(25)
3)融合后便可得到優(yōu)化的低頻分量和高頻分量,低分辨率齒科序列圖像間的信息進行了整合與互補,采用NSCT反變換,得到最后的超分辨率齒科重建圖像HR.
(26)
其中c-1為NSCT反變換算子.
本文所采用圖像數據庫均來源于通過口腔診療設備采集的齒科視頻文件,共截取20,000余幀,分辨率皆為640*480.按照實驗的要求,從中選取200幀較為清晰的圖片作為超分辨率重建結果的參考圖像.根據這200張圖像,會根據圖1的圖像退化模型模擬生成800張低分辨率圖像,即1張高清圖像對應于4張低分辨率圖像.因退化圖像相對于參考圖像會存在相對的幾何運動,考慮到序列圖像間差異度較小,其平移的像素范圍預設為[-10,+10],角度旋轉范圍為內[-10°,+10°];除此之外,生成的退化圖像中還添加了高斯噪聲,其方差范圍為(0.0001~0.0005).最終生成的800張退化圖像構成了算法測試數據庫,其中平移情況占30%,旋轉情況占30%,旋轉與平移兩種情況皆有的例子占40%.
為充分驗證本文算法的有效性,我們設計了相關實驗,所采用的仿真平臺為:Windows10操作系統(tǒng)、64位Intel Core i5處理器、主機頻率2.5GHZ、8G運行內存、Matlab2016b.
在超分辨率的重建過程中,配準精度根據均方根誤差(root mean square error,RMSE)[25]這一通用方法來評價,如式(27),n為配準點數,di為配準后點集與目標點集之間歐式距離的測量值與平均值的偏差:
(27)
對于超分辨率重建結果的評價方法有主觀的評價標準和客觀評價的標準,本文中采用峰值信噪比(peak signal-to-noise,PSNR)和結構相似性度量(structural similarity,SSIM)作為最后重建的評價指標[27].
(28)
(29)
式(28)中,m,n分別表示圖像高和寬的像素數;P為圖像像素灰度的最大可能取值,對于一般的灰度圖,P=255.PSNR取值范圍為[0,+),其值越高,則認定圖像質量越好.式(29)中,μ1,μ2分別為滑動窗口內像素的均值;σ1,σ2分別為滑窗內像素的方差;σ12為兩幅圖像對應滑窗內像素的協(xié)方差;k1,k2為常數,一般設定k1=0.01,k2=0.03.SSIM取值區(qū)間為[-1,+1),其值越大表示圖像質量越高.
實驗中,設定LR低分辨率序列圖像幀數M為4,重建倍數factor為4;在配準點集優(yōu)化的過程中,根據實際過程中幾何運動的程度和圖像大小,閾值T1,T2,T3,T4分別設定為70、55、70和55;ICP迭代過程中,RMSE閾值設為0.000001,最大迭代次數設為100,魯棒損失函數選擇Tukey bi-weight函數;NSCT采用1級金字塔分解及4次方向分解,分別采用“maxflat”多尺度濾波器和“dmaxflat7”菱形最大平坦濾波器;融合過程中,低頻權值向量ω設為(3/6,1/6,1/6,1/6),高頻硬閾值去噪中的閾值α參考文獻[12]設為3.
1)齒科序列圖像配準算法驗證實驗
SIFT (scale invariant feature transform)[28],即尺度不變特征變換,是一種基于圖像局部特征的描述子,通過在空間尺度中尋找極值點,并提取出其位置、尺度、旋轉不變量.為驗證ICP配準方法的有效性與準確性,基于測試樣本庫,將ICP配準法與SIFT特征點配準法進行實驗比對.
在測試的200組源圖片中,我們發(fā)現其中存在11幅圖像由于SIFT特征點集的缺少,導致采用SIFT法,不能得出相應的單應變換矩陣;在其他成功配準的齒科圖像中,因為齒科圖像灰度變化緩慢,分布均勻,造成SIFT特征點提取的不穩(wěn)定,易收斂于局部最小值.表1中結果說明:SIFT配準法的RMSE明顯大于ICP算法求出的結果,而ICP算法穩(wěn)定性較好,計算復雜度低.
表1 SIFT配準與ICP配準相關統(tǒng)計結果
Table 1 Statistical results related to SIFT and ICP registration
RMSE平均時間RMSEmaxRMSEminSIFT配準3.2460.053s15.7130.224ICP配準0.4340.045s1.4650.012
2)超分辨率重建算法驗證實驗
以圖4中低分辨率序列圖像為例,采用本文算法得到的實驗結果如下所示:圖4(a)是從低分辨率序列圖像中選取的參考幀;圖4(b)是在低分辨率序列中,與參考幀存在幾何相對運動的第i幀;經過ICP配準算法的迭代計算后,可求出位移變換矩陣,圖4(c)給出了對序列圖像中第i幀配準后的結果.
在ICP配準的過程中,特征點集的提取與變換過程如圖4(d)至圖4(f)所示:圖4(d)是未優(yōu)化的配準點集,存在很多干擾點;圖4(e)中點集經過優(yōu)化后,ICP算法的包含關系得到滿足;圖4(f)顯示了點集的配準結果.結合SAI插值法對圖4(f)進行處理,得到高分辨率圖4(g).對序列中的其他幀采用同樣的方法進行配準和插值處理后,得到高分辨率的序列圖像,對該序列圖像中的每一幀依次進行NSCT變換,并采用基于NSCT變換域的改進融合策略,得到重建后的低頻分量和高頻分量如圖4(h)和圖4(i)所示.圖4(j)對應于NSCT分解后的頻譜圖;圖4(k)為重建結果;圖4(l)為真值圖.在該例中,ICP配準結果的均方根誤差RMSE為0.4634,重建結果的PSNR和SSIM分別為37.029和0.909.
圖4 典型案例重建算法示意圖Fig.4 Reconstruction steps for a typical case
圖5 3組實例對應低分辨率序列與Ground Truth圖Fig.5 Corresponding LR sequence and Ground Truth diagram
3)超分辨率重建算法比對實驗
為了充分顯示本文算法的有效性與優(yōu)越性,現結合圖5實例分析對比4種算法重建結果:1)直接采用cubic插值法;2)對序列低分辨率圖像采用本文中的改進ICP算法進行幀間配準,配準后的序列圖像采用SAI插值算法,然后在Contourlet變換域(contourlet transform,CT)中,采用與本文算法相同的融合策略完成序列圖像的超分辨率重建;3)對序列低分辨率圖像采用SIFT算法進行幀間配準,配準后的序列圖像采用SAI插值算法,然后在NSCT變換域中,采用與本文算法相同的融合策略完成序列圖像的超分辨率重建;4)本文所提出的超分辨率重建算法.
實驗結果如表2所示,表2中每一例的第一行對應PSNR值、第二行對應SSIM值.
表2 不同算法實驗結果
Table 2 Evaluation results of different algorithms
CubicICP+SAI+CTSIFT+SAI+NSCTICP+SAI+NSCT例132.72335.98820.81536.0880.8110.8860.7590.890例234.09237.24319.15737.9830.8380.9110.8210.930例334.22838.42838.48138.8090.8200.8840.8920.901
由實驗數據可知,3例LR圖像經cubic插值,重建后的HR圖像PSNR和SSIM都較低;而采用方法2后,通過ICP配準和在Contourlet變換域中完成序列圖像的融合,評價指標明顯上升;方法4即本文算法,將Contourlet變換改成NSCT后,PSNR和SSIM得到了進一步提高,圖像效果更佳;如果將方法4中的改進ICP配準算法變更為SIFT特征點配準算法,即方法3,當配準精度與ICP配準相當時,如例3重建結果表現良好,例1和例2則由于配準誤差較大,使得重建的指標急劇下降,PSNR只有20.815和19.157.
通過實驗比對分析,本文所提出的算法取得了最好的實驗效果.其中,改進ICP算法和基于NSCT變換域的融合策略較其它算法,在齒科序列圖像的超分辨率重建過程中,具有一定的優(yōu)越性.
4)測試圖庫統(tǒng)計分析結果
為定量分析本文算法的有效性,使用超分辨率重建算法比對實驗中所提及的4種不同算法,對200張由源圖像生成的800張測試圖像進行了超分辨率重建,并統(tǒng)計了重建后的評價指標.齒科序列圖像重建結果的峰值信噪比PSNR如圖6所示:其中橫坐標是PSNR峰值信噪比;縱坐標是對應PSNR值下的樣本個數;白灰條形圖表示cubic雙三次插值重建樣本數(方法1);淺灰條形圖表示使用ICP配準、SAI插值、Contourlet變換域融合重建的樣本數(方法2);深灰條形圖為SIFT特征點配準、SAI插值然后采用NSCT分解融合的重建樣本數(方法3);黑色條形圖表示的是本文提出算法的重建樣本數(方法4).
由圖6可以看出,cubic插值法重建結果(方法1)相對于方法2和方法4的重建結果,其PSNR值分布在較低數值段;而比對方法2和方法4,即基于Contourlet變換域融合與基于NSCT變換域融合的實驗對比中,即使采用相同的融合策略,在較高PSNR值區(qū)間內,方法4所對應的重建樣本數明顯多于方法2所對應的重建樣本數;另一方面,比對方法3和方法4,即都在NSCT變換域中進行融合時,雖然有些通過SIFT特征點配準算法所得的重建結果與通過ICP配準算法所得重建結果在PSNR值上相當,但是由于SIFT配準在齒科圖像應用上效果的不穩(wěn)定性,使得方法3所對應的PSNR值在圖6上呈現出零散分布的狀態(tài).因此,綜合穩(wěn)定性與峰值信噪比來看,本文算法有效提高了齒科圖像的重建效果.
圖6 四種不同超分辨率重建算法重建結果PSNR分布Fig.6 PSNR statistical distribution of 4 different SR algorithms
基于構建的齒科低分辨率圖像庫,表3分別列出了4種不同重建算法重建結果的平均指標,包括峰值信噪比PSNR、均方根誤差MSE和結構相似性度量SSIM.可以看出,cubic插值算重建效果最差,PSNR為33.275,SSIM為0.824;而當采用方法2,即采用ICP配準、SAI插值和Contourlet變換融合時,相應指標明顯上升,低分辨率序列圖像信息得到了有效利用;但是相對于NSCT,CT變換過程中由于存在下采樣的過程,不可避免會損失圖像信息,細節(jié)等,NSCT就表現出更優(yōu)的效果.
表3 不同超分辨率重建方法的平均精度對比
Table 3 Average indicators comparison of different SR reconstruction methods
PSNRMSESSIMCubic33.27531.0130.824ICP+SAI+CT37.28512.8120.907SIFT+SAI+NSCT35.72591.6100.882ICP+SAI+NSCT37.53912.1060.917
另外,重建結果的好壞還嚴重依賴于配準的精度,SIFT在齒科圖像重建過程中,由于特征點的缺少和誤匹配的存在,導致了方法3整體上劣于方法4,即本文提出算法.本文所提出針對齒科低分辨率序列圖像重建的方法,無論是在精度上還是穩(wěn)定性上都有較大的優(yōu)勢.
通過對實驗結果的分析,本文所提出的超分辨率齒科序列圖像重建算法,能夠有效提高重建高分辨率圖像的表現及客觀指標,其主要原因在于:
1)經典ICP配準法要求目標點集與源點集存在包含關系,本文則提出了改進ICP的配準策略,引入了魯棒損失函數,又優(yōu)化了點集的篩選,使得低分辨率序列圖像的配準精度得到了有效保證,同時跟SIFT特征點配準法相比,明顯魯棒性較強;
2)軟判決自適應插值法的應用,有效保護了圖像的空間一致性,邊緣以及牙齒圖像細節(jié)等信息;
3)NSCT變換相對于傅里葉變換、小波變換等,利用類似輪廓段的結構表征圖像,具有良好的稀疏特性,同時由于沒有下采樣過程,圖像保留細節(jié)的能力加強;
4)對NSCT變換后的系數進行了有效融合,低分辨率序列圖像重建主要重建參考幀,低頻融合時加強了參考幀所占比重;高頻融合時,硬閾值的去噪可以降低噪聲,然后又采用取絕對值最大的方法融合,實現信息的有效互補,整體提高超分辨率的重建效果.
但是從測試樣本庫的重建結果來看,基于本文所提出的超分辨率齒科序列圖像重建算法仍存在不足之處,主要如下:
1)基于點集配對的ICP配準法,仍然無法做到完全的正確配對,同時干擾點的存在會影響配準結果;
2)多分辨率多尺度的變換不可避免的會損失一些圖像信息,另外由于既要去除噪聲,又要充分保留圖像信息,而且序列間的互補信息需要有效融合,之間的權衡關系無法做到完全精準,因此本文所提出的融合策略需要進一步加強.
本文提出了一種基于齒科序列圖像的超分辨率重建算法,該算法首先對低分辨率的齒科序列圖像進行預處理,減少光照的影響;然后選取牙體硬組織的邊緣點作為特征點集,通過改進的ICP配準法,在點集篩選和迭代策略上進行創(chuàng)新,引入魯棒損失函數,以此矯正低分辨率齒科序列幀間的幾何運動,有效減少了偏差較大點的干擾;其次,已配準的序列圖像選取有邊緣保護作用的SAI插值法放大后,基于超分辨率重建參考幀的特點,通過調整NSCT變換域的去噪與融合策略,實現信息的有效互補,最后利用NSCT的反變換得到超分辨率齒科圖像的重建結果.實驗結果表明,不論是主觀視覺效果上、還是峰值信噪比、結構相似性等客觀指標上,本文算法都能夠有效提高齒科序列圖像的超分辨率重建效果.