劉衛(wèi)華+++劉小賢
摘 要:圖像分割時(shí),傳統(tǒng)分類(lèi)方法直接在圖像上操作,會(huì)出現(xiàn)的數(shù)據(jù)高維特性表現(xiàn)差,分類(lèi)效果差等問(wèn)題,提出將最小二乘支持向量機(jī)(Least Squares Support Vector Machines,LS-SVM)應(yīng)用于圖像分割,并利用粒子群算法對(duì)其參數(shù)進(jìn)行優(yōu)化。通過(guò)對(duì)經(jīng)典的二分類(lèi)與多分類(lèi)問(wèn)題的測(cè)試及彩色實(shí)物圖像分割實(shí)驗(yàn),結(jié)果表明,LS-SVM能綜合使用圖像多種特征,能夠準(zhǔn)確實(shí)現(xiàn)對(duì)圖像感興趣區(qū)域的分割,且分割速度比一般的支持向量機(jī)提高很多。
關(guān)鍵詞:最小二乘支持向量機(jī);彩色圖像;圖像分割;參數(shù)優(yōu)化
引言
支持向量機(jī)(Support Vector Machine, SVM)作為一種新的分類(lèi)方法[1]已經(jīng)應(yīng)用于圖像分割和圖像分類(lèi)。本文以彩色圖像分割為例, 對(duì)比研究了幾種支持向量機(jī)在圖像分割時(shí)的精確度和訓(xùn)練時(shí)間。
1 最小二乘支持向量機(jī)
最小二乘支持向量機(jī)(Least Squares Support Vector Machines,LS-SVM)[3]是標(biāo)準(zhǔn)支持向量機(jī)的一種變形,利用等式約束代替不等式約束,將求解二次規(guī)劃問(wèn)題轉(zhuǎn)化為求解一個(gè)線(xiàn)性方程組[4],大大的簡(jiǎn)化了問(wèn)題的復(fù)雜性,使得訓(xùn)練速度得以提高。
1.1 最小二乘支持向量機(jī)分類(lèi)
LS-SVM算法的數(shù)學(xué)表達(dá)式如下:設(shè)有如下訓(xùn)練樣本集D={(xi,yi)},i=1,...,N,xi∈Rn,yi∈R,輸入數(shù)據(jù)用xi表示,輸出類(lèi)別標(biāo)識(shí)用yi表示。LS-SVM在原空間中的分類(lèi)問(wèn)題可以表述為解式1和式2:
因此,式1的分類(lèi)問(wèn)題通過(guò)解式5的線(xiàn)性方程獲得,而不是解決二次規(guī)劃問(wèn)題。核函數(shù)可以采用多項(xiàng)式核函數(shù)、徑向基核函數(shù)等。求解上述情況,于是可以得到?jīng)Q策函數(shù)如式7所示:
1.2 稀疏最小二乘支持向量機(jī)
最小二乘支持向量機(jī)雖然在一定程度上提高了訓(xùn)練速度,但同時(shí)卻喪失了解的稀疏性,比利時(shí)學(xué)者suyken 給出了一種剪枝思想用來(lái)解決這個(gè)問(wèn)題:這種方法的主要思想是在LS-SVM訓(xùn)練后,根據(jù)|?琢i|的大小對(duì)樣本點(diǎn)進(jìn)行降序排列,去除掉|?琢i|值較小的樣本點(diǎn),用其余的樣本點(diǎn)重新訓(xùn)練,從而達(dá)到提升算法稀疏性的目的,此方法獲得了更快的訓(xùn)練速度與測(cè)試速度[2]。
2 驗(yàn)證實(shí)例及結(jié)果分析
我們的實(shí)驗(yàn)運(yùn)行在DELL個(gè)人計(jì)算機(jī)上,使用英特爾Core i3 M 330@2.13GHz處理器,2GB內(nèi)存,Windows7的操作系統(tǒng),在MATLAB R2007b環(huán)境下實(shí)現(xiàn)。
SVM進(jìn)行圖像分割[5]是對(duì)圖像中的每一個(gè)象素點(diǎn)都進(jìn)行分類(lèi)來(lái)實(shí)現(xiàn)的。首先選擇代表不同類(lèi)別的象素點(diǎn),提取特征,生成訓(xùn)練集[6];然后選取合適的參數(shù)求得支持向量;再逐一提取每個(gè)象素點(diǎn)的特征, 產(chǎn)生樣本待分類(lèi)樣本集,利用式(7)將每個(gè)象素點(diǎn)歸到不同的類(lèi)[7],完成對(duì)圖像的分割。
本實(shí)驗(yàn)選用的是一張彩色圖像——番茄葉片,通過(guò)研究葉片的病變來(lái)觀察番茄的生長(zhǎng)情況,所以我們感興趣的是圖中的番茄葉片,用SVM對(duì)圖片進(jìn)行分割,提取出葉片為后續(xù)的研究做基礎(chǔ)。本實(shí)驗(yàn)選取RBF-kernel核函數(shù)對(duì)番茄葉片圖進(jìn)行實(shí)驗(yàn),并利用粒子群算法對(duì)其超參數(shù)進(jìn)行優(yōu)化。實(shí)驗(yàn)數(shù)據(jù)結(jié)果如表1所示,由表中數(shù)據(jù)可看出經(jīng)過(guò)pso算法優(yōu)化后的SPARSELSSVM分割精確度最高,時(shí)間最短,速度最快。從下圖中可以很清楚的看到實(shí)驗(yàn)的可視化效果。
3 結(jié)束語(yǔ)
本文利用最小二乘支持向量機(jī)對(duì)圖像分割進(jìn)行了測(cè)試與分析,通過(guò)結(jié)果對(duì)比可以看出,在所有方法中,選用RBF-kernel的SPARSELSSVM分類(lèi)結(jié)果較好,且速度最快。同時(shí)用實(shí)驗(yàn)證明了選擇不同方法進(jìn)行SVM參數(shù)優(yōu)化后,得到的分類(lèi)結(jié)果也大有不同。使用SVM默認(rèn)參數(shù)得到的分類(lèi)準(zhǔn)確率較低,而PSO算法能夠?yàn)镾VM找到更加合適的核參數(shù),使得圖像分割的精確度有了顯著提高。
參考文獻(xiàn)
[1]張學(xué)工.關(guān)于統(tǒng)計(jì)學(xué)習(xí)理論與支持向量機(jī)[J].自動(dòng)化學(xué)報(bào),2000,26(1):32-42.
[2]劉衛(wèi)華.最小二乘支持向量機(jī)在分類(lèi)中的應(yīng)用研究[D].蘭州:蘭州交通大學(xué),2013:9-43.
[3]朱家元,陳開(kāi)陶,張恒喜.最小二乘支持向量機(jī)算法研究[J].計(jì)算機(jī)科學(xué),2003,30(7):157-159.
[4]Xue Zhidong, Li Lijun, Li Zhongyi, et al. Segmentation of the Cryosection Images of Virtual Human Dataset Using SVM and Watersheds. International Journal of Advances in Systems Science and Applications,2006,6(1):67-74.
[5]Pabitra Mitra, B. Uma Shankar, Sankar K.Pal. Segmentation of Multispectral Remote Sensing Images Using Active Support Vector Machines. Pattern Recongnition Letters, 2004, 25:1067- 1074.
[6]REYNA RA, CATTEONM. Segmenting Images with Support Vector Machines[A]. IEEE International Conference on Image Processing[C].2000,820-823.
[7]崔清亮.多核學(xué)習(xí)方法在分類(lèi)問(wèn)題中的應(yīng)用研究[D].蘭州:蘭州交通大學(xué),2014:32-39.