于蕾，周忠良，鄭麗穎

1.哈爾濱工程大學(xué)信息與通信工程學(xué)院，哈爾濱 150000

2.哈爾濱工程大學(xué)計算機(jī)科學(xué)與技術(shù)學(xué)院，哈爾濱 150000

基于入侵性雜草優(yōu)化算法的圖像識別的研究

于蕾1，周忠良1，鄭麗穎2

1.哈爾濱工程大學(xué)信息與通信工程學(xué)院，哈爾濱 150000

2.哈爾濱工程大學(xué)計算機(jī)科學(xué)與技術(shù)學(xué)院，哈爾濱 150000

針對小波不變矩提取的特征向量維數(shù)過大的問題，提出一種以類間、類內(nèi)散布矩陣作為可分離判據(jù)的離散入侵性雜草優(yōu)化算法實現(xiàn)特征向量的選擇，利用BP神經(jīng)網(wǎng)絡(luò)作為分類器進(jìn)行圖像識別。實驗仿真結(jié)果表明，與現(xiàn)有特征選擇算法相比，改進(jìn)的離散入侵性雜草優(yōu)化算法對于圖像特征向量的選擇時間更短，識別正確率更高，能有效提高分類器的性能。

圖像識別；特征選擇；小波矩；入侵性雜草優(yōu)化算法

1 引言

圖像識別在最近幾年里得到廣泛研究，在工農(nóng)業(yè)生產(chǎn)和國防軍事上都有著重要的應(yīng)用價值。由于同一個目標(biāo)，從不同角度和高度觀測時，目標(biāo)必然會發(fā)生平移、旋轉(zhuǎn)和尺度的變化，這使得圖像中包含的信息、數(shù)據(jù)量大，為識別帶來困難。因此本文采用小波不變矩進(jìn)行圖像特征的提取，但是通常從圖像中提取的特征可能有上百維，而實際上只有能夠表征相似圖差異的特征值對識別才具有價值。適當(dāng)減少特征向量的維數(shù)，既可以消除冗余，提高分類器的運(yùn)算速度；也可降低分類器的復(fù)雜性，得到較低的分類錯誤率。為了有效減少特征向量維數(shù)，文獻(xiàn)[1]和文獻(xiàn)[2]提出了一種利用遺傳優(yōu)化算法進(jìn)行特征值的選擇，但是利用遺傳算法進(jìn)行特征向量選擇的速度慢。針對以上缺點，本文提出了一種改進(jìn)的離散入侵性雜草優(yōu)化算法（Discrete Invasive Weeds Optimization，DIWO），該算法結(jié)合類間、類內(nèi)散布矩陣進(jìn)行特征值的選擇，有效提高了特征向量選擇的時間，并用BP神經(jīng)網(wǎng)絡(luò)作為分類器進(jìn)行最終識別[3]，以達(dá)到最優(yōu)的目標(biāo)識別性能。該系統(tǒng)主要由不變矩的特征提取、特征向量選擇和分類識別三個主要部分組成。

2 圖像不變矩特征提取

圖像特征提取對圖像的識別尤為重要，它決定了識別性能的優(yōu)劣，故本文選擇具有旋轉(zhuǎn)、平移、尺度變換不變性的小波不變矩作為圖像識別的特征提取方法。

一幅二維圖像可以用函數(shù)f(x，y)表示，采用極坐標(biāo)表示為f(r，θ)，其中x=rcos(θ)，y=rsin(θ)，因此，圖像f(x，y)的小波不變矩定義如下：

式中，φmnq(r)為徑向小波基函數(shù)，表示為：

式中，m，n分別為尺度因子和位移因子，m=0，1…，n=0，1，…，2m+1。本文母小波φ(r)選擇B樣條函數(shù)，它的高斯表達(dá)式如下：

選擇不同的m和n，||Wmnq||就可以得到圖像的不同尺度水平上的特征[4]。

3 特征選擇

在利用小波不變矩提取的大量特征值中，有些是交疊的、不易判斷的，這些特征值含有的信息量很少，會降低分類器的識別效率。因此，要對這些特征向量進(jìn)行進(jìn)一步的選擇，這個選擇出含信息量較大、對有效識別起重要作用的過程就稱為特征選擇。特征選擇是模式識別中一個非常關(guān)鍵的問題，選擇出具有良好分類性能的特征向量能有效改善分類器的性能，提高識別正確率?，F(xiàn)有的特征選擇算法仍存在選擇時間長的問題，為了解決這個問題，本文提出一種利用類間、類內(nèi)散布矩陣作為可分離判據(jù)的離散入侵性雜草優(yōu)化搜索方式的特征向量選擇算法，該算法的具體步驟介紹如下。

3.1 類別可分離性判據(jù)

特征值選擇的任務(wù)是從D個特征中選出分類效果最優(yōu)的d個特征(d＜D)，共有種選擇組合方式。這時就需要一個標(biāo)準(zhǔn)來衡量到底哪種特征組合方式的分類效果最好。各類樣本可以分開是由于它們位于特征空間中的不同區(qū)域，這些區(qū)域之間的距離越大，則類別可分性就越好，因此可以用類別間的距離作為衡量分類效果的標(biāo)準(zhǔn)。

式中，c為類別數(shù)，ni、nj分別為wi、wj類的樣本個數(shù)，pi、pj是相應(yīng)類別所占概率。多維空間中的兩個向量之間有很多種距離度量方式，這里選擇通用的歐氏距離方式，距離表示如下：

若用mi表示第i類樣本集的均值向量：

m表示所有各類樣本集總平均向量：

則各類特征向量之間的平均距離可表示為：

其中，Sb為類間散布矩陣：

由于類內(nèi)散布矩陣的行列式越小、類間散布矩陣的行列式越大，可分離性就越好，因此，還可以提出下面幾種準(zhǔn)則函數(shù)：

3.2 基于改進(jìn)的入侵性雜草優(yōu)化算法的特征值選擇搜索方法

特征向量的選擇主要由兩方面組成，一是標(biāo)準(zhǔn)的選擇，可以采用3.1節(jié)介紹的可分離性判據(jù)，另一個關(guān)鍵問題是要找一個好的搜索方法，可以在較短的時間內(nèi)選出最優(yōu)的特征向量。由公式（8）可知特征向量的選擇可以歸結(jié)為有約束條件的非線性組合優(yōu)化問題，入侵性雜草優(yōu)化算法（IWO）不僅能解決這類問題，在性能上也優(yōu)于遺傳優(yōu)化算法，因此本文采用入侵性雜草算法進(jìn)行特征提取。

IWO算法是Lucas[5]等人在2006年提出的一種新穎的數(shù)值優(yōu)化模型。它主要通過模擬自然界雜草生長過程，給出一種能夠解決實際復(fù)雜非線性的工程問題的方法。由于雜草生長的頑強(qiáng)性、普遍性、強(qiáng)制性，IWO算法具有與之對應(yīng)的魯棒性、隨機(jī)性和適應(yīng)性。

由3.1節(jié)可知，特征向量的選擇屬離散問題，而IWO算法雖然能成功解決線性天線設(shè)計[6-7]、移動通信系統(tǒng)的基站選址及生物科學(xué)的DNA序列計算等問題[8]，但都只是針對連續(xù)問題，不能直接運(yùn)用到離散空間中，無法解決特征向量選擇問題。文獻(xiàn)[9]雖然提出了一種二進(jìn)制離散雜草算法，但是該算法使用二進(jìn)制編碼序列，序列長度會比普通的十進(jìn)制編碼方式長數(shù)倍，不利于計算，而且它的進(jìn)化過程是通過映射以概率形式作用每個二進(jìn)制位，操作復(fù)雜，不適合解決本文中的特征向量選擇問題。為此，本文提出一種改進(jìn)的離散入侵性雜草優(yōu)化算法。

3.2.1 編碼

將二進(jìn)制編碼改為十進(jìn)制編碼，十進(jìn)制編碼具有精度高，便于大空間搜索的優(yōu)點，相對于二進(jìn)制編碼計算簡單[10]。設(shè)N為小波矩算法提取出的系統(tǒng)特征值總數(shù)，種群中的個體用n維數(shù)組表示，n為要選擇的特征值個數(shù)，每一維上的元素為一個對應(yīng)的特征值編號，取值范圍是[1，N]，表示所選的特征值組成的特征向量。個體編碼后如表1所示，其中x1，x2，…，xn是1到N之間的不重復(fù)任意整數(shù)。

表1 小波矩特征值個體編碼表

3.2.2 基于隨機(jī)位變異的空間擴(kuò)散方式

在父代個體基礎(chǔ)上，進(jìn)行隨機(jī)位變異，實現(xiàn)種子的空間擴(kuò)散，這種方式既能滿足其在父代個體周圍變化，又具有隨機(jī)搜索能力。

設(shè)種群內(nèi)的個體為X=(x1，x2，…，xj，…，xn)，針對個體X中隨機(jī)選取一個編碼位置xj作為變異位，在從特征值空間([1，N])中隨機(jī)選取特征值編號xm替換個體X中的元素xj，得變異后的新個體Xnew=(x1，x2，…，xm，…，xn)，這里xm的選取需滿足條件xm?X，這樣就完成了種群中一個個體的一個種子的擴(kuò)散。

3.2.3 基于DIWO算法的特征向量選擇實現(xiàn)步驟

基于DIWO算法的特征向量選擇主要包括以下四步：

（1）種群初始化

根據(jù)3.2.1節(jié)的編碼方式，隨機(jī)產(chǎn)生初始種群，設(shè)置實驗參數(shù)；由公式（8）計算適應(yīng)度函數(shù)值。

（2）生長繁殖

生長繁殖是根據(jù)每個個體（解）自身的適應(yīng)性，即適應(yīng)度函數(shù)值，計算每個個體能產(chǎn)生種子的個數(shù)。適應(yīng)性越好的個體，產(chǎn)生越多的種子，這是符合自然生長過程的。種子數(shù)與適應(yīng)值的關(guān)系如圖1所示，圖中適于求解適應(yīng)度值最大的問題，計算公式為：

式中，Nseed表示產(chǎn)生的種子數(shù)，f代表當(dāng)前個體適應(yīng)度值，fmax是種群中最大的適應(yīng)度值，fmin為種群中最小的適應(yīng)度值；smax、smin分別代表最大和最小種子數(shù)，為可調(diào)參數(shù)，一般認(rèn)為smax=5，smin=1即足以解決絕大部分最優(yōu)化問題。

圖1 種子生長過程示意圖

（3）空間擴(kuò)散

利用3.2.2節(jié)中的隨機(jī)位置變異的方式，將所有種子進(jìn)行擴(kuò)散，產(chǎn)生新個體，將產(chǎn)生的所有新個體與父代相加產(chǎn)生新的種群。

（4）競爭性排除

經(jīng)過數(shù)代的繁殖后，克隆產(chǎn)生的后代數(shù)目將超過環(huán)境最大承受能力，通過預(yù)先設(shè)定的最大種群數(shù)目pmax，對種群數(shù)量加以控制。在算法迭代過程中，種群中的所有雜草和其后代按其適應(yīng)度值從好到壞進(jìn)行排序，只有適應(yīng)度值最好的前pmax個個體能夠存活下來，剩下的個體都將被環(huán)境所淘汰。當(dāng)算法運(yùn)行到預(yù)先設(shè)定的最大迭代次數(shù)時，算法終止。

4 實驗仿真

為了驗證本文算法在圖像識別中特征向量選擇的可行性和有效性，設(shè)計了針對3個人組成的30幅人臉的二值圖像分別進(jìn)行計算機(jī)仿真實驗，識別所用的全部原圖像如圖2所示。本文采用BP神經(jīng)網(wǎng)絡(luò)作為分類器，進(jìn)行分類識別驗證。

圖2 人臉二值圖像

實驗在Intel?Celeron?CPU、E430@2.60 GHz、2 GB內(nèi)存的計算機(jī)上進(jìn)行，軟件編程采用M atlab7.1語言。

整個實驗分三部分完成，第一步利用小波不變矩方法提取出特征值，確定特征值空間；第二步分別采用本文算法與文獻(xiàn)[1]和文獻(xiàn)[2]中的遺傳算法（GA）實現(xiàn)特征向量的選擇，并進(jìn)行了運(yùn)行時間的對比；最后采用BP神經(jīng)網(wǎng)絡(luò)作為分類器，驗證兩種算法的識別正確率；并且證明了進(jìn)行特征向量的選擇可以有效提高分類器的性能。具體實驗步驟如下。

（1）采用小波不變矩方法共提取了68個特征值，用式（8）做為選擇的標(biāo)準(zhǔn)，分別采用遺傳優(yōu)化算法（GA）和本文的DIWO算法作為搜索方法進(jìn)行特征向量的選擇，通過實驗仿真驗證，對比時間如表2所示。

表2 實驗數(shù)據(jù)表

從表2可以看出DIWO進(jìn)行特征值的選擇時間明顯比采用遺傳算法的時間快。這是因為遺傳算法采用二進(jìn)制編碼方式，個體維數(shù)大，增加了計算復(fù)雜度，導(dǎo)致運(yùn)行時間慢，而本文算法提出使用十進(jìn)制編碼方式，效率更高。

（2）從已提取的68個特征值中，采用本文提出的選擇方法選出使特征向量距離最大和最小的特征向量組合，得到BP神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)誤差訓(xùn)練曲線分別如圖3中（a）和（b）；識別正確率對比如表3。

圖3 BP神經(jīng)網(wǎng)絡(luò)網(wǎng)絡(luò)誤差訓(xùn)練曲線

通過圖3可以看出進(jìn)行特征選擇大幅度降低了BP神經(jīng)網(wǎng)絡(luò)的均方誤差和訓(xùn)練時間，提高分類器的運(yùn)行速度；表3證明了特征選擇有效降低了識別的錯誤率。

表3 識別正確率

5 結(jié)論

本文采用小波不變矩進(jìn)行圖像不變矩的特征值提取，提出了改進(jìn)的入侵性雜草優(yōu)化算法，利用類間、類內(nèi)散布矩陣作為可分離性判據(jù)，實現(xiàn)特征值的選擇，最后采用BP神經(jīng)網(wǎng)絡(luò)作為分類器進(jìn)行最后的識別。通過仿真實驗可以看出DIWO算法進(jìn)行特征向量選擇的時間低于GA所用的時間，而且證明了進(jìn)行特征向量選擇可以有效降低特征向量的維數(shù)，并且大幅度降低了BP神經(jīng)網(wǎng)絡(luò)的均方誤差和訓(xùn)練時間，提高了分類器的性能，在模式識別中具有實際的應(yīng)用價值。

[1]劉素華，侯惠，李小霞.基于遺傳算法和模擬退火算法的特征選擇方法[J].計算機(jī)工程，2005，31（16）：157-158.

[2]陳果，鄧堰.遺傳算法特征選取中的幾種適應(yīng)度函數(shù)構(gòu)造新方法及其應(yīng)用[J].機(jī)械科學(xué)與技術(shù)，2011，30（1）：124-128.

[3]Hu Xiaozhou，Kong Bin，Zheng Fei，et al.Image recognition based on wavelet invariant moments and wavelet neural networks[C]//Proceedings of the 2007 International Conference on Information Acquisition，ICIA，2007：275-279.

[4]Yang Ruihong，Pan Quan，Cheng Yongmei.The application of wavelet invariant moments to image recognition[C]// Proceedings of the 2006 International Conference on Machine Learning and Cybernetics，2006：3243-3247.

[5]章品正，徐琴真，王征.基于小波矩的面部特征匹配定位方法[J].計算機(jī)工程與應(yīng)用，2007，43（26）：245-247.

[6]Mehrabian A R，Lucas C.A novel numerical optimization algorithm inspired from weed colonization[J].Ecological Informatics，2006，1（3）：355-366.

[7]Karimkashi S，Kishk A，Kajfez D.Antenna array optimization using dipole models for M IMO applications[J].IEEE Antennas and Propagation Society，2011（1）：1-5.

[8]Roy G G，Das S.Design of non-uniform circular antenna arrays using a modified invasive weed optimization algorithm[J].IEEE Antennas and Propagation Society，2011 （1）：110-117.

[9]張帥，王營冠.離散二進(jìn)制入侵雜草算法[J].華中科技大學(xué)學(xué)報，2011，39（10）：55-60.

[10]畢曉君.信息智能處理技術(shù)[M].北京：電子工業(yè)出版社，2010：189-217.

YU Lei1,ZHOU Zhongliang1,ZHENG Liying2

1.College of Information and Communication Engineering,Harbin Engineering University,Harbin 150000,China
2.College of Computer Science and Technology,Harbin Engineering University,Harbin 150000,China

Due to the large number of feature values which can be extracted from wavelet moment,a discrete invasive weed optimization algorithm is proposed to select the feature vectors with between-class scatter matrix and within-class scatter matrix,and finally can recognize images with the help of BP neural network as the classifier.The simulation results show that,com pared to the feature selection algorithm,the improved discrete invasive weed optimization algorithm has the shorter selection time of image feature vectors,the higher accuracy,and can effectively improve the performance of the classifier.

image recognition;features selection;wavelet moment;invasive weed optimization algorithm

A

TP391

10.3778/j.issn.1002-8331.1208-0302

YU Lei,ZHOU Zhongliang,ZHENG Liying.Research of image recognition based on invasive weed optimization algorithm.Computer Engineering and Applications,2014,50（16）：188-191.

國家自然科學(xué)基金（No.61003128）。

于蕾（1977—），女，博士，副教授，研究方向為圖像處理；周忠良（1985—），男，碩士，研究方向為圖像識別；鄭麗穎（1975—），女，博士，副教授，研究方向為圖像識別。E-mail：liangzi305@126.com

2012-08-24

2012-10-11

1002-8331（2014）16-0188-04

CNKI網(wǎng)絡(luò)優(yōu)先出版：2012-11-21，http://www.cnki.net/kcm s/detail/11.2127.TP.20121121.1508.049.htm l