国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

基于稀疏表示和支持向量機(jī)的人臉識別算法

2018-03-05 02:39:55徐靜妹
關(guān)鍵詞:識別率人臉識別向量

徐靜妹,李 雷

(南京郵電大學(xué),江蘇 南京 210023)

0 引 言

自動人臉識別技術(shù)是近年來學(xué)術(shù)界一直關(guān)注的焦點(diǎn),廣泛應(yīng)用于身份認(rèn)證系統(tǒng)、視頻監(jiān)控系統(tǒng)以及圖像檢索應(yīng)用,比如現(xiàn)場監(jiān)控、城市安全、休閑娛樂等[1]。

人臉識別的基本步驟包括圖像預(yù)處理,特征選擇和提取,分類和評價。從圖片或視頻傳感器中采集的原始圖像首先要經(jīng)過預(yù)處理,以便適合于特征提取。特征選擇和提取主要分為兩種方法:整體方法和局部方法。一般來說,整體方法包括基于主成分分析的方法(PCA)[2-4]、線性判別分析(LDA)[5-7]等;局部方法包括基于小波分析的方法[8-9]、保投影(LPP)[10]等。在關(guān)鍵特征提取完成后,再通過分類獲得識別結(jié)果。分類識別根據(jù)是否學(xué)習(xí)可分為三種方法:監(jiān)督學(xué)習(xí)、半監(jiān)督學(xué)習(xí)以及無監(jiān)督學(xué)習(xí)[11]。目前監(jiān)督和無監(jiān)督聚類方法已被開發(fā)應(yīng)用于人臉識別。其中基于監(jiān)督學(xué)習(xí)的分類主要有兩種方法,一種是基于貝葉斯理論的方法,包括有參數(shù)和無參數(shù)兩種類型。高斯混合模型、隱馬爾可夫模型、主成分分析、多元判別分析(MDA)等都屬于參數(shù)化方法;最近鄰估計(NN)、K-鄰近估計(KNN)[12]、最近子空間(NS)等都屬于無參數(shù)方法。另一種方法是判別分析,又分為線性和非線性方法。針對線性問題,F(xiàn)isher判別技術(shù)和支持向量機(jī)(SVM)是已知比較好的方法[13]。近年來,隨著壓縮感知理論的誕生,Wright等[14]也提出了一種人臉識別中典型的全局線性方法-基于稀疏表示的分類算法(SRC)。

可以看出用于人臉識別的方法有多種,理論上說,一些方法可以組合應(yīng)用于人臉識別。例如,Gabor,PCA,LPP等往往會與分類方法相結(jié)合,比如神經(jīng)網(wǎng)絡(luò)、支持向量機(jī)、核函數(shù)方法等。文中即采用這種組合,由于基于稀疏表示的人臉識別準(zhǔn)則是重構(gòu)殘差最小,對于一個測試樣本,需要計算其與其他每一個樣本的相似度,識別效率低。針對這個缺點(diǎn),提出將支持向量機(jī)作為最后分類的工具,這樣就將SRC和SVM組合形成一種新的人臉識別方法,并且,文中對選用的SRC算法又做了一定的改進(jìn)。

1 基于SRC的人臉識別

1.1 基于稀疏表示的人臉識別模型

SRC是人臉識別中一種典型算法。該算法不考慮樣本的局部信息而是考慮整體信息,假設(shè)測試樣本可近似表示為所有訓(xùn)練樣本的線性組合,每個訓(xùn)練樣本的像素信息轉(zhuǎn)換成列向量從而組成訓(xùn)練矩陣。由于CS的非自適應(yīng)性,投影訓(xùn)練矩陣的正交基可以得到稀疏矩陣,并且不會影響原問題的解決。這個稀疏矩陣就是對訓(xùn)練圖像的稀疏表示,也稱為測量矩陣。SRC算法的步驟如下:

(1)訓(xùn)練樣本矩陣A=[A1,A2,…,Ak]∈Rm×n,測試樣本y∈Rm作為算法的輸入。

(2)對矩陣A的列進(jìn)行規(guī)范化,得到L2范數(shù)。

(3)求解L1范數(shù)問題。

(1)

或者作替換求解:

(2)

(4)計算殘差。

(3)

(5)輸出(y)=argminiri(y)。

上述算法是在理想的情況下得到的,而在測試圖像被部分損壞或遮擋的情況下,將式(1)修改為:

(4)

其中,e0∈Rm為一個具有非零元素的誤差向量。這個誤差不可忽略。通常,e0可假設(shè)為對一些基Ae∈Rm×n的一個稀疏表示。那么式(4)可修改為:

(5)

方程(5)可以轉(zhuǎn)換為一個擴(kuò)展的L1范數(shù)最小化問題:

(6)

式(3)修改為:

(7)

1.2 SRC的求解方法

1.2.1梯度投影法(GPSR)

梯度投影法[15]屬于凸優(yōu)化方法,采用拉格朗日算法解決式(1)中的最小L1范數(shù)問題,其中λ是拉格朗日乘數(shù)。則問題可以轉(zhuǎn)化為:

λ‖x‖1

(8)

運(yùn)用截斷牛頓內(nèi)點(diǎn)方法(TNIPM)即L1LS算法,求解這個二次規(guī)劃問題。那么,式(8)可以轉(zhuǎn)化為一個不等式約束的二次規(guī)劃問題:

(9)

其中,通過對數(shù)柵欄函數(shù)構(gòu)造約束條件-ui≤xi≤ui的誤差部分:

(10)

在(x,u)域上,可以得到最小值(x*(t),u*(t))的凸函數(shù)為:

(11)

其中,參數(shù)t∈[0,∞)。

利用最小化標(biāo)準(zhǔn)的內(nèi)點(diǎn)法來計算上式優(yōu)化后的搜索梯度方向。

(12)

從而可以很容易根據(jù)這個優(yōu)化后的搜索梯度方向再求得稀疏表示的稀疏系數(shù)。

1.2.2正交匹配追蹤法(OMP)

正交匹配追蹤法[16]屬于貪婪算法,其主要思路為:在每次迭代過程中,從觀測矩陣Φ的列向量中選出與當(dāng)前冗余向量最相關(guān)的列,并將其從測量向量中減去,然后進(jìn)行下一次迭代,直到迭代次數(shù)達(dá)到所需的稀疏度為止。在此過程中,所選擇的列要盡可能正交。OMP這一特點(diǎn)加速了殘差值收斂的速度,并減少了算法迭代的次數(shù)。

算法步驟如下:

輸入:測量矩陣Φ,采樣向量y,稀疏度K

(2)更新索引集Λt=Λt-1∪{λt},記錄找到的測量矩陣中的重建原子集合Φt=[Φt-1,φλt];

(5)判斷是否滿足t>K,若滿足,則停止迭代;若不滿足,則執(zhí)行(1)。

在具體實(shí)現(xiàn)中,OMP算法的運(yùn)行速度要比基于最小L1范數(shù)的凸優(yōu)化算法的運(yùn)行速度快,因此文中選取OMP算法求解人臉圖像的稀疏表示。

2 基于SVM的多分類方法

2.1 二分類支持向量機(jī)

假設(shè)已知訓(xùn)練樣本為{xi,yi},其中yi=±l,i=1,2,…,l,xi為向量機(jī)輸入,l為樣本數(shù),yi=1時為正常,yi=-1時為異常。SVM目標(biāo)就是尋求這樣一個最優(yōu)分類超平面使其w·x+b=0,對于訓(xùn)練樣本需要滿足:

yi[w·x+b]-1≥0

(13)

式(13)可以轉(zhuǎn)化為二次規(guī)劃問題:

(14)

其中,C為懲罰因子;ξi為松弛因子。

利用拉格朗日乘數(shù)法可將式(14)轉(zhuǎn)化為求它的對偶問題:

(15)

(16)

其中,K(x,xi)表示一個核函數(shù);sgn(g)表示符號函數(shù)。

2.2 一對多分類法

“一對多”算法,即第n個分類器為解,由第n類樣本集合和剩下的n-1類樣本集合全體構(gòu)成兩類問題得到,這樣就需要構(gòu)造n個分類器,然后對于一個測試樣本進(jìn)行分類識別。

該算法的數(shù)學(xué)模型如下[17]:

(18)

決策函數(shù)為:

fi(x)=[(ωi)Tφ(x)+bi],i=1,2,…,M

(19)

2.3 一對一分類法

該算法的數(shù)學(xué)模型如下:

(20)

決策函數(shù)為:

Fij(x)=[(ωij)Tφ(x)+bij],i=1,2,…,M,

j=i+1,…,M

(21)

3 文中方法-基于SRC和SVM的人臉識別

基于稀疏表示分類的人臉識別是將人臉圖像數(shù)據(jù)直接作為稀疏表示的過完備字典,計算量大、冗余信息多。針對這個缺點(diǎn),文中提出用KPCA提取后的人臉特征信息作為稀疏表示的過完備字典,大大降低了計算成本,但是求解稀疏表示模型的方法選取的是梯度投影方法,發(fā)現(xiàn)求得的測試樣本稀疏系數(shù)中,非零系數(shù)會出現(xiàn)在非樣本所在類,影響了識別效果。針對這個缺點(diǎn),提出用正交匹配追蹤法(OMP)求解稀疏表示模型。該算法可以通過設(shè)置稀疏閾值來控制稀疏系數(shù)的稀疏度,在非樣本對應(yīng)類出現(xiàn)的就都是零了;此外,基于稀疏表示分類的人臉識別的識別準(zhǔn)則是重構(gòu)殘差最小,對于一個測試樣本,需要計算其與其他每一個樣本的相似度,識別效率低。針對這個缺點(diǎn),提出將支持向量機(jī)作為最后分類的工具,實(shí)驗(yàn)結(jié)果表明,可以提高人臉識別的速度和準(zhǔn)確率。

綜上,提出了結(jié)合稀疏表示和支持向量機(jī)的人臉識別方法,具體實(shí)現(xiàn)流程如圖1所示。

圖1 人臉識別實(shí)現(xiàn)流程

具體步驟如下:

(3)訓(xùn)練:將訓(xùn)練集中的每個樣本用A稀疏表示,通過OMP算法求解稀疏系數(shù),作為訓(xùn)練數(shù)據(jù)集train-s,然后使用Libsvm工具箱中的svmtrain函數(shù)進(jìn)行訓(xùn)練;

(4)測試:將測試集中的一個樣本通過上述步驟得到測試樣本特征y,用步驟(3)訓(xùn)練得到的SVM,使用函數(shù)svmpredict進(jìn)行預(yù)測,得到分類識別結(jié)果。

4 實(shí) 驗(yàn)

4.1 實(shí)驗(yàn)數(shù)據(jù)及預(yù)處理

選取的人臉數(shù)據(jù)庫為ORL數(shù)據(jù)庫,它包含40個不同的人,每個人取十幅不同的圖像。分別在不同的時間、不同的照明情況,面部表情(睜/閉眼,笑/不笑),面部細(xì)節(jié)(眼鏡/無眼鏡)下進(jìn)行圖像采集。所有的人臉圖像都是在一個黑暗的均勻背景下拍攝的,拍攝的人要坐直,并拍攝他們的正面圖像(可以接受一點(diǎn)點(diǎn)側(cè)向移動)。實(shí)驗(yàn)環(huán)境為64位Win7系統(tǒng),使用的工具是MATLAB。選取的多分類支持向量機(jī)模型為Libsvm工具箱中的一對一分類支持向量機(jī)。

采用MATLAB中的小波工具箱,將原來112*92的圖片壓縮成為28*23的圖片,壓縮后的部分人臉如圖2所示。

根據(jù)之前的實(shí)驗(yàn)基礎(chǔ),在KPCA特征提取時,選取高斯核函數(shù)的效果較好,選取的參數(shù)σ2=104。

圖2 ORL庫壓縮后部分人臉圖像

4.2 實(shí)驗(yàn)結(jié)果及分析

實(shí)驗(yàn)中,將文中方法與單純使用SRC方法、單純使用SVM方法的人臉識別正確率進(jìn)行對比分析。

(1)特征值數(shù)量L對識別率的影響。

理論上說,在KPCA特征提取過程中,提取的L越多,代表的人臉信息就越豐富,人臉識別率也就越高。所以實(shí)驗(yàn)選取了不同的L值來觀察其對人臉識別率的影響,結(jié)果如圖3所示。

圖3 識別率與特征值數(shù)量關(guān)系曲線

觀察圖3發(fā)現(xiàn),從橫向上來看,L越大,識別率越高,但是在L=150之后的上升趨勢減小,而在125到150之間,識別率有明顯的上升,雖然150到200之間的識別率仍有上升,但綜合考慮實(shí)驗(yàn)運(yùn)行時間,選取L=150繼續(xù)后面的實(shí)驗(yàn);而從縱向上來看,可以發(fā)現(xiàn)文中方法明顯優(yōu)于稀疏表示分類和支持向量機(jī)分類。因此,實(shí)驗(yàn)證明文中方法可以提高人臉識別的效率。

(2)稀疏閾值K對識別率的影響。

理論上說,求解稀疏表示模型所得到的稀疏系數(shù)中,非零系數(shù)應(yīng)該出現(xiàn)在樣本所在類,其他類對應(yīng)的系數(shù)中應(yīng)該都為零。在選取求解稀疏系數(shù)方法時就要考慮這個問題,文獻(xiàn)[6]中選取的方法為GPSR法,但在求得的稀疏系數(shù)中,非零系數(shù)不止出現(xiàn)在樣本所在類,這就影響了識別效果。所以文中選取OMP算法求解稀疏表示模型,優(yōu)點(diǎn)就是可以設(shè)置稀疏系數(shù)的稀疏度K,使得非零系數(shù)盡量只出現(xiàn)在對應(yīng)類中。這個K值實(shí)際上就是所選取的訓(xùn)練樣本數(shù),K不同,過完備字典的大小就不同,識別率也就有所不同。因此實(shí)驗(yàn)設(shè)置了不同的K值來觀察稀疏度對識別率的影響,結(jié)果如表1所示(此時L=150)。

表1 稀疏度與識別率關(guān)系

觀察表1可以發(fā)現(xiàn),隨著K的增大,過完備字典也越來越大,識別效果也是越來越好。這是因?yàn)殡S著訓(xùn)練樣本的增多,過完備字典中的原子也隨之增加,每個樣本能更充分地表示成過完備字典的線性組合,訓(xùn)練出來的支持向量機(jī)識別率更高;因此表明文中方法的識別率有了一定的提高。

5 結(jié)束語

文中提出了一種結(jié)合稀疏表示和支持向量機(jī)的人臉識別方法,探究了特征值數(shù)量和稀疏系數(shù)的稀疏度與人臉識別率的關(guān)系,并與傳統(tǒng)的稀疏表示分類方法和支持向量機(jī)方法進(jìn)行了對比。實(shí)驗(yàn)結(jié)果表明,該方法具有一定的優(yōu)越性。由于選取的人臉都為靜態(tài)圖像,而實(shí)際操作中大多為動態(tài)圖像或者視頻流,因此下一步將對此作進(jìn)一步的研究。

[1] TIAN Q,WU J.A review on face recognition based on compressive sensing[J].IETE Technical Review,2013,30(5):427-438.

[2] AKBARI R, MOZAFFARI S. Performance enhancement of PCA-based face recognition system via gender classification method[C]//6th Iranian machine vision and image processing.Isfahan:IEEE,2010.

[3] ZHENG M,XU Z,YU T,et al.New modified algorithm of PCA face recognition[C]//IEEE international conference on oxide materials for electronic engineering.Lviv,Ukraine:IEEE,2012:121-124.

[4] MALLIPEDDI R,LEE M.Ensemble based face recognition using discriminant PCA features[C]//IEEE congress on evolutionary computation.Brisbane:IEEE,2012.

[5] LIAO P, LIU J,WANG M, et al. Ensemble local fractional LDA for face recognition[C]//IEEE international conference on computer science & automation engineering.Zhangjiajie:IEEE,2012.

[6] ZHAO X,EVANS N,DUGELAY J C.Semi-supervised face recognition with LDA self-training[C]//IEEE international conference on image processing.Brussels:IEEE,2011.

[7] LI Y.2D face recognition based on RL-LDA learning from 3D model[C]//International conference on uncertainty reasoning & knowledge engineering.Jalarta:IEEE,2012.

[8] 閆 河,王 樸,劉 婕,等.自適應(yīng)加權(quán)多尺度LTP的人臉識別[J].計算機(jī)工程與設(shè)計,2016,37(4):1027-1031.

[9] 余 嘉,方 杰,許 可.基于加權(quán)小波的DCT人臉識別算法研究[J].計算機(jī)工程與應(yīng)用,2012,48(17):199-202.

[10] 劉 君,黃燕琪,熊邦書.融合核主成分分析和最小距離鑒別投影的人臉識別算法[J].計算機(jī)工程,2016,42(4):221-225.

[11] 馮 姝.無監(jiān)督局部特征學(xué)習(xí)的魯棒性人臉識別[J].計算機(jī)應(yīng)用,2017,37(2):512-516.

[12] 夏佩佩,張 莉.一種相似性學(xué)習(xí)算法及其在人臉識別中的應(yīng)用[J].計算機(jī)工程,2014,40(6):175-179.

[13] 吳 青,梁 勃,王 婉,等.多分類光滑支持向量機(jī)的人臉識別方法[J].計算機(jī)應(yīng)用,2015,35:122-126.

[14] WRIGHT J,YANG A Y,GANES H A,er al.Robust face recognition via sparse representation[J].IEEE Transactions on Pattern Analysis and Machine Intelligence,2009,31(2):210-227.

[15] 尹賀峰,吳小俊,陳素根.改進(jìn)的局部稀疏表示分類算法及其在人臉識別中的應(yīng)用[J].計算機(jī)科學(xué),2015,42(8):48-51.

[16] 石光明,劉丹華,高大化,等.壓縮感知理論及其研究進(jìn)展[J].電子學(xué)報,2009,37(5):1070-1081.

[17] 蘇曉偉.基于多分類支持向量機(jī)的模式識別研究[J].計算機(jī)與數(shù)字工程,2015,43(7):1202-1206.

猜你喜歡
識別率人臉識別向量
向量的分解
人臉識別 等
聚焦“向量與三角”創(chuàng)新題
揭開人臉識別的神秘面紗
基于類圖像處理與向量化的大數(shù)據(jù)腳本攻擊智能檢測
基于真耳分析的助聽器配戴者言語可懂度指數(shù)與言語識別率的關(guān)系
提升高速公路MTC二次抓拍車牌識別率方案研究
高速公路機(jī)電日常維護(hù)中車牌識別率分析系統(tǒng)的應(yīng)用
向量垂直在解析幾何中的應(yīng)用
向量五種“變身” 玩轉(zhuǎn)圓錐曲線
克什克腾旗| 五寨县| 榆中县| 乌什县| 湖北省| 灯塔市| 富宁县| 密山市| 乐山市| 湟源县| 明光市| 普定县| 疏勒县| 虹口区| 莆田市| 昆山市| 怀远县| 驻马店市| 稻城县| 东莞市| 理塘县| 武夷山市| 烟台市| 客服| 盐池县| 简阳市| 安阳县| 江西省| 赤城县| 营山县| 闵行区| 林周县| 丽水市| 万州区| 庄河市| 项城市| 靖远县| 朝阳市| 临朐县| 汶上县| 灌南县|