殷 飛 焦李成 楊淑媛

?

基于子空間類標(biāo)傳播和正則判別分析的單標(biāo)記圖像人臉識別

殷 飛*焦李成 楊淑媛

(西安電子科技大學(xué)智能感知與圖像理解教育部重點實驗室 西安 710071)

針對單標(biāo)記圖像人臉識別問題，該文提出一種基于子空間類標(biāo)傳播和正則判別分析的半監(jiān)督維數(shù)約簡方法。首先，基于子空間假設(shè)設(shè)計了一種類標(biāo)傳播方法，將類標(biāo)信息傳播到無類標(biāo)樣本上。然后，在傳播得到的帶類標(biāo)數(shù)據(jù)集上使用正則判別分析對數(shù)據(jù)進行維數(shù)約簡。最后，在低維空間使用最近鄰方法對測試人臉完成識別。在3個公共人臉數(shù)據(jù)庫CMU PIE, Extended Yale B和AR上的實驗，驗證了該方法的可行性和有效性。

人臉識別；子空間假設(shè)；類標(biāo)傳播；正則判別分析；半監(jiān)督維數(shù)約簡

1 引言

單訓(xùn)練圖像人臉識別是人臉識別中一個具有挑戰(zhàn)性的問題。在很多實際場景下，如法律實施、駕駛照驗證、護照驗證，通常只有每個人的單個帶類標(biāo)樣本，在這種情況下，傳統(tǒng)人臉識別方法，如主分量分析(PCA)[1]和線性判別分析(LDA)[2]，要么性能大大下降，要么無法使用。在每類只有一個樣本的情況下，由于類內(nèi)散度矩陣退化為零矩陣，LDA無法使用。為修正該問題，Zhao等人[3]提出了修正LDA，該方法用一個單位矩陣來代替類內(nèi)散度矩陣，以使LDA可在單標(biāo)記樣本情況下正常工作，但其性能仍不盡如人意。為解決單訓(xùn)練圖像人臉識別問題，人們提出了一些Ad hoc方法，Tan等人[4]在最近的一個綜述中討論了這些方法。

為解決上述問題，本文提出了一種新的基于子空間類標(biāo)傳播和正則判別分析的半監(jiān)督維數(shù)約簡方法。首先，基于子空間假設(shè)設(shè)計了一種類標(biāo)傳播方法，將類標(biāo)信息傳播到無類標(biāo)樣本上。然后，在傳播得到的帶類標(biāo)數(shù)據(jù)集上使用正則判別分析對數(shù)據(jù)進行維數(shù)約簡。最后，在低維空間使用最近鄰方法對測試人臉完成識別。在3個公共人臉數(shù)據(jù)庫 CMU PIE, Extended Yale B和AR上的實驗驗證了所提方法的可行性和有效性。

2 正則判別分析和稀疏保持判別分析

LDA雖然處理分類問題簡潔有效，但遭受小樣本問題的困擾。在解決小樣本問題的諸多方法中，正則判別分析(RDA)[11,12]是一種簡單有效的方法，其目標(biāo)函數(shù)定義為

3 子空間類標(biāo)傳播

為了完成類標(biāo)傳播，首先按式(11)選出最可靠的待標(biāo)記無類標(biāo)樣本并對其標(biāo)記：

表1 子空間類標(biāo)傳播算法(SLP)

4 基于子空間類標(biāo)傳播和正則判別分析的半監(jiān)督維數(shù)約簡

該問題可以通過如式(14)的廣義特征值問題來求解：

基于子空間類標(biāo)傳播和正則判別分析的半監(jiān)督維數(shù)約簡方法被總結(jié)在表2中。

表2基于子空間類標(biāo)傳播和正則判別分析的半監(jiān)督維數(shù)約簡(SLPRDA)

輸入：訓(xùn)練樣本集　，其中是帶類標(biāo)樣本集，是無類標(biāo)樣本集，正則參數(shù)。輸出：投影矩陣。步驟1 執(zhí)行算法1以獲得所有訓(xùn)練樣本　的類標(biāo)。步驟2 根據(jù)式(2)和式(3)分別計算和。步驟3 求解式(14)中的廣義特征值問題，得到所求投影矩陣。步驟4 停止。

5 相關(guān)方法比較

PCA是一種無監(jiān)督維數(shù)約簡方法，LDA和RDA都是有監(jiān)督維數(shù)約簡方法。在單標(biāo)記圖像人臉識別的場景下，這3種方法的關(guān)系可以用定理1描述。

定理1 在單標(biāo)記樣本情況下，PCA, LDA和RDA退化為同一方法。

綜上，在單標(biāo)記樣本情況下，PCA, LDA和RDA退化為同一方法。 證畢

6 實驗

實驗選擇3個公共人臉數(shù)據(jù)庫CMU PIE, Extended Yale B和AR來驗證本文所提算法SLPRDA的性能，并和經(jīng)典方法PCA, LDA, RDA, SDA, SPDA進行對比分析。本文的實驗環(huán)境為：Pentium4雙核3.2 GHz CPU, 3 GB內(nèi)存，實現(xiàn)算法的軟件是Matlab7.0.1。

對于PIE和Yale B，先從每類中隨機選30個圖像形成訓(xùn)練集，剩余圖像用作測試集。從訓(xùn)練集中每類隨機選1個圖像進行標(biāo)記形成帶類標(biāo)樣本集，其余圖像不標(biāo)記形成無類標(biāo)樣本集。對于AR，先從每類中隨機選10個圖像形成訓(xùn)練集，剩余圖像用作測試集。從訓(xùn)練集中每類隨機選1個圖像進行標(biāo)記形成帶類標(biāo)樣本集，其余圖像不標(biāo)記形成無類標(biāo)樣本集。在實驗中，對30次隨機訓(xùn)練/測試劃分的實驗結(jié)果進行平均，記錄平均分類精度和標(biāo)準(zhǔn)差。

圖1 3個人臉數(shù)據(jù)庫的人臉圖像樣本

表3各方法具體參數(shù)設(shè)置

方法鄰域大小k邊權(quán)值 SDA0.010.12Cosine SPDA0.010.1自動自動 SLPRDA0.01無無無

不同方法在不同數(shù)據(jù)庫上的識別結(jié)果如表4所示。由于在單標(biāo)記樣本情況下PCA, LDA和RDA等價，所以它們的實驗結(jié)果相同。表中的Baseline方法表示不做維數(shù)約簡，直接在原始高維空間上使用最近鄰分類器。由于所提子空間類標(biāo)傳播算法SLP本身是一種半監(jiān)督分類方法，所以表4也列出了單獨使用SLP的實驗結(jié)果。SPDA和SLPRDA學(xué)習(xí)嵌入函數(shù)所需時間如表5所示。根據(jù)表4和表5中的實驗結(jié)果，可以得到如下結(jié)論：

方法BaselinePCA /LDA/RDASDASPDASLPSLPRDA PIE25.601.6525.601.6559.463.1271.243.3668.554.6588.813.81 Yale B12.901.1912.901.1927.003.9635.793.5234.462.8541.303.59 AR26.981.9626.981.9629.382.8761.962.9343.823.1563.903.35

方法PIEYale BAR SPDA729.6208.81577.0 SLPRDA463.4 80.7 153.2

(1)半監(jiān)督維數(shù)約簡方法得到的識別結(jié)果比只使用帶類標(biāo)樣本的維數(shù)約簡方法好。這說明對識別問題，無類標(biāo)樣本可以起到重要作用。

(2)SPDA和所提的SLPRDA在所有測試數(shù)據(jù)庫上的識別結(jié)果一致好于其它比較方法。這說明子空間假設(shè)對人臉識別是一個有效的假設(shè)。

(3)所提方法SLPRDA在所有測試數(shù)據(jù)庫上的識別性能都一致的好于其它方法。這進一步驗證了所提出的類標(biāo)傳播方法的有效性。

(4)所提方法SLPRDA的識別性能明顯好于單獨使用SLP或單獨使用RDA的方法，這表明SLP和RDA只有作為整體形成半監(jiān)督維數(shù)約簡方法SLPRDA時才能更好的用于單標(biāo)記圖像人臉識別。

(5)在所有實驗中SLPRDA都比SPDA更高效。SLPRDA在3個測試數(shù)據(jù)庫上比SPDA快1.57~ 10.30倍。

由以上實驗可以看出，本文所提方法SLPRDA有如下優(yōu)勢：(1)與SDA相比，所提方法SLPRDA不需要選擇鄰域大小參數(shù)和邊權(quán)值參數(shù)。(2)與SPDA相比，SLPRDA的計算復(fù)雜度遠(yuǎn)遠(yuǎn)低于SPDA的計算復(fù)雜度。(3)實驗表明，相比于其它方法，所提方法SLPRDA能獲得更好的識別性能。

圖2 SLPRDA和EBGM的識別結(jié)果比較

7 結(jié)束語

本文提出了一種基于子空間類標(biāo)傳播和正則判別分析的半監(jiān)督維數(shù)約簡方法SLPRDA，并將其應(yīng)用于單標(biāo)記圖像人臉識別問題。通過子空間類標(biāo)傳播，所提方法能較好地利用無類標(biāo)樣本，在公共人臉數(shù)據(jù)庫CMU PIE, Extended Yale B和AR上的實驗驗證了所提方法的可行性和有效性。本文所提出的子空間類標(biāo)傳播方法(SLP)是一個通用的方法，還可以和除判別分析外的其它有監(jiān)督特征提取準(zhǔn)則(如最大邊界準(zhǔn)則MMC)相結(jié)合，得到新的半監(jiān)督維數(shù)約簡方法。

圖3 模型參數(shù)在3個測試數(shù)據(jù)庫上對所提方法SLPRDA性能的影響

[1] Turk M A and Pentland A P. Eigenfaces for recognition[J]., 1991, 3(1): 71-86.

[2] Belhumeur P N, Hespanha J, and Kriegman D. Eigenfaces vs. Fisherfaces: recognition using class specific linear projection [J]., 1997, 19(7): 711-720.

[3] Zhao W, Chellappa R, and Phillips P J. Subspace linear discriminant analysis for face recognition[R]. Technical Report CAR-TR-914, Center for Automation Research, University of Maryland, 1999.

[4] Tan X, Chen S, Zhou Z H,.. Face recognition from a single image per person: a survey[J]., 2006, 39(9): 1725-1745.

[5] Cai D, He X, and Han J. Semi-supervised discriminant analysis[C]. Proceedings of IEEE International Conference on Computer Vision, Rio de Janeiro, 2007: 1-7.

[6] He X and Niyogi P. Locality preserving projections[C]. Proceedings of the Advances in Neural Information Processing Systems, Vancouver, 2003: 585-591.

[7] Chen J H, Ye J P, and Li Q. Integrating global and local structures: a least squares framework for dimensionality reduction[C]. Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, Minneapolis, 2007: 1-8.

[8] Song Y Q, Nie F P, Zhang C S,.. A unified framework for semi-supervised dimensionality reduction[J]., 2008, 41(9): 2789-2799.

[9] Li H F, Jiang T, and Zhang K S. Efficient and robust feature extraction by maximum margin criterion[J]., 2006, 17(1): 157-165.

[10] Qiao L, Chen S, and Tan X. Sparsity preserving discriminant analysis for single training image face recognition[J]. Pattern Recognition Letters, 2010, 31(5): 422-429.

[11] Friedman J H. Regularized discriminant analysis[J]., 1989, 84(405): 165-175.

[12] Ji S and Ye J. Generalized linear discriminant analysis: a unified framework and efficient model selection[J]., 2008, 19(10): 1768-1782.

[13] Cheng H, Liu Z, Yang L,.. Sparse representation and learning in visual recognition: theory and applications[J]., 2013, 93(6): 1408-1425.

[14] Wright J, Ma Y, Mairal J,.. Sparse representation for computer vision and pattern recognition[J]., 2010, 98(6): 1031-1044.

[15] 宋相法, 焦李成. 基于稀疏表示及光譜信息的高光譜遙感圖像分類[J]. 電子與信息學(xué)報, 2012, 34(2): 268-272.

Song Xiang-fa and Jiao Li-cheng. Classification of hyperspectral remote sensing image based on sparse representation and spectral information[J].&, 2012, 34(2): 268-272.

[16] 殷飛, 焦李成. 基于旋轉(zhuǎn)擴展和稀疏表示的魯棒遙感圖像目標(biāo)識別[J]. 模式識別與人工智能, 2012, 25(1): 89-95.

Yin Fei and Jiao Li-cheng. Robust remote sensing image target recognition based on extending training set by rotation and sparse representation[J]., 2012, 25(1): 89-95.

[17] Baraniuk R. Compressive sensing[J]., 2007, 24(4): 118-121.

[18] Wright J, Yang A, Sastry S,.. Robust face recognition via sparse representation[J]., 2009, 31(2): 210-227.

[19] Naseem I, Togneri R, and Bennamoun M. Linear regression for face recognition[J]., 2010, 32(11): 2106-2112.

[20] GrossR. PIE database[OL]. http://vasc.ri.cmu.edu/idb/ html/face/, 2013.4.

[21] Lee K. The extended Yale face database B[OL]. http://vision. ucsd.edu/~leekc/ExtYaleDatabase/ExtYaleB.html, 2013.4.

[22] Martinez A M. AR face database[OL]. http://www2.ece.ohio- state.edu/~aleix/ARdatabase.html, 2013.4.

[23] Martinez A M and Kak A C. PCA versus LDA[J]., 2001, 23(2): 228-233.

[24] Wiskott L, Fellous J-M, Kruger N,.. Face recognition by elastic bunch graph matching[J]., 1997, 19(7): 775-779.

殷 飛： 男，1984年生，博士生，研究方向為模式識別、圖像處理、機器學(xué)習(xí).

焦李成： 男，1959年生，博士生導(dǎo)師，教授，研究方向為自然計算、信號和圖像處理、智能信息處理.

楊淑媛： 女，1978年生，博士生導(dǎo)師，教授，研究方向為智能信號與圖像處理、機器學(xué)習(xí)等.

① 實驗使用CSU人臉識別評價系統(tǒng)的EBGM代碼：http://www. cs.colostate.edu/evalfacerec/index10.php

Subspace Label Propagation and Regularized Discriminant Analysis Based Single Labeled Image Person Face Recognition

Yin Fei Jiao Li-cheng Yang Shu-yuan

(,,’710071,)

To tackle the problem of single labeled image person face recognition, a subspace label propagation and regularized discriminant analysis based semi-supervised dimensionality reduction method is proposed in this paper. First, a label propagation method based on subspace assumption is designed to propagate the label information from labeled data to unlabeled data. Then, based on the propagated labeled dataset, regularized discriminant analysis is used to conduct dimensionality reduction. Finally, the recognition of testing face is completed in low dimensional space using nearest neighbor classifier. The extensive experiments on three publicly available face databases CMU PIE, Extended Yale B, and AR validate the feasibility and effectiveness of the proposed method.

Face recognition; Subspace assumption; Label propagation; Regularized discriminant analysis; Semi- supervised dimensionality reduction

TP391.41

A

1009-5896(2014)03-0610-07

10.3724/SP.J.1146.2013.00554

2013-04-24收到，2013-11-06改回

國家自然科學(xué)基金(61173090, 61072106, 60971112, 61072108)，高等學(xué)校學(xué)科創(chuàng)新引智計劃(B07048)以及教育部長江學(xué)者和創(chuàng)新團隊發(fā)展計劃(IRT1170)資助課題

殷飛 yinfei701@163.com