趙曉曉, 周治平, 賈 旋

(江南大學(xué)物聯(lián)網(wǎng)技術(shù)應(yīng)用教育部工程研究中心, 江蘇 無(wú)錫 214122)

0 引 言

當(dāng)今社會(huì),各種各樣的數(shù)據(jù)充斥在人們的生活中,尤其是高維數(shù)據(jù),廣泛地存在于機(jī)器學(xué)習(xí)、信號(hào)和圖像處理、計(jì)算機(jī)視覺(jué)、模式識(shí)別等領(lǐng)域。對(duì)高維數(shù)據(jù)進(jìn)行聚類分析,維數(shù)的升高不僅會(huì)增加算法的計(jì)算時(shí)間和存儲(chǔ)需求,而且容易引發(fā)“維數(shù)災(zāi)難”。特別是當(dāng)高維數(shù)據(jù)含有干擾信息時(shí),傳統(tǒng)的聚類算法已經(jīng)不能很好地處理這類數(shù)據(jù)。但是,考慮到高維數(shù)據(jù)往往分布于多個(gè)低維子空間的并上,獲得高維數(shù)據(jù)的低維結(jié)構(gòu)不僅能夠降低算法的計(jì)算開銷和存儲(chǔ)需求,而且能夠降低數(shù)據(jù)中的噪聲干擾,提高聚類分析的性能[1]。因而產(chǎn)生了子空間聚類[2]問(wèn)題,其目的是將不同子空間上的高維數(shù)據(jù)聚類到本屬的低維子空間中。

當(dāng)前,子空間聚類算法一直備受關(guān)注,已有大量改進(jìn)算法和應(yīng)用研究[3-4],特別是基于譜聚類的子空間聚類算法。該方法首先使用每個(gè)數(shù)據(jù)的局部信息建立數(shù)據(jù)點(diǎn)與數(shù)據(jù)點(diǎn)之間的相似度矩陣,然后通過(guò)譜聚類算法獲得數(shù)據(jù)劃分。文獻(xiàn)[5-6]通過(guò)求解數(shù)據(jù)與數(shù)據(jù)之間的低秩表示獲得相似度矩陣,提出了一種基于低秩表示(low rank representation, LRR)聚類算法。文獻(xiàn)[7]提出對(duì)稱低秩表示的子空間聚類算法,考慮將協(xié)同表示用于低秩矩陣恢復(fù),保留高維數(shù)據(jù)的子空間結(jié)構(gòu),通過(guò)對(duì)稱低秩矩陣優(yōu)化求解避免迭代奇異值分解(singular value decomposition, SVD)計(jì)算降低復(fù)雜度。文獻(xiàn)[8]利用數(shù)據(jù)關(guān)聯(lián)的優(yōu)點(diǎn)聚合高關(guān)聯(lián)性數(shù)據(jù),提出基于最小二乘回歸(least squares regression, LSR)的子空間聚類算法,采用Frobenius范數(shù)對(duì)系數(shù)矩陣進(jìn)行約束。文獻(xiàn)[9]深度分析了聚類效率,根據(jù)組效應(yīng)建立相似度矩陣,提出了基于平滑表示框架(smooth representation, SMR)的子空間聚類算法。

文獻(xiàn)[10-11]提出的稀疏子空間聚類算法(sparse subspace clustering, SSC)是近年來(lái)子空間聚類算法的研究熱點(diǎn),利用l1范數(shù)得到數(shù)據(jù)樣本的稀疏表示,利用系數(shù)矩陣構(gòu)造相似度矩陣。能夠很好地處理高維數(shù)據(jù)的聚類問(wèn)題,但當(dāng)數(shù)據(jù)集被噪聲污染或者存在樣本缺失時(shí)效果較差。針對(duì)受噪聲影響或嚴(yán)重?fù)p壞的數(shù)據(jù),文獻(xiàn)[12]將原始數(shù)據(jù)矩陣分解為干凈數(shù)據(jù)、高斯噪聲數(shù)據(jù)和系數(shù)誤差矩陣,利用低秩矩陣恢復(fù)得到干凈的字典,提高算法性能。文獻(xiàn)[13]針對(duì)稀疏子空間聚類中缺損字典的情況,提出和評(píng)估了兩種新的子空間聚類算法,在大比例缺損字典時(shí)有著更好的效果。為了提高子空間聚類算法的魯棒性,文獻(xiàn)[14]提出結(jié)合圖正則化和判別式字典來(lái)改進(jìn)低秩表示方法,判別式字典的引入克服了噪聲數(shù)據(jù)對(duì)高維數(shù)據(jù)的影響,即使是受損嚴(yán)重的數(shù)據(jù)也能夠有效獲取高維數(shù)據(jù)的局部和全局結(jié)構(gòu)特征。文獻(xiàn)[15]利用數(shù)據(jù)點(diǎn)的空間幾何結(jié)構(gòu)在稀疏優(yōu)化框架中對(duì)表示系數(shù)進(jìn)行加權(quán),提出了加權(quán)的稀疏優(yōu)化框架。文獻(xiàn)[16]利用重加權(quán)的l1范數(shù)代替?zhèn)鹘y(tǒng)l1范數(shù),建立了重加權(quán)的l1最小化稀疏優(yōu)化框架,并基于此提出一種重加權(quán)的SSC(reweighted SSC, RSSC)算法。文獻(xiàn)[17]提出結(jié)構(gòu)化SSC(structured sparse subspace clustering,SSSC)算法,采用統(tǒng)一的優(yōu)化框架來(lái)自動(dòng)結(jié)合系數(shù)矩陣和譜聚類,將譜聚類輸出定義為子空間結(jié)構(gòu)矩陣,反饋?zhàn)鳛橄乱淮蔚闹丶訖?quán)表示矩陣。文獻(xiàn)[18]提出基于正交匹配追蹤的可擴(kuò)展SSC(scalable SSC by orthogonal matching pursuit, SSC-OMP)算法,用來(lái)求解稀疏子空間模型的稀疏解。文獻(xiàn)[19]針對(duì)OMP方法用于大規(guī)模數(shù)據(jù)時(shí)增加計(jì)算復(fù)雜度的問(wèn)題,提出學(xué)習(xí)OMP(learning OMP,LOMP)算法來(lái)訓(xùn)練單層神經(jīng)網(wǎng)絡(luò)模型,用來(lái)加快基于l0編碼的SSC算法。文獻(xiàn)[20]利用改進(jìn)的SSC算法選擇適當(dāng)?shù)牟ǘ螏ё蛹?以解決高光譜圖像分類問(wèn)題。文獻(xiàn)[21-22]利用加權(quán)SSC算法來(lái)解決圖像分割問(wèn)題。

盡管目前關(guān)于SSC的研究很多,并取得了豐富的研究成果,但仍有一些問(wèn)題有待進(jìn)一步研究。SSC的核心在于利用合理的稀疏優(yōu)化框架確保表示系數(shù)矩陣具有塊對(duì)角結(jié)構(gòu),從而揭示數(shù)據(jù)的子空間特性,指導(dǎo)聚類劃分。為了精確聚類,需要盡可能確保表示系數(shù)矩陣滿足類間稀疏、類內(nèi)一致性。理論來(lái)說(shuō)l0優(yōu)化框架能夠很好地解決這一問(wèn)題,但其優(yōu)化問(wèn)題是NP難問(wèn)題。當(dāng)前主要采用的l1優(yōu)化框架求取數(shù)據(jù)稀疏表示,但是求得的表示系數(shù)矩陣存在一定的缺陷,不能很好地滿足類間稀疏、類內(nèi)一致性。因此,本文在文獻(xiàn)[16]建立的重加權(quán)l(xiāng)1優(yōu)化框架中引入反正切函數(shù)的概念,通過(guò)一個(gè)選擇函數(shù)使其能夠同時(shí)滿足l0最小化在數(shù)據(jù)較小時(shí)斜率趨于無(wú)窮和數(shù)據(jù)較大時(shí)斜率趨于零的兩個(gè)重要特征,從而更好地逼近l0最小化,并基于此提出了一種改進(jìn)的RSSC(evolving RSSC, ERSSC)。

1 重加權(quán)的稀疏優(yōu)化框架

為了獲得每個(gè)數(shù)據(jù)點(diǎn)的稀疏表示,采用重加權(quán)的l1最小化對(duì)其進(jìn)行凸松弛處理。同時(shí)考慮到實(shí)際問(wèn)題中,數(shù)據(jù)點(diǎn)通?；旌现∈璧钠嫣刂岛驮肼?。另外,數(shù)據(jù)常常分布于仿射子空間的并上而非線性子空間,從而建立重加權(quán)的稀疏優(yōu)化框架,即

s.t.Y=YC+Z,1TC=1T, diag(C)=0

(1)

式中,C=[c1c2…cN]∈RN×N表示系數(shù)矩陣,每一列對(duì)應(yīng)每個(gè)數(shù)據(jù)點(diǎn)的稀疏表示；diag(C)∈RN為矩陣C的對(duì)角元素組成的向量;W=[w1w2…wn]∈RN×N為加權(quán)對(duì)角矩陣;Z為噪聲矩陣;λz為噪聲系數(shù)。

2 本文算法

2.1 幾種函數(shù)的比較

SSC算法的原理在于根據(jù)數(shù)據(jù)自表征性,利用稀疏優(yōu)化框架獲取最優(yōu)的稀疏表示。最好的稀疏優(yōu)化方法是l0最小化框架,即直接通過(guò)函數(shù)計(jì)算矩陣的非零個(gè)數(shù),但這是一個(gè)NP難問(wèn)題。因此,文獻(xiàn)[11]考慮l1最小化,并證明了在恰當(dāng)?shù)淖涌臻g排列和數(shù)據(jù)分布條件下,l1最小化能夠成功地求得期望的稀疏表示。文獻(xiàn)[16]采用重加權(quán)的l1最小化,以對(duì)數(shù)函數(shù)的形式逼近l0最小化,獲得比l1最小化更好的聚類結(jié)果。本文同時(shí)考慮反正切函數(shù)的形式,用以優(yōu)化對(duì)數(shù)函數(shù),使其能夠更好地逼近l0最小化。以上問(wèn)題，可以通過(guò)一個(gè)簡(jiǎn)單的例子說(shuō)明。首先定義4個(gè)懲罰函數(shù)

f0(x)=1{x≠0}

(2)

f1(x)=x

(3)

flog(x)=log(x+ε)

(4)

(5)

相應(yīng)的函數(shù)曲線如圖1所示。

(1)f0(x)函數(shù)能夠直接對(duì)非零個(gè)數(shù)進(jìn)行計(jì)算,因而基于該函數(shù)的最小化框架能夠求得最稀疏解。但是,該函數(shù)卻是不連續(xù)函數(shù),難以求解。因此,重點(diǎn)分析f0(x)的特性,以便更好地近似于該函數(shù)。其特性在于:在x→0+時(shí),其斜率為正無(wú)窮,在x→0-時(shí),其斜率為負(fù)無(wú)窮,值為0;在x≠0時(shí),斜率為0,值為1。

(2)f1(x)函數(shù)是一個(gè)斜率恒為1的正比例函數(shù),雖然不具備f0(x)函數(shù)的顯著特點(diǎn),但是基于該函數(shù)的最小化框架能夠在合適的條件下近似求得數(shù)據(jù)的稀疏表示,其可行性在文獻(xiàn)[11]中已被證明。

圖1 四個(gè)懲罰函數(shù)的函數(shù)曲線圖Fig.1 Graph of four penalty functions

(3)flog(x)函數(shù)為一個(gè)對(duì)數(shù)函數(shù),具有f0(x)函數(shù)的一個(gè)重要特點(diǎn):ε→0時(shí),在x→0+或x→0-時(shí)斜率為正無(wú)窮或負(fù)無(wú)窮。隨著x的增加其斜率逐漸趨近于0,但是卻過(guò)于緩慢,無(wú)法保證x≠0時(shí)的斜率。因此,采用該函數(shù)的重加權(quán)稀疏優(yōu)化框架雖然能夠獲得相較于f1(x)函數(shù)更好的稀疏表示,卻仍有改進(jìn)的余地。

(4) 對(duì)于反正切函數(shù)fatan(x),其性能隨著σ的變化而變化。fatan(x)函數(shù)在σ→0+時(shí)同對(duì)數(shù)函數(shù)flog(x)相似,同樣具有f0(x)函數(shù)的一個(gè)重要特點(diǎn):其斜率在x→0+或x→0-時(shí)為正無(wú)窮或負(fù)無(wú)窮。但此時(shí)同樣不能保證x≠0時(shí)的斜率,甚至其斜率還要高于對(duì)數(shù)函數(shù);當(dāng)σ>0時(shí),特別在σ較大時(shí),雖然fatan(x)函數(shù)在x→0斜率較低,無(wú)法滿足優(yōu)化要求,但是卻能滿足f0(x)函數(shù)的另一個(gè)特點(diǎn):在x≠0時(shí),其斜率趨近于0。

綜合可知:雖然反正切函數(shù)有著f0(x)函數(shù)的兩個(gè)特點(diǎn),卻很難平衡參數(shù)σ,同時(shí)滿足需求。因此,考慮將對(duì)數(shù)函數(shù)和反正切函數(shù)的特點(diǎn)進(jìn)行中和,設(shè)計(jì)了分段函數(shù)flog-atan(x)，即

(6)

該函數(shù)在x較小時(shí)為對(duì)數(shù)函數(shù),較大時(shí)為反正切函數(shù),使得flog-atan(x)函數(shù)能夠同時(shí)滿足f0(x)函數(shù)的兩個(gè)特點(diǎn)。

2.2 加權(quán)矩陣更新策略

本文以flog-atan(x)函數(shù)模型替換flog(x)函數(shù)模型,使其能夠更好地逼近模型稀疏解。同文獻(xiàn)[16]相似,為了將flog-atan(x)函數(shù)優(yōu)化引入到子空間表示模型中,本文同樣采用重加權(quán)的l1最小化進(jìn)行模型求解。下面將討論加權(quán)矩陣W的更新算法。

首先,考慮到flog-atan(x)函數(shù)是一個(gè)分段函數(shù),為了不顯得加權(quán)矩陣W的更新過(guò)于突兀,引入選擇矩陣S,用來(lái)選擇不同狀態(tài)下的W更新措施,即

si=sign(max(ε,xi)-δ)

(7)

接著,考慮以下問(wèn)題:

s.t.Ax=b

(8)

(9)

在第k個(gè)迭代周期,函數(shù)的局部最小化可以分成靜態(tài)部分和動(dòng)態(tài)部分。式(9)中,只有xi為變量,其余全為常量。因此,第k+1個(gè)迭代周期的最小化問(wèn)題,等價(jià)為求解式(9)動(dòng)態(tài)部分的最小化,其數(shù)學(xué)模型為

s.t.Ax=b

(10)

式(10)由常量系數(shù)和x的l1最小化乘積構(gòu)成。而重加權(quán)的l1最小化,就是通過(guò)不斷地更新常量系數(shù)優(yōu)化函數(shù)模型,使其具有flog(x)函數(shù)和fatan(x)函數(shù)的導(dǎo)數(shù)性質(zhì),滿足l0最小化的兩個(gè)重要特征。其中,文獻(xiàn)[16]引入flog(x)函數(shù),其加權(quán)矩陣更新公式為

(11)

確保在xi較小時(shí),滿足斜率趨于無(wú)窮的特性。

(12)

最后,討論本文采用的flog-atan(x)函數(shù)形式的重加權(quán)l(xiāng)1最小化模型,其加權(quán)矩陣W在第k個(gè)迭代周期的更新方法為

(13)

2.3 算法流程

同RSSC[16]算法相同,本文算法的子空間模型仍然是一個(gè)可分離的凸規(guī)劃問(wèn)題,采用交替方向乘子法,將模型求解轉(zhuǎn)化成多個(gè)子問(wèn)題迭代求解,最終可求得模型解。此時(shí)求得模型解,即數(shù)據(jù)的自表征矩陣,從而可以建立數(shù)據(jù)的相似度矩陣。隨后,利用譜聚類方法可以獲得最終的聚類結(jié)果。其流程如下：

算法1ERSSC算法流程

輸入Y∈RM×N

初始化A(0),C(0),Δ(0),n,tol,ρ,k=0

1:while(‖A(k+1)-A(k)‖>tol或‖C(k+1)-C(k)‖>tol)do

2: 通過(guò)求解下式來(lái)更新A(k+1):

(λzYTY+ρI)A(k+1)=λzYTY+ρC(k)-Δ(k)

3: 更新C(k+1)=J-diag(J),其中

4: 根據(jù)式(7)更新S(k+1)

5: 根據(jù)式(13)更新W(k+1)

6:Δ(k+1)=Δ(k)+ρ(A(k+1)-C(k+1))

7:k=k+1

8:endwhile

9: 歸一化矩陣C的列向量ci=ci/‖ci‖∞

10: 建立相似度矩陣AF=|C|+|C|T

11: 根據(jù)AF執(zhí)行譜聚類算法

輸出類標(biāo)簽

3 實(shí)驗(yàn)分析

對(duì)比算法均采用先進(jìn)的子空間聚類算法,如LRR[6]、LSR[8]、SMR[9]、SSC[11]、RSSC[16],同時(shí)使用其作者提供的Matlab代碼進(jìn)行測(cè)試。所有仿真實(shí)驗(yàn)基于計(jì)算機(jī)硬件配置為:Intel Core i5-4200M CPU 2.5 GHz、4 GB RAM的Matlab 2010b平臺(tái)。同時(shí),為了公平比較各聚類算法的性能,統(tǒng)一使用誤差率來(lái)評(píng)估所有算法的聚類性能。

3.1 參數(shù)選取

在對(duì)The Extended Yale B數(shù)據(jù)[24]測(cè)試時(shí):對(duì)于LRR[6],參照原文獻(xiàn),選定λ=0.15;對(duì)于LSR[8]的兩種方法LSR1和LSR2,選用文獻(xiàn)中采用的參數(shù)均為λ=0.004;對(duì)于SMR,設(shè)定α=20,獲得了同文獻(xiàn)[9]相似的結(jié)果;對(duì)于SSC[11],選用文獻(xiàn)中采用的參數(shù)α=20;對(duì)于RSSC[16],選用文獻(xiàn)中設(shè)定的參數(shù)α=20，ε1=9×10-3，ε2=2.7×10-3;本文算法,選用α=20，ε1=9×10-3，ε2=2.7×10-4,設(shè)定δ=1×10-5，σ=25。

3.2 The Hopkins 155 數(shù)據(jù)集

The Hopkins 155數(shù)據(jù)集包含155個(gè)視頻序列,其中120個(gè)序列有2個(gè)移動(dòng)目標(biāo),35個(gè)序列有3個(gè)移動(dòng)目標(biāo),分別對(duì)應(yīng)二維或三維子空間。主要分為3類:棋盤格、交通和鏈接式或非剛性運(yùn)動(dòng)序列。這些視頻序列都非常短,時(shí)間往往低于1 s或幾秒。該數(shù)據(jù)集中的一些樣本序列如圖2所示。

圖2 The Hopkins 155 數(shù)據(jù)集中的部分樣本序列Fig.2 Some sample sequences from the Hopkins 155 dataset

實(shí)驗(yàn)中分別對(duì)2F維特征軌跡數(shù)據(jù)和經(jīng)過(guò)PCA算法投影2F維特征軌跡獲得的4n維子空間進(jìn)行測(cè)試,n表示移動(dòng)目標(biāo)的個(gè)數(shù)。結(jié)果如表1和表2所示。

表1 在The Hopkins 155數(shù)據(jù)集的2F維數(shù)據(jù)的聚類誤差

表2 The Hopkins 155數(shù)據(jù)集的4n維數(shù)據(jù)的聚類誤差

由表1、表2中可知：

(1) 針對(duì)3移動(dòng)目標(biāo),ERSSC算法的聚類誤差分別從2.01%和2.50%降到了1.96%和1.89%,聚類性能較其他子空間算法較優(yōu)。在2F維移動(dòng)軌跡中,ERSSC算法在2移動(dòng)目標(biāo)時(shí),聚類誤差稍高于RSSC算法,卻遠(yuǎn)低于其他子空間算法。同時(shí),考慮到ERSSC算法為RSSC算法的改進(jìn)算法,以選擇矩陣S的方式將RSSC算法的優(yōu)點(diǎn)引入ERSSC算法中。假若在處理2移動(dòng)目標(biāo)時(shí)設(shè)定S為零矩陣,ERSSC算法就轉(zhuǎn)化成RSSC算法,能在各子空間算法中獲得性能最優(yōu)的聚類結(jié)果。由此可以說(shuō)明在該數(shù)據(jù)集上,ERSSC算法的聚類性能要優(yōu)于其他子空間聚類算法。

(2) 相較于2F維移動(dòng)軌跡,ERSSC算法在4n維移動(dòng)軌跡中的聚類性能相較于其他子空間算法更加優(yōu)越。一般由于數(shù)據(jù)經(jīng)過(guò)PCA處理導(dǎo)致信息遺失,聚類算法在4n維移動(dòng)軌跡中的聚類誤差要高于2F維移動(dòng)軌跡。但是相較于其他子空間算法,尤其是性能較優(yōu)的RSSC算法,ERSSC算法在處理4n維移動(dòng)軌跡時(shí)聚類誤差波動(dòng)較小,魯棒性更高。同時(shí),不論是2移動(dòng)目標(biāo)還是3移動(dòng)目標(biāo),ERSSC算法的聚類誤差都是最低的,性能優(yōu)勢(shì)更加明顯。

3.3 The Extended Yale B 數(shù)據(jù)集

The Extended Yale B 數(shù)據(jù)集包含38個(gè)對(duì)象的人臉照片,每個(gè)對(duì)象含有64張?jiān)诓煌庹諚l件下拍攝的正面照,每張照片大小為192×168。該數(shù)據(jù)集中的一些樣本如圖3所示。

圖3 The Extended Yale B數(shù)據(jù)集中的部分樣本Fig.3 Some samples from the Extended Yale B dataset

為了降低計(jì)算復(fù)雜度和存儲(chǔ)開銷,對(duì)每張照片采樣減小為包含48×42像素的圖片,作為一個(gè)數(shù)據(jù)點(diǎn)。為了研究主體數(shù)目對(duì)聚類效果的影響,38個(gè)主體劃分為4個(gè)群組,即1:10,11:20,21:30,31:38。對(duì)于前3個(gè)群組,選取n∈{2,3,5,8,10}作為主體數(shù)；對(duì)于第4個(gè)群組,選取n∈{2,3,5,8}作為主體數(shù)。選取不同n值分別進(jìn)行測(cè)試,實(shí)驗(yàn)結(jié)果如表3所示。

表3 The Extended Yale 數(shù)據(jù)集上的聚類誤差

由表3可知:SMR、SSC、RSSC和ERSSC等子空間算法在the Extended Yale B數(shù)據(jù)集中都獲得了較好的聚類性能,RSSC和ERSSC算法的聚類誤差甚至低于5%。也就是說(shuō),相較于其他子空間算法,ERSSC算法有著更好的聚類性能,尤其是在主體數(shù)較低時(shí),其性能優(yōu)勢(shì)更加明顯,聚類誤差甚至低于1%。

4 結(jié) 論

本文將反正切函數(shù)的概念引入到重加權(quán)的l1最小化框架中,使其相較于原重加權(quán)l(xiāng)1最小化和l1最小化更逼近l0最小化。同時(shí)分析了重加權(quán)的l1最小化框架機(jī)制,討論了新加權(quán)矩陣的更新方法,提出了改進(jìn)重加權(quán)SSC算法。通過(guò)實(shí)驗(yàn),將該算法同重加權(quán)稀疏子空間算法和其他子空間算法進(jìn)行對(duì)比。結(jié)果表明,在the Hopkins 155數(shù)據(jù)集和the Extended Yale B數(shù)據(jù)集中,都獲得了相較于其他子空間聚類算法更優(yōu)的聚類性能。

[1] 王衛(wèi)衛(wèi), 李小平, 馮象初, 等. 稀疏子空間聚類綜述[J]. 自動(dòng)化學(xué)報(bào), 2015, 41(8): 1373-1384.

WANG W W, LI X P, FENG X C, et al. A survey on sparse subspace clustering[J]. Acta Automatica Sinica, 2015, 41(8): 1373-1384.

[2] PARSONS L, HAQUE E, LIU H. Subspace clustering for high dimensional data: a review[J]. ACM SIGKDD Explorations New-sletter, 2004, 6(1): 90-105.

[3] GAN G, NG M K P. Subspace clustering using affinity propagation[J]. Pattern Recognition, 2015, 48(4):1455-1464.

[4] PENG X, YI Z, TANG H. Robust subspace clustering via thresholding ridge regression[C]∥Proc.of the AIAA Conference on Artificial Intelligence,2015: 3827-3833.

[5] LIU G, LIN Z, YU Y. Robust subspace segmentation by low-rank representation[C]∥Proc.of the 27th International Conference on Machine Learning, 2010: 663-670.

[6] CHEN J, ZHANG H, MAO H, et al. Symmetric low-rank re-presentation for subspace clustering[J]. Neurocomputing, 2016, 173(P3): 1192-1202.

[7] LIU G, LIN Z, YAN S, et al. Robust recovery of subspace structures by low-rank representation[J]. IEEE Trans.on Pattern Analysis and Machine Intelligence,2013,35(1):171-184.

[8] LU C Y, MIN H, ZHAO Z Q, et al. Robust and efficient subspace segmentation via least squares regression[C]∥Proc.of the European Conference on Computer Vision, 2012: 347-360.

[9] HU H, LIN Z, FENG J, et al. Smooth representation clustering[C]∥Proc.of the IEEE Conference on Computer Vision and Pattern Recognition, 2014: 3834-3841.

[10] ELHAMIFAR E, VIDAL R. Sparse subspace clustering[C]∥Proc.of the IEEE Conference on Computer Vision and Pattern Recognition, 2009: 2790-2797.

[11] ELHAMIFAR E, VIDAL R. Sparse subspace clustering: algorithm, theory, and applications[J]. IEEE Trans.on Pattern Analysis and Machine Intelligence, 2013, 35(11): 2765-2781.

[12] VIDAL R, FAVARO P. Low rank subspace clustering (LRSC)[J]. Pattern Recognition Letters, 2014, 43(1): 47-61.

[13] YANG C, ROBINSON D, VIDAL R. Sparse subspace clustering with missing entries[C]∥Proc.of the 32nd International Conference on Machine Learning, 2015: 2463-2472.

[14] WANG J, SHI D, CHENG D, et al. LRSR: low-rank-sparse representation for subspace clustering[J]. Neurocomputing, 2016, 214: 1026-1037.

[15] PHAM D S, BUDHADITYA S, PHUNG D, et al. Improved subspace clustering via exploitation of spatial constraints[C]∥Proc.of the IEEE Conference on Computer Vision and Pattern Re-cognition, 2012: 550-557.

[16] XU J, XU K, CHEN K, et al. Reweighted sparse subspace clustering[J]. Computer Vision and Image Understanding, 2015, 138: 25-37.

[17] LI C G, VIDAL R. Structured sparse subspace clustering: a unified optimization framework[C]∥Proc.of the IEEE Confe-rence on Computer Vision and Pattern Recognition, 2015: 277-286.

[18] YOU C, ROBINSON D, VIDAL R. Scalable sparse subspace clustering by orthogonal matching pursuit[C]∥Proc.of the IEEE Conference on Computer Vision and Pattern Recognition, 2016: 3918-3927.

[19] LI J, KONG Y, FU Y. Sparse subspace clustering by learning approximationl0codes[C]∥Proc.of the AIAA Conference on Artificial Intelligence, 2017: 2189-2195.

[20] SUN W, ZHANG L, DU B, et al. Band selection using improved sparse subspace clustering for hyperspectral imagery classification[J]. IEEE Journal of Selected Topics in Applied Earth Observations and Remote Sensing,2015,8(6):2784-2797.

[21] 李濤, 王衛(wèi)衛(wèi), 翟棟, 等. 圖像分割的加權(quán)稀疏子空間聚類方法[J]. 系統(tǒng)工程與電子技術(shù), 2014, 36(3): 580-585.

LI T, WANG W W, ZHAI D, et al. Weighted-sparse subspace clustering method for image segmentation[J]. Systems Engineering and Electronics, 2014, 36(3): 580-585.

[22] 岳溫川,王衛(wèi)衛(wèi),李小平.基于加權(quán)稀疏子空間聚類多特征融合圖像分割[J].系統(tǒng)工程與電子技術(shù),2016,38(9):2184-2191.

YUE W C, WANG W W, LI X P. Multi-feature fusion image segmentation based on weighted-sparse subspace clustering[J]. Systems Engineering and Electronics,2016,38(9):2184-2191.

[23] LEE K C, HO J, KRIEGMAN D J. Acquiring linear subspaces for face recognition under variable lighting[J]. IEEE Trans.on Pattern Analysis and Machine Intelligence, 2005, 27(5): 684-698.

[24] TRON R, VIDAL R. A benchmark for the comparison of 3rd motion segmentation algorithms[C]∥Proc.of the IEEE Conference on Computer Vision and Pattern Recognition, 2007: 1-8.