王 耀，楊化超，王光輝，黃 杰，王 更，劉 笑

(1. 中國(guó)礦業(yè)大學(xué)，江蘇 徐州 221116； 2. 國(guó)家測(cè)繪地理信息局衛(wèi)星測(cè)繪應(yīng)用中心, 北京 100830)

利用多分類器自適應(yīng)級(jí)聯(lián)模型的高分二號(hào)影像分類

王 耀1,2，楊化超1，王光輝1,2，黃 杰1,2，王 更1,2，劉 笑1,2

(1. 中國(guó)礦業(yè)大學(xué)，江蘇 徐州 221116； 2. 國(guó)家測(cè)繪地理信息局衛(wèi)星測(cè)繪應(yīng)用中心, 北京 100830)

針對(duì)傳統(tǒng)單一分類器分類效果不夠理想，存在各自的不足，以及已有的多分類器級(jí)聯(lián)模型不能根據(jù)待識(shí)別樣本特征進(jìn)行動(dòng)態(tài)調(diào)整優(yōu)化等問題，提出了一種基于多分類器自適應(yīng)級(jí)聯(lián)模型的遙感影像分類方法。該模型選取各類別最優(yōu)分類器進(jìn)行級(jí)聯(lián)組合，以待識(shí)別樣本在整體性能最優(yōu)分類器的表現(xiàn)對(duì)類別最優(yōu)分類器作出自適應(yīng)調(diào)整，對(duì)高分辨率影像分割后的像斑對(duì)象輸出類別信息。以杭州區(qū)域高分二號(hào)遙感影像進(jìn)行分類試驗(yàn)，結(jié)果表明，本文方法相比于單一分類器及已有的級(jí)聯(lián)模型具有更高的分類精度。

多分類器；影像分類；自適應(yīng)模型；高分二號(hào)

對(duì)遙感影像提取類別信息，是遙感數(shù)據(jù)在各個(gè)領(lǐng)域得到廣泛應(yīng)用的基礎(chǔ)環(huán)節(jié)，是遙感數(shù)據(jù)轉(zhuǎn)換為可用地理數(shù)據(jù)的技術(shù)核心[1-2]。隨著高分辨率遙感影像的快速發(fā)展，地物細(xì)節(jié)信息變得更加豐富與精細(xì)，但“同物異譜”現(xiàn)象的出現(xiàn)會(huì)對(duì)分類質(zhì)量帶來不良影響。傳統(tǒng)單一分類器利用了影像某方面的特征和規(guī)則而忽略了其他方面的有用信息，存在一定的局限性與各自的不足，導(dǎo)致最終的輸出類別精度無法滿足實(shí)際應(yīng)用的需要，因此，能夠綜合利用各種分類器的優(yōu)勢(shì)的多分類器集成方法成為學(xué)者研究的熱點(diǎn)[3-5]。

多分類器集成對(duì)不同分類器之間的互補(bǔ)信息加以利用，可以構(gòu)造優(yōu)于單個(gè)分類器的融合器，從而顯著提高分類精度。近年來，多分類器組合的方法逐漸應(yīng)用在遙感影像分類領(lǐng)域中并取得了良好的效果。柏延臣等[6]分別給出了抽象級(jí)上相同訓(xùn)練特征多分類器組合、抽象級(jí)上不同訓(xùn)練特征多分類器組合和測(cè)量級(jí)上貝葉斯平均法多分類器組合，完成了Landsat TM多光譜影像土地覆被分類；韓建峰等[7]將組合分類方法引入到高光譜影像的分類過程中，針對(duì)影像特點(diǎn)，提出了級(jí)聯(lián)與并聯(lián)混合的組合策略；王惠英等[8]提出最近距離法和基于知識(shí)規(guī)則的模糊分類法相結(jié)合的混合分類法，使總體分類精度得到了提高；彭正林等[9]自定義規(guī)則對(duì)簡(jiǎn)單投票法、最大概率類別法及模糊積分法進(jìn)行組合完成航攝數(shù)字正射影像的分類。這些方法在分類前選取了固定的參數(shù)進(jìn)行多分類器集成，對(duì)任何測(cè)試樣本均采用相同的分類器子集，系統(tǒng)結(jié)構(gòu)固定，缺乏一定的靈活性。本文充分考慮分類器級(jí)聯(lián)組合方式的嚴(yán)密性及已有級(jí)聯(lián)方法的缺陷，提出一種多分類器自適應(yīng)級(jí)聯(lián)模型指導(dǎo)遙感影像分類。多分類器自適應(yīng)級(jí)聯(lián)模型能夠利用不同分類器模型之間的互補(bǔ)信息，并根據(jù)測(cè)試樣本自適應(yīng)調(diào)整每一類別最優(yōu)分類器的級(jí)聯(lián)順序，有較高的泛化能力與識(shí)別精度。

1 算法原理

級(jí)聯(lián)方式組合結(jié)構(gòu)主要有類集合減少方法和重新判定方法[10]。多分類器自適應(yīng)級(jí)聯(lián)模型采用重新判定方法，即當(dāng)待識(shí)樣本輸入分類器后，按照某個(gè)“規(guī)則”對(duì)其類別作出判斷，如滿足一定的條件，則對(duì)其類別作出判斷，并終止后續(xù)分類器對(duì)該樣本的判斷。如不滿足該條件，則該分類器對(duì)其拒識(shí)，將其輸入下一級(jí)分類器，進(jìn)行相應(yīng)判斷操作。這里采用的“規(guī)則”指的是，當(dāng)輸入樣本通過某類別專家，若分類后結(jié)果為該類別，并且按照某個(gè)置信度進(jìn)行判斷，在該閾值范圍內(nèi)，則認(rèn)為此樣本屬于該類；否則，若不滿足上述兩個(gè)條件中的任意一個(gè)，則該分類器對(duì)其拒識(shí)，交給下一級(jí)分類器處理。若所有級(jí)聯(lián)模型分類器都拒識(shí)，則最終交給整體性能最優(yōu)分類器去完成樣本識(shí)別。算法原理如圖1所示。

圖1 自適應(yīng)級(jí)聯(lián)模型算法原理

1.1 候選分類器

在子分類器集成中，只有當(dāng)子分類器之間所產(chǎn)生的錯(cuò)誤表現(xiàn)出一定的差異性，其錯(cuò)誤才能被其他分類器補(bǔ)償。大量文獻(xiàn)表明[11]，不同算法的分類器之間會(huì)存在較大差異性。目前常用的遙感影像分類器包括最近鄰分類器、貝葉斯分類器、支持向量機(jī)分類器、神經(jīng)網(wǎng)絡(luò)分類器、光譜角分類器、馬氏距離分類器等，在試驗(yàn)中具有較高的分類精度。一般情況下，度量層次輸出的分類器包含信息豐富，因此，本文將這些常用的具有度量層次輸出的分類器作為候選子分類器集來構(gòu)造多分類器動(dòng)態(tài)模型。

1.2 交叉驗(yàn)證

為了測(cè)試候選分類器精度，在開發(fā)和優(yōu)化數(shù)據(jù)挖掘模型的過程中需要將含有類別真值標(biāo)簽的訓(xùn)練樣本分為兩部分，一部分用作訓(xùn)練分類模型，另一部分用作檢核精度。研究中使用四折交叉驗(yàn)證的方法。方法的基本思路是：將含有標(biāo)簽的樣本集分成4份，輪流將其中3份作為訓(xùn)練數(shù)據(jù)，剩余一份作為測(cè)試數(shù)據(jù)進(jìn)行試驗(yàn)，每次試驗(yàn)都會(huì)得到分類模型的正確率，以4次結(jié)果的正確率平均值作為該分類模型的精度指標(biāo)。四折交叉驗(yàn)證技術(shù)能夠有效地計(jì)算分類模型的精度，對(duì)分類器模型有一個(gè)良好的評(píng)估。

1.3 類別最優(yōu)分類器

利用四折交叉驗(yàn)證方法，根據(jù)各候選分類器在訓(xùn)練樣本中識(shí)別的精度對(duì)比，選取每個(gè)類別的最優(yōu)分類器[12-13]。類別最優(yōu)分類器選取的是對(duì)特定類有最高的識(shí)別準(zhǔn)確率的專家分類器，即在樣本被分為某一類的先決條件下，該樣本確實(shí)屬于這一類的概率最大。類別最優(yōu)分類器定義為

(1)

(2)

將每個(gè)類別最優(yōu)分類器組合成級(jí)聯(lián)模型，由于類別最優(yōu)分類器對(duì)各自類有最高的識(shí)別準(zhǔn)確率，若類別j最優(yōu)分類器將待測(cè)樣本識(shí)別為類別j，則該樣本屬于類別j的概率非常高，因此可以將此作為級(jí)聯(lián)模型的一個(gè)輸出條件。

1.4 閾值設(shè)定

樣本識(shí)別為某一類的判定概率不同，不同的分類器模型有不同的決策空間，除了類別最優(yōu)分類器輸出為該類別這一級(jí)聯(lián)輸出條件以外，還增加了類別識(shí)別概率滿足在特定置信范圍這個(gè)條件。如不滿足該閾值范圍，模型依舊將待測(cè)樣本拒識(shí)并傳入下一級(jí)分類器。

tj=[max(f(l)j)+min(f(l)j)]/2

(3)

式中，tj為類別j最優(yōu)分類器對(duì)j的識(shí)別閾值；l=1,2,…,njj，njj表示在訓(xùn)練樣本中類別真值為j且類別j最優(yōu)分類器也將其識(shí)別為j的樣本集。函數(shù)值f具有不同的物理意義，如最小距離分類器，該函數(shù)值為樣本點(diǎn)與類別中心的距離，而對(duì)于SVM支持向量機(jī)分類器，該函數(shù)值為樣本點(diǎn)的預(yù)測(cè)概率。因此，對(duì)于不同的基分類器模型，都應(yīng)根據(jù)實(shí)際情況求出輸出類別的閾值。

1.5 自適應(yīng)調(diào)整級(jí)聯(lián)模型

設(shè)樣本有M個(gè)類別，則級(jí)聯(lián)部分包括M個(gè)類別最優(yōu)分類器。由于不同的級(jí)聯(lián)順序會(huì)對(duì)分類精度產(chǎn)生一定的影響，因此如何對(duì)M個(gè)專家分類器進(jìn)行排序是個(gè)值得研究的問題。考慮到樣本空間的差異，對(duì)于類別為j的輸入樣本，更希望類別j的最優(yōu)分類器首先對(duì)其進(jìn)行分類，因?yàn)檫@樣拒識(shí)的概率會(huì)很小，很大概率直接輸出該類別信息，若存在非類別j的專家分類器優(yōu)于類別j專家分類器順序進(jìn)行分類判斷，則只要順序在類別j專家分類器之前的任一專家錯(cuò)分，都會(huì)導(dǎo)致分類結(jié)果與實(shí)際不符。因此，尋找一個(gè)分類函數(shù)能夠?qū)颖精@得排序級(jí)或度量級(jí)的分類輸出是自適應(yīng)連接的關(guān)鍵。

根據(jù)訓(xùn)練樣本中各分類器交叉驗(yàn)證精度可以選取一個(gè)整體性能最優(yōu)分類器，能夠?qū)颖居凶罡叩淖R(shí)別精度與較強(qiáng)的泛化能力。分類混淆矩陣常用于圖像分類評(píng)價(jià)，包含了分類器在樣本集上的全部分類結(jié)果和實(shí)際測(cè)得值，其表達(dá)為

(4)

(5)

式中，nsum表示樣本總個(gè)數(shù)。整體性能最優(yōu)分類器定義為

Expert*=argmaxk{CAk|k=1,2,…,K}

(6)

式中，Expert*表示整體性能最優(yōu)分類器；CAk表示分類器k的總分類精度。

根據(jù)待測(cè)樣本在整體性能最優(yōu)分類器的分類情況，能夠有一個(gè)預(yù)測(cè)類別排序，由此排序自適應(yīng)地調(diào)整分類器級(jí)聯(lián)順序，能夠有效地提高樣本最終分類精度。自適應(yīng)級(jí)聯(lián)過程如圖2所示，y1，y2，…，yn為樣本降序排列的預(yù)測(cè)類別。

圖2 自適應(yīng)級(jí)聯(lián)過程

2 試驗(yàn)分析

試驗(yàn)數(shù)據(jù)為浙江省杭州市西湖區(qū)2015年8月高分二號(hào)PMS多光譜遙感影像。研究區(qū)域大小為5030×3300像素，包含4個(gè)波段。對(duì)預(yù)處理后的影像利用文獻(xiàn)[14]方法進(jìn)行分割獲取分割矢量，考慮到尺度越小像斑數(shù)越多，分割尺度取120，形狀因子取0.3，緊致度因子取0.5，分割后獲取像斑數(shù)目為7452個(gè)。研究區(qū)域321波段合成的真彩色影像與局部影像分割結(jié)果如圖3所示。對(duì)像斑進(jìn)行特征提取，選取常見的光譜特征有分割像斑對(duì)象的各波段光譜均值、標(biāo)準(zhǔn)差、最大值、最小值等；常見的紋理特征有各波段灰度共生矩陣的特征，如二階距、熵、相關(guān)度等；常見的形狀特征有面積、長(zhǎng)度比、緊致度等；常見的指數(shù)特征有歸一化植被指數(shù)NDVI、歸一化水指數(shù)NDWI等。再隨機(jī)均勻選取共400個(gè)像斑作為訓(xùn)練樣本集，類別標(biāo)簽包括：水域、裸地、道路、建筑區(qū)、草地、林地。

候選子分類器集選擇具有度量級(jí)輸出的最近鄰分類器(KNN)、樸素貝葉斯分類器(Naive-Bayes)、高斯徑向基核的支持向量機(jī)分類器(RBF-SVM)、BP神經(jīng)網(wǎng)絡(luò)分類器(BP-ANN)、光譜角填圖分類器(SAM)、馬氏距離分類器(Markov-d)這6種分類器。在訓(xùn)練集上運(yùn)用四折交叉驗(yàn)證后計(jì)算得到的類別準(zhǔn)確率如圖4所示，總體分類精度和Kappa系數(shù)如圖5所示。

圖5 訓(xùn)練集不同子分類器總體分類精度和Kappa系數(shù)

從圖4和圖5中可以選取各類別最優(yōu)分類器與整體最優(yōu)分類器，得出水域和荒裸地的最優(yōu)分類器為Native-Bayes，道路的最優(yōu)分類器為SAM，建筑區(qū)和耕地的最優(yōu)分類器為BP-ANN，林地的最優(yōu)分類器為RBF-SVM，整體最優(yōu)分類器為BP-ANN。將子分類器根據(jù)提出的自適應(yīng)級(jí)聯(lián)模型輸出最終分類結(jié)果。

基于自適應(yīng)級(jí)聯(lián)結(jié)構(gòu)的高分二號(hào)遙感影像分類結(jié)果如圖6所示。本文方法對(duì)每種地物的分類精度見表1。

圖6 自適應(yīng)級(jí)聯(lián)模型分類結(jié)果

表1 自適應(yīng)級(jí)聯(lián)模型分類精度 (%)

通過表1可以看出，本文的多分類器混聯(lián)模型對(duì)各類地物具有較高的精度。為了驗(yàn)證本文分類方法的有效性與優(yōu)越性，將子分類器分類結(jié)果、文獻(xiàn)[15]采用的級(jí)聯(lián)模型加入對(duì)比試驗(yàn)，來驗(yàn)證本文方法的有效性。

不同方法的總分類精度與Kappa系數(shù)見表2。

表2 不同分類方法精度對(duì)比

通過表2可以看出：

(1) 多分類器混聯(lián)模型相比于單一子分類器具有更高的分類精度。子分類器中，BP-ANN總分類精度最高，本文方法總分類精度比BP-ANN高出2.52%，Kappa系數(shù)高出0.04，這是因?yàn)槎喾诸惼鹘M合能夠綜合利用子分類器各自的優(yōu)點(diǎn)，在本文中表現(xiàn)為對(duì)特定地物識(shí)別準(zhǔn)確率最高的類別分類器，并且對(duì)于類別最優(yōu)分類器拒識(shí)的待測(cè)樣本，會(huì)最終傳遞到整體性能最優(yōu)分類器中，因此，本文方法的分類精度會(huì)高于子分類器的分類精度，這體現(xiàn)了多分類器組合方法在遙感分類應(yīng)用的優(yōu)勢(shì)。

(2) 本文自適應(yīng)級(jí)聯(lián)方法相比于文獻(xiàn)[15]級(jí)聯(lián)方法總分類精度高出1.75%，Kappa系數(shù)高出0.03，分類精度有所提高，這是由于文獻(xiàn)[15]提出了一種多分類器組合的靜態(tài)方法，沒有將獲取的專家分類器進(jìn)行動(dòng)態(tài)組合，缺乏靈活性，而自適應(yīng)級(jí)聯(lián)模型能夠隨識(shí)別目標(biāo)根據(jù)特征空間自適應(yīng)地調(diào)整組合模型，讓某類別樣本優(yōu)先進(jìn)入該類別專家進(jìn)行判斷輸出，因此正確率更高。

3 結(jié) 論

本文針對(duì)傳統(tǒng)單一分類器分類效果不夠理想及已有的級(jí)聯(lián)模型無法根據(jù)樣本特征動(dòng)態(tài)調(diào)整的問題，提出了一種基于多分類器自適應(yīng)模型的遙感影像分類方法。該方法利用不同分類器模型之間的互補(bǔ)信息，并且能夠根據(jù)樣本在整體最優(yōu)分類器上的輸出概率自適應(yīng)動(dòng)態(tài)調(diào)整選取的每一類別最優(yōu)分類器的級(jí)聯(lián)順序，以高分二號(hào)影像為例對(duì)多種分類方法進(jìn)行對(duì)比，驗(yàn)證了本文方法具有更好的分類性能。

[1] 黃鴻, 鄭新磊. 高光譜影像空-譜協(xié)同嵌入的地物分類算法[J]. 測(cè)繪學(xué)報(bào), 2016,45(8):964-972.

[2] 劉小平, 黎夏, 何晉強(qiáng), 等. 基于蟻群智能的遙感影像分類新方法[J]. 遙感學(xué)報(bào), 2008,12(2):253-262.

[3] 楊海波, 王宗敏, 張濤. 基于混合多分類器結(jié)合算法的遙感分類[J]. 計(jì)算機(jī)工程, 2010,36(11):173-175.

[4] 鮑蕊. 光譜和空間特征聯(lián)合的高光譜遙感影像多分類器集成方法[D]. 南京:南京大學(xué), 2016.

[5] 郭云開, 曾繁. 融合增強(qiáng)型模糊聚類遺傳算法與ISODATA算法的遙感影像分類[J]. 測(cè)繪通報(bào), 2015(12):23-26.

[6] 柏延臣, 王勁峰. 結(jié)合多分類器的遙感數(shù)據(jù)專題分類方法研究[J]. 遙感學(xué)報(bào), 2005,9(5):555-563.

[7] 韓建峰, 楊哲海. 組合分類器及其在高光譜影像分類中的應(yīng)用[J]. 測(cè)繪科學(xué)技術(shù)學(xué)報(bào), 2007,24(3):231-234.

[8] 王惠英, 蘇偉, 周軍其. 基于多分類器組合面向?qū)ο筮b感影像信息提取方法[J]. 測(cè)繪工程, 2009,18(5):22-26.

[9] 彭正林, 毛先成, 劉文毅, 等. 基于多分類器組合的遙感影像分類方法研究[J]. 國(guó)土資源遙感, 2011(2):19-25.

[10] 唐春生, 金以慧. 基于全信息矩陣的多分類器集成方法[J]. 軟件學(xué)報(bào), 2003,14(6):1103-1109.

[11] 竇鵬. 基于投票法的多分類器集成遙感影像分類技術(shù)[D]. 蘭州:蘭州交通大學(xué), 2014.

[12] 陳紹杰, 李光麗, 張偉,等. 基于多分類器集成的煤礦區(qū)土地利用遙感分類[J]. 中國(guó)礦業(yè)大學(xué)學(xué)報(bào), 2011, 40(2):273-278.

[13] 薛梅, 鄭全弟. 基于差異性度量的多分類器集成系統(tǒng)設(shè)計(jì)[J]. 計(jì)算機(jī)工程與設(shè)計(jì), 2010, 31(23):5104-5107.

[14] 王更, 王光輝, 楊化超. 融合顏色-紋理模型的均值漂移分割算法[J]. 測(cè)繪科學(xué), 2015,40(8):108-112.

[15] SUN J, LI H. Financial Distress Prediction Based on Serial Combination of Multiple Classifiers[J]. Expert Systems with Applications, 2009,36(4):8659-8666.

ClassificationofGF-2ImageUsedbyMultipleClassifiersSelf-adaptionCascadeModel

WANG Yao1,2,YANG Huachao1,WANG Guanghui1,2,HUANG Jie1,2,WANG Geng1,2,LIU Xiao1,2

(1. China University of Mining and Technology, Xuzhou 221116, China; 2. Satellite Surveying and Mapping Application Center, NASG, Beijing 100830, China)

Aiming at the shortcomings of traditional single classifier and the lacking that the existing multiple classifiers cannot adjust itself dynamically according to the characteristics of unknown sample, the classification method of high resolution remote sensing image based on the self-adaption cascade model of multiple classifiers is proposed. In this model, the optimal classifier and the whole optimal classifier are selected to dynamically assemble, making an self-adaption adjustment by performance of the sample which will be classified in this classifier, and the model can produce output category information. By GF-2 image on Hangzhou area classification test, the results show that the multiple classifiers self-adaption cascade model method has a higher classification accuracy compared to a single classifier.

multiple classifiers; image classification; self-adaption model; GF-2

王耀，楊化超，王光輝,等.利用多分類器自適應(yīng)級(jí)聯(lián)模型的高分二號(hào)影像分類[J].測(cè)繪通報(bào)，2017(11)：32-36.

10.13474/j.cnki.11-2246.2017.0343.

P237

A

0494-0911(2017)11-0032-05

2017-04-04；

2017-06-15

國(guó)家自然科學(xué)基金(41371438)

王 耀(1992—)，男，碩士，研究方向?yàn)檫b感信息提取。E-mail:xz_wangyao@163.com