蘇靜

摘 要：針對(duì)專(zhuān)利圖像檢索系統(tǒng)中的圖像分類(lèi)問(wèn)題，研究并實(shí)現(xiàn)了深度學(xué)習(xí)中的卷積神經(jīng)網(wǎng)絡(luò)方法。所設(shè)計(jì)的卷積神經(jīng)網(wǎng)絡(luò)由4個(gè)卷積層、2個(gè)池化層及2個(gè)完全連接層組成，其中每個(gè)特征映射層只由上一層的部分特征映射層線性組合而得，整個(gè)神經(jīng)網(wǎng)絡(luò)由反向傳播算法調(diào)整權(quán)重參數(shù)和偏置項(xiàng)并自動(dòng)完成學(xué)習(xí)任務(wù)。通過(guò)外觀專(zhuān)利圖像的分類(lèi)實(shí)驗(yàn)表明，該方法分類(lèi)準(zhǔn)確率可達(dá)90%。

關(guān)鍵詞： 深度學(xué)習(xí);卷積神經(jīng)網(wǎng)絡(luò);外觀專(zhuān)利;圖像分類(lèi)

【Abstract】 For patent image classification problems of Guangdong province in image retrieval system， A convolution neural network method in the deep learning is researched and implemented. The designed convolution neural network is made of four convolution layers， two pooling layers and two complete connection layers. In the convolution neural network， each feature mapping layer is the linear combination of the last part feature mapping layers. And the whole neural network adjusts the weight parameters and the bias by the back propagation algorithm and automatically completes the study task. The patent image classification experiment shows that the average classification accuracy can reach 90% by this method.

【Key words】 ?deep learning; convolution neural network; design patent; image classification

0 引 言

在互聯(lián)網(wǎng)技術(shù)迅猛發(fā)展的今天，專(zhuān)利圖像的規(guī)模不斷擴(kuò)大，專(zhuān)利圖像數(shù)據(jù)庫(kù)都是海量的，這無(wú)疑給面向大規(guī)模圖像數(shù)據(jù)的分析和理解帶來(lái)了重大挑戰(zhàn)?，F(xiàn)有基于內(nèi)容的圖像檢索技術(shù)[1-2]用來(lái)提取特征的訓(xùn)練數(shù)據(jù)大多來(lái)自人工標(biāo)注樣本和人工調(diào)參，需要依靠設(shè)計(jì)者的先驗(yàn)知識(shí)，很難利用大數(shù)據(jù)的優(yōu)勢(shì)，極大地限制了圖像檢索的性能。

近年來(lái)，深度學(xué)習(xí) [3-4]在計(jì)算機(jī)視覺(jué)與圖像檢索等領(lǐng)域表現(xiàn)出強(qiáng)大優(yōu)勢(shì)。與傳統(tǒng)模式識(shí)別方法不同的是，深度學(xué)習(xí)無(wú)需手工設(shè)計(jì)特征，可以直接從大量數(shù)據(jù)集中自動(dòng)學(xué)習(xí)特征，學(xué)習(xí)到成千上萬(wàn)的參數(shù)，在圖像檢索領(lǐng)域應(yīng)用廣泛。

本文提出了一種基于 CNN 模型的家具類(lèi)外觀專(zhuān)利圖像分類(lèi)方法，并對(duì)本文方法與支持向量機(jī)方法（SVM）及傳統(tǒng)神經(jīng)網(wǎng)絡(luò)（NN） 方法加以對(duì)比，對(duì)家具類(lèi)外觀專(zhuān)利圖像進(jìn)行了交叉驗(yàn)證實(shí)驗(yàn)。實(shí)驗(yàn)結(jié)果表明，基于 CNN 模型的方法取得了更好的分類(lèi)效果。

1 CNN模型與算法

1.1 CNN模型簡(jiǎn)介

卷積神經(jīng)網(wǎng)絡(luò)由 Hinton等人于2006年提出，作為一種深度學(xué)習(xí)模型受到了廣泛關(guān)注，并已成功應(yīng)用在人臉識(shí)別、圖像分類(lèi)與檢索等領(lǐng)域。結(jié)構(gòu)上， CNN是由多層神經(jīng)網(wǎng)絡(luò)構(gòu)成，主要包括卷積層、激勵(lì)層、池化層及全相連層[5-6]。在每一個(gè)卷積層，上一層的特征Maps被一個(gè)可以學(xué)習(xí)的卷積核進(jìn)行卷積，再通過(guò)激活函數(shù)（Relu），就可以得到輸出特征Map。池化層往往在卷積層后面，計(jì)算Map一個(gè)區(qū)域上的某個(gè)特定特征的平均值來(lái)代表這個(gè)區(qū)域的特征，從而降低卷積層輸出的特征向量。在本實(shí)驗(yàn)中，前面兩層是卷積和池化的交替，接著兩層是單卷積操作，在最后一兩層（靠近輸出層）是全連接的一維網(wǎng)絡(luò)。網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。

2 實(shí)驗(yàn)與結(jié)果分析

2.1 實(shí)驗(yàn)設(shè)備與數(shù)據(jù)

本實(shí)驗(yàn)在Ubuntu14.04操作系統(tǒng)，caffe框架環(huán)境下完成，使用的是改進(jìn)后的Alexnet模型。關(guān)于實(shí)驗(yàn)數(shù)據(jù)，使用了家具外觀專(zhuān)利圖像，其中5 000張為訓(xùn)練圖像，1 000張為測(cè)試圖像。在分類(lèi)方案中，根據(jù)家具種類(lèi)的不同，訓(xùn)練圖像與測(cè)試圖像都被細(xì)分為10個(gè)類(lèi)。在訓(xùn)練過(guò)程中，每個(gè)類(lèi)都有500個(gè)訓(xùn)練樣本;在測(cè)試過(guò)程中，每個(gè)類(lèi)都有100個(gè)測(cè)試樣本。每個(gè)圖像的輸入大小為224*224，格式為PNG。部分圖像樣本如圖2所示。為保證實(shí)驗(yàn)的客觀性，實(shí)驗(yàn)圖像為隨機(jī)選取，采用交叉驗(yàn)證法得到實(shí)驗(yàn)結(jié)果的平均準(zhǔn)確率。

2.2 實(shí)驗(yàn)結(jié)果分析

（1）訓(xùn)練模型對(duì)分類(lèi)結(jié)果的影響。不同的訓(xùn)練模型因網(wǎng)絡(luò)層數(shù)和參數(shù)不同對(duì)分類(lèi)結(jié)果有較大影響。對(duì)于同樣的數(shù)據(jù)集，采用AlexNet原模型識(shí)別準(zhǔn)確率為85%，采用改進(jìn)后的AlexNet模型識(shí)別準(zhǔn)確率可達(dá)90%，仿真結(jié)果對(duì)比如圖3所示。本設(shè)計(jì)考慮到了外觀專(zhuān)利圖像的特殊性，對(duì)輸入圖像的大小、網(wǎng)絡(luò)層數(shù)、濾波器大小都做了重新設(shè)計(jì)。實(shí)驗(yàn)中，當(dāng)訓(xùn)練次數(shù)達(dá)到15 000次時(shí)，網(wǎng)絡(luò)參數(shù)變化不大，表示卷積網(wǎng)絡(luò)已呈收斂狀態(tài)，分類(lèi)性能達(dá)到最優(yōu)。

（2）與SVM 、NN方法的比較。本文將CNN模型的方法與SVM及NN兩種分類(lèi)方法進(jìn)行了對(duì)比，實(shí)驗(yàn)結(jié)果見(jiàn)表1?？梢钥闯?，和SVM方法相比，CNN在各個(gè)類(lèi)別和總體分類(lèi)精度上略有提升。和NN方法相比，CNN方法在Mirror和Stool兩個(gè)類(lèi)別分類(lèi)精度相當(dāng)，而在Swivelchair、Table、Messagechair這3個(gè)類(lèi)別上精度有較大提高?？偟貋?lái)看，CNN方法的分類(lèi)效果在三者中為最優(yōu)。

3 結(jié)束語(yǔ)

本文研究了卷積神經(jīng)網(wǎng)絡(luò)在外觀專(zhuān)利圖像分類(lèi)中的應(yīng)用，所設(shè)計(jì)的卷積神經(jīng)網(wǎng)絡(luò)由4個(gè)卷積層、2個(gè)池化層和2個(gè)全連接層組成，在外觀專(zhuān)利圖像分類(lèi)實(shí)驗(yàn)中達(dá)到90%的準(zhǔn)確率，優(yōu)于SVM及NN分類(lèi)方法。但是本文只是對(duì)Alexnet的網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行了簡(jiǎn)單的改進(jìn)，采用了均值池化方法，針對(duì)外觀專(zhuān)利圖像的更優(yōu)卷積網(wǎng)絡(luò)模型仍有待進(jìn)一步的深入研究。

參考文獻(xiàn)

[1]Edkins J， Graham M. Content-based image retrieval [R]. Newcastle：University of Northumbria，1999.

[2]DATTA R， JOSHI D， LI Jia， et al. Image retrieval： Ideas， influences， and trends of the new age [J]. ACM Computing Surveys （CSUB） ， 2008， 40（2） ： 5.

[3]余凱， 賈磊， 陳雨強(qiáng)， 等. 深度學(xué)習(xí)的昨天、今天和明天[J]. 計(jì)算機(jī)研究與發(fā)展， 2013， 50（9）：1799-1804.

[4]KRIZHEVSKY A， SUTSKEVER I， HINTON G E. ImageNet classification with deep convolutional neural networks[J]. Communications of the ACM，2017，60（6）：84-90.

[5]DAHL G E， SAINATH T N， HINTON G E . Improving deep neural networks for LVCSR using rectified linear units and dropout[C]//2013 IEEE International Conference on Acoustics， Speech and Signal Processing （ICASSP）.Vancouver， BC， Canada：IEEE， 2013：8609-8613.

[6]FUKUSHIMA K. Neocognitron： A self-organizing neural network model for a mechanism of pattern recognition unaffected by shift in position[J]. Biological Cybernetics， 1980， 36（4）：193-202.

[7]LECUN Y， BOSER B E， DENKER J， et al. Backpropagation applied to handwritten zip code recognition[J]. Neural Computation， 1989，1（4）： 541-551.