呂紅杰

摘 要：為解決煤礦井下煤巖圖像識別問題，本文研究了煤巖圖像識別現(xiàn)狀以及卷積神經(jīng)網(wǎng)絡在煤巖圖像識別中的應用方式、存在問題和解決辦法。通過對AlexNet網(wǎng)絡進行遷移學習，將學習好的神經(jīng)網(wǎng)絡用于煤巖識別，并研究了不同網(wǎng)絡對煤巖圖像識別率、訓練速度的影響。實驗結果表明，本文方法能夠取得較好的煤巖圖像識別結果，為之后應用卷積神經(jīng)網(wǎng)絡解決煤巖圖像識別問題提供了重要的參考價值。

關鍵詞：煤巖識別 神經(jīng)網(wǎng)絡 特征提取 AlexNet

中圖分類號：TP391.41；TP183 文獻標識碼：A 文章編號：1674-098X（2019）03（c）-0137-03

Abstract： In order to solve the problem of coal and rock image recognition in coal mine， this paper studies the current status of coal and rock image recognition， and the application methods， existing problems and solutions of convolutional neural network in coal and rock image recognition. Through the migration learning of the AlexNet network， a well-learned neural network is used for coal rock identification. The effects of different networks on the recognition rate and training speed of coal and rock images are studied. The experimental results show that the proposed method can obtain better image recognition results of coal and rock， and provides an important reference value for solving the problem of coal and rock image recognition by using convolutional neural network.

Key Words： Coal and rock recognition； Neural network； Feature extraction； AlexNet

煤炭是我國的主體能源。為促進煤炭行業(yè)向信息化、智能化的方向轉變，實現(xiàn)煤炭資源的智能開采尤其重要。其中，煤巖自動識別是實現(xiàn)煤礦井下無人化開采的關鍵性技術之一。有效提高煤巖識別率對保證煤炭的高產(chǎn)出率和綜采工作面的安全生產(chǎn)具有重要意義。

在煤巖識別的眾多方法中，通過圖像進行識別具有不受電磁干擾，穩(wěn)定性強、適用范圍廣等優(yōu)勢。本文以此為依據(jù)，針對煤巖圖像識別問題進行了深入研究?？偨Y了目前煤巖圖像識別發(fā)展現(xiàn)狀，并在此基礎上，研究了具有強大圖像表征能力的卷積神經(jīng)網(wǎng)絡（Convolutional Neural Network，CNN）在煤巖圖像識別方向的應用問題，以AlexNet[1]網(wǎng)絡模型為基礎，使用遷移學習方法，將小數(shù)據(jù)集的煤巖圖像用于對AlexNet網(wǎng)絡的參數(shù)微調(diào)，訓練模型，達到提高煤巖圖像識別率的目的，與手工提取圖像特征方式相比，本文方法無需進行復雜的圖像預處理過程，網(wǎng)絡能夠進行端到端學習，針對不同質(zhì)量圖像，基于卷積神經(jīng)網(wǎng)絡的識別方式魯棒性更強，研究價值更大。

1 煤巖圖像識別

目前，已有的煤巖圖像識別方法主要有變換域法[2]、字典學習[3]、池化[4]等機器學習方式。這些方法中，通過手動提取圖像紋理、灰度等特征，進行組合，并嘗試各種圖像特征與分類器之間的組合關系尋求最優(yōu)解，耗費精力的同時并不能保證所提取的特征一定是最佳的。而利用卷積神經(jīng)網(wǎng)絡的方法，能夠自動學習煤巖圖像特征、構建分類器，通過迭代訓練達到網(wǎng)絡最佳識別效果。作為圖像識別領域中的強大算法，目前卻鮮有研究者將卷積神經(jīng)網(wǎng)絡應用到煤巖圖像識別任務中，本文作為探討，分析了卷積神經(jīng)網(wǎng)絡在煤巖圖像識別中的方法應用，并進行了實驗驗證。

2 卷積神經(jīng)網(wǎng)絡

卷積神經(jīng)網(wǎng)絡是一種典型的神經(jīng)網(wǎng)絡，因其具有卷積結構而得名。卷積神經(jīng)網(wǎng)絡一般包含卷積層、池化層、全連接層以及輸入輸出層。網(wǎng)絡層數(shù)越多，包含的參數(shù)越多，特征提取能力越強。卷積神經(jīng)網(wǎng)絡采用了稀疏連接及權值共享模式，減少網(wǎng)絡參數(shù)，降低網(wǎng)絡復雜度，加快訓練速度。2012年的Image大賽中，AlexNet卷積神經(jīng)網(wǎng)絡以絕對的優(yōu)勢奪得了圖像識別競賽冠軍，也因此掀起了卷積神經(jīng)網(wǎng)絡研究的熱潮。如圖1所示，是AlexNet網(wǎng)絡模型圖。其中包括五個卷積層和三個全連接層。AlexNet網(wǎng)絡在每個卷積層中使用ReLU函數(shù)進行激活，改善了深度神經(jīng)網(wǎng)絡中的梯度彌散問題；網(wǎng)絡中加入三個最大池化層；全連接層中使用Dropout方式隨機忽略部分神經(jīng)元，避免過擬合；同時訓練過程使用GPU加速訓練。

原始AlexNet網(wǎng)絡模型在超過一百萬張圖像的ImageNet數(shù)據(jù)庫上進行訓練，能夠對1000個常見物品、動物等進行分類，訓練好的AlexNet網(wǎng)絡具備強大的特征表示能力。在訓練好的Alexnet網(wǎng)絡上進行遷移學習[5]，即通過在網(wǎng)絡中輸入新的樣本數(shù)據(jù)，對網(wǎng)絡參數(shù)進行微調(diào)，憑借AlexNet網(wǎng)絡的強大自學習能力，達到對新的圖像樣本進行準確分類的效果，能夠解決樣本量不足、訓練時間過長、易出現(xiàn)過擬合等問題。

3 實驗及結果分析

本文采用在ImageNet數(shù)據(jù)庫上訓練好的AlexNet網(wǎng)絡進行遷移學習，以達到煤巖圖像的精確識別目的。

數(shù)據(jù)集：實驗樣本選取不同光照、不同角度、不同環(huán)境中的砂巖、頁巖、煙煤和無煙煤圖像各120幅，共480幅。為了防止因樣本數(shù)量過少造成的網(wǎng)絡訓練過擬合問題，本文通過數(shù)據(jù)增廣，將每幅煤巖圖像均經(jīng)過切割、旋轉、平移、加噪等處理，得到新的樣本圖像，以增加實驗樣本數(shù)量。最終得到用于實驗的煤巖圖像數(shù)據(jù)集的數(shù)量為2400幅，每一類圖像各600幅，圖像大小統(tǒng)一設置為227×227×3，格式為.jpg。

隨機選取70%煤樣本圖像和70%巖樣本圖像作為訓練數(shù)據(jù)集，其余的圖像作為測試數(shù)據(jù)集，即訓練集樣本容量為1680，測試集樣本容量為720。

實驗環(huán)境：MATLAB2018b，win10系統(tǒng)，在配置為Intel Core i5-2450 2.50 GHz CPU，8GB RAM的PC機下運行，實驗中僅使用CPU進行運算。

為使用AlexNet網(wǎng)絡進行煤巖圖像識別，實驗過程首先將網(wǎng)絡模型的最后一層替換為維度為4的分類層，改變該層學習率為10，以便更快訓練；由于數(shù)據(jù)集較小，無需多次訓練，因而設置網(wǎng)絡Maxepochs值為10；同時降低卷積層中學習速率至1e-4。

圖2是在訓練好的AlexNet網(wǎng)絡上進行遷移學習訓練過程識別率圖?？梢钥闯觯?shù)螖?shù)達到350次以上時，煤巖圖像識別率進入平穩(wěn)狀態(tài)，停止訓練后，在測試數(shù)據(jù)集上的最終識別率為98.92%，效果良好。

圖3是AlexNet網(wǎng)絡訓練過程損失圖。損失值表明了卷積神經(jīng)網(wǎng)絡的優(yōu)化過程，損失值越小，表明網(wǎng)絡優(yōu)化性能越好。當網(wǎng)絡迭代次數(shù)達到350次以上時，損失值降到最低，表明此時網(wǎng)絡已經(jīng)訓練到最優(yōu)狀態(tài)。

考慮到本文所使用的煤巖圖像數(shù)據(jù)集相對較小，而使用大型的AlexNet網(wǎng)絡可能會造成訓練時間過長而識別效果提升不明顯，特別是AlexNet網(wǎng)絡的最后三個全連接層，訓練參數(shù)數(shù)量高達50M以上，耗費大量訓練時間。因而本文通過去掉AlexNet網(wǎng)絡最后兩個全連接層，只保留一層全連接層和最后的分類層，稱為改進的AlexNet網(wǎng)絡，表示為I-AlexNet，進行了實驗，結果如表1。

圖4是I-AlexNet網(wǎng)絡訓練過程識別率圖。當?shù)螖?shù)達到300次以上時，網(wǎng)絡進入平穩(wěn)狀態(tài)，停止訓練后，在測試數(shù)據(jù)集上的最終識別率為98.39%，比微調(diào)過的AlexNet網(wǎng)絡略低。

圖5是I-AlexNet網(wǎng)絡訓練過程損失圖。當?shù)螖?shù)達到300次以上時，損失值降到最低，表明網(wǎng)絡已經(jīng)訓練到最優(yōu)狀態(tài)，相比于具有三個全連接層的AlexNet網(wǎng)絡，所需迭代次數(shù)更少，效率更高。

同時，本文比較了兩種網(wǎng)絡在其他條件設置相同時，所需訓練時間的差異，如表1所示?？梢钥闯?，兩種網(wǎng)絡在識別率上差異不大，但去掉了兩個全連接層的I-AlexNet網(wǎng)絡模型，在訓練時間上比AlexNet網(wǎng)絡模型減少了近1/3的時間，計算效率顯著提高。

通過實驗分析卷積神經(jīng)網(wǎng)絡在煤巖圖像識別任務中的應用效果，以及兩種不同網(wǎng)絡模型在識別精度、訓練時間上的不同，可以發(fā)現(xiàn)，盡管在深度學習領域中，卷積神經(jīng)網(wǎng)絡模型通常適用于具有大型數(shù)據(jù)庫的圖像分類，但合理運用訓練好的網(wǎng)絡模型，通過遷移學習，仍然可以得到良好的煤巖圖像識別效果。同時，更深層的網(wǎng)絡通常需要耗費更多的訓練時間，對計算能力的要求更高，要綜合考慮對識別率、訓練時間和硬件條件的實際需求，合理構建卷積神經(jīng)網(wǎng)絡模型。

4 結語

本文采取的應用卷積神經(jīng)網(wǎng)絡進行煤巖圖像識別的方法，能夠有效提取圖像深層特征，避免了手工提取特征的復雜方式，提高了識別率。通過遷移學習的方式，解決了因煤巖圖像數(shù)據(jù)集過小，導致的卷積神經(jīng)網(wǎng)絡容易出現(xiàn)過擬合的問題。同時比較了AlexNet和I-AlexNet兩種網(wǎng)絡模型在識別率和訓練時間上的差異，發(fā)現(xiàn)在識別率差異不大的情況下，更淺層的神經(jīng)網(wǎng)絡能夠有效減少訓練時間，節(jié)約計算資源?？傊?，本文提出的基于卷積神經(jīng)網(wǎng)絡的煤巖圖像識別方法魯棒性和泛化能力更強，識別精度更高，取得了理想的識別效果。

參考文獻

[1] Krizhevsky A， Sutskever I， Hinton G E. ImageNet classification with deep convolutional neural networks [C]. International Conference on Neural Information Processing Systems. Curran Associates Inc， 2012：1097-1105

[2] 張婷. 基于變換域與高斯混合模型聚類的煤巖識別方法[J].煤炭技術，2018，37（11）：320-323.

[3] 孫繼平，陳浜. 基于CLBP和支持向量誘導字典學習的煤巖識別方法[J].煤炭學報，2017，42（12）：3338-3348.

[4] 伍云霞，田一民. 基于最大池化稀疏編碼的煤巖識別方法 [J].工程科學學報，2017，39（7）：981-987.

[5] Maxime Oquab， Leon Bottou， Ivan Laptev and Josef Sivic. Learning and Transferring Mid-Level Image Representations using Convolutional Neural Networks[C]. 2014 IEEE Conference on Computer Vision and Pattern Recognition（CVPR）， 2014：1717-1724.