孫福玉
(山東科技大學(xué)地球科學(xué)與工程學(xué)院,山東 青島266590)
Back-ProPagation Network 又稱為反向傳播的神經(jīng)網(wǎng)絡(luò),此算法模型適用于多種領(lǐng)域??蓪τ?xùn)練數(shù)據(jù)進(jìn)行預(yù)測,可做函數(shù)插值近似、可做圖片的模擬識別等。
(1)輸入輸出層的設(shè)計(jì)。
輸入為各影響收得率的因素,輸出為C、Mn 收得率,輸入層的節(jié)點(diǎn)數(shù)為20,輸出層的節(jié)點(diǎn)數(shù)為2。
(2)隱層設(shè)計(jì)。
已經(jīng)證明了BP 神經(jīng)網(wǎng)絡(luò),只要隱節(jié)點(diǎn)足夠多,就可以以任意精度逼近一個非線性函數(shù)。本文采用含有一個隱層的三層多輸入雙輸出的BP 網(wǎng)絡(luò)。在網(wǎng)絡(luò)設(shè)計(jì)過程中,z 最關(guān)鍵的一步就是隱層神經(jīng)元數(shù)的選取。
目前,對于隱層中神經(jīng)元數(shù)目的確定并沒有明確的公式,所以神經(jīng)元個數(shù)的最終確定需要根據(jù)以往經(jīng)驗(yàn)和多次實(shí)驗(yàn)來確定。本文在選取隱層神經(jīng)元個數(shù)的問題上參照了以下的經(jīng)驗(yàn)公式:
其中,M 為輸入層神經(jīng)元個數(shù),N 為輸出層神經(jīng)元個數(shù),A為[1,10]之間的常數(shù)。由上式可以計(jì)算出神經(jīng)元個數(shù)為6~16 個之間,在本次模型中選擇隱層神經(jīng)元個數(shù)為10。
(3)訓(xùn)練集、驗(yàn)證集、測試集。
本文考慮取250 組數(shù)據(jù)作為樣本,其中樣本數(shù)據(jù)的70%為訓(xùn)練集,15%為驗(yàn)證集,15%為測試集。
通過使用Matlab 軟件中的神經(jīng)網(wǎng)絡(luò)擬合工具箱,可以得到一個預(yù)測C、Mn 元素收得率的網(wǎng)絡(luò)。為便于觀察和分析,輸出層設(shè)為單輸出,即C、Mn 元素分別作為單輸出點(diǎn)。數(shù)據(jù)分析結(jié)果如下:
圖1 BP 神經(jīng)網(wǎng)絡(luò)性能驗(yàn)證曲線(Mn)
從性能驗(yàn)證結(jié)果和相關(guān)系數(shù)分析圖1 可以得出,一般的BP神經(jīng)網(wǎng)絡(luò)模型對于Mn 元素收得率預(yù)測結(jié)果不是很準(zhǔn)確(C 類似),因此本文考慮改進(jìn)模型以提高預(yù)測準(zhǔn)確率。
BP 神經(jīng)網(wǎng)絡(luò)的缺點(diǎn)如下:網(wǎng)絡(luò)收斂速度緩慢、網(wǎng)絡(luò)結(jié)構(gòu)無法確定、對于樣本數(shù)據(jù)要求很苛刻,數(shù)據(jù)波動太大則不能進(jìn)行有效預(yù)測。
小波神經(jīng)網(wǎng)絡(luò)是在BP 神經(jīng)網(wǎng)絡(luò)基礎(chǔ)上,把小波基函數(shù)作為神經(jīng)網(wǎng)隱藏層的激勵函數(shù),從而構(gòu)成新的預(yù)測函數(shù),因此兩個神經(jīng)網(wǎng)絡(luò)最大的不同之處就是隱藏層的激活函數(shù)存在差異。小波神經(jīng)網(wǎng)絡(luò)是一種有反饋的前饋式神經(jīng)網(wǎng)絡(luò),它可以很好的彌補(bǔ)BP 神經(jīng)網(wǎng)絡(luò)收斂速度慢、數(shù)據(jù)容易陷入局部最小值的缺陷,使其具有了很廣泛的應(yīng)用領(lǐng)域。
其中a,b 分別為伸縮尺度和平移因子:
小波神經(jīng)網(wǎng)絡(luò)模型預(yù)測的結(jié)果如圖所示,從圖中可以看出,小波神經(jīng)網(wǎng)絡(luò)模型預(yù)測值與實(shí)際值比較接近,這比BP 神經(jīng)網(wǎng)絡(luò)預(yù)測效果要好,因?yàn)樾〔ㄉ窠?jīng)網(wǎng)絡(luò)的局部搜索特性和收斂速度快,從而取得精確度較高的預(yù)測結(jié)果,預(yù)測的準(zhǔn)確率在80%以上。
圖2 C 元素誤差分析圖