国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

基于云計(jì)算的RBF神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)與優(yōu)化

2013-11-05 06:42:16劉堅(jiān)強(qiáng)
電子測(cè)試 2013年2期
關(guān)鍵詞:隱層徑向神經(jīng)元

劉堅(jiān)強(qiáng)

(湖北省咸寧職業(yè)技術(shù)學(xué)院,437100)

神經(jīng)網(wǎng)絡(luò)能用于徑流序列的描述,主要是基于神經(jīng)網(wǎng)絡(luò)的函數(shù)1F線性逼近功能,從這個(gè)角度來(lái)看,神經(jīng)網(wǎng)絡(luò)可分為全局逼近神經(jīng)網(wǎng)絡(luò)和局部逼近神經(jīng)網(wǎng)絡(luò)。全局逼近神經(jīng)網(wǎng)絡(luò)的權(quán)值和可調(diào)參數(shù)在輸入空間的每一點(diǎn)對(duì)任何一個(gè)輸出都有影響,對(duì)于每個(gè)輸人輸出數(shù)據(jù)對(duì),網(wǎng)絡(luò)的每一個(gè)權(quán)值均需要調(diào)整,從而導(dǎo)致學(xué)習(xí)速度很慢;局部逼近神經(jīng)網(wǎng)絡(luò)對(duì)于每個(gè)輸人輸出數(shù)據(jù)對(duì),只有少量的權(quán)值需要調(diào)整,從而學(xué)習(xí)速度很快。徑向基函數(shù)(RadialBasisFunction,簡(jiǎn)稱(chēng)RBF)是一種典型的局部逼近人工神經(jīng)網(wǎng)絡(luò),是最近幾年提出和開(kāi)始研究并得到一定應(yīng)用的新型前向神經(jīng)網(wǎng)絡(luò),其結(jié)構(gòu)和一般前向網(wǎng)絡(luò)相同,只是網(wǎng)絡(luò)隱層神經(jīng)元的作用過(guò)程和一般的網(wǎng)絡(luò)不同。徑向基網(wǎng)絡(luò)由一個(gè)輸人層、一個(gè)徑向基神經(jīng)元的隱層及一個(gè)線性神經(jīng)元的輸出層組成,徑向基網(wǎng)絡(luò)能較好地?cái)M合任意有限值函數(shù)[1]。

1 BP與RBP神經(jīng)網(wǎng)絡(luò)

Rumelhart等(1986)提 出 了 多 層 前 饋 網(wǎng) 絡(luò)(multilayer feedforward neural networks,MFNN)的反向傳播(back propagation,BP)學(xué)習(xí)算法。由于使用BP算法,所以稱(chēng)為BP神經(jīng)網(wǎng)絡(luò)。BP神經(jīng)網(wǎng)絡(luò)是一種具有一層或多層隱層的前向網(wǎng)絡(luò),通常由輸入層、隱層、輸出層組成,三層前向型BP網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)。

Powell(1985)提出了多變量差值的徑向基函數(shù)(radial—based function,RBF)方法。Broomhead等(1988)對(duì)徑向基函數(shù)和多層神經(jīng)網(wǎng)絡(luò)進(jìn)行了對(duì)比,并將RBF應(yīng)用于神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì);Jackson(1988)證明了徑向基神經(jīng)網(wǎng)絡(luò)對(duì)非線性連續(xù)函數(shù)的一致逼近性;Moody等(1989)正式提出了徑向基神經(jīng)網(wǎng)絡(luò),即RBF神經(jīng)網(wǎng)絡(luò)。從結(jié)構(gòu)上看,RBF神經(jīng)網(wǎng)絡(luò)屬于前向型網(wǎng)絡(luò),由一個(gè)隱層(徑向基層)和一個(gè)線性輸出層兩個(gè)神經(jīng)元層組成。與BP神經(jīng)網(wǎng)絡(luò)相比,RBF神經(jīng)網(wǎng)絡(luò)往往需要更多神經(jīng)元,但RBF神經(jīng)網(wǎng)絡(luò)的訓(xùn)練所需時(shí)間要少。

單變量人工神經(jīng)網(wǎng)絡(luò)非線性時(shí)序模型定義為[2]:

yp為徑流序列經(jīng)過(guò)小波分解后不同尺度的高頻成分和低頻成分的重構(gòu)序列,p為模型的輸入節(jié)點(diǎn)數(shù);iv為輸出層神經(jīng)元與隱層神經(jīng)元i的連接權(quán);py為網(wǎng)絡(luò)輸出值;θ為人工神經(jīng)網(wǎng)絡(luò)非線性映射,在徑向基網(wǎng)絡(luò)中為徑向基函數(shù)。

2 RBP神經(jīng)網(wǎng)絡(luò)控制的特點(diǎn)與預(yù)測(cè)模型

2.1 RBP神經(jīng)網(wǎng)絡(luò)控制的特點(diǎn)

神經(jīng)網(wǎng)絡(luò)是通過(guò)大量的神經(jīng)元相互聯(lián)系構(gòu)成的。神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)按照拓?fù)浣Y(jié)構(gòu)屬于以神經(jīng)元為節(jié)點(diǎn),以節(jié)點(diǎn)間有向連接為邊的圖,可以分為層狀和網(wǎng)狀兩個(gè)大類(lèi)。

1)前向網(wǎng)絡(luò)(前饋)

前向網(wǎng)絡(luò)可以包含很多層,這種網(wǎng)絡(luò)的特點(diǎn)是相鄰兩層神經(jīng)元之間相互連接,不存在跨層連接,神經(jīng)元之間沒(méi)有反饋。任一神經(jīng)元只能從前一層接收多個(gè)輸入,并統(tǒng)一輸出給后一層的多個(gè)神經(jīng)元。前向網(wǎng)絡(luò)中具有計(jì)算功能的節(jié)點(diǎn)稱(chēng)為計(jì)算單元,輸入節(jié)點(diǎn)不存在計(jì)算單元。前向網(wǎng)絡(luò)具體形式如圖1所示。

2)反饋網(wǎng)絡(luò)

反饋網(wǎng)絡(luò)指從輸出層到輸入層有反饋,也包括神經(jīng)元引出又回到自身的自反饋。網(wǎng)絡(luò)中的每一個(gè)節(jié)點(diǎn)都可接收外界輸入和其他節(jié)點(diǎn)的反饋輸入,每一個(gè)節(jié)點(diǎn)成為一個(gè)計(jì)算單元。

3)相互結(jié)合型網(wǎng)絡(luò)

相互結(jié)合型網(wǎng)絡(luò)是一個(gè)網(wǎng)狀結(jié)構(gòu)。每一個(gè)神經(jīng)元既可以作為輸入,也可以作為輸出,神經(jīng)元之間都可以進(jìn)行相互的雙向聯(lián)接。網(wǎng)絡(luò)中不存在固定的層次結(jié)構(gòu),也不存在固定的信號(hào)流動(dòng)方向。當(dāng)施加輸入信號(hào)后,網(wǎng)絡(luò)中的所有神經(jīng)元必然相互作用,共同進(jìn)行信息處理。當(dāng)網(wǎng)絡(luò)中所有神經(jīng)元的輸出值收斂到一定程度之后才結(jié)束信息處理過(guò)程。

4)混合型網(wǎng)絡(luò)

混合型網(wǎng)絡(luò)是介于層次結(jié)構(gòu)和網(wǎng)狀結(jié)構(gòu)之間的一種聯(lián)接方式。既存在層次結(jié)構(gòu)也存在同層神經(jīng)元之間的互聯(lián)。這樣做的目的是減少神經(jīng)元數(shù)量或者避免同層神經(jīng)元的同時(shí)興奮[3]。

2.2 RBP神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)模型

根據(jù)神經(jīng)網(wǎng)絡(luò)在控制器中的作用不同,神經(jīng)網(wǎng)絡(luò)控制器可分為兩類(lèi):

(1)神經(jīng)控制:以神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)而形成的獨(dú)立智能控制系統(tǒng);

(2)混合神經(jīng)網(wǎng)絡(luò)控制:利用神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)和優(yōu)化能力來(lái)改善傳統(tǒng)控制的智能控制方法,如自適應(yīng)神經(jīng)網(wǎng)絡(luò)控制等。

在最優(yōu)決策控制系統(tǒng)中,狀態(tài)空間根據(jù)不同控制條件被分成特征空間區(qū)域,控制曲面的實(shí)現(xiàn)是通過(guò)訓(xùn)練過(guò)程完成的。由于時(shí)間最優(yōu)曲面通常是非線性的,因此又必須使用一個(gè)能夠逼近非線性的結(jié)構(gòu)。一種可能的方法是將狀態(tài)空間量化成基本的超立方體,在這個(gè)立方體中控制作用是一個(gè)假設(shè)的常數(shù)。這個(gè)過(guò)程可由一個(gè)LVQ結(jié)構(gòu)實(shí)現(xiàn),需要讓另一個(gè)網(wǎng)絡(luò)充當(dāng)分類(lèi)器,如果需要連續(xù)信號(hào),則可以使用表針的方向傳播結(jié)構(gòu)。

圖1 RBF神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)

在頻率學(xué)派中,概率P(A)定義為:在一個(gè)重復(fù)性的隨機(jī)試驗(yàn)中。當(dāng)試驗(yàn)的次數(shù)趨于無(wú)窮時(shí),事件A發(fā)生的相對(duì)頻率,而在貝葉斯分析中,概率P(A)被定義為人們對(duì)命題A的相信程度。假設(shè)A與B相關(guān),即B中包含關(guān)于A的信息,在觀測(cè)到B之前對(duì)A的相信程度是P(A),在觀測(cè)到B之后,根據(jù)貝葉斯理論。我們應(yīng)修正對(duì)A的相信程度

如果A表示參數(shù)(或向量)θ。B表示樣本y,用概率密度函數(shù)代替概率;則貝葉斯公式為:示觀測(cè)到數(shù)據(jù)之前對(duì)θ的相信程度;p(θ |y)是θ的后驗(yàn)分布,表示觀測(cè)到數(shù)據(jù)后對(duì)θ更新的相信程度;p(y)是樣本數(shù)據(jù)的邊緣分布;p(y|θ)是θ給定條件下的樣本分布或樣本似然,即[2]:

3 基于云計(jì)算的RBF神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)與優(yōu)化

(1)檢驗(yàn)at是否與at?1,at?2,…無(wú)關(guān) ;

(2)檢驗(yàn)at是否與xt?2,xt?3,…無(wú)關(guān)。

對(duì)于AR(n)模型進(jìn)行參數(shù)估計(jì)和適用性檢驗(yàn)后,就可以所建立的AR(n)模型對(duì)時(shí)間序列 進(jìn)行預(yù)測(cè)。

在RBF神經(jīng)網(wǎng)絡(luò)中,輸入樣本經(jīng)過(guò)隱層處理后,在輸出層實(shí)現(xiàn)了線性組合。實(shí)際應(yīng)用中RBF神經(jīng)網(wǎng)絡(luò)的訓(xùn)練步驟如下:(1)確定訓(xùn)練樣本向量、目標(biāo)向量和訓(xùn)練參數(shù);(2)無(wú)教師學(xué)習(xí),通過(guò)輸入層和隱層之間的訓(xùn)練,確定權(quán)值;(3)有教師學(xué)習(xí),通過(guò)隱層與輸出層的訓(xùn)練,確定權(quán)值。實(shí)證部分采用MATLAB神經(jīng)網(wǎng)絡(luò)工具箱提供的 newrb(P,t,goal,spread,mn,df)函數(shù),其中,spread是激勵(lì)函數(shù)(徑向基函數(shù))的分布密度,其取值的不同會(huì)給網(wǎng)絡(luò)的預(yù)測(cè)能力帶來(lái)很大影響,spread取值越大,則預(yù)測(cè)性能的平滑程度越好;反之,spread取值越小,預(yù)測(cè)性能的平滑程度越差,但網(wǎng)絡(luò)的逼近程度較高。故在預(yù)測(cè)過(guò)程中通過(guò)多次調(diào)整spread的取值,觀察真實(shí)值與預(yù)測(cè)值之間的誤差,從而可確定誤差較小、較為合理的spread值作為預(yù)測(cè)使用。

時(shí)間序列預(yù)測(cè)就是通過(guò)收集和分析某一預(yù)測(cè)變量的歷史數(shù)據(jù),建立出可以反映其規(guī)律和關(guān)系的模型,再進(jìn)行趨勢(shì)外推的預(yù)測(cè)方法。這種建模方法適用于從數(shù)據(jù)中只能獲得少量模型的信息,或者無(wú)法將預(yù)測(cè)變量和解釋變量之問(wèn)的關(guān)系用函數(shù)關(guān)系來(lái)刻畫(huà)的情況。過(guò)去幾十年中,關(guān)于時(shí)間序列預(yù)測(cè)模型的研究和改進(jìn)已經(jīng)取得了很多的成果。其中應(yīng)用最廣的時(shí)間序列模型是ARIMA模型,主要是由于其在建模過(guò)程中利用了Box—Jenkins建模方法的統(tǒng)計(jì)特性。雖然ARIMA模型可以表示多種不同類(lèi)型的時(shí)間序列,但是它主要的限制條件是需要預(yù)先假設(shè)模型的形式是線性的,而且無(wú)法處理數(shù)據(jù)中存在的異常值的干擾。

人工神經(jīng)網(wǎng)絡(luò)由于其靈活的非線性建模能力和容錯(cuò)能力,在時(shí)間序列預(yù)測(cè)中的研究和應(yīng)用已經(jīng)越來(lái)越多。利用它就不再需要指定某一特殊的模型形式,而且能夠基于數(shù)據(jù)的特點(diǎn)自適應(yīng)學(xué)習(xí)和訓(xùn)練。因此,利用這種數(shù)據(jù)驅(qū)動(dòng)的方法可以對(duì)那些無(wú)法預(yù)知建模機(jī)理的問(wèn)題給出更精確的解決方法。一些實(shí)證研究也表明了使用神經(jīng)網(wǎng)絡(luò)進(jìn)行時(shí)間序列預(yù)測(cè)的精度要高于傳統(tǒng)的時(shí)間序列預(yù)測(cè)方法。神經(jīng)網(wǎng)絡(luò)模型和ARIMA模型有很多相似之處。它們按照模型自身的結(jié)構(gòu)都可以劃分出很多不同的類(lèi)型,所以模型識(shí)別對(duì)它們來(lái)說(shuō)都是非常重要的問(wèn)題;為了得到更好的預(yù)測(cè)結(jié)果,在建模之前有必要對(duì)數(shù)據(jù)進(jìn)行預(yù)處理的轉(zhuǎn)換;都需要較多的樣本數(shù)據(jù);而且要確定模型的形式都需要反復(fù)試驗(yàn)而且有時(shí)還需要進(jìn)行主觀判斷;它們建??偟脑瓌t是模型的結(jié)構(gòu)越簡(jiǎn)單越好,一定要避免出現(xiàn)過(guò)擬合現(xiàn)象。

[1] 劉喜梅,魏婉韻,于飛.基于人工神經(jīng)網(wǎng)絡(luò)的變壓器勵(lì)磁涌流的鑒別 [J].低壓電器,2007,20(19):102-103.

[2] 汪洋,宇仁德,閆建華.基于徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)的交通事故預(yù)測(cè) [J].交通標(biāo)準(zhǔn)化,2009,15(21):67-68.

[3] 許楊文.基于RBF神經(jīng)網(wǎng)絡(luò)的水輪機(jī)故障診斷研究[J]. 光盤(pán)技術(shù),2009,18(02):156-157.

猜你喜歡
隱層徑向神經(jīng)元
《從光子到神經(jīng)元》書(shū)評(píng)
自然雜志(2021年6期)2021-12-23 08:24:46
淺探徑向連接體的圓周運(yùn)動(dòng)
RN上一類(lèi)Kirchhoff型方程徑向?qū)ΨQ(chēng)正解的存在性
基于PID+前饋的3MN徑向鍛造機(jī)控制系統(tǒng)的研究
一類(lèi)無(wú)窮下級(jí)整函數(shù)的Julia集的徑向分布
基于RDPSO結(jié)構(gòu)優(yōu)化的三隱層BP神經(jīng)網(wǎng)絡(luò)水質(zhì)預(yù)測(cè)模型及應(yīng)用
人民珠江(2019年4期)2019-04-20 02:32:00
躍動(dòng)的神經(jīng)元——波蘭Brain Embassy聯(lián)合辦公
基于二次型單神經(jīng)元PID的MPPT控制
毫米波導(dǎo)引頭預(yù)定回路改進(jìn)單神經(jīng)元控制
基于近似結(jié)構(gòu)風(fēng)險(xiǎn)的ELM隱層節(jié)點(diǎn)數(shù)優(yōu)化
通辽市| 焉耆| 宣化县| 杭锦旗| 团风县| 静海县| 安塞县| 江油市| 金湖县| 广南县| 庆城县| 桃源县| 宜兰县| 霞浦县| 合阳县| 阳泉市| 宾阳县| 会理县| 景东| 盐城市| 穆棱市| 绥芬河市| 札达县| 高陵县| 都匀市| 蒙山县| 华安县| 壶关县| 阿瓦提县| 道孚县| 上蔡县| 津南区| 米易县| 抚顺市| 宁强县| 即墨市| 河曲县| 万载县| 平远县| 吉首市| 雅安市|