沈 榮

寧夏大學(xué)數(shù)學(xué)計(jì)算機(jī)學(xué)院，寧夏 銀川 750021

人工神經(jīng)網(wǎng)絡(luò)的基本模型

沈 榮

寧夏大學(xué)數(shù)學(xué)計(jì)算機(jī)學(xué)院，寧夏 銀川 750021

本文介紹了人工神經(jīng)網(wǎng)絡(luò)的基本模型，以加強(qiáng)對(duì)神經(jīng)網(wǎng)絡(luò)的理解。

人工神經(jīng)網(wǎng)絡(luò)，模型

迄今為止，人們提出許多神經(jīng)網(wǎng)絡(luò)模型，主要介紹以下幾種。

1、BP網(wǎng)絡(luò)的數(shù)學(xué)模型

一個(gè)典型的三層前饋型BP網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)如圖1所示。

圖1 BP網(wǎng)絡(luò)數(shù)學(xué)模型

從結(jié)構(gòu)上講，三層BP網(wǎng)絡(luò)是一個(gè)典型的前饋型層次網(wǎng)絡(luò)[4-6]，它被分為輸入層LA，隱含層LB和輸出層LC。同層節(jié)點(diǎn)間無(wú)關(guān)聯(lián)，異層神經(jīng)元間前向連接。其中，LA層含m個(gè)節(jié)點(diǎn)，對(duì)應(yīng)于BP網(wǎng)絡(luò)所感知的m個(gè)輸入；LC層含有n個(gè)節(jié)字，與BP網(wǎng)絡(luò)的n種輸出相對(duì)應(yīng)，LB層節(jié)點(diǎn)的數(shù)目可根據(jù)需要設(shè)置。

含有隱含層和多層前饋網(wǎng)絡(luò)能大大提高網(wǎng)絡(luò)的分類能力，但長(zhǎng)期以來(lái)沒有提出解決權(quán)值調(diào)整問題的有效算法。1986年以Rumelhart和MCCelland為首的科學(xué)家一組在各為《Parallel Distoibnted Processing》一書中完整提出誤差反向傳播（Error Back Propa個(gè)yation，簡(jiǎn)稱BP）學(xué)習(xí)算法。采用BP算法解決權(quán)值修正問題的前饋神經(jīng)網(wǎng)絡(luò)稱為誤差反向傳播神經(jīng)網(wǎng)絡(luò)（即BP網(wǎng)絡(luò)）。

誤差反向傳播神經(jīng)網(wǎng)絡(luò)模型有三層或多層構(gòu)成，它是有導(dǎo)師學(xué)習(xí)。在學(xué)習(xí)時(shí)，需要輸入一批學(xué)習(xí)樣本，根據(jù)輸入數(shù)據(jù)值和指定的算法，經(jīng)過(guò)中間層轉(zhuǎn)換函數(shù)的計(jì)算后，計(jì)算的結(jié)果與期望輸出值比較，若沒達(dá)到要求的精確度，則誤差反向傳播到各層神經(jīng)元，并在反向傳播過(guò)程中修正權(quán)值，再進(jìn)行網(wǎng)絡(luò)訓(xùn)練，直到達(dá)到要求的精確度為止。誤差反向傳播神經(jīng)網(wǎng)絡(luò)模型的輸出僅由當(dāng)前輸入和權(quán)值決定，而與網(wǎng)絡(luò)先前的輸出狀態(tài)無(wú)關(guān)。

2、Hopfield網(wǎng)絡(luò)的數(shù)字模型

1982年，美國(guó)加州工學(xué)院霍普菲爾特（Hopfield）教授發(fā)表了一篇對(duì)神經(jīng)網(wǎng)絡(luò)研究頗具影響的論文，提出了一種后來(lái)被人們稱之為Hopfield網(wǎng)絡(luò)的神經(jīng)網(wǎng)絡(luò)模型。這一模型是一個(gè)由N個(gè)節(jié)點(diǎn)全部互聯(lián)網(wǎng)而構(gòu)成的一個(gè)反饋型動(dòng)態(tài)網(wǎng)絡(luò)，由它可以實(shí)現(xiàn)聯(lián)想記憶，并能進(jìn)行優(yōu)化問題求解，因而受到人們的高度重視。Hopfield模塊分離散型與連續(xù)型兩種模型。

3、隨機(jī)型BM網(wǎng)絡(luò)

BM網(wǎng)絡(luò)是一種具有對(duì)稱聯(lián)接權(quán)的隨機(jī)神經(jīng)網(wǎng)絡(luò)。從結(jié)構(gòu)上講，BM網(wǎng)絡(luò)可看成寫Hopfield網(wǎng)絡(luò)的推廣與變形。

4、自適應(yīng)共振神經(jīng)網(wǎng)絡(luò)模型（ART）

自適應(yīng)共振神經(jīng)網(wǎng)絡(luò)(Adaptive Resonance Theory)是1976年由G.A.Carpenter 和S.Grossbery 提出的，它是一種能對(duì)任意序列輸入模式產(chǎn)生的識(shí)別代碼進(jìn)行自動(dòng)化的神經(jīng)網(wǎng)絡(luò)機(jī)構(gòu)。

總之，神經(jīng)網(wǎng)絡(luò)模型有很多，本文主要介紹了BP神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)模型。

[1] Candill,Maureen and Charles,Butler.Understanding Neural Networks:Volumes 1 and 2.MIT Press,Cambrige,MA.1994.

[2] 劭軍力，張景，魏長(zhǎng)華.人工智能基礎(chǔ).北京電子工業(yè)出版社，2000.

[3] 陳德良，曲維光，周春林.基于神經(jīng)網(wǎng)絡(luò)的教師教學(xué)評(píng)估系統(tǒng).南京師范大學(xué)學(xué)報(bào)（工程技術(shù)版），4（1）：73～75.

[4] 胡守仁.神經(jīng)網(wǎng)絡(luò)應(yīng)用技術(shù).國(guó)防科技出版社，1993.

[5] 韓力群.人工神經(jīng)網(wǎng)絡(luò)理論設(shè)計(jì)與應(yīng)用.北京化學(xué)工業(yè)出版社，2002.

[6] 張珩.人工神經(jīng)網(wǎng)絡(luò)在《電工學(xué)》教學(xué)評(píng)價(jià)體系中的應(yīng)用

10.3969/j.issn.1001-8972.2012.08.062

寧夏大學(xué)研究項(xiàng)目，NDZR10—72 NDZR09-7