国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

聯(lián)結(jié)主義與語(yǔ)言習(xí)得研究

2010-11-14 06:24:56鄧勁雷
關(guān)鍵詞:主義神經(jīng)元權(quán)重

鄧勁雷

(福建師范大學(xué)外國(guó)語(yǔ)學(xué)院,福建福州 350007)

聯(lián)結(jié)主義與語(yǔ)言習(xí)得研究

鄧勁雷

(福建師范大學(xué)外國(guó)語(yǔ)學(xué)院,福建福州 350007)

聯(lián)結(jié)主義理論通過模擬大腦神經(jīng)結(jié)構(gòu)的運(yùn)作來研究認(rèn)知行為。該理論采用平行分布加工的方式來處理信息,這一信息處理方式具有許多與大腦相似的特性,如容錯(cuò)抗噪、內(nèi)容尋址、自動(dòng)生成原型和圖式等。語(yǔ)言習(xí)得研究是認(rèn)知科學(xué)的一個(gè)重要組成部分,聯(lián)結(jié)主義理論對(duì)語(yǔ)言習(xí)得過程進(jìn)行了大量的研究,深化了我們對(duì)語(yǔ)言習(xí)得過程的認(rèn)識(shí)。

聯(lián)結(jié)主義;語(yǔ)言習(xí)得;平行分布加工;神經(jīng)網(wǎng)絡(luò)

聯(lián)結(jié)主義理論通過模擬大腦神經(jīng)系統(tǒng)的運(yùn)作來研究認(rèn)知行為。這一范式下的研究始于 20個(gè)世紀(jì) 50年代,Hebb等學(xué)者對(duì)聯(lián)結(jié)主義研究做出了開創(chuàng)性貢獻(xiàn)[1],但是直到 1980年后,聯(lián)結(jié)主義研究才得到全面發(fā)展。1986年《平行分布加工》兩卷本的出版掀起了一場(chǎng)認(rèn)知科學(xué)革命,它對(duì)傳統(tǒng)的符號(hào)主義理論提出挑戰(zhàn),為認(rèn)識(shí)認(rèn)知行為提供了全新視角[2]。該書出版后,聯(lián)結(jié)主義框架下的研究迅猛發(fā)展,并取得豐碩的研究成果[3-5]。本文擬使用語(yǔ)言習(xí)得研究的具體例子對(duì)聯(lián)結(jié)主義的運(yùn)作機(jī)制、功能、特性等進(jìn)行介紹。

一、聯(lián)結(jié)主義原型:大腦神經(jīng)網(wǎng)絡(luò)

聯(lián)結(jié)主義理論的靈感來源于神經(jīng)科學(xué)。神經(jīng)科學(xué)發(fā)現(xiàn)大腦中神經(jīng)元的數(shù)量極其龐大[6]。神經(jīng)元作為大腦的基本組成單位,由樹突、胞體和軸突組成,其功能類似于一個(gè)簡(jiǎn)單的計(jì)算器。樹突負(fù)責(zé)接受其它神經(jīng)元的軸突傳遞過來的神經(jīng)信號(hào);胞體主要負(fù)責(zé)對(duì)所接收的信號(hào)進(jìn)行計(jì)算并確定要輸出的信號(hào)值;軸突再將這些信號(hào)傳遞給其它的神經(jīng)元。軸突與樹突之間的通信結(jié)點(diǎn)稱為突觸,它的聯(lián)結(jié)權(quán)重決定神經(jīng)元相互作用的強(qiáng)度。

神經(jīng)元不僅數(shù)量龐大,而且神經(jīng)元之間的聯(lián)結(jié)數(shù)也非常龐大。每個(gè)神經(jīng)元可以與其它的神經(jīng)元形成 1,000到 100,000左右的聯(lián)結(jié)??茖W(xué)家認(rèn)為知識(shí)存儲(chǔ)于這些聯(lián)結(jié)當(dāng)中 (而不是單個(gè)神經(jīng)元當(dāng)中),即知識(shí)在大腦中是分布表征的。大腦學(xué)習(xí)的過程是調(diào)節(jié)突觸聯(lián)結(jié)權(quán)重的過程[6]。神經(jīng)元雖然數(shù)量龐大、聯(lián)結(jié)眾多,但是運(yùn)算速度比較緩慢,每運(yùn)算一次大約需 10毫秒的時(shí)間,即每秒鐘大約只能進(jìn)行 100次左右的運(yùn)算。由于這一運(yùn)算速度的限制,人腦無(wú)法采用圖靈機(jī)式的串行運(yùn)算方法。人腦在 1秒鐘的時(shí)間內(nèi)需進(jìn)行一些非常復(fù)雜的運(yùn)算,如人臉的識(shí)別,危險(xiǎn)的判斷等,這使得大腦中比較切合實(shí)際的運(yùn)算模式是大規(guī)模的平行運(yùn)算[6]。

二、聯(lián)結(jié)主義架構(gòu)和運(yùn)作機(jī)制

聯(lián)結(jié)主義網(wǎng)絡(luò)是大腦神經(jīng)網(wǎng)絡(luò)的簡(jiǎn)化,它由大量與神經(jīng)元功能相類似的節(jié)點(diǎn)組成,其結(jié)構(gòu)如圖1所示,節(jié)點(diǎn)結(jié)構(gòu)如圖2所示。

圖1 三層前饋式網(wǎng)絡(luò)[7]

圖2 聯(lián)結(jié)主義神經(jīng)網(wǎng)絡(luò)節(jié)點(diǎn)示意[7]

聯(lián)結(jié)主義網(wǎng)絡(luò)中,節(jié)點(diǎn)與節(jié)點(diǎn)相互聯(lián)結(jié),以傳遞和表征信息。節(jié)點(diǎn)與節(jié)點(diǎn)之間的信息傳遞通過傳播規(guī)則①進(jìn)行計(jì)算:

上述公式中,neti為節(jié)點(diǎn) i的總輸入值;n為節(jié)點(diǎn) i的輸入節(jié)點(diǎn)數(shù)量;aj指與節(jié)點(diǎn) i相聯(lián)的 j節(jié)點(diǎn)的激活值 (輸出值);wij指節(jié)點(diǎn) i與節(jié)點(diǎn) j的聯(lián)結(jié)權(quán)重。該公式表示單個(gè)節(jié)點(diǎn)的輸入信息值等于與它相聯(lián)結(jié)的輸入節(jié)點(diǎn)的激活值與聯(lián)結(jié)權(quán)重乘積的總和。該過程是節(jié)點(diǎn)對(duì)輸入信息的匯總過程。

節(jié)點(diǎn)對(duì)信息匯總后,便對(duì)這些信息進(jìn)行計(jì)算以確定輸出信息,該過程通過激活規(guī)則進(jìn)行計(jì)算:

上述公式中,ai為節(jié)點(diǎn) i的激活值 (輸出值),neti為節(jié)點(diǎn) i的信息總輸入值,n為節(jié)點(diǎn) i的激活閾值。該規(guī)則表示當(dāng)輸入值大于閾值時(shí),節(jié)點(diǎn)輸出1,否則輸出 0。

大腦的學(xué)習(xí)通過調(diào)節(jié)突觸的聯(lián)結(jié)權(quán)重來完成,與之相對(duì)應(yīng),聯(lián)結(jié)主義網(wǎng)絡(luò)的學(xué)習(xí)則通過調(diào)節(jié)聯(lián)結(jié)點(diǎn)的聯(lián)結(jié)權(quán)重來完成。聯(lián)結(jié)權(quán)重的調(diào)節(jié)通過學(xué)習(xí)規(guī)則進(jìn)行計(jì)算:

上述公式中,Δwij為節(jié)點(diǎn) i和節(jié)點(diǎn) j的聯(lián)結(jié)權(quán)重的調(diào)節(jié)量;η為學(xué)習(xí)速度常數(shù);ai為節(jié)點(diǎn) i的激活值;aj為節(jié)點(diǎn) j的激活值。該公式是著名的學(xué)習(xí)規(guī)則 Hebb規(guī)則的公式化表述。Hebb認(rèn)為“如果細(xì)胞 A的軸突與細(xì)胞 B足夠接近,并能使之興奮,當(dāng) A重復(fù)或持續(xù)的激活 B,那么這兩個(gè)細(xì)胞,或其中一個(gè)會(huì)發(fā)生生長(zhǎng)或代謝變化,使得 A細(xì)胞激活 B細(xì)胞的效率提高[1]?!?/p>

聯(lián)結(jié)主義網(wǎng)絡(luò)的功能和特性主要由上述三個(gè)規(guī)則和節(jié)點(diǎn)的聯(lián)結(jié)模式 (架構(gòu))決定。不同架構(gòu)的聯(lián)結(jié)主義模型的學(xué)習(xí)能力存在一些差異。如,雙層前饋式網(wǎng)絡(luò)雖然可以成功模擬許多聯(lián)結(jié)式的學(xué)習(xí),卻無(wú)法進(jìn)行 XOR計(jì)算。XOR計(jì)算需要三層前饋式網(wǎng)絡(luò)(在雙層前饋式網(wǎng)絡(luò)的基礎(chǔ)上加入隱含層,如圖1所示)。Hornik等更是指出三層前饋式網(wǎng)絡(luò)是通用的模擬器,可以進(jìn)行任何形式的計(jì)算和學(xué)習(xí)[8]。

三、語(yǔ)言學(xué)習(xí)模擬

識(shí)字是語(yǔ)言學(xué)習(xí)的一個(gè)重要環(huán)節(jié)。識(shí)字過程是音、形、義的聯(lián)結(jié)過程。本文主要探討音和形的聯(lián)結(jié)模擬。以單詞“dog”為例。假定“dog”在大腦中的拼寫表征為(1,0,1,0,1),語(yǔ)音表征為 (1,1,0,0,1)。學(xué)習(xí)這一組表征需要 5個(gè)代表語(yǔ)音表征的神經(jīng)元,這 5個(gè)神經(jīng)元各有 5個(gè)樹突,并分別與代表視覺表征的神經(jīng)元的軸突相聯(lián)。整個(gè)模型如圖3所示。圖中 Pattern 1代表語(yǔ)音神經(jīng)元的激活模型,Pattern 2代表視覺表征。假定該模型中各聯(lián)結(jié)點(diǎn)的初始聯(lián)結(jié)權(quán)重為 0,那么圖3的信息可用圖4的矩陣表示。

圖3 學(xué)習(xí)網(wǎng)絡(luò)示意圖[9有改動(dòng)]

圖4 學(xué)習(xí)前的聯(lián)結(jié)權(quán)重矩陣圖

聯(lián)結(jié)視覺與語(yǔ)音表征需使用 Hebb學(xué)習(xí)規(guī)則。假定該規(guī)則中的學(xué)習(xí)速度常數(shù)η為 1②,那么一次學(xué)習(xí)后,節(jié)點(diǎn) (1×1)的聯(lián)結(jié)權(quán)重變化值為:

由于節(jié)點(diǎn) (1×1)的初始值為零,因而調(diào)節(jié)后的聯(lián)結(jié)權(quán)重為 1。學(xué)習(xí)過后的各聯(lián)結(jié)點(diǎn)的數(shù)值如圖5所示。

圖5 一次學(xué)習(xí)后的聯(lián)結(jié)權(quán)重矩陣圖

聯(lián)結(jié)權(quán)重調(diào)節(jié)后,也即學(xué)習(xí)后,我們將“dog”的拼寫表征 (1,0,1,0,1)輸入網(wǎng)絡(luò),檢驗(yàn)網(wǎng)絡(luò)能否正確輸出語(yǔ)音表征。表征輸入網(wǎng)絡(luò)后,需在網(wǎng)絡(luò)中傳播。根據(jù)傳播規(guī)則,神經(jīng)元 1的總輸入值net1為:

其它神經(jīng)元的輸入值可依此類推,其結(jié)果如圖6所示:

圖6 各神經(jīng)元總輸入值示意圖

神經(jīng)元接受輸入信息后,便會(huì)對(duì)輸入信息進(jìn)行計(jì)算以確定輸出信息,假定該網(wǎng)絡(luò)的神經(jīng)元為閾值型神經(jīng)元且激活閾值為 3,輸入值達(dá)到激活閾值后輸出 1,否則輸出 0。那么該網(wǎng)絡(luò)的輸出值為 (1,1,0,0,1),即學(xué)習(xí)過后,該模型能通過單詞的拼寫正確輸出單詞的語(yǔ)音表征。

上述網(wǎng)絡(luò)不僅可以表征“dog”的音、形聯(lián)結(jié),還可以同時(shí)表征其它單詞的音、形聯(lián)結(jié),如“dig”。假定“dig”的拼寫表征為 (1,0,0,1,1),語(yǔ)音表征為 (1,0,0,0,1),學(xué)習(xí)常數(shù)仍為 1,學(xué)習(xí)過后的各聯(lián)結(jié)點(diǎn)的聯(lián)結(jié)強(qiáng)度如圖7所示。

圖7 學(xué)習(xí)“dig”后的聯(lián)結(jié)權(quán)重矩陣圖

當(dāng)我們將“dog”的拼寫表征 (1,0,1,0,1)輸入網(wǎng)絡(luò),各神經(jīng)元的總輸入值為 (5,3,0,0,5),由于各神經(jīng)元的激活閾值為 3,因而網(wǎng)絡(luò)的輸出信息為 (1,1,0,0,1),即仍為“dog”的語(yǔ)音表征。如果將“dig”的拼寫表征 (1,0,0,1,1)輸入網(wǎng)絡(luò),各神經(jīng)元的總輸入值為 (5,2,0,0,5),整個(gè)網(wǎng)絡(luò)的輸出信息為 (1,0,0,0,1),即“dig”的語(yǔ)音表征。這表明同一個(gè)網(wǎng)絡(luò)可以表征不同單詞的音、形聯(lián)結(jié)。

四、聯(lián)結(jié)主義網(wǎng)絡(luò)特性

聯(lián)結(jié)主義網(wǎng)絡(luò)由于采用了與大腦神經(jīng)網(wǎng)絡(luò)相似的結(jié)構(gòu),因而相應(yīng)的具備了一些與大腦類似的特性,如:容錯(cuò)抗噪,自動(dòng)生成原型和結(jié)構(gòu),內(nèi)容尋址等特性。

(一)容錯(cuò)抗噪功能 人腦具有很強(qiáng)的容錯(cuò)性。大腦細(xì)胞的自然死亡并不影響我們的認(rèn)知能力,有時(shí)甚至大腦的局部損傷對(duì)其總體功能也沒有影響。這一功能其實(shí)是平行分布加工的自然結(jié)果。假定在上述網(wǎng)絡(luò)中聯(lián)結(jié)點(diǎn) (1×3)和 (5×4)受損,如圖8所示:

圖8 受損節(jié)點(diǎn)示意圖

我們將“dog”和“dig”的視覺表征 (1,0,1,0,1)和(1,0,0,1,1)分別輸入網(wǎng)絡(luò),通過計(jì)算得出各神經(jīng)元總輸入值分別為 (4,3,0,0,5)和 (5,2,0,0,4),整個(gè)網(wǎng)絡(luò)的輸出值為 (1,1,0,0,1)和 (1,0,0,0,1),即雖然網(wǎng)絡(luò)中部分聯(lián)結(jié)點(diǎn)損傷,網(wǎng)絡(luò)仍能正常運(yùn)作。

人腦還具有很強(qiáng)的抗噪功能。每個(gè)人的音質(zhì),音色均有差異,但這并不影響人們之間的交流。即便是在馬路邊、行駛的汽車上這樣吵雜的環(huán)境中,人們?nèi)阅鼙容^順暢的溝通,這表明人腦有較強(qiáng)的抗噪功能。仍以“dog”為例。在上文中,我們假定“dog”的表征是 (1,0,1,0,1),但由于“噪音”的存在,使得輸入信息被改變?yōu)?(1,1,1,0,1),這一信息雖然與原先的信息有一定的差異,但通過計(jì)算,可以發(fā)現(xiàn)得到的結(jié)果仍是 (1,1,0,0,1),也即聯(lián)結(jié)主義網(wǎng)絡(luò)與大腦一樣具有抗噪功能。

聯(lián)結(jié)主義網(wǎng)絡(luò)的容錯(cuò)抗噪性,或者大腦的容錯(cuò)抗噪功能,是平行加工和分布表征的自然結(jié)果[9]。在聯(lián)結(jié)主義網(wǎng)絡(luò)或大腦中,信息是由大量神經(jīng)元或節(jié)點(diǎn)組成的激活模式(activation pattern)決定,在大腦中,一個(gè)信息的表征可能需要成千上萬(wàn)的神經(jīng)元,如果少量神經(jīng)元損傷或者提取信息中存在少量“噪音”,并不會(huì)改變總的激活模式。這也是大腦或聯(lián)結(jié)主義網(wǎng)絡(luò)具有容錯(cuò)抗噪能力的原因所在。

(二)自動(dòng)生成結(jié)構(gòu)和圖式 上文中的“dog”和“dig”有一致的結(jié)構(gòu)“D*G”。由于采用分布表征的方式,這兩個(gè)單詞中的“D*G”結(jié)構(gòu)在網(wǎng)絡(luò)中的表征也是類似的,當(dāng)網(wǎng)絡(luò)多次存儲(chǔ)或提取這兩個(gè)信息是,代表“D*G”結(jié)構(gòu)的聯(lián)結(jié)模式不斷被激活,代表這一激活模式的聯(lián)結(jié)權(quán)重不斷被加強(qiáng),使得的“D*G”結(jié)構(gòu)在網(wǎng)絡(luò)中被突顯出來 (如圖7所示)。這一結(jié)構(gòu)的產(chǎn)生是信息表征在網(wǎng)絡(luò)中層疊的結(jié)果。由于采用分布表征的信息存儲(chǔ)方式,多個(gè)信息可以共存于同一網(wǎng)絡(luò)中。各信息中相同部分比起信息中不同的部分,被存取的機(jī)會(huì)要多,因而激活的次數(shù)也較多,相應(yīng)的聯(lián)結(jié)權(quán)重也較高,于是這些相同的信息就被突顯出來。這些被突顯出來的信息 (也就是輸入信息中相似或相同的部分)就是結(jié)構(gòu),根據(jù)應(yīng)用場(chǎng)合的不同,它們有時(shí)也被稱作框架或圖式。

(三)原型效應(yīng) Rosch的一系列實(shí)驗(yàn)使原型效應(yīng)成為認(rèn)知科學(xué)中廣為人知的概念[10,11]。在實(shí)驗(yàn)中,她發(fā)現(xiàn)人們總是認(rèn)為范疇中一些成員比其它的成員更典型;在列舉范疇成員時(shí),一些成員總是更早且更頻繁的被列舉出來③。Rosch和Mervis指出典型成員是與同一范疇中其它成員具有最多家族相似性的成員。Rosch和Mervis的這一論斷在聯(lián)結(jié)主義的模擬實(shí)驗(yàn)中得到了很好的證明。McClelland和 Rumelhart(1985)利用聯(lián)結(jié)主義網(wǎng)絡(luò)對(duì)原型效應(yīng)進(jìn)行模擬研究。在實(shí)驗(yàn)中,他們使用一個(gè) 24節(jié)點(diǎn)的網(wǎng)絡(luò)。網(wǎng)絡(luò)的后 16個(gè)結(jié)點(diǎn)用于存儲(chǔ)視覺表征。假定訓(xùn)練中使用的表征代表狗的視覺信息,且每次訓(xùn)練所使用的表征之間有輕微的差異,用于代表不同的狗。網(wǎng)絡(luò)的前 8個(gè)結(jié)點(diǎn)用于存儲(chǔ)名字表征。如果訓(xùn)練過程中采用同一表征 (如“dog”)對(duì)前 8個(gè)節(jié)點(diǎn)進(jìn)行訓(xùn)練。多次訓(xùn)練過后,對(duì)前 8個(gè)節(jié)點(diǎn)輸入“dog”表征,后 16個(gè)節(jié)點(diǎn)激活的視覺表征值與先前訓(xùn)練表征的平均值比較接近,即與各訓(xùn)練表征具有最多家族相似性。

(四)內(nèi)容尋址 內(nèi)容尋址指通過部分信息提取全部信息的一種信息檢索方式。它是人腦區(qū)別于圖靈機(jī)的一個(gè)重要標(biāo)志。圖靈機(jī)通常采用地址尋址方式檢索信息。提取信息時(shí),先查找地址,再通過地址通達(dá)內(nèi)容。這種尋址方式類似于字典的信息檢索方式。查字典時(shí),需先查找詞條,再通過詞條查找解釋。因而即便是最好的字典,要查到“面積為 960萬(wàn)平方公里,人口為 13億的國(guó)家是哪個(gè)?”也相當(dāng)困難。而任何一個(gè)對(duì)中國(guó)有所了解的人都能很快說出答案。人腦或聯(lián)結(jié)主義網(wǎng)絡(luò)與圖靈機(jī)或字典的信息檢索的重要差別就在于此。在聯(lián)結(jié)主義網(wǎng)絡(luò)中,信息存儲(chǔ)通過內(nèi)容與內(nèi)容的相互聯(lián)結(jié)實(shí)現(xiàn)。信息提取是神經(jīng)元的模式激活過程。這種信息存儲(chǔ)和提取方式類似于 Collins和 Loftus(1975)所提出的激活擴(kuò)散模型。所不同的是在激活擴(kuò)散模型中,被激活和擴(kuò)散的是一個(gè)個(gè)節(jié)點(diǎn),而在聯(lián)結(jié)主義網(wǎng)絡(luò)中,被激活擴(kuò)散的是由許多節(jié)點(diǎn)組成的激活模式。提取信息輸入網(wǎng)絡(luò)后,會(huì)激活代表該信息模式的一些節(jié)點(diǎn)。這些節(jié)點(diǎn)隨之向與它緊密相聯(lián)的節(jié)點(diǎn)傳遞信息,使相鄰節(jié)點(diǎn)也處于激活狀態(tài),直到所需的信息模式被激活。這種信息擴(kuò)散激活的能力使聯(lián)結(jié)主義網(wǎng)絡(luò)具備了內(nèi)容尋址的能力。

五、聯(lián)結(jié)主義框架下的語(yǔ)言習(xí)得研究

聯(lián)結(jié)主義理論對(duì)語(yǔ)言習(xí)得進(jìn)行了大量的模擬研究。其中最廣為人知的是英語(yǔ)過去式的習(xí)得模擬[5,15]。這些模擬不僅能正確生成過去式,而且學(xué)習(xí)過程也與兒童的學(xué)習(xí)過程相似。如呈 U型狀發(fā)展。除對(duì)英語(yǔ)過去式的習(xí)得進(jìn)行研究外,聯(lián)結(jié)主義網(wǎng)絡(luò)還對(duì)語(yǔ)言習(xí)得過程的模擬還包括:語(yǔ)音習(xí)得關(guān)鍵期現(xiàn)象[16],言語(yǔ)切分[17-19],句法范疇習(xí)得[20,21],語(yǔ)言結(jié)構(gòu)習(xí)得[3,22]等。這些研究大大深化了我們對(duì)語(yǔ)言習(xí)得過程的認(rèn)識(shí),但是限于篇幅,在此不做詳細(xì)介紹。

聯(lián)結(jié)主義理論對(duì)語(yǔ)言習(xí)得的研究取得了豐碩的成果。但聯(lián)結(jié)主義理論畢竟才剛剛起步,許多領(lǐng)域還有待進(jìn)一步研究。如在句法習(xí)得上雖然取得了一些成果,但總得說來還不盡如人意。句法結(jié)構(gòu)的習(xí)得不僅需要形式結(jié)構(gòu)上的相似性,還需意義和功能上的相似性,但目前卻還沒有恰當(dāng)?shù)姆椒ㄔ诰W(wǎng)絡(luò)中表征功能或意義。雖然聯(lián)結(jié)主義研究還面臨著許多類似挑戰(zhàn),語(yǔ)言和其它認(rèn)知活動(dòng)歸根到底都需由大腦來完成,它必然受到大腦架構(gòu)和運(yùn)作機(jī)制的影響。聯(lián)結(jié)主義通過模擬大腦的神經(jīng)網(wǎng)絡(luò)來研究人類的認(rèn)知行為無(wú)疑能使我們對(duì)大腦和認(rèn)知行為的奧秘有更深刻的認(rèn)識(shí)。

注釋:

①以下對(duì)傳播規(guī)則、激活規(guī)則和學(xué)習(xí)規(guī)則的介紹,僅限本文例子中需用到的規(guī)則,如需對(duì)網(wǎng)絡(luò)的三個(gè)規(guī)則深入了解 ,請(qǐng)參閱 McLeod等 (1998)或 Rumelhart和 McClelland(1986)的著作。

②學(xué)習(xí)速度常數(shù)決定聯(lián)結(jié)權(quán)重變化的速度。該數(shù)值較大時(shí),聯(lián)結(jié)權(quán)重變化較快,相應(yīng)的學(xué)習(xí)速度也較快。但是,如果該數(shù)值過大,則可能導(dǎo)致無(wú)法達(dá)到理想的學(xué)習(xí)效果。

③關(guān)于原型研究的詳細(xì)回顧可參看Lakoff(1987)。

[1]Hebb,D.O.,The Organization of Behavior:A Neurophysiological Theory.New York:John W iley&Sons Inc,1949.

[2]Rumelhart,D.E.,J.L.McClelland,and t.P.R.Group,Parallel Distributed Processing-Vol.1 Foundations.TheM IT Press,1986.

[3]Elman,J.L.,Learning and Development in NeuralNetworks: the importance of starting small. Cognition,1993.48:p.71-99.

[4]Elman,J.L.,et al.,Rethinking innateness:A connectionist perspective on development.1996:M IT Press.

[5]Plunkett,K.and V.Marchman,From rote learning to system building:acquiring verb morphology in children and connectionist nets.Cognition,1993.48(1):p.21-69.

[6]Rumelhart,D.E.and J.L.McClelland,PDP Models and General Issues in Cognitive Science,in ParallelDistributed Processing-Volume 1:Foundations,D.E.Rumelhart,J.L.McClelland,and t.P.R.Group,Editors.1986,TheM IT Press.p.110-146.

[7]Plunkett,K.and J.L.Elman,Exercises in Rethinking Innateness.1997:M IT Press.

[8]Hornik,K.,M.Stinchcombe,and H.White,Approximation Capabilities of Multilayer Feedforward Networks.NeuralNetworks,1991.4(2):p.251-257.

[9]McLeod,P.,K.Plunkett,and E.T.Rolls,Introduction to ConnectionistModeling of Cognitive ProcessesOxford University Press,1998.

[10]Rosch,E.H.,Natural Categories.Cognitive Psychology,1973.4:p.328-350.

[11]Rosch,E.H. and C.B.Mervis,Family Resemblances:Studies in the Internal Structure of Categories.cognitive Psychology,1975.7:p.573-605.

[12]Lakoff,G.,Women,Fire,and Dangerous Things:What Categories Reveal about the Mind.Chicago:The University of Chicago Press,1987.

[13]McClelland,J.L.and D.E.Rumelhart,Distributed Memory and the Representation of General and Specific Infor mation.Journal of Exper imental Psychology:General,1985.114(2):p.159-188.

[14]Collins,A.M.and E.F.Loftus,A Spreading-Activation Theory of Semantic Processing.Psychological Review,1975.82(6):p.407-428.

[15]Rumelhart,D.E.and J.L.McClelland,On Learning the Past Tense of English Verbs,in Parallel Distributed Processing-Vol.2:Psychological and BiologicalModels,J.L.McClelland,D.E.Rumelhart,and t.P.R.Group,Editors.TheM IT Press,1986.

[16]McClelland,J.L.,J.A.Fiez,and B.D.McCandliss,Teaching the vertical bar r vertical bar-vertical bar 1 vertical bar discrimination to Japanese adults:behavioral and neural aspects.Physiology&Behavior,2002.77(4-5):p.657-662.

[17]Brent,M.R.and T.A.Car twright,Distributional regularity and phonotactic constraints are useful for segmentation.Cognition,1996.61(1-2):p.93-125.

[18]Christiansen,M.H.,J.Allen,andM.S.Seidenberg,Learning to segment speech using multiple cues:A connectionist model.Language and Cognitive Processes,1998.13(2-3):p.221-268.

[19]Elman,J.L.,Finding Structure in Time.Cognitive Science,1990.14(2):p.179-211.

[20]Redington,M.,N.Chater,and S.Finch,Distributional information:A powerful cue for acquiring syntactic categories.Cognitive Science,1998.22(4):p.425-469.

[21]Mintz,T.H.,Category induction from distributional cues in an artificial language.Memory&Cognition,2002.30(5):p.678-686.

[22]Christiansen,M.H.and N.Chater,Toward a connectionist model of recursion in human linguistic performance.Cognitive Science,1999.23(2):p.157-205.

H0

A

1003-8078(2010)02-084-05

2010-03-21

鄧勁雷 (1979-),男,福建莆田人,福建師范大學(xué)外國(guó)語(yǔ)學(xué)院講師。

責(zé)任編輯 張吉兵

猜你喜歡
主義神經(jīng)元權(quán)重
《從光子到神經(jīng)元》書評(píng)
自然雜志(2021年6期)2021-12-23 08:24:46
新寫意主義
權(quán)重常思“浮名輕”
近光燈主義
為黨督政勤履職 代民行權(quán)重?fù)?dān)當(dāng)
躍動(dòng)的神經(jīng)元——波蘭Brain Embassy聯(lián)合辦公
基于公約式權(quán)重的截短線性分組碼盲識(shí)別方法
這是一部極簡(jiǎn)主義詮釋片
Coco薇(2016年7期)2016-06-28 02:13:55
冬日 新碰撞主義
Coco薇(2015年12期)2015-12-10 02:53:05
基于二次型單神經(jīng)元PID的MPPT控制
东兴市| 大荔县| 吉木萨尔县| 务川| 永定县| 通渭县| 卫辉市| 长武县| 手游| 依安县| 长宁区| 明光市| 巴彦淖尔市| 西畴县| 吴川市| 绍兴县| 涡阳县| 锡林郭勒盟| 长子县| 清涧县| 嘉鱼县| 化德县| 积石山| 贵州省| 永年县| 许昌县| 旬邑县| 门头沟区| 分宜县| 梅州市| 贡嘎县| 屏东县| 湖州市| 桂平市| 香格里拉县| 怀安县| 柏乡县| 易门县| 青岛市| 准格尔旗| 昭苏县|