張嘉瑛，賀興時,于青林

(1.西安工程大學(xué) 理學(xué)院， 陜西 西安 710048;2.湯普森河大學(xué) 數(shù)學(xué)與統(tǒng)計學(xué)系, 加拿大 甘露市 V2C 0C8)

0 引 言

脈沖神經(jīng)網(wǎng)絡(luò)[1](spiking neural network，SNN)被認(rèn)為是第三代神經(jīng)網(wǎng)絡(luò)，有著廣泛的研究價值。神經(jīng)元細(xì)胞是神經(jīng)系統(tǒng)能夠處理復(fù)雜信息的物質(zhì)基礎(chǔ)[2-4]，這些神經(jīng)元之間的相互連接，形成神經(jīng)系統(tǒng)各種復(fù)雜的結(jié)構(gòu)和功能。脈沖神經(jīng)元的主要生物物理模型有Hodgkin Huxley模型[5]、Lzhikevich模型[6]、LIF模型[7]、SRM模型[8]等。這些模型可以解釋真實(shí)神經(jīng)元的巨大動態(tài)庫[9]，但對于神經(jīng)編碼和計算的理論分析來說，不夠清晰簡單，激發(fā)了對神經(jīng)脈沖響應(yīng)的簡化模型的需求。

神經(jīng)編碼的研究目的是揭示感覺信息是如何在神經(jīng)脈沖反應(yīng)中編碼。編碼需要了解刺激和脈沖序列之間的統(tǒng)計關(guān)系，以及進(jìn)行這種轉(zhuǎn)換的生物物理機(jī)制。PARK等從一系列階段描述編碼過程,即線性濾波、非線性變換開始，并以噪聲或有條件的泊松脈沖結(jié)束，形成泊松GLM等模型[10]。然而，級聯(lián)式描述性統(tǒng)計模型與生物物理解釋模型之間存在很大差距。文獻(xiàn)[11-12]認(rèn)為在實(shí)際神經(jīng)元中，刺激是非線性的，而非線性是由興奮性和抑制性突觸輸入之間的相互作用引起的。這些突觸輸入非線性地依賴于刺激，輸入反過來驅(qū)動電導(dǎo)變化，從而改變控制膜電位的非線性動力學(xué)。2011—2014年，MENG等介紹了標(biāo)準(zhǔn)泊松GLM的準(zhǔn)生物物理解釋，即具有相同和相反興奮性和抑制性調(diào)節(jié)約束電導(dǎo)模型的等價性。放松這些約束，以獲得一個更靈活和更現(xiàn)實(shí)的基于電導(dǎo)的模型，獨(dú)立調(diào)整興奮性和抑制性輸入[13-14]。2014年，LATIMER正式提出了基于電導(dǎo)的編碼模型(conductance-based neural encoding model,CBEM)[15]。文獻(xiàn)[16-18]在生物物理框架中明確定義模型組件，并直接將模型預(yù)測與單個細(xì)胞的激發(fā)和抑制調(diào)節(jié)進(jìn)行比較。CBEM在預(yù)測新刺激的視網(wǎng)膜脈沖反應(yīng)方面優(yōu)于標(biāo)準(zhǔn)GLM。這些差異突出了CBEM的能力，揭示了感官神經(jīng)元可以在自然環(huán)境中進(jìn)行計算。2019年，LATIMER等通過來自獼猴視網(wǎng)膜神經(jīng)節(jié)的細(xì)胞內(nèi)記錄,證明了CBEM可以適合細(xì)胞外的脈沖序列數(shù)據(jù)，然后用于預(yù)測興奮性和抑制性的突觸電流[19]。由簡單神經(jīng)元組成的神經(jīng)網(wǎng)絡(luò)，其功能并非單個神經(jīng)元功能的簡單疊加。以上所建立的脈沖神經(jīng)元模型均為單神經(jīng)元模型，而生物體細(xì)胞是相互影響，相互耦合的。

為了考慮生物細(xì)胞序列的實(shí)際特性，縮小數(shù)學(xué)模型與生物物理模型之間的差距，本文對以上CBEM進(jìn)行耦合,構(gòu)建耦合脈沖神經(jīng)元模型，并進(jìn)行仿真實(shí)驗觀察細(xì)胞脈沖序列的變化。耦合的CBEM具有良好的點(diǎn)過程似然，使得其更易于擬合細(xì)胞外的數(shù)據(jù)，能夠更多地考慮來自其他細(xì)胞的信息。該模型不僅具有獨(dú)立的興奮和抑制電導(dǎo)，而且根據(jù)不同脈沖序列間的相關(guān)關(guān)系，增加了耦合濾波器參數(shù)，獲得了更多的信息進(jìn)行序列擬合，構(gòu)成一個更靈活、在生物物理上更可信的模型。

1 CBEM神經(jīng)元細(xì)胞模型

因級聯(lián)式統(tǒng)計模型(GLM模型[10])與生物物理的可解釋模型間逐漸存在的巨大差距，LATIMER等提出了CBEM,詳細(xì)地描述了數(shù)學(xué)模型和對應(yīng)的生物物理模型之間的聯(lián)系，并取得了較好的仿真結(jié)果[20]。

CBEM與泊松GLM相比，增加了基線參數(shù)b，如式(1)所示：

(1)

(2)

式中:Vt表示膜電位。將該模型轉(zhuǎn)化為一個典型的LIF(leaky integrate and fire)模型，可以替換fr用“硬”的閾值函數(shù)，在從零到正無窮設(shè)置某個閾值跳躍的膜電位，將k設(shè)為指數(shù)衰減的過濾器參數(shù)，并設(shè)置脈沖后過濾器h為δ函數(shù)，進(jìn)而導(dǎo)致瞬時出現(xiàn)峰值后膜電位重置。GLM膜電位是輸入的線性函數(shù)，因此,2個模型都無法捕捉到大多數(shù)真實(shí)神經(jīng)元突觸輸入的非線性。

由常微分方程控制的膜電位Vt的神經(jīng)元模型為

gi(Vt-Ei)

(3)

式中:gl為漏導(dǎo)；ge(t)和gi(t)為興奮性和抑制性突觸電導(dǎo);El、Ee和Ei分別為漏性、興奮性和抑制性反向電位。式(3)要滿足2個條件：ge(t)+gi(t)=c，c為常數(shù);ge(t)Ee+gi(t)Ei是刺激的線性函數(shù)。根據(jù)以上條件，構(gòu)造了滿足這些條件的CBEM。通過將興奮性電導(dǎo)和抑制性電導(dǎo)建模為刺激的仿射函數(shù)，由正負(fù)相反的線性濾波器驅(qū)動，即

(4)

式中:kc為線性電導(dǎo)濾波器;be、bi分別為興奮性與抑制性電導(dǎo)的基線參數(shù)?？傠妼?dǎo)是定值g=gl+be+bi，因此將膜電位式(4)改寫為

(5)

式中：b=beEe+biEi；V0=b/g。瞬時膜電位的表達(dá)式為

Vt=k·xt+V0

(6)

式中：k相當(dāng)于線性卷積kc的指數(shù)衰減濾波,

(7)

CBEM示意圖如圖1所示。

圖1 基于電導(dǎo)的模型CBEM示意圖Fig.1 Schematic diagram of conductauce based neural encoding model(CBEM)

圖1中，CBEM的參數(shù)由刺激濾波器組成。刺激濾波器分為抑制濾波器和興奮濾波器2個部分,以便更好地擬合對不同刺激類型的選擇性過濾作用。脈沖后的過濾器h獲得對脈沖歷史信息，以及在沒有輸入的情況下確定基線發(fā)射率的基線b。對這些濾波器的輸出求和，并且通過一個非線性函數(shù)fr，得到非齊次泊松脈沖過程的條件強(qiáng)度。

脈沖CBEM模型為

(8)

式中：ke和ki分別是驅(qū)動興奮性電導(dǎo)和抑制性電導(dǎo)的線性濾波器；fg是保證電導(dǎo)非負(fù)的軟整流非線性函數(shù)。加入對脈沖歷史數(shù)據(jù)的考慮，并加入線性自回歸項，和GLM的歷史一致，得到膜電位方程，即

(9)

(10)

式中：μ是一個“軟”脈沖閾值；α和β分別決定了非線性函數(shù)的斜率和銳度。

2 耦合CBEM神經(jīng)元細(xì)胞模型

CBEM只考慮了單個神經(jīng)元對刺激的脈沖響應(yīng)過程。通過對濾波器進(jìn)行耦合，加入神經(jīng)元間的相互信息，可以擴(kuò)展到多個神經(jīng)元之間耦合的模型。圖2為2個神經(jīng)元耦合的示意圖。

圖2 互相耦合的2個神經(jīng)元模型Fig.2 Coupling of two neuron models

圖2在圖1的基礎(chǔ)上由單神經(jīng)元模型變化為耦合神經(jīng)元模型。此時的濾波器不僅是興奮性濾波器與抑制性濾波器，還根據(jù)不同脈沖序列之間的相關(guān)關(guān)系，增加了耦合濾波器以及脈沖后濾波器，通過對濾波器的輸出求和并通過非線性函數(shù)fr，得到了非齊次泊松脈沖過程的條件強(qiáng)度。

(11)

由MENSI等提出生物物理驅(qū)動輸出的非線性函數(shù)，將膜電位轉(zhuǎn)換為脈沖率，膜電位與脈沖率的關(guān)系如式(12)[21]：

(12)

式中:μ是一個“軟”脈沖閾值;α和β分別決定了非線性函數(shù)的斜率和銳度。得到脈沖率的表達(dá)式為

(13)

用最大似然進(jìn)行模型擬合，并計算模型參數(shù)。

3 仿真實(shí)驗與分析

3.1 數(shù)據(jù)預(yù)處理

引用數(shù)據(jù)源為文獻(xiàn)[22]發(fā)布的神經(jīng)節(jié)細(xì)胞脈沖序列數(shù)據(jù)；數(shù)據(jù)組根據(jù)測試細(xì)胞神經(jīng)元的種類分為on中心型及off中心型等2種。

展示的數(shù)據(jù)使用數(shù)據(jù)組中提供的第3個神經(jīng)元細(xì)胞，其狀態(tài)被標(biāo)記為on-cell。對數(shù)據(jù)統(tǒng)計信息進(jìn)行計算，求解到每個時間塊(time bin)大小為8.3 ms，不同時間的刺激序列為144 051個，總時間長度為20 min。脈沖響應(yīng)序列的個數(shù)為49 954，其平均脈沖率為41.6 Hz。

圖3為原始數(shù)據(jù)在每個時間塊內(nèi)的可視化圖，展示了對每個時間塊內(nèi)的脈沖次數(shù)的統(tǒng)計結(jié)果。這個數(shù)據(jù)作為比對細(xì)胞脈沖序列的脈沖率真值。

圖3 劃分的時間塊內(nèi)的脈沖次數(shù)Fig.3 The number of spikes in each time block

3.2 可視化結(jié)果

對4個細(xì)胞的脈沖序列兩兩之間進(jìn)行了互相關(guān)計算，得到了互相關(guān)關(guān)系圖，見圖4。脈沖序列是一種二元的時間序列，從互相關(guān)關(guān)系圖中可以得知2個時間序列之間的相關(guān)程度。圖4中，在某些時間點(diǎn)上，不同脈沖序列之間存在相關(guān)聯(lián)系，顯示了不同神經(jīng)元脈沖序列之間有著時間上的某種關(guān)聯(lián)。模擬比較所提出的模型，模型中的相關(guān)關(guān)系由不同神經(jīng)元間的脈沖歷史濾波器實(shí)現(xiàn)，這些耦合濾波器和抑制、興奮的濾波器一起構(gòu)建設(shè)計矩陣。使用設(shè)計矩陣進(jìn)行擬合，提出的模型與其他模型的脈沖率預(yù)測可視化結(jié)果。

(a) 細(xì)胞(1，1) (b) 細(xì)胞(1，2) (c) 細(xì)胞(1，3) (d) 細(xì)胞(1，4)

將提出的耦合CBEM與GLM(歷史濾波器)[23]、單神經(jīng)元CBEM[20]，泊松GLM[10]、NP-GLM[24-25]等4種模型進(jìn)行脈沖率預(yù)測對比，結(jié)果如圖5所示。

(a) 細(xì)胞1 (b) 細(xì)胞2

從圖5可以看出，提出的耦合CBEM神經(jīng)元模型取得了更好的脈沖擬合效果，模型擬合預(yù)測的脈沖率更加符合實(shí)際的脈沖率。相比于GLM(歷史濾波器)與泊松GLM，耦合CBEM對高頻的脈沖響應(yīng)擬合效果更好，在較高的脈沖率時較為明顯，且在脈沖率較低時保持了很好的擬合效果；相比于NP-GLM，耦合CBEM在低頻的脈沖響應(yīng)擬合效果更好，而且高頻時也更接近于脈沖率真值；相比于單神經(jīng)元CBEM，耦合CBEM采用了多個神經(jīng)元的聯(lián)合信息，耦合后對擬合效果產(chǎn)生了很大的影響。

3.3 結(jié)果分析

對模型的實(shí)驗驗證采用了單脈沖(single-spike)信息[26]和AIC信息準(zhǔn)則[27]等2個量化指標(biāo)。單脈沖信息[26]定量比較這些模型更詳細(xì)地考慮時間為單一脈沖的簡單情況，即計算單個脈沖傳遞的平均信息I1：

(14)

式中：r(t)為瞬時脈沖率；T為單個觀察窗口的時間。單個脈沖所攜帶的信息應(yīng)該與脈沖速率相關(guān)。速率作為時間的函數(shù)，給出了脈沖序列的“單一體”統(tǒng)計的完整描述。表1為使用Matlab計算的關(guān)于幾種模型的單脈沖信息比較結(jié)果，單位為比特/脈沖(bits/spike)。

表1 單脈沖信息比較Tab.1 Comparison of single-spike information

從表1可以看出:相對于其他4種模型,提出的耦合CBEM 4組實(shí)驗的單脈沖信息都有所提升。雖然在細(xì)胞3中耦合CBEM僅次于NP-GLM，但是其他實(shí)驗數(shù)據(jù)的增長非常明顯，表明單個脈沖傳遞的平均信息增多。耦合CBEM在細(xì)胞序列的擬合方面，攜帶了更多的信息。不同神經(jīng)元耦合對脈沖序列有較大的影響。耦合CBEM使用數(shù)據(jù)的增加容易導(dǎo)致模型編碼信息隨之增多，所以計算模型的AIC(akaike information criterion)值[18]要考慮模型的復(fù)雜程度。

AIC信息準(zhǔn)則[27]是衡量統(tǒng)計模型擬合優(yōu)良性的一種標(biāo)準(zhǔn)。該準(zhǔn)則建立在熵的概念基礎(chǔ)上，可以權(quán)衡所估計模型的復(fù)雜度和此模型擬合數(shù)據(jù)的優(yōu)良性。在一般的情況下，AIC可以表示為

AIC=2k-2lnL

(15)

式中:k為參數(shù)的數(shù)量；L為似然函數(shù)。AIC準(zhǔn)則鼓勵數(shù)據(jù)擬合的優(yōu)良性同時懲罰模型的過度擬合，所以優(yōu)先考慮的模型應(yīng)是AIC值最小的那一個。表2為幾種模型AIC值的計算結(jié)果。

表2 AIC計算結(jié)果Tab.2 Calculation results of AIC

耦合CBEM是簡化的單個CBEM加入其他細(xì)胞歷史信息，在此基礎(chǔ)上增加耦合濾波器，簡化了模型的相對復(fù)雜度。由表2可以看出：耦合的CBEM相對于其他模型AIC值都有所降低。雖然細(xì)胞3的實(shí)驗中復(fù)雜度略高于NP-GLM，但是其他幾組實(shí)驗中仍然低于其他模型，且相對于單個CBEM的模型復(fù)雜度大大降低，獲得了較好的擬合效果。

4 結(jié) 語

本文提出了一種脈沖神經(jīng)元建模方法，考慮不同脈沖神經(jīng)序列數(shù)據(jù)間存在的相關(guān)關(guān)系，加入耦合濾波器對CBEM進(jìn)行改進(jìn)。實(shí)驗結(jié)果表明，提出的耦合CBEM對脈沖序列的擬合效果更好。因耦合濾波器，信息得以在不同脈沖神經(jīng)元中傳遞，使得模型承載了更多的信息，在整體上降低了模型復(fù)雜度。加入了耦合濾波器，仍保留了CBEM在生物物理上的可解釋性。以后的工作將進(jìn)一步探索大規(guī)模脈沖神經(jīng)網(wǎng)絡(luò)中脈沖神經(jīng)元間耦合機(jī)制，研究相應(yīng)的高效優(yōu)化方法。