李梁晨 甘勤濤 藺佳哲,3
(1陸軍工程大學(xué)石家莊校區(qū), 石家莊 050000)(2盲信號處理國家級重點實驗室, 成都 610000)(3中國空氣動力研究與發(fā)展中心計算空氣動力研究所, 綿陽 621000)
第4種無源基本電路元件——憶阻器的概念最早由Chua[1]于1971年提出.2015年,Chua[2]再次對憶阻器的概念和分類進行了明確.在雙極性周期性電信號下,理想憶阻器在V-I平面的電特性為一條捏滯回線,即憶阻器的阻值(稱為憶阻)依賴于過去流經(jīng)該器件的電荷總量.該特性可以由一些氧化物材料實現(xiàn),并且具有一定的非易失性.2008年惠普實驗室構(gòu)造出Pt/TiO2/Pt結(jié)構(gòu)的憶阻器,并且構(gòu)建了器件的憶阻模型[3].該實驗室于2010年使用憶阻實現(xiàn)了NAND等基本布爾邏輯[4],使得在同一器件中實現(xiàn)信息儲存和處理變?yōu)榭赡?
Hu等[5]使用憶阻器在電路系統(tǒng)中模擬神經(jīng)元突觸連接構(gòu)建了基于憶阻的神經(jīng)網(wǎng)絡(luò)電路.這種基于憶阻的神經(jīng)網(wǎng)絡(luò)在圖像處理[6]、聯(lián)想記憶[7-8]、機器學(xué)習(xí)[9]等領(lǐng)域有著廣泛的應(yīng)用前景.近年來,這類神經(jīng)網(wǎng)絡(luò)得到越來越多學(xué)者的關(guān)注.
Wu等[9]建立了時滯憶阻神經(jīng)網(wǎng)絡(luò)數(shù)學(xué)模型,并分析了模型平衡點的全局一致穩(wěn)定性.此后一些關(guān)于憶阻神經(jīng)網(wǎng)絡(luò)穩(wěn)定性[10-11]、同步性[12-13]、無源性[14-15]、耗散性[16-17]等動力學(xué)特性的研究成果相繼問世.這些研究中都假設(shè)憶阻器的憶阻值在2個定值間切換,并且切換的條件只依賴于網(wǎng)絡(luò)中神經(jīng)元的實時狀態(tài).然而,這種假設(shè)忽視了憶阻器狀態(tài)變化的過程,使得網(wǎng)絡(luò)中的憶阻器失去了特有的記憶特性.Pershin等[18]也指出了該問題.
本文根據(jù)憶阻器的物理特性,構(gòu)建一類荷控憶阻神經(jīng)網(wǎng)絡(luò)模型.網(wǎng)絡(luò)中憶阻器的狀態(tài)(憶阻值)由初始狀態(tài)和在特定方向上通過器件的電荷量決定,網(wǎng)絡(luò)的連接權(quán)值受通過相應(yīng)憶阻器電荷量的影響連續(xù)變化.實際憶阻器在雙極性周期性電信號下的V-I曲線與理想模型略有差異.這種差異很可能導(dǎo)致神經(jīng)網(wǎng)絡(luò)的穩(wěn)定狀態(tài)發(fā)生變化,而在以往的研究中該因素都被忽視.本文使用參數(shù)擾動來刻畫這種差異,并通過分析網(wǎng)絡(luò)的Lagrange穩(wěn)定性研究其對憶阻神經(jīng)網(wǎng)絡(luò)動力學(xué)性態(tài)的影響.Lagrange穩(wěn)定性研究的是整個系統(tǒng)的穩(wěn)定性,若網(wǎng)絡(luò)是Lagrange意義下穩(wěn)定的,則可保證網(wǎng)絡(luò)的平衡點、周期解、概周期解、混沌吸引子都在全局吸引集的范圍內(nèi).Lyapunov意義下網(wǎng)絡(luò)的全局穩(wěn)定性也可視為全局吸引集為平衡點的Lagrange穩(wěn)定的特殊情況[19-20].
本文通過構(gòu)造Lyapunov函數(shù),用線性矩陣不等式形式給出受參數(shù)變化范圍影響的網(wǎng)絡(luò)Lagrange穩(wěn)定的充分條件,并根據(jù)網(wǎng)絡(luò)自身參數(shù)給出全局指數(shù)吸引集估計.最后,通過數(shù)值實例說明理論結(jié)果.
Strukov等[3]給出了惠普實驗室制作的Pt/TiO2-x/Pt結(jié)構(gòu)憶阻器的模型:
(1)
式中,v(t)為施加在憶阻器兩端的電壓;i(t)為通過憶阻器的電流;l為夾在2個金屬電極間半導(dǎo)體薄膜的厚度;w(t)為電阻較低的摻雜區(qū)域的長度;ron、roff分別為憶阻器的最小和最大憶阻值;μ為憶阻器中離子遷移的平均速率.
由式(1)可推導(dǎo)出憶阻器憶阻值rmem(t)及其導(dǎo)數(shù)的表達(dá)式:
(2)
(3)
式中,w0為摻雜區(qū)域的初始長度.憶阻器的憶導(dǎo)值定義為mmem(t)=1/rmem(t),憶導(dǎo)值的導(dǎo)數(shù)滿足
(4)
將這種憶阻器應(yīng)用到神經(jīng)網(wǎng)絡(luò)電路中,代替模擬神經(jīng)元突觸的電阻,可得到圖1中的憶阻神經(jīng)網(wǎng)絡(luò)電路.根據(jù)基爾霍夫電流定律,得到如下荷控憶阻神經(jīng)網(wǎng)絡(luò)模型:
(5)
令C([-τ,0],Rn)表示由連續(xù)函數(shù)ψ:[-τ,0]→Rn構(gòu)成的Banach空間,其范數(shù)為‖ψ‖c=sups∈[-τ,0]|ψ(s)|.對任意常數(shù)S>0,定義其子集CS={ψ∈C:‖ψ‖c
定義1如果對于任意的S>0,存在常數(shù)κ=κ(S)>0使得‖x(t,ψ)‖<κ,ψ∈CS,t≥0,則稱網(wǎng)絡(luò)在Lagrange意義下是一致有界的.
定義2如果存在一個徑向無界的正定函數(shù)V(x(t)),泛函κ∈C,正常數(shù)l、α,使得對網(wǎng)絡(luò)的任意解x(t)=x(t,ψ),當(dāng)V(x(t))>l,t≥0時,有V(x(t))-l≤κ(ψ)exp(-αt),則稱網(wǎng)絡(luò)是全局指數(shù)吸引的,緊集Ω:={x∈Rn,V(x) 圖1 憶阻神經(jīng)網(wǎng)絡(luò)電路圖 定義3若網(wǎng)絡(luò)在Lagrange意義下一致有界并且是全局指數(shù)吸引的,則稱網(wǎng)絡(luò)在Lagrange意義下是全局指數(shù)穩(wěn)定的. 本文對憶阻神經(jīng)網(wǎng)絡(luò)模型(5)做如下假設(shè): 2)時滯τj(t)可導(dǎo),且存在正常數(shù)τ、ωj,滿足 3)外部輸入Ii(t)有界,即存在正常數(shù)γi,使得|Ii(t)|≤γi(i=1,2,…,n). 在研究網(wǎng)絡(luò)穩(wěn)定性時將用到以下引理: 引理2[21]若M、E、T(t)為實矩陣,且T(t)滿足TT(t)T(t)≤I(I為單位矩陣),則對任意ε>0有 MT(t)E+(MT(t)E)T≤ε-1MMT+εETE 首先,將模型(5)中的神經(jīng)元狀態(tài)方程改寫成如下形式: (6) 其中 將式(6)改寫成矩陣形式: (7) 其中 x(t)={x1(t),x2(t),…,xn(t)}T f(x(t))={f1(x1(t)),f2(x2(t)), …,fn(xn(t))}T g(x(t-τ(t)))={g1(x1(t-τ1(t))), P(t)={p1(t),p2(t),…,pn(t)}T 其中 G=[G1G2…Gn] Wi(t)=diag(Wi1,Wi2,…,Win) 式中,ei為第i個元素為1的n維列向量. 實驗表明,憶阻器的實際阻值與理想模型存在一定差異[3],因此在研究憶阻神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性時,考慮一定的參數(shù)擾動.在模型(7)中引入?yún)?shù)擾動,得 (8) 式中,參數(shù)擾動ΔA、ΔB、ΔD滿足 ΔA=H1T1(t)Z1 其中,H1、H2、H3、Z1、Z2、Z3為已知的常實數(shù)矩陣;T1(t)、T2(t)、T3(t)為未知的時變矩陣,滿足 (9) 對于模型(8)的穩(wěn)定性有如下結(jié)論. 定理1當(dāng)A1~A3成立時,若存在正定矩陣K、M1、M2,正常數(shù)εi(i=1,2,…,9)和正定對角矩陣R、Q,使得下列線性矩陣不等式成立: (10) (11) 其中, Φ=-diag(ε1I,ε2I,ε3I,ε4I,ε5I,ε6I,ε7I, 則模型(8)是Lagrange意義下全局指數(shù)穩(wěn)定的,且Π={x∈Rn|xTKx≤PTM2P}為模型(8)的一個全局指數(shù)吸引集,其中P={γ1/C1,γ2/C2,…,γN/CN}T. 證明構(gòu)造徑向無界的Lyapunov-Krasovskii泛函 式中,K為正定矩陣;Q=diag(q1,q2,…,qn)為正定對角矩陣.計算V(t)的導(dǎo)數(shù) 由假設(shè)1可得 (12) 由引理2,有 (13) 以及 2(xT(t)K+fT(x(t))Q)(-ΔDx(t)+ΔAf(x(t))+ (14) 由假設(shè)1和線性矩陣不等式(11),可得 x(t-τ(t))TKx(t-τ(t)) 由V(t)的定義可知 (15) V(t)≤xT(t)(K+QLf)x(t) (16) 綜合式(12)~(16),可得 由線性矩陣不等式(10)及引理1可知,Ξ-ΓΦ-1ΓT<0.因此 其等價于 由引理3可知 式中,λ為方程λ=2-eλτ的根.因此,模型(8)是Lagrange意義下全局指數(shù)穩(wěn)定的,且Π={x∈Rn|xTKx≤PTM2P}是它的一個全局指數(shù)吸引集. 在模型建立和定理1的證明中應(yīng)注意以下方面: 1) 憶阻器具有極性,因此若將憶阻器反向接入網(wǎng)絡(luò),其阻值變化將恰好相反,模型(5)中相應(yīng)憶阻器憶導(dǎo)的導(dǎo)數(shù)將取相反數(shù). 3)定理1討論了當(dāng)激活函數(shù)滿足Lipschitz連續(xù)條件時,網(wǎng)絡(luò)Lagrange穩(wěn)定的充分條件.憶阻器阻值在各阻態(tài)下小范圍變化引起的參數(shù)擾動存在于判定不等式中,一方面影響判定條件,另一方面影響P、M2的取值,間接影響全局指數(shù)吸引集的范圍估計. 4)若激活函數(shù)是有界的,不難推斷出網(wǎng)絡(luò)一定是Lagrange穩(wěn)定的,但是其全局指數(shù)吸引集的范圍仍有待估計.此時,參數(shù)擾動的影響將主要體現(xiàn)在對全局指數(shù)吸引集的范圍估計. 5)本文中為處理憶阻神經(jīng)網(wǎng)絡(luò)模型參數(shù)變化所使用的重構(gòu)模型方法,避免了文獻[23]中使用定量分析方法造成的計算量過大的問題,所得條件保守性較弱,且計算量小.用這種方法處理模型,驗證文獻[23]例1中網(wǎng)絡(luò)的穩(wěn)定性僅需求解1個線性矩陣不等式,而根據(jù)該文中的定理3.1則需求解8個,且隨著網(wǎng)絡(luò)中神經(jīng)元個數(shù)增加,差距將進一步拉大.此外,在文獻[24]的證明過程中使用這種方法,亦可降低穩(wěn)定性判據(jù)的計算量,且所得全局吸引集的估計范圍更小,保守性更低. 本節(jié)以圖2中的憶阻神經(jīng)網(wǎng)絡(luò)電路為例,通過數(shù)值模擬說明所建立的荷控憶阻神經(jīng)網(wǎng)絡(luò)模型與現(xiàn)有的2類憶阻神經(jīng)網(wǎng)絡(luò)模型的不同之處及優(yōu)勢,并驗證定理1的可行性. 圖2 由2個神經(jīng)元構(gòu)成的憶阻神經(jīng)網(wǎng)絡(luò)電路圖 算例1假設(shè)圖2中的憶阻器相同,且滿足 憶阻器中離子遷移的平均速率為常數(shù)μ=10-14m2/(s·V).選取圖2中的電阻和運算放大器為 外部輸入Ii=0,傳輸時滯滿足τi(t)=1+0.5tanh(t)s,i=1,2. 首先,用現(xiàn)有的2類切換型憶阻神經(jīng)網(wǎng)絡(luò)模型來描述本例中的憶阻神經(jīng)網(wǎng)絡(luò),并分別用這2種模型進行仿真. 若采用文獻[14]中的憶阻神經(jīng)網(wǎng)絡(luò)模型,則網(wǎng)絡(luò)中憶阻器的憶阻值滿足 網(wǎng)絡(luò)神經(jīng)元狀態(tài)的描述方程則與模型(5)中一致.選取神經(jīng)元狀態(tài)初值x1(θ)=2 V,x2(θ)=2 V,θ∈[-1.5,0],對網(wǎng)絡(luò)進行仿真,網(wǎng)絡(luò)中憶阻器憶阻值的軌跡如圖3所示. 對于文獻[25]中的電壓導(dǎo)數(shù)符號切換憶阻神經(jīng)網(wǎng)絡(luò)模型,其憶阻器的憶阻值滿足 網(wǎng)絡(luò)神經(jīng)元狀態(tài)的描述方程仍與模型(5)中一致.選取神經(jīng)元狀態(tài)初值x1(θ)=2 V,x2(θ)=2 V,θ∈[-1.5,0],對網(wǎng)絡(luò)進行仿真,網(wǎng)絡(luò)中憶阻器憶阻值的軌跡如圖4所示. 對這2類模型的仿真顯示,網(wǎng)絡(luò)中憶阻器的憶阻值在某些時段出現(xiàn)高頻率震蕩.仿真中,每個點的間隔時間為0.01 s,而實際中憶阻器的憶阻值不會在這么短的時間內(nèi)發(fā)生如此大的變化,即使施加在憶阻器兩端的信號為高頻雙極周期信號,憶阻器的V-I特性曲線表現(xiàn)為一條直線,其作用如同普通的電阻.因此,用這2類模型來描述算例1中的憶阻神經(jīng)網(wǎng)絡(luò),將與實際網(wǎng)絡(luò)存在較大誤差. 圖5中憶阻值的軌跡符合憶阻器物理特性.因此,對于算例1中的憶阻神經(jīng)網(wǎng)絡(luò),使用荷控憶阻神經(jīng)網(wǎng)絡(luò)模型(5)對其進行仿真,結(jié)果更符合實際. 選取如下3組初值: x1(θ)=2 V,x2(θ)=2 V,θ∈[-1.5,0] x1(θ)=-2 V,x2(θ)=-2 V,θ∈[-1.5,0] x1(θ)=2 V,x2(θ)=2 V,θ∈[-1.5,0] 分別在這3組條件下,使用荷控憶阻神經(jīng)網(wǎng)絡(luò)模型(5)對算例1中的憶阻神經(jīng)網(wǎng)絡(luò)進行仿真,網(wǎng)絡(luò)中神經(jīng)元狀態(tài)的軌跡如圖6所示. (a) 神經(jīng)元x1 (b) 神經(jīng)元x2 通過對比可看出,在初始條件φ1和φ2下,憶阻器的初始憶阻值相同,而網(wǎng)絡(luò)的神經(jīng)元狀態(tài)初值不同,網(wǎng)絡(luò)中神經(jīng)元狀態(tài)軌跡分別趨向于不同步的震蕩.在初始條件φ1和φ3下,網(wǎng)絡(luò)的神經(jīng)元狀態(tài)初值相同,而憶阻器的初始憶阻值不同,網(wǎng)絡(luò)中神經(jīng)元的狀態(tài)軌跡趨向于不同的區(qū)域.而在現(xiàn)有模型中,憶阻器的憶阻值是由相應(yīng)神經(jīng)元的當(dāng)前狀態(tài)決定的,因此不會出現(xiàn)這種現(xiàn)象,同時憶阻器失去了其記憶特性.而在本文提出的荷控憶阻神經(jīng)網(wǎng)絡(luò)模型中,憶阻器的憶阻值由其初始憶阻值和從初始時刻到當(dāng)前時刻流經(jīng)憶阻器的電荷量決定.換言之,憶阻器的憶阻值受到相應(yīng)神經(jīng)元從初始時刻到當(dāng)前時刻全部狀態(tài)的影響,這體現(xiàn)了其記憶特性. 下面驗證定理1中網(wǎng)絡(luò)穩(wěn)定性判據(jù)的可行性. 算例2設(shè)圖2中的憶阻器滿足 其他電路元件選擇如下: 選取網(wǎng)絡(luò)的外部輸入為P(t)={cost,sint}T.假設(shè)網(wǎng)絡(luò)中的參數(shù)擾動滿足 通過計算可得 使用Matlab中的LMI工具箱計算定理1條件中的線性矩陣不等式(10)和(11),得到一組可行解.根據(jù)定理1,該憶阻神經(jīng)網(wǎng)絡(luò)是Lagrange穩(wěn)定的,經(jīng)計算得Ω={x∈R2|xTKx≤6.493 2}是網(wǎng)絡(luò)的一個全局指數(shù)吸引集,其中 以模型(8)對圖2中的電路進行仿真,選取20組不同的網(wǎng)絡(luò)初值,滿足 網(wǎng)絡(luò)中存在和不存在參數(shù)擾動的情況下,在這20組初值下神經(jīng)元狀態(tài)軌跡如圖7所示. (a) 神經(jīng)元x1 (b) 神經(jīng)元x2 由圖7可看出,當(dāng)網(wǎng)絡(luò)中存在參數(shù)擾動時,網(wǎng)絡(luò)的周期解發(fā)生了一定的偏移,但仿真結(jié)果與定理1的結(jié)論一致,憶阻神經(jīng)網(wǎng)絡(luò)的軌跡都收斂到所給出的全局吸引集內(nèi).這說明了本文給出的荷控憶阻神經(jīng)網(wǎng)絡(luò)模型(8)穩(wěn)定性判據(jù)的可行性. 1) 本文所提出新模型的自反饋系數(shù)和連接權(quán)值隨相應(yīng)憶阻器阻值的變化而連續(xù)變化,保留了憶阻器記錄在一定方向上流經(jīng)器件的電荷量的特性,更符合實際,且更具有一般性. 2) 本文使用的重構(gòu)模型方法亦可推廣應(yīng)用于傳統(tǒng)憶阻神經(jīng)網(wǎng)絡(luò)模型的研究.本文推廣了部分憶阻神經(jīng)網(wǎng)絡(luò)Lagrange穩(wěn)定性和Lyapunov穩(wěn)定性的研究成果. 3) 從數(shù)值仿真結(jié)果中可以看出,參數(shù)擾動使得網(wǎng)絡(luò)的最終狀態(tài)發(fā)生了變化.因此,若不考慮該因素,很可能導(dǎo)致網(wǎng)絡(luò)在實際應(yīng)用中的結(jié)果達(dá)不到預(yù)期效果.本文中考慮的參數(shù)擾動來自于憶阻器實際阻值與理想模型存在的差異,但還有其他一些因素也可能造成參數(shù)的擾動,比如環(huán)境溫度的變化、磁場的變化,這些因素同樣也可作用于非憶阻神經(jīng)網(wǎng)絡(luò).因此,本文的結(jié)果對于憶阻神經(jīng)網(wǎng)絡(luò)及非憶阻神經(jīng)網(wǎng)絡(luò)的應(yīng)用有實際意義.2 網(wǎng)絡(luò)穩(wěn)定性
g2(x2(t-τ2(t))), …,gn(xn(t-τn(t)))}T
ΔB=H2T2(t)Z2
ΔD=H3T3(t)Z3
ε8I,ε9I,M1,M2)3 數(shù)值算例
4 結(jié)論