曹秀梅,朱明月,吳自庫(kù)
(青島農(nóng)業(yè)大學(xué)理學(xué)與信息科學(xué)學(xué)院,山東青島 266109)
很多力學(xué)、工程等學(xué)科中的問(wèn)題都可以歸結(jié)為積分方程,例如電磁問(wèn)題[1]、位勢(shì)問(wèn)題[2]。近年來(lái),無(wú)論在理論上[3],還是在數(shù)值解法上[4],對(duì)積分方程的研究都取得了豐碩的成果。就數(shù)值解而言,一些新方法被不斷推出,如Hermite配置方法[5]、互補(bǔ)解法[6]、譜正則化方法[7]等。但由于積分方程本身的復(fù)雜性,特別是第一類積分方程的突出特性——不適定性[8-9],導(dǎo)致第一類積分方程的求解存在很多困難,因此探討第一類積分方程的數(shù)值解法成為學(xué)者的一個(gè)研究方向。一些學(xué)者嘗試?yán)脵C(jī)器學(xué)習(xí)方法求解積分方程,人工神經(jīng)網(wǎng)絡(luò)方法是采用較多的一種[10-11],但該方法的兩個(gè)缺點(diǎn)(隱含層數(shù)難確定、容易陷入局部極小值)對(duì)克服第一類積分方程的不適定性不利。最小二乘支持向量機(jī)(least squares support vector machine,LS-SVM)[12]能較好地克服這兩個(gè)缺點(diǎn),并已成功地應(yīng)用于解微分方程及其反問(wèn)題[13-16]。LS-SVM作為一種機(jī)器學(xué)習(xí)方法,在求解積分方程方面的研究還不是很多,尤其在求解第一類積分方程方面。本文嘗試將該方法用于求解第一類Volterra和Fredholm積分方程。
研究如下形式的第一類Volterra積分方程:
(1)
(2)
利用復(fù)化梯形求積公式,將式(2)代入到方程(1)有:
(3)
這里
為引入的偏差。
根據(jù)LS-SVM原理可將參數(shù)估計(jì)問(wèn)題轉(zhuǎn)換為如下的二次規(guī)劃問(wèn)題進(jìn)行求解:
(4)
其中γ為正則化因子。二次規(guī)劃問(wèn)題(4)可通過(guò)拉格朗日乘子法求解,引入拉格朗日乘子μT=[μ0,μ1,μ2,…,μN(yùn)],拉格朗日函數(shù)為:
(5)
由Karush-Kuhn-Tucker(KKT)條件可以得到如下方程組:
(6)
其中N1=N+1;D11=IN1(N1階單位矩陣
D33=(0)1×1;Z=(0)N1×1,U=[-η·g(xi)]N1×1。
定理1:在給定可調(diào)參數(shù)σ和γ條件下,方程組(6)有唯一解。
(7)
研究如下形式的第一類Fredholm積分方程:
(8)
方程(8)同方程(1)區(qū)別在于方程(8)上限為常數(shù),因而與第一類Volterra積分方程相比,其解法機(jī)制并沒有本質(zhì)區(qū)別。采用復(fù)化Simpson求積公式對(duì)定積分部分進(jìn)行數(shù)值積分。將區(qū)間[a,b]進(jìn)行N=2M等分,步長(zhǎng)
xk=a+k·h1,則復(fù)化Simpson求積公式如下:
未知函數(shù)f(x)仍然取公式(2)的形式,最終可以將參數(shù)估計(jì)問(wèn)題轉(zhuǎn)化為如下形式的二次規(guī)劃問(wèn)題:
(9)
這里
其他符號(hào)的意義同1.1節(jié)。則二次規(guī)劃問(wèn)題(9)的拉格朗日函數(shù)為:
(10)
由拉格朗日乘子法,二次規(guī)劃問(wèn)題(9)為如下方程組的解:
(11)
其中
C23=[F(xi)]N1×1;C31=(0)1×N1,C32=[F(xi)]1×N1,C33=(0)1×1;Z=(0)N1×1,U=[-η·g(xi)]N1×1。
定理2:在給定可調(diào)參數(shù)σ和γ條件下,方程組(11)有唯一解。
方程組(6)和(11)形式上完全一樣,可以統(tǒng)一為AX=B。在實(shí)際應(yīng)用中為了增加穩(wěn)定性,可以改寫為:
[ATA+εI]X=ATB
(12)
當(dāng)ε→0+時(shí)收斂于原問(wèn)題的解。之所以采用公式(12)的形式,是為了避免方程組病態(tài)。
為驗(yàn)證本文算法的有效性,選取4個(gè)數(shù)值例子。為便于比較,4個(gè)數(shù)值例子均取自文獻(xiàn)[17-19]。將積分區(qū)間[a,b]100等分,101個(gè)節(jié)點(diǎn)為訓(xùn)練點(diǎn)集;再將積分區(qū)間150等分,151個(gè)節(jié)點(diǎn)為測(cè)試樣本點(diǎn)。選取最大誤差和均方根誤差為比較指標(biāo)??紤]到正則化因子γ的作用,取為常數(shù)(1.0×108),因而核寬度參數(shù)σ是唯一可調(diào)參數(shù),這是本方法的優(yōu)點(diǎn)之一。具體數(shù)值算例如下。
數(shù)值算例的數(shù)值結(jié)果見表1,圖1是對(duì)應(yīng)的解析解與數(shù)值解誤差曲線。從數(shù)值結(jié)果來(lái)看,本方法用于數(shù)值求解第一類積分方程完全可行,達(dá)到或超過(guò)了原文獻(xiàn)的精度。此外,本方法克服了問(wèn)題的不適定性,數(shù)值解穩(wěn)定,而且是閉式解析解。
表1 數(shù)值結(jié)果Table 1 Numerical results
積分方程數(shù)值解法是積分方程領(lǐng)域的研究熱點(diǎn)之一,然而基于機(jī)器學(xué)習(xí)理論的積分方程數(shù)值解法尚不多見。本文成功地將LS-SVM方法用于解第一類線性積分方程,在理論上給出了解法機(jī)制,數(shù)值結(jié)果表明本方法可行且具有較高的精度。下一步,如何求解其他類型的積分方程尤其是非線性積分方程,是本方法的重要研究方向。
A.例1;B.例2;C.例3;D.例4。圖1 數(shù)值解的誤差曲線Fig.1 The error curves of numerical solution