孟宏宇 楊華臣 張建中*③
(①海底科學(xué)與探測技術(shù)教育部重點(diǎn)實驗室,266100;②中國海洋大學(xué)海洋地球科學(xué)學(xué)院,山東青島 266100;③青島海洋科學(xué)與技術(shù)試點(diǎn)國家實驗室海洋礦產(chǎn)資源評價與探測技術(shù)功能實驗室,山東青島 266100)
在實際地震資料的采集過程中,受現(xiàn)場條件的限制,會遇到炮點(diǎn)和檢波點(diǎn)布設(shè)困難的情況,或者因設(shè)備損壞、故障等因素產(chǎn)生壞道,導(dǎo)致采集的地震數(shù)據(jù)在空間上不連續(xù),出現(xiàn)地震道的缺失,給后續(xù)地震資料的進(jìn)一步處理帶來困難。因此需使用一定的處理方法,對缺失的地震道數(shù)據(jù)進(jìn)行重構(gòu)。
地震數(shù)據(jù)的重構(gòu)技術(shù)可分為傳統(tǒng)方法和基于機(jī)器學(xué)習(xí)的人工智能方法。傳統(tǒng)的地震數(shù)據(jù)重構(gòu)方法可分為以下四種。
第一種是基于波動方程的地震數(shù)據(jù)重構(gòu)方法[1],該方法使用偏移算子對地震數(shù)據(jù)進(jìn)行重構(gòu),可用于處理隨機(jī)缺失和規(guī)則缺失的地震數(shù)據(jù)。但是,該方法需要一個近似的地下速度模型,并且計算量較大。
第二種是基于預(yù)測濾波的地震數(shù)據(jù)重構(gòu)方法,該方法是通過設(shè)計預(yù)測誤差的濾波器對存在空間假頻的地震數(shù)據(jù)進(jìn)行重構(gòu),通常用于存在規(guī)則道缺失的地震數(shù)據(jù)。Spitz[2]提出了經(jīng)典的f-x域數(shù)據(jù)重構(gòu)方法,能重構(gòu)規(guī)則缺失的地震道記錄。Porsani[3]進(jìn)一步提出半步f-x域地震道重構(gòu)方法,提高了數(shù)據(jù)重構(gòu)的速度和精度。在此基礎(chǔ)上,宜明理等[4]研究了f-k域抗假頻地震數(shù)據(jù)重構(gòu)方法,張軍華等[5]采用并行算法在f-x域?qū)崿F(xiàn)了三維地震數(shù)據(jù)重構(gòu)。
第三種是基于多域變換的地震數(shù)據(jù)重構(gòu)方法,是目前地震數(shù)據(jù)重構(gòu)的主流方法。該類方法首先使用特定的數(shù)學(xué)變換,如傅里葉變換、拉東變換、小波變換等,將地震數(shù)據(jù)變換到其他域進(jìn)行數(shù)據(jù)重構(gòu),然后對處理后的數(shù)據(jù)進(jìn)行反變換,實現(xiàn)地震數(shù)據(jù)的重構(gòu)。Duijndam等[5]首先提出了基于傅里葉變換的地震數(shù)據(jù)重構(gòu)方法,使用最小二乘法估計傅里葉分量,對沿一個空間方向的不規(guī)則道缺失地震數(shù)據(jù)進(jìn)行重構(gòu)。Herrmann等[6]研發(fā)了一種基于Curvelet變換的地震數(shù)據(jù)重構(gòu)方法,對存在多道缺失的地震數(shù)據(jù)進(jìn)行重構(gòu)。Fomel等[7]提出基于一種Seislet變換的反假頻迭代地震數(shù)據(jù)重構(gòu)方法,利用壓縮感知Bregman迭代算法,對缺失的地震道重構(gòu)。Ibrahim等[8]提出了一種基于拉東域的地震數(shù)據(jù)重構(gòu)方法,利用全為零值的缺失地震道與未缺失地震道在拉東域中曲率范圍不同這一特點(diǎn),通過去除缺失地震道對應(yīng)的拉東系數(shù),再利用拉東逆變換變回t-x域?qū)崿F(xiàn)重構(gòu)不規(guī)則缺失地震數(shù)據(jù)。Gan等[9]提出了在POCS算法框架下應(yīng)用Seislet變換重構(gòu)地震數(shù)據(jù)的方法,可重構(gòu)非規(guī)則道缺失的地震數(shù)據(jù)。
第四種是基于矩陣降秩的地震數(shù)據(jù)重構(gòu)方法[10],該類方法利用當(dāng)數(shù)據(jù)存在缺失時,數(shù)據(jù)在頻率切片的Hankel矩陣的秩會升高這一原理,通過降低Hankel矩陣的秩或?qū)?shù)據(jù)降維重構(gòu)數(shù)據(jù)。Zhang等[11]提出一種降秩與稀疏促進(jìn)混合的數(shù)學(xué)模型,并將該模型用于三維地震數(shù)據(jù)的重構(gòu)。Oropeza等[12]提出基于隨機(jī)奇異值分解方法重構(gòu)地震數(shù)據(jù),解決了原始截斷奇異值分解方法計算量較大的問題,提高了計算效率,低維地震數(shù)據(jù)的重構(gòu)效果顯著。
近年來,隨著人工智能技術(shù)的發(fā)展,深度學(xué)習(xí)(Deep Learning,DL)方法越來越多地應(yīng)用于地震數(shù)據(jù)重構(gòu)。Wang等[13]利用存在道缺失的地震數(shù)據(jù)和完整的地震數(shù)據(jù)預(yù)先訓(xùn)練殘差網(wǎng)絡(luò),然后使用訓(xùn)練后的網(wǎng)絡(luò)對道缺失的地震數(shù)據(jù)進(jìn)行重構(gòu)。該方法只適用于重構(gòu)規(guī)則道缺失的地震數(shù)據(jù),對不規(guī)則道缺失的地震數(shù)據(jù)的重構(gòu)效果較差。鄭浩等[14]提出一種基于DL卷積神經(jīng)網(wǎng)絡(luò)的智能化地震數(shù)據(jù)重構(gòu)方法,該方法首先利用大量地震數(shù)據(jù)訓(xùn)練搭建的卷積自編碼器模型,然后使用訓(xùn)練后的卷積自編碼器模型重構(gòu)缺失地震道的數(shù)據(jù)重構(gòu)。Alwon[15]和Oli-veira等[16]提出使用生成對抗網(wǎng)絡(luò)重構(gòu)道缺失的地震數(shù)據(jù),但面對地質(zhì)構(gòu)造比較復(fù)雜的地震數(shù)據(jù),會出現(xiàn)非地質(zhì)偽影。Kaur等[17]進(jìn)一步提出了使用生成對抗網(wǎng)絡(luò)重構(gòu)三維地震數(shù)據(jù)的方法。傳統(tǒng)的有監(jiān)督DL地震數(shù)據(jù)重構(gòu)方法主要包括三個步驟:首先,構(gòu)建訓(xùn)練集,訓(xùn)練集一般由道缺失的地震數(shù)據(jù)(輸入)和對應(yīng)的完整地震數(shù)據(jù)(期望輸出,標(biāo)簽)構(gòu)成;然后,使用構(gòu)建的訓(xùn)練集訓(xùn)練網(wǎng)絡(luò)模型,學(xué)習(xí)數(shù)據(jù)的特征;最后,使用訓(xùn)練后的網(wǎng)絡(luò)模型重構(gòu)道缺失的地震數(shù)據(jù)。一般利用DL解決地震數(shù)據(jù)重構(gòu)問題的方法需使用大量合適的訓(xùn)練集訓(xùn)練網(wǎng)絡(luò),并且訓(xùn)練集的質(zhì)量直接影響重構(gòu)效果[18]。但是,從野外地震數(shù)據(jù)很難獲得訓(xùn)練所用的標(biāo)簽。為此,本文提出一種基于無監(jiān)督DL地震數(shù)據(jù)重構(gòu)方法。該方法可直接對存在道缺失的不完整地震數(shù)據(jù)進(jìn)行重構(gòu),而無需構(gòu)建訓(xùn)練集預(yù)先訓(xùn)練網(wǎng)絡(luò),避免了有監(jiān)督DL數(shù)據(jù)重構(gòu)方法建立包含完整地震數(shù)據(jù)標(biāo)簽的訓(xùn)練集問題。
殘差網(wǎng)絡(luò)由He等[19]首先提出,其內(nèi)部的殘差單元使用了跳躍連接,提升了信息傳遞路徑的數(shù)量、簡化了網(wǎng)絡(luò)的學(xué)習(xí)目標(biāo)及難度、提升了網(wǎng)絡(luò)的準(zhǔn)確度。同時,殘差網(wǎng)絡(luò)通過訓(xùn)練使網(wǎng)絡(luò)中多余層的殘差為0,使得這些層變?yōu)楹愕扔成洌鉀Q了層數(shù)加深導(dǎo)致的網(wǎng)絡(luò)退化問題,提升了網(wǎng)絡(luò)性能。
與傳統(tǒng)的DL方法不同的是,本文提出的基于無監(jiān)督殘差網(wǎng)絡(luò)DL的地震數(shù)據(jù)重構(gòu)方法無需使用完整的地震數(shù)據(jù)作為標(biāo)簽預(yù)先訓(xùn)練殘差網(wǎng)絡(luò),而是用隨機(jī)數(shù)據(jù)作為殘差網(wǎng)絡(luò)的輸入,以缺失道的原始地震記錄作為殘差網(wǎng)絡(luò)的期望輸出,通過反向傳播殘差網(wǎng)絡(luò)的預(yù)測輸出與期望輸出之間的誤差,迭代優(yōu)化殘差網(wǎng)絡(luò)參數(shù),使網(wǎng)絡(luò)輸出與原始地震記錄的差別最小,從而獲得參數(shù)最優(yōu)的殘差網(wǎng)絡(luò),再用該網(wǎng)絡(luò)計算缺失的地震道記錄。在網(wǎng)絡(luò)參數(shù)優(yōu)化過程中,利用卷積的局部和平移不變性質(zhì),用卷積濾波器學(xué)習(xí)多尺度下地震數(shù)據(jù)鄰域之間的相似特征,并在網(wǎng)絡(luò)輸出中呈現(xiàn)。因無需使用訓(xùn)練集,因此獲得的殘差網(wǎng)絡(luò)具有很強(qiáng)的泛化能力,適于不同特征地震數(shù)據(jù)重構(gòu)。使用Marmousi模型模擬地震數(shù)據(jù)和實測海洋拖纜數(shù)據(jù)進(jìn)行測試,結(jié)果驗證了本文方法的有效性。
廣泛應(yīng)用的卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Networks,CNN)主要由卷積層、池化層和全連接層組成。其中卷積層用于局部感知、特征提?。怀鼗瘜佑糜诤喜⒄Z義相似的特征。通常,卷積層與池化層相互連接配合,組成多個卷積—池化組逐層提取特征,最后通過全連接層完成數(shù)據(jù)的特征提取、綜合與數(shù)據(jù)壓縮。在訓(xùn)練階段,數(shù)據(jù)通過自動特征提取層和分類層向前傳播,得到CNN的預(yù)測輸出,然后通過損失函數(shù)計算總體誤差,通過反向傳播更新網(wǎng)絡(luò)參數(shù),使總體誤差最小化。
提高CNN模型的深度可增加網(wǎng)絡(luò)中訓(xùn)練參數(shù)的種類和數(shù)量,從而提高網(wǎng)絡(luò)模型的表達(dá)能力和特征提取能力。但是,當(dāng)網(wǎng)絡(luò)層數(shù)超過一定數(shù)目后,會導(dǎo)致模型出現(xiàn)梯度爆炸和梯度消失等現(xiàn)象,網(wǎng)絡(luò)的訓(xùn)練誤差升高、性能下降。為了克服這一缺陷,在網(wǎng)絡(luò)模型中引入跳躍連接結(jié)構(gòu),通過訓(xùn)練使多余層的殘差為0,從而使這些層變?yōu)楹愕扔成?,解決了網(wǎng)絡(luò)層數(shù)過大時引起的梯度消失和梯度爆炸等問題。
圖1為普通CNN的卷積單元與殘差網(wǎng)絡(luò)單元對比。如圖1a所示,假設(shè)某個神經(jīng)網(wǎng)絡(luò)單元的輸入是x,實際輸出為F(x),期望輸出為H(x)。希望網(wǎng)絡(luò)單元學(xué)習(xí)到一個恒等映射函數(shù)H(x)=x,但隨著網(wǎng)絡(luò)層數(shù)的增加,這個恒等映射會變得越來越難以擬合,增大了直接學(xué)習(xí)的難度。為解決這一問題,殘差網(wǎng)絡(luò)利用跳躍連接將殘差單元的輸出變?yōu)镕(x)+x。殘差單元不直接學(xué)習(xí)目標(biāo)映射,而是轉(zhuǎn)換為學(xué)習(xí)一個殘差函數(shù)F(x)=H(x)-x,即網(wǎng)絡(luò)的學(xué)習(xí)內(nèi)容變?yōu)闅埐頪20]。殘差網(wǎng)絡(luò)不僅解決了由于網(wǎng)絡(luò)層數(shù)增加造成的退化問題,還簡化了網(wǎng)絡(luò)的學(xué)習(xí)目標(biāo)、降低了深度神經(jīng)網(wǎng)絡(luò)的訓(xùn)練難度[21]。
圖1 不同單元結(jié)構(gòu)對比
深度殘差網(wǎng)絡(luò)(圖1b)由許多基本的殘差單元(Residual Block)組成,經(jīng)典的兩層殘差單元包含兩個卷積層,每層卷積操作后使用ReLU激活函數(shù)激活后輸入到下一層。每個殘差單元的一般形式為
yt=xt+F(xt;Wt)
(1)
xt+1=h(yt)
(2)
式中:xt和xt+1分別是第t個殘差單元的輸入與輸出;Wt={Wt,k|1≤k≤K}是與第t個殘差單元相關(guān)聯(lián)的一組權(quán)重和偏差,其中K是單個殘差單元中的總層數(shù)(圖1b中K=2);k是當(dāng)前層數(shù);h(·)是激活函數(shù)。圖1b中常規(guī)基本殘差單元使用的是ReLU激活函數(shù)。
如果h(·)是一個恒等映射,即xt+1=yt,則可得到
xt+1=xt+F(xt;Wt)
(3)
將殘差網(wǎng)絡(luò)的輸入與輸出代入式(3),可得到殘差函數(shù)的一般形式
(4)
式中T為殘差單元的總數(shù)。式(4)具有良好的反向傳播特性,即使權(quán)重很小,層的梯度也不會消失。
在地震數(shù)據(jù)重構(gòu)過程中,設(shè)X∈Si×j為理想的完整地震數(shù)據(jù)(S代表單炮地震數(shù)據(jù),i、j分別代表采樣點(diǎn)數(shù)和道數(shù));X0∈Si×j為含缺失地震道的已知地震數(shù)據(jù)。是利用已知地震數(shù)據(jù)X0對缺失的地震道進(jìn)行重構(gòu),得到完整的數(shù)據(jù)X。X0與X的關(guān)系可表示為
X0=X°s
(5)
式中:“°”表示哈達(dá)瑪積(Hadamard Product);s∈(0,1)i×j是采樣算子,是由0和1組成的矩陣,存在道缺失的位置為0,其余為1。式(5)的目的是區(qū)分出原始地震數(shù)據(jù)中已有地震道與需要重構(gòu)的地震道。由X0求X是一個不適定的反演問題,為求得一個合適的解,必須加入某種先驗信息對反演進(jìn)行約束。因此,將該反演問題轉(zhuǎn)換為求下列目標(biāo)函數(shù)的最優(yōu)解x*
(6)
式中:Q(·)是數(shù)據(jù)保真項,這里取Q(·)為二階范數(shù);R(·)是一個先驗正則化函數(shù);θ表示網(wǎng)絡(luò)參數(shù);N為輸入網(wǎng)絡(luò)的原始隨機(jī)數(shù)據(jù);fθ(·)代表網(wǎng)絡(luò)參數(shù)為θ的CNN模型,表示輸入與輸出間的非線性映射函數(shù)。本文中去掉正則化函數(shù)R(·),改用神經(jīng)網(wǎng)絡(luò)參數(shù)來捕獲數(shù)據(jù)中的內(nèi)在屬性。此時,上述反演問題便轉(zhuǎn)換為求解神經(jīng)網(wǎng)絡(luò)的最優(yōu)參數(shù)θ*
(7)
將式(7)改寫為如下最小化問題
(8)
網(wǎng)絡(luò)參數(shù)θ由神經(jīng)網(wǎng)絡(luò)各層的深度、大小、核的個數(shù)、每個核中的元素以及每個核對應(yīng)的偏差構(gòu)成,其初始值隨機(jī)確定,使用優(yōu)化算法迭代更新θ,通過令網(wǎng)絡(luò)輸出fθ(N)與s相乘,使X′與X0之間的誤差達(dá)到極小,獲得網(wǎng)絡(luò)最優(yōu)參數(shù)θ*,從而得到完整的數(shù)據(jù)X
X=fθ*(N)
(9)
這樣構(gòu)建的殘差網(wǎng)絡(luò),建立了從N到X0的之間的復(fù)雜映射關(guān)系。在網(wǎng)絡(luò)參數(shù)優(yōu)化過程中,通過卷積運(yùn)算將地震數(shù)據(jù)相鄰道之間的相似特征施加到輸出的數(shù)據(jù)上。用該網(wǎng)絡(luò)預(yù)測的X′與X0最匹配,從而能夠重構(gòu)缺失的地震道。
圖2、圖3對本文無監(jiān)督學(xué)習(xí)方法與有監(jiān)督學(xué)習(xí)方法進(jìn)行了對比。一般的有監(jiān)督學(xué)習(xí)方法地震數(shù)據(jù)重構(gòu)流程如圖2所示。將完整的地震數(shù)據(jù)去掉一定的地震道后作為神經(jīng)網(wǎng)絡(luò)的輸入,相應(yīng)的完整地震數(shù)據(jù)作為標(biāo)簽,即期望輸出。使用建立的大量訓(xùn)練數(shù)據(jù)集,對神經(jīng)網(wǎng)絡(luò)預(yù)先訓(xùn)練,學(xué)習(xí)訓(xùn)練數(shù)據(jù)集的特征,然后使用訓(xùn)練后的網(wǎng)絡(luò)模型對存在道缺失的地震數(shù)據(jù)進(jìn)行重構(gòu)。
圖2 有監(jiān)督學(xué)習(xí)方法數(shù)據(jù)重構(gòu)流程
本文無監(jiān)督學(xué)習(xí)方法地震數(shù)據(jù)重構(gòu)流程如圖3所示。利用隱藏在已知地震道中的先驗特征進(jìn)行重構(gòu)缺失道數(shù)據(jù)。其中,網(wǎng)絡(luò)的輸入為隨機(jī)數(shù)據(jù)N,預(yù)測輸出為X′,期望輸出為X0。隨機(jī)初始化網(wǎng)絡(luò)參數(shù)θ,網(wǎng)絡(luò)從輸入N得到殘差網(wǎng)絡(luò)的輸出fθ(N)。將fθ(N)與s作用后得到X′,對X0與X′之間的均方誤差(MSE)進(jìn)行反傳,優(yōu)化網(wǎng)絡(luò)參數(shù),使該均方誤差最小化,得到網(wǎng)絡(luò)的最優(yōu)參數(shù)θ*。
圖3 無監(jiān)督學(xué)習(xí)方法數(shù)據(jù)重構(gòu)流程
本文使用的殘差網(wǎng)絡(luò)整體框架如圖4所示,網(wǎng)絡(luò)的第二層到最后一層之間由多個殘差單元構(gòu)成,并且使用了LeakyReLU激活函數(shù),加入了批量歸一化操作。殘差單元的具體結(jié)構(gòu)如圖5所示,每個殘差單元由兩個卷積層(Conv)、兩個批量歸一化層(BN)和一個LeakyReLU激活函數(shù)組成。殘差網(wǎng)絡(luò)的主體結(jié)構(gòu)中,第一個卷積層的尺寸為3×3×32×64(包含64個卷積核為3×3的卷積濾波器,通道數(shù)為32),最后一個卷積層的尺寸為3×3×64×1(包含1個卷積核為3×3的卷積濾波器,通道數(shù)為64)。本文使用的殘差網(wǎng)絡(luò)一共包含8個殘差單元,每個殘差單元中的卷積層尺寸均為3×3×1×64(包含64個卷積核為3×3的卷積濾波器,通道數(shù)為1)。網(wǎng)絡(luò)輸入尺寸為512×512的隨機(jī)數(shù)據(jù),輸出為重構(gòu)的地震數(shù)據(jù)。
圖4 深度殘差網(wǎng)絡(luò)架構(gòu)示意圖
圖5 殘差單元架構(gòu)(Residual Block)示意圖
該模型在64位工作站上進(jìn)行訓(xùn)練,配置是NVDIA RTX 3090 GPU和Intel Core i9-10900k CPU,內(nèi)存為64G,使用的是Python v3.6.1、Cuda11.1.0和Pytorch框架。
在網(wǎng)絡(luò)模型的訓(xùn)練過程中,梯度消失和梯度爆炸會嚴(yán)重影響網(wǎng)絡(luò)模型的收斂。為了解決該問題,在原始?xì)埐顔卧屑尤肓薆N層。通過執(zhí)行BN處理規(guī)范網(wǎng)絡(luò)中各層的數(shù)據(jù),使網(wǎng)絡(luò)數(shù)據(jù)的均值為0、方差為1。上述處理可有效加快神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)速度,在解決梯度彌散問題的同時增加網(wǎng)絡(luò)整體的穩(wěn)定性和泛化能力[21]。
在殘差網(wǎng)絡(luò)中使用了性能更優(yōu)異的LeakyReLU激活函數(shù)(圖6)。該函數(shù)的輸出對于輸入的負(fù)值具有很小的坡度,因此導(dǎo)數(shù)不會取到零值。這樣可減少靜默神經(jīng)元的出現(xiàn),避免了使用ReLU函數(shù)進(jìn)入負(fù)區(qū)間后神經(jīng)元不再繼續(xù)學(xué)習(xí)的問題。使用LeakyReLU函數(shù)對上一層節(jié)點(diǎn)的輸出做非線性變換,有助于殘差網(wǎng)絡(luò)更好地學(xué)習(xí)輸入與輸出間的復(fù)雜映射關(guān)系[22-23]。
圖6 LeakyReLU函數(shù)
LeakyReLU函數(shù)的具體公式如下
(10)
式中:z是LeakyReLU函數(shù)的輸入;L(z)表示LeakyReLU函數(shù)的輸出。
本文殘差網(wǎng)絡(luò)使用自適應(yīng)性矩估計(Adam)優(yōu)化算法。與常規(guī)優(yōu)化算法相比,Adam優(yōu)化算法更高效、更準(zhǔn)確,對內(nèi)存需求更少,且網(wǎng)絡(luò)參數(shù)的更新不受梯度變換影響,更適用于數(shù)據(jù)與參數(shù)較多的場景[24]。
網(wǎng)絡(luò)的收斂性與設(shè)置的學(xué)習(xí)率密切相關(guān),學(xué)習(xí)率不宜過大。為了使殘差網(wǎng)絡(luò)在較快收斂同時使網(wǎng)絡(luò)的損失達(dá)到最小,本文采用0.001的學(xué)習(xí)率重構(gòu)地震數(shù)據(jù)[25]。
為驗證本文方法的地震道重構(gòu)效果,利用理論模擬數(shù)據(jù)進(jìn)行了測試。使用長10km、厚5km 的Marmousi模型。檢波器均勻分布于地表,檢波器間距為20m;炮點(diǎn)位于地表距離首個檢波器5km處;用20m×20m網(wǎng)格離散該模型,模型被離散成1000×500個矩形單元;震源采用主頻為8Hz雷克子波;時間采樣間隔為0.002s;記錄時長為4s。用波動方程有限差分法模擬地震波[26]。
首先從模擬地震記錄中按一定比例去除部分地震道,就得到存在缺失地震道的地震數(shù)據(jù)(圖7);然后用本文地震道重構(gòu)方法重構(gòu)整個地震數(shù)據(jù)。重構(gòu)地震數(shù)據(jù)與原始地震數(shù)據(jù)有一定誤差,相當(dāng)于對原始地震數(shù)據(jù)引入了噪聲。借用“信噪比(SNR)”定量說明對地震數(shù)據(jù)的重構(gòu)效果。SNR計算式為
(11)
SNR越大,表示重構(gòu)的地震數(shù)據(jù)與原始地震數(shù)據(jù)之間的差異越小,即重構(gòu)效果越好。
本文設(shè)計的損失函數(shù)如下
(12)
本文的深度殘差網(wǎng)絡(luò)選用了Adam網(wǎng)絡(luò)優(yōu)化算法,這里與Rprop、RMSprop算法進(jìn)行對比測試,以說明選用Adam算法的優(yōu)勢。對模擬地震數(shù)據(jù)(圖7a)隨機(jī)去除其中60%的地震道(圖7c),然后使用上述三個網(wǎng)絡(luò)優(yōu)化算法對缺失的地震數(shù)據(jù)進(jìn)行重構(gòu)。設(shè)置學(xué)習(xí)率為0.001,迭代次數(shù)k為30000。使用不同優(yōu)化算法的網(wǎng)絡(luò)重構(gòu)數(shù)據(jù)的信噪比和MSE損失函數(shù)隨迭代次數(shù)的變化如圖8a、圖8b所示。由圖8a可見,Adam優(yōu)化算法重構(gòu)結(jié)果信噪比曲線達(dá)到穩(wěn)定時,得到的重構(gòu)數(shù)據(jù)信噪比最高,而且相比于其他算法,Adam優(yōu)化算法重構(gòu)地震數(shù)據(jù)的信噪比隨迭代次數(shù)上升得更快。由圖8b可見:使用Rprop優(yōu)化算法的MSE損失曲線下降很慢;RMSprop的MSE損失曲線波動劇烈;使用Adam優(yōu)化算法的MSE損失曲線更穩(wěn)定、更快速收斂。
圖7 模擬地震數(shù)據(jù)
圖8 不同優(yōu)化算法重構(gòu)數(shù)據(jù)的SNR(a)與MSE(b)對比
因此,本文使用的Adam優(yōu)化算法性能更好。
對本文使用的殘差網(wǎng)絡(luò)與不含跳躍連接結(jié)構(gòu)的普通網(wǎng)絡(luò)模型進(jìn)行對比試驗。分別使用殘差網(wǎng)絡(luò)和普通網(wǎng)絡(luò)對圖7c進(jìn)行重構(gòu)。兩種網(wǎng)絡(luò)模型的SNR和MSE損失函數(shù)隨迭代次數(shù)的變化如圖9、圖10所示。由圖可見,隨著迭代次數(shù)的增加,兩種網(wǎng)絡(luò)模型的MSE損失函數(shù)逐漸降低,重構(gòu)地震數(shù)據(jù)信噪比逐漸增加,但殘差網(wǎng)絡(luò)相比于普通網(wǎng)絡(luò)模型的MSE損失更低,重構(gòu)數(shù)據(jù)SNR更高。
圖9 不同網(wǎng)絡(luò)重構(gòu)SNR對比
圖10 不同網(wǎng)絡(luò)MSE對比
為了直觀地展示使用本文方法對道缺失的地震數(shù)據(jù)重構(gòu)的迭代過程,將圖7c作為原始地震數(shù)據(jù)進(jìn)行完整數(shù)據(jù)重構(gòu)。圖11所示是不同迭代次數(shù)的重構(gòu)結(jié)果。由圖可見:因網(wǎng)絡(luò)輸入是隨機(jī)信號,迭代初期的輸出表現(xiàn)為隨機(jī)噪聲(圖11a);隨著迭代次數(shù)增加,能量強(qiáng)的地震波先逐漸重構(gòu)出來(圖11b),然后,能量弱的地震波也被逐漸重構(gòu)。當(dāng)?shù)螖?shù)達(dá)到170次時,地震資料的總體面貌開始被恢復(fù),經(jīng)過2000次迭代基本上恢復(fù)了地震資料。可見,以隨機(jī)信號作為輸入,通過對網(wǎng)絡(luò)輸出與原始含缺失道的地震數(shù)據(jù)之間的誤差進(jìn)行反饋,不斷優(yōu)化網(wǎng)絡(luò)模型,達(dá)到重構(gòu)完整地震數(shù)據(jù)的目的,避免了常用監(jiān)督學(xué)習(xí)網(wǎng)絡(luò)建立訓(xùn)練集的繁重環(huán)節(jié)。
圖11 本文方法不同迭代次數(shù)((a)~(d)對應(yīng)10、90、170、2000次迭代)的重構(gòu)結(jié)果
對圖7a數(shù)據(jù)分別規(guī)則和隨機(jī)去除其中20%、40%和60%的地震道,使用本文方法對不同比例道缺失的地震數(shù)據(jù)重構(gòu)。設(shè)置學(xué)習(xí)率為0.001、k為50000。重構(gòu)地震數(shù)據(jù)的信噪比隨迭代次數(shù)的變化如圖12所示。由圖可見:道缺失數(shù)據(jù)的原始信噪比均低于10dB;經(jīng)過1000次迭代后重構(gòu)數(shù)據(jù)的SNR迅速提高,在20000次迭代后達(dá)到較高的重構(gòu)質(zhì)量并趨于穩(wěn)定,說明本文方法在迭代次數(shù)較低時重構(gòu)數(shù)據(jù)的SNR增長迅速,達(dá)到一定迭代次數(shù)后重構(gòu)數(shù)據(jù)的SNR到達(dá)高位并保持穩(wěn)定;數(shù)據(jù)缺失比例越大,重構(gòu)數(shù)據(jù)的SNR越低,缺失的地震道越少重構(gòu)效果越好;在數(shù)據(jù)缺失相同比例的情況下,對規(guī)則缺失數(shù)據(jù)的重構(gòu)SNR要大于隨機(jī)缺失數(shù)據(jù)的重構(gòu)信噪比,這是因為隨機(jī)缺失數(shù)據(jù)容易出現(xiàn)連續(xù)多道缺失的情況,使重構(gòu)誤差較大。
圖12 本文方法對不同比例的規(guī)則缺失(a)、隨機(jī)缺失(b)數(shù)據(jù)重構(gòu)SNR的對比
快速凸集投影軟閾值(FPOCS-Soft)方法是一種較新的地震道插值方法,可直接重構(gòu)道缺失地震數(shù)據(jù),具有較高計算精度和穩(wěn)定性[27]。為了說明本文方法的有效性和精度,分別使用本文方法和FPOCS-Soft方法對隨機(jī)缺失40%地震道的數(shù)據(jù)進(jìn)行重構(gòu),并對兩種重構(gòu)結(jié)果進(jìn)行對比。
圖13是隨機(jī)去除40%地震道的地震資料(圖7b)的重構(gòu)結(jié)果。圖13a和圖13b分別為本文方法重構(gòu)的完整地震記錄及誤差;圖13c和圖13d分別為使用FPOCS-Soft方法重構(gòu)的完整地震記錄及誤差。由圖可見:本文方法在連續(xù)缺失道數(shù)較少時重構(gòu)數(shù)據(jù)的誤差幾乎為0,在連續(xù)缺失道數(shù)較多的情況時重構(gòu)數(shù)據(jù)的誤差會有所上升,但重構(gòu)效果仍然遠(yuǎn)好于FPOCS-Soft方法。FPOCS-Soft方法對連續(xù)缺失道的重構(gòu)誤差更明顯,并且在無地震數(shù)據(jù)的區(qū)域還會出現(xiàn)一些假的地震數(shù)據(jù)。使用本文方法和FPOCS-Soft方法重構(gòu)的地震數(shù)據(jù)的SNR分別為36.41dB和18.6dB,均方誤差分別為2.29×10-6、1.01×10-4。
圖13 隨機(jī)缺失40%地震數(shù)據(jù)兩種方法重構(gòu)結(jié)果及誤差
圖14為對圖7b中第162道數(shù)據(jù)的重構(gòu)結(jié)果對比。由圖可見,本文方法重構(gòu)精度明顯高于FPOCS-Soft方法。另外,由于隨機(jī)缺失數(shù)據(jù)較規(guī)則缺失數(shù)據(jù)存在連續(xù)多道數(shù)據(jù)缺失,當(dāng)連續(xù)缺失的地震道較多時,本文方法的重構(gòu)精度會有所下降,但重構(gòu)效果仍然明顯優(yōu)于FPOCS-Soft方法。
圖14 兩種方法第162道模擬地震數(shù)據(jù)重構(gòu)結(jié)果對比
為了檢驗本文方法對實際數(shù)據(jù)的應(yīng)用效果,將本文方法應(yīng)用于南黃海海洋拖纜實測資料的單炮數(shù)據(jù)。對該地震數(shù)據(jù)分別進(jìn)行規(guī)則和隨機(jī)去除40%的地震道(圖15),分別用本文方法和FPOCS-Soft方法對缺失地震道重構(gòu)。設(shè)置學(xué)習(xí)率為0.001,迭代次數(shù)為20000。
圖16是對圖15c分別用本文方法和FPOCS-Soft方法重構(gòu)結(jié)果及誤差分布,重構(gòu)數(shù)據(jù)的信噪比分別為16.83dB和11.23dB,均方誤差分別為4.32×10-4和1.30×10-3??梢钥闯觯疚姆椒梢院芎玫刂貥?gòu)缺失的拖纜數(shù)據(jù),同相軸變得更連續(xù),重構(gòu)的結(jié)果與原始拖纜數(shù)據(jù)(圖15a)基本一致,在沒有數(shù)據(jù)的位置不會出現(xiàn)假數(shù)據(jù)。而FPOCS-Soft方法對連續(xù)同相軸的重構(gòu)結(jié)果存在較明顯的誤差,并且在重構(gòu)數(shù)據(jù)中引入了新噪聲。
圖17是對圖15b和圖15c的第43道數(shù)據(jù)的重構(gòu)結(jié)果及誤差對比。可見不論對規(guī)則缺失還是隨機(jī)缺失地震道的數(shù)據(jù),與FPOCS-Soft方法結(jié)果相比,本文方法結(jié)果與原始地震數(shù)據(jù)(圖15a)基本一致,對缺失道數(shù)據(jù)的重構(gòu)精度更高。對比規(guī)則缺失與隨機(jī)缺失地震數(shù)據(jù)的重構(gòu)結(jié)果,可見因隨機(jī)缺失資料出現(xiàn)多道連續(xù)缺失的情況,本文方法的重構(gòu)精度低于規(guī)則缺失數(shù)據(jù),但仍然高于FPOCS-Soft方法對規(guī)則缺失數(shù)據(jù)的重構(gòu)精度,說明了本文方法的良好應(yīng)用效果和對不同缺失數(shù)據(jù)更強(qiáng)的適應(yīng)性。
本文提出了一種基于無監(jiān)督殘差網(wǎng)絡(luò)的缺失地震數(shù)據(jù)重構(gòu)方法。該方法以隨機(jī)數(shù)據(jù)作為網(wǎng)絡(luò)輸入,通過對網(wǎng)絡(luò)輸出與含缺失道的地震數(shù)據(jù)之間的誤差的反向傳播,通過迭代優(yōu)化網(wǎng)絡(luò)參數(shù);在迭代過程中,利用卷積的局部和平移不變性質(zhì),使用帶有跳躍連接的殘差網(wǎng)絡(luò)結(jié)構(gòu),學(xué)習(xí)多尺度地震數(shù)據(jù)鄰域之間的相似特征,并把這些先驗特征反映在網(wǎng)絡(luò)輸出中;使用性能優(yōu)良的Adam優(yōu)化算法,進(jìn)一步提高了構(gòu)建的深度殘差網(wǎng)絡(luò)模型的性能。本文方法只需使用地震道缺失的數(shù)據(jù)和優(yōu)化的殘差網(wǎng)絡(luò)便可重構(gòu)完整的地震數(shù)據(jù),無需由訓(xùn)練集訓(xùn)練殘差網(wǎng)絡(luò)模型,避免了常規(guī)基于深度學(xué)習(xí)方法的構(gòu)建大型訓(xùn)練數(shù)據(jù)集和網(wǎng)絡(luò)模型泛化能力的問題,實用性更強(qiáng)。
利用模擬地震數(shù)據(jù)和實測海洋拖纜地震數(shù)據(jù)對本文方法進(jìn)行了測試,并與效果較好的FPOCS-Soft地震道插值方法效果進(jìn)行了比較。結(jié)果表明,不論對規(guī)則缺失還是隨機(jī)缺失地震道的地震數(shù)據(jù),本文方法的重構(gòu)精度都高于FPOCS-Soft方法,說明了本文方法的可行性和良好效果。對于存在連續(xù)缺失多道的地震數(shù)據(jù),本文方法重構(gòu)地震道的精度會降低,但仍然高于FPOCS-Soft方法。