王思雨，丁 亮

(東北林業(yè)大學(xué))

0 引言

該文研究非線性不適定算子方程

F(x)=y

(1)

(2)

(3)

對于非線性不適定問題，elastic-net正則化在應(yīng)用方面也有一定的研究.2010年，Umanità等人對elastic-net正則化解的漸進(jìn)性質(zhì)進(jìn)行了嚴(yán)格的研究[10].2012年，Jin和Maass的研究集中在這類具有非線性算子泛函的正則化性質(zhì)[11].2018年，Wang等人研究了用快速迭代閾值算法(FISTA)求解elastic-net正則化[12].證明基于EN的PC-EnKF與基于PC的迭代旋轉(zhuǎn)方法相結(jié)合非常適合于高維非線性逆建模.2019年，Wang等學(xué)者考慮到l2-罰項總是使解過于光滑，l1-罰項總是使解過于稀疏的事實，將elastic-net正則化方法用于嚴(yán)重不適定非線性EIT反問題[13].

以上內(nèi)容是elastic-net 正則化在非線性問題中的應(yīng)用.目前，非線性反問題的elastic-net正則化理論還處于空白狀態(tài)，在理論分析及數(shù)值方法上還有許多亟待解決的問題.故該文的主要目的是分析基于非線性不適定問題的elastic-net正則化解的存在性，穩(wěn)定性和收斂性.特別是在適當(dāng)?shù)脑礂l件下，建立正則化解的收斂速度.

1 Elastic-net正則化的性質(zhì)

Rα,β(x)=αRη(x)，

(4)

(5)

因此(3)可以轉(zhuǎn)化為如下形式：

(6)

(7)

接下來證明正則化解的存在性、穩(wěn)定性和收斂性.

定理1 假設(shè)非線性算子F:l2→Y是弱序列閉的，對所有α>0，(3)存在一個解.

證明由于Rα,β(x)≥0是適當(dāng)?shù)?，因此存在一個最小值序列{xk}，使得

(8)

由式(8)可知‖xk‖l1，‖xk‖l2和‖F(xiàn)(xk)‖是一致有界的.因此，存在一個子序列{xkj}和一個元素x*使得在l2空間中{xkj}弱收斂到x*.由于F是弱序列閉的，則F(xkj)→F(x*)，弱下半連續(xù)的形式意味著

(9)

由于l1-范數(shù)及l(fā)2-范數(shù)是下半連續(xù)的，有x*∈l2且

(10)

由(8)、(9)及(10)可知x*是Φα,β(x)的一個最小值解.

接下來證明正則化解的穩(wěn)定性.

證明xn的最小化性質(zhì)意味著序列{‖F(xiàn)(xn)-yδ‖Y},{‖xn‖l1}和{‖xn‖l2}是一致有界的.特別地，存在一個{xn}的子序列，也表示為{xn}弱收斂到x*∈l2.則

因此，有

(11)

(12)

通過xn的極小化性質(zhì)，即

(13)

因此，x*是Φα,β的一個最小值解.

2 收斂性和收斂速度

定理3 假設(shè)正則化參數(shù)α(δ)和β(δ)滿足

此外，存在常數(shù)η≥0，使得

(14)

(15)

由三角不等式，得到

(16)

(17)

通過調(diào)用標(biāo)準(zhǔn)子序列參數(shù)，整個序列弱收斂.通過不等式(17)有

(18)

假設(shè)1 設(shè)xτ≠0是問題(1)的一個Rη-極小化解，并且是稀疏的，假設(shè)

(i)F連續(xù)Fréchet可導(dǎo).

(ii)存在一個γ>0，x∈R(x)≤σ，R(xτ)<σ，使得

‖F(xiàn)′(x)-F′(xτ)‖L(X,Y)≤γ‖x-xτ‖.

(19)

(iii)存在一個ω∈Y，且使得

F′(xτ)*ω=ξ+ηxτ.

(20)

假設(shè)3.1(i)說明了解xτ的光滑性，假設(shè)3.1(ii)有兩層意義，一個是F的非線性條件，另一個更重要的作用是估計.許多作者指出，通過與源條件結(jié)合來進(jìn)行對F的非線性限制是獲得正則化收斂速度的有力工具[14-16].這里有很多種關(guān)于非線性算子F的約束，經(jīng)常采用的約束是(19)，即F′是Lipschitz連續(xù)的.

注由F的泰勒估計可知

(21)

因此，由三角不等式得

(22)

可以用來估計.

和

得到

化簡得

由于ξ∈D(F′(xτ)*)是任意的，可以用源條件的方法選擇，即F′(xτ)*ω=ξ+ηxτ，

化簡得

ω>.

(23)

由(22)得

yδ‖Y+‖ω‖‖yδ-F(xτ)‖Y.

(24)

將(24)代入(23)中得

定理得證.

定理5 假設(shè)解xτ是稀疏的且滿足源條件(20)，非線性算子F滿足有限維內(nèi)射基性質(zhì).因此存在兩個正常數(shù)C1和C2使得

Rη(x)-Rη(xτ)≥C1‖x-xτ‖l2-C2‖F(xiàn)(x)-F(xτ)‖ .

證明設(shè)ξ∈sign(xτ)滿足源條件(20)，用Ⅱ表示指標(biāo)集

由源條件(20)得

‖ω‖‖F(xiàn)′(xτ)(x-xτ)‖≤

C‖ω‖‖F(xiàn)(xτ)-F(x)‖.

(25)

當(dāng)C1=C+2η-1(1+C‖F(xiàn)′(x)‖)‖ω‖，C2=2η-1(1+C‖F(xiàn)′(xτ)‖)時等式得證.

3 結(jié) 論

該文給出了非線性問題elastic-net正則化

的正則化性質(zhì)的分析與證明，難點在于它的算子是非線性算子，有不止一個最小值，并且罰項為l1和l2兩項.因此將elastic-net應(yīng)用到非線性問題以后，可以從誤差估計中得到好的正則化收斂速度和較小的誤差估計，證明了elastic-net正則化結(jié)合了l1正則化和l2正則化的優(yōu)點.