邱紅兵, 羅季, 孫旭
(1. 廣東工業(yè)大學應用數(shù)學系,廣東 廣州 510006; 2. 浙江財經(jīng)學院數(shù)學與統(tǒng)計學院, 浙江 杭州 310018;3. 東北財經(jīng)大學統(tǒng)計學院, 遼寧 大連 116025)
考慮線性模型y=Xβ+ε
(1)
在線性模型(1)式中,設參數(shù)向量β有先驗分布π:Eβ=μ,Cov(β)=V
(2)
R(d,β)=E[L(d,β)],
這里及以下E均表示關于y和β的聯(lián)合分布求均值.
(3)
(4)
其中二次損失函數(shù)為L(d,β)=(d-β)′(d-β)
(5)
這方面的文獻可參見文獻[1-3]. 利用可逆矩陣的逆矩陣公式:
(T+XVX′)-1=T-1-T-1X(V-1+X′V-1X)-1X′T-1
回歸系數(shù)β的貝葉斯線性無偏估計也可表為
(6)
在線性模型的參數(shù)估計中,總是首先假設D(ε)∈R(0,T),但在實際問題中,隨機誤差分布中的均值與協(xié)方差矩陣可能略有偏離,因此我們希望據(jù)此所做出的統(tǒng)計推斷關于誤差分布具有穩(wěn)健性. 對于線性模型(1)式,關于回歸系數(shù)β及可估函數(shù)C′β的估計的穩(wěn)健性研究, 文獻[4-7]中在二次損失及矩陣損失下分別研究了回歸系數(shù)β及可估函數(shù)C′β的最小二乘估計,廣義最小二乘估計, Gauss-Markov估計的優(yōu)良性,并對Gauss-Markov定理作了推廣,得到了推廣的Gauss-Markov定理成立的誤差分布的最大類. 對于線性模型(1)式中參數(shù)的Bayes估計的穩(wěn)健性, 韋來生在文獻[8]中在二次損失下考慮了錯誤先驗假設下回歸系數(shù)貝葉斯線性無偏估計的小樣本性質(zhì); 文獻[9]中在MSEM準則、PRPC準則以及PPC準則下討論了Bayes線性無偏估計相對廣義線性無偏估計的優(yōu)良性;文獻[10]中則討論了錯誤先驗假定下貝葉斯線性無偏估計的穩(wěn)健問題. 而對于Bayes線性無偏估計關于誤差分布的穩(wěn)健性,尚很少見到相關文獻.
定義1對于線性模型(1)式, 在先驗分布(2)式下, 給定β的估計類(μ)及誤差項ε的一類分布R(η,Σ),若d*∈(μ),使得R(d*,β)≤R(d,β),
對所有d∈(μ)及D(ε)∈R(η,Σ)成立,則稱β的估計d*是[V,(μ),R(η,Σ)]最優(yōu)的.
引理1[2]設Eε=η,Cov(ε)=W,D∈Rn×n,則有E(ε′Dε)=η′Dη+tr(DW).
tr(AX-I)′(AX-I)V+trA′AΣ+η′A′Aη.
記A-Q=P,利用QXVX′=VX′-QT,可得
(7)
(8)
即對任意P∈Rp×n,有
2tr[Q(Σ-T+ηη′)P′]+tr[P(Σ+XVX′+ηη′)P′]≥0
(9)
因Σ+XVX′+ηη′≠0,則存在L∈Rp×n,使得tr[L(Σ+XVX′+ηη′)L′]>0.若(Σ+ηη′)T-1X≠X, 等價于Q(Σ-T+ηη′)≠0, 則取P=kL代入不等式(9)式, 得
2ktr[Q(Σ-T+ηη′)L′]+k2tr[L(Σ+XVX′+ηη′)L′]≥0
(10)
2ktr[Q(Σ-T+ηη′)L′]+k2tr[L(Σ+XVX′+ηη′)L′]<0
充分性:若(Σ+ηη′)T-1X=X,等價于Q(Σ-T+ηη′)=0, 則對任意P∈Rp×n, 由(7)式有
定理2給定估計類(μ),令
定理2的證明給定估計類(μ),D(ε)∈R(T),則顯然有(Σ+ηη′)T-1X=X,于是由定理1知是[V,(μ),R(0,Σ)]最優(yōu)的.
Σ+ηη′=DD′=XΛX′+TZB′X′+XBZ′T+TZWZ′T,
定理得證.
由定理1及定理2,容易得到下列推論.
推論4給定估計類(μ),令
對于線性模型(1)式,若D(ε)∈R(0,I),且β的先驗分布(2)式中V=Ip,即先驗分布為π:
Eβ=μ,Cov(β)=I.
推論7給定估計類(μ),令
推論8給定估計類(μ),令則R0(I)是使得β的估計是[I,(μ),R(0,Σ)]最優(yōu)的誤差項ε的最大分布類.
[1] Trenkler G, Wei L S. The Bayes estimator in a misspecified regression mode1[J].Test, 1996(5):113-123.
[2] Wang S G, Chow S C. Advanced linearmodel and applications[M].New York:Marcel Dekker,1994.
[3] 張偉平. 貝葉斯線性無偏估計[D]. 合肥:中國科技大學, 2005.
[4] Kariya T,Kurata H. A maximal extension of the Guass-Markov theorem and its nonlinear version[J].J Multivariate Anal, 2002, 83:37-55.
[5] 劉湘蓉. 最小二乘估計關于誤差分布的穩(wěn)健性[J]. 應用概率統(tǒng)計, 2006, 22(4):429-437.
[6] 邱紅兵, 羅季.線性模型中廣義最小二乘估計關于誤差分布的穩(wěn)健性[J]. 吉林大學學報:理學版, 2009, 47(1):13-16.
[7] 邱紅兵, 羅季.Gauss-Markov估計關于誤差分布的穩(wěn)健性[J]. 應用概率統(tǒng)計, 2010, 26(6):615-622.
[8] 韋來生. 錯誤先驗假定下回歸系數(shù)Bayes估計的小樣本性質(zhì)[J]. 應用概率統(tǒng)計, 2000, 6(1):71-80.
[9] 霍涉云, 張偉平, 韋來生. 一類線性模型參數(shù)的Bayes估計及其優(yōu)良性[J]. 中國科學技術大學學報, 2007, 37(7):773-776.
[10] 張偉平, 韋來生. 錯誤先驗假設下Bayes線性無偏估計的穩(wěn)健性[J]. 應用概率統(tǒng)計, 2007, 23(1):59-67.