農(nóng)秀麗
(廣西民族師范學(xué)院數(shù)學(xué)與計(jì)算機(jī)科學(xué)系,中國 崇左 532200)
考察齊次等式約束的線性回歸模型
(Ⅰ)
Y=Xβ+e,E(e)=0,Cov(e)=σ2In
(Ⅱ)
提出了一種新的有偏估計(jì)即綜合嶺估計(jì),討論了綜合嶺估計(jì)的優(yōu)良性、可容許性等性質(zhì),給出了其迭代解和極小化均方誤差的無偏估計(jì)解,并得出模型(Ⅱ)的嶺估計(jì)和根方估計(jì)[5-8]是綜合嶺估計(jì)的特例,從而統(tǒng)一了嶺估計(jì)和根方估計(jì)的理論.多年來,許多學(xué)者對特征值和線性模型估計(jì)感興趣,取得了一些成果[9-13].本文對齊次等式約束線性回歸模型進(jìn)行研究,稱提出的估計(jì)為綜合條件嶺估計(jì),討論其優(yōu)良性、可容許性等性質(zhì),以及其迭代解和極小化均方誤差的無偏估計(jì)解,其樣本總方差、均方誤差、均方誤差矩陣與約束最小二乘估計(jì)的相應(yīng)誤差的大小關(guān)系等.
其中F(K)=diag(f1(k1),f2(k2),…,fp(kp)),fi(ki)≥0,i=1,2,…,p,K=(k1,k2,…,kp)′為嶺參數(shù)向量,Q為p階正交矩陣,W=S-1-S-1R′[RS-1R′]-1RS-1.
先給出以下引理.
引理1在模型(Ⅰ)下,W′=W,WSW=W,WSW′=W,其中W=S-1-S-1R′(RS-1R′)-1RS-1.
證因?yàn)閄為n×p矩陣,又S=X′X,所以S是對稱矩陣,因此,S′=S,(S-1)′=S-1,從而
W′=[S-1-S-1R′(RS-1R′)-1RS-1]′=S-1-S-1R′(RS-1R′)-1RS-1=W.
WSW′=WSW=[S-1-S-1R′(RS-1R′)-1RS-1]S[S-1-S-1R′(RS-1R′)-1RS-1]=
[I-S-1R′(RS-1R′)-1R][S-1-S-1R′(RS-1R′)-1RS-1]=
S-1-2S-1R′(RS-1R′)-1RS-1+S-1R′(RS-1R′)-1RS-1R′(RS-1R′)-1RS-1=
S-1-2S-1R′(RS-1R′)-1RS-1+S-1R′(RS-1R′)-1RS-1=
S-1-S-1R′(RS-1R′)-1RS-1=W.
引理2[1]在模型(Ⅰ)下,W為半正定矩陣,且W的秩為p-q.
引理4[1]在模型(Ⅰ)下,令α=Q′β=(α1,α2,…,αp)′,則αp-q+1=αp-q+2=…=αp=0,
引理5[2]在模型(Ⅰ)下,設(shè)A與C分別為m×n,n×p的常數(shù)矩陣,若Cβ條件可估,則AY是線性估計(jì)類可容許估計(jì)的充要條件為
證由F(K)=diag(f1(k1),f2(k2),…,fp(kp)),有(QF(K)Q′W+I)-1是對稱矩陣,又W是對稱矩陣,因此,(QF(K)Q′W+I)-1W=W(QF(K)Q′W+I)-1.且
RW=R[S-1-S-1R′(RS-1R′)-1RS-1]=RS-1-RS-1R′(RS-1R′)-1RS-1]=RS-1-RS-1=0.
證因?yàn)?/p>
Q′WQQ′(QF(K)Q′W+I)-1X′Y=ΛQ′(QF(K)Q′W+I)-1X′Y
下面引入模型(Ⅰ)的典型形式
其中Z=XQ,α=Q′β,L=RQ,從而Z′Z=Q′(X′X)Q=Q′SQ.因此,α的RLSE是
((Q′SQ)-1-(Q′SQ)-1Q′R′(RQ(Q′SQ)-1Q′R′)-1RQ(Q′SQ)-1)Z′Y=
(Q′S-1Q-Q′S-1R′(RS-1R′)-1RS-1Q)Z′Y=Q′(S-1-S-1R′(RS-1R′)-1RS-1)QZ′Y=
Q′WQZ′Y=ΛZ′Y.
從而
證由于
((QF(K)Q′W+I)-1WX′Cov(Y)XW′((QF(K)Q′W+I)-1)′)=
σ2((QF(K)Q′W+I)-1WSW′(QF(K)Q′W+I)-1)=
σ2((QF(K)Q′W+I)-1W(QF(K)Q′W+I)-1).
因此
σ2(QF(K)Q′W+I)-1((QF(K)Q′W+I)W(QF(K)Q′W+I)(QF(K)Q′W+I)-1)-
σ2((QF(K)Q′W+I)-1W(QF(K)Q′W+I)-1)=
σ2(QF(K)Q′W+I)-1((QF(K)Q′W+I)W(QF(K)Q′W+I)-W)(QF(K)Q′W+I)-1=
σ2(QF(K)Q′W+I)-1((QF(K)ΛQ′)W(QΛF(K)Q′)+2QΛF(K)ΛQ′)(QF(K)Q′W+I)-1.
σ2tr((F(K)Λ+I)-1Λ(F(K)Λ+I)-1)+(F(K)Λ+I)-1α-α2=
證因?yàn)?/p>
σ2(QF(K)Q′W+I)-1W(QF(K)Q′W+I)-1+((QF(K)Q′W+I)-1β-β)×
((QF(K)Q′W+I)-1β-β)′=σ2(QF(K)Q′W+I)-1W(QF(K)Q′W+I)-1+
((QF(K)Q′W+I)-1-I)ββ′((QF(K)Q′W+I)-1-I)′=
σ2(QF(K)Q′W+I)-1W(QF(K)Q′W+I)-1+((QF(K)Q′W+I)-1-
(QF(K)Q′W+I)-1(QF(K)Q′W+I))ββ′((QF(K)Q′W+I)-1-
(QF(K)Q′W+I)-1(QF(K)Q′W+I))′=σ2(QF(K)Q′W+I)-1W(QF(K)Q′W+I)-1+
(QF(K)Q′W+I)-1QF(K)Q′Wββ′WQF(K)Q′(QF(K)Q′W+I)-1.
所以
(QF(K)Q′W+I)-1(σ2(QF(K)Q′W+I)W(QF(K)Q′W+I)-σ2W-
QF(K)Q′Wββ′WQF(K)Q′)(QF(K)Q′W+I)-1=(QF(K)Q′W+
I)-1(σ2(QF(K)Q′W2QF(K)Q′W+QF(K)Q′W2+WQF(K)Q′W+W)-σ2W-
QF(K)Q′Wββ′WQF(K)Q′)(QF(K)Q′W+I)-1=(QF(K)Q′W+I)-1(σ2(QF(K)Q′)2W3+
2σ2QF(K)Q′W2-QF(K)Q′Wβ(QF(K)Q′Wβ)′)(QF(K)Q′W+I)-1.
σ2(QF(K)Q′)2W3+2σ2QF(K)Q′W2-QF(K)Q′Wβ(QF(K)Q′Wβ)′≥0.
證令A(yù)=(QF(K)Q′W+I)-1WX′,C=(QF(K)Q′W+I)-1,根據(jù)引理6得
(QF(K)Q′W+I)-1WX′X(X′X)-1-(QF(K)Q′W+I)-1WX′XW(QF(K)Q′W+I)-1=
(QF(K)Q′W+I)-1((QF(K)Q′W+I)W-W)(QF(K)Q′W+I)-1=
(QF(K)Q′W+I)-1QF(K)Q′W2(QF(K)Q′W+I)-1≥0.
由于K的最優(yōu)值與未知參數(shù)σ2和αi有關(guān),以下討論綜合條件嶺估計(jì)的迭代解.
故
下面求ki,使L達(dá)到最小.由此將L對ki求偏導(dǎo),得
因只考慮fi(ki)≠0的情況,故
由F(K)的任意性,綜合條件嶺估計(jì)給出了一大類估計(jì).下面討論兩個特例.
參考文獻(xiàn):
[1] 史建紅.約束線性模型下回歸系數(shù)的條件根方估計(jì)[J].沈陽師范學(xué)院學(xué)報(bào),1999,15(4):13-19.
[2] 史建紅.約束線性回歸模型回歸系數(shù)的條件嶺型估計(jì)[J].山西師范大學(xué)學(xué)報(bào):自然科學(xué)版,2001,15(4):10-16.
[3] 農(nóng)秀麗,彭展聲.約束線性回歸模型回歸系數(shù)的廣義條件嶺估計(jì)[J].湘南學(xué)院學(xué)報(bào):自然科學(xué)版,2008,29(5):28-30.
[4] 林 路.回歸系數(shù)的綜合嶺估計(jì)[J].?dāng)?shù)理統(tǒng)計(jì)與應(yīng)用概率,1996,11(3):179-184.
[5] 夏結(jié)來,郭祖超,胡 琳.回歸系數(shù)根方有偏估計(jì)及其應(yīng)用[J].?dāng)?shù)理統(tǒng)計(jì)與應(yīng)用概率,1988,3(1):21-30.
[6] 歸慶明.回歸系數(shù)的廣義根方估計(jì)[J].工程數(shù)學(xué)學(xué)報(bào),1993,10(2):91-99.
[7] 夏結(jié)來,郭祖超,胡 琳.回歸系數(shù)的廣義根方估計(jì)及其模擬[J].應(yīng)用數(shù)學(xué),1994,7(2):187-192.
[8] 陳希儒,王松貴.近代回歸分析[M].合肥:安徽教育出版社,1987.
[9] 詹金龍,陳建寶.帶約束的回歸系數(shù)的線性估計(jì)的可容許性[J].高校應(yīng)用數(shù)學(xué)學(xué)報(bào),1991,6(1):20-30.
[10] 劉能東,張忠志.廣義自反矩陣與廣義反自反矩陣的廣義逆特征值問題[J].湖南師范大學(xué)自然科學(xué)學(xué)報(bào),2011,34(4):1-6.
[11] 鹿長余.線性模型中參數(shù)估計(jì)的可容許理論[J].應(yīng)用概率統(tǒng)計(jì),2001,17(2):203-212.
[12] 尤進(jìn)紅,顧 娟.回歸系數(shù)的局部根方有偏估計(jì)[J].工程數(shù)學(xué)學(xué)報(bào),1998,15(2):34-38.
[13] 汪 靜,孔凡惠.有約束的線性模型下的最小二乘估計(jì)與最佳線性無偏估計(jì)的比較[J].暨南大學(xué)學(xué)報(bào):自然科學(xué)版,1999,20(3):17-22.