歐同庚,張西蘋,郭曉菲
(1.中國地震局地震研究所,湖北 武漢 430071;2.防災(zāi)科技學(xué)院,河北 廊坊 065201;3.武漢地震科學(xué)儀器研究院有限公司,湖北 咸寧 437000;4.湖北省重大工程地震檢測與預(yù)警處置技術(shù)研究中心,湖北 咸寧 437000)
目前,地震前兆相關(guān)儀器,如伸縮儀、水管傾斜儀和數(shù)據(jù)采集器等的檢測數(shù)據(jù)處理中,線性度誤差的計算有2種方法[1-9]:(1)儀器線性度誤差是用標準不確定度與實際測試量程輸出的比值表示的,而標準不確定度是用極差法計算的;(2)儀器線性度的計算方法是直接用擬合值與測量值的最大偏差值與實際量程輸出的比值得出的。傳統(tǒng)線性度計算方法存在以下可改進的地方:用最小二乘法對位移量和輸出電壓值所擬合的一元回歸直線沒有進行顯著性分析,如果在測量記錄過程中存在粗大誤差而沒有進行判別和剔除,由此進行的線性度誤差計算結(jié)果將不具有代表性,因此,對擬合曲線進行顯著性檢驗則顯得尤為重要;同時,標準不確定度用極差法計算,即儀器線性擬合值與實際測量值的偏差最大值與極差系數(shù)之比作為標準不確定度值,由王宏濤等和陳凌峰[10-11]推算證明可知,測量不確定度的準確評估對儀器的合格評定至關(guān)重要,極差法存在概率統(tǒng)計學(xué)上的原理性誤差,使用極差法得到的測量不確定度偏大,導(dǎo)致合格評定中的審慎區(qū)間擴大,加大做出錯誤評定的概率。為了更加合理的確定儀器的線性度參數(shù),文中以水管傾斜儀為例,根據(jù)不同計算方式得到的計算結(jié)果對比分析,提出了一種基于最小二乘法和貝塞爾法計算前兆儀器線性度誤差指標的方法。
以水管傾斜儀的線性度測試方法為例,根據(jù)周云耀等[12-13]介紹可知,測試的具體方法為:首先,將水管傾斜儀的浮子進行改造,使之能夠?qū)⒓す飧缮嫦到y(tǒng)中的反射鏡固定在其中,從而可以對浮子的高度進行精密測量;其次,通過激光干涉測量能夠直接讀出浮子上升或下降的位移量,位移量是根據(jù)液位量變化的,通過記錄到的液位量與另一端的水管儀的傳感器輸出電壓值進行對比;最后得到儀器的相關(guān)測試數(shù)據(jù),以某一次具有代表性的水管傾斜儀線性度測試結(jié)果為依據(jù),如表1所示。
表1 DSQ型水管傾斜儀線性度測試數(shù)據(jù)表Table 1 Test data of DSQ type water pipe tiltmeter linearity
根據(jù)表1畫出儀器輸出電壓值與液位量之間的散點圖,如圖1所示,可以直觀看出2個參數(shù)之間基本成線性關(guān)系。
圖1 輸出電壓值y與液位量x之間的散點圖Fig.1 A scattergram of the output voltage value y and the float displacement x
液位量是由激光干涉儀通過測量浮子位移確定的,而激光干涉儀的測量精確度可以溯源,則液位量的測量誤差可以忽略,因此,設(shè)回歸方程為:
式中:b0、b為回歸方程的回歸系數(shù)。
將表1的液位量x與輸出電壓值y的數(shù)據(jù),通過線性擬合計算出回歸系數(shù)b值為-20.3514(保留相應(yīng)的有效數(shù)字),回歸系數(shù)b0值為-882.115 4。即所求的一元線性回歸方程為:
精確到千分位,則為:
N個輸出電壓值之間的變差,可用輸出電壓值y與其算術(shù)平均值yˉ的離差平方和來表示[12-14],即總的離差平方和S為:
進一步可以得到:
為了方便直觀,寫成S=U+Q的形式,即:
式中:U表示回歸平方;Q表示殘余平方和。
由回歸平方和與殘差平方和的意義可知,一個回歸方程是否顯著,也就是說y與x的線性關(guān)系是否密切,取決于U(回歸平方和)及Q(殘余平方和)的大小,U越大、Q越小說明y與x的線性關(guān)系越密切?;貧w方程顯著性檢驗通常采用F檢驗法,其中vu和vQ分別表示U和Q的自由度,因此,統(tǒng)計量F表示如下:
對一元線性回歸:
通過查F分布表,判斷回歸屬于高度顯著的、顯著、在0.1水平上顯著或者是回歸不顯著的哪一種。
lyy==1979 192.807最小二乘法確定的回歸方程由表3可知,帶入公式得出U(回歸平方和)及Q(殘余平方和)的大小,即:
已知水管傾斜儀線性度測試次數(shù)為11,即N=11,于是統(tǒng)計量F為:
查得F分布表[12],可知當置信概率為0.99時,
F>>F0.01(1,9),可以確定該一元線性回歸方程高度顯著,且可信賴程度為99%以上。
3.1.1 貝塞爾法
已知測量次數(shù)為N,殘余誤差值Yi′-Y,用貝塞爾法計算單次測量的標準差σ1為:
平均值的標準差為:
標準不確定度u貝為:
3.1.2 別捷爾斯法
根據(jù)別捷爾斯公式,求得測量列單次測量的標準差σ2為:
算術(shù)平均值的標準差σxˉ為:
標準不確定度u別為:
3.1.3 極差法
擬合輸出電壓最大值Ymax′和最小值Ymin′的差值與觀測電壓輸出最大值Ymax和最小值Ymin的差值兩者之差稱為極差ω11,即:
查表可知dN的值,則不確定度即標準差的無偏估計量u極為
3.1.4 最大誤差法
根據(jù)最大誤差公式,已知N的值,可查表得,求得測量列單次測量的標準差σ3為:
標準不確定度u最為:
由液位值和輸出電壓值的測量記錄表1和基于最小二乘法得到的高度顯著性一元回歸方程可以得出擬合值以及擬合值y′和實際電壓的偏差值,若以激光干涉儀測得的液位值和擬合值為標準參考值,則偏差值為殘余誤差值,可得出數(shù)據(jù)殘余誤差值,進一步可以得出線性回歸方程的不同計算方法所得到的的標準不確定度值,結(jié)果如表2所示。
表2 不確定度值表Table 2 Uncertainty values
對比這4種不確定度計算結(jié)果可知,方法不同,標準不確定度和線性度誤差的計算結(jié)果也不一樣,其中,最大誤差法得到的標準不確定度最大,其次是極差法,貝塞爾法和別捷爾斯法大致相等,根據(jù)陳凌峰和費業(yè)泰[11,14]介紹可知,極差法一般在測量次數(shù)小于10時使用,可簡單迅速算出標準差,具有一定精度,最大誤差法在測量次數(shù)小于10時具有一定精度,具有簡單方便的特點,但別捷爾斯法、極差法和最大誤差法的可靠性均低于貝塞爾法,當不同方法得到的線性度誤差不同時,以貝塞爾法得到的不確定度計算結(jié)果為準。
由于實際儀器有非線性的存在[17-21],近似后的擬合直線與實際曲線存在偏差,這個偏差由標準不確定度u標表示,而非線性誤差值是指在滿量程輸出電壓值ΔYFS的條件下,標準不確定度所占的比重,即非線性誤差(又叫做線性度誤差)d計算公式為:
式中:ymax表示輸出電壓最大值;ymin表示輸出電壓最小值。
帶入表1數(shù)據(jù)可得水管傾斜儀滿量程輸出電壓值ΔYFS=1321.5mv,根據(jù)基于最小二乘法確立的回歸方程以及貝塞爾公式得出的標準不確定度,可得水管傾斜儀線性度誤差值d結(jié)果為:
所以,此水管傾斜儀線性度誤差值為0.054%。
綜上所述,在對前兆儀器線性度誤差的計算方法進行了詳細的介紹和討論的基礎(chǔ)上,在傳統(tǒng)方法上進行了以下改進:
(1)對最小二乘法確定的回歸方程進行了顯著性檢驗,采用F檢驗法確定回歸方程的顯著性水平和顯著程度,另外,也可以選用R相關(guān)系數(shù)檢驗法。
(2)標準不確定度的計算方法分別采用了4種方法進行線性度誤差結(jié)果對比和分析,以貝塞爾法得到的線性度誤差為準,使得前兆儀器的線性度檢驗結(jié)果更加嚴謹可靠。
(3)以前兆儀器之一的水管傾斜儀實際臺站線性度檢測數(shù)據(jù)為例進行計算結(jié)果的對比分析,更加確定了基于貝塞爾法的線性度誤差計算結(jié)果的合理性。