殷麗萍,孫 洋
(1.云南省環(huán)境監(jiān)測(cè)中心站,云南昆明650034;2.云南方源環(huán)??萍加邢薰?,云南昆明650000)
不同實(shí)驗(yàn)方法對(duì)測(cè)定葉綠素a的結(jié)果分析對(duì)比相關(guān)關(guān)系探討
殷麗萍1,孫 洋2
(1.云南省環(huán)境監(jiān)測(cè)中心站,云南昆明650034;2.云南方源環(huán)??萍加邢薰荆颇侠ッ?50000)
2009年1~8月于滇池外海水體隨機(jī)取樣20組,監(jiān)測(cè)葉綠素a項(xiàng)目,采用兩種不同監(jiān)測(cè)分析方法,對(duì)其監(jiān)測(cè)結(jié)果,應(yīng)用線性函數(shù)Y=a+b x的形式,進(jìn)行了一元線性回歸相關(guān)關(guān)系 (r)值的顯著性檢驗(yàn),驗(yàn)證了兩種監(jiān)測(cè)方法之間的相關(guān)關(guān)系。
葉綠素a;監(jiān)測(cè)數(shù)據(jù);結(jié)果對(duì)比;相關(guān)關(guān)系
葉綠素是藻類重要的組成成分之一,也是評(píng)價(jià)富營(yíng)養(yǎng)化水環(huán)境質(zhì)量的重要指標(biāo)。常規(guī)監(jiān)測(cè)中,水和廢水監(jiān)測(cè)分析方法第四版 (國(guó)標(biāo)方法)和湖泊生態(tài)調(diào)查觀測(cè)與分析方法中 (湖泊生態(tài)調(diào)查方法),兩種監(jiān)測(cè)方法在前處理、低溫干燥時(shí)間、比色等方面有所不同。國(guó)標(biāo)方法采用低溫干燥時(shí)間6~8h,進(jìn)行4個(gè)波長(zhǎng)直接比色,比色過程簡(jiǎn)單。而湖泊生態(tài)調(diào)查方法,采用低溫干燥時(shí)間為10~12h,雖然只有2個(gè)波長(zhǎng),但比色過程中要進(jìn)行酸化前、酸化后處理,操作相對(duì)麻煩。為獲取富營(yíng)養(yǎng)化水體中葉綠素a監(jiān)測(cè)結(jié)果的準(zhǔn)確性、可靠性,我們?cè)跁r(shí)間上進(jìn)行了長(zhǎng)達(dá)8個(gè)月,上百組數(shù)據(jù)兩種方法的比較實(shí)驗(yàn)。現(xiàn)隨機(jī)抽取20組數(shù)據(jù)進(jìn)行相關(guān)關(guān)系的研究討論。
(1)《水和廢水監(jiān)測(cè)方法》第四版。簡(jiǎn)稱:國(guó)標(biāo)方法。
(2)湖泊生態(tài)調(diào)查觀測(cè)與分析方法。簡(jiǎn)稱:湖泊生態(tài)調(diào)查方法。
2009年1~8月滇外海水質(zhì)隨機(jī)取樣20組,用國(guó)標(biāo)方法和湖泊生態(tài)調(diào)查方法對(duì)比實(shí)驗(yàn)監(jiān)測(cè)結(jié)果。
依據(jù)中國(guó)環(huán)境監(jiān)測(cè)總站編寫組編寫的 《環(huán)境水質(zhì)監(jiān)測(cè)質(zhì)量保證手冊(cè)》中數(shù)據(jù)處理和常用統(tǒng)計(jì)方法進(jìn)行檢驗(yàn)。
圖1和表1是20組兩種不同監(jiān)測(cè)方法的結(jié)果,可直觀看出湖泊生態(tài)調(diào)查方法的監(jiān)測(cè)結(jié)果除了編號(hào)10高出國(guó)標(biāo)法0.017倍外,其他監(jiān)測(cè)結(jié)果均低于國(guó)標(biāo)方法,監(jiān)測(cè)結(jié)果之間的差值最小的是編號(hào)8,絕對(duì)偏差為0.39 mg/m3、相對(duì)偏差為0.23%。差值最大的是編號(hào)19,絕對(duì)偏差為10.27mg/m3、相對(duì)偏差為3.67%。目前在生物監(jiān)測(cè)質(zhì)量控制手冊(cè)中,對(duì)葉綠素a的監(jiān)測(cè)結(jié)果質(zhì)控要求,沒有明確的評(píng)價(jià)標(biāo)準(zhǔn)。我們可以通過數(shù)理統(tǒng)計(jì)學(xué)手段,對(duì)兩種監(jiān)測(cè)數(shù)據(jù)之間的關(guān)系,做進(jìn)一步的對(duì)比驗(yàn)證。
主要采用2009年1~8月滇池外海葉綠素a項(xiàng)目,20組國(guó)標(biāo)方法和湖泊生態(tài)調(diào)查方法的對(duì)比實(shí)驗(yàn)監(jiān)測(cè)數(shù)據(jù),隨機(jī)抽樣,使n≥20,進(jìn)行了相關(guān)關(guān)系檢驗(yàn)。
(1)相關(guān)關(guān)系的確定方法:對(duì)樣本X-Y進(jìn)行線性回歸,檢驗(yàn)X-Y相關(guān)關(guān)系是否線性化,求得回歸方程。
回歸方程:Y=a+bx
式中:a=y(tǒng)-bx,b=Lxy/Lxx。
相關(guān)系數(shù):
式中:
r值的大小通過與由樣本n所測(cè)量次數(shù)及確定顯著水平a查表所得值進(jìn)行比較,當(dāng)︱r︱≥ra時(shí),檢驗(yàn)回歸直線方程兩個(gè)變量間的關(guān)系才有意義。
回歸方程的顯著性檢驗(yàn):計(jì)算T值,
比較T值與t(a/2,n-2)的大小,當(dāng)T>t(a/2,n-2)時(shí),認(rèn)為回歸的效果是顯著的,回歸方程合理。否則認(rèn)為回歸效果不顯著。
(2)回歸方程的確定:對(duì)20組國(guó)標(biāo)方法和湖泊生態(tài)調(diào)查方法的監(jiān)測(cè)數(shù)據(jù)進(jìn)行一元線性回歸,建立回歸方程如下:
Y=33.88+0.9339x
式中:Y:湖泊生態(tài)調(diào)查方法,X:國(guó)標(biāo)方法。
相關(guān)系數(shù)r為0.9736。自由度n-2=18和a為0.01時(shí)查檢驗(yàn)表得相關(guān)系數(shù)的取碼值r為0.5614。由此可見︱r︱=0.9736,>0.5614,認(rèn)為葉綠素a監(jiān)測(cè)數(shù)據(jù)在國(guó)標(biāo)方法和湖泊生態(tài)調(diào)查方法之間線性關(guān)系是有意義的。
顯著性檢驗(yàn):T=7.61
取顯著性水平a=0.05,查t(0.05/2,18)結(jié)果為2.504,T為7.61>2.504,因此國(guó)標(biāo)方法和湖泊生態(tài)調(diào)查方法兩方法之間的回歸效果顯著。
已知自變量X,通過回歸方程可估計(jì)因變量的平均值,但不能準(zhǔn)確地知道Y的值,測(cè)量值Y與估計(jì)值的差別反映了回歸直線的精密度。在一元線性回歸中,可以用剩余標(biāo)準(zhǔn)差S來描述回歸直線的精密度。
即:Y′=bx+a+2s
Y″=bx+a-2s
國(guó)標(biāo)方法和湖泊生態(tài)調(diào)查方法之間回歸方程的精密度:根據(jù)上述公式計(jì)算,剩余標(biāo)準(zhǔn)差S=0.95,即回歸方程的精密度為Y=33.88+0.9339x ±2×0.95。
(1)兩種不同的監(jiān)測(cè)方法分析實(shí)驗(yàn)結(jié)果,通過函數(shù)一元線性回歸、T檢驗(yàn)、精密度分析后,國(guó)標(biāo)方法和湖泊生態(tài)調(diào)查方法的監(jiān)測(cè)數(shù)據(jù)之間線性關(guān)系顯著,其線性相關(guān)關(guān)系r為:0.9736,遠(yuǎn)大于取碼值0.5614。顯著性T檢驗(yàn):T為7.61>2.504,回歸方程的精密度Y值均落在95.4%以內(nèi)。
(2)兩種監(jiān)測(cè)方法均能測(cè)定出可靠的理想值,建議在富營(yíng)養(yǎng)化水體監(jiān)測(cè)中,應(yīng)選擇操作簡(jiǎn)便的國(guó)標(biāo)方法進(jìn)行測(cè)定,既節(jié)省了化學(xué)試劑又提高了工作效率,而且數(shù)據(jù)準(zhǔn)確可靠。
[1]中國(guó)環(huán)境監(jiān)測(cè)總站.環(huán)境水質(zhì)監(jiān)測(cè)質(zhì)量保證手冊(cè) [M].北京:化學(xué)工業(yè)出版社,1984.
[2]國(guó)家環(huán)境保護(hù)總局.水和廢水監(jiān)測(cè)分析方法 (第四版)[M].北京:中國(guó)環(huán)境科學(xué)出版社,2002.
[3]黃祥飛.湖泊生態(tài)調(diào)查觀測(cè)與分析 [M].北京:中國(guó)環(huán)境科學(xué)出版社,2005.
Analysis,Comparison and Correlation of Different Experimental Methods in Chlorophyll-a Test
YIN Li-ping1,SUN Yang2
(Yunnan Provincial Environmental Monitoring Center,Kunming Yunnan 650034 China)
From January to August of 2009,20 sets of samples were taken from the outer Dianchi Lake to monitor Chlorophyll a.Two different methods were applied for the monitoring and analysis.Based on their monitoring results,the correlation of the two methods are testified by the significance test of the correlation value(r)through simple linear regression with the function of Y=a+b x.
chlorophyll-a;monitoring data;result comparison;correlation
X83
:A
:1673-9655(2013)02-0129-02
?8月國(guó)標(biāo)方法與湖泊生態(tài)調(diào)查方法監(jiān)測(cè)結(jié)果 (mg/m3)
2012-11-09
編號(hào)1# 2# 3# 4# 5# 6# 7# 8# 9# 10#國(guó)標(biāo) 35.47 31.64 92.14 124.91 126.75 168.95 159.23169.25 199.0 196.55湖泊 28.47 25.28 90.32 115.36 119.65 149.98 155.96 170.03 195.62 200.03編號(hào)11# 12# 13# 14# 15# 16# 17# 18# 19# 20#國(guó)標(biāo) 199.06 200.45 212.50 196.53 230.23 239.42 253.88 272.33 290.31 295.96湖泊 180.13 190.37 198.62 188.69 215.73 229.92 236.59 270.09 269.78 288.89