国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

基于盒式圖的數(shù)據(jù)過(guò)濾與回歸分析算法

2010-08-08 00:52杜慶峰
關(guān)鍵詞:離群位數(shù)中位數(shù)

杜慶峰,李 巖

(同濟(jì)大學(xué) 軟件學(xué)院,上海 200331)

軟件度量是對(duì)軟件開(kāi)發(fā)項(xiàng)目、過(guò)程及其產(chǎn)品進(jìn)行數(shù)據(jù)定義、收集以及分析的持續(xù)性定量化過(guò)程,目的在于對(duì)此加以理解、預(yù)測(cè)、評(píng)估、控制和改善,從而保證軟件開(kāi)發(fā)中的高效率、低成本、高質(zhì)量[1]。但是,得到正確的度量只是測(cè)量程序的一部分。軟件質(zhì)量是與所收集和分析的數(shù)據(jù)質(zhì)量密切相關(guān)的,數(shù)據(jù)清洗過(guò)程的目的就是要解決“臟數(shù)據(jù)”的問(wèn)題。數(shù)據(jù)清洗是指去除或修補(bǔ)源數(shù)據(jù)中的不完整、不一致、含噪聲的數(shù)據(jù)。在源數(shù)據(jù)中,可能由于疏忽、懶惰,甚至為了保密使系統(tǒng)設(shè)計(jì)人員無(wú)法得到某些數(shù)據(jù)項(xiàng)的數(shù)據(jù)[2]。根據(jù)決策系統(tǒng)中“garbage in garbage out”(如果輸入的分析數(shù)據(jù)是垃圾則輸出的分析結(jié)果也將是垃圾)原理,必須處理這些噪聲數(shù)據(jù)。去掉噪聲平滑數(shù)據(jù)的技術(shù)主要有分箱(binning)、聚類(clustering)、回歸(regression)等[3]。本文在回歸分析的基礎(chǔ)上,加入了盒形圖進(jìn)行數(shù)據(jù)過(guò)濾,從而得出一條線性回歸直線,使模式或者關(guān)系變得更加明顯,從而用這些模式和關(guān)系對(duì)測(cè)量的屬性作出判斷。

1 盒形圖和回歸分析簡(jiǎn)介

1.1 盒形圖

該方法可以描述數(shù)據(jù)集取值范圍的情況,展示數(shù)據(jù)主要聚集的區(qū)域,發(fā)現(xiàn)離群數(shù)據(jù)可能的位置,以便于對(duì)離群數(shù)據(jù)進(jìn)行處理。盒形圖顯示一個(gè)變量的信息,如對(duì)相同CMM等級(jí)的不同項(xiàng)目完成每個(gè)FP的工作量分析,根據(jù)中位數(shù) m、上四分位數(shù) u、下四分位數(shù) l、盒長(zhǎng) d、和尾(tail)來(lái)分析。

中位數(shù)是在數(shù)據(jù)集中排列居中的項(xiàng)。也就是說(shuō),如果中位數(shù)取值為m,則數(shù)據(jù)集中有一半的值大于m,一半的值小于m。將所有數(shù)值按大小順序排列并分成四等份,處于三個(gè)分割點(diǎn)位置的得分就是四分位數(shù)。最小的四分位數(shù)稱為下四分位數(shù)l,所有數(shù)值中,有四分之一小于下四分位數(shù),四分之三大于下四分位數(shù)。中點(diǎn)位置的四分位數(shù)就是中位數(shù)。最大的四分位數(shù)稱為上四分位數(shù)u,所有數(shù)值中,有四分之三小于上四分位數(shù),四分之一大于上四分位數(shù)。也有叫第25百分位數(shù)、第75百分位數(shù)的。將上四分位數(shù)和下四分位數(shù)的距離定義為盒長(zhǎng)d,因此,d=u-l。接下來(lái)定義分布的尾(tail)。理論上,上尾值點(diǎn)為u+1.5d,下尾值為u-1.5d,這些值必須進(jìn)行舍位處理,以接近真實(shí)數(shù)據(jù),位于上尾和下尾之外的值稱為離群值。

1.2 回歸分析方法

回歸分析方法是研究要素之間具體數(shù)量關(guān)系的強(qiáng)有力的工具,運(yùn)用這種方法能夠建立反映要素之間具體的數(shù)量關(guān)系的數(shù)學(xué)模型,即回歸模型。線性回歸技術(shù)的基礎(chǔ)就是散點(diǎn)圖。將每個(gè)屬性對(duì)表示為一個(gè)數(shù)據(jù)點(diǎn)(x,y),然后用回歸技術(shù)計(jì)算出能夠最好地?cái)M合這些點(diǎn)的直線。目標(biāo)是將屬性y(因變量)根據(jù)屬性x(自變量)表示為等式:y=a+bx。

線性回歸的理論是從每個(gè)點(diǎn)垂直向上或向下畫一條線段到趨勢(shì)直線,表示從數(shù)據(jù)點(diǎn)到趨勢(shì)直線的垂直距離。在某種意義上,這些線段的長(zhǎng)度表示數(shù)據(jù)和直線的差異,且這種差異應(yīng)盡可能地小。因此,“最佳擬合”的直線式是指使該距離最小的直線。

在數(shù)學(xué)上要計(jì)算“最佳擬合”直線的斜率b和截距a是很簡(jiǎn)單的。每個(gè)點(diǎn)的差異稱為殘差,生成線性回歸直線的公式是殘差的平方和達(dá)到最小??梢詫⒚總€(gè)數(shù)據(jù)點(diǎn)的殘差表示為:

最小化殘差平方和得到以下關(guān)于a、b的等式:

mx是 xi的平均值,my是 yi的平均值[4]。

2 算法實(shí)現(xiàn)

在進(jìn)行數(shù)據(jù)清洗時(shí),由于數(shù)據(jù)是無(wú)序輸入的,所以先對(duì)其排序,再用盒形圖法行數(shù)據(jù)清洗。以下是偽代碼:

接下來(lái)要對(duì)篩選出來(lái)的數(shù)據(jù)進(jìn)行回歸分析,從而得到一個(gè)數(shù)據(jù)模型。

從而得到一條線性直線,算法結(jié)束。

3 算法在實(shí)驗(yàn)數(shù)據(jù)上的實(shí)現(xiàn)

從SSMBSS(上海軟件度量基準(zhǔn)體系)中選取了一組數(shù)據(jù)(見(jiàn)表1),首先將其用散點(diǎn)圖列出來(lái)(見(jiàn)圖 1),然后用盒形圖進(jìn)行數(shù)據(jù)清洗(見(jiàn)圖2),最后用回歸分析得出擬合直線(見(jiàn)圖 3)。

綜上所述,對(duì)于軟件度量過(guò)程中出現(xiàn)的數(shù)據(jù)冗余和失真的情況,可以通過(guò)數(shù)據(jù)過(guò)濾和回歸分析進(jìn)行處理,除去那些離群的數(shù)據(jù),并得出相應(yīng)的擬合直線,這樣就可以分析出數(shù)據(jù)的規(guī)律,保證軟件的質(zhì)量,提高效率。

圖1 散點(diǎn)圖

圖2 盒形圖分析結(jié)果

圖3 擬合直線

表1

[1]FENTONenton N E,PFLEEGER S L.Softwaremetrics:a rigorous&practical apporach[M](第2版).北京:清華大學(xué)出版社,2003.

[2]郭志懋,周傲英.數(shù)據(jù)質(zhì)量和數(shù)據(jù)清洗研究綜述.軟件學(xué)報(bào)[J],2002(11).

[3]王石,李玉忱,劉乃麗,等.在屬性級(jí)別上處理噪聲數(shù)據(jù)的數(shù)據(jù)清洗算法.計(jì)算機(jī)工程[J],2005(5).

[4]徐建華.現(xiàn)代地理學(xué)中的數(shù)學(xué)方法.北京:高等教育出版社,2002.

猜你喜歡
離群位數(shù)中位數(shù)
一種基于鄰域粒度熵的離群點(diǎn)檢測(cè)算法
五次完全冪的少位數(shù)三進(jìn)制展開(kāi)
連續(xù)自然數(shù)及其乘積的位數(shù)分析
一種相似度剪枝的離群點(diǎn)檢測(cè)算法
中位數(shù)計(jì)算公式及數(shù)學(xué)性質(zhì)的新認(rèn)識(shí)
離群數(shù)據(jù)挖掘在發(fā)現(xiàn)房產(chǎn)銷售潛在客戶中的應(yīng)用
遙感衛(wèi)星CCD相機(jī)量化位數(shù)的選擇
應(yīng)用相似度測(cè)量的圖離群點(diǎn)檢測(cè)方法
導(dǎo)學(xué)案不能淪落為“習(xí)題單”:以“中位數(shù)和眾數(shù)”的導(dǎo)學(xué)案為例
葉麗婭的年齡
高陵县| 宜宾市| 温宿县| 阳曲县| 黔西县| 临邑县| 和静县| 常德市| 涞水县| 岳阳县| 祥云县| 保亭| 建湖县| 红原县| 元氏县| 克山县| 兰西县| 延吉市| 枣阳市| 全州县| 新泰市| 璧山县| 恩施市| 即墨市| 澳门| 吴忠市| 基隆市| 乌什县| 海南省| 彰化县| 赣州市| 元江| 凤阳县| 和平县| 牙克石市| 镇远县| 岚皋县| 吉木萨尔县| 台安县| 禄劝| 琼海市|