国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

基于數(shù)據(jù)挖掘的電力云資源規(guī)劃調(diào)度

2015-12-31 12:51:16龐松濤
電信科學(xué) 2015年3期
關(guān)鍵詞:服務(wù)器利用預(yù)測

龐松濤

(浪潮集團(tuán) 北京 100142)

1 引言

隨著智能電網(wǎng)的發(fā)展,區(qū)域內(nèi)各地區(qū)網(wǎng)絡(luò)連接愈加緊密,電網(wǎng)計(jì)算不但需要高性能,同時(shí)也越來越需要跨區(qū)域、跨電壓等級(jí)的協(xié)作,并共同構(gòu)建電網(wǎng)的基礎(chǔ)數(shù)據(jù),完成各類分析計(jì)算任務(wù)。傳統(tǒng)采用各網(wǎng)省專業(yè)技術(shù)人員集中工作的方式,拼合調(diào)整形成的運(yùn)行數(shù)據(jù),缺乏協(xié)同機(jī)制,工作效率不高且數(shù)據(jù)是由各級(jí)部門分散維護(hù),定期合并匯總,其及時(shí)性和完整性較差。而應(yīng)用電力云計(jì)算中心,可以有效實(shí)現(xiàn)全網(wǎng)數(shù)據(jù)的統(tǒng)一管理、資源的按需分配以及全局?jǐn)?shù)據(jù)的智能分析應(yīng)用等。

合理調(diào)配云計(jì)算資源可以有效地減少云計(jì)算平臺(tái)的運(yùn)行成本。近年來,隨著云計(jì)算基礎(chǔ)架構(gòu)的擴(kuò)展,能源消耗問題引起越來越多的關(guān)注,據(jù)統(tǒng)計(jì),數(shù)據(jù)中心的能耗成本占到了運(yùn)維總成本的50%左右,包括電力、機(jī)房占地、帶寬等各方面。在產(chǎn)生高能耗的同時(shí),傳統(tǒng)數(shù)據(jù)中心中80%的服務(wù)器80%的時(shí)間其CPU占有率低于20%,資源存在極大的浪費(fèi)。國家電網(wǎng)已經(jīng)建立了北京亦莊、上海、陜西三大大數(shù)據(jù)中心,覆蓋了我國北方、南方以及我國西部內(nèi)陸地區(qū),隨著國家智能電網(wǎng)與特高壓輸電工程的進(jìn)一步推進(jìn),這些數(shù)據(jù)中心將為我國電力安全與電力信息化的長足發(fā)展奠定基礎(chǔ)。所以,實(shí)現(xiàn)數(shù)據(jù)中心的資源優(yōu)化管理,建立智慧電力云具有實(shí)際意義?;谏鲜鲈?,本文重點(diǎn)研究如何優(yōu)化云資源利用,動(dòng)態(tài)啟動(dòng)關(guān)閉虛擬設(shè)備,在不影響云服務(wù)的前提下合理提供云資源并盡可能節(jié)省電力能源消耗。

2 云資源規(guī)劃調(diào)度優(yōu)化

云計(jì)算將計(jì)算任務(wù)分布在資源池上,各種應(yīng)用系統(tǒng)能夠根據(jù)需要獲取計(jì)算力、存儲(chǔ)空間和各種軟件服務(wù)。原來的一臺(tái)物理服務(wù)器可以虛擬成多臺(tái)虛擬服務(wù)器,虛擬化后的資源變得更可量化。虛擬化技術(shù)將底層的計(jì)算資源切分或合并成多個(gè)運(yùn)行環(huán)境,以軟件的方式模擬硬件,通過軟件的方式邏輯切分服務(wù)器資源,形成統(tǒng)一的虛擬資源池,創(chuàng)建虛擬機(jī)運(yùn)行的獨(dú)立環(huán)境。這種邏輯結(jié)構(gòu)提供了靈活、可變、易配置、可擴(kuò)展的平臺(tái)服務(wù),并且可以實(shí)現(xiàn)靈活有效的分布存儲(chǔ)和計(jì)算,從而整體上為實(shí)現(xiàn)強(qiáng)大的計(jì)算和海量數(shù)據(jù)存儲(chǔ)能力提供基礎(chǔ)保障。為簡化起見,本文以CPU資源作為分析探究對(duì)象。

與傳統(tǒng)方式相比,云計(jì)算已經(jīng)在更小粒度上管理分配資源,改善云資源利用及能耗,但是虛擬資源管理如果完全按照云用戶申請(qǐng)啟用云,還會(huì)存在大量的活動(dòng)資源被閑置,資源及能耗依然還存在浪費(fèi),因?yàn)橛脩魧?duì)資源把握不準(zhǔn),申請(qǐng)資源往往都超過實(shí)際需要。要做到更有效地利用資源,需要對(duì)云資源需求有更準(zhǔn)確的把握,并提前做好資源規(guī)劃。云計(jì)算的容量需求隨著時(shí)間的推移而逐漸增加,總需求并不是簡單地單調(diào)增加,而是存在一定程度的波動(dòng)。為了盡可能避免閑置資源的浪費(fèi),同時(shí)保證云服務(wù)質(zhì)量,云資源被劃分為兩部分,第一部分稱為“周期資源”,主要是為了滿足云中心大部分資源需求,保證云中心平穩(wěn)運(yùn)營,該資源需求可根據(jù)歷史數(shù)據(jù)分析找出,用于滿足云中心相對(duì)平穩(wěn)的云資源需求;第二部分資源稱為 “峰期資源”,該資源主要滿足各階段高峰資源需求。通過資源劃分,可以更加精細(xì)管理云資源,利用周期資源應(yīng)對(duì)基本需求,再根據(jù)峰值需求,動(dòng)態(tài)啟用或關(guān)閉峰期資源。當(dāng)然,虛擬資源的啟用和關(guān)閉需要時(shí)間,而且資源啟動(dòng)及關(guān)閉對(duì)應(yīng)用系統(tǒng)影響程度不同,所以在實(shí)際應(yīng)用中,可根據(jù)用戶應(yīng)用系統(tǒng)的實(shí)際情況,調(diào)整資源管理的時(shí)間粒度?;跀?shù)據(jù)挖掘的云資源規(guī)劃調(diào)度技術(shù)框架如圖1所示。

資源規(guī)劃調(diào)度原理步驟說明如下:

· 通過虛擬資源管理系統(tǒng)采集云資源利用的歷史數(shù)據(jù);

·通過預(yù)處理生成預(yù)測模型可用的數(shù)據(jù);

·利用數(shù)據(jù)挖掘技術(shù)分析資源利用規(guī)律;

· 利用分析預(yù)測的結(jié)果規(guī)劃資源需求,并區(qū)分資源周期需求和峰期需求;

·利用虛擬化管理系統(tǒng)分階段配置并啟用虛擬資源,保證在非資源高峰需求階段提供正常云服務(wù);

· 系統(tǒng)通過虛擬管理系統(tǒng)實(shí)時(shí)/及時(shí)采集云資源利用信息;

· 當(dāng)周期云資源利用率超過指定的閾值,提前啟動(dòng)規(guī)劃好的后備峰期資源,為了更好利用資源,峰期資源可根據(jù)負(fù)載的增加而逐步啟用;

·利用相關(guān)算法為新增負(fù)載分配虛擬資源。

本文在以下部分進(jìn)一步給出了實(shí)現(xiàn)方法。

3 云周期資源需求規(guī)劃方案

首先,需要盡量對(duì)云周期資源需求進(jìn)行準(zhǔn)確估計(jì)。指數(shù)平滑算法是目前常用的一種時(shí)間序列分析預(yù)測法。該方法可通過計(jì)算指數(shù)平滑值,配合一定的時(shí)間序列預(yù)測模型對(duì)某個(gè)變量的未來變化進(jìn)行預(yù)測。通過分析,把電網(wǎng)信息系統(tǒng)云資源需求分為以下組合成分。

· 長期趨勢:系統(tǒng)負(fù)載時(shí)間序列隨時(shí)間的變化具有逐漸增加的長期變化趨勢。

· 季節(jié)變動(dòng):時(shí)間序列的季節(jié)變動(dòng)指其在固定時(shí)間內(nèi)呈現(xiàn)出的有規(guī)律的變動(dòng),電網(wǎng)系統(tǒng)負(fù)載的季節(jié)變動(dòng)具有遞階特性,一般其變動(dòng)規(guī)律可以分為周和日兩個(gè)層次。

· 不規(guī)則變動(dòng):即電網(wǎng)系統(tǒng)負(fù)載序列中由于隨機(jī)因素影響所引起的變動(dòng)。

基于以上分析,參照Holt-Winters平滑算法,本文提出一個(gè)遞階成分負(fù)載模型,它可表示為:yi,j,k=wid7i+jh56i+8j+k+δ56i+8j+k(i=1,2,3,…,j=0,1,2,…,6,k=0,1,…,7)。

其中,wi代表第i周的負(fù)載量,d7i+j代表第i周的負(fù)載量在第j日的分布系數(shù),即當(dāng)日訪問量相對(duì)于整周訪問量的百分比,h56i+8j+k代表第i周第j日的負(fù)載量在第k時(shí)段的分布系數(shù),即該段時(shí)內(nèi)訪問量相對(duì)于整日訪問量的百分比,δ56i+8j+k代表第i周第j日第k時(shí)段的隨機(jī)擾動(dòng),其均值為零。在本文模型中,每天被分為8個(gè)時(shí)段。

根據(jù)以上資源需求的特點(diǎn),wi變化將具有長期趨勢,而d7i+j與h56i+8j+k的變化則主要呈現(xiàn)季節(jié)規(guī)律。為了形象說明上述特點(diǎn),給出一組虛擬負(fù)載數(shù)據(jù)及其規(guī)律分解,分別如圖2和圖3所示。

綜上所述,可以采用二次指數(shù)平滑法對(duì)周訪問量進(jìn)行預(yù)測。具體算法及推導(dǎo)如下。

令和分別代表wi的一次和二次指數(shù)平滑值,滿足:

由以上可推出:

另一方面,若以如式(3)所示的方程描述周訪問量的趨勢:

其中,ai,bi是參數(shù)變量,m是從i周開始的預(yù)測周數(shù),則:

進(jìn)一步假定堝t1,t2>0,使得:

因此,可利用一次指數(shù)平滑法對(duì)它們進(jìn)行預(yù)測:

其中,為d的估計(jì)值,可以取為:(i=1,2,3,…)的最小二乘均值即滿足離差的平方和Σ最小的的值。為的估計(jì)值,可以取為:的最小二乘均值即滿足離差(-56i+8j+k)的平方和最小的值。

圖2 虛擬負(fù)載數(shù)據(jù)

圖3 負(fù)載規(guī)律分解

以上估計(jì)值可保證:

4 云峰期資源需求調(diào)度方案

峰期資源主要用于“調(diào)峰”,即主要用于滿足各階段云資源的需求高峰。云虛擬機(jī)實(shí)例的啟動(dòng)關(guān)閉遵循原則是:當(dāng)周期資源利用率達(dá)到給定閾值時(shí),啟動(dòng)新的虛擬機(jī)實(shí)例,而周期資源利用率少于給定閾值時(shí),終止虛擬機(jī)實(shí)例。當(dāng)然啟動(dòng)和關(guān)閉操作不能太過于頻繁,要留足夠的時(shí)間,啟停頻率可以根據(jù)實(shí)際應(yīng)用設(shè)定閾值使得頻率控制在小時(shí)級(jí)別。另外,由于增加的資源需求可能來自不同應(yīng)用、不同任務(wù),所以也需要通過合理的算法進(jìn)行資源分配。本文采用隨機(jī)均衡策略。在此引入一個(gè)簡單模型。

首先,假定每個(gè)節(jié)點(diǎn)上只運(yùn)行一個(gè)服務(wù)組件;每個(gè)用戶請(qǐng)求對(duì)應(yīng)一個(gè)組件實(shí)例,所有實(shí)例的優(yōu)先級(jí)相同;用戶請(qǐng)求到達(dá)時(shí)間與服務(wù)時(shí)間都滿足泊松分布;平臺(tái)因任務(wù)調(diào)度而消耗的資源可以忽略,則坌r>0,當(dāng)Δt足夠小時(shí),任意節(jié)點(diǎn)正在服務(wù)的用戶數(shù)從r轉(zhuǎn)移到r-1、r、r+1的概率與單隊(duì)列單服務(wù)臺(tái)簡單服務(wù)系統(tǒng)(M/M/1)中的情況完全相同,如圖4所示。

圖4 節(jié)點(diǎn)狀態(tài)轉(zhuǎn)移示意

根據(jù)排隊(duì)論的研究結(jié)果推出最佳隨機(jī)均衡策略是按到達(dá)率平方根的比例把整個(gè)系統(tǒng)的冗余服務(wù)率分配到各個(gè)節(jié)點(diǎn)。

峰值變化對(duì)資源需求做出調(diào)整,其實(shí)時(shí)性要求相對(duì)較高,為此在虛擬資源管理監(jiān)控系統(tǒng)上運(yùn)行兩個(gè)守護(hù)進(jìn)程negotiator和collector,其中collector負(fù)責(zé)收集負(fù)載及任務(wù)隊(duì)列信息,并對(duì)上述信息列表進(jìn)行周期性更新,negotiator負(fù)責(zé)新增虛擬資源的分配,同時(shí)完成以下各步工作。

(1)negotiator采集當(dāng)前資源利用信息。

(2)發(fā)現(xiàn)資源利用超過閾值時(shí),發(fā)送資源需求到任務(wù)隊(duì)列。

(3)negotiator確定更新各資源請(qǐng)求任務(wù)的優(yōu)先權(quán)。優(yōu)先權(quán)隨等待排隊(duì)中的任務(wù)數(shù)增加而增加。

(4)negotiator從具有最高優(yōu)先權(quán)的資源請(qǐng)求開始查詢,并收集等待任務(wù)所需的資源信息。

(5)negotiator選擇滿足要求的虛擬資源,分配給需要的應(yīng)用。

negotiator將重復(fù)以上步驟,直到為所有的等待任務(wù)找到合適的虛擬資源為止。

5 實(shí)驗(yàn)與小結(jié)

為了得出實(shí)驗(yàn)結(jié)果,在云中心配置了一個(gè)實(shí)驗(yàn)環(huán)境,該實(shí)驗(yàn)環(huán)境以3臺(tái)8路服務(wù)器TS850為主,外接一個(gè)集中存儲(chǔ)服務(wù)器,8路服務(wù)器和集中存儲(chǔ)之間用SAN交換機(jī)連接。8路服務(wù)器上安裝虛擬化軟件,生成的虛擬機(jī)外掛存儲(chǔ)服務(wù)器上劃分的虛擬盤,最后安裝了浪潮云海OS,該軟件可以實(shí)現(xiàn)跨平臺(tái)的云資源管理及實(shí)時(shí)監(jiān)控,通過浪潮云海OS,首先對(duì)某一云中心采集了周、日的云資源運(yùn)行數(shù)據(jù),通過對(duì)周訪問量、日訪問量依次進(jìn)行不同粒度層次的平滑計(jì)算,獲得未來某個(gè)時(shí)段的負(fù)載預(yù)測值。把前3周的負(fù)載數(shù)據(jù)作為觀測值,用它們對(duì)第4、5周各個(gè)時(shí)段的負(fù)載進(jìn)行預(yù)測,并將預(yù)測結(jié)果與觀測值(實(shí)際上是根據(jù)模型產(chǎn)生的計(jì)算值)進(jìn)行比較。圖5為每周負(fù)載量及其預(yù)測值(前3周為觀測值,后2周為預(yù)測值)之間的比較,圖6和圖7分別為周負(fù)載分布、日負(fù)載分布與它們的預(yù)測值之間的比較,圖8為根據(jù)模型產(chǎn)生的附載計(jì)算值與按照上述方法得出的負(fù)載預(yù)測值之間的比較。

相比Holt-Winters平滑算法,本文針對(duì)電力系統(tǒng)負(fù)載的特點(diǎn),將每一個(gè)層次的變化規(guī)律分而治之,不僅能夠充分反映負(fù)載變化規(guī)律的遞階循環(huán)特性,預(yù)測過程也比較簡單,每一個(gè)層次只需確定一個(gè)α參數(shù)。

另外,在峰期資源調(diào)度上,在云海OS的技術(shù)上增加服務(wù)節(jié)點(diǎn)控制與狀態(tài)信息收集器。該服務(wù)由一個(gè)主控臺(tái)和一個(gè)后臺(tái)探測器線程組成,服務(wù)對(duì)象/組件列表放在negotiator中,并通過浪潮云海OS對(duì)上述列表進(jìn)行操縱,從而實(shí)現(xiàn)對(duì)各節(jié)點(diǎn)上的服務(wù)器 (包括云端的虛擬服務(wù)器)進(jìn)行激活(activate)、去活(deactivate)等控制。在實(shí)驗(yàn)環(huán)境中,雖然可以根據(jù)服務(wù)任務(wù)需求的情況自動(dòng)啟動(dòng)或關(guān)閉資源,但是該資源調(diào)度還需要和實(shí)際應(yīng)用相結(jié)合,可以針對(duì)具體應(yīng)用,進(jìn)一步實(shí)驗(yàn)得出合理的資源啟動(dòng)關(guān)閉頻率。

圖5 周負(fù)載量及其預(yù)測值

圖6 周負(fù)載在各日的分布及其預(yù)測

圖7 日負(fù)載在各時(shí)段的分布及其預(yù)測

圖8 虛擬負(fù)載計(jì)算值及其預(yù)測值

總之,傳統(tǒng)通過用戶對(duì)資源的需求來開啟云計(jì)算資源的方式在資源利用上還是比較浪費(fèi),通過實(shí)驗(yàn)結(jié)果得出,對(duì)云資源利用的歷史數(shù)據(jù)進(jìn)行挖掘,找出云資源的利用規(guī)律,不僅可以實(shí)現(xiàn)按需分配資源,進(jìn)一步可以更好地做到按需開啟關(guān)閉峰期資源,從而更好地實(shí)現(xiàn)云資源的充分利用,建立生態(tài)云數(shù)據(jù)中心。由于電力系統(tǒng)對(duì)云的資源需求有比較明顯的規(guī)律,所以通過數(shù)據(jù)挖掘,資源預(yù)測及規(guī)劃相對(duì)比較準(zhǔn)確。為此,給大規(guī)模電力云數(shù)據(jù)中心帶來的經(jīng)濟(jì)效益會(huì)更加明顯。

1 張大華,丁輝,吳向陽等.面向智能電網(wǎng)的電力云計(jì)算架構(gòu).電力通信管理暨智能電網(wǎng)通信技術(shù)論壇論文集,北京,中國,2011

Zhang D H,Ding H,Wu X Y,et al.Cloud computing architecture for smart grid.Proceedings of Electric Power Communication Management and Smart Grid Communications Technology Forum,Beijing,China,2011

2 王利賽,楊明玉,孫月琴等.電力云研究綜述.電力信息化,2011(5)

Wang L S,Yang M Y,Sun Y Q,et al.Summary research on electric powercloud computing.ElectricPowerInformation Technology,2011(5)

3 王鵬.云計(jì)算的關(guān)鍵技術(shù)與應(yīng)用實(shí)例.北京:人民郵電出版社,2010

Wang P.Examples of key techniques and application on cloud computing.Beijing:Posts and Telecom Press,2010

4 徐國祥.統(tǒng)計(jì)預(yù)測和決策.上海:上海財(cái)經(jīng)大學(xué)出版社,2011

Xu G X.Statistical forecast and decision making.Shanghai:Shanghai University of Finance and Economics Press,2011

5 陸傳賚.排隊(duì)論.北京:北京郵電大學(xué)出版社,2009

Lu C L.Queuing Theory.Beijing:Beijing University of Posts and Telecommunications Press,2009

6 Kalekar S P.Time series forecasting using holt-winters exponential smoothing.Kanwal Rekhi School of Information Technology Tech Rep,2004

7 Dostal Z.Optimal Quadratic Programming Algorithms:With Application to Variations to Variational Inequalities.New York:Springer,2009

8 Jiang Y,Perng S C,Li T,et al.ASAP:a self-adaptive prediction system for instant cloud resource demand provisioning.Proceedings of ICDM,Vancouver,Canada,2011

9 楊巨龍.大數(shù)據(jù)技術(shù)全解.北京:電子工業(yè)出版社,2014.

Yang JL.Big Data Technology Entire Solution.Beijing:Publishing House of Electronics Industry,2014

10 蘇躍進(jìn),韓英杰.基于分布式電站群的智能數(shù)據(jù)分析中心建設(shè)與實(shí)踐.電信科學(xué),2013(11):122~126

Su Y J,Han Y J.Construction and practice of intelligent data analysis center based on distributed power plant.Telecommunications Science,2013(11):122~126

11 耿亮,吳燕,孟憲楠.電力數(shù)據(jù)挖掘在電網(wǎng)內(nèi)部及各領(lǐng)域間的應(yīng)用.電信科學(xué),2013(11):127~130

Geng L,Wu Y,Meng X N.Application of power data mining within and between grid fields.Telecommunications Science,2013(11):127~130

12 趙云山,劉煥煥.大數(shù)據(jù)技術(shù)在電力行業(yè)的應(yīng)用研究.電信科學(xué),2014(1):57~62

Zhao Y S,Liu H H.Research on application of big data technique in electricity powerindustry.Telecommunications Science,2014(1):57~62

13 黃章樹,劉晴晴.基于云計(jì)算服務(wù)模式的數(shù)據(jù)挖掘應(yīng)用平臺(tái)的構(gòu)建.電信科學(xué),2012(1):53~57

Huang Z S,Liu Q Q.Construction of data mining application platform based on the service models of cloud computing.Telecommunications Science,2012(1):53~57

猜你喜歡
服務(wù)器利用預(yù)測
無可預(yù)測
黃河之聲(2022年10期)2022-09-27 13:59:46
利用min{a,b}的積分表示解決一類絕對(duì)值不等式
選修2-2期中考試預(yù)測卷(B卷)
選修2-2期中考試預(yù)測卷(A卷)
利用一半進(jìn)行移多補(bǔ)少
通信控制服務(wù)器(CCS)維護(hù)終端的設(shè)計(jì)與實(shí)現(xiàn)
利用數(shù)的分解來思考
Roommate is necessary when far away from home
不必預(yù)測未來,只需把握現(xiàn)在
得形忘意的服務(wù)器標(biāo)準(zhǔn)
离岛区| 永安市| 宣武区| 乌鲁木齐县| 奇台县| 五原县| 清徐县| 崇礼县| 宾阳县| 监利县| 周口市| 望奎县| 德保县| 辛集市| 隆回县| 云龙县| 临高县| 安图县| 余庆县| 临汾市| 黑水县| 正定县| 盐山县| 天津市| 卢龙县| 谢通门县| 黄平县| 南澳县| 孝感市| 彭泽县| 涿鹿县| 西华县| 廊坊市| 兴文县| 宿松县| 靖远县| 桂东县| 建水县| 呼图壁县| 即墨市| 泸溪县|