謝芳
摘 要: 現(xiàn)有系統(tǒng)進行虛擬化云計算動態(tài)移動數(shù)據(jù)去噪時,存在數(shù)據(jù)單個體運行且一次性完成去噪處理的問題。為提高云計算結果的準確性,設計新的虛擬化云計算動態(tài)移動數(shù)據(jù)實時去噪處理系統(tǒng)。該設計方法主要分為兩個層次:基于Hadoop云計算平臺描述系統(tǒng)硬件設計的三項功能,結合三項功能從前端控制層、運行層、用戶層對系統(tǒng)C/S模式進行設計,實現(xiàn)海量動態(tài)移動數(shù)據(jù)的并行化處理;系統(tǒng)軟件通過AFLS、并行處理中間件、查詢服務器、DBMS、OTS五大結構,實現(xiàn)云計算動態(tài)移動數(shù)據(jù)的查詢和簡單去噪處理,采用網(wǎng)閘實時去噪處理方法對云計算動態(tài)移動數(shù)據(jù)進行二次實時去噪處理。實驗結果表明,該系統(tǒng)與Matlab小波去噪系統(tǒng)和FPGA去噪系統(tǒng)相比,最高魯棒性分別提高0.02%和0.08%,最低魯棒性分別提高0.03%和0.05%;相同噪聲數(shù)量下,去噪誤差率最大值優(yōu)于其他兩種方法,分別為0.24%,0.29%;所設計的系統(tǒng)弱化了現(xiàn)有方法的不足,具有去噪精度高、穩(wěn)定性好的優(yōu)勢。
關鍵詞: 云計算; 動態(tài)移動數(shù)據(jù); 去噪處理; C/S模式; 系統(tǒng)設計; 魯棒性
中圖分類號: TN929.5?34; TP314 文獻標識碼: A 文章編號: 1004?373X(2018)22?0017?04
Abstract: The existing system has the problems of single data running and one?time denoising processing during the denoising of virtualized cloud computing dynamic mobile data. Therefore, a new real?time denoising processing system for virtualized cloud computing dynamic mobile data is designed to improve the accuracy of cloud computing results. The design method is mainly divided into two levels. Three functions of system hardware design based on the Hadoop cloud computing platform are described. Combining with the three functions, the C/S mode of the system consisting of the front?end control layer, running layer and user layer is designed to realize parallelization of massive dynamic mobile data. In the system software, five structures of the AFLS, parallel processing middleware, query server, DBMS and OTS are used to realize query and simple denoising processing of cloud computing dynamic mobile data. The GAP real?time denoising processing method is adopted to conduct secondary real?time denoising processing of cloud computing dynamic mobile data. The experimental results show that, the maximum robustness of the designed system is 0.02% and 0.08% higher respectively than that of the Matlab wavelet denoising system and FPGA denoising system, and the minimum robustness of the designed system is 0.03% and 0.05% higher respectively than that of the Matlab wavelet denoising system and FPGA denoising system; under the same quantity of noises, the maximum value of the denoising error rate is 0.24% and 0.29% lower than that of the other two methods; the designed system attenuates the shortcomings of the existing methods and has the advantages of high denoising precision and good stability.
Keywords: cloud computing; dynamic mobile data; denoising processing; C/S mode; system design; robustness
云計算作為一種按量付費使用、計算功能極其強大的新模式,在天氣預測、核爆炸仿真模擬、經(jīng)濟狀況走勢研究方面發(fā)揮了不可替代的作用[1]。對于云計算應用,人們往往關注其總體計算能力,忽略云計算動態(tài)移動數(shù)據(jù)存在噪聲問題,嚴重影響數(shù)據(jù)計算效率與精確度。
文獻[2]分別對離群點噪聲和內(nèi)部高頻噪聲進行處理,能夠方便、快捷地去除不同尺度的噪聲,但沒有考慮數(shù)據(jù)單個體運行問題。文獻[3]給出結構魯棒性檢測樣本,并使用量化方法和結構魯棒性檢測語言對樣本進行分析,沒有考慮噪聲干擾。文獻[4]針對不同特征區(qū)域分別采用鄰域距離平均濾波算法和自適應雙邊濾波算法進行去噪濾波。該方法在區(qū)域數(shù)據(jù)處理時,角度單一。
為避免以上缺陷,提出虛擬化云計算動態(tài)移動數(shù)據(jù)實時去噪處理系統(tǒng)。通過設計硬件系統(tǒng)的C/S模式,實現(xiàn)海量動態(tài)移動數(shù)據(jù)的并行化處理,節(jié)約系統(tǒng)運行時間。對軟件系統(tǒng)動態(tài)移動數(shù)據(jù)進行二次實時去噪處理,增加了該系統(tǒng)去噪精度。仿真實驗結果表明,本文設計系統(tǒng)具有穩(wěn)定性好、效率高、誤差小的優(yōu)勢。
1.1 系統(tǒng)硬件設計
1.1.1 Hadoop云計算平臺
HDFS分布式文件系統(tǒng)與MapReduce編程模型構成了Hadoop云計算平臺,該平臺屬于分布式系統(tǒng)基礎架構的一種[5]。為解決超大文件的處理問題、實現(xiàn)流數(shù)據(jù)訪問模式,HDFS應運而生[6]。HDFS在不同機器與節(jié)點上存儲超大文件的動態(tài)移動數(shù)據(jù),個別動態(tài)移動數(shù)據(jù)一旦遭到破壞HDFS自動識別其備份數(shù)據(jù),實現(xiàn)動態(tài)移動數(shù)據(jù)的穩(wěn)定與安全存儲。MapReduce編程模型以Job的形式開展工作,Job一般采用Map函數(shù)與Reduce函數(shù)來描述。
1.1.2 系統(tǒng)硬件功能設計
Hadoop云計算平臺中的動態(tài)移動數(shù)據(jù)主要來自HBase數(shù)據(jù)庫,該數(shù)據(jù)庫具有實時性、高性能優(yōu)勢[7]。本文系統(tǒng)設計的硬件主要實現(xiàn)以下3項功能:
1) 上傳動態(tài)移動數(shù)據(jù)。傳感器負責數(shù)據(jù)的獲取,傳感器采集節(jié)點以網(wǎng)絡為傳輸介質(zhì),將動態(tài)移動數(shù)據(jù)傳輸?shù)皆朴嬎闫脚_。
2) 存儲動態(tài)移動數(shù)據(jù)。HBase數(shù)據(jù)庫發(fā)揮其保管數(shù)據(jù)的作用,向平臺管理者提供相關研究數(shù)據(jù)。
3) 動態(tài)移動數(shù)據(jù)實時去噪處理。對存在噪聲的動態(tài)移動數(shù)據(jù)進行實時去噪處理,實現(xiàn)云計算平臺中的動態(tài)移動數(shù)據(jù)與噪聲的分離,保證用戶從云計算平臺中獲取可靠的、真實的數(shù)據(jù)信息[8]。該項功能的實現(xiàn)依賴于系統(tǒng)的C/S模式。
1.1.3 系統(tǒng)的C/S模式設計
基于傳統(tǒng)N/S系統(tǒng)模式的局限性,本文設計的動態(tài)移動數(shù)據(jù)實時去噪處理系統(tǒng)選取存在優(yōu)勢的C/S系統(tǒng)模式,具有足夠能力處理本文系統(tǒng)面對的大型動態(tài)移動數(shù)據(jù),另一方面升級和維護系統(tǒng)更加靈活、快捷[9]。3個不同層面共同構成C/S模式部分:
1) 前端控制層。即虛擬化云計算動態(tài)移動數(shù)據(jù)實時去噪處理系統(tǒng)命令控制層。
2) 運行層。計算器功能、數(shù)據(jù)調(diào)控器功能、數(shù)據(jù)庫功能等都位于系統(tǒng)的運行層內(nèi)。
3) 用戶層。識別用戶的身份、向其傳遞信息下達命令等操作都在用戶層完成,主要通過文件驅動器、感知運行器以及CVDO來實現(xiàn)。
1.2 系統(tǒng)軟件設計
1.2.1 系統(tǒng)軟件結構
本文系統(tǒng)的軟件結構如圖1所示,從圖中可以看出,其主要包括AFLS、并行處理中間件、查詢服務器、DBMS、OTS 五大部分。AFLS即應用服務器容錯和負載平衡服務,不同事物處理中間件的聯(lián)系、用戶與并行事物處理中間件的聯(lián)系都是通過AFLS進行構建;OTS即對象事物服務,云計算平臺數(shù)據(jù)庫由不同的DBMS共同組成,而該數(shù)據(jù)庫的事物特性依賴于OTS進行處理;并行處理中間件由數(shù)據(jù)劃分中間件、表加載中間件、查詢分析中間件等構成,云計算平臺中動態(tài)移動數(shù)據(jù)的緩存與批量加載通過表加載中間件實現(xiàn),對于云計算平臺中動態(tài)移動數(shù)據(jù)的查詢與詢問工作由查詢分析中間件完成[10];查詢服務器采用相同的接口處理不同云計算平臺數(shù)據(jù)庫的數(shù)據(jù)查詢,作為云計算平臺中的詢問服務器對帶有噪聲的數(shù)據(jù)進行簡單過濾,為系統(tǒng)進行動態(tài)移動數(shù)據(jù)去噪減輕工作量。
基于系統(tǒng)的軟件構成及功能,對云計算動態(tài)移動數(shù)據(jù)進行實時去噪處理。
1.2.2 網(wǎng)閘實時去噪處理方法
本文系統(tǒng)采用網(wǎng)閘實時去噪方法處理虛擬化云計算動態(tài)移動數(shù)據(jù),對動態(tài)移動數(shù)據(jù)實施去噪處理在優(yōu)化系統(tǒng)計算能力的同時彌補系統(tǒng)中配差計算失衡的缺陷。本文系統(tǒng)實施去噪采用的符號型屬性依據(jù)不同的動態(tài)移動數(shù)據(jù)而定,詳細的符號型屬性選取標準如表1所示。
根據(jù)表1描述的符號型屬性選取標準對云計算中各種類型動態(tài)移動數(shù)據(jù)實施有針對性的實時去噪處理,獲取的去噪結果更加理想。定義本文系統(tǒng)的去噪閾值用[Fu,v]表示;Web網(wǎng)絡中的動態(tài)移動數(shù)據(jù)包含的識別屬性用[fx,y]描述;動態(tài)移動數(shù)據(jù)提取系數(shù)的參照比用[uπ]描述,根據(jù)上述參數(shù)獲取符號型屬性公式。
根據(jù)上述方法對虛擬化云計算中的動態(tài)移動數(shù)據(jù)實施初步歸納,分離不存在噪聲和存在噪聲的動態(tài)移動數(shù)據(jù),獲取初步去噪結果,一方面降低了本文系統(tǒng)去噪的工作難度,另一方面增加了動態(tài)移動數(shù)據(jù)去噪結果的精確度。接著采用條件矩陣對初步去噪結果實施矩陣去噪。采用圖的形式表達動態(tài)移動數(shù)據(jù)的矩陣[Ti,j]、條件矩陣[T′i,j],如圖2、圖3所示。
將實際動態(tài)移動數(shù)據(jù)的矩陣[Ti,j]中不同于條件矩陣[T′i,j]的部分去除,即完成實時去噪處理。
為驗證本文系統(tǒng)對于虛擬化云計算中動態(tài)移動數(shù)據(jù)實時去噪的有效性,采用本文系統(tǒng)在云計算仿真開發(fā)包ClougSim中展開仿真實驗。采用FPGA去噪系統(tǒng)、Matlab小波去噪系統(tǒng)進行對比實驗,根據(jù)實驗環(huán)境與實驗設置,將三種系統(tǒng)獲取的實驗結果制成折線圖。圖4描述了魯棒性測試結果。圖5描述了去噪誤差測試結果。
2.1 系統(tǒng)魯棒性分析
分析圖4能夠看出,隨著實驗次數(shù)的增長,本文系統(tǒng)折線始終位于FPGA去噪系統(tǒng)、Matlab小波去噪系統(tǒng)的上方。本文系統(tǒng)的最高魯棒性為0.45%,最低魯棒性為0.1%;Matlab小波去噪系統(tǒng)最高魯棒性為0.43%,最低魯棒性為0.07%;FPGA去噪系統(tǒng)的最高魯棒性為0.37%,最低魯棒性為0.05%。說明本文系統(tǒng)的魯棒性高于其他兩種系統(tǒng),而魯棒性是描述系統(tǒng)穩(wěn)定性的重要參數(shù)。實驗結果表明,本文系統(tǒng)具有實時去噪、穩(wěn)定性優(yōu)勢。
2.2 系統(tǒng)去噪誤差率分析
分析圖5能夠看出,隨著噪聲數(shù)量的增長,本文系統(tǒng)的去噪誤差率增長緩慢。總的增長趨勢可以分為兩個階段:在噪聲數(shù)量為100~270條時的前階段,誤差率上升的較快達到0.29%;在噪聲數(shù)量為270~400條時的后階段,誤差率上升趨勢大幅減緩,最終的去噪誤差率最大值僅為0.31%,后階段的去噪誤差率僅增長了0.02%。Matlab小波去噪系統(tǒng)的去噪誤差率走勢直線上升,在噪聲數(shù)量為400條時,其最高誤差率為0.55%。FPGA去噪系統(tǒng)的去噪誤差率增長趨勢可分為三個階段,其中在165~200條階段去噪誤差率上漲趨勢較陡,說明其增長速度快;在噪聲數(shù)量為200~300條的第三階段,去噪誤差率漲勢稍遜第二階段,但仍快速增長達到最高值0.6%。對比三種系統(tǒng)測試結果可知,本文系統(tǒng)的去噪誤差率極小,具有去噪精確度高的優(yōu)勢。
本文設計的虛擬化云計算動態(tài)移動數(shù)據(jù)去噪系統(tǒng),從硬件設計、軟件設計兩部分描述其去噪過程。實驗結果表明,所設計系統(tǒng)具有穩(wěn)定性好、效率高、誤差率小的優(yōu)勢。同時本文系統(tǒng)為云計算數(shù)據(jù)的噪聲去除提供了有效手段,具有實際應用價值。
參考文獻
[1] 王斌鋒,蘇金樹,陳琳.云計算數(shù)據(jù)中心網(wǎng)絡設計綜述[J].計算機研究與發(fā)展,2016,53(9):2085?2106.
WANG Binfeng, SU Jinshu, CHEN Lin. Review of the design of data center network for cloud computing [J]. Journal of computer research and development, 2016, 53(9): 2085?2106.
[2] 林靜懷.基于云計算的電網(wǎng)調(diào)度控制培訓仿真系統(tǒng)設計[J].電力系統(tǒng)自動化,2017,41(14):164?170.
LIN Jinghuai. Cloud computing based system design for power grid dispatching and control training simulation [J]. Automation of electric power systems, 2017, 41(14): 164?170.
[3] 張千,陳朝根,梁鴻.基于虛擬化技術的私有云計算平臺設計[J].計算機應用,2015,35(11):3063?3069.
ZHANG Qian, CHEN Chaogen, LIANG Hong. Private cloud platform design based on virtualization technology [J]. Journal of computer applications, 2015, 35(11): 3063?3069.
[4] 閆淑梅.基于云計算的煤炭企業(yè)數(shù)據(jù)中心桌面?zhèn)浞菹到y(tǒng)的設計與實現(xiàn)[J].煤炭技術,2014,33(2):126?128.
YAN Shumei. Design and implementation of coal enterprise data centers desktop backup system based on cloud computing [J]. Coal technology, 2014, 33(2): 126?128.
[5] 王笑帝,張云勇,劉鏑,等.云計算虛擬化安全技術研究[J].電信科學,2015,31(6):8?12.
WANG Xiaodi, ZHANG Yunyong, LIU Di, et al. Research on security of virtualization on cloud computing [J]. Telecommunications science, 2015, 31(6): 8?12.
[6] 俞華鋒.基于云計算的三維虛擬學習環(huán)境的設計與應用[J].計算機仿真,2010,27(9):315?318.
YU Huafeng. Design and application of virtual 3D study environment based on cloud computing [J]. Computer simulation, 2010, 27(9): 315?318.
[7] 張京妹,李英俊,蘇廣文,等.嵌入式云計算系統(tǒng)的資源實時共享方法研究[J].西北工業(yè)大學學報,2016,34(3):393?398.
ZHANG Jingmei, LI Yingjun, SU Guangwen, et al. The research on resource real?time sharing in the embedded cloud computing system [J]. Journal of Northwestern Polytechnical University, 2016, 34(3): 393?398.
[8] 何恒靖,趙偉,黃松嶺.云計算環(huán)境下儀器虛擬化研究[J].電測與儀表,2014,51(16):11?16.
HE Hengjing, ZHAO Wei, HUANG Songling. Research on the instrumentation virtualization in cloud computing environment [J]. Electrical measurement & instrumentation, 2014, 51(16): 11?16.
[9] 武志學.云計算虛擬化技術的發(fā)展與趨勢[J].計算機應用,2017,37(4):915?923.
WU Zhixue. Advances on virtualization technology of cloud computing [J]. Journal of computer applications, 2017, 37(4): 915?923.
[10] 郭欣.基于云計算的Moodle虛擬化集群研究[J].控制工程,2015,22(6):1175?1180.
GUO Xin. A study on Moodle virtual cluster based on cloud computing [J]. Control engineering of China, 2015, 22(6): 1175?1180.