国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

云計(jì)算環(huán)境下大規(guī)模圖數(shù)據(jù)處理技術(shù)的相關(guān)思考

2022-11-25 17:40:56
科技創(chuàng)新與應(yīng)用 2022年11期
關(guān)鍵詞:計(jì)算環(huán)境子圖數(shù)據(jù)處理

劉 磊

(連云港市人力資源和社會(huì)保障局,江蘇 連云港 222006)

圖數(shù)據(jù)是計(jì)算機(jī)科學(xué)中最為常見(jiàn)的一種抽象數(shù)據(jù)類(lèi)型,內(nèi)容復(fù)雜,表述能力強(qiáng),而且需要處理的元素多,難度高。尤其是在現(xiàn)如今的大數(shù)據(jù)時(shí)代,各種圖數(shù)據(jù)層出不窮,其中包含眾多無(wú)效數(shù)據(jù),形成了大規(guī)模的圖數(shù)據(jù)資源。為了高效、準(zhǔn)確地進(jìn)行圖數(shù)據(jù)處理,必須對(duì)圖數(shù)據(jù)處理技術(shù)進(jìn)行創(chuàng)新與優(yōu)化。云計(jì)算環(huán)境下,給圖數(shù)據(jù)處理技術(shù)的應(yīng)用提供了更多的便利條件,同時(shí)帶來(lái)了技術(shù)的優(yōu)化,很大程度上提高了處理技術(shù)應(yīng)用有效性,在大規(guī)模圖數(shù)據(jù)處理中發(fā)揮出更好的作用。

1 云計(jì)算及圖數(shù)據(jù)

“云計(jì)算”又稱(chēng)“網(wǎng)格計(jì)算”,是對(duì)復(fù)雜計(jì)算過(guò)程進(jìn)行分布式分解,解決任務(wù)分發(fā),再將計(jì)算結(jié)果進(jìn)行合并,得到最終的計(jì)算結(jié)果。云計(jì)算與傳統(tǒng)的網(wǎng)絡(luò)應(yīng)用模式進(jìn)行比較,應(yīng)用優(yōu)勢(shì)包括虛擬化技術(shù)、動(dòng)態(tài)可擴(kuò)展、靈活性高、可靠性高、按需部署、可擴(kuò)展性及性價(jià)比高等優(yōu)勢(shì)與特點(diǎn)[1]。云計(jì)算可以提供基礎(chǔ)設(shè)施即服務(wù)、平臺(tái)即服務(wù)以及軟件即服務(wù)三類(lèi)服務(wù)類(lèi)型,通過(guò)體系結(jié)構(gòu)、資源監(jiān)控、自動(dòng)化部署等關(guān)鍵技術(shù)實(shí)現(xiàn)計(jì)算過(guò)程。云計(jì)算的框架以及應(yīng)用過(guò)程需要依托先進(jìn)互聯(lián)網(wǎng)技術(shù),形式眾多,主要包括網(wǎng)絡(luò)服務(wù)、平臺(tái)服務(wù)、互聯(lián)網(wǎng)整合、商業(yè)服務(wù)以及管理服務(wù)提供商等。

“圖數(shù)據(jù)”一般代表的是圖形數(shù)據(jù),包括圖元、圖段,其中圖元包括點(diǎn)、線、面、字符、符號(hào)等,圖段由多個(gè)圖元構(gòu)成,例如房屋門(mén)、窗等。隨著互聯(lián)網(wǎng)的快速發(fā)展,圖數(shù)據(jù)規(guī)模越來(lái)越大,圖數(shù)據(jù)處理的難度也隨之升高,對(duì)圖數(shù)據(jù)處理技術(shù)應(yīng)用效率與質(zhì)量均提出新的要求,以此推動(dòng)圖數(shù)據(jù)處理技術(shù)的優(yōu)化。在云計(jì)算環(huán)境下,為大規(guī)模圖數(shù)據(jù)處理技術(shù)帶來(lái)了技術(shù)應(yīng)用優(yōu)勢(shì),使其可以提高處理效率,對(duì)于大規(guī)模圖數(shù)據(jù)處理有重要意義。

2 云計(jì)算環(huán)境下大規(guī)模圖數(shù)據(jù)技術(shù)優(yōu)勢(shì)

2.1 大規(guī)模圖數(shù)據(jù)存儲(chǔ)、維護(hù)

大規(guī)模圖數(shù)據(jù)對(duì)存儲(chǔ)空間的要求非常多,其中最重要的一點(diǎn)就是需要一個(gè)很大的存儲(chǔ)空間,達(dá)到GB級(jí)別,甚至PB級(jí)別,數(shù)據(jù)量非常大。較大的數(shù)據(jù)占用空間,就給大規(guī)模圖數(shù)據(jù)處理造成了困難,因?yàn)橄胍幚泶笠?guī)模的圖數(shù)據(jù),首先要有足夠大的空間進(jìn)行數(shù)據(jù)存儲(chǔ),然后才能對(duì)可查找和調(diào)用的圖數(shù)據(jù)進(jìn)行處理,獲得其中有效的信息,將無(wú)效圖數(shù)據(jù)刪除等[2]。大規(guī)模圖數(shù)據(jù)所需要的存儲(chǔ)空間是傳統(tǒng)文件的數(shù)倍、幾十倍乃至上百倍,對(duì)數(shù)據(jù)庫(kù)內(nèi)存的要求遠(yuǎn)遠(yuǎn)大于傳統(tǒng)文件,使得大規(guī)模圖數(shù)據(jù)在傳統(tǒng)文件數(shù)據(jù)庫(kù)中無(wú)法被直接運(yùn)用。云計(jì)算環(huán)境下,大規(guī)模圖數(shù)據(jù)技術(shù)的應(yīng)用,可以利用云計(jì)算的分布式存儲(chǔ)形式,將大規(guī)模的圖數(shù)據(jù)存儲(chǔ)起來(lái),根據(jù)圖數(shù)據(jù)處理的實(shí)際情況,將目前需要使用的圖數(shù)據(jù)集中起來(lái)并進(jìn)行統(tǒng)一存儲(chǔ),對(duì)暫時(shí)不需要的圖數(shù)據(jù)可以進(jìn)行額外存儲(chǔ),從而使得對(duì)大規(guī)模圖數(shù)據(jù)進(jìn)行存儲(chǔ)的時(shí)候不需要很大的內(nèi)存空間,即可實(shí)現(xiàn)圖數(shù)據(jù)使用和處理。另外,在云技術(shù)環(huán)境下對(duì)大規(guī)模圖數(shù)據(jù)進(jìn)行處理的時(shí)候,進(jìn)行圖數(shù)據(jù)維護(hù)過(guò)程中可以實(shí)現(xiàn)一致性與統(tǒng)一性,對(duì)大規(guī)模圖數(shù)據(jù)統(tǒng)一備份并保存在云端,避免電腦系統(tǒng)故障造成圖數(shù)據(jù)丟失、損壞,保證了圖數(shù)據(jù)的安全性。

2.2 大規(guī)模圖數(shù)據(jù)處理耦合性

大規(guī)模圖數(shù)據(jù)之間存在著大量互相關(guān)聯(lián)的內(nèi)部信息,且圖數(shù)據(jù)的計(jì)算也存在相互關(guān)聯(lián)關(guān)系。而利用傳統(tǒng)的圖數(shù)據(jù)處理技術(shù)進(jìn)行大規(guī)模圖數(shù)據(jù)計(jì)算時(shí),只能進(jìn)行低運(yùn)算狀態(tài),對(duì)于圖數(shù)據(jù)內(nèi)存訪問(wèn)表現(xiàn)比較低級(jí),使得大規(guī)模圖數(shù)據(jù)處理具有一定局限性。云計(jì)算環(huán)境下,大規(guī)模圖數(shù)據(jù)處理技術(shù)應(yīng)運(yùn)而生,將大規(guī)模圖數(shù)據(jù)的計(jì)算準(zhǔn)確性有效提升,同時(shí)也獲得更高的可行性[3]。云計(jì)算環(huán)境下大規(guī)模圖數(shù)據(jù)處理技術(shù)實(shí)際運(yùn)用時(shí),可以準(zhǔn)確計(jì)算任何一個(gè)頂點(diǎn)之間的圖數(shù)據(jù),并通過(guò)分割圖數(shù)據(jù)將其轉(zhuǎn)變?yōu)橥耆?dú)立的子圖數(shù)據(jù),再進(jìn)行處理分析,提高了圖數(shù)據(jù)處理效率。在對(duì)大規(guī)模圖數(shù)據(jù)進(jìn)行處理時(shí),可以通過(guò)云計(jì)算圖數(shù)據(jù)處理模式來(lái)實(shí)現(xiàn),在分割大規(guī)模圖數(shù)據(jù)時(shí)將子圖數(shù)據(jù)之間的耦合性盡量降低。同時(shí)可以在處理大規(guī)模圖數(shù)據(jù)時(shí)將任務(wù)調(diào)度開(kāi)銷(xiāo)減少,利用圖數(shù)據(jù)處理模式減少因?yàn)榈^(guò)程中對(duì)任務(wù)的反復(fù)啟動(dòng)而出現(xiàn)的開(kāi)銷(xiāo)。云計(jì)算環(huán)境下大規(guī)模圖數(shù)據(jù)處理技術(shù)的應(yīng)用,實(shí)現(xiàn)了對(duì)圖數(shù)據(jù)的單項(xiàng)信息逐條處理與計(jì)算,再通過(guò)分割圖數(shù)據(jù),獲得子圖數(shù)據(jù)進(jìn)行有效信息提取和處理,提高圖數(shù)據(jù)處理效率,節(jié)省處理時(shí)間,獲得更高的效益。

2.3 大規(guī)模圖數(shù)據(jù)處理可靠性

大規(guī)模圖數(shù)據(jù)處理技術(shù)在應(yīng)用的過(guò)程中,技術(shù)人員需要花費(fèi)很長(zhǎng)時(shí)間去處理圖數(shù)據(jù)的計(jì)算任務(wù),導(dǎo)致圖數(shù)據(jù)處理效率低下,并降低了云計(jì)算節(jié)點(diǎn)對(duì)大規(guī)模圖數(shù)據(jù)處理的可靠性[4]。以處理PageRsnK的過(guò)程為例,在進(jìn)行圖數(shù)據(jù)計(jì)算時(shí)一般需要迭代處理工序30次左右,計(jì)算期間資源消耗以及時(shí)間消耗都非常大。在云計(jì)算環(huán)境下,可以借助云計(jì)算的技術(shù)應(yīng)用優(yōu)勢(shì)以及計(jì)算框架、模式,對(duì)圖數(shù)據(jù)計(jì)算過(guò)程中遇到的各種問(wèn)題進(jìn)行全面解決,創(chuàng)新圖數(shù)據(jù)處理技術(shù)應(yīng)用方案,提高處理效率。普通計(jì)算機(jī)可以組成云計(jì)算節(jié)點(diǎn),在對(duì)大規(guī)模圖數(shù)據(jù)進(jìn)行計(jì)算和處理期間,如果個(gè)別計(jì)算機(jī)出現(xiàn)運(yùn)行故障,就會(huì)形成節(jié)點(diǎn)故障、癱瘓,對(duì)云節(jié)點(diǎn)使用的可靠性造成嚴(yán)重影響。云計(jì)算環(huán)境下大規(guī)模圖數(shù)據(jù)處理技術(shù)的優(yōu)化與應(yīng)用,在遇到云計(jì)算節(jié)點(diǎn)中斷時(shí),可以從斷點(diǎn)處或者其他合適位置對(duì)圖數(shù)據(jù)的計(jì)算處理繼續(xù)執(zhí)行,解決了云計(jì)算節(jié)點(diǎn)發(fā)生故障后圖數(shù)據(jù)處理中斷的問(wèn)題[5]。同時(shí),以往圖數(shù)據(jù)處理過(guò)錯(cuò)中容易在計(jì)算任務(wù)間出現(xiàn)強(qiáng)耦合性干擾,子圖數(shù)據(jù)計(jì)算任務(wù)失敗會(huì)直接關(guān)聯(lián)其他正在運(yùn)行的任務(wù)。云計(jì)算大規(guī)模圖數(shù)據(jù)處理技術(shù)的應(yīng)用實(shí)踐,則可通過(guò)容錯(cuò)管理機(jī)制的設(shè)定,將子圖數(shù)據(jù)之間的強(qiáng)耦合性問(wèn)題減少,使得云計(jì)算節(jié)點(diǎn)可靠性提升。

2.4 圖數(shù)據(jù)處理靈活性高

在云計(jì)算環(huán)境下,對(duì)大規(guī)模圖數(shù)據(jù)進(jìn)行處理的過(guò)程中,利用云計(jì)算的技術(shù)原理以及技術(shù)優(yōu)勢(shì),在實(shí)現(xiàn)對(duì)圖數(shù)據(jù)快速存儲(chǔ)的基礎(chǔ)上,還可以對(duì)圖數(shù)據(jù)進(jìn)行快速處理,在獲取圖數(shù)據(jù)的同時(shí),在短時(shí)間內(nèi)從大規(guī)模圖數(shù)據(jù)中獲得有效的數(shù)據(jù)信息,提取關(guān)鍵信息。另外,在云計(jì)算技術(shù)支撐下,大規(guī)模圖數(shù)據(jù)的處理靈活性得到提高,針對(duì)不同的大規(guī)模圖數(shù)據(jù)可以采取與之相對(duì)應(yīng)的處理方式,數(shù)據(jù)量彈性提高,在普通計(jì)算機(jī)的使用下即可完成復(fù)雜、大量的圖數(shù)據(jù)處理。與此同時(shí),對(duì)大規(guī)模圖數(shù)據(jù)進(jìn)行處理時(shí),還可以根據(jù)實(shí)際需求對(duì)圖數(shù)據(jù)規(guī)范進(jìn)行擴(kuò)大,擴(kuò)展數(shù)據(jù)存儲(chǔ)能力,使得計(jì)算機(jī)在處理大規(guī)模圖數(shù)據(jù)過(guò)程中的消耗降低。

2.5 提升圖數(shù)據(jù)處理能力

云計(jì)算環(huán)境下進(jìn)行大規(guī)模圖數(shù)據(jù)的處理,可以實(shí)現(xiàn)圖數(shù)據(jù)的平行處理,借助圖數(shù)據(jù)分割模式對(duì)大規(guī)模圖數(shù)據(jù)進(jìn)行簡(jiǎn)化處理,將較大的圖數(shù)據(jù)根據(jù)一定規(guī)則分割為若干個(gè)較小的圖數(shù)據(jù),一方面可以方便云空間、計(jì)算機(jī)內(nèi)存對(duì)圖數(shù)據(jù)的存儲(chǔ),一方面降低了圖數(shù)據(jù)處理過(guò)程中的計(jì)算難度,提升了計(jì)算機(jī)對(duì)圖數(shù)據(jù)的處理能力,提高了處理效率,并且為更大規(guī)模的圖數(shù)據(jù)處理提供了便捷條件。

3 云計(jì)算環(huán)境下大規(guī)模圖數(shù)據(jù)處理技術(shù)應(yīng)用

3.1 大規(guī)模圖數(shù)據(jù)存儲(chǔ)技術(shù)應(yīng)用

云計(jì)算環(huán)境下大規(guī)模圖數(shù)據(jù)處理技術(shù)應(yīng)用獲得良好發(fā)展,其中大規(guī)模圖數(shù)據(jù)存儲(chǔ)技術(shù)應(yīng)用解決了大規(guī)模圖數(shù)據(jù)傳統(tǒng)管理模式下存儲(chǔ)空間不足問(wèn)題,并且可以獲得更加安全的存儲(chǔ)效果。大規(guī)模數(shù)據(jù)包括單圖數(shù)據(jù)、超圖數(shù)據(jù)2種模型,在對(duì)圖數(shù)據(jù)進(jìn)行處理的過(guò)程中,可以通過(guò)有向圖方式,或者無(wú)向圖方式進(jìn)行處理應(yīng)用。云計(jì)算環(huán)境下大規(guī)模圖數(shù)據(jù)存儲(chǔ)技術(shù)可以將圖數(shù)據(jù)以分布式文件、分布式數(shù)據(jù)庫(kù)2種形式對(duì)大規(guī)模圖數(shù)據(jù)進(jìn)行存儲(chǔ)[6]。GFS以及HDFS是分布式文件系統(tǒng)的主要代表形式,可以將鄰接表、矩陣等不同結(jié)構(gòu)的圖數(shù)據(jù)進(jìn)行直接存儲(chǔ)。Big、Hbase是分布式數(shù)據(jù)庫(kù)存儲(chǔ)形式的代表,可以通過(guò)數(shù)據(jù)庫(kù)模型將大規(guī)模圖數(shù)據(jù)分為文檔存儲(chǔ)和KV存數(shù)模型等。文檔存儲(chǔ)具有較強(qiáng)的靈活性,以及較高的便捷度,在非結(jié)構(gòu)化圖數(shù)據(jù)存儲(chǔ)中比較適用。文本中涉及的大規(guī)模圖數(shù)據(jù)存儲(chǔ)則適用于KV存儲(chǔ)模型,主要特點(diǎn)是模式簡(jiǎn)單,可以進(jìn)行海量存儲(chǔ)。以鄰接表形式圖數(shù)據(jù)的存儲(chǔ)為例,通過(guò)KV存儲(chǔ)模型對(duì)其存儲(chǔ)時(shí),可以將圖數(shù)據(jù)源頂點(diǎn)設(shè)置為Key,將點(diǎn)的值與出邊信息以Value為設(shè)定,使得圖數(shù)據(jù)的合并處理、遷移處理都更加容易,對(duì)原有空間局部性進(jìn)行提升,并使得圖數(shù)據(jù)讀取和查詢期間的次數(shù)減少,提高圖數(shù)據(jù)整體處理效率。

3.2 大規(guī)模圖數(shù)據(jù)計(jì)算技術(shù)應(yīng)用

云計(jì)算環(huán)境下大規(guī)模圖數(shù)據(jù)處理技術(shù)應(yīng)用中,計(jì)算技術(shù)應(yīng)用最為廣泛,可以利用的云計(jì)算包括Map Reduce模型、BSP模型2種類(lèi)別,使得大規(guī)模圖數(shù)據(jù)計(jì)算效率與質(zhì)量顯著提升[7]。第一,在對(duì)大規(guī)模圖數(shù)據(jù)進(jìn)行計(jì)算時(shí),應(yīng)用Map Reduce模型,可以將計(jì)算過(guò)程劃分為Map與Reduce兩個(gè)獨(dú)立任務(wù)實(shí)現(xiàn),對(duì)大規(guī)模圖數(shù)據(jù)的計(jì)算處理也被劃分為2個(gè)階段。其中Map計(jì)算階段可以將任務(wù)分配的數(shù)據(jù)進(jìn)行逐一計(jì)算,并將key值輸出。key值得到確認(rèn)后會(huì)在相對(duì)應(yīng)的Reduce任務(wù)中進(jìn)行數(shù)據(jù)映射。Reduce階段則會(huì)在任務(wù)階段接收到由Map傳遞的數(shù)據(jù)處理請(qǐng)求,并對(duì)圖數(shù)據(jù)進(jìn)行聚集,從中得到輸出結(jié)果,并在分布式文件系統(tǒng)中存儲(chǔ)。應(yīng)用BSP模型進(jìn)行大規(guī)模圖數(shù)據(jù)計(jì)算時(shí),可以避免死鎖、圖數(shù)據(jù)競(jìng)爭(zhēng)問(wèn)題,是一種以消息通信為基礎(chǔ)的數(shù)據(jù)計(jì)算、執(zhí)行模式。云計(jì)算環(huán)境下大規(guī)模圖數(shù)據(jù)計(jì)算的主要技術(shù)應(yīng)用就是Map Reduce模型、BSP模型,適用范圍稍有不同。兩種模式之間存在互補(bǔ)關(guān)系,在迭代處理的執(zhí)行效率上BSP模式的優(yōu)勢(shì)更大。

3.3 大規(guī)模圖數(shù)據(jù)分割技術(shù)應(yīng)用

云計(jì)算環(huán)境下大規(guī)模圖數(shù)據(jù)處理一般需要進(jìn)行圖數(shù)據(jù)分割,以此實(shí)現(xiàn)圖數(shù)據(jù)的分布式存儲(chǔ)并行計(jì)算。大規(guī)模圖數(shù)據(jù)的分割及處理都需要借助云計(jì)算分布式模式,并且利用圖數(shù)據(jù)之間的連通性,降低子圖之間的耦合性,以此提高圖數(shù)據(jù)處理效率。子圖數(shù)據(jù)的耦合性降低主要通過(guò)分割技術(shù)實(shí)現(xiàn),首先需要在大規(guī)模圖數(shù)據(jù)基礎(chǔ)上,對(duì)其進(jìn)行有邏輯、結(jié)構(gòu)完整的大圖分割,并將分割后的圖數(shù)據(jù)在云計(jì)算分布式存儲(chǔ)系統(tǒng)中的各個(gè)節(jié)點(diǎn)進(jìn)行分別放置[8]。其次,啟動(dòng)與所有子圖數(shù)據(jù)對(duì)應(yīng)的分布式計(jì)算任務(wù),完成大規(guī)模圖數(shù)據(jù)的分布式計(jì)算。在獲得處理結(jié)果并完成輸出以后,大圖數(shù)據(jù)的處理已經(jīng)完成。在對(duì)大規(guī)模圖數(shù)據(jù)進(jìn)行處理的過(guò)程中,圖數(shù)據(jù)分割是一個(gè)重要環(huán)節(jié),分割效果理想,是保證大規(guī)模圖數(shù)據(jù)處理成功的前提保障與關(guān)鍵所在。因此在對(duì)大規(guī)模圖數(shù)據(jù)進(jìn)行分割處理時(shí),需要對(duì)圖數(shù)據(jù)內(nèi)部的連通性以及子圖之間的規(guī)模均衡情況進(jìn)行全面考慮。一方面需要減少子圖之間的連通性,使得云計(jì)算分布式并行處理的應(yīng)用得到提升;一方面還需要確保子圖規(guī)模均衡,減少因?yàn)槠倍绊憟D數(shù)據(jù)計(jì)算任務(wù)的同步性,降低處理效率與質(zhì)量。

3.4 大規(guī)模圖數(shù)據(jù)查詢技術(shù)應(yīng)用

云計(jì)算環(huán)境下,對(duì)大規(guī)模圖數(shù)據(jù)進(jìn)行查詢的過(guò)程中,需要使用到的模式主要包括遍歷模式,其又分為主動(dòng)遍歷模式與被動(dòng)遍歷模式。與傳統(tǒng)的大規(guī)模圖數(shù)據(jù)查詢技術(shù)部相比,圖數(shù)據(jù)遍歷查詢技術(shù)的應(yīng)用普遍適用性更強(qiáng),且可以不對(duì)處理函數(shù)進(jìn)行調(diào)用就實(shí)現(xiàn)大規(guī)模圖數(shù)據(jù)的查詢[9]。從本質(zhì)上看,云計(jì)算環(huán)境下大規(guī)模圖數(shù)據(jù)的查詢技術(shù)應(yīng)用,無(wú)論是主動(dòng)遍歷模式與被動(dòng)遍歷模式,其針對(duì)的圖數(shù)據(jù)查詢對(duì)象都是圖頂點(diǎn),也就是將圖頂點(diǎn)設(shè)定為圖數(shù)據(jù)處理的核心。分開(kāi)來(lái)看,對(duì)大規(guī)模圖數(shù)據(jù)使用主動(dòng)遍歷模式進(jìn)行查詢處理的過(guò)程中,主要優(yōu)勢(shì)是對(duì)絕大多數(shù)圖數(shù)據(jù)均適用,適用范圍廣,適用性強(qiáng)。但是主動(dòng)遍歷圖數(shù)據(jù)查詢模式在實(shí)際應(yīng)用時(shí),在一些特定應(yīng)用環(huán)節(jié)中,可能出現(xiàn)資源浪費(fèi)問(wèn)題。而對(duì)大規(guī)模圖數(shù)據(jù)進(jìn)行查詢處理時(shí),應(yīng)用被動(dòng)遍歷模式主要優(yōu)勢(shì)在于不需要對(duì)處理函數(shù)進(jìn)行調(diào)用,可以將圖頂點(diǎn)調(diào)用處理過(guò)程中不必要的開(kāi)銷(xiāo)去除,節(jié)省自愿。主動(dòng)遍歷查詢模式與被動(dòng)遍歷查詢模式在功能上相輔相成,并且形成了模式互補(bǔ),可以根據(jù)大規(guī)模圖數(shù)據(jù)查詢的具體需求進(jìn)行合理選擇,提高查詢效率的同時(shí),盡可能減少圖數(shù)據(jù)查詢過(guò)程中的開(kāi)銷(xiāo)。

3.5 大規(guī)模圖數(shù)據(jù)處理平臺(tái)

在云計(jì)算環(huán)境下,對(duì)大規(guī)模圖數(shù)據(jù)進(jìn)行處理的過(guò)程中可以借助虛擬化技術(shù)為大規(guī)模圖數(shù)據(jù)處理創(chuàng)造一個(gè)規(guī)模龐大、消耗低的處理平臺(tái),即將大規(guī)模圖數(shù)據(jù)的存儲(chǔ)、計(jì)算、應(yīng)用、網(wǎng)絡(luò)等資源變?yōu)樘摂M化實(shí)體,將抽象閑散的數(shù)據(jù)處理資源轉(zhuǎn)變?yōu)橥耆?dú)立的個(gè)體進(jìn)行應(yīng)用。首先可以對(duì)圖數(shù)據(jù)進(jìn)行參數(shù)化配置,定制相應(yīng)的處理平臺(tái)。然后對(duì)數(shù)據(jù)處理后的存儲(chǔ)與計(jì)算自愿進(jìn)行配置,將計(jì)算流程與資源配置文件寫(xiě)入,分配計(jì)算流程。最后將部署的工具借助網(wǎng)絡(luò)接入計(jì)算節(jié)點(diǎn),進(jìn)入計(jì)算流程,對(duì)大規(guī)模圖數(shù)據(jù)進(jìn)行相應(yīng)的處理。在大規(guī)模圖數(shù)據(jù)處理平臺(tái)上,存儲(chǔ)資源與計(jì)算資源的分配與執(zhí)行均通過(guò)代碼實(shí)現(xiàn),啟動(dòng)相關(guān)的部署計(jì)算節(jié)點(diǎn)后,通過(guò)網(wǎng)絡(luò)向不同的計(jì)算節(jié)點(diǎn)發(fā)送圖數(shù)據(jù)處理指令,以此實(shí)現(xiàn)對(duì)圖數(shù)據(jù)處理的工作調(diào)度以及流程進(jìn)展,為大規(guī)模圖數(shù)據(jù)處理提供了一個(gè)可執(zhí)行、簡(jiǎn)單、消耗小的處理平臺(tái)。

4 結(jié)束語(yǔ)

總而言之,云計(jì)算環(huán)境下大規(guī)模圖數(shù)據(jù)處理技術(shù)得到有效優(yōu)化與創(chuàng)新,在圖數(shù)據(jù)存儲(chǔ)與維護(hù)、圖數(shù)據(jù)耦合性降低以及圖數(shù)據(jù)處理可靠性方面有明顯優(yōu)勢(shì)。同時(shí),云計(jì)算背景下大規(guī)模圖數(shù)據(jù)處理技術(shù)的應(yīng)用,在圖數(shù)據(jù)存儲(chǔ)、圖數(shù)據(jù)計(jì)算、圖數(shù)據(jù)分割、圖數(shù)據(jù)查詢4個(gè)方面的廣泛應(yīng)用,提高了圖數(shù)據(jù)處理效率,并降低了處理開(kāi)銷(xiāo),在很大程度上提高了大規(guī)模圖數(shù)據(jù)處理的技術(shù)水平與應(yīng)用效果,推動(dòng)圖數(shù)據(jù)處理技術(shù)的持續(xù)發(fā)展與進(jìn)步。

猜你喜歡
計(jì)算環(huán)境子圖數(shù)據(jù)處理
云計(jì)算環(huán)境下網(wǎng)絡(luò)安全等級(jí)保護(hù)的實(shí)現(xiàn)途徑
認(rèn)知診斷缺失數(shù)據(jù)處理方法的比較:零替換、多重插補(bǔ)與極大似然估計(jì)法*
ILWT-EEMD數(shù)據(jù)處理的ELM滾動(dòng)軸承故障診斷
臨界完全圖Ramsey數(shù)
大數(shù)據(jù)云計(jì)算環(huán)境下的數(shù)據(jù)安全
電子制作(2017年20期)2017-04-26 06:57:48
基于頻繁子圖挖掘的數(shù)據(jù)服務(wù)Mashup推薦
云計(jì)算環(huán)境中任務(wù)調(diào)度策略
基于希爾伯特- 黃變換的去噪法在外測(cè)數(shù)據(jù)處理中的應(yīng)用
不含2K1+K2和C4作為導(dǎo)出子圖的圖的色數(shù)
基于云計(jì)算環(huán)境下的分布存儲(chǔ)關(guān)鍵技術(shù)探討
河南科技(2014年11期)2014-02-27 14:16:47
青岛市| 黔西县| 尤溪县| 宣恩县| 平远县| 靖江市| 金溪县| 德安县| 孝感市| 嘉峪关市| 循化| 仙游县| 涡阳县| 安达市| 深水埗区| 峨眉山市| 漳浦县| 大埔区| 衡山县| 青海省| 宁化县| 航空| 伽师县| 菏泽市| 淮阳县| 阿坝县| 湾仔区| 黔东| 土默特左旗| 西林县| 和硕县| 和顺县| 静乐县| 天津市| 巫山县| 武乡县| 湟源县| 安远县| 都匀市| 怀集县| 民勤县|