解建倉,李建勛
(西安理工大學,陜西 西安 710048)
隨著水利信息化的不斷深入,信息對解決水問題的支持力度越來越大,依托網(wǎng)絡來進行決策、建立網(wǎng)格來進行資源整合、以及提供應用服務模式,已成為新的研究和應用熱點。水利網(wǎng)格也成為了水利信息化的基礎。
美國阿崗(Argonne)國家實驗室 Ian Foster 在《網(wǎng)格:21 世紀信息技術基礎設施的藍圖》一書中指出:網(wǎng)格是構筑在互聯(lián)網(wǎng)上的一組新興技術,它將高速互聯(lián)網(wǎng)、高性能計算機、大型數(shù)據(jù)庫、傳感器、遠程設備等融為一體,為科技人員和普通老百姓提供更多的資源、功能和交互性?;ヂ?lián)網(wǎng)主要為人們提供電子郵件、網(wǎng)頁瀏覽等通信功能,而網(wǎng)格功能則更多更強,讓人們透明地使用計算、存儲等其他資源。又在《網(wǎng)格的剖析》中把網(wǎng)格進一步描述為:在動態(tài)變化的多個虛擬機構間共享資源和協(xié)同解決問題。2002 年 7 月,Ian Foster 提出網(wǎng)格必須同時滿足 3 個條件:(1)在非集中控制的環(huán)境中協(xié)同使用資源;(2)使用標準的、開放的和通用的協(xié)議和接口;(3)提供非平凡的服務。隨著近幾年的發(fā)展,嚴格意義上的網(wǎng)格像Globus已得到了廣義化,巨大全球網(wǎng)格 GGG(Great Global Grid)不僅包括計算網(wǎng)格、數(shù)據(jù)網(wǎng)格、信息網(wǎng)格、知識網(wǎng)格、商業(yè)網(wǎng)格,還包括一些已有的網(wǎng)絡計算模式,例如對等計算 P2P(Peer to Peer)[1]、寄生計算[2]等。
不管是狹義還是廣義的網(wǎng)格,其目的就是要利用互聯(lián)網(wǎng)把分散在不同地理位置的電腦組織成一臺“虛擬的超級計算機”,實現(xiàn)計算資源、存儲資源、數(shù)據(jù)資源、信息資源、軟件資源、通信資源、知識資源、專家資源等的全面共享。傳統(tǒng)互聯(lián)網(wǎng)實現(xiàn)了計算機硬件的連通,Web 實現(xiàn)了網(wǎng)頁的連通,而網(wǎng)格試圖實現(xiàn)互聯(lián)網(wǎng)上所有資源的全面連通。清華大學李三立院士認為信息高速公路是信息傳輸和獲取的信息基礎設施、而先進計算基礎設施則是信息處理的信息基礎設施。中科院計算所李國杰院士認為網(wǎng)格可以稱作是第 3 代 Internet,整個網(wǎng)絡如同一臺巨大無比的計算機,向每個用戶提供一體化的服務。
網(wǎng)格正向標準化發(fā)展、技術融合發(fā)展、大型化發(fā)展。網(wǎng)格應用(分布式超級計算、分布式儀器系統(tǒng)、數(shù)據(jù)密集型計算和遠程沉浸;網(wǎng)格信息集成應用)不斷加強,向用戶提供“信息在你指尖”(Information at your fi ngertip)式的服務。信息網(wǎng)格研究的中心問題有:如何描述信息、存儲信息、發(fā)布信息和查找信息;如何充分利用現(xiàn)有網(wǎng)絡技術,如 HTTP、XML、WSDL、UDDI、SOAP 等,構成完整的服務鏈;如何賦予信息以內(nèi)涵,即信息的語義表示,以及如何避免信息的二義性;如何對信息加密,防止信息泄露等等。
10 多年來,網(wǎng)格技術的發(fā)展促成了物聯(lián)網(wǎng)的形成(主要因素之一)。盡管出現(xiàn)了網(wǎng)格計算、云計算[3]、SAAS[4]、PAAS[5]等新的技術形式,但聚合分布資源、支持虛擬組織、提供高層次服務是核心。不管是執(zhí)行作業(yè)形式,還是實現(xiàn)業(yè)務的托管和外包,都為業(yè)務應用打下了良好基礎,使新的信息應用模式推廣成為可能。
采用數(shù)字攝影測量、遙感、遙測等數(shù)字化技術和設備采集各種水利數(shù)據(jù);利用各類通信信道,高速數(shù)據(jù)通信網(wǎng)絡傳輸數(shù)據(jù);建立計算機網(wǎng)絡;采用數(shù)據(jù)庫、空間數(shù)據(jù)庫和數(shù)據(jù)倉庫等技術存貯和組織數(shù)據(jù);不斷豐富各類會商硬件基礎等等,使整個水利信息化的基礎工程有了長足進展。傳統(tǒng)按照功能開發(fā)的應用,盡管有局限性難以發(fā)展,但還是發(fā)揮了不少積極作用。經(jīng)過長期努力,把平臺支持應用由理念逐步變?yōu)楝F(xiàn)實,并且得以擴展,形成如圖1 所示的面向水利信息化的水利網(wǎng)格服務體系。
圖1 面向水利信息化的水利網(wǎng)格服務體系(平臺框架)
平行系統(tǒng)[6,7]是指由某個自然的現(xiàn)實系統(tǒng)和對應的 1 個或多個虛擬或理想的人工系統(tǒng)所組成的共同系統(tǒng),通過 2 者的相互連接,對各自的行為進行對比和分析,完成“對實際系統(tǒng)的管理與控制,對相關行為和決策的實驗與評估,對有關人員和系統(tǒng)的學習與培訓”等,對各自未來狀況的“借鑒”和“預估”,相應地調(diào)節(jié)各自的管理與控制方式,達到實施有效解決方案的目的。
在網(wǎng)格支持下的實驗和評估是關鍵。在這一過程中,人工系統(tǒng)主要被用來進行計算實驗,分析了解各種不同的復雜系統(tǒng)的行為和反應,并對不同的解決方案的效果進行評估,作為選擇和支持管理與控制決策的依據(jù)。
人工系統(tǒng)試圖盡可能地模擬實際系統(tǒng),對其行為進行預估,從而為尋找對實際系統(tǒng)有效的解決方案或對當前方案進行改進提供依據(jù)。進一步通過觀察實際系統(tǒng)與人工系統(tǒng)評估的狀態(tài)之間的不同,產(chǎn)生誤差反饋信號,對人工系統(tǒng)的評估方式或參數(shù)進行修正,減少差別,并開始分析新一輪的優(yōu)化和評估。
對復雜水利應用系統(tǒng)進行計算實驗,采用平行系統(tǒng)方法進行管理與控制;通過綜合集成和研討廳進行決策的生成、分析和支持,而所有的計算和數(shù)據(jù)的管理與處理,都是在并行分布式計算[8]和數(shù)據(jù)平臺上完成的。通過這種方式,就可以科學化、系統(tǒng)化、綜合化地對水利應用系統(tǒng)的各種戰(zhàn)略決策、技術決策進行量化評估分析,同時對有關政策的執(zhí)行和系統(tǒng)的運行,進行在線的評估分析和調(diào)整,建立“不斷探索和改善”的綜合發(fā)展、量化評估“全面、協(xié)調(diào)、可持續(xù)性的科學發(fā)展觀”的理論和方法體系。
基于水利網(wǎng)格的數(shù)據(jù)中心可以分為以下 4 個模塊:數(shù)據(jù)匯集模塊、數(shù)據(jù)管理模塊、信息反饋模塊、用戶管理模塊。
(1)數(shù)據(jù)匯集模塊用于完成對分布式數(shù)據(jù)的匯集,包括:數(shù)據(jù)節(jié)點注冊、數(shù)據(jù)庫注冊、數(shù)據(jù)表信息注冊、字段信息注冊功能。解決數(shù)據(jù)在分布性、動態(tài)性環(huán)境下的匯集,實現(xiàn)計算服務環(huán)境下數(shù)據(jù)節(jié)點的信息宏觀的結構化展示。
(2)數(shù)據(jù)管理模塊用于完成數(shù)據(jù)的綜合管理,包括:數(shù)據(jù)查詢、數(shù)據(jù)修改、數(shù)據(jù)刪除功能。解決跨流域、跨部門計算數(shù)據(jù)節(jié)點的互聯(lián)操作,數(shù)據(jù)節(jié)點用戶可以對計算數(shù)據(jù)節(jié)點信息進行方便有效的操作。
(3)信息反饋模塊用于完成水利計算服務平臺調(diào)度中心的交互,為異構數(shù)據(jù)提供統(tǒng)一、開放、標準的數(shù)據(jù)接口,并為調(diào)度中心原子操作模塊關于數(shù)據(jù)的請求處理提供支持。
(4)用戶管理模塊管理對數(shù)據(jù)中心具有各種操作權限用戶的信息,包括:節(jié)點用戶注冊、用戶信息修改、用戶權限設置、用戶刪除。面向數(shù)據(jù)管理層,負責計算服務環(huán)境中與數(shù)據(jù)節(jié)點相關的用戶信息。圖2 是基于水利網(wǎng)格的數(shù)據(jù)中心體系架構。
圖2 基于水利網(wǎng)格的數(shù)據(jù)中心體系架構
數(shù)據(jù)中心采用了 J2EE 體系下基于MVC 設計模式的 Struts 框架[9]來實現(xiàn)具體的業(yè)務流程和界面展現(xiàn)。Strtus框架具有良好的代碼重用性及擴展性。它為開發(fā)基于 MVC 模式的系統(tǒng)提供底層支持。
根據(jù)系統(tǒng)功能展現(xiàn)界面的開發(fā)流程結構,來自客戶瀏覽器的所有 HTTP 請求被創(chuàng)建為一系列的事件,Web 容器使用 HTTP 響應機制返回請求的結果。視圖層采用 JSP 技術為用戶創(chuàng)建數(shù)據(jù)信息的展現(xiàn)頁面,展現(xiàn)頁面包括節(jié)點信息頁、數(shù)據(jù)庫信息頁、數(shù)據(jù)表信息頁、字段信息頁、數(shù)據(jù)請求頁,頁面中的流程邏輯、業(yè)務邏輯和模型信息由 Struts 中的標簽集創(chuàng)建。瀏覽器請求通過 JSP 頁面?zhèn)鬟f到控制層的行為服務組件,這是由 Servlet 實現(xiàn)的類,行為服務組件將請求傳遞到行為處理機制,并通過標準配置文件來配置控制層的行為。業(yè)務邏輯層通過 Struts 的行為類更新模型狀態(tài),行為類包括節(jié)點業(yè)務類、數(shù)據(jù)庫業(yè)務類、表信息業(yè)務類、字段業(yè)務類等,業(yè)務類的配置在 Web.xml 文件中實現(xiàn),表信息業(yè)務類表示各個模塊模型的狀態(tài),用來處理來自表單層中的數(shù)據(jù)。系統(tǒng)功能展示界面開發(fā)流程如圖3 所示。
以空間地理數(shù)據(jù)、歷史數(shù)據(jù)、影像數(shù)據(jù)、非結構化數(shù)據(jù)為數(shù)據(jù)源,在異構平臺上實現(xiàn)高效能計算力,構建水利計算實驗環(huán)境是應用需求。在水利網(wǎng)格環(huán)境下,將水利業(yè)務劃分為作業(yè)和原子,結合作業(yè)的負載和資源情況,動態(tài)安排應用程序運行策略,實現(xiàn)面向異構平臺和節(jié)點內(nèi)部自治的優(yōu)化。
構建具有高效能計算力異構平臺,實現(xiàn)水利業(yè)務在平行系統(tǒng)中的優(yōu)化服務,根據(jù)水利業(yè)務的復雜度,按照功能分解為不同的作業(yè),每個作業(yè)按照計算服務系統(tǒng)中的算法模型以及用戶應用需求加以拆分,采用粒度的方式和算法結構表現(xiàn)整個水利業(yè)務作業(yè),將特定的業(yè)務應用的粒度進行細化,建立獨立的面向業(yè)務邏輯的算法單元,不同的算法單元按照用戶需求在計算力資源調(diào)度中實現(xiàn)平行優(yōu)化?;诰W(wǎng)格的高效能平行系統(tǒng)首先討論了作業(yè)的關鍵路徑,通過動態(tài)作業(yè)關鍵路徑來控制調(diào)度的優(yōu)化方向,然后結合有向作業(yè)圖和無向節(jié)點圖,將水利業(yè)務應用配置在依靠并行集所產(chǎn)生的二分圖上并且在信任模式下將調(diào)度轉化為二分圖的聯(lián)接操作,及時的響應節(jié)點屬性變化,提高了水利業(yè)務應用的靈活性和高效性。
網(wǎng)格使用高速網(wǎng)絡,將分布在不同地點的高性能計算機、水利監(jiān)測設備、信息資源等融合為具有超級計算能力的巨型虛擬計算機,為水利應用提供廉價高效的計算服務,提高了普通用戶的計算能力?;诠ぷ髁鞯目梢暬嬎惴兆鳂I(yè)注冊方式可以為用戶提供透明的作業(yè)注冊環(huán)境。
通過調(diào)度中心作業(yè)運行機制分析,構建水利計算服務可視化組件,可視化作業(yè)注冊組件用以完成作業(yè)圖繪制、解析和數(shù)據(jù)保存功能。結構從上到下分為繪圖、解析和數(shù)據(jù) 3 層。用戶使用繪圖層將作業(yè)繪制成作業(yè)圖,然后將作業(yè)圖交由解析層解析出可以在數(shù)據(jù)庫中存貯的符合參數(shù)驅動規(guī)范的離散數(shù)據(jù),最后將解析數(shù)據(jù)存貯于數(shù)據(jù)庫中。圖4 是計算服務調(diào)度中心作業(yè)注冊操作的示意圖。
圖3 系統(tǒng)功能展示界面開發(fā)流程
圖4 計算服務調(diào)度中心作業(yè)注冊操作
衛(wèi)星遙感 MODIS 數(shù)據(jù)[10]的引入為水信息應用帶來了更多的實時性和精確性,也為建立高效率、高準確度平臺帶來了新的生機。水利信息化的發(fā)展要求實現(xiàn)以衛(wèi)星遙感 MODIS 空間數(shù)據(jù)為基礎建立具有高存貯能力和訪問效率的影像金字塔,實現(xiàn)空間地理數(shù)據(jù)、遙感影像數(shù)據(jù)、數(shù)字高程的三維融合,以及水利數(shù)字地球仿真模擬平臺實現(xiàn),同時由于水文現(xiàn)象的區(qū)域性和隨機性,河流水系分布極不規(guī)整,這就要求我們滿足不同區(qū)域、水文現(xiàn)象、水系的各種不同層次需求的數(shù)據(jù)服務。
MODIS 數(shù)據(jù)處理采用現(xiàn)有幾何校正、噪聲處理、云處理技術,提高 MODIS 數(shù)據(jù)的利用度和實用性,并按需建立流域性、專題性、參數(shù)性的 MODIS 影像并行計算服務環(huán)境。
探索以高效能計算為支撐,以平行系統(tǒng)為核心的水信息集成應用,嘗試建立由某個自然的現(xiàn)實系統(tǒng)和對應的 1 個或多個虛擬的理想人工系統(tǒng)所組成的共同系統(tǒng),并通過平行系統(tǒng)為水利仿真、監(jiān)測、預警業(yè)務提供服務。圖5 所示的是基于平行系統(tǒng)的洪水預報框架。該框架以空間地理數(shù)據(jù)、歷史數(shù)據(jù)、影像數(shù)據(jù)、非結構化數(shù)據(jù)為數(shù)據(jù)源,以高效能計算網(wǎng)格為計算平臺,構建計算實驗環(huán)境,將預報結果與實測數(shù)據(jù)進行對比,通過邏輯反演,建立預報完善機制,實現(xiàn)模型系統(tǒng)動態(tài)改進。使用優(yōu)化后的預報模型對將來數(shù)據(jù)進行預報,在時間維度上通過將來數(shù)據(jù)對預報結果予以驗證與評估,為預報模型提供學習機制和記憶機制,實時的保留最佳的預報方案和策略,完成整個平行系統(tǒng)的逐步優(yōu)化,隨著平行系統(tǒng)運行時間的增長,系統(tǒng)將自學習的構建預報精度逐步改善、預報模型更加具體的預報服務系統(tǒng)。
在實際的洪水預報中存在以下問題:(1)預報方法和預報模型選擇困難;(2)預報精度差;(3)預報方案單一?;谄叫邢到y(tǒng)的洪水預報,可以在很大程度上解決上述問題。通過建立洪水預報平行系統(tǒng),在平行系統(tǒng)下開展計算實驗,通過計算實驗進行洪水預報模型的檢驗、修正與選擇,最后通過平行系統(tǒng)將最終的預報方案反饋給實際洪水預報系統(tǒng)?;谄叫邢到y(tǒng)的洪水預報流程主要分為 4 個階段:模型初選、模型檢驗與選擇、預報方案評價和預報方案選擇。
在傳統(tǒng)的洪水預報系統(tǒng)中,模型一旦選定就很難改變,在高效能的平行系統(tǒng)下,洪水預報模型是通過組件搭建的方式構建而成,同時模型的選擇是通過并行化的計算實驗進行定量評價選擇,并將選出的模型推薦給實際系統(tǒng)??焖贅嫿ǔ龆鄠€洪水預報模型,并利用歷史資料對構建出的模型進行仿真和檢驗,評價和選擇,從而突破傳統(tǒng)方案中計算力束縛,通過多模型多方案層層選拔得出科學的洪水預報方案。
圖5 基于平行系統(tǒng)的洪水預報框架
依靠高效能計算力,把遙感影像與水利業(yè)務結合構建基礎的水利虛擬現(xiàn)實平臺,提供基本的仿真環(huán)境。由 GIS 與遙感影像的無縫對接,結合 STRM高程構造數(shù)字地形。建立水利數(shù)字地球基礎平臺,實現(xiàn)虛擬現(xiàn)實平臺上的水雨情實時監(jiān)視、庫區(qū)仿真、預警預案、應急響應等。
建立投影變換并行算法,對遙感影像按影像金字塔模型要求進行切片,建設遙感影像片元描述及WMS 服務環(huán)境[11],搭建面向數(shù)字地球的 WebGIS服務環(huán)境,建立空間影像片元索引及鄰域檢索機制和層次模型,實現(xiàn)視域內(nèi)象素點及經(jīng)緯度之間轉換算法,并重點實現(xiàn)多種應用接口:數(shù)字地球互操作(如:放大、縮小、平移)服務接口;空間信息(如:制作文本、繪制圖元)更新維護接口;空間信息動態(tài)創(chuàng)建接口;數(shù)字地球擴展控制(如:飛行、定位)接口;整合業(yè)務資源的應用服務數(shù)據(jù)接口;非經(jīng)緯度投影轉換接口;GIS 結合接口;高清晰影像接口。
在高效能計算力仿真模擬平臺基礎上,結合水利業(yè)務的需求,構建相關水利應用如圖6 所示。圖6(a)展示的是在高效能計算力仿真模擬平臺上實現(xiàn)的西安市水雨情信息監(jiān)測集成服務,執(zhí)行客戶端程序后,利用定位功能輸入研究區(qū)域中心的經(jīng)緯度,界面自動調(diào)轉到指定位置,從“基本應用”下拉框的“圖層名稱”選中設置好的 WMS 類型便能實現(xiàn)。圖中圖標顯示的是西安市藍田縣區(qū)域范圍內(nèi)所有監(jiān)視測站(藍色半圓代表水庫站,綠色實心圓代表雨量站,斜三角代表河道站),當雙擊圖標時,能顯示實時地水雨情信息。
圖6(b)展示的是在高效能計算力仿真模擬平臺洪水淹沒分析及三維展示效果圖,通過構建研究區(qū)域內(nèi)的矩形格網(wǎng),給定洪水水位值,根據(jù)格網(wǎng)蔓延法求取具備連通性且在水位值之下的格網(wǎng)集合,并采用 JOGL[12]技術進行淹沒區(qū)域的繪制,實現(xiàn)洪水淹沒靜態(tài)面積的三維展示。采用 Swing的時間組件 Timer,能夠實現(xiàn)水位的自動遞增,從而實現(xiàn)不同洪水水位條件下的洪水淹沒仿真效果。
圖6 高效能計算力仿真模型平臺水利應用
現(xiàn)代信息技術迅速發(fā)展,新思想、新技術不斷涌現(xiàn),給我們的生活帶來了巨大變化。同樣,水利事業(yè)也受到了現(xiàn)代信息技術的強力推動。
水利信息化的實踐不斷取得了成績,也暴露了問題。在重視信息化基礎建設的同時,更應該重視應用體系的建設,不要完全依賴數(shù)據(jù)完整和設施完善,要從應用中促進完善,表里一致,見到效益,服務為上。我們在多年的水利網(wǎng)格應用實踐的基礎上認為:共享資源、整合應用,以應用支撐平臺逐步實現(xiàn)“按主題提供信息服務”、“按需要提供計算服務”、“按個性化提供決策服務”將是水利業(yè)務服務的重要發(fā)展方向,依賴信息化技術和工具,結合高性能計算和可視化表現(xiàn)技術,創(chuàng)建平行系統(tǒng),開展計算實驗,豐富模擬仿真,也將是一種全新的應用模式。
[1]李祖鵬,黃建華,唐輝. 基于 P2P 計算模式的自組織網(wǎng)絡路由模型[J]. 軟件學報,2005,16 (05):916~930.
[2]慈慶玉. 基于 Windows 環(huán)境的計算機病毒防治技術研究及其檢測設計[D]. 成都:西南交通大學,2003.
[3]陳康,鄭緯民. 云計算:系統(tǒng)實例與研究現(xiàn)狀[J]. 軟件學報,2009,20 (5):1337~1348.
[4]陳波. 基于 SaaS 的軟件服務鏈研究[D]. 武漢:武漢理工大學,2008.
[5]黎春蘭,鄧仲華. 論云計算的價值[J]. 圖書與情報,2009,4 (02):42~46.
[6]王飛躍. 人工社會、計算實驗、平行系統(tǒng):關于復雜社會經(jīng)濟系統(tǒng)計算研究的討論[J]. 復雜系統(tǒng)與復雜性科學,2004,1 (4):25~35.
[7]王飛躍,史帝夫·蘭森. 從人工生命到人工社會:復雜社會系統(tǒng)研究的現(xiàn)狀和展望[J]. 復雜系統(tǒng)與復雜性科學,2004,1 (1):33~41.
[8]GAO Shu,GUO Qing-ping. Parallel programming characteristics of a DSP-based parallel system[J]. Zhejiang Univ SCIENCE A,2006,7 (10):1669~1675.
[9]杜明,李朝純. 基于MVC的Struts 框架和標記庫的研究與應用[J]. 微機發(fā)展,2004,14 (11):110~116.
[10]李娜,顏長珍. 利用 MODIS 植被指數(shù)評估分水對黑河中游的影響[J]. 遙感技術與應用,2009,24 (6):793~796.
[11]解建倉,王曉輝,李建勛,等. WMS 下的 WebGIS 開發(fā)及與水環(huán)境信息服務平臺集成[J].應用科學學報,2006,24 (3):266~269.
[12]馬斌,李仲,李翠平,等. 基于 J2EE 平臺和 B/S 結構的地礦工程三維可視化仿真技術[J]. 遼寧工程技術大學學報(自然科學版),2009,28 (2):181~184.