摘要:隨著地震勘探技術(shù)的不斷進(jìn)步,勘探數(shù)據(jù)的處理和分析變得日益復(fù)雜和關(guān)鍵。GeoEast作為國(guó)產(chǎn)自主研發(fā)的地震數(shù)據(jù)處理解釋一體化軟件系統(tǒng),在石油勘探領(lǐng)域具有廣泛的應(yīng)用。作業(yè)調(diào)度系統(tǒng)作為GeoEast的核心組成部分,其性能直接影響數(shù)據(jù)處理的速度和效率。旨在深入研究GeoEast作業(yè)調(diào)度系統(tǒng)(GeoJSF)的架構(gòu)設(shè)計(jì)和核心關(guān)鍵技術(shù),重點(diǎn)從作業(yè)優(yōu)先級(jí)設(shè)定、資源動(dòng)態(tài)分配、作業(yè)訪問(wèn)控制管理等幾個(gè)方面對(duì)作業(yè)調(diào)度系統(tǒng)進(jìn)行優(yōu)化配置,從而提高了地震資料處理系統(tǒng)的綜合性能,為提升石油勘探數(shù)據(jù)處理效率提供理論支持和實(shí)踐指導(dǎo)。
關(guān)鍵詞:GeoEast;GeoJSF;作業(yè)調(diào)度系統(tǒng);優(yōu)化策略;地震勘探數(shù)據(jù)
一、前言
地震勘探數(shù)據(jù)處理是一個(gè)復(fù)雜且精細(xì)的過(guò)程,涉及大量的數(shù)據(jù)處理和分析工作,由專用數(shù)據(jù)處理系統(tǒng)作為技術(shù)平臺(tái)支撐。GeoEast地震數(shù)據(jù)處理系統(tǒng)是國(guó)內(nèi)自主研發(fā)的地震數(shù)據(jù)處理解釋一體化軟件系統(tǒng),在石油勘探領(lǐng)域具有廣泛的應(yīng)用。在使用GeoEast地震數(shù)據(jù)處理系統(tǒng)開展地震處理項(xiàng)目實(shí)際生產(chǎn)中,發(fā)現(xiàn)處理作業(yè)運(yùn)行狀況與作業(yè)調(diào)度系統(tǒng)緊密相關(guān)。在深入研究GeoJSF的運(yùn)行架構(gòu)模型[1]和調(diào)度流程后,定位了作業(yè)系統(tǒng)存在的問(wèn)題,并據(jù)此提出針對(duì)性優(yōu)化策略,通過(guò)優(yōu)化作業(yè)調(diào)度[2]系統(tǒng)配置,解決作業(yè)執(zhí)行效率不高、資源利用率低、資源分配不合理[3]等問(wèn)題,滿足GeoEast地震數(shù)據(jù)系統(tǒng)穩(wěn)定運(yùn)行超大規(guī)模地震處理項(xiàng)目需求,提高作業(yè)運(yùn)行效率。
二、GeoJSF系統(tǒng)概述
GeoJSF全稱GeoEast作業(yè)調(diào)度系統(tǒng)(GeoEast Job Scheduling Facility),是基于云計(jì)算平臺(tái)的作業(yè)管理系統(tǒng),針對(duì)大規(guī)模地震勘探數(shù)據(jù)復(fù)雜環(huán)境處理工作設(shè)計(jì),旨在提高資源利用率、優(yōu)化作業(yè)執(zhí)行效率,并滿足多用戶并發(fā)使用的需求。該系統(tǒng)通過(guò)應(yīng)用驅(qū)動(dòng)的資源分配、靈活的調(diào)度控制規(guī)則、多樣化的調(diào)度模式以及強(qiáng)大的作業(yè)流管理能力,實(shí)現(xiàn)了對(duì)大規(guī)模地震資料作業(yè)精細(xì)管理和調(diào)度。具有智能化調(diào)度、高效資源分配、實(shí)時(shí)監(jiān)控等功能,它根據(jù)作業(yè)的性質(zhì)、優(yōu)先級(jí)和資源需求等因素安排作業(yè)的執(zhí)行順序和時(shí)間,以確保數(shù)據(jù)處理的高效性和準(zhǔn)確性。該系統(tǒng)具有靈活、可擴(kuò)展的特點(diǎn),能夠適應(yīng)不同規(guī)模和復(fù)雜度的勘探數(shù)據(jù)處理需求。系統(tǒng)主要組成及調(diào)度系統(tǒng)運(yùn)行架構(gòu)如下。
(一)系統(tǒng)主要組成
1.tetrisd
提供核心的作業(yè)調(diào)度、作業(yè)流執(zhí)行控制功能,同時(shí)負(fù)責(zé)與各節(jié)點(diǎn)控制程序和各控制臺(tái)程序進(jìn)行通信,完成作業(yè)/節(jié)點(diǎn)的管控、管理命令的執(zhí)行,以及各種事件的派發(fā)等。
2.jsfnode
負(fù)責(zé)收集本節(jié)點(diǎn)以及本節(jié)點(diǎn)上所有活躍作業(yè)的資源使用狀況,監(jiān)控各作業(yè)的運(yùn)行狀態(tài),收集各作業(yè)的標(biāo)準(zhǔn)輸出,并以報(bào)告的形式發(fā)送給調(diào)度服務(wù)器;負(fù)責(zé)執(zhí)行調(diào)度服務(wù)器發(fā)送的各種系統(tǒng)管理命令和作業(yè)管理命令;負(fù)責(zé)與協(xié)同式作業(yè)進(jìn)行通信,完成相關(guān)消息的接收、轉(zhuǎn)發(fā)和處理。
3.jsfconsole
提供 GUI 界面,供用戶查看系統(tǒng)運(yùn)行狀態(tài)或執(zhí)行各種系統(tǒng)管理操作。
(二)系統(tǒng)運(yùn)行架構(gòu)及作業(yè)流程
GeoJSF的運(yùn)行架構(gòu)基于先進(jìn)的調(diào)度算法和資源管理策略,同其他作業(yè)調(diào)度系統(tǒng)不同的地方是引入了作業(yè)調(diào)度計(jì)算公式,作業(yè)通過(guò)類C語(yǔ)法表達(dá)式靈活表達(dá)資源需求,使得資源分配更加精確、高效,滿足不同應(yīng)用對(duì)資源的需求。而且,編輯方式實(shí)現(xiàn)了GUI模式,實(shí)現(xiàn)友好的界面和交互模式。GeoJSF的作業(yè)流程主要包括作業(yè)申請(qǐng)、調(diào)度決策和執(zhí)行等環(huán)節(jié)見圖1,支持分組調(diào)度、獨(dú)占調(diào)度、彈性調(diào)度和動(dòng)態(tài)資源調(diào)整等多種調(diào)度模式,使得系統(tǒng)能夠根據(jù)不同的應(yīng)用場(chǎng)景和需求,選擇最合適的調(diào)度策略。
三、GeoJSF在地震勘探中數(shù)據(jù)處理研究與應(yīng)用
以新疆油田勘探地震數(shù)據(jù)處理項(xiàng)目為例,通過(guò)GeoJSF對(duì)作業(yè)優(yōu)先級(jí)、資源分配和項(xiàng)目訪問(wèn)規(guī)則進(jìn)行優(yōu)化設(shè)置,實(shí)現(xiàn)了數(shù)據(jù)處理作業(yè)流的自動(dòng)化和智能化,提高了作業(yè)處理的效率。
(一)調(diào)整作業(yè)優(yōu)先級(jí)
在石油地震勘探資料處理過(guò)程中,不同作業(yè)對(duì)時(shí)間和資源的需求各不相同,如何確保關(guān)鍵作業(yè)[4]能夠得到及時(shí)處理,需要對(duì)作業(yè)優(yōu)先級(jí)計(jì)算公式進(jìn)行重新配置。優(yōu)先級(jí)計(jì)算公式分為作業(yè)優(yōu)先級(jí)計(jì)算公式(圖2左)和節(jié)點(diǎn)優(yōu)先級(jí)計(jì)算公式(圖2右),分別用來(lái)指定作業(yè)和節(jié)點(diǎn)動(dòng)態(tài)優(yōu)先級(jí)計(jì)算過(guò)程中需要考慮哪些因素,以及每種因素的權(quán)重等信息。管理員可以設(shè)置多個(gè)作業(yè)/節(jié)點(diǎn)優(yōu)先級(jí)計(jì)算公式,并可在基本設(shè)置中隨時(shí)切換當(dāng)前采用的計(jì)算公式。如果在基本設(shè)置中沒有指定作業(yè)/節(jié)點(diǎn)優(yōu)先級(jí)計(jì)算公式,那么所有作業(yè)/節(jié)點(diǎn)的動(dòng)態(tài)優(yōu)先級(jí)都將為 0,且作業(yè)的調(diào)度順序和節(jié)點(diǎn)的分配順序不可預(yù)測(cè),通過(guò)指定作業(yè)和節(jié)點(diǎn)動(dòng)態(tài)優(yōu)先級(jí)以及每種參數(shù)的權(quán)重等信息實(shí)現(xiàn)作業(yè)優(yōu)先級(jí)管理。將所有影響因素分為若干組,然后針對(duì)每個(gè)組計(jì)算出一個(gè)優(yōu)先級(jí)分量,再對(duì)所有組分量求加權(quán)和,組分量的計(jì)算同樣也采用加權(quán)和的方式。每種因素和每個(gè)組都可設(shè)置不同的權(quán)重。權(quán)重可以為 0,也可以為正或?yàn)樨?fù)。權(quán)重為0時(shí)表示忽略相應(yīng)的因素或組,取正值還是負(fù)值則取決于系統(tǒng)管理需要。例如,作業(yè)優(yōu)先級(jí)計(jì)算公式中,如果給“資源需求”這個(gè)組賦予正的權(quán)重,那么,資源需求大的作業(yè)優(yōu)先級(jí)高。經(jīng)過(guò)重新調(diào)整作業(yè)優(yōu)先級(jí)公式(如圖2所示),特別針對(duì)緊急作業(yè)設(shè)置了等待時(shí)間組權(quán)重。通過(guò)運(yùn)用指數(shù)函數(shù)對(duì)等待時(shí)間進(jìn)行精確換算,確保了高動(dòng)態(tài)優(yōu)先級(jí)的作業(yè)隊(duì)列能夠及時(shí)完成,從而有力保障了緊急科研項(xiàng)目的順利運(yùn)行。這一舉措凸顯了調(diào)整優(yōu)先級(jí)公式和設(shè)置權(quán)重的重要性,同時(shí),指數(shù)函數(shù)的運(yùn)用在優(yōu)化等待時(shí)間換算過(guò)程中起到了關(guān)鍵作用。
(二)資源分配的優(yōu)化
GeoJSF的資源分配遵循公平性、高效性、靈活性和可擴(kuò)展性原則。系統(tǒng)確保每個(gè)作業(yè)都能獲得公平的資源分配,同時(shí)根據(jù)作業(yè)的優(yōu)先級(jí)、計(jì)算量和緊急程度等因素進(jìn)行動(dòng)態(tài)調(diào)整,以實(shí)現(xiàn)資源的高效利用。但它與傳統(tǒng)作業(yè)調(diào)度系統(tǒng)區(qū)別是實(shí)現(xiàn)了與云計(jì)算平臺(tái)的無(wú)縫整合與聯(lián)動(dòng),從而為用戶帶來(lái)了全新的資源管理體驗(yàn)。通過(guò)簡(jiǎn)潔直觀的瀏覽器界面,用戶可實(shí)時(shí)掌握地震勘探數(shù)據(jù)系統(tǒng)的資源使用情況和10種作業(yè)狀態(tài)(如圖3所示)。GeoJSF的參數(shù)配置實(shí)現(xiàn)了圖形化,使操作更加便捷。針對(duì)地震資料數(shù)據(jù)處理項(xiàng)目需求,重新設(shè)計(jì)了用戶資源組和項(xiàng)目資源組,并實(shí)現(xiàn)了動(dòng)態(tài)綁定。這一創(chuàng)新舉措不僅優(yōu)化了資源配置,更實(shí)現(xiàn)了資源共享、數(shù)據(jù)集中、應(yīng)用整合和管理統(tǒng)一。通過(guò)這種方式,GeoJSF有效地解決了用戶資源浪費(fèi)和系統(tǒng)瓶頸現(xiàn)象,顯著提高了系統(tǒng)的資源利用率。值得一提的是,云計(jì)算平臺(tái)在GeoJSF的資源管理和配置中發(fā)揮著關(guān)鍵作用。通過(guò)與云計(jì)算平臺(tái)的深度融合,GeoJSF能夠充分利用云計(jì)算的優(yōu)勢(shì),實(shí)現(xiàn)彈性伸縮、高可用性和強(qiáng)大的擴(kuò)展能力,為用戶提供更加穩(wěn)定、高效的地震勘探數(shù)據(jù)處理服務(wù)。
(三)設(shè)置項(xiàng)目及作業(yè)隊(duì)列訪問(wèn)控制
在項(xiàng)目實(shí)施過(guò)程中,分析該項(xiàng)目資料處理作業(yè)的類型和特點(diǎn)。配置基于優(yōu)先級(jí)和負(fù)載均衡的隊(duì)列訪問(wèn)限制規(guī)則。通過(guò)作業(yè)過(guò)濾表達(dá)式調(diào)整項(xiàng)目和作業(yè)的資源和隊(duì)列分配,提高該項(xiàng)目生產(chǎn)效率。限制規(guī)則分為作業(yè)類限制規(guī)則和節(jié)點(diǎn)類限制規(guī)則,分別用來(lái)對(duì)滿足特定條件的作業(yè)或節(jié)點(diǎn)施加若干限制。對(duì)于作業(yè)類限制規(guī)則,可以針對(duì)所有滿足條件的作業(yè)集合施加限制,也可以針對(duì)每個(gè)滿足條件的作業(yè)個(gè)體施加限制。對(duì)于節(jié)點(diǎn)類限制規(guī)則,只能針對(duì)每個(gè)滿足條件的節(jié)點(diǎn)個(gè)體施加限制。不同限制規(guī)則之間是“邏輯與”的關(guān)系,即如果一個(gè)作業(yè)或節(jié)點(diǎn)匹配了多條相應(yīng)類別的限制規(guī)則,那么這些規(guī)則將同時(shí)發(fā)生作用。如圖4所示,設(shè)置了緊急項(xiàng)目“ndp_fangf”在“hw2”集群上運(yùn)行,并且確保了其他項(xiàng)目無(wú)法占用“hw2”集群的資源。這一配置不僅保障了“ndp_fangf”項(xiàng)目的專屬資源,還優(yōu)化了集群的整體使用效率,從而進(jìn)一步提升了項(xiàng)目的生產(chǎn)效率。
四、應(yīng)用效果
通過(guò)以上的調(diào)整優(yōu)化,GeoJSF取得了顯著的效果。在資源利用方面,通過(guò)動(dòng)態(tài)配置分組綁定資源,實(shí)現(xiàn)了資源的高效利用和節(jié)約,降低了勘探成本。此外,系統(tǒng)的實(shí)時(shí)監(jiān)控與統(tǒng)計(jì)分析功能還提供了更全面的作業(yè)執(zhí)行情況和資源利用情況的信息,幫助用戶更好地進(jìn)行決策和管理。在數(shù)據(jù)處理效率方面顯著提高勘探數(shù)據(jù)的處理速度和質(zhì)量,縮短了勘探周期,提高了勘探效率。以石油勘探地震數(shù)據(jù)處理流程中的反褶積為例,通過(guò)調(diào)整調(diào)度系統(tǒng)優(yōu)先級(jí)過(guò)濾公式,作業(yè)運(yùn)行時(shí)間由原來(lái)的24小時(shí)縮短到52分鐘(如圖5所示)。
五、現(xiàn)存問(wèn)題和優(yōu)化建議
在實(shí)際應(yīng)用過(guò)程中,GeoJSF也暴露出一些問(wèn)題。例如,調(diào)度算法在智能化方面有待提高,調(diào)度參數(shù)的設(shè)置相對(duì)復(fù)雜,需要專業(yè)人員根據(jù)不同勘探項(xiàng)目的需求進(jìn)行手動(dòng)設(shè)置,這無(wú)疑增加了操作難度和出錯(cuò)的可能性,監(jiān)控及數(shù)據(jù)分析功能簡(jiǎn)單,系統(tǒng)接口程序穩(wěn)定性及用戶體驗(yàn)感方面有待改善。
為了進(jìn)一步提升GeoJSF在石油勘探資料處理中的性能與效率,提出以下優(yōu)化建議。
(一)作業(yè)調(diào)度算法的優(yōu)化
針對(duì)現(xiàn)有算法[4]進(jìn)行精細(xì)化調(diào)整,旨在更精確地評(píng)估作業(yè)的資源需求與優(yōu)先級(jí),以實(shí)現(xiàn)資源分配的最優(yōu)化,有助于提升系統(tǒng)整體的運(yùn)行效率,并確保高優(yōu)先級(jí)作業(yè)得到優(yōu)先處理。
(二)增強(qiáng)資源自動(dòng)配置功能的智能化
通過(guò)引入先進(jìn)的智能算法和技術(shù),提升資源自動(dòng)配置功能的智能化水平,使其能夠快速、準(zhǔn)確地識(shí)別和配置所需資源,有效降低了人工干預(yù)的頻率,提高系統(tǒng)的自動(dòng)化程度和穩(wěn)定性。
(三)實(shí)時(shí)監(jiān)控與統(tǒng)計(jì)分析功能的升級(jí)
對(duì)現(xiàn)有的實(shí)時(shí)監(jiān)控與統(tǒng)計(jì)分析功能進(jìn)行全面升級(jí),提高數(shù)據(jù)的準(zhǔn)確性和實(shí)時(shí)性。通過(guò)優(yōu)化數(shù)據(jù)分析算法和界面設(shè)計(jì),使管理者能夠更直觀地了解系統(tǒng)運(yùn)行狀態(tài)和作業(yè)進(jìn)度,為決策提供更有力的支持。
(四)及時(shí)更新系統(tǒng)補(bǔ)丁
對(duì)用戶使用中發(fā)現(xiàn)的功能性問(wèn)題及時(shí)更新和完善系統(tǒng)補(bǔ)丁,保障系統(tǒng)高效可靠運(yùn)行。
六、結(jié)語(yǔ)
本文深入研究了在地震勘探數(shù)據(jù)“兩寬一高”[5]處理技術(shù)持續(xù)進(jìn)步和野外原始數(shù)據(jù)量激增的背景下,GeoJSF在海量數(shù)據(jù)處理中所展現(xiàn)出的高效管理與優(yōu)化能力。經(jīng)過(guò)系統(tǒng)地分析和實(shí)踐驗(yàn)證得出結(jié)論:GeoJSF具備高效的作業(yè)管理與調(diào)度能力。該系統(tǒng)能夠有效地整合石油勘探過(guò)程中的各類資源,包括計(jì)算資源、存儲(chǔ)資源、數(shù)據(jù)資源等,實(shí)現(xiàn)作業(yè)的高效分配與調(diào)度,極大地提高了石油地震勘探數(shù)據(jù)處理的效率,縮短了數(shù)據(jù)處理周期,為勘探工作提供了有力的技術(shù)支撐。同時(shí),GeoJSF在性能優(yōu)化后表現(xiàn)出色,通過(guò)優(yōu)化及參數(shù)配置,實(shí)現(xiàn)了作業(yè)的智能調(diào)度與負(fù)載均衡。未來(lái),將繼續(xù)深入研究該系統(tǒng),不斷推動(dòng)其技術(shù)創(chuàng)新和應(yīng)用拓展,為石油地震勘探數(shù)據(jù)處理提供更加高效、智能的解決方案。
參考文獻(xiàn)
[1]羅剛,陳繼紅,孫孝萍,等.大規(guī)模異構(gòu)集群地震作業(yè)調(diào)度與資源管理系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)[J].石油地球物理勘探,2017,52(S2):200-205+10.
[2]王小寧,肖海力,曹榮強(qiáng).面向高性能計(jì)算環(huán)境的作業(yè)優(yōu)化調(diào)度模型的設(shè)計(jì)與實(shí)現(xiàn)[J].計(jì)算機(jī)工程與科學(xué),2017,39(04):619-626.
[3]孫震宇,石京燕,孫功星,等.大規(guī)模異構(gòu)計(jì)算集群的雙層作業(yè)調(diào)度系統(tǒng)[J].計(jì)算機(jī)工程,2020,46(01):187-195.
[4]曾理寧,徐成,李仁發(fā),等.一種基于動(dòng)態(tài)需求邊界的混合關(guān)鍵級(jí)作業(yè)調(diào)度算法[J].軟件學(xué)報(bào),2020,31(11):3657-3670.
[5]汪關(guān)妹,周賞,張宏偉,等.“兩寬一高”地震資料的斷層解釋技術(shù)[J].石油地球物理勘探,2017,52(S1):77-83+8.
作者單位:新疆油田勘探開發(fā)研究院
責(zé)任編輯:張津平、尚丹