徐勝超，葉力洪

(廣州華商學(xué)院數(shù)據(jù)科學(xué)學(xué)院,廣東 廣州 511300)

0 引 言

容器云是一種輕量級(jí)新型虛擬化技術(shù)[1]，是云計(jì)算的深入和發(fā)展。容器云的核心問(wèn)題是容器在線任務(wù)分配，即如何將其中的容器合理、均衡地分配到各個(gè)物理機(jī)節(jié)點(diǎn)上。容器云的出現(xiàn)和使用，極大地緩解了數(shù)據(jù)處理和運(yùn)算壓力，因此是很多企業(yè)內(nèi)聯(lián)網(wǎng)服務(wù)器的首選。然而，若容器云內(nèi)部的任務(wù)不能被合理分配到可用的資源(物理機(jī)節(jié)點(diǎn))上，極易造成個(gè)別物理機(jī)節(jié)點(diǎn)負(fù)載過(guò)大、能耗過(guò)高的問(wèn)題，對(duì)此，眾多學(xué)者進(jìn)行了容器云任務(wù)分配問(wèn)題的研究。

文獻(xiàn)[2]基于李雅普諾夫函數(shù)提出容器云隊(duì)列任務(wù)調(diào)度方法，構(gòu)建云計(jì)算任務(wù)排隊(duì)模型，采用李雅普諾夫函數(shù)分析任務(wù)隊(duì)列長(zhǎng)度的變化；基于任務(wù)QoS構(gòu)建能耗最小化目標(biāo)函數(shù)；通過(guò)李雅普諾夫優(yōu)化方法求解目標(biāo)函數(shù)，實(shí)現(xiàn)對(duì)容器云隊(duì)列在線任務(wù)的整體調(diào)度。但該方法由于并非動(dòng)態(tài)分配任務(wù)，尋優(yōu)能力不足，因此分配合理性和資源均衡度不夠理想。文獻(xiàn)[3]提出帶約束修復(fù)的容器云任務(wù)隊(duì)列樹(shù)形調(diào)度目標(biāo)模型。采用約束修復(fù)方法將容器云中的異構(gòu)任務(wù)和異構(gòu)資源映射為統(tǒng)一向量；采用優(yōu)先級(jí)綜合多個(gè)子目標(biāo)并將其歸屬于不同樹(shù)形分支下的子空間，構(gòu)建多任務(wù)均衡調(diào)度模型，實(shí)現(xiàn)容器云隊(duì)列任務(wù)分配。但該方法經(jīng)過(guò)映射構(gòu)建的任務(wù)模型準(zhǔn)確性不足，分配合理性較差，且任務(wù)隊(duì)列由于映射需要長(zhǎng)時(shí)間排隊(duì)等候，導(dǎo)致?lián)砣?，任?wù)執(zhí)行效率不佳。

為了解決上述分配方法分配合理性和資源均衡度較差、任務(wù)處理效率較低的問(wèn)題，本文進(jìn)行基于長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)(LSTM)的容器云隊(duì)列在線任務(wù)動(dòng)態(tài)分配方法研究。由于長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)搜索全局性更好，尋優(yōu)能力更強(qiáng)，本文將其應(yīng)用到容器云隊(duì)列在線任務(wù)分配當(dāng)中，求解任務(wù)分配最優(yōu)方案。實(shí)驗(yàn)結(jié)果表明應(yīng)用LSTM能使任務(wù)分配更加合理、更能節(jié)省能耗，減少任務(wù)排隊(duì)長(zhǎng)度和時(shí)間。

1 基于LSTM的容器云隊(duì)列在線任務(wù)動(dòng)態(tài)分配方法

結(jié)合長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)進(jìn)行容器云隊(duì)列在線任務(wù)動(dòng)態(tài)分配方法研究，其主要分為4個(gè)部分，即容器云隊(duì)列在線任務(wù)模型描述、任務(wù)分配目標(biāo)函數(shù)構(gòu)建、約束條件設(shè)置以及長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)求解，以期保障用戶任務(wù)的有效執(zhí)行。

1.1 容器云隊(duì)列在線任務(wù)模型描述

容器云隊(duì)列是由多個(gè)容器組成，而每個(gè)容器都代表一個(gè)排隊(duì)模型，由此組成容器云隊(duì)列，如圖1所示[4-6]。

圖1 容器云隊(duì)列在線任務(wù)模型

在圖1容器云隊(duì)列在線任務(wù)模型中[7]，容器隊(duì)列的長(zhǎng)度與網(wǎng)絡(luò)任務(wù)量和容器總量存在密切關(guān)系。當(dāng)單個(gè)容器內(nèi)任務(wù)隊(duì)列長(zhǎng)度超過(guò)容器總?cè)萘繒r(shí)，容器隊(duì)列長(zhǎng)度會(huì)超過(guò)容器的處理能力，即會(huì)發(fā)生任務(wù)擁堵問(wèn)題。針對(duì)這一問(wèn)題，需要對(duì)容器云隊(duì)列在線任務(wù)進(jìn)行動(dòng)態(tài)分配，提高任務(wù)處理效率[8]。

1.2 任務(wù)分配多目標(biāo)函數(shù)構(gòu)建

容器云隊(duì)列在線任務(wù)動(dòng)態(tài)分配目標(biāo)函數(shù)是指通過(guò)分配要實(shí)現(xiàn)的目的表達(dá)式[9]。求出的這個(gè)表達(dá)式的解，就是可以滿足目標(biāo)需求的分配方案?；诖耍蝿?wù)分配目標(biāo)函數(shù)構(gòu)建是重點(diǎn)。

在以往的研究中，多數(shù)都是以單一目標(biāo)為任務(wù)構(gòu)建分配目標(biāo)函數(shù)，雖然在后期，這種方法計(jì)算簡(jiǎn)便，且易求解，但是僅考慮一方面，而忽略其他方面，求出的任務(wù)分配方案只能實(shí)現(xiàn)一個(gè)目的，因此需要求出一個(gè)綜合最優(yōu)方案，即考慮多個(gè)目標(biāo)，設(shè)置多目標(biāo)函數(shù)[10]。

多目標(biāo)函數(shù)中包括了3個(gè)單目標(biāo)，即節(jié)點(diǎn)互補(bǔ)度、資源利用率以及能耗，對(duì)這3個(gè)目標(biāo)進(jìn)行優(yōu)化可以使得分配方案更加合理[11]。多目標(biāo)函數(shù)具體表達(dá)式為：

(1)

容器和物理機(jī)節(jié)點(diǎn)之間的資源消耗互補(bǔ)度取決于容器對(duì)CPU資源的需求和物理主機(jī)擁有資源的量，二者的匹配程度越高，資源消耗互補(bǔ)度越高；資源利用率取決于容器和物理機(jī)節(jié)點(diǎn)之間的匹配度，可以通過(guò)構(gòu)建容器與物理主機(jī)的匹配值矩陣獲得最大利用率方案[12]。物理機(jī)節(jié)點(diǎn)的能耗分為空閑能耗和滿載能耗2種情況，兩者的區(qū)別在于物理機(jī)節(jié)點(diǎn)的CPU利用率不同[13]。利用率越大，滿載能耗越多，空閑能耗越少，有利于節(jié)省整體能耗。

1.3 約束條件

由于物理機(jī)、容器、時(shí)間、費(fèi)用等資源有限，多目標(biāo)優(yōu)化方案的達(dá)成需要考慮一些約束條件。約束條件具體包括任務(wù)的執(zhí)行時(shí)間約束、物理機(jī)節(jié)點(diǎn)處理能力約束以及容器分配費(fèi)用約束。通過(guò)這些約束，為目標(biāo)函數(shù)求解劃定了范圍[14]。具體表達(dá)式為：

(2)

式(2)中，Tj、Tj′分別代表物理機(jī)節(jié)點(diǎn)j開(kāi)始和結(jié)束租賃的時(shí)間；T代表任務(wù)k執(zhí)行時(shí)間；L0j(k,t)代表t時(shí)刻物理機(jī)節(jié)點(diǎn)j被占用的資源；N代表物理機(jī)節(jié)點(diǎn)數(shù)量；L1j(k,t)代表t時(shí)刻物理機(jī)節(jié)點(diǎn)j剩余可利用資源；ψ代表容器云隊(duì)列長(zhǎng)度；D代表物理機(jī)節(jié)點(diǎn)處理能力即動(dòng)態(tài)分配能力；ζ代表單容器分配費(fèi)用；B代表容器分配總執(zhí)行費(fèi)用;kN代表任務(wù)k需要的物理機(jī)節(jié)點(diǎn)數(shù)量；yjk(t)代表t時(shí)刻物理機(jī)節(jié)點(diǎn)j執(zhí)行任務(wù)k時(shí)被占用的資源；m和n分別為容器i和節(jié)點(diǎn)j的數(shù)量。

為了避免物理機(jī)節(jié)點(diǎn)資源的浪費(fèi)，必須保證每個(gè)節(jié)點(diǎn)都在執(zhí)行任務(wù)，因此物理機(jī)節(jié)點(diǎn)執(zhí)行任務(wù)結(jié)束的時(shí)間要大于節(jié)點(diǎn)開(kāi)始執(zhí)行的時(shí)間。當(dāng)任務(wù)較多時(shí)，物理機(jī)節(jié)點(diǎn)被占用的資源要大于節(jié)點(diǎn)剩余的可利用資源，讓資源充分利用。根據(jù)1.1節(jié)的容器云隊(duì)列在線任務(wù)模型可知，避免發(fā)生任務(wù)擁堵問(wèn)題需要對(duì)容器云隊(duì)列在線任務(wù)進(jìn)行動(dòng)態(tài)分配，容器云隊(duì)列長(zhǎng)度要小于物理機(jī)節(jié)點(diǎn)處理能力。為了讓執(zhí)行費(fèi)用的分配更加公平合理，不能讓單容器消耗所有費(fèi)用，因此單容器分配費(fèi)用需要小于容器分配總執(zhí)行費(fèi)用。

1.4 長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)求解多目標(biāo)函數(shù)

在1.3節(jié)設(shè)置的約束條件下，利用長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)對(duì)多目標(biāo)函數(shù)進(jìn)行求解，這是容器云隊(duì)列在線任務(wù)動(dòng)態(tài)分配方法研究的最后一步，也是核心步驟[15]。

與循環(huán)神經(jīng)網(wǎng)絡(luò)相比，長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)能力更強(qiáng)，其結(jié)構(gòu)模型如圖2所示[16]。

圖2 長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)模型

長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)主要包含3個(gè)門(mén)，即輸入門(mén)、遺忘門(mén)和輸出門(mén)[17]。當(dāng)原始信息通過(guò)輸入門(mén)進(jìn)入到長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)模型當(dāng)中，同時(shí)輸入給Cell節(jié)點(diǎn)和遺忘門(mén)。每個(gè)Cell節(jié)點(diǎn)利用遺傳算法計(jì)算最佳時(shí)間步長(zhǎng)、神經(jīng)網(wǎng)絡(luò)單元的數(shù)量以及單位時(shí)間3個(gè)參數(shù)，優(yōu)化訓(xùn)練模型；同時(shí)原始數(shù)據(jù)在經(jīng)過(guò)遺忘門(mén)篩選后，留下有價(jià)值的信息，通過(guò)輸出門(mén)輸出[18]。下面針對(duì)長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)中3個(gè)門(mén)在任務(wù)分配多目標(biāo)函數(shù)求解中的具體工作進(jìn)行分析。

1)輸入門(mén)。

輸入門(mén)是信息進(jìn)入長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)中唯一的窗口，其作用是賦予容器隊(duì)列任務(wù)分配相關(guān)參數(shù)進(jìn)入長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)的權(quán)限以及對(duì)輸入信息的更新[19]。在任務(wù)分配相關(guān)參數(shù)經(jīng)過(guò)輸入門(mén)之后，得到結(jié)果。

2)遺忘門(mén)。

遺忘門(mén)是長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)中核心部分。該部分蘊(yùn)含了很多過(guò)濾規(guī)則，用于信息篩選，決定什么信息是有價(jià)值的，什么信息應(yīng)該是丟棄的[20]。在遺忘門(mén)中，除了包含1.3節(jié)設(shè)置的約束條件外，還有一個(gè)偏置項(xiàng)，在空間任何維度，都可以進(jìn)行遺忘門(mén)決策。

3)輸出門(mén)。

輸出門(mén)是結(jié)果輸出的窗口，主要是通過(guò)將前一狀態(tài)值、遺忘門(mén)概率結(jié)果，通過(guò)激勵(lì)函數(shù)，輸出最終的結(jié)果，即容器云隊(duì)列在線任務(wù)動(dòng)態(tài)分配方案[21]。

在利用長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)求解多目標(biāo)函數(shù)中，有一個(gè)關(guān)鍵問(wèn)題需要解決，即在求解前需要對(duì)每個(gè)Cell節(jié)點(diǎn)設(shè)置3個(gè)關(guān)鍵參數(shù)，即timesteps(時(shí)間步長(zhǎng))、units(神經(jīng)網(wǎng)絡(luò)單元的數(shù)量)、predictsteps(預(yù)測(cè)多少單位時(shí)間)。這3個(gè)參數(shù)直接關(guān)系到長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)的運(yùn)行效率和精度[22-24]。在以往運(yùn)算中，通常需要反復(fù)嘗試，才能找到一定范圍內(nèi)的最優(yōu)的參數(shù)值，不僅運(yùn)算量大，速度也慢。針對(duì)這種情況，本文通過(guò)遺傳算法求解這3個(gè)參數(shù)，以期提高多目標(biāo)函數(shù)的求解精度。具體過(guò)程如圖3所示。

首先初始化系統(tǒng)，并輸入基礎(chǔ)數(shù)據(jù)，進(jìn)行標(biāo)準(zhǔn)化和數(shù)據(jù)清洗處理。然后對(duì)timesteps、units、predictsteps這3個(gè)參數(shù)進(jìn)行編碼，設(shè)置種群相關(guān)參數(shù)，將3個(gè)參數(shù)解碼轉(zhuǎn)換成十進(jìn)制值形式。其次，確定長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)。接著，將3個(gè)參數(shù)輸入到長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)中，進(jìn)行前向運(yùn)行與反向傳播訓(xùn)練。然后，判斷訓(xùn)練結(jié)果是否滿足約束終止條件，若不滿足，則繼續(xù)訓(xùn)練；若滿足，計(jì)算模型輸出值與預(yù)期值之間的均方根誤差作為適度值，公式為：

(3)

式(3)中，i=1,2,…,n表示反向傳播訓(xùn)練次數(shù)；YS表示模型輸出值；YK表示模型預(yù)期值。最后，根據(jù)種群規(guī)模判斷適度值是否滿足結(jié)束條件，若滿足，輸出timesteps、units、predictsteps；否則，獲得參數(shù)編碼階段，進(jìn)行遺傳操作。

通過(guò)以上遺傳算法的操作[25-27]，得出最佳timesteps、units、predictsteps這3個(gè)參數(shù)，提高了LSTM運(yùn)行精度，使得求解分配方案更加合理。

2 仿真測(cè)試與分析

為測(cè)試基于長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)的方法在容器云隊(duì)列在線任務(wù)動(dòng)態(tài)分配求解中的應(yīng)用效果，判斷求解方案是否可以達(dá)到最優(yōu)，以文獻(xiàn)[2]方法和文獻(xiàn)[3]方法作為對(duì)比方法。整個(gè)仿真測(cè)試以MATLAB軟件作為輔助工具。

2.1 仿真測(cè)試環(huán)境

方法運(yùn)行的測(cè)試環(huán)境為一個(gè)容器云平臺(tái)，平臺(tái)的軟硬件環(huán)境參數(shù)如表1所示。

表1 實(shí)驗(yàn)軟硬件環(huán)境參數(shù)

實(shí)驗(yàn)采用真實(shí)的維基媒體云計(jì)算服務(wù)網(wǎng)絡(luò)任務(wù)負(fù)載24 h的數(shù)據(jù)(https://dumps.wikimedia.org/)進(jìn)行仿真，該數(shù)據(jù)實(shí)時(shí)記錄了每個(gè)小時(shí)網(wǎng)絡(luò)終端用戶訪問(wèn)維基媒體云服務(wù)的任務(wù)數(shù)。

為了模擬實(shí)際情況中大規(guī)模并發(fā)場(chǎng)景，在該容器云平臺(tái)上，依次設(shè)置了不同容器數(shù)量和物理機(jī)節(jié)點(diǎn)數(shù)量。容器與物理機(jī)節(jié)點(diǎn)相關(guān)參數(shù)設(shè)置如表2所示。

表2 容器與物理機(jī)節(jié)點(diǎn)相關(guān)參數(shù)設(shè)置

本文使用的物理機(jī)節(jié)點(diǎn)數(shù)量是根據(jù)實(shí)際情況中大規(guī)模并發(fā)場(chǎng)景選取的最常用物理機(jī)節(jié)點(diǎn)數(shù)量。

2.2 LSTM相關(guān)參數(shù)設(shè)置與訓(xùn)練

LSTM求解時(shí)，設(shè)置的相關(guān)參數(shù)如下：

?timesteps(時(shí)間步長(zhǎng))：35；

?units：185；

?predictsteps：50；

?訓(xùn)練精度：0.001；

?LSTM最大迭代次數(shù)：1000；

?遺傳算法的最大迭代次數(shù)：100；

?種群規(guī)模：50，100，200，500；

?交叉率：0.52；

?變異率：0.01；

?染色體長(zhǎng)度：6+6+8。

借助500個(gè)訓(xùn)練集樣本對(duì)LSTM進(jìn)行訓(xùn)練。

2.3 評(píng)價(jià)指標(biāo)

對(duì)求解得出的容器云隊(duì)列在線任務(wù)動(dòng)態(tài)分配方案進(jìn)行評(píng)價(jià)的指標(biāo)有4個(gè)，即分配合理性、資源均衡度、最長(zhǎng)隊(duì)列長(zhǎng)度以及能耗。

1)分配合理性。

分配合理性ω是指容器分配到物理機(jī)節(jié)點(diǎn)的方案合理性得分，即多目標(biāo)優(yōu)化方案的分配合理性，計(jì)算公式如下：

(4)

其中，k代表任務(wù)節(jié)點(diǎn)。

2)資源均衡度。

(5)

式中：Ei代表容器i對(duì)CPU資源的需求；N代表物理機(jī)節(jié)點(diǎn)數(shù)量；D代表物理機(jī)節(jié)點(diǎn)處理能力即動(dòng)態(tài)分配能力。

表2中已列出了物理機(jī)節(jié)點(diǎn)處理能力D、單個(gè)容器分配執(zhí)行費(fèi)用。

3)最長(zhǎng)隊(duì)列長(zhǎng)度。

最長(zhǎng)隊(duì)列長(zhǎng)度ψmax是指按照分配方案分配后，容器等待分配的隊(duì)列最長(zhǎng)的長(zhǎng)度值，計(jì)算公式為：

ψmax=(Tj′-Tj)·ψ

(6)

4)能耗值。

能耗值υ是指按照分配方案分配后，物理機(jī)節(jié)點(diǎn)的能耗值，根據(jù)公式(1)～公式(3)，計(jì)算公式如下：

υ=N(Aj,max-Aj,p)

(7)

式中，Aj,p代表物理機(jī)節(jié)點(diǎn)j的空閑能耗；Aj,max代表物理機(jī)節(jié)點(diǎn)j的滿載能耗。

其他參數(shù)值可參照1.1節(jié)、1.2節(jié)的內(nèi)容和表2的數(shù)據(jù)計(jì)算。表2為基礎(chǔ)參數(shù)設(shè)置，本文方法、文獻(xiàn)[2]方法和文獻(xiàn)[3]方法這3種方法的分配方式不同，因此無(wú)法在參數(shù)設(shè)置中提前賦值公式(1)～公式(4)中的所有參數(shù)。

2.4 結(jié)果與分析

分別利用本文方法、文獻(xiàn)[2]方法和文獻(xiàn)[3]方法得出分配方案，然后按照分配方案進(jìn)行容器云隊(duì)列在線任務(wù)分配到物理機(jī)節(jié)點(diǎn)上，比較物理機(jī)節(jié)點(diǎn)相關(guān)參數(shù)和仿真平臺(tái)測(cè)得的數(shù)據(jù)，利用上述公式獲得3種方法分配方案的物理機(jī)節(jié)點(diǎn)分配合理性、資源均衡度、最長(zhǎng)隊(duì)列長(zhǎng)度以及能耗值，結(jié)果如表3所示。

表3 分配合理性、資源均衡度、最長(zhǎng)隊(duì)列長(zhǎng)度和能耗值

從表3中可以看出，本文方法求出的分配方案應(yīng)用下，分配合理性、資源均衡度、最長(zhǎng)隊(duì)列長(zhǎng)度以及能耗值表現(xiàn)均要好于其他2種分配方案的應(yīng)用效果，說(shuō)明本文方法的分配方案更加合理。這是因?yàn)樵摲椒ㄍㄟ^(guò)長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)求解任務(wù)動(dòng)態(tài)分配目標(biāo)函數(shù)，多目標(biāo)函數(shù)聯(lián)合應(yīng)用下，使得云計(jì)算效果滿足資源調(diào)度過(guò)程中的任何要求，反應(yīng)過(guò)程更加迅速，分配合理性逐漸擴(kuò)大，降低了任務(wù)阻塞現(xiàn)象，提高了任務(wù)處理效率。

3 結(jié)束語(yǔ)

本文提出一種基于長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)的容器云隊(duì)列在線任務(wù)動(dòng)態(tài)分配方法，通過(guò)長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)求解任務(wù)動(dòng)態(tài)分配目標(biāo)函數(shù)，逐漸完善分配方案，使得出的分配方案更加合理。然而，本文所使用的容器/物理機(jī)數(shù)量較少，因此有待擴(kuò)大容器/物理機(jī)數(shù)量，在未來(lái)的仿真平臺(tái)中，將對(duì)其進(jìn)行進(jìn)一步的深入研究。