陳 彧，楊媛媛

(武漢理工大學(xué) 理學(xué)院，湖北 武漢 430070)

0 引 言

代理模型輔助的進(jìn)化算法(surrogate-assisted evolutionary algorithm，SAEA)在昂貴單目標(biāo)和多目標(biāo)優(yōu)化問(wèn)題中得到了廣泛的應(yīng)用[1,2]，代理模型的選擇、構(gòu)建和管理是SAEA的設(shè)計(jì)和應(yīng)用中的關(guān)鍵技術(shù)問(wèn)題[3]。為克服單一代理模型的缺陷和不足，Sun等[4]采用多代理模型提高代理模型的評(píng)價(jià)精度。為減少多代理模型導(dǎo)致的計(jì)算量的增加，Shu等[5]采用多精度模型來(lái)實(shí)現(xiàn)迭代過(guò)程的探索和開(kāi)發(fā)需求，Yu等[6]則通過(guò)動(dòng)態(tài)模型選擇策略構(gòu)建低復(fù)雜度的面向搜索需求的代理模型。在訓(xùn)練數(shù)據(jù)集的擴(kuò)展方法方面，Tian等[7]采用多目標(biāo)加點(diǎn)準(zhǔn)則進(jìn)行訓(xùn)練數(shù)據(jù)選擇，可以在互相矛盾的需求中取得較好的折衷。Wang等[8]根據(jù)進(jìn)化算法的全局探索和局部開(kāi)發(fā)需求分別構(gòu)建代理模型，但未對(duì)訓(xùn)練數(shù)據(jù)進(jìn)行篩選，從而導(dǎo)致了模型訓(xùn)練過(guò)程時(shí)間復(fù)雜度的無(wú)限增長(zhǎng)。

針對(duì)SAEA研究中的技術(shù)難題，本文提出了一種基于聚類(lèi)的代理模型構(gòu)建策略(clustering-based construction strategy of surrogate models，CCS-SM)。該策略采用了多代理集成模型的動(dòng)態(tài)選擇技術(shù)，利用聚類(lèi)方法選擇多精度模型的訓(xùn)練數(shù)據(jù)，并設(shè)計(jì)了面向搜索需求的加點(diǎn)準(zhǔn)則。數(shù)值實(shí)驗(yàn)結(jié)果表明，基于CCS-SM策略的代理模型輔助粒子群優(yōu)化算法(particle swarm optimization assisted by surrogates based on clustering，PSO-ASC)時(shí)間復(fù)雜度低，收斂速度快；另外，以基于CCS-SM的粒子群優(yōu)化(particle swarm optimization，PSO)搜索作為一種加速策略，可以大大提高混合變量多目標(biāo)進(jìn)化算法(mixed-variable multiobjective evolutionary algorithm，MV-MOEA)的收斂性能。

1 基于聚類(lèi)的代理模型構(gòu)建策略(CCS-SM)

為實(shí)現(xiàn)基于代理模型的全局搜索和局部開(kāi)發(fā)，需要構(gòu)建全局代理模型和局部代理模型。本文提出了一種基于聚類(lèi)的代理模型構(gòu)建策略(CCS-SM)。

首先，通過(guò)聚類(lèi)算法實(shí)現(xiàn)對(duì)搜索空間的自適應(yīng)劃分。本文采用K-means聚類(lèi)算法來(lái)將已經(jīng)得到的所有數(shù)據(jù)點(diǎn)分為N個(gè)數(shù)據(jù)類(lèi)C1,C2,…,CN。

其次，基于聚類(lèi)結(jié)果來(lái)構(gòu)建全局代理模型?？紤]到數(shù)據(jù)集中數(shù)據(jù)點(diǎn)的分布存在不確定性且代理模型本身存在近似誤差，為得到能夠刻畫(huà)優(yōu)化問(wèn)題全局走勢(shì)的全局代理模型，分別從C1,C2,…,CN中隨機(jī)選擇一個(gè)數(shù)據(jù)點(diǎn)來(lái)構(gòu)成訓(xùn)練全局模型的訓(xùn)練數(shù)據(jù)集，試圖通過(guò)數(shù)據(jù)點(diǎn)位置的隨機(jī)性來(lái)削弱代理模型近似誤差對(duì)全局搜索的不利影響。

同時(shí)，基于聚類(lèi)結(jié)果構(gòu)建局部代理模型?？紤]到全局最優(yōu)解以較大的概率存在于當(dāng)前所搜索到的數(shù)據(jù)點(diǎn)中適應(yīng)值較好的數(shù)據(jù)類(lèi)附近，以Ci(i=1,…,N)中各數(shù)據(jù)點(diǎn)的最佳適應(yīng)值作為類(lèi)Ci的適應(yīng)值，通過(guò)輪盤(pán)賭方式選擇Ci0類(lèi)數(shù)據(jù)所在的區(qū)域作為局部搜索區(qū)域。若Ci0類(lèi)中的數(shù)據(jù)點(diǎn)個(gè)數(shù)M大于等于N，則選擇適應(yīng)值最好的N個(gè)數(shù)據(jù)點(diǎn)訓(xùn)練代理模型；否則，再?gòu)钠渌麼-1個(gè)類(lèi)中選擇適應(yīng)值最好的N-M個(gè)點(diǎn)，并在此基礎(chǔ)上構(gòu)建局部代理模型。

CCS-SM策略基于已有數(shù)據(jù)的聚類(lèi)結(jié)果來(lái)構(gòu)建全局和局部代理模型，對(duì)構(gòu)建模型的數(shù)據(jù)集合規(guī)模進(jìn)行了控制，降低了代理模型的訓(xùn)練和評(píng)價(jià)過(guò)程的時(shí)間復(fù)雜度；通過(guò)采樣不同類(lèi)的數(shù)據(jù)來(lái)構(gòu)建的全局模型可以較好刻畫(huà)待優(yōu)化問(wèn)題的全局適應(yīng)值地形，而基于同一類(lèi)的數(shù)據(jù)來(lái)構(gòu)建的局部代理模型則具有較好的局部近似精度，能夠?qū)崿F(xiàn)低復(fù)雜度的高精度局部開(kāi)發(fā)。因此，CCS-SM在對(duì)時(shí)間復(fù)雜度進(jìn)行精確控制的前提下提高了全局代理模型和局部代理模型的構(gòu)建效率，有望大大提高SAEA的收斂效率。

2 基于聚類(lèi)的代理模型輔助粒子群優(yōu)化算法(PSO-ASC)

基于CCS-SM策略的代理模型構(gòu)建和管理模式，本文提出了一種基于聚類(lèi)的代理模型輔助粒子群優(yōu)化算法(PSO-ASC)。

2.1 PSO-ASC的集成代理模型

由于每一種代理模型具有各自的優(yōu)缺點(diǎn)，PSO-ASC中采用3個(gè)典型的異構(gòu)模型進(jìn)行集成[8]：

2.2 PSO-ASC的搜索策略

對(duì)于最小化問(wèn)題minf(x)，PSO-ASC通過(guò)在3種不同的搜索模式之間進(jìn)行切換來(lái)實(shí)現(xiàn)基于代理模型的啟發(fā)式搜索。

2.2.1 搜索模式一

(1)

作為最大化的目標(biāo)函數(shù)，利用PSO尋找集成代理模型評(píng)價(jià)的不確定性較大的點(diǎn)。對(duì)PSO搜索得到的最優(yōu)結(jié)果進(jìn)行精確評(píng)價(jià)，并將其加入數(shù)據(jù)集中。

2.2.2 搜索模式二

利用代理模型加速收斂，構(gòu)建能夠較好刻畫(huà)優(yōu)化函數(shù)的全局適應(yīng)值地形的全局代理模型。通過(guò)CCS-SM的全局策略選擇構(gòu)建全局代理模型的N個(gè)數(shù)據(jù)點(diǎn)，并從3個(gè)代理模型中隨機(jī)選擇一種作為全局代理模型

(2)

式中：j為1-3的隨機(jī)整數(shù)?；谒⒌娜执砟Ｐ?2)，利用PSO尋找全局代理模型評(píng)價(jià)目標(biāo)函數(shù)值較小的點(diǎn)。對(duì)PSO算法得到的結(jié)果進(jìn)行精確評(píng)價(jià)，將其加入數(shù)據(jù)集中。

2.2.3 搜索模式三

利用局部代理模型進(jìn)行局部開(kāi)發(fā)，建立盡可能精確的局部代理模型。通過(guò)CCS-SM策略的局部策略選擇構(gòu)建局部代理模型的N個(gè)數(shù)據(jù)點(diǎn)，以模型(2)作為最小化的目標(biāo)函數(shù)，利用PSO進(jìn)行基于代理模型的局部搜索。對(duì)PSO搜索到的最終結(jié)果進(jìn)行精確評(píng)價(jià)，并將其加入數(shù)據(jù)集中。

2.3 PSO-ASC算法的迭代過(guò)程

基于上述3種搜索模式，本文提出了一種基于聚類(lèi)的代理模型輔助粒子群優(yōu)化算法(PSO-ASC)。基于圖1所示的算法框架，PSO-ASC的具體迭代過(guò)程如下：

圖1 PSO-ASC算法框架

(1)采用拉丁超立方抽樣(Latin hypercube sampling，LHS)生成種群規(guī)模P=P0的初始種群，并對(duì)其進(jìn)行精確評(píng)價(jià)；將其加入檔案數(shù)據(jù)集Dt，其中P表示數(shù)據(jù)集的規(guī)模。

(2)根據(jù)模式一從Dt中選擇N個(gè)數(shù)據(jù)點(diǎn)訓(xùn)練全局代理模型；采用LHS重新產(chǎn)生N個(gè)數(shù)據(jù)點(diǎn)生成初始種群，以式(1)的函數(shù)最大化作為優(yōu)化目標(biāo)，采用PSO算法進(jìn)行迭代優(yōu)化；對(duì)PSO優(yōu)化的結(jié)果進(jìn)行精確的個(gè)體評(píng)價(jià)，并將其加入Dt中，得到新的數(shù)據(jù)集Dt+1；

(3)根據(jù)模式二的策略從Dt+1中選擇N個(gè)數(shù)據(jù)點(diǎn)訓(xùn)練全局代理模型；采用LHS重新產(chǎn)生N個(gè)數(shù)據(jù)點(diǎn)生成初始種群，以式(2)中的函數(shù)最小化作為優(yōu)化目標(biāo)，采用PSO算法進(jìn)行迭代優(yōu)化；對(duì)PSO搜索得到的結(jié)果進(jìn)行精確的個(gè)體評(píng)價(jià)，并將其加入Dt+1，得到新的數(shù)據(jù)集Dt+2；

(4)令t=t+2；如果t≥tmax，算法結(jié)束；否則，如果Dt中的最佳適應(yīng)值得到改進(jìn)，則轉(zhuǎn)到(2)；如果Dt中的最佳適應(yīng)值未得到改進(jìn)，則轉(zhuǎn)到(5)；

(5)根據(jù)模式三的策略從Dt中選擇N個(gè)數(shù)據(jù)點(diǎn)訓(xùn)練全局代理模型。采用LHS重新產(chǎn)生N個(gè)數(shù)據(jù)點(diǎn)作為初始種群，以式(2)中的函數(shù)最小化作為優(yōu)化目標(biāo)，采用PSO算法進(jìn)行迭代優(yōu)化；對(duì)PSO搜索得到的結(jié)果進(jìn)行精確的個(gè)體評(píng)價(jià)，并將其加入Dt中得到新的數(shù)據(jù)集Dt+1；

(6)令t=t+1；如果t≥tmax，算法結(jié)束；如果Dt的種群適應(yīng)值得到改進(jìn)，則轉(zhuǎn)到(5)，否則轉(zhuǎn)到(2)。

2.4 數(shù)值實(shí)驗(yàn)

2.4.1 參數(shù)設(shè)置

為驗(yàn)證本文所提出的PSO-ASC算法的有效性，我們通過(guò)表1所示的5個(gè)標(biāo)準(zhǔn)測(cè)試函數(shù)將其與CAL-SAPSO的實(shí)驗(yàn)結(jié)果進(jìn)行了比較。兩個(gè)算法都采用了同樣的參數(shù)設(shè)置：對(duì)于問(wèn)題規(guī)模為d的測(cè)試問(wèn)題，初始數(shù)據(jù)集規(guī)模設(shè)為N=5d，個(gè)體精確評(píng)價(jià)次數(shù)上限為11d；在基于代理模型的PSO搜索中，種群規(guī)模為50，迭代次數(shù)為100。為了對(duì)比兩個(gè)算法在不同規(guī)模的測(cè)試問(wèn)題的求解效率，對(duì)于每個(gè)測(cè)試問(wèn)題都對(duì)比了d=10，20，30這3種情況。

表1 測(cè)試問(wèn)題

2.4.2 結(jié)果分析

為驗(yàn)證算法PSO-ASC的有效性，本文通過(guò)數(shù)值實(shí)驗(yàn)將其與4種有代表性的經(jīng)典SAEAs進(jìn)行了比較。其中，GPEME[9]和MAES-ExI[10]均以Kriging模型作為代理模型，分別采用置信下界(lower confidence bound，LCB)和期望改進(jìn)量(expected improvement，ExI)作為精確評(píng)價(jià)及加點(diǎn)準(zhǔn)則；WTA1[11]和GS-SOMA[12]均采用了多項(xiàng)式回歸(polynomial regression，PR)、徑向基函數(shù)(radial basis function，RBF)網(wǎng)絡(luò)和Kriging模型構(gòu)成的集成模型，而GS-SOMA還額外采用了一個(gè)PR模型來(lái)對(duì)數(shù)據(jù)進(jìn)行光滑處理。對(duì)每一個(gè)測(cè)試問(wèn)題獨(dú)立運(yùn)行PSO-ASC 20次，5種算法所得到的目標(biāo)函數(shù)平均值與標(biāo)準(zhǔn)差見(jiàn)表2，其中黑體表示所有算法比較的最佳結(jié)果。除了Rosenbrock函數(shù)外，PSO-ASC的平均結(jié)果大多優(yōu)于其它算法，但運(yùn)行結(jié)果的標(biāo)準(zhǔn)差卻往往略差，特別是對(duì)于Rosenbrock函數(shù)的優(yōu)化結(jié)果平均值與標(biāo)準(zhǔn)差均高于GS-SOMA。考慮到Rosenbrock函數(shù)的適應(yīng)值地形具有狹長(zhǎng)的平緩波谷，對(duì)優(yōu)化算法的種群多樣性的要求更高，而GS-SOMA能夠更好的在收斂過(guò)程中保持種群多樣性，故在Rosenbrock函數(shù)的優(yōu)化問(wèn)題上表現(xiàn)更好。

表2 PSO-ASC與GPEME、MAES-ExI、WTA1和GS-SOMA的運(yùn)行結(jié)果(平均值±標(biāo)準(zhǔn)差)比較

需要注意的是，由于PSO-ASC的設(shè)計(jì)初衷是對(duì)精確評(píng)價(jià)尤其困難的數(shù)據(jù)驅(qū)動(dòng)優(yōu)化問(wèn)題進(jìn)行高效優(yōu)化，故采用了與以上算法不同的基于代理模型評(píng)價(jià)結(jié)果的連續(xù)多次迭代模式。為了更進(jìn)一步發(fā)掘PSO-ASC中的CCS-SM策略的優(yōu)勢(shì)和不足，我們將其與CAL-SAPSO算法[8]進(jìn)行了比較。CAL-SAPSO采用了與PSO-ASC類(lèi)似的迭代模式，但其采用集成模型對(duì)個(gè)體進(jìn)行近似評(píng)價(jià)，且將所有已有的數(shù)據(jù)點(diǎn)作為訓(xùn)練數(shù)據(jù)來(lái)構(gòu)建代理模型。

對(duì)每個(gè)測(cè)試問(wèn)題獨(dú)立運(yùn)行20次，分別計(jì)算20次迭代過(guò)程中每一代的目標(biāo)函數(shù)平均值，可以得到算法的收斂曲線。將PSO-ASC和CALS-SAPSO分別求解d=10，20，30的5種測(cè)試問(wèn)題，可以得到圖2所示的Ackley函數(shù)的收斂曲線、圖3所示的Ellipsoid函數(shù)收斂曲線、圖4所示的Griewank函數(shù)收斂曲線、圖5所示的Rastrigin函數(shù)收斂曲線及圖6所示的Rosenbrock函數(shù)收斂曲線。由于兩種算法采用了相同的初始化模式，在1～5d次個(gè)體評(píng)價(jià)的收斂曲線大致相同。從第5d+1次精確評(píng)價(jià)開(kāi)始，CAL-SAPSO算法的收斂曲線瞬間發(fā)生了大幅下降，在迭代中期的快速收斂以后，迭代后期迭代曲線趨于平穩(wěn)，收斂過(guò)程出現(xiàn)停滯；相對(duì)而言，PSO-ASC算法的下降過(guò)程則是連續(xù)的，在迭代中期下降速度比CAL-SAPSO算法慢，但卻能夠在迭代后期保持適應(yīng)值的持續(xù)下降，最終得到比CAL-SAPSO算法更好的收斂結(jié)果。由于CAL-SAPSO算法采用所有的數(shù)據(jù)點(diǎn)來(lái)構(gòu)建代理模型，可以在迭代中期引導(dǎo)算法的快速收斂；然而，倘若迭代前期所得到的數(shù)據(jù)點(diǎn)的分布具有局限性，則可能導(dǎo)致CAL-SAPSO在中期所得到的數(shù)據(jù)點(diǎn)大多集中于某個(gè)區(qū)域附近。到了迭代后期，處于這個(gè)區(qū)域的數(shù)據(jù)點(diǎn)規(guī)模較大時(shí)，在代理模型的構(gòu)建過(guò)程中就會(huì)處于主導(dǎo)地位，導(dǎo)致迭代后期算法一直在這一區(qū)域進(jìn)行搜索。倘若這一區(qū)域是局部最優(yōu)解的吸引區(qū)域，則會(huì)出現(xiàn)圖3和圖4中所示的停滯現(xiàn)象。而PSO-ASC算法在迭代搜索過(guò)程中總是根據(jù)聚類(lèi)結(jié)果來(lái)選擇數(shù)據(jù)構(gòu)建代理模型，在迭代中期聚類(lèi)結(jié)果隨著迭代過(guò)程的推進(jìn)變化較大，因此基于代理模型的搜索過(guò)程主要關(guān)注于全局探索，最佳適應(yīng)值的變化速度較慢；因此，PSO-ASC算法得到的數(shù)據(jù)集具有更好的多樣性，在迭代后期則能更好的克服局部最優(yōu)解的吸引，最終得到更加精確的近似最優(yōu)解。

圖2 CAL-SAPSO、PSO-ASC優(yōu)化d=10,20,30的Ackley函數(shù)的收斂曲線

圖3 CAL-SAPSO、PSO-ASC優(yōu)化d=10,20,30的Ellipsoid函數(shù)的收斂曲線

圖4 CAL-SAPSO、PSO-ASC優(yōu)化d=10,20,30的Griewank函數(shù)的收斂曲線

圖5 CAL-SAPSO、PSO-ASC優(yōu)化d=10,20,30的Rastrigin函數(shù)的收斂曲線

圖6 CAL-SAPSO、PSO-ASC優(yōu)化d=10,20,30的Rosenbrock函數(shù)的收斂曲線

考慮兩種算法獨(dú)立運(yùn)行20次所得到的最終狀態(tài)，其運(yùn)行結(jié)果平均值、中位數(shù)、標(biāo)準(zhǔn)差，以及兩種算法的平均運(yùn)行時(shí)間見(jiàn)表3。表3中的對(duì)比結(jié)果表明，PSO-ASC算法求解測(cè)試問(wèn)題的最終結(jié)果的平均值和中位數(shù)均優(yōu)于CAL-SAPSO算法。由于PSO-ASC在迭代中期的全局搜索過(guò)程得到了分布更好的數(shù)據(jù)點(diǎn)集，算法能更好地克服全局最優(yōu)解的吸引，從而可以得到更精確的全局最優(yōu)解。因此，PSO-ASC算法需要更多的迭代預(yù)算來(lái)實(shí)現(xiàn)種群的收斂，在迭代次數(shù)還不能達(dá)到其種群收斂要求的情況下，PSO-ASC算法求解結(jié)果的標(biāo)準(zhǔn)差會(huì)略高于CAL-SAPSO。然而PSO-ASC算法對(duì)代理模型的構(gòu)建數(shù)據(jù)集規(guī)模進(jìn)行了控制，在搜索模式二和模式三中均隨機(jī)采用集成模型中的一種模型進(jìn)行評(píng)價(jià)，與CAL-SAPSO算法相比雖然所構(gòu)建的代理模型精度略微下降，但基于代理模型的搜索過(guò)程的時(shí)間復(fù)雜度卻大大降低。因此，PSO-ASC最終結(jié)果以標(biāo)準(zhǔn)差略大的代價(jià)，獲得了更低的時(shí)間復(fù)雜度，其整體性能優(yōu)于CAL-SAPSO。

表3 PSO-ASC與CAL-SAPSO對(duì)測(cè)試問(wèn)題的運(yùn)行結(jié)果比較

3 代理模型輔助的混合變量進(jìn)化算法(SaMV-MOEA)及其在S-系統(tǒng)推斷中的應(yīng)用

3.1 非線性S-系統(tǒng)及其雙目標(biāo)優(yōu)化模型

非線性S-系統(tǒng)是一種能夠較好地刻畫(huà)生化反應(yīng)的非線性動(dòng)力學(xué)性質(zhì)的微分方程模型。有N種物質(zhì)參與反應(yīng)的生化網(wǎng)絡(luò)S-系統(tǒng)如下

式中：Xi為第i中反應(yīng)物的濃度，αi,βi,gij,hij為模型參數(shù)。然而，S-系統(tǒng)中的模型參數(shù)較多，變量Xi對(duì)模型參數(shù)的適應(yīng)度地形非常復(fù)雜，而在最優(yōu)參數(shù)值附近反應(yīng)物Xi的濃度對(duì)參數(shù)又極不敏感，因此對(duì)稀疏S-系統(tǒng)的推斷非常困難。文獻(xiàn)[13]采用二進(jìn)制變量刻畫(huà)生化網(wǎng)絡(luò)的網(wǎng)絡(luò)連接關(guān)系，構(gòu)建了推斷S-系統(tǒng)的N個(gè)方程進(jìn)行逐個(gè)推斷的雙目標(biāo)優(yōu)化模型

minF(θi)=(err(θi),L0(θi))

(3)

式中：θi=(αi,βi,gi1,…,giN,hi1,…,hiN)為第i個(gè)方程的參數(shù)向量，err(θi)為根據(jù)參數(shù)向量θi所計(jì)算出的數(shù)據(jù)擬合誤差，L0(θi)為參數(shù)向量θi的L0范數(shù)。為了更加容易得到稀疏的網(wǎng)絡(luò)連接，采用二進(jìn)制向量表示網(wǎng)絡(luò)連接，實(shí)數(shù)變量表示具體的參數(shù)值，并設(shè)計(jì)了混合變量的多目標(biāo)進(jìn)化算法(mixed-variable multiobjective evolutionary algorithm，MV-MOEA)對(duì)S-系統(tǒng)來(lái)進(jìn)行求解。在對(duì)表4中的S-系統(tǒng)的每個(gè)微分方程進(jìn)行逐個(gè)推斷的數(shù)值實(shí)驗(yàn)中，MV-MOEA在2000次個(gè)體評(píng)價(jià)以后得到了更精確的推斷結(jié)果[13]。

表4 5維S-系統(tǒng)的模型參數(shù)

3.2 代理模型輔助的混合變量進(jìn)化算法(SaMV-MOEA)

由于MV-MOEA在迭代過(guò)程中生成了大量的候選解并對(duì)其進(jìn)行了精確評(píng)價(jià)，充分利用已搜索到的歷史結(jié)果來(lái)構(gòu)建代理模型，可以提高M(jìn)V-MOEA的全局收斂速度和局部開(kāi)發(fā)能力。為此，本文將CCS-SM策略引入MV-MOEA，得到一種代理模型輔助的混合變量多目標(biāo)進(jìn)化算法(SaMV-MOEA)。

由于MV-MOEA采用了不同的方式來(lái)生成候選解中的二進(jìn)制串和實(shí)數(shù)向量，在通過(guò)變異生成二進(jìn)制串以后，可以采用代理模型來(lái)提高實(shí)數(shù)向量的生成效率。首先，在MV-MOEA中增加檔案集A，保存所搜索到的所有候選解。對(duì)于檔案集A中的任意一個(gè)解x=(bx,rx)，bx為N維二進(jìn)制串，rx為N+2維實(shí)數(shù)向量。令

θ=(rx(1∶2),bx),bx?rx(3∶N+2)

(4)

式中：bx?rx(3∶N+2)表示bx與rx(3∶N+2)逐個(gè)分量相乘。于是可以得到由參數(shù)向量θ構(gòu)成的代理模型訓(xùn)練數(shù)據(jù)集Dt。

在SaMV-MOEA的新個(gè)體生成策略中，根據(jù)CCS-SM策略構(gòu)建全局或局部代理模型，并基于此代理模型進(jìn)行小種群規(guī)模，低迭代次數(shù)的PSO搜索。最后，將PSO得到的實(shí)數(shù)解向量與MV-MOEA中的變異策略生成的實(shí)數(shù)解向量分別通過(guò)式(4)和MV-MOEA的二進(jìn)制變量生成策略得到的二進(jìn)制串進(jìn)行結(jié)合，從而得到優(yōu)化模型(3)中的參數(shù)向量θ。通過(guò)err(θi)對(duì)兩個(gè)實(shí)數(shù)向量串進(jìn)行比較，將對(duì)應(yīng)的適應(yīng)值較好的實(shí)數(shù)向量作為新個(gè)體的實(shí)數(shù)向量，從而提高實(shí)數(shù)解向量的生成效率。

考慮到基于代理模型的迭代搜索過(guò)程也具有一定的時(shí)間復(fù)雜度，我們將代理模型輔助的迭代搜索的種群規(guī)模設(shè)為20，迭代次數(shù)設(shè)為50。另外，為進(jìn)行公平的比較，SaMV-MOEA和MV-MOEA的種群均設(shè)為100。對(duì)于表4中S-系統(tǒng)進(jìn)行數(shù)值實(shí)驗(yàn)，SaMV-MOEA經(jīng)過(guò)1000次迭代和MV-MOEA經(jīng)過(guò)2000次迭代的數(shù)值結(jié)果見(jiàn)表5。

表5 SaMV-MOEA與MV-MOEA對(duì)S-系統(tǒng)的推斷結(jié)果比較

數(shù)值實(shí)驗(yàn)結(jié)果表明，通過(guò)引入代理模型能夠提高實(shí)數(shù)向量的生成效率，雖然SaMV-MOEA的迭代次數(shù)只有MV-MOEA的一半，但卻得到了與其相似的推斷結(jié)果。需要特別說(shuō)明的是，對(duì)于第3個(gè)方程，SaMV-MOEA得到了比MV-MOEA更接近真實(shí)模型參數(shù)的推斷結(jié)果。這說(shuō)明在代理模型的輔助下，SaMV-MOEA對(duì)于具有平坦的適應(yīng)值地形的優(yōu)化模型具有更強(qiáng)的全局搜索能力，能夠更快地收斂到全局最優(yōu)解附近。

4 結(jié)束語(yǔ)

目前，對(duì)SAEA的研究工作主要集中于如何降低昂貴優(yōu)化問(wèn)題的精確評(píng)價(jià)次數(shù)，卻較少關(guān)注如何利用低復(fù)雜度的代理模型來(lái)提高進(jìn)化算法的收斂效率。本文提出了一種基于聚類(lèi)的代理模型構(gòu)建策略CCS-SM，并由此提出了CCS-SM策略的PSO-ASC和通過(guò)CCS-SM策略來(lái)加速收斂的SaMV-MOEA。數(shù)值實(shí)驗(yàn)結(jié)果表明，基于CCS-SM策略進(jìn)行迭代搜索的PSO-ASC和將其作為加速策略的SaMV-MOEA的優(yōu)化性能均優(yōu)于已有的算法，表明該策略是一種高效的代理模型構(gòu)建和管理策略，可以在各類(lèi)代理模型輔助的進(jìn)化算法中進(jìn)行推廣應(yīng)用。