国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

基于均值改進(jìn)控制策略的昂貴約束并行代理優(yōu)化算法

2021-07-01 09:38林成龍馬義中肖甜麗
控制理論與應(yīng)用 2021年6期
關(guān)鍵詞:單點均值代理

林成龍,馬義中,肖甜麗

(南京理工大學(xué)經(jīng)濟管理學(xué)院,江蘇南京 210094)

1 引言

隨著計算機仿真建模軟件中的有限元分析,計算流體力學(xué)等技術(shù)在航空航天、產(chǎn)品優(yōu)化設(shè)計及可靠性工程等領(lǐng)域的廣泛應(yīng)用,高精度仿真建模方法減少實物試驗成本的同時有效提升了產(chǎn)品質(zhì)量特性[1-2].但隨著市場對產(chǎn)品更新速度和產(chǎn)品質(zhì)量要求的不斷提高,完全依靠仿真建模技術(shù)進(jìn)行設(shè)計和驗證往往需要耗費大量時間成本.例如,福特汽車進(jìn)行一次碰撞仿真試驗需要36~120 h,那么進(jìn)行100次就至少需要5個月的時間[3].盡管計算機計算能力大幅度提升,但如果碰撞試驗在10種方案下進(jìn)行,那么重復(fù)100次試驗需要4年多的時間,這對企業(yè)而言是難以承受的昂貴時間.對于實際中的工程優(yōu)化和產(chǎn)品設(shè)計優(yōu)化,僅依靠有限試驗數(shù)據(jù)近似建模難以保證代理模型預(yù)測精度.所以采用高效空間填充策略增加新增試驗點,實現(xiàn)代理模型重構(gòu)對提升模型精度及優(yōu)化效率至關(guān)重要.此外,大量封裝的商用仿真軟件無法修改且難以獲得設(shè)計變量和質(zhì)量目標(biāo)之間的內(nèi)在關(guān)系,這種黑箱特性給優(yōu)化和分析帶來了極大困難[4].綜上,為了減少昂貴仿真的計算次數(shù)和仿真試驗成本,采用有限試驗數(shù)據(jù)建立初始代理模型,選取高效的填充策略實現(xiàn)工程問題的并行代理優(yōu)化(parallel surrogate-based optimization,PSBO)研究成為熱點[1,5-6].

并行代理優(yōu)化算法是基于真實試驗數(shù)據(jù)或有限仿真數(shù)據(jù)建立近似代理模型,選取高效的多點填充策略對未試驗區(qū)域進(jìn)行選點,然后利用計算機的并行計算能力引導(dǎo)新試驗點快速收斂到優(yōu)化問題的全局最優(yōu)解的辦法.因此,代理模型的選擇和空間探索多點填充準(zhǔn)則是并行代理優(yōu)化算法實現(xiàn)的關(guān)鍵,常用的代理模型有徑向基函數(shù)方法、多項式響應(yīng)曲面法、支持向量機模型及Kriging模型等[1,5-6].其中,Jones等利用Kriging模型對未試驗點的不確定性度量能力,選擇滿足最大期望改進(jìn)(expected improvement,EI)值的點作為新樣本點,實現(xiàn)串行序貫填充的有效全局優(yōu)化(efficient global optimization,EGO)算法獲得了極大發(fā)展[1,5,7-8].該方法有效減少了昂貴仿真的時間成本和實物試驗的物料成本,被廣泛地應(yīng)用于航空航天、機械工程和工業(yè)工程等諸多領(lǐng)域[1-2,5].

現(xiàn)有的代理優(yōu)化算法多采用串行序貫加點策略,即在每次優(yōu)化過程只選取一個新樣本點進(jìn)行試驗或仿真,待上一次試驗結(jié)束后再進(jìn)行下一次試驗.例如,Jones等將優(yōu)化搜索和代理模型空間填充相結(jié)合,提出了最大化EI準(zhǔn)則輔助下的標(biāo)準(zhǔn)EGO算法,但EI準(zhǔn)則的貪婪性導(dǎo)致收斂速度緩慢[7];Schonlau等針對EI準(zhǔn)則收斂緩慢問題,提出了廣義參數(shù)調(diào)整的期望改進(jìn)準(zhǔn)則及包含約束處理的約束期望改進(jìn)(constraint expected improvement,CEI)準(zhǔn)則[8];Ulmer等采用最大化概率改進(jìn)(probability of improvement,PoI)策略,選取Kriging 代理模型解決昂貴成本的工程優(yōu)化問題[9];Alexandrov和Dennis等通過選取參數(shù)閾值,提出了模型預(yù)測值的較低置信下界(lower confidence boundary,LCB)框架并將其用于近似優(yōu)化問題[10].上述策略均是基于改進(jìn)增量進(jìn)行優(yōu)化設(shè)計的單點串行序貫填充準(zhǔn)則,優(yōu)化算法中Kriging模型的刷新和下一個樣本點的選取必須等待上一次試驗的結(jié)束,難以有效利用工程問題中豐富的計算資源[11-12].

隨著仿真對象日益復(fù)雜,采用多臺計算機或多核心計算機同時執(zhí)行仿真或計算任務(wù)的并行計算有效減少了設(shè)計周期,已成為縮短產(chǎn)品研發(fā)時間,提高設(shè)計優(yōu)化效率的常規(guī)方法.Ginbingour等的理論分析與實際驗證結(jié)果表明Kriging模型在并行優(yōu)化領(lǐng)域具有獨特優(yōu)勢,基于Kriging代理模型開發(fā)適應(yīng)于并行計算的多點填充策略逐漸成為解決計算瓶頸,提升設(shè)計效率的研究熱點[12-13].現(xiàn)階段基于Kriging模型多點填充策略的研究主要集中于多次優(yōu)化同一加點策略進(jìn)行空間填充.例如,Ginsbourger等基于嚴(yán)格推動提出的q-EI多點填充策略及為解決變量較多時q-EI策略計算困難問題,發(fā)展的Kriging Believer 和Constant Liar填充策略.Kriging Believer和Constant Liar策略分別選取預(yù)測均值和初始樣本集最小值作為響應(yīng)的偽值來近似q-EI策略,近似效果較好.但隨著單次填充樣本點個數(shù)q增大,并行優(yōu)化效率提升不明顯[13];Zhan基于影響力函數(shù)的距離特性構(gòu)造了偽期望改進(jìn)(pseudo expected improvement,PEI)填充策略,該策略有效提升了優(yōu)化效率但未對其進(jìn)行具體的理論分析與證明[14];此外,張建俠等發(fā)展了兼具局部開放和全局探索功能結(jié)合Pareto解集挑選的多目標(biāo)MS&CA策略并將其應(yīng)用于壓力容器優(yōu)化設(shè)計,但當(dāng)單次新增樣本數(shù)q大于3時,收斂效率提升不明顯[15];此外,Viana等采用多種代理模型分別建模,利用不同模型預(yù)測能力進(jìn)行試驗點選取實現(xiàn)多點填充并將其應(yīng)用于穩(wěn)健優(yōu)化設(shè)計[16];Hamza等提出多種策略分別選取試驗點的方法進(jìn)行多點填充設(shè)計并將其應(yīng)用于車體碰撞優(yōu)化設(shè)計[17];陳志旺等提出了融合多屬性決策的雙層種群篩選策略求解高斯模型參數(shù)并將其應(yīng)用于多目標(biāo)優(yōu)化問題中[18].更多關(guān)于多點填充設(shè)計方案請參見綜述性文獻(xiàn)[12,19].

在實際工程優(yōu)化中,昂貴約束并行優(yōu)化問題的挑戰(zhàn)來源于缺乏合適的多點填充策略和設(shè)計空間中可行解的獲取.因此,如何進(jìn)行有效的多點填充設(shè)計和可行解獲取成為并行優(yōu)化算法的關(guān)鍵.針對上述問題,文章的主要思想及框架為:首先,依據(jù)貝葉斯先驗假設(shè),后驗分析及Kriging近似模型的插值特性,經(jīng)過理論推導(dǎo)與分析給出了均值改進(jìn),未試驗樣本點及新增樣本點三者之間的不等關(guān)系.其次,基于理論推導(dǎo)結(jié)果定義控制函數(shù),結(jié)合Kriging模型最大改進(jìn)特性構(gòu)造具有空間調(diào)整距離特性的均值改進(jìn)控制(mean improvement control,MIC)策略及拓展的期望改進(jìn)控制(expected improvement control,EIC)策略實現(xiàn)多點樣本填充設(shè)計,選取經(jīng)典的可行性概率(probability of feasibility,PoF)策略作為MIC或EIC策略權(quán)重兼顧可行解的可行區(qū)域探索.然后,針對具有黑箱特性昂貴約束優(yōu)化問題,綜合啟發(fā)式搜索算法中的差分進(jìn)化優(yōu)化算法,Kriging模型及約束均值改進(jìn)控制(constraint mean improvement control,CMIC)填充策略和基于最大改進(jìn)期望拓展的約束期望改進(jìn)控制(constraint expected improvement control,CEIC)多點填充策略,提出了適用于多核計算機或多臺計算機并行計算環(huán)境,基于約束均值改進(jìn)控制策略的并行代理優(yōu)化算法.最后,選取經(jīng)典測試函數(shù)及航空減速器優(yōu)化設(shè)計案例進(jìn)行驗證分析.文章的主要創(chuàng)新點及貢獻(xiàn):1)給出改進(jìn)控制函數(shù)(control function,CF)的定義及其理論證明;2)提出了基于均值改進(jìn)控制的CMIC多點填充策略及拓展的CEIC多點填充策略;3)對于Zhan等人提出的PEI策略給出了理論分析與解釋[14].

2 Kriging模型

假定試驗數(shù)據(jù)為n次試驗獲取結(jié)果,記初始觀測矩陣為X=[x1x2··· xn]T,x ∈Rd及對應(yīng)的響應(yīng)矩陣y=[y1y2··· yn]Ty ∈R,初始樣本集記為Ω=[X,y].Kriging模型將黑箱函數(shù)y(x)看作包含回歸項的隨機過程Y(x)的一次實現(xiàn).即任意設(shè)計點x對應(yīng)的響應(yīng)值Y(x)表示隨機過程的可能取值之一:

其中:μ為全局趨勢項,反映近似目標(biāo)函數(shù)在設(shè)計空間的總體分布趨勢;z(x)是均值為零、方差為的平穩(wěn)高斯過程,表示對近似模型的校正.

z(x)對Kriging模型的近似能力起決定性作用,其空間分布數(shù)據(jù)的協(xié)方差滿足如下關(guān)系:

其中:R(xi,xj|θ)為Kriging核函數(shù);θ為核函數(shù)的關(guān)鍵參數(shù),具備自適應(yīng)調(diào)節(jié)設(shè)計點之間相關(guān)性能力.本文選取滿足如下關(guān)系的高斯核函數(shù):

基于上述信息,Kriging近似模型可由式(1)改寫為如下形式:

3 基于改進(jìn)控制的均值改進(jìn)控制策略

3.1 最大均值改進(jìn)策略

樣本集Ω中已知響應(yīng)的最小值記為ymin,設(shè)計空間中Kriging模型可獲得未知試驗點的預(yù)測響應(yīng)值Y(x),則ymin相較于Y(x)的最大改進(jìn)表示如下:

Kriging模型在未知試驗點的響應(yīng)值Y(x)的最大預(yù)測改進(jìn)的均值MI(x)=M[I(x)]=ymin-整理可得均值改進(jìn)(mean improvement,MI)策略如下:

3.2 最大期望改進(jìn)策略

其中Φ(·)和φ(·)分別表示標(biāo)準(zhǔn)正態(tài)分布累計概率密度函數(shù)和概率密度函數(shù).

3.3 均值改進(jìn)控制函數(shù)

3.4 均值改進(jìn)控制策略

由定理1可得,I(x)的改進(jìn)范圍受到預(yù)測均值?y與控制函數(shù)CF的雙重作用.由定理1不等式關(guān)系知:控制函數(shù)主要依據(jù)選擇填充策略增加的樣本點xm與未試驗點x間的距離關(guān)系對改進(jìn)增量進(jìn)行約束控制且取值滿足0 ≤CF(x)≤1;因此,將CF(x)作為I(x)的權(quán)重得到IC(x)=I(x)·CF(x).易知IC(x)≤I(x),故可以實現(xiàn)對I(x)改進(jìn)的逐步減少.綜上,基于控制函數(shù)構(gòu)建均值改進(jìn)控制策略:

由式(10)及第3.3節(jié)解控制函數(shù)的定義可知:在初始Kriging模型超參數(shù)一定時,當(dāng)未試驗點x與xm越近,控制函數(shù)越接近于1,傾向于在xm附近進(jìn)行加點,ymin-的值減小幅度較小,注重局部搜索能力;當(dāng)未試驗點x與xm越遠(yuǎn),控制函數(shù)越接近于0,傾向于遠(yuǎn)離xm處進(jìn)行加點,ymin-的值減小幅度較大,注重全局探索能力.

同理,可得基于均值改進(jìn)控制的期望控制策略:

Zhan等提出的PEI策略認(rèn)為Kriging模型某一點x目標(biāo)值受附近點影響較大,但距離較遠(yuǎn)的點對x影響較小.PEI策略有效減少了昂貴仿真成本,但未給出理論證明[14].MIC策略與EIC策略的理論分析表明,采用控制函數(shù)CF(CF∈[0,1])作用于最大改進(jìn)I(x)來逐步減少MI或EI填充策略的貪婪特性.對于PEI填充策略而言,作用機理與EIC策略等價.因此,本文的理論分析結(jié)果可用于PEI策略的解釋分析.

假設(shè)單次循環(huán)過程MIC和EIC填充一次增加q個點,可得兩種均值改進(jìn)控制策略表達(dá)式:

其中:xn+1為最大化MI或EI策略獲取的第1個新增試驗點;xn+q-1為第q個新增試驗點.易知CF∈[0,1],故EIC ≤EI,MIC ≤MI,依據(jù)Bull關(guān)于EGO算法收斂率問題的證明及分析,可知均值改進(jìn)控制策略具有較好的收斂性,具體理論分析結(jié)果參見文獻(xiàn)[20].

4 基于均值改進(jìn)控制策略的并行代理優(yōu)化算法

4.1 可行性概率

實際工程中,基于專家經(jīng)驗及結(jié)構(gòu)限制等因素,優(yōu)化問題往往存在眾多的約束條件.假設(shè)昂貴約束優(yōu)化問題存在r個約束條件gi(x)≤0(i=1,2,···,r),各約束條件間彼此相互獨立,空間內(nèi)任意點x對應(yīng)的約束響應(yīng)gi(x)是滿足正態(tài)分布gi(x)~N的隨機變量,令G=表示約束Kriging模型的聯(lián)合后驗分布,則試驗點x落入可行域的可行性概率可表示為如下形式:

其中P(G(x)≤0)表示滿足所有r個約束條件的約束概率.

4.2 約束均值改進(jìn)控制策略

Schonlau等假設(shè)優(yōu)化目標(biāo)函數(shù)與約束條件函數(shù)的隨機過程相互獨立,提出了適應(yīng)于單目標(biāo)約束優(yōu)化問題的約束期望改進(jìn)CEI填充策略[8].在Schonlau等假設(shè)條件下,將滿足約束的概率和目標(biāo)函數(shù)的改善概率結(jié)合,得到兼顧當(dāng)前最佳設(shè)計點改進(jìn)和滿足約束的概率P[I(x)∩G(x)]=P[I(x)]·P[G(x)];計算均值改進(jìn)和約束同時滿足條件下I(x)∩Gi(x)的期望,得到CEI(x)=E[I(x)∩Gi(x)]=EI(x)·PoF(x).因此,將PoF 作為MIC多點填充策略的權(quán)重,得到兩種約束均值改進(jìn)控制策略

4.3 算法復(fù)雜度分析

實際優(yōu)化問題中,大多數(shù)問題數(shù)據(jù)集均呈現(xiàn)離散化特性,因此有必要進(jìn)行算法復(fù)雜度分析.代理優(yōu)化算法是典型的兩階段優(yōu)化過程:基于試驗設(shè)計的代理模型建立(刷新)和基于空間填充設(shè)計的新試驗點獲取.因此,CMIC-PSBO及CEIC-PSBO算法復(fù)雜度主要來源于兩部分:第1部分是代理模型的建立,單目標(biāo)約束優(yōu)化問題最終近似優(yōu)化解數(shù)目為1,故其時間復(fù)雜度為O[tq(1+r)],r和t分別是約束條件個數(shù)和算法最大循環(huán)迭代次數(shù);第2部分則來源于CMIC策略及CEIC策略的多點填充尋優(yōu),時間復(fù)雜度為O[tq].綜上,CMIC-PSBO和CEIC-PSBO算法的整體復(fù)雜度均為O[tq(1+r)].

CMIC-PSBO和CEIC-PSBO算法二者的區(qū)別主要來自于第2部分關(guān)于MI值和EI值的計算.在預(yù)測均值和預(yù)測方差已知情況下,MI只需進(jìn)行1次減法運算,EI則需要進(jìn)行9次運算.故相比較CMIC-PSBO算法運算效率高于CEIC-PSBO算法.

4.4 算法實現(xiàn)步驟

綜合運用Kriging模型,均值改進(jìn)控制策略及差分進(jìn)化算法,基于均值改進(jìn)控制的昂貴約束并行優(yōu)化算法實現(xiàn)步驟如下:

步驟1算法初始化(試驗參數(shù)設(shè)定).算法終止條件選取;仿真案例選取;初始觀測樣本數(shù)量5d;填充策略單次增加新試驗點個數(shù)q;

步驟2初始試驗設(shè)計.拉丁超立方抽取5d個初始觀測樣本X=[x1x2··· xn]T,n=5d,并仿真獲得對應(yīng)的估計值矩陣y=[y1y2··· yn]T;

步驟3判斷優(yōu)化結(jié)果是否迭代達(dá)到終止條件.若是,算法終止;若否,重復(fù)步驟4-5-3;

1.4.5 BALF和血清腫瘤壞死因子-α(tumor necrosis factor -α, TNF-α)濃度測定 采用ELISA法檢測BALF上清液和血清中的TNF-α濃度,試劑盒購自上海森雄科技實業(yè)有限公司。

步驟4判斷樣本集Ω=[X,y]中是否存在可行解G(x)≤0.若否,選取PoF策略作為填充設(shè)計方案;若是,選取均值控制策略作為填充設(shè)計方案;

步驟5算法迭代.依據(jù)樣本集Ω=[X,y]建立初始Kriging模型,利用差分進(jìn)化算法獲取滿足最大化均值改進(jìn)控制策略的q個新增樣本點,并刷新觀測矩陣X=X ∪xn+1∪xn+2∪···∪xn+q;仿真試驗計算q個新增樣本點所對應(yīng)的響應(yīng)估計值,并刷新響應(yīng)矩陣y=y ∪yn+1∪yn+2∪···∪yn+q及Kriging模型;

步驟6算法終止.輸出近似最優(yōu)解.

5 仿真測試及結(jié)果分析

為保證所提算法的有效性,選取2個數(shù)學(xué)算例及航空減速器優(yōu)化實例[21]進(jìn)行仿真測試.其中,選取的Toy問題[15,22]和Kit問題[15,23]算例均為較難求解的約束優(yōu)化問題,二者局部和全局最優(yōu)解均位于可行域邊界上且非凸.

當(dāng)q=1時,CEIC策略變?yōu)榻?jīng)典的CEI策略.因此,針對單點填充,選取q=1 的CEI 策略,MS&CA 策略[15],驗證所提CMIC策略單點填充的有效性及解的質(zhì)量特性.當(dāng)q >1進(jìn)行多點填充策略比較時,選取具有代表性的Ginsbourger等提出采用預(yù)測均值μ?y作為偽值的Kriging Believer策略[13];張建俠等[15]提出的Pareto 選點MS&CA 策略.4種策略比較驗證CMIC及CEIC多點填充策略的有效性及解的質(zhì)量特性.因此,選擇CMIC及CEIC多點填充策略進(jìn)行昂貴約束并行代理優(yōu)化的同時與Kriging Believer策略,MS&CA 策略優(yōu)化結(jié)果進(jìn)行比較.為便于書寫及對Jones等人開創(chuàng)性工作的貢獻(xiàn),本文后續(xù)部分將Kriging Believer策略簡記為q-EI&PoF;3 種單點填充的代理優(yōu)化算法簡記為CEI-EGO,CMIC-EGO及MS&CA-EGO.

5.1 數(shù)學(xué)算例

算例1 玩具問題(toy problem)包含兩個約束條件(見圖1),其全局最優(yōu)解(紅色實心圓點)為x* ≈(0.1954,0.4044),對應(yīng)的最優(yōu)響應(yīng)值為0.5998.此外,算例1在試驗點x ≈(0,0.75)和x ≈(07197,0.1411)處存在兩個局部極小值(紅色星點).

圖1 玩具問題及其局部極小與全局最小值Fig.1 Local minimum and global minimum of toy problem

算例2Kit問題包含兩個約束條件(見圖2),其全局最優(yōu)解(紅色實心圓點)為x* ≈(0.2016,0.83332),對應(yīng)的目標(biāo)最優(yōu)響應(yīng)值為-0.7484.另,算例2存在局部極小值(紅色星點)x ≈(0.2623,0.1223).

圖2 Kit問題及其局部極小與全局最小值Fig.2 Local minimum and global minimum of Kit problem

5.2 工程案例

航空減速器(speed reducer design,SRD)設(shè)計優(yōu)化問題.考慮齒輪齒根彎曲強度和齒面接觸強度約束,軸的橫向變形及軸的應(yīng)力約束等共11個約束條件,對齒面嚙合度b,大齒輪模數(shù)n,小齒輪模數(shù)m,軸承間距l(xiāng)1和l2及小齒輪直徑d1,大齒輪直徑d2共7個參數(shù)進(jìn)行優(yōu)化設(shè)計.以最小化齒輪箱的總重量為優(yōu)化目標(biāo),見結(jié)構(gòu)簡圖3.

圖3 減速器設(shè)計問題Fig.3 Speed reducer design problem

5.3 試驗參數(shù)設(shè)定

為了更好的驗證所提算法的有效性及具體質(zhì)量特性,所有優(yōu)化過程及仿真測試均在Intel(R)Pentium(R)處理器、4 GB內(nèi)存、2.90 GHz、Windows7 32位電腦操作系統(tǒng)下進(jìn)行.文中算法涉及相關(guān)程序的實現(xiàn)代碼均在MATLAB2015b軟件上實現(xiàn),其中Kriging模型實現(xiàn)選取DACE程序包執(zhí)行[24].MS&CA程序相關(guān)代碼實現(xiàn)在R軟件實現(xiàn),其中Kriging模型實現(xiàn)選取DiceKriging程序包實現(xiàn)[25].

初始試驗設(shè)計過程中為避免在非可行域范圍內(nèi)選取過多的試驗點,選取文獻(xiàn)[15]樣本方案設(shè)定初始試驗設(shè)計樣本量為5d.采用最大最小拉丁抽樣方法進(jìn)行初始試驗設(shè)計,隨機抽取30組初始試驗方案進(jìn)行優(yōu)化以減少初始試驗設(shè)計對試驗結(jié)果的影響;優(yōu)化過程中,設(shè)定優(yōu)化算法循環(huán)的最大次數(shù)t=100為終止條件,最大估計次數(shù)為t×q+5d,并以30次隨機優(yōu)化結(jié)果的平均值作為算法穩(wěn)健性能比較的依據(jù);新試驗點選取過程中,選取差分進(jìn)化算法并設(shè)定種群規(guī)模Np=100,進(jìn)化代數(shù)TG=200對均值改進(jìn)填充策略進(jìn)行優(yōu)化.此外,分別設(shè)定近似全局響應(yīng)最小值與已知響應(yīng)最小值ymin的1%,1.5%絕對值誤差百分比(absolute error percentage,AEP)作為終止條件,評估算法的收斂速度,收斂精度.

5.4 仿真結(jié)果分析

首先,選擇CMIC 單點填充設(shè)計策略,MS&CA 策略和CEI策略對上述例子進(jìn)行單點填充設(shè)計并對優(yōu)化結(jié)果進(jìn)行比較.其中,MS&CA策略兼顧可行邊界的刻畫與目標(biāo)函數(shù)的期望改進(jìn)進(jìn)行填充;CMIC策略側(cè)重于最大均值改進(jìn)處進(jìn)行加點而CEI策略側(cè)重于最大期望改進(jìn)處進(jìn)行填充,二者均將可行性概率作為改進(jìn)策略的權(quán)重來實現(xiàn)目標(biāo)和約束的同時優(yōu)化.設(shè)定最大昂貴估計次數(shù)Tm=50作為終止條件,最大最小拉丁超立方抽樣設(shè)計下抽取5d個初始樣本.在3種策略下分別重復(fù)進(jìn)行30組隨機試驗,以30次試驗獲取3個算例優(yōu)化估計的最終近似優(yōu)化解ymin的平均值和標(biāo)準(zhǔn)差進(jìn)行對比分析.具體結(jié)果見表1.

表1 單點填充ymin結(jié)果比較Table 1 Comparison of ymin in single point results

從表1結(jié)果可以看出,3種策略在單點填充時均可獲得近似最優(yōu)響應(yīng)值.Toy和Kit問題最終優(yōu)化響應(yīng)值的均值和方差結(jié)果表明:對于變量數(shù)目較少的Toy問題和Kit問題,CMIC單點策略相比MS&CA策略及CEI策略具有更強的尋優(yōu)能力且獲取近似最優(yōu)響應(yīng)值穩(wěn)健性更好.但在處理變量數(shù)目較多的SRD問題時,3種策略均可獲得近似最優(yōu)解,但CEI策略尋優(yōu)能力最強且獲取近似最優(yōu)響應(yīng)值更穩(wěn)健.從仿真算例在3種單點填充策略作用下的整體優(yōu)化結(jié)果來看:CMIC策略在處理變量數(shù)目較少問題時更具有優(yōu)勢,CEI策略則在多變量問題上更具優(yōu)勢,MS&CA策略對3種問題均可獲得較為理想的優(yōu)化結(jié)果,但其獲取Pareto解集后單點選擇運算效率較低;此外,上述所有測試案例最終優(yōu)化結(jié)果均滿足1%的絕對值誤差百分比范圍,可用于實際問題.在3種策略進(jìn)行單點填充時,針對CMIC策略,CEIC策略處理不同問題上存在的優(yōu)勢,考慮MS&CA策略兼具目標(biāo)改進(jìn)與可行邊界刻畫的能力.后續(xù)通過選取4中策略對仿真測試案例進(jìn)行多點填充的優(yōu)化結(jié)果進(jìn)行比較分析.

為了更好的比較3種策略在單點填充時的收斂速度,將3 種仿真案例分別在CMIC策略,MS&CA策略及CEI策略的仿真優(yōu)化試驗結(jié)果進(jìn)行統(tǒng)計分析.選擇獲取試驗結(jié)果中的最優(yōu)響應(yīng)值每隔10個點取一個值,繪制3種策略下30次隨機試驗的平均最優(yōu)響應(yīng)值隨迭代次數(shù)變化收斂曲線,具體結(jié)果見圖4.

圖4 MS&CA-EGO,CMIC-EGO及CEI-EGO算法優(yōu)化結(jié)果比較Fig.4 Comparison of MS&CA-EGO,CMIC-EGO and CEI-EGO algorithm optimization results

通過圖4可以看出,Toy和Kit算例在3種策略進(jìn)行填充設(shè)計時,CMIC策略收斂速度最快.SRD算例中3種填充策略收斂速度相近,均可以收斂到一種最優(yōu)響應(yīng)值附近.圖4與表1結(jié)果表明:在變量數(shù)較少時,CMIC 策略更具優(yōu)勢;變量數(shù)目較多時,3種策略結(jié)果相近,但CEI策略更優(yōu).從3種策略作用下的昂貴約束代理優(yōu)化算法的尋優(yōu)結(jié)果可以看出:CMIC策略加點均選擇在均值改進(jìn)增量最大處進(jìn)行加點,變量數(shù)目較少時收斂速度較快;MS&CA策略的Pareto最優(yōu)解集挑選特性縮小了新試驗點的選擇范圍,可實現(xiàn)有目的性加點;CEI策略尋優(yōu)基于所有未知樣本點近似響應(yīng)的期望改進(jìn)值進(jìn)行填充,可以更好的兼顧探索空間.仿真試驗優(yōu)化結(jié)果與理論相符合.

單點填充策略往往采取最大化改進(jìn)策略值處進(jìn)行加點,策略成功獲取改進(jìn)的同時導(dǎo)致優(yōu)化過程因貪婪特性而陷入局部最優(yōu)解.為了更好的說明該特性,以Toy和Kit算例在CMIC和CEI兩種單點策略指導(dǎo)下的優(yōu)化填充設(shè)計效果進(jìn)行分析,具體結(jié)果見圖5.為對結(jié)果進(jìn)行區(qū)分,選取藍(lán)色上三角形作為初始試驗設(shè)計樣本點,紅色圓點為新增樣本點,其添加順序用數(shù)字進(jìn)行標(biāo)記,具體順序見圖5-6.

圖5 CMIC-EGO和CEI-EGO算法Toy問題優(yōu)化結(jié)果比較(t=20,q=1)Fig.5 Comparison of CMIC-EGO and CEI-EGO algorithm optimization results(t=20,q=1)

通過圖5-6中采用CEI策略與CMIC策略在單次增加1個點,增加20個新樣本點獲得樣本空間分布與圖1-2中全局最優(yōu)解分布比較可以看出:1)兩種策略指導(dǎo)下的代理優(yōu)化算法填充20個點均可獲得Toy及Kit問題的近似最優(yōu)響應(yīng)值;2)CEI策略及CMIC策略填充樣本點位置相似,均可以實現(xiàn)在可行區(qū)域內(nèi)的快速收斂.例如:Toy 問題填充的第1,2,3,4,5個樣本點,Kit問題中的第1,5(6)點;3)兩種策略在填充20個樣本點條件下,均不能有效獲得Toy和Kit問題的局部最優(yōu)解;4)Toy問題中兩種策略在添加第4個樣本點時收斂到近似最優(yōu)響應(yīng)值附近,但第5,6個樣本點均在點4附近添加,當(dāng)代理模型近似波動幅度較大時易陷入局部最優(yōu);Kit問題中兩種策略在添加第一個樣本點可以收斂到全局最優(yōu)解附近,CEI策略的期望填充可較好的實現(xiàn)可行域及空間內(nèi)的覆蓋填充;CMIC策略則多集中在可行域外部附近進(jìn)行填充,部分添加樣本點與CEI 策略填充位置相近.

相比于串行單點填充策略計算效率低下及填充策略的貪婪特性,CMIC和CEIC多點填充策略的優(yōu)勢在于保證初始均值或期望值最大化的同時,利用控制函數(shù)來實現(xiàn)改進(jìn)增量I(x)的逐步減少.

為了更好的說明和比較所提并行代理優(yōu)化算法的優(yōu)化能力,選取q-EI&PoF策略、MS&CA策略與所提多點填充策略對Toy和Kit問題進(jìn)行優(yōu)化比較.設(shè)定初始試驗參數(shù):最大最小拉丁超立方抽取樣本數(shù)為5d,單次循環(huán)新增q=4個新試驗點,循環(huán)次數(shù)t=5,最大估計次數(shù)為5d+5q.繪制新增樣本點在設(shè)計空間內(nèi)填充位置的等高線圖進(jìn)行比較,具體填充結(jié)果見圖7-8.

圖8 4種并行代理優(yōu)化算法Kit問題結(jié)果比較(t=5,q=4)Fig.8 Comparison of four parallel surrogate-based optimization algorithm results in Kit problem(t=5,q=4)

由圖7-8關(guān)于Toy問題及Kit問題優(yōu)化后的樣本空間分布可以看出:1)4種并行代理優(yōu)化算法均能獲得Toy及Kit問題的全局最優(yōu)解,但q-EI&PoF策略作用下解的精度較差;2)采用4種策略的并行優(yōu)化算法只需少量迭代就可獲得較高精度的近似最優(yōu)解,有助于計算效率的提升;3)q-EI&PoF 策略獲取多個新試驗點聚集在非最優(yōu)區(qū)域,優(yōu)化精度及計算效率不高;4)MS&CA策略在單點填充時,獲得近似最優(yōu)解的同時兼顧約束邊界,獲取的近似最優(yōu)解在最優(yōu)可行域集中度較高,優(yōu)化效率及精度較高;5)CEIC與CMIC策略的樣本填充順序類似,近似最優(yōu)解可以實現(xiàn)在最優(yōu)可行域附近聚集填充,具有較高的優(yōu)化精度及計算效率;與q-EI&PoF和MS&CA策略優(yōu)化結(jié)果比較,CEIC與CMIC策略對于Toy問題可獲得一個局部最優(yōu)解,對于Kit問題獲得2個局部最優(yōu)解.表明CEIC與CMIC策略具有更好的全局搜索特性.

昂貴優(yōu)化算法優(yōu)化效率的提升及成本降低主要來源于昂貴估計仿真次數(shù)的減少.設(shè)定終止條件為AEP<1.5%,重復(fù)進(jìn)行30次隨機試驗并統(tǒng)計算法終止時的平均迭代次數(shù),最大迭代次數(shù)來估計所提算法優(yōu)化效率.選取CEIC和CMIC策略一次增加q=3個樣本點對Toy及Kit問題進(jìn)行優(yōu)化,并與張建俠等[15]優(yōu)化結(jié)果進(jìn)行比較.具體結(jié)果見表2.

從表2中30次隨機試驗優(yōu)化數(shù)據(jù)統(tǒng)計結(jié)果可以看出:在AEP<1.5%終止條件下,一次增加3個新試驗點的4種多點填充均以較快速度收斂到1.5%精度以內(nèi),表明4種策略作用下的并行代理優(yōu)化算法獲取優(yōu)化解具有較高精度,在處理昂貴黑箱約束問題有效且均能滿足設(shè)計要求;4種多點填充策略的迭代次數(shù)和昂貴估計仿真試驗次數(shù)均少于CEI單點填充設(shè)計方案,表明多點填充相比單點填充設(shè)計更高效,通過計算機的并行計算可有效提升工程優(yōu)化效率;并行代理優(yōu)化過程中迭代次數(shù)和昂貴估計仿真試驗次數(shù)的減少,有助于優(yōu)化效率的提升及成本降低.在初始設(shè)計樣本量相同條件下,并行代理優(yōu)化算法在CEIC及CMIC多點填充策略作用下對Toy和Kit問題優(yōu)化效率的提升優(yōu)于q-EI&PoF和MS&CA策略;基于控制函數(shù)進(jìn)行均值改進(jìn)控制的CEIC及CMIC多點填充策略,可實現(xiàn)對樣本設(shè)計空間的高效填充,有助于提升并行代理優(yōu)化算法的優(yōu)化效率及收斂精度.

表2 不同算法1.5%絕對誤差百分比優(yōu)化效率比較Table 2 Efficiency comparison of 1.5%absolute error percentage with different algorithms

對比圖5-8 結(jié)果可以發(fā)現(xiàn):CMIC和CEIC兩種多點填充策略收斂到最優(yōu)解附近的解的數(shù)量基本一致,對比新增樣本點的空間分布發(fā)現(xiàn),兩種填充策略搜索下新增試驗點分布類似,說明CMIC可在某種程度上取代CEIC策略甚至優(yōu)于CEIC策略;對于Toy及Kit問題,CEIC新增試驗點空間分布較為均勻,相較CEIC策略新增樣本點更集中且在可行域邊界樣本數(shù)量更多,說明CMIC策略在變量個數(shù)較少時邊界搜索能力更強.

基于Kriging模型的昂貴約束并行代理優(yōu)化算法計算效率提升的關(guān)鍵是多點填充策略的選擇,提升程度則取決于優(yōu)化過程中單次循環(huán)新增試驗點的個數(shù)q.隨著新增試驗點q的增多,計算效率提升程度逐漸增高是并行代理優(yōu)化算法的效率目標(biāo).因此,選取MS&CA策略,q-EI&PoF 策略與基于均值控制的CMIC,CEIC 多點填充策略在單次循環(huán)迭代中分別增加q=1,2,4,6,8,10個新試驗點.以AEP<1%作為終止條件,選取30次隨機試驗優(yōu)化結(jié)果中迭代次數(shù)的平均值及標(biāo)準(zhǔn)差作為優(yōu)化效率指標(biāo)進(jìn)行比較分析.具體統(tǒng)計結(jié)果見表3.

表3 1%絕對值誤差百分比條件下最大優(yōu)化迭代次數(shù)均值(方差)統(tǒng)計結(jié)果比較Table 3 Comparison of statistical results of mean(variance)of maximum optimization iterations under the condition of 1%absolute error percentage

表3是3種算例在4種多點填充策略作用下,一次增加q個樣本點的終止迭代次數(shù)t的均值和標(biāo)準(zhǔn)差進(jìn)行統(tǒng)計結(jié)果.從表3可以看出:1)4種多點填充策略在AEP<1%條件下,相比單點(q=1)填充策略均實現(xiàn)了代理優(yōu)化效率的提升,可有效減少仿真計算成本;2)對于Toy問題,q-EI&PoF 隨著q個數(shù)的增多,當(dāng)q >4時優(yōu)化效率提升不明顯;CMIC策略在q <4時,優(yōu)化效率提升弱于MS&CA和CEIC 填充策略;3) 對于Kit 問題,4 種多點填充策略差別不大,但CEIC及CMIC填充策略優(yōu)于另外兩種策略;4)對于SRD問題,可以看出CMIC策略在一次增加樣本點個數(shù)較少時,優(yōu)化效率弱于其余3種策略.但隨著q的增加可以看出,CMIC策略與其余3種策略的差距越來越小,表明CMIC策略相比單點填充設(shè)計更適用于多點填充.上述研究結(jié)果表明:基于均值改進(jìn)控制函數(shù)發(fā)展的CEIC及CMIC多點填充策略,其均值改進(jìn)控制機理可有效提升算法優(yōu)化效率,實現(xiàn)樣本設(shè)計空間的高效填充.

6 結(jié)論與展望

文章基于改進(jìn)增量及新增樣本點的不等關(guān)系,提出了均值改進(jìn)控制函數(shù)概念并給出了理論分析;針對昂貴約束優(yōu)化問題,基于約束均值改進(jìn)策略提出了CMIC-PSBO及CEIC-PSBO算法.測試結(jié)果表明:所提算法可有效獲得昂貴約束優(yōu)化問題的近似最優(yōu)解,且精度較高;基于均值改進(jìn)控制的多點填充策略適用于并行計算,可有效減少昂貴仿真次數(shù)實現(xiàn)并提升計算效率.此外,Zhan等人構(gòu)建了影響力函數(shù)對EI策略施加影響[14],其原理與均值改進(jìn)控制函數(shù)原理相同,但未給出具體的理論分析與證明.因此,關(guān)于增量控制函數(shù)的理論分析與證明過程可解釋其影響力函數(shù)的作用性質(zhì)與結(jié)果.同時均值改進(jìn)控制策略也對現(xiàn)有改進(jìn)填充策略的貪婪特性有一定的啟發(fā)意義.

現(xiàn)有針對具有黑箱特性的昂貴優(yōu)化問題多是基于最大改進(jìn)I(x)發(fā)展而來.因此,更多的控制函數(shù)的發(fā)現(xiàn)及將均值改進(jìn)控制函數(shù)應(yīng)用到更多的空間填充設(shè)計策略是值得研究的方向.此外,將該方法應(yīng)用到多目標(biāo)優(yōu)化問題也是可以嘗試的課題.

猜你喜歡
單點均值代理
單點漸進(jìn)無模成型的回彈特性
BDS-2三頻偽距單點定位精度分析
均值—方差分析及CAPM模型的運用
均值—方差分析及CAPM模型的運用
淺談均值不等式的應(yīng)用
單點的夢想
均值不等式的小應(yīng)用
數(shù)字電視地面?zhèn)鬏斢脝晤l網(wǎng)與單點發(fā)射的效果比較
復(fù)仇代理烏龜君
108名特困生有了“代理媽媽”
盖州市| 兴城市| 常熟市| 嫩江县| 米林县| 鸡西市| 汝南县| 三江| 舞钢市| 丘北县| 印江| 朝阳区| 门源| 陇南市| 遵义县| 太白县| 九龙坡区| 澄城县| 麻栗坡县| 德阳市| 吉水县| 安溪县| 台中县| 芦山县| 南通市| 和硕县| 连云港市| 措美县| 凌源市| 岑溪市| 临城县| 图们市| 上思县| 隆德县| 西藏| 寿宁县| 铅山县| 铜山县| 乌鲁木齐县| 浦江县| 凉山|