国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

成敗歷史存檔的融合龍格庫(kù)塔-黏菌算法

2022-09-06 11:08:06劉宇凇
關(guān)鍵詞:龍格黏菌庫(kù)塔

劉宇凇,劉 升

上海工程技術(shù)大學(xué) 管理學(xué)院,上海 201600

群智能啟發(fā)式算法因其工程應(yīng)用[1]和人工智能[2]等多種優(yōu)化領(lǐng)域中優(yōu)秀的表現(xiàn)和低廉的算力要求在近十幾年間愈發(fā)流行。黏菌算法[3(]slime mould algorithm,SMA)是2020 年Li 等人提出的一個(gè)用于求解隨機(jī)優(yōu)化問(wèn)題的新算法,其由自然中黏菌的振蕩模式啟發(fā)而設(shè)計(jì),通過(guò)生物振蕩來(lái)傳遞不同位置食物信息的正向或負(fù)向反饋,從而尋找到最優(yōu)的食物位置或最短路徑。基本黏菌算法通過(guò)設(shè)置不同的移動(dòng)方式平衡了中群智能算法中的勘探和開(kāi)采階段,同時(shí)使用了非線性自適應(yīng)參數(shù)等成熟的算法改進(jìn)機(jī)制,其獨(dú)特的權(quán)重機(jī)制作為獎(jiǎng)懲學(xué)習(xí)[4]的一種形式,可以為種群提供正向和負(fù)向的反饋。由此,黏菌算法具有區(qū)別于其他群智能算法的特點(diǎn)且依舊具有良好的可擴(kuò)展性,其改進(jìn)和應(yīng)用受到了國(guó)外研究者廣泛的關(guān)注。目前該算法已成功應(yīng)用于光伏模型參數(shù)優(yōu)化[5]、機(jī)器學(xué)習(xí)特征篩選[6]、醫(yī)學(xué)X光圖像分割[7]、計(jì)算機(jī)視覺(jué)圖像閾值[8]等實(shí)際問(wèn)題,在金融科技、數(shù)據(jù)挖掘、工業(yè)工程等領(lǐng)域具有廣闊的發(fā)展前景。

然而黏菌算法依舊存在著收斂速度慢、求解精度低等問(wèn)題,雖然現(xiàn)階段對(duì)SMA算法的研究相對(duì)較少,國(guó)內(nèi)外學(xué)者依舊使用不同的策略進(jìn)行改進(jìn)獲得了不同的成果。文獻(xiàn)[6]使用名為“覓食-進(jìn)攻”的策略,基于貪婪策略和高斯變異,針對(duì)單個(gè)個(gè)體位置每輪迭代中進(jìn)行新位置的嘗試,使得求解精度大大提高;文獻(xiàn)[7]將黏菌算法與多年來(lái)表現(xiàn)良好的鯨魚(yú)優(yōu)化算法[9]進(jìn)行融合,在算法啟動(dòng)階段使用鯨魚(yú)優(yōu)化算法進(jìn)行搜索,基于其強(qiáng)大的全局探索能力幫助黏菌算法擴(kuò)大初始搜索空間,之后使用參數(shù)控制鯨魚(yú)優(yōu)化算法停止同時(shí)啟動(dòng)黏菌算法;文獻(xiàn)[8]將領(lǐng)導(dǎo)機(jī)制引入黏菌算法,通過(guò)每輪迭代選出三個(gè)候選領(lǐng)導(dǎo)個(gè)體的方式,引導(dǎo)整個(gè)種群向最優(yōu)位置加速逼近,提高了算法的收斂性能。

基于對(duì)原始黏菌算法特點(diǎn)和計(jì)算細(xì)節(jié)的深入理解和分析,本文提出了成敗歷史存檔的融合龍格庫(kù)塔-黏菌算法(SFHRUN-SMA),通過(guò)添加改進(jìn)的成敗歷史存檔機(jī)制提高算法精度和速度,使用融合龍格庫(kù)塔算法引導(dǎo)種群跳出局部最優(yōu),保持種群多樣性,兩種策略平衡了種群的全局和局部搜索階段。實(shí)驗(yàn)中,測(cè)試了CEC2017基準(zhǔn)測(cè)試函數(shù),并探索了CEC2017 測(cè)試函數(shù)的高維部分,實(shí)驗(yàn)結(jié)果驗(yàn)證了改進(jìn)策略對(duì)算法求解精度和魯棒性的積極影響。

1 基本黏菌算法

黏菌算法中的黏菌一般是指多頭絨泡菌,因其最初被歸類(lèi)為真菌,所以被命名為“黏菌”。黏菌是一種生活在寒冷潮濕地方的真核生物,黏菌的活躍動(dòng)態(tài)階段是黏菌算法研究的主要階段。在這個(gè)階段,黏菌使用體內(nèi)的有機(jī)物尋找食物,包圍它,并分泌酶來(lái)消化它。在黏菌遷移過(guò)程中,其前端會(huì)延伸成扇形,后端則連接著一個(gè)靜脈網(wǎng)絡(luò),保證細(xì)胞質(zhì)在其中流動(dòng),從而達(dá)到信息的溝通,并且根據(jù)搜尋到食物的質(zhì)量和密度動(dòng)態(tài)調(diào)整靜脈直徑的大小,最終將整個(gè)黏菌的位置調(diào)整至最優(yōu)食物處。受到黏菌這種行為模式的啟發(fā),Li及其團(tuán)隊(duì)設(shè)計(jì)開(kāi)發(fā)了黏菌算法。

基本黏菌算法的抽象數(shù)學(xué)描述如下:假設(shè)n個(gè)黏菌分布在d維搜索空間中,第t次迭代第i個(gè)黏菌的位置可以表示為Xi(t),max_t為最大迭代次數(shù),全局最優(yōu)位置Xb表示食物位置。黏菌的覓食尋優(yōu)過(guò)程分為三個(gè)階段:

(1)接近食物

黏菌可以根據(jù)空氣中的氣味接近食物,下式模擬了其接近食物的過(guò)程:

其中,vb模擬了黏菌個(gè)體從種群中其他個(gè)體學(xué)習(xí)的程度,是服從[-a,a] 均勻分布的系數(shù),vc模擬了黏菌個(gè)體對(duì)自身信息的保留程度,其從1到0線性遞減,t代表當(dāng)前迭代輪次,Xb代表目前為止找到食物濃度最高的個(gè)體的位置,即當(dāng)前全局最優(yōu)解,X代表黏菌位置,XA和XB代表兩個(gè)從黏菌種群中隨機(jī)抽取的個(gè)體,W代表黏菌個(gè)體的權(quán)重。

計(jì)算p的公式如下:

其中,i∈1,2,…,n,S(i)表示黏菌個(gè)體的適應(yīng)度值,DF表示所有迭代輪次中找到的最優(yōu)適應(yīng)度。

計(jì)算vb的公式如下:

其中,a為隨迭代次數(shù)減小的動(dòng)態(tài)參數(shù),用來(lái)收縮隨機(jī)數(shù)vb的生成范圍,以此模擬黏菌接近食物源過(guò)程中靜脈逐漸收縮提高尋優(yōu)精度的過(guò)程,a的計(jì)算公式如下:

計(jì)算權(quán)重W的公式如下:

其中,選擇分支的判斷條件condition為適應(yīng)度排名位于前一半種群,r為[0,1]間的一個(gè)隨機(jī)數(shù),max_t表示最大迭代次數(shù),bF表示當(dāng)前輪次獲得的最優(yōu)適應(yīng)度值,相對(duì)的,wF表示當(dāng)前輪次獲得的最差適應(yīng)度值,SmellIndex表示按照適應(yīng)度值大小排序的黏菌個(gè)體索引(在求解最小值問(wèn)題時(shí)使用升序排序方法)。

(2)纏繞食物

該階段模擬了黏菌搜索食物過(guò)程中靜脈結(jié)構(gòu)的收縮模式,當(dāng)黏菌靜脈接觸到的食物濃度越大,其通過(guò)生物振蕩反應(yīng)產(chǎn)生的波就越強(qiáng),細(xì)胞質(zhì)流動(dòng)就越快,靜脈細(xì)胞質(zhì)粘稠程度也就越高。公式(5)描述了黏菌在搜索區(qū)域基于食物濃度或質(zhì)量的判斷獲得的反饋,若該位置的食物濃度處于整個(gè)種群截至目前所有搜索結(jié)果的上位,則給予該位置黏菌正向反饋,反之給予下位黏菌反向反饋,以此方式充分利用適應(yīng)度的計(jì)算結(jié)果信息來(lái)調(diào)整不同位置黏菌的權(quán)重,進(jìn)一步調(diào)整整個(gè)種群的搜索方式。同時(shí),隨機(jī)數(shù)r保證了黏菌個(gè)體間的多樣性。

基于上述理論,黏菌的位置更新公式如下:

其中,LB和UB代表了搜索空間的上下邊界約束,rand和r代表了[0,1]間隨機(jī)數(shù)。轉(zhuǎn)換概率z在Li的參數(shù)實(shí)驗(yàn)中被證設(shè)置為0.03時(shí)整個(gè)算法表現(xiàn)最好,故本文中z同樣設(shè)置為固定值0.03。

公式(7)所示黏菌算法框架通過(guò)非線性自適應(yīng)參數(shù)p平衡了黏菌算法勘探和開(kāi)采的不同移動(dòng)方式,同時(shí)轉(zhuǎn)換概率z的存在使得種群有一定概率進(jìn)行自身位置的重置,有利于種群跳出局部最優(yōu),保持種群的多樣性。

(3)振蕩反應(yīng)

黏菌依靠生物的震蕩反應(yīng)來(lái)調(diào)整靜脈中細(xì)胞質(zhì)的流動(dòng)從而調(diào)整自身位置搜索最優(yōu)食物位置。黏菌算法中的參數(shù)W、vb、vc用來(lái)模擬黏菌的振蕩反應(yīng),W根據(jù)適應(yīng)度選擇不同振蕩模式的行為模擬了黏菌個(gè)體根據(jù)其他位置個(gè)體搜索到的食物情況選擇自身下一步行為的搜索模式,vb動(dòng)態(tài)調(diào)整振蕩過(guò)程中使用其他個(gè)體信息的口徑模擬了黏菌靜脈直徑變化的過(guò)程,vc線性變化模擬了黏菌對(duì)自身歷史信息保留程度的變化。

2 成敗歷史存檔的融合龍格庫(kù)塔-黏菌算法

2.1 龍格庫(kù)塔算法

龍格庫(kù)塔算法[10(]RUNgeKutta optimizer,RUN)是Ahmadianfa 等人提出的基于龍格庫(kù)塔法數(shù)學(xué)模型進(jìn)行搜索和迭代的優(yōu)化算法。RUN的核心思想基于龍格庫(kù)塔法的斜率計(jì)算方法,使用計(jì)算得出的斜率作為在搜索空間內(nèi)進(jìn)行搜索的邏輯,同時(shí)構(gòu)建了一系列規(guī)則幫助種群進(jìn)化迭代,形成了群智能優(yōu)化算法。

2.1.1 核心搜索機(jī)制

RUN 優(yōu)化算法使用四階龍格庫(kù)塔法(RK4)作為搜索框架,RK4的基本數(shù)學(xué)表示如下:

其中,權(quán)重因子k1、k2、k3和k4的數(shù)學(xué)表示如下:

RUN算法中將種群中一個(gè)個(gè)體的位置x的兩個(gè)鄰居點(diǎn)x-Δx與x+Δx分別看作一輪迭代中該個(gè)體周?chē)淖顑?yōu)的位置和最差的位置,即xb和xw。因此RK4中的k1在RUN算法中表示如下:

為了強(qiáng)化探索的搜索能力并創(chuàng)造一定隨機(jī)性,上式在RUN中最終表示為:

其中:

式中,Δx由步長(zhǎng)參數(shù)Stp確定,步長(zhǎng)參數(shù)Stp由種群最優(yōu)位置xb和種群平均位置xavg的差分確定,參數(shù)γ由解的空間大小確定,rand表示[0,1]均勻分布的隨機(jī)數(shù)。由此計(jì)算出RK4中其他各項(xiàng)參數(shù)如下:

最終RUN核心搜索機(jī)制的數(shù)學(xué)表達(dá)式如下:

其中:

2.1.2 更新搜索結(jié)果

為了進(jìn)一步平衡探索和開(kāi)采,RUN 采用了如下的結(jié)構(gòu)進(jìn)行迭代間的結(jié)果更新:

其中:

2.1.3 強(qiáng)化解的質(zhì)量

在RUN算法中,強(qiáng)化解的質(zhì)量機(jī)制(enhanced solution quality,ESQ)被應(yīng)用于增強(qiáng)解的質(zhì)量和跳出局部最優(yōu)。其過(guò)程如下:

其中,r為取值為1,0,或-1的隨機(jī)數(shù),其他參數(shù)的表示如下:

上述過(guò)程使用了大量的隨機(jī)成分以及位置平均值的計(jì)算,作為龍格庫(kù)塔算法基本移動(dòng)后的機(jī)制,其一方面幫助成功尋優(yōu)的個(gè)體強(qiáng)化其尋優(yōu)方向獲得更優(yōu),另一方面為未成功尋優(yōu)的個(gè)體提供擾動(dòng),幫助種群跳出局部最優(yōu)。

2.2 改進(jìn)的成敗歷史存檔機(jī)制

成功歷史存檔機(jī)制首次由Viktorin等人在基于成功歷史的自適應(yīng)差分進(jìn)化算法[11(]success-history based adaptive differential evolution,SHADE)中提出,其思想來(lái)源于參數(shù)自適應(yīng)的差分進(jìn)化算法[12]和差分進(jìn)化算法本身的框架[13]。原始的成功歷史存檔機(jī)制用于存儲(chǔ)差分進(jìn)化算法中的縮放因子和交叉概率兩個(gè)參數(shù),其中只有使種群適應(yīng)度得到更優(yōu)值的參數(shù)才會(huì)被儲(chǔ)存,故稱(chēng)為成功歷史存檔。同時(shí),根據(jù)每輪迭代使用不同參數(shù)更新位置后的種群適應(yīng)度值變化的程度賦予成功存檔中不同參數(shù)值對(duì)應(yīng)的權(quán)重,最終將所有檔案中參數(shù)和權(quán)重加權(quán)平均,產(chǎn)生下一輪迭代使用的新參數(shù)。

上述文章中證明了成功歷史存檔機(jī)制能夠幫助算法具有更好的搜索精度和收斂效率,故本文中根據(jù)黏菌算法本身的特性和具體計(jì)算方法提出了一種改進(jìn)的成敗歷史存檔機(jī)制。首先,將原始成功歷史存檔存儲(chǔ)參數(shù)信息的行為修改為存儲(chǔ)種群個(gè)體位置信息;其次,將原始成功歷史存檔擴(kuò)展為成功失敗歷史存檔;最后,將種群適應(yīng)度值的變化作為成功歷史存檔中每個(gè)位置信息被后續(xù)計(jì)算過(guò)程選取的概率值。

2.2.1 存儲(chǔ)位置信息的成功歷史存檔

由上文中黏菌算法的數(shù)學(xué)表達(dá)式可知,黏菌算法中所有的參數(shù)均具有自適應(yīng)的屬性,且自適應(yīng)方式各不相同,若繼續(xù)使用成功歷史存檔存儲(chǔ)黏菌算法的參數(shù)信息一定程度上會(huì)破壞黏菌算法的自適應(yīng)能力。此外,黏菌算法的核心優(yōu)勢(shì)在于如公式(5)所示的用來(lái)表示自然界中黏菌靜脈大小變化的權(quán)重計(jì)算過(guò)程,但若種群中沒(méi)有優(yōu)質(zhì)的個(gè)體位置信息或具有優(yōu)質(zhì)位置信息的個(gè)體較少的情況,權(quán)重計(jì)算過(guò)程會(huì)失效,最終導(dǎo)致黏菌算法的精度提升出現(xiàn)瓶頸。

因此,本文提出了一種存儲(chǔ)位置信息的成功歷史存檔S_Archive,即個(gè)體在搜索過(guò)程中若得到比自身當(dāng)前適應(yīng)度更好的適應(yīng)度,則新的位置會(huì)被記錄在成功歷史存檔中。設(shè)置一個(gè)參數(shù)S_Archive_N用來(lái)限定成功歷史存檔的容量,若成功歷史存檔存儲(chǔ)的位置信息達(dá)到容量上限,則從存檔的起始位置依次更新存儲(chǔ)的位置信息。

2.2.2 成功失敗歷史存檔

原始的黏菌算法中,最基礎(chǔ)的位置移動(dòng)方式如公式(1)所示,其中,XA和XB代表兩個(gè)從黏菌種群中隨機(jī)抽取的個(gè)體,因此公式(1)中(W·XA(t)-XB(t))部分并不能確定個(gè)體移動(dòng)的方向是向更優(yōu)位置移動(dòng)還是向更差位置移動(dòng),加之取值可正可負(fù)的表示隨機(jī)步長(zhǎng)的參數(shù)vb后,使得黏菌算法最基本的搜索方式隨機(jī)程度較大,缺乏一定的方向性。

因此,本文擴(kuò)展了上述的成功歷史存檔機(jī)制,提出了一種存儲(chǔ)位置信息的成敗歷史存檔。構(gòu)建失敗歷史存檔F_Archive,個(gè)體在搜索過(guò)程中若得到比自身當(dāng)前適應(yīng)度更差的適應(yīng)度,則新的位置會(huì)被記錄在失敗歷史存檔中。構(gòu)建成功歷史存檔和失敗存檔后,將原始黏菌算法公式(1)中XA和XB替換為XA_S和XB_F,即一個(gè)從成功歷史存檔中隨機(jī)選取的位置和一個(gè)從失敗歷史存檔中隨機(jī)選取的位置。公式(1)則改寫(xiě)為:

此時(shí),若vb的值取到正數(shù),黏菌個(gè)體的基本移動(dòng)行為確定為從失敗歷史位置向成功歷史位置移動(dòng)的方向;若vb的值取到負(fù)數(shù),則基本移動(dòng)可以視為具有一定程度的反向?qū)W習(xí)特征,擴(kuò)大種群的搜索空間,保持種群的多樣性。

傳統(tǒng)的反向?qū)W習(xí)策略或其他新位置生成策略都需要計(jì)算新位置的適應(yīng)度,增加了算法的復(fù)雜度,在目標(biāo)函數(shù)復(fù)雜的現(xiàn)實(shí)問(wèn)題中,該類(lèi)策略運(yùn)行的效率會(huì)大打折扣。上述成敗歷史存檔機(jī)制不同于反向?qū)W習(xí)等學(xué)習(xí)策略,無(wú)需增加種群個(gè)體位置適應(yīng)度的計(jì)算過(guò)程,僅為更新的位置信息添加了“成功”或“失敗”的標(biāo)簽,節(jié)約運(yùn)算時(shí)間的同時(shí),賦予種群個(gè)體移動(dòng)時(shí)一定的方向,加快種群的收斂速度。

通過(guò)分析可以發(fā)現(xiàn),高校自主招生與高考統(tǒng)一招生對(duì)人才的選拔與評(píng)價(jià)模式有所不同,有其自身明確的特征。如自主招生與高考招生的評(píng)價(jià)方面不同,自主招生是從德智體三方面評(píng)價(jià)學(xué)生的,更加全面化,而高考招生考察較為單一,只針對(duì)學(xué)生的“智”,即是學(xué)習(xí)成績(jī)進(jìn)行考察。自主招生與高考招生選拔標(biāo)準(zhǔn)化不同,自主招生選拔人才更加尊重學(xué)生的個(gè)性發(fā)展與個(gè)性化差異,重視學(xué)科專(zhuān)長(zhǎng)突出的學(xué)生,而高考招生考察多科目,從綜合成績(jī)?cè)u(píng)價(jià)學(xué)生。同時(shí),自主招生注重學(xué)生的綜合素質(zhì)與人格發(fā)展,而高考主要是從成績(jī)?cè)u(píng)價(jià)學(xué)生。

2.2.3 作為概率的適應(yīng)度變化值

原始的成功歷史存檔機(jī)制中,將適應(yīng)度值的變化量作為存檔中參數(shù)的權(quán)重,最后通過(guò)加權(quán)平均得到新的參數(shù)。文獻(xiàn)[14]指出,在存檔中使用普通算術(shù)平均會(huì)使最終結(jié)果收斂至一個(gè)很小的取值范圍內(nèi),由此提出了使用加權(quán)平均計(jì)算平均值,其中權(quán)重為種群適應(yīng)度的變化值。此后,使用適應(yīng)度變化值作為評(píng)價(jià)學(xué)習(xí)結(jié)果重要程度的機(jī)制被保留并使用于多種基于存檔的改進(jìn)算法中。受此啟發(fā),本文中同樣使用成功歷史存檔S_Archive保存?zhèn)€體在移動(dòng)中適應(yīng)度值的變化量,不同的是將該變化量作為該位置之后被選取的概率,即XA_S的選取過(guò)程不再服從均勻分布,而是服從不同適應(yīng)度值變化量的分布,得到更大適應(yīng)度值提升的位置更有可能被選取,得到較小適應(yīng)度值提升的位置則被選取的可能性較小。該過(guò)程首先保證了所有位置并沒(méi)有通過(guò)任何運(yùn)算進(jìn)行改變,即保留了黏菌算法從種群中其他個(gè)體獲取信息的特點(diǎn);其次使對(duì)種群適應(yīng)度提升較大的成功位置更有機(jī)會(huì)引導(dǎo)其他種群個(gè)體;最后使用概率的方式使對(duì)種群適應(yīng)度提升較小的個(gè)體依舊有機(jī)會(huì)被選取,保證了種群的多樣性,同時(shí)一定程度上避免了種群陷入局部最優(yōu)。

上述概率值的機(jī)制僅使用在成功歷史存檔中,而不使用在失敗歷史存檔中。因?yàn)槭v史記錄的適應(yīng)度值變得更差的變化量無(wú)助于確定未來(lái)更優(yōu)的搜索方向,若從舊位置更新到新位置后適應(yīng)度變差的值很大,將該變化值作為概率后,只能幫助個(gè)體從更差位置移動(dòng)向較優(yōu)位置,而個(gè)體從次優(yōu)位置移動(dòng)向更優(yōu)位置才是算法不斷迭代的目的。

2.3 自定義的長(zhǎng)短結(jié)合交流時(shí)機(jī)

本文采用并行計(jì)算-信息交流的機(jī)制將上述龍格庫(kù)塔算法與成敗歷史存檔機(jī)制改進(jìn)的黏菌算法進(jìn)行融合。經(jīng)過(guò)大量實(shí)驗(yàn)發(fā)現(xiàn),頻繁的信息交流會(huì)嚴(yán)重?fù)p失兩算法各自的特性和按照迭代輪次積累的自適應(yīng)參數(shù)的價(jià)值,時(shí)間間隔較長(zhǎng)的信息交流則會(huì)出現(xiàn)某一算法始終優(yōu)于另一算法的情況,融合過(guò)程變得冗余。

本文通過(guò)大量實(shí)驗(yàn)比較分析,提出了一種自定義的長(zhǎng)短時(shí)間間隔結(jié)合的交流時(shí)機(jī),用來(lái)確定兩個(gè)種群什么時(shí)候交流,具體交流時(shí)機(jī)如圖1所示。

圖1 自定義的長(zhǎng)短時(shí)間間隔結(jié)合的交流時(shí)機(jī)示意圖Fig.1 Customized long-short interval timing of communication

其中根據(jù)最大迭代輪次,前五分之一視為短期,將其均勻分割為五等份,每份結(jié)尾進(jìn)行交流;中間五分之二視為中期,將其進(jìn)行兩次黃金分割后,每份結(jié)尾進(jìn)行交流;最后五分之二視為后期,不進(jìn)行交流。以最大迭代次數(shù)500 為例,交流時(shí)機(jī)的取值則為[20,40,60,80,100,129,176,223,300]。

2.4 基于空間移動(dòng)的信息交流機(jī)制

傳統(tǒng)的多種群信息交流多為最優(yōu)位置或整個(gè)種群的直接替換。在龍格庫(kù)塔算法中,個(gè)體移動(dòng)過(guò)程使用了種群位置的平均值、最優(yōu)值等;在黏菌算法中,個(gè)體移動(dòng)過(guò)程的權(quán)重使用了所有個(gè)體的位置和最優(yōu)位置,若按傳統(tǒng)方法進(jìn)行信息交流,一定程度上會(huì)損失兩算法各自的搜索特點(diǎn)和計(jì)算優(yōu)勢(shì)。

因此,本文受Jafari 等人[15]融合粒子群算法和文化算法的工作啟發(fā),提出了基于空間移動(dòng)的信息交流機(jī)制。實(shí)驗(yàn)中發(fā)現(xiàn),龍格庫(kù)塔算法在高精度求解空間中表現(xiàn)優(yōu)秀,但整體求解過(guò)程方差巨大,極易陷入局部最優(yōu),導(dǎo)致迭代的停滯;黏菌算法穩(wěn)定性較好,但缺乏在高精度空間進(jìn)一步提升的潛力。故本文中將龍格庫(kù)塔算法作為輔助算法,改進(jìn)的黏菌算法作為主體算法,將龍格庫(kù)塔算法的最優(yōu)位置和改進(jìn)黏菌算法的成敗歷史檔案構(gòu)成的空間作為信息交流的兩個(gè)主體。

首先,將龍格庫(kù)塔算法的種群規(guī)模設(shè)置為改進(jìn)黏菌算法的一半,放大基本移動(dòng)中種群受最優(yōu)位置的影響,減弱種群受平均位置影響的不穩(wěn)定性,同時(shí)減少雙種群融合的運(yùn)算開(kāi)銷(xiāo)。其次,將成敗歷史存檔作為參與信息交流的空間主體,有助于保留黏菌算法本身的位置信息和相關(guān)參數(shù)的有效性,移動(dòng)后的成敗歷史存檔可以更好地引導(dǎo)黏菌算法進(jìn)行位置更新。再次,劃分最優(yōu)位置和位置空間之間的相對(duì)關(guān)系。最后,根據(jù)每種相對(duì)關(guān)系構(gòu)建一系列基于空間移動(dòng)的信息交流模式,實(shí)現(xiàn)種群間信息有效的交流。信息交流的過(guò)程如下所示:

當(dāng)改進(jìn)的黏菌算法最優(yōu)適應(yīng)度優(yōu)于龍格庫(kù)塔算法時(shí):若龍格庫(kù)塔算法的最優(yōu)位置處于黏菌算法目前的種群空間中,將龍格庫(kù)塔算法最優(yōu)位置的值賦予失敗歷史存檔,加速黏菌算法向更優(yōu)空間的移動(dòng);若龍格庫(kù)塔算法的最優(yōu)位置不處于黏菌算法目前的種群空間中,說(shuō)明龍格庫(kù)塔算法目前的最優(yōu)位置信息質(zhì)量較差,將其替換為黏菌算法的最優(yōu)位置。當(dāng)龍格庫(kù)塔算法最優(yōu)適應(yīng)度優(yōu)于改進(jìn)的黏菌算法時(shí):若龍格庫(kù)塔算法的最優(yōu)位置處于黏菌算法目前的種群空間中,說(shuō)明當(dāng)前搜索范圍有效但不夠精確,將成敗歷史存檔同時(shí)向龍格庫(kù)塔算法最優(yōu)位置移動(dòng);若龍格庫(kù)塔算法的最優(yōu)位置不處于黏菌算法目前的種群空間中,說(shuō)明成敗歷史存檔已完全落后于龍格庫(kù)塔算法,將成功歷史存檔降級(jí)為失敗歷史存檔,同時(shí)將龍格庫(kù)塔算法最優(yōu)位置賦予黏菌算法,引導(dǎo)主算法進(jìn)行躍進(jìn)。

2.5 成敗歷史存檔的融合龍格庫(kù)塔-黏菌算法

本文提出了成敗歷史存檔的融合龍格庫(kù)塔-黏菌算法(success fail history based hybrid RUNgeKutta optimizer and slime mould algorithm,SFHRUN-SMA)。首先,提出了改進(jìn)的成敗歷史機(jī)制,設(shè)置成功失敗歷史存檔存儲(chǔ)位置信息,適應(yīng)度的變化量作為成功存檔中的概率,將該機(jī)制加入原始黏菌算法,有效地將黏菌算法的基礎(chǔ)移動(dòng)方向調(diào)整為“成功”到“失敗”,加速黏菌算法的啟動(dòng);其次,引入龍格庫(kù)塔算法作為輔助算法,將其種群規(guī)模設(shè)置為黏菌算法的一半,使用并經(jīng)計(jì)算-信息交流的模式將其和改進(jìn)后的黏菌算法進(jìn)行融合;再次,自定義了兩種群交流的時(shí)機(jī),實(shí)現(xiàn)了兩算法各自運(yùn)算特點(diǎn)的保留;最后,基于空間移動(dòng),提出了一系列按不同情況進(jìn)行不同行為的信息交流方式,使得作為輔助算法的半種群規(guī)模龍格庫(kù)塔算法調(diào)整速度更快,同時(shí)間接的交流調(diào)整方式使得作為主算法的全種群規(guī)模黏菌算法的調(diào)整更為精準(zhǔn)和謹(jǐn)慎。

通過(guò)文獻(xiàn)和實(shí)驗(yàn)可知,黏菌算法最大的優(yōu)勢(shì)是其穩(wěn)定性,但其隨機(jī)程度較大的勘探階段移動(dòng)方式和較為簡(jiǎn)單的開(kāi)采階段移動(dòng)方式導(dǎo)致了其啟動(dòng)較慢和后期求解精度不足的缺陷。改進(jìn)的成敗歷史存檔機(jī)制可以幫助黏菌算法在前期的勘探中更具方向性。龍格庫(kù)塔算法的輔助可以幫助黏菌算法在后期的開(kāi)采中更具潛力,同時(shí)兩算法融合后,黏菌算法穩(wěn)定的表現(xiàn)可以引導(dǎo)龍格庫(kù)塔算法規(guī)避陷入不穩(wěn)定的波動(dòng)中,龍格庫(kù)塔算法高精度的求解潛力可以引導(dǎo)黏菌算法更加精細(xì)地獲得最優(yōu)解。分別基于群智能技術(shù)和數(shù)學(xué)方法設(shè)計(jì)的兩算法相輔相成,融合后可以成為既適合大規(guī)模低精度問(wèn)題又適合小規(guī)模高精度問(wèn)題的綜合算法。此外,改進(jìn)的成敗歷史存檔可以作為兩算法融合后交流的橋梁,規(guī)避傳統(tǒng)交流方法導(dǎo)致的多種群信息部分損失的缺陷,同時(shí)更加高效地按照具體情況對(duì)不同種群的信息進(jìn)行調(diào)整實(shí)現(xiàn)了多種策略間有機(jī)地結(jié)合。

在黏菌算法框架中,轉(zhuǎn)換概率可以使個(gè)體小概率地進(jìn)行自身位置的重置;在龍格庫(kù)塔算法框架中,強(qiáng)化解的質(zhì)量機(jī)制可以為未成功尋優(yōu)個(gè)體提供擾動(dòng);在改進(jìn)的成敗歷史存檔機(jī)制中,作為概率的適應(yīng)度變化值保證了個(gè)體小概率偏離當(dāng)前局部最優(yōu)方向的可能。故本文算法在局部最優(yōu)跳出問(wèn)題上具有一定的對(duì)策,且相較于傳統(tǒng)的多種分布隨機(jī)擾動(dòng)的方法,本文算法局部最優(yōu)跳出方法更加與算法本身、改進(jìn)機(jī)制本身相匹配,所需的適應(yīng)度函數(shù)計(jì)算計(jì)算次數(shù)更少。綜上所述,融合了兩算法各自的計(jì)算優(yōu)勢(shì),同時(shí)彌補(bǔ)了兩算法存在的缺陷,使算法的求解精度和魯棒性得到提升。

2.6 改進(jìn)算法的步驟

SFHRUN-SMA算法的流程圖如圖2所示。

圖2 SFHRUN-SMA算法流程圖Fig.2 Flow chart of SFHRUN-SMA

2.7 時(shí)間復(fù)雜度分析

假設(shè)種群規(guī)模為N,搜索空間維度為D,最大迭代次數(shù)為T(mén),原始SMA 算法的時(shí)間復(fù)雜度主要來(lái)源于初始化、適應(yīng)度計(jì)算和位置更新,其時(shí)間復(fù)雜度為:O(N)+O(N·T)+O(N·D·T)。原始RUN 算法的時(shí)間復(fù)雜度與上式相同。SFHRUN-SMA算法主要由成敗歷史存檔機(jī)制和融合龍格庫(kù)塔算法兩個(gè)改進(jìn)策略組成,由于作為輔助算法的龍格庫(kù)塔算法在前述中設(shè)置為黏菌算法種群規(guī)模的一半,則本算法全種群初始化過(guò)程的時(shí)間復(fù)雜度為O(N+0.5N)。同時(shí),成敗歷史存檔機(jī)制并不需要增加個(gè)體適應(yīng)度計(jì)算的過(guò)程,故計(jì)算個(gè)體適應(yīng)度的時(shí)間復(fù)雜度為O( (N+0.5N)·T)。在位置更新過(guò)程中,按照作為概率的適應(yīng)度值變化量選取個(gè)體位置的過(guò)程需要對(duì)成敗存檔中個(gè)體進(jìn)行排序,并隨機(jī)選取一個(gè)位置參與計(jì)算,該過(guò)程時(shí)間復(fù)雜度為O( 0.5N·lg( 0.5N)·T)。綜上所述,SFHRUN-SMA 的時(shí)間復(fù)雜度為:O(N·(1.5+(1.5+0.5 lg( 0.5N)+1.5D)·T))。

在維度更高、適應(yīng)度函數(shù)計(jì)算更為復(fù)雜的實(shí)際工程優(yōu)化問(wèn)題中,本文算法相較于傳統(tǒng)反向?qū)W習(xí)改進(jìn)的算法和使用貪婪策略的其他算法具有更少的適應(yīng)度函數(shù)計(jì)算次數(shù),整體的時(shí)間復(fù)雜度與其相當(dāng)甚至更低,因此在實(shí)際的工程應(yīng)用問(wèn)題中是可行的。

3 仿真實(shí)驗(yàn)及結(jié)果分析

實(shí)驗(yàn)環(huán)境為Windows10,64 位操作系統(tǒng),CPU 為Inter Core i7-6700HQ,主頻2.6 GHz,內(nèi)存8 GB,算法基于MATLAB2020b編寫(xiě)。

實(shí)驗(yàn)1為了充分驗(yàn)證本文所提出的SFHRUNSMA 在求解函數(shù)優(yōu)化問(wèn)題時(shí)的求解精度和魯棒性,將SFHRUN-SMA 算法與其他算法在CEC2017 測(cè)試函數(shù)上進(jìn)行求解,并進(jìn)行實(shí)驗(yàn)結(jié)果的對(duì)比。對(duì)比用算法包括最新的改進(jìn)黏菌算法AFSMA[6]、原始的黏菌算法SMA[1]、同一科研團(tuán)隊(duì)提出的哈里斯鷹算法HHO[16]、近幾年表現(xiàn)優(yōu)秀的正余弦算法SCA[17]和經(jīng)典的鯨魚(yú)優(yōu)化算法WOA[9]。

為保證每種算法對(duì)比時(shí)的公平性,實(shí)驗(yàn)中種群規(guī)模設(shè)置為30,最大迭代次數(shù)設(shè)置為500,并獨(dú)立運(yùn)行30 次計(jì)算得出統(tǒng)計(jì)結(jié)果。對(duì)比用算法參數(shù)設(shè)置均來(lái)源于對(duì)應(yīng)文獻(xiàn)設(shè)置,如表1 所示。其中SFHRUN-SMA 算法的成敗歷史存檔規(guī)模分別設(shè)置為種群規(guī)模的一半,即15。

表1 主要參數(shù)Table 1 Main parameters

本文選用了表2 所列示的29 個(gè)CEC2017 基準(zhǔn)測(cè)試函數(shù),其類(lèi)型包含單峰(unimodal,UM)、多峰(multimodal,MM)、混合(hybrid,H)及復(fù)合(composition,C),維度可選用10、30、50、100,此處實(shí)驗(yàn)使用標(biāo)準(zhǔn)維度30維,02號(hào)函數(shù)由于高維的不穩(wěn)定性習(xí)慣上不使用。

表2 CEC2017函數(shù)Table 2 CEC2017 function

表3為SFHRUN-SMA與第一部分算法進(jìn)行對(duì)比的實(shí)驗(yàn)結(jié)果??傮w上看,SFHRUN-SMA在29個(gè)CEC2017基準(zhǔn)測(cè)試函數(shù)中在23個(gè)函數(shù)上平均求解精度的表現(xiàn)優(yōu)于其他所有對(duì)比算法,另外6 個(gè)測(cè)試函數(shù)上均由原始SMA算法取得更優(yōu),但在此基礎(chǔ)上SFHRUN-SMA算法的求解精度均高于改進(jìn)算法AFSMA,針對(duì)更復(fù)雜的、更接近現(xiàn)實(shí)的問(wèn)題SFHRUN-SMA 具有更好的求解精度和收斂速度。

為了進(jìn)一步驗(yàn)證改進(jìn)算法的有效性,需要對(duì)群智能算法結(jié)果進(jìn)行統(tǒng)計(jì)檢驗(yàn)[18],本文選擇Wilcoxon 秩和檢驗(yàn)進(jìn)行統(tǒng)計(jì)檢驗(yàn),顯著性水平設(shè)置為5%,表3展示了SFHRUN-SMA 算法與其他五種算法的檢驗(yàn)結(jié)果,每列最后一個(gè)符號(hào)為SFHRUN-SMA 分別與五種算法成對(duì)比較結(jié)果的勝負(fù)標(biāo)記,其中“+”代表優(yōu)于比較算法,“-”代表劣于比較算法,最后一行為優(yōu)于和劣于的函數(shù)數(shù)量合計(jì)。表3 結(jié)果表明SFHRUN-SMA 算法對(duì)于每個(gè)CEC2017 基準(zhǔn)測(cè)試函數(shù)的求解結(jié)果對(duì)于SCA、HHO、WOA三個(gè)對(duì)比算法分布完全不同,可以證明SFHRUNSMA算法的求解精度明顯優(yōu)于該三種算法。相較于改進(jìn)算法AFSMA,SFHRUN-SMA算法在三分之二的測(cè)試函數(shù)上分布不同,并且整體求解精度優(yōu)于AFSMA,可以證明改進(jìn)策略對(duì)算法求解精度的提升有顯著的影響。相較于原始SMA,接近半數(shù)的測(cè)試函數(shù)結(jié)果分布無(wú)法證明有明顯差異,分析可知SFHRUN-SMA 算法盡可能地保留了原始SMA 算法動(dòng)態(tài)權(quán)重、自適應(yīng)轉(zhuǎn)換概率等優(yōu)點(diǎn),故分布并未出現(xiàn)明顯差異,但同樣的在求解精度上有較大提升,可以證明SFHRUN-SMA在求解CEC2017基準(zhǔn)測(cè)試函數(shù)上表現(xiàn)更優(yōu)。

表3 CEC2017測(cè)試函數(shù)和Wilcoxon秩和檢驗(yàn)的結(jié)果對(duì)比Table 3 Comparison of CEC2017 function results and Wilcoxon’s rank-sumtest

為了形象地觀察改進(jìn)算法的收斂性能,對(duì)SFHRUNSMA與AFSMA、SMA、SCA、HHO、WOA進(jìn)行收斂性分析。圖3給出部分基準(zhǔn)測(cè)試函數(shù)的收斂曲線圖,各算法曲線圖例與圖3(f)一致。為了便于觀察高精度的曲線收斂情況,縱坐標(biāo)取以10 為底的對(duì)數(shù)繪制所有曲線圖像。觀察可得,SFHRUN-SMA 算法在迭代前中期展現(xiàn)出和原始SMA 類(lèi)似但效果更好的尋優(yōu)線路,說(shuō)明了成敗歷史存檔機(jī)制在保留了SMA原本的特點(diǎn)和優(yōu)點(diǎn)的基礎(chǔ)上加快了SMA 算法的收斂速度。同時(shí),在迭代中后期得益于RUN 算法的引導(dǎo)SFHRUN-SMA 算法可以執(zhí)行更為精細(xì)化的搜索,保證了整體算法搜索到更優(yōu)解的潛力。直觀來(lái)看,本文改進(jìn)策略的組合對(duì)算法的收斂速度和局部最優(yōu)的跳出有積極影響。

圖3 CEC2017測(cè)試函數(shù)收斂曲線Fig.3 CEC2017 Function average convergence curve

為了綜合地評(píng)估SFHRUN-SMA 與其他算法對(duì)比的競(jìng)爭(zhēng)性,使用平均絕對(duì)誤差MAE 對(duì)上述算法進(jìn)行排序[19]。表4 展示了所有算法基于29 個(gè)CEC2017 基準(zhǔn)測(cè)試函數(shù)的MAE。MAE計(jì)算公式如下:

表4 MAE算法排名Table 4 MAE algorithm ranking

其中,NF為函數(shù)個(gè)數(shù),fi為算法在第i個(gè)函數(shù)上求解結(jié)果的平均值,fi*為第i個(gè)函數(shù)的理論最優(yōu)值。

由表5可知,SFHRUN-SMA排名第一,原始算法SMA排名第二。并且SFHRUN-SMA 的MAE 值明顯小于其他算法,更加綜合地表明了該算法的有效性和魯棒性。

實(shí)驗(yàn)2 隨著測(cè)試函數(shù)搜索維度的升高,最優(yōu)值的求解困難程度也隨之升高,求解高維問(wèn)題有助于讓基準(zhǔn)測(cè)試函數(shù)的求解難度更加接近于現(xiàn)實(shí)中復(fù)雜的問(wèn)題,以此可以間接檢驗(yàn)算法應(yīng)用于現(xiàn)實(shí)問(wèn)題中的表現(xiàn)。使用CEC2017基準(zhǔn)測(cè)試函數(shù),搜索維度設(shè)置為50和100兩個(gè)高維進(jìn)行實(shí)驗(yàn),表5展示了實(shí)驗(yàn)結(jié)果。由表5可知,當(dāng)維數(shù)上升至50維后,SFHRUN-SMA在22個(gè)測(cè)試函數(shù)上求解精度占優(yōu),改進(jìn)算法AFSMA在4個(gè)測(cè)試函數(shù)上占優(yōu),原始SMA 在3 個(gè)測(cè)試函數(shù)上占優(yōu);當(dāng)維數(shù)上升至CEC2017 測(cè)試函數(shù)設(shè)置的最大維數(shù)時(shí),SFHRUN-SMA在22個(gè)測(cè)試函數(shù)上占優(yōu),改進(jìn)算法AFSMA在4個(gè)測(cè)試函數(shù)上占優(yōu),原始算法SMA 在2 個(gè)測(cè)試函數(shù)上占優(yōu),HHO算法在1個(gè)測(cè)試函數(shù)上占優(yōu)??梢哉f(shuō)明,在高維環(huán)境下SFHRUN-SMA 的改進(jìn)策略依舊有效,從成敗歷史存檔和RUN算法的引導(dǎo)大大加速了高維空間中算法的啟動(dòng)速度,從而更快地收縮搜索空間,為精細(xì)搜索創(chuàng)造先機(jī),相對(duì)于對(duì)比算法有著更強(qiáng)的穩(wěn)定性和魯棒性。

表5 高維CEC2017測(cè)試函數(shù)的結(jié)果對(duì)比Table 5 Comparison of high dimension CEC2017 test function results

實(shí)驗(yàn)3 為了驗(yàn)證SFHRUN-SMA 算法改進(jìn)的有效性,需要對(duì)比分析不完全算法[20],使用CEC2017基準(zhǔn)測(cè)試函數(shù)進(jìn)行SFHRUN-SMA 與其不完全算法SFHSMA 與RUN進(jìn)行對(duì)比,表6展示了更加綜合和直觀的MAE排名結(jié)果。由表6可見(jiàn),SFHRUN-SMA算法在所有維度上均取得第1,且在100維度上優(yōu)勢(shì)更加明顯,因此SFHRUNSMA在求解問(wèn)題普遍的適用性上強(qiáng)于兩個(gè)不完全算法。

表6 MAE不完全算法排名Table 6 MAE incomplete algorithm ranking

SFHSMA在較低維度最終的求解效果與原始SMA相似,分析可知單純的成敗歷史存檔并不能為種群帶來(lái)不同于原始種群位置信息的新知識(shí),固表現(xiàn)與原始SMA相似。同時(shí),SFHSMA 在100 維度求解精度高于RUN,由此可知成敗歷史存檔機(jī)制加強(qiáng)了SMA算法在更高維度中的穩(wěn)定性。RUN 算法在低維的求解精度較高,但在高維缺乏穩(wěn)定性,將其與SFHSMA 融合構(gòu)成本文算法后,SFHRUN-SMA 在三類(lèi)維度中表現(xiàn)均超過(guò)獨(dú)立的SFHSMA 和RUN。一方面說(shuō)明作為輔助算法的RUN成功地對(duì)SFHSMA 起到了引導(dǎo)作用,幫助其在各個(gè)維度取得更優(yōu)結(jié)果,另一方面說(shuō)明SFHSMA 幫助RUN 規(guī)避了求解不穩(wěn)定的缺陷。此外,SFHRUN-SMA的MAE結(jié)果與排名第2的算法差距較大,側(cè)面說(shuō)明了本文構(gòu)建的兩種群交流機(jī)制在實(shí)現(xiàn)交流的基礎(chǔ)上對(duì)整體算法精度的提升也有一定貢獻(xiàn)。綜上,兩種改進(jìn)策略及相關(guān)交流策略的結(jié)合有利于本文算法有效性和魯棒性的提升。

4 結(jié)束語(yǔ)

針對(duì)SMA 算法存在的不足,本文使用了改進(jìn)的成敗歷史存檔機(jī)制和融合龍格庫(kù)塔算法兩個(gè)策略對(duì)原始SMA進(jìn)行改進(jìn),提出了成敗歷史存檔的融合龍格庫(kù)塔-黏菌算法SFHRUN-SMA,并將該算法應(yīng)用于CEC2017測(cè)試函數(shù)進(jìn)行求解。改進(jìn)的成敗歷史存檔機(jī)制通過(guò)對(duì)成功失敗位置信息的存儲(chǔ)并將適應(yīng)度的變化值作為概率賦予每個(gè)位置信息,提高了原始黏菌算法逼近最優(yōu)解的啟動(dòng)速度,對(duì)不同特點(diǎn)的測(cè)試函數(shù)具有普遍適用性,且該機(jī)制具有一定的可遷移性;迭代過(guò)程中,將種群規(guī)模為SMA一半的RUN算法作為輔助算法,并定制了一系列兩種群間交流的機(jī)制,保留兩算法優(yōu)勢(shì)的同時(shí)彌補(bǔ)

兩算法的固有缺陷,利用RUN 更強(qiáng)的深度求解潛力引導(dǎo)SMA,利用SMA更穩(wěn)定的求解路徑平衡RUN多次重復(fù)求解的方差,在保證種群多樣性的前提下提高算法求解精度。此外,為了多維度綜合地評(píng)估改進(jìn)算法的有效性和同其他算法相比的競(jìng)爭(zhēng)力,本文使用了MAE、Wilcoxon秩和檢驗(yàn)等指標(biāo),同時(shí)對(duì)CEC2017基準(zhǔn)測(cè)試函數(shù)的高維進(jìn)行探索和測(cè)試,多角度地證明了本文所提出算法的求解精度和魯棒性。

在未來(lái)的研究中,希望對(duì)黏菌算法進(jìn)行進(jìn)一步的改進(jìn)和測(cè)試,提高該算法針對(duì)更多樣、更復(fù)雜問(wèn)題的適用性,并將其應(yīng)用于金融科技和數(shù)據(jù)挖掘等領(lǐng)域,進(jìn)一步落實(shí)群智能算法的實(shí)際應(yīng)用。

猜你喜歡
龍格黏菌庫(kù)塔
庫(kù)塔克《四首隨想曲》的音高材料與創(chuàng)作觀念研究
黏糊糊的生命
大自然探索(2021年3期)2021-04-30 09:06:08
黏菌觀察記
養(yǎng)群黏菌當(dāng)寵物
黏菌一點(diǎn)不簡(jiǎn)單
華夏地理(2019年2期)2019-07-24 10:05:57
非結(jié)構(gòu)網(wǎng)格的有限體積法研究
一種GLONASS衛(wèi)星軌道快速計(jì)算方法
錨段關(guān)節(jié)式電分相過(guò)電壓的龍格-庫(kù)塔解法及抑制
庫(kù)塔東干渠施工階段遇到的問(wèn)題及處理措施
庫(kù)塔墾區(qū)早中熟陸地雜交棉品種區(qū)域試驗(yàn)
扬州市| 沽源县| 民权县| 靖远县| 施秉县| 嘉禾县| 禄劝| 灌阳县| 阿坝| 东宁县| 固始县| 万宁市| 高尔夫| 三江| 宜兰县| 和平区| 河间市| 互助| 云林县| 双流县| 平原县| 阿尔山市| 都安| 建始县| 绥芬河市| 乌什县| 抚州市| 深水埗区| 白银市| 贵溪市| 大姚县| 图们市| 绥阳县| 萝北县| 青岛市| 通山县| 清新县| 江安县| 邵武市| 南皮县| 深水埗区|