李 智

(武漢輕工大學(xué) 電氣與電子工程學(xué)院，湖北 武漢 430023)

智能優(yōu)化算法研究及應(yīng)用展望

李 智

(武漢輕工大學(xué) 電氣與電子工程學(xué)院，湖北 武漢 430023)

針對智能優(yōu)化算法理論和應(yīng)用的不斷發(fā)展，分析了智能優(yōu)化算法的特點，對蟻群算法、粒子群算法、魚群算法等7種不同算法的原理、算法過程及應(yīng)用進行了綜述，并對智能算法的進一步發(fā)展進行了探討。

智能算法；優(yōu)化；算法結(jié)構(gòu)；計算過程

1 引言

以模擬自然界生物智能行為為背景的優(yōu)化算法，如鳥群算法、蟻群算法、蜂群算法、粒子群算法、螢火蟲算法等，以固體退火理論及系統(tǒng)穩(wěn)定性理論為基礎(chǔ)的模擬退火算法、Hopfield神經(jīng)優(yōu)化算法，以及遺傳算法、免疫算法、禁忌搜索算法等，都可以歸結(jié)為人工智能優(yōu)化算法。

之所以稱之為智能算法，是因為人腦的智能行為是由大量神經(jīng)元通過有機組織和協(xié)調(diào)來實現(xiàn)某一目的，而生物的某些行為如覓食、建立巢穴等也是通過群體協(xié)作來實現(xiàn)的，與人類神經(jīng)元的組織與協(xié)調(diào)具有高度的相似性。人類的神經(jīng)元自身簡單，其活動是通過各個神經(jīng)元之間的相互協(xié)作和協(xié)調(diào)完成的，是個體與群體協(xié)作完成任務(wù)的完美典范，而生物完成某項任務(wù)也是通過個體與群體的有效組織來實現(xiàn)的。

一般而言，個體的行為較為簡單，可以用單一的功能函數(shù)來描述，而協(xié)作是一種個體之間的相互作用，表現(xiàn)為個體之間的通訊能力，這種通訊能力就是我們進行分布式求解的關(guān)鍵所在。因此智能算法具有以下幾個特征：個體描述簡單，實現(xiàn)方便；個體之間具有廣泛分布，如覓食的螞蟻四處找食；沒有預(yù)期的目標(biāo)，具有魯棒性；個體之間通過通訊來進行合作，尋優(yōu)范圍大。

2 智能算法模型特點

智能優(yōu)化算法的出發(fā)點是模擬自然界生物群體生活時，個體之間的互相交流與合作，利用個體的簡單、有限行為拓展到群體的、完成復(fù)雜任務(wù)的整體能力。因此仿生的算法具有如下特點：從單個生物行為出發(fā)，研究其個體行為特征，并采用數(shù)學(xué)模型進行研究和描述，并不斷完善；研究個體之間的通訊行為，形成整體融合，并采用數(shù)學(xué)模型表示之?？紤]到單個生物的局限性，還可以將單個算法與其它算法相結(jié)合，形成各種混合型算法。

研究原則一般是從生物群體生活的自然機理著手，通過嚴格的數(shù)學(xué)分析與推理，得到生物個體的運動模型，使算法具有嚴密的理論基礎(chǔ)，盡可能地建模準(zhǔn)確，算法收斂性快，以及較高的解空間搜索效率。在各種實驗過程中，一般沒有現(xiàn)行數(shù)據(jù)或經(jīng)驗，實驗者的經(jīng)驗起很大的作用。

由于不同生物個體之間差異較大，個體的功能描述也千差萬別，但在優(yōu)化算法方面有其統(tǒng)一的框架模式，都是基于概率的隨機搜索方式，各種不同算法在結(jié)構(gòu)、內(nèi)容和計算方法等方面具有較大的相似性?？蓺w結(jié)為如下主體形式：

Step1:設(shè)置參數(shù)，初始化種群。

Step2:隨機生成可行解，并由此計算其相對應(yīng)的適應(yīng)值。

Step3:通過循環(huán)比較，選擇優(yōu)化的解和相對應(yīng)的適應(yīng)值。

由于不同生物的個體行為數(shù)學(xué)描述不一，各種算法的新解更新法則也不一樣，這一點也可以體現(xiàn)生物的多樣性。

3 智能優(yōu)化算法

3.1 蟻群算法

蟻群算法(Ant Colony Optimization)[1]是Dorigo受螞蟻覓食時的通訊機制啟發(fā)，在上世紀90年代提出的，并采用該算法解決貨郎擔(dān)問題。

該算法思想是：每只螞蟻覓食時，都在隨機的路線上留下信息素，由于信息素具有時間效應(yīng)，會隨著時間的延長而減弱。因此，當(dāng)某只螞蟻發(fā)現(xiàn)了食物，那么其它螞蟻就會向這條路線進行聚集，從而導(dǎo)致這條路線上的信息素增多。每只螞蟻每次隨機選擇要走的路線為信息素比較濃的路線，也就是就近的路線，這條就近的路線也就是最佳路線。這種算法利用正反饋原理，使得較優(yōu)的路徑能夠有較大機會被選擇。

與真實的螞蟻不同，蟻群算法中的螞蟻被賦予了部分記憶，并且可以感知某些啟發(fā)信息，這種記憶并非存儲于螞蟻個體，而是分布在路徑上。蟻群通過感知路徑上的信息素進行通訊。螞蟻之間的這種間接通訊方式稱為Stigmergy機制，個體之間沒有直接信息交換，而是通過改變他們共同存在的環(huán)境來進行交互，個體之間又通過環(huán)境去影響其它的個體，從而形成正反饋機制。

基本蟻群算法的計算過程[2]：

Step1:設(shè)置參數(shù)，初始化路線信息素。

Step2:將m只螞蟻置于各自的初始鄰域，隨機生成m組可行解，并計算其適應(yīng)度。

Step3:計算各個螞蟻的適應(yīng)度，并檢查是否為優(yōu)化解，記下優(yōu)化解。

Step4:按強度更新信息素。

Step5:檢查是否全局優(yōu)化解，如是優(yōu)化解，結(jié)束；反之，繼續(xù)迭代，返回Step3。

在蟻群算法的基本原理研究方面，出現(xiàn)了很多改進的算法研究，有參數(shù)設(shè)置改進的[3-4]，有對收斂性進行改進研究的[5-7]，從而提出了精英策略蟻群算法[8]，最大―最小蟻群算法[9]等，以及將蟻群算法與其它算法相結(jié)合[10-13]，提高了算法的性能和效率。

在研究理論的同時，應(yīng)用方面的研究也在不斷地拓展，采用改進的蟻群算法用于客運專線電力負荷建模與參數(shù)辨識[14]，基于模型的子空間聚類與時間段蟻群算法的合同生產(chǎn)批量調(diào)度方法[15]，文獻[16]將蟻群算法應(yīng)用于大型灌區(qū)節(jié)水改造綜合評價。文獻[17]—[22]將蟻群算法應(yīng)用于求解覆蓋表生成問題、振動篩參數(shù)設(shè)計、分布式衛(wèi)星光網(wǎng)絡(luò)波長路由分配技術(shù)和數(shù)字微流控生物芯片在線測試路徑優(yōu)化，以及內(nèi)燃機配汽機構(gòu)型動力學(xué)仿真和煤炭運輸。以上諸文獻，都有效地解決了科研中存在的問題，證明了該算法應(yīng)用于實際優(yōu)化問題求解的可行性。

3.2 粒子群算法

粒子群算法(Particle Swarm Optimization)[23-24]是Kennedy和Eberhart于1995年提出，是一種源于對鳥群捕食行為的研究而發(fā)明的進化計算技術(shù)。其出發(fā)點是設(shè)想有一群鳥在隨機搜索一塊食物，尋找到該食物的最簡單有效的方法，就是搜索距離食物最近的鳥的周圍區(qū)域，其基本思想是優(yōu)化問題的每一個解稱為一個粒子，定義一個符合度函數(shù)來衡量每個粒子的優(yōu)越程度。每個粒子根據(jù)自己和其它粒子的“飛行經(jīng)驗”群游，從而達到從全空間搜索最優(yōu)解的目的。

基本粒子群算法的計算過程[25]：

Step1:初始化所有粒子，隨機給出初始位置和速度。

Step2:計算每個粒子在當(dāng)前狀態(tài)下的適應(yīng)值，并計算每個粒子的目標(biāo)值。

Step3:將每個粒子與Step2中的計算的適應(yīng)函數(shù)值與自身優(yōu)化解進行比較，記錄下優(yōu)化解。

Step4:每個粒子的當(dāng)前狀態(tài)與群體最好狀態(tài)進行比較，記錄最好者。

Step5:完成上述計算后，再進行新一輪計算，返回Step2，直至尋優(yōu)結(jié)束。

在粒子群算法的基本原理研究方面，也同樣有對參數(shù)進行設(shè)置和收斂性進行改進的[26-27]。這些研究對于粒子群算法的應(yīng)用具有重要意義。

通過算法結(jié)合，也可以提高算法收斂速度，文獻[28]研究了一種帶有被動聚集的粒子群優(yōu)化算法，在速度更新中增加了隨機粒子速度項，以實現(xiàn)加快算法的收斂速度。還有將粒子群算法進行多階段分解[29]，與混沌算法相結(jié)合[30]，與遺傳算法相結(jié)合[31]，與模擬退火算法相結(jié)合[32]等，文獻[33]針對平衡多目標(biāo)優(yōu)化的全局搜索和局部尋優(yōu)的能力，提出一種多策略差分進化的元胞多目標(biāo)粒子群算法，文獻[34]將粒子群算法與布谷鳥算法相結(jié)合，提高了動態(tài)多種群粒子群(DMS-PSO)算法的全局搜索能力。

應(yīng)用方面的研究不局限于某個領(lǐng)域，在弱信號檢測方面[35]，有機半導(dǎo)體NPB傳輸特性辨識方面[36]，延河流域水沙模擬[37]，農(nóng)業(yè)工程項目的優(yōu)化計算[38]，內(nèi)燃機零部件的優(yōu)化設(shè)計[39]。采用改進的粒子群算法應(yīng)用于Volterra模型參數(shù)辨識[40]，將非線性系統(tǒng)的辨識問題轉(zhuǎn)化為高維參數(shù)空間上的優(yōu)化問題。

3.3 魚群算法

李曉磊2002年根據(jù)魚群的行為特點,并應(yīng)用動物自治體的模型，提出了一種自下而上設(shè)計的新型的尋優(yōu)策略——人工魚群算法(Fish Swarm Optimization)[41]。該算法模擬魚群覓食的特性，將魚的活動分為3種行為模式：覓食行為(魚的基本行為，表現(xiàn)為魚發(fā)現(xiàn)食物并向其方向游動)；追尾行為(表現(xiàn)為其它魚群向發(fā)現(xiàn)食物的魚的方向聚集)；聚群行為(由于其它魚的聚集，形成龐大的魚群)。魚群算法通過食物濃度和中心位置處的魚伙伴數(shù)目來確定搜索方向，使魚向食物濃度高的地方聚集，達到全局優(yōu)化目的。通過啟發(fā)式搜索策略，是一種廣義領(lǐng)域搜索算法。

在算法實現(xiàn)過程中，魚的狀態(tài)表示待優(yōu)化問題的解，目標(biāo)函數(shù)用食物密度表示。定義一個擁擠因子描述擁擠程度，當(dāng)食物較多而又不擁擠時，是最佳覓食環(huán)境，當(dāng)環(huán)境擁擠時魚就離開此環(huán)境，游往別處。

基本魚群覓食算法的計算過程[42]：

Step1:設(shè)置最大嘗試次數(shù)。

Step2:魚從一個狀態(tài)向另一個狀態(tài)轉(zhuǎn)移，即產(chǎn)生新解。

Step3:比較狀態(tài)轉(zhuǎn)移前和轉(zhuǎn)移后的適應(yīng)值，記錄下優(yōu)化值。

Step4:檢查終止條件，滿足則結(jié)束；反之，返回Step2。

對于追尾行為，當(dāng)魚從狀態(tài)Xi轉(zhuǎn)移到狀態(tài)Xj能獲得更好的適應(yīng)值，魚就從狀態(tài)Xj移動到下一步；反之，返回覓食算法過程。

對于聚群行為，當(dāng)魚感知到范圍內(nèi)食物較多，同時又不擁擠，就向魚群中心移動；反之，返回覓食算法過程。

魚群算法在理論上也在不斷改進，文獻[43]通過增加魚群的協(xié)調(diào)行為，解決優(yōu)化問題中方程數(shù)多、變量維數(shù)高的問題。文獻[44] 為提高魚群算法尋優(yōu)速度，提出了基于視野和步長動態(tài)調(diào)整思想，并應(yīng)用于番茄光環(huán)境調(diào)控管理。文獻[45]將蟻群算法與魚群算法相融合，先應(yīng)用魚群算法對搜索空間進行全局搜索,然后以當(dāng)代全局最優(yōu)解為基礎(chǔ)利用蟻群算法對其領(lǐng)域進行局部搜索，并將該方法應(yīng)用于水輪機―引水管道系統(tǒng)參數(shù)辨識。文獻[46] 針對魚群算法收斂速度慢、尋優(yōu)精度低的缺陷，提出了一種基于參數(shù)動態(tài)調(diào)整的改進魚群算法．動態(tài)調(diào)整視野和擁擠因子以提高算法的搜索效率。

3.4 免疫遺傳算法

免疫算法[47]具有抗體多樣性、自我調(diào)節(jié)能力和免疫記憶功能，與遺傳算法相結(jié)合可以實現(xiàn)優(yōu)化計算，稱之為免疫遺傳算法(Immune Genetic Optimization)抗體多樣性表現(xiàn)在通過細胞的分裂作用和分化作用，免疫系統(tǒng)產(chǎn)生大量抗體抵御抗原入侵，這種多樣性的遺傳機理用于搜索優(yōu)化。自我調(diào)節(jié)能力是免疫系統(tǒng)具有維持免疫平衡的機制，通過對抗體的抑制和促進，實現(xiàn)自我調(diào)節(jié)產(chǎn)生必要抗體，這個功能對應(yīng)算法的局部搜索能力。免疫記憶功能是產(chǎn)生抗體的部分細胞會作為記憶細胞被保留，對今后入侵的同類抗原，相應(yīng)的記憶細胞會被迅速激發(fā)產(chǎn)生大量抗體，對應(yīng)算法加快搜索速度，提高算法總體搜索能力。

免疫遺傳算法的計算過程[48]：

Step1:隨機產(chǎn)生初始父代種群，根據(jù)先驗知識抽取疫苗。

Step2:若當(dāng)前群體包含最佳個體，記錄，結(jié)束計算；反之，繼續(xù)。

Step3:對于目前父代種群進行交叉、變異操作，得到新的種群。

Step4:對新的種群進行免疫選擇操作，得到新一代父本，返回Step2。

免疫算法的理論研究和應(yīng)用也在不斷進行，蔡自興等[49]對免疫算法的產(chǎn)生、發(fā)展和作用機理進行了研究，比較了不同免疫算法的設(shè)計方法及其優(yōu)劣，并討論了免疫算法的種類。在免疫算法收斂性方面，洪露等[50]運用隨機過程相關(guān)理論，對實數(shù)編碼免疫算法的收斂速度估計進行了研究和分析。文獻[51] 將免疫算法與貝葉斯優(yōu)化算法相結(jié)合，利用免疫算法的導(dǎo)向性變異，對貝葉斯網(wǎng)絡(luò)產(chǎn)生的解進行變異，提高了種群中個體的適應(yīng)度。戚玉濤等[52]將基于Pareto支配關(guān)系的局部下山算子和差分算子引入免疫多目標(biāo)優(yōu)化算法之中，提出了一種求解多目標(biāo)問題的Memetie免疫優(yōu)化算法。LIU等[53]也提出了動態(tài)多目標(biāo)免疫啟發(fā)算法。

免疫算法的應(yīng)用面很廣，左興權(quán)等[54]將線性規(guī)劃與免疫算法結(jié)合，進行雙行設(shè)備布局設(shè)計。文獻[55]采用免疫算法對推測多線程中線程劃分參數(shù)進行優(yōu)化，文獻[56]采用先驗知識疫苗接種的方法，提出一種基于動態(tài)抗體記憶庫的免疫優(yōu)化算法，提高了算法的求解精度。

3.5 Hopfield神經(jīng)網(wǎng)絡(luò)優(yōu)化算法

Hopfield神經(jīng)優(yōu)化網(wǎng)絡(luò)(Hopfield Neural Network Optimization)[57]是一個反饋型網(wǎng)絡(luò)，其重要特點是其具有穩(wěn)定狀態(tài)，當(dāng)網(wǎng)絡(luò)達到穩(wěn)定狀態(tài)時，就是它的能量函數(shù)達到最小值的時候。

Hopfield神經(jīng)網(wǎng)絡(luò)用于求解優(yōu)化問題，就是源于該神經(jīng)網(wǎng)絡(luò)能量函數(shù)的極小點對應(yīng)于系統(tǒng)的穩(wěn)定平衡點，求解問題的優(yōu)化解即轉(zhuǎn)化為求解系統(tǒng)的穩(wěn)態(tài)輸出，也就是對應(yīng)神經(jīng)網(wǎng)絡(luò)能量函數(shù)的極小點。Hopfield神經(jīng)網(wǎng)絡(luò)優(yōu)化算法模型參考文獻[58]。

文獻[59]對Hopfield神經(jīng)網(wǎng)絡(luò)所存在的極小值問題及缺乏學(xué)習(xí)能力的問題,提出了一種學(xué)習(xí)算法。將決定約束條件權(quán)值大小的系數(shù)作為學(xué)習(xí)參數(shù)，通過修正參數(shù)，提高了收斂性。文獻[60] 對聯(lián)想記憶神經(jīng)網(wǎng)絡(luò)的特性進行了分析，基于雙向聯(lián)想存儲器原理，對自聯(lián)想記憶Hopfield 模型進行了擴展，建造了適合于求解模式識別問題的異聯(lián)想記憶Hopfield 神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu)。

Hopfield神經(jīng)網(wǎng)絡(luò)計算過程：

Step1:將優(yōu)化問題數(shù)學(xué)模型與Hopfield神經(jīng)網(wǎng)絡(luò)動態(tài)方程有機結(jié)合，建立目標(biāo)函數(shù)與能量函數(shù)對應(yīng)關(guān)系。

Step2:初始化網(wǎng)絡(luò)參數(shù)，設(shè)置初值。

Step3:求出目標(biāo)函數(shù)所對應(yīng)的能量函數(shù)。

Step4:檢查系統(tǒng)輸出值，滿足要求；結(jié)束，反之，重新更新神經(jīng)元矩陣，返回Step2。

Hopfield 神經(jīng)網(wǎng)絡(luò)優(yōu)化計算不同于生物群體計算，是一種以電路起振直至穩(wěn)態(tài)輸出的工作方式，是基于系統(tǒng)穩(wěn)定性的一種分析方法，具有并行計算的特點。

Hopfield 神經(jīng)網(wǎng)絡(luò)應(yīng)用涉及到各個行業(yè)，文獻[61]、文獻[62]分別將該算法應(yīng)用于鋼鐵的混勻礦配比和鐵道運輸，文獻[63] 提出了一種幅值相位型連續(xù)多值復(fù)數(shù)Hopfield神經(jīng)網(wǎng)絡(luò)算法，解決統(tǒng)計量算法盲檢測多進制振幅鍵控信號的缺陷，文獻[64]研究了時滯Hopfield神經(jīng)網(wǎng)絡(luò)的全局指數(shù)穩(wěn)定性問題。

Adnene等在文獻[65]中，研究了一個新的具有時變時滯和分布時滯Hopfield神經(jīng)網(wǎng)絡(luò)的全局指數(shù)穩(wěn)定性，通過采用適當(dāng)?shù)腖yapunov函數(shù)，得到指數(shù)收斂時一些時滯相關(guān)的充分條件。余刃等[66]將Hopfield 神經(jīng)網(wǎng)絡(luò)應(yīng)用于核動力裝置異常運行狀態(tài)監(jiān)測，韓廣等[67]提出一種基于拉格朗日乘子法的Hofield神經(jīng)網(wǎng)絡(luò)優(yōu)化方法，解決前置反硝化污水處理過程的優(yōu)化控制問題。

3.6 模擬退火算法

模擬退火算法(Simulated Annealing Optimization)[68]思想最早由Metropolis在1953年提出，1983年Kirkpatrick等成功將退火思想引入組合優(yōu)化領(lǐng)域。該算法應(yīng)用于優(yōu)化問題的求解，其出發(fā)點是基于物理中固體物質(zhì)的退火過程與一般優(yōu)化問題的相似性[69]。

模擬退火算法是一種啟發(fā)式隨機搜索算法，與其它隨機搜索不同，退火算法引入了物理系統(tǒng)退火過程的自然機制。在計算過程中，即接受好的適應(yīng)值，也接受差的適應(yīng)值，只不過是接受差值的概率隨著溫度的降低而逐漸減小，從而使得算法過程中跳出局部優(yōu)化解而獲得全局優(yōu)化解，提高了算法求取全局優(yōu)化解的可靠性。

模擬退火算法思想來源于固體退火過程，當(dāng)固體加溫到一定高的溫度，讓其徐徐降溫。降溫過程中，固體內(nèi)粒子漸趨有序，在每個溫度都達到平衡態(tài)，最后在常溫時達到基態(tài)，內(nèi)能最小。根據(jù)Metropolis準(zhǔn)則，從一隨機給定解開始，然后由類似物理過程中的溫度這樣一個參數(shù)控制從解的鄰域隨機產(chǎn)生一新解，算法持續(xù)進行“產(chǎn)生新解—判斷—接受或舍棄”的迭代過程，對應(yīng)著固體從高溫趨于常溫的平衡過程。經(jīng)過大量的解變換后，可以得到給定控制參數(shù)值時優(yōu)化問題的相對最優(yōu)解。然后減小控制參數(shù)的值，重復(fù)執(zhí)行迭代過程，當(dāng)系統(tǒng)平衡時，其狀態(tài)對應(yīng)于優(yōu)化問題的整體最優(yōu)解。

模擬退火算法的計算過程[70]：

Step1:隨機給定一個初始解，設(shè)置一個初始溫度。

Step2:檢查溫度是否達到常溫，是，保留優(yōu)化值和適應(yīng)值，結(jié)束；反之，隨機從鄰域產(chǎn)生新解，計算適應(yīng)值。

Step3:將所計算的適應(yīng)值與前次計算比較，如優(yōu)于前次，則保留；反之，放棄。

Step4:徐徐降低溫度，返回Step2。

在模擬退火算法理論的研究與改進方面，主要有與其它算法相結(jié)合的研究。比如與遺傳算法的結(jié)合[71]，與蟻群算法的結(jié)合[72]，與粒子群算法的結(jié)合[73]等。

應(yīng)用領(lǐng)域比較廣泛，用于工業(yè)設(shè)計方面，比如文獻[74]對汽車懸置剛度參數(shù)進行了優(yōu)化設(shè)計，使得懸置系統(tǒng)固有頻率配置更加合理，主要方向的解耦率增大。文獻[75] 對機載車輛氣囊緩沖系統(tǒng)的特性與參數(shù)進行了優(yōu)化設(shè)計，降低了機載車輛降落的最大加速度，吸收增加了氣囊的能量。類似的研究和應(yīng)用還有很多，可參見其它文獻。

3.7 禁忌搜索算法

禁忌搜索算法(Tabu Search Optimization)[76]是模擬人的思維的一種智能搜索算法，由Glover提出，其原理是利用人們對已經(jīng)搜索的地方不會立即再搜索。因此，算法中增加了記憶的因素，對已經(jīng)搜索過的進行記錄和選擇，以指導(dǎo)下一步搜索方向。在算法實現(xiàn)過程中，這一原理用tabu表來表述，tabu表保存最近若干迭代過程中所實現(xiàn)的移動，避免了重復(fù)搜索。

禁忌搜索算法同遺傳算法、蟻群算法一樣，也是隨機搜素算法，但由于其自身特性，它的搜素過程不但具有非確定性，而且具有避免陷入局部優(yōu)化而收斂全局優(yōu)化的能力。

禁忌搜索算法包括求解域、禁忌表、禁忌長度、候選集合、評價函數(shù)、特赦規(guī)則等。禁忌對象可以是解的變化、向量的變化和目標(biāo)值變化中的一種，禁忌長度是被禁對象不允許選取的迭代次數(shù)，候選集合由領(lǐng)域中的一些元素組成，評價函數(shù)是候選集合元素選取的一個評價公式，候選集合的元素通過評價函數(shù)來選取。

算法從某一個初始解開始，估計該解的目標(biāo)函數(shù)值，設(shè)定好備選解集，如果最好的移動不是被禁忌的，或者是被禁忌的但滿足特赦條件，那么就選擇該移動，并把該備選解作為新的當(dāng)前解。反之，選擇不被禁忌的最好移動所對應(yīng)的備選解作為當(dāng)前解。重復(fù)以上過程，計算結(jié)束后得到的最好解就作為禁忌搜索算法解決該問題的最終解。

禁忌搜索算法的計算過程[77]：

Step1:初始化，產(chǎn)生新解，并對在禁忌搜索過程中涉及到的參數(shù)進行初始化。

Step2:循環(huán)，產(chǎn)生備選解集(鄰域)，計算各個備選解的目標(biāo)函數(shù)，并根據(jù)目標(biāo)函數(shù)值、禁忌狀態(tài)和特赦條件選擇一個備選解。

Step3:從當(dāng)前解移動到該備選解，作為新的當(dāng)前解，將新的當(dāng)前解裝入tabu表，使其保持一個禁忌周期的禁忌狀態(tài)。

Step4:檢查是否滿足特赦規(guī)則，滿足，將滿足特赦規(guī)則解記為當(dāng)前解，更新tabu表；反之，將非禁忌表對應(yīng)的優(yōu)化解記為當(dāng)前解，更新tabu表，返回Step2。

在算法組合研究方面，文獻[82] 提出一種禁忌搜索與改進微粒群算法的混合優(yōu)化策略，在解決目標(biāo)分配問題時具有優(yōu)良的優(yōu)化性能和時間性能。文獻[83]將禁忌搜索算法與模擬退火算法相結(jié)合，應(yīng)用于求解多峰復(fù)雜函數(shù)，根據(jù)函數(shù)復(fù)雜度自適應(yīng)調(diào)整步長控制參數(shù)，然后根據(jù)調(diào)整后步長求得函數(shù)的粗糙解，在此基礎(chǔ)上再使用初始步長求得全局最優(yōu)解。

4 結(jié)束語

智能優(yōu)化算法發(fā)展至今已有20余年，其理論的研究和探討還在不斷深入，應(yīng)用領(lǐng)域也在不斷拓寬，顯示其廣泛的用途和強大的生命力。從發(fā)展的角度看，智能計算將不僅僅只是功能模仿，更重要的是使得研究對象與實際存在具有相同的特性，這將是一個全新的研究理念，也是一個漫長的研究過程。

隨著人工智能理論的不斷深入研究，還將有更多更新的算法被挖掘，新概念、新理論、新方法、新技術(shù)不斷涌現(xiàn)。單從算法角度來看，主要深入研究和探討的主要是以下幾個方面：

(1)深化現(xiàn)有算法的理論研究，比如在算法收斂性、算法涉及到的參數(shù)設(shè)定等方面，同時拓展新的算法領(lǐng)域，積極尋找新的理論基礎(chǔ)。

(2)在改進現(xiàn)有算法的同時，不斷地將不同算法進行融合，取長補短，提高算法的數(shù)學(xué)理論基礎(chǔ)分析。

(3)在研究算法理論的同時，將算法廣泛應(yīng)用于不同行業(yè)優(yōu)化設(shè)計，并在實際運用中發(fā)現(xiàn)問題和不足，并提出解決方法。

總之，智能優(yōu)化算法還有大量的工作要做，例如具備普遍意義的數(shù)學(xué)理論分析還顯得不足，還有很多潛在的符合算法的理論沒有被發(fā)現(xiàn)。這一切使得智能優(yōu)化算法的研究與應(yīng)用將成為一個具有實際意義的研究課題。

[1] Colorni A, DORIGO M, MANIEZZO V. Distributed Optimization by Ant Colonies[C]. Proceedings of the First European Conference on Artificial Life. 1991:134-142.

[2] 李智, 常曉萍, 秦建華. 蟻群算法在空間太陽能熱動力系統(tǒng)優(yōu)化中的應(yīng)用研究[J].中國電機工程學(xué)報, 2005,25(25):294-298.

[3] DORIGO M, MANIEZZO V, COLORNI A. Ant System: Optimization by a Colony of Cooperating Agents [J]. IEEE Transactions on Systems, Man, and Cybernetics-Part B, 1996,26(1): 29-41.

[4] BOTEE M, BONABEAU E. Evolving Ant Colony Optimization [J]. Advances in Complex Systems, 1998, 1(2):149-159.

[5] STUTZLE T, DORIGO M. A Short Convergence Proof for a Class of Ant Colony Optimization Algorithms [J]. Proceedings of the IEEE Transactions on Evolutionary Computation, 2002,6(4):358-365.

[6] GUTJAHR W J. A Graph-based Ant System and Its Convergence [J]. Future Generation Computer Systems, 2000, 16:873-888.

[7] GUTJAHR W J. A Generalized Convergence Result for the Graph Based Ant System [R]. Vienna: University of Vienna 1999.

[8] BULLNHEIMER B, HARTL R F, STRAUSS C. A New Rank based Version of the Ant System : A Computational Study [R]. Vienna: University of Vienna, 1997.

[9] STUTZLE T, HOOS H H. MAX-MIN Ant System [J]. Future Generation Computer Systems, 2000,16:889-914.

[10] LI L X, YANG Y X, et al. Parameters Identification of Chaotic Systemsvia Chaotic Ant Swarm [J]. Chaos, Solutions and Fractals, 2006,28:1204-1211.

[11] LEE Z J, LEE C Y. A Hybrid Search Algorithm with Heuristics for Resource Allocation Problem [J]. Information Sciences, 2005,173:155-167.

[12] 馬文龍, 王錚, 趙燕偉. 基于改進蟻群算法的制造云服務(wù)組合優(yōu)化[J]. 計算機集成制造系統(tǒng), 2016,52(1):113-121.

[13] 羅亞波. 面向作業(yè)車間調(diào)度的基于拓撲排序的二級嵌套蟻群算法研究[J]. 機械工程學(xué)報, 2015,51(8):178-184.

[14] 楊少兵, 吳命利. 基于改進蟻群算法的客運專線電力負荷建模與參數(shù)辨識[J]. 中國電機工程學(xué)報, 2015,35(7):1578-1585.

[15] 王利, 高憲文, 王偉, 等. 基于模型的子空間聚類與時間段蟻群算法的合同生產(chǎn)批量調(diào)度方法[J]. 自動化學(xué)報, 2014,40(9):1991-1997.

[16] 霍星, 史海濱, 楊松益, 等. 基于層次分析-蟻群算法的內(nèi)蒙古大型灌區(qū)節(jié)水改造綜合評價[J]. 農(nóng)業(yè)工程學(xué)報, 2014,30(17):132-140.

[17] 曾夢凡, 陳思洋, 張文茜, 等. 利用蟻群算法生成覆蓋表：探索與挖掘[J]. 軟件學(xué)報, 2016, 27(4):855-878.

[18] 李智, 周龍, 王東. 基于蟻群算法的往復(fù)振動篩運動參數(shù)優(yōu)化設(shè)計[J]. 農(nóng)業(yè)機械學(xué)報, 2004, 35(3):76-82.

[19] 董毅, 趙尚弘, 李勇軍, 等. 基于蟻群算法的分布式衛(wèi)星光網(wǎng)絡(luò)波長路由分配技術(shù)研究[J]. 電子與信息學(xué)報, 2015,37(11):2650-2656.

[20] 許川佩, 蔡震, 胡聰. 基于蟻群算法的數(shù)字微流控生物芯片在線測試路徑優(yōu)化[J]. 儀器儀表學(xué)報, 2014,37(6):1417-1424.

[21] 李智, 李戰(zhàn)勝, Yigong L. 基于蟻群算法的內(nèi)燃機配氣機構(gòu)凸輪型線的動力學(xué)仿真[J]. 農(nóng)業(yè)工程學(xué)報, 2005,21(6):64-67.

[22] 李智 . 基于蟻群算法的煤炭運輸優(yōu)化方法[J]. 中國鐵道科學(xué), 2004,25(3):126-129.

[23] KENNEDY J, EBERHART R C. Particle swarm optimization [C]. IEEE International Conference on Neural Networks, Perth, Australia, 1995:1942-1948.

[24] EBERHART R C, KENNEDY J. A New Optimizer Using Particles Swarm Theory [C]. Proc, Sixth International Symposium on Micro Machine and Human Science, Nagoya, Japan,1995.

[25] 李智, 常曉萍, 秦建華. 基于粒子群算法的空間太陽能熱動力系統(tǒng)優(yōu)化設(shè)計[J]. 機械工程學(xué)報, 2006,42(9):195-200.

[26] TRELEA I C, The Particle Swarm Optimization Algorithm: Convergence Analysis and Parameter Selection [J]. Information Processing Letters ,2003,85:317-325.

[27] VAN DEN BERGH F, ENGELBRECHT A P. A Study of Particle Swarm Optimization Particle Trajectories [J]. Information Sciences,2006,176:937-971.

[28] HE S, WU Q H, WEN J Y, et al. A Particle Swarm Optimizer with Passive Congregation[J]. BioSystems,2004,78:135-147.

[29] AL-KAZEMI B, MOHAN C K. Multi-phase Generalization of the Particle Swarm Optimization Algorithm [C]. Proceedings of the Congress on Evolutionary Computation, Honolulu; IEEE,2002: 489-494.

[30] LIU B, WANG L, JIN Y H, et al. Improve Particle Swarm Optimization Combined with Chaos [J]. Chaos, Solitons and Fractals ,2005,25:1261-1271.

[31] SHI X H, LIANG Y C,LEE H P, et al. An Improved GA and a Novel PSO-GA-based Hybrid Algorithm [J]. Information Processing Letters, 2005,93:255-261.

[32] YI D, GE X R. An Improved PSO-based ANN with Simulated Annealing Technique[J]. Neural Computing,2005,63:527-533.

[33] 朱大林, 詹騰, 張屹, 等. 多策略差分進化的元胞多目標(biāo)粒子群算法[J].電子學(xué)報,2014,42(9):1831-1838.

[34] 高云龍, 閆鵬. 基于多種群粒子群算法和布谷鳥搜索的聯(lián)合尋優(yōu)算法[J]. 控制與決策, 2016,31(4):601-608.

[35] 焦尚彬, 李鵬華, 張青. 采用知識的粒子群算法的多頻微弱信號自適應(yīng)隨機共振檢測方法[J]. 機械工程學(xué)報, 2014,50(12):1-10.

[36] 劉瑞蘭, 王徐亮, 唐超. 基于粒子群算法的有機半導(dǎo)體NPB傳輸特性辨識 [J]. 物理學(xué)報, 2014,63(2):353-359.

[37] 李天宏, 曾現(xiàn)進. 基于粒子群算法優(yōu)化支持向量機的延河流域水沙模擬[J]. 應(yīng)用基礎(chǔ)與工程科學(xué)學(xué)報, 2015,23(1):79-87.

[38] 李智, 鄭曉. 粒子群算法在農(nóng)業(yè)工程優(yōu)化設(shè)計中的應(yīng)用[J]. 農(nóng)業(yè)工程學(xué)報, 2004, 20(3):15-18.

[39] 常曉萍, 李智, 盧蘭光. 內(nèi)燃機徑向滑動軸承的進化設(shè)計法[J]. 農(nóng)業(yè)機械學(xué)報, 2005,36(6):94-97.

[40] 衛(wèi)曉娟, 丁旺才, 李寧洲. 基于改進粒子群算法的Volterra模型參數(shù)辨識[J]. 振動與沖擊, 2015,34(21):105-112.

[41] 李曉磊, 邵之江, 錢積新. 一種基于動物自治體的尋優(yōu)模式：魚群算法[J]. 系統(tǒng)工程理論與實踐, 2002, 22(11):32-38.

[42] 王輝, 錢鋒. 群體智能優(yōu)化算法[J]. 化工自動化及儀表, 2007,34(5):7-13.

[43] 李曉磊, 錢積新. 基于分解協(xié)調(diào)的人工魚群優(yōu)化算法研究[J]. 電路與系統(tǒng)學(xué)報, 2003,8(1):1-6.

[44] 胡瑾, 閆柯, 何東健, 等. 基于改進型魚群算法的番茄光環(huán)境調(diào)控目標(biāo)值模型[J]. 農(nóng)業(yè)機械學(xué)報, 2016, 47(1):260-265.

[45] 劉昌玉,, 何雪松, 李崇威, 等. 用于水輪機-引水管道參數(shù)辨識的改進型人工魚群算法[J]. 電力自動化設(shè)備, 2013,33(11):54-58.

[46] 張英杰, 李志武, 奉中華. 一種基于動態(tài)參數(shù)調(diào)整的改進人工魚群算法[J]. 湖南大學(xué)學(xué)報(自然科學(xué)版), 2012,39(5):77-82.

[47] 王磊, 潘進, 焦李成. 免疫算法[J]. 電子學(xué)報, 2000,28(7):74-78.

[48] 李智, 孫江波, Yigong LOU. 基于免疫算法的內(nèi)燃機配氣機構(gòu)型線動力學(xué)優(yōu)化設(shè)計[J]. 振動與沖擊, 2005,24(6):68-70.

[49] 蔡自興, 龔濤. 免疫算法研究的進展[J]. 控制與決策, 2004,19(8):841-846.

[50] 洪露, 王經(jīng)卓, 掌明, 等. 實數(shù)編碼人工免疫算法概率強收斂速度估計研究[J]. 電子學(xué)報, 2015,43(12):2388-2393.

[51] 畢曉君, 彭偉. 基于免疫算法的貝葉斯優(yōu)化改進算法[J]. 儀器儀表學(xué)報, 2010,31(10):2368-2373.

[52] 戚玉濤, 劉芳, 常偉遠, 等. 求解多目標(biāo)問題的Memetic免疫優(yōu)化算法[J]. 軟件學(xué)報, 2013,24(7):1529-1544.

[53] LIU R C, ZHANG W, LIAO L C, et al. A Sphere-dominance Based Preference Immune-inspired Algorithm for Dynamic Multi-objective Optimization.Proceedings of the Genetic and Evolutionary Computation Conference(GEcm 2010)[C]. Portland, USA, 2010: 423-430.

[54] 左興權(quán), 王春露, 趙新超. 一種結(jié)合多目標(biāo)免疫算法和線性規(guī)劃的雙行設(shè)備布局方法[J]. 自動化學(xué)報, 2015,41(3):528-540.

[55] YU X, LI Y L, ZHAO B, et al. Optimization of Thread Partitioning Parameters in Speculative Multithreading Based on Artificial Immune Algorithm[J]. 信息與電子工程前言(英文版), 2015,16(3):205-216.

[56] 盛萬興, 張波, 邸宏宇, 等. 一種基于動態(tài)抗體記憶庫的免疫優(yōu)化算法在自動需求響應(yīng)中的應(yīng)用[J]. 中國電機工程學(xué)報, 2014,34(25):4199-4206.

[57] HOPFIELD J, Tank D. Neural Computation of Decisions in Optimization Problems[J].Biological Cybernetics,1985,52: 141-152.

[58] 焦李成.神經(jīng)網(wǎng)絡(luò)計算[M].西安:西安電子科技大學(xué)出版社,1995.

[59] 金海和, 陳劍, 唐政, 等. 基于Hopfield網(wǎng)絡(luò)的極小值問題學(xué)習(xí)算法[J]. 清華大學(xué)學(xué)報(自然科學(xué)版), 2002,42(6):731-734.

[60] 姜惠蘭, 孫雅明. 異聯(lián)想記憶Hopfield神經(jīng)網(wǎng)絡(luò)的模型、算法及性能[J]. 系統(tǒng)工程理論與實踐, 2005,25(5):101-107.

[61] 李智. Hopfield神經(jīng)網(wǎng)絡(luò)在原料混勻中的應(yīng)用[J]. 金屬礦山, 2003,(9):35-39.

[62] 李智. 一種基于神經(jīng)網(wǎng)絡(luò)的煤炭調(diào)運優(yōu)化方法[J]. 鐵道科學(xué)與工程學(xué)報(原長沙鐵道學(xué)院學(xué)報), 2003,21(2)98-101.

[63] 張昀, 張志涌, 于舒娟. 基于幅值相位型離散hopfield神經(jīng)網(wǎng)絡(luò)的多進制振幅鍵控盲檢測[J]. 物理學(xué)報. 2012,(14):82-90.

[64] LIU W, FU C J, HU H C. Global Exponential Stability of a Class of Hopfield Neural Networks with Delays[J]. Neural Com- puting and Applications, 2011, 20(8): 1205-1209.

[65] ADNENE ARBI, FAROUK CHERIF, CHAOUKI AOUITI, et al. Dynamics of New Class of Hopfield Neural Networks with Time-Varying and Distributed Delays[J]. 數(shù)學(xué)物理學(xué)報(B輯英文版), 2016,36B(3):891-912.

[66] 余刃, 孔勁松, 駱德生,等. 基于運行數(shù)據(jù)分析的核動力裝置異常運行狀態(tài)監(jiān)測技術(shù)研究[J]. 核動力工程, 2013,34(6):156-160.

[67] 韓廣, 喬俊飛, 韓紅桂,等. 基于hopfield神經(jīng)網(wǎng)絡(luò)的污水處理過程優(yōu)化控制[J].控制與決策, 2014,29(11):2085-2088.

[68] 康立山 謝云 等.非數(shù)值并行算法--模擬退火算法[M].北京:科學(xué)出版社,1998.

[69] 邢文訓(xùn), 謝金星. 現(xiàn)代優(yōu)化計算方法[M].北京:清華大學(xué)出版社, 1999.

[70] 李智. 改進的模擬退火算法在原料礦混勻優(yōu)化中的應(yīng)用[J]. 礦業(yè)研究與開發(fā). 2003,23(5):40-42.

[71] 袁澎, 艾芊, 趙媛媛. 基于改進的遺傳-模擬退火算法和誤差度分析原理的 PMU 多目標(biāo)優(yōu)化配置[J]. 中國電機工程學(xué)報. 2014,34(13)2178-2187.

[72] 張亞明, 史浩山, 劉燕, 等. WSNs中基于蟻群模擬退火算法的移動Agent訪問路徑規(guī)劃[J]. 西北工業(yè)大學(xué)學(xué)報. 2012, 30(5):629-635.

[73] 劉愛軍, 楊育, 李斐, 等. 混沌模擬退火粒子群優(yōu)化算法研究及應(yīng)用[J]. 浙江大學(xué)學(xué)報(工學(xué)版). 2013,47(10)1722-1730.

[74] 嚴小俊, 蔣偉康, 曹誠. 基于遺傳模擬退火算法的汽車動力總成懸置系統(tǒng)優(yōu)化設(shè)計[J]. 振動與沖擊. 2014,33(23):155-159.

[75] WANGHongYan, HONG HuangJie, HAO -GuiXiang, et al. Characteristic Verification and Parameter Optimization of Airbags Cushion System for Airborne Vehicle [J]. 中國機械工程學(xué)報(英文版), 2014,27(1):50-57.

[76] Glover F. Future Paths of Integer Programming and Links to Artificial Intelligence. Computers and Operations Research. 1986, 13:533-549.

[77] 李智, 常曉萍, Lou YiGong. 基于禁忌搜索算法的內(nèi)燃機配氣機構(gòu)優(yōu)化設(shè)計[J]. 農(nóng)業(yè)機械學(xué)報, 2005,36(4):116-118.

[78] 陳曉峰, 姜慧研. 量子禁忌搜索算法的研究[J]. 電子學(xué)報, 2013,41(11):2161-2166.

[80] 錢潔, 鄭建國. 引入逆學(xué)習(xí)的量子自適應(yīng)禁忌搜索算法[J]. 電子學(xué)報, 2013,41(6):1069-1075.

[81] 楊文強, 鄧麗, 費敏銳, 等. 基于改進禁忌搜索的多目標(biāo)自動化倉庫調(diào)度[J]. 計算機集成制造系統(tǒng), 2013,19(8):2097-2104.

[82] 丁鑄, 馬大為, 于存貴, 等. 基于禁忌搜索與微粒群優(yōu)化算法的混合優(yōu)化策略算法在目標(biāo)分配問題上的應(yīng)用[J]. 兵工學(xué)報, 2007,28(9):1127-1131.

[83] 許鵬飛, 苗啟廣, 李偉生, 等. 基于函數(shù)復(fù)雜度的自適應(yīng)模擬退火和禁忌搜索新算法[J]. 電子學(xué)報, 2012,40(6):1218-1222.

Survey on intelligent optimization algorithms

LI Zhi

(School of Electrical and Electronic Engineering, Wuhan Polytechnic University,Wuhan 430023,China)

According to the development of the theory and application of intelligent optimization algorithm, the article analyzes the characteristics of intelligent optimization algorithm. Seven different algorithms and application process including ant colony algorithm, particle swarm algorithm, swarm algorithm principle etc. are summarized, and the further development of intelligent algorithm has been discussed.

intelligent optimization algorithms;optimization; algorithm structure;calculation process

2016-10-10.

李智(1964-)，男，教授，博士，E-mail: lizhihb@aliyun.com.

2095-7386(2016)04-0001-09

10.3969/j.issn.2095-7386.2016.04.001

TP 18

A