張營(yíng)營(yíng) ,徐浩 ,陳培見(jiàn) ,馬俊 ,周祎
(1.中國(guó)礦業(yè)大學(xué) a.力學(xué)與土木工程學(xué)院;b.江蘇省土木工程環(huán)境災(zāi)變與結(jié)構(gòu)可靠性重點(diǎn)實(shí)驗(yàn)室,江蘇 徐州 221116;2.中國(guó)建筑第八工程局有限公司南方分公司,廣東 深圳 518035;3.西南交通大學(xué) 土木工程學(xué)院,成都 610031)
近年來(lái),隨著建筑產(chǎn)業(yè)的高速發(fā)展,人們開(kāi)始建造更多大跨度、超高層、大重量的建筑物。高強(qiáng)鋼材料具有更高的屈服強(qiáng)度和抗拉強(qiáng)度,能代替普通強(qiáng)度鋼作為大跨高層建筑的建筑材料來(lái)達(dá)到節(jié)約鋼材、減少造價(jià)、提高建筑效率等目的。隨著高強(qiáng)鋼產(chǎn)量需求的增加,高強(qiáng)鋼構(gòu)件的受力性能需要進(jìn)一步研究[1]。高強(qiáng)鋼軸心受壓構(gòu)件受力性能中的穩(wěn)定性一直是高強(qiáng)鋼應(yīng)用和研究的重點(diǎn)。近年來(lái),很多學(xué)者進(jìn)行了高強(qiáng)鋼構(gòu)件的整體穩(wěn)定性研究。薛加燁[2]、邱林波等[3]對(duì)460、550、690 MPa 的箱型和H 型截面構(gòu)件進(jìn)行軸壓試驗(yàn),并驗(yàn)證了高強(qiáng)鋼構(gòu)件整體穩(wěn)定承載力相對(duì)普通強(qiáng)度鋼的優(yōu)越性;趙金友等[4]對(duì)跨中無(wú)側(cè)向支撐的3 個(gè)雙軸對(duì)稱和6 個(gè)單軸對(duì)稱焊接工字形截面簡(jiǎn)支梁進(jìn)行了整體彎扭屈曲試驗(yàn)以研究Q460 高強(qiáng)鋼焊接工字形截面簡(jiǎn)支梁的整體穩(wěn)定性能并對(duì)《高強(qiáng)鋼結(jié)構(gòu)設(shè)計(jì)標(biāo)準(zhǔn)》[5]中的簡(jiǎn)支梁整體穩(wěn)定系數(shù)計(jì)算公式進(jìn)行修正。Meng 等[6]對(duì)結(jié)構(gòu)鋼圓形空心截面(CHS)梁柱的整體屈曲性能展開(kāi)試驗(yàn)與數(shù)值模擬研究,并對(duì)歐洲規(guī)范中擬議的設(shè)計(jì)方法進(jìn)行了可靠性評(píng)估。學(xué)者們?cè)趯?duì)高強(qiáng)鋼構(gòu)件的整體穩(wěn)定性進(jìn)行研究時(shí),大多采用有限元分析或現(xiàn)場(chǎng)試驗(yàn)的研究方法,無(wú)論從時(shí)間成本還是從人力成本上考慮,這兩種方法都在實(shí)際研究中都有不便之處。因此,有必要探尋一種高效且準(zhǔn)確的高強(qiáng)鋼構(gòu)件整體穩(wěn)定性能預(yù)測(cè)方法。
作為人工智能領(lǐng)域分支之一的機(jī)器學(xué)習(xí)方法憑借其優(yōu)秀的預(yù)測(cè)精度、便捷的建模流程及可靠的理論支持,在土木領(lǐng)域迅速興起,并在建筑構(gòu)件的性能預(yù)測(cè)問(wèn)題上表現(xiàn)優(yōu)異。Limbachiya 等[7]利用人工神經(jīng)網(wǎng)絡(luò)(ANN)預(yù)測(cè)蜂窩梁的腹板屈曲后剪切強(qiáng)度,驗(yàn)證了人工神經(jīng)網(wǎng)絡(luò)模型準(zhǔn)確性的同時(shí)說(shuō)明了機(jī)器學(xué)習(xí)預(yù)測(cè)模型與現(xiàn)有的設(shè)計(jì)規(guī)范模型相比性能更優(yōu);Wakjira 等[8]對(duì)比不同的機(jī)器學(xué)習(xí)預(yù)測(cè)模型性能以提出織物增強(qiáng)水泥基加固梁的最佳預(yù)測(cè)模型,并對(duì)現(xiàn)有相關(guān)規(guī)范準(zhǔn)則模型進(jìn)行評(píng)價(jià);Sarothi 等[9]首次編制了包含443 個(gè)實(shí)驗(yàn)數(shù)據(jù)集組成數(shù)據(jù)庫(kù),結(jié)合機(jī)器學(xué)習(xí)預(yù)測(cè)結(jié)構(gòu)鋼雙剪螺栓連接的承載強(qiáng)度,并對(duì)其特征重要性進(jìn)行分析,驗(yàn)證了鋼材極限屈服強(qiáng)度比和螺栓排數(shù)對(duì)連接強(qiáng)度的影響顯著。機(jī)器學(xué)習(xí)能從海量數(shù)據(jù)中提取其中特征并尋求特征間的規(guī)律來(lái)達(dá)到數(shù)據(jù)預(yù)測(cè)的目的。當(dāng)遇到的任務(wù)非常復(fù)雜或者需要通過(guò)計(jì)算機(jī)自動(dòng)調(diào)整時(shí),就需要借助強(qiáng)大的機(jī)器學(xué)習(xí)技術(shù)來(lái)完成[10]。但用于預(yù)測(cè)高強(qiáng)鋼構(gòu)件整體穩(wěn)定性的機(jī)器學(xué)習(xí)預(yù)測(cè)模型還尚待研究,且針對(duì)帶有初始缺陷的高強(qiáng)鋼構(gòu)件的整體穩(wěn)定性問(wèn)題尚缺乏可靠規(guī)范進(jìn)行指導(dǎo)。
筆者研究開(kāi)發(fā)高強(qiáng)鋼焊接等截面箱型柱整體穩(wěn)定性的機(jī)器學(xué)習(xí)預(yù)測(cè)模型,對(duì)不同強(qiáng)度的高強(qiáng)鋼焊接等截面箱型柱,使用纖維模型算法創(chuàng)建數(shù)據(jù)庫(kù),參考現(xiàn)有鋼結(jié)構(gòu)設(shè)計(jì)規(guī)范中對(duì)鋼結(jié)構(gòu)整體穩(wěn)定性的描述;將構(gòu)件總寬度、翼緣厚度、計(jì)算長(zhǎng)度、初始缺陷值、屈服強(qiáng)度、正則化長(zhǎng)細(xì)比、寬厚比、彈性模量這8 個(gè)參數(shù)作為輸入?yún)?shù);以構(gòu)件極限承載力作為輸出參數(shù),并對(duì)比分析3 種優(yōu)化后的常用的機(jī)器學(xué)習(xí)模型的預(yù)測(cè)結(jié)果。通過(guò)評(píng)價(jià)指標(biāo)評(píng)選出最優(yōu)預(yù)測(cè)模型并驗(yàn)證機(jī)器學(xué)習(xí)模型相較于現(xiàn)有規(guī)范中經(jīng)驗(yàn)?zāi)P偷膬?yōu)越性。最后,通過(guò)解釋性算法對(duì)機(jī)器學(xué)習(xí)預(yù)測(cè)模型做出解釋,在驗(yàn)證模型準(zhǔn)確性的基礎(chǔ)上,根據(jù)解釋內(nèi)容結(jié)合規(guī)范及已有研究驗(yàn)證模型的合理性。
通常來(lái)說(shuō),對(duì)機(jī)器學(xué)習(xí)預(yù)測(cè)模型進(jìn)行訓(xùn)練時(shí)需要一個(gè)數(shù)據(jù)可靠且數(shù)據(jù)容量足夠大的數(shù)據(jù)庫(kù),以便機(jī)器學(xué)習(xí)模型進(jìn)行訓(xùn)練、驗(yàn)證和測(cè)試。常見(jiàn)的構(gòu)建數(shù)據(jù)庫(kù)的手段包括有限元模擬、現(xiàn)場(chǎng)試驗(yàn)以及搜集已發(fā)表論文中的成果數(shù)據(jù)。有限元的數(shù)值模擬方法雖然得到的數(shù)據(jù)足夠精確,但存在建模困難,耗時(shí)較長(zhǎng)等問(wèn)題?,F(xiàn)場(chǎng)試驗(yàn)數(shù)據(jù)獲取不僅需要耗費(fèi)大量人力和時(shí)間進(jìn)行試驗(yàn),且得到的數(shù)據(jù)可能會(huì)因?yàn)樵囼?yàn)環(huán)境等問(wèn)題產(chǎn)生噪聲數(shù)據(jù)。由于數(shù)據(jù)庫(kù)的數(shù)據(jù)需求量較大,搜集大量論文中的已有試驗(yàn)成果數(shù)據(jù)同樣費(fèi)時(shí)費(fèi)力。
纖維模型的基本思想是將構(gòu)件長(zhǎng)度方向的截面劃分為網(wǎng)格狀的矩形纖維再通過(guò)數(shù)值積分的方法進(jìn)行計(jì)算。該方法需要分別建立截面內(nèi)力、外力和變形之間的關(guān)系。綜合考慮力的平衡與變形的協(xié)調(diào)來(lái)逐步得到荷載-位移曲線及其數(shù)值計(jì)算結(jié)果。該方法存在4 個(gè)基本假定:不考慮局部屈曲和橫向扭轉(zhuǎn)屈曲、不考慮剪力影響、平截面假定、構(gòu)件屈曲后變形曲線為正弦曲線的半波[11]。高強(qiáng)鋼焊接箱型柱纖維模型的本構(gòu)模型在相關(guān)文獻(xiàn)中有所體現(xiàn)[12]。由于殘余應(yīng)力對(duì)軸向受壓結(jié)構(gòu)的屈曲行為有較大影響,所以纖維模型計(jì)算時(shí)將考慮班慧勇等[13]提出的焊接箱形截面統(tǒng)一殘余應(yīng)力模型。
根據(jù)班慧勇等對(duì)于高強(qiáng)鋼焊接截面殘余應(yīng)力統(tǒng)一分布模型的研究可知,高強(qiáng)鋼焊接箱形截面的殘余應(yīng)力分布存在如下特點(diǎn):1)板件中心一定區(qū)域存在均勻分布的殘余壓應(yīng)力,而焊縫附件區(qū)域存在殘余拉應(yīng)力。2)焊縫附近區(qū)域的最大殘余拉應(yīng)力遠(yuǎn)小于鋼材屈服強(qiáng)度,靠近角部的殘余拉應(yīng)力數(shù)值相對(duì)偏小。3)板件中部區(qū)域的殘余壓應(yīng)力隨板件寬厚比增大而明顯減小。根據(jù)班慧勇等[13]的研究結(jié)果,鋼材焊接箱形截面的殘余應(yīng)力分布可以簡(jiǎn)化為如圖1 所示的階梯狀分布形式在纖維模型中使用。
圖1 統(tǒng)一殘余應(yīng)力模型Fig.1 Unified residual stress model
考慮到纖維模型在運(yùn)算速度、建模難度方面的顯著優(yōu)勢(shì),很多學(xué)者都將纖維模型方法應(yīng)用于高強(qiáng)鋼構(gòu)件的研究中[14-15]。此外,纖維模型在分析高強(qiáng)鋼整體穩(wěn)定性能方面的適用性與優(yōu)越性均已經(jīng)得到了驗(yàn)證,有學(xué)者通過(guò)對(duì)比實(shí)驗(yàn)確定了纖維模型對(duì)高強(qiáng)鋼構(gòu)件整體穩(wěn)定性預(yù)測(cè)結(jié)果與實(shí)際試驗(yàn)值的平均誤差僅為9.49%[16]。纖維模型方法不僅能夠快速構(gòu)建容量足夠的數(shù)據(jù)庫(kù),其中的數(shù)據(jù)質(zhì)量也能得到保證。因此,采用纖維模型方法作為數(shù)據(jù)庫(kù)的主要構(gòu)建方法,構(gòu)建了548 組樣本數(shù)據(jù)供模型進(jìn)行訓(xùn)練。
考慮到鋼構(gòu)件的軸心受壓承載能力能直觀反映構(gòu)件的整體穩(wěn)定性,因此,選取構(gòu)件在荷載作用下的極限承載力作為輸出參數(shù)。
根據(jù)現(xiàn)行《高強(qiáng)鋼結(jié)構(gòu)設(shè)計(jì)標(biāo)準(zhǔn)》(JGJ/T 483—2020)[5]可知,鋼構(gòu)件的極限承載力與構(gòu)件總寬、總高、翼緣厚度、腹板厚度、計(jì)算長(zhǎng)度、面積、慣性矩、回轉(zhuǎn)半徑、屈服強(qiáng)度、長(zhǎng)細(xì)比、正則化長(zhǎng)細(xì)比、寬厚比、彈性模量、初始缺陷等均有關(guān)聯(lián),因此,將上述參數(shù)作為輸入?yún)?shù)構(gòu)建纖維模型數(shù)據(jù)庫(kù)。在通過(guò)數(shù)據(jù)庫(kù)訓(xùn)練數(shù)據(jù)之前,采用Pearson 相關(guān)系數(shù)法對(duì)輸入?yún)?shù)的相關(guān)性進(jìn)行分析,從而篩選掉相關(guān)性過(guò)大的參數(shù)(Pearson 系數(shù)大于0.8)。上述涉及參數(shù)的相關(guān)性分析結(jié)果如圖2 所示。
圖2 數(shù)據(jù)變量相關(guān)性統(tǒng)計(jì)Fig.2 Correlation statistics of data variables
方格顏色越深,數(shù)字越接近1,代表數(shù)據(jù)間的相關(guān)性越大。由于是對(duì)高強(qiáng)鋼焊接等截面箱型柱進(jìn)行研究,其對(duì)稱的特征也極大程度體現(xiàn)在部分幾何參數(shù)和材性參數(shù)中,所以相關(guān)性分析剔除掉了對(duì)稱數(shù)據(jù)中的某一方,例如,構(gòu)件總高和總寬相等,兩者只選構(gòu)件總寬數(shù)據(jù)作為輸入?yún)?shù)即可。依據(jù)相關(guān)性分析結(jié)果,最終選定構(gòu)件總寬、腹板厚度、計(jì)算長(zhǎng)度、初始缺陷值、屈服強(qiáng)度、正則化長(zhǎng)細(xì)比、寬厚比、彈性模量這8 個(gè)參數(shù)作為輸入?yún)?shù)。
此外,在構(gòu)建數(shù)據(jù)庫(kù)時(shí),還要注意保證訓(xùn)練樣本參數(shù)數(shù)據(jù)在一定范圍內(nèi)的離散性,只有訓(xùn)練參數(shù)足夠離散,才能使得機(jī)器學(xué)習(xí)模型的預(yù)測(cè)結(jié)果是考慮到所有的輸入?yún)?shù)得到的。數(shù)據(jù)集中特征參數(shù)的基本信息如表1 所示。
機(jī)器學(xué)習(xí)(ML)模型是從一些不基于物理定律的數(shù)學(xué)方程發(fā)展而來(lái)的。機(jī)器學(xué)習(xí)模型訓(xùn)練、驗(yàn)證所依賴的數(shù)據(jù)庫(kù)均為上文提到的纖維模型數(shù)據(jù)庫(kù)。借助MATLAB 軟件,使用隨機(jī)森林回歸(RF)、高斯過(guò)程回歸(GPR)和人工神經(jīng)網(wǎng)絡(luò)(ANN)這3 種ML 模型進(jìn)行訓(xùn)練,其中包括兩個(gè)單一模型和一個(gè)集成模型。在之前的研究中,大部分研究者只考慮了一種機(jī)器學(xué)習(xí)算法對(duì)于構(gòu)件性能預(yù)測(cè)的優(yōu)越性,主要是人工神經(jīng)網(wǎng)絡(luò)[16-18]。然而,所有的ML 模型都有其優(yōu)點(diǎn)和缺點(diǎn),面對(duì)不同輸入?yún)?shù)及不同數(shù)據(jù)特征的構(gòu)件性能預(yù)測(cè)問(wèn)題,最適用的ML 模型并不唯一。因此,有必要對(duì)眾多的ML 模型進(jìn)行擇優(yōu)選取。選擇最合適的ML 模型的方法就是基于評(píng)價(jià)指標(biāo)的試錯(cuò)過(guò)程。選取的3 種機(jī)器學(xué)習(xí)方法在常規(guī)機(jī)器學(xué)習(xí)算法中屬較新研究成果,且在其他類型構(gòu)件性能的預(yù)測(cè)中也有良好表現(xiàn)。其他諸如SVM、線性回歸等簡(jiǎn)單機(jī)器學(xué)習(xí)方法,作者也進(jìn)行過(guò)預(yù)訓(xùn)練,但效果遠(yuǎn)不如所述3 種方法,因此,僅對(duì)上述3 種機(jī)器學(xué)習(xí)方法進(jìn)行分析研究。
模型優(yōu)化方面,采用k-折疊交叉驗(yàn)證方法以避免訓(xùn)練過(guò)程中出現(xiàn)過(guò)度擬合的情況。k-折疊交叉驗(yàn)證就是將數(shù)據(jù)集隨機(jī)平均分為k份。輪流取其中1份作為測(cè)試集,其余數(shù)據(jù)作為訓(xùn)練集進(jìn)行試驗(yàn)。k值的選擇通常是5 或10[19-20],當(dāng)數(shù)據(jù)庫(kù)內(nèi)樣本足夠多時(shí),k取5 即可。超參數(shù)調(diào)整是模型優(yōu)化的一項(xiàng)重要工作,其目的是全面搜尋使得模型預(yù)測(cè)誤差最低的超參數(shù)或超參數(shù)組合。在一些優(yōu)秀的超參數(shù)算法提出之前,超參數(shù)只能通過(guò)人工調(diào)整、不斷試錯(cuò)的方法進(jìn)行調(diào)優(yōu),但此種方法不僅效率低下,得到的超參數(shù)組合也不一定能使得模型性能得到顯著提升。目前常見(jiàn)的實(shí)現(xiàn)自動(dòng)化超參數(shù)調(diào)優(yōu)的算法有網(wǎng)格搜索、隨機(jī)搜索和貝葉斯優(yōu)化。相較其他兩種算法,貝葉斯優(yōu)化算法的迭代次數(shù)較少,算法效率也相對(duì)較高,因此,使用貝葉斯優(yōu)化方法進(jìn)行超參數(shù)調(diào)優(yōu)。貝葉斯超參數(shù)調(diào)優(yōu)算法流程如圖3 所示。圖4 展示了模型的均方誤差隨著貝葉斯優(yōu)化迭代次數(shù)的增加逐步降低,同時(shí)模型訓(xùn)練性能逐步提高的趨勢(shì)。在第10 次迭代之后,模型性能趨于穩(wěn)定。
圖3 貝葉斯優(yōu)化超參數(shù)原理Fig.3 Bayesian principle of optimizing hyperparameters
圖4 高斯過(guò)程回歸模型超參數(shù)調(diào)整過(guò)程Fig.4 Super parameter adjustment process of gaussian regression model
2.1.1 高斯過(guò)程回歸
高斯過(guò)程回歸(GPR)模型預(yù)測(cè)步驟如圖5 所示。高斯過(guò)程屬于一種特殊的二階矩隨機(jī)過(guò)程。通常認(rèn)為,自變量和因變量在有限維度下的概率分布都滿足一維或多維聯(lián)合高斯正態(tài)分布。多維高斯聯(lián)合分布由它的均值向量E(x)和協(xié)方差矩陣cov(x)所決定[21]。GP 模型是服從聯(lián)合高斯分布的有限個(gè)隨機(jī)變量的集合,確定均值函數(shù)和協(xié)方差矩陣就能完整地確定一個(gè)高斯過(guò)程的性質(zhì)。協(xié)方差函數(shù)作為衡量數(shù)據(jù)點(diǎn)相互影響的標(biāo)準(zhǔn),是統(tǒng)計(jì)分析中的重要指標(biāo)之一,該函數(shù)表示兩個(gè)變量之間的協(xié)調(diào)變化率。常用協(xié)方差函數(shù)包括平方指數(shù)、Matern、各項(xiàng)同性指數(shù)等。該尺度的存在決定了具有一定差異的輸入特征是否被視為近似特征。此類超參數(shù)同樣被貝葉斯優(yōu)化器所考慮,并進(jìn)行優(yōu)化組合。
圖5 高斯過(guò)程回歸流程圖Fig.5 Gaussian process regression flow chart
2.1.2 人工神經(jīng)網(wǎng)絡(luò)
人工神經(jīng)網(wǎng)絡(luò)(ANN)是一種模擬生物神經(jīng)系統(tǒng)的深度學(xué)習(xí)算法。算法的每個(gè)處理節(jié)點(diǎn)被稱為神經(jīng)元或節(jié)點(diǎn)。單個(gè)節(jié)點(diǎn)可以接收多個(gè)信息的輸入,但只返回一個(gè)輸出信息。從輸入到輸出的過(guò)程需要引入激活函數(shù)來(lái)提高神經(jīng)網(wǎng)絡(luò)的非線性表達(dá)能力。在神經(jīng)網(wǎng)絡(luò)中,每個(gè)神經(jīng)元都被賦予一個(gè)權(quán)重值,權(quán)重值的變化同樣影響著神經(jīng)網(wǎng)絡(luò)的性能,通過(guò)迭代訓(xùn)練樣本可以不斷調(diào)整神經(jīng)元的權(quán)重值,當(dāng)預(yù)測(cè)值與實(shí)際值之間的誤差達(dá)到最小值,則迭代停止。
輸入層和輸出層之間的層稱為隱藏層,圖6 即為單層隱藏層神經(jīng)網(wǎng)絡(luò)示意圖。除此之外,針對(duì)不同的數(shù)據(jù)特征,神經(jīng)網(wǎng)絡(luò)中隱藏層與神經(jīng)元的最優(yōu)設(shè)計(jì)數(shù)并不一樣。這些難以確定的超參數(shù)除了采用排列組合的方法試錯(cuò)外,還可以通過(guò)超參數(shù)調(diào)優(yōu)方法快速找到相對(duì)最優(yōu)解。
圖6 單層隱藏層神經(jīng)網(wǎng)絡(luò)示意圖Fig.6 Schematic diagram of single hidden layer neural network
2.1.3 隨機(jī)森林
隨機(jī)森林是基于決策樹(shù)模型的一種集成算法,決策樹(shù)是一種非參數(shù)規(guī)則的算法,將一組數(shù)據(jù)點(diǎn)的特征空間進(jìn)行劃分,使得每一小塊空間區(qū)域都具有相似的響應(yīng)值。決策樹(shù)中的內(nèi)部節(jié)點(diǎn)可以針對(duì)輸入數(shù)據(jù)的某一特征進(jìn)行判斷,當(dāng)局部節(jié)點(diǎn)無(wú)法再根據(jù)特征進(jìn)行分類時(shí),則生成葉節(jié)點(diǎn)代表測(cè)試后的輸出。位于決策樹(shù)最高處的根節(jié)點(diǎn)則代表了數(shù)據(jù)中最重要的特征。簡(jiǎn)單決策樹(shù)模型示意圖如圖7所示。
圖7 簡(jiǎn)單決策樹(shù)模型示意圖Fig.7 Schematic diagram of simple decision tree model
單一的決策樹(shù)模型通常會(huì)存在過(guò)度擬合的情況,且具有較高的方差。為了緩解這個(gè)問(wèn)題,以決策樹(shù)的分類回歸思想為基礎(chǔ),衍生出很多集成算法。集成學(xué)習(xí)方法將多個(gè)訓(xùn)練好的基本學(xué)習(xí)器通過(guò)一定的策略進(jìn)行結(jié)合,最終形成性能可靠的強(qiáng)學(xué)習(xí)器來(lái)進(jìn)行預(yù)測(cè),集成模型框架如圖8 所示。
隨機(jī)森林模型就是以決策樹(shù)為基本學(xué)習(xí)器的一個(gè)集成學(xué)習(xí)模型。如圖9 所示,它包含多個(gè)由Bagging 集成學(xué)習(xí)技術(shù)訓(xùn)練得到的決策樹(shù)。最終的預(yù)測(cè)結(jié)果由眾多具有較大差異的決策樹(shù)的輸出結(jié)果共同決定。隨機(jī)森林中的學(xué)習(xí)器個(gè)數(shù)與模型的學(xué)習(xí)效率和學(xué)習(xí)效果直接相關(guān),而學(xué)習(xí)器數(shù)量變化對(duì)兩者的影響呈現(xiàn)相反的表現(xiàn)趨勢(shì),此外,葉子節(jié)點(diǎn)上應(yīng)有的最少樣例數(shù)會(huì)決定模型是否更容易遭受噪聲數(shù)據(jù)的影響。諸如此類難以確定又對(duì)模型質(zhì)量有著重要影響的超參數(shù)將由貝葉斯優(yōu)化自動(dòng)確定,以使得模型性能達(dá)到其能力范圍內(nèi)的較高水準(zhǔn)。
圖9 隨機(jī)森林模型示意圖Fig.9 Schematic diagram of random forest model
在中國(guó)《高強(qiáng)鋼結(jié)構(gòu)設(shè)計(jì)標(biāo)準(zhǔn)》(JGJ/T 483—2020)[5]中,軸心受壓構(gòu)件的極限承載力可由式(1)計(jì)算。
式中:φ為穩(wěn)定系數(shù)。
穩(wěn)定系數(shù)φ可根據(jù)截面類型、長(zhǎng)細(xì)比和鋼材屈服強(qiáng)度查詢規(guī)范中附錄表獲得。在最新的高強(qiáng)鋼設(shè)計(jì)規(guī)范中,箱型截面的高強(qiáng)鋼構(gòu)件在板厚小于40 mm時(shí),統(tǒng)一按b 類截面設(shè)計(jì);當(dāng)板厚不小于40 mm 時(shí),若板件寬厚比大于20,按b 類截面設(shè)計(jì),否則按c 類截面設(shè)計(jì)。截面分類方式的變化也是高強(qiáng)鋼設(shè)計(jì)規(guī)范與普通鋼設(shè)計(jì)規(guī)范中的主要區(qū)別。
為了研究開(kāi)發(fā)的ML 模型的預(yù)測(cè)能力,將使用常見(jiàn)的不同性能指標(biāo)評(píng)估模型的性能,包括決定系數(shù)R2、均方誤差MSE、均方根誤差RMSE 和平均絕對(duì)誤差MAE。
1)決定系數(shù)
決定系數(shù)又被稱為R2分?jǐn)?shù)。記Sres=∑(Yi-)2,表示真實(shí)值與預(yù)測(cè)值之差的平方和即殘差平方和。Stot=∑(Yi-)2表示真實(shí)值與其平均值之差的平方和即總離差平方和。
決定系數(shù)所展示的是模型的擬合程度。模型擬合程度越高,輸入?yún)?shù)對(duì)輸出參數(shù)的解釋程度越高,觀察點(diǎn)在回歸直線附近就越密集。決定系數(shù)的取值范圍在0~1,越接近于1,說(shuō)明模型的預(yù)測(cè)效果越好;越接近0,說(shuō)明模型的預(yù)測(cè)效果越差;若決定系數(shù)出現(xiàn)負(fù)值,說(shuō)明該模型的效果非常差。
2)均方誤差與均方根誤差
均方誤差(MSE)又被稱為L(zhǎng)2 范數(shù)損失。是用來(lái)計(jì)算每一個(gè)樣本的預(yù)測(cè)值與真實(shí)值之差的平方,然后求和再取平均值。其值越小說(shuō)明擬合效果越好。均方根誤差就是在均方誤差的基礎(chǔ)上再開(kāi)方。
3)平均絕對(duì)誤差
平均絕對(duì)誤差(MAE)又被稱為L(zhǎng)1 范數(shù)損失,用于計(jì)算每一個(gè)樣本的預(yù)測(cè)值和真實(shí)值的差的絕對(duì)值,然后求和再取平均值。用于評(píng)估預(yù)測(cè)結(jié)果和真實(shí)數(shù)據(jù)集的接近程度,其值越小,則說(shuō)明預(yù)測(cè)模型預(yù)測(cè)性能越好。
選取4 個(gè)評(píng)價(jià)指標(biāo),評(píng)估中國(guó)現(xiàn)有規(guī)范中的經(jīng)驗(yàn)?zāi)P秃? 種常見(jiàn)機(jī)器學(xué)習(xí)模型對(duì)高強(qiáng)鋼焊接等截面箱型柱整體穩(wěn)定性的預(yù)測(cè)性能,并將相關(guān)數(shù)據(jù)進(jìn)行匯總。然而,模型在訓(xùn)練時(shí)的表現(xiàn)并不能代表其在模型測(cè)試時(shí)的表現(xiàn),需要加入模型在測(cè)試集上的表現(xiàn)來(lái)對(duì)模型進(jìn)行全面的評(píng)判。因此,采集了約70組中國(guó)學(xué)者對(duì)高強(qiáng)鋼焊接截面柱整體穩(wěn)定性進(jìn)行研究的真實(shí)試驗(yàn)數(shù)據(jù)[2,22-24],整理了其中25 組相關(guān)數(shù)據(jù),見(jiàn)表2,并增加了模型對(duì)新的測(cè)試集數(shù)據(jù)的預(yù)測(cè)情況來(lái)進(jìn)一步驗(yàn)證模型性能與數(shù)據(jù)集質(zhì)量的優(yōu)劣,這些用于測(cè)試的數(shù)據(jù)需要保證未在模型的訓(xùn)練過(guò)程中出現(xiàn)。
表2 高強(qiáng)鋼焊接箱形截面柱軸心受壓承載力試驗(yàn)數(shù)據(jù)Table 2 Test data of axial compression bearing capacity of high strength steel welded box section columns
表3 同時(shí)記錄了模型訓(xùn)練時(shí)的評(píng)價(jià)指標(biāo)情況以及機(jī)器學(xué)習(xí)模型或現(xiàn)有規(guī)范準(zhǔn)則模型在測(cè)試集數(shù)據(jù)上的表現(xiàn)?!陡邚?qiáng)鋼結(jié)構(gòu)設(shè)計(jì)規(guī)范》(JGJ/T 483—2020)[5]所用模型的決定系數(shù)為0.83,RMSE 值達(dá)到了1 176.6 kN,MAE 也高達(dá)861.57 kN。模型預(yù)測(cè)精度在±861.6 kN,超出了測(cè)試集數(shù)據(jù)中平均極限承載力(3 149.4 kN)的27.3%。隨著鋼材免屈服強(qiáng)度的增大,設(shè)計(jì)規(guī)范模型逐漸表現(xiàn)出不適用性,且預(yù)測(cè)結(jié)果偏大。通過(guò)查閱相關(guān)文獻(xiàn),可以對(duì)此現(xiàn)象做出解釋,部分學(xué)者在對(duì)高強(qiáng)鋼焊接截面柱整體穩(wěn)定性能的研究中得出以下結(jié)論:采用中國(guó)規(guī)范設(shè)計(jì)時(shí),對(duì)于寬厚比小于20 的Q690 箱形柱,可選取a 類柱子曲線[23];Q890 和Q960 鋼材焊接箱形軸壓構(gòu)件板厚小于40 mm 時(shí)應(yīng)按a 類曲線進(jìn)行設(shè)計(jì),區(qū)別于規(guī)范中建議使用b 類曲線計(jì)算[24]。以上結(jié)論說(shuō)明中國(guó)現(xiàn)有規(guī)范對(duì)于高強(qiáng)鋼軸心軸壓構(gòu)件的截面分類并不完全準(zhǔn)確。且規(guī)范公式的提出考慮了設(shè)計(jì)師們進(jìn)行設(shè)計(jì)時(shí)的便捷性,通常是有過(guò)簡(jiǎn)化處理的。上述原因?qū)е卢F(xiàn)行規(guī)范在預(yù)測(cè)時(shí)的缺陷。
表3 預(yù)測(cè)模型性能比對(duì)Table 5 Performance comparison of prediction models
反觀機(jī)器學(xué)習(xí)預(yù)測(cè)模型的表現(xiàn),機(jī)器學(xué)習(xí)預(yù)測(cè)模型中的高斯過(guò)程回歸模型整體表現(xiàn)明顯要優(yōu)于現(xiàn)有規(guī)范準(zhǔn)則模型。其在訓(xùn)練過(guò)程中的RMSE 值為41.21 kN,MAE 值為23.59 kN,決定系數(shù)為1.0。而在對(duì)測(cè)試集數(shù)據(jù)預(yù)測(cè)過(guò)程中,其RMSE 值為265.13 kN,MAE 值為163.17 kN,決定系數(shù)高達(dá)0.99,平均誤差率僅有5.6%。
由表3 可見(jiàn),機(jī)器學(xué)習(xí)模型對(duì)高強(qiáng)鋼焊接等截面箱型柱的整體穩(wěn)定性的預(yù)測(cè)效果相較現(xiàn)有規(guī)范有明顯的提升。但隨機(jī)森林模型在此類問(wèn)題的預(yù)測(cè)上表現(xiàn)很差,在訓(xùn)練過(guò)程中的決定系數(shù)為0.93,在測(cè)試集數(shù)據(jù)預(yù)測(cè)中決定系數(shù)僅有0.75。以決策樹(shù)為基本學(xué)習(xí)器的集成算法預(yù)測(cè)效果較差的原因可能是決策樹(shù)模型的決策邊界可能并不準(zhǔn)確且決策樹(shù)算法對(duì)個(gè)別數(shù)據(jù)比較敏感,進(jìn)而導(dǎo)致其集成模型的效果在回歸預(yù)測(cè)上的表現(xiàn)很差。
對(duì)于機(jī)器學(xué)習(xí)預(yù)測(cè)模型在測(cè)試集上的表現(xiàn)相對(duì)模型訓(xùn)練時(shí)普遍變差的問(wèn)題,機(jī)器學(xué)習(xí)領(lǐng)域?qū)<艺J(rèn)為這是由于機(jī)器學(xué)習(xí)模型泛化能力不佳導(dǎo)致的,可通過(guò)調(diào)整超參數(shù)、使用K 折交叉驗(yàn)證、歸一化數(shù)據(jù)等手段降低其影響,筆者研究中也有所涉及。其他的數(shù)據(jù)集本身的原因包括:1)纖維模型構(gòu)建的數(shù)據(jù)庫(kù)樣本與實(shí)際工程情況本就有著10%左右的誤差;2)在數(shù)據(jù)庫(kù)的構(gòu)建過(guò)程中,初始缺陷考慮得并不全面;3)實(shí)際試驗(yàn)數(shù)據(jù)的部分參數(shù)超出了數(shù)據(jù)庫(kù)樣本參數(shù)大小范圍約10%。能否對(duì)超出訓(xùn)練數(shù)據(jù)范圍的數(shù)據(jù)進(jìn)行準(zhǔn)確預(yù)測(cè)也是模型泛化能力強(qiáng)弱的體現(xiàn)。以上原因?qū)е铝藱C(jī)器學(xué)習(xí)模型在預(yù)測(cè)測(cè)試集數(shù)據(jù)時(shí)的性能下降。在后續(xù)研究中,將進(jìn)一步關(guān)注數(shù)據(jù)集和模型的質(zhì)量來(lái)提高機(jī)器模型在測(cè)試集上進(jìn)行預(yù)測(cè)時(shí)的表現(xiàn)。盡管如此,以高斯過(guò)程回歸模型為代表的眾多機(jī)器學(xué)習(xí)模型仍然展現(xiàn)出了優(yōu)于現(xiàn)有規(guī)范準(zhǔn)則模型及其他種類預(yù)測(cè)模型的性能。
圖10 為數(shù)據(jù)集在3 個(gè)機(jī)器學(xué)習(xí)模型的中的真實(shí)值與預(yù)測(cè)值響應(yīng)圖,其中,藍(lán)色的點(diǎn)表示訓(xùn)練集中已知的輸出參數(shù),即軸心受壓極限承載力真實(shí)值。而黃色的點(diǎn)表示模型經(jīng)過(guò)訓(xùn)練后根據(jù)輸入?yún)?shù)得出的預(yù)測(cè)響應(yīng)值,即軸心受壓極限承載力預(yù)測(cè)值,當(dāng)兩點(diǎn)完全重合時(shí),表示機(jī)器學(xué)習(xí)模型在該點(diǎn)處的預(yù)測(cè)精度很高,重合的點(diǎn)越多,機(jī)器學(xué)習(xí)模型性能越好。另一種能直觀展現(xiàn)出機(jī)器學(xué)習(xí)模型預(yù)測(cè)效果的圖是圖11 所展示的殘差圖,當(dāng)模型的性能足夠優(yōu)秀時(shí)其預(yù)測(cè)響應(yīng)與真實(shí)值相差無(wú)幾,在殘差圖中表現(xiàn)為所有預(yù)測(cè)點(diǎn)都接近于零線,從任意點(diǎn)到零線的垂直距離即為該點(diǎn)的殘差。
圖10 訓(xùn)練過(guò)程機(jī)器學(xué)習(xí)模型預(yù)測(cè)響應(yīng)圖Fig.10 Prediction response diagram of machine learning model in the training process
圖11 訓(xùn)練過(guò)程機(jī)器學(xué)習(xí)模型殘差圖Fig.11 Residual diagram of machine learning model during training
綜合所有ML 模型在模型性能可視化圖中的表現(xiàn)可以看出,高斯過(guò)程回歸模型和神經(jīng)網(wǎng)絡(luò)模型表現(xiàn)是這3 種模型中的較優(yōu)模型。在預(yù)測(cè)響應(yīng)圖中,兩種模型的預(yù)測(cè)點(diǎn)與真實(shí)點(diǎn)重合度很高;在殘差圖中,兩種模型中各樣本點(diǎn)的殘差絕大多數(shù)都在100 kN以內(nèi),不超過(guò)訓(xùn)練樣本平均極限承載力(1 780.75 kN)的6%。說(shuō)明高斯過(guò)程回歸模型和神經(jīng)網(wǎng)絡(luò)模型在訓(xùn)練過(guò)程中的優(yōu)異性能。但結(jié)合表3 可以看出,在預(yù)測(cè)測(cè)試集中新的實(shí)際工程數(shù)據(jù)時(shí),高斯過(guò)程回歸模型的穩(wěn)定性要略高于神經(jīng)網(wǎng)絡(luò)模型。因此,在高強(qiáng)鋼焊接箱形截面柱整體穩(wěn)定性的研究中,高斯過(guò)程回歸會(huì)是常見(jiàn)機(jī)器學(xué)習(xí)模型中的最優(yōu)模型,也是優(yōu)于現(xiàn)有規(guī)范經(jīng)驗(yàn)?zāi)P偷倪x擇。值得一提的是,高斯過(guò)程回歸模型預(yù)測(cè)25 組真實(shí)實(shí)驗(yàn)數(shù)據(jù)時(shí),僅耗費(fèi)0.006 s,這樣的計(jì)算效率顯然要優(yōu)于更加精細(xì)的有限元模擬方法,盡管有限元建模能夠使模型的計(jì)算結(jié)果達(dá)到很高的精度,但其繁瑣的建模過(guò)程和較長(zhǎng)的計(jì)算時(shí)間使得效率更高的機(jī)器學(xué)習(xí)模型成為一種新的選擇。
模型可解釋性是指對(duì)模型工作機(jī)制以及對(duì)模型預(yù)測(cè)結(jié)果的理解,機(jī)器學(xué)習(xí)模型的可解釋性越高,模型的可信任度就越高。諸如支持向量回歸等機(jī)器學(xué)習(xí)模型被稱為“黑盒”模型,從這些ML 模型中探求輸入?yún)?shù)和輸出參數(shù)之的力學(xué)關(guān)系是很困難的。近年來(lái),陸續(xù)有學(xué)者研究并提出了幾種方法來(lái)提高M(jìn)L 模型的可解釋性。部分依賴圖(PDP)和個(gè)體條件期望圖(ICE)就是用于對(duì)ML 模型進(jìn)行解釋的常用可視化工具。
部分依賴圖反映了在一個(gè)訓(xùn)練好的ML 模型中輸入特征參數(shù)與輸出響應(yīng)參數(shù)之間的關(guān)系[25],通常包括線性關(guān)系、單調(diào)關(guān)系或者其他更復(fù)雜的關(guān)系。某個(gè)選定輸入特征參數(shù)的部分依賴性定義為忽略其他輸入變量的影響而獲得的平均預(yù)測(cè)值,或者說(shuō)部分相關(guān)性作為所選輸入特征參數(shù)的函數(shù),顯示了所選輸入特征參數(shù)對(duì)數(shù)據(jù)集的平均影響。各輸入特征的PDP 圖如圖12 所示。
圖12 8 種指 標(biāo)的PDP 圖Fig.12 PDP plots for eight indicators.
個(gè)體條件期望圖作為部分依賴圖的一種變體,代表了每個(gè)樣本的輸入特征參數(shù)和輸出響應(yīng)值之間的關(guān)系。部分相關(guān)性顯示了輸入和輸出之間的平均關(guān)系,但I(xiàn)CE 圖將平均關(guān)系信息進(jìn)行了分解,并顯示了每次觀測(cè)時(shí)個(gè)體特征的依賴性[26]。
選擇在上述研究中表現(xiàn)最好的高斯過(guò)程回歸模型,計(jì)算并繪制該模型的PDP 圖,以確定8 個(gè)輸入特征參數(shù)與高強(qiáng)鋼焊接等截面箱型柱極限承載力之間的關(guān)系。從圖12 中的PDP 圖可以看出,構(gòu)件的總高(總寬)、翼緣(腹板)厚度、材料屈服強(qiáng)度、材料彈性模量與高強(qiáng)鋼焊接等截面箱型柱的軸壓極限承載力在一定范圍內(nèi)呈正相關(guān)。構(gòu)件計(jì)算長(zhǎng)度、初始缺陷值、正則化長(zhǎng)細(xì)比、寬厚比與構(gòu)件軸壓極限承載力在一定范圍內(nèi)呈負(fù)相關(guān)。在對(duì)《高強(qiáng)鋼結(jié)構(gòu)設(shè)計(jì)規(guī)范》(JGJ/T 483—2020)[5]中關(guān)于鋼結(jié)構(gòu)軸壓構(gòu)件整體穩(wěn)定性的相關(guān)規(guī)范公式進(jìn)行分析后發(fā)現(xiàn),機(jī)器學(xué)習(xí)模型做出的有關(guān)輸入?yún)?shù)對(duì)輸出參數(shù)影響趨勢(shì)的解釋均是合理的,這從側(cè)面體現(xiàn)了機(jī)器學(xué)習(xí)模型內(nèi)部運(yùn)作的合理性。但大部分趨勢(shì)都展現(xiàn)出線性或近線性,這與實(shí)際情況有所差距,這主要是由于訓(xùn)練樣本數(shù)據(jù)中的輸入?yún)?shù)范圍有限,如果將數(shù)據(jù)集參數(shù)范圍擴(kuò)大,將會(huì)得到更加豐富且貼合實(shí)際的部分依賴圖。在正則化長(zhǎng)細(xì)比部分依賴圖中可以看到更為明顯的趨勢(shì)特征,當(dāng)λn小于1時(shí),構(gòu)件的極限承載力以較大的梯度下降,當(dāng)λn到達(dá)1 時(shí),構(gòu)件承載力下降速度大大減緩而進(jìn)入平臺(tái)期,當(dāng)λn大于1.5 后,構(gòu)件承載力又恢復(fù)到λn數(shù)值較小時(shí)的下降梯度。
使用Shapley Value 方法制作特征參數(shù)重要性可視化圖像,一個(gè)特征的Shapley Value 是該特征在所有的特征序列中的平均邊際貢獻(xiàn)。使用效果較好的神經(jīng)網(wǎng)絡(luò)模型計(jì)算8 個(gè)輸入特征參數(shù)的特征重要性,其可視化的表現(xiàn)見(jiàn)圖13。然而,神經(jīng)網(wǎng)絡(luò)模型的預(yù)測(cè)結(jié)果會(huì)受其超參數(shù)的影響,因此,獲得的特征重要性排序并非絕對(duì),只作為建議來(lái)指導(dǎo)進(jìn)行工程實(shí)際。
圖13 特征參數(shù)重要性Fig.13 Importance of characteristic parameters
特征重要性分析表明,相對(duì)于其他輸入?yún)?shù),構(gòu)件的正則化長(zhǎng)細(xì)比、總高(總寬)、腹板厚度(翼緣厚度)、屈服強(qiáng)度是影響高強(qiáng)鋼焊接等截面箱型柱軸心受壓承載力的主要參數(shù)。由中國(guó)現(xiàn)有規(guī)范中對(duì)高強(qiáng)鋼構(gòu)件軸心受壓的整體穩(wěn)定性描述公式可知,高強(qiáng)鋼構(gòu)件整體穩(wěn)定性與構(gòu)件截面面積和材料屈服強(qiáng)度線性相關(guān),而特征重要性分析中得到的重要參數(shù)恰好就包含了屈服強(qiáng)度和面積(面積可由構(gòu)件總高與腹板厚度求得),這從雙向驗(yàn)證了規(guī)范與機(jī)器學(xué)習(xí)模型都具備較高的合理性。相比之下,構(gòu)件的初始缺陷和彈性模量對(duì)其極限承載力影響較小,這可能是由于數(shù)據(jù)庫(kù)中初始缺陷取值均僅為構(gòu)件計(jì)算長(zhǎng)度的千分之一以下,取值偏小導(dǎo)致初始缺陷對(duì)構(gòu)件極限承載力的影響不大。
開(kāi)發(fā)了兩個(gè)單一模型和一個(gè)集成模型,用于預(yù)測(cè)高強(qiáng)鋼焊接等截面箱型柱的軸心受壓極限承載力以驗(yàn)證其整體穩(wěn)定性。將3 種機(jī)器學(xué)習(xí)模型的預(yù)測(cè)性能和現(xiàn)有規(guī)范中的經(jīng)驗(yàn)?zāi)P瓦M(jìn)行比較,并對(duì)最優(yōu)機(jī)器學(xué)習(xí)模型進(jìn)行可解釋性研究。研究結(jié)果表明,機(jī)器學(xué)習(xí)技術(shù)在預(yù)測(cè)高強(qiáng)鋼構(gòu)件整體穩(wěn)定性方面的可行性和高精度,并為將數(shù)據(jù)驅(qū)動(dòng)模型納入設(shè)計(jì)規(guī)范的修訂和完善提供了重要參考。得到以下主要結(jié)論:
1)與其他ML 模型和基于物理的方程相比,高斯過(guò)程回歸模型預(yù)測(cè)得到的結(jié)果最為準(zhǔn)確,該模型對(duì)測(cè)試集數(shù)據(jù)預(yù)測(cè)的RMSE 值為265.13 kN,MAE值為163.17 kN,決定系數(shù)高達(dá)0.99。與25 組已有試驗(yàn)結(jié)果相比,平均絕對(duì)誤差僅有5.6%。此外,隨著未來(lái)數(shù)據(jù)庫(kù)數(shù)據(jù)愈加豐富,參數(shù)數(shù)值包含范圍愈加廣泛,高斯過(guò)程回歸模型的性能可以進(jìn)一步提高。這項(xiàng)工作的結(jié)果證明了機(jī)器學(xué)習(xí)技術(shù)在預(yù)測(cè)高強(qiáng)鋼構(gòu)件整體穩(wěn)定性方面的可行性和高精度,并為將數(shù)據(jù)驅(qū)動(dòng)模型納入下一代國(guó)際設(shè)計(jì)規(guī)范做出了引導(dǎo)。
2)根據(jù)模型的可解釋性研究發(fā)現(xiàn),作為最優(yōu)機(jī)器學(xué)習(xí)預(yù)測(cè)模型的高斯過(guò)程回歸模型,其中,輸入?yún)?shù)對(duì)預(yù)測(cè)結(jié)果的影響趨勢(shì)與現(xiàn)有規(guī)范準(zhǔn)則中的經(jīng)驗(yàn)公式一致,在證明了機(jī)器學(xué)習(xí)模型準(zhǔn)確性的基礎(chǔ)上又驗(yàn)證了模型的合理性。
3)根據(jù)輸入特征參數(shù)重要性排序可知,正則化長(zhǎng)細(xì)比、材料屈服強(qiáng)度以及和構(gòu)件截面面積相關(guān)的幾何特征是對(duì)高強(qiáng)鋼軸心受壓承載力影響較大的參數(shù)。這與中國(guó)現(xiàn)有規(guī)范準(zhǔn)則中所述接近,而在機(jī)器學(xué)習(xí)模型的解釋中正則化長(zhǎng)細(xì)比作為對(duì)輸出結(jié)果影響最大的重要參數(shù)參與預(yù)測(cè)運(yùn)算。
4)機(jī)器學(xué)習(xí)模型應(yīng)用于高強(qiáng)鋼構(gòu)件力學(xué)性能預(yù)測(cè)的工作中具有能夠快速甄別關(guān)鍵參數(shù)與力學(xué)性能之間的關(guān)系優(yōu)勢(shì),但現(xiàn)階段其計(jì)算精度相較于精細(xì)的有限元分析尚有差距,且計(jì)算結(jié)果的合理性依賴于模型的選取和大量數(shù)據(jù)的收集,因此,現(xiàn)階段成果僅作為高強(qiáng)鋼構(gòu)件力學(xué)性能分析的參考與借鑒。