黃吉聰
【摘要】 ELM算法優(yōu)化研究是目前研究的重點. ELM是神經(jīng)網(wǎng)絡(luò)的一種,伴隨著計算機技術(shù)的發(fā)展,大部分?jǐn)?shù)學(xué)建模系統(tǒng)通過采用一種新的探索方法—信息數(shù)據(jù)挖掘模糊理論數(shù)學(xué)建模分析. 將該模型應(yīng)用于數(shù)據(jù)挖掘模糊理論數(shù)學(xué)建模分析算法,尤其是個性化數(shù)據(jù)挖掘模糊理論是十分合理的. 【關(guān)鍵詞】 ELM優(yōu)化 數(shù)學(xué)建模分析;數(shù)據(jù)挖掘模糊理論
1. 引 言
本文通過單隱藏神經(jīng)網(wǎng)絡(luò)進(jìn)行基于數(shù)據(jù)挖掘模糊理論ELM算法優(yōu)化研究. 下圖描繪的是其整體結(jié)構(gòu),ELM是神經(jīng)網(wǎng)絡(luò)的一種,神經(jīng)網(wǎng)絡(luò)是單層網(wǎng)絡(luò)的一種.
神經(jīng)網(wǎng)絡(luò)的激活函數(shù)為:
f(x) = ■(0 < f(x) < 1),通過運算求出最終值.
2. 數(shù)學(xué)建模數(shù)據(jù)挖掘模糊理論
神經(jīng)網(wǎng)絡(luò)的輸入輸出{(xj,yj)}■■,xj = [xj1,xj2,…,xjd]T∈Rd,N表示樣本的總數(shù),d表示x分量的維度,yj = [yj1,yj2,…,yjm]T∈Rm,m表示y分量維度上式中,βi為輸出權(quán)值向量,ai為輸入權(quán)值向量,oj為與Yj相對應(yīng)的實際輸出向量,bj為偏置.
下圖描繪的是其整體結(jié)構(gòu),ELM是神經(jīng)網(wǎng)絡(luò)的一種,神經(jīng)網(wǎng)絡(luò)是單層網(wǎng)絡(luò)的一種,本圖為文獻(xiàn)[2]中理論:
最終將優(yōu)化的誤差如下所示:■||oj - tj|| = 0.
最小化損失函數(shù),E = ■(■βig(xi,ai,bi)-tj).
根據(jù)最小二乘原理:■=H+T,H+為H的廣義逆矩陣. 通過訓(xùn)練神經(jīng)網(wǎng)絡(luò)建立數(shù)據(jù)模型.
3. 改進(jìn)數(shù)據(jù)挖掘模糊理論方法
將樣本非結(jié)構(gòu)化數(shù)據(jù)復(fù)制兩份,即數(shù)據(jù)量由N變成2*N,分別以不同的概率屬于不同的類別. 非結(jié)構(gòu)化數(shù)據(jù)集由
{xj,yj},for j=1,…,N
變成{xj,yj,uj},for j = 1,…,N,{xj-yj,1-uj},for j = 1,…,N
最小化:L的前面是模型復(fù)雜度,后面是加權(quán)后的經(jīng)驗數(shù)學(xué)建模,u為權(quán)值. e為誤差. 換成拉格朗日乘子
L=■wTw + Gu■■||ej||2 + C(1 - u)■■||ηj||2 - ■αj(wT?準(zhǔn)(xj) + b - 1 + e) - ■rj(wT?準(zhǔn)(xj) + B + 1 - η),
αj,rj是二倍樣本的數(shù)據(jù)集,得出的拉格朗日乘子.(w,b,e,η,αj,rj)表示拉格朗日系數(shù),和誤差值. 通過求(w,b,e,η,αj,rj)偏微分,雙加權(quán)ELM分類目標(biāo):
sign(wT?準(zhǔn)(xj) + b)=sign(■(αj - rj)K(x,xj) + b),
神經(jīng)網(wǎng)絡(luò)輸出權(quán)值為:
■=HT■ + HTH-1(2w - 1)T.
4. 數(shù)據(jù)分析
本文通過貝葉斯,ELM以及神經(jīng)網(wǎng)絡(luò)對比ELM算法優(yōu)化研究的預(yù)測精度. 從本文實例數(shù)據(jù)分析看出4個數(shù)學(xué)建模預(yù)測數(shù)據(jù)集中神經(jīng)網(wǎng)絡(luò)預(yù)測精度最高. 改進(jìn)的對數(shù)學(xué)建模預(yù)測更高.
【參考文獻(xiàn)】
[1]吳琳. 當(dāng)前企業(yè)ELM優(yōu)化中存在的問題及對策[J]. 財經(jīng)界(學(xué)術(shù)版). 2013(19).
[2]譚心純. 中小企業(yè)ELM優(yōu)化的數(shù)學(xué)建模控制及對策[J]. 行政事業(yè)資產(chǎn)與. 2013(12).