杜二玲　張鴻

摘要：在擬噪聲樣本關(guān)鍵定理成立的基礎(chǔ)上，結(jié)合擬概率的知識(shí)，討論了擬噪聲樣本學(xué)習(xí)過(guò)程一致收斂速度的界。為下一步建立擬噪聲樣本的結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則打下了理論基礎(chǔ).也為進(jìn)一步構(gòu)建擬噪聲樣本的支持向量機(jī)提供了理論依據(jù)。

關(guān)鍵詞：擬概率；期望風(fēng)險(xiǎn)泛函；經(jīng)驗(yàn)風(fēng)險(xiǎn)泛函；一致收斂速度的界

中圖分類號(hào)：TP18 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1009-3044（2016）23-0195-02

Abstract： On the basis of the key theorem of the quasi-noise variable， combined with the knowledge of quasi probability， the bounds on the rate of uniform convergence base on quasi-noise variable are discussed. The theoretical foundation is laid for the next step to establish the structural risk minimization principle of quasi-noise variable. It also provides a theoretical basis for the further construction of the support vector machine for the quasi-noise variable.

Key words： quasi-probability； empirical risk functional； expected risk functional； bounds on the rate of uniform convergence

1 引言

統(tǒng)計(jì)學(xué)習(xí)理論[1]（SLT）是機(jī)器學(xué)習(xí)的重要組成部分，它是針對(duì)小樣本情況研究統(tǒng)計(jì)學(xué)習(xí)規(guī)律的理論，是建立在概率空間上的。關(guān)鍵定理和學(xué)習(xí)過(guò)程一致收斂速度的界是SLT的重要組成部分，在非概率空間上，這兩部分的內(nèi)容已經(jīng)取得了重要的成果[2-8]。其中關(guān)于學(xué)習(xí)過(guò)程一致收斂速度的界的討論都是基于樣本不受外界影響的前提下的，實(shí)際應(yīng)用中樣本往往受到外界各種因素的影響。本文考慮到樣本受到噪聲的影響，利用擬概率測(cè)度，通過(guò)對(duì)指示損失函數(shù)的討論，得到了擬噪聲樣本學(xué)習(xí)過(guò)程一致收斂速度的界，從而擴(kuò)大了其應(yīng)用范圍。

2 基本概念

定理2估計(jì)了所選函數(shù)的風(fēng)險(xiǎn)值與最小可能風(fēng)險(xiǎn)值有多接近。這兩個(gè)不等式都與給定函數(shù)集的容量[l]有關(guān)。

通過(guò)以上的討論得到了擬噪聲樣本學(xué)習(xí)過(guò)程一致收斂速度的界。為進(jìn)一步研究擬噪聲樣本的統(tǒng)計(jì)學(xué)習(xí)理論奠定了理論基礎(chǔ)。下一步的工作是討論擬噪聲樣本結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則及其應(yīng)用。

參考文獻(xiàn)；

[1] Vapnik V N. Statistical learning theory[M]. New York： A Wiley-Interscience Publication， 1998.

[2] 王芬. 機(jī)會(huì)空間上學(xué)習(xí)理論的關(guān)鍵定理[J]. 湖北師范學(xué)院學(xué)報(bào)（自然科學(xué)版），2013，04：76-79+99.

[3] 高林慶，李鑫，白云超，哈明虎. 泛空間上學(xué)習(xí)理論的關(guān)鍵定理[J]. 計(jì)算機(jī)工程與應(yīng)用，2010，31：32-35.

[4] 李俊華，李海軍. 基于模糊隨機(jī)樣本的學(xué)習(xí)理論關(guān)鍵定理[J]. 模糊系統(tǒng)與數(shù)學(xué)，2013，06：7-11.

[5] 李俊華，李海軍. 受噪聲影響的復(fù)hybrid樣本的學(xué)習(xí)理論關(guān)鍵定理[J]. 河北大學(xué)學(xué)報(bào)（自然科學(xué)版） ，2014， 34（1）： 14-18.

[6] 杜二玲，李俊華. 受噪聲影響的復(fù)擬隨機(jī)樣本的STL關(guān)鍵定理[J]. 河北大學(xué)學(xué)報(bào)（自然科學(xué)版），2015（5）：449-452.

[7] 王英新，唐世星. 粗糙學(xué)習(xí)過(guò)程一致收斂速度的界[J]. 承德石油高等?？茖W(xué)校學(xué)報(bào)，2010，02：71-74.

[8] 哈明虎，馮志芳，宋士吉，等. 擬概率空間上學(xué)習(xí)理論的關(guān)鍵定理和學(xué)習(xí)過(guò)程一致收斂速度的界[J]. 計(jì)算機(jī)學(xué)報(bào)， 2008（ 3）： 476-485.