国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

基于決策樹的用戶信用評分模型的構(gòu)建

2019-07-08 03:32吳錦華王志生劉重陽胡龍彪
無線互聯(lián)科技 2019年8期
關(guān)鍵詞:特征選擇決策樹

吳錦華 王志生 劉重陽 胡龍彪

摘 ? 要:信用評分系統(tǒng)在信用風險管理中發(fā)揮比較重要的作用,通過大數(shù)據(jù)分析技術(shù)構(gòu)建評估分析模型來解決信用風險預測問題。文章在scikit-learn機器學習工具的基礎(chǔ)上,通過利用特征選擇方法生成有效特征集并結(jié)合決策樹方法來構(gòu)建信用評分模型,并在實際數(shù)據(jù)集得出評分結(jié)果,同時所得結(jié)果為評估人員提供信用決策建議。

關(guān)鍵詞:信用評分;scikit-learn;特征選擇;決策樹

1 ? ?信用簡介

“信用”是長時間積累的信任和誠信度,如“信用風險”是銀行主要信用卡審批過程中常見的風險,是銀行授信的最主要風險。過去對申請信用卡的申請人主要是依據(jù)于信貸員的評估,或者信貸決策委員會對申請人進行綜合評價,而這種評估結(jié)果往往受其主觀因素的影響。最近幾年來,信用市場不斷擴大,人工信用評估具有較大的局限性和不全面性。目前階段的信貸問題較為嚴重,各行各業(yè)都面臨著信用問題,欺詐時有發(fā)生,導致信用危機的發(fā)生。為了防范風險,最大限度地降低風險,減少壞賬,提前預警不守信用的個人或企業(yè),從而拒絕給其提供金融服務,如貸款、辦理信用卡等業(yè)務[1]。在這種巨大的信用風險考驗下,建立全面有效的信用評分系統(tǒng)是目前各大金融機構(gòu)亟需解決的問題。

信用評分是評分技術(shù)在信用風險管理方面的應用,通過建立方法模型進行預測。以申請信用評分為例,利用海量的數(shù)據(jù),借助機器學習相關(guān)方法模型給申請客戶進行信用打分[2-3],并依據(jù)不同的分值劃分客戶信用等級,從而預測客戶信用風險。

本文通過對Kaggle上的Give Me Some Credit數(shù)據(jù)的挖掘分析,結(jié)合信用評分卡的建立原理,對數(shù)據(jù)集進行預處理、特征選擇以及利用scikit-learn平臺中的決策樹模型分別進行預測以及其結(jié)果相應對比分析,為個人信用評估工作人員提供參考。

2 ? ?數(shù)據(jù)分析與模型建立

2.1 ?數(shù)據(jù)預處理

對數(shù)據(jù)集中的數(shù)據(jù)進行分析,初步觀察發(fā)現(xiàn),Monthly Incom和Number of Dependents存在缺失值,另外部分age值為0,因此年齡值低于0均視為異常值。另外,對數(shù)據(jù)集的缺失率進行計算,得到Monthly Income和Number of Dependents數(shù)據(jù)存在缺失,monthlyIncome 缺失數(shù)據(jù)最多,缺失率最高。Number of Dependents變量缺失值比較少,直接刪除,對總體模型不會造成太大影響,另外,對缺失值處理完之后,刪除重復項。

因此,在本文中,對age異常值進行處理,認為>90歲或者≤0歲的為異常值,在此數(shù)據(jù)集中,使用單變量離群值檢測判斷異常值,異常的樣本不多,則直接刪除。

經(jīng)過上面的數(shù)據(jù)預處理之后,就認為現(xiàn)在的數(shù)據(jù)均為正常數(shù)據(jù),而不是臟數(shù)據(jù)。所以接下來就可以對數(shù)據(jù)進行一些各個變量之間的相關(guān)性分析來篩選一些重要的特征。首先,通過Python里面的seaborn包,調(diào)用heatmap()繪圖函數(shù)進行繪制各個變量之間的相關(guān)性的熱力,如圖1所示。

從圖1中可看出,各個特征之間的相關(guān)性還是比較小的,并不存在多重共線性問題,因此,不需要進行降維處理或剔除相關(guān)變量,為后面模型的穩(wěn)定性提供了好的基礎(chǔ)。

2.2 ?特征選擇

本文采用決策樹來構(gòu)建分類模型時,經(jīng)常需要對自變量進行篩選。比如有40個特征量時,通常情況不直接把40個變量直接放到模型中進行訓練,而是通過特征選擇方法從40個自變量中挑選一些出來。挑選過程比較復雜,需要考慮的因素很多,比如變量的預測能力、變量之間相關(guān)性、變量的簡單性、強壯性、變量的可解釋性等。但是,最主要和最直接的衡量標準是變量的預測能力。通過將用戶的信用卡數(shù)據(jù)進行證據(jù)權(quán)重(Weight of Evidence,WOE)分箱后,再計算數(shù)據(jù)中的10個自變量生成預測能力如圖2所示。

2.3 ?特征變量的預測能力

從圖2中可以看出,數(shù)據(jù)集中的“月收入”“逾期30~59天筆數(shù)”“信貸數(shù)量”“家屬數(shù)量”和“固定資產(chǎn)貸款量”預測能力值均小于0.2,因此在信息價值(Information Value,IV)篩選的時候,IV值為0.1以上被認為具有一般預測能力,0.2以上算比較有預測能力。所以在接下來的模型建立的過程中將篩掉這些預測能力差的特征。

2.4 ?模型預測分析

經(jīng)過數(shù)據(jù)預處理以及特征選擇之后,選擇決策樹對數(shù)據(jù)進行分類,在機器學習中,決策樹是一個預測模型,它代表對象屬性與對象值之間的一種映射關(guān)系[1]。本文通過使用scikit-learn平臺中的決策樹工具構(gòu)建方法模型。另外,為了評估方法模型的有效性,采用交叉驗證法來評價分類器性能,另外選擇受試者工作特征(Receiver Operating Characteristic curve,ROC)曲線下的坐標軸圍成的面積(Area Under Curve,AUC)值作為評分標準,對應AUC更大的分類器效果更好。繪制出的AUC曲線如圖3所示。另外,訓練模型以及調(diào)節(jié)相應參數(shù),計算出方法模型的準確率、精確率、召回率、f1-score,具體如表1所示。

由表1看出,經(jīng)過調(diào)參優(yōu)化后的決策樹方法模型,在測試集上召回率達到0.990 2,稍低于訓練集,但結(jié)果所表現(xiàn)的性能比較優(yōu)秀,能夠較好地對用戶的信用進行評分和預測。

3 ? ?結(jié)語

本文基于scikit-learn平臺構(gòu)建特征選擇方法模型,并在真實數(shù)據(jù)集進行預測分析,最終調(diào)優(yōu)出來的方法模型在預測數(shù)據(jù)的準確度、精確度等性能指標上表現(xiàn)良好,在實際場景中具有一定的研究意義。

[參考文獻]

[1]王芝珺,吳純志.P2P網(wǎng)絡借貸平臺的個人信用評估模型研究—基于決策樹和Logistic回歸[C].杭州:第十屆海峽兩岸統(tǒng)計與概率研討會,2016.

[2]陳安.基于機器學習的信用卡風險評估研究[D].南昌:江西財經(jīng)大學,2018.

[3]袁海瑛.大數(shù)據(jù)背景下的互聯(lián)網(wǎng)融資信用評價體系構(gòu)建[J].上海經(jīng)濟研究,2017(12):66-72.

猜你喜歡
特征選擇決策樹
一種針對不均衡數(shù)據(jù)集的SVM決策樹算法
決策樹和隨機森林方法在管理決策中的應用
基于改進決策樹的故障診斷方法研究
Kmeans 應用與特征選擇
基于決策樹的出租車乘客出行目的識別
基于決策樹的復雜電網(wǎng)多諧波源監(jiān)管
基于GA和ELM的電能質(zhì)量擾動識別特征選擇方法
聯(lián)合互信息水下目標特征選擇算法
基于特征選擇聚類方法的稀疏TSK模糊系統(tǒng)
基于肺癌CT的決策樹模型在肺癌診斷中的應用