○張博文楊斯堯

1.浙江大學(xué)光華法學(xué)院 浙江杭州 310008

2.中國(guó)人民銀行成都分行 四川成都 610041

一、研究背景

社會(huì)信用體系建設(shè)是市場(chǎng)經(jīng)濟(jì)發(fā)展的重要支柱，全面的社會(huì)信用體系由多部分共同組成，其中最重要組成部分之一即個(gè)人金融借款中的借款人信用評(píng)價(jià)。這種信用評(píng)價(jià)指向借款人的信用風(fēng)險(xiǎn)，本質(zhì)上是通過(guò)借款人過(guò)往的行為來(lái)推斷其未來(lái)償還借款的意愿和能力，準(zhǔn)確的個(gè)人信用評(píng)價(jià)對(duì)信貸機(jī)構(gòu)和借款人來(lái)說(shuō)均意義重大，所以如何作出適當(dāng)?shù)膫€(gè)人信用評(píng)價(jià)至關(guān)重要。信用評(píng)價(jià)方法隨著金融行業(yè)的發(fā)展不斷改進(jìn)，近年來(lái)，隨著大數(shù)據(jù)時(shí)代的來(lái)臨及機(jī)器學(xué)習(xí)等信息技術(shù)的迅猛發(fā)展，個(gè)人信用評(píng)價(jià)領(lǐng)域也興起了引入機(jī)器學(xué)習(xí)算法的新趨勢(shì)，國(guó)內(nèi)外眾多企業(yè)紛紛嘗試?yán)脵C(jī)器學(xué)習(xí)算法和大數(shù)據(jù)技術(shù)進(jìn)行個(gè)人信用評(píng)分，漸成燎原之勢(shì)。

依托機(jī)器學(xué)習(xí)算法的信用評(píng)分工具（以下簡(jiǎn)稱(chēng)為“算法型評(píng)分工具”）在底層邏輯、技術(shù)手段、所處理數(shù)據(jù)的類(lèi)別與數(shù)量上已與傳統(tǒng)的信用評(píng)分工具（以下簡(jiǎn)稱(chēng)為“傳統(tǒng)型評(píng)分工具”）大為不同，凸顯出機(jī)器學(xué)習(xí)算法在信用評(píng)分領(lǐng)域的巨大優(yōu)勢(shì)。然而，在看到機(jī)器學(xué)習(xí)算法在信用評(píng)分行業(yè)所具有巨大優(yōu)勢(shì)的同時(shí)，也不能忽略隨著機(jī)器學(xué)習(xí)算法嵌入而產(chǎn)生的一系列風(fēng)險(xiǎn)。事實(shí)上，新技術(shù)手段的應(yīng)用總是伴隨著新的風(fēng)險(xiǎn)，信用評(píng)價(jià)行業(yè)的發(fā)展也是與風(fēng)險(xiǎn)持續(xù)斗爭(zhēng)的過(guò)程，故需要在利用其優(yōu)勢(shì)的同時(shí)，通過(guò)法律手段對(duì)其中潛藏的風(fēng)險(xiǎn)加以規(guī)制?；诖耍疚膶囊韵滤膫€(gè)方面分別展開(kāi)：首先，就算法型評(píng)分工具的興起與發(fā)展做簡(jiǎn)要介紹，重點(diǎn)展現(xiàn)算法型評(píng)分工具的特點(diǎn)與發(fā)展現(xiàn)狀，以勾勒其基本輪廓；其次，分析采用算法型評(píng)分工具的必要性，尤其是突出算法型評(píng)分工具相對(duì)于傳統(tǒng)型評(píng)分工具的優(yōu)勢(shì)所在；再次，就算法型評(píng)分工具針對(duì)個(gè)人信用評(píng)價(jià)風(fēng)險(xiǎn)潛藏的風(fēng)險(xiǎn)加以識(shí)別；最后，就如何在我國(guó)現(xiàn)有法律體系下對(duì)上述風(fēng)險(xiǎn)加以規(guī)制提出對(duì)策。期望上述四個(gè)部分的分析對(duì)算法型信用評(píng)分在我國(guó)今后金融實(shí)踐中獲得更好發(fā)展有所助益。

二、算法型評(píng)分工具的興起與發(fā)展

（一）演變歷程概覽

在征信行業(yè)發(fā)展的早期，借款人的信用狀況僅通過(guò)信貸員或?qū)＜业呐袛鄟?lái)決定，信貸員或?qū)＜彝ㄟ^(guò)面談的方式，結(jié)合自身已有的知識(shí)和針對(duì)同類(lèi)借款人的一般經(jīng)驗(yàn)，對(duì)是否授信以及以何種價(jià)格授信作出決定。雖然這不僅因耗費(fèi)大量人力而成本較高，而且因依賴(lài)信貸員或?qū)＜业钠返潞椭R(shí)而易于失真，但卻是與彼時(shí)技術(shù)水平相適應(yīng)的最優(yōu)選項(xiàng)。

隨著數(shù)學(xué)、統(tǒng)計(jì)學(xué)等學(xué)科及計(jì)算機(jī)技術(shù)在20世紀(jì)的蓬勃發(fā)展，由計(jì)算機(jī)軟件自動(dòng)進(jìn)行信用評(píng)分取代了人工判斷，對(duì)借款人信用狀況的判斷由此進(jìn)入“評(píng)分時(shí)代”。信用評(píng)分是信用的工業(yè)化轉(zhuǎn)化，旨在利用數(shù)學(xué)模型將相關(guān)數(shù)據(jù)轉(zhuǎn)化成某個(gè)數(shù)值來(lái)指導(dǎo)信用決策。最早的信用評(píng)分模型由美國(guó)FICO公司的兩位創(chuàng)始人在1956年提出，該模型通過(guò)利用統(tǒng)計(jì)和數(shù)學(xué)以及消費(fèi)者信用信息，比當(dāng)時(shí)的人工判斷方法更快且更可靠地創(chuàng)建了數(shù)字信用評(píng)分，并在之后的時(shí)間里不斷發(fā)展，并于20世紀(jì)90年代初完全取代了基于人工的信用狀況判斷。FICO的評(píng)分模型深深影響了其他各國(guó)信用評(píng)分的發(fā)展。該評(píng)分模型主要考慮借款人的信用信息，具體類(lèi)別及其所占比例大概如下：信用償還歷史占35%；信用賬戶(hù)數(shù)占30%；使用信用時(shí)間長(zhǎng)短占15%；新開(kāi)信用賬戶(hù)占10%；正在使用的信用組合類(lèi)型占10%。FICO模型在評(píng)分時(shí)主要依賴(lài)于線性統(tǒng)計(jì)方法和有限數(shù)量的固定變量。其相關(guān)技術(shù)主要有判別分析法、線性回歸和邏輯回歸等。

此后，F(xiàn)ICO評(píng)分欠缺包容性的弊端日漸顯露，而在進(jìn)入21世紀(jì)之后，借款人的可用數(shù)據(jù)不斷增加，信息科學(xué)技術(shù)也在持續(xù)發(fā)展，尤其是2008年金融危機(jī)之后信貸機(jī)構(gòu)風(fēng)險(xiǎn)控制意識(shí)進(jìn)一步增強(qiáng)。在這些條件的共同作用之下，考慮傳統(tǒng)信用數(shù)據(jù)之外其他替代數(shù)據(jù)的評(píng)分工具逐漸興起，其中一部分仍然沿用FICO評(píng)分所采用的技術(shù)手段，另一部分則是依托更強(qiáng)大的機(jī)器學(xué)習(xí)算法，后者即是本文的研究對(duì)象——算法型評(píng)分工具。

（二）算法型評(píng)分工具的主要特點(diǎn)

與傳統(tǒng)型評(píng)分工具相比，算法型評(píng)分工具在技術(shù)層面和數(shù)據(jù)層面具有明顯不同，這構(gòu)成了算法型評(píng)分工具的主要特點(diǎn)，具體包括依托機(jī)器學(xué)習(xí)技術(shù)為借款人評(píng)分和以替代數(shù)據(jù)（Alternative data）為分析對(duì)象。

1.依托機(jī)器學(xué)習(xí)技術(shù)為借款人評(píng)分。機(jī)器學(xué)習(xí)的概念源自亞瑟·塞繆爾在1959年編寫(xiě)的一個(gè)計(jì)算機(jī)學(xué)習(xí)程序，經(jīng)過(guò)多年的發(fā)展，時(shí)至今日已經(jīng)演變?yōu)橐粋€(gè)相當(dāng)復(fù)雜的過(guò)程。在技術(shù)方法上，機(jī)器學(xué)習(xí)技術(shù)不再采用線性判別和邏輯回歸，而是主要依靠諸如隨機(jī)森林模型、梯度提升決策樹(shù)模型和BP神經(jīng)網(wǎng)絡(luò)模型等。也正是因此，依托機(jī)器學(xué)習(xí)算法的評(píng)分模型是由計(jì)算機(jī)算法直接生成的，而不再是由統(tǒng)計(jì)學(xué)家根據(jù)他們對(duì)線性回歸和相關(guān)技術(shù)結(jié)果的解釋作出的決定。算法型評(píng)分模型的完整應(yīng)用流程較為復(fù)雜，可簡(jiǎn)要地概括為表1。

表1 算法型評(píng)分模型的完整應(yīng)用流程

2.以新型替代數(shù)據(jù)為分析對(duì)象。在信用評(píng)分的語(yǔ)境下，可把借款人的數(shù)據(jù)做不同的類(lèi)型劃分。其一，根據(jù)其在被計(jì)算機(jī)處理時(shí)所運(yùn)用的技術(shù)，可區(qū)分為結(jié)構(gòu)化數(shù)據(jù)、半結(jié)構(gòu)化數(shù)據(jù)和非結(jié)構(gòu)化數(shù)據(jù)。所謂結(jié)構(gòu)化數(shù)據(jù)，是指可由二維表結(jié)構(gòu)來(lái)邏輯表達(dá)和實(shí)現(xiàn)、主要通過(guò)關(guān)系型數(shù)據(jù)庫(kù)進(jìn)行存儲(chǔ)和管理的數(shù)據(jù)；半結(jié)構(gòu)化或非結(jié)構(gòu)化數(shù)據(jù)則與之相反。能夠直接反映借款人財(cái)務(wù)狀況的金融數(shù)據(jù)多為結(jié)構(gòu)化數(shù)據(jù)。傳統(tǒng)的線性評(píng)分模型即可以處理結(jié)構(gòu)化數(shù)據(jù)，半結(jié)構(gòu)化或非結(jié)構(gòu)化數(shù)據(jù)則須依托機(jī)器學(xué)習(xí)算法的評(píng)分模型來(lái)處理。其二，還可根據(jù)借款人數(shù)據(jù)所反映的內(nèi)容，將其分為信用數(shù)據(jù)和替代數(shù)據(jù)。所謂信用數(shù)據(jù)，專(zhuān)指直接表現(xiàn)借款人既往信用狀況的數(shù)據(jù)，F(xiàn)ICO評(píng)分中最核心的五類(lèi)數(shù)據(jù)即為其典型代表，信用數(shù)據(jù)屬于借款人金融數(shù)據(jù)的一部分；替代數(shù)據(jù)則是借款人信用數(shù)據(jù)之外其他可用來(lái)評(píng)估其信用分?jǐn)?shù)的數(shù)據(jù)。就替代數(shù)據(jù)自身而言，還可做更進(jìn)一步的區(qū)分：根據(jù)其是否可歸入借款人的金融數(shù)據(jù)范疇，可將之區(qū)分為信用數(shù)據(jù)之外的其他金融數(shù)據(jù)和非金融數(shù)據(jù)；根據(jù)其在既往信用評(píng)分實(shí)踐中被使用的程度，還可以將之分類(lèi)為主流的替代數(shù)據(jù)和邊緣的替代數(shù)據(jù)。所謂的主流替代數(shù)據(jù)主要指的是信用數(shù)據(jù)之外的其他類(lèi)型金融數(shù)據(jù)，如租金支付記錄、公共繳費(fèi)記錄和手機(jī)支付記錄。它們能夠反映出借款人連續(xù)一段時(shí)間內(nèi)的財(cái)務(wù)狀況，也是可被線性模型處理的結(jié)構(gòu)化數(shù)據(jù)，在機(jī)器學(xué)習(xí)算法獲得廣泛使用之前，被用來(lái)改善FICO評(píng)分中的包容性欠缺問(wèn)題。邊緣替代數(shù)據(jù)通常是指關(guān)于借款人行為的新型數(shù)據(jù)，主要對(duì)應(yīng)的是借款人的非金融數(shù)據(jù)，這既包括較為傳統(tǒng)的教育、就業(yè)經(jīng)歷等數(shù)據(jù)，也包括更為新型的社交和行為數(shù)據(jù)，例如社交媒體活動(dòng)（點(diǎn)贊內(nèi)容、點(diǎn)擊和每次觀看時(shí)間）、手機(jī)使用情況（花在手機(jī)上的平均時(shí)間、社交網(wǎng)絡(luò)規(guī)模）、健康健身活動(dòng)、零售和在線瀏覽數(shù)據(jù)，甚至關(guān)于消費(fèi)者與信貸機(jī)構(gòu)互動(dòng)情況的數(shù)據(jù)。這些新型的替代數(shù)據(jù)具有強(qiáng)烈的非結(jié)構(gòu)化特征，無(wú)法通過(guò)傳統(tǒng)的線性評(píng)分模型處理，而只能依靠采用了機(jī)器學(xué)習(xí)技術(shù)的算法型評(píng)分工具。

（三）發(fā)展現(xiàn)狀

1.國(guó)外的發(fā)展現(xiàn)狀。近年來(lái)，算法型信用評(píng)分工具取得了長(zhǎng)足的發(fā)展，美國(guó)、英國(guó)、歐盟和印度等不同國(guó)家和地區(qū)均涌現(xiàn)出了一大批利用機(jī)器學(xué)習(xí)算法為借款人打分的金融科技公司，相關(guān)公司及其成立時(shí)間、所處位置和官方網(wǎng)站的概括信息可見(jiàn)表2。

表2 利用機(jī)器學(xué)習(xí)算法為借款人打分的金融科技公司

上述這些公司在經(jīng)營(yíng)模式、功能定位和分析對(duì)象上均有所差異。在經(jīng)營(yíng)模式上，有的公司是類(lèi)似于FICO的軟件開(kāi)發(fā)公司，僅為銀行提供信用評(píng)分服務(wù)，如Upstart和Underwrite，有的還同時(shí)自營(yíng)信貸業(yè)務(wù)，如Monedo；在功能定位上，有的公司僅利用自身的復(fù)雜算法分析信貸機(jī)構(gòu)的既有數(shù)據(jù)，如Underwrite，有的公司則還收集新的數(shù)據(jù)，如Upstart；在分析對(duì)象上，有的公司主要選擇教育和工作經(jīng)歷作為新增的替代數(shù)據(jù)，如Upstart，有的公司則完全選擇全新的替代數(shù)據(jù)，如CreditVidya。以下選取可作為其中代表的Upstart、Monedo和CreditVidya作重點(diǎn)介紹：

其一，Upstart本身并非信貸機(jī)構(gòu)，而是為合作伙伴Cross River銀行提供信用評(píng)分服務(wù)。當(dāng)借款人在該平臺(tái)上申請(qǐng)貸款時(shí)，合作銀行會(huì)利用Upstart公司提供的評(píng)分模型進(jìn)行決策。Upstart的評(píng)分模型并非取代了傳統(tǒng)的評(píng)分?jǐn)?shù)據(jù)，而是利用與財(cái)務(wù)能力和償還款傾向相關(guān)的其他信號(hào)來(lái)進(jìn)行補(bǔ)充。Upstart的評(píng)分模式既包括對(duì)借款人財(cái)務(wù)數(shù)據(jù)的檢查，也包括對(duì)其教育和（或）就業(yè)經(jīng)歷的考察。Upstart可以通過(guò)使用申請(qǐng)人的教育信息（包括但不限于就讀的學(xué)校和獲得的學(xué)位）以及他們目前的工作，來(lái)開(kāi)發(fā)借款人的財(cái)務(wù)能力和個(gè)人還款傾向的統(tǒng)計(jì)模型。最終的信貸決策基于Upstart評(píng)分模型中使用的所有變量的混合①相關(guān)信息來(lái)源于該公司于2020年向美國(guó)金融消費(fèi)者保護(hù)局（CFPB）申請(qǐng)“不行動(dòng)函(no-action letter)”所提交文件中的自愿披露，參見(jiàn)https://files.consumerfinance.gov/f/documents/201709_cfpb_upstart-no-action-letter-request.pdf.。2021年，Upstart的合作銀行發(fā)放了130萬(wàn)筆貸款，總計(jì)118億美元②數(shù)據(jù)來(lái)源于美國(guó)金融消費(fèi)者保護(hù)局2022年6月8日的新聞消息，參見(jiàn)https://www.consumerfinance.gov/about-us/newsroom/cfpb-issues-order-toterminate-upstart-no-action-letter.。

其二，Monedo公司（原名Kreditech）使用機(jī)器學(xué)習(xí)算法，通過(guò)在線數(shù)據(jù)對(duì)借款人的信貸風(fēng)險(xiǎn)進(jìn)行分析，包括位置信息、社交網(wǎng)絡(luò)信息、硬件數(shù)據(jù)（操作系統(tǒng)、瀏覽器等）、在線購(gòu)物行為和其他的在線行為等。該公司主營(yíng)產(chǎn)品包括LaaS電子商務(wù)貸款、Monedo Now分期貸款和Kredito24小額信貸，第一種產(chǎn)品是為合作伙伴提供的信用服務(wù)，后兩種產(chǎn)品則是自營(yíng)的貸款產(chǎn)品。

其三，CreditVidya公司向合作信貸機(jī)構(gòu)提供一個(gè)SDK產(chǎn)品，這是一個(gè)針對(duì)Android系統(tǒng)的軟件開(kāi)發(fā)工具包，可以與Android系統(tǒng)中的應(yīng)用程序集成。它可以幫助信貸機(jī)構(gòu)在獲得借款人同意后，通過(guò)其手機(jī)收集個(gè)人信息。該SDK產(chǎn)品主要收集與設(shè)備相關(guān)的數(shù)據(jù)以及交易短信中包含的數(shù)據(jù)，具體包括與監(jiān)控借款人手機(jī)中的應(yīng)用列表、金融交易相關(guān)的消息、設(shè)備位置、有關(guān)借款人手機(jī)設(shè)備的特定信息（如硬件型號(hào)、操作系統(tǒng)、唯一設(shè)備標(biāo)識(shí)符和移動(dòng)網(wǎng)絡(luò)信息）、聯(lián)系人列表和配置文件列表。其中，收集聯(lián)系人列表是為了通過(guò)其社交網(wǎng)絡(luò)來(lái)進(jìn)行信用評(píng)分，收集設(shè)備信息則是用于防止欺詐。在收集了借款人的這些信息后，CreditVidya公司將通過(guò)自己的人工智能和機(jī)器學(xué)習(xí)平臺(tái)來(lái)處理這些非結(jié)構(gòu)化數(shù)據(jù)，幫助信貸機(jī)構(gòu)對(duì)那些傳統(tǒng)信用評(píng)分很少或沒(méi)有的借款人進(jìn)行信用評(píng)價(jià)③以上信息均來(lái)自該公司官方網(wǎng)站上的說(shuō)明，參見(jiàn)https://www.creditvidya.com/faqs.。

2.國(guó)內(nèi)的發(fā)展現(xiàn)狀。近年來(lái)，國(guó)內(nèi)的個(gè)人征信業(yè)務(wù)也處在高速發(fā)展的過(guò)程中。目前，我國(guó)官方的信用評(píng)價(jià)機(jī)構(gòu)是人民銀行下屬的征信中心，其出具的個(gè)人信用報(bào)告為注冊(cè)用戶(hù)展示其個(gè)人信用信息的基本情況，包括信貸記錄、部分公共記錄和查詢(xún)記錄的明細(xì)信息。其中，除了傳統(tǒng)的信貸記錄，還包含了非信貸機(jī)構(gòu)提供的公共記錄（如法院判決、其他欠繳費(fèi)情況等）和信用報(bào)告的查詢(xún)記錄（短期內(nèi)多次頻繁查詢(xún)可能意味著在此期間經(jīng)濟(jì)狀況較差）。這些信息一定程度上也旨在通過(guò)對(duì)借款人其他行為的判斷來(lái)分析其信用風(fēng)險(xiǎn)，已經(jīng)有了向替代數(shù)據(jù)轉(zhuǎn)變的趨勢(shì)。隨著征信中心與美國(guó)FICO公司合作開(kāi)發(fā)了信用報(bào)告的數(shù)字解讀服務(wù)，征信中心也已經(jīng)可以提供信用評(píng)分服務(wù)。這一解讀評(píng)分所依托的仍然主要是借款人的信用信息。

除了官方的征信中心之外，可從事個(gè)人征信業(yè)務(wù)的還有經(jīng)人民銀行監(jiān)管指導(dǎo)成立的百行征信和樸道征信兩家機(jī)構(gòu)。此外，部分互聯(lián)網(wǎng)公司和銀行也在積極推進(jìn)利用替代數(shù)據(jù)進(jìn)行的信用評(píng)分。如騰訊公司旗下的微眾銀行，該銀行在針對(duì)微粒貸產(chǎn)品進(jìn)行風(fēng)控時(shí)，會(huì)收集借款人的人臉信息、婚姻狀況、地址信息、聯(lián)系人信息、就業(yè)信息、職業(yè)信息、社保信息、納稅信息、學(xué)籍學(xué)歷信息、網(wǎng)絡(luò)信息、設(shè)備信息及地理位置等替代信息；螞蟻金服公司提供的芝麻信用分，該分?jǐn)?shù)從支付寶用戶(hù)的守約記錄、行為積累、身份證明、資產(chǎn)證明和人際關(guān)系五個(gè)維度出發(fā)對(duì)其進(jìn)行評(píng)分，其中，根據(jù)用戶(hù)在商業(yè)場(chǎng)景中履約記錄和法院提供的強(qiáng)制執(zhí)行記錄數(shù)據(jù)進(jìn)行評(píng)定的守約記錄是最為重要的維度。總體來(lái)說(shuō)，替代數(shù)據(jù)在我國(guó)的信用評(píng)分過(guò)程中已經(jīng)發(fā)揮較為重要的作用，但目前尚未有任何一家機(jī)構(gòu)明確表示自己采用了機(jī)器學(xué)習(xí)算法技術(shù)。

三、采用算法型評(píng)分工具的必要性

（一）信用評(píng)分工具發(fā)展的核心要求

在信用評(píng)價(jià)機(jī)制由人工判斷到計(jì)算機(jī)自動(dòng)評(píng)分的發(fā)展歷程背后，始終隱含著一個(gè)核心要求，引導(dǎo)并約束著信用評(píng)分制度的發(fā)展方向。由于信用評(píng)分的實(shí)質(zhì)是在信貸機(jī)構(gòu)和借款人之間建立一種授信機(jī)會(huì)的分配機(jī)制，這一核心要求即是使信貸機(jī)構(gòu)的資金盡可能流入最合適的借款人手中。這一核心要求可以從正反兩個(gè)方面分別展開(kāi)：從正面來(lái)說(shuō)，這意味著信貸機(jī)構(gòu)能夠在最大范圍內(nèi)以風(fēng)險(xiǎn)最小化的方式將資金分配給借款人；從反面來(lái)說(shuō)，則是要求信用評(píng)分機(jī)制不能以不適當(dāng)?shù)姆绞綄⒛硞€(gè)借款人或某部分借款人排除在外。這一核心要求可以概括為信用評(píng)分工具應(yīng)具備的三種具體特性：準(zhǔn)確性、公平性和可解釋性。

1.準(zhǔn)確性。信用評(píng)分工具的準(zhǔn)確性意味著評(píng)分結(jié)果應(yīng)能夠較好地展現(xiàn)借款人的違約風(fēng)險(xiǎn)。作為一項(xiàng)風(fēng)險(xiǎn)控制工具，準(zhǔn)確性是信用評(píng)分工具發(fā)展的生命線，不具備準(zhǔn)確性或準(zhǔn)確性過(guò)低的信用評(píng)分工具沒(méi)有任何實(shí)踐價(jià)值。一項(xiàng)信用評(píng)分工具準(zhǔn)確與否，一方面可以通過(guò)模型、參數(shù)及比重進(jìn)行事先判斷，另一方面則更多地通過(guò)貸款違約率的檢驗(yàn)來(lái)進(jìn)行事后觀察。在人工信用判斷的時(shí)期，信用評(píng)價(jià)結(jié)論受評(píng)價(jià)人的主觀影響較大，準(zhǔn)確性也因人而異，具有較大波動(dòng)性；在進(jìn)入算法型評(píng)分工具的時(shí)代后，評(píng)分結(jié)果因計(jì)算機(jī)對(duì)人工的取代而更為客觀，準(zhǔn)確性也能夠維持在一個(gè)較好的水平。

2.公平性。信用評(píng)分工具的公平性可從兩個(gè)不同的方面分別展開(kāi)，其一，公平性可以體現(xiàn)在適用對(duì)象的范圍上。對(duì)象范圍意義上的公平性也可稱(chēng)為包容性，主要是指信用評(píng)分工具應(yīng)盡可能地將需要資金的借款人囊括其中，而不能將他們排除在金融體系之外，構(gòu)成所謂的金融排斥?？紤]到借款資金對(duì)于他們的生存和發(fā)展所具有的重要意義，這種排斥對(duì)他們而言是一種經(jīng)濟(jì)意義上的不公平。其二，公平性還可以體現(xiàn)在評(píng)分結(jié)果的計(jì)算上。計(jì)算結(jié)果意義上的公平性是指在具體計(jì)算分?jǐn)?shù)時(shí)不能考慮那些諸如種族、膚色、性別等與信用狀況無(wú)關(guān)且可能導(dǎo)致非法歧視的因素，以至于人為地降低特定人群的信用評(píng)價(jià)，并將其排除在金融體系之外。

對(duì)象范圍意義上的公平性主要取決于評(píng)分所能參考的數(shù)據(jù)，數(shù)據(jù)的范圍決定了信用評(píng)分的包容程度，而這又取決于評(píng)分工具所能運(yùn)用的技術(shù)手段。在人工判斷信用的時(shí)期，作出信用判斷主要依靠信貸員對(duì)借款人的了解程度，借款多為關(guān)系型借款，業(yè)務(wù)范圍也多局限于本地。在傳統(tǒng)型信用評(píng)分工具時(shí)期，以FICO評(píng)分為代表的評(píng)分工具僅考慮借款人的信用數(shù)據(jù)，對(duì)那些沒(méi)有或僅有很少信用數(shù)據(jù)的借款人造成了嚴(yán)重的金融排斥。計(jì)算結(jié)果意義上的公平性在受到妨礙時(shí)須通過(guò)對(duì)信用判斷或評(píng)分過(guò)程的解釋和披露來(lái)澄清，而這需要依靠信用評(píng)分工具的可解釋性程度。

3.可解釋性。與上述準(zhǔn)確性和公平性主要針對(duì)信用評(píng)分結(jié)果不同，信用評(píng)分工具的可解釋性主要針對(duì)信用評(píng)分過(guò)程展開(kāi)，即評(píng)分機(jī)構(gòu)在多大程度上能夠使借款人和信貸機(jī)構(gòu)理解該信用評(píng)分的決策過(guò)程?？山忉屝灾跃哂兄匾饬x，是因?yàn)檫@是判斷信用評(píng)分是否準(zhǔn)確和公平的基礎(chǔ)，不可解釋的信用評(píng)分無(wú)法使信貸機(jī)構(gòu)和借款人對(duì)其產(chǎn)生信任。在由人工向計(jì)算機(jī)轉(zhuǎn)變的過(guò)程中，信用評(píng)分的可解釋性隨著技術(shù)手段的引入和日益復(fù)雜化而逐漸被削弱。但在傳統(tǒng)型信用評(píng)分工具中，由于參考數(shù)據(jù)與借款人信用狀況的直接關(guān)聯(lián)性，線性統(tǒng)計(jì)方法也相對(duì)較為容易理解，其評(píng)分結(jié)果的可解釋性總體上在一個(gè)較為適當(dāng)?shù)乃健?/p>

（二）算法型評(píng)分工具的顯著優(yōu)勢(shì)

1.可增強(qiáng)信用評(píng)分的包容性。僅考慮信用數(shù)據(jù)的傳統(tǒng)型評(píng)分工具在包容性方面的虛弱性已經(jīng)暴露無(wú)遺，飽受批評(píng)。在國(guó)外，剛畢業(yè)的大學(xué)生或外來(lái)移民很多都遭遇了金融排斥；在國(guó)內(nèi)，過(guò)分強(qiáng)調(diào)既往的信用數(shù)據(jù)也導(dǎo)致很多購(gòu)房者因過(guò)去的一條逾期記錄而被拒絕購(gòu)房貸款。雖然為彌補(bǔ)傳統(tǒng)型信用評(píng)分的不足而部分地引入了替代數(shù)據(jù)，但因其仍然立足于線性模型而作用有限。相比之下，算法型評(píng)分工具因依托機(jī)器學(xué)習(xí)算法而能夠處理大量非結(jié)構(gòu)化的替代數(shù)據(jù)，能夠?qū)⒏唷氨⌒庞脵n案”的借款人納入信用評(píng)分體系中。這一優(yōu)勢(shì)也呈現(xiàn)出了傳統(tǒng)型評(píng)分工具與算法型評(píng)分工具的關(guān)系：后者并非要取代前者，而是旨在對(duì)前者進(jìn)行補(bǔ)充。

2.可提高評(píng)分預(yù)測(cè)的準(zhǔn)確度。傳統(tǒng)型評(píng)分工具側(cè)重借款人的信用數(shù)據(jù)，尤其是信用歷史與借款人未來(lái)還款情況的關(guān)聯(lián)性，這一觀察視角具有內(nèi)在合理性，但也并非總是準(zhǔn)確的。具體來(lái)說(shuō)，該評(píng)分策略的準(zhǔn)確性主要表現(xiàn)在正向推論而非反向推論之中。易言之，過(guò)往信用記錄較好的借款人在未來(lái)還款意愿或許能夠被較好地反映出來(lái)；但過(guò)往信用記錄不夠好，尤其是因信用歷史長(zhǎng)度不足而不夠好的借款人的信用狀況并未被準(zhǔn)確反映出來(lái)。算法型評(píng)分工具通過(guò)對(duì)借款人替代數(shù)據(jù)的量化分析，并將由此得出的評(píng)分結(jié)果與通過(guò)傳統(tǒng)型評(píng)分工具獲得的結(jié)果相結(jié)合，可以提高信用評(píng)分的準(zhǔn)確性。這再一次說(shuō)明了算法型評(píng)分工具并非對(duì)傳統(tǒng)型評(píng)分工具的替代，而是對(duì)其的有力補(bǔ)充。

四、算法型評(píng)分工具的潛在風(fēng)險(xiǎn)識(shí)別

算法型信用評(píng)分工具在有力補(bǔ)充傳統(tǒng)型評(píng)分工具，并提高信用評(píng)分包容性和準(zhǔn)確性的同時(shí)，也潛藏著不少風(fēng)險(xiǎn)。所謂風(fēng)險(xiǎn)，專(zhuān)指算法型信用評(píng)分對(duì)信用評(píng)分三項(xiàng)核心要求的背離，風(fēng)險(xiǎn)的存在并不意味著算法型評(píng)分工具存在著無(wú)法被接受的缺陷。事實(shí)上，在信用評(píng)價(jià)行業(yè)的發(fā)展歷程中，風(fēng)險(xiǎn)始終如影隨形，而風(fēng)險(xiǎn)又始終處于不斷被弱化和克服的過(guò)程中。傳統(tǒng)型評(píng)分工具取代人工判斷增強(qiáng)了信用評(píng)分的準(zhǔn)確性和客觀性，而算法型評(píng)分工具又彌補(bǔ)了傳統(tǒng)型評(píng)分工具在包容性上的不足。至于算法型評(píng)分工具中潛藏的風(fēng)險(xiǎn)，在尚無(wú)可用來(lái)消除其風(fēng)險(xiǎn)之技術(shù)手段的背景下，仍可通過(guò)法律手段來(lái)規(guī)制其中潛藏的風(fēng)險(xiǎn)。總的來(lái)說(shuō)，根據(jù)其所背離的對(duì)象，可將算法型評(píng)分工具中的風(fēng)險(xiǎn)概括為信用評(píng)分不透明、信用評(píng)分不準(zhǔn)確和信用評(píng)分不公平三種。

（一）信用評(píng)分不透明

依托機(jī)器學(xué)習(xí)算法進(jìn)行信用評(píng)分時(shí)的不透明是對(duì)信用評(píng)分可解釋性的背離。根據(jù)信用評(píng)分不透明形成的原因，可將其分為三種類(lèi)型：基于故意隱瞞和自我保護(hù)的不透明、基于代碼編碼及閱讀專(zhuān)業(yè)性和技術(shù)性的不透明、機(jī)器學(xué)習(xí)中數(shù)字最優(yōu)化與人類(lèi)推理要求及語(yǔ)義解釋風(fēng)格不匹配導(dǎo)致的不透明。第一種類(lèi)型的不透明主要是因?yàn)樗惴ㄔO(shè)計(jì)和數(shù)據(jù)集構(gòu)成信用評(píng)分機(jī)構(gòu)的商業(yè)秘密，信用評(píng)分機(jī)構(gòu)為了維持自身的競(jìng)爭(zhēng)優(yōu)勢(shì)，而多選擇不公開(kāi)算法。第二種類(lèi)型的不透明主要是因?yàn)樵谟?jì)算機(jī)取代人工之后，信用評(píng)分演變成由代碼操作的任務(wù)處理流程，作為外行人的借款人對(duì)信息技術(shù)缺乏了解。但以因果性為基礎(chǔ)的傳統(tǒng)模型均可針對(duì)模型進(jìn)行歸因分析，具有相對(duì)較高的可解釋性，因而可通過(guò)一定程度上的說(shuō)明減弱或消除這種不透明性。第三種類(lèi)型的不透明則專(zhuān)屬于算法型信用評(píng)分，是算法黑箱在信用評(píng)分這一場(chǎng)景中的具體表現(xiàn)。算法黑箱是一種隱喻，是指計(jì)算機(jī)系統(tǒng)在輸入的數(shù)據(jù)和輸出的答案之間存在著人類(lèi)無(wú)法洞悉的“隱層”。算法結(jié)構(gòu)的復(fù)雜性（如深度神經(jīng)網(wǎng)絡(luò)由數(shù)千個(gè)人工神經(jīng)元組成）以及機(jī)器學(xué)習(xí)依賴(lài)人類(lèi)無(wú)法透視的幾何關(guān)系是算法黑箱形成的技術(shù)原因。算法型信用評(píng)價(jià)的黑箱之所以比傳統(tǒng)信用評(píng)價(jià)更難破解，也正是因?yàn)樗梢酝ㄟ^(guò)這些技術(shù)進(jìn)行相關(guān)性推演，導(dǎo)致結(jié)果與數(shù)據(jù)之間的邏輯關(guān)系讓人難以琢磨。

信用評(píng)分不透明的危害在于：其一，面對(duì)并不透明的評(píng)分算法，借款人和信貸機(jī)構(gòu)均難以完全排除違約風(fēng)險(xiǎn)或歧視的存在，算法開(kāi)發(fā)者與算法使用者之間的信息不對(duì)稱(chēng)導(dǎo)致難以真正建立起對(duì)算法的信任；其二，信用評(píng)分過(guò)程的不可解釋性使借款人無(wú)法確知自己如何才能維持良好的信用水平，導(dǎo)致其無(wú)法形成有效的行為指引；其三，信用評(píng)分不透明提供了滋生算法權(quán)力的土壤，使借款人雖然飽受評(píng)價(jià)不公正或不準(zhǔn)確之苦，卻無(wú)法與之對(duì)抗。

（二）信用評(píng)分不準(zhǔn)確

雖然算法型評(píng)分工具的優(yōu)勢(shì)之一是補(bǔ)充傳統(tǒng)型評(píng)分工具準(zhǔn)確性的不足，但這并不意味著算法型評(píng)分工具自身不存在準(zhǔn)確性偏離的問(wèn)題。事實(shí)上，算法型評(píng)分工具能夠補(bǔ)充傳統(tǒng)型評(píng)分工具準(zhǔn)確性不足的前提是算法型評(píng)分工具自身的評(píng)分結(jié)果是準(zhǔn)確的。信用評(píng)分不準(zhǔn)確既可能將風(fēng)險(xiǎn)較低的借款人排除在外，也可能將風(fēng)險(xiǎn)較高的借款人吸納進(jìn)來(lái)，對(duì)借款人和信貸機(jī)構(gòu)均有不利影響。算法型評(píng)分工具之所以會(huì)出現(xiàn)準(zhǔn)確性失真，與其龐大的數(shù)據(jù)需求以及所采用的復(fù)雜技術(shù)之間存在密切聯(lián)系。如有觀點(diǎn)指出，算法為信用評(píng)分系統(tǒng)帶來(lái)的潛在效率提高通常取決于數(shù)據(jù)和算法模型的質(zhì)量，它們一旦出現(xiàn)偏差就會(huì)導(dǎo)致信用評(píng)分失真。

在傳統(tǒng)型信用評(píng)分工具中，數(shù)據(jù)質(zhì)量偏差主要是指采集到的借款人數(shù)據(jù)因不完整、過(guò)時(shí)或被弄混等而無(wú)法準(zhǔn)確反映借款人的信用狀況。如美國(guó)的“朱迪·托馬斯案”中，美國(guó)三大征信報(bào)告機(jī)構(gòu)之一的TransUnion弄混了姓名、出生日期和社會(huì)安全號(hào)碼相似的兩個(gè)女性的信用檔案，導(dǎo)致信用狀況本來(lái)較好的朱迪·托馬斯長(zhǎng)期受到陌生人壞賬的干擾。

在算法型評(píng)分工具中，數(shù)據(jù)質(zhì)量偏差還體現(xiàn)在用于機(jī)器學(xué)習(xí)的訓(xùn)練數(shù)據(jù)存在錯(cuò)誤。如前文提到的算法型評(píng)分工具的工作流程所展示的，設(shè)計(jì)機(jī)器學(xué)習(xí)算法模型時(shí)收集并轉(zhuǎn)換海量的訓(xùn)練數(shù)據(jù)，算法設(shè)計(jì)師在進(jìn)行這一步驟時(shí)主要關(guān)注所采集信息的數(shù)量，而較少檢查并糾正其中可能存在的錯(cuò)誤，由此可使錯(cuò)誤的數(shù)據(jù)進(jìn)入機(jī)器學(xué)習(xí)的過(guò)程，并導(dǎo)致算法模型的質(zhì)量可能存在問(wèn)題。另外，算法型評(píng)分工具還可能因所選擇的相關(guān)性存在偏差而失真。前文已經(jīng)提到，機(jī)器學(xué)習(xí)算法所追求的并非因果關(guān)系，而是相關(guān)性。計(jì)算機(jī)科學(xué)對(duì)這種方法相當(dāng)推崇，但算法設(shè)計(jì)者對(duì)工具理性的過(guò)度追捧也會(huì)造成對(duì)機(jī)器學(xué)習(xí)所發(fā)現(xiàn)相關(guān)性的盲目信任。具體來(lái)說(shuō)，算法設(shè)計(jì)者過(guò)度相信通過(guò)機(jī)器學(xué)習(xí)技術(shù)對(duì)數(shù)據(jù)相關(guān)性的發(fā)現(xiàn)，將計(jì)算機(jī)發(fā)現(xiàn)的共性不加區(qū)分地與借款人的信用分?jǐn)?shù)關(guān)聯(lián)起來(lái)，對(duì)只是眾多數(shù)據(jù)偶然共享的特征賦予過(guò)高權(quán)重，以至于評(píng)分結(jié)果無(wú)法反映借款人真實(shí)的信用狀況。較為激進(jìn)的觀點(diǎn)甚至認(rèn)為，大數(shù)據(jù)產(chǎn)生的基于相關(guān)性的知識(shí)可能被誤認(rèn)為是因果關(guān)系，而實(shí)際上它們只是巧合，當(dāng)這些相關(guān)性被用作決策的基礎(chǔ)時(shí)，會(huì)導(dǎo)致虛假的積極影響和負(fù)面影響，最終出現(xiàn)謬誤。

（三）信用評(píng)分不公平

算法型信用評(píng)分的不公平并非包容性的不足，而更多地表現(xiàn)為一種偏見(jiàn)，即在對(duì)借款人進(jìn)行信用評(píng)分時(shí)，考慮了會(huì)造成歧視的因素，如種族、宗教、性別或膚色等。在由信貸員或?qū)＜易鞒鲂庞迷u(píng)價(jià)的時(shí)期，難以排除他們主觀判斷中偏見(jiàn)的存在；在采用機(jī)器學(xué)習(xí)算法后，信用評(píng)分中的偏見(jiàn)也并未完全消失，而是以更為隱蔽的方式被保留下來(lái)。這實(shí)質(zhì)上是算法偏見(jiàn)在信用評(píng)分這一場(chǎng)景的具體表現(xiàn)。應(yīng)當(dāng)注意的是，信用評(píng)分本身就是為了在借款人之間進(jìn)行區(qū)分以分配授信機(jī)會(huì)，因此算法區(qū)分本身并無(wú)問(wèn)題，僅在評(píng)分時(shí)選用了不適當(dāng)?shù)臉?biāo)準(zhǔn)而違反公認(rèn)的規(guī)范、法律或道德原則而對(duì)數(shù)據(jù)進(jìn)行處理時(shí)才構(gòu)成算法偏見(jiàn)。概而言之，只要利用算法得出的分?jǐn)?shù)不符合人類(lèi)社會(huì)普遍遵循的正義原則，即屬于信用評(píng)價(jià)不公平。

算法偏見(jiàn)的形成原因較為復(fù)雜。按其成因基礎(chǔ)不同，信用評(píng)分不公平可分為基于數(shù)據(jù)的不公平和基于規(guī)則的不公平，前者是在訓(xùn)練算法時(shí)使用了存在偏見(jiàn)的數(shù)據(jù)，后者則是采用了不適當(dāng)?shù)臉?biāo)準(zhǔn)而導(dǎo)致偏見(jiàn)。不公平可能也并非算法設(shè)計(jì)者在選取數(shù)據(jù)或設(shè)計(jì)模型時(shí)有意為之，即使算法設(shè)計(jì)者已經(jīng)保持了中立也可能導(dǎo)致偏見(jiàn)，因?yàn)楝F(xiàn)實(shí)世界中既存的偏見(jiàn)可能在算法模型訓(xùn)練過(guò)程中被帶入進(jìn)來(lái)。

算法型評(píng)分工具中的不公平分?jǐn)?shù)不僅剝奪了借款人獲得資金發(fā)展的自身機(jī)會(huì)，還同時(shí)貶損其人格權(quán)益。更為關(guān)鍵的是，一旦某個(gè)包含偏見(jiàn)的數(shù)據(jù)被其他算法工程師用以訓(xùn)練新的算法模型，這一新的算法模型就會(huì)延續(xù)之前的偏見(jiàn)，從而發(fā)生系統(tǒng)性歧視連鎖反應(yīng)。

五、算法型評(píng)分工具潛在風(fēng)險(xiǎn)的法律規(guī)制

通過(guò)上述分析不難發(fā)現(xiàn)，算法型評(píng)分工具中潛藏的風(fēng)險(xiǎn)都是由算法技術(shù)的應(yīng)用帶來(lái)的，但卻不能指望僅通過(guò)技術(shù)的迭代來(lái)消除這些風(fēng)險(xiǎn)。這不僅是因?yàn)闄C(jī)器學(xué)習(xí)算法已經(jīng)是當(dāng)下最前沿的科學(xué)技術(shù)，更是因?yàn)榧夹g(shù)本身雖然不具有任何價(jià)值傾向，但它始終只是技術(shù)使用者手中的工具，會(huì)受到技術(shù)使用者價(jià)值判斷的影響。因此，要始終將新技術(shù)的應(yīng)用置于法律的監(jiān)管之下，才能最大限度地削弱或消除新技術(shù)手段帶來(lái)的風(fēng)險(xiǎn)。

關(guān)于信用評(píng)價(jià)，我國(guó)《民法典》第一千零二十九條規(guī)定：“民事主體可以依法查詢(xún)自己的信用評(píng)價(jià)；發(fā)現(xiàn)信用評(píng)價(jià)不當(dāng)?shù)?，有?quán)提出異議并請(qǐng)求采取更正、刪除等必要措施。信用評(píng)價(jià)人應(yīng)當(dāng)及時(shí)核查，經(jīng)核查屬實(shí)的，應(yīng)當(dāng)及時(shí)采取必要措施?！痹摋l文首次就民事主體的信用權(quán)益及法律保護(hù)作出了規(guī)定。然而，從既往的司法實(shí)踐來(lái)看，該條僅以人民銀行征信中心出具的征信報(bào)告中所存在的記載錯(cuò)誤為對(duì)象。這意味著，現(xiàn)行法律體系下民事主體的信用權(quán)益僅指征信報(bào)告中的正確記載，并不包含基于機(jī)器學(xué)習(xí)算法的信用評(píng)分。然而，隨著今后機(jī)器學(xué)習(xí)算法越來(lái)越多地被使用到信用評(píng)價(jià)中、信用評(píng)分獲得越來(lái)越普遍的應(yīng)用，信用權(quán)益也應(yīng)涵蓋作出準(zhǔn)確且公正的信用評(píng)分。這無(wú)疑為信用評(píng)分失當(dāng)?shù)姆杀Ｗo(hù)提供了正當(dāng)性依據(jù)，但該條中的刪除權(quán)和更正權(quán)均是為征信報(bào)告記載錯(cuò)誤而設(shè)，并不能用于規(guī)制算法型評(píng)分工具，必須另行尋找其他規(guī)制手段。

法律規(guī)制手段的確定應(yīng)結(jié)合風(fēng)險(xiǎn)的類(lèi)型在“風(fēng)險(xiǎn)—規(guī)制”的框架下予以確定。如前所述，算法型評(píng)分工具中潛藏的風(fēng)險(xiǎn)均是因利用機(jī)器學(xué)習(xí)算法而生，在我國(guó)現(xiàn)行的法律體系下，能夠?qū)ζ溥M(jìn)行規(guī)制的主要是2021年11月1日起生效的《個(gè)人信息保護(hù)法》。被識(shí)別的風(fēng)險(xiǎn)包括信用評(píng)分不透明、信用評(píng)分不準(zhǔn)確和信用評(píng)分不公平，《個(gè)人信息保護(hù)法》中可用以規(guī)制的這三種風(fēng)險(xiǎn)的法律手段主要有第五十五條中的保護(hù)影響評(píng)估、第二十四條第三款中的算法解釋權(quán)和算法結(jié)果拒絕權(quán)。

（一）以信用評(píng)分算法的影響評(píng)估作為規(guī)制手段

所謂算法影響評(píng)估，是要求算法治理的相關(guān)利益主體在算法設(shè)計(jì)、部署與運(yùn)行期間，對(duì)算法可能造成的風(fēng)險(xiǎn)及其對(duì)社會(huì)的影響進(jìn)行充分地評(píng)估，以了解和減輕算法系統(tǒng)可能造成的風(fēng)險(xiǎn)或者負(fù)面影響。該制度首見(jiàn)于《歐盟通用數(shù)據(jù)保護(hù)條例》第35條的數(shù)據(jù)保護(hù)影響評(píng)估制度，《個(gè)人信息保護(hù)法》第五十五條也明確規(guī)定“利用個(gè)人信息進(jìn)行自動(dòng)化決策的情形下，個(gè)人信息處理者應(yīng)當(dāng)事前進(jìn)行個(gè)人信息保護(hù)影響評(píng)估，并對(duì)處理情況進(jìn)行記錄。”算法影響評(píng)估的義務(wù)主體是信用評(píng)分機(jī)構(gòu)，其既可以自行評(píng)估，也可以委托第三方展開(kāi)評(píng)估。

算法影響評(píng)估反映的是一種預(yù)防性的風(fēng)險(xiǎn)治理理念，具有多重意義：其一，利益相關(guān)主體獲得了程序性保障和參與渠道，創(chuàng)建了算法決策運(yùn)行過(guò)程中的信任溝通機(jī)制；其二，有助于幫助信用評(píng)分機(jī)構(gòu)預(yù)先識(shí)別和系統(tǒng)跟蹤算法內(nèi)置或者潛在偏誤；其三，對(duì)于信用評(píng)分機(jī)構(gòu)來(lái)說(shuō)，算法影響評(píng)估程序也是一個(gè)建立并證明合規(guī)性的程序，能夠幫助信用評(píng)分機(jī)構(gòu)減小未來(lái)的責(zé)任風(fēng)險(xiǎn)；其四，也是最重要的，算法影響評(píng)估能夠幫助監(jiān)管機(jī)關(guān)確定算法的風(fēng)險(xiǎn)程度，并根據(jù)風(fēng)險(xiǎn)程度建立與之適配的監(jiān)管體系。由此可見(jiàn)，算法影響評(píng)估在風(fēng)險(xiǎn)規(guī)制中發(fā)揮著重要作用，既可削減信用評(píng)分的不準(zhǔn)確和不公平，也可增強(qiáng)信用評(píng)分的透明性。對(duì)信用評(píng)分算法開(kāi)展影響評(píng)估須注意以下三點(diǎn)：

1.針對(duì)信用評(píng)價(jià)算法的全周期開(kāi)展影響評(píng)估。雖然《個(gè)人信息保護(hù)法》第五十五條僅規(guī)定了事前的影響評(píng)估，但對(duì)信用評(píng)分算法的影響評(píng)估應(yīng)持續(xù)性地貫穿信用評(píng)價(jià)算法的全周期，即涵蓋從算法設(shè)計(jì)、運(yùn)行到結(jié)果輸出的所有環(huán)節(jié)。之所以如此，是因?yàn)橛行╋L(fēng)險(xiǎn)到后續(xù)環(huán)節(jié)才會(huì)暴露出來(lái)，僅對(duì)設(shè)計(jì)環(huán)節(jié)進(jìn)行影響評(píng)估難以準(zhǔn)確評(píng)估該算法中存在的風(fēng)險(xiǎn)。譬如，對(duì)算法設(shè)計(jì)環(huán)節(jié)的評(píng)估可以審查出信用評(píng)價(jià)目標(biāo)是否得到了準(zhǔn)確設(shè)置，訓(xùn)練數(shù)據(jù)和特征選擇是否妥當(dāng)，是否采取了合理措施確保人工智能不生成歧視結(jié)果。但信用分?jǐn)?shù)是否因偏離設(shè)計(jì)者的預(yù)定目標(biāo)而不準(zhǔn)確或不公平，必須根據(jù)最終輸出的信用評(píng)分結(jié)果來(lái)判斷。

2.信用評(píng)分機(jī)構(gòu)應(yīng)履行算法記錄義務(wù)。雖然《個(gè)人信息保護(hù)法》第五十五條規(guī)定了個(gè)人信息處理者的算法記錄義務(wù)，但該記錄義務(wù)是指對(duì)影響評(píng)估結(jié)果的記錄，并非本文所稱(chēng)的算法記錄義務(wù)。本文所稱(chēng)的算法記錄義務(wù)，是指留存算法設(shè)計(jì)、測(cè)試、運(yùn)行全過(guò)程的記錄。算法記錄是算法風(fēng)險(xiǎn)控制的基礎(chǔ)性工具，缺乏記錄也就無(wú)法有效地進(jìn)行算法評(píng)估。我國(guó)目前尚缺乏關(guān)于算法記錄義務(wù)的法律依據(jù)，國(guó)外明確規(guī)定了算法記錄義務(wù)的主要是《歐盟通用數(shù)據(jù)保護(hù)條例》第30條和歐盟委員會(huì)于2020年發(fā)布的人工智能白皮書(shū)《走向卓越與信任——?dú)W洲人工智能監(jiān)管新路徑》。后者明確指出，算法設(shè)計(jì)者和使用者應(yīng)當(dāng)做到：留存與算法或編程有關(guān)的測(cè)試記錄；準(zhǔn)確記錄特定情形下高風(fēng)險(xiǎn)人工智能應(yīng)用測(cè)試的數(shù)據(jù)集；詳細(xì)描述數(shù)據(jù)集的主要特征和選擇方式；留存有關(guān)建立、測(cè)試和驗(yàn)證人工智能系統(tǒng)的訓(xùn)練方法；留存使用流程和相關(guān)技術(shù)的資料文件。

3.遵循較為嚴(yán)格的影響評(píng)估標(biāo)準(zhǔn)。影響評(píng)估應(yīng)采取與風(fēng)險(xiǎn)等級(jí)相適應(yīng)的評(píng)估標(biāo)準(zhǔn)。所謂風(fēng)險(xiǎn)等級(jí)，主要是個(gè)人信息處理活動(dòng)導(dǎo)致侵害的概率與發(fā)生侵害事件后權(quán)益影響程度的疊加。風(fēng)險(xiǎn)等級(jí)則須根據(jù)算法的應(yīng)用場(chǎng)景具體判斷，風(fēng)險(xiǎn)等級(jí)越高，影響評(píng)估的標(biāo)準(zhǔn)就應(yīng)當(dāng)越嚴(yán)格。將機(jī)器學(xué)習(xí)算法應(yīng)用于信用評(píng)分場(chǎng)景，潛藏著對(duì)借款人和信貸機(jī)構(gòu)的諸多不利影響，當(dāng)這些不利現(xiàn)實(shí)化發(fā)生之后，又會(huì)對(duì)借款人和信貸機(jī)構(gòu)的權(quán)益帶來(lái)較強(qiáng)不利影響，因而應(yīng)劃入風(fēng)險(xiǎn)等級(jí)較高的行列，并采用較為嚴(yán)格的評(píng)估標(biāo)準(zhǔn)。

（二）將借款人的算法解釋權(quán)作為規(guī)制手段

1.借款人算法解釋權(quán)及其行使。算法公開(kāi)是破除算法黑箱的必要手段。算法公開(kāi)有兩條可選路徑，分別是《歐盟通用數(shù)據(jù)保護(hù)條例》所采取的賦權(quán)模式和美國(guó)所采取的外部問(wèn)責(zé)模式。前者賦予被決策者要求算法使用者進(jìn)行解釋說(shuō)明的權(quán)利，后者則是由監(jiān)管機(jī)關(guān)根據(jù)相關(guān)法律規(guī)定對(duì)算法使用者的披露情況進(jìn)行監(jiān)督，并在其未按要求披露的情況下科以法律責(zé)任。我國(guó)現(xiàn)行法采納了賦予被決策者以算法解釋權(quán)的模式。《個(gè)人信息保護(hù)法》第二十四條第三款明確規(guī)定：“通過(guò)自動(dòng)化決策方式作出對(duì)個(gè)人權(quán)益有重大影響的決定，個(gè)人有權(quán)要求個(gè)人信息處理者予以說(shuō)明。”算法解釋權(quán)是一種私法上的權(quán)利，其理論正當(dāng)性可在貫徹意思自治原則、矯正信息不對(duì)稱(chēng)、分配風(fēng)險(xiǎn)負(fù)擔(dān)等層面得到充分證實(shí)。算法解釋權(quán)的直接功能在于破除算法黑箱，化解信用評(píng)分不透明的風(fēng)險(xiǎn)；間接功能則在于增強(qiáng)信用評(píng)分算法的可解釋性，來(lái)辨別信用評(píng)分的結(jié)果是否具有不準(zhǔn)確或不公平之處。

根據(jù)《個(gè)人信息保護(hù)法》第二十四條第三款的條文表述，借款人并非在任何情況下均可行使算法解釋權(quán)，而是當(dāng)通過(guò)算法自動(dòng)計(jì)算出來(lái)的信用分?jǐn)?shù)對(duì)借款人的權(quán)益產(chǎn)生了重大影響時(shí)才可行使。于此，權(quán)益不僅涉及被決策者的人身權(quán)益，而且也包含其財(cái)產(chǎn)權(quán)益；影響則是指該決定改變了個(gè)人法律上的權(quán)利、義務(wù)和責(zé)任關(guān)系（拒絕訂立合同或者撤銷(xiāo)合同）或使得個(gè)人的經(jīng)濟(jì)地位、社會(huì)地位等狀況發(fā)生改變。通常來(lái)說(shuō)，較低的信用分?jǐn)?shù)意味著借款人將會(huì)喪失與信貸機(jī)構(gòu)訂立借款合同的機(jī)會(huì)，顯然構(gòu)成對(duì)借款權(quán)益的影響，而該影響是否重大則需根據(jù)個(gè)案的事實(shí)情況做具體認(rèn)定。被信貸機(jī)構(gòu)拒絕貸款對(duì)借款人而言是否構(gòu)成一種重大影響，可以從借款人獲得替代借款機(jī)會(huì)的可能和借款的資金用途兩個(gè)方面考慮，具體可區(qū)分為以下三種情形：其一，如果某一信用評(píng)分算法在特定國(guó)家或地區(qū)具有近乎壟斷的地位，以至于借款人想要獲得借款就必須接受該算法為其評(píng)分，則可構(gòu)成重大影響，但算法型評(píng)分工具目前尚不具備如此廣泛的適用性；其二，對(duì)特定借款人來(lái)說(shuō)，通過(guò)傳統(tǒng)型評(píng)分工具只能獲得較低分?jǐn)?shù)，即只能依賴(lài)于該算法型評(píng)分工具，則可認(rèn)為構(gòu)成對(duì)借款人權(quán)益的重大影響；其三，如果貸款資金具有非常重要的且可證明的用途，雖然借款人可通過(guò)其他途徑獲得貸款，但這會(huì)導(dǎo)致貸款的預(yù)定目的無(wú)法實(shí)現(xiàn)，則可認(rèn)定為對(duì)借款人權(quán)益有重大影響。

主張并行使解釋權(quán)的主體是借款人，負(fù)有解釋義務(wù)的主體則根據(jù)業(yè)務(wù)模式的不同而有差別：如果發(fā)放借款的信貸機(jī)構(gòu)并非算法型評(píng)分工具設(shè)計(jì)者，則解釋主體是該評(píng)分機(jī)構(gòu)；反之，則由信貸機(jī)構(gòu)負(fù)擔(dān)解釋義務(wù)。另外，可根據(jù)解釋對(duì)象的不同將算法解釋權(quán)的模式分為兩種類(lèi)型：以算法系統(tǒng)功能為中心的解釋權(quán)模式與以具體決策為中心的解釋權(quán)模式。兩種模式在信用評(píng)分算法中均有體現(xiàn)，前者表現(xiàn)為解釋信用評(píng)分算法的基本運(yùn)行邏輯，后者則表現(xiàn)為解釋針對(duì)特定借款人的某個(gè)具體評(píng)分如何計(jì)算得出；前者可由算法使用者統(tǒng)一披露并隨著算法的迭代而持續(xù)更新，后者則只能應(yīng)借款人的解釋請(qǐng)求具體作出。

2.借款人算法解釋權(quán)的可行性與實(shí)效性。算法解釋權(quán)的可行性與實(shí)效性一直處在爭(zhēng)議中，且這種爭(zhēng)議并未隨著算法解釋權(quán)在實(shí)證法中的確立而消弭，因此有必要在算法型評(píng)分工具場(chǎng)景下，就借款人算法解釋權(quán)的可行性與實(shí)效性作相應(yīng)說(shuō)明。

在可行性方面，質(zhì)疑在于借款人算法解釋權(quán)與信用評(píng)分機(jī)構(gòu)商業(yè)秘密保護(hù)之間的沖突。有部分觀點(diǎn)認(rèn)為，算法解釋權(quán)要求信用評(píng)分機(jī)構(gòu)公開(kāi)自身的算法程序，這無(wú)異于要求其主動(dòng)放棄自己投資研發(fā)的智慧成果，而將自身暴露在競(jìng)爭(zhēng)對(duì)手的視線中。然而，不能認(rèn)為借款人算法解釋權(quán)必然與信用評(píng)分機(jī)構(gòu)的商業(yè)秘密相沖突，而應(yīng)當(dāng)結(jié)合解釋的具體內(nèi)容和目的進(jìn)行個(gè)別分析。算法的技術(shù)核心在于源代碼，但算法解釋?xiě)?yīng)以用戶(hù)行為干預(yù)為導(dǎo)向,解釋的內(nèi)容包括算法、數(shù)據(jù)與其他決策理由等多項(xiàng)內(nèi)容,而非技術(shù)源代碼，解釋時(shí)可以權(quán)利人理解的方式提供有關(guān)算法決策的信息。因此，算法作為商業(yè)秘密并不會(huì)因?yàn)橄蚰硞€(gè)借款人披露邏輯和數(shù)據(jù)分類(lèi)等信息而受到威脅。另外，信用評(píng)分機(jī)構(gòu)商業(yè)秘密的保護(hù)也應(yīng)受更高位階利益，尤其是社會(huì)公共利益的限制。

在實(shí)效性方面，最為核心的質(zhì)疑在于機(jī)器學(xué)習(xí)算法具有高度的專(zhuān)業(yè)性和復(fù)雜性，機(jī)器學(xué)習(xí)算法模型中充滿(mǎn)了專(zhuān)業(yè)術(shù)語(yǔ)表達(dá)和復(fù)雜的非線性函數(shù)計(jì)算，即使賦予算法解釋權(quán)，外行人也難以理解。然而這種質(zhì)疑并不成立，因?yàn)榻杩钊说乃惴ń忉寵?quán)的目的本就不是使“技術(shù)文盲”變?yōu)椤凹夹g(shù)通”，重要的不是外行人不能理解的內(nèi)容，而是他們能夠理解什么。在算法型信用評(píng)分中，借款人不必、也不想知道算法的源代碼及其中所應(yīng)用的各種函數(shù)，對(duì)他們而言，重要的是分?jǐn)?shù)得出的邏輯是否符合他們的認(rèn)知，使他們產(chǎn)生信賴(lài)，從而接受這個(gè)評(píng)分結(jié)果。所以，信用評(píng)分機(jī)構(gòu)可以簡(jiǎn)潔明了地對(duì)這一問(wèn)題作出說(shuō)明，而不必涉及復(fù)雜的技術(shù)問(wèn)題。

（三）將借款人的算法結(jié)果拒絕權(quán)作為規(guī)制手段

《個(gè)人信息保護(hù)法》第二十四條第三款除了算法解釋權(quán)，還為借款人規(guī)定了算法結(jié)果拒絕權(quán)，即通過(guò)自動(dòng)化決策方式作出對(duì)個(gè)人權(quán)益有重大影響的決定時(shí)，個(gè)人有權(quán)拒絕個(gè)人信息處理者僅通過(guò)自動(dòng)化決策的方式作出決定。于此，借款人所享有的并非拒絕信貸機(jī)構(gòu)利用機(jī)器學(xué)習(xí)算法對(duì)其進(jìn)行評(píng)分的權(quán)利，而是在對(duì)僅通過(guò)算法計(jì)算出的分?jǐn)?shù)不滿(mǎn)意時(shí)，享有拒絕接受該分?jǐn)?shù)的權(quán)利。與本條相類(lèi)似的比較法規(guī)是《歐盟通用數(shù)據(jù)保護(hù)條例》第22條第1款：“數(shù)據(jù)主體應(yīng)享有拒絕僅基于自動(dòng)化處理形成的，對(duì)自身產(chǎn)生法律效力或類(lèi)似重大影響之決定的權(quán)利，這也包括數(shù)據(jù)畫(huà)像在內(nèi)?！薄稓W盟通用數(shù)據(jù)保護(hù)條例》通過(guò)設(shè)置例外規(guī)定，更好地平衡了信貸機(jī)構(gòu)與借款人的利益關(guān)系，根據(jù)該條例第22條第2款第1項(xiàng)的規(guī)定，在自動(dòng)化決策算法的應(yīng)用是為合同訂立所必需時(shí)，借款人不得行使算法結(jié)果拒絕權(quán)。但不得不遺憾地指出，目前《個(gè)人信息保護(hù)法》第二十四條第三款的構(gòu)造過(guò)于粗疏，尚欠缺此種例外規(guī)定。

借款人算法結(jié)果拒絕權(quán)得以行使的前提有兩個(gè)：其一，僅根據(jù)自動(dòng)化算法作出決定；其二，對(duì)其自身權(quán)益產(chǎn)生重大影響。前文已經(jīng)就對(duì)自身權(quán)益重大影響的認(rèn)定和作用進(jìn)行了討論，此處不再贅述。僅由自動(dòng)化算法作出決定，是指任何人在作出決定的過(guò)程中都沒(méi)有決策權(quán)，對(duì)決定的內(nèi)容不能產(chǎn)生影響，至于個(gè)人在決策過(guò)程中是否以其他方式參與則并不重要。在算法型信用評(píng)分的語(yǔ)境中，如果信貸機(jī)構(gòu)完全是根據(jù)算法評(píng)分的高低來(lái)作出是否貸款的決策，則構(gòu)成僅根據(jù)自動(dòng)決策算法作出決定。

借款人行使算法結(jié)果拒絕權(quán)的后果并非信貸機(jī)構(gòu)必須與其訂立借款合同，而是信貸機(jī)構(gòu)對(duì)借款人的信用評(píng)價(jià)進(jìn)行人工干預(yù)。由此也可看出，算法結(jié)果拒絕權(quán)并無(wú)增強(qiáng)信用評(píng)分透明性的作用，而是使借款人在特定情形下通過(guò)拒絕的方式回避信用評(píng)分不準(zhǔn)確和信用評(píng)分不公平。然而對(duì)借款人來(lái)說(shuō)，算法結(jié)果拒絕權(quán)的效果或許并不理想，原因有兩點(diǎn)：其一，借款人不能拒絕信貸機(jī)構(gòu)將算法評(píng)分作為決策的參考因素，信貸機(jī)構(gòu)可通過(guò)聲稱(chēng)將算法評(píng)分與其他考量相結(jié)合來(lái)逃避該條的適用；其二，在人工評(píng)價(jià)、傳統(tǒng)型評(píng)分工具和算法型評(píng)分工具三者彼此交織的情況下，傳統(tǒng)型評(píng)分工具和人工評(píng)價(jià)的評(píng)價(jià)因素與算法型評(píng)價(jià)截然不同，選擇算法型評(píng)分工具卻對(duì)結(jié)果不滿(mǎn)意的，在前兩種方法之下也很有可能無(wú)法獲得較高評(píng)分和信用評(píng)價(jià)，而使能通過(guò)行使算法結(jié)果拒絕權(quán)獲得貸款的借款人范圍較為有限。

六、結(jié)語(yǔ)

當(dāng)下，我國(guó)正處于社會(huì)信用體系全面建設(shè)的重要階段，個(gè)人金融借款領(lǐng)域的算法型評(píng)分工具這一在國(guó)外已經(jīng)興起數(shù)年的新趨勢(shì)尤其值得關(guān)注。但在關(guān)注過(guò)程中，也應(yīng)當(dāng)清醒地認(rèn)識(shí)到，將機(jī)器學(xué)習(xí)算法應(yīng)用于信用評(píng)分固然是科技促進(jìn)金融發(fā)展的典型例證，但科技進(jìn)步是一把雙刃劍，其在促進(jìn)產(chǎn)業(yè)發(fā)展的同時(shí)，也潛藏著諸多風(fēng)險(xiǎn)。無(wú)論何時(shí)都不應(yīng)過(guò)度追求工具手段，而應(yīng)始終牢記人的主體地位，科技的進(jìn)步是為了更好地增進(jìn)人類(lèi)的福祉。就算法型評(píng)分工具而言，在其增強(qiáng)包容性和準(zhǔn)確性的顯著優(yōu)勢(shì)背后，也潛藏著信用評(píng)分不透明、不準(zhǔn)確和不公平的風(fēng)險(xiǎn)。面對(duì)這樣一把雙刃劍，必須要將法律的原則和規(guī)則嵌入其中，運(yùn)用算法治理領(lǐng)域的法律手段加以規(guī)制，盡可能地消除或削減其中的風(fēng)險(xiǎn)，最終將其“馴化”為有利的金融工具，使其能夠更好地促進(jìn)金融行業(yè)的健康發(fā)展和全社會(huì)的福祉增進(jìn)。