王利軍，趙佩婕

（河北經(jīng)貿(mào)大學(xué) 法學(xué)院，河北 石家莊 050062）

一、算法及其缺陷特性

算法是為了實(shí)現(xiàn)特定目標(biāo)而按步驟執(zhí)行的過(guò)程。廣義的算法最早可追溯至古希臘時(shí)期的歐幾里得算法，而當(dāng)下被廣泛應(yīng)用于計(jì)算機(jī)領(lǐng)域的算法則主要起源于英國(guó)數(shù)學(xué)家圖靈于1936年發(fā)表的《論數(shù)字計(jì)算在決斷難題中的應(yīng)用》。

1956年達(dá)特茅斯人工智能夏季研究會(huì)正式開啟了人工智能研究，自此對(duì)于如何構(gòu)建人工智能這一問(wèn)題便分為了符號(hào)學(xué)派和機(jī)器學(xué)習(xí)學(xué)派兩條路徑，符號(hào)學(xué)派主張人工智能的構(gòu)建應(yīng)基于邏輯和計(jì)算機(jī)符號(hào)系統(tǒng)，而機(jī)器學(xué)習(xí)學(xué)派則自下而上，主張仿照大腦并利用數(shù)據(jù)來(lái)培養(yǎng)人工智能學(xué)習(xí)能力，是當(dāng)前被廣泛應(yīng)用的主流算法。目前大數(shù)據(jù)征信、智能投顧等金融科技應(yīng)用中使用最廣泛的深度學(xué)習(xí)算法便屬于機(jī)器學(xué)習(xí)算法中的神經(jīng)網(wǎng)絡(luò)算法。

深度學(xué)習(xí)算法作為機(jī)器學(xué)習(xí)算法中神經(jīng)網(wǎng)絡(luò)算法的分支，通過(guò)模擬人類神經(jīng)網(wǎng)絡(luò)，利用輸入和目標(biāo)輸出樣本集訓(xùn)練感知器，使其自動(dòng)生成并調(diào)整權(quán)重，再利用測(cè)試集保證感知器可以被推廣泛化。深度學(xué)習(xí)算法與其他學(xué)習(xí)類算法最大的區(qū)別在于，決定輸入單元到輸出單元轉(zhuǎn)化的權(quán)重，由算法基于樣本集自動(dòng)學(xué)習(xí)生成而非由工程師手動(dòng)設(shè)置。

（一）算法的不透明性

學(xué)習(xí)類算法的技術(shù)原理和運(yùn)行方式?jīng)Q定了其技術(shù)本身具有不透明性，使得研發(fā)者無(wú)法完全掌控在算法中起決策作用的算法權(quán)重。在此基礎(chǔ)上由于算法的高度專業(yè)性，普通使用者對(duì)于決策代碼無(wú)法理解，造成了研發(fā)者與使用者之間的信息鴻溝，在投入金融領(lǐng)域使用后易加劇金融市場(chǎng)的信息不對(duì)稱。

當(dāng)前金融科技領(lǐng)域適用的大多為學(xué)習(xí)算法（learning algorithm），其中以深度學(xué)習(xí)算法為主流。研發(fā)者只能通過(guò)選取樣本集來(lái)干預(yù)算法的決策權(quán)重，并通過(guò)測(cè)試集進(jìn)行調(diào)整，盡可能保證輸出結(jié)果與研發(fā)計(jì)劃相契合。但算法究竟生成怎樣的決策權(quán)重卻是研發(fā)者也無(wú)法完全掌控的，同時(shí)算法決策權(quán)重在學(xué)習(xí)過(guò)程中不斷發(fā)生變化，需要研發(fā)者持續(xù)地監(jiān)督調(diào)整，技術(shù)自身的不透明性使得金融算法在實(shí)踐中難以避免出現(xiàn)決策行為失控的情況。英國(guó)蘭卡斯特大學(xué)高級(jí)講師Joe Deville發(fā)現(xiàn)改變手機(jī)屏幕分辨率、充電頻率這些與個(gè)人信用無(wú)關(guān)的行為會(huì)影響自己的信用評(píng)分，這一結(jié)果顯然不是借貸商在算法研發(fā)時(shí)所設(shè)計(jì)或能夠預(yù)料的，而其他無(wú)關(guān)聯(lián)性的微小行為也可能悄悄地在算法運(yùn)行中發(fā)揮難以預(yù)料的作用。

（二）算法的有限自主性

學(xué)習(xí)類算法依照設(shè)計(jì)者干預(yù)程度的不同區(qū)分為監(jiān)督算法與無(wú)監(jiān)督算法。當(dāng)前算法技術(shù)仍處于監(jiān)督算法階段，即設(shè)計(jì)者需預(yù)先確定結(jié)構(gòu)化數(shù)據(jù)及運(yùn)行規(guī)則，且輸入端的訓(xùn)練數(shù)據(jù)與輸出端的算法目標(biāo)皆由設(shè)計(jì)者選定，這就決定了算法無(wú)法避免設(shè)計(jì)者的主觀影響和大數(shù)據(jù)潛在的偏見(jiàn)影響，具有有限的自主性。

金融機(jī)構(gòu)利用算法推出金融科技產(chǎn)品的初衷不僅在于提升服務(wù)水平和金融的普惠性，更主要的動(dòng)力在于增強(qiáng)競(jìng)爭(zhēng)優(yōu)勢(shì)以汲取更多利益，金融機(jī)構(gòu)算法利用初衷的非中立性在缺乏嚴(yán)格有效監(jiān)管的情況下恐使得金融算法歧視性與逐利性更為凸顯，損害金融公平，這一點(diǎn)在智能投顧產(chǎn)品上已經(jīng)有所體現(xiàn)。據(jù)山西證監(jiān)局調(diào)查，目前市場(chǎng)上存在多種運(yùn)作模式，以智能投顧為名義看似中立地提供投資建議，實(shí)則擅自開展公募證券投資基金銷售活動(dòng)，通過(guò)為基金銷售導(dǎo)流謀取利益。

算法的有限自主性除表現(xiàn)為受設(shè)計(jì)者主觀價(jià)值影響外，還受到數(shù)據(jù)的影響，具體可區(qū)分為訓(xùn)練數(shù)據(jù)集的局限性和潛在偏見(jiàn)以及投入使用后大數(shù)據(jù)的影響。例如訓(xùn)練算法的數(shù)據(jù)集中存在群體性差異，部分少數(shù)群體在數(shù)據(jù)集中樣本較少，這種數(shù)據(jù)樣本的失衡在算法投入使用后將導(dǎo)致少數(shù)群體的假陽(yáng)性誤判更多，甚至出現(xiàn)針對(duì)少數(shù)群體的算法歧視。當(dāng)然由訓(xùn)練數(shù)據(jù)庫(kù)局限性所導(dǎo)致的算法偏差可以通過(guò)及時(shí)的監(jiān)督和調(diào)整予以糾正，但數(shù)據(jù)中潛在的偏見(jiàn)卻無(wú)法完全避免。金融算法的訓(xùn)練數(shù)據(jù)集包括自有業(yè)務(wù)、網(wǎng)絡(luò)記錄和向第三方購(gòu)買的金融消費(fèi)者交易、表達(dá)或其他活動(dòng)的數(shù)據(jù)，因此數(shù)據(jù)集不可避免地存在著金融交易和交往活動(dòng)中的歧視觀念[1]，算法經(jīng)過(guò)偏見(jiàn)數(shù)據(jù)的訓(xùn)練并投入使用后便可能造成“社會(huì)結(jié)構(gòu)性歧視的延伸”。另外，學(xué)習(xí)類算法在投入使用后仍處于不斷學(xué)習(xí)的過(guò)程中，決策權(quán)重在大數(shù)據(jù)規(guī)訓(xùn)下不斷發(fā)生變化，若不及時(shí)干預(yù)大數(shù)據(jù)中潛在的偏見(jiàn)導(dǎo)向?qū)?dǎo)致算法歧視性持續(xù)加深。微軟曾于2016年在Twitter上推出了名為Tay的聊天機(jī)器人，由于其算法缺乏有效的糾錯(cuò)程序，在上線后不滿24小時(shí)便出現(xiàn)了種族歧視、支持納粹和恐怖主義等消極傾向，而這些問(wèn)題足以證明在缺乏糾錯(cuò)程序和有效監(jiān)管的情況下，大數(shù)據(jù)偏見(jiàn)將高速推動(dòng)算法歧視問(wèn)題發(fā)展。

（三）算法的趨同性

學(xué)習(xí)類算法由于其自主學(xué)習(xí)等運(yùn)行原理，在同一應(yīng)用領(lǐng)域中呈現(xiàn)出不同算法系統(tǒng)間相互滲透、交叉演化的特點(diǎn)，這一特性隨著算法投入使用將出現(xiàn)輸出相似結(jié)果或?qū)崿F(xiàn)相似功能的趨勢(shì)，即算法的趨同性[2]。同時(shí)，程序模型和大數(shù)據(jù)是影響算法輸出結(jié)果和演進(jìn)趨勢(shì)的關(guān)鍵因素，但當(dāng)前金融市場(chǎng)中程序模型和應(yīng)用數(shù)據(jù)的同質(zhì)化問(wèn)題嚴(yán)重，如智能風(fēng)控系統(tǒng)中風(fēng)控模型相似且征信數(shù)據(jù)源高度同質(zhì)[3]，金融系統(tǒng)需要正負(fù)雙向反饋保持平衡，而算法趨同性與金融科技耦合恐引發(fā)“羊群效應(yīng)”，進(jìn)而觸發(fā)金融系統(tǒng)性風(fēng)險(xiǎn)。

在金融行業(yè)中并非每一家金融機(jī)構(gòu)都使用自己開發(fā)的金融算法程序，而是部分選擇將科技開發(fā)業(yè)務(wù)外包，這就造成多家運(yùn)營(yíng)商使用同一家金融科技公司算法模型的現(xiàn)象。在信用評(píng)估領(lǐng)域，由于數(shù)據(jù)采集標(biāo)準(zhǔn)、數(shù)據(jù)挖掘標(biāo)準(zhǔn)、風(fēng)險(xiǎn)評(píng)估模型的趨同，也呈現(xiàn)出同質(zhì)化競(jìng)爭(zhēng)，產(chǎn)生順周期問(wèn)題[4]。同時(shí)，市場(chǎng)中征信數(shù)據(jù)也呈現(xiàn)出高度同質(zhì)化。據(jù)統(tǒng)計(jì)，中國(guó)人民銀行征信覆蓋全國(guó)20%～30%的市場(chǎng)，以前海、螞蟻征信為代表的第三方征信機(jī)構(gòu)覆蓋全國(guó)70%～80%的市場(chǎng)[3]。算法趨同性導(dǎo)致的金融同質(zhì)化風(fēng)險(xiǎn)早在1987年紐約股災(zāi)中就有所體現(xiàn)，當(dāng)時(shí)全美100 多家銀行、交易商和投資顧問(wèn)使用同一家公司生產(chǎn)的“哈德迪牛市指示器”（Hadady Bullish Indicator），計(jì)算機(jī)賣出指令在這次股災(zāi)的拋售潮中占比25%，嚴(yán)重加劇了危機(jī)爆發(fā)風(fēng)險(xiǎn)[5]。而在我國(guó)當(dāng)前的金融實(shí)踐中，算法引導(dǎo)的金融趨同問(wèn)題也已有所顯示。

二、算法應(yīng)用的金融風(fēng)險(xiǎn)

（一）算法霸權(quán)風(fēng)險(xiǎn)

在傳統(tǒng)金融市場(chǎng)中，金融機(jī)構(gòu)與金融消費(fèi)者由于資源、專業(yè)能力等方面的差距存在顯著的能力差異，但這一差異通過(guò)公權(quán)力的介入得以平衡。算法因其具有的高度專業(yè)性和不透明性打破了這一平衡，金融監(jiān)管發(fā)展的滯后性使得消費(fèi)者暫時(shí)處于更弱勢(shì)地位。

在當(dāng)前的金融算法實(shí)踐中，消費(fèi)者對(duì)于引導(dǎo)其進(jìn)行投資的程序原理知之甚少。一方面，算法的高度專業(yè)性導(dǎo)致大部分消費(fèi)者無(wú)法理解其運(yùn)行邏輯；另一方面，金融科技公司對(duì)其產(chǎn)品披露不足，消費(fèi)者難以獲得決定其決策結(jié)果的算法邏輯及運(yùn)行參數(shù)等有效信息。消費(fèi)者由于算法介入導(dǎo)致的知情權(quán)受損加劇了與金融機(jī)構(gòu)間的信息不對(duì)稱，使得消費(fèi)者在被侵權(quán)時(shí)無(wú)法及時(shí)發(fā)覺(jué)。同時(shí)，“告知—同意”作為當(dāng)前適用范圍最廣的個(gè)人信息保護(hù)手段，在金融算法程序中恐造成消費(fèi)者權(quán)利事后難救濟(jì)的局面。金融與算法的雙重專業(yè)性以及消費(fèi)者對(duì)“用戶協(xié)議”習(xí)以為常的被規(guī)訓(xùn)心理，使得其在同意簽署時(shí)往往忽視其內(nèi)容，也無(wú)法預(yù)測(cè)到后果，消費(fèi)者知情內(nèi)容有限、取證難等問(wèn)題，輔以當(dāng)前司法實(shí)踐中難以應(yīng)對(duì)算法復(fù)雜性的現(xiàn)實(shí)使得消費(fèi)者事后救濟(jì)困難重重。另外，消費(fèi)者簽署“用戶協(xié)議”只是被金融算法規(guī)訓(xùn)從而讓渡選擇權(quán)的開始，程序在經(jīng)用戶同意后開始收集分析個(gè)人數(shù)據(jù)，具備預(yù)測(cè)性和引導(dǎo)性的算法可以在數(shù)據(jù)分析后提供個(gè)性化推薦誘導(dǎo)消費(fèi)者作出投資選擇，這種只有讓渡個(gè)人信息才能享受的智能化服務(wù)將催生“被迫依賴”問(wèn)題[6]，于消費(fèi)者而言是一種算法規(guī)則生成的霸權(quán)。

算法的高度專業(yè)性與不透明性也增加了法律監(jiān)管的難度，當(dāng)前我國(guó)針對(duì)金融算法的監(jiān)管與算法應(yīng)用實(shí)踐相比處于相對(duì)滯后狀態(tài)，監(jiān)管部門力圖將算法監(jiān)管規(guī)則納入現(xiàn)有的投資者適當(dāng)性、信息披露、風(fēng)險(xiǎn)隔離等監(jiān)管體系內(nèi)，未介入對(duì)算法的直接監(jiān)管[7]。同時(shí)，由于算法具有不透明性，輸出內(nèi)容不完全受設(shè)計(jì)者控制，使得在出現(xiàn)問(wèn)題時(shí)難以歸責(zé)。如何在算法技術(shù)外包時(shí)劃分設(shè)計(jì)者、運(yùn)營(yíng)商責(zé)任，如何界定算法不可抗力與設(shè)計(jì)者、運(yùn)營(yíng)商注意義務(wù)等，因算法的黑箱屬性而加劇了這些金融監(jiān)管問(wèn)題的解決難度。

算法在金融領(lǐng)域的應(yīng)用實(shí)現(xiàn)了消費(fèi)者監(jiān)督與政府監(jiān)管的雙重削減，造成三方力量失衡。部分金融科技公司通過(guò)金融科技產(chǎn)品掌握海量用戶信息，使得政府在金融算法領(lǐng)域被邊緣化，逐漸喪失對(duì)金融數(shù)據(jù)的控制權(quán)，面臨去中心化的挑戰(zhàn)，出現(xiàn)私人資本支配公權(quán)力的風(fēng)險(xiǎn)。

（二）算法影響金融公平風(fēng)險(xiǎn)

算法的有限自主性決定了算法輸入內(nèi)容與決策權(quán)重均受到數(shù)據(jù)樣本及設(shè)計(jì)者的影響，難以保持中立性，同時(shí)大數(shù)據(jù)天然的分配不均與偏見(jiàn)性質(zhì)輔以金融機(jī)構(gòu)的營(yíng)利導(dǎo)向，使得金融算法應(yīng)用在實(shí)踐中與金融科技的高效普惠目標(biāo)有所偏離。

計(jì)算機(jī)系統(tǒng)偏見(jiàn)按照來(lái)源的不同可以區(qū)分為先行存在偏見(jiàn)、技術(shù)性偏見(jiàn)和突發(fā)性偏見(jiàn)[8]，這一區(qū)分標(biāo)準(zhǔn)也可適用于金融算法應(yīng)用中產(chǎn)生的各種不公平現(xiàn)象。

首先，用于訓(xùn)練算法的樣本集和設(shè)計(jì)者具有先行存在偏見(jiàn)。樣本集的內(nèi)容與設(shè)計(jì)者的主觀想法從主客觀兩方面均難以保證絕對(duì)的中立，故算法自訓(xùn)練完成之初便具有歧視性。同時(shí)，由于金融機(jī)構(gòu)具有營(yíng)利導(dǎo)向，故在設(shè)計(jì)時(shí)可能存在大數(shù)據(jù)殺熟、動(dòng)態(tài)定價(jià)等歧視設(shè)置，以及利用算法誘導(dǎo)消費(fèi)者優(yōu)先購(gòu)買部分產(chǎn)品造成不同金融產(chǎn)品被選購(gòu)的機(jī)會(huì)差異。

其次，算法自身的機(jī)械理性局限和效率導(dǎo)向與大數(shù)據(jù)樣本量差異造成了算法的技術(shù)性偏見(jiàn)。算法由于當(dāng)前的技術(shù)特性，在訓(xùn)練和使用中存在將稀有數(shù)據(jù)認(rèn)定為錯(cuò)誤數(shù)據(jù)或歸類于類似數(shù)據(jù)群的技術(shù)逃避現(xiàn)象，造成本就屬于少數(shù)群體的利益在金融算法作用下更難獲得關(guān)注與保障。而訓(xùn)練樣本的數(shù)據(jù)抽樣由于具有隨機(jī)性，同樣存在少數(shù)群體數(shù)據(jù)難以成為訓(xùn)練樣本，從而導(dǎo)致算法結(jié)果更偏向于多數(shù)樣本群的問(wèn)題[9]。同時(shí)，作為金融算法主要數(shù)據(jù)源的交易數(shù)據(jù)、移動(dòng)通信數(shù)據(jù)、人為數(shù)據(jù)和機(jī)器傳感設(shè)備數(shù)據(jù)自身便存在因個(gè)體貧富差異、通信設(shè)備持有使用差異、地區(qū)性經(jīng)濟(jì)差異而導(dǎo)致的樣本量差異，從而使得金融資源分配不均問(wèn)題在所難免。

最后，金融市場(chǎng)和社會(huì)潛在的歧視性導(dǎo)致金融算法在運(yùn)行中難以避免突發(fā)性偏見(jiàn)。金融市場(chǎng)在無(wú)法律規(guī)制的情況下天然具有使窮者愈窮、富者愈富的屬性，金融法通過(guò)設(shè)置“反向歧視”制度力圖增加較貧困群體的金融獲得機(jī)會(huì)，試圖以此實(shí)現(xiàn)普惠金融。但算法的去理性化與去倫理化的機(jī)械理性局限使得在當(dāng)前算法技術(shù)下算法更易受到社會(huì)歧視和金融內(nèi)生性歧視的影響，進(jìn)而在運(yùn)行中產(chǎn)生突發(fā)性歧視。

金融算法的應(yīng)用除可能影響個(gè)體間金融公平外，還可能造成群體性、地區(qū)性馬太效應(yīng)。金融算法應(yīng)用對(duì)金融資金流向存在指引作用，大數(shù)據(jù)分布存在的數(shù)字鴻溝，對(duì)金融群體性、地區(qū)性差異起到負(fù)面助力[10]。當(dāng)前國(guó)內(nèi)學(xué)者基于實(shí)踐數(shù)據(jù)已從多角度證實(shí)了大數(shù)據(jù)金融算法催生出金融馬太效應(yīng)。在貧困戶與非貧困戶之間，數(shù)字金融對(duì)貧困戶的生存型消費(fèi)沒(méi)有顯著影響，但對(duì)非貧困戶則能起到平滑消費(fèi)防范風(fēng)險(xiǎn)、助推休閑娛樂(lè)的作用[11]。在區(qū)域性差異方面，統(tǒng)計(jì)顯示我國(guó)數(shù)字金融發(fā)展極差為2.362，存在嚴(yán)重的區(qū)域性差距，三、四、五線城市和互聯(lián)網(wǎng)普及率低的城市相對(duì)明顯落后[12]。調(diào)查數(shù)據(jù)顯示數(shù)字金融增加了貧困發(fā)生率，加深了貧困維度[13]。

（三）金融系統(tǒng)性風(fēng)險(xiǎn)

算法受當(dāng)前技術(shù)限制和大數(shù)據(jù)趨同的影響容易導(dǎo)致算法結(jié)果同質(zhì)化進(jìn)而產(chǎn)生金融順周期性風(fēng)險(xiǎn)，同時(shí)由于算法具有不透明性和不完備性，在當(dāng)前金融配套監(jiān)管不充分的背景下產(chǎn)生突發(fā)事件的風(fēng)險(xiǎn)性增大。金融科技公司打破傳統(tǒng)金融市場(chǎng)由少數(shù)大規(guī)模公司主導(dǎo)的特點(diǎn)，呈現(xiàn)出規(guī)模小但分布廣泛的特點(diǎn)，由此伴生出抗風(fēng)險(xiǎn)能力減弱且波及面廣的風(fēng)險(xiǎn)特性，增加了金融市場(chǎng)的系統(tǒng)性風(fēng)險(xiǎn)。

首先，算法技術(shù)局限可能導(dǎo)致金融同質(zhì)化現(xiàn)象從而加劇金融順周期性風(fēng)險(xiǎn)。目前金融市場(chǎng)中科技外包情況普遍，大數(shù)據(jù)亦呈現(xiàn)出同質(zhì)化局限，故不同金融科技產(chǎn)品可能出現(xiàn)算法決策高度互聯(lián)，產(chǎn)生“羊群效應(yīng)”，造成算法同質(zhì)化問(wèn)題。金融順周期性即在經(jīng)濟(jì)周期中金融變量圍繞著實(shí)體經(jīng)濟(jì)某一趨勢(shì)值波動(dòng)的傾向或效應(yīng)，智能投顧、信貸評(píng)估等金融算法應(yīng)用若隨實(shí)體經(jīng)濟(jì)波動(dòng)出現(xiàn)同質(zhì)化輸出則與金融市場(chǎng)風(fēng)險(xiǎn)對(duì)沖需求相違背，必然導(dǎo)致金融順周期性問(wèn)題。

其次，算法技術(shù)的不完備性與金融配套監(jiān)管不充分增加金融突發(fā)性風(fēng)險(xiǎn)。算法技術(shù)的理論還未跟上實(shí)踐，導(dǎo)致其隱含的各項(xiàng)風(fēng)險(xiǎn)難以被監(jiān)管者預(yù)判，具有突發(fā)性。實(shí)踐中就出現(xiàn)過(guò)算法被片面信息引導(dǎo)出現(xiàn)誤判、被黑客攻擊造成損失的實(shí)例，如2013年8月16日，光大證券烏龍指事件就是因其獨(dú)立的套利系統(tǒng)出現(xiàn)問(wèn)題所造成的。金融市場(chǎng)需要有效的引導(dǎo)和監(jiān)管，算法不透明特性增加了金融監(jiān)管難度，使得部分傳統(tǒng)金融監(jiān)管措施失效，亟需適應(yīng)金融科技發(fā)展的新型監(jiān)管機(jī)制。當(dāng)前配套監(jiān)管措施不健全的背景下，金融算法風(fēng)險(xiǎn)潛在的突發(fā)性與振蕩性恐?jǐn)U大金融風(fēng)險(xiǎn)的波及面。

最后，金融科技公司發(fā)展趨勢(shì)增加金融系統(tǒng)性風(fēng)險(xiǎn)。在傳統(tǒng)金融市場(chǎng)中，主流觀點(diǎn)認(rèn)為在金融系統(tǒng)中占據(jù)重要地位的大型銀行和其他金融機(jī)構(gòu)由于與其他經(jīng)濟(jì)部門關(guān)系緊密交織且市場(chǎng)占比巨大，因此是金融系統(tǒng)性風(fēng)險(xiǎn)的主要來(lái)源。但在金融科技變革下，以大數(shù)據(jù)算法、云計(jì)算為關(guān)鍵技術(shù)的小型金融公司層出不窮，新興的金融科技公司呈現(xiàn)出規(guī)模小、分布廣且因大數(shù)據(jù)算法應(yīng)用關(guān)聯(lián)性強(qiáng)的特點(diǎn)，使得新金融業(yè)態(tài)呈現(xiàn)出抗風(fēng)險(xiǎn)能力弱、順周期性增加以及潛在突發(fā)性風(fēng)險(xiǎn)增加等問(wèn)題，更易引發(fā)金融系統(tǒng)性風(fēng)險(xiǎn)。

三、金融算法風(fēng)險(xiǎn)的規(guī)制路徑

（一）算法風(fēng)險(xiǎn)多元共治

算法的不透明性決定了其潛在風(fēng)險(xiǎn)難以被發(fā)覺(jué)，技術(shù)的高度專業(yè)性也決定了部分披露內(nèi)容難以被監(jiān)管人員理解，因此僅依靠傳統(tǒng)公權(quán)力金融監(jiān)管機(jī)關(guān)難以應(yīng)對(duì)高速發(fā)展且極具專業(yè)性的金融算法應(yīng)用，有必要引導(dǎo)行業(yè)協(xié)會(huì)、金融機(jī)構(gòu)和媒體公眾共同參與到算法監(jiān)管中來(lái)，形成多元化的算法風(fēng)險(xiǎn)規(guī)制體系。

1.明確監(jiān)管部門職責(zé)，統(tǒng)籌分級(jí)監(jiān)管

算法由于受大數(shù)據(jù)影響，在應(yīng)用中表現(xiàn)出強(qiáng)關(guān)聯(lián)性，也暴露出我國(guó)當(dāng)前金融分業(yè)規(guī)制體制在系統(tǒng)性風(fēng)險(xiǎn)防范方面的局限性。其中尤為突出的便是各監(jiān)管機(jī)構(gòu)間缺乏數(shù)據(jù)共享平臺(tái)，如征信領(lǐng)域，各部委間數(shù)據(jù)不共享，形成了數(shù)據(jù)孤島[14]，加劇了算法導(dǎo)致的信息不對(duì)稱問(wèn)題，難以有效應(yīng)對(duì)整體性風(fēng)險(xiǎn)。因此，在金融算法監(jiān)管中應(yīng)注重各監(jiān)管機(jī)構(gòu)的互通互聯(lián)，盡量統(tǒng)一風(fēng)險(xiǎn)規(guī)制標(biāo)準(zhǔn)，防止各部門規(guī)制差異化引發(fā)的監(jiān)管套利和監(jiān)管競(jìng)次問(wèn)題。為保證金融算法規(guī)制的相對(duì)統(tǒng)一，協(xié)調(diào)各監(jiān)管機(jī)構(gòu)關(guān)系，防止業(yè)態(tài)隔離造成的視野局限，應(yīng)選定一監(jiān)管部門對(duì)算法風(fēng)險(xiǎn)規(guī)制目標(biāo)、規(guī)制標(biāo)準(zhǔn)等事項(xiàng)進(jìn)行統(tǒng)籌協(xié)調(diào)。國(guó)務(wù)院金融穩(wěn)定發(fā)展委員會(huì)（簡(jiǎn)稱“金穩(wěn)會(huì)”）作為統(tǒng)籌協(xié)調(diào)金融穩(wěn)定和改革發(fā)展重大問(wèn)題的議事協(xié)調(diào)機(jī)構(gòu)，符合統(tǒng)籌協(xié)調(diào)的規(guī)制需求，應(yīng)通過(guò)立法確定金穩(wěn)會(huì)跨市場(chǎng)金融監(jiān)管協(xié)調(diào)主體地位[15]，由金穩(wěn)會(huì)確立算法風(fēng)險(xiǎn)規(guī)制的總領(lǐng)性目標(biāo)，再由各監(jiān)管部門按需求細(xì)化，并引導(dǎo)各行業(yè)協(xié)會(huì)確立詳實(shí)的算法規(guī)制標(biāo)準(zhǔn)。

2.構(gòu)建行業(yè)自律管理體系

國(guó)務(wù)院《新一代人工智能發(fā)展規(guī)劃》中強(qiáng)調(diào)要實(shí)行設(shè)計(jì)問(wèn)責(zé)和應(yīng)用監(jiān)督并重的雙層監(jiān)管結(jié)構(gòu)，實(shí)現(xiàn)對(duì)人工智能算法設(shè)計(jì)、產(chǎn)品開發(fā)和成果應(yīng)用等的全流程監(jiān)管。數(shù)據(jù)治理的技術(shù)性和復(fù)雜性決定了其不可能完全依賴國(guó)家正式法律的制定[16]，金融監(jiān)管機(jī)構(gòu)受制于行政機(jī)關(guān)角色定位及算法專業(yè)性局限，難以直接介入實(shí)現(xiàn)全流程監(jiān)管[17]。因此，需要對(duì)算法專業(yè)技術(shù)和金融市場(chǎng)充分了解的行業(yè)協(xié)會(huì)來(lái)細(xì)化規(guī)則標(biāo)準(zhǔn)并輔助全流程監(jiān)管及事后救濟(jì)。

首先，應(yīng)將部分算法規(guī)則標(biāo)準(zhǔn)的制定授權(quán)給行業(yè)協(xié)會(huì)，使行業(yè)協(xié)會(huì)在金融監(jiān)管部門規(guī)則標(biāo)準(zhǔn)框架下根據(jù)行業(yè)具體情況進(jìn)行細(xì)化，以彌補(bǔ)監(jiān)管部門由于專業(yè)局限和對(duì)算法實(shí)踐發(fā)展了解不充分所造成的認(rèn)知局限。

其次，可以授予行業(yè)協(xié)會(huì)監(jiān)督權(quán)、懲罰權(quán)以及協(xié)助進(jìn)行公益訴訟等權(quán)力。行業(yè)協(xié)會(huì)相較于金融監(jiān)管機(jī)構(gòu)的優(yōu)勢(shì)在于對(duì)具體行業(yè)的專業(yè)知識(shí)和實(shí)踐情況了解更為具體，因此金融監(jiān)管機(jī)構(gòu)由于技術(shù)和職能受限難以充分實(shí)現(xiàn)的算法監(jiān)管職能就可以由行業(yè)機(jī)構(gòu)輔助執(zhí)行。美國(guó)計(jì)算機(jī)協(xié)會(huì)通過(guò)要求算法開發(fā)者提交算法檢驗(yàn)方法、過(guò)程和運(yùn)行效果對(duì)算法的可執(zhí)行性和公平性進(jìn)行監(jiān)管[18]，這一方式可以看作金融公司知識(shí)產(chǎn)權(quán)保護(hù)與金融監(jiān)管平衡的折中辦法。另外，由于算法專業(yè)性使得消費(fèi)者對(duì)侵權(quán)行為難以察覺(jué)，事后救濟(jì)也困難重重，行業(yè)協(xié)會(huì)可依托其專業(yè)性和其掌握的各金融公司監(jiān)管數(shù)據(jù)輔助消費(fèi)者進(jìn)行公益訴訟，其制定的行業(yè)標(biāo)準(zhǔn)也可為司法裁判提供重要參考指標(biāo)，解決算法專業(yè)性造成的信息壁壘。

3.引導(dǎo)公司進(jìn)行算法風(fēng)險(xiǎn)自律規(guī)制

金融科技公司作為金融算法的研發(fā)者和運(yùn)營(yíng)者是最直接決定算法運(yùn)行邏輯的主體，在算法技術(shù)不透明性影響下也是最直接感應(yīng)到算法偏差和算法突發(fā)風(fēng)險(xiǎn)的主體，因此通過(guò)搭建算法合規(guī)指引等引導(dǎo)金融科技公司設(shè)置算法專員、算法檢測(cè)等算法風(fēng)險(xiǎn)自律規(guī)制措施是控制金融算法風(fēng)險(xiǎn)的首要途徑。

當(dāng)前《數(shù)據(jù)安全法（草案）》已經(jīng)提出針對(duì)數(shù)據(jù)安全管理，要求重要數(shù)據(jù)處理者設(shè)置數(shù)據(jù)安全負(fù)責(zé)人和管理機(jī)構(gòu)并按規(guī)定進(jìn)行風(fēng)險(xiǎn)監(jiān)測(cè)、評(píng)估和上報(bào)。金融算法監(jiān)管也可參考此路徑要求金融科技公司設(shè)置算法監(jiān)測(cè)專員并依照金融監(jiān)管部門和相關(guān)行業(yè)協(xié)會(huì)制定的非正式指引進(jìn)行算法應(yīng)用前的測(cè)試和評(píng)估，以及算法應(yīng)用中的監(jiān)測(cè)和風(fēng)險(xiǎn)上報(bào)。

同時(shí)，監(jiān)管部門也可引導(dǎo)市場(chǎng)創(chuàng)設(shè)金融算法監(jiān)管公司。此類公司具備算法和金融兩方面的專業(yè)性，通過(guò)接受金融科技公司委托，對(duì)其算法合規(guī)情況和風(fēng)險(xiǎn)治理措施進(jìn)行調(diào)查評(píng)估并出具調(diào)查報(bào)告[19]，作為具備專業(yè)知識(shí)的合規(guī)機(jī)構(gòu)為消費(fèi)者中立地提供金融算法產(chǎn)品評(píng)估意見(jiàn)。金融算法監(jiān)管公司的設(shè)置能夠同時(shí)彌補(bǔ)算法不透明性造成的信息鴻溝和新金融業(yè)態(tài)下聲譽(yù)機(jī)制效用減弱的雙重問(wèn)題。

（二）全流程監(jiān)管提升算法透明度

傳統(tǒng)的金融監(jiān)管以信息披露為主要手段偏重于事中和事后治理，通過(guò)增強(qiáng)公司信息透明度和流通性維持金融的穩(wěn)健運(yùn)行，但金融公司引入算法技術(shù)后，信息披露增強(qiáng)透明度的作用將大打折扣。首先，決定算法輸出結(jié)果的算法模型和訓(xùn)練數(shù)據(jù)是決定金融公司競(jìng)爭(zhēng)力的關(guān)鍵商業(yè)信息，在信息披露時(shí)需要考慮公司合理的技術(shù)保密需要。其次，算法技術(shù)的專業(yè)性和不透明性也決定了即使是設(shè)計(jì)者也難以完全了解算法的決策權(quán)重，被披露的信息也難以被理解。另外，在算法運(yùn)行中金融算法風(fēng)險(xiǎn)表現(xiàn)出突發(fā)性，信息披露作用的滯后性難以滿足這一風(fēng)險(xiǎn)防范需要。因此，金融算法風(fēng)險(xiǎn)需要將監(jiān)管重心前移至事前階段并通過(guò)技術(shù)手段逐步提升金融監(jiān)管能力，引入事前的算法測(cè)試制度并輔以事中分級(jí)分層監(jiān)管，以全流程監(jiān)管提升算法透明度。

1.依托監(jiān)管沙盒構(gòu)建算法準(zhǔn)入前測(cè)試制度

監(jiān)管沙盒最初由英國(guó)金融行為監(jiān)管局于2015年在《監(jiān)管沙盒》報(bào)告中提出，是對(duì)金融創(chuàng)新企業(yè)在特定安全空間內(nèi)測(cè)試產(chǎn)品、服務(wù)和商業(yè)模式進(jìn)行監(jiān)測(cè)評(píng)估并判定是否給予正式市場(chǎng)準(zhǔn)入機(jī)會(huì)的事前監(jiān)管方式。

傳統(tǒng)的金融監(jiān)管從時(shí)間維度上可以區(qū)分為事前的準(zhǔn)入監(jiān)管和事中、事后監(jiān)管，監(jiān)管沙盒則將監(jiān)管時(shí)間提前至準(zhǔn)入監(jiān)管之前，通過(guò)實(shí)踐測(cè)試反映金融產(chǎn)品和服務(wù)的風(fēng)險(xiǎn)情況和消費(fèi)者保護(hù)措施的完備情況，能夠有效彌補(bǔ)傳統(tǒng)準(zhǔn)入監(jiān)管平面化的局限性，與包括金融算法在內(nèi)的金融科技產(chǎn)品多樣性、專業(yè)性特點(diǎn)相契合，與金融創(chuàng)新和風(fēng)險(xiǎn)防控相互協(xié)調(diào)的監(jiān)管需求相一致。同時(shí)，金融產(chǎn)品和服務(wù)在監(jiān)管沙盒測(cè)試過(guò)程中能夠較充分體現(xiàn)產(chǎn)品的風(fēng)險(xiǎn)性，進(jìn)而監(jiān)管機(jī)構(gòu)可以提出針對(duì)性完善要求為市場(chǎng)準(zhǔn)入做準(zhǔn)備，也為準(zhǔn)入后算法分級(jí)監(jiān)管提供依據(jù)。

我國(guó)在2017年于北京市房山區(qū)的北京互聯(lián)網(wǎng)金融安全示范產(chǎn)業(yè)園開始了互聯(lián)網(wǎng)金融監(jiān)管沙盒的實(shí)驗(yàn)，2019年12月開始在北京進(jìn)行試點(diǎn)并逐步擴(kuò)展至上海、廣州等9個(gè)地區(qū)。從當(dāng)前的監(jiān)管沙盒試點(diǎn)情況來(lái)看，無(wú)論是試點(diǎn)項(xiàng)目的“入盒”還是“出盒”都缺乏明確的標(biāo)準(zhǔn)和詳細(xì)的評(píng)估機(jī)制，另外對(duì)于試點(diǎn)對(duì)象的評(píng)估標(biāo)準(zhǔn)主要局限于微觀審慎監(jiān)管層面，缺乏針對(duì)金融系統(tǒng)性風(fēng)險(xiǎn)的宏觀審慎監(jiān)管。監(jiān)管沙盒在測(cè)試中應(yīng)注意到算法等金融科技潛在的同質(zhì)化、高度關(guān)聯(lián)性所增加的金融系統(tǒng)性風(fēng)險(xiǎn)，在現(xiàn)有評(píng)估方式中完善系統(tǒng)性風(fēng)險(xiǎn)測(cè)度指標(biāo)體系，借助計(jì)算機(jī)模型推演，評(píng)估監(jiān)管沙盒內(nèi)金融項(xiàng)目風(fēng)險(xiǎn)積聚效應(yīng)和跨部門風(fēng)險(xiǎn)傳染效應(yīng)，強(qiáng)化金融量化監(jiān)管[20]。

2.構(gòu)建金融算法監(jiān)管分級(jí)分類制度

算法技術(shù)的原理和應(yīng)用都具有多樣性，在不同的應(yīng)用場(chǎng)景也呈現(xiàn)出不同的風(fēng)險(xiǎn)層級(jí)，因此對(duì)不同金融算法類產(chǎn)品使用同一套監(jiān)管措施可能既抑制了部分穩(wěn)健型產(chǎn)品的性能，但又疏漏了部分高風(fēng)險(xiǎn)產(chǎn)品的潛在問(wèn)題，故應(yīng)當(dāng)通過(guò)監(jiān)管沙盒測(cè)試將金融產(chǎn)品和服務(wù)區(qū)分為不同的風(fēng)險(xiǎn)等級(jí)，充分調(diào)動(dòng)政府監(jiān)督、行業(yè)自律以及正當(dāng)法律程序等手段，進(jìn)行分級(jí)分類的金融算法監(jiān)管。

具體的分級(jí)分類制度可參考人工智能領(lǐng)域自動(dòng)駕駛分級(jí)制度和金融領(lǐng)域券商分級(jí)制度的思路，從算法的自動(dòng)化程度、算法模型的穩(wěn)健性、算法與同類別產(chǎn)品或服務(wù)的同質(zhì)化程度、應(yīng)用場(chǎng)景的風(fēng)險(xiǎn)性等要素入手。對(duì)于測(cè)試結(jié)果穩(wěn)健且預(yù)期風(fēng)險(xiǎn)較小的產(chǎn)品進(jìn)行低風(fēng)險(xiǎn)分級(jí)，并可在披露內(nèi)容、干預(yù)性措施上給予一定的優(yōu)惠性放寬措施；對(duì)于測(cè)試結(jié)果存在較大波動(dòng)且對(duì)金融市場(chǎng)影響較大的產(chǎn)品進(jìn)行高風(fēng)險(xiǎn)分級(jí)，加以更為嚴(yán)格的信息披露要求和檢查頻次，并強(qiáng)令其購(gòu)買與潛在風(fēng)險(xiǎn)對(duì)應(yīng)的保險(xiǎn)產(chǎn)品，制定更為嚴(yán)格的消費(fèi)者保護(hù)措施[7]。通過(guò)合理的算法分級(jí)分類進(jìn)行差異化監(jiān)管，平衡金融科技監(jiān)管中金融創(chuàng)新與風(fēng)險(xiǎn)防范的雙重需要。