唐林垚
黨的二十大報(bào)告指出:“中國(guó)式現(xiàn)代化是全體人民共同富裕的現(xiàn)代化。共同富裕是中國(guó)特色社會(huì)主義的本質(zhì)要求,也是一個(gè)長(zhǎng)期的歷史過(guò)程?!薄?〕習(xí)近平:《高舉中國(guó)特色社會(huì)主義偉大旗幟 為全面建設(shè)社會(huì)主義現(xiàn)代化國(guó)家而團(tuán)結(jié)奮斗——在中國(guó)共產(chǎn)黨第二十次全國(guó)代表大會(huì)上的報(bào)告》,2022年10月16日?!半S著中國(guó)逐步邁入數(shù)字經(jīng)濟(jì)時(shí)代,未來(lái)共同富裕必然以數(shù)字經(jīng)濟(jì)為依托”?!?〕趙申豪:《數(shù)字經(jīng)濟(jì)時(shí)代下共同富裕的現(xiàn)實(shí)挑戰(zhàn)及其法律對(duì)策》,《人民法院報(bào)》2022年5月26日。技術(shù)進(jìn)步通常是經(jīng)濟(jì)增長(zhǎng)的動(dòng)能來(lái)源,數(shù)字經(jīng)濟(jì)時(shí)代的共同富裕,天然具有“技術(shù)驅(qū)動(dòng)”的底色,離不開(kāi)科技創(chuàng)新發(fā)展的有效支撐?!?〕張文顯:《論中國(guó)式法治現(xiàn)代化新道路》,《中國(guó)法學(xué)》2022年第1期。作為“塑造社會(huì)秩序的重要力量”,〔4〕馬長(zhǎng)山:《數(shù)字社會(huì)的治理邏輯及其法治化展開(kāi)》,《法律科學(xué)》2020年第5期。替代自然人決策的算法決策是一切廣義人工智能技術(shù)的核心(包括但不限于自動(dòng)駕駛、人臉識(shí)別、內(nèi)容推送、情感計(jì)算、智慧金融乃至元宇宙虛擬人塑造等),〔5〕參見(jiàn)唐林垚:《“元宇宙”的規(guī)制理論構(gòu)建及中國(guó)方案》,《上海大學(xué)學(xué)報(bào)》(社會(huì)科學(xué)版)2022年第5期。必將成為共同富裕政策下技術(shù)普惠的重要支點(diǎn)。反過(guò)來(lái),共同富裕倡導(dǎo)區(qū)域協(xié)同合作、產(chǎn)業(yè)跨界融合以及企業(yè)融通發(fā)展,〔6〕參見(jiàn)陳勁等:《共同富裕視野下的中國(guó)科技創(chuàng)新》,《改革》2022年第1期。也必將在構(gòu)架和應(yīng)用層面影響算法決策的內(nèi)核,使之從結(jié)構(gòu)單一、流程固定的數(shù)據(jù)處理范式朝著渠道多元、內(nèi)涵綜合、生態(tài)融合的方向?qū)崿F(xiàn)“范式升維”。遵循怎樣的完善路徑,才能為算法決策的范式升維提供最優(yōu)法律制度安排,無(wú)疑是共同富裕時(shí)期值得學(xué)界關(guān)注的重大問(wèn)題。當(dāng)務(wù)之急是深入解構(gòu)共同富裕視野下傳統(tǒng)算法決策的范式轉(zhuǎn)變,在系統(tǒng)性闡釋共同富裕核心要旨的基礎(chǔ)上,證成新發(fā)展趨勢(shì)對(duì)算法決策范式的深刻調(diào)整。以此為基礎(chǔ),才能夠澄清算法決策新范式存在的全新法律問(wèn)題,從規(guī)范構(gòu)建和風(fēng)險(xiǎn)規(guī)避的視角,探討算法決策范式升維契合共同富裕政策所不可或缺的法律保障。更進(jìn)一步,有必要從共同富裕與算法規(guī)制的互促互進(jìn)以小見(jiàn)大,抽象出政策嬗變和技術(shù)變革雙重外部因素變化下,法律規(guī)則“適應(yīng)性”完善與演進(jìn)的一般方法論,以期為“百年之未有大變局”和新興技術(shù)層出疊見(jiàn)的新時(shí)期的法律制定,貢獻(xiàn)獨(dú)特的理論支撐和立法參考?;谝延欣碚摾斫夤餐辉R曇跋滤惴ㄅc法律的關(guān)系,當(dāng)前研究更多地聚焦于通過(guò)法律促進(jìn)科技向善,進(jìn)而為可分配的社會(huì)財(cái)富奠定物質(zhì)基礎(chǔ)這一視角,對(duì)于如何在富裕的物質(zhì)基礎(chǔ)上藉由算法決策更好地推動(dòng)“三次分配”,以及算法和法律在實(shí)現(xiàn)共同富裕中的相互作用機(jī)理等,尚需進(jìn)行視角補(bǔ)充與轉(zhuǎn)換。
古典自由主義經(jīng)濟(jì)學(xué)理論最早將技術(shù)變革納入經(jīng)濟(jì)增長(zhǎng)函數(shù)的要素組合之中,同時(shí)也意識(shí)到技術(shù)變革的外部性效應(yīng)對(duì)經(jīng)濟(jì)增長(zhǎng)的抑制性作用?!?〕Daniel M. Bernhofen & John C. Brown,Retrospectives:On the Genius behind David Ricardo’s 1817 Formulation of Comparative Advantage,Journal of Economic Perspectives,Vol.32:4,p.227-240 (2018).新古典經(jīng)濟(jì)學(xué)家們突破了此前的分析框架,提出了生產(chǎn)和物質(zhì)資本積累過(guò)程中勞動(dòng)生產(chǎn)率提高和技術(shù)外溢的“干中學(xué)效應(yīng)”?!?〕Arrow Kenneth,Economic Welfare and the Allocation of Resources for Invention,in The Rate and Direction of Inventive Activity:Economic and Social Factors,Princeton University Press,1962,p.609-626.創(chuàng)新理論的開(kāi)創(chuàng)者熊彼特則更加直接,認(rèn)為技術(shù)進(jìn)步與科技創(chuàng)新能夠驅(qū)動(dòng)新的要素組合,以“創(chuàng)造性破壞”的方式帶來(lái)經(jīng)濟(jì)結(jié)構(gòu)的全新質(zhì)變?!?〕Robert G. King & Ross Levine,F(xiàn)inance and Growth:Schumpeter Might Be Right,The Quarterly Journal of Economics,Vol.108:3,p.717-737 (1993).上世紀(jì)60年代后,一輪又一輪的科技進(jìn)步和產(chǎn)業(yè)革命席卷而來(lái),廣義的創(chuàng)新理論逐漸被狹義的創(chuàng)新理論所補(bǔ)充,“后熊彼特主義”下的創(chuàng)新主體不再局限于資本家主導(dǎo)的創(chuàng)新體系,而是被納入更廣闊的宏觀和中觀視野,強(qiáng)調(diào)開(kāi)放式環(huán)境中多樣社會(huì)主體共同促進(jìn)技術(shù)升級(jí)與價(jià)值創(chuàng)造,進(jìn)而衍生出了用戶創(chuàng)新理論、區(qū)域創(chuàng)新理論、國(guó)家創(chuàng)新理論、產(chǎn)業(yè)創(chuàng)新理論等。這些理論雖有差異,但無(wú)一例外對(duì)于法律的正面保障作用予以承認(rèn)。例如,曼斯菲爾德將科技創(chuàng)新簡(jiǎn)化為一個(gè)相互作用的復(fù)雜過(guò)程,解釋了穿透式法律規(guī)則之于技術(shù)“黑箱”的矯正意義;〔10〕Mansfield Edwin,Industrial Research and Technological Innovation,W. W. Norton & Company,1968.卡曼和希瓦茲注意到了寡頭企業(yè)的“贏者通吃”壟斷外部性,揭示了反壟斷法的必要性?!?1〕Morton I. Kamien & Nancy L. Schwartz,On the Degree of Rivalry for Maximum Innovative Activity,The Quarterly Journal of Economics,Vol.90:2,p.245-260 (1976).
從科技創(chuàng)新與經(jīng)濟(jì)增長(zhǎng)的線性關(guān)聯(lián)來(lái)看,經(jīng)濟(jì)發(fā)展的質(zhì)量將越來(lái)越取決于其中的科技含量。共同富裕立足于科技創(chuàng)新驅(qū)動(dòng)經(jīng)濟(jì)和社會(huì)的高質(zhì)量發(fā)展,最重要的莫過(guò)于將“用戶—社群—產(chǎn)業(yè)—國(guó)家”驅(qū)動(dòng)的科技創(chuàng)新與技術(shù)進(jìn)步納入國(guó)家經(jīng)濟(jì)發(fā)展與國(guó)家治理能力現(xiàn)代化的理論框架之中。共同富裕代表了“共同善”(Common Good)意義上的“公益”和“共益”發(fā)展趨勢(shì),是在“彼此信任、相互合作、主動(dòng)利他”等原則支配道德價(jià)值觀引領(lǐng)下的時(shí)代追求。法律作為共同富裕增長(zhǎng)函數(shù)中的重要變量之一,其與技術(shù)間的理想關(guān)系并非單方面的“技術(shù)驅(qū)動(dòng)法律進(jìn)步”或“法律左右技術(shù)發(fā)展”,而是“法律與技術(shù)雙向奔赴”直至“法律與技術(shù)相互增益”。
前述討論,是從縱向證成科技創(chuàng)新和共同富裕之間傳導(dǎo)關(guān)系,凸顯知識(shí)溢出和規(guī)則之治之于價(jià)值創(chuàng)造的發(fā)展意義。此處將通過(guò)與現(xiàn)有新興技術(shù)的一一對(duì)應(yīng),盡可能直觀地澄清算法決策范式升維的未來(lái)發(fā)展趨勢(shì)。
共同富裕的關(guān)鍵在于“富?!?,難點(diǎn)在于“共同”,故而,科技創(chuàng)新拉動(dòng)經(jīng)濟(jì)效益增長(zhǎng)的單一使命將逐步讓位于兼顧社會(huì)責(zé)任和公共利益的混合使命,〔12〕參見(jiàn)郭丹丹、蘇昕:《共同富裕目標(biāo)下相對(duì)貧困治理的邏輯與機(jī)制》,《浙江工商大學(xué)學(xué)報(bào)》2021年第5期。這一使命轉(zhuǎn)型直接衍生到算法應(yīng)用的價(jià)值目標(biāo)選擇,表現(xiàn)為自動(dòng)化決策回歸高質(zhì)量發(fā)展和可持續(xù)發(fā)展的規(guī)則軟約束,從“量”的增長(zhǎng)轉(zhuǎn)向“質(zhì)”的飛躍。通過(guò)大數(shù)據(jù)技術(shù),三次分配實(shí)現(xiàn)反映“實(shí)質(zhì)公平”的精準(zhǔn)收益分配,有望解決長(zhǎng)期存在的數(shù)據(jù)收益的分配不公問(wèn)題;在非信任主體數(shù)據(jù)相互保密的前提下進(jìn)行高效融合計(jì)算的多方安全計(jì)算(Multi-party Computation),是跨行業(yè)、跨部門算法決策“提質(zhì)增效”的應(yīng)用典范之一。例如,針對(duì)明文禁止金融行業(yè)共享黑灰名單的法律困境,多方安全計(jì)算能以名單“可用不可見(jiàn)”的方式輸出涉及個(gè)體的聯(lián)合計(jì)算結(jié)果,這無(wú)疑也將提高整個(gè)金融行業(yè)風(fēng)險(xiǎn)的聯(lián)防聯(lián)控能力?!?3〕唐林垚:《數(shù)據(jù)合規(guī)科技的風(fēng)險(xiǎn)規(guī)制及法理構(gòu)建》,《東方法學(xué)》2022年第1期。
共同富裕強(qiáng)調(diào)所有市場(chǎng)主體都能享有更大的發(fā)展機(jī)會(huì),在“蛋糕”做大的同時(shí),擁有更大范圍共享發(fā)展成果的權(quán)利,因此,科技創(chuàng)新不再局限于先鋒企業(yè)或企業(yè)家的市場(chǎng)嗅覺(jué)、發(fā)展品味與戰(zhàn)略視野,而必然將從倚重私人場(chǎng)域的市場(chǎng)導(dǎo)向型創(chuàng)新向涵蓋國(guó)家邏輯、社群邏輯與社會(huì)邏輯的公共創(chuàng)新、行業(yè)創(chuàng)新和萬(wàn)眾創(chuàng)新轉(zhuǎn)型。創(chuàng)新場(chǎng)域的變化將直接影響模型的訓(xùn)練過(guò)程,基于“私域流量”的數(shù)據(jù)挖掘?qū)⒈桓馨l(fā)揮“群體智慧”的模型訓(xùn)練方式替代,前沿技術(shù)為聯(lián)邦學(xué)習(xí)(Federal Learning)。聯(lián)邦學(xué)習(xí)可在不共享數(shù)據(jù)的前提下實(shí)現(xiàn)算法決策的“干中學(xué)效應(yīng)”。例如,各國(guó)個(gè)人信息保護(hù)法律均針對(duì)生物敏感數(shù)據(jù)的使用設(shè)立較高門檻,聯(lián)邦學(xué)習(xí)能夠協(xié)同多個(gè)平行機(jī)構(gòu)開(kāi)展“智慧醫(yī)療”的模型集訓(xùn),有利于優(yōu)質(zhì)醫(yī)療資源的更大普惠。
共同富裕有賴于知識(shí)溢出的創(chuàng)新紅利雨露均沾,只有從“狹路相逢”的內(nèi)卷邏輯過(guò)渡至“合作共贏”的共生邏輯,才有可能在市場(chǎng)主體間形成資源互補(bǔ)的創(chuàng)新生態(tài)。深入推進(jìn)數(shù)字經(jīng)濟(jì)領(lǐng)域改革、激發(fā)市場(chǎng)主體活力等綜合目標(biāo)的達(dá)成更多地依賴于大平臺(tái)向中小平臺(tái)的“技術(shù)下沉”,〔14〕黎峰:《國(guó)內(nèi)垂直專業(yè)化分工與區(qū)域間技術(shù)差距:基于地區(qū)—行業(yè)層面的分析》,《商業(yè)經(jīng)濟(jì)與管理》2021年第3期。最典型的渠道是低代碼開(kāi)源(Low-Code),即利用可視化應(yīng)用開(kāi)發(fā)環(huán)境降低對(duì)原生代碼編寫的需求,達(dá)到便捷構(gòu)建應(yīng)用程序的目的。低代碼開(kāi)源能夠降低軟件開(kāi)發(fā)門檻、縮短項(xiàng)目交付周期,符合“后熊彼特主義”所推崇的開(kāi)放式環(huán)境中多元?jiǎng)?chuàng)新主體的價(jià)值共創(chuàng),實(shí)現(xiàn)知識(shí)溢出的即時(shí)推廣。
共同富裕的最終價(jià)值歸宿是人民。發(fā)展依靠人民、發(fā)展為了人民以及發(fā)展成果由人民共享的關(guān)鍵,在于要素資源的有效動(dòng)員、合理配置和充分投產(chǎn)。共同富裕本身并不遵循整齊劃一的平均主義,不是無(wú)差別的同步、同等富裕,但就促成中間大、兩頭小的橄欖型分配結(jié)構(gòu)而言,共同富裕旨在縮小而非加劇分配差距。在計(jì)算資源的分配上,算力決定了數(shù)據(jù)處理能力的天花板,但由此產(chǎn)生的數(shù)據(jù)利用不平衡不充分問(wèn)題,倘若完全通過(guò)產(chǎn)業(yè)基礎(chǔ)設(shè)施優(yōu)化的方式解決,成本將過(guò)于高昂。作為云計(jì)算發(fā)展趨勢(shì)之一的邊緣計(jì)算(Edge Computing),為實(shí)現(xiàn)資源高效分配,就近發(fā)起算力響應(yīng),從而提供了數(shù)據(jù)源頭的解決方案,〔15〕Chen Jiasi & Xukan Ran,Deep Learning with Edge Computing:A Review,Proceedings of the IEEE,Vol.107:8,p.1655-1674 (2019).既可以保護(hù)知識(shí)產(chǎn)權(quán),同時(shí)也可彌合具有硬件優(yōu)勢(shì)的“少數(shù)人”和被稟賦限制想象力的“多數(shù)人”之間的發(fā)展鴻溝。
全國(guó)信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)公布的《信息安全技術(shù)個(gè)人信息安全規(guī)范》第9.1、9.2條曾對(duì)個(gè)人信息委托處理和共享轉(zhuǎn)讓作出相應(yīng)限制;中國(guó)人民銀行印發(fā)的《個(gè)人金融信息保護(hù)技術(shù)規(guī)范》第7.1條詳細(xì)規(guī)定了個(gè)人金融信息在共享轉(zhuǎn)讓、加工處理和匯聚融合方面的安全義務(wù)。前述幾類技術(shù),顯然有助于突破現(xiàn)有法律稟賦,真正落實(shí)國(guó)家發(fā)展改革委和中央網(wǎng)信辦《關(guān)于推進(jìn)“上云用數(shù)賦智”行動(dòng)培育新經(jīng)濟(jì)發(fā)展實(shí)施方案》中有關(guān)建立跨界融合的數(shù)字化生態(tài)的呼吁。算法決策的上述范式升維盡管在現(xiàn)實(shí)層面進(jìn)展緩慢,但它在理念上早已發(fā)生,且已經(jīng)逐漸在優(yōu)化社會(huì)控制、提升國(guó)家治理、促進(jìn)公平分配等領(lǐng)域嶄露頭角。具而論之,算法范式升維將在四個(gè)方面超越傳統(tǒng)的算法決策。其一,極大地改善了算法服務(wù)的性價(jià)比,特別是通過(guò)算力和模型的交流共享促進(jìn)了知識(shí)溢出的紅利分享。其二,均衡地協(xié)調(diào)了存在潛在利益沖突的市場(chǎng)主體間的差異化價(jià)值訴求,為涵蓋政府、社會(huì)、行業(yè)的多元利益相關(guān)方創(chuàng)造了效率價(jià)值與共享價(jià)值。其三,推動(dòng)創(chuàng)新主體的價(jià)值創(chuàng)造與戰(zhàn)略行為走向新的高階均衡,放大了各市場(chǎng)主體的價(jià)值創(chuàng)造空間并修復(fù)了技術(shù)應(yīng)用與所處社會(huì)環(huán)境之間的割裂。其四,以技術(shù)手段實(shí)現(xiàn)不同規(guī)模、不同類型市場(chǎng)主體在創(chuàng)新過(guò)程中的要素融通以及成果共益,強(qiáng)化了個(gè)人與組織、市場(chǎng)與政府以及社會(huì)與國(guó)家之間的多重鏈接。
無(wú)論是強(qiáng)化要素資源配置,還是實(shí)現(xiàn)新要素組合驅(qū)動(dòng)的經(jīng)濟(jì)發(fā)展,算法決策的范式升維必然深刻嵌套于共同富裕的全局視野之下,為賦能社會(huì)生產(chǎn)力提升提供新的模式遵循,且強(qiáng)力支撐著共同富裕以及科技強(qiáng)國(guó)的整體性實(shí)現(xiàn)。在這樣的背景下,作為解決“固定計(jì)算問(wèn)題的特定數(shù)理路徑”的傳統(tǒng)算法應(yīng)用,〔16〕Sarah Valentine,Impoverished Algorithms:Misguided Governments,F(xiàn)lawed Technologies,and Social Control,F(xiàn)ordham Urban Law Journal,Vol.46:2,p.365 (2019).已日益無(wú)奈地顯現(xiàn)出“過(guò)時(shí)性”。正因?yàn)槿绱?,過(guò)去構(gòu)建于傳統(tǒng)算法范式的法律規(guī)則,開(kāi)始承受著來(lái)自行業(yè)發(fā)展和國(guó)家政策的“雙重重壓”,針對(duì)算法規(guī)制的法律變革已是“箭在弦上”。面對(duì)“任重而道遠(yuǎn)”的共同富裕追求,唯有通過(guò)對(duì)算法決策“過(guò)程流變”的精當(dāng)描述與風(fēng)險(xiǎn)識(shí)別,才能穿透技術(shù)發(fā)展趨勢(shì)的實(shí)然,去“重新發(fā)現(xiàn)”未來(lái)良法善治的應(yīng)然。
生產(chǎn)力與生產(chǎn)關(guān)系的更好適應(yīng)、資源分配的公正合理、效率與公平的有機(jī)統(tǒng)一,均離不開(kāi)法律規(guī)則對(duì)算法范式升維的引領(lǐng)和鉗制。如欲系統(tǒng)性討論共同富裕時(shí)期算法范式升維的法律保障,必先系統(tǒng)性檢視算法范式升維的具體風(fēng)險(xiǎn),考察這些風(fēng)險(xiǎn)背后的安全需求及規(guī)制邏輯。
算法范式升維的風(fēng)險(xiǎn)成因是復(fù)雜的,主要存在于以下四個(gè)方面。
1. 模型脫嵌——目標(biāo)失范、內(nèi)控脫焦
算法決策的范式升維導(dǎo)致了結(jié)果輸出、模型訓(xùn)練、代碼編寫的“去中心化”。與其說(shuō)機(jī)器學(xué)習(xí)不再需要“環(huán)境固定”這一條件,毋寧意識(shí)到數(shù)據(jù)驅(qū)動(dòng)的新范式克服了主體壁壘的客觀障礙,催生了“模型脫嵌”的現(xiàn)象。正因?yàn)槿绱?,各類新興技術(shù)的“射幸性”尤其明顯,能否切實(shí)促進(jìn)共同富裕,還有待檢驗(yàn)。
《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第6條要求算法服務(wù)提供者堅(jiān)持主流價(jià)值導(dǎo)向、優(yōu)化算法推薦服務(wù)機(jī)制、促進(jìn)算法應(yīng)用向上向善。但是,模型脫嵌極有可能導(dǎo)致算法決策目標(biāo)失范和內(nèi)控脫焦。所謂目標(biāo)失范,是指算法決策的實(shí)際目標(biāo)可能完全脫離原本的設(shè)計(jì)目標(biāo)。即便算法范式升維的多項(xiàng)技術(shù)具備“風(fēng)險(xiǎn)內(nèi)化”的法律特征,但算法利用方仍可能在整合各項(xiàng)技術(shù)的過(guò)程中對(duì)法律價(jià)值和權(quán)利保障目標(biāo)疏于考慮。所謂內(nèi)控脫焦,是指算法服務(wù)提供商無(wú)法通過(guò)內(nèi)部監(jiān)控機(jī)制的提升對(duì)因時(shí)間、空間等聯(lián)結(jié)形成的特定對(duì)象的合法權(quán)益提供更精準(zhǔn)的保護(hù)。易言之,算法范式升維的潛在損害是多因素、多種作用的和合,應(yīng)對(duì)此類風(fēng)險(xiǎn)不可能如同應(yīng)對(duì)傳統(tǒng)技術(shù)風(fēng)險(xiǎn)那般采取加強(qiáng)動(dòng)態(tài)監(jiān)管、提升平臺(tái)義務(wù)、監(jiān)控關(guān)鍵環(huán)節(jié)等方式。如何針對(duì)模型脫嵌的算法決策新形態(tài)進(jìn)行“強(qiáng)弱項(xiàng)、補(bǔ)短板”,現(xiàn)有研究欠缺答案,留待未來(lái)法律規(guī)制予以回應(yīng)。
2. 異源同構(gòu)——轉(zhuǎn)譯偏差、責(zé)任虛化
算法決策的范式升維可在不與現(xiàn)有《個(gè)人信息保護(hù)法》沖突的條件下,有效解決運(yùn)算數(shù)據(jù)的匱乏問(wèn)題。不過(guò),數(shù)據(jù)渠道的拓寬亦帶來(lái)了不可忽視的風(fēng)險(xiǎn)。首先,互聯(lián)網(wǎng)等外部渠道數(shù)據(jù)的來(lái)源合法性無(wú)法保證;其次,共享模式下數(shù)據(jù)使用權(quán)的流轉(zhuǎn)更加復(fù)雜和難以控制,數(shù)據(jù)使用邊界不可揣度;再次,由于數(shù)據(jù)收集方式趨同、篩選標(biāo)準(zhǔn)僵化,算法決策范式升維的數(shù)據(jù)聚合過(guò)程可能放大數(shù)據(jù)集的原本瑕疵。
《新一代人工智能倫理規(guī)范》針對(duì)數(shù)字應(yīng)用提出了包括透明性在內(nèi)的多項(xiàng)倫理要求,中國(guó)國(guó)家互聯(lián)網(wǎng)信息辦公室等9個(gè)部門聯(lián)合發(fā)布的《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見(jiàn)》也將“透明可釋”作為算法應(yīng)用的基本原則。而多渠道和合的“異源同構(gòu)”數(shù)據(jù)處理模式,必然將導(dǎo)致轉(zhuǎn)譯偏差和責(zé)任虛化。新增流程和中間步驟帶來(lái)了銜接和協(xié)作的系統(tǒng)性問(wèn)題,代碼轉(zhuǎn)譯過(guò)程中的偏誤和耗散將更為嚴(yán)重,致使算法決策不連貫、低穩(wěn)定、難解釋。由此產(chǎn)生的另一個(gè)結(jié)果是,責(zé)任虛化問(wèn)題將異常嚴(yán)重。傳統(tǒng)的算法規(guī)制都基于這樣一個(gè)前提:數(shù)據(jù)處理活動(dòng)有著明確的合同相對(duì)性,責(zé)任主體單一、侵權(quán)手段明確、損害可以揣度,基于該前提的算法規(guī)制和個(gè)人信息保護(hù)規(guī)則呈現(xiàn)出明顯的“技術(shù)方問(wèn)責(zé)制”的傾向?!?7〕參見(jiàn)唐林垚:《人工智能時(shí)代的算法規(guī)制:責(zé)任分層與義務(wù)合規(guī)》,《現(xiàn)代法學(xué)》2020年第1期。算法范式升維之后,由于有為數(shù)眾多的參與方橫亙?cè)谥鲗?dǎo)方和用戶之間,數(shù)據(jù)處理的層層委托極易演化為“層層甩鍋”。如何將以數(shù)據(jù)主體為保護(hù)對(duì)象的法律關(guān)系在算法范式升維語(yǔ)境中進(jìn)行重構(gòu),是未來(lái)法律規(guī)制的重點(diǎn)命題。
3. 決策并聯(lián)——數(shù)據(jù)回推、人機(jī)對(duì)抗
算法范式升維帶來(lái)了“你中有我、我中有你”的運(yùn)算格局,各參與方之間是“決策并聯(lián)”的共生關(guān)系,牽一發(fā)而動(dòng)全身。雖然對(duì)外呈現(xiàn)出不可窺測(cè)的“黑箱”狀態(tài),但對(duì)于內(nèi)部參與者而言,算法范式升維具備半開(kāi)放特性,各參與方都能接觸到完整的運(yùn)算參數(shù),攻擊者同樣可以利用該特性偽裝成善意參與方圖謀不軌。
《App違法違規(guī)收集使用個(gè)人信息行為認(rèn)定方法》明令禁止“未經(jīng)同意向他人提供個(gè)人信息”“未明示收集使用個(gè)人信息的目的、方式和范圍”“違反必要原則,收集與其提供的服務(wù)無(wú)關(guān)的個(gè)人信息”等,但算法范式升維的“決策并聯(lián)”特性,將可能產(chǎn)生兩類相關(guān)技術(shù)隱患。首先是數(shù)據(jù)復(fù)原隱患。處于并聯(lián)地位的參與方可能濫用技術(shù)手段窺測(cè)他方信息,回推并占有用戶敏感數(shù)據(jù);更有甚者,還可能從單獨(dú)運(yùn)算結(jié)果同多方計(jì)算結(jié)果差異、本地模型更新與全局模型迭代、低代碼模塊組運(yùn)算過(guò)程殘余、邊緣計(jì)算的數(shù)據(jù)優(yōu)化記錄中,獲取相當(dāng)豐富的推論知識(shí),實(shí)現(xiàn)對(duì)商業(yè)機(jī)密的“剽竊”。此外,值得關(guān)注的還有人機(jī)對(duì)抗隱患。參與方可能利用數(shù)據(jù)投毒、病毒植入等手段強(qiáng)行突破算法系統(tǒng),獲取商業(yè)秘密和個(gè)人隱私。〔18〕A.Schwarzschild et al.,Just How Toxic is Data Poisoning? A Unified Benchmark for Backdoor and Data Poisoning Attacks,International Conference on Machine Learning,p.9389-9398 (2021).如何將參與方非均衡性考慮在內(nèi),為算法范式升維建立包容激勵(lì)的風(fēng)控機(jī)制,是未來(lái)法律規(guī)制的重中之重。
4. 理性前置——執(zhí)行異化、脫離問(wèn)責(zé)
縱觀算法范式升維的全流程,自然人理性幾乎完全集中于前端,整體方案的制定、主導(dǎo)方和參與方的意思表示一致等,均在數(shù)據(jù)聚合、算力投入之前完成。作為中端的數(shù)據(jù)處理過(guò)程以及作為后端的結(jié)果輸出過(guò)程,幾乎不再需要自然人的理性介入。一旦進(jìn)入運(yùn)算過(guò)程,各參與方?jīng)]有“半途而廢”的余地?!?9〕例如,現(xiàn)有聯(lián)邦學(xué)習(xí)技術(shù)就不支持用戶掉線。參見(jiàn)路宏琳、王利明:《面向用戶的支持用戶掉線的聯(lián)邦學(xué)習(xí)數(shù)據(jù)隱私保護(hù)方法》,《信息網(wǎng)絡(luò)安全》2021年第3期。
《互聯(lián)網(wǎng)信息服務(wù)算法應(yīng)用自律公約》提出了規(guī)范算法應(yīng)用行為和落實(shí)主體責(zé)任的建議,但自然人的理性前置將導(dǎo)致執(zhí)行異化和脫離問(wèn)責(zé)。方案構(gòu)建是一切算法范式升維的起點(diǎn),目的在于將抽象的數(shù)據(jù)處理需求,經(jīng)由目標(biāo)對(duì)象的選取、安全手段的搭配、合作框架的完善,逐步轉(zhuǎn)變?yōu)榭刹僮?、可描述、可推廣的整體解決方案。但是,居于主導(dǎo)地位的算法服務(wù)提供商在方案構(gòu)建時(shí)享有對(duì)理性的“絕對(duì)壟斷”,天然具有將自身利益前置于公共利益的激勵(lì)。例如,主導(dǎo)方可能將收益作為首要考慮因素,或在選擇參與方時(shí)采取就近原則、任人唯親;或在制定安全方案時(shí)瞻前顧后、罔顧數(shù)據(jù)安全。更極端的情況是,主導(dǎo)方可能明面上“以科技創(chuàng)新促進(jìn)共同富裕”,背地里卻“以合法形式掩蓋非法目的”。執(zhí)行異化之外,算法范式升維前端、中端、后端的耦合過(guò)程通常只可觀察卻不可意會(huì),算法服務(wù)提供商存在脫離問(wèn)責(zé)的可能性。傳統(tǒng)算法規(guī)制依賴“算法可解釋性”落實(shí)算法問(wèn)責(zé)、實(shí)現(xiàn)算法公正。然而,傳統(tǒng)算法的有限可解釋性尚且只能“削足適履”地實(shí)現(xiàn),〔20〕參見(jiàn)許可、朱悅:《算法解釋權(quán):科技與法律的雙重視角》,《蘇州大學(xué)學(xué)報(bào)》(哲學(xué)社會(huì)科學(xué)版)2020年第2期。算法范式升維后環(huán)環(huán)相扣的全過(guò)程可解釋性幾乎是“癡人說(shuō)夢(mèng)”,“客觀運(yùn)行結(jié)果與主觀預(yù)期”之間無(wú)法咬合。〔21〕參見(jiàn)蘇宇:《優(yōu)化算法可解釋性及透明度義務(wù)之詮釋與展開(kāi)》,《法律科學(xué)》(西北政法大學(xué)學(xué)報(bào))2022年第1期。如何緩解因算法范式升維導(dǎo)致的傳統(tǒng)人工智能風(fēng)險(xiǎn)泛化,是未來(lái)法律規(guī)制的終極目標(biāo)。
算法范式升維的上述風(fēng)險(xiǎn)并非互不關(guān)聯(lián),它們共同揭示了共同富裕時(shí)期政策制定者所面臨的全新挑戰(zhàn)。對(duì)于傳統(tǒng)算法風(fēng)險(xiǎn)的法律規(guī)制,我國(guó)法學(xué)界已經(jīng)不乏探討,重點(diǎn)關(guān)注算法的平等權(quán)、生命權(quán)風(fēng)險(xiǎn),〔22〕參見(jiàn)鄭戈:《算法的法律與法律的算法》,《中國(guó)法律評(píng)論》2018年第2期。行為自由、公平裁量風(fēng)險(xiǎn),〔23〕參見(jiàn)汪慶華:《人工智能的法律規(guī)制路徑:一個(gè)框架性討論》,《現(xiàn)代法學(xué)》2019年第2期。個(gè)體權(quán)利、正當(dāng)程序風(fēng)險(xiǎn),〔24〕參見(jiàn)楊東、武雨佳:《智能投顧中投資者適當(dāng)性制度研究》,《國(guó)家檢察官學(xué)院學(xué)報(bào)》2019年第2期。數(shù)據(jù)安全、社會(huì)安全風(fēng)險(xiǎn)等,〔25〕參見(jiàn)裴煒:《刑事跨境取證中的數(shù)據(jù)安全風(fēng)險(xiǎn)及其應(yīng)對(duì)》,《國(guó)家檢察官學(xué)院學(xué)報(bào)》2021年第6期。提出了雙重篩選的算法責(zé)任歸因標(biāo)準(zhǔn)、〔26〕參見(jiàn)劉憲權(quán):《涉人工智能犯罪中的歸因與歸責(zé)標(biāo)準(zhǔn)探析》,《東方法學(xué)》2020年第3期。以人之主體性而非規(guī)制工具效用性為基礎(chǔ)完善算法規(guī)制譜系〔27〕參見(jiàn)蘇宇:《算法規(guī)制的譜系》,《中國(guó)法學(xué)》2020年第3期。以及巧用溝通信任原則重塑算法解釋權(quán)等解決方案?!?8〕參見(jiàn)丁曉東:《基于信任的自動(dòng)化決策:算法解釋權(quán)的原理反思與制度重構(gòu)》,《中國(guó)法學(xué)》2022年第1期。在此基礎(chǔ)上漸次成型的動(dòng)態(tài)監(jiān)管理論、場(chǎng)景區(qū)分建議、全周期監(jiān)管學(xué)說(shuō),被《個(gè)人信息保護(hù)法》《數(shù)據(jù)安全法》所吸納,并直接促成了《互聯(lián)網(wǎng)信息服務(wù)算法應(yīng)用自律公約》《互聯(lián)網(wǎng)信息服務(wù)算法管理規(guī)定》等具有嚴(yán)控?cái)?shù)據(jù)流動(dòng)傾向的規(guī)范性文件的適用。
與上述立場(chǎng)形成鮮明對(duì)比的是,共同富裕所提倡的“統(tǒng)籌數(shù)據(jù)開(kāi)發(fā)利用”,順應(yīng)了“東數(shù)西算”等國(guó)家工程的發(fā)展趨勢(shì),與《國(guó)民經(jīng)濟(jì)和社會(huì)發(fā)展第十四個(gè)五年規(guī)劃和2035年遠(yuǎn)景目標(biāo)綱要》中“推進(jìn)數(shù)據(jù)跨部門、跨層級(jí)、跨地區(qū)匯聚融合”的頂層設(shè)計(jì)相回應(yīng)。數(shù)據(jù)是新型生產(chǎn)要素,已被各國(guó)政府所承認(rèn),〔29〕參見(jiàn)楊東、臧俊恒:《數(shù)據(jù)生產(chǎn)要素的競(jìng)爭(zhēng)規(guī)制困境與突破》,《國(guó)家檢察官學(xué)院學(xué)報(bào)》2020年第6期。助推傳統(tǒng)產(chǎn)業(yè)轉(zhuǎn)型升級(jí)、打造新產(chǎn)業(yè)新業(yè)態(tài)新模式、壯大經(jīng)濟(jì)發(fā)展引擎,均以充分發(fā)揮數(shù)據(jù)要素對(duì)其他生產(chǎn)要素的“倍增作用”為先決條件。共同富裕時(shí)期,有必要兼顧算法規(guī)制在數(shù)據(jù)效能釋放和個(gè)人信息保護(hù)的權(quán)衡取舍方面同過(guò)去算法規(guī)制大異其趣的判斷標(biāo)準(zhǔn),以便對(duì)未來(lái)算法決策的法益衡量體系予以補(bǔ)充和細(xì)化。此外,基于個(gè)人信息保護(hù)的算法規(guī)制措施的實(shí)際效率同既定場(chǎng)景中潛在施害者能夠獲得數(shù)據(jù)的豐裕程度、個(gè)人信息同集體信息的聯(lián)絡(luò)水平反向相關(guān)?!秱€(gè)人信息保護(hù)法》第5、6條奠定的數(shù)據(jù)處理的“最小必要原則”正是通過(guò)降低信息豐裕度和聯(lián)絡(luò)度的方式打斷算法的過(guò)度約束。然而,升維至更加高級(jí)范式后,傳統(tǒng)的規(guī)制措施即暴露出保護(hù)能力的短板。隨著價(jià)值創(chuàng)造共享的“三次分配”,海量數(shù)據(jù)多源頭聚合是算法決策范式升維的必然常態(tài),數(shù)據(jù)、代碼乃至硬件環(huán)境事實(shí)上的“交互聯(lián)通”將愈發(fā)不能緩和社會(huì)之于技術(shù)可控的憂慮。〔30〕參見(jiàn)唐林垚:《隱私計(jì)算的法律規(guī)制》,《社會(huì)科學(xué)》2021年第12期。
過(guò)去的法學(xué)研究過(guò)度集中于“算法權(quán)力異化”的惡果避免,對(duì)“算法過(guò)程異化”的風(fēng)險(xiǎn)防范呼吁則讓位于“塑造良善的智慧治理秩序”的價(jià)值追求?!?1〕苗梅華:《智慧治理的時(shí)代面向與挑戰(zhàn)》,《國(guó)家檢察官學(xué)院學(xué)報(bào)》2020年第1期。與之相區(qū)別,接下來(lái)的討論將深入算法“過(guò)程異化”的各個(gè)階段,重點(diǎn)關(guān)注傳統(tǒng)算法規(guī)制的路徑依賴難以覆蓋的風(fēng)險(xiǎn)盲維,以及公權(quán)力、私權(quán)力和私權(quán)利間的“結(jié)構(gòu)性轉(zhuǎn)換”?!?2〕唐林垚:《公共治理視域下自動(dòng)化應(yīng)用的法律規(guī)制》,《交大法學(xué)》2022年第2期。在共同富裕政策的推進(jìn)過(guò)程中,各“算法密集型”行業(yè)必然產(chǎn)生新舊秩序的更替——以企業(yè)或平臺(tái)為邊界的科技創(chuàng)新,將逐步融為公私互助、跨行業(yè)跨區(qū)域融合的數(shù)字生態(tài)的一部分。誠(chéng)然,任何技術(shù)的“創(chuàng)造性破壞”并不當(dāng)然指向?qū)iT立法或特別監(jiān)管,但就算法范式升維而論,法律回應(yīng)不應(yīng)簡(jiǎn)單地建立在風(fēng)險(xiǎn)增量基礎(chǔ)上,而應(yīng)當(dāng)深入審視安全需求的內(nèi)涵發(fā)生的變化。
為推動(dòng)真正意義上價(jià)值創(chuàng)造共享的“三次分配”,算法決策新范式呈現(xiàn)出“去中心化”“扁平化”“透明化”等多重特性,但歸根結(jié)底,其最重要的全新特征是“融貫性”。融貫性既不同于“融合性”,也不同于“一貫性”,是指名義上各自獨(dú)立的數(shù)據(jù)處理環(huán)節(jié)在內(nèi)部規(guī)則的協(xié)調(diào)下進(jìn)行網(wǎng)狀聯(lián)結(jié)和動(dòng)態(tài)交互,從而實(shí)現(xiàn)環(huán)環(huán)相扣的算法目的的規(guī)整和統(tǒng)一。
回歸到具體的技術(shù)層面,共同富裕導(dǎo)向下的算法自動(dòng)化決策升維內(nèi)含四層融貫性。第一層是系統(tǒng)融貫,即升維后的算法自動(dòng)化決策系統(tǒng)具有全面性和“前后一致性”,〔33〕Jaap Hage,Law and Coherence,Ratio Juris,Vol.17,p.90(2004).各參與方之間能夠形成相互支持關(guān)系。第二層是周期融貫,即算法自動(dòng)化決策的各個(gè)流程能夠有序地“膠合在一起”,〔34〕Neil Mac Cormick,Coherence in Legal Justification,in Scott Brewer ed.,Moral Theory and Legal Reasoning,Garland Publishing Inc. Press,1998,p. 267.并在整體上產(chǎn)生全新的意義。第三層是環(huán)境融貫,即算法決策的“編碼層”具備橫向擴(kuò)展性和縱向兼容性。第四層是利益融貫,即算法決策的創(chuàng)新價(jià)值分配轉(zhuǎn)變?yōu)槎嘣嫦嚓P(guān)方的共贏共益式分配,商業(yè)價(jià)值與社會(huì)價(jià)值從假性對(duì)立走向和諧統(tǒng)一。
算法決策范式升維的融貫特性源于技術(shù)發(fā)展逐漸形成的復(fù)合型運(yùn)營(yíng)構(gòu)架。從升維路徑觀察,能夠促進(jìn)共同富裕綜合目標(biāo)實(shí)現(xiàn)的算法范式須至少包含三個(gè)交疊遞進(jìn)的構(gòu)架維度:決定基本功能和最終目的的方案構(gòu)建維度,決定技術(shù)手段和實(shí)施方式的關(guān)系擴(kuò)張維度,決定數(shù)據(jù)來(lái)源和合作主體的平臺(tái)交互維度。各維度間的“彼此串聯(lián)”和“內(nèi)在連續(xù)”,是實(shí)現(xiàn)高效優(yōu)質(zhì)算法決策的關(guān)鍵??梢?jiàn),法律介入算法決策范式升維的治理過(guò)程,應(yīng)以彌合各個(gè)維度間的關(guān)聯(lián)區(qū)隔和邏輯斷裂為基本目標(biāo)。隨著各個(gè)構(gòu)架維度的不斷細(xì)化以及維度間的互動(dòng)不斷加深,共同富裕視野下的全新算法范式對(duì)應(yīng)著三重前所未有的安全需求:一是方案構(gòu)建的目標(biāo)安全,禁止技術(shù)優(yōu)勢(shì)方以“共同富裕”之名行“中飽私囊”之實(shí);二是關(guān)系擴(kuò)張的技術(shù)安全,在提升“知識(shí)溢出”的同時(shí)盡量減少“風(fēng)險(xiǎn)溢出”;三是平臺(tái)交互的數(shù)據(jù)安全,即算法決策范式升維的“創(chuàng)造性破壞”不得動(dòng)搖繼續(xù)加強(qiáng)個(gè)人信息保護(hù)的整體共識(shí)。三重安全橫跨個(gè)體、技術(shù)方和國(guó)家,共同構(gòu)成了共同富裕視野下算法決策范式升維的總體安全需求。
精確把握算法范式升維所依托的各項(xiàng)新興技術(shù)的性質(zhì)、樣態(tài)和趨勢(shì)是未來(lái)法律完善的基本前提。正確的切入方法應(yīng)該是,以靜態(tài)視角觀察傳統(tǒng)算法決策、以動(dòng)態(tài)視角觀察新興技術(shù)的涌現(xiàn),并以融貫的視角觀察傳統(tǒng)算法決策為滿足共同富裕的要求而發(fā)生的范式升維。據(jù)此方法,共同富裕時(shí)期算法決策的法律保障既包括傳統(tǒng)算法規(guī)制的制度延伸,也包括針對(duì)新興技術(shù)的動(dòng)態(tài)規(guī)制,還包括順應(yīng)未來(lái)發(fā)展趨勢(shì)的法律準(zhǔn)備。概而言之,算法范式升維的法律應(yīng)對(duì)不能僅作“頭痛醫(yī)頭、腳痛醫(yī)腳”式的探尋,而需將算法升維的大勢(shì)所趨和由此引發(fā)的過(guò)程流變納入考量視野,以發(fā)展的眼光尋求“以變應(yīng)變”的治理之道。
共同富裕依賴“技術(shù)賦能”促進(jìn)“三次分配”,算法決策也因此朝著“多重融貫”的趨勢(shì)發(fā)展。然而,此番趨勢(shì)越是加深,算法應(yīng)用的場(chǎng)景增量和法律規(guī)則的固有存量間的張力便越發(fā)凸顯,這源于循序漸進(jìn)的國(guó)家法律在面對(duì)日新月異的技術(shù)變革時(shí),存在立法理念滯后、規(guī)制思維局限以及風(fēng)控意識(shí)欠缺等問(wèn)題。為消除算法范式升維的風(fēng)險(xiǎn)盲維,宜在宏觀層面確立適應(yīng)共同富裕需求的算法治理理念,逐步探索貼合中觀發(fā)展趨勢(shì)的規(guī)制方略,最終在微觀層面構(gòu)建精細(xì)、開(kāi)放、統(tǒng)合的法律規(guī)則。
算法范式升維在橫向擴(kuò)展和縱向兼容方面的融貫性,可能將非其直接受眾的蕓蕓眾生都“卷入”其中。例如,算法決策的“精密化”趨勢(shì)天然排斥觀點(diǎn)的多樣性,致使公共決策名不副實(shí),最終受害的是每個(gè)獨(dú)立的個(gè)體以及組建于個(gè)體之上的國(guó)家。〔35〕參見(jiàn)齊延平、何曉斌:《算法社會(huì)言論自由保護(hù)中的國(guó)家角色》,《華東政法大學(xué)學(xué)報(bào)》2019年第6期。在“減貧”和“均富”導(dǎo)向下,算法決策的新范式通常具有普惠、包容、精準(zhǔn)等優(yōu)勢(shì),但其潛在外部性也可能導(dǎo)致難以估量的社會(huì)成本向弱勢(shì)群體的不合理轉(zhuǎn)嫁。這就好比產(chǎn)能增長(zhǎng)能給工廠和工人都帶來(lái)更好的收益,但由此加劇的環(huán)境污染問(wèn)題,卻由工人和工廠周圍的居民概括承受。增產(chǎn)導(dǎo)致工人過(guò)勞,工人尚可主張工廠賠償,而環(huán)境污染的惡果可能需要?dú)v經(jīng)多年才能逐步顯現(xiàn),待當(dāng)事人覺(jué)察再行救濟(jì),早已過(guò)了“亡羊補(bǔ)牢”的最佳時(shí)機(jī)。有鑒于此,越是契合“共同善”的算法范式升維,就越應(yīng)當(dāng)警惕在當(dāng)下難以察覺(jué)、在未來(lái)積重難返的潛在算法“公害”。
筆者以“涉眾”的稱謂,統(tǒng)攝算法范式升維的直接、間接和潛在利益相關(guān)者,主張以“涉眾”而非“受眾”為中心重構(gòu)傳統(tǒng)算法規(guī)制體系。“涉眾”的概念外延寬于“受眾”,后者通常僅指算法決策相對(duì)方,即智能服務(wù)的用戶、平臺(tái)經(jīng)濟(jì)的消費(fèi)者、數(shù)據(jù)處理活動(dòng)中的數(shù)據(jù)主體等;“受眾”同算法決策提供方之間是直接的合同關(guān)系,受明示的“知情同意框架”的約束。前者則囊括了一切在當(dāng)下、在未來(lái)同算法范式升維息息相關(guān)的主體,包括但不限于受算法調(diào)配指揮的社會(huì)公民、被技術(shù)進(jìn)步所感化的普通大眾以及長(zhǎng)期缺乏話語(yǔ)權(quán)乃至被數(shù)字技術(shù)“邊緣化”的落后群體?!?6〕截至2022年2月,我國(guó)尚有27%的人口無(wú)法接觸到互聯(lián)網(wǎng),農(nóng)村地區(qū)的互聯(lián)網(wǎng)普及率僅為57.6%。參見(jiàn)中國(guó)互聯(lián)網(wǎng)絡(luò)信息中心:《第49次中國(guó)互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》,2022年2月25日。“涉眾”可能同算法服務(wù)提供方之間無(wú)合同關(guān)系,但可能在未來(lái)的某一時(shí)期間接被算法范式升維的“技術(shù)規(guī)約”所涵蓋。從保護(hù)“受眾”向保護(hù)“涉眾”的理念轉(zhuǎn)變,反映了對(duì)方案構(gòu)建目標(biāo)安全的內(nèi)在追求,有助于解決因模型脫嵌和理性前置導(dǎo)致的新問(wèn)題。茲列舉兩則具體建議,為未來(lái)制度構(gòu)建拋磚引玉。
1. 推進(jìn)涉眾集體訴訟的市場(chǎng)化監(jiān)督體制
集體訴訟是解決群體損害、保護(hù)用戶權(quán)益、節(jié)約司法資源的靈丹妙藥。新《證券法》規(guī)定,投資者保護(hù)機(jī)構(gòu)可在受50名以上投資者委托時(shí)以代表人身份參加訴訟,2020年7月公布的《最高人民法院關(guān)于證券糾紛代表人訴訟若干問(wèn)題的規(guī)定》將證券糾紛代表人訴訟分為 普通代表人訴訟和特別代表人訴訟,允許受損害投資者作為代表人,依照“明示加入”原則,代表其他眾多因同一證券違法行為遭受損害的投資者提起民事?lián)p害賠償。〔37〕吳黎華:《資本市場(chǎng)投資者保護(hù)開(kāi)創(chuàng)新格局》,《經(jīng)濟(jì)參考報(bào)》2021年12月1日。面對(duì)算法范式升維的潛在危害,集體訴訟同樣可為零散的“涉眾”提供便利、低成本的維權(quán)渠道,其“積銖累寸、聚沙成塔”的賠償效應(yīng)能夠?qū)λ惴ǚ妒缴S的監(jiān)管套利行為形成強(qiáng)大的威懾力和高壓態(tài)勢(shì)。更重要的是,面對(duì)異源同構(gòu)所導(dǎo)致的轉(zhuǎn)譯偏差和責(zé)任虛化等問(wèn)題,數(shù)名相同境況“涉眾”遭受“共同損害”的事實(shí)有利于建立算法決策和損害發(fā)生間的因果關(guān)系,即便算法新范式缺乏可解釋性,法官亦能基于“昭然若揭”的“現(xiàn)實(shí)經(jīng)驗(yàn)”進(jìn)行合理的責(zé)任推定。例如,在聯(lián)邦學(xué)習(xí)中,不同來(lái)源數(shù)據(jù)的強(qiáng)搭和錯(cuò)配可能對(duì)模型共訓(xùn)的聯(lián)合數(shù)據(jù)造成擾亂,導(dǎo)致單個(gè)數(shù)據(jù)主體不易察覺(jué)的“隱形算法歧視”,但當(dāng)海量“涉眾”都面臨極其不利的算法決策結(jié)果時(shí),假借模型共訓(xùn)之名、從數(shù)據(jù)向結(jié)果蔓延的群體傷害便不再隱秘。
2. 以“可闡述”取代“可解釋”的透明度標(biāo)準(zhǔn)
在提供精準(zhǔn)“受眾保護(hù)”的同時(shí)兌現(xiàn)更大范圍“涉眾保護(hù)”的承諾,將使得傳統(tǒng)的算法透明度標(biāo)準(zhǔn)從“可解釋”向“可闡述”轉(zhuǎn)變。這一方面是由于算法可解釋性本身就是一種代償性策略;另一方面則是出于對(duì)“解釋”行為本身的質(zhì)疑。從字面上來(lái)看,解釋系“分析闡明含義、原因、理由”,〔38〕中國(guó)社會(huì)科學(xué)院語(yǔ)言研究所詞典編輯室:《現(xiàn)代漢語(yǔ)詞典》,商務(wù)印書(shū)館2012年版,第666頁(yè)。其意義在于通過(guò)觀察和思考最終超越事實(shí)本身,提出新的見(jiàn)解。〔39〕[美]《國(guó)家科學(xué)教育標(biāo)準(zhǔn)》科學(xué)探究附屬讀物編委會(huì):《科學(xué)探究與國(guó)家科學(xué)教育標(biāo)準(zhǔn)—教與學(xué)的指南》,羅星凱等譯,科學(xué)普及出版社2004年版,第26頁(yè)??梢?jiàn),解釋是基于本體的認(rèn)知對(duì)客體進(jìn)行因果聯(lián)結(jié),由此產(chǎn)生的一切形式的因果規(guī)律都負(fù)載著主體的主觀意識(shí)。而“闡述”則正好相反,聚焦于對(duì)事實(shí)和可以被觀察到的狀態(tài)的“明晰地陳述”,不需要主體對(duì)此有任何演繹和論證的過(guò)程。
算法范式升維產(chǎn)生了一個(gè)個(gè)相互堆疊的技術(shù)黑箱,各項(xiàng)新興技術(shù)普遍存在“解釋不能”的情形,更何況,事后添加的解釋,其說(shuō)理方式極易“合乎情理”地演化為對(duì)政治和經(jīng)濟(jì)目的的盲目順從:在諸多可能的解釋中,出于自身利益或合規(guī)要求的考慮,選取一種最能夠自圓其說(shuō)的解說(shuō),但受眾或涉眾對(duì)此均無(wú)法證偽。〔40〕參見(jiàn)唐林垚:《公共衛(wèi)生領(lǐng)域算法治理的實(shí)現(xiàn)途徑及法律保障》,《法學(xué)評(píng)論》2021年第3期。事前的知識(shí)是理解的基礎(chǔ),但即便是科學(xué)方法也不足以解釋真相?!?1〕參見(jiàn)[德]漢斯-格奧爾格 · 伽達(dá)默爾:《詮釋學(xué):真理與方法》(下卷),洪漢鼎譯,商務(wù)印書(shū)館2021年版,第150-166頁(yè)。將理解視為人的“存在方式”,伽達(dá)默爾認(rèn)為,對(duì)話可以使“理解”變得從容和簡(jiǎn)單,通過(guò)“你來(lái)我往的言說(shuō)”“在視野中呈現(xiàn)”真理?!?2〕同前注[41],第575-579頁(yè)。
為減少算法服務(wù)提供商執(zhí)行異化和脫離問(wèn)責(zé)的可能性,算法范式升維的“可闡述性”應(yīng)當(dāng)滿足“相關(guān)者融貫”標(biāo)準(zhǔn),具體劃分為五個(gè)對(duì)話層次。第一層次針對(duì)的是用戶和受眾,即直接數(shù)據(jù)主體,要求算法服務(wù)提供商通過(guò)盡可能簡(jiǎn)單的語(yǔ)言,清晰闡述算法決策背后的技術(shù) 原理、數(shù)據(jù)調(diào)用的大致范圍以及可能存在的系統(tǒng)故障等。第二層次針對(duì)的是技術(shù)共益方,即各參與方,要求算法服務(wù)提供商就方案構(gòu)建的具體考量因素、流程安全的特別保護(hù)措施以及數(shù)據(jù)清洗的統(tǒng)一處理規(guī)范進(jìn)行闡述,盡量減少算法范式升維中的“精致利己行為”。第三層次針對(duì)的是政府和監(jiān)管部門,要求算法服務(wù)提供商主動(dòng)闡述算法應(yīng)用的安全性和可問(wèn)責(zé)性等,并闡述采取了何種措施來(lái)保障算法利用是善意的、負(fù)責(zé)任的。第四層次針對(duì)的是業(yè)內(nèi)行家和技術(shù)專家,要求算法服務(wù)提供商對(duì)所使用的各項(xiàng)技術(shù)進(jìn)行細(xì)致入微的信息披露,包括但不限于各項(xiàng)技術(shù)的合理性、適用范圍以及歷次優(yōu)化記錄,尤其是未經(jīng)時(shí)間驗(yàn)證的新興技術(shù)的使用緣由、潛在風(fēng)險(xiǎn)及風(fēng)控措施等。第五層次針對(duì)的是廣大涉眾,即非直接數(shù)據(jù)主體,要求算法服務(wù)提供商著重闡述算法決策背后的各項(xiàng)理念,以及服務(wù)盈利的基本模式、企業(yè)社會(huì)責(zé)任等,并就此作出算法決策不違背公序良俗、不危害公共利益的公開(kāi)承諾。
馬克思指出:“人的本質(zhì)……是一切社會(huì)關(guān)系的總和?!痹趥鞑W(xué)界,被廣泛接受的關(guān)于“人設(shè)”的精準(zhǔn)表述是:“身份是自我展現(xiàn)的社會(huì)鏡像。”〔43〕Roosendaal A.,Digital Personae and Profiles in Law-Protecting Individuals’ Rights in Online Contexts,Wolf Legal Publishers Press,2013,p.20.無(wú)論升維與否,算法決策依賴機(jī)器學(xué)習(xí)模型通過(guò)海量大數(shù)據(jù)“溫故而知新”,在算法看來(lái),數(shù)據(jù)主體既是“一切數(shù)據(jù)關(guān)系的總和”,也是“透過(guò)數(shù)據(jù)展現(xiàn)的數(shù)字鏡像”。數(shù)據(jù)主體的個(gè)人信息之所以得到保護(hù),是因?yàn)槠潴w現(xiàn)了自然人的可識(shí)別性;而個(gè)人信息保護(hù)的對(duì)象,并不局限于個(gè)人信息本身,更包括“個(gè)人在各種社會(huì)關(guān)系中身份構(gòu)建的自主性和完整性”?!?4〕陸青:《數(shù)字時(shí)代的身份構(gòu)建及其法律保障:以個(gè)人信息保護(hù)為中心的思考》,《法學(xué)研究》2021年第5期。
為實(shí)現(xiàn)關(guān)系擴(kuò)張的技術(shù)安全,個(gè)人信息保護(hù)的重點(diǎn)須從運(yùn)算結(jié)果的“輸出端”向數(shù)據(jù)服務(wù)的“過(guò)程端”轉(zhuǎn)變,亦即,在保護(hù)個(gè)人信息“數(shù)字身份”的同時(shí),額外注重對(duì)個(gè)人數(shù)字身份“生成方式”的保護(hù)。具體而言,在“輸出端”,法律著重保護(hù)的是個(gè)人數(shù)字身份的完整性和準(zhǔn)確性,預(yù)防碎片化的信息搜集通過(guò)差強(qiáng)人意的算法決策給數(shù)據(jù)主體的生活和發(fā)展帶來(lái)不利影響在數(shù)據(jù)服務(wù)的“過(guò)程端”,法律應(yīng)著重保護(hù)的是數(shù)據(jù)的聚合過(guò)程和疊加方式,特別是自由數(shù)據(jù)與第三方數(shù)據(jù)的交互和化合過(guò)程,可能給個(gè)人數(shù)字身份構(gòu)建帶來(lái)哪些積極或者消極的變化。由于個(gè)人數(shù)字身份具備一經(jīng)顯化即附著于復(fù)雜社會(huì)關(guān)系的虛實(shí)關(guān)聯(lián)性,恢復(fù)性的救濟(jì)方式無(wú)法在實(shí)質(zhì)上消除負(fù)面影響?!?5〕參見(jiàn)葉名怡:《個(gè)人信息的侵權(quán)法保護(hù)》,《法學(xué)研究》2018年第4期。與單純聚焦運(yùn)算結(jié)果“輸出端”的法律制度相區(qū)別,關(guān)注“過(guò)程端”的制度構(gòu)建將額外做出兩點(diǎn)改變:一是在預(yù)防性上下功夫,追問(wèn)協(xié)同合作與融通發(fā)展愿景下的數(shù)據(jù)處理機(jī)制,尤其是集體數(shù)據(jù)的“涌入”將在何種程度上干預(yù)算法范式升維的決策過(guò)程。二是賦予個(gè)人信息保護(hù)以團(tuán)體性價(jià)值,進(jìn)一步整合公法和私法層面的保護(hù)措施,制定“受眾”“涉眾”雙雙受益的差異化規(guī)則。
1. 個(gè)人信息保護(hù)影響的參與方“共同評(píng)估”
在算法范式升維的過(guò)程鏈條上,某些參與方可能因?yàn)閷?duì)梯度數(shù)據(jù)等過(guò)程數(shù)據(jù)的處理而成為“次數(shù)據(jù)處理者”,也可能因?yàn)槭苤鲗?dǎo)方委托代為處理數(shù)據(jù)而成為“從數(shù)據(jù)處理者”,還可能因?yàn)榇俪闪藬?shù)據(jù)供需方的數(shù)據(jù)交換而成為《數(shù)據(jù)安全法》第33條所定義的“數(shù)據(jù)交易中介服務(wù)機(jī)構(gòu)”。無(wú)論是上述哪種情形,參與方都必須履行《個(gè)人信息保護(hù)法》第55條規(guī)定的“個(gè)人信息保護(hù)影響評(píng)估”,主動(dòng)檢驗(yàn)數(shù)據(jù)處理活動(dòng)的合法合規(guī)程度。為了更好地保障平臺(tái)交互過(guò)程中的數(shù)據(jù)安全,除第56條規(guī)定的“目的和方式是否合法、正當(dāng)、必要”“對(duì)個(gè)人權(quán)益的影響及安全風(fēng)險(xiǎn)”“所采取保護(hù)措施是否與風(fēng)險(xiǎn)相匹配”等內(nèi)容,針對(duì)算法范式升維的“個(gè)人信息保護(hù)影響評(píng)估”還應(yīng)增加以下“共同評(píng)估”內(nèi)容:其一,各方清洗后的數(shù)據(jù)是否做到了編碼、口徑、格式方面的統(tǒng)一,是否會(huì)加劇整體數(shù)據(jù)集的原有缺陷;其二,主數(shù)據(jù)處理者和次數(shù)據(jù)處理者、從數(shù)據(jù)處理者、中介服務(wù)機(jī)構(gòu)之間是否存在有效的科層制約,彼此之間是否預(yù)設(shè)單向合理的權(quán)限遞減機(jī)制以精準(zhǔn)把控?cái)?shù)據(jù)的流動(dòng)范圍。此外,通過(guò)法律的因勢(shì)利導(dǎo),建立各大算法圈層內(nèi)部適用的參與方聲譽(yù)機(jī)制,對(duì)于過(guò)程安全性的提升亦十分重要。
2. 平衡權(quán)力結(jié)構(gòu)的平等權(quán)利設(shè)計(jì)
在結(jié)果輸出之前,允許數(shù)據(jù)主體適當(dāng)阻斷對(duì)自身不利結(jié)果的輸出過(guò)程,是緩解因技術(shù)優(yōu)勢(shì)濫用導(dǎo)致權(quán)力分配失衡問(wèn)題的關(guān)鍵所在??紤]到個(gè)人數(shù)字身份具備脆弱性和損害不可撤性等特點(diǎn),可在符合算法新范式流程的基礎(chǔ)上設(shè)置行權(quán)效果強(qiáng)于傳統(tǒng)“刪除權(quán)”和“被遺忘權(quán)”的“解除權(quán)”,允許數(shù)據(jù)主體將個(gè)人信息從算法范式升維的過(guò)程中“抽取”出來(lái)并自由決定其個(gè)人信息在不同數(shù)據(jù)處理者之間的流轉(zhuǎn)。為此,《個(gè)人信息保護(hù)法》中“個(gè)人信息轉(zhuǎn)移權(quán)”制度須同數(shù)據(jù)銷毀制度等結(jié)合,向上框定個(gè)人“可轉(zhuǎn)移”的權(quán)利客體范圍,向下完善“歸于消滅”的數(shù)據(jù)處理流程末端的“最后閉環(huán)”。在理想情況下,數(shù)據(jù)主體還可主動(dòng)行使“歸并權(quán)”,即,以明示同意允許其個(gè)人信息在特定數(shù)據(jù)處理者之間“為實(shí)現(xiàn)更精準(zhǔn)算法結(jié)果”的合并和協(xié)同處理。不過(guò),“歸并權(quán)”對(duì)數(shù)據(jù)規(guī)整程度的要求極高,需要來(lái)自數(shù)據(jù)主體的更高配合。遵循保護(hù)個(gè)人數(shù)字身份生成過(guò)程的全新理念,可酌情賦予數(shù)據(jù)主體在特定時(shí)間節(jié)點(diǎn)行使的“陳情權(quán)”,就不公正的算法決策請(qǐng)求公平聆訊和行政復(fù)議的機(jī)會(huì),讓“同為自然人”的政策制定者和專家委員會(huì)充分關(guān)注算法范式升維可能存在的過(guò)程風(fēng)險(xiǎn),并相應(yīng)制定出更加智治為人、以人為本的技術(shù)規(guī)則。為了杜絕權(quán)利濫用,“解除權(quán)”“陳情權(quán)”的行權(quán)主體應(yīng)為算法“受眾”而非算法“涉眾”,但權(quán)利教育的普及對(duì)象應(yīng)從“涉眾”抓起,以便最大限度減少“權(quán)利的睡眠者”?!?6〕相應(yīng)的,應(yīng)當(dāng)在行政法層面建立具備“開(kāi)放性、調(diào)試性、統(tǒng)合性的法律控制體系”,以便“超越單純的個(gè)案考量,形成處理不確定性問(wèn)題的積累型框架”。蘇宇:《面向不確定性的行政裁量及其法律控制》,《經(jīng)貿(mào)法律評(píng)論》2020年第4期。
每種技術(shù)都將在一定程度上重塑人類的感性生活,構(gòu)造出不同的組織方式,進(jìn)而改變?nèi)伺c人、人與物之間的關(guān)系。當(dāng)算法決策與共同富裕等宏觀目標(biāo)相勾連時(shí),算法決策就已經(jīng)脫離了具體的、可見(jiàn)的、簡(jiǎn)單的“物”,成為“社會(huì)文化現(xiàn)象”投射的一部分。在埃呂爾看來(lái),雖然人能夠賦予技術(shù)方向和定位,并為此目的而控制它,但技術(shù)同樣具有自身的目的,其“自主邏輯”是如此深刻地影響著整體社會(huì)的價(jià)值和意義,以至于“處在技術(shù)系統(tǒng)中的人們的行動(dòng)和思考都被技術(shù)因素改變”。〔47〕Jacques Ellul,The Technological Society,Alfred A. Knopf Press,1964,p.140.海德格爾將技術(shù)視為通過(guò)創(chuàng)作和產(chǎn)出將新物“帶出”和“達(dá)乎顯露”的解蔽方式,關(guān)注到了技術(shù)解蔽對(duì)其他解蔽方式的傾軋,并以“集置(Ge-Stell)”的隱喻描述“那種把人聚集起來(lái)、使之去訂置作為持存物的自行解蔽者”的促逼,〔48〕參見(jiàn)[德]馬丁 · 海德格爾:《演講與論文集》,孫周興譯,三聯(lián)書(shū)店2005年版,第20頁(yè)。而萬(wàn)事萬(wàn)物只有作為被訂置的“持存物”才有其立身之所。
技術(shù)對(duì)自然的促逼源于“技術(shù)把主體性形而上學(xué)的主—客對(duì)象性關(guān)系展開(kāi)為一種人與自然的暴力關(guān)系”,〔49〕孫周興:《技術(shù)統(tǒng)治與類人文明》,《開(kāi)放時(shí)代》2018年第6期。但技術(shù)對(duì)人的促逼遠(yuǎn)甚于此。技術(shù)可能通過(guò)幫助人類實(shí)現(xiàn)特定目標(biāo),再反過(guò)來(lái)將人類納入“集置”之中,而人類對(duì)此可能渾然不覺(jué)。例如,人類自以為自己是算法的操縱者,是利用算法實(shí)現(xiàn)特定目標(biāo)至高無(wú)上的主體,集置著有利于社會(huì)發(fā)展的一切。殊不知,當(dāng)人將特定目標(biāo)作為其努力和奮斗的目標(biāo)并試圖通過(guò)算法手段予以實(shí)現(xiàn)時(shí),人本身何嘗又不是一種被算法所占用的“解蔽方式”呢?換言之,算法技術(shù)為了自身的“安身立命”和“繁殖”,促逼著人要求人把特定目標(biāo)當(dāng)做一個(gè)階段性任務(wù)來(lái)完成,人已經(jīng)更為先驗(yàn)地歸屬于被訂置的“持存物”而履行某種功能;此即算法范式升維的第五層融貫——社會(huì)融貫,即算法憑借其“準(zhǔn)公權(quán)力屬性”反過(guò)來(lái)對(duì)社會(huì)大眾產(chǎn)生持續(xù)而全面的規(guī)訓(xùn)效應(yīng)。此時(shí),算法技術(shù)作為訂置著的解蔽,已不再是純粹的人類自主行為,恰恰相反,難逃算法“魔爪”的人們?cè)谑聦?shí)上以一種特別的方式被促逼進(jìn)入了解蔽之中。
此外,算法技術(shù)還可能超越人和自身以及存在者的關(guān)系,對(duì)人類社會(huì)產(chǎn)生危害。任何占統(tǒng)治定位的訂置,均有激勵(lì)去驅(qū)逐其他解蔽的可能性,甚至遮蔽具有“產(chǎn)出”意義的技術(shù)進(jìn)步本身,亦即,遮蔽任何具有解蔽意義的解蔽。以算法范式升維對(duì)應(yīng)的既有新興技術(shù)為例:2020年7月,歐盟法院判決歐盟—美國(guó)隱私盾無(wú)效,〔50〕Commissioner v. Facebook Ireland Limited,Maximillian Schrems(Case C-311/1).為了緩解兩大經(jīng)濟(jì)體之間的“數(shù)據(jù)荒”,歐洲數(shù)據(jù)保護(hù)委員會(huì)(EDPB)于同年11月印發(fā)《補(bǔ)充傳輸工具以確保遵守歐盟數(shù)據(jù)保護(hù)水平措施的建議》,將多方安全計(jì)算、聯(lián)邦學(xué)習(xí)、邊緣計(jì)算等涉及數(shù)據(jù)的“拆分或多方處理”的技術(shù)手段視為跨國(guó)數(shù)據(jù)處理主體主動(dòng)合規(guī)的證據(jù)。各國(guó)紛紛跟進(jìn),前有英國(guó)《公共部門數(shù)據(jù)使用信任問(wèn)題解決方案》,后有美國(guó)《促進(jìn)數(shù)字隱私技術(shù)法案》等,均將算法范式升維視為值得信賴的數(shù)據(jù)利用模式。由此觀之,無(wú)論是作為共同富裕的技術(shù)支撐,還是各國(guó)數(shù)據(jù)主權(quán)博弈的合規(guī)手段,各類支撐算法范式的新興技術(shù)均是具有一定“排他性質(zhì)”的訂置物,非其不可滿足共同富裕的數(shù)據(jù)效用追求亦或是跨境數(shù)據(jù)交流的區(qū)域安全觀,這就將遮蔽其他可能存在的解蔽方式,反而可能導(dǎo)致數(shù)字社會(huì)的發(fā)展停滯甚至退步。在政策嬗變和技術(shù)變革雙重外部因素作用下,應(yīng)對(duì)未來(lái)技術(shù)挑戰(zhàn)的法律準(zhǔn)備可從以下兩個(gè)方面著手。
1. 鼓勵(lì)全面多元的技術(shù)發(fā)展路徑
在“集置”的牽引下,技術(shù)所體現(xiàn)的科學(xué)性已經(jīng)不僅僅局限于技術(shù)使用者對(duì)世界的科學(xué)認(rèn)知,而是在技術(shù)發(fā)展演進(jìn)過(guò)程中,技術(shù)對(duì)周遭智力資源、社會(huì)財(cái)富以及政策投入的“虹吸”和“卷入”,讓個(gè)體和社會(huì)都被集置在高度系統(tǒng)化的技術(shù)邏輯中,進(jìn)而被促逼著去貼合、順應(yīng)這種集置的“科學(xué)需要”。對(duì)此,“后熊彼特主義”下的國(guó)家創(chuàng)新理論和產(chǎn)業(yè)創(chuàng)新理論帶給我們的啟示是,務(wù)必警惕將產(chǎn)業(yè)政策和財(cái)稅工具的優(yōu)惠過(guò)渡集于某一主體或技術(shù)、使其科技實(shí)力在短期內(nèi)迅速攀升的作法,而應(yīng)強(qiáng)調(diào)政府部門和私營(yíng)部門之間的協(xié)調(diào)與銜接,通過(guò)權(quán)責(zé)清晰、約束力強(qiáng)、可執(zhí)行性高的法律指引,最終形成科技創(chuàng)新、社會(huì)發(fā)展、環(huán)境改善、產(chǎn)業(yè)振興協(xié)同耦合的政策合力。為了緩解共同富裕國(guó)策下部分示范性技術(shù)對(duì)其他技術(shù)的排擠,應(yīng)當(dāng)允許地方政府根據(jù)自身優(yōu)勢(shì)和稟賦制定行政法規(guī)或發(fā)展規(guī)劃,鼓勵(lì)有條件的創(chuàng)新主體在人工智能垂直細(xì)分領(lǐng)域開(kāi)展全域自研,對(duì)于長(zhǎng)期從事非直接實(shí)用性基礎(chǔ)研究的企業(yè)和機(jī)構(gòu)進(jìn)行專門認(rèn)定并給予配套支持,最終形成有利于多元化技術(shù)發(fā)展的創(chuàng)新 生態(tài)。
2. 確立智治為人的法治建設(shè)目標(biāo)
算法決策的范式升維固然是科學(xué)技術(shù)進(jìn)步發(fā)展的體現(xiàn),但與此同時(shí),我們也應(yīng)時(shí)刻警惕算法技術(shù)在發(fā)展得更為先進(jìn)之后,形成具備科學(xué)性超驗(yàn)的價(jià)值系統(tǒng),并通過(guò)打消個(gè)體主動(dòng)認(rèn)識(shí)世界的主觀能動(dòng)性,使之逐漸被限定于集置的超驗(yàn)價(jià)值觀中,進(jìn)而不得不完全聽(tīng)任“算法網(wǎng)絡(luò)實(shí)時(shí)監(jiān)測(cè)和指揮”。〔51〕[以]尤瓦爾 · 赫拉利:《未來(lái)簡(jiǎn)史》,林俊宏譯,中信出版社2017年版,第296頁(yè)。換言之,算法的技術(shù)規(guī)程雖秉承于人的自由意志,但當(dāng)人的思想表達(dá)必須遵循算法建立的社會(huì)規(guī)范而展開(kāi)時(shí),這便是另一種真實(shí)存在卻又“表里不一”的自我言志。為了防止算法范式升維的“本末倒置”式濫用與“作繭自縛”式擴(kuò)張,有必要對(duì)未來(lái)技術(shù)應(yīng)用的法治建設(shè)目標(biāo)進(jìn)行梳理與排位。共同富裕旨在對(duì)人的全面發(fā)展有所促進(jìn),使人處于幸福感高位,而不是處于安德斯在《過(guò)時(shí)的人》一書(shū)中描繪的當(dāng)人意識(shí)到“不如自己創(chuàng)造的機(jī)器”時(shí)那種惶恐不安的狀態(tài)?!?2〕[德]京特 · 安德斯:《過(guò)時(shí)的人》(第1卷),范捷平譯,上海譯文出版社2010年版,第6頁(yè)。所以,未來(lái)法治建設(shè)的首要目標(biāo)在于遏制算法因升維導(dǎo)致的“跑偏”和“變味”,堅(jiān)持以人為本,將“智治”與“德治”充分結(jié)合。此外,個(gè)體掙脫被動(dòng)性服從的要點(diǎn)是避免“真善美”的價(jià)值判斷被技術(shù)所壟斷,有鑒于此,未來(lái)法治建設(shè)的另一重要目標(biāo)便是為“科學(xué)性超驗(yàn)”而非科學(xué)性本身提供可能的指導(dǎo)和庇護(hù),通過(guò)更加充分的規(guī)則準(zhǔn)備迎接算法社會(huì)的“奇點(diǎn)臨近”。
算法決策的范式升維,有助于提升人民群眾的幸福感、獲得感和安全感,反映了前沿科技提升國(guó)家治理水平、支撐共同富裕的美好愿景。前瞻研判算法自動(dòng)化決策的范式升維,使之在法治軌道內(nèi)安全、合規(guī)地發(fā)揮支撐共同富裕以及推動(dòng)社會(huì)主義現(xiàn)代化強(qiáng)國(guó)建設(shè)的作用,是新發(fā)展階段下法學(xué)界應(yīng)予以充分關(guān)注和仔細(xì)研究的重要問(wèn)題。即期內(nèi)行之有效的強(qiáng)監(jiān)管手段,可能在遠(yuǎn)期抑制產(chǎn)業(yè)的創(chuàng)新活力,不符合共同富裕的高質(zhì)量發(fā)展需求。以融貫視角審視 算法范式升維的三重安全需求,傳統(tǒng)算法規(guī)制的各項(xiàng)制度可以經(jīng)由“涉眾—受眾”“結(jié)果—過(guò)程”“遮蔽—解蔽”的認(rèn)知方法論予以改良,使新時(shí)期算法決策的法律規(guī)則在保留既有制度功能及優(yōu)勢(shì)的同時(shí),又符合共同富裕時(shí)期技術(shù)治理的發(fā)展需要。在滾滾向前的技術(shù)洪流面前,政策制定者宜秉持“有為”和“有不為”的開(kāi)放態(tài)度——法律真正應(yīng)當(dāng)回應(yīng)的是如何使算法權(quán)力朝著預(yù)設(shè)軌道合理行使,而不是如何根除算法權(quán)力的異化風(fēng)險(xiǎn)。