岳彩申 青 彤
提要:政府開放數(shù)據(jù)的主要原因之一是建立透明政府。基于大數(shù)據(jù)和人工智能設(shè)計提高透明度作為數(shù)字政府的實踐指南,不僅可以實現(xiàn)透明度的有益功能,而且可以減少政府在自動化決策環(huán)境中所面臨的風(fēng)險。由于“透明度”是多維概念,包含不同意涵和功能。首先,我們從倫理規(guī)范、社會關(guān)系和制度語境闡釋“透明度”的意涵,進(jìn)而分析透明度在政府自動化決策實踐中的優(yōu)勢和挑戰(zhàn);其次,闡述政府開放數(shù)據(jù)和關(guān)聯(lián)數(shù)據(jù)實現(xiàn)透明度的基本理論——參與式生態(tài)系統(tǒng)論,并厘定影響政府透明度的維度和類型;最后,借鑒隱私設(shè)計,慎思與大數(shù)據(jù)相關(guān)的語境、技術(shù)、信息和利益相關(guān)者的敏感度等因素,提出基于人工智能設(shè)計提高政府透明度的三大階段和九項原則。
政府開放數(shù)據(jù)的主要目的之一是提高透明度。自20世紀(jì)90年代中期以來,政治家和政府開始創(chuàng)建政府門戶網(wǎng)站,發(fā)布政府信息,(1)有關(guān)政府信息概念,參見《中華人民共和國政府信息公開條例》第二條。包括預(yù)算和統(tǒng)計數(shù)據(jù)。進(jìn)而政府利用大數(shù)據(jù)和人工智能創(chuàng)建能夠做出基本自主決策的系統(tǒng)。傳統(tǒng)意義上,算法必須遵循規(guī)則實行手動編程,并把權(quán)重附加到特定的數(shù)據(jù)點;而機(jī)器學(xué)習(xí)算法改變了數(shù)據(jù)集中提取模式和預(yù)測方式。隨著計算機(jī)技術(shù)的發(fā)展,越來越多的政府將決策過程委托給算法——自動化決策,(2)有關(guān)政府自動化決策概念,比較《中華人民共和國個人信息保護(hù)法》第七十三條。它是大數(shù)據(jù)和人工智能系統(tǒng)的子集,且不需要人工參與即可做出決策的自動化過程。從政治和法律視角而言,自動化決策系統(tǒng)對個人和社會潛在的不利影響需要政府做出監(jiān)管反應(yīng),它關(guān)涉的核心問題是政府監(jiān)管在多大程度上能夠?qū)崿F(xiàn)透明度,民眾是否有權(quán)參與政府決策過程。
透明度已成為數(shù)字時代政府監(jiān)管的重要話題之一。作為政治制度的透明度,它意味著系統(tǒng)或組織讓第三方了解它們內(nèi)部的知識、過程和決策,適用于諸多領(lǐng)域,如組織結(jié)構(gòu)的透明度、會計和預(yù)算的透明度、政府行動和責(zé)任的透明度以及政府文件的透明度。在我國,《政府信息公開條例》的立法目的之一是“提高政府工作的透明度”(3)參見《中華人民共和國政府信息公開條例》第一條。;《中國政府透明度指數(shù)報告》(2010-2021)依據(jù)各類指標(biāo)評估了我國各級政府(鄉(xiāng)鎮(zhèn)除外)12年的政務(wù)公開情況;(4)參見《中國政府透明度指數(shù)報告》(2010-2021)。https://xianxiao.ssap.com.cn/catalog/6138742.html.《個人信息保護(hù)法》把透明度作為個人信息保護(hù)的基本原則;(5)參見《中華人民共和國個人信息保護(hù)法》第七條?!毒W(wǎng)絡(luò)安全法》提出“建立多邊、民主、透明的網(wǎng)絡(luò)治理體系”(6)參見《中華人民共和國網(wǎng)絡(luò)安全法》第七條。。
透明度是復(fù)雜而多維的概念。不同學(xué)科強(qiáng)調(diào)透明度的不同功能和優(yōu)點:“經(jīng)濟(jì)學(xué)家認(rèn)為透明度是最優(yōu)化市場的先決條件;政治學(xué)家把透明度概念化為政治參與的先決條件;法律學(xué)者強(qiáng)調(diào)透明度是行政合法的先決條件”。(7)A. Meijer, Transparency, In M. Bovens, R. E. Goodin, & T. Schillemans (Eds.), The Oxford Handbook of Public Accountability, Oxford: Oxford University Press, 2014, pp.507-524.
1.行政學(xué)視角
政府透明度是一種關(guān)系屬性,其基本定義是:如果一個代理(機(jī)構(gòu))I 對另一個代理(公眾)P 是透明的,那么它可以讓 P 獲得有關(guān)其基本運(yùn)作的足夠信息。由此,它必須滿足兩個條件:政府所提供的信息必須是充分的;政府信息必須以可獲得的方式公開發(fā)布。其基本意蘊(yùn)是:政府信息應(yīng)當(dāng)是可預(yù)見的、完整的和易獲取的,且從提供準(zhǔn)確結(jié)論的意義上是可推斷的。有關(guān)政府公共決策的透明度可分為三種類型:形式透明度,向公眾告知政府的最終決定或政策;過程透明度,關(guān)于形成政府決策的過程透明;理性透明度,關(guān)于政府做出決策所基于的原因和理由透明。(8)G. Michener, Policy Evaluation via Composite Indexes: Qualitative Lessons from International Transparency Policy Indexes. World Development, Vol.74, No.3, 2015, p.185.
2.金融法視角
提高透明度是建設(shè)法治政府的基本要求。透明度是法治的核心要素,公開和問責(zé)制是透明度的核心內(nèi)容。國際貨幣基金組織有關(guān)金融透明度的概念是政策的目標(biāo)、法律、體制和經(jīng)濟(jì)框架、政策決定及其基本原理、與貨幣和金融政策有關(guān)的數(shù)據(jù)和信息以及各機(jī)構(gòu)的問責(zé)條件,必須在可理解、可獲得和及時的基礎(chǔ)上向公眾提供。(9)IMF, Supporting Document to the Code of Good Pratices on Transparency in Monetary and Financial Policies, Jul.2000, p.4.它具體表現(xiàn)為依法明確中央銀行和金融機(jī)構(gòu)的作用、責(zé)任和目標(biāo),公開制定金融政策和貨幣政策的決定過程,并提供有關(guān)貨幣政策和金融政策的信息,實施問責(zé)和廉正保證。
3.信息學(xué)視角
從信息學(xué)視角透明度定義可格式化為:作為利益相關(guān)者A(公眾和其他組織)希望從利益相關(guān)者B(政府或其他公共機(jī)構(gòu))那里獲取信息,這樣A就可以在決策中使用這些信息。其基本意蘊(yùn)是:參與透明度規(guī)定過程的行為者之間的信息流動;通過披露信息使透明度變得更有意義;所披露的信息對特定利益相關(guān)人有用,即通過披露信息為他們提供決策能力;向利益攸關(guān)方保證披露信息的質(zhì)量。其具體化為:數(shù)據(jù)透明度,與數(shù)據(jù)、內(nèi)容和信息有關(guān),即在透明度語境下需要哪些信息以及誰是利益相關(guān)者;過程透明度,與過程、行為和交互有關(guān),即在透明度語境下從事特定行為的程序和方式;策略透明度,與目的、政策和決策有關(guān),即在透明度語境下執(zhí)行特定決定和行為的原因。
4.綜合視角:倫理規(guī)范、社會關(guān)系和制度語境
當(dāng)下闡述透明度概念主要關(guān)注透明度的信息維度,忽視了透明度在特定機(jī)構(gòu)、社會關(guān)系和系統(tǒng)實踐中的深度價值嵌入。首先,有關(guān)政府透明度要求的自動化決策算法不是信息技術(shù)明確界定和中立的組成部分,或者與實現(xiàn)細(xì)節(jié)無關(guān)的概念化對象,而是異質(zhì)和分散的社會技術(shù)系統(tǒng),(10)N. Seaver, Algorithms as Culture: Some Tactics for the Ethnography of Algorithmic Systems, Big Data & Society, Vol. 4, No.2, 2017,pp.1-3.它通過嵌入技術(shù)實例化而賦予其社會意義,并把多樣且往往是變動的角色融入技術(shù)和文化實踐中。其次,必須從批判和整體視角審視政府信息系統(tǒng),包括審慎思考數(shù)據(jù)發(fā)現(xiàn)涉及的政治經(jīng)濟(jì)、思想意識、知識形式、政府法律、實踐方式、地理位置和社區(qū)管理,并在算法分析中認(rèn)知數(shù)據(jù)的文化維度。最后,必須考慮算法本身的技術(shù)特征和現(xiàn)有社會結(jié)構(gòu)實際運(yùn)行所賦予的文化意義,尤其考量算法透明和負(fù)責(zé)任的努力本身可能改變數(shù)據(jù)運(yùn)行的社會場景。
我們闡釋和分析政府透明度概念應(yīng)當(dāng)從更廣泛的維度:一是,作為倫理規(guī)范的透明度是一種理想概念,它確定如何評估公共行為者的行為標(biāo)準(zhǔn),要求確定代理人、系統(tǒng)或組織在本質(zhì)上具有特定的價值和意義。由此,透明度要求政府對其運(yùn)行過程、行為方式、行為意圖以及所需要考慮的其他事項一致公開。二是,在社會關(guān)系視角下,透明度不是個體表征,而是代理人與信息接收者(被代理人)之間的一種信任—委托關(guān)系。代理人僅對其業(yè)務(wù)表現(xiàn)出開放是不夠的,接收者如何接受和理解它們的開放信息具有同等重要性。在此,透明度是關(guān)于特定行為者信息的可用性,且許可其他行為者監(jiān)督該行為者的工作或具體表現(xiàn)。(11)A. Meijer, Transparency, In M. Bovens, R. E. Goodin, & T. Schillemans (Eds.), The Oxford Handbook of Public Accountability. Oxford: Oxford University Press, 2014, p.511.三是,從系統(tǒng)觀點闡釋透明度必須考慮制度語境,充分認(rèn)識制度語境與信息披露的相關(guān)特征,包括相關(guān)法律、政府監(jiān)管和組織措施,因為這些信息對我們充分認(rèn)識政府透明度的實際影響至關(guān)重要。
因此,政府透明度作為一種規(guī)范理想或倫理要求,必須認(rèn)識其深深嵌入系統(tǒng)和組織基因的重要性;作為社會關(guān)系的透明度,必須確保透明度措施的設(shè)計和評估總是考慮政府信息對利益攸關(guān)方的影響;依據(jù)系統(tǒng)觀點的政府透明度必須考量執(zhí)行語境下的制度嵌入,尤其是問責(zé)制和政府公信力的作用與效果。
在信息維度下,透明度作為克服信息不對稱的手段,使信息在私人領(lǐng)域與公共領(lǐng)域之間流動,從而減少信息不對稱。然而透明度并非意味著信息接收者能夠完全獲取信息,它僅僅是指在不存在有問題的信息不對稱狀態(tài)下沒有人有更好的知情優(yōu)勢。因此,透明度作為一種平等參與,不僅確保雙方當(dāng)事人通過協(xié)商能力共享信息,而且保證每個人可以獲得關(guān)于過程或組織內(nèi)部運(yùn)行的相關(guān)信息。
1. 基于信息透明度要求的數(shù)據(jù)與可解釋性相關(guān)。參與決策過程的人應(yīng)當(dāng)在事前獲取關(guān)于數(shù)據(jù)處理的質(zhì)量或意圖的信息,并在事后獲得有關(guān)數(shù)據(jù)披露的結(jié)果。鑒于參與人有權(quán)獲得有意義的信息,并預(yù)測其后果,世界各國數(shù)據(jù)安全法規(guī)定了特定利益相關(guān)人的自主決定權(quán)。在專業(yè)標(biāo)準(zhǔn)和最佳實踐中,基于信息維度的透明度已轉(zhuǎn)化為可審查性概念。因此,透明度原則作為大數(shù)據(jù)語境下提高政府自動化決策能力的首要原則,與可追溯性、可驗證性、可解釋性和誠實設(shè)計聯(lián)結(jié)起來。
2. 基于大數(shù)據(jù)的信息方法使透明度與問責(zé)制聯(lián)結(jié)起來。通常,問責(zé)意味著政府對其決策和行為負(fù)責(zé),并對其后果承擔(dān)責(zé)任。透明度與問責(zé)制之間的聯(lián)系在于:政府運(yùn)用所創(chuàng)造的數(shù)據(jù)知識為邏輯系統(tǒng)的任何觀察提供洞見力;信息和數(shù)據(jù)知識又反過來成為追究系統(tǒng)責(zé)任的先決條件。在此,透明度僅指系統(tǒng)的透明運(yùn)作,它并非要說明為什么這個系統(tǒng)在政府決策方面做得更好。
3.提高透明度的另一優(yōu)勢是互信。信任是一種心理狀態(tài),它包括基于對他人意圖或行為的積極預(yù)期,從而從心理上接受該行為或后果。(12)D. M. Rousseau, S. B. Sitkin, R. S. Burt, & C. Camerer, Not so Different after All: A Crossdiscipline View of Trust, Academy of Management Review, Vol.23, No.3, 1998, pp.393-404.信任涉及委托人與代理人之間在能力、正直和誠信等方面的可信性評估。透明度不僅表明政府有能力按照預(yù)期或承諾行為,而且與誠信有關(guān),即政府透明披露信息是表達(dá)它們的誠信。有關(guān)透明度—信任關(guān)系的實證研究表明:透明度對政府管理和商業(yè)營運(yùn)具有積極影響,如社會資本增益、增加合作行為和聲譽(yù)溢出效應(yīng)。(13)J. Elia, Transparency Rights, Technology, and Trust, Ethics and Information Technology, Vol.11, No.2, 2009, pp.145-153.
因此,提高政府透明度不僅可以通過存放信息實現(xiàn)信息共享,而且許可政府與利益相關(guān)者之間更廣泛的互動和溝通:利益相關(guān)者有更多的學(xué)習(xí)機(jī)會,獲得他們實際需要的信息,滿足他們的特殊訴求;政府有更多機(jī)會與利益相關(guān)者進(jìn)行協(xié)商和溝通,并獲得有價值的反饋;所有信息參與者都有機(jī)會改變所提出的問題,挑戰(zhàn)所提供的信息,并不斷完善和重新定義其共享和相互沖突的利益。
盡管提高政府透明度可以帶來諸多公共利益,如經(jīng)濟(jì)和社會創(chuàng)新、公眾參與、公私合作和公共問責(zé),然而從信息視角闡釋政府透明度仍然備受質(zhì)疑。
1. 政府信息披露往往忽視透明度的需求要素。信息不僅需要披露,還需要被受眾接受和理解。為了使信息披露變得更加透明,信息必須適應(yīng)受眾需求。按照數(shù)據(jù)時代的信息觀點,透明度基本是靜態(tài)的:信息已存在,且可供被要求披露的人使用。其重心是信息的可獲得,而不考慮信息的性質(zhì)和語境、獲取和提供方式及其過程。換言之,信息僅僅被視為中立的事實,而不是社會建構(gòu)和解釋的人為產(chǎn)物,它很少考量隱藏于數(shù)據(jù)披露背后的遴選機(jī)制、程序和政治意義,因為提供透明度的嘗試從根本上只是形式,它們不創(chuàng)造關(guān)于組織的中立知識和觀察,而是以意想不到的方式重新組合。(14)L. Ringel, Unpacking the Transparency-Secrecy Nexus: Frontstage and Backstage Behaviour in a Political Party, Organization Studies, Vol.40, No.5, 2019, p.706.
2.與隱私有關(guān),政府公開披露信息可能導(dǎo)致敏感數(shù)據(jù)泄露。(15)參見《中華人民共和國數(shù)據(jù)安全法》第三十八條。使數(shù)據(jù)技術(shù)系統(tǒng)完全透明可能暴露敏感數(shù)據(jù)和私人數(shù)據(jù),尤其是個人數(shù)據(jù)用于訓(xùn)練機(jī)器學(xué)習(xí)算法。基于偏差較小的算法原則,政府和公共組織需要多樣化和具有代表性的訓(xùn)練數(shù)據(jù)集,其中包括來自社會弱勢群體的數(shù)據(jù),這些數(shù)據(jù)一旦公布可能使那些處于社會不利地位的人受到更大傷害。因此,要求政府信息透明和公開的吁求必須與隱私保護(hù)相權(quán)衡。
3. 透明度與問責(zé)制之間的積極聯(lián)系并非總是能夠?qū)崿F(xiàn)。透明度是否轉(zhuǎn)化為問責(zé)取決于體制語境、權(quán)力結(jié)構(gòu)、問責(zé)需求和其他推動因素。一是,計算機(jī)化的系統(tǒng)通常由許多人設(shè)計和操作,責(zé)任主體分散使承擔(dān)責(zé)任變得模糊不清。二是,軟件不可避免的錯誤為責(zé)任主體提供借口,使追責(zé)機(jī)構(gòu)對軟件錯誤的適當(dāng)分析模糊化,從而有效阻礙問責(zé)的實現(xiàn)。三是,當(dāng)行為主體出錯時很容易責(zé)怪算法,而不是相關(guān)責(zé)任人。四是,軟件開發(fā)人員斷然拒絕對他們的產(chǎn)品負(fù)責(zé),使其追責(zé)無濟(jì)于事。五是,沒有任何現(xiàn)成的系統(tǒng)能夠處理、消化和使用信息適應(yīng)變化,可預(yù)見性對于問責(zé)的目標(biāo)具有風(fēng)險。(16)M. Ananny, & K. Crawford, Seeing without Knowing: Limitations of the Transparency Ideal and Its Application to Algorithmic Accountability, New Media & Society, Vol.20, No.3, 2018, p. 978.
數(shù)據(jù)是可以由計算機(jī)(人或機(jī)器)對其進(jìn)行運(yùn)算的符號,是創(chuàng)造信息和知識的基礎(chǔ)。(17)L. Floridi, Philosophy and Computing: an Introduction, Routledge, London,1999, pp.106-108.依據(jù)數(shù)據(jù)的概念和特性,政府開放數(shù)據(jù)通常是指被政府信息管理系統(tǒng)設(shè)計為首先向用戶發(fā)布的主要數(shù)據(jù)、描述主要數(shù)據(jù)基本屬性的元數(shù)據(jù)、與信息系統(tǒng)的使用、性能或命令有關(guān)的操作數(shù)據(jù)以及從其他數(shù)據(jù)提取數(shù)據(jù)時的派生數(shù)據(jù)。
政府開放數(shù)據(jù)是任何人都可以獲得、使用和共享的數(shù)據(jù),或者任何人都可以出于特定目的自由訪問、使用、修改和共享數(shù)據(jù)。
1. 政府開放數(shù)據(jù)和關(guān)聯(lián)數(shù)據(jù)的優(yōu)勢在于,重復(fù)使用政府?dāng)?shù)據(jù),打開新的商業(yè)機(jī)會,提高透明度和公眾參與以及把政府?dāng)?shù)據(jù)處理的成本分配給社會。(18)參見《中華人民共和國數(shù)據(jù)安全法》、《中華人民共和國網(wǎng)絡(luò)安全法》和《中華人民共和國政府信息公開條例》。結(jié)合我國法律法規(guī)和數(shù)字政府建設(shè)實踐,政府開放數(shù)據(jù)的原則包括數(shù)據(jù)必須完整、來自主要來源、及時、可獲取、機(jī)器可處理、非歧視、非專有和無許可。其核心原則是制定和頒布法律,以公開數(shù)據(jù)的形式依法公布政府和其他公共部門的信息。質(zhì)言之,政府應(yīng)當(dāng)公布和公開使用公共資金形成的數(shù)據(jù),增加公眾獲取政府部門生成的高價值的、機(jī)器可讀的數(shù)據(jù)集,幫助公眾了解政府運(yùn)作過程和政策制定。
2.政府開放數(shù)據(jù)需要適當(dāng)?shù)闹贫劝才拧J紫?,它需要人員、技術(shù)和數(shù)據(jù)之間的多次重復(fù)互動,并制定協(xié)調(diào)行為、執(zhí)行過程和決策以及管理錯位和沖突的指導(dǎo)方針、程序和規(guī)則。其次,創(chuàng)建基于大數(shù)據(jù)分散管理技術(shù)的政府開放數(shù)據(jù)生態(tài)系統(tǒng),向公眾顯示使用開放數(shù)據(jù)的指導(dǎo)路徑,使公眾能夠鏈接不同要素的主要數(shù)據(jù)和元數(shù)據(jù)。最后,建立數(shù)據(jù)質(zhì)量管理系統(tǒng)和數(shù)據(jù)過濾機(jī)制,獲得低成本的通信技術(shù),使分享信息的成本降至最低,并建立信息聚合需要的認(rèn)知分類機(jī)制,使信息聚合在特定語境下保持敏感性,保留有價值的知識,排除無關(guān)或無用的知識。
3.在政府開放數(shù)據(jù)系統(tǒng)中,開放數(shù)據(jù)通常是由政府或政府控制的實體所產(chǎn)生或授權(quán)的數(shù)據(jù),為了預(yù)防潛在的數(shù)據(jù)歧視和濫用,政府需要創(chuàng)建數(shù)據(jù)技術(shù)保護(hù)機(jī)制。加密技術(shù)旨在增加未經(jīng)授權(quán)獲取數(shù)據(jù)的技術(shù)難度或成本;模糊技術(shù)旨在減少信息內(nèi)容,使敏感信息根本不會被發(fā)布,且即使使用聚合和推理,信息竊取者也無法獲得敏感信息;信譽(yù)技術(shù)旨在評估系統(tǒng)中其他代理(如信息接收者)的早期行為,以便使用統(tǒng)計和機(jī)器學(xué)習(xí)方法評估其可信性。
總之,政府開放數(shù)據(jù)的意義在于使公眾了解政府能力,它關(guān)乎政府內(nèi)部運(yùn)作能力的外在化。一方面,提高政府透明度使利益相關(guān)者對政府的決策和行為具有普遍的認(rèn)知,從而認(rèn)可公共政策;另一方面,政府開放數(shù)據(jù)在一定程度上克服信息不對稱,為政府實施決策和執(zhí)行政策提供良好的信任基礎(chǔ)。
關(guān)聯(lián)數(shù)據(jù)是指作為現(xiàn)代民主國家的公民可以自由獲取、共享和重復(fù)使用數(shù)據(jù)、信息和知識,從而擴(kuò)大我們的資源和能力。(19)C. Bizer, T. Heath, T. Berners-Lee, Linked Data-the Story so Far, International Journal on Semantic Web and Information Systems, Vol.5, No.3, 2009, pp.1-22.政府通過發(fā)布關(guān)聯(lián)數(shù)據(jù),使任何公民可以在網(wǎng)上發(fā)布和接收數(shù)據(jù),并以流暢的方式運(yùn)行人工智能算法,與其他人發(fā)布的數(shù)據(jù)資源相鏈接,從而獲取所需要的信息。
1. 參與式生態(tài)系統(tǒng)的技術(shù)屬性
政府開放關(guān)聯(lián)數(shù)據(jù)表現(xiàn)為關(guān)聯(lián)數(shù)據(jù)(基礎(chǔ)設(shè)施層)、關(guān)聯(lián)平臺(邏輯層)和關(guān)聯(lián)生態(tài)系統(tǒng)(社會層)三層重疊結(jié)構(gòu),依賴于更廣泛的生態(tài)系統(tǒng):一方面,政府開放關(guān)聯(lián)數(shù)據(jù)作為民主政府形式的基本資源表現(xiàn)為人、數(shù)字技術(shù)和數(shù)據(jù)之間分布式的交互作用;另一方面,從狹義的技術(shù)解釋,開放關(guān)聯(lián)數(shù)據(jù)的參與式生態(tài)系統(tǒng)是由用戶處理數(shù)據(jù)所需要的所有硬件設(shè)備、程序文件和數(shù)據(jù)組成。
(1)開放式。人、技術(shù)和數(shù)據(jù)之間的交互總是發(fā)生在特定環(huán)境中,它們的相互作用構(gòu)成內(nèi)部環(huán)境,可描述為一組給定的行動選擇。即使受環(huán)境限制,參與式生態(tài)系統(tǒng)也是高度動態(tài)的:人、技術(shù)和數(shù)據(jù)之間的交互隨環(huán)境變化而變化,且相互適應(yīng)。此外,參與式生態(tài)系統(tǒng)的開放性還表現(xiàn)為任何數(shù)據(jù)節(jié)點的輸出都可用作其他節(jié)點的輸入,數(shù)據(jù)相關(guān)人可以從簡單的向上鏈接發(fā)展為復(fù)雜的處理鏈。在此,參與式生態(tài)系統(tǒng)理論可稱之為適應(yīng)復(fù)雜系統(tǒng)理論。
(2)模塊化。通過政府開放關(guān)聯(lián)數(shù)據(jù)形式,數(shù)字工具支持公民和群體的各種模塊選擇:數(shù)據(jù)收集、事實核查、監(jiān)測、簽署訴愿書、眾籌、構(gòu)思、審議、起草、投票等等。在模塊化參與式生態(tài)系統(tǒng)中,信息參與者可以依據(jù)不同的興趣和偏好選擇不同的參與方式:簡單化的參與形式可能吸引大量的參與者;需要更多時間、認(rèn)知力或奉獻(xiàn)精神的參與形式吸引的人群較少。因此,參與式生態(tài)系統(tǒng)的參與程度是數(shù)據(jù)模塊化的綜合結(jié)果。
(3)分布式。參與式生態(tài)系統(tǒng)可描述為具有多節(jié)點的分布式溝通網(wǎng)絡(luò)。去中心化和分布式模型之間的區(qū)別并非總是清晰可見,盡管二者在概念上經(jīng)常被視為同義詞,然而分布式模型可視為分散系統(tǒng)的子集。換言之,使用一個還是另一個術(shù)語取決于技術(shù)規(guī)范(體系結(jié)構(gòu)和邏輯功能)和治理模型(決策過程、監(jiān)管和政治)的組合選擇。在分布式參與生態(tài)系統(tǒng)中,盡管社會可能描繪出許多邊緣群體或關(guān)聯(lián)集群,然而個人、群體和社會仍可視為同位節(jié)點,它意味著數(shù)據(jù)、軟件和其他文件可以通過復(fù)制數(shù)據(jù)存儲或?qū)Φ燃夹g(shù)在多站點上存儲和操作。由此,分布式提高了政府?dāng)?shù)據(jù)文件的長期可用性和操作可靠性,造福于社會。
2. 參與式生態(tài)系統(tǒng)的社會屬性
政府信息系統(tǒng)是人類行為者和技術(shù)組成部分相互關(guān)聯(lián)和相互作用的社會技術(shù)系統(tǒng)。從更廣泛的意義而言,政府開放關(guān)聯(lián)數(shù)據(jù)的參與式生態(tài)系統(tǒng)不僅涉及技術(shù)要素,還涉及社會要素。
(1)認(rèn)知責(zé)任。在復(fù)雜的政府?dāng)?shù)據(jù)系統(tǒng)中,對政策和干預(yù)負(fù)責(zé)任的人應(yīng)當(dāng)盡其所能,使他們能夠承擔(dān)創(chuàng)造知識條件的更多責(zé)任。由于政府決策者被特定的認(rèn)知語境所限定,他們往往依賴可支配的信息基礎(chǔ)設(shè)施。在大多數(shù)情形下,他們的決定和判斷質(zhì)量取決于他們的知識工具(信息系統(tǒng)、程序和數(shù)據(jù))的質(zhì)量。因此,政府決策者的重要責(zé)任就是在事前設(shè)計認(rèn)知資源和信息基礎(chǔ)設(shè)施,這是政府開放數(shù)據(jù)的主要目標(biāo)之一。
(2)設(shè)計隱私。隱私是現(xiàn)實信息社會中的利益相關(guān)人為實現(xiàn)對社會的認(rèn)識和理解所必須遵從的規(guī)范約束。雖然這一術(shù)語是指與個人、個人生活和個人身份有關(guān)的廣泛精神權(quán)利、需求、主張、利益和責(zé)任,但是隱私對于個人發(fā)展是必不可少的。因此,數(shù)據(jù)保護(hù)技術(shù)必須與數(shù)據(jù)挖掘技術(shù)和電子社會科學(xué)共同研發(fā)。設(shè)計和開發(fā)新形式的隱私保護(hù)是政府開放關(guān)聯(lián)數(shù)據(jù)的中心目標(biāo)之一。
(3)增加信任。信任意味著信任者和受托人之間的道德約束關(guān)系,這種關(guān)系部分由受托人遵從道德規(guī)范的信念或假定所構(gòu)成。在復(fù)雜的數(shù)據(jù)技術(shù)環(huán)境中,信任要求負(fù)責(zé)設(shè)計信任關(guān)系環(huán)境的組織和個人盡可能明確和透明地說明指導(dǎo)他們從事設(shè)計的價值觀、原則和政策,使塑造信息社會的價值觀、原則和政策具有公開性和透明,最終建立公平互信的信息社會。
總之,政府開放關(guān)聯(lián)數(shù)據(jù)的參與式生態(tài)系統(tǒng)是一個多層互動的框架體系:一方面,它是由社會技術(shù)層面多個相互依賴的維度、行為者(包括數(shù)據(jù)提供者、信息中介和信息消費者)、要素和單元所構(gòu)成;另一方面,它需要應(yīng)對與政策、許可、技術(shù)、融資、組織、文化和法律框架有關(guān)的挑戰(zhàn),并受技術(shù)基礎(chǔ)設(shè)施的影響。
在政府?dāng)?shù)據(jù)開放方面,透明度博弈涉及三方參與者:信息發(fā)送者(政府)、信息接收者(公民或組織)與透明度監(jiān)督者,其中重要的利益攸關(guān)方是開放數(shù)據(jù)的發(fā)布者和用戶。數(shù)據(jù)發(fā)布者的主要活動是披露數(shù)據(jù),這是數(shù)據(jù)使用的前提條件。然而僅僅只是披露數(shù)據(jù)并不必然帶來透明度,只有數(shù)據(jù)實際使用才能實現(xiàn)透明度。換言之,只有當(dāng)數(shù)據(jù)已披露且被利益相關(guān)人使用,才能實現(xiàn)透明度。在此,我們從兩個基本維度——數(shù)據(jù)披露與數(shù)據(jù)使用劃分了實現(xiàn)政府透明度的特定類型。
1.數(shù)據(jù)披露類型
政府要做到透明,就必須公開數(shù)據(jù)。公開數(shù)據(jù)是創(chuàng)建透明政府的前提條件。然而簡單地把政府?dāng)?shù)據(jù)置于網(wǎng)上顯然不夠。政府應(yīng)當(dāng)告知公眾個人數(shù)據(jù)類型、平臺收集或創(chuàng)建個人數(shù)據(jù)的方式、平臺使用個人數(shù)據(jù)的方式以及政府運(yùn)用什么方法確定個人數(shù)據(jù)的優(yōu)先順序、分配權(quán)重和數(shù)據(jù)排列,拒絕向公眾放大推薦內(nèi)容。關(guān)于信息質(zhì)量的元數(shù)據(jù)和信息披露的方式也實際影響政府透明度。
(1)數(shù)據(jù)的披露類型
政府?dāng)?shù)據(jù)和信息披露發(fā)生的情形是政府依法主動傳播和發(fā)布所需要的材料、公開會議(主動公開)和舉報人泄露(被動公開)。(20)《中華人民共和國政府信息公開條例》第三章和第四章。數(shù)據(jù)的披露類型依據(jù)不同披露方式分為兩個子維度:正式的數(shù)據(jù)披露(政府報告和公開政府會議)和非正式的數(shù)據(jù)披露(告密者舉報)。此外,還必須分析和查明數(shù)據(jù)披露的不同表現(xiàn)方式,如政府所披露的數(shù)據(jù)是同一類數(shù)據(jù)還是不同格式和條件的數(shù)據(jù)。
(2)數(shù)據(jù)披露的渠道類型
數(shù)據(jù)披露渠道是建立透明政府的重要步驟之一。隨著數(shù)字技術(shù)的發(fā)展,政府?dāng)?shù)據(jù)披露的渠道越來越多樣化,它包括下列類型:政府透明門戶網(wǎng)站;政府利用各種渠道所獲取的自由信息;開放的政府?dāng)?shù)據(jù)門戶網(wǎng)站;政府門戶網(wǎng)站;(21)中華人民共和國中央人民政府門戶網(wǎng)(https://www.gov.cn/)和地方各級人民政府官網(wǎng)(http://www.xx.gov.cn/)。政府公報和新聞發(fā)布會;政府服務(wù)廣告儀表板;戶外公共工程會計支出數(shù)據(jù);公共財務(wù)報表;基于政府黑板的文告;基于門戶網(wǎng)站的互聯(lián)網(wǎng);政府呼叫中心所提供的信息;政府呼叫中心提供獲取和需求的公共服務(wù)。數(shù)據(jù)披露渠道可以使用不同類型的技術(shù),其中特定的數(shù)據(jù)披露技術(shù)必須具有可解釋性,如公共財務(wù)報表、報紙、政府黑板文告和通過門戶網(wǎng)站的互聯(lián)網(wǎng)。
(3)用于披露數(shù)據(jù)的技術(shù)類型
用于披露數(shù)據(jù)的技術(shù)類型是數(shù)據(jù)披露的重要組成部分。我們可以列出下列技術(shù)類型清單:政治話語和公務(wù)員回復(fù);政府印刷品(書面文件、報刊、電子視頻、公共工程和服務(wù)戶外活動、標(biāo)志等);(22)參見《中華人民共和國政府信息公開條例》第二十三條。電子數(shù)據(jù)格式(靜態(tài)門戶網(wǎng)站、可下載文件等);實時電子可訪問數(shù)據(jù)(直接數(shù)據(jù)庫訪問和應(yīng)用程序編程接口)。
(4)披露數(shù)據(jù)的特征類型
披露數(shù)據(jù)的特征類型是指理解披露數(shù)據(jù)的各種因素和條件如數(shù)據(jù)質(zhì)量,同時必須考慮數(shù)據(jù)披露的類型、使用數(shù)據(jù)的渠道類型和技術(shù)類型以及它們的特定屬性。數(shù)據(jù)披露的特征類型可以細(xì)分如下:數(shù)據(jù)的準(zhǔn)確性;數(shù)據(jù)的及時性;數(shù)據(jù)的可訪問性;數(shù)據(jù)的完整性;數(shù)據(jù)的安全性;數(shù)據(jù)的可信度;零數(shù)據(jù);數(shù)據(jù)文檔;數(shù)據(jù)永久性和歷史;主要數(shù)據(jù)、元數(shù)據(jù)和關(guān)聯(lián)數(shù)據(jù);數(shù)據(jù)的非專有性;數(shù)據(jù)的非歧視性;數(shù)據(jù)的免許可;數(shù)據(jù)的可處理性;門戶網(wǎng)站簡單語言;開放數(shù)據(jù)政策與許可。
2.數(shù)據(jù)使用類型
政府只發(fā)布數(shù)據(jù)并不能實現(xiàn)透明度。提高政府透明度的第二步是數(shù)據(jù)使用,其中公眾使用數(shù)據(jù)的主要目的是解決他們所需要解決的問題,他們只有選擇自身認(rèn)為最好的技術(shù)和方式才能解決他們的利益和問題。按照這一原則,作為第二基本維度的數(shù)據(jù)使用又可以細(xì)分為下列類型。
(1)對數(shù)據(jù)使用感興趣的參與者類型
任何人或組織都是基于特定的旨趣把政府披露的數(shù)據(jù)運(yùn)用于已確定的特定業(yè)務(wù)或工作模式中,并使用自身所選定的技術(shù)收集、處理和分析各類數(shù)據(jù)。根據(jù)數(shù)據(jù)使用的主體特性,我們可以確定通常使用政府透明數(shù)據(jù)的五類行為者:學(xué)者;企業(yè);政府;新聞記者和有組織的社會社團(tuán)。
(2)對數(shù)據(jù)使用感興趣的類型
從使用披露數(shù)據(jù)的行為者來看,我們有必要了解他們使用這些數(shù)據(jù)的特定旨趣。根據(jù)數(shù)據(jù)使用者的偏愛和旨趣可以確定四種類型:提供公共服務(wù);問責(zé);政治宣傳和公眾參與。
(3)數(shù)據(jù)使用業(yè)務(wù)模式的類型
為了維持?jǐn)?shù)據(jù)的有效使用,適當(dāng)運(yùn)行的業(yè)務(wù)模式必不可少。我們根據(jù)業(yè)務(wù)模式運(yùn)行所使用的數(shù)據(jù)可以確定六種類型:政府的大數(shù)據(jù)分析;政府門戶網(wǎng)和參與程序;社會控制的政府門戶網(wǎng)(主要用于問責(zé));有組織的社會團(tuán)體門戶網(wǎng)和參與程序;有組織的社會團(tuán)體數(shù)據(jù)可視化門戶網(wǎng)站,以促進(jìn)政府和社會團(tuán)體之間的中間關(guān)系;通過廣告或由社會團(tuán)體或組織所支持的私人應(yīng)用程序,其目的在于為改善政府服務(wù)提供條件。
(4)數(shù)據(jù)行為者使用的技術(shù)類型
考慮到數(shù)據(jù)參與者使用政府開放數(shù)據(jù)是基于特定的旨趣,并遵循特定的業(yè)務(wù)模式,數(shù)據(jù)使用的技術(shù)維度顯得尤其重要。我們根據(jù)參與者使用數(shù)據(jù)的技術(shù)特性可以確定六種類型:計算機(jī)編程語言;數(shù)據(jù)可視化;地理編碼和繪圖;網(wǎng)絡(luò)分析;商業(yè)智能和數(shù)據(jù)挖掘。
總之,政府開放數(shù)據(jù)作為動態(tài)的生態(tài)系統(tǒng),是利用數(shù)據(jù)生成信息,賦予知識可動性,從而協(xié)調(diào)公民行動和政府集體決策。由此,數(shù)字技術(shù)使政府在開放數(shù)據(jù)生態(tài)系統(tǒng)內(nèi)實施多層鏈接成為可能。
術(shù)語“設(shè)計透明度”源于兩方面:一是隱私設(shè)計,卡沃基安創(chuàng)造“隱私設(shè)計”,構(gòu)想整體和綜合的隱私保護(hù)框架,幫助政府和組織分析隱私保護(hù)的積極價值,反駁最終以犧牲其他價值為代價實施隱私保護(hù)的假定。(23)A. Cavoukian, Privacy by Design: The 7 Foundational Principles,2009, Retrieved January 10, 2020.二是透明度預(yù)測分析,它側(cè)重于信息流,把實現(xiàn)透明度的過程分為三個部分:第一,人工智能系統(tǒng)的設(shè)計:政府開發(fā)新系統(tǒng)提高透明度的一般設(shè)計要求;第二,數(shù)據(jù)處理和信息分析:一旦系統(tǒng)被使用,信息提供使數(shù)據(jù)處理、決策過程和風(fēng)險變得更加透明;第三,問責(zé)制:在可檢驗、可回應(yīng)和可報道的決策過程中,政府面向組織和利益相關(guān)者的透明。(24)T. Z. Zarsky, Transparent Predictions, University of Illinois Law Review, Vol.53, No.4, 2013, pp.1503-1570.在此,我們設(shè)計政府透明度聚焦于透明度博弈三方參與者之一政府(信息發(fā)送者)設(shè)計透明度的總體需求、面向用戶(信息接收者)的系統(tǒng)信息提供以及組織意義上的透明度系統(tǒng)管理。在此,我們綜合我國有關(guān)政府透明度的法律、法規(guī)和其他規(guī)范性文件,結(jié)合有關(guān)政府透明度的學(xué)術(shù)文獻(xiàn)(25)《中國政府透明度指數(shù)報告》(2010-2021)提出評價我國政府透明度的一系列指標(biāo),如一級指標(biāo)“決策公開”項下的二級指標(biāo)包括重大決策預(yù)公開(40%)、規(guī)范性文件公開(30%)和政策解讀(30%)。https://xianxiao.ssap.com.cn/catalog/6138742.html、政策和行業(yè)報告,提出三個階段和九大原則。
政府及其設(shè)計系統(tǒng)的工程師和開發(fā)人員必須關(guān)注政府信息系統(tǒng)的基本價值和行政倫理,并系統(tǒng)分析運(yùn)用人工智能設(shè)計政府透明度的基本關(guān)切:一是,與系統(tǒng)所依賴的數(shù)據(jù)質(zhì)量有關(guān)的認(rèn)知關(guān)切;二是,對不平等、不正義和不公平結(jié)果的規(guī)范性關(guān)切;三是,政府決策的可追溯性。(26)B. D. Mittelstadt, P. Allo, M. Taddeo, S. Wachter & L. Floridi, The Ethics of Algorithms: Mapping the Debate, Big Data & Society, Vol.3, No.2, 2016, p.7.認(rèn)知關(guān)切促使政府及其設(shè)計人工智能系統(tǒng)的工程師審慎思考使用什么數(shù)據(jù)才能得出特定結(jié)論以及是否可以通過評估方式得出特定結(jié)論;規(guī)范性關(guān)切激勵政府及其工程師監(jiān)控人工智能系統(tǒng)的合法性和社會倫理影響,并尋找錯誤和偏見;決策可追溯性(尤其是機(jī)器學(xué)習(xí)算法)挑戰(zhàn)促使政府及其人工智能設(shè)計工程師考慮人工智能系統(tǒng)可能如何影響政府透明度,如果信息系統(tǒng)缺乏可追溯性可能對政府決策帶來多大影響以及政府在特定情形下所做出的決策缺乏可追溯性是不合理的。
1.主動性:主動,而不是被動(原則1)
政府采用技術(shù)和組織措施應(yīng)當(dāng)保證從人工智能系統(tǒng)開發(fā)之初就著眼于實現(xiàn)透明度。其基本假定是:技術(shù)必然體現(xiàn)價值,只有在設(shè)計過程中積極關(guān)注價值,才能確保它們的實現(xiàn)不會因意外的決策設(shè)計而變得更加困難。弗里德曼等人的價值敏感設(shè)計和艾姆·范·溫斯伯格有關(guān)醫(yī)療保健機(jī)器人以關(guān)懷為中心的價值設(shè)計已形成概念化方法,旨在實踐中實現(xiàn)其價值目標(biāo)。(27)B. Friedman, P. Kahn & A. Borning, Value Sensitive Design and Information Systems, In K. E. Himma& H. T. Tavani (Eds.), The Handbook of Information and Computer Ethics, Hoboken, NJ: Wiley. 2008, pp.69-101.因此,政府及其系統(tǒng)設(shè)計者必須從一開始就考慮如何使那些對系統(tǒng)決策感興趣的利益相關(guān)人(不同類別的用戶以及監(jiān)管者)能夠理解政府決策的標(biāo)準(zhǔn)和價值。
2.一體化:透明度視為一個完整過程(原則2)
政府在設(shè)計人工智能系統(tǒng)時應(yīng)考慮透明度需求的復(fù)雜性,必須超越透明度的靜態(tài)理解。政府的動態(tài)透明措施必須客觀處理決策過程的復(fù)雜性,并顯示系統(tǒng)的不同方面應(yīng)當(dāng)如何達(dá)到公共管理系統(tǒng)內(nèi)的決策標(biāo)準(zhǔn)。由于人工智能系統(tǒng)通常是從數(shù)據(jù)點進(jìn)行推斷,它可能得出超出這些數(shù)據(jù)所包含信息的結(jié)論。由此,政府必須闡明它們認(rèn)為可接受的決策標(biāo)準(zhǔn),包括制定一般原則和具體標(biāo)準(zhǔn)。從綜合視角而言,政府及其系統(tǒng)設(shè)計者必須認(rèn)識到借鑒不充分或未充分實現(xiàn)的決策標(biāo)準(zhǔn)可能對決策產(chǎn)生的實際影響。盡管人工智能系統(tǒng)的偏見和歧視并不能完全消除,然而政府必須努力減少偏見和歧視。為此,政府依據(jù)人工智能系統(tǒng)所做出的決策、數(shù)據(jù)集和形成人工智能系統(tǒng)決定的過程,包括數(shù)據(jù)收集、數(shù)據(jù)處理和算法使用都應(yīng)當(dāng)盡可能地以最佳標(biāo)準(zhǔn)進(jìn)行記錄,并運(yùn)用記錄過程查明政府自動化決策產(chǎn)生錯誤的原因。它有助于政府預(yù)測自動化決策可能給特定利益相關(guān)者帶來的不良后果,并防止可能發(fā)生的錯誤。
3.受眾關(guān)注點:以更多受眾敏感的方式進(jìn)行交流(原則3)
政府及其系統(tǒng)開發(fā)人員必須客觀對待透明溝通。政府的責(zé)任不僅是提供信息,而且必須考慮接收和解釋信息的可能受眾,因為透明度要求政府根據(jù)不同的信息接收者而有所不同。盡管正在處理個人信息的人是數(shù)據(jù)的主要接收者,但也必須考慮其他利益攸關(guān)方如各類系統(tǒng)用戶、監(jiān)管機(jī)構(gòu)或普通公眾,這是政府信息系統(tǒng)運(yùn)行的性質(zhì)和功能決定的。政府應(yīng)當(dāng)區(qū)分作為信息提供對象的一般公眾與特定受影響人,因為有關(guān)個人決策的特定信息需求是主要關(guān)切。政府提供給其他政府機(jī)構(gòu)、監(jiān)管機(jī)構(gòu)和公共機(jī)構(gòu)的信息不僅要針對它們的具體需求,而且要針對更多的技術(shù)要求,因為這些機(jī)構(gòu)比一般公眾擁有更多的相關(guān)專業(yè)知識和技術(shù)。換言之,如果針對除數(shù)據(jù)主體自身之外訓(xùn)練有素的第三方或代表公共利益的監(jiān)管者,透明度披露可能更具有影響力。(28)A. Tutt, An FDA for Algorithms, Administrative Law Review, Vol.69, No.1, 2017, pp.83-123.因此,政府必須讓受影響的個體、組織和監(jiān)管機(jī)構(gòu)自己做出決定,使數(shù)據(jù)披露更具有可信性。
此階段的重點是政府應(yīng)向利益相關(guān)者提供信息,包括處理數(shù)據(jù)的類型、處理數(shù)據(jù)的方式以及與數(shù)據(jù)處理相關(guān)的風(fēng)險。其核心問題是確定政府需要披露的信息,從而履行對利益攸關(guān)方的透明度義務(wù)。政府提供透明信息的目標(biāo)是使系統(tǒng)及其風(fēng)險對利益攸關(guān)方具有可解釋性。根據(jù)有關(guān)機(jī)器學(xué)習(xí)公平、問責(zé)和透明的算法原則,可解釋性意味著確保算法決策和驅(qū)動決策的任何數(shù)據(jù)都能以非技術(shù)術(shù)語的方式向終端用戶和其他利益相關(guān)者做出解釋,包括解釋系統(tǒng)的一般功能、系統(tǒng)內(nèi)數(shù)據(jù)的具體用途以及系統(tǒng)做出特定決定的信息。我國《數(shù)據(jù)安全法》針對不同的利益攸關(guān)方,確定了一些不同但密切相關(guān)的目標(biāo),為決策辯護(hù)、風(fēng)險控制、系統(tǒng)改進(jìn)和發(fā)現(xiàn)系統(tǒng)中隱含的新知識提供條件。因此,在多大程度上實現(xiàn)可解釋性取決于政府決策的背景、后果的嚴(yán)重程度以及相關(guān)利益主體的特殊性。
1.數(shù)據(jù)處理:解釋使用哪些數(shù)據(jù)和如何處理這些數(shù)據(jù)(原則4)
鑒于人工智能系統(tǒng)復(fù)雜決策的可解釋性受潛在技術(shù)限制,該原則要求政府及其工作人員為披露數(shù)據(jù)提供易于理解的描述性大綱:說明系統(tǒng)正在使用什么數(shù)據(jù)以及如何使用這些數(shù)據(jù),包括關(guān)于數(shù)據(jù)處理在哪個階段可以接受檢查以及監(jiān)管者何時在系統(tǒng)可以行使自由裁量、干預(yù)或監(jiān)管權(quán)的信息。政府?dāng)?shù)據(jù)可以在系統(tǒng)中用于各種功能。根據(jù)我國《數(shù)據(jù)安全法》規(guī)定,數(shù)據(jù)處理方式包括數(shù)據(jù)的收集、存儲、使用、加工、傳輸、提供、公開等。(29)參見《中華人民共和國數(shù)據(jù)安全法》第三條。在數(shù)據(jù)分析階段,從技術(shù)視角審視透明度意味著政府應(yīng)當(dāng)披露用于自動化決策的軟件。如果政府使用定制軟件,依據(jù)透明度要求則可能侵犯知識產(chǎn)權(quán),政府必須考慮設(shè)計相關(guān)各方都能接受且具有檢查屬性的系統(tǒng),而不必披露輸入和輸出數(shù)據(jù)及其源代碼,保護(hù)私人敏感數(shù)據(jù)和商業(yè)秘密。因此,可解釋性要求政府披露與系統(tǒng)有關(guān)且易于理解的信息:政府人員憑借個人意志行使自由裁量、干預(yù)或監(jiān)管時,必須提供透明信息;當(dāng)特定個體對政府決策的影響可能導(dǎo)致偏見時,應(yīng)使之透明;公眾享有不受政府自動化決策影響的權(quán)利,尤其是政府決策可能對公眾產(chǎn)生重要的法律后果或其他重大影響時。
2.決策標(biāo)準(zhǔn):解釋決策標(biāo)準(zhǔn)并證明其合理性(原則5)
除數(shù)據(jù)處理的可解釋透明外,政府應(yīng)當(dāng)注意解釋決策標(biāo)準(zhǔn)。政府對決策標(biāo)準(zhǔn)的解釋應(yīng)包含下列內(nèi)容:為什么某類數(shù)據(jù)是政府做出推斷的正常和可接受基礎(chǔ);為什么這些推斷在正常情況下可以被接受,且與政府自動化決策所選定的處理目的和類型有關(guān);用于得出推斷的數(shù)據(jù)和方法是準(zhǔn)確的,且統(tǒng)計上是可靠的。同時,政府對數(shù)據(jù)處理既需要事前預(yù)測,考慮哪些數(shù)據(jù)源與預(yù)期結(jié)果有關(guān);也需要對結(jié)果實施事后評估,考慮作為數(shù)據(jù)主體的第三方如何看待和評估政府決策的基礎(chǔ)推論,(30)S. Wachter, & B. Mittelstadt, A Right to Reasonable Inferences: Re-thinking Data Protection Law in the Age of Big Data and AI, Columbia Business Law Review, Vol.7, No.2, 2019, pp.494-620.且必須反思數(shù)據(jù)的來源與推論之間的聯(lián)系。
3.風(fēng)險披露:說明風(fēng)險和風(fēng)險緩解措施(原則6)
該原則的核心是使與人工智能系統(tǒng)運(yùn)行相關(guān)的風(fēng)險變得更加透明。傳統(tǒng)上,政府通過發(fā)布信息與人民進(jìn)行溝通,政府(或公共組織)與公民之間的信息溝通就是實現(xiàn)透明度,其中風(fēng)險溝通是知情同意的基本要素。政府自動化決策可能帶來新風(fēng)險:侵犯隱私、算法歧視和有偏見的決策以及聲譽(yù)、信息自決和有問題記錄的潛在存在。由于數(shù)據(jù)處理的模糊性,用戶對系統(tǒng)和政府自動化決策相關(guān)的風(fēng)險知之甚少。在此,了解風(fēng)險是實現(xiàn)政府透明度的先決條件之一,它有助于增加人工智能系統(tǒng)用戶的自主性和控制力。盡管我國法律并未規(guī)定有問題的政府自動化決策對個人造成損害究竟應(yīng)當(dāng)采取何種補(bǔ)救措施,(31)參見《中華人民共和國政府信息公開條例》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國網(wǎng)絡(luò)安全法》和《中華人民共和國個人信息保護(hù)法》。但是有關(guān)風(fēng)險的透明度不僅要求政府識別對隱私保護(hù)產(chǎn)生影響的風(fēng)險,而且必須解決算法偏見和歧視所帶來的風(fēng)險以及與政府自動化決策失敗相關(guān)的其他風(fēng)險。此外,政府在關(guān)于風(fēng)險的說明中應(yīng)當(dāng)包括有關(guān)減輕風(fēng)險措施的信息,使公眾更好地評估剩余風(fēng)險可能存在的范圍。因此,任何政府問責(zé)制都必須納入與形成風(fēng)險有關(guān)的信息。
以組織和利益攸關(guān)方為導(dǎo)向的透明度管理是設(shè)計政府透明度模式的最后階段,它涉及受眾參與社會關(guān)切的要求。政府既定的決策標(biāo)準(zhǔn)必須接受有效審查,且必須在實踐中得以遵從。由于政府和組織可能通過操縱、適應(yīng)或運(yùn)用行政倫理方式參與社會期望管理,有效的透明度管理需要政府的適當(dāng)性回應(yīng),但必須基于規(guī)范與倫理。必須依據(jù)有關(guān)政府自主決策與智能系統(tǒng)倫理一致性要求確定具體責(zé)任的分擔(dān)方式,即政府和組織應(yīng)當(dāng)為其使用算法所做出的決策負(fù)責(zé),即使因詳細(xì)解釋算法可能導(dǎo)致法律后果也不能回避責(zé)任,政府應(yīng)當(dāng)關(guān)注人工智能系統(tǒng)的“算法問責(zé)”(32)ACM, Statement on Algorithmic Transparency and Accountability, 2017, Retrieved January 10, 2020, https://www.acm.org/binaries/content/assets/public-policy/2017_usacm_statement_algorithms.pdf.。它支持一種非人主體責(zé)任形式,并受對機(jī)器負(fù)責(zé)的持續(xù)關(guān)注所影響。在此,以組織和利益相關(guān)者為導(dǎo)向的政府透明度管理是以系統(tǒng)的可追溯性和可審核性為前提??勺匪菪砸馕吨斯ぶ悄芟到y(tǒng)的設(shè)計方式許可追溯其決策之初,并許可信息參與人重建相關(guān)流程和決策記錄,從而確定決策的責(zé)任主體。可審核性意味著系統(tǒng)的設(shè)計必須許可適格的外部人員獲取有關(guān)政府信息的流程和決策因素,并對其適當(dāng)性做出判斷。其基本要求在于,問責(zé)制必須有明確的程序規(guī)定,且適合所要求的回應(yīng)和必要時適時變化。
1.可檢驗性:確保數(shù)據(jù)信息可檢驗和可審核(原則7)
政府人工智能系統(tǒng)自動化決策必須通過審核檢驗系統(tǒng)。這一原則涉及有關(guān)透明度的可追溯性而不是前瞻性。根據(jù)有關(guān)機(jī)器學(xué)習(xí)公平、問責(zé)和透明度原則,可審核性“通過數(shù)據(jù)披露提供有關(guān)監(jiān)管、檢查或批評的信息,包括提供詳細(xì)的文檔、技術(shù)上合適的應(yīng)用程序編程接口和許可使用條款,使感興趣的第三方能夠探測、理解和審查算法行為”(33)J. Zerilli, A. Knott, J. Maclaurin & C. Gavaghan, Transparency in Algorithmic and Human Decision-making: Is there a Double Standard? Philosophy & Technology, Vol.32, No.4, 2019, pp.661-683.。有關(guān)金融透明度的可檢驗性還包括針對有技術(shù)素養(yǎng)的利益攸關(guān)方的具體信息,但要求金融機(jī)構(gòu)在非專業(yè)人士可獲得信息的描述中必須提供關(guān)于決策依據(jù)的核心信息。由此,政府及其系統(tǒng)設(shè)計者和創(chuàng)建者不僅應(yīng)當(dāng)基于內(nèi)在能力引導(dǎo)審核員了解系統(tǒng)的基本技術(shù)路徑,而且應(yīng)當(dāng)針對各種典型和非典型場景的測試結(jié)果處理反事實事件。
2.可回應(yīng)性:對利益相關(guān)者的詢問和關(guān)切做出回應(yīng)(原則8)
此原則要求政府對個人和利益攸關(guān)方做出回應(yīng),這不是針對個人決策的可檢驗性問題。政府開放數(shù)據(jù)的可回應(yīng)性要求:(1)政府決策接受媒體、社會團(tuán)體、公共行政人員和普通公眾等利益攸關(guān)方的接觸和審查。如果利益相關(guān)者有合理的問題、疑問和顧慮,他們可以輕松地發(fā)起與政府的透明溝通。(2)政府和組織應(yīng)當(dāng)確保對透明度問題做出有意義的答復(fù),并兼顧個案。(3)部署人工智能系統(tǒng)的政府代表應(yīng)當(dāng)以積極的態(tài)度對待詢問,并對這些詢問做到認(rèn)真、及時和個性化回答,承認(rèn)詢問者所表達(dá)關(guān)切的有效性。在此,可回應(yīng)性不僅適用于未達(dá)到透明度標(biāo)準(zhǔn)的情形或透明度所暴露的相關(guān)關(guān)切,而且還必須涵蓋遵從任何制裁條件、實施嚴(yán)格的自我評估和采取有意義的矯正行為。
3.可報道性:認(rèn)真對待報告系統(tǒng)(原則 9)
依據(jù)該原則,政府及其系統(tǒng)設(shè)計者應(yīng)當(dāng)通過詳細(xì)報告使政府活動變得更加公開透明:(1)政府出版定期報告,提供與人工智能系統(tǒng)有關(guān)的信息吸收和使用、準(zhǔn)確性描述和信息匯總;政府風(fēng)險評估工具的開發(fā)者應(yīng)當(dāng)公布使用工具的法域、系統(tǒng)做出決定的數(shù)量以及決定結(jié)果。(2)在可能情況下,政府應(yīng)當(dāng)通過實地考察和比較分析其他決策的結(jié)果作為確定自身決策質(zhì)量的基準(zhǔn)。(3)根據(jù)信息的重要性和數(shù)據(jù)披露的即時性,政府報告可以每年、每季、每月或每天出版,且采用不同格式:從傳統(tǒng)的文本文檔,到提供聚合信息的可搜索平臺,再到許可提取和仔細(xì)檢查原始數(shù)據(jù)的應(yīng)用程序編程接口。此外,政府采用適當(dāng)?shù)膱蟾娓袷綉?yīng)考慮受眾的信息需求和能力,可根據(jù)最重要的利益攸關(guān)方和群體的需求加以分類排序。此原則與前兩項透明度管理原則相結(jié)合,要求部署系統(tǒng)的政府和組織以及受系統(tǒng)運(yùn)作影響的利益攸關(guān)方或公眾都能充分發(fā)揮主動性。
總之,設(shè)計相對合理的政府透明度模式應(yīng)當(dāng)符合我國國情、政府、組織、個人或其他群體的期許:設(shè)計理性的政府透明度模式,使政府和監(jiān)管機(jī)構(gòu)以公開和誠實的方式解釋它們所做出的決策和決定;以現(xiàn)有最新科學(xué)為基礎(chǔ),既關(guān)注政府透明度設(shè)計的復(fù)雜性、語境嵌入性以及隨后的局限性,又綜合考慮數(shù)據(jù)技術(shù)的發(fā)展速度、透明度概念的多維性、實現(xiàn)透明度的不確定性、處理不同利益攸關(guān)方的最佳方式以及政府實施透明度舉措的不同方式;實施任何作為風(fēng)險溝通方案的透明度舉措,政府都必須適當(dāng)?shù)卦u估,使利益攸關(guān)方通過提供反饋和創(chuàng)建新的數(shù)據(jù)資源參與改進(jìn)政府?dāng)?shù)據(jù)集。