梁正 張輝

近年來，隨著我國新型基礎(chǔ)設(shè)施建設(shè)提速，經(jīng)濟(jì)實(shí)現(xiàn)高質(zhì)量發(fā)展的動(dòng)能更加強(qiáng)勁。人工智能作為新基建的重要組成部分，是新一輪科技革命和產(chǎn)業(yè)變革的核心驅(qū)動(dòng)因素，也是支撐新舊動(dòng)能轉(zhuǎn)換的重要力量。穩(wěn)經(jīng)濟(jì)大盤背景下，人工智能如何更好地發(fā)揮其作用，助力經(jīng)濟(jì)社會(huì)實(shí)現(xiàn)高質(zhì)量發(fā)展，并在此過程中，為人工智能發(fā)展把錨定向的人工智能治理，又將構(gòu)建怎樣的體系，發(fā)揮怎樣的作用，成為一項(xiàng)必須關(guān)注的前沿議題。

黨的十八大以來，伴隨國家治理體系和治理能力現(xiàn)代化持續(xù)推進(jìn)，以人工智能治理為代表的新興科技治理進(jìn)入了一個(gè)新的發(fā)展階段。全球范圍內(nèi)，各主要國家或代表性地區(qū)先后發(fā)布了人工智能相關(guān)戰(zhàn)略、規(guī)劃或重大計(jì)劃，以期在新一輪科技革命中取得競(jìng)爭(zhēng)優(yōu)勢(shì)。人工智能應(yīng)用不僅極大提高了交通、醫(yī)療、金融、教育、制造和農(nóng)業(yè)等傳統(tǒng)經(jīng)濟(jì)社會(huì)部門的生產(chǎn)效率，也提升了法治社會(huì)、政府管理、公共安全、危機(jī)應(yīng)對(duì)等多方面的現(xiàn)代化治理水平。與之相伴的是，全球范圍內(nèi)，對(duì)人工智能帶來的倫理風(fēng)險(xiǎn)、隱私侵犯、就業(yè)替代和技術(shù)安全等各方面的諸多爭(zhēng)議不絕于耳；世界諸國或地區(qū)漸有從“人工智能技術(shù)創(chuàng)新競(jìng)賽”向“人工智能技術(shù)規(guī)制競(jìng)賽”轉(zhuǎn)變之勢(shì)。構(gòu)建符合我國國家治理現(xiàn)代化需要的人工智能治理體系，勢(shì)在必行。

國家人工智能治理面臨的治理困境

人工智能作為新興科技的集大成者，本身就存在技術(shù)、社會(huì)、經(jīng)濟(jì)、政治等多方面的不確定性。世界諸國面對(duì)人工智能的態(tài)度各異，但是治理措施存在著一定的一致性。一方面，世界諸國都在積極發(fā)展人工智能技術(shù)、制定人工智能產(chǎn)業(yè)規(guī)劃，大力促進(jìn)人工智能的技術(shù)創(chuàng)新、發(fā)展與應(yīng)用；另一方面，世界諸國又通過立法、議案、規(guī)范等制度性約束，限制他國的人工智能企業(yè)或產(chǎn)業(yè)發(fā)展。因此，國家人工智能治理面臨來自國際和國內(nèi)的多重挑戰(zhàn)與治理困境。

在國際范圍內(nèi)，散落在世界各國或主要地區(qū)的治理原則與實(shí)踐經(jīng)驗(yàn)，還無法跟上人工智能發(fā)展的步伐，人工智能治理問題隨著快速的技術(shù)創(chuàng)新與廣泛的社會(huì)嵌入而日益突出。目前，國內(nèi)外人工智能治理的研究處于剛剛起步的階段，來自哲學(xué)、經(jīng)濟(jì)學(xué)、社會(huì)學(xué)、管理學(xué)、法學(xué)以及計(jì)算機(jī)、電子電氣等學(xué)科的學(xué)者都從各自領(lǐng)域進(jìn)行了一定的探討，但世界諸國對(duì)于什么是人工智能治理、什么是人工智能倫理、為什么進(jìn)行治理以及如何治理等還沒有形成深刻的成果與共識(shí)，從而制約了人工智能治理的發(fā)展。

而在國內(nèi)，人工智能技術(shù)的復(fù)雜系統(tǒng)特征和技術(shù)不確定性特征，使得國內(nèi)技術(shù)創(chuàng)新面臨著“高端產(chǎn)業(yè)低端化”的實(shí)踐傾向，產(chǎn)業(yè)促進(jìn)政策和技術(shù)治理措施往往難以落地。人工智能治理的國內(nèi)難題一方面來自于國際競(jìng)爭(zhēng)，另一方面在于地方政府競(jìng)爭(zhēng)格局導(dǎo)致的產(chǎn)業(yè)競(jìng)爭(zhēng)問題。前者關(guān)注人工智能技術(shù)體系的發(fā)展及其規(guī)制問題，重點(diǎn)在于國家整體的技術(shù)實(shí)力的提升。后者側(cè)重于通過地方標(biāo)準(zhǔn)、規(guī)范或地方立法等制度性約束單方面促進(jìn)人工智能的技術(shù)創(chuàng)新，而忽視了人工智能負(fù)外部性的規(guī)制議題。

人工智能的特征與風(fēng)險(xiǎn)

關(guān)于人工智能的定義本身就存在以偏概全的風(fēng)險(xiǎn)。對(duì)人工智能的本質(zhì)的哲學(xué)討論是人工智能技術(shù)創(chuàng)新和人工智能治理的基礎(chǔ)，但由于技術(shù)哲學(xué)流派眾多，定義“人工智能”幾乎是一件不可能的事情。在1950年，圖靈的文章《計(jì)算機(jī)與智能》建議通過“行為”來界定“思維”和“智能”，就此拉開了人工智能的序幕。其后幾十年，各路人物輪番登臺(tái)，但至今這場(chǎng)大戲的主題尚欠共識(shí)。據(jù)統(tǒng)計(jì)，世界范圍內(nèi)對(duì)“人工智能”存在著不下百種定義。從技術(shù)工程實(shí)現(xiàn)的角度來看，人工智能不是某種單一技術(shù)，而是包含一系列技術(shù)（如語音識(shí)別與計(jì)算機(jī)視覺）與分支學(xué)科（如生物學(xué)與心理學(xué)）的概念組合，但邊界模糊不清。從發(fā)展水平看，人工智能可分為“弱人工智能”和“強(qiáng)人工智能”。弱人工智能（WAI）只能在一些具體的單項(xiàng)領(lǐng)域表現(xiàn)出一定的超出人類智能的水平，而強(qiáng)人工智能（AGI，也被稱為“通用人工智能”）可以舉一反三，具有接近人類的通用性智能，目前一般只有在科幻作品中才能看到。當(dāng)前階段，人工智能主要是指，由大量依賴標(biāo)注數(shù)據(jù)驅(qū)動(dòng)的、基于反向傳播算法基礎(chǔ)上的一系列神經(jīng)網(wǎng)絡(luò)算法，來模擬人類專項(xiàng)智能的人工程序及其系統(tǒng)。

（一）新一代人工智能發(fā)軔于深度學(xué)習(xí)

考慮到人工智能技術(shù)對(duì)政治、經(jīng)濟(jì)、社會(huì)、法律、歷史、心理、環(huán)境等方面存在廣泛影響，對(duì)人工智能的特征與風(fēng)險(xiǎn)的認(rèn)識(shí)，有助于后續(xù)開展人工智能治理的相關(guān)工作。當(dāng)前階段，人工智能的技術(shù)特征的本質(zhì)來源于以“神經(jīng)網(wǎng)絡(luò)”為技術(shù)實(shí)現(xiàn)的“智慧即網(wǎng)絡(luò)”技術(shù)模擬理念。神經(jīng)網(wǎng)絡(luò)算法的本質(zhì)在于從構(gòu)造結(jié)構(gòu)上模擬人類大腦產(chǎn)生智能的過程——神經(jīng)元之間的聯(lián)結(jié)過程決定著人類認(rèn)知的發(fā)起和人類智慧的產(chǎn)生。此技術(shù)理念的缺點(diǎn)在于誤解有效解釋該神經(jīng)元聯(lián)結(jié)過程中的邏輯關(guān)系，無論是人類神經(jīng)元，還是“機(jī)器神經(jīng)元”。實(shí)際上，機(jī)器神經(jīng)元之間的決策權(quán)重關(guān)系的生成過程本質(zhì)上與人類神經(jīng)元的鏈接過程已經(jīng)存在諸多差異。以神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)的機(jī)器學(xué)習(xí)算法和深度學(xué)習(xí)算法，對(duì)神經(jīng)元權(quán)重關(guān)系的設(shè)置過程，更多的是一種根據(jù)預(yù)測(cè)目的或結(jié)果的精確度、擬合度等性能指標(biāo)需求拉動(dòng)的反向作用的迭代過程。

（二）大數(shù)據(jù)是人工智能的基礎(chǔ)驅(qū)動(dòng)因素

驅(qū)動(dòng)前述迭代過程的基礎(chǔ)要素是大數(shù)據(jù)。通過在大數(shù)據(jù)中提取實(shí)體的特征向量和特征值，并分析實(shí)體之間的關(guān)聯(lián)關(guān)系，決定著當(dāng)前人工智能的技術(shù)性能。利用概率統(tǒng)計(jì)和模式匹配的方法，從海量數(shù)據(jù)中將實(shí)體之間的關(guān)聯(lián)關(guān)系進(jìn)一步提煉為相關(guān)規(guī)則，產(chǎn)生最終預(yù)測(cè)、決策和執(zhí)行的依據(jù)。在此過程中可以看出，用于最終預(yù)測(cè)和決策的依據(jù)并不由人類外部給定，而是由人工智能系統(tǒng)在數(shù)據(jù)海洋中不斷進(jìn)行迭代訓(xùn)練，并由相關(guān)模型來決定，其決策邏輯更多基于概率統(tǒng)計(jì)與模型匹配，而非因果關(guān)系?；诖耍斯ぶ悄芗夹g(shù)被視為具有顯著的不可解釋性，即“技術(shù)黑箱”特征。因此，外部觀察者雖然了解其算法及其系統(tǒng)的基礎(chǔ)運(yùn)行原理，但是卻很難理解算法的決策過程，即使對(duì)技術(shù)專家而言，也是如此。這種技術(shù)不確定性嵌入在“輸入—算法—輸出”各個(gè)環(huán)節(jié)之中，如數(shù)據(jù)質(zhì)量的偏差，算法參數(shù)的隨機(jī)，以及難以避免的人為因素（如算法開發(fā)人員的價(jià)值觀），使得追蹤決策結(jié)果的影響根源，在技術(shù)原理層面上，顯得十分困難。因此，人工智能雖然大概率上能夠高效地解決很多預(yù)測(cè)類問題，但是技術(shù)的非因果性和不可解釋性，將是懸在人工智能系統(tǒng)使用者頭上的“達(dá)摩克利斯之劍”。一旦出現(xiàn)決策偏差，將對(duì)個(gè)人生命安全、健康或財(cái)產(chǎn)，或者組織甚至社會(huì)的安全帶來十分嚴(yán)重的不利影響。

（三）技術(shù)內(nèi)生性不確定性

在技術(shù)不確定性的基礎(chǔ)上，人工智能的社會(huì)應(yīng)用及其與人類的互動(dòng)將會(huì)帶來更大的不確定性。人工智能就如電力一樣，是一種通用目的技術(shù)，可以被國民經(jīng)濟(jì)的多種行業(yè)部門和生產(chǎn)生活環(huán)節(jié)使用。然而，人類行為自身也同樣存在非常高的復(fù)雜性和不確定性，如何使用、何時(shí)使用、在哪使用、誰來使用等問題始終伴隨著人工智能技術(shù)與社會(huì)的互動(dòng)過程。換言之，社會(huì)不確定性與人工智能技術(shù)不確定性的交織混合，導(dǎo)致人工智能應(yīng)用結(jié)果的不確定性以更大的指數(shù)級(jí)上升，利益相關(guān)方更加難以追蹤和掌控。尤其是在法律、醫(yī)療、安全和教育等領(lǐng)域，人工智能應(yīng)用的某些不確定性，可能為社會(huì)帶來非常大的風(fēng)險(xiǎn)。

除了不可解釋性的隱憂，人工智能的技術(shù)內(nèi)核——數(shù)據(jù)驅(qū)動(dòng)型算法還可能引致技術(shù)系統(tǒng)“自我強(qiáng)化”困境和“主體性”的難題。一方面，機(jī)器學(xué)習(xí)的原理在于對(duì)訓(xùn)練數(shù)據(jù)——?dú)v史數(shù)據(jù)集的高度依賴，從而使得人工智能使用者獲得的參數(shù)模型最大程度地集成訓(xùn)練數(shù)據(jù)的統(tǒng)計(jì)性特征，繼而使得后續(xù)的測(cè)試集和新生成的數(shù)據(jù)中不符合其特征分布的數(shù)據(jù)被視為異常值而被忽視。久而久之，人工智能技術(shù)使用者會(huì)就陷入“回音壁效應(yīng)”，形成自我強(qiáng)化的心理困境。人工智能的核心優(yōu)勢(shì)就是基于個(gè)性化大數(shù)據(jù)訓(xùn)練出來的“精準(zhǔn)”算法與模型，但是其風(fēng)險(xiǎn)也恰來源于算法和模型的“精準(zhǔn)”，因?yàn)槿斯ぶ悄芩惴軌蜃畲蟪潭壬蠞M足個(gè)體特征和喜好，而這恰恰限制了使用者接觸集合外的其他多元信息和新奇信息的機(jī)會(huì)，從而造成不斷追求信息卻又難以超越自我的平庸的內(nèi)卷化狀態(tài)。另一方面，人工智能廣泛而深入地應(yīng)用與擴(kuò)散，勢(shì)必使得人與機(jī)器的分工界限越來越模糊，從而形成人工智能的“主體性”難題。根植于傳統(tǒng)制造業(yè)或農(nóng)業(yè)領(lǐng)域的社會(huì)化大生產(chǎn)，在強(qiáng)調(diào)技術(shù)工具在生產(chǎn)力的根本性構(gòu)成作用的同時(shí)，也將之與技術(shù)使用者——人類進(jìn)行了清晰的劃分。但是，隨著人工智能技術(shù)廣泛而深入地滲透到社會(huì)之中，技術(shù)的權(quán)利、責(zé)任與義務(wù)的承擔(dān)主體在人與機(jī)器之間難以進(jìn)行清晰準(zhǔn)確的劃分，這在人工智能程序生產(chǎn)的文學(xué)作品的著作權(quán)界定、自動(dòng)駕駛引致的交通事故的責(zé)任認(rèn)定等關(guān)涉人的權(quán)利權(quán)益的應(yīng)用場(chǎng)景中表現(xiàn)尤為明顯；其直接結(jié)果是權(quán)利界定、利益分配、過失懲罰等傳統(tǒng)意義上的獎(jiǎng)懲機(jī)制的失效。

（四）人工智能的應(yīng)用性隱憂

人工智能技術(shù)深度嵌入經(jīng)濟(jì)社會(huì)生活，將會(huì)深刻地改變社會(huì)主體之間的權(quán)利關(guān)系，造成強(qiáng)者越強(qiáng)、弱者越弱的極化效應(yīng)。人工智能技術(shù)集合涵蓋了云計(jì)算、大數(shù)據(jù)等技術(shù)偏向性非常明顯的子技術(shù)系統(tǒng)，使得本就已經(jīng)在經(jīng)濟(jì)社會(huì)中處于支配地位的技術(shù)擁有者和使用者，能夠通過人工智能技術(shù)更進(jìn)一步地鞏固、擴(kuò)張或壟斷權(quán)力工具。在人工智能時(shí)代，數(shù)據(jù)成為國民經(jīng)濟(jì)社會(huì)中的新型“石油”。數(shù)據(jù)不僅在價(jià)值生產(chǎn)中起到越來越重要的作用，在知識(shí)生產(chǎn)和公共管理過程中的作用也越來越關(guān)鍵。在微觀企業(yè)層面，擁有人工智能技術(shù)、數(shù)據(jù)和資本的平臺(tái)型企業(yè)在社會(huì)經(jīng)濟(jì)發(fā)展過程中擁有越來越大的權(quán)力；平臺(tái)企業(yè)掌握大量用戶數(shù)據(jù)，包括其具象化的雙邊或多邊市場(chǎng)中的多方技術(shù)使用者的狀態(tài)數(shù)據(jù)和行為數(shù)據(jù)；平臺(tái)企業(yè)可以利用人工智能技術(shù)分化用戶群體，分割用戶權(quán)益而不容易被監(jiān)管部門和社會(huì)公眾覺察（梁正等，2020）。與此同時(shí)，公共部門能夠使用人工智能技術(shù)提高公共服務(wù)效率，但這一過程也強(qiáng)化了政府部門管理個(gè)體公民的工具。在宏觀層面，以政府為代表的公共部門，往往難以及時(shí)跟進(jìn)人工智能技術(shù)和知識(shí)快速增長的需求，而人工智能企業(yè)和平臺(tái)將在公共政策甚至非正式制度改變中擁有越來越多的影響力。在此情景下，政府等公共部門和普通公民的話語權(quán)都將受到侵蝕，政府組織能力也會(huì)被平臺(tái)組織稀釋。一方面，公共部門和普通公民都可能成為經(jīng)濟(jì)組織廉價(jià)攫取數(shù)據(jù)燃料的供給者，卻難以分享相應(yīng)的收益；另一方面，他們可能在被動(dòng)使用人工智能技術(shù)的過程中，不斷單向度演化，造成內(nèi)卷化的風(fēng)險(xiǎn)。更值得擔(dān)憂的是，如果人工智能被武器化和軍用化，其精確度和自動(dòng)化響應(yīng)速度非傳統(tǒng)武器所能比，而這將導(dǎo)致國際社會(huì)形成更加激烈的自動(dòng)武器軍備競(jìng)賽，給整個(gè)人類安全帶來嚴(yán)重威脅。

人工智能治理的定義

治理是各種公共的或私人的機(jī)構(gòu)和個(gè)人管理其共同事務(wù)的諸多方式的總和。治理過程是使相互沖突的或不同的利益得以調(diào)和，并且采取聯(lián)合行動(dòng)的持續(xù)過程。保障該過程得以順利執(zhí)行的關(guān)鍵在于制度建構(gòu)，既包括需要人們服從的正式制度和規(guī)則，也包括各種人們同意或以為符合其利益的非正式的制度安排。治理（Governance）與傳統(tǒng)的統(tǒng)治（Government）存在很大的區(qū)別。在傳統(tǒng)的統(tǒng)治中，政府是唯一權(quán)威，而治理需要公私合作；在傳統(tǒng)的統(tǒng)治中，政府權(quán)力運(yùn)行一般采用自上而下的執(zhí)行過程，而治理一般需要多個(gè)相關(guān)利益主體通過互動(dòng)的過程來有限度地運(yùn)用各自的權(quán)力；統(tǒng)治一般以國家為邊界，而治理一般超越國家；統(tǒng)治權(quán)威一般源自法規(guī)命令，而治理權(quán)威依賴社會(huì)共識(shí)。

“治理”的概念和理念已經(jīng)應(yīng)用到很多新興技術(shù)領(lǐng)域，人工智能治理這個(gè)概念還處于定義之中，而人工智能定義的混亂使得人工智能治理的定義和內(nèi)涵分析也面臨更多的挑戰(zhàn)。第一，人工智能本身存在著諸多流派，如符號(hào)主義、聯(lián)結(jié)主義和行為主義；且流派之間的定義在特定的技術(shù)發(fā)展階段，因技術(shù)實(shí)現(xiàn)條件而存在諸多沖突之處。人工智能的內(nèi)涵界定同樣非常模糊；同時(shí)，作為通用目的技術(shù)，人工智能與多個(gè)學(xué)科領(lǐng)域存在交叉現(xiàn)象，也導(dǎo)致人工智能的概念邊界存在諸多模糊之處。第二，人工智能內(nèi)部運(yùn)行的算法邏輯難以厘清，其可能造成的經(jīng)濟(jì)社會(huì)影響很難判斷，對(duì)人工智能治理的對(duì)象存在“無的放矢”和“自說自話”的現(xiàn)象。第三，人工智能治理因?yàn)槿斯ぶ悄芗夹g(shù)而不可避免地涉及多元治理主體，但是，不同領(lǐng)域的相關(guān)利益主體對(duì)人工智能治理的內(nèi)涵存在不同的認(rèn)知和理解。從微觀的技術(shù)視角來看，相關(guān)利益主體主要包括各種類型的人工智能技術(shù)設(shè)計(jì)者和產(chǎn)品設(shè)計(jì)者，人工智能治理被視為“運(yùn)用技術(shù)實(shí)現(xiàn)的手段讓人工智能透明化、可解釋性更強(qiáng)、或者合乎技術(shù)倫理的過程與安排”。從中觀的組織視角來看，利益相關(guān)主體主要包括掌握人工智能和應(yīng)用人工智能的各類組織，而人工智能治理一般被定義為在運(yùn)用一系列工具、方案和手段來降低人工智能安全風(fēng)險(xiǎn)的基礎(chǔ)上充分開發(fā)利用人工智能的技術(shù)潛力。而從更加宏觀的視角出發(fā)，利益相關(guān)主體主要包括國家、政府和人類社會(huì)整體，人工智能治理則被認(rèn)為是為了確保人工智能的負(fù)責(zé)任創(chuàng)新和可持續(xù)發(fā)展而設(shè)計(jì)的標(biāo)準(zhǔn)、法律、規(guī)范、政策等一系列制度。

一般而言，人工智能治理包括兩類過程。其一，各技術(shù)利益相關(guān)主體利用人工智能技術(shù)優(yōu)化國家治理、社會(huì)治理或技術(shù)治理等治理體系的結(jié)構(gòu)，并利用人工智能技術(shù)提高其治理的效率和效能，即“用人工智能進(jìn)行治理（AI For Governance）”。其二，人工智能的相關(guān)利益主體在一定的制度環(huán)境中對(duì)人工智能的技術(shù)風(fēng)險(xiǎn)進(jìn)行有效預(yù)測(cè)并制定相應(yīng)的治理方案，對(duì)已經(jīng)出現(xiàn)的消極影響加以控制，即“對(duì)人工智能進(jìn)行治理（Governance of AI）”。然而，人工智能治理過程的階段性還需要考慮技術(shù)相關(guān)利益主體的參與和退出。理論上，人工智能治理體系需要考慮治理的核心價(jià)值（如發(fā)展、安全與人類自主性），多方治理主體的治理訴求和利益協(xié)調(diào)，以及相應(yīng)的治理機(jī)制和制度保障。因此，筆者認(rèn)為，人工智能治理是指政府、社會(huì)、市場(chǎng)等領(lǐng)域的利益相關(guān)主體通過正式或非正式的制度安排，共同推動(dòng)人工智能體系的創(chuàng)新、科研、生產(chǎn)及應(yīng)用，并利用人工智能提升人類福利；同時(shí)，識(shí)別、預(yù)防和應(yīng)對(duì)人工智能技術(shù)創(chuàng)新和應(yīng)用引致的政治經(jīng)濟(jì)社會(huì)風(fēng)險(xiǎn)與不良影響。

人工智能的綜合性治理框架

總體上，目前人工智能治理的定義和邊界還比較寬泛，缺乏一個(gè)廣受國際社會(huì)認(rèn)可的界定。人工智能治理的研究散落于各個(gè)具體的應(yīng)用領(lǐng)域和層面，較少從社會(huì)經(jīng)濟(jì)系統(tǒng)的整體層面進(jìn)行探索。

從治理的要素來看，現(xiàn)有研究對(duì)于治理的價(jià)值（目標(biāo)）、機(jī)制和對(duì)象的研究明顯不足。現(xiàn)有研究主要關(guān)注人工智能治理的現(xiàn)狀、問題以及對(duì)策，但是對(duì)為什么進(jìn)行治理還沒有較多的討論和共識(shí)。

從治理對(duì)象來看，現(xiàn)有研究多只是把人工智能作為一個(gè)籠統(tǒng)的對(duì)象，或者關(guān)注某個(gè)具體算法或應(yīng)用領(lǐng)域，而較少從整體上考察數(shù)據(jù)、算法以及應(yīng)用之間的關(guān)系。實(shí)際上，數(shù)據(jù)、算法和場(chǎng)景具有不同的應(yīng)用范圍，需要分層次進(jìn)行治理。例如，數(shù)據(jù)雖然是人工智能發(fā)展的基礎(chǔ)，但也是其他數(shù)字技術(shù)和商業(yè)模式的重要投入，是第四次工業(yè)革命背景下的基礎(chǔ)市場(chǎng)要素，因而是一個(gè)需要社會(huì)進(jìn)行整體治理的對(duì)象，而不僅僅是針對(duì)人工智能。

具體到應(yīng)用領(lǐng)域，雖然都體現(xiàn)人工智能技術(shù)的共性特征，但是場(chǎng)景特征與風(fēng)險(xiǎn)千差萬別，治理問題與挑戰(zhàn)各有不同，需要對(duì)技術(shù)和場(chǎng)景做出分類，才能精準(zhǔn)治理。此外，人工智能技術(shù)應(yīng)用不可避免地帶來一些負(fù)外部性問題，這也需要納入人工智能治理對(duì)象中。從治理機(jī)制來看，雖然不少主體都提出了各自的治理理念，尤其是組織層面的治理實(shí)踐已經(jīng)開始，但是尚未形成政府、產(chǎn)業(yè)和社會(huì)等多主體之間的協(xié)調(diào)互動(dòng)機(jī)制。未來研究需要更多結(jié)合相關(guān)政策和應(yīng)用場(chǎng)景，深入研究政府、市場(chǎng)和社會(huì)的合作分工互動(dòng)機(jī)制，既需要?dú)w納普遍性的治理原則，也需要因地、因時(shí)、因業(yè)制宜的具體治理策略。

人工智能的綜合性治理分析框架在于綜合考慮多元化的治理主體、多層級(jí)的治理對(duì)象、主體之間的價(jià)值共識(shí)、科學(xué)合理的治理過程和治理方式等與人工智能治理密切相關(guān)的治理要素。對(duì)于人工智能而言，廣義上的治理主體包括每一個(gè)被人工智能技術(shù)覆蓋的社會(huì)主體，包括社會(huì)公眾、市場(chǎng)組織、非營利機(jī)構(gòu)、政府部門等。雖然多元治理主體參與治理的合法性地位毋庸置疑，但是每一類治理主體因其概念化、判斷、分析、綜合、比較、推理、計(jì)算等方面的能力存在不同程度的差異，而展現(xiàn)出不同的治理能力。因此，人工智能治理需要在綜合理性思維的基礎(chǔ)上，兼顧相關(guān)治理主體的治理能力。

對(duì)于人工智能技術(shù)及其治理的利益相關(guān)方而言，無論是組織，還是個(gè)人，有限理性同樣決定了其作為治理主體的理性維度的選擇。而人工智能治理主體作為決策主體參與治理的過程中，實(shí)際上存在各自獨(dú)有的理性維度的權(quán)重序列。同時(shí)，在參與治理的過程中，差異化的治理能力分化了平臺(tái)利益相關(guān)方，由此形成治理實(shí)踐中不同利益相關(guān)方的參與程度各有不同。因此，為了兼顧人工智能的治理成本和治理效率，圍繞人工智能技術(shù)提供者和使用者，勢(shì)必需要將相關(guān)利益方分類為人工智能治理的核心治理主體與外圍治理主體；其中，人工智能技術(shù)的核心治理主體主要是指直接參與人工智能技術(shù)提供和使用的利益相關(guān)方，人工智能技術(shù)的外圍治理主體主要是指間接參與人工智能技術(shù)應(yīng)用的利益相關(guān)方。在此基礎(chǔ)上探索構(gòu)建人工智能的綜合性治理框架，以指導(dǎo)后續(xù)多主體協(xié)同的治理體系與互動(dòng)治理機(jī)制的構(gòu)建。

運(yùn)用綜合理性分析框架在于明確人工智能的理性內(nèi)涵，有助于為后續(xù)人工智能治理提供治理抓手。在多元治理主體理性偏好與治理能力分析的基礎(chǔ)上，將理性維度和主體維度加以整合，從而構(gòu)建人工智能治理所需的全景式治理分析框架。因此，人工智能治理的綜合性治理分析框架應(yīng)當(dāng)包括治理主體的專業(yè)化選擇、多理性維度、治理能力（包括治理工具、治理手段等）的三維治理體系。綜合性治理框架為人工智能治理提供了“理性坐標(biāo)系”，通過精準(zhǔn)定位治理主體和理性維度，能夠?yàn)椤昂椭C友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開放協(xié)作、敏捷治理”等治理原則和理念提供足夠的執(zhí)行空間，有助于明確多元治理主體之間的分工與合作機(jī)制，有助于確立人工智能治理的治理對(duì)象、治理方向和治理路徑，為構(gòu)建人工智能治理的協(xié)同治理體系提供分析框架。

人工智能治理實(shí)踐建議

依托人工智能治理的綜合性分析框架，人工智能治理實(shí)踐需要重視價(jià)值導(dǎo)向、囊括多元治理主體、厘清治理對(duì)象、明確治理機(jī)制，并運(yùn)用多尺度的治理工具。

（一）重視價(jià)值導(dǎo)向

圖1 人工智能治理綜合性分析框架

首要考慮是保證人們生產(chǎn)生活的安全，在此基礎(chǔ)上賦能經(jīng)濟(jì)發(fā)展，而更高層次的目標(biāo)是助力解決當(dāng)前人類社會(huì)面臨的可持續(xù)發(fā)展挑戰(zhàn)。就人工智能領(lǐng)域而言，一方面要對(duì)人工智能的發(fā)展保持支持和鼓勵(lì)的基本態(tài)度，另一方面也要對(duì)人工智能發(fā)展的不確定性、潛在風(fēng)險(xiǎn)和負(fù)面影響給予充分的關(guān)注，在確保人工智能有序發(fā)展和安全可控的同時(shí)，著力防止人工智能的濫用。因此，對(duì)人工智能的發(fā)展應(yīng)該保持包容審慎的基本態(tài)度，在確保人工智能安全和平等的底線基礎(chǔ)上，破除限制人工智能產(chǎn)業(yè)發(fā)展的制度束縛，利用人工智能賦能經(jīng)濟(jì)，以及服務(wù)社會(huì)可持續(xù)發(fā)展的目標(biāo)。

保證人工智能技術(shù)安全，是人工智能治理的底線目標(biāo)。在保證人類身體和財(cái)產(chǎn)安全的基礎(chǔ)上，人工智能治理需要維護(hù)公民精神上的尊嚴(yán)與平等。人工智能治理的一個(gè)現(xiàn)實(shí)目標(biāo)是減少阻礙人工智能技術(shù)發(fā)展的不利因素，推動(dòng)技術(shù)的廣泛利用，使得更多生產(chǎn)部門和人口可以享受技術(shù)帶來的紅利。在更高層面上，人工智能技術(shù)對(duì)于應(yīng)對(duì)人類的重大挑戰(zhàn)如氣候變化、環(huán)境污染、傳染病擴(kuò)散等方面具有巨大的潛力。

（二）囊括多元治理主體

人工智能技術(shù)研發(fā)、應(yīng)用與擴(kuò)散涉及多個(gè)異質(zhì)主體的權(quán)利與責(zé)任。因此，圍繞著人工智能治理議題，筆者梳理其核心治理主體和外圍治理主體，并明確各個(gè)治理主體的定位與治理職責(zé)。多元治理主體在人工智能社會(huì)技術(shù)系統(tǒng)中擁有不同的權(quán)限、資源、利益與限制，通過各種正式與非正式渠道不斷博弈平衡，構(gòu)成治理機(jī)制復(fù)合體。

人工智能正推動(dòng)著不同治理主體角色的轉(zhuǎn)變。例如，數(shù)據(jù)隱私保護(hù)條例的出臺(tái)涉及數(shù)據(jù)生成者（用戶）、數(shù)據(jù)聚合者（使用人工智能的平臺(tái)企業(yè)）、數(shù)據(jù)使用者（研發(fā)機(jī)構(gòu)）和數(shù)據(jù)監(jiān)管者（政府及其他）等多方利益主體之間的博弈和互動(dòng)，各方都應(yīng)當(dāng)具有人工智能治理的知識(shí)合法性或參與合法性。上述技術(shù)發(fā)展路徑和商業(yè)模式，同樣決定了人工智能治理與傳統(tǒng)技術(shù)治理框架存在諸多不同。政府通常是治理的核心，保有對(duì)社會(huì)（即各類非政府主體）的引導(dǎo)控制能力。因此，人工智能治理應(yīng)該構(gòu)建由人工智能企業(yè)（技術(shù)提供者或技術(shù)使用者）、公眾（技術(shù)使用者）、高校、科研機(jī)構(gòu)、政府部門、社會(huì)團(tuán)體等共同組成的治理主體集合，明確權(quán)責(zé)的歸屬，有效地實(shí)現(xiàn)不同治理主體之間的靈活互動(dòng)和敏捷溝通，從而更加高效地應(yīng)對(duì)人工智能帶來的多重治理挑戰(zhàn)。

（三）厘清多重治理對(duì)象

人工智能是個(gè)籠統(tǒng)的概念，包含眾多要素、技術(shù)和場(chǎng)景，若不加區(qū)別地把整個(gè)人工智能作為治理對(duì)象，將會(huì)造成治理問題的失焦。在人工智能技術(shù)的研發(fā)、生產(chǎn)、應(yīng)用和產(chǎn)生影響的過程中，既涉及人工智能算法和應(yīng)用的特殊性問題，也包括普遍性的基礎(chǔ)問題，如數(shù)據(jù)治理和個(gè)人信息保護(hù)，它們不僅是人工智能發(fā)展中面臨的問題，也是許多其他數(shù)字技術(shù)和商業(yè)模式發(fā)展所需解決的問題。因此，人工智能治理的對(duì)象需要有一個(gè)從普遍到特殊的分層治理過程，需要社會(huì)對(duì)共性的基礎(chǔ)問題達(dá)成共識(shí)，在人工智能的具體領(lǐng)域形成分場(chǎng)景、分級(jí)別的治理措施。對(duì)共性的數(shù)據(jù)和算法問題形成共性的底線約束，對(duì)應(yīng)用場(chǎng)景的個(gè)性化問題形成專門治理規(guī)則。

遵循分而治之的原則，從專項(xiàng)治理入手，為人工智能治理提供有效的抓手?？梢詫⑷斯ぶ悄苤卫聿鸾鉃閿?shù)據(jù)治理、信息治理、算法治理、算力治理、場(chǎng)景治理和外部環(huán)境治理等分項(xiàng)治理。繼而，在分項(xiàng)治理的基礎(chǔ)上，捋清各個(gè)分項(xiàng)領(lǐng)域的耦合關(guān)系和治理協(xié)同機(jī)制，進(jìn)行整體性治理。

（四）推進(jìn)多條治理機(jī)制

除了傳統(tǒng)技術(shù)治理強(qiáng)調(diào)政府聯(lián)合第三方組織規(guī)制人工智能服務(wù)提供商的經(jīng)濟(jì)行為之外，人工智能綜合性治理框架強(qiáng)調(diào)，治理不僅僅需要政府、人工智能組織和第三方組織積極參與，還需要將廣大的人工智能技術(shù)利益相關(guān)方納入治理過程中來。在確立人工智能治理價(jià)值共識(shí)的基礎(chǔ)上，梳理不同人工智能治理主體的價(jià)值分工，結(jié)合人工智能治理主體的治理能力，選擇與之契合的治理方式和治理工具，最終形成有針對(duì)性的人工智能的合作協(xié)同治理機(jī)制。

首先，針對(duì)人工智能治理，需要多元治理主體形成價(jià)值共識(shí)，這是多元治理主體進(jìn)行合作和協(xié)同治理的根基所在，也是全景式治理框架的內(nèi)在要求之一，應(yīng)當(dāng)全方位科學(xué)看待人工智能治理。其次，梳理人工智能治理主體的價(jià)值分工，治理主體之間取長補(bǔ)短，相互促進(jìn)，充分發(fā)揮治理主體各自的治理優(yōu)勢(shì)，最終形成治理合力。最后，人工智能治理主體之間形成動(dòng)態(tài)互動(dòng)的協(xié)同共治機(jī)制，并根據(jù)人工智能技術(shù)創(chuàng)新發(fā)展與治理的適時(shí)需求，創(chuàng)新治理方式和治理工具。

（五）運(yùn)用多尺度的治理工具

治理工具是治理主體用來解決治理問題的途徑、方法和手段。不同的工具有不同的優(yōu)勢(shì)和局限，在不同尺度、場(chǎng)景中發(fā)揮不同的作用。法律是治理最有強(qiáng)制力的工具，但法律制定一般無法跟上人工智能迅速變化的節(jié)奏，普適性和原則性較強(qiáng)的法律條款也難以滿足人工智能許多個(gè)性化應(yīng)用場(chǎng)景的需求。治理宣言、技術(shù)標(biāo)準(zhǔn)、行為規(guī)范、國際倡議等也逐漸被納入人工智能治理工具的范疇，并根據(jù)具體的治理問題和治理需求加以利用，實(shí)現(xiàn)治理工具的多樣化。因此，人工智能治理需要形成一個(gè)有層次的工具體系，各種工具各施所長，形成人工智能治理的合力。

在宏觀尺度上，國家政策是引導(dǎo)人工智能發(fā)展方向的重要工具，是一個(gè)國家體現(xiàn)人工智能治理價(jià)值的重要載體，不僅要規(guī)劃技術(shù)和產(chǎn)業(yè)發(fā)展的目標(biāo)和進(jìn)程，也需對(duì)如何負(fù)責(zé)任開發(fā)與應(yīng)用提出要求。在中觀尺度上，社會(huì)實(shí)驗(yàn)是一種有效的嘗試。在微觀尺度，則需要擁有更多的工具組合，主要包括技術(shù)標(biāo)準(zhǔn)、組織內(nèi)部治理規(guī)范和監(jiān)管科技。