鄭穎瑜

（廣西社會科學院臺灣研究中心，廣西 南寧 530022）

一、引言

人類正在開啟一場名為“智能革命”的重大技術變革，其重點在于對人類智能的模擬和提升［1］。處于初始階段的智能革命最顯著特征為人工智能的快速演進。在新冠肺炎疫情防控工作中，以大數(shù)據(jù)為基礎、以算法為技術框架、擁有強大算力的人工智能展現(xiàn)了驚艷世人的治理能力，智慧城市、城市大腦、車聯(lián)網(wǎng)等以人工智能為核心技術的治理方案正在逐步推廣，人工智能治理勢不可擋。一方面，人類已經(jīng)充分體驗到人工智能治理的高效率、智能化、精細化，對人工智能的依賴程度日漸加深。另一方面，隨著人工智能開始嵌入并主導越來越多的人類事務，機器人自主決策的“去人類化”或“去人類中心化”正在重塑人機關系［2］，人類存在的傳統(tǒng)價值正面臨前所未有的挑戰(zhàn)。正是因為人工智能正在弱化人的存在價值，人類不得不思考這樣一個問題——如何重塑人工智能治理中人的主體性？

在探討問題之前，首先對“人的主體性”這一概念進行分析和界定。關于人的主體性研究最早可以追溯到古希臘時期，哲學家普羅泰戈拉提出“人是萬物的尺度”［3］，認為萬物只有與自我聯(lián)結才能獲得意義，首次強調人的主體地位和主觀能動性。蘇格拉底的“認識你自己”原則認為外部世界的意義是通過人和人的心靈達成的，由此，人的能動性得以被突出和強調［4］。普羅泰戈拉與蘇格拉底的觀點看似相近，實際上普羅泰戈拉重視的是人的感性認識，認為事物就是每個人所感知的樣子；蘇格拉底則訴諸于人的理性和思維的力量來實現(xiàn)對外部世界的認識和把握。笛卡爾提出“我思故我在”原則，他認為所有知識都建立在“我思”這一基礎上，知識是否合理是通過人的思考進行驗證的，人的主體性在對科學知識的理性思考和把握當中得以體現(xiàn)［5］。西方哲學真正確立人的主體性原則是從康德開始的，康德從對主體和客體之間關系的探討中發(fā)展自己的主體性思想，他提出理性和自由是人的最高本質，在對理性和自由的訴求和擁有中，人作為主體積極能動地認識、構造，甚至變革客體［6］。馬克思認為人的主體性主要指人作為活動主體在對客體作用過程中所表現(xiàn)出來的能動性、自主性和自為性，并將歷史唯物論引入其主體性思想，提出人的主體性受到人的生產能力和與之相應的社會關系狀況制約，從而在人類社會發(fā)展的不同時期呈現(xiàn)不同面貌［7］。前人的研究為我們理解人工智能治理中人的主體性提供了重要的借鑒，一是在關于人的主體性的論述中提出一些重要的原則，包括主體性得以確立的根本前提是主客體二分觀念，人作為活動主體能夠認識和改造客體；二是根據(jù)馬克思的主體性思想，人的主體性應當是歷史的、具體的，沒有抽象的主體性。因此，在討論人的主體性時，既要把握重要原則，又要結合具體的歷史情境進行分析。當前，人類處于智能革命的新時代，人工智能強勢介入人類社會治理當中，在這一背景下談“人的主體性”，其具體內涵指的是人作為活動主體充分發(fā)揮能動性、自主性和自為性去主導人類社會的治理。其中，能動性側重于主體能力，表現(xiàn)為人作為主體在治理中的自覺選擇和創(chuàng)造；自主性側重于主體權利，表現(xiàn)為人作為主體對治理資源的占有和支配；自為性側重于主體的目的，“自為”即“為自”，表現(xiàn)為人作為主體開展治理的目的是為了增進人類福祉。

關于如何重塑人工智能治理中人的主體性，應當在深入分析人工智能治理對人類社會呈現(xiàn)出來的助力與風險基礎上，明確人工智能治理的邊界，引導技術的應用服務于增進人類福祉的目的。進一步地從人類自身出發(fā)探索將人的主體性帶回治理的有效路徑。文章正是基于上述思路開展對問題的研究。

二、人工智能治理：塑造更美好的人類社會

人工智能正在嵌入人類社會的方方面面，并展現(xiàn)出強大的治理能力，人工智能的應用進一步增強了治理的協(xié)同性，極大提升治理效能和提升人類決策效率，為塑造更美好的人類社會帶來強大助力。

（一）人工智能強化治理的協(xié)同性

人工智能正在推動跨部門的數(shù)據(jù)共享、流程再造和業(yè)務聯(lián)動，推動治理形式和服務方式從“碎片化”向“整體化”轉變。以深圳的智慧城市建設為例，2020 年的深圳城市“智慧大腦”是一個能看、能用、能思考、能聯(lián)動的智慧城市運行和指揮中樞，匯聚了各類信息系統(tǒng)和數(shù)據(jù)，已打通42 個系統(tǒng)，100 多類數(shù)據(jù)，28 萬多路監(jiān)控視頻，并形成了市—區(qū)—街道三級聯(lián)動指揮體系［8］。當前，城市“智慧大腦”運用大數(shù)據(jù)、云計算、人工智能等技術聯(lián)動，打通了司法、公安、交通、安監(jiān)、消防、環(huán)保等條狀業(yè)務系統(tǒng)，突破了部門間的信息壁壘，實現(xiàn)數(shù)據(jù)共聯(lián)共享。政府可以通過“智慧大腦”宏觀掌握城市運行的全局，并可以隨時查看城市各方面的動態(tài)詳情，實現(xiàn)用數(shù)據(jù)驅動城市治理的精細化、科學化、智能化。將來，人工智能在推進協(xié)同治理方面有更寬廣的應用場景，如在全球公共衛(wèi)生治理、全球生態(tài)環(huán)境保護、解決跨國犯罪問題等全球治理重大議題，能夠為推進國與國之間、地區(qū)與地區(qū)之間的合作提供強大技術助力。

（二）人工智能極大提升治理效能

一是人工智能嵌入治理，有利于形成公共需求表達——回應的高效通路。隨著現(xiàn)代社會的發(fā)展，公民對公共服務的需求越來越多元化。一方面現(xiàn)有的利益表達渠道難以充分反映公共需求，另一方面政府由于規(guī)模有限也難以充分回應日益增加的公共需求。而人工智能的應用，能夠為解決公共服務供給——需求之間不匹配的問題提供技術支持。目前，中國部分地方政府的電子政務應用人工智能對話系統(tǒng)，使公民可以通過與APP 或智能機器人進行對話，表達相關需求，智能政務系統(tǒng)能夠及時對公共需求進行回應，并實現(xiàn)全天候提供公共服務，從而形成公共需求表達——回應的高效通路［9］。在不久的將來，在對開放數(shù)據(jù)進行合理利用的基礎上，將個性化推薦算法應用到公共服務當中，可以對公民的需求進行更精準的數(shù)據(jù)抓取，從而為公民提供更加精準化的公共服務。

二是人工智能依據(jù)強大的算法和算力，解決治理當中的痛點，提高治理效能。人類社會當前存在著許多難以解決的治理痛點，而隨著人工智能嵌入治理，為這些問題的解決提供了“善治”方案。如在城市交通擁堵的問題上，未來新一代車聯(lián)網(wǎng)、新能源汽車和共享經(jīng)濟的融合發(fā)展能夠提供新的解決思路。滴滴新發(fā)布的D1 新能源共享汽車，計劃通過升級車聯(lián)網(wǎng)，由人工智能系統(tǒng)對車輛行駛的時間、路線、距離、速度進行自動調節(jié)，并根據(jù)汽車剩余電量、與充電樁之間的距離進行智能調配車輛，這樣就能利用有限的汽車實現(xiàn)行駛時間最大化，從而減少城市每天行駛的總車輛數(shù)，大大提升城市交通運行效率［10］。2020 年，發(fā)展負責任的人工智能取得了系列成效，人工智能技術在預警獨居老人水表和校園暴力行為等方面的應用引起社會廣泛贊譽［11］，人工智能正在更多層面提升治理效能。

（三）人工智能輔助人類提升決策效率

人類社會任何決策的制定都是以充分有效的信息為基礎。在人工智能應用于決策之前，信息的搜集、篩選、分析是一個耗時耗力的過程，而以大數(shù)據(jù)技術為基礎的人工智能天然存在著信息處理方面的優(yōu)勢。只需要給人工智能決策系統(tǒng)提供豐富的決策案例庫，人工智能就會根據(jù)學習算法對策略選擇進行仿真模擬，并由決策效果評估模塊對決策效果進行預判，從而為人類決策提供方案。早在20 世紀80 年代，蘭德咨詢公司開發(fā)的ROSIE AI 系統(tǒng)能夠模擬國際行為體在戰(zhàn)爭中的戰(zhàn)略決策。在新英格蘭復雜系統(tǒng)研究所，研究人員已借助人工智能預測全球性流行病、內戰(zhàn)等事件的爆發(fā)和傳播，并為決策者提供規(guī)避風險的決策方案［12］。未來，隨著自然語言處理技術的進一步發(fā)展，將極大提升人工智能從決策案例庫當中抓取有效信息的精準度，借助人工智能實現(xiàn)精準高效的決策將變得可行。

三、人工智能治理：帶來人類邊緣化風險

人工智能作為一項深刻改變世界的技術，在給人類帶來極大便利的同時，也因技術發(fā)展的“不可控性”而蘊含巨大的風險?；艚穑⊿tephen William Hawking）曾提出著名的“人工智能威脅論”，認為人類必須警惕人工智能發(fā)展的威脅，因為人工智能一旦脫離束縛，就會以不斷加速的狀態(tài)重新設計自身，屆時人類將無法與之競爭［13］。隨著人工智能在治理中的應用范圍不斷擴大，治理中人的主體性正在逐漸被弱化，人類邊緣化風險加劇。一是算法權力的擴張可能導致算法獨裁，屆時人可能成為被算法圍困的奴隸。二是人工智能的發(fā)展不斷挑戰(zhàn)既有的社會價值觀，甚至解構人的存在價值，使得人類面臨價值迷失的危機。三是人工智能的發(fā)展不斷刺激人類欲望的膨脹，人類越來越強調智能體在治理中的責任，而人類自身的責任意識和參與治理的意愿不斷降低，造成治理中人的責任缺位。

（一）算法獨裁

自從步入人工智能時代，算法對人類的操縱幾乎無處不在。文章將由于算法權力無限擴張而導致算法對人類進行奴役的現(xiàn)象稱為算法獨裁。算法獨裁絕非只是一種想象，有學者指出人工智能技術叢的相互助長性發(fā)展，已經(jīng)逐漸展現(xiàn)出一個“技術利維坦”的輪廓［14］?，F(xiàn)實中的算法獨裁主要有兩種演繹方式。一種是算法對人的精神操縱?？萍季揞^憑借數(shù)據(jù)壟斷和資本壟斷的雙重優(yōu)勢，依賴于他們獨特的算法規(guī)則向人類精準推送信息和誘導決策，人工智能由于掌握了大量的個人隱私數(shù)據(jù)，甚至比我們自己更加了解自己。近年來科技公司層出不窮的大數(shù)據(jù)殺熟、利用大數(shù)據(jù)誘導過度消費等丑聞，正是算法操縱人類決策的體現(xiàn)。更深層次的算法獨裁出現(xiàn)在算法權力與政治權力、資本巨頭三者結合之時，形成了幾乎無堅不摧的“技術利維坦”。2018 年Facebook 利用其龐大的用戶數(shù)據(jù)，對不同偏好的用戶進行精準的信息推送，使他們支持Facebook 公司預定的總統(tǒng)候選人，以達到操縱選舉結果的目的［15］。另一種是算法奴役人的行動。2020 年《人物》期刊對美團外賣騎手這個群體進行了近半年的調查，指出外賣騎手迫于人工智能“監(jiān)工”的巨大壓力，不得不鋌而走險挑戰(zhàn)交通規(guī)則，導致交通事故頻發(fā)［16］。外賣平臺研發(fā)的實時智能配送系統(tǒng)，借助于人工智能算法，依據(jù)效率最大化的原則進行訂單派送，由于派送時間被壓縮到極致，外賣員為了不被系統(tǒng)懲罰，不得不通過超速、闖紅燈、逆行等危險方式確保外賣按時送達。效率最大化的算法邏輯與利潤最大化的資本邏輯形成了對外賣騎手最殘酷的雙重剝削。這不僅僅是外賣行業(yè)的個案，在更多人類與人工智能協(xié)作的行業(yè)中，人類正處于被算法規(guī)則管制、監(jiān)督甚至是圍困的境況。

（二）價值迷失

人工智能治理的崛起，正在逐漸解構原有的社會價值觀。層層增設的機構和無處不在的人工智能監(jiān)控，可能使人的主動意識、理性精神、自覺擔當消失于無形，由此讓人逐漸產生出機械服從人工智能安排的習性，而人的社會性成為人工智能擠壓出來的副產品［14］。包容、忍耐、節(jié)儉等美德在一次又一次技術浪潮的席卷之下日漸凋零，在來勢洶洶的智能革命面前，傳統(tǒng)美德更是岌岌可危。搜索引擎和社交APP 從算法上精心設計，給用戶推送更多符合用戶偏好的內容，結果就是，無論何種政治派別都會落入到與外界隔絕起來的道德矩陣之中［17］。確證偏差、團體思維、部落主義在社會蔓延，處于信息世界當中的人類變得更加自我封閉，微小的觀念差異也能造成嚴重的對立分歧，人類正在變得越來越缺乏包容。資本巨頭利用無處不在的人工智能，無時無刻不在暗示每一個人只有不斷地消費才能獲得幸福快樂，而忍耐和節(jié)儉是反人性的。

人工智能更強烈的沖擊在于動搖了人本身的存在價值。2013 年牛津大學的卡爾·弗瑞（Carl Benedikt Frey）和邁克爾·奧斯本（Michael Osborne）在研究報告《The future of employment》中指出人類社會約有47%的工作崗位正在被人工智能取代［18］。在全球經(jīng)濟持續(xù)衰退、新冠肺炎疫情常態(tài)化的背景下，疊加上人工智能快速發(fā)展這一變量，人類的工作機會越來越少，就業(yè)競爭愈發(fā)激烈，近年來“雞娃教育”“打工人內卷”“年輕人加班猝死”等社會熱詞反映的其實都是人類愈發(fā)惡劣的就業(yè)環(huán)境。尤瓦爾·赫拉利（Yuval Noah Harari）認為智能革命會加劇人類社會的不平等，也許絕大多數(shù)人將淪為無用階級，而小部分人通過升級成為超人類［19］。也有學者對此表示樂觀，克里斯·安德森（Chris Anderson）指出數(shù)字化技術使得產品的實體制造成本趨向于零，同時其再生產的成本也會趨于零［20］。也許從長遠來看，人工智能技術發(fā)展的確能為人類社會提供豐富的物質條件，使得人類不必參與勞動也能獲得充足的生活物資。但是問題在于，長期以來勞動除了是人類賴以生存的技能，還擔負著人類實現(xiàn)自我價值的重要作用，勞動機會的消失會不會真的導致無用階級的出現(xiàn)？人工智能不僅在勞動機會上撼動人類存在價值，還呈現(xiàn)出替代愛人、親人、朋友等人類重要社會角色的趨勢。越來越多的人開始將人工智能當作人類看待，從人工智能身上獲得情感的慰藉。將來更多的人也許會成為信息世界中的一個個孤島，不再從勞動中實現(xiàn)價值，不再從情感上被需要。人工智能技術的發(fā)展，給人類的價值觀甚至是人的存在價值帶來了顛覆性的影響，加劇了人類的價值迷失。

（三）責任缺位

人工智能介入治理給人類帶來更多的便利、更舒適的體驗，同時也在打破人類權利——義務的平衡。在過去，想要享受權利就必須履行相應的義務是人類社會的共識，人工智能的出現(xiàn)代替人類履行了部分義務，甚至比人類自身更為盡職盡責。人工智能治理的美好前景刺激了人類更多的需求，或者說刺激了人類欲望的無限膨脹。人工智能的發(fā)展應用縱容了人類自私風氣的泛濫，無論在私人領域還是公共領域，人類都在變得更不負責任。一些研發(fā)公司正在研究將人工智能與全仿真人體相結合，以期為人類生產“完美伴侶”。不需要付出任何關愛與照顧就能獲得絕對忠誠、完美契合的伴侶，人類還會選擇負擔傳統(tǒng)的家庭責任嗎？自私的風氣在私人領域蔓延，還不斷侵蝕人類的公共責任意識。既然人工智能治理的效率比人類更高，何不將專業(yè)的事情交給專業(yè)的人工智能來處理？人的理性判斷正在逐漸讓位于技術判斷，泰勒主義正在回歸。即使是對強大的人工智能心存忌憚，人類似乎也并沒有指望通過強化自身責任重回治理的中心，更多還是將希望寄托于技術的完善。比如通過設計出更好的算法讓人工智能更加負責，對人類更加忠誠，又或者通過基因工程、仿生工程和人工智能相結合制造出能夠與機器人分庭抗禮的超級人類。人類企圖將自己的責任轉嫁給人工智能，甚至將自己的未來也悉數(shù)托付于科技，人類社會唯一運行的只有物理法則，而我們正在逐漸忘記對人類社會原有的義務。

四、如何重塑人工智能治理中人的主體性

人工智能治理一方面為人類社會的發(fā)展提供了更多美好設想；另一方面人工智能治理的廣泛應用正在逐漸弱化人的主體性，帶來人類邊緣化的風險。面對人工智能治理給人類社會發(fā)展帶來的助力和挑戰(zhàn)，首先應當設定人工智能治理的邊界，以確保技術的應用是為了增進人類福祉。其次，人類自身應當以更積極主動的態(tài)度，從全球、國家、社會和個人多個層面入手，探索將人的主體性帶回治理的有效路徑。

（一）限定人工智能治理的應用邊界

1.明確人工智能在治理中的角色定位

關于人工智能在現(xiàn)代人類社會治理中的角色定位爭論在西方國家由來已久，而國內人工智能研究是在阿爾法狗戰(zhàn)勝人類圍棋世界冠軍之后興起的。

有關人工智能倫理的討論中，阿西莫夫機器人三原則、英國國家工程和物理科學研究委員會（EPSRC）起草的機器人準則都將機器視為產品或工具。將人工智能視為工具的倫理視角，一方面可能會限制技術的發(fā)展，另外一方面也可能導致新的倫理困境。實際上，人工智能在人類社會治理當中發(fā)揮著越來越重要的作用，從決策到執(zhí)行隨處可見人工智能的參與，如果只是將人工智能視為工具，將難以產生有效規(guī)范人工智能行動和發(fā)展的倫理準則。

另一種觀點認為一旦技術的“奇點”降臨，強人工智能將會全面取代人類，并最終成為人類的主人?；艚穑⊿tephen William Hawking）、埃隆·馬斯克（Elon Musk）、尤瓦爾·赫拉利（Yuval Noah Harari）都對未來人工智能超越人類能力表示警惕和擔心，認為人類有可能制造出自己無法控制的怪物，并最終成為怪物的奴隸。將人工智能視為“主人”因而對其發(fā)展充滿警惕的思想是有作用的，比如在司法決策領域限制算法不可解釋的人工智能應用、在軍事領域限制人工智能應用等舉措，都是基于這樣一種思維。但過于關注未來“強人工智能”或“超級人工智能”的危險，而忽略當前人工智能發(fā)展對人類社會的積極影響，這種觀點太過于片面，可能會扼殺技術向善的可能性。而且就技術發(fā)展現(xiàn)狀而言，現(xiàn)階段人工智能是建立在“大數(shù)據(jù)+機器”學習的基礎之上，仍然屬于“弱人工智能”的范疇。雖然人工智能的應用范圍在不斷擴大，并發(fā)展出更加強大的算力和算法，但關于具有自我意識、有知覺、有真正推理和解決問題能力的“強人工智能”仍處于起步階段。因此，對于人工智能作為“主人”的擔憂為時過早。

有學者根據(jù)AI 在現(xiàn)代政治生活中所扮演角色的兩個極端，將整個頻譜上的兩個端點定位為“助手（工具）”和“主人”，并指出我們的關注點應當放在這兩個端點之間的豐富頻譜之上，去討論近期或中期的政策選擇，而非跳過這個過程直達端點［21］。這種觀點蘊含著辯證的思維方式，為我們探討人工智能在治理中的角色提供更加廣闊的探討空間。目前，阿西洛馬、電氣和電子工程師協(xié)會（IEEE）、美國公共政策委員會計算機協(xié)會（USACM）在內的諸多機構（或會議）所提出來的AI 倫理準則，更多是將AI 視為法律意義上的責任主體。2020 年中國出現(xiàn)首例認定人工智能生成文章構成作品并擁有著作權的案例，這意味著在法律層面上關于人工智能是否具備法律主體地位的爭議有了重大突破［22］。在這個判例中人工智能被認定為擁有著作權的法律主體，這對我們如何定義人工智能具有重大借鑒意義。人工智能早已超越了工具的屬性，在治理當中承擔更多實質性的工作，與人類開展更多協(xié)同合作。日本鑒于人工智能的發(fā)展趨勢，更傾向于將人工智能作為伙伴。日本人工智能學會的倫理原則中提到：“如果人工智能想要成為社會的準成員或成員，必須遵循人類制定的原則”［23］。就人機共生的治理環(huán)境而言，應當將人工智能視為治理的主體之一，與人類開展協(xié)同治理。

基于將人工智能作為共同治理的主體這一視角，文章將進一步探討人工智能在治理當中所承擔的責任和治理的邊界。

2.限定人工智能治理的應用邊界

目前，關于人工智能應用邊界問題的探討十分豐富，不同的國家、國際組織乃至企業(yè)都積極參與關于人工智能倫理準則的制定工作。最具國際影響力的人工智能準則有2017 年由人工智能領域專家聯(lián)合發(fā)布的《阿西洛馬人工智能原則》和2019 年歐盟委員會發(fā)布的《可信賴人工智能倫理準則》。

《阿西洛馬人工智能原則》當中包括23 條AI 發(fā)展的原則，其中6～18 條是關于倫理和價值的部分，具體條款依次為安全性、故障透明性、司法透明性、責任、價值歸屬、人類價值觀、個人隱私、自由和隱私、分享利益、共同繁榮、人類控制、非顛覆、人工智能軍備競賽（致命的自動化武器的裝備競賽應該被避免）［24］。這些條款秉承“人類中心”的理念，要求人工智能的發(fā)展必須符合人類價值觀和維護人類利益。

《可信賴人工智能倫理準則》由歐盟人工智能高級別專家組起草，列出了“可信賴人工智能”的7 個關鍵條件——人的能動性和監(jiān)督能力、安全性、隱私數(shù)據(jù)管理、透明度、包容性、社會和環(huán)境福祉、問責機制［25］。其中包容性準則提出人工智能的發(fā)展必須體現(xiàn)多樣性、非歧視性和公平性，人工智能提供的服務應面向所有人，無論年齡、性別、種族或其他特征，系統(tǒng)不應該有任何偏向。社會和環(huán)境福祉準則提出人工智能系統(tǒng)應該是可持續(xù)的，必須對保護生態(tài)負責。《可信賴人工智能倫理準則》為人工智能倫理的建設提供了更廣闊的視野，不僅強調人的中心地位，并將公平正義、可持續(xù)發(fā)展的理念納入其中。

重新爬上床，卻橫豎睡不著了，身子翻來覆去，心情也變得煩躁起來。越不想去聽客廳的動靜，耳朵卻偏偏側起來聽。于是又聽見小母雞說，咯咯咯，他們可真逗。老母雞忙不迭地回應，咯咯答，誰說不是呢？

借鑒當前經(jīng)典人工智能倫理準則，結合人工智能發(fā)展的最新動態(tài)，文章提煉出人工智能治理的邊界：一是不動搖人在治理中的中心地位；二是不顛覆人類基本倫理及價值觀；三是不危害生態(tài)環(huán)境。不動搖人在治理中的中心地位要求AI 算法是可解釋的，通過建立高度透明的AI 系統(tǒng)以保證人類能夠對系統(tǒng)進行監(jiān)督和控制，人工智能治理應當支持人類自覺，幫助人類提升自身的治理能力，而不是加劇人的邊緣化和異化。不顛覆人類基本倫理及價值觀要求AI 系統(tǒng)的行為和目標必須符合人類基本倫理價值，包括堅守不傷害人類、不損害公平正義、技術向善三個基礎性原則。不危害生態(tài)環(huán)境要求人工智能系統(tǒng)堅持可持續(xù)發(fā)展原則，人工智能系統(tǒng)的運轉和升級不能以耗竭資源和破壞生態(tài)為代價，同時，人工智能治理應當兼顧增進人類福祉和保護生態(tài)環(huán)境等多重目標，保障人類、動物、自然環(huán)境乃至其他智慧體和諧共生。

技術的發(fā)展總會一再突破人類的想象，甚至會撼動人的主體地位，但是人類可以明晰技術應用的邊界，選擇哪些技術可以投入使用，哪些技術應該禁止封存。人工智能就是智能革命時代的“技術之火”，“火”帶來的是福音還是厄運，關鍵在于人類是否正確掌握和使用“馭火之術”。因此，人類對于人工智能的發(fā)展應當秉持包容審慎的態(tài)度，在設定邊界的同時積極探索人類與人工智能深度協(xié)作治理的路徑。

（二）人類自身的積極探索

1.加強全球合作，應對治理挑戰(zhàn)

人工智能的發(fā)展是沒有國界的，我們很難用一個傳統(tǒng)的邊界來劃分人工智能［26］。當人類面臨無國界的人工智能帶來的治理挑戰(zhàn)，必須跳出保護主義、孤立主義、民粹主義的狹隘視野，以全球合作發(fā)揮人類在治理當中的重要力量。

首先，企業(yè)、社會組織、各個地區(qū)、主權國家之間應通過深化交流，增進理解和互信，并在此基礎上就人工智能治理的規(guī)則達成廣泛共識，構建符合全人類福祉的基礎上更加開放包容的人工智能治理框架，引導人工智能向善發(fā)展。

其次，重構多邊主義治理機制、推動構建人類命運共同體，有利于凝聚人類智慧和力量解決更多全球性問題。在全球經(jīng)濟持續(xù)衰退的背景下，逆全球化浪潮愈演愈烈，多邊主義的全球治理理念逐漸式微。隨著新冠肺炎疫情肆虐全球，百年變局疊加世紀疫情，美國在這場人類浩劫中堅持奉行單邊主義使得全球疫情走進困局，也嚴重動搖了自身建立的世界霸權秩序。舊秩序正在分崩離析，新秩序急需構建，國際社會需要一個負責任的方案解決人類面臨的危機。中國重提多邊主義理念，認為解決好這個時代課題的出路在于維護和踐行多邊主義，推動構建人類命運共同體［27］。在全球建立多邊治理新機制，是解決當前全球新冠肺炎疫情的有效方案，也是解決全球治理中面臨的種種問題的必由之路。從人機共生的治理環(huán)境而言，目前世界各國在人工智能發(fā)展上存在著巨大差距，導致發(fā)展中國家存在著被邊緣化的風險。通過建立多邊主義治理機制，將技術先進國與技術落后國、發(fā)達國家與發(fā)展中國家納入全球治理體系當中，在平等的基礎上開展對話與合作，能夠預防發(fā)達國家在人工智能治理領域形成新霸權主義，有利于形成和諧共生的全球治理新秩序。

2.完善國家制度，保障人類自治

而人民民主制度是保障人在治理中主體地位的有效制度設計。在這一制度下，人民是國家的主人，增進人民福祉是國家治理的目標，人本身是目的而不是工具。人民能夠通過民主協(xié)商和民主決策等機制主導國家治理的重大事項，并通過行使民主選舉、民主管理、民主監(jiān)督等政治權利參與國家治理的過程，公共權力實際上掌握在全體人民手中，從而避免政治權力與算法權力合謀形成新的“技術利維坦”。

主權國家只有以人民民主制度作為基礎，進一步建立以“公平”為核心的收入分配機制，才能避免少數(shù)資本家憑借技術壟斷地位吞噬國民收入。政府必須對貧富分化保持高度警惕，主動作為，大刀闊斧開展收入分配改革，將智能革命帶來的巨大經(jīng)濟紅利最大程度惠及人民。關于分配制度的改革，全民基本收入模式提出，政府應當對控制算法和機器人的富人和企業(yè)征稅，再用這筆稅金為全體國民提供滿足其基本需求的津貼［30］。全民基本服務模式則認為，政府應當將稅金用于提供全民基本服務，包括提供免費的教育、醫(yī)療、交通等服務［31］。浙江作為中國首個“共同富裕示范區(qū)”提出了內容更為豐富的收入分配改革方案，一方面致力于消除數(shù)字鴻溝，保障不同群體共享數(shù)字紅利；另一方面通過提供更完善的公共服務，探索知識、技術、管理、數(shù)據(jù)等要素價值的實現(xiàn)形式，改善貧困群體生活，推動慈善組織健康發(fā)展等政策組合，以促進共同富裕目標的實現(xiàn)［32］。以上關于收入分配改革的探索為促進社會公平、增進全民收入和福利提供了有益借鑒。建立公平的收入分配機制，能在一定程度上緩解技術創(chuàng)新造成的勞動異化，讓人民從瘋狂的內卷中得以喘息，抬頭仰望星空，思考人類未來等更宏大的命題。

建立數(shù)據(jù)開放共享的治理機制，為公民參與國家和社會治理提供治理資源。在智能革命的背景下，數(shù)據(jù)已經(jīng)成為最重要的治理資源之一，無論是國家決策、社會治理還是公司運營，都越來越依賴于大數(shù)據(jù)。而少數(shù)跨國公司和平臺對數(shù)據(jù)的壟斷造成了壟斷巨頭和普通民眾之間的信息不平等，即便是民眾有參與國家和社會治理的意愿，但是由于掌握的數(shù)據(jù)和信息十分有限，甚至對治理的相關議題都難以理解，更不用說深度參與議題的協(xié)商和決策。阿克萊特·彭特蘭提出政府應建立“將公民自身數(shù)據(jù)的所有權、使用權、控制權和處置權交還給公民自己”的“數(shù)據(jù)新政”［33］。實際上，各國也正在積極探索一種以保護個人數(shù)據(jù)所有權為基礎的數(shù)據(jù)自由流動和共享的機制。由金鏈盟、觀韜中茂律師事務所、金融科技·微洞察三個機構聯(lián)合發(fā)布的《DDTP：分布式數(shù)據(jù)傳輸協(xié)議白皮書》提出一種由個人主導的分布式數(shù)據(jù)傳輸協(xié)議（Distributed Data Transfer Protocol DDTP）。該協(xié)議基于區(qū)塊鏈技術進行設計，通過區(qū)塊鏈的全流程追溯、防篡改、傳遞信任等特性，疊加引進權威機構的參與，助力更安全、可信、易協(xié)作的個人信息自由流動［34］。根據(jù)DDTP 的設想，用戶可以將個人數(shù)據(jù)一鍵導入任何存儲平臺（包括云端、個人電腦等），這個數(shù)據(jù)存放過程需要政府指定的權威機構全程監(jiān)督，并由權威機構將數(shù)據(jù)的哈希值（獨一無二的數(shù)據(jù)指紋）存在中立的區(qū)塊鏈上，以預防數(shù)據(jù)篡改和數(shù)據(jù)壟斷等問題。未來隨著科技的發(fā)展，DDTP 將有可能在更廣泛的范圍內實現(xiàn)分布式數(shù)據(jù)傳輸、核驗和協(xié)作，人們可以通過數(shù)據(jù)的自由流動和開放共享實現(xiàn)跨機構、跨行業(yè)、跨場景的協(xié)同合作，從而有利于普通民眾更加充分地參與到各類國家和社會治理議題當中，為國家和社會的發(fā)展貢獻智慧。

3.發(fā)展創(chuàng)新型社會單元，開展創(chuàng)造性生產活動

智能革命帶來生產力高速發(fā)展，社會財富急劇增長。一種樂觀的設想是：巨大的財富為每個人自由而全面的發(fā)展奠定了物質基礎，人類從異化的勞動中解脫，人的創(chuàng)造力得以釋放。

然而這個理想的進路中面臨著一個重大變量——消費主義。席卷全球的消費主義儼然成為當今受眾最廣泛的信仰，人的價值不以生產體現(xiàn)，而是以個人消費行為和所擁有的消費品作為衡量個人的價值尺度。人工智能伴隨著消費主義而生，并充當著消費主義擴張的技術工具，促使人類對消費主義的信仰更加狂熱。即使社會財富無限增長，人類總會有更多的消費需求去耗盡財富甚至是自然資源。人擁有了越來越多的消費品，但人的價值卻更加貧乏，這其實是人被物化的過程。因此，必須打破消費主義和人工智能的結盟，重新定義人的價值。

據(jù)麥肯錫咨詢公司的研究報告《Where machines could replace humans and where they can't》顯示，人工智能能夠替代人類的領域主要包括數(shù)據(jù)收集、數(shù)據(jù)處理、可預測的重復性工作，而人類在需要創(chuàng)造力、決策力、專業(yè)技能、溝通能力、應變能力的領域仍具備獨特優(yōu)勢［35］。這份報告為我們抵御人工智能對人的全面替代提供了一個思路，就是調整人的生產活動，專注于發(fā)展人類優(yōu)勢領域。從事生產活動并不是個人為了獲得更多消費品的一種手段，生產的過程本身就能創(chuàng)造意義。馬克思（Karl Heinrich Marx）和恩格斯（Friedrich Von Engels）認為生產是人區(qū)別于動物的本質特征，并且是人實現(xiàn)自我價值的根本途徑，《德意志意識形態(tài)》中提出“他們是什么樣的，這同他們的生產是一致的——既和他們生產什么一致，又和他們怎樣生產一致”［36］。因此，應充分發(fā)揮人的創(chuàng)造力，通過創(chuàng)造性的生產活動實現(xiàn)人的價值。

關于如何開展創(chuàng)造性生產活動，創(chuàng)新型社會單元是一個有效的載體。例如，在互聯(lián)網(wǎng)上生產優(yōu)質原創(chuàng)內容的博主，已經(jīng)形成了一個新的行業(yè)。博主根據(jù)個人（或團隊）愛好或特長，以文字或者是視頻的形式為平臺用戶提供優(yōu)質內容，平臺用戶通過點贊、打賞等多種形式給予內容的創(chuàng)造者回饋，從而實現(xiàn)了生產的精神褒獎和物質價值歸直接生產者所有。積極發(fā)展創(chuàng)新型社會單元，不僅能為個人在智能革命的浪潮中尋找立足之地，而且能夠讓人在生產當中實現(xiàn)自我價值。也許，當人的身心被創(chuàng)造性的生產活動所充實，就能抵御消費主義價值尺度對人的侵蝕，重新發(fā)現(xiàn)多元的價值。

4.重塑個人責任意識，提升治理能力

如果我們放棄自己的義務，最終也會失去相應的權利。如果擔心被人工智能所取代，人類所能做的不僅僅是對人工智能的發(fā)展進行規(guī)制，更重要的是重拾自身對人類社會乃至整個地球生態(tài)系統(tǒng)的責任。這份責任不只是由國際組織和政府承擔，也是每一位地球公民所應當承擔的義務。每一個人都應當警惕對科技的過度依賴，尋求一種更為克制的生活方式。在消費主義大肆擴張之前，幾千年來人類都相信唯有克制欲望才會讓社會和諧，而貪婪會帶來無盡的災難。這古老的箴言值得人類奉為信條。只有超越人性中的自私貪婪，才能重塑個人的責任意識，主動去關心自己所生存的社會和環(huán)境，并承擔作為治理主體的責任。

在重塑個人責任意識的基礎上，個人還需要發(fā)展參與治理的能力。一是拓展個人參與治理的途徑。除了依賴于國家治理機制的創(chuàng)新，個人可以通過重新建立與身邊現(xiàn)實世界的聯(lián)結，從社區(qū)互助做起，包括社區(qū)公共衛(wèi)生治理、社區(qū)合作養(yǎng)老和育兒等需要社區(qū)住戶線下參與的行動，主動擴展參與治理的途徑。積極參與和自己現(xiàn)實生活息息相關的社區(qū)微治理有利于培育治理能力，同時重新建立一種比沉迷虛擬網(wǎng)絡和線上社交更有意義的生活方式。二是堅持終身學習。智能革命引起了空前深刻的社會變遷，而且變遷的速度不斷加快，范圍極速擴大。如果不通過有意識的、持續(xù)的學習，個人將越來越難以理解自己身處的不斷變動的社會。在這個社會當中，教育不會因為個人離開校園而終止，學習成為貫穿人生最重要的主題，學習能力是人最重要的元技能。每個人都應當樹立起終身學習的理念，主動去認知和使用智能革命時代的新技術，在人工智能的輔助下更好地履行治理的義務。

五、結論與進一步思考

人工智能是人的產物，無論未來人工智能發(fā)展出多高的智能，甚至成為與人類共同構建新治理體系的主體之一，人工智能的應用都應當堅持為人類服務的根本方向。應當警惕人工智能應用的兩種趨勢：一是人工智能與政治權力、資本力量合謀，成為奴役人類的新工具；二是人類將貪婪的欲望投射到人工智能當中，顛覆人類基本倫理價值，甚至毀滅我們所生活的星球。人工智能應用方向的偏差會導致人的主體性喪失，因此，應當設定人工智能應用的邊界，為掌握人工智能這一“技術之火”的人類提供一份“馭火指南”，以免引火自焚。面對人工智能對人類社會治理的強勢介入，除了以防御的姿態(tài)建立技術應用邊界，人類還必須以更負責、更主動的態(tài)度主導治理轉型，從全球、國家、社會、個人多個層面著手，構建以人為中心的治理體系。從全球視野來看，應建立全球通用的人工智能治理框架，重構多邊主義治理機制，推動構建人類命運共同體，形成和諧共生的全球治理新秩序。從國家角度而言，發(fā)展人民民主的政治制度是預防政治權力與技術力量合謀的有效制度，進一步開展以“公平”為核心的收入分配改革是預防資本力量與技術力量合謀壟斷財富的有效機制，建立數(shù)據(jù)開放共享的治理機制能夠為民眾參與治理拓展渠道和提供治理資源。從社會角度而言，應通過發(fā)展創(chuàng)新型社會單元來調整人的生產活動，以創(chuàng)造性的生產活動重新定義人的價值。從個人層面來說，重拾心中的道德律，重視個人對人類社會乃至自然界的責任，通過學習和實踐積極發(fā)展治理的能力，才是擺脫技術控制的根本之策。

在人工智能時代如何重塑人在治理中的主體性是一個宏大的問題，文章只是根據(jù)技術發(fā)展的最新趨勢提出零星的、粗淺的看法，尚未形成體系化的真知灼見，僅僅起到拋磚引玉的作用。此外，由此問題衍生出來的另一個問題仍需解惑——從消費主義浪潮中誕生的人工智能，究竟是會成為消費主義的幫兇，促使人進一步異化為消費品的附屬？還是會終結消費主義，幫助人類實現(xiàn)馬克思設想的每個人自由全面發(fā)展的理想社會？