□ 傅小隨

一、智能社會是全新的第五種社會形態(tài)

嚴格意義上說，只有人類才擁有智能。智能是人類在長期進化過程中，通過改造自然和處理人類社會關(guān)系的實踐而逐漸發(fā)展、成熟起來的處理內(nèi)部和外部關(guān)系的綜合智慧與行動能力。其實質(zhì)是作為社會主體的人對其所處的外部客觀世界的認知、反應(yīng)、適應(yīng)和互動的能力。智能的最高層次是在對客觀世界的本質(zhì)進行正確抽象，對其規(guī)律進行精確掌控的基礎(chǔ)上實現(xiàn)對環(huán)境資源的高水平利用，以達到對人在生理和思維、靈魂層面上需求的充分滿足，實現(xiàn)主客體二者的高度統(tǒng)一。而人工智能則是從人類智能派生或由人類刻意創(chuàng)造出來的機器智能，是人類智能某些部分的數(shù)字化、物理化。這種機器智能在人類的安排下今后會越來越深入地參與到社會生活中來，甚至可能在某些特殊方面高于人類智能，但不能改變其源于人類智能、由人類智能賦予并整體上不可能超越人類智能的性質(zhì)。

因為，我們通常所說的人類社會是由具有雙重屬性的社會成員組成的。雙重屬性是指每個社會成員都既是作為自然生物體的人類生命個體，又是作為社會關(guān)系結(jié)點、具有特定社會身份的人類個體。社會成員都是這樣的有機統(tǒng)一個體。人類社會在經(jīng)過了狩獵社會、農(nóng)耕社會、工業(yè)社會和信息社會之后，已經(jīng)完成了通過高技術(shù)的生產(chǎn)工具和生活設(shè)備將人的軀體機能外化在自己制造的機器及其相互聯(lián)結(jié)的工作系統(tǒng)上，進行了不斷深化的人體勞動器官替代，目前正在向更高難度并帶來實質(zhì)變化的認知和思維替代推進。人工智能技術(shù)追求的就是讓人類智能外化在各種人造的設(shè)備和應(yīng)用系統(tǒng)之中，使它們能夠在脫離人的即時直接操作條件下自動識別環(huán)境對象特征，采取相應(yīng)行動來實現(xiàn)各種預(yù)設(shè)目的，從而使它們具備一定程度的行動獨立性，參與人類社會的運轉(zhuǎn)，體現(xiàn)出與社會主體相近或相關(guān)的一定意義上的“主觀性”甚至“主體性”，從而使社會治理面臨一種全新的環(huán)境和對象，大大增加了復(fù)雜性。這種因帶有一定主體性的機器智能的加入而形成的全新社會形態(tài)被稱為智能社會。

智能社會形成的技術(shù)原理是：隨著科學(xué)技術(shù)水平的快速提高，人類開始將自己的部分智慧和能力通過數(shù)字化轉(zhuǎn)換手段賦予某些物理性和生物性的人造設(shè)備，讓它們具有深度自主學(xué)習(xí)能力，能夠經(jīng)由人類設(shè)計和生產(chǎn)并安裝在其上的聲音、圖像、溫度、力度、構(gòu)成成份以及其他生物信息感知器，捕捉到各種環(huán)境和對象的信息，通過各種傳感設(shè)備的傳導(dǎo)并轉(zhuǎn)換成數(shù)字化信息，到達計算樞紐，經(jīng)過分析處理后進行自主與半自主決策，采取相應(yīng)行動，達成設(shè)計者希望的結(jié)果，起到以往只有自然生物體+社會身份的社會主體才能發(fā)揮的作用。隨著人造設(shè)備設(shè)計和制造水平的不斷提高，系統(tǒng)算法的不斷改進和算力的不斷增長，其自主決策和行動的能力也會快速提升，功能上越來越接近傳統(tǒng)社會生活主體，從而使人類社會變得不再純粹由自然生命體構(gòu)成而具有復(fù)合主體性，也形成了人類的智能強化和部分智能替代，對人的社會生活帶來復(fù)雜影響。在這個意義上說，這樣的人造設(shè)備是逐漸“主體化”的，這種智能社會“促使了新的社會組織形態(tài)的形成，深刻地改變了人類在微觀個體行為與宏觀社會行為的基本方式與結(jié)構(gòu)，并創(chuàng)造出了新的人類活動與生存空間，以及新的人工智能的智慧體，從而將誕生出一種前所未有的新的文明形態(tài)”。[1]當(dāng)然，“就其本身而言，它和歷史上有過的新科技帶來的生活方式和生產(chǎn)方式大變革相似，并不會改變現(xiàn)代社會的基本結(jié)構(gòu)?！盵2]

智能社會形成的標志之一是社會主體將發(fā)生認知復(fù)合性的質(zhì)變或主體構(gòu)成上的永久性改變。因為自然生物體+社會身份是傳統(tǒng)社會主體的全部構(gòu)成，但現(xiàn)在增加了人工部分，這一部分不是指假肢及其他人造器官這種無感無智、只能對生命軀體的缺失與活動能力從物理或生理上起補救作用的器件，也不是指通過器官移植進入人體內(nèi)部對軀體進行功能支持的活體生命替換件，因為一般來說它們都不會對人的思維、決策和行動選擇產(chǎn)生主動性、替代性或支持性的永久作用，所以不會改變原本作為自然生物體+社會身份者的社會主體的完整性。雖然也有個別器官移植的受體會產(chǎn)生心理和情緒變化的排異性反應(yīng)，但它限定在醫(yī)學(xué)范疇之內(nèi)。而人工智能將從兩個方面造成社會主體界線的模糊化。一是通過神經(jīng)元器件、物理或生物芯片在人體內(nèi)的植入并與人體的感知和思維器官連通，永久性地改造生命體的構(gòu)成及其認知和行動選擇方式，使社會主體在自然生命體+社會身份二元素之外再加入人造的、具備認知和行動選擇支持能力的新構(gòu)成部分。二是智能機器人、智能連接和行動主體正式出現(xiàn)并參與甚至調(diào)節(jié)著人們的行為和社會生活，甚至被賦予法律意義上作為社會主體的“國民身份”[注]英國《每日鏡報》網(wǎng)站2017年10月27日報道，沙特阿拉伯于10月25日宣布授予機器人索菲婭國籍。。這意味著原本只有人類作為唯一主體的社會加入了被制造出來的新的社會“主體”，從此社會生活的含義發(fā)生質(zhì)的改變。雖然這兩種主體變化總體來說還是為自然生命體+社會身份的社會主體服務(wù)的，但隨著新主體的主動性不斷增強，對社會生活的影響甚至支配作用也必然不斷深化。正因為如此，智能社會被認為是繼信息社會之后的全新的第五種社會形態(tài)。[3]

目前，智能社會雖然還遠沒有以一種整體的形態(tài)出現(xiàn)，但隨著語音與圖像識別與控制技術(shù)、機器深度學(xué)習(xí)能力、大數(shù)據(jù)和云計算技術(shù)的快速提高、人機融合程度的加深，以及自然人的生物信息大面積被商業(yè)機構(gòu)和政府機構(gòu)提取、存儲和使用，成為機器和網(wǎng)絡(luò)系統(tǒng)計算和決策的數(shù)據(jù)材料，它已經(jīng)擦破了傳統(tǒng)社會的皮肉，正在向它的內(nèi)部發(fā)起更強大的攻擊，將以比較快的速度深入到傳統(tǒng)社會的肌體、骨胳之中，改造甚至重塑社會形態(tài)。一個三重屬性的復(fù)合社會正在快步走來。

二、智能社會對民生事業(yè)、社會生活與社會治理方式帶來空前沖擊

當(dāng)前，人類的社會生活正在被人工智能重塑，趨勢難以準確預(yù)料。人們生活和工作使用的所有主要器物都正向智能化方向發(fā)展，包括交通工具、家用電器、穿戴衣物、房屋建筑等衣食住行全部領(lǐng)域的用品。5G技術(shù)成熟商用之后，物聯(lián)網(wǎng)時代到來。無所不在的智能化設(shè)備的超級聯(lián)接更將使整個社會生活環(huán)境成為一個互聯(lián)結(jié)構(gòu)，幾乎所有人的一言一行和任何一次動作或操作都將不僅牽動著這個結(jié)構(gòu)，而且會得到清晰的記錄，進入到數(shù)據(jù)庫中。如果說互聯(lián)網(wǎng)構(gòu)造的是一個虛擬社會場景的話，那么物聯(lián)網(wǎng)將構(gòu)造一個更加靈敏的新的現(xiàn)實社會生活場景。原來認為離開人的大腦就完全無法發(fā)生的事情，現(xiàn)在不僅已經(jīng)正在發(fā)生，而且其能力的進展速度非常驚人。以目前剛剛開始的人工智能Ⅱ的機器智能水平，都已經(jīng)能夠譜曲、寫詩歌、寫新聞稿、寫對聯(lián)甚至小說，能夠完勝人類頂尖圍棋手，并已經(jīng)開始在社會生活各領(lǐng)域發(fā)揮作用?？梢灶A(yù)料，當(dāng)智能化發(fā)展到更高等級時，與之緊密相關(guān)的民生事業(yè)與社會治理等也必然隨之產(chǎn)生巨變。

其一，這種被改造的社會生活場景和主體將對民生事業(yè)帶來革命性影響。首當(dāng)其沖的是就業(yè)問題。在科技和商業(yè)巨頭們紛紛嘗試無人超市后，傳統(tǒng)收銀員成為第一個被逐漸淘汰的職業(yè)。與之類似的職業(yè)如電話推銷員、客服、前臺、會計、HR、律師等也成了未來的“高危”職業(yè)。目前深圳的一些醫(yī)院已經(jīng)用機器取代了掛號收費窗口，包括醫(yī)保結(jié)算在內(nèi)都已經(jīng)實現(xiàn)了智能化。世界著名物理學(xué)家斯蒂芬·霍金曾在英國《衛(wèi)報》的一個專欄中指出：“工廠自動化已經(jīng)讓眾多傳統(tǒng)制造業(yè)工人失業(yè)，人工智能的興起很有可能會讓失業(yè)潮波及到中產(chǎn)階級，最后只給人類留下護理、創(chuàng)造和監(jiān)督工作?！盵4]各種專業(yè)評估普遍認為，僅在近10多年內(nèi)，就將會有超過30%的職業(yè)被人工智能所取代。如此看來，尤瓦爾·赫拉利在《未來簡史》中描述的所謂“無用階層”的出現(xiàn)將難以避免，如何加以應(yīng)對是一個新難題。

當(dāng)然，隨之也會有一些新的職業(yè)種類誕生出來，但其具有很大的難以預(yù)料性，這就提出了民生事業(yè)的第二個問題——教育。首先，教育界憂慮的一個重大問題是，怎樣的教育才能培養(yǎng)出不被智能時代所淘汰的人才？在人工智能時代，學(xué)科設(shè)置和教學(xué)結(jié)構(gòu)如何能夠瞄準和跟上飛速變化的未來社會，這是一個需要認真研究的重大問題。其次，教師和學(xué)校本身會不會被人工智能所替代也是一個大問題。在不遠的未來，如果不是法律制度的強制，個人依靠人工智能完成從義務(wù)教育到高等教育的全部國民教育學(xué)業(yè)完全是可以的。顯然，政府教育體制和政策、學(xué)校和教師都必須在人工智能時代實現(xiàn)自身的深刻轉(zhuǎn)型，以更好滿足培養(yǎng)新型人才的新需求。

除此之外，包括手術(shù)機器人、健康護理機器人在內(nèi)的整個智能醫(yī)療系統(tǒng)，老人、病人和幼兒照護、陪伴機器人，大數(shù)據(jù)基礎(chǔ)上的智能化公共衛(wèi)生防疫系統(tǒng)、智能交通設(shè)施、各種公共服務(wù)資源的精準配置系統(tǒng)等等都會改變著民生事業(yè)的內(nèi)容和提供途徑與方式。

其二，社會生活主體變化的同時，社會治理的平臺已經(jīng)產(chǎn)生了位移性變化。信聯(lián)的成立和在深圳落地，使8家商業(yè)企業(yè)出股組成的征信機構(gòu)可以利用機器感知與模式識別、自然語言處理與理解等人工智能手段使用公民個人的人體生物信息、行為信息等，建立既用于市場交易又用于公共治理的基礎(chǔ)平臺。微信等平臺正越來越多地擔(dān)當(dāng)起社會治理、城市管理使命。過去必須到政府部門面對面辦理的交通證照辦理、違章舉報、交通違法行為處理和罰款交納，社保、就業(yè)、住房公積金等事務(wù)的辦理，戶籍和出入境事務(wù)辦理等等都可以在手機上進行。這些都對傳統(tǒng)社會治理模式帶來強烈沖擊。首先，它會造成法律、政治和社會權(quán)利、責(zé)任界線的巨大變化。比如無人駕駛交通事故責(zé)任認定、人-機復(fù)合人行動的責(zé)任判定，機器國民的政治和社會生活行動權(quán)利邊界，其與傳統(tǒng)社會生活主體權(quán)利關(guān)系的劃分與糾紛仲裁、司法判決等等。而更深刻的是社會生活中各種價值的評價標準將莫衷一是。其次，商業(yè)性機構(gòu)和政府公共管理機構(gòu)在技術(shù)平臺上的深度對接，極大地提高了治理主客體之間的互動性，在給政府管理和社會生活帶來巨大便捷性的同時，權(quán)利的邊界和信息安全等風(fēng)險也隨之加大。處理好便利和安全之間的關(guān)系，需要做出更多努力。現(xiàn)行法律體系、倫理標準和包括家庭等在內(nèi)的各社會群體成員之間的社會生活準則都不得不進行調(diào)整，否則無法維持社會和諧。再次，社會治理的手段必須更加多樣化、智能化。政府、社會組織、參與企業(yè)和公民個人等都必須和必然有一個積極調(diào)適的過程。例如，斯坦福大學(xué)研究團隊通過人工智能工具對海量谷歌街景圖的分析，掌握了目標區(qū)域的人口組成信息，包括選民的政治傾向。這意味著人工智能通過大量“信息閱讀”、設(shè)定規(guī)則后，能夠?qū)ι鐣钰厔葑鞒鲆恍邦A(yù)測”。[5]如此，甚至犯罪行為也會進行適應(yīng)性調(diào)整，因為以人臉和人體行動姿勢特征為分析對象的高精度高識別能力抓拍系統(tǒng)，就迫使?jié)撛诘淖锓父淖冏靼感袆臃绞胶托凶哕壽E，這又給社會治安提出新的技術(shù)課題。

三、“智能社會”要求社會治理既有模式調(diào)整轉(zhuǎn)型以應(yīng)對新挑戰(zhàn)

首先，既有社會治理模式的主要任務(wù)是為傳統(tǒng)社會主體提供基本的公共服務(wù)，解決他們之間的矛盾糾紛，維護社會的安全穩(wěn)定與和諧有序。做好民生保障和改善工作是其重要內(nèi)容和基礎(chǔ)。就業(yè)是最大的民生。機械化和信息化在對大規(guī)模簡單重復(fù)性體力勞動進行替代的同時，造就了更多的勞動者通過普及性的高等教育走上辦公室白領(lǐng)工作崗位的新就業(yè)局面，使腦力勞動比重大幅上升，但遠未威脅到發(fā)達國家和地區(qū)人口的整體就業(yè)水準，因為它們的高等教育更發(fā)達。而未來人工智能要逐步取代的是體力和腦力結(jié)合的勞動崗位，甚至是人類一直引以為驕傲的某些創(chuàng)造性勞動崗位，其威脅到的社會階層從低層為主上升到中高層為主，包括高等教育本身。隨著大規(guī)模重復(fù)性生產(chǎn)包括糧食和其他農(nóng)產(chǎn)品的生產(chǎn)過程在人工智能精準控制下完成，工業(yè)化時代創(chuàng)造的大機器工業(yè)生產(chǎn)方式也會再次被改變。那種成千上萬人進行同一種操作的工廠甚至大型寫字樓都不再被需要。生產(chǎn)方式的改變必然帶來社會生活方式和社會治理模式的改變。

在這種情形下，社會治理不能因循守舊，而應(yīng)當(dāng)積極思考如何充分利用智能設(shè)備和網(wǎng)絡(luò)系統(tǒng)提高民生服務(wù)的水平和質(zhì)量，以應(yīng)對人工智能技術(shù)引起的大規(guī)模失業(yè)等社會新難題。我們當(dāng)然可以尋找新的民生服務(wù)商機，比如生產(chǎn)人工智能導(dǎo)盲眼鏡等創(chuàng)造就業(yè)機會。但顯然，職業(yè)被替代后更多的人口將無法實現(xiàn)就業(yè)，因為人工智能使我們第一次擁有了幾乎無盡的體力和腦力勞動力資源。另一方面，即使是智能設(shè)備和網(wǎng)絡(luò)系統(tǒng)的高生產(chǎn)率可以提供充足的民生保障，從而將失業(yè)者全部養(yǎng)活起來，但就業(yè)問題依然重要。因為人不可能甘于像寵物一樣被供養(yǎng)，他必須通過生產(chǎn)和生活過程的參與找到自己的社會身份和存在感，以確定他的社會關(guān)系位置和價值，這樣才可以避免引發(fā)普遍的社會失常癥候。這也是具有自我意識并且能夠使用自創(chuàng)的符號體系來表達主觀意識，創(chuàng)造自己需要的抽象概念世界的人與動物和智能機器的根本區(qū)別。所以，在這種情況下，就業(yè)就不像過去那樣首先是一個經(jīng)濟和民生問題，而首先是一個社會和政治問題。

其次，社會治理既有模式的最大特征是將每個社會主體視為完全權(quán)利平等的法權(quán)主體。但當(dāng)一個人因植入高算力和先進算法的芯片而成為人機復(fù)合主體以后呢？是否有必要修改法律和調(diào)整道德規(guī)范以滿足復(fù)合主體的特殊需求？法律是否應(yīng)當(dāng)為不同的主體規(guī)定不同的權(quán)利范圍？當(dāng)復(fù)合主體和傳統(tǒng)主體發(fā)生權(quán)利糾紛時，司法是否可以因兩種主體的不平等而有不一樣的判決？這是一個肯定會到來的問題。此外，歐洲國家開始出現(xiàn)的機器人妓女和妓院是否可視為合法甚至是有益于社會的？自然人和性愛機器人的婚姻能否合法化？判斷他-它們或她-它們婚姻行為后果的標準又如何制定？類似的問題會接踵而至，考驗著我們的社會治理模式。法律體系和道德規(guī)范體系只有及時調(diào)整，才能更好地與智能社會相容。

再次，社會治理既有模式是將人類自然生命體+作為社會關(guān)系結(jié)點并具有特定社會身份的社會成員視為唯一主體，遵循一切責(zé)任皆可追溯到社會主體身上的思路，因此可以通過約束社會主體動機和行為來保障社會安全穩(wěn)定。人力不可抗的自然災(zāi)害和偶然事件除外。但在人工智能廣泛運用的背景下，卻可能出現(xiàn)事故之后責(zé)任無法追償?shù)碾y題。這并不是指如機械化時代的電線短路和信息化時代的電腦硬盤損壞或網(wǎng)絡(luò)設(shè)備故障引起的影響社會生活事件，而是指當(dāng)傳統(tǒng)社會生活主體沉浸在十分便捷的人工智能工作或生活場景中時，由機器算法和物聯(lián)網(wǎng)絡(luò)自動應(yīng)答、交互作用和自主決策而帶來的社會后果。這些后果極有可能是因為人工智能設(shè)備十分精準貼切地順應(yīng)個性化的人的生活和工作習(xí)慣后自主帶給我們的，更可能是由它們參與營造的信息環(huán)境誘導(dǎo)下人的無意識個體或集體行動的后果。這些后果有些可能是無害的，但無法保證產(chǎn)生一些有害甚至是災(zāi)難性的社會事件。在這種情況下，我們將無法追究任何主體的責(zé)任。雖然科技巨頭企業(yè)掌握著信息入口和普遍性服務(wù)的算法，形成網(wǎng)絡(luò)壟斷，但事件后果并不是企業(yè)的有意行為或運作行為的結(jié)果，而只是用戶無意識行為的結(jié)果，呈現(xiàn)出一種在無意識情況下被追蹤被操縱的情況。更不用說，在大物聯(lián)網(wǎng)背景下，AI的數(shù)據(jù)和算法一旦被人惡意篡改，可造成全社會性的災(zāi)難。

最后，由于網(wǎng)絡(luò)、大數(shù)據(jù)和云計算、人工智能徹底改變了信息產(chǎn)生、傳遞、復(fù)制和沉淀的模式，已經(jīng)完全在技術(shù)運用層面沖破了延續(xù)數(shù)千年的政府管理信息縱向等級式流動方式，使普通社會成員普遍具有了信息大量快速傳播的手段，從而造就了一個網(wǎng)絡(luò)型、扁平化社會結(jié)構(gòu)，迫使政府的社會管理體制也必須進行適應(yīng)性調(diào)整。首先要對典型金字塔式政府社會管理組織體制進行壓縮，以與深刻改變了的社會結(jié)構(gòu)保持基本框架上的同構(gòu)性，而不能與它完全脫節(jié)或格格不入，因為“當(dāng)社會與管理體系不再存在同構(gòu)關(guān)系時，管理體系就自然面臨著相應(yīng)的變革動力，一個基本的規(guī)律是，管理體系必然要同社會現(xiàn)實相符合”。[1]其次要將人工智能技術(shù)廣泛充分地使用在政府社會管理之中，使政府社會管理完全具備適應(yīng)和推動智能社會有序運作的技術(shù)手段。再次要處理好政府與商業(yè)機構(gòu)建立的智能平臺之間的關(guān)系，尤其要建立足夠強大的法律保障、技術(shù)保障和監(jiān)管機制，使商業(yè)性智能平臺不能在發(fā)揮政府社會管理作用的時候隨意獲取和使用公民信息，或者是服務(wù)系統(tǒng)的安全保障不嚴格而造成信息大面積泄露，侵害公民社會權(quán)利。最后要深入研究人工智能對政府社會管理潛在的負面影響甚至危害性，以制定預(yù)案，及早擁有應(yīng)對之策。目前以霍金、馬斯克等為代表的人工智能科技界和社會清醒人士在這方面有著深重的憂慮，認為在某一情況下人工智能將完全可能給人類帶來雙重奴役：一是人工智能最終會發(fā)展到比肩乃至超越人類智能水平，必然產(chǎn)生自我意識和自我需求，形成自己的物種觀念，這時他們就會運用超過人類智慧和肉體的能力反過來奴役甚至消滅人類社會；二是雖然從目前可清晰預(yù)見的人工智能技術(shù)能力來看，尚沒有出現(xiàn)超越人類的智能新物種的可能性，但人工智能技術(shù)在社會公共生活和私人生活領(lǐng)域的普遍運用和深度滲透，使得通過掌控技術(shù)源頭和網(wǎng)絡(luò)運行、掌握大數(shù)據(jù)和算法的組織有可能通過技術(shù)體系實現(xiàn)對社會生活的全面控制，以達到某些集團的特殊目的，損害社會公共利益和個人權(quán)益。專制政府更可能利用這一特殊手段精準掌控每一個人的生活甚至思想，用以維護專制統(tǒng)治。這些可能性的存在迫使我們必須預(yù)先研究避免落入陷阱的現(xiàn)實路徑。

四、智能社會條件下社會治理的調(diào)適必須首先解決的幾個重大問題

其一，社會治理模式的調(diào)整轉(zhuǎn)型，必須首先做好相應(yīng)的理論研究，給出一些必要的提示。而理論研究應(yīng)當(dāng)關(guān)注的最重要問題是介入社會生活的機器人、植入了數(shù)據(jù)和輔助處理程序并與人的思維和行動能力固定聯(lián)結(jié)的生物或電子芯片的復(fù)合型社會主體、其他具有一定程度交互和自動應(yīng)答能力的智能系統(tǒng)等的“主體性”問題。漠視這個問題是不客觀的、不可能的，對于社會治理的適應(yīng)性轉(zhuǎn)型也是非常有害的，因為這樣會阻礙我們選擇正確的治理路徑，做好完善的體制和技術(shù)準備。雖然，從哲學(xué)上說我們可以否認人的主體性之外的一切主體性。因為哲學(xué)就是人類以自身為主體對自己與客觀世界關(guān)系的思考。最能反映這種關(guān)系的、實質(zhì)的哲學(xué)問題是認識論問題。但是，在客觀世界中，人類并不能否認動物也是一種活動主體。它們雖然沒有抽象地、本質(zhì)性地認識世界的能力，因此與客觀世界的關(guān)系不能上升到認識論的高度，但它們卻在一定程度上具備與客觀世界的積極互動、自主應(yīng)對能力。所以，在行動意義上說它們確實是具有主體性的，盡管并沒有達到真正的哲學(xué)主體地位。

我們也是在這個意義上來講所謂人工智能系統(tǒng)主體性問題的。第一，人工智能系統(tǒng)不是真正完整的社會生活主體，它所具有的主體性沒有達到認識論的高度。第二，它確實正在成為社會生活的活動主體之一，正在快速進入到社會生活當(dāng)中，并且?guī)砣祟惿畹闹卮笞兓m然是部分性地但卻是相對獨立地替代人類的許多體力和腦力勞動。第三，它也將開始進入人體本身，介入人們的行動甚至思維和感情，輔助性地參與到人們對世界的認識和實踐過程之中。這是我們思考人工智能系統(tǒng)在社會治理中的主體性的幾個基點。

研究人工智能系統(tǒng)主體性的意義在于它是考慮智能社會的社會治理體系創(chuàng)新問題的概念樞紐。整個智能社會時代社會治理體系的調(diào)整完善都必須圍繞著這個概念展開才能邁出實質(zhì)性步伐，去進行治理體制、政策體系和方法技術(shù)等的革新，并真正符合實際，產(chǎn)生有價值的效果。例如，要首先在定性的基礎(chǔ)上對人工智能系統(tǒng)進行身份確認，進而劃定它們的權(quán)利和責(zé)任界線，特別是開發(fā)、使用、監(jiān)護它們的人類主體與它們的權(quán)責(zé)關(guān)系的界定。這是一切體制、體系和方法技術(shù)問題的前提和基礎(chǔ)。

其二，我們要進行復(fù)合主體和獨立、半獨立參與社會生活的機器人(工業(yè)機器人除外)和其他人工智能系統(tǒng)的行為立法的理論研究。其目的是探討從人工智能系統(tǒng)的設(shè)計、制造、使用和監(jiān)護等各個環(huán)節(jié)上預(yù)防和阻止它們對人類可能的傷害，和對正常社會生活可能的干擾與破壞。通過限制它們的行為最終限制相關(guān)人員的行為，用相應(yīng)的技術(shù)檢測方法和案件偵辦手段確認它們行為的性質(zhì)、類別、情節(jié)輕重，追究相應(yīng)的民事乃至刑事責(zé)任，調(diào)整它們與整個社會生活的關(guān)系。護理機器人、醫(yī)療診斷和手術(shù)機器人，餐飲、賓館、銷售、新聞采編、金融證券和財務(wù)操作等機器人，以及其他公眾服務(wù)機器人乃至性愛機器人，還有因植入芯片而添加了增強性特殊能力的復(fù)合主體等等，都可能因為其具有的深度學(xué)習(xí)和自主選擇能力而給某些人類個體或群體造成身體、精神傷害，帶來財物損失，或給社會生活正常秩序造成擾亂甚至破壞性沖擊，乃至帶來巨大災(zāi)難。

其實，綜合應(yīng)用人工智能系統(tǒng)的自動駕駛就是首先可能遇到這類問題的領(lǐng)域之一。即使比汽車自動駕駛相對簡單一些的民航飛機自動駕駛系統(tǒng)，就已經(jīng)開始呈現(xiàn)近似的問題。2018年10月29日印尼獅航(Lion Air)一架載有189人的波音737 Max客機墜毀，2019年3月10日埃塞俄比亞航空737 MAX飛機墜毀，機上157人全部遇難。這兩起事件都是由于自動駕駛系統(tǒng)脫離駕駛?cè)藛T的操作而獨立運行造成的。通常，飛機自動駕駛并未像汽車自動駕駛那樣要求精準識別復(fù)雜環(huán)境中各種動態(tài)狀況并作出極速正確反應(yīng)，以確保行駛安全，而主要是按照設(shè)定程序執(zhí)行飛行任務(wù)。但波音737 Max飛機的駕駛程序中已經(jīng)設(shè)計了根據(jù)飛行姿勢等狀況自動調(diào)整飛行動作的內(nèi)容，并且在與駕駛?cè)藛T的手動操作相矛盾時，“自主性”地抵抗了正確的人的手動操作并且占據(jù)上風(fēng)，從而導(dǎo)致空難。這表明它在一定程度上已經(jīng)屬于一種機器自主決策。而在汽車自動駕駛中，智能系統(tǒng)完全是根據(jù)行駛目的要求和它所觀測到的環(huán)境路況進行真正意義上的自主決策。波音空難的責(zé)任非常容易確定，波音公司已經(jīng)就此道歉。但汽車自動駕駛系統(tǒng)在發(fā)生交通事故的情況下很可能遇到責(zé)任不易輕易劃分的情形。所以，立法理論研究應(yīng)當(dāng)先行進行。同時，立法理論研究還可以考慮在制裁相關(guān)機構(gòu)和人員的同時，對機器人和其他智能系統(tǒng)本身進行法律制裁。深度學(xué)習(xí)能力使智能系統(tǒng)能夠通過接受懲戒或“馴化”調(diào)整自已的行為模式，修正錯誤，避免再犯。但對智能系統(tǒng)的法律制裁與對人的法律制裁之間的關(guān)系如何處理，其中有一系列前所未有的全新問題，需要進行深入理論探討。

其三，即將到來的物聯(lián)網(wǎng)絡(luò)系統(tǒng)在大數(shù)據(jù)技術(shù)、人工智能技術(shù)的協(xié)同作用下，會迅速全面滲透到社會生產(chǎn)和人類生活的各個領(lǐng)域，極大地改變?nèi)藗兊男袨榉绞胶蜕鐣\行方式。與此相關(guān)，可能發(fā)生的社會危機、社會災(zāi)害以至社會動蕩也會具備許多新的規(guī)律性和特點，與自然災(zāi)害和傳統(tǒng)反社會行為帶來的社會問題有本質(zhì)性區(qū)別。已有應(yīng)對手段難以預(yù)測、及早發(fā)現(xiàn)和全面控制。所以，我們應(yīng)該及早利用5G以上通信技術(shù)帶來的高速率、低時延等特點，針對性地建立智能社會時代新型社會災(zāi)害的及時發(fā)現(xiàn)和自動阻斷機制，做到與這些技術(shù)的進步同步性地開發(fā)相關(guān)預(yù)警和處置技術(shù)，使社會治理保持有效的防患于未然狀態(tài)。

其四，隨著人工智能技術(shù)對眾多傳統(tǒng)勞動職業(yè)的替代，一些新的服務(wù)需求也會相應(yīng)產(chǎn)生。可以設(shè)想其中將有一部分是與替代和被替代雙方關(guān)系密切的新服務(wù)，因此會不斷出現(xiàn)一些新的行業(yè)。政府的就業(yè)管理部門應(yīng)當(dāng)開展這方面的遠、中、近景預(yù)測研判，采取相關(guān)措施促進新興行業(yè)的發(fā)展，解決就業(yè)難題。

其五，在智能社會時代，數(shù)據(jù)和技術(shù)的巨頭企業(yè)不可避免地成為政府社會治理的緊密關(guān)聯(lián)者。它們既是海量社會治理基礎(chǔ)數(shù)據(jù)的擁有者，同時也是社會運行一些方面、一定程度的掌控者。智能社會往往也是科技巨頭企業(yè)從技術(shù)上提供的網(wǎng)絡(luò)聯(lián)結(jié)和動力匯聚支撐而起的。因此，政府與巨頭企業(yè)的關(guān)系既是常規(guī)意義上的政企關(guān)系，也具有顯著的政社關(guān)系的性質(zhì)。這使巨頭企業(yè)成為社會治理不可或缺的重要角色。政府既要充分發(fā)揮巨頭企業(yè)的支撐和引領(lǐng)作用，同時也要從法律和制度上防止其濫用技術(shù)和能量優(yōu)勢操控社會生活。這既要求政府強化對巨頭企業(yè)的監(jiān)督管控能力，與其開展積極合作的能力，同時也要將自己置于始終清醒和規(guī)范的狀態(tài)之中，避免被綁架操控，成為傀儡，甚至基于利益或其他所求，與其結(jié)成侵害社會公共利益的聯(lián)盟。所以，智能社會條件下，“政府治理必須實現(xiàn)開放治理、陽光治理、依法治理、民主治理、高效治理”，[6]以盡可能避免極端情況的發(fā)生。