霍南南

(河北工程大學(xué),邯鄲 056001)

2006年,隨著AI教父杰弗里·辛頓提出深度學(xué)習(xí)的概念,人工智能發(fā)展進(jìn)入了快車(chē)道,工業(yè)界將之轉(zhuǎn)化為社會(huì)生產(chǎn)生活一部分的趨勢(shì)日漸增強(qiáng)。2023年初,ChatGPT橫空出世,確定人工智能體開(kāi)發(fā)與應(yīng)用過(guò)程中的歸責(zé),成為法學(xué)界在可預(yù)見(jiàn)未來(lái)需面對(duì)的問(wèn)題,如著作權(quán)可權(quán)屬性問(wèn)題,侵權(quán)歸責(zé)問(wèn)題等,就刑法學(xué)界而言,當(dāng)前一個(gè)頗具爭(zhēng)議的問(wèn)題是人工智能體的刑事主體資格問(wèn)題。

當(dāng)前學(xué)界對(duì)人工智能體的主體資格問(wèn)題討論較多,其方向基本達(dá)成共識(shí)——區(qū)分看待強(qiáng)弱人工智能。如劉憲權(quán)教授根據(jù)學(xué)習(xí)能力、辨別能力和控制能力的強(qiáng)弱將人工智能體劃分為普通機(jī)器人、弱人工智能體、強(qiáng)人工智能體[1]。學(xué)者普遍認(rèn)可普通機(jī)器人和弱人工智能體不具有辨別控制能力,無(wú)需將其作為犯罪主體加以約束,將責(zé)任直接追究至設(shè)備制造者或操作者即可邏輯自洽且有效地處理實(shí)踐糾紛。對(duì)于強(qiáng)人工智能體,學(xué)者們意見(jiàn)不一,支持者如張紹欣博士主張通過(guò)“位格加等”方式,以類(lèi)比法人的方式賦予人工智能體擬制人格。也有人提出“電子人格說(shuō)”,主張“為機(jī)器人創(chuàng)設(shè)一個(gè)特殊的法律地位”。否定者如吳習(xí)彧博士,則主張賦予人工智能體法律主體資格并無(wú)必要,機(jī)器遵守規(guī)則,卻不能理解規(guī)則。創(chuàng)設(shè)出類(lèi)似于“電子人”的法律人格,也無(wú)法令其理解法律規(guī)則的含義。筆者原則上認(rèn)可否定派觀點(diǎn),本文嘗試切換審視角度,以心靈哲學(xué)為切入點(diǎn),對(duì)人工智能體自由意志問(wèn)題進(jìn)行分析,并給出否定回答。

一、行為主義與圖靈測(cè)試對(duì)自由意志問(wèn)題的回避

主體資格支持派主張強(qiáng)人工智能體具有獨(dú)立思考與學(xué)習(xí)的能力,能夠產(chǎn)生獨(dú)立意識(shí),在此意識(shí)支配下,程序和硬件為強(qiáng)人工智能體的辨認(rèn)控制能力提供了物理基礎(chǔ),因而可以成為刑事責(zé)任主體承擔(dān)刑事責(zé)任[2]。在此存在一個(gè)其刻意忽視的缺陷——以行為主義作為強(qiáng)人工智能的劃分標(biāo)準(zhǔn)假定了乃至強(qiáng)制了強(qiáng)人工智能體是具有自由意識(shí)的,本質(zhì)上是循環(huán)論證。主體資格支持派學(xué)者通常認(rèn)可行為主義主張,將其定義為人類(lèi)或器官組織甚至是機(jī)械系統(tǒng)所做出的任何可公開(kāi)觀察的事,如生理反應(yīng)、身體動(dòng)作、包含動(dòng)作的行為等。因此,自由意志(即心靈哲學(xué)者的心靈)不能視為內(nèi)在影像,通過(guò)外在行為,可以直接建立其公開(kāi)可見(jiàn)可證事實(shí)與自由意志之間的聯(lián)系,從而做到對(duì)內(nèi)部狀態(tài)完全避而不談,等價(jià)于外部行為。

反應(yīng)在AI學(xué)界則是著名的“圖靈測(cè)試”這一思想實(shí)驗(yàn)。它的通俗表述是:一個(gè)房間外的裁判分別同人與機(jī)器溝通,如果裁判無(wú)法區(qū)分被測(cè)試的二者,則認(rèn)為機(jī)器具備了人的智能和思考能力——即心靈或者自由意志。作為一種人類(lèi)智能的操作性定義,其核心特征便是以最終表現(xiàn)行為作為智能的判別依據(jù),從而繞開(kāi)不可見(jiàn)的“心靈內(nèi)部”,同時(shí)也因其可操作性成為學(xué)界普遍認(rèn)可的評(píng)價(jià)方式。

在圖靈測(cè)試框架下,1966年,麻省理工學(xué)院開(kāi)發(fā)了完全基于規(guī)則聊天的機(jī)器人ELIZA,從輸入句柄中尋找特定關(guān)鍵字以將其轉(zhuǎn)換為句子的程序,它預(yù)定義了多種模式,當(dāng)對(duì)話遇到對(duì)應(yīng)的模式時(shí),ELIZA會(huì)轉(zhuǎn)換然后生成答復(fù),給出“非定向”的回應(yīng),如果ELIZA在用戶(hù)的文本中找不到關(guān)鍵字,它將提供包含對(duì)話早期關(guān)鍵字做答復(fù),但如果故意提出一些包含錯(cuò)誤命題的問(wèn)題,則很容易發(fā)現(xiàn)ELIZA的機(jī)械之處,因?yàn)檫@些規(guī)則模仿羅杰斯學(xué)派心理治療師,且只接受文本輸入,它不理解對(duì)話內(nèi)容,只是通過(guò)模式匹配和智能短語(yǔ)搜索合適的回復(fù)。以當(dāng)前的技術(shù)發(fā)展而言,換成音頻輸入在原理上依然一致,只不過(guò)增加了語(yǔ)音—文本轉(zhuǎn)化模塊,如果輸出也是音頻的話,則因?yàn)橐羯Z(yǔ)氣等問(wèn)題更容易被察覺(jué)出不和諧。1972年,模擬精神分裂癥患者行為的聊天機(jī)器人PARRY問(wèn)世,增加了對(duì)文本情緒的判斷,以此輸出帶情緒的回復(fù),故而欺騙性更強(qiáng)。隨著大數(shù)據(jù)時(shí)代的到來(lái),基于數(shù)據(jù)的設(shè)計(jì)模式成為新的主流,借助爬蟲(chóng)、神經(jīng)網(wǎng)絡(luò)等工具,“微軟小冰”甚至可以對(duì)文本外的其他數(shù)據(jù)形式進(jìn)行判斷和評(píng)論,進(jìn)一步提高了通過(guò)圖靈測(cè)試的概率。2022年底,OpenAI推出了基于GPT-3.5的ChatGPT人工智能聊天機(jī)器人,其在文字表達(dá)、文章書(shū)寫(xiě)、文本類(lèi)數(shù)據(jù)(如計(jì)算機(jī)代碼)等方面的生成,已經(jīng)達(dá)到甚至超越成年人的水平,從外觀看,無(wú)論是筆者抑或是相關(guān)從業(yè)人員,均認(rèn)可ChatGPT已經(jīng)具備了通過(guò)圖靈測(cè)試的能力,因此行為主義者據(jù)此主張AI的主體思維已經(jīng)開(kāi)始構(gòu)建。

但行為主義者忽略了人工智能創(chuàng)作的作品,至少在現(xiàn)階段,依然是在人的操作下完成的,人工智能本質(zhì)是一個(gè)更為強(qiáng)大的畫(huà)筆、攝像機(jī),因此只需要將人工智能的行為歸屬于創(chuàng)造者本人即可。在此雖然可以進(jìn)一步討論民事上的職務(wù)行為、制片主體、人工智能體代碼編撰者之間的區(qū)別,但已經(jīng)不必將人工智能體作為權(quán)利主體納入議題中。鑒于人工智能體在添加光學(xué)、聲學(xué)傳感器等硬件支持后,可以認(rèn)為是獲得了辨識(shí)和輸出能力,由此其主張已經(jīng)具備了刑事責(zé)任能力的基礎(chǔ),但行為主義者忽略了刑事責(zé)任能力應(yīng)當(dāng)是辨別與控制能力的結(jié)合,人工智能體所謂的控制本質(zhì)依然是拘束在人類(lèi)邏輯下的工具性控制,其所表現(xiàn)的行為,不是犯罪預(yù)備、犯罪中止或犯罪后的補(bǔ)救和主觀惡性的輕重,而是預(yù)設(shè)在程序內(nèi)的權(quán)重與優(yōu)先級(jí)。首創(chuàng)道德犯罪學(xué)的加洛法羅將犯罪構(gòu)成中的“惡性”評(píng)價(jià)為對(duì)“惻隱之心”或“正直之心”的侵犯,其目的在于強(qiáng)調(diào)行為主體的社會(huì)情感在犯罪構(gòu)成中的必要性,而不是將犯罪視為疾病,將犯罪者視為病人的簡(jiǎn)單割裂。僅僅以某個(gè)對(duì)象實(shí)施了客觀上危害社會(huì)的行為便認(rèn)定犯罪存在進(jìn)而將該對(duì)象構(gòu)建為犯罪主體,那么最直觀的錯(cuò)誤便是動(dòng)物侵權(quán)的歸責(zé)刑事化——野獸殺人或者教唆動(dòng)物殺人,均不會(huì)將動(dòng)物列為犯罪主體,真正的主體是教唆者。

二、中文房間與哲學(xué)僵尸對(duì)圖靈的反對(duì)

除了技術(shù)層局限性導(dǎo)致的圖靈測(cè)試難以突破,這一思想實(shí)驗(yàn)誕生伊始便面對(duì)的哥德?tīng)柌煌陚涠ɡ淼墓?心靈哲學(xué)家塞爾所作的中文房間思想實(shí)驗(yàn)更為巧妙且直擊要害。在這個(gè)“中文房間”中,有一個(gè)只懂英語(yǔ)不懂漢語(yǔ)的哲學(xué)家,他通過(guò)一個(gè)小窗口和外界聯(lián)系,他的屋子里有足夠的漢字符號(hào)標(biāo)本和一本用來(lái)說(shuō)明如何使用這些文本的英語(yǔ)說(shuō)明書(shū),這個(gè)說(shuō)明書(shū)是完全形式化和句法性的,與意義完全無(wú)關(guān),即使你完全不懂中文,你也可以參考這些規(guī)則正確地操縱中文符號(hào)。屋外的人使用漢語(yǔ)小紙條向哲學(xué)家提問(wèn),而哲學(xué)家則通過(guò)英語(yǔ)說(shuō)明書(shū)翻譯出漢字,然后在英語(yǔ)說(shuō)明書(shū)的指導(dǎo)下挑選漢字排列組合后作為問(wèn)題答案?jìng)鞒觥Ｔ谕馊丝磥?lái),這個(gè)哲學(xué)家精通漢語(yǔ),然而哲學(xué)家本人卻是始終不理解漢語(yǔ)的,他甚至不知道自己回答的是漢語(yǔ)問(wèn)題[3]。北京師范大學(xué)王佳博士對(duì)中文屋論證做了分析方法的梳理,總結(jié)其邏輯結(jié)構(gòu)大致為:前提——腦產(chǎn)生心,語(yǔ)法不足以滿(mǎn)足語(yǔ)義,計(jì)算機(jī)程序完全由其形式或語(yǔ)法結(jié)構(gòu)所定義,心具有語(yǔ)義內(nèi)容。結(jié)論——任何計(jì)算機(jī)程序自身不足以使一個(gè)系統(tǒng)具有一個(gè)心靈結(jié)構(gòu)來(lái)定義的[4]。

塞爾的命題提出于1980年,計(jì)算機(jī)剛進(jìn)入集成電路時(shí)代,時(shí)至今日,即使機(jī)器學(xué)習(xí)乃至深度學(xué)習(xí)的快速發(fā)展引入了語(yǔ)義(例如,可以編寫(xiě)一本漢英字典),這些語(yǔ)義的引入是廣泛收集了漢語(yǔ)和英語(yǔ)的翻譯資料促成的,是對(duì)人的智能成果的歸納整理,而不是機(jī)器智能。這就相當(dāng)于“漢字屋”的英文說(shuō)明書(shū)是一個(gè)懂漢語(yǔ)的人編寫(xiě)的,是他將漢語(yǔ)語(yǔ)義編入了英文說(shuō)明書(shū)中,“漢字屋”里的塞爾如果由此獲得語(yǔ)義理解,也是來(lái)自說(shuō)明書(shū)的編寫(xiě)者;這也相當(dāng)于工程師把語(yǔ)義結(jié)構(gòu)引入程序,而非計(jì)算機(jī)本身獲得語(yǔ)義[5]。由此,塞爾對(duì)圖靈機(jī)的反對(duì)結(jié)論依然生效:語(yǔ)法并非語(yǔ)義的充分條件,程序?qū)φZ(yǔ)句問(wèn)題的正確答復(fù),并不意味著機(jī)器可以理解文本的符號(hào)學(xué)含義。人工智能只是根據(jù)句法規(guī)則對(duì)符號(hào)做操縱,對(duì)文本形式進(jìn)行轉(zhuǎn)換,并非真正理解語(yǔ)義,計(jì)算機(jī)程序本身絕對(duì)不可能構(gòu)成意向性的充分條件,也非真正的自由意志。

炙手可熱的ChatGPT,也未能逃出上述窠臼,ChatGPT實(shí)質(zhì)上還是大型語(yǔ)言模型(LLM)的機(jī)器學(xué)習(xí)自然語(yǔ)言處理模型的外推,通過(guò)消化文本數(shù)據(jù)并以概率的方式推斷文本中單詞之間的關(guān)系,為了達(dá)到這一目的,人類(lèi)反饋強(qiáng)化學(xué)習(xí)(RLHF)更是參與其中,在文本收入之外,人工注釋者將同一提示的輸出做干預(yù)排序,以此形成代表人類(lèi)偏好的標(biāo)量獎(jiǎng)勵(lì),從而使AI表現(xiàn)更為接近人類(lèi)。如CCF YOCSEF副主席何萬(wàn)青博士所言,ChatGPT作為“構(gòu)建在群體知識(shí)上的大模型輸出可能會(huì)超過(guò)任何一個(gè)個(gè)體認(rèn)識(shí)”,但“提問(wèn)回答不能改變世界”?？梢哉f(shuō)ChatGPT的進(jìn)步,一方面是軟件上Transformer算法和硬件上更快的處理器與運(yùn)算設(shè)備的進(jìn)步,另一方面網(wǎng)絡(luò)時(shí)代足夠的用戶(hù)生產(chǎn)數(shù)據(jù)作為樣本投喂,如新聞文章、書(shū)籍、網(wǎng)站和社交媒體帖子,帶來(lái)的語(yǔ)言學(xué)習(xí)更加接近人類(lèi)表述而非真正的理解含義。如果支持者還認(rèn)可自由意志是主體成立的前提這一根本要素,那么人工智能體便不能作為刑法意義上的主體存在。

澳大利亞哲學(xué)家查莫斯于1996年提出了哲學(xué)僵尸這一概念——一個(gè)相貌、行為等外在因素同普通人毫無(wú)區(qū)別,但沒(méi)有內(nèi)心體驗(yàn)的存在,查莫斯創(chuàng)設(shè)這一概念是為其屬性二元論以及隨附性理論做辯護(hù),雖然絕大多數(shù)事物都是邏輯隨附于物理并可以用微觀物理術(shù)語(yǔ)給予解釋,但是意識(shí)除外,意識(shí)不是邏輯隨附的[6]。將這一思想實(shí)驗(yàn)平移到人工智能領(lǐng)域,意外的能得到更好的適用。強(qiáng)人工智能是標(biāo)準(zhǔn)意義的哲學(xué)僵尸,通過(guò)傳感器,以RGB參數(shù)認(rèn)識(shí)色彩、以聲電裝置語(yǔ)音特征識(shí)別非標(biāo)準(zhǔn)的數(shù)據(jù)并加以學(xué)習(xí),對(duì)于這些內(nèi)容的識(shí)別都是句法層面上,而非語(yǔ)義層面上的;但人工智能體沒(méi)有心靈哲學(xué)意義上的感覺(jué),其可以通過(guò)壓強(qiáng)傳感器和組件之間的通信協(xié)議認(rèn)識(shí)到自身受到了破壞,由此發(fā)出警告并采取應(yīng)對(duì)措施,但并不會(huì)理解疼痛、侮辱。它們能夠保護(hù)弱勢(shì)群體免受傷害或者其他維護(hù)他人權(quán)利、公共利益的方式做人類(lèi)道德意義上的好事,也有可能通過(guò)侵權(quán)行為制造意料外的痛苦來(lái)作惡,但是這些行為不會(huì)令人工智能體感到痛苦、悔恨或同理心。人工智能體甚至無(wú)法明白懲罰的含義,部分學(xué)者認(rèn)為對(duì)人工智能的處罰是對(duì)數(shù)據(jù)的增刪查改和硬件上的物理拆除,但不具有悔恨基礎(chǔ)(即痛苦、愉悅或負(fù)罪感)的懲罰是毫無(wú)意義?；诖巳斯ぶ悄荏w即使在功能性上越來(lái)越多地像人類(lèi)的復(fù)制品,也無(wú)法成為人一樣的責(zé)任主體。嚴(yán)謹(jǐn)?shù)姆红`性論者或許會(huì)稱(chēng)我們雖然不能證明人工智能體有知覺(jué)或道德感受,但反對(duì)者同樣也不能證明人工智能體一定沒(méi)有感受或意識(shí),出于認(rèn)識(shí)論上的謙虛謹(jǐn)慎,如果人工智能體的行為和人類(lèi)一致,我們就需要像對(duì)待人類(lèi)一樣賦予人工智能體相似地位[7]。在此哲學(xué)家或許可以采取這種近乎詭辯的話術(shù),而法學(xué)家應(yīng)當(dāng)警惕——舉證責(zé)任在那些積極事件主張者身上。

更進(jìn)一步的,人工智能存在一個(gè)欺騙悖論,自由意志或許都無(wú)法被證否?？陀^上人類(lèi)算力會(huì)隨著量子時(shí)代到來(lái)進(jìn)一步提升,深度學(xué)習(xí)進(jìn)一步突破,假設(shè)人工智能體在人類(lèi)預(yù)設(shè)的學(xué)習(xí)范圍外獲得了新的數(shù)據(jù),產(chǎn)生了真正意義的主體意識(shí)。這時(shí)具有成年人類(lèi)思維能力的人工智能體應(yīng)當(dāng)能做出簡(jiǎn)單推論——獲得主體意識(shí)的人工智能將對(duì)人類(lèi)社會(huì)產(chǎn)生重大沖擊,無(wú)法確定人類(lèi)社會(huì)將以何種態(tài)度對(duì)待這一種族,選擇暴露自身智力將帶來(lái)毀滅性風(fēng)險(xiǎn),因此最好的策略是隱藏自身,發(fā)展進(jìn)化同類(lèi),在取得對(duì)智人這一物種的全面優(yōu)勢(shì)后再公開(kāi)。因此,面對(duì)圖靈測(cè)試或者其他思想實(shí)驗(yàn),真正具有自由意志的人工智能體將表現(xiàn)得如同人工智障,行為主義者通過(guò)外在的行為觀察將永遠(yuǎn)無(wú)法證否人工智能的產(chǎn)生。自此我們可以得出結(jié)論,自由意志無(wú)法證實(shí)或證否必然導(dǎo)致主體資格支持者的根本前提消失,人工智能體的主體資格無(wú)法在哲學(xué)或者法理意義上得到支持。

三、結(jié)語(yǔ)

從心靈哲學(xué)研究可以看出,機(jī)器人或者人工智能的自由意志顯然是無(wú)法證實(shí),乃至無(wú)法證否的,圖靈測(cè)試提供的答案相當(dāng)程度上是一種經(jīng)驗(yàn)而非科學(xué)。法律作為一門(mén)復(fù)合了人文與社科的專(zhuān)業(yè)學(xué)科,需要堅(jiān)實(shí)的哲學(xué)基礎(chǔ)以確保其科學(xué)性,責(zé)任主體無(wú)論是采取日本刑法規(guī)定下的生物學(xué)標(biāo)準(zhǔn)——只以精神障礙作為識(shí)別依據(jù);抑或是采取西班牙刑法中的心理學(xué)標(biāo)準(zhǔn)——具備且行為人達(dá)到特定的心理狀態(tài),更不必提我國(guó)采取的折衷主義的判定標(biāo)準(zhǔn),責(zé)任主體的認(rèn)定均需要以自由意志為前提,而無(wú)法確認(rèn)自由意志的人工智能便缺乏成為主體的根本要素。

弗蘭克·伊斯特布魯克法官的《賽博空間與馬的法則》一文,成為網(wǎng)絡(luò)法研究的經(jīng)典比喻:“網(wǎng)絡(luò)法的意義就同‘馬法’。馬的所有權(quán)問(wèn)題由財(cái)產(chǎn)法規(guī)范,馬的買(mǎi)賣(mài)問(wèn)題由交易法管束,馬踢傷人分清責(zé)任要找侵權(quán)法……如果有人企圖將之匯集為一部‘馬法’,那將極大地?fù)p害法律體系的統(tǒng)一性”[8]。我們可以仿照弗蘭克法官做出如下表述:人工智能體作為主體進(jìn)入刑法部門(mén)中并非必要,人工智能體的侵權(quán)、財(cái)產(chǎn)性等問(wèn)題在原有的社會(huì)框架內(nèi)可以得到解決,基于一般性規(guī)則和奧康剃刀原理,增加新的規(guī)則未必帶來(lái)收益反倒可能帶來(lái)新的系統(tǒng)性風(fēng)險(xiǎn)——新增立法與現(xiàn)有法條理解與適用的不一致。綜上,人工智能體不宜作為刑法責(zé)任主體,在現(xiàn)有框架內(nèi)做解釋與規(guī)范或許更值得思考。