姚天沖,周自達(dá)
(東北大學(xué)文法學(xué)院,遼寧沈陽(yáng)110000)
在2019年1月,習(xí)近平總書(shū)記在十九屆中央政治局第九次會(huì)議上強(qiáng)調(diào),加快人工智能發(fā)展是中國(guó)贏得世界科技競(jìng)爭(zhēng)主導(dǎo)權(quán)的重要戰(zhàn)略抓手,是推動(dòng)中國(guó)科技跨越式發(fā)展、產(chǎn)業(yè)優(yōu)化升級(jí)、生產(chǎn)力整體躍升的重要戰(zhàn)略資源。[1]同年的3月份,李克強(qiáng)總理在政府工作報(bào)告中也強(qiáng)調(diào),要深化大數(shù)據(jù)、人工智能等方面研發(fā)應(yīng)用,培育新一代新興數(shù)字產(chǎn)業(yè)經(jīng)濟(jì)。這些都說(shuō)明新一屆領(lǐng)導(dǎo)人特別重視中國(guó)人工智能技術(shù)的研究和發(fā)展。
人工智能作為一項(xiàng)新技術(shù),正在改變著社會(huì)政治、經(jīng)濟(jì)、文化等諸多方面,同時(shí)也深深影響著法律規(guī)范的制定和實(shí)施。法律規(guī)范作為一種糾紛解決機(jī)制需要及時(shí)規(guī)制和解決人工智能發(fā)展過(guò)程中出現(xiàn)的問(wèn)題。
在國(guó)際上,人工智能發(fā)展勢(shì)頭也很強(qiáng)勁。一些全球科技公司都在搶占人工智能領(lǐng)域的新高地。微軟科技巨頭公司已經(jīng)制造出能夠自由創(chuàng)作詩(shī)歌的智能機(jī),那么法律對(duì)于智能體的知識(shí)產(chǎn)權(quán)如何保護(hù)需要深入探究。人類(lèi)最聰明的圍棋高手也敗在智能機(jī)器人手里。人工智能在深度學(xué)習(xí)、大數(shù)據(jù)、5G技術(shù)的支撐下得到了極大發(fā)展,人工智能技術(shù)已經(jīng)逐漸應(yīng)用到社會(huì)生活中,不斷智能化、自主化的許多智能機(jī)器慢慢走進(jìn)人們的視野。
在國(guó)內(nèi),上海智能機(jī)器清潔工在漆黑的夜晚清掃著上海的大街小巷,武漢作為首個(gè)中國(guó)城市以軍運(yùn)會(huì)為契機(jī)推動(dòng)自主駕駛公交車(chē)在全市范圍內(nèi)運(yùn)營(yíng)。除此之外,智能機(jī)器人服務(wù)員、保姆、律師也在研發(fā)當(dāng)中。這說(shuō)明智能機(jī)器已經(jīng)應(yīng)用到商業(yè)領(lǐng)域和日常生活中,這需要調(diào)整社會(huì)方方面面的法律規(guī)范,需要提前對(duì)人工智能問(wèn)題進(jìn)行規(guī)制。但是現(xiàn)有的以人類(lèi)為中心主義的法律制度,很難去調(diào)整和約束人工智能機(jī)器行為。法律規(guī)范在面對(duì)人工智能犯罪和侵權(quán)問(wèn)題時(shí)出現(xiàn)兩難的困境,因此,繼續(xù)去深入研究人工智能相關(guān)理論依據(jù)、主體資格和權(quán)責(zé)歸屬尤為重要。
在談智能機(jī)器人的相關(guān)法律問(wèn)題之前,首先我們要談一些更為基礎(chǔ)的概念,這對(duì)智能機(jī)器人能否作為法律主體、承擔(dān)法律責(zé)任至關(guān)重要。在科學(xué)技術(shù)的進(jìn)步下,智能機(jī)器人是否具備理性思維,智能機(jī)器人也是否具備感性意識(shí),以及智能機(jī)器人是否具有自由意志等。[2]而這些都是在人工智能不斷智能化、自主化到強(qiáng)人工智能階段前提下探討的難題。
人們習(xí)慣把理性思維和感性意識(shí)作為人類(lèi)特有的能力,動(dòng)物正是缺乏思維和意識(shí)才比人低下。那么,要考慮智能機(jī)器人是否具有理性思維能力,回答這個(gè)問(wèn)題需要了解人工智能發(fā)展過(guò)程中爭(zhēng)議的問(wèn)題。[3]
“圖靈測(cè)試”①正是解決智能機(jī)器是否具備思維,甚至是否具備意識(shí)而設(shè)計(jì)的一個(gè)實(shí)驗(yàn)。圖靈認(rèn)為智能機(jī)器除了不具備人類(lèi)一樣的活外觀,如果功能和行為與人類(lèi)無(wú)法區(qū)分,那么智能機(jī)器就具有思維。但是塞爾不認(rèn)同這個(gè)觀點(diǎn),他提出“中文屋”②的思想實(shí)驗(yàn)反駁圖靈。這個(gè)思想實(shí)驗(yàn)是假設(shè)塞爾像智能機(jī)器一樣不懂中文,若有其他可操作的形式符號(hào)作為媒介,那么屋子里的賽爾能認(rèn)識(shí)中文嗎?賽爾認(rèn)為機(jī)器只能根據(jù)程序設(shè)定做翻譯,不具有自主性的思維判斷,不算有思維。
智能機(jī)器人是否應(yīng)該賦予法律主體資格這一問(wèn)題至今日都爭(zhēng)議不斷,但智能機(jī)器能夠理解編程語(yǔ)言,那么通過(guò)編程語(yǔ)言的轉(zhuǎn)換也可以理解其他語(yǔ)言。如果智能機(jī)器人足夠的智能和先進(jìn),它也有可能懂得人類(lèi)語(yǔ)言背后的理性思維。但是理性思維是一種抽象之美,對(duì)于人來(lái)說(shuō),人類(lèi)超越或升華了感性意識(shí)而具有了理性思維,那么智能機(jī)器人的一種完美程序編輯出來(lái)的理性或者程序思維與人類(lèi)的理性思維有多大區(qū)別,這種區(qū)別對(duì)于機(jī)器人享有人格有無(wú)致命影響。
如果說(shuō)理性的思維可以通過(guò)計(jì)算機(jī)編程可編輯,那么情感、知覺(jué)是計(jì)算機(jī)無(wú)法編輯的。機(jī)器人除了模擬人的身體部分動(dòng)作外,內(nèi)心的情感無(wú)法通過(guò)程序設(shè)計(jì)。因?yàn)榍楦惺侨祟?lèi)表達(dá)喜怒哀樂(lè)的生理機(jī)制,這些機(jī)制是無(wú)法量化為計(jì)算機(jī)的編程語(yǔ)言的。即使機(jī)器人越來(lái)越智能,那么機(jī)器人在智力能力上會(huì)超越人類(lèi),也可能使機(jī)器人更具有理性思維,但是機(jī)器人不會(huì)懂得對(duì)與錯(cuò)的根源、是與非的界限、善與惡的分殊。就像機(jī)器人永遠(yuǎn)不懂得什么是幸福一樣。這也引發(fā)出更大質(zhì)疑,智能機(jī)器人是否有道德意識(shí)。智能機(jī)器只會(huì)自主地依據(jù)合理的指令作出行動(dòng),但無(wú)法自省地作出情感意義上符合道德的行動(dòng)。
在2013年,具有多層神經(jīng)網(wǎng)絡(luò)和“內(nèi)分泌系統(tǒng)”的能夠感知人類(lèi)情感變化或外部環(huán)境的智能機(jī)器人“胡椒”一上市就一售而空。[4]筆者認(rèn)為,這種感知僅僅是計(jì)算機(jī)程序設(shè)計(jì)的結(jié)果。貌似一個(gè)乞丐受盡了人世間的冷暖,他為了生存向施舍給他金錢(qián)的人說(shuō)謝謝或露出微笑一樣。在滿是編程語(yǔ)言的機(jī)器人眼里,向人類(lèi)表現(xiàn)出來(lái)的情感式語(yǔ)言或動(dòng)作在他們那里也僅是多加的一串代碼。正如療養(yǎng)院引進(jìn)的陪伴兒童、老年人的智能機(jī)器人,在機(jī)器的思維表達(dá)里開(kāi)發(fā)者設(shè)計(jì)了一些溫馨的情感式的話語(yǔ),這不代表智能機(jī)器具有情感意識(shí),真的會(huì)體會(huì)到快樂(lè)、悲傷。而這種不斷類(lèi)人的感性設(shè)計(jì),又會(huì)模糊人類(lèi)與智能機(jī)器的差距,我們會(huì)懷疑智能機(jī)器人在不斷智能化、類(lèi)人化的過(guò)程中他們已經(jīng)具備了感性意識(shí)。如果這種感性的智能化是機(jī)器深度學(xué)習(xí)和自主學(xué)習(xí)的結(jié)果,我們會(huì)更加懷疑機(jī)器人具有情感意識(shí)。
如果這種感性的智能化是人類(lèi)編程設(shè)計(jì)的,那么機(jī)器的編程開(kāi)發(fā)者又可以去量化這種結(jié)果,人類(lèi)就會(huì)知道智能機(jī)器的感性意識(shí)仍然只是設(shè)計(jì)出來(lái)的感性。但大數(shù)據(jù)和自主學(xué)習(xí)推動(dòng)下的智能機(jī)器人感性過(guò)程的模擬學(xué)習(xí),已經(jīng)超出了人類(lèi)編輯開(kāi)發(fā)者的掌控之外,人類(lèi)對(duì)智能機(jī)器人的擔(dān)憂和戒備是無(wú)法避免的,甚至與日俱增。
如果強(qiáng)人工智能機(jī)器人通過(guò)了圖靈測(cè)試,我們或許會(huì)承認(rèn)機(jī)器人也有思維,但是有思維的機(jī)器人有自由意志嗎?我們探討了機(jī)器人有沒(méi)有理性,那么我們也要探討機(jī)器人有沒(méi)有自由意志。因?yàn)樽杂梢庵緦?duì)法律規(guī)范至關(guān)重要,民法的締約能力,要求智能機(jī)器人在簽訂合同時(shí)要有獨(dú)立的意思自由。刑法在探討犯罪行為、犯罪目的、動(dòng)機(jī)時(shí)也要考慮犯罪主體的自由意志。
自然人有了自由意志能做出符合法律和道德的事,除非有人用自由意志去報(bào)復(fù)社會(huì)。機(jī)器人有了自由意志或許做的事情也符合人類(lèi)的道德,這是程序設(shè)計(jì)的結(jié)果,但是對(duì)于沒(méi)有感性意識(shí)的機(jī)器人來(lái)說(shuō)這種道德不是機(jī)器人的道德,而是人類(lèi)的道德。只有在機(jī)器人的世界里我們才需要區(qū)分有沒(méi)有道德意識(shí),道德意識(shí)在某種程度上代表著能夠區(qū)別善惡,而人類(lèi)的自由意志中理性的思維意志和感性的道德意識(shí)比較迷糊。
或許我們更深地懷疑機(jī)器具有意志,這種意志是否是自由的。人類(lèi)的自由意志也不是絕對(duì)的自由,我們的意志受到客觀環(huán)境、教育程度的制約,但我們通過(guò)學(xué)習(xí)知識(shí)、積累經(jīng)驗(yàn)使自己比前人更加聰明,這也是我們的意志不斷自由化的源泉。機(jī)器人也一樣,其意志也受到開(kāi)發(fā)者編程的限制?;蛟S正是人類(lèi)這種近乎自由的意志發(fā)展出了人類(lèi)的情感和道德,這種感性意識(shí)在面對(duì)復(fù)雜問(wèn)題時(shí)又陷入沉思,例如我們來(lái)自哪里,我們要去哪里的問(wèn)題,這使得人類(lèi)需要擺脫感性意識(shí)去追求理性思維。如果機(jī)器人通過(guò)迭代學(xué)習(xí)能力不斷加強(qiáng),有了自主性意識(shí),突破了開(kāi)發(fā)者編程代碼的限制,自主編輯了更加自由不受開(kāi)發(fā)者制約的意志,那么智能機(jī)器人世界里或許也有了感性和道德意識(shí)。他們也因葉落知悲秋而惆悵,人類(lèi)生離死別而難過(guò)。
如果智能機(jī)器有感性意識(shí)和理性思維,同時(shí)也具備簽合同的自由意志,那么法律或許對(duì)于智能機(jī)器的拘束與人類(lèi)沒(méi)有多大區(qū)別。但是我們需要探討智能機(jī)器僅具有思維,可能具有感性意識(shí)的情況下在多大程度上享有法定權(quán)利、承擔(dān)法定責(zé)任,這又對(duì)智能機(jī)器法律行為的客體有多大影響,對(duì)社會(huì)產(chǎn)生哪些影響。這些都是需要仔細(xì)探究的,但這一切的一切都以智能機(jī)器通過(guò)“圖靈測(cè)試”具有類(lèi)似于人的思維為前提。
智能機(jī)器通過(guò)了“圖靈測(cè)試”,那么說(shuō)明機(jī)器也具有思維的。[5]簡(jiǎn)單來(lái)說(shuō),如果沒(méi)有思維,智能機(jī)器不會(huì)將中文漢字轉(zhuǎn)變成編程語(yǔ)言的。這種思維像人類(lèi)的理性思維,如果人類(lèi)談到理性思維概念時(shí)能夠剝離其中的感性意識(shí),在現(xiàn)實(shí)中這是做不到的。但是在智能機(jī)器人那里這是天然分開(kāi)的。人類(lèi)也想讓智能機(jī)器人的感性意識(shí)和理性思維糾纏在一起,這樣制造出來(lái)的智能機(jī)器人更像人了。但是智能機(jī)器人在現(xiàn)有的條件下無(wú)法擁有像人類(lèi)一樣的喜怒哀樂(lè)的感性意識(shí)。那么在具有類(lèi)人的思維前提下,智能機(jī)器將在社會(huì)應(yīng)用中發(fā)揮多大價(jià)值,或許這種有思維的機(jī)器人在法律約束下會(huì)發(fā)揮更大價(jià)值。
法律其實(shí)是一個(gè)動(dòng)態(tài)演變過(guò)程,自然人從成為法律主體到享受權(quán)利、履行義務(wù)再到最后可能的承擔(dān)責(zé)任是一個(gè)連續(xù)的過(guò)程。對(duì)于有思維的智能機(jī)器來(lái)說(shuō),那么法律賦予其法律主體資格,不論這種主體資格是電子人格、擬制人格還是有限人格,[6]這對(duì)機(jī)器來(lái)說(shuō)也是否享有權(quán)利、履行義務(wù)或承擔(dān)責(zé)任。這說(shuō)明智能機(jī)器已經(jīng)進(jìn)入法律的調(diào)整范圍之內(nèi),起碼智能機(jī)器所從事的法律行為會(huì)受到法律的調(diào)整。
在嚴(yán)格的理性思維下,我們探討智能機(jī)器人法律主體資格是有必要的,因?yàn)橹悄軝C(jī)器人具有理性思維是可能的,這也使得智能機(jī)器可以締約或作出意思表示的能力。如果智能機(jī)器人在擁有理性思維而不具備感性意識(shí)的情況下簽訂合同,或許我們將訂立合同的過(guò)程剝離成兩個(gè)要件,意思能力要件、表示能力要件。對(duì)于表示能力來(lái)說(shuō),我們無(wú)法在外貌上將智能機(jī)器人制造得和人類(lèi)一樣逼真,讓和智能機(jī)器人訂立合同的法律主體以為自己就是和自然人訂立合同,但是法律賦予智能機(jī)器以擬制人格或主體資格,那么在簽訂合同的過(guò)程中,我們很難去知悉智能機(jī)器人表示能力具有瑕疵或者說(shuō)智能機(jī)器的表示不是其理性思考下的表示。在這意義上,智能機(jī)器人的表示就是理性思維之下的表示。
同時(shí)我們要確信智能機(jī)器人的表示是真實(shí)的,因?yàn)槌绦蛟O(shè)計(jì)比人類(lèi)語(yǔ)言更精確,人類(lèi)的表示可能存在虛假的情況,但是智能機(jī)器思維的單一性決定他不會(huì)存在像人類(lèi)一樣的欺詐、撒謊行為,除非智能機(jī)器存在程序錯(cuò)誤。那么對(duì)于意思能力,我們很難去界定沒(méi)有感性意識(shí)的思維過(guò)程中智能機(jī)器能夠懂得簽訂合同的意圖,簽訂合同意味著受法律規(guī)范的約束,而每一個(gè)法律行為都是一個(gè)動(dòng)態(tài)的連續(xù)過(guò)程,意思能力中蘊(yùn)含著承擔(dān)法律的后果。法律責(zé)任作為一種懲罰,讓沒(méi)有喜怒哀樂(lè)的智能機(jī)器去理解意思能力背后的懲罰是難以置信的。因此需要假設(shè)智能機(jī)器通過(guò)深度學(xué)習(xí)和自主學(xué)習(xí)可能具有感性意識(shí),那么這使得智能機(jī)器人多大程度上理解法律責(zé)任的涵義又是很難界定的,這使得法律上僅有理性思維的智能機(jī)器訂立合同顯得特別困難,我們期望于智能機(jī)器能夠獲得感性意識(shí)。
對(duì)于有理性思維的智能機(jī)器人,法定的權(quán)利和義務(wù)對(duì)于他們來(lái)說(shuō)又意味著什么。法律上的權(quán)利意味著一種自由,智能機(jī)器人能夠享受自由嗎?從一些具體的權(quán)利規(guī)定需要去具體探究這些問(wèn)題。法律擬制主體的法人享有名稱權(quán)、榮譽(yù)權(quán)、名譽(yù)權(quán),智能機(jī)器人在成為法律擬制主體下也應(yīng)該具有這些權(quán)利,那么其他財(cái)產(chǎn)權(quán)和人身權(quán)智能機(jī)器享有嗎?說(shuō)到身體權(quán),我們好像聽(tīng)到的是自然人只有此權(quán)利,那么智能機(jī)器人享有身體權(quán)嗎?智能機(jī)器的身體可以被破壞嗎?這種破壞算是對(duì)工具的破壞,還是對(duì)具有主體資格的電子人、代理人的破壞。那么破壞者多大程度上承擔(dān)法律責(zé)任。
如果從理性思維角度出發(fā),智能機(jī)器也具有部分理性意識(shí),但這種破壞不會(huì)使智能機(jī)器感受到疼痛,因?yàn)橹悄軝C(jī)器沒(méi)有感性意識(shí)。但是人不能總是以自己為中心主義,我們需要考慮智能機(jī)器的現(xiàn)實(shí)價(jià)值。那么智能機(jī)器可以享有人格權(quán)嗎?如果享有人格權(quán),那么智能機(jī)器可以自由、健康而有尊嚴(yán)地、長(zhǎng)久地存在嗎?我們到現(xiàn)在依然不認(rèn)為智能機(jī)器人具有感性意識(shí),所以我們不會(huì)去認(rèn)為智能機(jī)器人可以自由、健康而有尊嚴(yán)地活著,在法律規(guī)范中“活”著更像是具有生命力的人類(lèi)才適用。那么這種自由、健康而有尊嚴(yán)的存在,會(huì)使得智能機(jī)器人也需要生活在干凈舒適的環(huán)境里,因?yàn)樯钤谂K亂差的環(huán)境會(huì)損害智能機(jī)器的尊嚴(yán)。
如果智能機(jī)器有自由,那么我們也不能去剝奪智能機(jī)器的運(yùn)行,我們不能任意地破壞他們,因?yàn)樗麄冇凶杂蛇\(yùn)行權(quán)利,也就是有權(quán)像人一樣自由地“活著”。還有,智能機(jī)器人具有健康權(quán)嗎?我們對(duì)智能機(jī)器的系統(tǒng)需要保護(hù),他們的運(yùn)行機(jī)能也需要保護(hù),這是不可想象的。許多權(quán)利都是以人類(lèi)的視角規(guī)定的,所以我們會(huì)認(rèn)為智能機(jī)器享有人所擁有的權(quán)利真的不可思議。但是智能機(jī)器作為有理性思維的智能體,他們需要權(quán)利來(lái)保護(hù)自己,或許這些權(quán)利不需要叫健康權(quán)、生命權(quán),但可以叫完整權(quán)、運(yùn)行權(quán)。
此外,智能機(jī)器僅有理性思維下需要承擔(dān)責(zé)任也是值得考慮的,更糟糕的是,我們無(wú)法確定智能機(jī)器自主學(xué)習(xí)、深度學(xué)習(xí)之后是否具有感性意識(shí),如果我們測(cè)試智能機(jī)器的感性意識(shí)的設(shè)備缺乏準(zhǔn)確性,可能導(dǎo)致智能機(jī)器在有感性意識(shí)下實(shí)施的違法行為,我們卻在法律上不能追究智能機(jī)器的責(zé)任,這是人類(lèi)的悲哀。因?yàn)槿祟?lèi)作為地球上最聰明最有能力的群體,對(duì)于智能機(jī)器的違法行為沒(méi)有規(guī)制手段予以處罰。即使人類(lèi)在可控前提下發(fā)展人工智能技術(shù),那么沒(méi)有感性意識(shí)的智能機(jī)器又能承擔(dān)多大責(zé)任。不論是民法和刑法責(zé)任,人身罰的懲罰對(duì)于智能機(jī)器沒(méi)有任何意義。[7]智能機(jī)器不會(huì)承擔(dān)了像監(jiān)禁一樣的人身罰之后改過(guò)自新。對(duì)于金錢(qián)罰來(lái)說(shuō),還是無(wú)法避免人身罰一樣的效果,智能機(jī)器也還不會(huì)向人類(lèi)一樣奪利。這些分析說(shuō)明讓智能機(jī)器人承擔(dān)責(zé)任是不可行的。法律制度需要引進(jìn)責(zé)任保險(xiǎn)、責(zé)任基金以及其他制度來(lái)化解智能時(shí)代到來(lái)所產(chǎn)生的兩難風(fēng)險(xiǎn)。法律作為解決社會(huì)糾紛的手段,也需要迎難而上、主動(dòng)出擊去解決現(xiàn)實(shí)問(wèn)題。
在現(xiàn)有階段,像《黑客帝國(guó)》電影一樣的機(jī)器人反人類(lèi)的場(chǎng)景不會(huì)到來(lái),但是強(qiáng)人工智能對(duì)法律的沖擊無(wú)疑是巨大的。通過(guò)法律擬制智能機(jī)器人的法律主體地位,不論是電子主體資格、有限主體資格、代理人主體資格,然后對(duì)智能機(jī)器產(chǎn)生的社會(huì)糾紛囊括在現(xiàn)有的法律體系中。
從現(xiàn)有的法律責(zé)任制度來(lái)看,法律規(guī)范無(wú)法讓智能機(jī)器承擔(dān)相應(yīng)的責(zé)任,因?yàn)闆](méi)有感性意識(shí)的智能機(jī)器不具有可譴責(zé)性。因此通過(guò)法律擬制解決智能機(jī)器的主體資格之后,急切需要的是通過(guò)責(zé)任保險(xiǎn)、風(fēng)險(xiǎn)基金、公平承擔(dān)等法律制度的建立去化解強(qiáng)人工智能時(shí)代到來(lái)時(shí),人工智能對(duì)社會(huì)秩序和法律規(guī)范帶來(lái)的嚴(yán)重沖擊。法律作為解決糾紛的主要機(jī)制之一,要有前瞻性地考慮人工智能發(fā)展過(guò)程中所發(fā)生的復(fù)雜問(wèn)題。只有這樣,人類(lèi)的未來(lái)才會(huì)可期待。
注釋?zhuān)?/p>
①圖靈測(cè)試(The Turing test):由圖靈發(fā)明,指測(cè)試者與被測(cè)試者隔開(kāi)的情況下,通過(guò)一些裝置向被測(cè)試者隨意提問(wèn)。進(jìn)行多次測(cè)試后,如果機(jī)器讓平均每個(gè)參與者做出超過(guò)30%的誤判,那么這臺(tái)機(jī)器就通過(guò)了測(cè)試,并被認(rèn)為具有人類(lèi)智能。
②中文屋(Chinese room):又稱作華語(yǔ)房間,是由美國(guó)哲學(xué)家約翰?賽爾(John Searle)在1980年設(shè)計(jì)的一個(gè)思維試驗(yàn)以推翻強(qiáng)人工智能提出的過(guò)強(qiáng)主張:只要計(jì)算機(jī)擁有了適當(dāng)?shù)某绦?,理論上就可以說(shuō)計(jì)算機(jī)擁有它的認(rèn)知狀態(tài)以及可以像人一樣地進(jìn)行理解活動(dòng)。