王治東

人工智能風(fēng)險性芻議

王治東

當(dāng)前，人工智能技術(shù)的發(fā)展一路高歌猛進(jìn)，尤其是阿爾法狗圍棋（AlphaGo） 以4：1的比分擊敗前世界圍棋第一人李世石之后，人們對人工智能的發(fā)展比較樂觀，當(dāng)然對人工智能的風(fēng)險性也產(chǎn)生巨大的擔(dān)憂。那么，人工智能將帶給我們一個什么樣的未來？人工智能的風(fēng)險性是否存在？風(fēng)險性生成的機制是什么？相互之間的關(guān)聯(lián)度如何？人工智能風(fēng)險防范的邊界在哪里？這些問題亟待不同視角的探討，哲學(xué)在其中有其特有使命。

人工智能；技術(shù)風(fēng)險；人機邊界

1956年人工智能（artificial intelligence） 概念在美國達(dá)特茅斯大學(xué)的研討會上被正式提出，標(biāo)志著人工智能學(xué)科的誕生?！邦櫭剂x，人工智能就是人造智能，目前的人工智能是指用電子計算機模擬或?qū)崿F(xiàn)的智能。同時作為學(xué)科，人工智能研究的是如何使機器（計算機） 具有智能的科學(xué)和技術(shù)，特別是人類智能如何在計算機上實現(xiàn)或再現(xiàn)的科學(xué)或技術(shù)?！盿渥維克：《機器的征途》，李碧等譯，呼和浩特：內(nèi)蒙古人民出版社1998年版，第1—2頁。隨著人工智能技術(shù)的發(fā)展，人工智能被進(jìn)一步劃分為“弱人工智能”和“強人工智能”?！熬腿跞斯ぶ悄芏?，計算機在心靈研究中的主要價值是為我們提供一個強有力的工具；就強人工智能而言，計算機不只是研究心靈的工具，更確切地說，帶有正確程序的計算機其實就是一個心靈?！眀廉師友：《人工智能技術(shù)導(dǎo)論》，西安：西安電子科技大學(xué)出版社2000年版，第1頁。就目前而言，弱人工智能技術(shù)已經(jīng)基本實現(xiàn)，以計算機為載體的人工智能技術(shù)在自動化工業(yè)中發(fā)揮了巨大作用，“我們可以通過各種自動化裝置取代人的軀體活動”a杜文靜：《人工智能的發(fā)展及其極限》，載《重慶工學(xué)院學(xué)報（社會科學(xué)版）》2007年第1期。，人類的生產(chǎn)效率因此得到極大的提升。人類一直朝強人工智能的道路上強勁邁進(jìn)，如果人工智能廣泛應(yīng)用，未來社會是否有更多的風(fēng)險？風(fēng)險何在？如果有風(fēng)險，產(chǎn)生風(fēng)險的機制是什么？人工智能與人之間的邊界或者禁區(qū)在哪里？本文嘗試從哲學(xué)的角度進(jìn)行初步的探討。

一、風(fēng)險因子分析：人工智能風(fēng)險何在？

烏爾里?！へ惪伺c安東尼·吉登斯的風(fēng)險理論開啟了對技術(shù)風(fēng)險問題的關(guān)注。烏爾里?！へ惪嗽?0世紀(jì)90年代提出“風(fēng)險社會”概念，認(rèn)為科技發(fā)展在促進(jìn)社會進(jìn)步的同時，也對生態(tài)環(huán)境甚至人自身造成威脅。“在風(fēng)險社會中，風(fēng)險已經(jīng)代替物質(zhì)匱乏，成為社會和政治議題關(guān)注的中心?！眀烏爾里希·貝克：《風(fēng)險社會》，何博聞譯，南京：譯林出版社2004年版，第15—19頁。貝克認(rèn)為，當(dāng)前社會是一個充滿各種風(fēng)險的社會，政治、經(jīng)濟、文化、科技、生產(chǎn)、貿(mào)易等各個領(lǐng)域都存在諸多風(fēng)險，而技術(shù)風(fēng)險無疑是其中影響最為深遠(yuǎn)的風(fēng)險類型。吉登斯從現(xiàn)代性的視角出發(fā)，提出現(xiàn)代社會的風(fēng)險形式是一種人類制造出來的風(fēng)險，“‘人造風(fēng)險’于人類而言是最大的威脅，它起因于人類對科學(xué)、技術(shù)不加限制地推進(jìn)”c安東尼·吉登斯：《現(xiàn)代性的后果》，田禾譯，南京：譯林出版社2000年版，第115頁。。

（一） 人工智能與一般技術(shù)風(fēng)險的區(qū)別

風(fēng)險意味著危險的可能性，也是目的與結(jié)果之間的不確定性，是危險的概率指標(biāo)。技術(shù)的風(fēng)險性首先表現(xiàn)為技術(shù)的不確定性。技術(shù)的不確定性有多種表現(xiàn)形式，技術(shù)使用后果的不確定性是技術(shù)不確定性的主要方面。技術(shù)風(fēng)險也主要來源于此。國內(nèi)學(xué)者對技術(shù)風(fēng)險問題的認(rèn)識已經(jīng)比較成體系，代表性的觀點如下：從技術(shù)風(fēng)險的屬性來看，技術(shù)風(fēng)險既具有客觀實在性，也具有主觀建構(gòu)性；從技術(shù)風(fēng)險的生成來源來看，技術(shù)風(fēng)險既是技術(shù)自身的內(nèi)在屬性，亦是人的行為結(jié)果；從風(fēng)險性后果來看，風(fēng)險事件逐年增多、破壞性不斷增強、不可預(yù)測性日趨復(fù)雜、風(fēng)險控制愈加困難等。

技術(shù)風(fēng)險的另一個說法是墨菲法則，那就是，如果事情有變壞的可能性，不管這種可能性有多小，它遲早都會發(fā)生。人工智能技術(shù)也是如此，如果人們擔(dān)心某種情況發(fā)生，那么它就有發(fā)生的可能性，因為風(fēng)險是一種可能性的存在。人工智能技術(shù)風(fēng)險問題既與一般技術(shù)風(fēng)險具有同源性和同構(gòu)性，但也有很大的區(qū)別性。

技術(shù)在很大程度上都是作為它者的存在，一般性技術(shù)在很大程度上都是外在化的風(fēng)險，如環(huán)境風(fēng)險、生態(tài)風(fēng)險、經(jīng)濟風(fēng)險等?！坝捎诩夹g(shù)與社會因素的相互作用，因此，在風(fēng)險社會中，風(fēng)險都會從技術(shù)風(fēng)險自我轉(zhuǎn)換為經(jīng)濟風(fēng)險、市場風(fēng)險、健康風(fēng)險、政治風(fēng)險等?！盿芭芭拉·亞當(dāng)?shù)龋骸讹L(fēng)險社會及其超越》，趙彥東等譯，北京：北京出版社2005年版，第334頁。

但人工智能技術(shù)卻不能簡單地作為它者存在，除了外在的風(fēng)險之外，人工智能技術(shù)很大程度上是內(nèi)在化的風(fēng)險，那就是人的存在性地位的挑戰(zhàn)風(fēng)險以及人與物邊界復(fù)雜性的風(fēng)險。內(nèi)在化風(fēng)險不是物質(zhì)層面的風(fēng)險，而是一種精神上的沖擊風(fēng)險，是基于人的自我認(rèn)識和認(rèn)同的風(fēng)險。因此人工智能技術(shù)的風(fēng)險因子不僅僅在經(jīng)濟維度、環(huán)境維度，而且在于人機邊界的厘定，以及人機之間競爭關(guān)系的形成方面。

在此方面，很多人工智能事件都引起人工智能取代人的擔(dān)憂。自1997年電腦“深藍(lán)”戰(zhàn)勝國際象棋冠軍加里·凱斯帕羅夫19年之后，在2016年3月9日—15日，由谷歌DeepMind研發(fā)的神經(jīng)網(wǎng)絡(luò)圍棋智能程序AlphaGo以4：1的比分擊敗前世界圍棋第一人李世石。2017年1月6日江蘇衛(wèi)視《最強大腦》上演了一場精彩的人機對決，這次的戰(zhàn)場不再是圍棋，而是人臉識別。據(jù)悉，“‘百度大腦’已建成超大規(guī)模的神經(jīng)網(wǎng)絡(luò)，擁有萬億級的參數(shù)、千億樣本、千億特征訓(xùn)練，能模擬人腦的工作機制。百度大腦智商如今已經(jīng)有了超前的發(fā)展，在一些能力上甚至超越了人類”bhttp：//tech.qq.com/a/20170107/001226.htm.?！靶《取睂?zhàn)人類大腦名人堂選手，上演人機大戰(zhàn)，在圖像和語音識別三場比賽中，以2勝1平的戰(zhàn)績勝出。2016年11月百度無人車已經(jīng)能夠在全開放的道路上實現(xiàn)無人駕駛。當(dāng)前快遞撿貨機器人已經(jīng)大規(guī)模投入快遞行業(yè)。2016年富士康公司在昆山基地裁員6萬人，用4萬臺機器人取代人力?；谝陨鲜聦?，很多人認(rèn)為：人工智能取代人類的時代已經(jīng)到來，敵托邦式構(gòu)想即將成為現(xiàn)實。并且通過幾場“人機大戰(zhàn)”，普通大眾開始表現(xiàn)出對人工智能風(fēng)險性問題的強烈關(guān)注。強人工智能技術(shù)盡管還沒能實現(xiàn)，但從這場AlphaGo圍棋大戰(zhàn)中，讓人似乎看到未來人工智能超越人類的可能，因為人工智能的三大基礎(chǔ)——算法、計算平臺、大數(shù)據(jù)——已經(jīng)日漸成熟。南京大學(xué)林德宏教授曾指出：“電腦不僅能模擬人的邏輯思維，還可以模擬形象思維、模糊思維、辯證思維，人工智能將來可能全面超過人腦智能?！眂林德宏：《“技術(shù)化生存”與人的“非人化”》，載《江蘇社會科學(xué)》2000年第4期。人工智能風(fēng)險性考慮，主要是基于人工智能對人類的可能性超越。這是一種內(nèi)在性的風(fēng)險，是人工智能之于人的關(guān)系性的風(fēng)險。

（二） 人工智能風(fēng)險的表現(xiàn)形式

“工程師和技術(shù)專家傾向于把技術(shù)風(fēng)險界定為可能的物理傷害或者厄運的年平均律，哲學(xué)家和其他人文主義者認(rèn)為技術(shù)風(fēng)險無法定量，它包含了較之物理傷害更為廣泛的道德內(nèi)容?！眃李三虎：《職業(yè)責(zé)任還是共同價值——工程倫理問題的整體辨釋》，載《工程研究》2004年第1期。有學(xué)者直接認(rèn)為：“‘風(fēng)險’包括兩部分，一部分是物理性的，更為實際有形的、可被量化的危險，即技術(shù)性的風(fēng)險；而另一部分是由心理認(rèn)知建構(gòu)的危險，即感知的風(fēng)險（perception of risk）?！盿轉(zhuǎn)引自曾繁旭、戴佳、王宇琦：《技術(shù)風(fēng)險VS感知風(fēng)險：傳播過程與風(fēng)險社會放大》，載《現(xiàn)代傳播》2015年第3期。人工智能風(fēng)險同樣包含這兩個層面：一個是客觀現(xiàn)實性的物理層面，一個是主觀認(rèn)知性的心理層面。在人工智能技術(shù)大規(guī)模運用之前，很大程度上風(fēng)險的認(rèn)識來自主觀認(rèn)知的心理層面。在人工智能發(fā)展過程中，人工智能（類人） 與人（人類） 之間的關(guān)系一般經(jīng)歷三個階段：首先是模仿關(guān)系階段，人工智能首先基于對人的模仿，使機器初步具有人的智能；二是合作關(guān)系階段，人工智能協(xié)助人類完成大量的工作，體現(xiàn)出人工智能強大的利人性；三是競爭關(guān)系（取代關(guān)系） 甚至是僭越關(guān)系階段，是人工智能大規(guī)模廣泛應(yīng)用情況下出現(xiàn)人工智能與人之間的依賴、競爭、控制等復(fù)雜的關(guān)系情況。

人工智能在大規(guī)模應(yīng)用后，潛在的風(fēng)險性主要有以下幾種表現(xiàn)形式：一是人工智能技術(shù)的發(fā)展將（至少暫時性地） 導(dǎo)致未來失業(yè)率的大幅度提升?，F(xiàn)代工業(yè)中，弱人工智能技術(shù)已經(jīng)能夠替代人類，從事一般性的體力勞動生產(chǎn)，未來人類的部分腦力勞動也必將被人工智能技術(shù)所取代。因此，對未來人類可能面臨巨大失業(yè)風(fēng)險的擔(dān)憂不無道理。二是人工智能的發(fā)展使人類遺忘人工智能技術(shù)。也就是說，人類將越來越依賴機器的“智能性”，而忽視其“人工性”，這將導(dǎo)致人類與機器的關(guān)系轉(zhuǎn)換成人類與“類人”的關(guān)系，人類很可能對機器產(chǎn)生類人情感，甚至產(chǎn)生類人的依賴感。一旦人類將機器視為同類，必然帶來相應(yīng)的倫理問題。如性愛機器人如果大規(guī)模應(yīng)用，將使婚姻生育等問題變得復(fù)雜，人的兩性關(guān)系以及很多倫理問題都會相應(yīng)而來。三是未來機器人不僅具備類人思想，還可能具備類人的形態(tài)，人類在與機器人的日常交互中，如果將機器人視作同類，機器人能否獲得與人類等同的合法地位，人與機器人之間的關(guān)系如何界定，這也是復(fù)雜的問題。以人工智能技術(shù)為核心的機器（至少部分性地） 超越人腦，存在威脅人類主體性地位的可能。依托強人工智能技術(shù)的機器一旦具備甚至超越人類智慧，機器很可能反過來支配人類，這將對人類存在性（主體性） 造成巨大的威脅。

當(dāng)然，上面都是人工智能作為它者的存在與人之間的關(guān)系的風(fēng)險。但還有更復(fù)雜的情況，2017年3月28日，特斯拉創(chuàng)始人馬斯克成立公司致力于研究 “神經(jīng)織網(wǎng)”技術(shù)，將微小腦電極植入人腦，直接上傳和下載想法。在此之前，后現(xiàn)代哲學(xué)家哈拉維提出賽博格的概念，是人與機器的雜合。這種以智能植入方式，將人與機器聯(lián)機，人與機器的邊界何在？對人類未來的影響是積極的還是消極的？人對未來終極問題的思考對人類的心靈造成巨大的困擾，這種主觀認(rèn)知性的心理層面的風(fēng)險并不弱于客觀現(xiàn)實性的物理層面。

二、人工智能風(fēng)險形成機制分析：一種現(xiàn)象學(xué)的視角

人工智能風(fēng)險目前更多地體現(xiàn)在主觀認(rèn)知性的心理層面，是人們對人工智能發(fā)展的一種擔(dān)憂，哲學(xué)的思考大有用武之地，其中現(xiàn)象學(xué)更具解釋力。

（一） 從外在模仿到內(nèi)在超越：人工智能技術(shù)的放大效應(yīng)

人工智能多是以獨立的形式對人的模仿甚至超越。“行為的自動化（自主化），是人工智能與人類其他早期科技最大的不同。人工智能系統(tǒng)已經(jīng)可以在不需要人類控制或者監(jiān)督的情況下，自動駕駛汽車或者起草一份投資組合協(xié)議?！盿馬修·U.謝勒：《監(jiān)管人工智能系統(tǒng)：風(fēng)險、挑戰(zhàn)、能力和策略》，曹建峰、李金磊譯，載《信息安全與信息保密》2017年第3期。與一般技術(shù)一樣，人工智能技術(shù)之于人有兩個層面：一是機器操作代替人的勞動，使人從繁重而復(fù)雜的勞動生產(chǎn)中解放出來，讓人獲得更多的自由空間。二是人工智能取代人類智能，人類受控于機器，人類主體的存在性地位喪失。技術(shù)發(fā)展呈現(xiàn)完全相反的兩種進(jìn)路，這是由技術(shù)二律背反的特性決定的，技術(shù)具有“物質(zhì)性與非物質(zhì)性、自然性與反自然性、目的性與反目的性、確定性與非確定性、連續(xù)性與非連續(xù)性、自組織與他組織”b王治東：《相反與相成：從二律背反看技術(shù)特性》，載《科學(xué)技術(shù)與辯證法》2007年第 5期。等特性。

技術(shù)還有一個內(nèi)在屬性就是具有放大性功能。技術(shù)放大功能是技術(shù)內(nèi)在結(jié)構(gòu)的屬性，是技術(shù)模仿人類功能并對人類能力的放大，它完全內(nèi)置于技術(shù)結(jié)構(gòu)中?！叭恕夹g(shù)—世界”的結(jié)構(gòu)模型是現(xiàn)象學(xué)的基本模型，表達(dá)了人是通過技術(shù)來感知世界的，人與世界的關(guān)系具有了技術(shù)的中介性。例如，在梅洛—龐蒂所舉的盲人與手杖的例子中，盲人對方位的感知是通過手杖獲得的，手杖成為連接盲人與空間方位的轉(zhuǎn)換中介，擴展了盲人的空間感。在這里，技術(shù)通過轉(zhuǎn)化人類的知覺，擴展了人類的身體能力?！爸挥型ㄟ^使用技術(shù)，我的身體能力才能得到提升和放大。這種提升和放大是通過距離、速度，或者其他任何借助技術(shù)改變我的能力的方式實現(xiàn)的?！眂唐·伊德：《技術(shù)與生活世界——從伊甸園到塵世》，韓連慶譯，北京：北京大學(xué)出版社2012年版，第75頁。人類對技術(shù)無限放大性的追求也是現(xiàn)代技術(shù)發(fā)展?jié)撛诘膭恿?，也是技術(shù)風(fēng)險生成的根源。而技術(shù)的放大效應(yīng)既是內(nèi)置于技術(shù)內(nèi)核的結(jié)構(gòu)性特征，也是人類目的性的現(xiàn)實要求。在目的性結(jié)構(gòu)中，技術(shù)是表達(dá)人的意愿的載體，人工智能技術(shù)就是放大人類的意愿，在某種程度上可以代替人的意愿。當(dāng)一個中介完全把人的意愿變成中介的意愿時，人工智能的本質(zhì)得以實現(xiàn)，技術(shù)的放大效應(yīng)達(dá)到最大化。但人的意愿可以被機器表達(dá)時，人的可替代性也逐步完成，人也失去了自我。技術(shù)便有可能朝向背離人類預(yù)期的方向發(fā)展，技術(shù)風(fēng)險由此生成。

在前人工智能技術(shù)時代，技術(shù)只是對人類“外在能力”的模仿與擴展，即使像計算機、通信網(wǎng)絡(luò)等復(fù)雜技術(shù)也是以一種復(fù)合的方式擴展人類的各項技能。但人工智能技術(shù)卻內(nèi)嵌了對人類“內(nèi)在能力”的模仿，對人腦智慧的模擬。這一技術(shù)特性使人工智能技術(shù)具備了挑戰(zhàn)人類智慧的能力。千百年來，人類自詡因具備“非凡的”智慧而凌駕于世間萬物，人的存在地位被認(rèn)為具有優(yōu)先性?？档隆叭藶樽匀唤缌⒎ā钡恼摂啵前讶说闹黧w性地位推到了極致。一旦人工智能技術(shù)被無限發(fā)展、放大，具備甚至超越人腦機能，人類對技術(shù)的“統(tǒng)治權(quán)”將喪失，人類的存在性地位也將被推翻。盡管就目前而言，人類對人工智能技術(shù)的研發(fā)仍處于較低水平，但人工智能表現(xiàn)出的“類人性”特征，已經(jīng)不似過去技術(shù)對人腦機制的單向度模擬。特別地，AlphaGo在面對突發(fā)狀況時表現(xiàn)出的“隨機應(yīng)對”能力，遠(yuǎn)遠(yuǎn)超出開賽前人類的預(yù)估。我們似乎看到人工智能正在從對人類“智”的超越，轉(zhuǎn)向?qū)Α盎邸钡哪M，這種風(fēng)險越來越大。

（二） 從它者性到自主性的循環(huán)：人工智能技術(shù)矛盾性的存在

早期技術(shù)就是作為一種工具性的存在，也是一種它者的存在。但發(fā)展技術(shù)的潛在動力就是不斷讓技術(shù)自動化程度越來越高，越來越自主。技術(shù)的自主性發(fā)展表現(xiàn)為，“技術(shù)追求自身的軌道，越來越獨立于人類，這意味著人類參與技術(shù)性生產(chǎn)活動越來越少?！盿Jacques Ellul， The Technological Society，New York：Alfred A. Knopf，1964，p.134.人工智能技術(shù)的自主化程度取決于人工智能的“類人性”。也就是說，人工智能越趨近于人類智能，技術(shù)的自主性也就越可能實現(xiàn)。就人類預(yù)期而言，人工智能技術(shù)的發(fā)展是自主性不斷提升的過程，也是使更多的人從日常勞作中解脫出來，獲得更多自由的過程。但當(dāng)技術(shù)發(fā)展到具有人一樣的智能時，技術(shù)在新的起點上成為一個它者。因為技術(shù)發(fā)展的不確定性使技術(shù)既有“利人性”也有“反人性”。這兩種看似相反的特性是一個問題的兩個方面，智能技術(shù)將這兩種特性又進(jìn)一步放大。人工智能技術(shù)的“利人性”是技術(shù)自主性的彰顯。但也正是基于人工智能的“類人性”特點，使達(dá)到自主化奇點的技術(shù)可能出現(xiàn)“反人性”傾向。

技術(shù)的“反人性”表現(xiàn)為它者性的生成，技術(shù)它者性是技術(shù)發(fā)展違背人類預(yù)期的結(jié)果。理論上，當(dāng)技術(shù)成為一個完全自主、獨立的個體時，它將不依附于人且存在于人類世界之外，技術(shù)相對地成為它者。在伊德看來，“我們與技術(shù)的關(guān)系并不都是指示性的；我們也可以（同樣是主動的） 將技術(shù)作為準(zhǔn)對象，甚至是準(zhǔn)它者”b唐·伊德：《讓事物“說話”：后現(xiàn)象學(xué)與技術(shù)科學(xué)》，韓連慶譯，北京：北京大學(xué)出版社2008年版，第57頁。。技術(shù)的（準(zhǔn)） 它者性可以表示為：人類→ 技術(shù)（世界）?！八摺币辉~本身暗含著人類對技術(shù)完全對象化的擔(dān)憂，這種擔(dān)憂在海德格爾看來由技術(shù)的“集置”特性決定，“集置（Ge-stell） 意味著那種擺置（Stellen） 的聚集者，這種擺置擺置著人，也即促逼著人，使人以訂造方式把現(xiàn)實當(dāng)作持存物來解蔽”a李霞玲：《海德格爾存在論科學(xué)技術(shù)思想研究》，武漢：武漢大學(xué)出版社2012年版，第82頁。。事實上，人工智能技術(shù)的發(fā)展趨勢，就是在不斷提高技術(shù)較之于人的它者地位。

在實際應(yīng)用中，人工智能技術(shù)的“反人性”傾向會以它者的形式呈現(xiàn)?！凹夹g(shù)還是使事物呈現(xiàn)的手段。在故障情形中發(fā)生的負(fù)面特性又恢復(fù)了。當(dāng)具身處境中的技術(shù)出現(xiàn)故障了，或者當(dāng)詮釋學(xué)處境中的儀器失效了，留下來的就是一個強迫接受的、并因此是負(fù)面派生的對象。”b唐·伊德：《技術(shù)與生活世界——從伊甸園到塵世》，第99頁。在伊德的技術(shù)體系中，尤其在具身關(guān)系和詮釋學(xué)關(guān)系中，技術(shù)（科學(xué)儀器） 通過故障或失效導(dǎo)致技術(shù)它者的呈現(xiàn)。技術(shù)在承載人與世界的關(guān)聯(lián)中，本應(yīng)該抽身隱去，但卻以故障或失效的方式顯現(xiàn)自身，重新回到人類知覺當(dāng)中，必然阻斷人與世界的順暢聯(lián)系。本來通過技術(shù)實現(xiàn)的人對世界切近的感知，轉(zhuǎn)換成人對（失效了的） 技術(shù)的感知。這時，（失效了的） 技術(shù)的它者性僅僅表現(xiàn)為感知的對象性。同樣，人工智能技術(shù)同樣也存在技術(shù)失效的可能，但這種失效不是以故障而是以一種脫離人類掌控的方式成為它者。人工智能技術(shù)的失效不僅會轉(zhuǎn)換人類知覺，更為嚴(yán)重的是，一旦技術(shù)在現(xiàn)實中擺脫人類控制，自主化進(jìn)程將以故障的方式偏離預(yù)定軌道繼續(xù)運行，技術(shù)的“反人性”開始顯現(xiàn)，技術(shù)它者由此形成，技術(shù)的自主性成為它者的“幫兇”。人工智能技術(shù)的風(fēng)險在于經(jīng)歷了“它者性—自主性—它者性”過程之后，這種風(fēng)險結(jié)構(gòu)被進(jìn)一步放大。

現(xiàn)實中需要不斷通過技術(shù)發(fā)明和技術(shù)改造提高人工智能技術(shù)的自主性，但又不得不防范人工智能技術(shù)的它者性。由此，人工智能技術(shù)自主性和它者性便成為技術(shù)發(fā)展過程中的一種沖突。

三、“人類”與“類人”界限：人工智能技術(shù)的禁區(qū)何在？

從概念可以看出“人工智能”由兩部分組成：一是人工，二是智能。相對于人工智能，人在某種程度上就是一種天然智能。“準(zhǔn)確定義人工智能，困難不在于定義‘人工’（artifiality），而在于‘智能’（intelligence） 一詞在概念上的模糊性。因為人類是得到廣泛承認(rèn)的擁有智能的唯一實體，所以任何關(guān)于智能的定義都毫無疑問要跟人類的特征相關(guān)?！眂馬修·U.謝勒：《監(jiān)管人工智能系統(tǒng)：風(fēng)險、挑戰(zhàn)、能力和策略》。人與人工智能之間的界限有兩個維度的比較很重要：第一個維度是知、情、意、行四個基本特征；第二個維度是人的自然屬性和社會屬性兩個方 面。

（一） 關(guān)于知、情、意、行的邊界問題

人是知、情、意、行的統(tǒng)一。隨著人工智能技術(shù)的不斷發(fā)展，人工智能將趨近于人類智能，承載人工智能技術(shù)的機器也將具有更多“類人性”。這種“類人性”不僅表現(xiàn)為機器對人類外在形態(tài)的模仿，更表現(xiàn)在機器對人類“知、情、意、行”的內(nèi)在模擬。智能首先要學(xué)會語義分析，能夠讀懂指令，如2016年4月刷屏爆紅的“賢二機器僧”由北京龍泉寺會同人工智能專家共同打造，在最初階段有效回答問題率20%—30%，但人工智能強大的學(xué)習(xí)能力是一般計算機系統(tǒng)無法相比的，人工智能具有學(xué)習(xí)能力，逐漸增加的信息變成知識，繼而形成知識庫，通過知識庫形成機器人大腦，進(jìn)而形成能夠與人進(jìn)行有效交流的智能系統(tǒng)，隨著訪問量的增加，賢二機器僧的數(shù)據(jù)庫相應(yīng)增加，有效回答率達(dá)到80%左右。這樣與人交流的人工智能，讓人感覺不到是與一臺機器在交流。

當(dāng)然，人工智能也是有禁區(qū)的，這種禁區(qū)，首先來自技術(shù)不能逾越的禁區(qū)。當(dāng)前，可計算性是人的邏輯判斷部分，而情感支配的思維是無法被計算的，因此人工智能對個體人的超越還是存在困難的。但如果像馬斯克公司一樣，通過人工智能去解讀人腦的思維，上傳和下載功能能夠?qū)崿F(xiàn)，人工智能能夠讀懂人，這樣的沖擊風(fēng)險對人而言，其風(fēng)險具有更大的加強性。當(dāng)然能夠解讀人類思維也僅僅是一種識別和解讀，人與人工智能之間還有一道重要的區(qū)別，就是自我意識的區(qū)別?！耙粋€種的全部特征，種的類特征就在于生命活動的性質(zhì)，而人的類特征就是自由有意識的活動。”a《馬克思恩格斯選集》 （第1卷），北京：人民出版社1995年版，第46頁。人是有意識的存在，意識總是關(guān)于某物的意識，同時也是作為承載者關(guān)于“我”的意識，意向性不僅指向作為對象的某物，同時也自反式地指向自身。只有在行動之前首先意識到處境中的對象與“我”不同，人類活動才具有目的性，人類才能“有目的”地進(jìn)行物質(zhì)創(chuàng)造和生產(chǎn)勞動。而人的目的性或者說人類需求是社會進(jìn)步發(fā)展的最大動力。人工智能如果有了“我”的概念和意識，不僅是對人的模擬，而且具有了人的核心內(nèi)核。在這個層面而言，人工智能就在個體上可以成為另一個物種的“人”。

當(dāng)然，如果人工智能技術(shù)一旦具備類人意識，它將首先關(guān)注到自身的價值意義，即存在的合法性。而作為對象的人類，將淪落為技術(shù)“眼中”的它者。具備類人意識的人工智能對人類智能的超越，將對人類生存構(gòu)成實質(zhì)性威脅，到那時，人類生存與技術(shù)生存真的會互相威脅，彼此競爭。

（二） 關(guān)于自然屬性和社會屬性問題

任何技術(shù)都是“自然性和反自然性”的統(tǒng)一。“技術(shù)作為人本質(zhì)力量的對象化有兩重屬性：一是技術(shù)的自然屬性，二是技術(shù)的社會屬性。自然屬性是技術(shù)能夠產(chǎn)生和存在的內(nèi)在基礎(chǔ)，即技術(shù)要符合自然規(guī)律；技術(shù)的社會屬性是指技術(shù)的人性方面，即技術(shù)要符合社會規(guī)律?！盿王治東：《相反與相成：從二律背反看技術(shù)的特性》。人工智能技術(shù)也是如此，“人工”是一個前置性概念?！爸悄堋笔菍θ说哪７?，在人工智能設(shè)定的模仿程序中很大程度上也有社會屬性，如軍用機器人的戰(zhàn)爭屬性，性愛機器人的性別屬性，但這種社會性是單一的屬性。恰恰社會屬性是人區(qū)別于人工智能的核心所在。按照馬克思對人本質(zhì)是類本質(zhì)和社會本質(zhì)的論述，起碼目前人工智能還不能叫板人本身。“人的本質(zhì)并不是單個個人所固有的抽象物，在其現(xiàn)實性上，他是一切社會關(guān)系的總和?！眀《馬克思恩格斯選集》 （第1卷），第56頁。人工智能目前是以個體性或者是整體功能性而存在的，不可能具有社會性存在，也就意味著人工智能不能作為一個物種整體具有社會性，而人恰恰具有社會關(guān)系性，而這種社會關(guān)系是人之為人的根本性存在。“人的本質(zhì)是人的真正社會關(guān)系，人在積極實現(xiàn)自己的本質(zhì)的過程中創(chuàng)造、生產(chǎn)人的社會關(guān)系、社會本質(zhì)?！眂《馬克思恩格斯全集》 （第42卷），北京：人民出版社1979年版，第24頁。無論人工智能怎么在智能上超越人類，但根植于物種的社會性不是通過可計算獲得的。因此這也是人工智能的禁區(qū)。如果人類賦予人工智能以社會關(guān)系構(gòu)架，人工智能之間能夠做聯(lián)合，能夠選擇意識形態(tài)，那人類危機也真的不遠(yuǎn)了。但個人認(rèn)為，作為人的整體社會建構(gòu)的文化以及關(guān)系，任何人工智能都是無法取代的。

四、結(jié)語

科學(xué)技術(shù)的進(jìn)步與發(fā)展是歷史必然，我們終究無法預(yù)測人工智能技術(shù)究竟能夠取得多大的突破，但只要人工智能無法意識到“自我”的存在，它就只能作為工具為人所用，被人所控。關(guān)乎人類問題的關(guān)鍵從來也必須從人類自身出發(fā)才可能找到解答，無論人工智能技術(shù)如何發(fā)展，只要人類保持足夠的理性，為人工智能技術(shù)劃定禁區(qū)，人類的存在性地位就不可能被超越。盡管人工智能大規(guī)模發(fā)展會在某種程度上代替人類，讓某些人失業(yè)，讓社會結(jié)構(gòu)發(fā)生改變，但人工智能也能創(chuàng)造出新的工作平臺和領(lǐng)域，讓人在更高的平臺上實現(xiàn)人的創(chuàng)造性本質(zhì)。

當(dāng)然，有一點需要特別引起注意，對人工智能的應(yīng)用的限制和立法要提前進(jìn)入考量范疇，否則如同其他技術(shù)一樣，如果人工智能技術(shù)被別有用心的人濫用，產(chǎn)生的社會問題肯定會超過一般技術(shù)的濫用，這一點法學(xué)和社會學(xué)會大有用武之地。

B80

A

2095-0047（2017）05-0031-11

王治東，東華大學(xué)馬克思主義學(xué)院教 授。

本文為國家社科基金項目“資本邏輯視域下的技術(shù)正義”（課題編號：15BZX034）、東華大學(xué)預(yù)研究重點課題“元哲學(xué)視角下人工自然哲學(xué)研究”的階段性成果。

（責(zé)任編輯：肖志珂）