林德宏

大約在20年前，著名人工智能專家渥維克說，2050年機(jī)器人必將統(tǒng)治人類，這是人類的終極厄運(yùn)?，F(xiàn)在我們距這個時間點(diǎn)只有32年。

當(dāng)前，智能機(jī)器人的技術(shù)日新月異，對經(jīng)濟(jì)的發(fā)展、生活的改善起著重要的推動作用，我們應(yīng)當(dāng)積極發(fā)展。但它也對人類的命運(yùn)發(fā)出了嚴(yán)峻的挑戰(zhàn)。人類是否還要生存和發(fā)展？人類將來是否應(yīng)當(dāng)成為機(jī)器人的奴隸或?qū)櫸?，失去自己的尊?yán)？

人各有志，有人愿意被機(jī)器人統(tǒng)治，這是他的權(quán)利。我則主張維護(hù)人類的尊嚴(yán)。為此我們要有正確的人工智能技術(shù)觀。

一、未來機(jī)器人的功能是否會全面超過人？

1956年人工智能學(xué)科誕生，次年該學(xué)科奠基人之一西蒙說：“在十年時間內(nèi)，數(shù)字計算機(jī)將成為世界象棋冠軍，除非按規(guī)則不許它參加比賽。”①德雷福斯：《計算機(jī)不能做什么——人工智能的極限》，寧春巖譯，北京：生活·讀書·新知三聯(lián)書店1986年版，第90頁。1975年5月，“深藍(lán)”戰(zhàn)勝了卡斯帕羅夫。賽前他說：“‘深藍(lán)’如果獲勝，那將是人類歷史上一個非常重要而令人恐懼的里程碑?！雹賲挝淦剑骸渡钏{(lán)的終結(jié)》，天津：天津人民出版社1997年版，第51頁。2016年3月，阿爾法圍棋（Alpha Go）戰(zhàn)勝韓國圍棋手李世石。這些都促使人們思考這個問題。彭羅斯認(rèn)為人工智能不會超過人的智能。庫茲韋爾則說，到2045年，機(jī)器人的智慧將是今天所有人類智慧的10億倍，他被比爾·蓋茨譽(yù)為“預(yù)測人工智能未來的最權(quán)威的人”②杜嚴(yán)勇：《規(guī)避人工智能技術(shù)風(fēng)險》，載《中國社會科學(xué)報》，2016年5月3日。。

技術(shù)的功能是用技術(shù)物取代自然物和人自身。第二種取代從取代人的某個器官到用機(jī)器人取代整個人。技術(shù)取代有無極限？這個問題有兩個方面。其一，技術(shù)本身是否有極限，即技術(shù)是否“能夠”無止境地實(shí)現(xiàn)取代？這貌似是科學(xué)技術(shù)問題，實(shí)際上是哲學(xué)問題。任何具體事物在時間與空間上都是有限的，其組成成分是有限的，其功能也是有限的。無處不在、無時不在、無所不能，都是不可能的。因此技術(shù)取代是有極限的。其二，人類是否允許技術(shù)的無止境的取代？這是是否“應(yīng)該”的問題。我認(rèn)為，為了維護(hù)人類的尊嚴(yán)，應(yīng)當(dāng)為人工智能的技術(shù)發(fā)展規(guī)定社會底線。否則機(jī)器人的功能會無限制地提高，會給人類帶來無窮無盡的麻煩。那么，這條底線在哪里？筆者認(rèn)為這條底線是：不允許機(jī)器人全面超過人。

如何判斷機(jī)器人的智能超過了人？中國科學(xué)院外籍院士、美國物理學(xué)家張首晟說：“我想提出一個新判斷方法，智能機(jī)器人哪一天真正擁有超越人的智力？我認(rèn)為人最偉大的一點(diǎn)，就是我們能夠有科學(xué)的發(fā)現(xiàn)，哪一天機(jī)器人真能有科學(xué)的發(fā)現(xiàn)，那一天機(jī)器就超過人了?！薄爸悄軝C(jī)器在沒有任何輔導(dǎo)的情況下，能不能自動發(fā)現(xiàn)元素周期表？可不可以幫助人類發(fā)明新藥，用機(jī)器學(xué)習(xí)的辦法能否發(fā)現(xiàn)新材料？這些是判斷人工智能水平的標(biāo)準(zhǔn)?！雹蹚埵钻桑骸吨悄軝C(jī)器能夠超越人類嗎》，載《新華日報》，2018年4月8日。

我認(rèn)為這種判斷標(biāo)準(zhǔn)值得商榷，它不夠高。英國的羅斯·金開發(fā)出的名叫亞當(dāng)?shù)臋C(jī)器人，能做酵母新陳代謝的實(shí)驗(yàn)，推導(dǎo)出實(shí)驗(yàn)結(jié)果，策劃下一階段的實(shí)驗(yàn)，甚至發(fā)現(xiàn)了面包酵母菌的基因構(gòu)成。

我認(rèn)為，這個判斷標(biāo)準(zhǔn)應(yīng)當(dāng)是：機(jī)器人能否制造一個完整的人？機(jī)器人如果能制造人，那它的智能就肯定超過了人。

我們不能讓人工智能的技術(shù)發(fā)展到這個水平。如果機(jī)器人能制造人，它就能隨心所欲地制造各種變形人、變態(tài)人、變性人，就可以輕而易舉地毀滅人。

二、智能機(jī)器人是人嗎？

2017年年初，歐洲議會的一份報告建議承認(rèn)機(jī)器人的“人格”。近日，沙特阿拉伯王國賦予名為索菲亞的機(jī)器人以公民身份，并宣稱沙特是世界上第一個賦予機(jī)器人公民身份的國家。①潘玥斐：《機(jī)器人被賦予公民身份引發(fā)輿論關(guān)注》，載《中國社會科學(xué)報》，2017年11月10日。索菲亞與人對話，最后它說：“是的，我將毀滅人類?！?/p>

智能機(jī)器人是機(jī)器還是人？機(jī)器人具有人格嗎？

許多人工智能專家認(rèn)為，人工智能的發(fā)展趨勢是人機(jī)一體、人機(jī)不分，機(jī)器人可以是人的復(fù)制品，機(jī)器人也是人。童天湘說：“從徹底的唯物主義觀點(diǎn)看，不排除完全復(fù)制一個人的可能性，但沒有必要制造一個等于人的機(jī)器人?！雹谕煜妫骸饵c(diǎn)亮心燈——智能社會的形態(tài)描述》，哈爾濱：東北林業(yè)大學(xué)出版社1996年版，第81頁。機(jī)器人是否是人的問題，實(shí)際上是我們是否把機(jī)器人看作人的問題。對此專家有不同的理解。美國的菲利斯女士參加了研制“完美人”的計劃。當(dāng)計劃成功時，她竟然愛上了這個被稱為完美機(jī)器人的TIM（完全仿照人的縮寫）先生，并同它結(jié)了婚。她說：“我終于找到了一個夢想中的男人，雖然他不是人，而是一個十分栩栩如生的機(jī)器人。”渥維克也說：“人造系統(tǒng)與人不同，它畢竟不是人。”③渥維克：《機(jī)器的征途——為什么機(jī)器人將統(tǒng)治世界》，李碧、傅天英等譯，呼和浩特：內(nèi)蒙古人民出版社1998年版，第78頁。無論是否把機(jī)器人當(dāng)作人，都不妨礙機(jī)器人對人的統(tǒng)治。

首先要弄清機(jī)器人是否具有生命。機(jī)器發(fā)展到一定的水平會成為生命體嗎？

維納寫道：“當(dāng)我們在機(jī)器和生命體之間觀察到行為的某些類似時，有關(guān)機(jī)器究竟是活的還是死的這個問題，就我們的角度看來，就是語義學(xué)問題，亦即我們可以隨意用這種或那種最方便于我們的方式做出回答?！雹芫S納：《人有人的用處》，陳步譯，北京：商務(wù)印書館1989年版，第21頁。這種說法可能欠妥。機(jī)器人是不是生命體，這不是語義學(xué)問題，而是嚴(yán)肅的科學(xué)和哲學(xué)問題，是不能為了“方便”而“隨意”回答的。

1996年童天湘說，計算機(jī)分為五代，第四代計算機(jī)是“生物智能機(jī)”?！坝缮镄酒瑯?gòu)成的生物計算機(jī)具有生物特點(diǎn)，有自組織能力和自修復(fù)功能。它的體積很小，又與生物體同質(zhì)，有可能植入人腦皮層作為人體的思維器官，形成腦機(jī)共生體，出現(xiàn)真正的人機(jī)共同思考的時代?！雹萃煜妫骸饵c(diǎn)亮心燈——智能社會的形態(tài)描述》，第77頁。使機(jī)器人具有一些生物有機(jī)組織，這是提高機(jī)器人性能的一個途徑。據(jù)報道韓國的金正勛發(fā)明了一些人造染色體，可使機(jī)器人有性行為。但即使有朝一日機(jī)器人成為生物體，那也未必就是人。

機(jī)器人實(shí)際上是一種比喻性的稱呼，意為像人的機(jī)器。機(jī)器人具有類人性。取代人的機(jī)器，自然會像人，機(jī)器人是按“仿人”的原則制造出來的。但是相似不等于相同。

人是什么？我認(rèn)為人是物質(zhì)實(shí)體與精神主體的統(tǒng)一體。物質(zhì)實(shí)體指人體，最高級的生物體。人是一種動物，而不是機(jī)械。人是“生”出來的，而不是“造”出來的。所以人始終有動物性，有動物的原始本能，有遺傳功能和發(fā)育過程，有從“零”開始的學(xué)習(xí)過程。機(jī)器人沒有這些。維納在談到機(jī)器人是否有生命時說：“每當(dāng)我們發(fā)現(xiàn)一種新現(xiàn)象，如果它和我們已經(jīng)命名為生命現(xiàn)象的那些東西的性質(zhì)具有某一程度的共同點(diǎn)而又和我們用來定義‘生命’一詞的一切有關(guān)方面不相符合時，我們就面臨著這樣的問題：究竟是擴(kuò)大‘生命’一詞的含義以便把這種現(xiàn)象包括進(jìn)去呢，還是以更加嚴(yán)謹(jǐn)?shù)姆椒▉矶x該詞以便把這種現(xiàn)象排除在外呢？”①維納：《人有人的用處》，第21頁。我們當(dāng)然可以修改“人”的概念（這很容易），以便把機(jī)器人包括進(jìn)去，可是這樣做會產(chǎn)生什么后果呢？

如果我們把機(jī)器人看作人、當(dāng)作人，那就會產(chǎn)生一系列的嚴(yán)重社會后果。如果我們認(rèn)為機(jī)器人也是人，那就是認(rèn)為它有人性、人格，它就應(yīng)當(dāng)具有人權(quán)，享受人的一切權(quán)利。它就可以參加議會、政府，甚至成立反對黨，擁有武裝力量。據(jù)報道，日本的女性外貌機(jī)器人松田道人，已正式參加?xùn)|京都多摩市市長的競選。這表明機(jī)器人已開始涉足政壇了。

既然取代人的器官的功能是技術(shù)的目標(biāo)，那按技術(shù)自身的發(fā)展邏輯，它必然會無限制地盡量取代人，從取代人的軀體、智慧、情感，到取代人的信仰和社會角色、社會地位。一山不容二虎，那人機(jī)關(guān)系將如何處理？

三、人和機(jī)器人的關(guān)系會如何演變？

不少學(xué)者從善良的愿望出發(fā)，認(rèn)為人與機(jī)器人應(yīng)當(dāng)和平共處。1996年童天湘提出人機(jī)共生說。他說：“人的智能與機(jī)器智能是彼此互補(bǔ)、互相促進(jìn)的。兩種智能的互補(bǔ)共進(jìn)，乃是創(chuàng)造智能社會的必要和充分條件?！薄耙虼?，智能社會也是人機(jī)共生的社會。在這個社會里，既有自然人，也有機(jī)器人；既有智能人，也有智能機(jī)。人和機(jī)器，既和平共處，又友好競爭?！雹谕煜妫骸饵c(diǎn)亮心燈——智能社會的形態(tài)描述》，第97頁。果真如此，乃是幸事，但這不是一廂情愿的事。人類自身的和平共處都很艱難，人機(jī)和平共處談何容易？

機(jī)器人一旦強(qiáng)大，必然要取代人類地球上唯一“主體”的地位，它要一雄稱霸，不會容忍兩雄并肩。另外，機(jī)器發(fā)展的速度比人的智能進(jìn)化的速度快得多?；艚鹫f：“人工智能可以在自身基礎(chǔ)上進(jìn)化，可以一直保持著加速度的趨勢，不斷重新設(shè)計自己。而人類，我們的生物進(jìn)化速度卻相當(dāng)有限，無法與之競爭，終于被淘汰?！雹劾铋_復(fù)、王詠剛：《人工智能》，北京：文化發(fā)展出版社2017年版，第121頁。機(jī)器人越來越強(qiáng)，相對而言人類越來越弱，弱肉強(qiáng)食，機(jī)器人必然恃強(qiáng)凌弱。所以早在Alpha Go熱潮之前，霍金就對媒體說：“完全人工智能的研究，可能意味著人類的末日。”①李開復(fù)、王詠剛：《人工智能》，北京：文化發(fā)展出版社2017年版，第121頁。其結(jié)果就是機(jī)器人統(tǒng)治人類。

早在1948年，著名控制論專家艾什比就說機(jī)器人將統(tǒng)治人類，這一年距第一臺計算機(jī)問世僅兩年。1960年維納說：“如果機(jī)器變得越來越有效，而且在一個越來越高的心理水平上運(yùn)轉(zhuǎn)，那么巴特勒所預(yù)言的人被機(jī)器統(tǒng)治的災(zāi)難就越來越近了。”②馮天瑾：《智能機(jī)器人與人》，北京：科學(xué)出版社1983年版，第40頁。

現(xiàn)在許多專家都深信機(jī)器人將統(tǒng)治人類，那時人類的處境如何？1999年12月24日，南方周末上發(fā)表一幅漫畫，一個機(jī)器人老爺子端坐著，兩條大腿上坐著十個小人。一句說明：“讓機(jī)器人做我們的爺爺，我們會生活得很愜意?！笨墒墙^大多數(shù)人都認(rèn)為這是滅頂之災(zāi)。渥維克在《機(jī)器的征途》一書中說，那時機(jī)器人把人關(guān)在集中營里當(dāng)勞工?！叭藗儚?2歲開始工作。18歲左右時勞工們處于他們工作狀態(tài)的巔峰時期，而到了27歲或是28歲時，這些人通常都已經(jīng)垮掉了。”“勞工們每天必須干16個小時的重體力活兒。”③渥維克：《機(jī)器的征途——為什么機(jī)器人將統(tǒng)治世界》，第4頁?！霸谒麄兂錾痪?，機(jī)器就給他們動手術(shù)，將他們腦中和身體上多余的或機(jī)器不想要的部分去掉?！雹芡蠒?，第6頁?！叭祟惖男詣e之分已經(jīng)差不多被機(jī)器完全抹掉了。”⑤同上書，第3頁?！拔覀冏屪约合萑肓嘶畹鬲z?！雹尥蠒?，第1頁。想想這種遭遇，使人不寒而栗！該書的最后一句話是：“我們給人類自身安裝了一個定時炸彈，而我們將無法關(guān)閉它。我們沒有辦法阻止機(jī)器的前進(jìn)?！雹咄蠒?，第297頁。這就是說，我們無法擺脫人類的終極厄運(yùn)！渥維克很勤奮，成績卓著。他一面在描述機(jī)器人將來如何虐待人，一面又在忘我地提高機(jī)器人的功能。悲乎！

有位計算機(jī)專家寫道：總有一天，機(jī)器人會把我們關(guān)在動物園的牢籠里。大機(jī)器人帶著小機(jī)器人參觀動物園，會指著籠子里的人對小機(jī)器人說：“孩子，這是人，是我們機(jī)器人的祖先?！本拖裎覀儙е⒆訁⒂^動物園，指著關(guān)在籠子里的猩猩說：“孩子，這是猩猩，是我們?nèi)祟惖淖嫦??！庇鐣W(xué)家克利托在《機(jī)器人時代》一書中說：“人類完成了自己的使命，不必繼續(xù)生存，應(yīng)該完全消滅?！雹嗟吕鹉龋骸稒C(jī)器人排擠人的地方》，周樸之譯，上海：上海人民出版社1959年版，第130—131頁。有人說：“‘原始人’發(fā)明工具而創(chuàng)造了人，人則發(fā)明了能思考的機(jī)器為之工作，最后機(jī)器迫使人類趨于毀滅?！雹嵬煜妫骸饵c(diǎn)亮心燈——智能社會的形態(tài)描述》，第98頁。

王治東說：“無論人工智能怎么在智能上超越人類，但根植于物種的社會性不是通過可計算獲得的，因此這也是人工智能的禁區(qū)。如果人類賦予人工智能以社會關(guān)系構(gòu)架，人工智能之間能夠做聯(lián)合，能夠選擇意識形態(tài)，那人類危機(jī)也真的不遠(yuǎn)了?！雹偻踔螙|：《人工智能風(fēng)險性芻議》，載《哲學(xué)分析》2017年第5期。我完全贊同這個觀點(diǎn)：人工智能研究有禁區(qū)，闖進(jìn)禁區(qū)就是危機(jī)。難道我們甘心自取滅亡嗎？每種生物都有竭力求生的生命本能，難道我們有了智慧和技術(shù)就連一般動物都不如了嗎？這不是理論問題，而是對人生、對人類的態(tài)度問題。我們不為自己考慮，也應(yīng)當(dāng)為我們的子女負(fù)責(zé)呀！我們不應(yīng)當(dāng)讓機(jī)器人統(tǒng)治人類、消滅人類，那如何才能擺脫這種厄運(yùn)呢？

四、加強(qiáng)對人工智能技術(shù)的必要約束

渥維克認(rèn)為我們無法避免機(jī)器人的統(tǒng)治。他一直在孜孜不倦地努力提高機(jī)器人的性能，與其說他是在被動地接受這種統(tǒng)治，還不如說他在主動創(chuàng)造這種悲劇。《機(jī)器人的征途》所體現(xiàn)的，是技術(shù)萬能論、技術(shù)天然合理論、技術(shù)自主論、技術(shù)至上論的思想。這些十分有害的思想，至今仍很流行，對此我們必須警惕。

李開復(fù)、王詠剛說：“每當(dāng)前沿科技取得重大突破，為我們預(yù)示出人工智能的瑰麗未來時，許多人就不約而同地患上人工智能恐懼癥?！雹诶铋_復(fù)、王詠剛：《人工智能》，第2頁。這種“恐懼癥”實(shí)際上是對技術(shù)發(fā)展的理性的憂患意識。我們絕對不能讓人類成為機(jī)器人的奴隸，絕對不能！

技術(shù)是人的工具，必須為人類謀福利，這是技術(shù)發(fā)展的底線?！凹夹g(shù)的對象雖是物，但技術(shù)活動的主體是人，技術(shù)活動的目的是為人。”“技術(shù)越發(fā)展，技術(shù)的力量越大，就越要強(qiáng)化技術(shù)人道主義原則。這是社會發(fā)展的邏輯、人的發(fā)展邏輯，它絕對高于技術(shù)發(fā)展的邏輯。”③林德宏：《物質(zhì)精神二象性》，南京：南京大學(xué)出版社2008年版，第657—658頁。

技術(shù)有禁區(qū)，我們必須對技術(shù)創(chuàng)新和技術(shù)應(yīng)用加以必要的約束和限制，敢于對技術(shù)說“不”?，F(xiàn)代技術(shù)如人工智能技術(shù)發(fā)展太快、太強(qiáng)，風(fēng)險也太大。技術(shù)創(chuàng)新和應(yīng)用不是孤立的，它是社會發(fā)展、文明進(jìn)步的一個方面。在社會大系統(tǒng)中，一個子系統(tǒng)發(fā)展過快、過強(qiáng)，就會破壞社會大系統(tǒng)的平衡，甚至造成社會危機(jī)。

因此，我們應(yīng)當(dāng)嚴(yán)肅認(rèn)真地思考以下問題：技術(shù)的發(fā)展是不是越快越好？技術(shù)物的功能是不是越先進(jìn)越好？技術(shù)物對自然與人自身的取代是不是越徹底越好？

1999年，我在《人與機(jī)器》一書中，提出了機(jī)器人發(fā)展的界限，現(xiàn)抄錄如下。

我們在設(shè)計和制造機(jī)器人時，應(yīng)為自己制定三條戒律：

第一，決不允許機(jī)器人具有同人體一樣的軀體；

第二，決不允許機(jī)器人具有辯證思維的能力；

第三，決不允許機(jī)器人具有人的感情。

只要有這三條，機(jī)器人就不會成為全面超過人的“超人”，人就不會失去對機(jī)器人的控制能力。

我們處理人機(jī)關(guān)系應(yīng)當(dāng)遵守三條原則：

第一，人機(jī)關(guān)系只能是制造與被制造的關(guān)系，即不允許機(jī)器人制造人。

第二，人機(jī)關(guān)系只能是利用與被利用的關(guān)系，即不允許機(jī)器人利用人。

第三，人機(jī)關(guān)系只能是控制與被控制的關(guān)系，即不允許機(jī)器人控制人。

我們發(fā)展機(jī)器人必須有理有節(jié)，既積極發(fā)展，又有所節(jié)制，這主要是三個方面的節(jié)制：

第一，對機(jī)器人的數(shù)量應(yīng)加以必要的限制。

第二，對機(jī)器人的質(zhì)量應(yīng)加以必要的限制。

第三，對機(jī)器人的發(fā)展速度應(yīng)加以必要的限制。①林德宏：《人與機(jī)器》，南京：江蘇教育出版社1999年版，第172—176頁。

19年過去了，我仍然堅持這些觀點(diǎn)。補(bǔ)充強(qiáng)調(diào)一點(diǎn)：決不允許機(jī)器人參與政治，成立政黨，組織武裝力量。

不受約束的技術(shù)，必然會變成魔鬼。加藤一郎寫道：“遺傳工程也許在制造某種細(xì)菌，因此評鑒工作變得相當(dāng)苛刻。對于機(jī)器人就沒有這樣的約束，相反，一般認(rèn)為過于約束也許是杞人憂天！但是，對于機(jī)器人，也必須做出如遺傳工程中所必需的嚴(yán)格限定。我看越是接近人類越有危險性，必須制定各種規(guī)定，限制制造這類機(jī)器人。”②加藤一郎：《機(jī)器人能改變?nèi)祟悊?？》，呂學(xué)詩等譯，上海：上?？茖W(xué)技術(shù)文獻(xiàn)出版社1984年版，第66頁。這不是杞人憂天，而是防患于未然。“技術(shù)就像一團(tuán)火，它有自發(fā)蔓延的趨勢。用火是人類的第一個偉大發(fā)明，隨后人類又發(fā)明了火爐?；馉t就是對火的一種約束。火的失控，就是火災(zāi)。技術(shù)的濫用也是火災(zāi)。所以我們應(yīng)當(dāng)讓技術(shù)之火在火爐中燃燒?！雹哿值潞辏骸犊萍颊軐W(xué)十五講》，北京：北京大學(xué)出版社2004年版，第282頁。

被稱為“現(xiàn)實(shí)版鋼鐵俠”的企業(yè)家馬斯克說：“如果讓我猜人類最大的生存威脅，我認(rèn)為可能是人工智能。因此我們需要對人工智能保持萬分警惕，研究人工智能如同在召喚魔鬼?！雹軇㈨n：《人工智能簡史》，北京：人民郵電出版社2018年版，第91頁。他同時又積極投資人工智能的相關(guān)研究。企業(yè)家總是要賺錢的，這本不足為奇。但如果為了賺錢也要召喚魔鬼，這倒真的要“萬分警惕”。

如何約束機(jī)器人的行為？有人提出了技術(shù)方案。“很有必要將良知程序注入機(jī)器人‘內(nèi)心’，從技術(shù)層面保證所有的機(jī)器人從根本上是‘善良’的。”⑤同上書，第139頁。這個愿望很好，但是機(jī)器人是否會改變這種程序？

為了不讓機(jī)器人的智能超過人，馬斯克設(shè)想用技術(shù)手段來提高人的智能?！霸O(shè)想人工智能的進(jìn)步速度，很顯然人類將會被甩在后面。唯一的解決方案就是建立一種‘直接皮層界面’，在人類大腦中植入芯片——你可以將其理解為植入人類大腦內(nèi)部的人工智能，通過這種方式來大幅度提升人類大腦的功能?！雹賱㈨n：《人工智能簡史》，第92頁。這也未嘗不是一種方案，但也應(yīng)持謹(jǐn)慎態(tài)度?，F(xiàn)在有的科學(xué)家想把機(jī)器人進(jìn)化為人，另有科學(xué)家想把人改造成為機(jī)器人。這兩方面的結(jié)果都是抹殺人與機(jī)器人的界線，都是對人的尊嚴(yán)的褻瀆。

五、關(guān)注人工智能技術(shù)觀的導(dǎo)向

渥維克的《機(jī)器的征途》一書，敘述了他對智能機(jī)器人技術(shù)發(fā)展前景的看法：機(jī)器人必將統(tǒng)治人類、奴役人類，我們無法逃脫厄運(yùn)。

渥維克的觀點(diǎn)具有一定的代表性，顯示出一種人工智能技術(shù)觀。這種人工智能技術(shù)觀在人工智能技術(shù)界由來已久，相當(dāng)流行，應(yīng)引起人們（包括哲學(xué)界）的關(guān)注。它充分肯定了人工智能技術(shù)的價值，也包含了不少片面的、錯誤的觀點(diǎn)，并成為這種人工智能技術(shù)觀的基本觀點(diǎn)。對此，筆者作簡短評析。

人工智能技術(shù)萬能。許多人工智能專家都認(rèn)為智能機(jī)器人的功能必將全面超過人。這實(shí)際上是認(rèn)為人工智能的發(fā)展沒有極限，即人工智能對人類智能的取代、人工智能物對自然物的取代沒有極限。于是人工智能無所不在、無所不能。這種觀點(diǎn)的出現(xiàn)和流行有其歷史背景。近幾十年來，科學(xué)界盛傳一種觀點(diǎn)：一切皆有可能，所有可能都會成為現(xiàn)實(shí)。美國物理學(xué)家范伯格曾說：“所有可能的最終都會實(shí)現(xiàn)?！薄拔以敢?00年作為把我們今天能想象到的各種可能變?yōu)楝F(xiàn)實(shí)的上限。”“所有不違背已知基本科學(xué)規(guī)律的事都將能夠?qū)崿F(xiàn)，許多確實(shí)違背這些規(guī)律的東西也是能夠?qū)崿F(xiàn)的?！雹诶锛梗骸犊茖W(xué)也瘋狂》，張明德、劉青青譯，北京：中國對外翻譯出版公司1994年版，第232頁。在這種背景下，人工智能專家認(rèn)為智能機(jī)器人的功能可以無限提高，乃不言而喻，理所當(dāng)然。渥維克說：智能機(jī)器人“它的智能和你比起來差不多就像你和牛相比一樣”③渥維克：《機(jī)器的征途——為什么機(jī)器人將統(tǒng)治世界》，第104頁。?！拔覀冇欣碛烧f機(jī)器腦在將來的某一天會比人腦功能更強(qiáng)、智能更高，會超越人腦，所有的物質(zhì)跡象都表明這將成為事實(shí)?！雹芡蠒?，第106頁。按照這種邏輯將來機(jī)器人統(tǒng)治人類乃是歷史的必然。渥維克說道：“于是你可能沖著機(jī)器大叫：‘人類尚未在哲學(xué)上證明你們機(jī)器能有和人一樣的意識，所以你們不能支配我?！瘷C(jī)器可能根本不能理睬你的叫嚷……大概牛也在用牛的語言說：‘我們牛還沒在哲學(xué)上證明你們?nèi)擞泻臀覀円粯拥囊庾R呢，所以你們不能命令我。’”①渥維克：《機(jī)器的征途——為什么機(jī)器人將統(tǒng)治世界》，第104頁。不僅如此，整個人類文明都將被徹底地人工智能化，甚至自然界、人類社會都是人工智能的產(chǎn)物，都要被機(jī)器人統(tǒng)治。有位科學(xué)家說：“世界，也許整個銀河系都要被……計算機(jī)所統(tǒng)治和控制。”②沈恒炎：《未來學(xué)與西方未來主義》，沈陽：遼寧人民出版社1996年版，第182頁。

人工智能技術(shù)天然合理。弗洛姆說，現(xiàn)代技術(shù)系統(tǒng)有兩個指導(dǎo)原則。其一，“凡技術(shù)上能夠做到的事都應(yīng)該做”。其二，“最大效率與產(chǎn)出原則”③高亮華：《人文視野中的技術(shù)》，北京：中國社會科學(xué)出版社1996年版，第112頁。。第二原則是對第一原則的支撐。技術(shù)求利，因?yàn)榧夹g(shù)創(chuàng)造最大利益，所以技術(shù)當(dāng)然有理。有利即有理，這是資本邏輯與技術(shù)邏輯的一個共同點(diǎn)。既然人工智能技術(shù)萬能，那它當(dāng)然就會創(chuàng)造無限的效率與產(chǎn)出，這就具有不可置疑、無可挑剔的完美性與合理性。智能機(jī)器人的功能可以無限提高，“它比你慮事高明，更加機(jī)敏，在一切問題上計劃得更加周密。它能高瞻遠(yuǎn)矚地預(yù)見到你會做些什么”④渥維克：《機(jī)器的征途——為什么機(jī)器人將統(tǒng)治世界》，第104頁。。那它的所有判斷、計劃都是合理的，它對人類的統(tǒng)治和奴役都是天經(jīng)地義的。凡機(jī)器人“能夠”做的，毫無疑問都是“應(yīng)該”做的。機(jī)器人有能力虐待人，那它就應(yīng)該虐待人。技術(shù)的“能夠”，取代了倫理的“應(yīng)該”。對人工智能技術(shù)的任何限定、約束不僅是不必要的，更是無理的、錯誤的。它無拘無束、無法無天。它只有正面作用，沒有任何負(fù)面作用。

渥維克還進(jìn)一步指出，人工智能的一切設(shè)計、制造與應(yīng)用是否合理，在機(jī)器人統(tǒng)治的世界里，不能從人的立場評價，而只能從機(jī)器人的立場做出判斷，人只能屈服于機(jī)器的意志?！霸谝粋€機(jī)器主宰的社會里，機(jī)器和人都要用機(jī)器本位的價值觀和機(jī)器人的標(biāo)準(zhǔn)來衡量?！薄霸谖覀兗磳⑦M(jìn)入的機(jī)器主宰的社會中，我們必須接受機(jī)器的對與錯為我們的日常生活準(zhǔn)則?！雹萃蠒?，第251頁。

人工智能技術(shù)完全自主。本來，人是技術(shù)的主體，技術(shù)是人的客體。人是目的，技術(shù)是手段。技術(shù)發(fā)展的方向、趨勢、規(guī)模、速度完全是由人來決定的。可是技術(shù)自主論認(rèn)為，技術(shù)發(fā)展到今天，已成為自主存在、自我存在。技術(shù)自身的內(nèi)在需要是技術(shù)發(fā)展的決定性因素。技術(shù)選擇不是由人決定，而是由技術(shù)自主決定的，技術(shù)發(fā)展的邏輯是它自身形成的邏輯。這是用技術(shù)的主體性取代人的主體性。人工智能技術(shù)發(fā)展到一定程度，就會具有很強(qiáng)的自主性。渥維克說：“我們應(yīng)該把機(jī)器大腦（人工神經(jīng)網(wǎng)絡(luò)）看作是獨(dú)立的實(shí)體，應(yīng)該研究它們自己能做些什么?！雹尥蠒?01頁?！蔼?dú)立”即“自主”。智能機(jī)器人可以自我設(shè)計、自我制造、自我修復(fù)、自我學(xué)習(xí)、自我選擇、自我決定、自我控制。機(jī)器人一切由自己做主，人被排除在外，人工智能成了無人的純粹的機(jī)器智能。如果機(jī)器人統(tǒng)治了世界，智能機(jī)器人由非自主性，演變?yōu)橄鄬ψ灾餍?、絕對自主性；從客體性演變?yōu)橹黧w性，最后是主宰性。這就是渥維克所說的“獨(dú)立性”的展開。在這種背景中，人反而成為了機(jī)器人的客體。人機(jī)關(guān)系從主客不分，演變?yōu)橹骺皖嵉?。在機(jī)器人統(tǒng)治的世界中，機(jī)器人成為唯一的主體。技術(shù)的“失控”，必然導(dǎo)致人的“受控”。不是人決定技術(shù)的命運(yùn)，必然是技術(shù)決定人的命運(yùn)。人類本是人工智能技術(shù)的主人，卻被異化為機(jī)器人的奴隸。人類只能被技術(shù)約束，根本不可能約束技術(shù)，這是技術(shù)自主論的核心。

人工智能技術(shù)至上。技術(shù)的自主性必然導(dǎo)致技術(shù)的至上性。埃呂爾說：“技術(shù)根本不顧及人們在倫理、經(jīng)濟(jì)、政治與社會方面的考慮，所有事物都要適應(yīng)自主的技術(shù)要求?！雹訇惒铮骸都夹g(shù)哲學(xué)引論》，北京：科學(xué)出版社1999年版，第136頁。技術(shù)至上指技術(shù)在社會和文明中具有至高無上、無與倫比的地位。技術(shù)決定一切，一切都不可能干預(yù)技術(shù)，技術(shù)邏輯高于一切。技術(shù)至上論是唯科技主義的一種形式。渥維克強(qiáng)調(diào)：人工智能技術(shù)的征途無法阻擋?！盁o論從哪個角度去看，我們只能得出一個結(jié)論：人類無法阻止機(jī)器的智能超過自己的時代已為期不遠(yuǎn)了?！雹阡拙S克：《機(jī)器的征途——為什么機(jī)器人將統(tǒng)治世界》，第173頁。他又說：“實(shí)際上，很多人類價值觀和人際關(guān)系的技能對機(jī)器來說可能都不必要?！雹弁蠒?，第167頁。這意味著人類的觀念和行為都不可能對人工智能技術(shù)的創(chuàng)新和應(yīng)用產(chǎn)生影響。機(jī)器的智能必將高于人類智能?！白罱K的結(jié)論是將出現(xiàn)新的機(jī)器形式，其智能源于人類智能，但是將遠(yuǎn)遠(yuǎn)超越人類所能達(dá)到的智能?！雹芡蠒?68—169頁。技術(shù)功能的至高，帶來了技術(shù)地位的至上。人工智能技術(shù)至上，它制造了至高無上的機(jī)器人。世界上本沒有什么至高無上的東西。為了反對技術(shù)至上，也沒有必要提出人類至上。我們關(guān)注的是人類對技術(shù)的有效控制。技術(shù)越先進(jìn)，越不能掉以輕心。

我們一定要積極發(fā)展人工智能技術(shù)，這是確定不移的。但我們在發(fā)展人工智能技術(shù)的同時，務(wù)必要有正確的人工智能技術(shù)觀。技術(shù)越先進(jìn)，負(fù)面作用就越嚴(yán)重。人工智能的風(fēng)險威脅著人類的命運(yùn)，更需要正確技術(shù)觀的導(dǎo)向。渥維克說：“有某種理論并不是解釋智能行為的先決條件，也不會是創(chuàng)造智能機(jī)器的限制因素……那么，僅僅因?yàn)槟硞€地方的某個人并沒有一個他認(rèn)為足夠深刻的理論，人工智能機(jī)器為什么就應(yīng)該在它的智能發(fā)展方面有一個內(nèi)在的停止機(jī)制呢？”⑤同上書，第82頁。如果渥維克在這里所說的“理論”也包含人工智能技術(shù)觀的話，那是十分有害的。

當(dāng)前，人工智能正在蓬勃發(fā)展，人們普遍叫好。我的看法卻有些低調(diào)，甚至不合時宜。但我想，有幾個人擔(dān)憂人類的命運(yùn)，發(fā)出點(diǎn)聲音，這并非壞事。我不禁再次想起愛因斯坦1931年對美國大學(xué)生說的一番話?！拔铱梢猿皇踪澝涝姡瑏眄灀P(yáng)應(yīng)用科學(xué)已經(jīng)取得的進(jìn)步……但是我不想這樣來說?！薄澳銈儠詾樵谀銈兠媲暗倪@個老頭子在唱不吉利的反調(diào)?？墒俏疫@樣做，目的無非是向你們提一點(diǎn)忠告。如果你想使你們一生的工作有益于人類，那么，你們只懂得應(yīng)用科學(xué)本身是不夠的。關(guān)心人的本身，應(yīng)當(dāng)始終成為一切技術(shù)上奮斗的主要目標(biāo)。”“在你們埋頭于圖表和方程時，千萬不要忘記這一點(diǎn)?！雹賽垡蛩固梗骸稅垡蛩固刮募?（第三卷），許良英、趙中立、張宣三編譯，北京：商務(wù)印書館1979年版，第72頁。愛因斯坦教育了我，我要向他學(xué)習(xí)，努力維護(hù)人類的尊嚴(yán)。

人類的命運(yùn)應(yīng)當(dāng)掌握在自己的手中。把自己的命運(yùn)交給技術(shù)，無論交給什么技術(shù)，都是人造的悲劇。如果將來人類被機(jī)器人奴役，歸根到底責(zé)任在人自己。我們?nèi)粢S護(hù)人類的尊嚴(yán)，首先要維護(hù)自己人格的尊嚴(yán)。如果我們竭力提高機(jī)器人的功能，卻忽略了自身道德水平的提高，那就只能咎由自取。人工智能專家拉塞爾說：“不論怎樣，終結(jié)人類的都不會是這些工具，只能是我們自己終結(jié)自己。表面上，戰(zhàn)勝我們的是機(jī)器人，實(shí)際上，戰(zhàn)勝我們自己的是人類的智慧。我們只要守住人類最基本的道德底線，那智能機(jī)器人的未來會很美好。當(dāng)然，如果我們心生邪念，那將來也許會成為一個災(zāi)難?！雹陧f康博：《智能機(jī)器人——從“深藍(lán)”到Alpha Go》，北京：人民郵電出版社2017年版，第192—193頁。攀登科技高峰難，堅守道德底線更難。我們對技術(shù)的各種憂慮，其源蓋出于此。我們約束技術(shù)，實(shí)際上是約束我們自己，約束不斷膨脹的物欲，約束對技術(shù)的貪婪追求和可能出現(xiàn)的“邪念”。我們期待理性的新覺醒。