許多人（科學家除外）在討論人工智能問題的時候，往往以“擬人化”的方式去理解人工智能，就是說，把人工智能看得太像人，或者是希望人工智能的思維像人，情感也像人，外表面目也像人，甚至幻想人工智能的價值觀能夠以人為本。令人擔心的是，擬人化的人工智能很可能事與愿違。當然，想象人工智能類似于人，是很自然的想象，就像基督教徒相信上帝按照他的形象造人一樣，或者，類似于童話故事和動畫片把動物加以擬人化。也許需要想一想，為什么我們喜歡擬人化呢？是因為有了人性就能夠交流嗎？或者就會愛護人類嗎？擬人化真的有好處嗎？我在擬人化的概念里看見一種隱隱的殺機，但愿是多慮了。

就目前的情況來看，最有希望能夠做得成的人工智能估計不像人，更重要的是，人工智能沒有必要像人。也許應該說，像人的人工智能既在成本上不經(jīng)濟，又在功用上可能適得其反。假如真的發(fā)展出了超級人工智能，它肯定不是人，只是一個更高級別的智能存在，不僅不像人，也不太可能迎合人，因為遠遠勝過人的超級人工智能也許更像上帝或者撒旦，總之不像人。我們沒有理由假定所有高智能的存在必定都像人，比如，劉慈欣在《三體》系列里想象的其他智慧存在就不太像人，他們對存在有著不同的理解。現(xiàn)代啟蒙以來，以人為中心的人文主義已經(jīng)根深蒂固，成為好像理所當然的設定，其實人類沒有那么高級，也不完美。我很贊同孫周興的說法，尼采一百多年前就已經(jīng)宣告了人文主義的死亡，只是慢慢在死，但一定要死的。假如出現(xiàn)了超級人工智能，他們對世界一定有不同看法，而我們無法猜想他們會有什么看法，因為超級人工智能的智力超過了人。這就像豬羊魚蝦不懂人類為什么吃掉他們。擬人化只是人類的一種童話想象，只是人自己想象的萬物秩序，其實并不符合萬物存在的道理。

目前人類試圖制造的機器人會有某些擬人功能，這是為了讓機器人更好地服務于人類，比如語言對話的服務、自動駕駛或者家庭服務之類，至于把機器人做成人類面目，在服務功能上并無意義，應該屬于玩具功能（人類需要玩具，這是個有趣的心理學問題）。這些擬人功能是實用性的，還不是我們質疑的那種本質上的擬人化。所謂“本質上的擬人化”指的是試圖制造具有人類情感、欲望和價值觀的人工智能。這就引出一個真正危險的問題了。

人類貴有自知之明，那么應該實事求是地承認：人類并非善良的智慧生命。人類會為此事實感到慚愧嗎？人類社會的戰(zhàn)爭多于和平，最先進的技術大多數(shù)來自軍工，居然還有政治學和倫理學，人類甚至試圖開發(fā)太空以便太空移民，這些有限的事實已經(jīng)足以明示人類是欲壑難填的危險生物。事實上，人類苦苦宣傳善良的價值觀就已經(jīng)暴露了人類實際上有多么缺少善良。那么，假如設法讓人工智能擁有人類的欲望、情感和價值觀，其合乎邏輯的結果恐怕不是人工智能愛上人類，而更可能是變得像人類一樣自私自利，變得像人類一樣壞。在這個意義上，在本質上擬人化的人工智能是一個非常可疑的努力方向。如果超級人工智能的心靈不像人，反而是一個相對安全的選擇（盡管仍然未必安全）。

（摘自趙汀陽：《人工智能會是一個要命的問題嗎？》，《開放時代》2018年第11期）