編譯 高斯寒

AI會帶來許多奇跡，它也可能打破從核緩和到人類友誼的所有一切的穩(wěn)定。我們需要更用心思考如何適應AI時代。

人類瀕臨一場由人工智能驅(qū)動的革命。它有可能成為歷史上最重大和深遠的革命之一，但其發(fā)展是人類為解決具體實際難題的不同努力，而不是出自于周詳?shù)挠媱?。諷刺的是，這種逐個解決問題的終極努力也許是人類推理和決策的轉(zhuǎn)變。

這場革命不可阻擋。企圖停止這場革命意味著：把未來交給面對革命的創(chuàng)造性的意義時更勇敢的人。相反，我們應該接受：AI一定會變得越來越復雜和普遍，并且我們應該自問：AI的進化會如何影響人類的感知、認知和互動？AI會對人類文化和歷史造成什么影響？

這些問題將本文的3位作者聚到一起。其中一位是歷史學家，有時擔任政策制定者；一位是大型科技企業(yè)的前首席執(zhí)行官；還有一位是科技導向的學術(shù)機構(gòu)的院長。我們在過去3年里不時見面，試圖弄懂這些問題和相關(guān)的難點。我們每個人都相信有能力（在自己的專業(yè)領(lǐng)域）充分分析這樣的未來，即機器幫助引導其自身的變革，通過自我改善來更好解決問題（這就是設(shè)計這些機器的目的）。于是，作為一個起點（我們也希望，這是引發(fā)更廣泛討論的跳板），我們形成了一組有關(guān)AI發(fā)展對人類文明重要意義的詳細問題。

AlphaZero悖論

2018年12月，AlphaZero的開發(fā)者發(fā)表了他們對于這款棋類程序過程的解釋。結(jié)果顯示，這個過程忽略了幾個世紀以來人類發(fā)展的棋類策略和過往的經(jīng)典棋局。在掌握棋類規(guī)則后，AlphaZero就完全通過自我對弈來訓練自己，在不到24小時內(nèi)成為全世界最出色的棋手，比特級大師更厲害，在當時是全世界最復雜的棋類博弈程序。它的構(gòu)想和實際招式讓人類和人類訓練的機器都覺得反直覺，甚至可能被認為是下錯了棋。創(chuàng)造出AlphaZero的公司的創(chuàng)立人稱它的表現(xiàn)是“另一維度的棋類”，證明復雜的AI“不再受到人類知識的局限的桎梏”。

現(xiàn)在，卓有建樹的棋類專家正在研究AlphaZero的棋招，希望將它的領(lǐng)悟融入他們自己的棋局。這些研究具有實際意義，但也隨之出現(xiàn)更宏大的哲學問題。有些是目前尚回答不了的問題：我們?nèi)绾谓忉孉lphaZero在極短的時間創(chuàng)造出新方法的能力？它探索的現(xiàn)實是什么？AI會導致對熟悉的現(xiàn)實的難以想象的擴展嗎？

我們能夠預期AI在其他領(lǐng)域的相似發(fā)現(xiàn)。有些發(fā)現(xiàn)會顛覆傳統(tǒng)智慧和標準實踐；其他發(fā)現(xiàn)會對傳統(tǒng)智慧和標準實踐進行調(diào)整。幾乎所有發(fā)現(xiàn)都會讓我們難以理解。考慮一下無人駕駛汽車在紅綠燈前停下的行為。當人類駕駛的汽車一點一點地往前挪，試圖擺脫堵塞的車流時，一些無人駕駛汽車偶爾也會加入其中，盡管它們接受的駕駛規(guī)則中沒有暗示它們應當這么做。假如這種一點一點往前挪的做法被無人駕駛汽車學會，那么它們是如何學到的？又是為了什么目的？這些做法和我們教育人們要等候紅綠燈有什么不同？AI還可能學到的其他內(nèi)容是什么？AI沒有“告訴”我們，因為AI沒有解釋或不能解釋。使無生命的物體擁有自我學習的過程，我們尚不知道我們啟動了什么，但我們需要去查明。

革命的本質(zhì)

迄今為止，數(shù)字革命依賴于人類創(chuàng)造軟件和分析深刻影響我們生活的數(shù)據(jù)。近期的進展已經(jīng)重塑這個過程。AI使眾多工作的自動化成為可能，使機器從數(shù)據(jù)中得出結(jié)論并采取行動方面發(fā)揮重要作用（日益成為決定角色）。AI能夠從自身經(jīng)驗中汲取教訓和經(jīng)驗，不像傳統(tǒng)軟件只支持人類的推理。作出判斷的任務(wù)不斷從人類轉(zhuǎn)移到機器，這標志了AI革命的一方面。

“智慧”這個詞并不足以解釋正在發(fā)生的事，將人類特質(zhì)賦予AI是不適宜的。AI既沒有惡意也不友善，它沒有自主發(fā)展的意圖或者目標，也不能進行自我反思。AI所能做的，是完成具體指明的任務(wù)，幫助發(fā)現(xiàn)數(shù)據(jù)與行動之間的關(guān)聯(lián)，為人類覺得困難或不能解決的困境提供解決方案。這個過程創(chuàng)造出新的自動化形式，不久可能出現(xiàn)新的思考方式。

然而，今日的AI系統(tǒng)在努力教授或解釋：它們?nèi)绾蔚贸鼋鉀Q方案的，那些解決方案為何更優(yōu)秀。該由人類來破解AI系統(tǒng)的重要意義和形成一套詮釋。在某些方面，AI可以和古時的德爾斐神諭相類比，需要人類解讀神諭中關(guān)于人類命運的神秘信息。

假如AI不斷完善（沒有理由認為事情不會如此），人工智能對人類生活施加的變化會是變革性的。以下是兩個例證：一個是來自全球安全和國家安全領(lǐng)域的宏觀例子，另一個是和AI在人類關(guān)系中的潛在角色有關(guān)的微觀例子。

人工智能：大戰(zhàn)略和安全

在核時代，國家戰(zhàn)略的發(fā)展圍繞著威懾（deterrence）概念。威懾是基于各方的理性，其前提是核武器和其他軍事部署能確保穩(wěn)定，蓄意行動會導致自我毀滅，報復的可能性遏制了攻擊。具有監(jiān)測系統(tǒng)的軍備控制協(xié)議主要是為了避免來自流氓國家的挑戰(zhàn)，或者可能觸發(fā)災難性反應的錯誤信號。

AI在國家安全中扮演重要角色的世界里，這些戰(zhàn)略理論幾乎沒有用武之地。假如AI通過仿真和其他秘密手段研發(fā)出新武器、戰(zhàn)略和策略，控制就算是可能實現(xiàn)，也變得難以描述?；诠_的軍備控制承諾將會改變：對手對AI開發(fā)配置的無知會成為戰(zhàn)略優(yōu)勢，但在國家能力的透明度作為先決條件的談判桌上，這個優(yōu)勢會成為犧牲品。網(wǎng)絡(luò)世界的不透明（及速度）可能推翻當前的規(guī)劃模式。

軍備控制制度的演變教育我們：大戰(zhàn)略需要了解潛在對手的能力和軍事部署。但是，如果越來越多的情報變得晦暗不清，決策者如何了解對手（或者甚至是盟友）的觀點和能力呢？會出現(xiàn)許多互聯(lián)網(wǎng)嗎？或者到最后只存在一個互聯(lián)網(wǎng)？合作的含義是什么？為了對抗嗎？隨著AI變得無處不在，需要出現(xiàn)新的安全觀念。新觀念之一是有切斷AI工作網(wǎng)絡(luò)的能力。

更尖銳（可能更令人憂心）的問題日益突出。威力未知的武器的存在到底是增加還是降低未來沖突的可能性？面對未知的因素，恐懼是否會增加先發(fā)制人的可能？其動機將是不透明，這可能意味著絕對不安全。在這些情勢下，指導和遏制戰(zhàn)略的規(guī)范和規(guī)則要如何建立？發(fā)展與這項不可避免的新技術(shù)相關(guān)的戰(zhàn)略概念的必要性已經(jīng)變得勢不可擋。

人際接觸

“谷歌人家”（Google Home）和亞馬遜公司的Alexa這些電子助手已經(jīng)進入數(shù)百萬個家庭，設(shè)計主旨是用于日常對話。它們能回答各種詢問和提供建議，這些建議（尤其是在小孩看來）也許很聰明，甚至是睿智的。它們能成為老年人長時間孤獨的解決方案，其中許多人像對待朋友一樣與這些設(shè)備互動。

AI收集和分析的數(shù)據(jù)越多，它就變得越準確，這樣的手段會獲知其主人的喜好，在答案形成過程中將這些納入其中。隨著它們變得“更機智”，它們會變成更親密的伴侶。結(jié)果就是，AI能誘導人類對AI的感情，而AI無法回報這些感情。

人們早已將他們的智能手機列為最重要的財物，并給清掃機器人起名字。當這些設(shè)備變得更加復雜時，會發(fā)生什么事？人們會變得像對待寵物犬一樣依戀于這些電子寵物嗎（或許更嚴重）？

社會將以與社會文化最合拍的方式來采用這些設(shè)備，這在某些情況下加強了文化差異。譬如說，在日本，作為人口老化和神道主義（神道主義認為，無生命物體擁有與人類別無二致的靈魂）的結(jié)果，AI伴侶可能變得比西方國家更廣泛。

考慮到這些發(fā)展，在世界許多地區(qū)，從幼童時期起，首要的互動和知識來源可能將不再是父母、家庭成員、朋友或老師，而是電子伴侶；與它們的不斷互動會形成豐富的學習源泉和對隱私的挑戰(zhàn)。AI算法會幫助開啟知識的新疆域；與此同時，會縮小信息選擇范圍，提升壓制新的或挑戰(zhàn)性想法的能力。AI能夠去除語言障礙和許多文化限制，但相同的技術(shù)會創(chuàng)造出限制或塑造信息擴散的空前能力。政府監(jiān)控數(shù)千萬人或數(shù)億人的行為和行動的技術(shù)能力同樣空前。就算在西方國家，這個以和諧名義的探求可能變成一條危險的下坡路。對越軌行為風險和個人自由限制的平衡（或定義“越軌”一詞）將是AI時代的關(guān)鍵挑戰(zhàn)。

未來

AI的許多公開預測有科幻文學的特征。但在現(xiàn)實世界中，仍存在許多希望的趨勢。AI會在健康、安全和長壽等關(guān)鍵領(lǐng)域做出基本的積極貢獻。

然而，仍存在令人擔憂的沖擊領(lǐng)域：隨著人類將越來越多的探求知識的任務(wù)托付給AI，人類的好奇心變小了；因為以假亂真的新聞和視頻，人們的信任變小了；為恐怖主義開拓了新的可能；由于AI的操縱，民主體制弱化了；或許還因為自動化，人類找到工作的機會減少了。

隨著AI變得無處不在，要如何管理和監(jiān)督？隨著我們進入AI教育人類的新世界，會不會出現(xiàn)等同于“已批準”教科書的AI呢？

在現(xiàn)存文化的價值觀和實踐中，吸收AI這項新技術(shù)是個挑戰(zhàn)，而且沒有先例可循。最適合比較的歷史事件是人類社會從中世紀到近代的轉(zhuǎn)變。在中世紀，人們將宇宙解讀為神的創(chuàng)造，所有宇宙現(xiàn)象都解讀為神的意旨的體現(xiàn)。當基督教會的統(tǒng)一被打破后，出現(xiàn)了有什么統(tǒng)一觀念能取代它的問題。答案最終出現(xiàn)在我們稱為“啟蒙時代“的時期；偉大哲學家將神性的啟發(fā)（divine inspiration）換成了理性、實驗和實用主義。其他詮釋接踵而來：歷史哲學、現(xiàn)實的社會學詮釋等。然而，如下的現(xiàn)象在人類歷史上是獨一無二的，即機器在智力勞動中協(xié)助（或者可能超越）人類，幫助人類預測和塑造結(jié)果。啟蒙時代的哲學家康德將真理歸因于人類心智對觀察現(xiàn)實的結(jié)構(gòu)影響。AI的真理更具有偶然性和模糊性；它在獲取和分析數(shù)據(jù)時修改自身。

AI將對我們對真理和現(xiàn)實的理解施加不可避免的演變，我們應當如何應對？我們3人討論過許多觀點：給電子助手編程，讓它們拒絕回答哲學問題，尤其是關(guān)于現(xiàn)實界限的問題；要求人類參與事關(guān)重大的模式識別工作，譬如讀X光片的工作；研發(fā)模擬程序，使AI能在各種不同情況下，練習如何為模棱兩可的人類價值觀下定義：什么是道德的？什么是理性的？什么是不作惡？“審核”AI，并在不準確模仿人類價值觀時加以糾正；建立“AI倫理學”這個新領(lǐng)域，促進思考如何對AI的管理負責，正如生物倫理學促進思考對生物學和醫(yī)學管理的責任。重要的是，所有這些努力必須根據(jù)三種時間范疇來進行：我們已經(jīng)知道什么；不久的未來我們一定會發(fā)現(xiàn)什么；當AI變得廣泛時，我們很可能會發(fā)現(xiàn)什么。

對于AI的樂觀程度，我們?nèi)舜嬖谝庖姺制?。但我們都同意：AI正在改變?nèi)祟惖闹R、觀念和現(xiàn)實，這么做的時候，也改變了人類歷史的進程。我們試圖弄懂AI和它的后果，也鼓勵跨學科的其他學者做相同研究。