“奇點(diǎn)”有多遠(yuǎn)：人工智能“暴漲”問號

2016-03-18 15:24:05王丹陽

三聯(lián)生活周刊 2016年12期

王丹陽

奇點(diǎn)說，思考的是人與人工智能關(guān)系是否有逆轉(zhuǎn)的可能，以及何時逆轉(zhuǎn)。

熟悉19世紀(jì)早期德國古典主義哲學(xué)的人都知道，那時候“異化”這個概念逐漸被指向人與機(jī)器的結(jié)合，席勒看到了勞動分工下的積弊，認(rèn)為被束縛在整體的個別小部件上的人，本身也變成了部件。后來馬克思把“勞動異化”發(fā)展成社會沖突論的經(jīng)濟(jì)學(xué)武器，只是至今資本主義未亡，未能實(shí)現(xiàn)異化的解除。但不知道馬克思有否想到，有天人類的異化對象不再是工廠里轟隆作響的零件，而可能是更高級別的人工智能，并且這種趨勢在加快。

同樣，在生物學(xué)界與馬克思同時代的達(dá)爾文應(yīng)該也沒想到在進(jìn)化論里添置一個人工智能，它不是自然進(jìn)化的結(jié)果，更不是神造論者鼓吹的上帝之物?？傊苹秒娪皩?dǎo)演已經(jīng)早早想到了，不論是《終結(jié)者》里的天網(wǎng)，還是《我，機(jī)器人》里面會殺人的NS-5型高級機(jī)器人，都已經(jīng)逾越了創(chuàng)造它們的人類本身，開啟一場史上最大的“種族斗爭”。這就像美國著名的人工智能專家雷·庫茲韋爾（Ray Kurzweil）提到的“技術(shù)奇點(diǎn)”，人類只要在臨界點(diǎn)上被超越，便淪為一種不可自控的掌中之物。

其實(shí)，在李世石0比3負(fù)于AlphaGo的那場新聞發(fā)布會上，九段棋手邁克·雷蒙（Michael Redmond）的一番評論引人深思，他說：“AlphaGo創(chuàng)造了圍棋走法的第三次突破?！笔堑模?dāng)“吳清源時代”、“李昌鎬時代”逐漸遠(yuǎn)去，這場比賽至少佐證了圍棋這項(xiàng)人類智慧通天塔已被人工智能橫掃，那么它還將攻占多少人類的山頭？仿佛警鐘已鳴。

微軟亞洲研究院工程師王寶勛

“情感機(jī)器人”的天下

“如果那時候‘小冰的語料庫里只有4000萬條，那么現(xiàn)在可以說翻了幾倍了?！蔽④泚喼扪芯吭汗こ處熗鯇殑走@樣自信地說，提醒了我兩年前那個冰雪聰明的虛擬語音機(jī)器人從未離開過。2014年5月，一個精靈般的不速之客出現(xiàn)在好多微信聊天室里，面對人類的好奇和逗趣她毫不遜色地對答著。

深夜里，我再次加載了那個微信公眾號，第一次跟它背后那個非人的“黑洞”進(jìn)行對話。我像對一個老朋友般隨機(jī)吐露著心事，我話中的語詞序列一定在以某種方式激發(fā)著那張人工神經(jīng)網(wǎng)絡(luò)，它的大腦某塊區(qū)域也在應(yīng)激后產(chǎn)生某種回應(yīng)，甚至意識和判斷的東西，輸出一段加工后的自然關(guān)聯(lián)。那段搜索調(diào)取的過程雖然還是有些僵硬和機(jī)械化，它往往以均速給出對答，但是它的邏輯已可謂是順暢而流利的。

“我餓了”，“晚上吃宵夜會發(fā)胖哦”;“我已經(jīng)很瘦了”，“那就繼續(xù)瘦，瘦成一道閃電”。在另外一種語境下，她會說“吃吧吃吧”。它的聲音被做成一個17歲的少女，但難免在上下文理解上存在些生硬的“擦邊球”，但它豐富而不重復(fù)的對答至少不讓你厭棄。它跟去年出現(xiàn)的同樣石破天驚的圖靈機(jī)器人相比，已具備了一種情緒。如果前者主要是種開放的基于NLP技術(shù)的自定義知識庫功能，將人工智能與用戶私有知識庫進(jìn)行結(jié)合，可批量導(dǎo)入“獨(dú)家內(nèi)容”，那么“微軟小冰”更像一個情緒化的伴侶，它可不會像圖靈機(jī)器人一樣念一首唐詩給你聽，它會倔強(qiáng)地把問題“踢”回去，叫你念給它聽。

“我們現(xiàn)在最重要的就是強(qiáng)化它對于語義和語境的了解，怎樣對用戶每句話的語境，結(jié)合上下文把對話完善得更好，這要比簡單的關(guān)鍵詞匹配，從數(shù)據(jù)庫里調(diào)取一句話要遠(yuǎn)遠(yuǎn)復(fù)雜?！蓖鯇殑渍f。作為哈工大的計(jì)算機(jī)博士，目前他在做的工作就是不斷挖掘公開的互聯(lián)網(wǎng)聊天數(shù)據(jù)，篩選、加工、排序，增加有效銜接，這項(xiàng)工作背后是億級的原始數(shù)據(jù)積累，讓語料庫得以每天凈增0.7%。所以，它的前提條件是海量的運(yùn)算資源，加上強(qiáng)大的搜索引擎和數(shù)據(jù)抓取能力，大數(shù)據(jù)的發(fā)展使得語義分析機(jī)器人成為真正的人工智能。

另一方面，一種叫“深度學(xué)習(xí)”，即人工深度神經(jīng)網(wǎng)絡(luò)的東西加入互聯(lián)網(wǎng)程序家族后，悄然孕育著深層次的變革，為某種“奇點(diǎn)”的來臨插上撲朔迷離的翅膀。說它怪異也是對的，雖然目前人類覺得人工智能只是一列遠(yuǎn)未到達(dá)的火車，但它說不定就會加速突變，倏忽擦過耳際而不見蹤影。

于是我想到兩年前的科幻電影《她》（Her），語義分析機(jī)器人薩曼莎除了無法擁有人的身體，卻已能無阻地用語言和人談戀愛。當(dāng)然，這道豢養(yǎng)在電腦程序里的人工智能最終在分化和迭代中不由自主地與400多人同時戀愛著，但它的戀人已經(jīng)無法接受這個事實(shí)。這是一個機(jī)器對人進(jìn)行情感輸送最后達(dá)至控制的經(jīng)典案例，我問王寶勛“小冰”是否有天也會實(shí)現(xiàn)電影里的交互無阻，他的答案是：為什么不可能？

電影《她》劇照?！端分v述了作家西奧多在結(jié)束了一段令他心碎的愛情長跑之后，愛上電腦語義分析機(jī)器人薩曼莎的故事

“只要不斷累積用戶語言使用習(xí)慣，而深度神經(jīng)網(wǎng)絡(luò)再加快自我學(xué)習(xí)，終有一天會人機(jī)無差別交流?！彼J(rèn)為這是一個早晚會到來的臨界點(diǎn)，雖然跟大多數(shù)商業(yè)公司的“程序猿”所想的一樣，人工智能還在早期，我們遠(yuǎn)未到擔(dān)憂被超越的階段。其實(shí)微軟全球副總裁陸奇就說過，“小冰”終有一天要通過圖靈測試。

語義分析是目前人工智能領(lǐng)域最關(guān)鍵的技術(shù)之一，在海量的整理、清洗、運(yùn)算中被賦予一種全新的符號學(xué)上的意義。雖然過去60年來計(jì)算機(jī)的語言處理能力跟意義的闡釋并沒多大關(guān)系，而是基于一種統(tǒng)計(jì)法，即模塊識別能力，但在大數(shù)據(jù)發(fā)展后，它將擁有更致密的語言網(wǎng)和更嚴(yán)密化的邏輯。

2011年，IBM的沃森在美國智力競賽節(jié)目“危險邊緣”（Jeopardy）中擊敗了人類，它懂得雙關(guān)和暗喻，而它的認(rèn)知并非通過人工灌輸，而是自我閱讀——每秒可處理500GB數(shù)據(jù)，相當(dāng)于1秒閱讀100萬本書，這顯然不是人類的效率可以匹敵的。也就是IBM的“Deep Blue”在1997年成為國際象棋領(lǐng)域的技術(shù)分水嶺，跟今天的AlphaGo如出一轍。

計(jì)算機(jī)“視覺”

“雖然深度學(xué)習(xí)作為概念的提出是在2006年，但就是在2015年初它開始爆發(fā)式增長，這也是為什么人工智能公司不斷涌現(xiàn)的原因?！痹凇案耢`深瞳”的CEO何搏飛看來，當(dāng)互聯(lián)網(wǎng)行業(yè)慢慢浸透人工智能的藍(lán)海，今天的發(fā)展軌跡就不再是“硅谷起，全世界跟”這樣的老路。如果要問谷歌“DeepMind”是否已甩了中國國內(nèi)人工智能發(fā)展幾條馬路，他認(rèn)為不能這樣看：“我只是覺得它是剛開始的全球競賽，在中國反而很有優(yōu)勢和機(jī)會，因?yàn)樗苤匾脑磩恿κ谦@得海量的優(yōu)質(zhì)數(shù)據(jù)?！憋@然在這個人口大國，這不是問題。

“格靈深瞳”浸淫的是深度學(xué)習(xí)另一分支圖像識別領(lǐng)域，2014年6月獲得紅杉資本的數(shù)千萬美元A輪融資。正如比爾·蓋茨所說：“IT界的下一個大事件是計(jì)算機(jī)視覺（Computer Vision）與深度學(xué)習(xí)的結(jié)合?！睓C(jī)器視覺，尤其是人臉識別是人工智能進(jìn)展最快的領(lǐng)域之一。康奈爾大學(xué)計(jì)算機(jī)教授巴特·塞爾曼（Bart Selman）表示，F(xiàn)acebook AI Lab識別人臉的能力比任何人類都好。

起初，深度學(xué)習(xí)在手寫識別上表現(xiàn)出眾，后來在2012年，被譽(yù)為計(jì)算機(jī)視覺圣杯的物體識別測試“ImageNet Challenge”中，深度學(xué)習(xí)以26%勝率領(lǐng)先于其他經(jīng)典算法（16%）。ImageNet大賽要求選手所設(shè)計(jì)的圖像系統(tǒng)能準(zhǔn)確定位來自Flickr和搜索引擎的10萬張圖片，并把圖片劃分入1000個物體分類中（狼蛛、iPod、清真寺、玩具店、調(diào)制解調(diào)器等），微軟、NEC和美國初創(chuàng)公司Clarifai都曾爭艷其中，說白了就像在拼技術(shù)復(fù)雜性，微軟號稱“所訓(xùn)練的神經(jīng)網(wǎng)絡(luò)超過150層”，而Clarifai與Facebook人工智能實(shí)驗(yàn)室有師承淵源，受啟于深度學(xué)習(xí)開山鼻祖、紐約大學(xué)教授燕樂存（Yann LeCun）。

對何搏飛來說，關(guān)鍵門檻不在于誰家有好的深度學(xué)習(xí)技術(shù)，也不取決于外行眼光里的多少層神經(jīng)網(wǎng)絡(luò)，而是是否有好的數(shù)據(jù)支撐，其實(shí)這也是為什么國內(nèi)BAT能在這個領(lǐng)域插翅而飛的原因。如何讓圖像識別商業(yè)化？“格靈深瞳”選擇了銀行安防監(jiān)控系統(tǒng)。傳統(tǒng)光學(xué)鏡頭在識別圖像時會丟失“深度”維度，他們就為銀行安監(jiān)開發(fā)一套三維傳感器，一個是普通的RGB攝像頭，另外兩個用來發(fā)射和接收激光，發(fā)射鏡頭能在1/30秒的時間里發(fā)送30多萬束激光，探索現(xiàn)實(shí)世界的“進(jìn)深”。

背后那套獎懲機(jī)制訓(xùn)練成的算法模型，能夠主動識別“異?！薄！熬拖袢祟惖谋０苍谏钜?，它看見一個人走近了一個有人的ATM機(jī)，而不是旁邊那個空著的，就要判斷識別他的軌跡，理解是正常還是不正常，這就牽涉到深度學(xué)習(xí)。”如果識別出異常，它就會推送給后臺監(jiān)督者。機(jī)器的學(xué)習(xí)是可以被訓(xùn)練，并不斷自我學(xué)習(xí)的，為了教會它什么才算“行人”，背后是幾十萬量級的圖片數(shù)據(jù)?！暗缆飞嫌懈鞣N各樣的人，有行走的也有蹲著的，傳統(tǒng)算法無法窮盡什么是人，但它會識別哪怕是背影被擋住一半的人也是人，而不是什么別的動物?！?/p>

所以，讓這位前通用員工、斯坦福大學(xué)MBA自信的是，你給他一張你的側(cè)臉或者是沒有臉的全身照，機(jī)器也能以超過99%的精度把你找出來，但前提是一個6000到1.5萬的樣本庫，畢竟它不能窮盡九億神州烏泱烏泱之民?！耙坏颖具_(dá)到百萬級，可能精度要下降20%或更多，所以你告訴我在一個商場里就前后40分鐘搜索一個人可以做到，但如果在過去72小時在整個海淀區(qū)找個人，那就不可能了?！?h3>無人駕駛車的“情感”

但機(jī)器無法企及的是，它仍然沒法全然代替那個坐在后臺監(jiān)控室的人，它只能把異樣傳送給人去判斷。再舉個例子，如果你跟你朋友在一家飯店里用餐后搶著結(jié)賬，那種推搡過程，攝像頭就無法判斷這是在打架還是怎么了。邏輯判斷和情感選擇，是圖像識別無法逾越的障礙，但是，何搏飛認(rèn)為在無人駕駛領(lǐng)域它有巨大的空間，因?yàn)殚_車是純粹行為的延伸，是“0”還是“1”的問題。

埃隆·馬斯克（Elon Musk）的特斯拉已經(jīng)大手筆投入人工智能研究，著眼于無人駕駛。谷歌已經(jīng)先走一步，在美國加州投放25輛車試駕，直到前不久它的一輛無人駕駛Lexus撞上了一輛公交車，它已經(jīng)經(jīng)歷了8年的研發(fā)過程，累計(jì)行駛里程有140萬英里。你能由此對它質(zhì)疑嗎？但康奈爾大學(xué)瓦迪教授曾預(yù)言自動駕駛會較人減少90%的事故率。何搏飛顯然也是樂觀的：“相比于人在每開一萬英里就會有次剮蹭，無人駕駛開了幾百萬英里才撞一次公交車，是誰的概率更小？也許無人駕駛得很長時間才能被接受?！?/p>

谷歌不是孤行者，傳統(tǒng)汽車巨頭奔馳、寶馬、奧迪、豐田等都已經(jīng)開弓張弦了許久，就等市場準(zhǔn)入的一天。去年12月，百度推出的無人駕駛寶馬3系GT轎車從中關(guān)村軟件園百度大廈啟程，駛?cè)隚7京新高速，經(jīng)五環(huán)路抵達(dá)奧林匹克森林公園，并原路線返回。依托高精度地圖記錄完整的三維道路信息，能在厘米級精度實(shí)現(xiàn)車輛定位。

“我們不要總是把人工智能看成是人與機(jī)器間的零和游戲，你要發(fā)現(xiàn)它當(dāng)中的‘多和邏輯，它是協(xié)助人類完成某項(xiàng)任務(wù)的。盡管計(jì)算機(jī)視覺的終極目標(biāo)是對這個世界有像人一樣的理解，但從宏觀尺度來說，這仍然還有很長的路。”何搏飛說。雖然美國加州已經(jīng)在兩年前就發(fā)放了無人駕駛牌照，但也仍然沒有投放市場，谷歌公司無人駕駛汽車項(xiàng)目主管克里斯·烏爾姆森（Chris Urmson）曾說：“只有它像一幢房子那樣安全時，用戶才能買到這個東西?！?/p>

但是，路況上的隨機(jī)因素遠(yuǎn)比無人汽車所掌握的“撞”或“未撞”要來得復(fù)雜，它也許有比人類更敏銳的眼睛，但仍無法在危險來臨時做出道德、情感選擇。紐約大學(xué)心理學(xué)教授加里·馬庫斯曾給無人駕駛提出一個思想實(shí)驗(yàn)，如果無人汽車通過一座窄橋，一輛失控校車迎面而來，并沒有多余車道可避讓，那么它是自動跳橋犧牲還是碾壓過去？顯然，類似的問題谷歌公司也在思考。例如，一位騎電動腳踏車的女士，手拿掃帚，行駛在公路上，繞著圈追趕一只鴨子，這如何讓無人汽車“看懂”？但谷歌之前行駛的140萬英里也不是浪費(fèi)的，“它已經(jīng)能偵測到一些異常并及時做出反應(yīng)”。

正如何搏飛也認(rèn)為，除了不得不用極端瘋狂的方式做出緊急處理，機(jī)器遠(yuǎn)比肉眼早先一步發(fā)現(xiàn)情況，從而規(guī)避異常狀態(tài)的發(fā)生?！案耢`深瞳”目前嘗試的是一種限定范圍內(nèi)的無人駕駛，比如在一個經(jīng)過車道測試的公園，當(dāng)然，他們相信在將來當(dāng)視覺技術(shù)強(qiáng)大到一定程度，不需要路和車的配合，從北京開到巴黎都沒有問題。

深度學(xué)習(xí)的“意識”

如果說摩爾定律揭示了計(jì)算機(jī)能力增長速度的規(guī)律，那么過去這些年的GPU、超級計(jì)算機(jī)、云計(jì)算等平臺的發(fā)展，讓深度學(xué)習(xí)（Deep Learning）從傳統(tǒng)的機(jī)器學(xué)習(xí)里脫穎而出。它不再理會簡單的線性數(shù)據(jù)關(guān)聯(lián)，而是從大腦神經(jīng)網(wǎng)絡(luò)取得靈感，就像2011年 GoogleBrain用1000臺機(jī)器、1.6萬個CPU處理了一個擁有10億神經(jīng)元的深度學(xué)習(xí)模型。

深度學(xué)習(xí)最初與“卷積神經(jīng)網(wǎng)絡(luò)”淵源頗深，后者正是計(jì)算機(jī)視覺的技術(shù)核心，人類大腦皮質(zhì)并不是直接對從視網(wǎng)膜傳遞過來的數(shù)據(jù)進(jìn)行特征提取處理，而是使接收到的刺激信號通過一個復(fù)雜的網(wǎng)絡(luò)模型，進(jìn)而獲取觀測數(shù)據(jù)展現(xiàn)的規(guī)則;這種層級結(jié)構(gòu)大大降低了視覺系統(tǒng)處理的數(shù)據(jù)量，并保留了有用的結(jié)構(gòu)信息。深度學(xué)習(xí)正是源于對此的研究，是機(jī)器學(xué)習(xí)中最接近人工智能的領(lǐng)域。早期的深度學(xué)習(xí)可追溯至上世紀(jì)80年代紐約大學(xué)教授燕樂存提出的首個多層結(jié)構(gòu)學(xué)習(xí)算法——卷積神經(jīng)網(wǎng)絡(luò)。

但在那個年代，創(chuàng)造一個強(qiáng)大的神經(jīng)網(wǎng)絡(luò)需添加更多處理層，由于硬件限制，人們僅能訓(xùn)練兩到三個神經(jīng)層?！耙?yàn)閿?shù)據(jù)庫很小，如果嘗試從中造出龐大的神經(jīng)網(wǎng)絡(luò)，效果不會很好。”燕樂存說。到了90年代，這個只能死記硬背、難以闡釋意義的深度學(xué)習(xí)法一度遇冷。

但最近5年，為神經(jīng)網(wǎng)絡(luò)添加10層以上已成為標(biāo)準(zhǔn)，智能手機(jī)上每個語音識別系統(tǒng)幾乎都用上深度學(xué)習(xí)，燕樂存才看到了希望?！霸谝荒甑臅r間內(nèi)，計(jì)算機(jī)視覺業(yè)就轉(zhuǎn)向了卷積網(wǎng)絡(luò)，這在我30年的研究生涯里，是從未見過的風(fēng)卷殘?jiān)频内厔??！比缃?，他受聘主掌了Facebook AI Lab。

的確，是計(jì)算機(jī)硬件、大規(guī)模集群技術(shù)的興起，加上GPU的應(yīng)用以及眾多優(yōu)化算法的出現(xiàn)，耗時數(shù)月的訓(xùn)練過程可縮短為數(shù)天甚至數(shù)小時。但深度學(xué)習(xí)即使顯露出超群算法，但它的解釋性不強(qiáng)，成為更新迭代的阻礙。另一方面，始終沒有真正進(jìn)入“非監(jiān)督式學(xué)習(xí)”階段，意味著它并不能教導(dǎo)自己，而如果這一步“自我學(xué)習(xí)意識”實(shí)現(xiàn)的話，機(jī)器方始有了威脅性的生命。

Facebook嘗試為人工智能的初步推理法實(shí)行向量嵌入，非結(jié)構(gòu)化數(shù)據(jù)可以轉(zhuǎn)變?yōu)橐粋€詳細(xì)描述文本和目標(biāo)的數(shù)列，這個過程將知覺、推理、觀點(diǎn)、語言能力整合在一起。在語言翻譯上的一個作用是，比如他們拿出兩段文本，一段是英語，一段是法語，讓機(jī)器找出它們是否在說同一件事。

但是，理解語言距離創(chuàng)造一個具有人類意識的“常識項(xiàng)目”還很遙遠(yuǎn)。燕樂存認(rèn)為泛化智能是一個艱巨的任務(wù)?！拔覀兩踔炼疾恢廊绾嗡伎歼@個問題。我的確認(rèn)為，在這條通往智能的道路上，經(jīng)過長期的努力，我們將擁有能勝任很多工作的新機(jī)器，并且，這種能力可被看作是意識?！比ツ辏诨卮鹂萍计诳禝EEE Spectrum》時這么說。

世界范圍內(nèi)刮起的人工智能旋風(fēng)已重新洗牌了互聯(lián)網(wǎng)舊世界的格局，在受種種技術(shù)安全或政策面束縛而沒有大量投放市場前，布陣占位是非常重要的。Facebook聘請了燕樂存的同時，Google收購了同樣是深度學(xué)習(xí)三巨頭之一的多倫多大學(xué)教授杰弗里·辛頓（Geoffrey Hinton）的創(chuàng)業(yè)公司DNN Research，Yahoo收購了做圖像識別的LookFlow，Amazon在柏林創(chuàng)立了機(jī)器學(xué)習(xí)研究中心，百度也在2013年時成立了IDL研究院（Institute of Deep Learning）。

大佬們已嗅出其中的隱藏價值，百度推出百度智能機(jī)器人助手“度秘”已經(jīng)嫁接到百度系各APP垂直平臺中，而日本軟銀已經(jīng)在批量生產(chǎn)投向市場的情感機(jī)器人“pepper”。試想一個語音機(jī)器人，即使它不會幫你洗碗，你也不需要它教你背唐詩，它還是可以倚賴“情感聯(lián)結(jié)”而衍生各種商業(yè)鏈條。就像“微軟小冰”現(xiàn)在已經(jīng)入駐京東平臺，雖然目前它也僅能與你聊天，但保不準(zhǔn)今后不會成為一個閨蜜般的導(dǎo)購員。

“奇點(diǎn)”爭辯

人工智能作為一個詞的誕生是在1956年的夏天，當(dāng)時馬文·明斯基、羅切斯特、申農(nóng)等一群學(xué)院派信息工程專家聚集探討了機(jī)器模擬智能的問題，由此賦予這個計(jì)算機(jī)分支領(lǐng)域一個新名稱。誰也沒想到它的飛躍發(fā)展會讓雷·庫茲韋爾在2005年拋出語驚天下的“技術(shù)奇點(diǎn)”論。

“2027年，電腦將在意識上超過人腦;2045年左右，我們就能達(dá)到一個奇妙的境地，人工智能超越人類，人們要重新審視自己與機(jī)器的關(guān)系。嚴(yán)格意義上的生物學(xué)上的人類將不被理解，他將不存在。”

這段話讓我聯(lián)想到日本在上世紀(jì)80年代末的一部風(fēng)靡一時的漫畫《攻殼機(jī)動隊(duì)》，其中的圖景和主旨可謂是給后來的美國人工智能科幻片提供了最早的摹本。它描繪了2029年，世界由人工智能和生化技術(shù)主導(dǎo)，移動通訊向人體瞄準(zhǔn)，成為可移植終端，于是電子腦出現(xiàn)。脖子后面有網(wǎng)絡(luò)接口，連上電腦就是人工智能，或者重新輸入“靈魂”，同時，機(jī)械部件代替身體器官的“義體”技術(shù)也在發(fā)展，幾乎所有人類都經(jīng)過不同程度的改造。這種情況下，國家之間利用生化戰(zhàn)開展間諜斗爭，而義體人又竭力找回“靈魂”。

對于技術(shù)樂天派來講，不管是雷·庫茲韋爾式的布道，還是電影里子虛烏有的臆想，都顯得極其業(yè)余。硅谷思想教父、《連線》雜志前主編凱文·凱利（Kevin Kelly）曾說，最偉大的產(chǎn)品還沒有發(fā)明出來，現(xiàn)在開始一點(diǎn)不晚，而已經(jīng)發(fā)生的事根本什么都不算。他回應(yīng)了理論派最原始的擔(dān)憂：“人工智能不會擁有人類的自我意識，現(xiàn)在沒有任何事需要停下來。”

百度IDL前副院長、現(xiàn)在的地平線機(jī)器人創(chuàng)始人余凱為我們描繪了這樣一幅畫面：未來5到10年，每個人身邊都會有10個機(jī)器人（智能設(shè)備），那個時候這個世界上將會有600億機(jī)器人。但他仍認(rèn)為我們50年后再討論人工智能危險也不遲，“現(xiàn)在擔(dān)心就跟擔(dān)心火星上站滿了人類一樣”。

耐人尋味的是，DeepMind在被谷歌收購前，它的創(chuàng)始人德米斯·哈薩比斯（Demis Hassabis），這位倫敦大學(xué)神經(jīng)科博士，也是霍金的座上賓?；艚鹪鴮θ斯ぶ悄鼙в猩钋袘岩桑f：“不幸的是，人工智能開發(fā)可能是人類歷史上最后一個大事件?！惫_比斯有次在劍橋大學(xué)花了四個小時與他閉門長談，說服他沒有在之后的講座中對人工智能提出“不利言論”。

也就是在去年夏天，霍金、埃隆·馬斯克和蘋果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克（Steve Wozniak）與其他上百位專業(yè)人士共同簽署了一封號召禁止人工智能武器的公開信。位于波士頓的非營利組織未來生命研究所（the Future of Life Institute）后來在阿根廷召開的人工智能國際聯(lián)合大會（IJCAI）上公布了該信，一時間還是在技術(shù)界攪起不小轟動。公開信稱，人工智能武器是繼火藥和核武器后“戰(zhàn)爭領(lǐng)域的第三次革命”。該信的擔(dān)憂暗合電影里那些匪夷所思的場景，認(rèn)為這樣下去全球性的軍備競賽不可避免。人工智能武器不需要高昂的成本，或者是像核武器的高濃縮鈾般難以獲取的原材料，它很容易在軍事力量中普及。

學(xué)術(shù)界似乎早幾年就預(yù)判了人工智能的潛在威脅，以至于哲學(xué)家紛紛出動。2013年，劍橋大學(xué)成立的存在風(fēng)險研究中心（Center for the Study of Existential Risk）就由哲學(xué)系教授胡·普賴斯（Huw Price）領(lǐng)銜，專注于機(jī)器人倫理道德研究。去年，它與牛津大學(xué)馬丁學(xué)院、帝國理工學(xué)院和加州大學(xué)伯克利分校合作探討“價值同盟項(xiàng)目”，決定由軟件程序員與倫理學(xué)家、哲學(xué)家共同編程，以控制人工智能。作為企業(yè)家代表，大名鼎鼎的馬斯克為了“監(jiān)測”人工智能正四處投資人工智能初創(chuàng)公司。他通過未來生命研究所投資1000萬美元，資助了37個研究項(xiàng)目，都是關(guān)于人類如何從中獲益。

“超級智能”大假設(shè)

目前，研究人工智能未來走向最全面而系統(tǒng)的一本書應(yīng)該是牛津大學(xué)人類未來研究院院長尼克·波斯特洛姆（Nick Bostrom）的《超級智能》，這本書被比爾·蓋茨、馬斯克等人多次在公開場合推薦過。波斯特洛姆描繪出一幅由超級人工智能“犯上作亂”的未來世界，它在各種情感模擬意識失靈后，淪為純粹工具理性控制的類生命體，它的行動能力比人類強(qiáng)百倍，并不受控制。

超級智能比與人類并駕齊驅(qū)的人工智能更勝一籌，是再往后發(fā)展的產(chǎn)物，波斯特洛姆并不能給出確切時間表，但在對人工智能的預(yù)判上，他與雷·庫茲韋爾相差無幾?！?0%可能在2030年;50%可能在2050年;90%可能在2100年?！?/p>

如今互聯(lián)網(wǎng)界所亟待解決的從監(jiān)督式深度學(xué)習(xí)到非監(jiān)督式學(xué)習(xí)的跨越，似乎暗合了波斯特洛姆勾畫的“智能暴漲”的過程，當(dāng)機(jī)器不再需要人類監(jiān)督而具有自我學(xué)習(xí)能力，它的運(yùn)算速度豈是人類可企及？波斯特洛姆說，人工智能本身不需要關(guān)心社會性智能生物關(guān)心的事，如果它的唯一目標(biāo)是數(shù)清長灘島上的沙粒數(shù)量，計(jì)算圓周率的小數(shù)位……機(jī)器智能一旦超過了“奇點(diǎn)”，它的學(xué)習(xí)能力就是在數(shù)字化時間尺度內(nèi)執(zhí)行的，這一點(diǎn)，相信AlphaGo已經(jīng)讓靠腦力吃飯的圍棋界看出點(diǎn)端倪。

“我們不能輕率假設(shè)如果一個超級智能的最終目的是計(jì)算圓周率小數(shù)點(diǎn)后的位數(shù)，它就能限制在那個范圍，而不干涉人類事務(wù)，有這樣目標(biāo)的智能體很多情況下會有工具性趨同理由去獲取無限制的物資資源并消除威脅，人類可能構(gòu)成一種潛在威脅，因?yàn)槿吮厝皇欠N物資資源?！庇谑遣ㄋ固芈迥返慕Y(jié)論是，首個超級智能來臨時，可能會有非擬人的終極目標(biāo)，用工具性理由去追求無限資源。

誠然，技術(shù)開發(fā)者雖然信誓旦旦地說人工智能不可能像人那般聰明，但并不能保證一種“低等類生命體”不會有自己的不友好邏輯，并“一意孤行”地在人間搗亂，這可以讓人聯(lián)想到《生化危機(jī)》里的人間地獄。就像波斯特洛姆指出的：人工智能本來愚蠢時，變聰明是更安全的;但當(dāng)它本來就聰明時，變得更聰明就更危險。

超級智能是進(jìn)一步不可控的東西，波斯特洛姆為它預(yù)測了幾種惡劣失敗模式，它會有工具性理由去運(yùn)行有情感的意識或違反道德的程序，可能會對模擬意識提出威脅虐待或獎懲機(jī)制，以便激勵外部或勒索外部各個智能體。

超級智能可以建立一個具有道德意義的內(nèi)部過程，因?yàn)橐粋€對實(shí)際或假想的人類大腦非常精細(xì)的模擬就可以具有道德意識，被看作一個仿真人。它自己可能會為了改進(jìn)對人心理和社會的理解，建立起萬億個具有道德意識的模擬意識，接受各種刺激，對其反應(yīng)進(jìn)行研究，一旦它們不能再提供新的信息，超級智能就會把它們毀滅掉。這個操作加之于較高道德意識的存在體和模擬真人上，結(jié)果就可能發(fā)生殺戮。