周杰

AlphaGo 4∶1戰(zhàn)勝李世石讓人工智能熱迅速向大眾層面蔓延。的確，這場比賽說明，隨著計(jì)算能力的爆發(fā)式增長，人工智能又上了一個(gè)新臺(tái)階。

但在大家而歡呼雀躍的時(shí)候，有些人一直對(duì)人工智能表示深深的擔(dān)憂，并且對(duì)大家提出警告。這些人包括：霍金、比爾·蓋茨，馬斯克為什么這些世界上最聰明的人會(huì)如此擔(dān)憂？

他山之石，可以攻玉。本文想比照金融市場的“反身性理論”（Theory Of Reflexivity），來看看人工智能如何影響人類發(fā)展。索羅斯是一位眾所周知的金融大鱷，他曾經(jīng)多次抓住市場巨大波動(dòng)的機(jī)會(huì)獲得巨額財(cái)富。索羅斯的核心投資理論就是“反身性理論”。

根據(jù)百度百科，所謂反身性理論，就是在政治、經(jīng)濟(jì)領(lǐng)域存在自我加強(qiáng)現(xiàn)象，自我加強(qiáng)到最后，會(huì)以快速調(diào)整結(jié)束。反身性理論對(duì)于金融市場的直接指導(dǎo)意義在于，能夠讓你更了解市場變化的曲線，在走向繁榮或崩潰的情況下爭取獲利。反身性理論的提出和最成功的執(zhí)行者就是量子基金的創(chuàng)始人索羅斯。

簡單地說，反身性理論的本質(zhì)就是中國的古語“物極必反”。在股市里，股民的購買能夠推動(dòng)股價(jià)的上升，反過來股價(jià)上升的賺錢效應(yīng)也會(huì)吸引更多股民購買股票。在牛市時(shí)，這兩種行為形成股價(jià)的正反饋加強(qiáng)，當(dāng)這種正反饋被極度放大時(shí)，股價(jià)遠(yuǎn)遠(yuǎn)脫離了基本面，這時(shí)一個(gè)偶然事件就可能導(dǎo)致股市崩盤?；仡欀型夤墒袣v史上的大崩盤，其過程莫不是如此。

對(duì)比來看，人類的發(fā)展和科技的進(jìn)步也正是一組正反饋：科技的進(jìn)步使人們懂得更多，懂得更多的人類推動(dòng)科技更快地發(fā)展。人類從狩獵時(shí)代到農(nóng)業(yè)時(shí)代，用了十幾萬年；從農(nóng)業(yè)時(shí)代到工業(yè)時(shí)代用了幾千年；從工業(yè)時(shí)代到原子時(shí)代，只用了二百年；從原子時(shí)代到信息時(shí)代，只用了幾十年。想想看，現(xiàn)在尋常百姓手中智能手機(jī)的計(jì)算能力，竟然超越了1969年NASA登月時(shí)所擁有的計(jì)算能力的總和！

在這個(gè)越來越快的正反饋加速度過程中，人類會(huì)有hold不住的那一天嗎？我能想到兩個(gè)場景（實(shí)際場景肯定更多）：

1）當(dāng)擁有可以毀滅地球能力的門檻足夠低時(shí)，少數(shù)人的瘋狂或一時(shí)沖動(dòng)就可以觸發(fā)滅亡。在科技的加速發(fā)展中，這個(gè)場景正變得越來越現(xiàn)實(shí)。比如，以前只有中美俄這樣的大國才能制造原子彈，現(xiàn)在連朝鮮這樣貧瘠且被封鎖的小國竟然也能制造了。

2）在向更高科技水平探索的過程中，因?yàn)闊o知而無意中觸發(fā)了引發(fā)災(zāi)難的開關(guān)。例如，大型強(qiáng)子對(duì)撞機(jī)的實(shí)驗(yàn)會(huì)不會(huì)產(chǎn)生人造黑洞？

可能絕大多數(shù)人看到這里，都會(huì)覺得上面的假設(shè)是杞人憂天，這種感覺與牛市中股民對(duì)股市崩盤預(yù)言的態(tài)度其實(shí)并無二致。然而，從反身性理論看，持續(xù)的正反饋加強(qiáng)最終一定會(huì)帶來災(zāi)難。而且，由于我們在指數(shù)式的加速發(fā)展，而人類對(duì)未來的預(yù)測往往是線性的，這一天的到來也許比大家想的還要早。

這里順便插一句，為什么我們到現(xiàn)在還沒有發(fā)現(xiàn)外星文明？我有一個(gè)解釋：因?yàn)橛钪嬷械奈拿髌毡榫哂兄笖?shù)式加速發(fā)展的特性，所以文明往往都是短暫的，就像一顆流星一樣一閃而過。例如，人類能夠探索太空的歷史到目前為止才不過幾十年，即使從地球的歷史長度來看，這都太短暫了。整個(gè)宇宙中無疑存在過很多文明，但是它們往往像一顆顆流星。要想讓兩顆流星正好碰到一起，實(shí)在太不容易了。

那么，我們該怎么辦呢？坦率地講，我不覺得我們可以避免最后的終點(diǎn)，但是也許我們可以推遲這個(gè)終點(diǎn)。我比較認(rèn)同霍金、蓋茨、馬斯克他們給出的建議：

1）對(duì)于已經(jīng)可以預(yù)見到災(zāi)難的科技，要及早控制它的發(fā)展。例如，他們建議，禁止人工智能武器的法令必須盡快頒布。

2）向外星移民。為危機(jī)來臨時(shí)的人類的生存提供更多機(jī)會(huì)。

最后的建議：珍惜當(dāng)下。

作者為她社區(qū)CEO，原谷歌技術(shù)總監(jiān)