江蘇 王淦生

《真正的“人機大戰(zhàn)”在棋局之外》薦讀

江蘇 王淦生

【原文呈現(xiàn)】

真正的“人機大戰(zhàn)”在棋局之外

2016年3月9日注定要寫入圍棋界的歷史、IT界的歷史、科學(xué)界的歷史，甚至人類的歷史。在這天的3個多小時里，擁有1 200多個處理器的谷歌人工智能系統(tǒng)AlphaGo，在深邃的圍棋棋盤上把世界圍棋冠軍、韓國棋手李世石逼到絕路，九段高手不得不投子認(rèn)輸。

這一幕似曾相識。1997年，IBM公司的超級電腦“深藍(lán)”就曾結(jié)束了有史以來最偉大棋手卡斯帕羅夫獨步天下的地位。

兩局棋的結(jié)局是令人震撼的。人類最頂尖的高手落敗了，而對手只是一臺沒有生命力、沒有感情的冰冷機器。這種震撼不僅讓人感嘆，甚至讓人有些生畏，因為，它完美地直播了人類制造的工具是如何戰(zhàn)勝人類的。

相比19年前的“深藍(lán)”，AlphaGo更進(jìn)一步。前者靠強大的處理器核心來“暴力窮舉”出所有的取勝方案，而AlphaGo已經(jīng)懂得策略思維和形勢判斷。換句話說，前者靠蠻力優(yōu)勢，而后者更有思維，更懂得像人類一樣思考，甚至?xí)W(xué)習(xí)。

機器人懂思維、能思考、會學(xué)習(xí)，是這輪人機大戰(zhàn)最核心的看點。這標(biāo)志著機器已經(jīng)不再簡單地按照人類編寫的程序來被動運算，而是逐漸開始掌握主動思考和主動決策的技能。

從被動到主動，正是人工智能發(fā)展最難言的道德窘境。人類進(jìn)化，之所以優(yōu)于其他生物物種，是因為人類具備勞動能力和工具利用的能力，進(jìn)而生成主動思考和決策的能力。但這一進(jìn)程，持續(xù)了幾百萬年甚至更長時間，而人工智能技術(shù)只用了幾十年就讓電腦類機器工具從被動服務(wù)學(xué)會了主動決策。目前，人工智能設(shè)備的“智商”已經(jīng)可以達(dá)到四五歲兒童的水平，在可預(yù)見的未來，制造出會思維、懂情感、能判斷、有主見的智能機器不是天方夜譚。

人類無法想象未來的人工智能會發(fā)展到什么地步，就像幾百年前的人類無法想象汽車、飛機、導(dǎo)彈這些遠(yuǎn)遠(yuǎn)超越人類自身極限的工具一樣。相比人腦有限的利用率，人工智能的“智商”全面勝出人腦也只是時間問題。霍金、比爾·蓋茨等人都曾悲觀地提醒過，無度發(fā)展可能導(dǎo)致人工智能最終反制人類，造成不可控的毀滅。一些科學(xué)家也曾警告某些國家，不要輕易把人工智能運用到戰(zhàn)斗武器中。

人工智能的利用價值毋庸置疑，它可以提高效率，優(yōu)化生產(chǎn)，進(jìn)行高危作業(yè)等。但關(guān)鍵問題是，人類如何去引導(dǎo)、規(guī)范、限定智能技術(shù)發(fā)展的方向、界限和目的。應(yīng)當(dāng)讓智能機器“知道”，它們的出現(xiàn)不是為了戰(zhàn)勝人類，而是服務(wù)人類；更應(yīng)該讓研究者清楚，人工智能不僅涉及計算機科學(xué)，也包括哲學(xué)、認(rèn)知學(xué)、心理學(xué)、控制論、社會學(xué)，更需要有清晰和冷靜的科學(xué)發(fā)展觀。

因此，真正的人機大戰(zhàn)，在人工智能技術(shù)的全面發(fā)展過程之中，而其中最重要的一場戰(zhàn)役，是人類能否控制自己的心智，去合理發(fā)展智能技術(shù)。

（原載于2016年3月10日《京華時報》）

【點到為止】

《真正的“人機大戰(zhàn)”在棋局之外》這篇短論重點介紹了戰(zhàn)勝卡斯帕羅夫與擊敗李世石的兩臺人工智能機器的不同，突出了AlphaGo“懂思維、能思考、會學(xué)習(xí)”的特點。而AlphaGo所具備的這種“主動性”，標(biāo)志著人工智能的發(fā)展已進(jìn)入了一個全新的階段，這一階段人工智能技術(shù)的發(fā)展有可能陷入了一個“道德窘境”——即隨著人工智能技術(shù)迅速發(fā)展，遲早會出現(xiàn)“會思維、懂情感、能判斷、有主見的智能機器”，而這些智能機器在為人類提供各種前所未有的便利和效率的同時，也極有可能會給人類帶來意想不到的災(zāi)難。由此，作者得出結(jié)論：真正的“人機大戰(zhàn)”，是“人類能否控制自己的心智，去合理發(fā)展智能技術(shù)”。比如不將人工智能技術(shù)運用到有害于人類（比如武器制造）的領(lǐng)域，而且必須使之為人類所掌控，始終服務(wù)于人類。文章有理有據(jù)，富有見地，值得我們思量。

（作者單位：江蘇省鹽城市亭湖高級中學(xué)）