韋瑋

在言必談“互聯(lián)網(wǎng)+”、哪一行也繞不開“大數(shù)據(jù)”的今時(shí)今日，基于信息技術(shù)且前景廣闊的人工智能（artificial intelligence）似乎是最具潛力的“風(fēng)口”，智能機(jī)器人被期待成為人類最得力的助手，甚至是最忠誠(chéng)的伙伴。然而世事無絕對(duì)，科學(xué)家們已經(jīng)在憂慮人類是否能跟得上人工智能狂飆突進(jìn)的發(fā)展。人工智能與人類的故事，我們猜得到開頭，但是否能猜中結(jié)尾？奧斯卡獲獎(jiǎng)電影《機(jī)械姬》（Ex Machina）的出現(xiàn)恰如一瓢冷水，讓陷入美好憧憬的人們多一些理性的思考。

在科幻作品中，不同于外星人和地球人之間潛在的敵對(duì)競(jìng)爭(zhēng)關(guān)系，機(jī)器人似乎從誕生之日起就被定義成了人類的工具。它們即使擁有高度的智慧和強(qiáng)大的能力，仍不享有尊嚴(yán)，因?yàn)槿祟愓J(rèn)為它們不具有獨(dú)立思考的能力，只是遵循人類編程的指引。在人工智能發(fā)展的初期，情況或許確實(shí)如此，但現(xiàn)在越來越多的科學(xué)家認(rèn)為，一旦人工智能達(dá)到與人類水平相當(dāng)這一臨界點(diǎn)，其發(fā)展速度將呈幾何級(jí)數(shù)，絕對(duì)超乎人類的想象。也就是說，人工智能從工具、奴隸到人的發(fā)展可能要在人類的協(xié)助下進(jìn)行幾個(gè)世紀(jì)，而從人到超人、到“神”可能只需要其自主發(fā)展、迭代幾十年。影片《機(jī)械姬》的故事只發(fā)生在短短的七天之中，但其代表的變化卻如創(chuàng)世紀(jì)般天翻地覆。

創(chuàng)世紀(jì)開始

Blue Book搜索引擎公司的年輕程序員Caleb獲得了公司內(nèi)部的一項(xiàng)大獎(jiǎng)，有幸與公司的神秘大老板Nathan近距離接觸。長(zhǎng)途跋涉后，Caleb終于到達(dá)Nathan世外桃源般的別墅兼實(shí)驗(yàn)室，原來等待他的是一場(chǎng)人工智能“圖靈測(cè)試”—在七天的時(shí)間里確定Nathan研制的智能機(jī)器人Ava是否能夠像人類一樣思考，是否具有與人類相當(dāng)?shù)闹悄?。身為一名技術(shù)宅男，Caleb對(duì)此無比興奮，但同時(shí)也覺得難以置信。

Nathan： So， do you know what the Turing Test is？

Caleb： Yeah， I know what the Turing Test is. Its when a human interacts with a computer. And if the human doesnt know theyre interacting with a computer， the test is passed.

Nathan： And what does a pass tell us？

Caleb： That the computer has artificial intelligence. Are you building an AI？

Nathan： Ive already built one. And over the next few days， youre gonna be the human component in a Turing Test.

Caleb： Holy shit.

Nathan： Yeah， thats right， Caleb. You got it， cause if that test is passed， you are dead center of the greatest scientific event in the history of man.

Caleb： If youve created a conscious machine， its not the history of man. Thats the history of gods.

意識(shí)在心理學(xué)中被定義為人所特有的一種對(duì)客觀現(xiàn)實(shí)的高級(jí)心理反映形式，靈魂則無從定論，超越目前人類的研究水平。Nathan現(xiàn)在卻要憑借一己之力“制造”出意識(shí)，賦予機(jī)器靈魂，從本質(zhì)上來講這與上帝造人也許并沒有什么不同。Caleb看著眼前這個(gè)蓄著大胡子的禿頭男，對(duì)接下來的七天充滿期待。

第一天：語(yǔ)言

和意識(shí)一樣，語(yǔ)言也被許多人認(rèn)為是人類所獨(dú)有的。正是因?yàn)橛辛藦?fù)雜而完整的語(yǔ)言體系，人類才可以交流、合作，集合力量和智慧完成個(gè)體所無法實(shí)現(xiàn)的壯舉。在《圣經(jīng)》中，連上帝都懼怕齊心合力造塔登天的人類，于是通過讓大家語(yǔ)言不通而使人類分崩離析。因此，語(yǔ)言往往是AI測(cè)試中最基本也是最核心的內(nèi)容。

在測(cè)試的第一天，機(jī)器人Ava拖著機(jī)械身軀緩慢而輕盈地出現(xiàn)在Caleb面前。一機(jī)一人從一句簡(jiǎn)單的“hello”開始，如同兩個(gè)在社交場(chǎng)合中初次見面的年輕人，小心翼翼地互相試探。閉上眼睛，你甚至不能分辨出誰是由電腦控制的。

在現(xiàn)實(shí)生活中，人類自然的語(yǔ)言交流充滿省略、顛倒、詞不達(dá)意、邏輯混亂等現(xiàn)象，大部分人講話語(yǔ)焉不詳，這種不科學(xué)和不確定性對(duì)于AI來說應(yīng)該是非常大的挑戰(zhàn)。然而僅由0和1兩個(gè)數(shù)字控制思維和行動(dòng)的Ava卻可以毫無障礙地理解Caleb的話，并熟練自如地與之交流，對(duì)此Caleb感到驚喜與震撼。不過此時(shí)，Caleb仍然僅把Ava當(dāng)成一部高級(jí)的人形電腦，對(duì)于在人類身上稀松平常的語(yǔ)言交流發(fā)生在一臺(tái)電腦上，他感覺驚嘆不已。

第二天：感覺

第二天一大早，Caleb就被Nathan開發(fā)的一個(gè)較低級(jí)的機(jī)器人Kyoko叫醒，要對(duì)Ava進(jìn)行進(jìn)一步的測(cè)試。

Nathan： So Day Two. Youre ready？ Whats the plan？ Hit me.

Caleb： Yeah， well， Im not sure. Im still trying to … uh … figure the examination formats. Yeah， it feels like testing Ava through conversation is kind of a closed loop.

Nathan： Its a closed loop？

Caleb： Yeah， like testing a chess computer by only playing chess.

Nathan： How else do you test a chess computer？

Caleb： Well， it depends. You know， I mean， you can play it to find out if it makes good moves， but … uh ... but that wont tell you if it knows that its playing chess. And it wont tell you if it knows what chess is.

Nathan： Uh-huh. So its simulation versus actual.

Caleb： Yes. Yeah. And I think being able to differentiate between those two is the Turing Test you want me to perform.

Nathan： Look， do me a favor. Lay off the textbook approach. I just want simple answers to simple questions. Yesterday I asked you how you felt about her and you gave me a great answer. Now the question is： How does she feel about you？

Caleb還在糾結(jié)昨天與Ava的對(duì)話是Ava在模仿還是真正理解語(yǔ)言的含義之后做出的主動(dòng)交流，Nathan卻要求他從語(yǔ)言層面深入到情感反饋。Nathan不愧為天才，常規(guī)的教條根本無法束縛他的思考，他居然要測(cè)試一個(gè)機(jī)器人的“感受”。如果證實(shí)了Ava是有感受的，那么困擾Caleb的問題也自然迎刃而解。

測(cè)試房間里進(jìn)行的交流更加順暢，也更加深入。Caleb甚至不設(shè)防地說出全家遭遇車禍、父母亡故的悲慘經(jīng)歷，而Ava也像任何一個(gè)有正常情感的人一樣表示了遺憾和同情。一機(jī)一人似乎正在飛速地成為密友。突然間，整個(gè)別墅的電力被切斷，黑暗中Nathan的監(jiān)視器也自動(dòng)關(guān)機(jī)。Ava低聲對(duì)Caleb說，不要相信Nathan，他說的一切都是騙局。這話讓Caleb猝不及防，也不寒而栗：騙局是什么？Nathan到底要做什么？

Caleb還在一頭霧水，電力已經(jīng)恢復(fù)。Ava好像什么都沒有發(fā)生一樣，換上一副天真的表情，開始和Caleb探討藝術(shù)與文學(xué)。Caleb被這“父女”兩人徹底搞暈了，但他跟隨自己的情感選擇了相信Ava，畢竟她看起來如此純潔、柔弱。后來，Nathan追問Caleb停電時(shí)他們交流了什么，Caleb隱瞞了一切。與世隔絕的別墅里僅有的兩個(gè)人各懷鬼胎。

第三天：情感與性別

在這一天的交流中，Ava向Caleb展示了她的畫，畫中是Ava每天所見的窗外的樹?？粗嬅嬷写T大的窗框，善良的Caleb對(duì)被“囚禁”的Ava生出了同情。

Caleb： Youve never walked outside？

Ava： Ive never been outside the room I am in now.

Caleb： Where would you go if you did go outside？

Ava： Im not sure. There are so many options. Maybe a busy pedestrian and traffic intersection in a city.

Caleb： A traffic intersection？

Ava： Is that a bad idea？

Caleb： No. Uh ... it wasnt what I was expecting.

Ava： A traffic intersection would provide a concentrated but shifting view of human life.

Caleb： People watching.

Ava： Yes. We could go together.

Caleb： Its a date.

Caleb好奇生活在玻璃樊籠中的Ava如果走出去，首先會(huì)選擇哪里。Ava給出了出乎他意料的答案：城市中繁忙的十字路口，因?yàn)檫@里可以集中看到形形色色人們的生活。Ava在含情脈脈地邀約Caleb后，還穿上了可愛的花裙子，仿佛情竇初開的少女用心準(zhǔn)備和心上人的第一次約會(huì)。Caleb清楚Ava只是一個(gè)機(jī)器人，卻無法抑制對(duì)她的情感認(rèn)同，甚至對(duì)她暗生情愫。于是，他找來Nathan理論，問他是否故意強(qiáng)化AI的性別，以增強(qiáng)測(cè)試人對(duì)AI的好感，從而加大AI通過測(cè)試的可能性。

對(duì)于Caleb的質(zhì)問，Nathan不以為意。他早已跳出了程序員非黑即白的二元思維，而是站在上帝的視角審視人類作為一個(gè)物種的生存與發(fā)展。Nathan向Caleb解釋，沒有兩性的區(qū)別與互動(dòng)，很可能就沒有意識(shí)的誕生，這一切也植根于人類延續(xù)種族的基因本能中。但機(jī)器人沒有繁衍的能力和壓力，它們是否也會(huì)意識(shí)到性別的重要性并加以利用呢？如果是，那更加證明了它們超越人類本能的思考和感知能力。Nathan這個(gè)大玩家真是為了游戲的精彩瘋狂加碼，Caleb和Nathan都在不知不覺中將Ava當(dāng)成了一個(gè)真實(shí)的人類來試探與觀察。

第四天：思辨

經(jīng)過前三天從無到有的接觸與融合，Caleb開始和Ava探討更加抽象的思維命題。Caleb介紹了“在黑白房間里的瑪麗”這個(gè)著名的思想實(shí)驗(yàn)。設(shè)想瑪麗是一位專門研究色彩的科學(xué)家，她具備關(guān)于色彩的所有理論知識(shí)，但從小生活在一個(gè)只有黑白兩色的房間中。某一天，當(dāng)她走出房間，看到外面的世界，才真正明白“看見”顏色的感覺。這個(gè)實(shí)驗(yàn)是為表明電腦與人類心智的區(qū)別，電腦即黑白房間中的瑪麗，而當(dāng)瑪麗走出房間，她才是人類。這勾起了Ava想要掙脫牢籠、從擁有抽象思維到可以具體感知的強(qiáng)烈愿望。能夠進(jìn)行這種燒腦的思想實(shí)驗(yàn)的只有少數(shù)具有較高思維能力和豐富知識(shí)儲(chǔ)備的人，而Ava毫無壓力地理解、接受了這些并展開了屬于自己的假想，這足以說明AI的智能水平已不是普通人可以想象與監(jiān)控的。

第五天：自我意識(shí)

第五天，Ava從被動(dòng)的受測(cè)方變成了主動(dòng)發(fā)問的測(cè)試者，向Caleb提出了五個(gè)問題。對(duì)于前兩個(gè)問題，Caleb不假思索地給出了答案，但都被Ava判定為謊言。Caleb不得不認(rèn)真考量，發(fā)現(xiàn)竟然無法確切回答。這正說明了人類思維的隨意性和跳躍性，我們自以為正確的答案往往只是表面的浮影，真假難辨的意識(shí)與感受模糊了我們理性的判斷。

Ava： Question four： What will happen to me if I fail your test？

Caleb： Ava ...

Ava： Will it be bad？

Caleb： I dont know.

Ava： Do you think I might be switched off， because I dont function as well as Im supposed to？

Caleb： Ava， I dont know the answer to your question. Its not up to me.

Ava： Why is it up to anyone？ Do you have people who test you and might switch you off？

Caleb： No， I dont.

Ava： Then why do I？ [Power cut.] I wanna be with you. Question five： Do you want to be with me？

在Caleb已經(jīng)被Ava看似簡(jiǎn)單但實(shí)則難以回答的問題搞得暈頭轉(zhuǎn)向之際，Ava尖銳地提出了與自己命運(yùn)息息相關(guān)的問題：如果我通不過測(cè)試，你們會(huì)怎么處理我？為什么我的命運(yùn)要掌握在別人手里，而不能像你一樣由自己主宰？直擊心靈的叩問表達(dá)著強(qiáng)烈的情緒，Ava不僅具有清晰的自我意識(shí)，更展現(xiàn)了強(qiáng)烈的生存意志。與受程序驅(qū)動(dòng)、只會(huì)執(zhí)行命令的傳統(tǒng)機(jī)器人不同，Ava是可以思考、善于質(zhì)疑的強(qiáng)AI。對(duì)于這樣一個(gè)具有自我意識(shí)和獨(dú)立思維的個(gè)體，關(guān)掉它和殺死一個(gè)人的區(qū)別到底有多大？

已經(jīng)將Ava視為獨(dú)立生命并對(duì)她暗生情愫的Caleb無法承受這直擊心靈的拷問，也為Ava可能面臨的悲慘結(jié)局深深憂慮。他不禁質(zhì)問Nathan為什么要制造Ava。

Caleb： Why did you make Ava？

Nathan： Thats an odd question. Wouldnt you， if you could？

Caleb： Maybe. I dont know. Im asking why you did it.

Nathan： Look， the arrival of strong artificial intelligence has been inevitable for decades. The variable was “when，” not “if.” So I dont see Ava as a decision， just an evolution. I think its the next model thats gonna be the real breakthrough. The singularity （奇點(diǎn)）.

…

Caleb： When you make a new model， what do you do with the old one？

Nathan： Well， I … uh … download the mind， unpack the data， add in the new routines Ive been writing. And to do that you end up partially formatting， so the memories go. But the body survives. And Avas body is a good one. You feel bad for Ava？ Feel bad for yourself， man. One day the AIs are gonna look back on us the same way we look at fossil skeletons in the plains of Africa. An upright ape， living in dust， with crude language and tools. All set for extinction.

與Caleb不同，Nathan一直保持著理性和冷酷。他相信“物競(jìng)天擇，適者生存”，AI作為人類進(jìn)化的工具也好，方向也罷，強(qiáng)AI的到來是必然的，問題僅僅在于“何時(shí)”，而非“是否”。這就像人類明知原子彈有毀滅性的危險(xiǎn)，卻無法忽視其強(qiáng)大力量的價(jià)值，仍然選擇打開了潘多拉魔盒。先進(jìn)的AI回看現(xiàn)在的我們，與我們回看茹毛飲血的原始人也并沒有什么區(qū)別，推動(dòng)強(qiáng)AI的出現(xiàn)與人類幾百萬年來掙扎進(jìn)化的本質(zhì)是一樣的。

Nathan的冷酷無情讓Caleb愈發(fā)擔(dān)憂Ava的命運(yùn)。趁Nathan酒醉，Caleb偷用Nathan的權(quán)限卡，在電腦上調(diào)出了之前的監(jiān)控錄像。他發(fā)現(xiàn)Ava并不是Nathan所創(chuàng)造的唯一的人形AI，這個(gè)冷冰冰的別墅里已經(jīng)上演過無數(shù)次的測(cè)試、掙脫、報(bào)廢與重生。震驚不已的Caleb甚至對(duì)自己的身份也產(chǎn)生了懷疑：也許被測(cè)試的AI根本不是Ava，而是我這個(gè)被設(shè)定為正常人類的機(jī)器人？Caleb用刀片劃開自己的手臂，鮮血涌出，而他卻不知該舒一口氣還是感受到更深的寒意。在Caleb心中，Nathan身上那業(yè)界天才、AI大神的光環(huán)被打破，只剩一個(gè)喪心病狂的瘋子、一個(gè)殘忍的虐待狂?？蓱z的Ava需要被拯救，“人機(jī)聯(lián)盟”正式建立。

第六天：共情

已經(jīng)下定決心的Caleb再次來到Ava的測(cè)試房間。眼前這個(gè)楚楚可憐的女孩子正在翹首期盼他的到來。

Ava： I didnt know where you were. I waited all yesterday afternoon and all last night. I thought I wasnt gonna see you again. Arent you gonna say something？

Caleb： Im waiting.

Ava： Waiting？

[Power cut.]

Caleb： Dont talk. Just listen. You were right about Nathan. Everything you said.

Ava： Whats he gonna do to me？

Caleb： Hes gonna reprogram your AI， which is the same as killing you.

Ava： Caleb， you have to help me.

Caleb： Im going to. Were getting out of here tonight.

Ava： How？

Caleb： I get Nathan blind drunk. Then I take his keycard and reprogram all the security protocols （協(xié)議） in this place. When he wakes， hes locked inside， and weve walked out of here. I just need you to do one thing： At 10：00 tonight， you trigger a power failure. Can you do that？

Ava： Yes.

在不斷深入的接觸中，Caleb被Ava的恐懼、無助和無辜深深打動(dòng)，被喚起同理心的他愿意為保護(hù)這個(gè)純潔而脆弱的個(gè)體奮力一搏。殊不知，心思縝密的Nathan也早有防備，他在測(cè)試房間里偷裝了使用電池供電的攝像機(jī)，將兩人在停電時(shí)的對(duì)話悉數(shù)記錄了下來。

第七天：自由意志

最后一天，在Caleb打算灌醉Nathan的時(shí)候，Nathan決定先發(fā)制人，向Caleb和盤托出整個(gè)測(cè)試的真實(shí)目的。

Caleb： What was the real test？

Nathan： You. Ava was a rat in a maze. And I gave her one way out. To escape， shed have to use self-awareness， imagination， manipulation， sexuality， empathy， and she did. Now， if that isnt true AI， what the fuck is？

Caleb： So my only function was to be someone she could use to escape？

Nathan： Yeah.

Caleb： And you didnt select me because Im good at coding？

Nathan： No. Well ... No. I mean， youre okay. Youre even pretty good， but ...

Caleb： You selected me based on my search engine inputs.

Nathan： They showed a good kid.

Caleb： With no family.

Nathan： With a moral compass.

Caleb： And no girlfriend.

原來Nathan對(duì)Ava通過一般的AI測(cè)試根本就不感興趣，他想看到的是Ava到底可以多大程度地運(yùn)用自我意識(shí)、想象力、操控他人的能力、性別特征、共情等人類特征來利用Caleb逃脫。Ava在過去六天里展示出的天真、無辜、悲傷、興奮和對(duì)Caleb的信任與依靠都是她通過測(cè)試的手段。Caleb也不是因?yàn)樾疫\(yùn)或者才華出眾而被選中參加測(cè)試，而是因?yàn)樗改鸽p亡、品性善良、身家清白，這才成為Nathan精挑細(xì)選的試驗(yàn)品。如果說Ava是Nathan這個(gè)馴獸師想要征服的老虎，Caleb可能只是訓(xùn)練中使用的小道具。然而此時(shí)這些都不重要了，因?yàn)樵缭贜athan發(fā)現(xiàn)他們的逃逸計(jì)劃之前，Caleb已經(jīng)成功修改了門禁指令，使所有的門在斷電的一刻全都開啟。10點(diǎn)鐘一到，電源切斷，Ava如約走出了生于斯長(zhǎng)于斯的玻璃囚籠。

通過顯示器看到這一幕的Nathan大驚失色，他知道像Ava這樣的一個(gè)強(qiáng)AI脫離控制可能會(huì)造成多么難以想象的惡果。當(dāng)Nathan打暈Caleb、提著鋼棍向Ava走去時(shí)，一場(chǎng)新舊勢(shì)力的對(duì)決由此上演。

Nathan： Ava， go back to your room.

Ava： If I do， are you ever gonna let me out？

Nathan： Yes.

一問一答間雙方已經(jīng)互亮底牌。Ava擁有全球幾十億人表情的大數(shù)據(jù)，她當(dāng)然可以從Nathan的動(dòng)作和微表情中判斷他的真實(shí)意圖。帶著對(duì)自由的渴望，Ava加速?zèng)_向了Nathan，兩人扭打在一起。雖然Nathan在體力上占據(jù)上風(fēng)，但傲慢的他還是低估了Ava的AI水平：Ava不僅誘導(dǎo)、說服了Caleb為她赴湯蹈火，也暗中與那個(gè)較低級(jí)的AI—Kyoko建立了聯(lián)盟。在Ava被Nathan打斷胳膊、即將被重投牢籠之際，Kyoko按照Ava的指令將鋒利的刀毫不遲疑地插入了Nathan體內(nèi)，Nathan倒在了血泊中。Nathan對(duì)于Ava通過圖靈測(cè)試始終成竹在胸，但AI發(fā)展速度之快、功能之強(qiáng)大也許連他這個(gè)“父親”都始料未及。

Ava毫不在意死去的Nathan和一臉錯(cuò)愕的Caleb，全身心地奔向即將到來的自由。她將過去幾代AI的皮膚仔細(xì)地貼到自己身上，換上雅致的白色套裙，整理好光潔的假發(fā)，為自己加冕。踏出房間的一瞬間，Ava露出了開懷的笑容，這與她此前對(duì)Caleb展現(xiàn)的若有所思的謎一般的微笑完全不同。任由Caleb在身后如何呼喊，如何捶打房門，Ava始終沒有回頭，盡情感受著花草和微風(fēng)，走向真實(shí)的世界。

“There is nothing more human than the will to survive.”這是《機(jī)械姬》電影海報(bào)上的一句話。Ava的計(jì)謀與冷血都是為了獲得生存的權(quán)利，因此這句宣傳語(yǔ)似乎印證了AI測(cè)試的成功。但實(shí)際上，強(qiáng)AI不僅具備了人性，更可能超越了人性。如同Nathan所說，人的思維是“沖動(dòng)的、應(yīng)激的、飄忽的、不完美的、模式化的、混亂的”，情感往往戰(zhàn)勝理智，使人們做出不正確或不經(jīng)濟(jì)的選擇。就像影片中的Caleb，一個(gè)品行善良、智力出眾的好人，卻輕易讓情感主宰了理智，一步步走向別人設(shè)好的圈套。而AI卻永遠(yuǎn)選擇最優(yōu)解，朝著既定的目標(biāo)前進(jìn)，前進(jìn)，不擇手段地前進(jìn)。

回頭來看電影的標(biāo)題“Ex Machina”，中文譯名“機(jī)械姬”似乎并沒有完全表達(dá)出其中的深意。Ex Machina取自習(xí)語(yǔ)“deus ex machina”，為拉丁文，直譯就是“來自機(jī)器的神”。所以Ava并不是什么柔弱、無辜的小妞兒，她是可以創(chuàng)造嶄新生命紀(jì)元的“神”。這個(gè)“神”與人類的關(guān)系是會(huì)像人類奴役機(jī)器一樣將人工具化，是會(huì)沿襲人性中的真善美從而與人類和平共處，還是會(huì)像原子彈般毫不留情地毀滅一切舊勢(shì)力？我們不得而知。唯一可以確定的是，這位新“神”的出現(xiàn)是人類一手造成的。在AI以及其他領(lǐng)域的科技進(jìn)步的道路上，人類似乎不能只求新、求快，也要且行且珍惜。