凌川兒

人工智能聊天機(jī)器人ChatGPT在全球持續(xù)走紅，讓自啟蒙階段到象牙塔的教育行業(yè)受到了極大震動(dòng)。

單單就日常操作而言，它就能幫助人類學(xué)生寫作業(yè)、做翻譯甚至撰寫學(xué)術(shù)論文—已經(jīng)有來自北美地區(qū)的一項(xiàng)調(diào)查顯示，在參與調(diào)查的美國(guó)學(xué)生中，有超過一半用ChatGPT寫過作業(yè)，甚至有人因此拿了高分。

在另一邊，察覺到ChatGPT威脅的校方和教師系統(tǒng)，開始對(duì)它做出回應(yīng)和防備。繼法國(guó)巴黎政治大學(xué)要求所有師生禁用ChatGPT等一切基于AI的工具，以防學(xué)術(shù)欺詐和剽竊后，美國(guó)不少大學(xué)亦將“使用AI”列入了作弊手段。

“模仿即為智能”

新的一輪關(guān)于學(xué)術(shù)不端的恐慌潮因此而起。普林斯頓大學(xué)已經(jīng)出臺(tái)了一款名為GPTZero的人工智能檢測(cè)軟件，來確定師生們提交的文章是否為ChatGPT所編寫的；而斯坦福大學(xué)的研究團(tuán)隊(duì)所開發(fā)的檢測(cè)工具DetectGPT，則號(hào)稱準(zhǔn)確率高達(dá)95%。

普林斯頓大學(xué)推出人工智能檢測(cè)軟件GPTZero，判定師生文章是否由ChatGPT編寫

但相比學(xué)生借助ChatGPT抄襲、作弊引發(fā)的學(xué)術(shù)誠(chéng)信問題，面對(duì)人工智能聊天機(jī)器人如此出色的搜集、整合資料能力和文本編寫能力，我們不得不承認(rèn)，傳統(tǒng)的師道“授業(yè)解惑”行為將經(jīng)受更為嚴(yán)峻而久遠(yuǎn)的挑戰(zhàn)：以知識(shí)傳遞為核心的教育模式，在將來是否還有存在的價(jià)值？

換句話說，在極端條件下，當(dāng)未來有比ChatGPT更出色的數(shù)字生命體出現(xiàn)，它幾乎能回答所有學(xué)生提出的問題，也因此能根據(jù)學(xué)生所掌握知識(shí)的薄弱點(diǎn)，來做到因材施教，那么人類教師應(yīng)該教些什么？反過來，當(dāng)這些知識(shí)能被如此便捷地獲取后，人類學(xué)生從啟蒙階段花費(fèi)十幾年的時(shí)間，進(jìn)行學(xué)習(xí)、做題究竟有沒有意義？學(xué)生又應(yīng)該學(xué)習(xí)什么內(nèi)容，才是最為迫切需要的呢？

思維的本質(zhì)就是計(jì)算，因此人的心理過程就是一個(gè)計(jì)算執(zhí)行的過程。

關(guān)于創(chuàng)造性教育和記憶力訓(xùn)練的關(guān)系，一件為人們所津津樂道的軼事是：1921年，當(dāng)愛因斯坦訪問美國(guó)的時(shí)候，有記者問這位當(dāng)年的諾貝爾物理學(xué)獎(jiǎng)得主，聲音的速度是多少—愛因斯坦拒絕回答，而是轉(zhuǎn)移話題稱，這可以在任何一本物理書中查到答案，并說出了一句名言：大學(xué)教育的功能，不在于記住已有的事實(shí)，而在于訓(xùn)練大腦如何去思考。

早在ChatGPT橫空出世之前，我們就已熟知，人工智能會(huì)應(yīng)用機(jī)器學(xué)習(xí)、深度學(xué)習(xí)及自然語(yǔ)言處理等技術(shù)，來提升自己并解決實(shí)際問題。在這樣的學(xué)習(xí)過程中，它就是通過大量地識(shí)別和記憶，來完成已有的知識(shí)積累。

也正因如此，在像ChatGPT這般表現(xiàn)優(yōu)異的生成式強(qiáng)人工智能誕生后，人們似乎越來越確信，AI具備擬人的思考和學(xué)習(xí)能力，以致我們可以放心地讓渡出部分決策權(quán)和重復(fù)勞動(dòng)，來迎接一場(chǎng)新的技術(shù)革命的到來。但實(shí)際上，關(guān)于“機(jī)器真的能思考嗎？”的爭(zhēng)論，從上世紀(jì)50年代伴隨著人工智能出現(xiàn)后，就由來已久—這也是當(dāng)我們?cè)谟懻撊斯ぶ悄軐?duì)于人類教育的沖擊時(shí)，必須先思考的問題。

1950年，英國(guó)數(shù)學(xué)家、計(jì)算機(jī)科學(xué)家阿蘭·圖靈在《思想》雜志上，發(fā)表了一篇名為《計(jì)算機(jī)與智慧》的論文。正是在這篇著名論文里，他提出了“機(jī)器能否思考”的問題。

為了回答這個(gè)問題，阿蘭·圖靈在論文中給出了他所認(rèn)為的一臺(tái)計(jì)算機(jī)是否具有智能的判斷標(biāo)準(zhǔn)，即后世廣為流傳的圖靈測(cè)試。簡(jiǎn)單來說，在該測(cè)試中，他假設(shè)了這樣的場(chǎng)景：一位自然人測(cè)試者身處黑暗的屋子里，與一臺(tái)機(jī)器或一個(gè)人進(jìn)行對(duì)話，倘若測(cè)試者無法分辨出與其對(duì)話的是人還是機(jī)器，那么就可以稱機(jī)器通過了圖靈測(cè)試。

計(jì)算機(jī)在不和人接觸的情況下與人交流，讓后者無法判斷對(duì)方是人還是機(jī)器，那么它就擁有了智能。這一測(cè)試使得阿蘭·圖靈與其后計(jì)算主義的追隨者們相信，“思考的機(jī)器”是可能的—他們認(rèn)為，人腦能做到的一切，機(jī)器都能模仿；更進(jìn)一步，人的心智和計(jì)算機(jī)程序具有一樣的工作原理，思維的本質(zhì)就是計(jì)算，因此人的心理過程就是一個(gè)計(jì)算執(zhí)行的過程。

關(guān)于阿蘭·圖靈的傳記電影《模仿游戲》

換句話說，在阿蘭·圖靈眼里，無所謂計(jì)算機(jī)內(nèi)部的活動(dòng)是如何開展的，它的實(shí)際行為表現(xiàn)即是唯一證明；只要計(jì)算機(jī)能在這場(chǎng)“模仿游戲”里通過，那么它就具備和人一樣的智能（這正是2014年上映的關(guān)于阿蘭·圖靈的傳記電影《模仿游戲》片名的來源）。

“理解”與“執(zhí)行”的差異

但在哲學(xué)界，始終有反對(duì)的聲音存在。對(duì)于“機(jī)器可以具有真正智能”的所謂強(qiáng)人工智能觀點(diǎn)，它們認(rèn)為，機(jī)器所表現(xiàn)的這種智能，只是一種模擬的“智能”，即使某臺(tái)計(jì)算機(jī)通過了圖靈測(cè)試，也不能排除實(shí)際上，它對(duì)問題沒有任何理解的可能性；因此，計(jì)算機(jī)不可能具備真正意義的智能。

經(jīng)典的圖靈測(cè)試在人工智能的“強(qiáng)弱”上，不能作為智能意識(shí)產(chǎn)生的推演依據(jù)。

用純粹的觀點(diǎn)語(yǔ)言來闡述反對(duì)派的觀點(diǎn)，興許有些抽象，不妨來看一個(gè)相對(duì)具象的思想實(shí)驗(yàn)：在上世紀(jì)80年代，美國(guó)哲學(xué)教授約翰·塞爾勒在“圖靈測(cè)試”的場(chǎng)景基礎(chǔ)上，于其著作《意識(shí)的大腦與程序》中，提出了“中文屋論證”，來對(duì)強(qiáng)人工智能觀點(diǎn)發(fā)起質(zhì)疑。

在中文屋實(shí)驗(yàn)里，想象同樣是一個(gè)孩子坐在一間被反鎖的屋子里，他只通曉英文，對(duì)中文一點(diǎn)也不懂。在屋內(nèi)，有一盒中文卡片和一本用英文編寫的規(guī)則手冊(cè)。假設(shè)每當(dāng)屋子外有寫了中文問題的紙條遞進(jìn)來后，這個(gè)人都能按照規(guī)則手冊(cè)的操作，來將屋內(nèi)的中文卡片組合成詞句，來完美回答被送進(jìn)來的問題，那么這個(gè)人就通過了“理解中文”的圖靈測(cè)試—盡管這個(gè)人本身仍然不懂中文。

塞爾勒通過這個(gè)實(shí)驗(yàn)認(rèn)為，計(jì)算機(jī)所運(yùn)行的程序是形式化的句法實(shí)體，但人所擁有的智能卻是具有語(yǔ)義性的，“理解”不僅僅是機(jī)械的翻譯和句法的轉(zhuǎn)換，而且還在于其體現(xiàn)了主體的意向性。

回到圖靈測(cè)試的黑屋背景里，塞爾勒想表達(dá)的意思是，就算機(jī)器能夠模擬人的行為與對(duì)話，也不能夠認(rèn)定其具有人的意識(shí)或者思維，這無非是在完美規(guī)則下的固定回應(yīng)罷了。值得玩味的是，在現(xiàn)代教育面臨AI沖擊的今天，被灌輸知識(shí)的人類學(xué)生，屢屢被比作是“中文屋”里操作卡片的孩子，這隱約更加符合在信息爆炸的新世紀(jì)，人們關(guān)于賽博格等后現(xiàn)代宣言“不可知論”的擔(dān)憂。

2015年，美國(guó)卡內(nèi)基·梅隆大學(xué)利用核磁共振腦成像技術(shù)，記錄人腦理解概念的神經(jīng)活動(dòng)

大規(guī)模的數(shù)據(jù)積累

塞爾勒所抓住的最有力反擊點(diǎn)，是所謂的“理解”和“執(zhí)行”之間尚且存在著差異。有趣的是，曾經(jīng)被認(rèn)為是無法被看到的理解過程，也隨著科學(xué)的發(fā)展變?yōu)榱爽F(xiàn)實(shí)。

2015年，美國(guó)卡內(nèi)基·梅隆大學(xué)利用核磁共振腦成像技術(shù)，第一次將人腦理解概念的神經(jīng)活動(dòng)，以視頻方式表現(xiàn)了出來：志愿者學(xué)習(xí)不同的新知識(shí)的時(shí)候，會(huì)將其存儲(chǔ)到不同的腦區(qū)。

然而，這只是一次對(duì)人體生理反應(yīng)的成功捕捉。人腦理解語(yǔ)義和概念的具體過程還有待揭秘，是故科學(xué)家也暫時(shí)做不到用機(jī)器模擬人腦的理解機(jī)制。

可事實(shí)上，人們對(duì)于數(shù)據(jù)積累，有著更加簡(jiǎn)單粗暴的辦法：在ChatGPT吸引了全球目光之后，就已經(jīng)有媒體曝出，為了訓(xùn)練這個(gè)聊天工具，其背后的公司OpenAI在肯尼亞雇了時(shí)薪還不到2美元的外包勞工。他們需要在9小時(shí)的工作時(shí)間內(nèi)，閱讀并標(biāo)注最多20萬(wàn)個(gè)單詞，還必須在工作中觀看兒童性虐待、謀殺等一系列引發(fā)心理和生理不適的內(nèi)容，來減少ChatGPT的有毒內(nèi)容。

從包括特斯拉在內(nèi)的自動(dòng)駕駛研發(fā)公司所招募的大批數(shù)據(jù)標(biāo)記員，到機(jī)器人在線客服背后的真人員工，在更廣闊的行業(yè)應(yīng)用里，人工智能所帶來的自動(dòng)化變革，依然在底層依賴著大量的廉價(jià)勞動(dòng)力，即使“阿爾法狗們”已經(jīng)在窮舉規(guī)則的道路上走得更遠(yuǎn)，已經(jīng)學(xué)會(huì)預(yù)測(cè)，并具備模擬人腦神經(jīng)網(wǎng)絡(luò)架構(gòu)的雛形了。

可以說，目前的人工智能，仍然是對(duì)人類思維、行為的模仿，它尚且停留在工具和機(jī)械范疇，并不是真正意義上的人格實(shí)體與道德實(shí)體；經(jīng)典的圖靈測(cè)試在人工智能的“強(qiáng)弱”上，也不能作為智能意識(shí)產(chǎn)生的推演依據(jù)。

但我們不應(yīng)忘記，計(jì)算機(jī)科學(xué)家阿爾文·納拉亞南在設(shè)計(jì)機(jī)器人時(shí)，提出需要遵循“圖靈紅色警戒”的建議：機(jī)器人的定位應(yīng)當(dāng)是機(jī)器人，而不是人甚至超越人。

責(zé)任編輯謝奕秋 xyq@nfcmag.com