摘 要智能時代所代表的第四次工業(yè)革命與歷次工業(yè)革命的不同在于它將實現(xiàn)智能的大規(guī)模生產(chǎn)，將帶來我們思考道德和道德教育的新的邏輯起點和思考框架。智能機(jī)器正在成為在人類、其他智慧生物和超自然存在之外的新道德主體、道德客體和道德代理，我們需要以“智能”為核心重構(gòu)新型人機(jī)關(guān)系，基于“智能”的維度重新定義道德和道德教育，將我們的道德關(guān)懷擴(kuò)展到更具包涵力的“智能體”，并以此為框架思考道德原則?；凇爸悄堋钡男戮S度構(gòu)建新的個人和智能體之間的關(guān)系倫理，創(chuàng)新道德教育體系。

關(guān)鍵詞 智能時代；人機(jī)關(guān)系；機(jī)器伙伴；道德教育體系

作者簡介 譚維智，曲阜師范大學(xué)中國教育大數(shù)據(jù)研究院院長，教授、博士生導(dǎo)師

今天我們討論“智能時代德育數(shù)字化”問題，當(dāng)我們說“智能時代”，以“智能”界定一個時代，這到底意味著什么？智能時代所代表的第四次工業(yè)革命與之前歷次工業(yè)革命的極大不同在于，它不同于第一次工業(yè)革命的蒸汽機(jī)和機(jī)械生產(chǎn)、第二次工業(yè)革命的電子和交流電生產(chǎn)、第三次工業(yè)革命的軟件生產(chǎn)，這一次的劃時代性革命在于它將實現(xiàn)智能的大規(guī)模生產(chǎn)。這不僅僅是一種時代的劃分或者技術(shù)演進(jìn)的劃分，對教育研究、特別是德育研究來說，是一個思考問題的邏輯起點、一個決定研究框架的奠基性概念。與歷次工業(yè)革命相比，它將對教育產(chǎn)生更為深遠(yuǎn)的影響。在農(nóng)耕時代、工業(yè)時代，我們思考道德、思考道德教育的邏輯起點是“人”，以“人”為核心構(gòu)建思考道德問題的框架，涉及的是人與自我、人與他人、人與社會的關(guān)系。以“人”為中心構(gòu)建起來的道德理論或模型已無法解釋人機(jī)共生共存環(huán)境下復(fù)雜的道德問題。今天我們思考道德問題要從“智能”入手搭建新的思考框架，將碳基生命的人和其他智慧生物，以及硅基生命的智能機(jī)器納入一個共同的、更具包容性的框架之內(nèi)來思考，從“智能”的維度定義倫理關(guān)系、思考道德教育。

一、以智能為核心重新闡釋人機(jī)關(guān)系

智能不是一種孤立的、單項的能力，智能是多維的、差異化、個性化的，它包含多種成分。作為人工智能的研究對象，智能的反映、知識、感性、理性、符號等都不是單獨發(fā)揮作用的。我們的生存圈存在著不同的智能，人和各種智慧生物，以及人類創(chuàng)造的人工智能都是智能體。隨著科技發(fā)展和人類認(rèn)知能力的提升，智能生命的譜系會變得越來越寬泛、復(fù)雜多樣?？焖侔l(fā)展的人工智能給人類的存在和價值觀帶來了諸多新的挑戰(zhàn)，人類的存在究竟有何獨特意義？我們?nèi)绾未_保人類的下一代延續(xù)當(dāng)代的價值觀？我們?nèi)绾未_保人類所創(chuàng)造出的“新生命”善待彼此和我們？如何判斷哪些我們所創(chuàng)造出來的智能體具備了真正的理解能力、責(zé)任感和道德觀念？這些都是在傳統(tǒng)的以人為中心構(gòu)建的倫理體系下無法解釋的新現(xiàn)象、新問題，隨著人工智能創(chuàng)建的內(nèi)容充斥互聯(lián)網(wǎng)，我們還將面臨更多的道德困境。我們不應(yīng)以既有的思維方式解決新的知識生產(chǎn)方式下的道德問題。更長遠(yuǎn)地看，我們不應(yīng)該過度專注于當(dāng)前的技術(shù)以及它可能對我們造成的影響，而是更應(yīng)該關(guān)注對人類本質(zhì)和未來發(fā)展的定位。

人工智能就像是人生產(chǎn)的電能、核能、風(fēng)能一樣，是用人工的方式、用機(jī)器制造出的“智能”，是操控、驅(qū)動工具，比工具更為根本、更上位的為工具和機(jī)器提供動力和能量的工具。按照智能在驅(qū)動工具的過程中所發(fā)揮的作用可以將人機(jī)關(guān)系的演變分為農(nóng)業(yè)時代、工業(yè)時代和智能時代三個時期。

農(nóng)業(yè)時代的工具既需要人以自身體力提供動力也需要人提供智能，這個時期的人機(jī)關(guān)系主要表現(xiàn)為人類智能和體力對工具的直接驅(qū)動，工具的價值在于借用自然界的物質(zhì)結(jié)構(gòu)放大了人所能提供的體力。工業(yè)時代，蒸汽機(jī)、電的發(fā)明使機(jī)器從需要人力驅(qū)動的工具演化為可以替代人的體力的動力工具，機(jī)器雖然有了機(jī)械動力但是沒有智能、不會思維，仍然需要人的智能驅(qū)動，這個時期的人機(jī)關(guān)系主要表現(xiàn)為人類智能對機(jī)器（動力工具）的驅(qū)動，機(jī)器工具的價值在于對人的體力的延伸和替代。智能時代是一個“用機(jī)器人來體外延伸人類智力并滲透進(jìn)動力工具的時代”。智能從人類身體中釋放到體外，被俘獲或者封裝進(jìn)動力工具中，與工業(yè)時代的動力機(jī)器相比，智能機(jī)器自身具有了一定智能而成為智能驅(qū)動的做類腦工作的機(jī)器，智能機(jī)器的價值在于對人類智能的延伸和替代。

人工智能開創(chuàng)性地使機(jī)器具有了智能，也帶來了人機(jī)關(guān)系的革命性變化。機(jī)器智能可以通過學(xué)習(xí)和接受教育脫離對人的智能的依賴而獲得獨立性和自主性，由此人與機(jī)器之間的溝通與聯(lián)系將發(fā)生一種全新的變化，馬克思、海德格爾、唐·伊德等人關(guān)于“人類身體的延伸”“上手”“具身”等人機(jī)關(guān)系模型已經(jīng)不能解釋全新的人機(jī)關(guān)系。機(jī)器智能成為與人類智能并行的離身智能，可以離開人的身體而獨立運作，智能機(jī)器成為不再需要依賴于人的工具，人工智能也不再是馬克思和麥克盧漢意義上的“人體器官的延伸”。人工智能進(jìn)入了一個與伊德的技術(shù)具身和工具具身完全不同的發(fā)展階段，人第一次與技術(shù)達(dá)成離身關(guān)系。人工智能不再是人腦的延伸，它獲得了獨立自主性，從而可以斷開與人的智能、人的思維的聯(lián)系而獨立運行。

二、基于智能的維度重新定義道德

人工智能正在對教育產(chǎn)生重大影響。但是我們對人工智能在道德教育領(lǐng)域的研討，還停留在“工具”思維、工具視角的層面，主要關(guān)注如何應(yīng)對人工智能工具削弱主體、去中心化、信息繭房、碎片傳播等問題和挑戰(zhàn)，關(guān)注人工智能工具的使用是否合乎道德，以及其工具價值的發(fā)揮。從智能的維度，人工智能更可以作為人的學(xué)習(xí)伙伴、一個道德學(xué)習(xí)者，智能時代使學(xué)習(xí)者可以通過教他者（智能機(jī)器）而學(xué)習(xí)道德。我們更應(yīng)該超越工具思維，關(guān)注智能機(jī)器正在或未來所可能承擔(dān)的道德角色。這就是，智能機(jī)器正在成為在人類、其他智慧生物和超自然存在之外的新道德主體、道德客體和道德代理。它能夠做出影響人類客體結(jié)果的決策，或在無人監(jiān)督下解決道德困境，其行為也可能受到人類決策的影響，人類主體和客體可將其派遣為代表參與道德互動。我們需要在新的框架下展開對人類與智能機(jī)器互動時所產(chǎn)生的道德問題的思考。在線機(jī)器人教師、人工智能輔助教學(xué)以及在教育治理方面的應(yīng)用，都引發(fā)了關(guān)于信任、偏見和價值取向的重要道德問題。我們應(yīng)該如何對待它們？它們將如何對待我們？它們會如何改變我們彼此之間的相處方式？作為道德主體，機(jī)器被隱含或明確地賦予了教育過程中道德決策的責(zé)任，我們應(yīng)該如何使人工智能驅(qū)動的決策與人類價值觀保持一致？作為道德客體，機(jī)器成為人類道德行為的對象，無論是合作還是競爭、同情還是惡意，我們應(yīng)該如何與人工智能進(jìn)行合作？在道德代理的角色中，可以用機(jī)器在人們對待同胞人類的行為中充當(dāng)?shù)赖轮薪?，人們?yīng)該如何利用機(jī)器來美化或執(zhí)行他們的道德意志？

面對智能時代的道德困境，我們需要基于智能的視角重新界定“道德”，將道德納入智能的范疇之中。無論是人類、還是其他智慧生物，或者是人類創(chuàng)造出來的智能體，無論其智能源自何處，我們都可以在智能的維度下發(fā)現(xiàn)一些具有穩(wěn)定性、普遍性的特征。從智能的視角看不同的生命體，生命是一個對我們的身體和外部環(huán)境不斷建構(gòu)意義的過程。人類的演化就是一個智能不斷升級的過程。我們需要不斷從關(guān)于過去的記憶結(jié)構(gòu)中重建有關(guān)世界和我們自己的新解釋，以最適合當(dāng)前環(huán)境的方式解讀大腦和身體中留下的各種信息。這種記憶和解釋的可變性或者可塑性，正是發(fā)生在生成式人工智能身上的所謂“幻覺”問題：人工智能會虛構(gòu)事實，甚至錯誤頻出、胡說八道等等。這些都是任何智能體學(xué)習(xí)和成長過程中的正?，F(xiàn)象。智能的核心并不在于信息的確定性，而在于對信息的創(chuàng)造性重組。這些在傳統(tǒng)的以人為中心的道德范式中顯示出來的各種“道德”問題，可能本質(zhì)上只是一個智能問題，道德問題只是智能的不同表現(xiàn)方式之一。未來生命體的多樣性以及人類自身演化成多種具有感知能力的智能體的可能性，需要我們重新思考人類自身在世界上的定位，重新思考我們是什么、改變意味著什么、我們未來將如何演變以及我們應(yīng)該珍視什么這些存在論層面的至關(guān)重要的問題。思考“面對如此多值得進(jìn)行道德考量的生命體，我們?nèi)绾尾拍鼙舜岁P(guān)愛？構(gòu)建何種智能體之間的倫理關(guān)系才能確保我們未來走在一條正確的道路上？”概言之，我們需要以“智能”為核心重新界定道德，而不是基于某種確定性或固定不變的關(guān)系去處理智能時代的道德新現(xiàn)象和新問題。

我們需要將我們的道德關(guān)懷擴(kuò)展到更具包涵力的智能體，并以此為框架思考道德原則。在農(nóng)耕時代和工業(yè)時代構(gòu)建起來的與簡單機(jī)器互動的方法和原則，已經(jīng)不能用來處理當(dāng)下人與各種智能體之間的關(guān)系。我們需要用不同于農(nóng)耕時代和工業(yè)時代的新的范式和框架取代我們古老的、以人類為中心的“物我之分”的零和智能觀，以全新的視角辨別那些與我們具備某些相同特征的具身化智能的同類，在新的智能觀和道德框架之下思考各種智能體作為智能的具身化存在的定位，思考我們?nèi)绾卫硇缘叵蛩撕推渌悄荏w展現(xiàn)同情心。人與人之間交往的道德判斷標(biāo)準(zhǔn)和德育體系，也需要適應(yīng)智能時代的“智能”生產(chǎn)所帶來的新變化，不再依賴傳統(tǒng)的“自然”與“人為”的劃分或是以“物我關(guān)系”為邏輯起點構(gòu)建道德關(guān)系，摒棄“只愛同類”的道德思維模式，將我們思考倫理關(guān)系、道德原則的范疇從人類圈、生物圈拓展到智能圈，將我們的善意、關(guān)懷、道德原則延伸、覆蓋到包含一切生命體、智能體等更寬廣的范疇。面對未來可能如天文數(shù)字一樣多的、人類創(chuàng)造出來的智能體，問“它能像人一樣思維嗎”的問題，既不能化解倫理風(fēng)險，也無助于形成新的道德關(guān)系。我們需要從智能的視角切近、構(gòu)建與各類智能體的關(guān)系，轉(zhuǎn)換舊的倫理體系下形成的由恐懼和自私驅(qū)動的人類中心的道德理論和模型造成的處理人機(jī)關(guān)系的思維方式。

三、基于智能的維度創(chuàng)新道德教育體系

既然傳統(tǒng)的人與人之間的倫理關(guān)系、道德關(guān)系原則已經(jīng)無力引導(dǎo)我們處理與其他智能體之間的關(guān)系，那么就需要基于智能的新維度構(gòu)建新的個人和智能體之間的關(guān)系倫理，形成與人工智能的新型合作關(guān)系。人與人工智能之間就像人與人之間一樣，需要合作、互動才能創(chuàng)造出更好的未來。AI不同于其他時代的機(jī)器的關(guān)鍵特征在于其自身已經(jīng)具備智能，但是，這并非意味著AI將所有的問題都解決了，人只需要坐享其成就可以了。人工智能仍然需要通過與人的實時交互進(jìn)行完善和成長，而不是完全依靠預(yù)訓(xùn)練、預(yù)編程一次性完成。人工智能像人一樣，可能永遠(yuǎn)是一個未完成的狀態(tài)。人需要做AI的引導(dǎo)者，需要準(zhǔn)確地制定提示，引導(dǎo)AI生成更好的答案。人的提示或引導(dǎo)是對AI新的編程。人與人之間的合作實際上也是在互相編程，與合作伙伴的溝通、引導(dǎo)就是彼此在給對方做提示工程，彼此進(jìn)行編程。對話是人類溝通的自然表達(dá)，對話過程中會不自覺地代入情感，面對AI，我們也需要用到人的各種原始情感，如果我們給AI一些積極的情感反饋，它就會給我們更好的、質(zhì)量更高的答案。這是一種新的人機(jī)之間的道德關(guān)系。

人類通過模仿人的大腦生成智能的方式來運用機(jī)器生成、制造智能，人類學(xué)習(xí)和教育中的規(guī)律性也在人工智能訓(xùn)練中得到體現(xiàn)。教育理論和教育方法在機(jī)器學(xué)習(xí)中發(fā)揮出的重要作用證明了教育學(xué)在人工智能研究中的有效性。智能機(jī)器具有了自主學(xué)習(xí)能力和自主思維之后，教育就具有了發(fā)揮更多作用的空間。智能機(jī)器接下來遇到的問題，不是語料庫的問題，也不純粹是算法、算力的問題，人工智能的下半場已經(jīng)不再是依賴數(shù)據(jù)、算法、算力來解決的技術(shù)問題，而是通過教育方法來解決的教育問題。人工智能下半場是用教育人的方式來教育機(jī)器，教機(jī)器像人一樣思考，用人的思維做事，而不是以機(jī)器思維做事。對機(jī)器的教育不僅僅是知識的教育，也包括如何“賦予”機(jī)器價值觀、道德、情感等問題。人在教育機(jī)器的過程中會獲得與機(jī)器相處、如何看待機(jī)器的一系列價值觀、道德、情感，以此支配智能時代的新型人機(jī)關(guān)系，并以這種在教育機(jī)器的過程中形成的價值觀、道德、情感確立人在智能時代的地位、保持人之為人的本真，而不至于在新型人機(jī)關(guān)系中喪失自我。

道德的問題上，只能是人教機(jī)器而不是機(jī)器教人。隨著電影、電視、計算機(jī)、人工智能等的發(fā)明，人們關(guān)于技術(shù)教育應(yīng)用的暢想大都是用機(jī)器替代人、替代教師，希望有一天機(jī)器會像人教育人那樣替代教師去完成對人的教育。智能機(jī)器自我意識、自主學(xué)習(xí)和自主思維能力的不斷增強(qiáng)，涌現(xiàn)出超越人類的能力之后，將進(jìn)一步激發(fā)人們用機(jī)器人教師、虛擬教師、智能機(jī)器替代人類教師的“暢想”。人特別是心智尚未成熟的未成年人很難區(qū)分智能機(jī)器所表達(dá)的認(rèn)知共情和人類表達(dá)的情感共情，很難分辨智能機(jī)器所表達(dá)的美丑善惡，很難判斷真假。我們需要制定限制偽裝教師或偽造教師的相關(guān)法律法規(guī)，在教育領(lǐng)域部署機(jī)器人教師或虛擬教師要經(jīng)過一定的安全檢查。在沒有通過安全檢查和獲得批準(zhǔn)的情況下，不能將智能機(jī)器人用于教育，不能將智能機(jī)器偽裝成教師與學(xué)生交談。我們必須清楚，教師與學(xué)生交談意味著什么，如果學(xué)生在與某位教師交談，一定要知道它是人還是人工智能，要將對學(xué)生的教育限定在人與人之間。機(jī)器教人還是人教機(jī)器，是一個具有本質(zhì)差異的問題。一切教育過程的背后都或多或少地隱藏著教育者對受教育者的規(guī)訓(xùn)與教化。在人機(jī)共生的智能時代，我們不能再像“工廠模式”的教育范式那樣對學(xué)習(xí)者進(jìn)行規(guī)訓(xùn)與教化，不能再培養(yǎng)學(xué)習(xí)者服從與順從的個性。避免機(jī)器對人的奴役、規(guī)訓(xùn)與教化的一個重要的方式是將人置于教育者的地位，由人對機(jī)器進(jìn)行教育，而不是相反。機(jī)器教人，只會導(dǎo)致人對機(jī)器的服從、崇拜、依賴甚至恐懼；人教機(jī)器，會讓人像熟悉家里的冰箱、空調(diào)一樣熟悉、了解、控制機(jī)器，有利于打破可能出現(xiàn)的對智能機(jī)器力量的崇拜、恐懼，能夠在面對智能機(jī)器的時候確保人的主體性、自主性，認(rèn)清智能機(jī)器智能生產(chǎn)的本質(zhì)原因，破除對人工智能的“暈輪認(rèn)知”和權(quán)威幻象。傳統(tǒng)的道德教育均發(fā)生在人與人之間，教育對象、教育主體都是人。智能時代的道德教育除了發(fā)生在人與人之間外，還發(fā)生在人機(jī)之間，教育對象、教育主體從人擴(kuò)展到智能機(jī)器。教育機(jī)器事關(guān)人工智能的進(jìn)一步發(fā)展，未來人類如何獲得具有透明性、安全性、準(zhǔn)確性、可靠性、可信性、客觀性、真實性、多樣性、符合倫理道德的人工智能，取決于如何教育它。賦予智能機(jī)器以道德、解決倫理問題的路徑不是代碼或算法，計算機(jī)技術(shù)無法讓人工智能擁有道德、進(jìn)行價值判斷。智能機(jī)器的發(fā)展與應(yīng)用所帶來的倫理問題、風(fēng)險問題、學(xué)習(xí)問題需要教育學(xué)出場，這些問題是教育學(xué)的擅場。

在基于智能的新型道德教育體系中，人可以通過教一個機(jī)器他者進(jìn)行道德學(xué)習(xí)。傳統(tǒng)的學(xué)校道德教育體系中，道德的學(xué)習(xí)者大多通過被“教”的方式進(jìn)行道德學(xué)習(xí)。智能技術(shù)的快速發(fā)展，新一代人工智能具備了可交互、會學(xué)習(xí)、自成長的能力，具有了“可教性”，可以作為“機(jī)器學(xué)生”、機(jī)器伙伴進(jìn)入道德教育體系。作為道德學(xué)習(xí)者的人類學(xué)生就可以同時轉(zhuǎn)換為一個機(jī)器教育者的角色，對硅基智能體進(jìn)行道德教育。學(xué)生可以通過教一個機(jī)器伙伴學(xué)習(xí)道德，這種學(xué)習(xí)方式也就是《學(xué)記》中所說的“學(xué)學(xué)半”，也稱為“費曼學(xué)習(xí)法”，教他人是自己學(xué)習(xí)的一個重要方式。

責(zé)任編輯︱郭鑫超

*本文系作者根據(jù)2024年5月15日在第50期中國德育·明德講堂“智能時代德育數(shù)字化研究”所做的講座整理而成。