馮 銳 孫佳晶 孫發(fā)勤

（揚(yáng)州大學(xué) 新聞與傳媒學(xué)院， 江蘇揚(yáng)州225009）

新一代人工智能技術(shù)的飛速發(fā)展，正在引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革，引發(fā)和重構(gòu)新的行業(yè)結(jié)構(gòu)和行業(yè)形態(tài)。 教育是促進(jìn)人類(lèi)文明發(fā)展的重要領(lǐng)域，而人工智能技術(shù)在教育中的應(yīng)用，正在推動(dòng)互聯(lián)網(wǎng)教育進(jìn)入智能教育發(fā)展的高級(jí)階段[1]。 利用人工智能技術(shù)提高教育服務(wù)水平，促進(jìn)教育的創(chuàng)新發(fā)展，讓人類(lèi)教育變得更加智慧，這是人們對(duì)人工智能帶給教育變化的期待和愿望。 人工智能作為一種沉寂了幾十年，然后近幾年才厚積薄發(fā)的一種尖端技術(shù)， 它引領(lǐng)和促進(jìn)教育創(chuàng)新發(fā)展的潛力毋容置疑。 但是，人工智能在教育領(lǐng)域的創(chuàng)新性應(yīng)用，也沖擊和改變了整個(gè)教育系統(tǒng)生態(tài)和教育秩序，尤其是教育文化、教育中的人倫關(guān)系、教育結(jié)構(gòu)和教育價(jià)值等諸多方面。 由此， 也產(chǎn)生了一系列倫理問(wèn)題，如，削弱教師地位，侵犯學(xué)生自由，加大教育不平等，對(duì)教育正向價(jià)值的壓制，對(duì)教育育人價(jià)值的僭越，教育對(duì)人工智能的依附等等。

華東師范大學(xué)唐漢衛(wèi)教授認(rèn)為，人工智能的深入運(yùn)用將在本體意義上動(dòng)搖我們?cè)械膶?duì)教育的理解、批判和追求，從而產(chǎn)生前所未有的困惑和焦慮[2]。 人工智能在教育應(yīng)用上的倫理問(wèn)題，已經(jīng)開(kāi)始日益顯現(xiàn)，例如，2019 年發(fā)生的“監(jiān)測(cè)頭環(huán)”事件、智能音箱勸主人“自殺”事件，2020 年1 月“釘釘被小學(xué)生逼瘋”事件等，這些看似偶爾發(fā)生的事件其實(shí)并非偶然，它警示人們要開(kāi)始注意和防范人工智能在教育應(yīng)用中可能帶來(lái)已知和未知的一些風(fēng)險(xiǎn)。 所以，只有對(duì)人工智能在教育應(yīng)用中所引發(fā)的社會(huì)和倫理問(wèn)題進(jìn)行研究，從而在一定的教育倫理建制內(nèi)對(duì)其進(jìn)行有效規(guī)范， 才能發(fā)揮其對(duì)教育積極的一面，避免消極的一面；才能有效實(shí)現(xiàn)人工智能推進(jìn)教育智能化發(fā)展的美好愿景。

一、人工智能給教育帶來(lái)的“技術(shù)陷阱”

在教育領(lǐng)域，從來(lái)不缺乏利用新技術(shù)進(jìn)行變革的熱情與野心。 長(zhǎng)期以來(lái)，教育的規(guī)?；统绦蚧Ｊ斤柺茉嵅?，人們一直在積極期盼和探尋著通過(guò)技術(shù)的驅(qū)動(dòng)，能給這種工業(yè)化教育體系帶來(lái)變革和創(chuàng)新。 因此，人工智能從其誕生起就被賦予了更多教育技術(shù)的內(nèi)涵和社會(huì)期待。 從技術(shù)進(jìn)化論看人工智能的創(chuàng)新發(fā)展， 人工智能從20 世紀(jì)50 年代艾倫·麥席森·圖靈（Alan Mathison Turing）完成的圖靈測(cè)試（The Turing Test）開(kāi)始，已經(jīng)走過(guò)了60 多年的發(fā)展歷程。 在這60 多年的創(chuàng)新發(fā)展之中，人們一直在追求著一個(gè)最具雄心又很冒險(xiǎn)的終極目標(biāo)，即創(chuàng)造一個(gè)能夠?qū)W習(xí)和應(yīng)用智能來(lái)完成各種各樣任務(wù)的智能機(jī)器人[3]；從早期的教學(xué)機(jī)器、智能教學(xué)系統(tǒng)，到如今的自適應(yīng)學(xué)習(xí)系統(tǒng)、智能教育機(jī)器人等等，人工智能從面對(duì)確定的環(huán)境進(jìn)行有效的經(jīng)驗(yàn)邏輯推理，發(fā)展到擁有在不確定性環(huán)境中做出準(zhǔn)確判斷、決策和行動(dòng)的能力。“人工智能從簡(jiǎn)單地模擬人類(lèi)的邏輯思維開(kāi)始走向?qū)W習(xí)、思考；并從簡(jiǎn)單的機(jī)械行為，走向人機(jī)、 機(jī)器與環(huán)境等的雙向甚至是多向度的互動(dòng)；從應(yīng)對(duì)單一的確定性環(huán)境，走向了復(fù)雜的不確定性環(huán)境的發(fā)展路徑”[4]。

自20 世紀(jì)90 年代以來(lái)，隨著計(jì)算機(jī)、互聯(lián)網(wǎng)、物聯(lián)網(wǎng)、云計(jì)算、大數(shù)據(jù)、自然語(yǔ)言處理等技術(shù)突飛猛進(jìn)的發(fā)展，信息技術(shù)已經(jīng)從2G 發(fā)展到5G，從有線(xiàn)連接發(fā)展到無(wú)線(xiàn)連接，從二維空間發(fā)展到三維空間。 互聯(lián)網(wǎng)的快捷性、便利性、清晰度和訴諸不同感官的信息形態(tài)不斷發(fā)生的革命，加上數(shù)字化、云計(jì)算、可穿戴計(jì)算、人工智能的整體性突破，正在推動(dòng)著學(xué)校教育向泛在教育、 集體化學(xué)習(xí)向個(gè)體化學(xué)習(xí)、紙筆學(xué)習(xí)向屏幕學(xué)習(xí)的轉(zhuǎn)變。 工業(yè)革命以來(lái)標(biāo)準(zhǔn)化教育的弊端，有可能被徹底扭轉(zhuǎn)，人們夢(mèng)寐以求的從“以教定學(xué)”向“以學(xué)定教”的轉(zhuǎn)變，真正成為了可能[5]。 然而，人們?cè)诶萌斯ぶ悄艽龠M(jìn)和推動(dòng)教育創(chuàng)新發(fā)展的同時(shí)，人工智能的教育應(yīng)用卻可能引發(fā)教育主體權(quán)利嬗變、學(xué)生個(gè)性異化、情感危機(jī)、教育價(jià)值喪失等“技術(shù)陷阱”。

（一）人工智能與教育主體的權(quán)利嬗變

教育主體是相對(duì)于客體而言的， 它是教育過(guò)程中的教育實(shí)踐的組織者和實(shí)施者[6]。對(duì)于教育主客體關(guān)系的認(rèn)識(shí)， 現(xiàn)代教育觀(guān)念拋棄了以往教育者和受教育者相互對(duì)立的主客二元關(guān)系， 認(rèn)為教育者和受教育者是一種主體間的交往實(shí)踐關(guān)系， 二者之間廣泛存在著相互聯(lián)系與交互影響。 作為主體的個(gè)人不再排斥其他主體， 不再把他人看作征服、 占有的客體，人類(lèi)的生存已經(jīng)步入共生性的存在。 以課程、教材為載體的教育內(nèi)容， 構(gòu)成他們共同作用的客體[7]。他們“借助于人類(lèi)共同的文化、語(yǔ)言和勞動(dòng)工具”，在主體間展開(kāi)交往實(shí)踐活動(dòng)。

什么是人工智能？ 這是一個(gè)看似簡(jiǎn)單卻又難以給出明確界定的概念。 人們對(duì)它最樸素的理解就是人造的智能，它是社會(huì)發(fā)展和技術(shù)創(chuàng)新的人造產(chǎn)物。人們對(duì)人工智能的期待不在于讓它充當(dāng)“工具”，而是要最終成為能夠理解人， 擁有與人類(lèi)類(lèi)似的情感和思維方式，并且能夠成為幫助人的“顧問(wèn)”[8]。“人類(lèi)助手”是人類(lèi)賦予人工智能最大的社會(huì)價(jià)值和期待。一場(chǎng)AlphaGo 和世界圍棋專(zhuān)家展開(kāi)的人機(jī)大戰(zhàn)，讓人們驚喜地發(fā)現(xiàn)， 人工智能已經(jīng)擁有可能超越人類(lèi)的智能，成為取代人工或者延伸人類(lèi)能力的“智能幫手”；但也驚恐地意識(shí)到，人工智能的認(rèn)知和智能水平將可能超過(guò)人類(lèi)而威脅到人存在社會(huì)的主體性。社會(huì)學(xué)家就非常擔(dān)心人工智能的大規(guī)模應(yīng)用會(huì)導(dǎo)致失業(yè)，引發(fā)社會(huì)結(jié)構(gòu)的變化。 其實(shí)，社會(huì)學(xué)家對(duì)失業(yè)擔(dān)憂(yōu)的實(shí)質(zhì)是對(duì)人的社會(huì)主體性的擔(dān)憂(yōu)， 人工智能在教育中的應(yīng)用，同樣也存在著這種擔(dān)憂(yōu)。

從人工智能在教育應(yīng)用的發(fā)展歷程來(lái)看，其在不同的應(yīng)用階段，承擔(dān)的教育角色和發(fā)揮的教育功能不盡相同。 歷史上有很多比較著名的智能教學(xué)系統(tǒng)，如，SOPHIE、MYCIN、GUIDON 等，這些系統(tǒng)在培訓(xùn)和教學(xué)過(guò)程中扮演了輔導(dǎo)者、教練、評(píng)價(jià)者等多種角色，完成了基于領(lǐng)域知識(shí)和已有經(jīng)驗(yàn)進(jìn)行教學(xué)決策和指導(dǎo)的教學(xué)任務(wù)；最新集成了新一代智能技術(shù)開(kāi)發(fā)的LearnSmart、Knewton 平臺(tái)、松鼠AI 自適應(yīng)學(xué)習(xí)系統(tǒng)、AI 助教Jill Watson 以及科大訊飛的阿爾法蛋機(jī)器人、美國(guó)麻省理工大學(xué)的Tega 機(jī)器人、Anki 的玩具Cozmo 機(jī)器人、 機(jī)器人教練阿爾法2 號(hào)等，都能夠完成智能輔導(dǎo)、智能答疑、智能出題、智能評(píng)價(jià)、智能學(xué)伴等教學(xué)任務(wù)，扮演著教師、學(xué)生、同伴、領(lǐng)域?qū)＜业冉逃巧?可以說(shuō)，人工智能在教育“行動(dòng)中”的“智能”表現(xiàn)并不一定遜色于人類(lèi)個(gè)體，甚至超過(guò)了人的“智能”。 原本在教育中由教育者和受教育者組織和實(shí)施的一些教育教學(xué)活動(dòng)，如今卻漸漸被人工智能和智能機(jī)器人所替代和完成。那么，這對(duì)教育會(huì)意味著什么？

近年來(lái)，人工智能在教育中的應(yīng)用，實(shí)際上已經(jīng)引起了人們對(duì)教育主體的擔(dān)憂(yōu)和思考。 主要擔(dān)憂(yōu)人工智能的應(yīng)用是否會(huì)真的取代教師： 當(dāng)教師遇上人工智能，究竟會(huì)發(fā)生什么？ 人工智能技術(shù)出現(xiàn)后，教師真的會(huì)被取代嗎？ 人工智能時(shí)代，還需要教師嗎？這些疑問(wèn)從一個(gè)側(cè)面， 反映了人們對(duì)于教師主體性的擔(dān)憂(yōu)。人類(lèi)的教育本質(zhì)明確地告訴人們，教師肯定不會(huì)被取代，教師職業(yè)也肯定不會(huì)消亡。 但是，人工智能發(fā)展的歷史告訴我們， 人工智能的教育應(yīng)用必然會(huì)消解和重構(gòu)教師的主體地位。其實(shí)，人工智能也沖擊和影響了學(xué)生的主體地位， 現(xiàn)在開(kāi)發(fā)的很多學(xué)伴機(jī)器人和智能搜索引擎， 已經(jīng)成為學(xué)生自主探究學(xué)習(xí)和合作學(xué)習(xí)的得力助手和學(xué)伴， 有些還具有情感陪護(hù)、數(shù)字娛樂(lè)等功能?；谌斯ぶ悄艿慕虒W(xué)軟件能夠根據(jù)個(gè)人需求定制學(xué)習(xí)， 將學(xué)習(xí)者相互聯(lián)系在一起，提供獲取數(shù)字材料的機(jī)會(huì)，支持分散學(xué)習(xí)，并以有意義的方式讓學(xué)生參與進(jìn)來(lái)[9]。

除了對(duì)教師和學(xué)生主體地位的擔(dān)憂(yōu)之外，還有一個(gè)令人疑惑的問(wèn)題——在教育實(shí)踐中，人工智能能否成為教育主體？ 如果能成為教育主體，那么人工智能就可以跟其他主體一樣，在教育活動(dòng)中有意識(shí)地認(rèn)識(shí)和作用于客體，并在教育實(shí)踐中表現(xiàn)出它的主體性。 果真如此的話(huà)，我們就需要更進(jìn)一步思考：人工智能在教育應(yīng)用中的主體間關(guān)系是一種對(duì)稱(chēng)的倫理關(guān)系？ 還是非對(duì)稱(chēng)的倫理關(guān)系？ 其他教育主體在人工智能的作用下，其主體性是被加強(qiáng)還是被削弱？ 這直接關(guān)系到各個(gè)主體的教育責(zé)任和教育權(quán)力。 如果人工智能不能被視為教育主體，那么，它在教育實(shí)踐之中如何被理性地用來(lái)為教育賦能，而非賦權(quán)。 這些都需要對(duì)“人工智能+教育”的本真和意義，進(jìn)行思考和追溯。

（二）算法推薦與學(xué)生個(gè)性的發(fā)展異化

個(gè)性化教育是當(dāng)今世界教育改革發(fā)展的重要思潮之一，也是現(xiàn)代教育思想的一種新境界。 “教育在今天只有贏得了個(gè)性和個(gè)性發(fā)展，才能贏得社會(huì)發(fā)展的未來(lái)”[10]。在漫長(zhǎng)的教育改革與創(chuàng)新實(shí)踐過(guò)程中，人們把探尋和實(shí)現(xiàn)學(xué)生個(gè)性化發(fā)展的更多期待賦予了技術(shù)的應(yīng)用；同樣，也對(duì)人工智能給予極大的熱情和期待。 實(shí)現(xiàn)學(xué)生的個(gè)體化學(xué)習(xí)是人工智能在教育實(shí)踐中一個(gè)重要的應(yīng)用方向， 智能虛擬助手、智能導(dǎo)師系統(tǒng)、自適應(yīng)性學(xué)習(xí)系統(tǒng)，這些都是根據(jù)學(xué)習(xí)者的個(gè)人特點(diǎn)（語(yǔ)言、學(xué)習(xí)風(fēng)格、偏好等）所開(kāi)發(fā)的個(gè)性化學(xué)習(xí)系統(tǒng)[11]。自21 世紀(jì)新一輪人工智能大爆發(fā)以來(lái)，人工智能因互聯(lián)網(wǎng)強(qiáng)大的計(jì)算能力和數(shù)據(jù)智能算法推薦，在個(gè)性化學(xué)習(xí)方面獲得了巨大的進(jìn)步。

“利用大數(shù)據(jù)分析和算法推薦，能夠基于學(xué)生的學(xué)習(xí)能力或技能水平動(dòng)態(tài)調(diào)整課程難度或種類(lèi)，能適應(yīng)每個(gè)學(xué)習(xí)者的速度和進(jìn)度并實(shí)時(shí)調(diào)整內(nèi)容；或在恰當(dāng)?shù)臅r(shí)機(jī)提供定制化的練習(xí)， 實(shí)現(xiàn)大規(guī)模的個(gè)性化學(xué)習(xí)”[12]。 但是，利用人工智能實(shí)現(xiàn)個(gè)性化教學(xué)，并不一定能促進(jìn)學(xué)生的個(gè)性化發(fā)展。 甚至有人悲觀(guān)地預(yù)測(cè)， 人工智能通過(guò)自身的深度學(xué)習(xí)以及大數(shù)據(jù)的挖掘和算法，在為人類(lèi)精準(zhǔn)推薦信息的同時(shí)，人有可能被奴役而成為“單向度”（One-Dimensionality）的人，人的自迷和自我困厄現(xiàn)象將難以避免[13]。 算法推薦就是利用學(xué)生的一些行為數(shù)據(jù)， 通過(guò)一些數(shù)學(xué)算法，推測(cè)出學(xué)生的學(xué)習(xí)需求和學(xué)習(xí)偏好；然后，定向給學(xué)生推送學(xué)習(xí)內(nèi)容、認(rèn)知工具、教學(xué)活動(dòng)和學(xué)習(xí)同伴。人工智能與教育大數(shù)據(jù)分析技術(shù)的結(jié)合，使人類(lèi)知識(shí)被全景拆解成可計(jì)算的數(shù)字符號(hào)， 學(xué)生的學(xué)習(xí)行為、過(guò)程都能夠被有效地跟蹤與分析，能夠根據(jù)每一個(gè)學(xué)生的學(xué)習(xí)需求和行為特征量身定制學(xué)習(xí)計(jì)劃，精準(zhǔn)推送相關(guān)學(xué)習(xí)資源。

但是，這種個(gè)性化的算法推薦極易造成“信息繭房”效應(yīng)。一方面，基于算法的個(gè)性化推送，呈現(xiàn)給學(xué)生的內(nèi)容都是學(xué)生自己感興趣的， 或者是適合于自己學(xué)習(xí)偏好的學(xué)習(xí)內(nèi)容。即都是被技術(shù)判斷、過(guò)濾和篩選“無(wú)關(guān)的”“多余的”“雜質(zhì)的”信息之后的“純凈”內(nèi)容。長(zhǎng)此以往，學(xué)生的學(xué)習(xí)興趣和注意力就會(huì)被鎖定在既定的范圍內(nèi)，學(xué)生獲得的知識(shí)域會(huì)被狹窄化，學(xué)習(xí)內(nèi)容呈現(xiàn)的全面性和多樣性也會(huì)被破壞， 部分信息被智能遮蔽和過(guò)濾，學(xué)生的思維被算法所規(guī)制；還會(huì)造成學(xué)生認(rèn)知的偏差和思維的故步自封， 學(xué)生在學(xué)習(xí)之中往往會(huì)變得過(guò)度自信或者盲目自信。 另一方面， 算法主導(dǎo)的智能推薦提升了教學(xué)內(nèi)容的精準(zhǔn)傳播，但無(wú)形中也使學(xué)生喪失獲取信息的自主權(quán)，失去了全面獲取相關(guān)學(xué)習(xí)內(nèi)容的學(xué)習(xí)機(jī)會(huì)和權(quán)力，而且學(xué)生過(guò)度依賴(lài)算法推薦來(lái)獲取信息， 容易使其行為和思維產(chǎn)生惰性，這樣久而久之，學(xué)生自己的主體性將被技術(shù)消解。

當(dāng)前， 機(jī)器學(xué)習(xí)和算法推薦在教育應(yīng)用中是一個(gè)不能回避的實(shí)踐問(wèn)題， 這種看似公平合理的人工智能應(yīng)用，卻存在著技術(shù)導(dǎo)致的偏向和歧視，而且這種歧視和偏見(jiàn)還非常的隱蔽， 完全被個(gè)性化教學(xué)的假象所遮蔽與迷惑。 現(xiàn)代教育追求的是以學(xué)生個(gè)性為基礎(chǔ)的全面發(fā)展，絕不是“單向度”或片面化的發(fā)展。 “當(dāng)技術(shù)成為一種新的極權(quán)時(shí)，人一方面順?lè)夹g(shù)所規(guī)定的工作流程，另一方面成為工具的附屬物。人的外在附屬物對(duì)人的奴役， 在以某種看似合理化的形式支配著人的存在。 人的異化在此是不言自明的事實(shí)”[14]。 我們不禁要問(wèn)，在教育中應(yīng)用個(gè)性化算法推薦是教育的初衷嗎？利用它要實(shí)現(xiàn)個(gè)性化教學(xué)，還是個(gè)性化發(fā)展？毋庸置疑，算法推薦的教育教學(xué)應(yīng)用帶來(lái)了很多倫理問(wèn)題，它引起的“危害”是顯而易見(jiàn)的，將會(huì)給教育帶來(lái)潛在風(fēng)險(xiǎn)。

（三）人工情感與人機(jī)互動(dòng)的情感危機(jī)

教育是人類(lèi)社會(huì)的一種情感實(shí)踐活動(dòng)?！敖逃龥](méi)有了情愛(ài)， 就相當(dāng)于沒(méi)有了價(jià)值傾向和生命關(guān)懷意識(shí)，也就只剩下可以獨(dú)立存在的教、訓(xùn)、誨、化這類(lèi)中性的行為”[15]。 無(wú)論是教育者，還是受教育者，情感較之于理性， 更能使其感受到自我的存在而主動(dòng)地參與有意義的活動(dòng)。 人工智能為教育者和受教育者搭建了一個(gè)虛擬化、數(shù)字化的教育擬真生態(tài)環(huán)境，大量基于虛擬、遠(yuǎn)程、物聯(lián)、開(kāi)放、智能、聚合、協(xié)作的技術(shù)應(yīng)用在教育之中， 虛擬現(xiàn)實(shí)教學(xué)場(chǎng)景成了未來(lái)師生互動(dòng)體驗(yàn)的常態(tài)化教育場(chǎng)景； 遠(yuǎn)程人人互動(dòng)和人機(jī)互動(dòng)成為教育的常態(tài)交往關(guān)系； 智能機(jī)器和模擬軟件是學(xué)生模擬體驗(yàn)的常用平臺(tái)； 同步或異步教學(xué)讓師生能隨時(shí)隨地開(kāi)展教學(xué)活動(dòng)。 當(dāng)津津樂(lè)道地預(yù)測(cè)著人工智能給教育環(huán)境、教育內(nèi)容、教育方式方法等方面帶來(lái)變化的同時(shí)， 我們也要看到其對(duì)教育者和受教育者情感方面的影響。

2020 年1 月的“釘釘被小學(xué)生逼瘋”事件，網(wǎng)絡(luò)上相關(guān)民意沸沸揚(yáng)揚(yáng)， 這個(gè)事件其實(shí)是人工智能在教育中應(yīng)用所引發(fā)的社會(huì)倫理問(wèn)題的預(yù)警， 提醒人們不要單純地關(guān)注技術(shù)給教育帶來(lái)的知性變化，更要關(guān)注給教育者和受教育者帶來(lái)的情感變化。 一方面， 教師和學(xué)生以及其他教育主體之間的關(guān)系是能夠精準(zhǔn)地建立起來(lái)的， 每一個(gè)交往的教育主體都具有平等的地位， 任何一個(gè)現(xiàn)實(shí)主體都可以根據(jù)自己的意愿塑造符號(hào)形象和身份， 在網(wǎng)絡(luò)環(huán)境中進(jìn)行自由的對(duì)話(huà)與交流；但另一方面，教育主體的身份置身在虛擬與現(xiàn)實(shí)的二重性之中， 教師和學(xué)生的具身走在“在場(chǎng)”與“不在場(chǎng)”的教學(xué)實(shí)踐之中。 而且在虛擬教學(xué)中， 教學(xué)主體之間以及教學(xué)主體與客體之間的交互作用， 仍需要借助數(shù)字化中介系統(tǒng)來(lái)展開(kāi)和實(shí)現(xiàn)。 因而，它是一種“主體—中介—客體”或“人—機(jī)—人”的交互模式”[16]。 這對(duì)于坐在互聯(lián)網(wǎng)終端的教師和學(xué)生而言，容易造成認(rèn)知參與、情感遮蔽這種“偽參與”現(xiàn)象。

情感遮蔽就是教師和學(xué)生的情緒、 感受被技術(shù)屏蔽，喜怒哀樂(lè)相互之間覺(jué)察不到，一是自己覺(jué)察不到自己的情感，二是覺(jué)察不到其他人的情感。教師和學(xué)生之間最為珍貴的感情交流被虛擬世界所隔離，傳播和流動(dòng)的只有技術(shù)眼中的“數(shù)字符號(hào)”和一些程式化的活動(dòng)設(shè)置， 忽視和缺失了人文關(guān)懷的情感教育力量。

微軟（亞洲）互聯(lián)網(wǎng)工程院“小冰項(xiàng)目”開(kāi)發(fā)總監(jiān)周力曾經(jīng)在接受《商學(xué)院》雜志采訪(fǎng)時(shí)表示：“好的人工智能不僅是什么都知道， 而且能跟每個(gè)用戶(hù)建立起感情連接”[17]。 “高智能、低情商”的人工智能是永遠(yuǎn)不可能和人和諧共處、協(xié)同工作的，也難以和人逐步建立起信任和依賴(lài)關(guān)系。 喜怒哀樂(lè)的情緒變化和語(yǔ)言情感表達(dá)對(duì)人來(lái)說(shuō)很普通， 對(duì)人工智能來(lái)說(shuō)卻意義重大。在人工智能領(lǐng)域內(nèi)，新一代人工智能系統(tǒng)的首要任務(wù)就是需要具備“感性”的情感連接能力，這樣才能以更類(lèi)似真實(shí)人類(lèi)的方式， 滿(mǎn)足人們普遍的心理和情感需求， 從而逐步建立相互信任和依賴(lài)感。有人樂(lè)觀(guān)地認(rèn)為，人工智能可以捕捉到學(xué)習(xí)者不同時(shí)間、不同地點(diǎn)的各種數(shù)據(jù)，包括面部表情、動(dòng)作、情緒等。 感知人類(lèi)的情緒， 甚至像人類(lèi)一樣擁有情感，這是所有人工智能的終極目標(biāo)。其實(shí)，在21 世紀(jì)新一輪人工智能的大爆發(fā)之中，人工智能與“互聯(lián)網(wǎng)大腦” 的結(jié)合已經(jīng)賦予人工智能機(jī)器識(shí)別或表達(dá)人類(lèi)情感的基本能力。

目前， 對(duì)于人工智能情感識(shí)別和情感表達(dá)的應(yīng)用研究， 在教育教學(xué)領(lǐng)域中取得了一些進(jìn)步。 De Vicente 等人研制的數(shù)字導(dǎo)師系統(tǒng)，將情感引入了教育對(duì)話(huà)領(lǐng)域， 通過(guò)研究與學(xué)生交流得更自然有效的方式，以便提供更好的教育交互。德國(guó)人工智能研究中心在所開(kāi)發(fā)的 “虛擬劇場(chǎng)”“虛擬市場(chǎng)”“對(duì)話(huà)Agent”三個(gè)項(xiàng)目中，引入情感模型和個(gè)性特征來(lái)幫助開(kāi)發(fā)兒童的想象力及創(chuàng)造力[18]。 微軟（亞洲）互聯(lián)網(wǎng)工程院研發(fā)的第三代人工智能機(jī)器人助理“小冰”和“小娜”，在模擬人類(lèi)情感方面邁出了一大步，這對(duì)助理機(jī)器人姊妹花擁有一些類(lèi)似人的感性特征，能夠逐步與助理對(duì)象建立感情依賴(lài)和信任。

但是，人類(lèi)在賦予人工智能“情感”的過(guò)程中，同樣面臨著許多問(wèn)題。 2012 年，上映了一部電影《機(jī)器人和弗朗克》，在這部電影中，弗朗克是一個(gè)已經(jīng)退休在家孤獨(dú)生活的珠寶竊賊， 他的兒子為弗朗克找了一個(gè)機(jī)器人來(lái)護(hù)理他的日常生活。 機(jī)器人在日益努力中贏得弗朗克的信任， 和弗朗克也慢慢地建立了友誼。 機(jī)器人的中心職責(zé)是保持弗朗克的身心健康和活躍，于是，它為了讓弗朗克的生活富有激情，在它的參與和合作下弗朗克開(kāi)始重操舊業(yè)， 重拾自己當(dāng)年的激情。在隨后的劇情發(fā)展中，弗蘭克與機(jī)器人的關(guān)系使他與兒子的關(guān)系變得復(fù)雜， 甚至超過(guò)了他與兒子的關(guān)系。 而且， 機(jī)器人慢慢有了自己的思維，并且開(kāi)始為了弗朗克學(xué)會(huì)了說(shuō)謊。兩者的共同生活構(gòu)成了弗朗克與機(jī)器人的記憶， 也有了屬于彼此間的親密感[19]。 盡管這是一個(gè)虛構(gòu)的荒誕故事，但它警示人類(lèi)不得不思考“賦予了情感的機(jī)器人與人相處”這一系列倫理問(wèn)題。

對(duì)于教育而言， 這個(gè)電影中展現(xiàn)的人—機(jī)倫理問(wèn)題啟示我們，必須直面并思考許多重要問(wèn)題。有些是技術(shù)哲學(xué)層面的，有些是教育社會(huì)學(xué)層面的，我們?cè)谶@里只思考教育社會(huì)學(xué)層面遇到的一些問(wèn)題，主要有：富有情感的教育機(jī)器人應(yīng)該如何行動(dòng)，才符合教育的價(jià)值觀(guān)？ 它跟其他教育主體（教育者、受教育者）相處到何種程度，才符合教育規(guī)范？ 賦予情感的人工智能在教育應(yīng)用之中，是否會(huì)引起“情感泛濫”？賦予情感的人工智能會(huì)不會(huì)因?yàn)殡y以自控或受人控制，導(dǎo)致不合理的教學(xué)行為或情感表達(dá)？ 這些問(wèn)題，需要人們從權(quán)利以及倫理道德層面去思考。

（四）智能感知與教育數(shù)據(jù)的價(jià)值困境

人工智能的發(fā)展趨勢(shì)是與世界的生命系統(tǒng)、萬(wàn)物系統(tǒng)結(jié)合為一體，實(shí)現(xiàn)萬(wàn)物互聯(lián)、人人皆知。 智能感知是人工智能最主要的發(fā)展方向之一， 物聯(lián)網(wǎng)技術(shù)、工業(yè)4.0 技術(shù)、區(qū)塊鏈技術(shù)等，為人工智能的智能感知提供了良好的技術(shù)支持。在教育領(lǐng)域中，隨著智慧校園的建設(shè)以及各種智慧平臺(tái)的開(kāi)通，電腦、手機(jī)、iPAD、可穿戴設(shè)備，以及人臉識(shí)別、指紋識(shí)別、一卡通、 監(jiān)控?cái)z像機(jī)等設(shè)備已經(jīng)被廣泛使用，AI 人臉識(shí)別考試、一卡通智能管理、智慧校園監(jiān)控、云端課堂智慧教學(xué)、VR 在線(xiàn)互動(dòng)虛擬仿真教學(xué)等系統(tǒng)平臺(tái)，已經(jīng)構(gòu)成了教育領(lǐng)域的智能感知體系。日常大量的教育數(shù)據(jù)通過(guò)手機(jī)、iPAD、電腦、可穿戴設(shè)備等，上傳到云端進(jìn)行處理和分析，實(shí)現(xiàn)了自動(dòng)識(shí)別、定位、跟蹤、控制、監(jiān)管和信息的交換。

人工智能是以數(shù)據(jù)驅(qū)動(dòng)和認(rèn)知計(jì)算為核心的信息處理、分析、判斷和決策系統(tǒng)，通過(guò)從教育大數(shù)據(jù)中發(fā)現(xiàn)知識(shí)，進(jìn)而根據(jù)知識(shí)進(jìn)行描述性分析、預(yù)測(cè)性分析、 優(yōu)化分析和可視化展示， 并做出智能化教育決策。 所以，教育大數(shù)據(jù)使人工智能在教育創(chuàng)新、教學(xué)變革、決策領(lǐng)域的應(yīng)用中，有了分析和判斷的“養(yǎng)分”，它如同生態(tài)系統(tǒng)里的能量一樣，在不同的教育信息管理系統(tǒng)、不同的教育設(shè)施、不同的教育設(shè)備之間無(wú)縫地傳遞和交換， 通過(guò)數(shù)據(jù)挖掘等方式充分發(fā)揮其應(yīng)用價(jià)值[20]。

教育大數(shù)據(jù)一部分來(lái)源于教育實(shí)踐活動(dòng)中學(xué)生、教師、管理者和家長(zhǎng)等，一部分來(lái)源于智慧校園體系中諸多的多媒體設(shè)備、傳感器等。 有專(zhuān)家將教育大數(shù)據(jù)分為教學(xué)資源、教育教學(xué)管理、教與學(xué)行為、教育教學(xué)評(píng)估四大類(lèi)；從數(shù)據(jù)結(jié)構(gòu)化程度來(lái)看，其包括結(jié)構(gòu)化數(shù)據(jù)、 半結(jié)構(gòu)化數(shù)據(jù)和非結(jié)構(gòu)化數(shù)據(jù)；從數(shù)據(jù)產(chǎn)生環(huán)節(jié)來(lái)看，有過(guò)程性數(shù)據(jù)和結(jié)果性數(shù)據(jù)[21]。數(shù)據(jù)本身沒(méi)有好壞之分，都是教師、學(xué)生、管理者和家長(zhǎng)在智慧教育系統(tǒng)中的各種活動(dòng)和行為所產(chǎn)生的。 這些數(shù)據(jù)一經(jīng)產(chǎn)生，就脫離了自己的母體，被互聯(lián)網(wǎng)公司或?qū)W校單位控制，它們?cè)趯?shí)際運(yùn)用之中存在著很多問(wèn)題，有些問(wèn)題是技術(shù)異化引起的，有些是人為原因造成的。 目前，人們普遍關(guān)心的是數(shù)據(jù)安全與隱私保護(hù)問(wèn)題，數(shù)據(jù)泄露會(huì)暴露個(gè)人身份、隱私、歸屬以及名譽(yù)，挑戰(zhàn)了人的主權(quán)和尊嚴(yán)，這個(gè)問(wèn)題已經(jīng)從法律、倫理、政治、社會(huì)、技術(shù)層面受到研究者的重視。 特別是隨著區(qū)塊鏈技術(shù)在各教育場(chǎng)景中的創(chuàng)新性應(yīng)用，數(shù)據(jù)安全和隱私保護(hù)逐漸得到有效解決。 其實(shí)，在對(duì)教育大數(shù)據(jù)的創(chuàng)新應(yīng)用中，當(dāng)前最大的問(wèn)題是數(shù)據(jù)權(quán)利、數(shù)據(jù)平等、避免錯(cuò)誤決策。

目前，教育系統(tǒng)的信息化建設(shè)日益完善，各種智能設(shè)備應(yīng)有盡有，教師和學(xué)生的一切行為基本上都暴露在“第三只眼”的監(jiān)視之下，每天的數(shù)字生活痕跡都會(huì)被永久地保存起來(lái)。 例如，當(dāng)下教育實(shí)踐中正在普及使用的AI 人臉識(shí)別系統(tǒng)， 開(kāi)發(fā)者的共識(shí)和期望是利用人臉識(shí)別技術(shù)實(shí)現(xiàn)無(wú)感進(jìn)出控制的門(mén)禁、注冊(cè)登記、考勤等功能。 那么，問(wèn)題在于：這些設(shè)備采集的數(shù)據(jù)應(yīng)該歸屬于誰(shuí)？ 這些數(shù)據(jù)是否該屬于我們個(gè)人？ 他人，包括那些記錄、存儲(chǔ)數(shù)據(jù)的公司是否有權(quán)存儲(chǔ)和使用這些數(shù)據(jù)[22]？ 因?yàn)?，即使敏感性低的?shù)據(jù)，當(dāng)把它們相關(guān)聯(lián)起來(lái)時(shí)，往往也能夠產(chǎn)生一組具有高度重要意義的數(shù)據(jù)鏈，甚至比原始數(shù)據(jù)集更為重要，這稱(chēng)之為“身份重新標(biāo)識(shí)”。 這種重新標(biāo)識(shí)可能會(huì)被人利用進(jìn)行惡意的 “推論攻擊”（Inference Attack）， 即為了不正當(dāng)?shù)孬@得某人的材料， 通過(guò)分析數(shù)據(jù)而實(shí)行的一種數(shù)據(jù)挖掘技術(shù)，類(lèi)似我國(guó)所說(shuō)的“人肉搜索”[23]。 特別是涉及教師和學(xué)生的個(gè)人數(shù)據(jù)，這些數(shù)據(jù)有可能長(zhǎng)期持久地存儲(chǔ)在某個(gè)服務(wù)器上， 如果不明確所有權(quán)對(duì)其加以控制，將意味著數(shù)十年來(lái)個(gè)人數(shù)據(jù)被再次激活，使用或?yàn)E用的可能性持續(xù)存在。

另外， 這些教育大數(shù)據(jù)有可能用于對(duì)學(xué)生行為的預(yù)測(cè)分析，這樣很容易造成“將行為模式錯(cuò)當(dāng)實(shí)際”的結(jié)果。 因?yàn)?，模式是根?jù)過(guò)去行為而確定的，不能完全決定未來(lái)的實(shí)際行為[24]。 應(yīng)用這種行為模式進(jìn)行推測(cè)的方式， 在商業(yè)領(lǐng)域有一定用武之地。但在教育領(lǐng)域應(yīng)用就會(huì)容易給學(xué)生貼上某些標(biāo)簽，造成刻板印象，這對(duì)于成長(zhǎng)中的學(xué)生而言，屬于一種“預(yù)測(cè)性干擾”，具有道德倫理方面的漏洞。

2019 年BrainCo 公司生產(chǎn)的“賦思頭環(huán)”，在浙江金華小學(xué)課堂上的應(yīng)用就引發(fā)了廣泛爭(zhēng)議， 大家都在質(zhì)疑學(xué)生佩戴“賦思頭環(huán)”來(lái)監(jiān)控專(zhuān)注力，是否會(huì)讓其產(chǎn)生逆反心理？ 這確實(shí)是一個(gè)值得反思的問(wèn)題。如果在特定場(chǎng)景中把它視為一個(gè)戴在頭上的“監(jiān)控器”；那么，學(xué)生產(chǎn)生人為干預(yù)后的情緒反應(yīng)是必然的。這里還有一個(gè)值得深思的問(wèn)題，“賦思頭環(huán)”本身是一個(gè)專(zhuān)注于數(shù)據(jù)的量化儀器， 主要通過(guò)分析采集到學(xué)生的腦電波來(lái)表征和計(jì)算專(zhuān)注力的大??；那么，帶著一定目的和動(dòng)機(jī)采集的腦電信號(hào)，是否能真實(shí)客觀(guān)地表征學(xué)生的專(zhuān)注力？ 以及是否在清洗和邏輯驗(yàn)證時(shí)，保證了數(shù)據(jù)的真實(shí)性和多樣性？如果把采集到的數(shù)據(jù)視為學(xué)生專(zhuān)注力的一種體現(xiàn)， 利用這些數(shù)據(jù)給學(xué)生構(gòu)建的“數(shù)字畫(huà)像”客觀(guān)真實(shí)嗎？ 是否是被技術(shù)修飾合成的輪廓？

教育大數(shù)據(jù)為人類(lèi)教育帶來(lái)了一場(chǎng)從數(shù)據(jù)到知識(shí)到行動(dòng)的教育變革與創(chuàng)新， 它是教育領(lǐng)域中最為珍貴的資源。其自身是沒(méi)有價(jià)值或?qū)﹀e(cuò)的，它的價(jià)值都是人們?cè)诮逃龑?shí)踐中根據(jù)自己的期待和目的所賦予的。因此，教育大數(shù)據(jù)在驅(qū)動(dòng)教育教學(xué)變革與創(chuàng)新應(yīng)用的同時(shí)， 我們必須注意其在應(yīng)用過(guò)程中引發(fā)的技術(shù)異化、數(shù)據(jù)權(quán)利、數(shù)據(jù)平等和信息隱私等一系列倫理問(wèn)題；而且，這些問(wèn)題有可能會(huì)導(dǎo)致教育不公、人格異變等不良后果。

二、人工智能在教育應(yīng)用中的理性抉擇

教育不同于其他領(lǐng)域， 人工智能的應(yīng)用導(dǎo)致的可能不僅是技術(shù)層面的倫理風(fēng)險(xiǎn)問(wèn)題， 更為嚴(yán)重的是，它可能會(huì)摧毀人類(lèi)原有的教育價(jià)值和倫理體系，引發(fā)一系列潛在的、未知的倫理風(fēng)險(xiǎn)，這將對(duì)教育帶來(lái)不可估量的傷害。如何突破人工智能在教育應(yīng)用中所形成的倫理困境，這確實(shí)是一個(gè)需要慎重選擇和認(rèn)真對(duì)待的復(fù)雜問(wèn)題。 一些研究者試圖從技術(shù)的角度來(lái)破解這種倫理困境，但是，教育中人倫關(guān)系錯(cuò)位、意識(shí)與責(zé)任迷失、人機(jī)信任危機(jī)、人性全面發(fā)展異化等這些倫理風(fēng)險(xiǎn)， 是難以通過(guò)技術(shù)的創(chuàng)新和進(jìn)步來(lái)消除的。 我們必須要建立具有明確道德觀(guān)、價(jià)值觀(guān)指引的倫理框架，必須要有相關(guān)的法規(guī)來(lái)規(guī)制。

2019 年4 月，歐盟委員會(huì)發(fā)布了《人工智能倫理準(zhǔn)則》，該準(zhǔn)則以“可信賴(lài)人工智能”為愿景，從“人的能動(dòng)性和監(jiān)督”“技術(shù)魯棒性和安全性”“隱私和數(shù)據(jù)管理”“透明性”“多樣性、 非歧視和公平性”“社會(huì)和環(huán)境福祉”“問(wèn)責(zé)”這七個(gè)方面，來(lái)構(gòu)建確保人工智能足夠安全可靠的倫理準(zhǔn)則框架[25]。 其中，一個(gè)最為明確的指示和引導(dǎo)， 就是可信賴(lài)的人工智能應(yīng)該是尊重基本人權(quán)、規(guī)章制度、核心原則及價(jià)值觀(guān)。 這可以說(shuō)是確保技術(shù)在應(yīng)用上安全可靠， 避免因技術(shù)不足而造成無(wú)意傷害的根本。 該倫理準(zhǔn)則對(duì)人工智能在教育中的可信賴(lài)應(yīng)用，提供了良好的倫理啟示，也為構(gòu)建倫理框架提供了明確的進(jìn)路。 對(duì)于人工智能的教育應(yīng)用倫理，“以人為本” 是底線(xiàn)倫理，“以德為先”是道義倫理，“以法為界”是規(guī)約倫理，這是防范和消除倫理風(fēng)險(xiǎn)的理性選擇。

（一）以人為本的價(jià)值導(dǎo)向

教育是人的教育， 促進(jìn)人的全面發(fā)展是人類(lèi)一切教育的出發(fā)點(diǎn)和歸宿。 人工智能是推進(jìn)教育均衡發(fā)展、促進(jìn)教育公平、提高教育質(zhì)量的重要手段，是實(shí)現(xiàn)教育現(xiàn)代化不可或缺的動(dòng)力和支撐。 在未來(lái)的教育發(fā)展之中， 人工智能與教育的融合將更加深入和廣泛， 人工智能在教育領(lǐng)域的應(yīng)用將逐漸走入常態(tài)化。那么，該如何減少和規(guī)避人工智能在教育應(yīng)用中的倫理風(fēng)險(xiǎn)？ 事實(shí)上，在教育技術(shù)的發(fā)展歷程中，長(zhǎng)期受到科學(xué)主義思想觀(guān)念的深度影響， 教育技術(shù)的發(fā)展存在工具理性與價(jià)值理性關(guān)系的斷裂問(wèn)題，表現(xiàn)為技術(shù)思維的僭越、 人性發(fā)展的圈囿和情感溝通的缺失等[26]。 人工智能在教育領(lǐng)域中的應(yīng)用同樣也深陷技術(shù)陷阱之中， 從表面上看是人工智能對(duì)教育教學(xué)的賦能， 而本質(zhì)上卻是人工智能的教育應(yīng)用一味追求個(gè)性化、智能化、信息化，對(duì)工具理性的趨之若鶩和盲目崇拜， 使原本“以人的全面發(fā)展為目的”的價(jià)值理性失去意義，工具理性裹挾著學(xué)生走向了人倫關(guān)系的斷裂和人性的扭曲。 正如葉瀾教授所言：“教天地人事，育生命自覺(jué)”，教育倫理是關(guān)涉人之發(fā)展的倫理，以人的發(fā)展為中心，關(guān)注人之發(fā)展的未來(lái)性、生命性和社會(huì)性，這是構(gòu)建教育倫理的價(jià)值觀(guān)念和基本原則[27]。 人工智能的任何教育應(yīng)用，都不能改變這一真諦，無(wú)論人工智能多么強(qiáng)大，都必須服務(wù)于人的教育與人的發(fā)展這一根本宗旨。 教育絕不能迷失在技術(shù)的浪潮之中，“以人為本， 從學(xué)生的全面發(fā)展出發(fā)”來(lái)推進(jìn)人工智能的應(yīng)用，才是人工智能引領(lǐng)和促進(jìn)教育創(chuàng)新的必然追求。

（二）以德為先的道義擔(dān)當(dāng)

在教育的實(shí)踐領(lǐng)域中， 人們對(duì)人工智能變革和創(chuàng)新教育的社會(huì)期待越來(lái)越大， 這勢(shì)必使人工智能在教育中的應(yīng)用與發(fā)展，不斷面臨著實(shí)然與應(yīng)然、理性與情感、知識(shí)與德性的倫理困境。當(dāng)人們從價(jià)值引領(lǐng)、制度約束方面來(lái)探尋破解倫理困境，防范倫理風(fēng)險(xiǎn)之道時(shí)，一個(gè)重要的、核心的、本質(zhì)的實(shí)踐指向是教育中“可能的、是否允許的”道德倫理，即為教育者和受教育者提供行為規(guī)范，以指導(dǎo)教育實(shí)踐。背離倫理道德的教育實(shí)踐，其危害性不言而喻。人工智能是一種“智能”技術(shù)，盡管人們普遍認(rèn)為弱人工智能不具備道德行為者的主體性；但是，強(qiáng)人工智能肯定具有了一定的主體意識(shí)、情感表達(dá)與自主性，這也是人們普遍的共識(shí)。

人工智能的發(fā)展會(huì)越來(lái)越強(qiáng)大，在人機(jī)共存的教育場(chǎng)景之中，它也和人類(lèi)個(gè)體一樣擁有了平等的主體地位和責(zé)任。 王淑芹教授指出，人工智能技術(shù)的“是”與“應(yīng)該”、“道義”與“功利”、“自由”與“責(zé)任”之間的關(guān)系，是發(fā)揮好倫理學(xué)價(jià)值規(guī)范與引領(lǐng)作用的理論基礎(chǔ)[28]。無(wú)論如何，道德在人工智能的教育應(yīng)用中是不應(yīng)忽視的，這是人工智能在教育應(yīng)用中“歸于善”本質(zhì)的倫理化反映，也是以德性?xún)?nèi)化信念、以道義驅(qū)動(dòng)行為的責(zé)任倫理價(jià)值的彰顯。 我們必須逐步建立具體的、較為全面的人工智能在教育應(yīng)用中的倫理規(guī)范，確立判斷行為是非善惡的道德標(biāo)準(zhǔn)，這才是將人工智能引向教育“育人”發(fā)展的意義之所在。

（三）以法為界的倫理規(guī)約

人工智能在教育應(yīng)用中存在的倫理風(fēng)險(xiǎn)絕對(duì)是不可忽視的， 因?yàn)樗斐蓚Φ膶?duì)象一般是我們的受教育者，而且這種傷害有可能是潛在的、長(zhǎng)久的、難以逆轉(zhuǎn)的。 人類(lèi)要保持對(duì)人工智能在教育實(shí)踐中的有效控制， 防范技術(shù)異化和價(jià)值扭曲所導(dǎo)致的風(fēng)險(xiǎn)，就必須要建立新的倫理制度。 我們知道，人工智能在教育應(yīng)用中的倫理風(fēng)險(xiǎn)， 主要在于設(shè)計(jì)開(kāi)發(fā)和實(shí)踐應(yīng)用兩個(gè)環(huán)節(jié)。 當(dāng)開(kāi)發(fā)人員在開(kāi)發(fā)一個(gè)基于人工智能的教育系統(tǒng)時(shí)， 需要遵循教育價(jià)值主導(dǎo)下的技術(shù)規(guī)范和科學(xué)標(biāo)準(zhǔn)， 必須遵守社會(huì)倫理的基本原則。 只有在人工智能相關(guān)技術(shù)的應(yīng)用和發(fā)展上加以技術(shù)倫理和社會(huì)倫理的制約和限制， 形成一定的倫理制度，才能使人工智能在開(kāi)發(fā)和設(shè)計(jì)環(huán)節(jié)上，真正將倫理風(fēng)險(xiǎn)減少到最低程度。

在實(shí)踐應(yīng)用環(huán)節(jié)， 未來(lái)的教育肯定是一種人機(jī)共存的新型教育關(guān)系和教育場(chǎng)景。 人機(jī)共存的本質(zhì)是協(xié)調(diào)而非欺騙， 它建立在人機(jī)認(rèn)知信任和情感信任的基礎(chǔ)之上，是一個(gè)富有挑戰(zhàn)性的過(guò)程。這一挑戰(zhàn)不僅僅是技術(shù)倫理層面的挑戰(zhàn)， 更為關(guān)鍵的是社會(huì)倫理層面的挑戰(zhàn)。教育實(shí)踐中的人機(jī)共存，需要教育制度、政策和法規(guī)，這是人工智能深度、有序、科學(xué)參與人類(lèi)教育教學(xué)活動(dòng)的前提和保障。 倫理制度是破解和消除倫理風(fēng)險(xiǎn)的最有效舉措，它是以“強(qiáng)制性”的形式面向人類(lèi)教育實(shí)踐中人機(jī)關(guān)系和社會(huì)行為的一種制度性約束和規(guī)范。

人們常言，法規(guī)不前置，現(xiàn)實(shí)必尷尬。 因此，我們認(rèn)為，人工智能在教育中的應(yīng)用，必須針對(duì)教育主體建立起一系列規(guī)章公約和守則，把盡可能多的教育倫理以制度化的形式嚴(yán)格建立起來(lái)。 倫理制度是道德規(guī)范與法律規(guī)范相銜接的一種制度，它在建立和維護(hù)人工智能在教育應(yīng)用中的秩序上，發(fā)揮著非常重要的作用。

三、人工智能未來(lái)的教育責(zé)任

自20 世紀(jì)90 年代以來(lái)，隨著傳感器、移動(dòng)互聯(lián)網(wǎng)、物聯(lián)網(wǎng)、云計(jì)算、大數(shù)據(jù)分析、虛擬現(xiàn)實(shí)等技術(shù)突飛猛進(jìn)的發(fā)展， 人工智能擁有了在不確定性環(huán)境中做出準(zhǔn)確判斷、決策和行動(dòng)的能力。 目前，人工智能處理和應(yīng)對(duì)復(fù)雜問(wèn)題的認(rèn)知行為和智能水平在一定程度上與人腦相近，甚至?xí)饺祟?lèi)的智能水平，它已經(jīng)在社會(huì)各個(gè)領(lǐng)域的應(yīng)用中顯示出了巨大威力和社會(huì)價(jià)值， 也一再點(diǎn)燃和激活了人們對(duì)人工智能在教育應(yīng)用中的熱情和期待。 正如李政濤教授所言：“技術(shù)擁有改變世界、 改變?nèi)祟?lèi)和改變教育的偉力，它已經(jīng)成為具有強(qiáng)大自主性的存在”[29]。

面對(duì)人工智能有可能給人類(lèi)教育帶來(lái)的種種風(fēng)險(xiǎn)和危害，人們呼喚和期待通過(guò)重建教育倫理體系，重構(gòu)教育倫理秩序來(lái)消除技術(shù)陷阱，化解倫理風(fēng)險(xiǎn)，除了價(jià)值前提和規(guī)范前提之外，責(zé)任前提則是“應(yīng)該做什么”的倫理道德準(zhǔn)則指向，這是對(duì)人工智能在教育應(yīng)用中的應(yīng)然要求， 凸顯其變革教育的使命感和責(zé)任感?？傊魏我环N技術(shù)，無(wú)論其如何應(yīng)用，只有明確承擔(dān)起自己的責(zé)任， 這一責(zé)任才會(huì)成為其持續(xù)發(fā)展的驅(qū)動(dòng)力和規(guī)制力。