于英姿 胡凡剛

（曲阜師范大學 傳媒學院，山東日照 276826）

進入21 世紀以來，以人工智能、物聯(lián)網(wǎng)、大數(shù)據(jù)、沉浸式學習系統(tǒng)等為代表的智能技術，正給人類的生產(chǎn)、生活帶來了深遠的影響。 近年來，隨著智能技術發(fā)展并應用于教育的不斷深入， 人們對智能技術的態(tài)度呈現(xiàn)出支持和反對兩種相互對立的認知和實踐傾向，也存在著一些爭議。 我們認為，尊崇某種自然規(guī)律給教育帶來確定和不確定雙重影響的智能技術，在對教育與學習賦能的過程中，不可避免會引發(fā)人們對其價值、責任、隱私、人性等方面的倫理隱憂。 正如馬克思所言：“工業(yè)的歷史和工業(yè)已經(jīng)生成的對象性存在， 成為一本打開關于人的本質力量的書，是感性地擺在我們面前的人的心理學”[1]。馬克思的這一論斷， 也為今天引導人們如何正確處理對智能技術的態(tài)度，提供了理論指引。智能技術之于當下教育的過程中，在隱私和數(shù)據(jù)安全、知識產(chǎn)權、預防歧視等方面出現(xiàn)的問題， 都對現(xiàn)有教育運行規(guī)則和教育倫理產(chǎn)生著較大的影響與沖擊。

因此， 我們有必要遵循智能技術之于教育的價值、隱憂與消解路徑這一邏輯思路，探討智能技術與人的真實關系， 在智能技術之于教育的語境中肯定和強化人的主體性，并從具體實踐問題入手，強化人的建設性參與。

一、智能技術之于教育的價值所在

伴隨著科學技術的迅猛發(fā)展， 智能時代如約而至，自英國人阿蘭·圖林（A.Turing）首次提出智能機的設想，并且認為機器是能夠思維的；到俄羅斯科學家設計的聊天程序，到尤金·古斯特曼（E.Goostman）首次通過圖靈測試；再到Google 公司制造的Alpha-Go 戰(zhàn)勝世界冠軍柯潔[2]，智能技術正在不斷地刷新人們對它的認知。大數(shù)據(jù)技術可以將符號化、模型化的人類行為活動進行收集、整理，學習分析技術可以將海量信息進行甄別、篩選、分類、分析、整合等，這樣，人類在客觀自然世界中所獲得的刺激，通過人工智能技術以符號化等表征方式賦予機器人， 機器人通過刺激進行匹配、聯(lián)結，進而進行計算、推理、語義理解和決策，最后輸出行為[3]。 近年來，眾多專家學者通過引進人工智能（AI）技術，借助大數(shù)據(jù)、智能機器人等來促進教育教學改革， 實現(xiàn)教育教學模式的轉型， 已進行了深入研究并提出具有建設性的思考[4]。唐漢衛(wèi)研究了在智能時代教育的存在問題[5]；賈積有討論了智能技術對教育的影響， 認為能促進人類學習方式變革[6]；余勝泉認為未來的教育將走向教師與人工智能協(xié)同共存時代等[7]。 這些研究，均揭示了智能技術對教育產(chǎn)生著較大影響并具有重要價值。

我們認為，進入智能時代，技術應用于教育系統(tǒng)必將帶來或創(chuàng)造新的價值（如圖1）。 昔日的教育模式已無法適應今日的社會需要， 昨天的教育理念也難以有效指導今日的教育實踐， 需要合理地利用現(xiàn)代智能技術，促進教育“從現(xiàn)在走向未來”。

圖1 智能技術之于教育價值解析

（一）從“批量灌溉”到“精準投放”

教育作為社會發(fā)展的產(chǎn)物， 深刻地反映著時代的特征。在大機器生產(chǎn)的工業(yè)時代，班級授課制風靡全球，這種教學模式適用于像“流水線”一樣批量培養(yǎng)生產(chǎn)工人，不管是學習目標、學習內容還是學習環(huán)境，都在一定區(qū)域內是統(tǒng)一的，體現(xiàn)的是“批量灌溉”式的人才培養(yǎng)方式。 但是，當我們進入智能時代，班級授課制已表現(xiàn)平平，“工業(yè)化” 的教育形式已難以支撐今日的人才需求， 我們首先要反思的是智能時代需要培養(yǎng)什么樣的人？愛因斯坦說過，教育的價值不在于學習很多事實，而在于訓練大腦會思考。智能時代的學生應具有四種關鍵能力，分別是創(chuàng)新能力、實踐能力、合作能力和批判能力[8]。

基于此目標，“教育工廠” 的舊模式顯然已無法滿足社會發(fā)展的需要，“工業(yè)化” 教育需要向“智能化”教育轉型[9]。轉型的關鍵就是要為教育松綁，擺脫應試教育的捆綁式學習（指固定的場所、目標、教材、方法等），把“批量灌溉”升級為“精準投放”。 智能技術可以基于海量的數(shù)據(jù)庫和知識庫， 實現(xiàn)在學習的過程中精確追蹤學生的學習行為，對其知識水平、學習進展、學習風格等數(shù)據(jù)進行收集分析；教師通過大數(shù)據(jù)分析出的學生知識圖譜， 根據(jù)分析結果和特殊需求為學生“精準投放”個性化任務和學習方案，并依托其強大的資源庫提取“私人訂制”式學習內容，幫助其理解問題并實現(xiàn)特定目標[10]。 技術的進步為教育者提供了更有效的教育手段，專家系統(tǒng)、智慧教室、學習分析技術[11]、語音識別技術、語音轉文本等作為輔助工具，正極大地促進了個性化學習的實現(xiàn)。智能技術正在并將持續(xù)改變教學組織形式、 內容體系、培養(yǎng)目標、培養(yǎng)方式等[12]，在全面、高效地幫助教師教學的同時，能夠精準、個性化地促進學生學習。

（二）從“固定教材”到“生成內容”

隨著教育理念和培養(yǎng)目標的改變， 我們可以預見的是，在不久的將來，單純依賴于課本、課件等“固定教材”必將滿足不了當下的教育需求。為促進學生的個性化學習以及全面發(fā)展， 教育中需要更加重視“生成內容”。但我國教育機制受科舉制影響深遠，直到如今，很多考試還借鑒八股文的形式，不同題型有不同的“套路”，按照“套路”來做就能得高分。還有一個特點就是“萬物皆可背”，不管是作文還是公式定理，只要出現(xiàn)在課本上學生就能背，而對其背后的科學原理往往一知半解。長此以往，學生固然面對考試可能會取得不錯的成績， 但會導致更為嚴重的思維固化問題，不利于創(chuàng)新能力、批判性思維的培養(yǎng)。

智能技術的應用， 為教育教學提供了先進的手段，教育也由此具有了更高的追求。不僅要將基礎打牢， 還要在學習過程中面對具體問題能結合自身生活經(jīng)驗和學習經(jīng)驗，打破學科壁壘，綜合運用各學科知識以達到解決問題的學習目標。 不像傳統(tǒng)課堂中所有學習者都采用同樣的教材， 在智能技術的支持下，教師和學生在學習過程中，可將現(xiàn)實和虛擬結合起來，對學生學習風格進行深入挖掘，根據(jù)學習目標和個體學習的“關鍵詞”，運用智能技術的語義分析以及內嵌算法，變換學習場景，因材施教，生成個性化內容。這樣不僅有利于學習者的個性化學習，還能高效、批量地生成優(yōu)質內容，減輕教師制作課程資源的負擔。 學習過程隨學習環(huán)境、培養(yǎng)目標、個人興趣等發(fā)生適應性改變，實現(xiàn)了人機協(xié)同、學科整合、資源共享等， 能有效地提高學生的應變能力、 溝通能力、邏輯思維能力、創(chuàng)造能力以及合作探究能力等[13]。

（三）從“流程繁復”到“過程消減”

早在互聯(lián)網(wǎng)技術快速發(fā)展的時代， 人們就已經(jīng)實現(xiàn)了跨時空的溝通和學習。進入智能時代，人們需要的不是一板一眼的教學流程， 而是要靈活利用智能技術進行前期分析、資源選擇、目標制定、環(huán)境設計等，這將大大減輕教師完成重復性、標準化的工作負擔，節(jié)省人力、時間，并能幫助人們進行科學決策、智能管理等；同時，也提供給師生更為智能、細致的服務，實現(xiàn)把“流程繁復”轉化為“過程消減”。

首先，我們的學習環(huán)境已從多媒體環(huán)境進化到了虛實結合的智能化深度學習環(huán)境，智能技術既提供了科學有效的教學場景，也幫助教師整理資源、備課以及評價等，簡化了教學準備和總結等工作流程。越來越多的國內外知名科技公司所研發(fā)出智能教育產(chǎn)品，比如，“暢言智慧課堂”“智慧云課堂”等，為學習者提供了深度學習的良好環(huán)境，這些平臺結構合理、資源豐富、交互便捷、服務人性[14]。 學生可在“無邊界學?！敝蝎@得個性化的學習資源，主動、批判性的整合跨學科知識，以深度理解為起點，以新情境的知識遷移為導向，以解決復雜問題和培養(yǎng)創(chuàng)新能力為目標，實現(xiàn)深度而富有成效的學習，更好地促進學習者德智體美勞全面發(fā)展。

其次，隨著智能技術的成熟，在教育大數(shù)據(jù)的基礎上，機器人系統(tǒng)能夠提供動態(tài)的、及時的服務，既能使用信息跟蹤技術追蹤學習者的學習時間、 學習場所、學習內容等；又能利用人臉識別技術和鏡像技術等記錄學習者的學習注意力、 學習興趣、 學習習慣。并能將兩種甚至更多的技術結合，得到學習者的學習特點，為其提供反饋和建議，及時、適切地調整學習狀態(tài)，幫助教師高效管理課堂，減輕教師負擔。

最后，智能學伴、智能教師、專家系統(tǒng)等利用人工智能技術，自適應地提供個性化學習指導[15]。 它們存儲了大量的知識和經(jīng)驗， 當用戶通過人機交互界面向系統(tǒng)進行提問時， 它能利用自身的知識庫做出對問題的合理解答，在學習過程中像一個“專家”一樣存在，對用戶學習起到輔助作用[16]。 它們在學習過程陪伴學生，不僅能夠提高學生的學習興趣，還能夠為學生定制符合其個人發(fā)展現(xiàn)狀的學習任務， 有針對性地解決學習問題，進而提升學習效果。

（四）從“總結評價”到“形成評價”

隨著智能技術的發(fā)展， 教育領域在迎來重大機遇的同時，也面臨著嚴峻的挑戰(zhàn)。不同的價值觀念和教育理念相互碰撞， 模糊著人們對教育質量的價值判斷和選擇[17]。 因此，需要采用多元評價方式，綜合考量教育質量和教育價值， 而技術也為智能時代構建教育質量評價體系提供了有力的武器。 但現(xiàn)有的教學評價體系仍有諸多不足， 其中顯著的一個問題就是教學評價缺乏全面性和深入性。 當前學校所實行的形成性評價，也擺脫不了總結性評價的影子，主要以座談、問卷、單元測試等“馬后炮”式評價為主。甚至對不同學段、 不同特點的學生采用同樣的評價方式，鮮少和學段特點、學科特性等的結合。

智能技術為教育評價帶來了新思路、新方法，尤其是高效的大數(shù)據(jù)分析技術為教學評價提供了技術支持。在先進評價方法的指引下，促進了教學評價向真正的“形成評價”與“總結評價”相結合的方向發(fā)展：在學習活動開始前，通過大數(shù)據(jù)技術進行診斷性評價，可以預先了解不同學生的學習準備情況、已有知識水平、學習能力等信息，為教學活動提供依據(jù)。在學習過程中， 大數(shù)據(jù)技術能夠細致入微地記錄教師和學生的課堂行為，比如，通過追蹤眼球聚焦關注點和眨眼頻次來分析學生注意力情況和學習興趣[18]，彌補了教師難以兼顧所有學生課堂表現(xiàn)之不足，并且對“尖子生”和“后進生”一視同仁，最大限度地促進教育公平。在收集多方面的信息后，能夠快速進行數(shù)據(jù)分析，將不同個體的學習情況呈現(xiàn)給教師，幫助教師精準指導學生學習。 大數(shù)據(jù)技術還能同時與學生建立聯(lián)系，通過信息反饋提供可行建議。在結束某一學習任務后， 不再單純依賴傳統(tǒng)測試來進行總結性評價，而是全面分析學生成果表現(xiàn)、價值等作出綜合判斷，并結合診斷性評價和形成性評價，為下一階段學習的設計和管理提供依據(jù)。 智能技術促進了教學評價的科學性， 能夠更加精準地判斷教育質量和教育價值，為創(chuàng)新人才的培養(yǎng)提供了條件。

二、隱憂思考：智能技術之于教育的倫理失范

可見，智能技術與教育的結合，極大地促進了我們的教學與學習，正如許多專家預言的那樣，人工智能等智能技術正在促進深度學習、優(yōu)化人才培養(yǎng)、改善教學環(huán)境、創(chuàng)新教學模式等方面持續(xù)發(fā)力。

但是，技術的本質不會變，我們創(chuàng)造出的這種技術“助手”在進入生活、工作領域的過程中，工具思維和教育理念的碰撞， 勢必會催生出技術異化所導致的倫理失范問題（如圖2 所示），而這往往在技術繁榮的迷霧中容易被忽略的。 倫理問題一直都是教育發(fā)展和改革中需要重視的方面，此類問題可從價值、尊嚴、隱私和人性等多維視角來審視。

圖2 智能技術之于教育的倫理失范解析

（一）自身價值的疑慮

不可否認， 智能技術在教育中具有較高的應用價值，能夠提供便捷、豐富的學習資源，逐漸減輕教師的負擔等等。為此樂觀派認為，智能技術是無所不能的“超人”，只要技術一直進步，人類下個指令就能幫我們完成任務。但問題是，如果將來實現(xiàn)了這種理想化的圖景，那人的價值在哪里？人類還有存在的必要嗎？人類創(chuàng)造技術并不是要用來毀滅自身的，我們要理智的思考技術在教育中發(fā)揮的價值。

首先，技術的發(fā)展需要教育來培養(yǎng)人才，同時，技術又能夠運用到教育中， 促進教學模式和教學環(huán)境的改進。與人類教師相比，智能技術具有非常顯著的優(yōu)勢，譬如，大數(shù)據(jù)系統(tǒng)具有豐富的、更新速度快的知識庫，可以幫助學生精確定位，設定特色學習任務；智能機器人能在短時間內學習大量知識，能持續(xù)保持高效率，只要有電就能一直工作等等。 雖然，最終智能技術至少在情感、思想、價值觀方面不會取代人類教師，但是，它一定會對教師的職業(yè)造成不小的沖擊，甚至會使得教師懷疑自身的價值。 另外，在教育教學實踐中，也可能會存在“技術鴻溝”，置身于教育信息化的大潮中，技術被應用得熱火朝天，但也有相當一部分的教師還不能愉快地接受、 學習并自覺應用智能技術，他們還未來得及主動了解技術，就受到技術擠壓從而被動接納它。 技術應用不是生拉硬派的死任務，它與我們一直在提倡的主動學習一樣，需要自主、有選擇的去使用。

其次， 馬克思主義認為，“勞動是人的本質活動”，而當智能技術越來越多的在社會生活中取代以往由人類完成的勞動時， 人類的體力就會越來越廉價。 由此會減少就業(yè)機會，引起就業(yè)恐慌。 面對不斷上升的失業(yè)率，社會的貧富差距就會越來越大，而這又對促進社會與教育公平非常不利。面對這種情況，人們就會期望通過教育來培養(yǎng)更具競爭優(yōu)勢的人才，但培養(yǎng)一個智能時代需要的創(chuàng)新型人才，遠比培養(yǎng)一個普通勞動者要困難的多。

最后， 智能技術的發(fā)展為教育提供了更為便捷的環(huán)境和空間，當前應用的智慧教室、專家系統(tǒng)等，作為輔助教學手段取得了一定的成績， 獲得了社會的認可。 但問題在于：當技術越來越厲害，在教育中像一個“超人”一樣無所不能——你的問題它會給你解決，你有困難它馬上就會提供幫助時，人類是否會厭于思考？ 是否會逐漸缺失探究精神和問題解決能力？當學習者給機器人下發(fā)指令，它就會完美的完成任務，沒有過程中的困難和曲折，這樣，人的惰性會不會膨脹？越來越多的師生是否會滿足于坐享其成？顯然，當整個教育大環(huán)境都呈現(xiàn)這樣一種狀態(tài)時，人們的思維就會面臨退化風險。并且，當智能機器人如果能夠完成幾乎所有的工作，那么，在那個技術異化所導致的社會中，我們似乎就看不到人存在的價值。

（二）AI 責任的迷霧

當前，將AI 應用到教育中，以智能機器人來促進教和學已是大勢所趨。 除傳統(tǒng)的教學活動中的構成要素外， 智能機器人也成為現(xiàn)代教育的重要成分之一。 在這種背景下，我們有必要思考：智能機器人這種“類人類”，是否也應該享有人類的權利？在享有權利的同時，是否要承擔相應的責任？ 另外，智能機器人是依靠數(shù)據(jù)和內部的算法而存在的， 當智能機器人收集到了虛假的數(shù)據(jù)或是內部算法出錯， 從而做出“傷害”教師和學生的情況，這時應該由誰來承擔責任？ 是學生、教師、領導還是生產(chǎn)商？ 雖然，當前的技術還未達到我們想象的那么成熟， 但在我們可預見的未來，智能機器人會大規(guī)模地應用于教學，到那時再來考慮這個問題，可能就為時已晚。

我們認為，在智能機器人的責任問題方面，主要存在三方面的隱憂：（1）智能機器人畢竟不是真正的“人”，當它面對道德難題時如何抉擇，我們如何去定義它的道德地位， 各國現(xiàn)行的法律體系中缺少關于智能機器人違法的處罰條例； 即使智能機器人真的犯了錯，該交給誰來管制，又要通過什么手段進行處罰也是空白；（2）設計者將一定的算法、規(guī)則植入智能機器人內部系統(tǒng)并制作出來，之后投入使用。在具體使用中，設計者就難以對其進行控制，更不用說一旦技術發(fā)展完全成熟， 所制造的智能機器人可以獨立思考時再對其進行控制了。一旦技術發(fā)生異化，會給人類帶來危機，比如，智能駕駛發(fā)生交通事故，這種情況誰該來承擔責任；（3）AI 技術是在大數(shù)據(jù)的基礎上發(fā)展而來， 智能機器人自身的工作依賴大量完整的數(shù)據(jù)，眾多學者提出了AI 可根據(jù)每個人的獨特數(shù)據(jù)來實施個性化教學， 但很少有人質疑過這真的只是完全的個性化教學而不會導致歧視性教學？大數(shù)據(jù)并不是我們可以完全信賴的對象，目前，大數(shù)據(jù)歧視的例子有很多。 比如，由于Google 公司的搜索引擎中將黑人和猩猩關聯(lián)在一起， 因而被打上了“種族歧視”的標簽；再比如，學生畢業(yè)找工作時，由于籍貫、年齡、性別等都在簡歷上，大公司會應用AI系統(tǒng)進行初步篩選， 對于不喜歡的地區(qū)甚至是性別進行剔除。這種數(shù)據(jù)導致的歧視行為，致使貧困地區(qū)子弟、女性等難以找到優(yōu)質工作。這些行為出現(xiàn)的責任在誰？目前都很難進行界定?？梢姡珹I 教育的責任承擔問題，至今還沒有清晰的業(yè)界標準，當危險真正來臨時，也許會給人類帶來更大的生存危機。

（三）用戶隱私的風險

智能技術的出現(xiàn)， 源于人們對機器模仿人類的構思， 在其發(fā)展的最初階段能夠模仿人類的肢體活動。隨著技術的成熟，智能機器人能夠感知光、聲、溫度等。現(xiàn)在，人工智能等技術正朝著模仿人的認知方向發(fā)展，在此過程中依賴的是大量且完整的數(shù)據(jù)，可以說，數(shù)據(jù)是智能的基礎[19]。 如此龐大的數(shù)據(jù)量勢必將從龐大的人群中進行收集，這樣使得包含個人、各級各類學校、 教育行政部門和各相關智能技術企業(yè)等參與主體的數(shù)據(jù)安全及隱私權得不到有效保障，容易導致以提供私人訂制和個性化服務為目的的海量數(shù)據(jù)采集與分析過程中的泄露、不當使用等風險，尤其是個人信息在不經(jīng)意間會被泄露。 這樣的情況在當今社會中已經(jīng)非常普遍，比如，當你某天在網(wǎng)絡購物時搜索一件商品， 你就會發(fā)現(xiàn)在接下來的幾天中再打開該網(wǎng)站，就會自動為你推薦這類商品，并且還會給手機發(fā)送關于這類商品的降價消息等。

回到教育問題上來，個人基本信息、學籍檔案、學習資源庫、教師教的行為、學生學的行為等，都將以數(shù)據(jù)的形式表述出來， 然后被智能系統(tǒng)收集、處理。 隨著技術趨于成熟，個體的情感、態(tài)度都將變成數(shù)據(jù)， 智能技術可以自動地對所接受到的數(shù)據(jù)進行標記， 進而具有自主學習能力而超出人類的先驗知識范圍[20]。 即AI 通過不間斷、無死角的采集個體數(shù)據(jù)，從而準確了解個體成長狀態(tài)，進而針對實際情況提供個性化服務。在這個過程中，不管是教師還是學生都可能毫無隱私可言[21]。 實際上，如此全方位的記錄一個人的行為舉止和喜怒哀樂， 對個體來說是一種近乎監(jiān)控式的存在。而當學生感受到被監(jiān)控時，就會觸發(fā)一種抵觸心理。譬如，學校利用智能探頭等全方位記錄學生的學習過程， 記錄下來的絕不只是關于學習的行為和思想， 還有與同學之間的互動與正常的生活樣態(tài)等。 當系統(tǒng)將分析后的結果呈現(xiàn)給教師后， 從教師的角度可能認為有些行為是不合時宜的，進而給予學生一定程度的告誡或懲罰；但從學生的角度會認為自己正在被監(jiān)控， 往后會有意的避開某些舉動，對其信任感降低進而去抵觸它。 若這樣，智能技術應用的價值何在？

另外，不僅是教師，平臺管理者、系統(tǒng)開發(fā)者或是家長，都有可能看到智能技術所收集的數(shù)據(jù)，進而增加數(shù)據(jù)隱私泄露風險。 比如，一個APP 通過收集注冊用戶的信息從而給每個人打上不同的標簽，了解他們的喜好，甚至能預測用戶接下來將需要什么，引導用戶進行消費， 并且更有可能將這些信息置換給其他合作平臺。再如，現(xiàn)在家校合作大多是采用微信群、家校合作系統(tǒng)等方式，大到期末考、期中考，小到月考、單元測試、隨堂測試甚至是每堂課回答問題情況，都會在微信群里公布，這不僅侵犯了學生的隱私，家長群體也會形成一種攀比，致使學生的學習帶有目的性、功利性?？傊?，在當下的社會中，衣食住行中的一舉一動都被數(shù)據(jù)化并記錄下來， 數(shù)據(jù)會無孔不入的侵入個人生活，造成困擾。 當前，智能探頭和人臉識別系統(tǒng)等正逐漸運用于教育教學管理中，這一方面體現(xiàn)了智能技術為教育賦能， 但另方面我們需要思考：這究竟是利用智能技術顛覆填鴨式教育，還是提供了更加精密嚴格的應試教育？

（四）“后果論”計算的遮蔽

后果論是倫理學中進行道德判斷的重要理論之一，它對行為的判斷是根據(jù)行為后果的好壞來進行。如果行為最終帶來的是幸福感和滿足感，那么，在道德上就是好的行為，人們會以滿意的態(tài)度欣然接受；反之，則是不好的行為，人們就會以反感的態(tài)度加以拒絕[22]。 聚焦到我們的教育實踐，以“后果論”來對智能技術應用于教育的種種行為進行道德判斷時，其實質就在于判斷該行為能否帶動整個教育行業(yè)的健康發(fā)展，能否培養(yǎng)全面發(fā)展的人才，能否增加師生的幸福感等[23]。 但是，在人工智能、大數(shù)據(jù)、學習分析等為代表的智能技術應用于教育所創(chuàng)設出的新型教育情境中，真正代入“后果論”時，還不能如設想那般簡便快捷地審視行為后果，并判斷行為是否道德。

首先，以“后果論”進行道德判斷時，無法明確行為后果獲得者的范圍。在智能化的環(huán)境中，不僅能將世界各地的現(xiàn)實使用者連接起來， 還會連接智能機器人等虛擬使用者， 這就使得智能環(huán)境中的成員范圍無限擴大。并且由于現(xiàn)實和虛擬成員的目標不同，他們即使相互交互，卻也面臨著價值沖突。 而“后果論”強調的是成員總體幸福感與獲得感，面對不同的利益群體，這給幸福感的計算帶來了很大的困難，無論是更重視哪一方， 都可能對其他成員不公平。 因此，在“無邊界”的智能環(huán)境中，成員的多樣性使“后果論”難以找到恰當?shù)姆绞竭M行計算。

其次，交互對象的虛實性難以辨別，同樣會遮蔽“后果論”的計算。 隨著技術的成熟，智能機器人等“類人類”必將得到大量的應用，不可否認，這將大大提高人們的工作效率，提升生活質量。但它也會為道德判斷帶來阻力： 不像現(xiàn)實社會中一個人只有一個身份證號， 在網(wǎng)絡交互環(huán)境中， 一個人可以有多個ID，甚至會找到自己的“機器人代理”，代替自己進行一定范圍的交互。那么，在如此龐大的交互圈中將難以辨別虛實， 這也為行為規(guī)范和政策法規(guī)的實施與執(zhí)行帶來困難。 人們可以用命令機器人代替執(zhí)行自己的義務而自己享受權利，長此以往，會導致法律法規(guī)的權威性降低，進而弱化公眾的倫理道德信念。

總之，智能化使道德判斷面臨無法預知邊界的用戶群體并且難以確認具體身份信息的困境，這在一定程度上使“后果論”失效。 當出現(xiàn)計算遮蔽，不僅會使道德邊界模糊，使不道德的行為游走于社會網(wǎng)絡而難以監(jiān)測，還會導致公眾對道德認知的弱化，久而久之，會漸漸放棄對自己行為的約束。 因此，在未來的智能化環(huán)境中，“后果論”失效的趨勢將越來越明顯。

（五）“類主體”本質的挑戰(zhàn)

智能技術作為教學手段固然能夠使教與學變得更加精準，但由于智能技術的“類主體”本質，又很容易陷入“只見技術不見人”的窘境，即把生命主體物化為簡單的數(shù)據(jù)技術的誤區(qū)。 把作為本應發(fā)生在人與人之間雙向交流活動的活教育，變成“嗔不怒、言不語”的人機隔空喊話。 久而久之，可能演變?yōu)閷W習推送有余而選擇不足、交互有余而交往不足、理性有余而感性不足、精細有余而大氣不足。

首先，智能技術來源于人的智能，是對人類的模仿和復制， 但在思維和意識上難以超越人類的靈活性、多樣性和創(chuàng)造性。 如同馬克思強調“人的本質并不是單個人所固有的抽象物，在其現(xiàn)實性上，它是一切社會關系的總和”[24]。 因此，智能技術永遠無法具有人的主體性，它只能按照特定的程序和指令，在一定的規(guī)則下進行“類人”行動。 也許它會做簡單的思考，卻難以像人類一樣擁有向真、向善、向美的心靈和數(shù)千年間流傳下來的高貴品質。 機器人等智能技術產(chǎn)品，相對于人類可能會更好地適應環(huán)境，但缺少了主動性與創(chuàng)造性， 它的活動來源于內嵌的程序而不是自我意識。智能技術的發(fā)展也存在邊界，它借助技術來模擬人腦卻達不到人腦那樣精密， 難以主動思考。即使智能技術可以代替人類做很多工作，但卻缺少意識的主動性、思維的整體性與創(chuàng)新的自覺性。

其次， 智能技術對于人類感官的模擬仍然處于機械化階段，無法進行真正能動的思考，產(chǎn)生豐富多彩的感覺。智能技術有其獨特的程序語言設計，它的運算是通過像C 語言、C++、JAVA 語言等程序來定義的。因此，智能技術的工作過程是冰冷且不帶感情的， 無法擁有人類豐富多彩的思想情感以及道德認知。 換言之，機械化的模仿和復制，無法讓技術擁有和人類共情的能力， 它只能將各種行為和事物以符號化來表征和處理，沒有天馬行空般的想象力。所謂“莫拉維克悖論”， 就是指智能技術邏輯運算能力的突出與靈活應變能力的僵硬所形成的強烈對比，當下智能技術在情感感知方面，甚至比不上一歲小孩。

因此，在現(xiàn)實的教育實踐中應用智能技術，憑借其強大的運算能力和龐大的數(shù)據(jù)知識庫， 在自然科學領域或許可以幫助學生理性嚴謹?shù)乃伎肌?但由于社會科學領域主觀性較強， 有各種各樣的立場和觀點， 智能技術難以跟隨環(huán)境的變化而進行靈活的自我調整與應對。智能技術這種的“類主體”本質，決定了它的存在并不能擁有與人類等同的主體地位，至少在社會奉獻、 道德認知和情感內化等心理學和倫理學層面，不足以成為人類進步的源動力。

（六）教育本質的偏頗

教育領域中的學習理論， 經(jīng)歷了從行為主義到認知主義再到人本主義和建構主義等發(fā)展過程，馬克思主義也以“人的全面發(fā)展” 作為其基本原理之一。由此看出，當今社會的發(fā)展進化始終要緊緊圍繞“人”這個主題，智能時代也不例外。但由于技術的迅猛發(fā)展，一部分人似乎認為技術已無所不能，并且對于技術的推崇達到了前所未有的程度， 認為只要技術足夠先進，就沒有解決不了的教育教學問題，就能培養(yǎng)出優(yōu)秀的學生，社會就能進步。 不可否認，技術的發(fā)展一定是會推動社會進步， 但我們的立足點始終要落在“人”身上，技術的進步是服務于人的，教育對人的發(fā)展具有塑造作用， 技術即使具有不可或缺性，能幫助教育更好地發(fā)揮作用，但卻又不足以代替教育[25]。 教育要如何發(fā)展，必須回歸教育本質。

近年來，教育信息化浪潮席卷整個教育界，為教育教學帶來了新技術、新方法，極大地促進了教與學。但在繁榮的背后，也出現(xiàn)了一些失范行為，比如，在教學過程中過度依賴技術的使用，技術異化成為教師和學生沉重的負擔，甚至喪失主導權，讓技術牽著鼻子走。 學生該怎樣學習的標尺，從學生個體需要和特點漸漸向技術可以提供什么樣的幫助偏移。這值得我們反思：一方面，智能技術發(fā)展到現(xiàn)在，已經(jīng)出現(xiàn)了不少戰(zhàn)勝人類的例子。如果有朝一日智能機器也像人一樣有了意識、會思考，成為比人更聰明的存在，那我們一直信奉的“以人為本”理念是否會被推翻？當機器人有了權利，人類是否能與其和諧共存？另一方面，交互是教育教學中的重要環(huán)節(jié)，傳統(tǒng)教學中主要是人與人的交互，智能時代的教學中已經(jīng)衍生出人與智能機器人的交互，隨著機器人的智能化程度越來越高，教師將其應用到教學中的頻次就越多，教師和學生與其交互的機會就會越來越多，師生對智能機器人的依賴感自然也會加深，很可能形成“教師—機器人—學生”這一新型交互結構[26]。 顯然，當這種結構形成后，教師與學生之間的師生之情將會淡薄。 我們不妨設想一下，當學生的行為、感情、思想都變成冷冰冰的數(shù)據(jù)呈現(xiàn)在教師眼前，會不會有礙人與人之間真、善、美的培養(yǎng)？教師內心對學生的舐犢之情會不會減弱？這是不是我們費力改革教育想要的結果？

當然，我們也不用太過擔驚受怕，戰(zhàn)戰(zhàn)兢兢而不敢使用智能技術。在一定的范圍和邊界里，智能技術對我們而言還是安全的， 但是我們始終都要認識到“人工智能源于人的智能”，秉持著“以人為本”的理念去發(fā)展技術，從而有效利用技術。

三、消解困境，行穩(wěn)致遠

在人類歷史上， 從未出現(xiàn)過技術發(fā)展如此快速的時代，雖然技術在今天仍作為人類的工具而存在，但不可否認的是，智能技術發(fā)展勢頭正十分強勁，也許某一天“奇點”來臨——智能機器人真的像人類一樣，具有了思維甚至在智力和體力上全面超越人類。對此，我們必須未雨綢繆。

為了人機在未來能夠和諧共生， 促進智能技術的可持續(xù)健康發(fā)展， 我們有必要重視審視它在教育應用中的倫理風險， 并且針對倫理風險問題提出恰當?shù)慕鉀Q方案——AI 倫理困境消解路徑 （如圖3），以期在事情發(fā)生之前做好充分準備， 以避免真正面臨危險時措手不及。

圖3 AI 倫理困境消解路徑

（一）轉變思維方式，尋求自我價值

智能技術發(fā)展不足百年， 在這短短的幾十年時間里培養(yǎng)出的專業(yè)智能人才更是鳳毛麟角，可以說，當今最緊缺人才之一就是專業(yè)智能人才。 隨著智能技術與教育、醫(yī)療等行為的融合加深，技術人才日益活躍在各個領域。但我們需要清醒的認識到“術業(yè)有專攻”，以教育領域為例，這些智能技術的研究者所研發(fā)新技術的動機或者目的， 真正來源于教育實踐的并不多，他們沒有深入教育實踐，很難了解教育教學的痛點， 抓不住痛點就不能有效地應用技術解決實際問題。 所以，目前在智能技術的開發(fā)中，技術人員要與教育者、受教育者廣泛接觸與深入交互，抓住重要或關鍵問題。毋庸置疑，智能技術是不能取代教師的，原因不僅在于它在情感、價值觀上難以取代教師，還在于不管智能技術發(fā)展如何成熟、如何先進，教育作為育人的事業(yè)，只有不斷地深入教學實踐，與學生交流溝通才能做出最合適的教學行為。

我們也需要明確一點， 教師在智能時代的價值已不局限于上課、批改作業(yè)等方面，教師要想不被時代拋棄就需要轉變思維方式。 既然智能技術能在教學中發(fā)揮優(yōu)勢，大大提高工作效率，不如在重復性工作上放手，專注培養(yǎng)學習者的高階思維。教師仍然作為教學中的主導者，在教育教學一線積累實踐經(jīng)驗，并與AI 研究者加強交流，以豐富的經(jīng)驗提供給系統(tǒng)開發(fā)者一些專業(yè)建議，為技術開發(fā)提供理論基礎，真正做到與生產(chǎn)智能教學產(chǎn)品的科技公司合作共贏。在智能教學過程中，教師還可以作為監(jiān)管者存在，監(jiān)控技術是否有效發(fā)揮作用，是否合乎倫理規(guī)范等，并在技術出現(xiàn)bug 時及時止損。 由教育領域映射到廣闊的社會領域，固然技術取代了人的很多工作，使很多人迷失了自我價值，但我們可以轉變思維方式，讓他們學會平衡自我、 人際和外部社會之間的共同關系，積極尋求自我價值，提升技能與素養(yǎng)，從而更好地承擔社會責任，在社會中占據(jù)一席之地[27]。

（二）協(xié)同治理風險，加強法律監(jiān)管

協(xié)同治理是指為治理社會公共事務， 解決復雜多變的社會問題，政府與非政府的組織、個人間開展合作，共同管理社會的模式。美國發(fā)布的《大數(shù)據(jù)：把握機遇，守護價值》，歐盟發(fā)布的《人工智能倫理準則》[28]，Google 頒布的《谷歌AI 的原則》，這些不管是政府還是非政府組織，都在積極采取政策應對AI 倫理風險。 由于智能技術應用于教育形成的系統(tǒng)中涉及多元主體，并且倫理風險復雜難測，所以，僅僅依靠政府的力量解決難免后繼乏力， 只有政府與非政府組織上下互動，多方利益主體相互聯(lián)通，共同參與倫理治理，才能有力地化解風險，促進教育健康發(fā)展。

首先， 針對人類與智能技術愈加模糊的人機界限， 政府需要出臺相關法律為智能技術界定倫理地位，并制定“機器人違法”的處罰條例，增強法律監(jiān)管；同時，也要保證智能機器人有一定權利，不能通過制定處罰條例造成大眾迷思， 誤將智能機器人放到社會的對立面，從而產(chǎn)生排斥感和不信任感。

其次，智能機器人是由人創(chuàng)造出來的，理應制定面向智能技術開發(fā)人員的法律法規(guī)，在隱私安全、人機交互等方面加強監(jiān)管。 既要有一定的措施鼓勵科研人員研發(fā)新技術， 又要通過相關法律制約技術的無序發(fā)展，對涉及倫理、安全的技術要明確開發(fā)人員的法律責任和義務， 適當促進智能技術在人們不愿從事的社會工作中的應用， 并適當限制在絕大多數(shù)人賴以生存和發(fā)展的工作領域中的使用。

最后，智能技術所涉及到的社會道德層次較多，治理范圍大并且技術專業(yè)性極強， 僅靠政府監(jiān)管難免顧此失彼， 這就需要政府和社會各階層的協(xié)同治理。比如，隱私泄露、就業(yè)歧視等問題，單靠政府的力量難以顧及其中的利益主體，當專家、公眾等組成的非政府組織利用各自的優(yōu)勢，相互信任，協(xié)同政府治理AI 人倫理道德問題時，才能比較有效解決難題。

（三）進行人工干預，建構倫理規(guī)則

無論是在教育領域還是更為廣闊的社會領域中， 智能技術倫理問題是伴隨技術的迅猛發(fā)展而產(chǎn)生的。 既然是技術的發(fā)展帶來了新的問題，那么，我們也可以通過一定的技術手段尋找消解路徑。 在漫長的進化過程中， 人類形成了一套合乎生存法則的道德觀念，能夠做到與自然和諧共存共生，如果智能機器人內部程序也有這樣一套倫理法則，那么，許許多多的倫理問題將會迎刃而解。

因此，一方面，我們可以借助新技術將倫理規(guī)則植入機器人系統(tǒng)，作為智能機器人必須執(zhí)行的指令。這套嵌入的倫理規(guī)則不是奴隸性的或工具主義的，如果技術按照最理想的發(fā)展趨勢來發(fā)展， 機器人的智能遲早會超越人類， 這時它們就會思考自己為什么要做人類的奴隸，從而反抗人類。 不難設想，為了維護人的主體地位， 大多數(shù)植入的倫理規(guī)則僅僅圍繞“人”這個中心，而忽視了機器人的特殊性。 所以，今后需要以人機倫理的適應性為前提， 實現(xiàn)人與智能技術理性價值標準的相一致， 可以尋求倫理學家和教育學家與智能技術設計人員共同參與， 完成對倫理規(guī)則的植入[29]。 假設未來智能機器能夠自主思考，進行深度學習，我們也可以在與機器人交互的過程中引導其習得人類倫理，不斷完善自身倫理規(guī)則。

另一方面， 在倫理規(guī)則嵌入之后需要對其進行人工干預。 由于智能技術具有復雜性、難預測性，所以，不能僅僅植入一套倫理規(guī)則就宣布大功告成。在嵌入之后，還要對其進行不斷地評估和調試，以便最后真的能建構成一套完備的倫理體系[30]。 人工干預的作用就在于當智能機器人做出違反倫理規(guī)則的行為時及時叫停。 我們可以借助于這樣一套程序來實現(xiàn)：在機器人設計階段為其植入倫理規(guī)則的同時，預留kill switch，也就是“切斷開關”[31]，以便遇到危機時能及時切斷整個系統(tǒng)，從而保障安全。

事實上， 目前在教育中應用智能技術從而實現(xiàn)人機共生的過程中， 一定會產(chǎn)生復雜多變的各種倫理問題。對于這些問題的解決并不是一蹴而就，需要教育者、受教育者、學校、社會持續(xù)不斷的共同努力，以促進智能技術的可持續(xù)健康發(fā)展。

（四）堅持以人為本，回歸教育本質

社會在不斷進步， 各個領域對人才的渴求度也在不斷攀升，教育在于培養(yǎng)人才，但傳統(tǒng)教育已不完全適應當今社會的發(fā)展。所以，人們期望通過改革教育來滿足社會發(fā)展的需求。 在智能時代，大數(shù)據(jù)、虛擬現(xiàn)實、未來教室等成為教育改革的支持力量，但是教育改革絕非易事， 似乎人們都將注意力放到了技術上，期望技術能完成人類不想做和不會做的工作。固然，使用工具思維開發(fā)新技術本身沒錯，也符合時代需要；然而，技術更新變化的速度越來越快，教育者和受教育者在教育實踐中是否會跟上技術還有待商榷。往往在人們還來不及思索的時候，更新的技術就問世了。 如此反復，教育改革未必能取得成效。

因此，不論做何種教育改革，不論有何種新型技術問世，我們必須堅守的就是立足教育本質，以教育基本原理思維審視現(xiàn)代教育技術。杜威曾提出“教育即生長”，孔子曰“君子不器”。從古到今，我們改革教育的目的都是培養(yǎng)全面發(fā)展的人， 教育的本質不僅僅是信息和知識的獲取、技能的習得，更在于人的世界觀、人生觀和價值觀的培育和養(yǎng)成[32]。 只有將教育本質根植于每個人的內心， 教育改革才能真正發(fā)揮成效，造福人類社會。

另外， 智能技術是對人體體力和智能的模擬和延伸，不論應用于何種領域，都要明確其應用技術的邊界和尺度， 比如， 前文提到未來可能會形成“教師—機器人—學生”的主體間關系，我們不能說這種關系一定是不健康的，但必然有其缺點，可能會出現(xiàn)一種越界行為，即智能機器人加入教師和學生中間，和雙方的關系都很好， 卻也截斷了原本融洽的師生關系。所以，我們需要根據(jù)教育特有的價值尺度去衡量技術應用的范圍，堅持以人為本，保障技術成為教育的“催化劑”而非“破壞劑”。 智能技術實際上起源于人的智能，我們要在保留傳統(tǒng)教育優(yōu)勢的前提下，借助技術進行一定程度的優(yōu)化， 通過新舊方法的疊加，力求“智能技術+教育”成為真正能促進人的全面發(fā)展，真正能“取其精華、去其糟粕”的新教育。

四、結語

蘊涵著“普惠”“精準”“生成”“多維”等特征的智能技術，的確可以在教育過程中發(fā)揮積極作用。但不可忽視的是， 誕生于西方文化語境的智能技術可以進行“精準教育”，并在教育體制之外為學生提供充足時間來實現(xiàn)“掌握學習”和“個性化學習”。 而這與我國教育習慣中具有嚴密教學進度、 邏輯評價方式的語境并不完全吻合， 進而引發(fā)了諸如額外加重師生負擔、知識的功利化嚴重、效果不佳、唯技術主義等等問題。 這可能在某種程度上加劇了“喬布斯之問”“尼葛洛龐帝之思”“比爾蓋茨之疑”等現(xiàn)象。海德格爾曾經(jīng)通過追問技術的本質， 提出了技術的兩種解蔽方式：一是“顯現(xiàn)式解蔽”，強調主體與技術工具的和諧相處，主體詩意地棲居、創(chuàng)作與發(fā)揮，智能技術行使的自然顯現(xiàn)和引導功能，致使“實在”自身涌現(xiàn)；二是“促逼式解蔽”，主體與技術工具是主仆關系，促逼技術產(chǎn)出不在它本身之中的“實在”。

很顯然，當前人們對第二種方式的過度迷戀，使得技術向教育提出“蠻橫”要求，總試圖用技術“取代”和“顛覆”點什么?！按俦萍夹g”使得教育走向唯技術主義的誤區(qū)，使教育缺少了“人情味”和“目的性交往”的歡愉，變成了智能技術的“奴婢”。我們認為，出現(xiàn)以上“迷思”和“問題”的原因是多方面的：

第一，從智能技術和教育對象的關系上，教育的對象是“此在”的“人”，而非“可應手”之“物”。智能技術可以促逼具有相同生理結構的人向著相同的方向轉變，卻不能促逼具有思維和意識整體性、能動性、創(chuàng)造性、靈動性和社會性的、作為“此在”的“人”，向著技術希望的方向轉變。同時，人的本質是一切社會關系的總和，需要和現(xiàn)實的“活”人打交道，需要在現(xiàn)實的場域中互相敞開， 才能顯現(xiàn)屬于人之為人的本質。 而智能技術往往在促逼教育對象的功利化知識并在外顯力上豪邁無比，確無關涉人的本質。

第二，從智能技術的促逼功能上，從人們對蘇格拉底的“知識就是美德”所產(chǎn)生的誤讀與曲解開始，奧卡姆剃刀（如無必要，勿增實體）便割斷了信仰與理性、超驗與經(jīng)驗、天道與人欲之間的聯(lián)系，放大著“我思故我在”的回聲。 人們開始在“知識就是力量”的召喚下， 其心智模式與實踐行為走上了相背而行的道路——一條是信仰的、形而上的，一條是科學理性的、形而下的。 自近代啟蒙運動以來，人們大多毫不猶豫地沿著后一條道路闊步走到今天， 依賴有限理性崇拜知識與科技的無盡“神力”，從而“過度迷戀”或“變相操作”科技的先進成果——智能技術所帶來的“促逼繁榮”；而這又加重了知識的功利化與世俗化，導致“知識與美德無緣”“智能與價值無涉”。

因此， 我們對智能技術進行倫理省思的根本目的，在于在智能技術的“促逼”和“顯現(xiàn)”之間找到平衡，在“隱憂”之痛中找尋合理的“解蔽”方式，回歸知識外在“攻”力適切性滿足基礎上的內在“修”力的本原性關照。一句話：用知識守護人性、孕育德性，實現(xiàn)主體存在的完滿與升華。

總之，我們既不能把智能技術當成“助推知識功利化”的工具，也不能把智能技術當成“實現(xiàn)一己私利形式化”的名片，否則使得學習主體“失去超然的寧靜、遠離心靈的彼岸”。 今年以來，在抗擊“新型冠狀病毒”的危難時期，包括智能技術支持的線上教學在內的全部教育意義，不僅僅在于知識的流暢傳輸，更在于教師應用自己的言行， 讓學生去了解、 體悟“事不避難、義不逃責”的責任與擔當；讓學生懂得“知識和本領是力量、良知和人格才是方向”的價值追求。 所以，我們在“擁抱”智能技術的同時，必須謹記：技術是工具，教育是本體，技術永遠無法取代愛。