朱煒

摘? ?要： 人工智能技術(shù)在教學(xué)中的應(yīng)用正受到國家層面政策的大力推動。智能化教學(xué)具有促進(jìn)個性化學(xué)習(xí)和豐富教學(xué)過程構(gòu)成的優(yōu)點，但在技術(shù)主義觀念，以及全球化背景下國家間教學(xué)質(zhì)量競爭加劇的影響下，其面臨的倫理風(fēng)險也應(yīng)受到重視。這主要表現(xiàn)在教學(xué)的倫理形式（師生關(guān)系）與倫理實質(zhì)（師生利益）兩方面可能受到損害，為此提出相應(yīng)的風(fēng)險化解之策，包括在認(rèn)識上堅守教學(xué)的倫理精神，在實踐上維系師生倫理關(guān)系，基于倫理規(guī)范維護(hù)師生的相關(guān)利益等。

關(guān)鍵詞： 智能化教學(xué);倫理風(fēng)險;化解

傳統(tǒng)教學(xué)倫理主要體現(xiàn)在教師與學(xué)生這兩類主體的關(guān)系，以及他們所構(gòu)成的直接的教學(xué)交往過程中。但是近年來，隨著跨媒體、虛擬現(xiàn)實、大數(shù)據(jù)等智能技術(shù)在教學(xué)活動中應(yīng)用的拓展與深化，出現(xiàn)了新的教學(xué)形態(tài)和方式。甚至有學(xué)者認(rèn)為，人工智能的創(chuàng)新性應(yīng)用，“沖擊和改變了整個教育系統(tǒng)生態(tài)和教育秩序，尤其是教育文化、教育中的人倫關(guān)系、教育結(jié)構(gòu)和教育價值等諸多方面”。1 顯然，對這種改變的關(guān)注已不限于如何代替教師有針對性地指導(dǎo)學(xué)生學(xué)習(xí)的技術(shù)范疇，還包括可能影響師生生命體驗、人性交融的情感與價值領(lǐng)域?？梢哉f相關(guān)的倫理議題，已成為能夠決定智能化教學(xué)未來走向的重要因素。

一、智能化教學(xué)及其特點

盡管科學(xué)技術(shù)是人類勞動對象化的產(chǎn)物，但是它的力量又常常使人類感到驚異，甚至震撼。當(dāng)很多教師還在感嘆于計算機(jī)、多媒體及網(wǎng)絡(luò)技術(shù)極大豐富了教學(xué)媒介和手段的時候，基于大數(shù)據(jù)、云計算、物聯(lián)網(wǎng)等智能技術(shù)的教育“新勢力”已悄然“進(jìn)場”，在線教育平臺、教學(xué)機(jī)器人、專家知識系統(tǒng)等得到了現(xiàn)實應(yīng)用。如在線教育，已經(jīng)成為不少國家開展教育活動的重要形式。在全球化背景下，技術(shù)迭代所引發(fā)的競爭更加激烈，教育也難以置身事外。近年來各國政府紛紛出臺政策以推動人工智能技術(shù)在教育中的應(yīng)用，我國國務(wù)院于2017年7月發(fā)布了《新一代人工智能發(fā)展規(guī)劃》，提出：“利用智能技術(shù)加快推動人才培養(yǎng)模式、教學(xué)方法改革，構(gòu)建包含智能學(xué)習(xí)、交互式學(xué)習(xí)的新型教育體系……開發(fā)立體綜合教學(xué)場、基于大數(shù)據(jù)智能的在線學(xué)習(xí)教育平臺?！? 2019年5月，習(xí)近平主席在發(fā)給國際人工智能與教育大會的賀信中也指出：“積極推動人工智能和教育深度融合，促進(jìn)教育變革創(chuàng)新，充分發(fā)揮人工智能優(yōu)勢，加快發(fā)展伴隨每個人一生的教育、平等面向每個人的教育、適合每個人的教育、更加開放靈活的教育?！? 可以說教學(xué)的智能化，是近年來教學(xué)創(chuàng)新的主要特征，也是教學(xué)變革的重要趨勢。

智能技術(shù)的機(jī)理在于模擬人類的邏輯思維，其功能則是代替人類從事某類活動、解決某種問題。目前應(yīng)用于教學(xué)的智能技術(shù)主要是以下兩類2：一是智能導(dǎo)學(xué)系統(tǒng)（Intelligent Tutoring System，縮寫ITS），代替教師對學(xué)生進(jìn)行個別化指導(dǎo)，比如北京師范大學(xué)余勝泉教授等人開發(fā)的“AI好老師”、美國麻省理工學(xué)院的Tega教育機(jī)器人等，此類系統(tǒng)一般分為專家知識、學(xué)生模型、導(dǎo)學(xué)三大模塊;二是適應(yīng)性學(xué)習(xí)支持系統(tǒng)（Adaptive Learning Support System，縮寫ALSS），能夠依據(jù)課程內(nèi)容為學(xué)生定制適應(yīng)性的學(xué)習(xí)路徑及資源，比如松鼠AI自適應(yīng)學(xué)習(xí)系統(tǒng)，這一過程一般經(jīng)過用戶建模、學(xué)習(xí)資源配置和學(xué)習(xí)路徑推薦三個階段。

目前智能技術(shù)在教育中的應(yīng)用之所以如此引人矚目，是因為它“正帶來教學(xué)環(huán)境、教學(xué)法和學(xué)科知識表示的全方位變革”。3 其對于教學(xué)的積極意義在于以下方面：一是推動差異教學(xué)，促進(jìn)個性學(xué)習(xí)開展。智能技術(shù)通過收集學(xué)生個人及學(xué)習(xí)行為的信息，運(yùn)用一定的算法規(guī)則進(jìn)行大數(shù)據(jù)分析，可推測出每位學(xué)生的學(xué)習(xí)需求、學(xué)習(xí)偏好以及學(xué)習(xí)風(fēng)格，據(jù)此從海量的相關(guān)知識資源庫中為學(xué)生定制特定的學(xué)習(xí)內(nèi)容，并向其精準(zhǔn)推送。在這種情況下，每位學(xué)生所接觸的是適合自己的學(xué)習(xí)內(nèi)容，這顯然對提高其知識掌握效率有積極意義。二是豐富教學(xué)過程構(gòu)成，增強(qiáng)學(xué)生學(xué)習(xí)體驗。虛擬現(xiàn)實（VR）、增強(qiáng)現(xiàn)實（AR）及跨媒體等智能技術(shù)的應(yīng)用，使得課堂環(huán)境立體化、多維化，能夠在教學(xué)活動中強(qiáng)化學(xué)生感官的全面與深度介入及其和思維操作的融合，有利于教學(xué)生成性目標(biāo)和表達(dá)性目標(biāo)的實現(xiàn)。三是代替教師工作，簡化教學(xué)流程。智能教學(xué)系統(tǒng)能夠進(jìn)行自動出題、自動批改作業(yè)、自動診斷學(xué)生學(xué)習(xí)問題等教學(xué)任務(wù)，并且能夠幫助教師整理資料、備課，以及簡化教學(xué)準(zhǔn)備和總結(jié)等工作流程。4這就能促使教師在一定程度上從繁瑣、機(jī)械的教學(xué)工作中解脫出來，有更多時間做更復(fù)雜、更具創(chuàng)造性的事情。四是改善課堂管理，提高教學(xué)效率。將人臉識別技術(shù)、鏡像技術(shù)等應(yīng)用于課堂教學(xué)，可即時識別、收集、分析學(xué)生的學(xué)習(xí)注意力、思維活躍程度、學(xué)習(xí)行為變化等情況，并反饋給教師，教師據(jù)此可更有效地做出課堂管理行為，給予學(xué)生適當(dāng)?shù)闹笇?dǎo)，促使學(xué)生更好地投入到教學(xué)過程中。尤其是教師能夠在電子設(shè)備上觀察到以往難以發(fā)現(xiàn)的學(xué)生的“無形”的行為，這樣就能更全面、更準(zhǔn)確地識別、分析學(xué)生在個性化學(xué)習(xí)中表現(xiàn)出的有意義的發(fā)展趨勢。5

正所謂“凡事皆有利弊”，在教育這樣一個人文性濃厚的“領(lǐng)地”，技術(shù)的“入侵”必然會引起警覺，甚至有學(xué)者認(rèn)為：“人工智能的深入運(yùn)用將在本體意義上動搖我們原有的對教育的理解、判斷和追求，從而產(chǎn)生前所未有的困惑和焦慮?！? 正如上文所說，人工智能給提升教育教學(xué)效能帶來了許多機(jī)會，但“負(fù)面評價也會伴隨著出現(xiàn)在人工智能的數(shù)據(jù)分析領(lǐng)域，這通常指向道德上的潛在危害”。7 故而，我們同樣需要指明并防范智能化教學(xué)之下的倫理風(fēng)險。

二、教學(xué)智能化可能引發(fā)的倫理風(fēng)險

教師和學(xué)生在智能化教學(xué)過程中的改變是多方面的，涉及認(rèn)知、情感和行為。我們在享受技術(shù)賦能教育帶來各種“紅利”的同時，也要具有憂患意識，做到未雨綢繆，謹(jǐn)防陷入“技術(shù)陷阱”而使教育受到損害。教學(xué)是以人（教師）育人（學(xué)生）的過程：一方面，其道德內(nèi)涵有助于確立并實現(xiàn)培養(yǎng)學(xué)生全面和諧人格的教育目的;另一方面，一定的道德標(biāo)準(zhǔn)也是衡量教學(xué)過程正當(dāng)與否的重要尺度。因此，教學(xué)的倫理之維是除了智識之外，認(rèn)識、理解其存在與發(fā)展變化的基本向度。對智能教學(xué)予以倫理審視，探究其可能的倫理風(fēng)險，可以從倫理形式（人倫關(guān)系）和倫理實質(zhì)（相關(guān)者利益）這兩個層面展開。

1.在倫理形式上，教學(xué)智能化可能解構(gòu)傳統(tǒng)師生關(guān)系

倫理，在其現(xiàn)實意義上，是以人際關(guān)系為主要形式而體現(xiàn)出來的道德秩序，師生關(guān)系是教學(xué)過程的基本人際關(guān)系，智能技術(shù)在教學(xué)中的應(yīng)用對這一關(guān)系可能帶來以下風(fēng)險：

一是消解教學(xué)主體的風(fēng)險。傳統(tǒng)上，師生倫理關(guān)系源于教師與學(xué)生兩者都作為主體的教學(xué)關(guān)系。對教師而言，其主體性體現(xiàn)在具備自身的教學(xué)觀念，主導(dǎo)教學(xué)的內(nèi)容、組織、過程及評價等方面;而且教師的專業(yè)發(fā)展，是作為教育者的主體意識并在此主導(dǎo)下自主地提升其專業(yè)素養(yǎng)和能力的過程。對學(xué)生而言，其主體性體現(xiàn)在對自身學(xué)習(xí)需求、興趣的覺知，積極、主動、創(chuàng)造性地投入學(xué)習(xí)活動，同時自主進(jìn)行心理建構(gòu)方面。師生良好的倫理關(guān)系，一方面，是他們各自作為主體在言語和行為的互動過程中形成的;另一方面，又促使他們在道德情感的體驗中深化自身對于主體性角色的理解，從而在教學(xué)工作和學(xué)習(xí)活動中發(fā)揮主體作用，并提升師生教學(xué)關(guān)系的層次。然而，在智能化教學(xué)之下，教師和學(xué)生可能不知不覺地將這種主體權(quán)利讓渡給智能機(jī)器。首先，智能技術(shù)的迅捷性和準(zhǔn)確性讓教學(xué)變得簡潔高效，這就容易使教師產(chǎn)生對機(jī)器的依賴感，甚至喪失自己對于專業(yè)能力的自信，導(dǎo)致自己的專業(yè)敏感性和主觀能動性的退化。其次，由于數(shù)據(jù)搜集的瞬時性，數(shù)據(jù)僅能體現(xiàn)某個人在特定時間、地點的表現(xiàn)，基于歷史數(shù)據(jù)對學(xué)生或教師進(jìn)行分類是不完整且容易出錯的。1 身份特征是由學(xué)習(xí)、工作、交往等多維度構(gòu)成的復(fù)合體，一種數(shù)據(jù)檢測下形成的判斷并不能代表完整的個體，學(xué)生和教師身份多元化的喪失使師生之間的知識教學(xué)、情感互動等多元關(guān)系局限在智能機(jī)器基于數(shù)據(jù)分析的單一引導(dǎo)之下。此外，學(xué)生在智能系統(tǒng)根據(jù)算法規(guī)則專門投其所好進(jìn)行教學(xué)“投喂”之下，容易產(chǎn)生思維和行為的惰性，失去學(xué)習(xí)的積極性和自主權(quán)。在以上這些情形下，“師生交往看似是人與人的交往，實則是數(shù)據(jù)與數(shù)據(jù)、算法與算法之間的交往，消弭了師生交往的生命之維”。2 顯然，智能技術(shù)對于師生主體性的沖擊，也必然威脅他們倫理關(guān)系的維系。

二是弱化師生倫理性交往的風(fēng)險。智能化教學(xué)之下，教師的一些工作將被智能系統(tǒng)或機(jī)器人所取代，比如對學(xué)生進(jìn)行個別輔導(dǎo)、出題、批閱作業(yè)、學(xué)習(xí)診斷和評價等，教學(xué)關(guān)系在一定程度上由傳統(tǒng)的人與人之間的師生關(guān)系，演變?yōu)椤敖處煛悄軝C(jī)器—學(xué)生”的關(guān)系，至少在一些教學(xué)交往場合，學(xué)生面對的是機(jī)器，而不是教師本人。與教師具身交往的減少，勢必弱化學(xué)生關(guān)于道德性、情感性和精神性的體驗。顧明遠(yuǎn)先生認(rèn)為：“教育的本質(zhì)可以概括為：提高生命的質(zhì)量和提升生命的價值。”3 人的生命性，不僅僅體現(xiàn)在其知識水平和認(rèn)識能力上面，包括情感、道德、信仰、性格等亦都是構(gòu)成完整生命的重要組成部分。傳統(tǒng)上伴隨教學(xué)過程，教師在和學(xué)生的直接交往中，通過言傳身教，能感染學(xué)生的向善之心，培育他們的良善之情，引導(dǎo)他們的揚(yáng)善之行。但是，由于智能技術(shù)的介入，這種基于愛和關(guān)懷的倫理關(guān)系受到侵蝕的威脅。2019年浙江省金華市某小學(xué)給學(xué)生佩戴監(jiān)測頭環(huán)引發(fā)廣泛關(guān)注，該頭環(huán)能監(jiān)測學(xué)生上課時的注意力情況，產(chǎn)生的數(shù)據(jù)會實時上傳到教師手機(jī)，以便其迅速做出反應(yīng)。顯然這使得教師與學(xué)生的具身交往在一定程度上受到智能設(shè)備的阻隔。

2.在倫理實質(zhì)上，教學(xué)智能化可能損害師生利益

從辯證唯物主義觀點來看，人的利益構(gòu)成了倫理本質(zhì)的規(guī)定性。馬克思指出：“感性的印象和自私的欲望、享樂和正確理解的個人利益，是整個道德的基礎(chǔ)?！? 我國倫理學(xué)家羅國杰也主張：“離開了利益，就無從了解道德的產(chǎn)生和發(fā)展，道德的性質(zhì)、不同類型和社會作用?！? 據(jù)此可以認(rèn)為，一定的利益格局被打破，致使其中一部分人的利益受損，則是觸及倫理實質(zhì)的問題。教學(xué)過程中智能技術(shù)的應(yīng)用，有可能使原有的利益關(guān)系發(fā)生變化，從而動搖教學(xué)的倫理基礎(chǔ)。

一是侵害學(xué)生和教師個人隱私的風(fēng)險。智能教學(xué)系統(tǒng)要實現(xiàn)對個別學(xué)生學(xué)習(xí)資源和路徑的精準(zhǔn)推送，就必須先對該生的學(xué)習(xí)需求、學(xué)習(xí)偏好與學(xué)習(xí)風(fēng)格做出準(zhǔn)確分析和判斷，這就需要以該生的個人信息為基礎(chǔ)，包括生理特征、學(xué)籍檔案、思維風(fēng)格、認(rèn)知能力、學(xué)習(xí)基礎(chǔ)以及學(xué)習(xí)習(xí)慣等。這些信息被收集并貯存于聯(lián)網(wǎng)計算機(jī)、實體服務(wù)器甚至云端服務(wù)器中。這些設(shè)施一旦管理不善或者受到黑客入侵，學(xué)生的個人信息就可能外泄，從而使得他們的隱私受到侵害。不僅如此，智能系統(tǒng)為與教師相協(xié)調(diào)，以便更好地做出教學(xué)決策、建構(gòu)虛擬教學(xué)環(huán)境，需要收集教師的工作風(fēng)格、教學(xué)行為等信息，這使教師的隱私也處于被泄露的風(fēng)險之中。以開發(fā)、生產(chǎn)和銷售智能教學(xué)系統(tǒng)的教育科技公司為例，它們往往把企業(yè)利潤和股東回報作為首要目標(biāo)。這些公司推出的用于教育和兒童服務(wù)的商業(yè)產(chǎn)品掌握著個人信息與技術(shù)使用。雖然商業(yè)利益和教育的公益價值可能相一致，但在利潤最大化的動機(jī)驅(qū)動下，這些公司所搜集的個人信息，尤其是兒童的“心智、精神、情緒和情感狀態(tài)”等數(shù)據(jù)可能被商品化，用來改善公司產(chǎn)品、創(chuàng)造競爭差異，甚至為課堂外的業(yè)務(wù)提供服務(wù)。3 無論是科技公司出于營利目的主動泄露數(shù)據(jù)，還是由外部因素導(dǎo)致的被動侵害，在沒有相關(guān)隱私保護(hù)政策法規(guī)出臺的情況下，都導(dǎo)致學(xué)生和教師的私人信息很難得到有效的保護(hù)。

二是削減弱勢群體受教育權(quán)益的風(fēng)險。技術(shù)必須借助一定的儀器設(shè)備才能發(fā)揮作用，一般而言，越復(fù)雜高效的技術(shù)，就越需要精密高端的設(shè)備，這就使得經(jīng)濟(jì)條件成為開展智能化教學(xué)的重要因素。我國目前的實際情況是，地區(qū)間社會經(jīng)濟(jì)發(fā)展差異大，居民家庭間的收入差異也大，這就導(dǎo)致智能教學(xué)系統(tǒng)所依托的硬件難以在所有地區(qū)的學(xué)校和所有學(xué)生家庭中得到同等配置。2020年上半年，我國為做到“停課不停學(xué)”，在全國范圍內(nèi)開展線上教學(xué)。由于網(wǎng)絡(luò)信號和電腦設(shè)備等原因，少數(shù)學(xué)生難以獲得完全或穩(wěn)定的教學(xué)服務(wù)。在此期間，湖北省五峰漁洋鎮(zhèn)一年級學(xué)生柯某“在案板下上網(wǎng)課”這一情景曾引發(fā)很多人的熱議和感慨。由于技術(shù)設(shè)備的“準(zhǔn)入門檻”所限，致使一部分學(xué)生無法得到同等教育資源，這勢必引發(fā)新的教育不公?！敖逃ぷ髦械募夹g(shù)運(yùn)用，應(yīng)該以促進(jìn)平等、降低壁壘而非拉大差距、擠壓弱勢為出發(fā)點，不能‘不知不覺地’對學(xué)習(xí)者的受教育權(quán)、成長發(fā)展權(quán)形成侵犯、剝奪?！?

公共領(lǐng)域中相關(guān)者的利益受損，往往會引發(fā)倫理問責(zé)。教師相對學(xué)生而言掌握著教學(xué)的主導(dǎo)權(quán)，這就意味著他應(yīng)當(dāng)承擔(dān)相應(yīng)的道德責(zé)任。理論和現(xiàn)實都可以證明，學(xué)校和課堂存在一定的負(fù)效應(yīng)，而教師因舉止不當(dāng)、行為失范使學(xué)生受到傷害是其中不容忽視的一種表現(xiàn)，比如體罰、辱罵學(xué)生、對學(xué)生不公等。一旦碰到這種情況，很明顯，誰有違師德，誰就背負(fù)道義責(zé)任。很多國家明確頒布了教師專業(yè)倫理規(guī)范，其實就是給教師定規(guī)矩、明責(zé)任。但是，當(dāng)智能技術(shù)取代教師行使教學(xué)主導(dǎo)權(quán)后，一旦發(fā)生“事故”，損害了學(xué)生的尊嚴(yán)、人格或心智發(fā)展，該由誰承擔(dān)責(zé)任？比如，在識別、收集信息轉(zhuǎn)換成數(shù)據(jù)時出現(xiàn)失真甚至完全錯誤，那么將據(jù)此分析出來的結(jié)果作為教學(xué)決策依據(jù)顯然就不可靠。再比如，在制定算法規(guī)則時，對某類學(xué)生群體的無意偏見可能導(dǎo)致對該類群體做出不當(dāng)?shù)慕虒W(xué)診斷與評價。而在目前關(guān)于問責(zé)的法規(guī)體系中，還沒有如何處置智能機(jī)器“行為失當(dāng)”的應(yīng)對措施。如果這種情況發(fā)生，該問責(zé)教師、學(xué)校，還是算法編寫人員，又或是定制、提供系統(tǒng)的廠家和商家？

綜上，無論在倫理形式還是倫理實質(zhì)上，智能化教學(xué)均存在一些道德風(fēng)險。教學(xué)不僅是知識授受的活動，它還是一項道德的事業(yè)，正視其在發(fā)展過程中的倫理問題并予以妥善應(yīng)對，無疑有助于更好實現(xiàn)教學(xué)目的，促進(jìn)學(xué)生全面而良好的發(fā)展。

三、智能化教學(xué)之下化解倫理風(fēng)險的對策

智能技術(shù)本身無所謂善惡，在其被人為應(yīng)用于教學(xué)中，改變了這一活動原有的倫理關(guān)系和利益格局，才受到道德的審視。近些年來，教學(xué)智能化越來越受青睞，其背后是有一些因素推動的，比如，技術(shù)主義“情結(jié)”使不少人認(rèn)為，課堂教學(xué)的革命性進(jìn)步主要取決于技術(shù)的迭代更新，而幾乎所有的技術(shù)都聚焦于學(xué)生的學(xué)習(xí)能力，在這方面取得的成效又反過來強(qiáng)化了技術(shù)的“魅力”。此外，全球化背景下出現(xiàn)了衡量教學(xué)質(zhì)量的通用性“標(biāo)準(zhǔn)”，最有代表性的莫過于經(jīng)濟(jì)發(fā)展與合作組織（OECD）主導(dǎo)的PISA（國際學(xué)生評估項目），通過測試各國初中生由其規(guī)定的能力和素養(yǎng)，“生成比較數(shù)據(jù)來推動各國教育政策按照自己中意的方向前進(jìn)”。1 在這種情況下，智能技術(shù)自然被看作是提高學(xué)生測試科目（數(shù)學(xué)、科學(xué)和閱讀）解題能力，進(jìn)而提升國家在全球基礎(chǔ)教育中的競爭力的利器。而以人力資本理論為基礎(chǔ)建構(gòu)起來的能力框架，難以覆蓋學(xué)生的全部素養(yǎng)，尤其是那些與“面向人性解放與生命尊嚴(yán)的崇高價值”2 有關(guān)的品質(zhì)?？梢哉f，正是智能技術(shù)應(yīng)用的熱潮，驅(qū)動了“教學(xué)中倫理受到遮蔽”這一憂慮的產(chǎn)生。智能技術(shù)在教學(xué)中的應(yīng)用是目前教學(xué)改革的重點，也是教育發(fā)展的重要趨勢，這是毋庸置疑的。我們要做的是正視智能化教學(xué)所面臨的倫理挑戰(zhàn)，及早提出、落實并完善應(yīng)對之策，真正做到智能技術(shù)深度融合于教學(xué)之中，使其能最大限度地賦能教育。

1.固守教學(xué)的倫理精神，明確智能技術(shù)的應(yīng)用限度

對于智能技術(shù)在教學(xué)中扮演怎樣的角色、發(fā)揮怎樣的作用、怎樣發(fā)揮作用，應(yīng)該有一個基本的認(rèn)識，這甚至觸及教育的本質(zhì)問題。教育是出于人、為了人、完善人的社會實踐活動，教育的本質(zhì)在于對人的生命價值的維護(hù)、彰顯和提升。作為教育基本形式的教學(xué)，“是個多維存在，不僅具有科學(xué)性、藝術(shù)性，還具有倫理性，且倫理性之于教學(xué)具有首要性，教學(xué)是立于科學(xué)達(dá)于藝術(shù)之倫理性活動”。3 智能技術(shù)作為一種外部力量改變教學(xué)的原有形態(tài)和方式，應(yīng)以不損害教學(xué)的倫理精神為限，因為“在本體論意義上，人不可按照物化的方式被對待，人的心智、心靈品質(zhì)無法被數(shù)據(jù)估算，人的生命價值不應(yīng)當(dāng)被估算”。4 目前來看，智能技術(shù)對學(xué)生的心智、品質(zhì)培養(yǎng)起到的作用的確有限，因為學(xué)生的品格與性情很難通過學(xué)習(xí)“尊重”“誠實”“優(yōu)雅”等抽象的規(guī)則加以塑造，而是在運(yùn)用諸如“做得很好”“太頑皮了”“他做錯了”等具體切實的道德判斷中形成的。5 這就需要教師融入學(xué)生的生活環(huán)境，將主流規(guī)范內(nèi)化為自身的道德人格去教育和影響學(xué)生。在現(xiàn)有弱人工智能狀況下，智能教學(xué)系統(tǒng)無法建立起眾多與人類相似的真實情境，進(jìn)而介入學(xué)生情感和價值觀領(lǐng)域發(fā)揮教育作用。在秉承這一基本認(rèn)識的前提下，應(yīng)明確智能技術(shù)的運(yùn)用條件，劃定其應(yīng)用范圍和限度，使其在目前復(fù)雜的教育環(huán)境中對教學(xué)進(jìn)行“賦能”和“增值”的同時，不背離教育本質(zhì)，不損害教學(xué)倫理。

2.教師珍視教學(xué)主體權(quán)利，維系師生倫理關(guān)系

智能技術(shù)能在一定范圍內(nèi)和一定程度上代替教師從事一些教學(xué)事務(wù)，而且具有準(zhǔn)確性、高效性特點，但教師須知：一方面，智能技術(shù)針對并試圖解決的主要是學(xué)生的知識學(xué)習(xí)問題，然而，認(rèn)知水平和能力的發(fā)展遠(yuǎn)遠(yuǎn)不是學(xué)生發(fā)展的全部，作為“未完成的人”，學(xué)生尚有道德、審美、情感、社會交往態(tài)度與能力等方面有待成長，智能技術(shù)在這些方面還無法替代教師的作用。大多數(shù)教師所運(yùn)用的信息技術(shù)實踐是基礎(chǔ)性的1，也就是將技術(shù)“添加”到現(xiàn)有的課程中，而那些與認(rèn)知發(fā)展有關(guān)的人格因素，比如好奇心、探究欲、意志力等，智能技術(shù)能施加的影響則是非常有限的。另一方面，教育是一項追求“善”的事業(yè)，培養(yǎng)學(xué)生成為行善而利他、因善而幸福的人，也是教育的重要目的，而智能技術(shù)本身并無善惡之分，關(guān)鍵還是取決于人如何運(yùn)用它。我們現(xiàn)在所知的一些智能化教學(xué)之下學(xué)生受到傷害的事例，主要還是人對技術(shù)的誤用、濫用或使用時不考慮后果導(dǎo)致的。雖然人工智能對每一位學(xué)生都有相同程度的同理心和耐心，這在一定程度上使學(xué)生免于教師潛在的偏見，以及產(chǎn)生學(xué)習(xí)疲倦，2 但是教師不應(yīng)因此而喪失自信心和主觀能動性，反而更應(yīng)該堅守自己作為教育者的主體角色，不向智能系統(tǒng)讓渡自己的主體權(quán)利，明確師生間的倫理關(guān)系才是教學(xué)關(guān)系的本質(zhì)，真正擔(dān)負(fù)起對學(xué)生的道德責(zé)任。

3.建立智能技術(shù)應(yīng)用于教學(xué)的倫理規(guī)范，維護(hù)師生相關(guān)利益

從操作層面講，為智能技術(shù)在教學(xué)中的應(yīng)用制定一套倫理規(guī)范，是制約其被過度和不當(dāng)使用，引導(dǎo)其發(fā)揮積極作用的可行之道。近年來，經(jīng)濟(jì)合作與發(fā)展組織、美國計算機(jī)協(xié)會（Association of Computing Machinery，縮寫ACM）、谷歌公司（Google），以及知名勞動力市場分析公司Burning Glass Technologies等機(jī)構(gòu)，都發(fā)布了人工智能的倫理準(zhǔn)則和指南，確保人工智能以負(fù)責(zé)任的方式發(fā)展，融入了透明、負(fù)責(zé)、公平與正義以及隱私保護(hù)等道德價值觀，內(nèi)容涉及或涵蓋了教育行業(yè)。3 2019年5月聯(lián)合國教科文組織在首屆“國際人工智能與教育大會”上通過的《北京共識——人工智能與教育》中也指出：“采納合乎倫理、注重隱私和通過設(shè)計確保安全等原則的重要性……制定全面的數(shù)據(jù)保護(hù)法規(guī)以及監(jiān)管框架，保證對學(xué)習(xí)者的數(shù)據(jù)進(jìn)行合乎倫理、非歧視、公平、透明和可審核的使用?！? 因此，國家和地方教育管理機(jī)構(gòu)應(yīng)盡快著手制定相應(yīng)的倫理規(guī)范：一方面，應(yīng)將智能技術(shù)應(yīng)用所涉及的一系列倫理問題納入這一規(guī)范體系，尤其是教學(xué)領(lǐng)域;另一方面，應(yīng)充分聽取利益相關(guān)者，包括教師、學(xué)生、學(xué)校管理者、教育專家及智能技術(shù)專家的意見建議，在取得廣泛共識的基礎(chǔ)上制定相關(guān)倫理規(guī)范。與此同時，考慮到相關(guān)規(guī)范的更新速度可能高于其他領(lǐng)域，應(yīng)建立相應(yīng)的問責(zé)與審查制度，以保持這些倫理規(guī)范實施的穩(wěn)定性。例如在學(xué)校內(nèi)部，數(shù)據(jù)安全由信息技術(shù)部門負(fù)責(zé)，通過確定責(zé)任主體，對智能技術(shù)應(yīng)用過程進(jìn)行倫理審查并確定責(zé)任范圍。5

4.教育學(xué)生正確處理與人工智能的關(guān)系，培育其應(yīng)用智能技術(shù)的正確態(tài)度

智能技術(shù)的作用對象是學(xué)生，其倫理風(fēng)險也主要體現(xiàn)在學(xué)生身上。一方面，兒童、青少年對新事物具有天然的敏感性和易接受性，人工智能所建構(gòu)的知識呈現(xiàn)界面和虛擬教學(xué)場景對他們具有強(qiáng)大的吸引力，這容易使學(xué)生將注意力更多地集中在教學(xué)內(nèi)容之外的交互圖片、動畫影像和音響音效上;同時，智能技術(shù)靠量化的數(shù)據(jù)識別對學(xué)生進(jìn)行評價，導(dǎo)致學(xué)生更加關(guān)注如何“取悅”機(jī)器以獲得積極的評價，而不是關(guān)注課堂學(xué)習(xí)本身。另一方面，智能設(shè)備可以準(zhǔn)確記錄學(xué)生包括舉手、打盹等在內(nèi)的一系列行為。隨著互動次數(shù)的增加，適應(yīng)性學(xué)習(xí)支持系統(tǒng)能夠更多地了解學(xué)生的長處和短處，這使得本具有高度自主性的個體有一種被控制和暴露的感覺，因此對人工智能產(chǎn)生負(fù)面的抗拒情緒。1 伴隨著智能化教學(xué)過程，無形中會形成學(xué)生與智能系統(tǒng)（機(jī)器）這一新型關(guān)系。那么，是在機(jī)器面前喪失自己的獨立性和自主權(quán)、逃避智能技術(shù)的多維度分析，還是能保持清醒的頭腦，將智能機(jī)器作為促進(jìn)自身學(xué)習(xí)的伙伴和助手，這取決于學(xué)生能否正確分辨和處理與人工智能的關(guān)系。目前已出現(xiàn)“人工智能商數(shù)”（Artificial Intelligence Quotient，縮寫AIQ）這一概念，其既包括利用智能技術(shù)的能力，也包括與智能機(jī)器溝通協(xié)調(diào)、彼此友好相處的能力。學(xué)生對于人工智能的認(rèn)知能力源于現(xiàn)實生活和虛構(gòu)故事中的經(jīng)驗，并基于此確立對人工智能的信任程度，那些了解人工智能的功能和優(yōu)勢的用戶會更加信任人工智能，而意識到人工智能潛在風(fēng)險的用戶會對此更加謹(jǐn)慎。2 因此，對教育者來說，自己在合理、正當(dāng)?shù)剡\(yùn)用智能技術(shù)的同時，還應(yīng)幫助、引導(dǎo)學(xué)生建立起對人工智能的正確態(tài)度，處理好他們與人工智能的關(guān)系，使智能技術(shù)能在真正意義上促進(jìn)學(xué)生的發(fā)展。