楊俊鋒,沈中奇,陳睿寧

(杭州師范大學(xué) 經(jīng)亨頤教育學(xué)院,浙江 杭州 311121)

一、引 言

國家高度重視人工智能技術(shù)對教育的深刻影響。2017年7月國務(wù)院印發(fā)《新一代人工智能發(fā)展規(guī)劃》[1],明確指出利用智能技術(shù)加快推動人才培養(yǎng)模式、教學(xué)方法改革。習(xí)近平總書記在2019年5月給國際人工智能與教育大會的賀信中強調(diào)“積極推動人工智能和教育深度融合,促進(jìn)教育變革創(chuàng)新”[2]。人工智能技術(shù)在教育領(lǐng)域的應(yīng)用逐漸深入。人工智能在教育領(lǐng)域的應(yīng)用推動了教學(xué)創(chuàng)新,推進(jìn)了學(xué)習(xí)個性化、管理與評價精細(xì)化,促進(jìn)了教育跨領(lǐng)域融合發(fā)展。人工智能為教學(xué)提供了適切的解決方案,部分替代了教師的重復(fù)性工作,使他們能夠更加專注于創(chuàng)新性和啟發(fā)性的教學(xué)活動[3]12-19+92。此外,人工智能可以有效推動學(xué)生學(xué)習(xí)方式的個性化與精準(zhǔn)化,使教育工作者能夠精準(zhǔn)診斷學(xué)生的學(xué)習(xí)需求,提供個性化學(xué)習(xí)資源[4]75-86。基于大數(shù)據(jù),人工智能有能力對學(xué)生進(jìn)行全面的學(xué)習(xí)歷程和行為評價,實現(xiàn)實時的精準(zhǔn)反饋[5]91-98+107。同時,人工智能也有效減少了由于地域和社會經(jīng)濟(jì)差距帶來的教育不平等現(xiàn)象,讓更多的孩子可以享受到優(yōu)質(zhì)的教育資源,讓“人人可學(xué)、時時可學(xué)、處處可學(xué)”的愿景成為可能[6]9-12。在教育場域中,人工智能賦能教育,教育賦值人工智能,形成教育與人工智能融合的未來理想形態(tài),促進(jìn)跨領(lǐng)域融合發(fā)展[7]8-15+66。

近期,以ChatGPT(Chat Generative Pre-trained Transformer)為代表的生成式人工智能快速發(fā)展,為教育領(lǐng)域的變革注入了新的活力,有著廣闊的應(yīng)用前景。ChatGPT類產(chǎn)品是基于算法、模型、規(guī)則自動化生成文本、圖片、聲音、視頻、代碼等多模態(tài)內(nèi)容的生成式人工智能[8],其采用了大語言模型、基于人類反饋的強化學(xué)習(xí)、思維鏈等技術(shù)進(jìn)行訓(xùn)練,由此獲得了強大的自然語言處理能力、多模態(tài)信息處理能力、學(xué)習(xí)與適應(yīng)能力及邏輯推理與決策能力,基于此,生成式人工智能不僅可以記憶用戶對話信息進(jìn)行上下文分析[9]81-83,快速與精確生成多模態(tài)信息,學(xué)習(xí)不同任務(wù)與主題,還可以輔助人類進(jìn)行邏輯推理與決策。可以預(yù)見,以ChatGPT為代表的生成式人工智能將獲得更廣泛的應(yīng)用場景并變革人機關(guān)系[10]81-90,將成為加速教育系統(tǒng)變革的重要驅(qū)動力。

然而,生成式人工智能在深入應(yīng)用到教與學(xué)的過程中產(chǎn)生了諸多問題,使教育工作者產(chǎn)生了困擾,甚至動搖了教育的初心及育人使命[11]19-25。一些教育研究者和實踐者陷入技術(shù)泥潭,引發(fā)了人們對人工智能取代人類的擔(dān)心及對智能化未來社會的過分想象[12]5-15?，F(xiàn)代智能技術(shù)呈現(xiàn)的理性化、機械化的邏輯難以完成引領(lǐng)學(xué)生體驗認(rèn)識生命意義這一人文性、超理性的使命[13]1-8。教育人工智能在實踐中體現(xiàn)出的優(yōu)勢可能引發(fā)人機關(guān)系的失衡,工具理性與人的發(fā)展不匹配引發(fā)諸多倫理風(fēng)險[14]104-112。對此,教育界應(yīng)關(guān)注如何在迎接這場技術(shù)革命的同時,保持對教育核心價值的堅持,以及如何在科技發(fā)展的巨大沖擊下,保證教育的人本精神不受侵害,找到一條科技與教育并進(jìn)、人與機器共生的新路徑非常重要。當(dāng)下正是審思如何將以ChatGPT為代表的生成式人工智能與教育融合的好時機。因此,本研究旨在深化對生成式人工智能在教育領(lǐng)域應(yīng)用的理解,以期推動其與教育的深度融合,保證教育的健康和持續(xù)發(fā)展。為了積極擁抱新技術(shù),本研究探索生成式人工智能在教學(xué)、學(xué)習(xí)、管評、科研等環(huán)節(jié)的實際運用及其融入方式,深度剖析其應(yīng)用過程中可能產(chǎn)生的倫理風(fēng)險,提出有效的策略和措施,以發(fā)揮其最大潛力,使風(fēng)險最小化,最終實現(xiàn)人工智能在教育領(lǐng)域的適度、合理使用。

二、生成式人工智能在教育中的典型應(yīng)用

生成式人工智能展現(xiàn)了突出的自然語言處理能力、學(xué)習(xí)與適應(yīng)能力、多模態(tài)信息理解與生成能力、邏輯推理與決策能力。自然語言處理能力源于大數(shù)據(jù)、高級算法模型和先進(jìn)技術(shù)的共同作用,使得生成式人工智能能夠模擬人類的思維,理解和處理語言信息;學(xué)習(xí)與適應(yīng)能力則是通過基于人類反饋的強化學(xué)習(xí)實現(xiàn)的,這種方法賦予了生成式人工智能快速學(xué)習(xí)新知識和適應(yīng)不同任務(wù)的能力;多模態(tài)信息理解與生成能力使得生成式人工智能能夠處理圖像、音頻、視頻等多種類型的信息,讓其在應(yīng)對更加復(fù)雜和多樣化的任務(wù)方面更加出色;邏輯推理與決策能力得益于其豐富的數(shù)據(jù)儲備和先進(jìn)算法技術(shù)的協(xié)同作用,同時知識圖譜使生成式人工智能將學(xué)到的知識進(jìn)行有序組織,并基于此模擬人的思維鏈,實現(xiàn)更高質(zhì)量的文本生成。根據(jù)生成式人工智能的四大核心能力,以ChatGPT為代表的生成式人工智能在教育中的典型應(yīng)用包括教學(xué)、學(xué)習(xí)、管評、科研四個方面,如圖1所示。

(一)賦能教學(xué):讓教師專注于教學(xué)改進(jìn)

生成式人工智能在提升教學(xué)效率方面具有優(yōu)勢[15]102-112。教師可以利用生成式人工智能生成、篩選、組織優(yōu)質(zhì)教學(xué)資源,以滿足多樣性教學(xué)的需要[16]19-25+45。合理地利用生成式人工智能,可以減輕教師工作負(fù)擔(dān),將教師從機械化任務(wù)中解放出來,使其能夠?qū)Ｗ⒂诟倪M(jìn)教學(xué)和關(guān)注學(xué)生。在教學(xué)實踐中,生成式人工智能通過其自然語言處理能力,能夠精確地理解教師的語義,并從中推斷出潛在的需求和意圖。生成式人工智能憑借學(xué)習(xí)與適應(yīng)能力,可以吸收教師提供的教學(xué)數(shù)據(jù)、課程資料,從而設(shè)計出針對性的課程,滿足教師的特定需求。多模態(tài)信息理解與生成能力可以幫助人工智能理解、轉(zhuǎn)換和生成不同模態(tài)的信息。在未來的課堂上,教師可以將自己的授課內(nèi)容實時自動轉(zhuǎn)化為多模態(tài)信息,如文字、圖像、動畫、視頻等,將其呈現(xiàn)在教室與學(xué)生的電子設(shè)備上,使學(xué)生可以更加直觀地理解和掌握課程內(nèi)容,進(jìn)一步提高參與度和注意力。

(二)促進(jìn)學(xué)習(xí):構(gòu)建個性化學(xué)習(xí)新方式

隨著教育信息化的發(fā)展,互聯(lián)網(wǎng)中各類教育應(yīng)用充斥著大量未統(tǒng)一分類的學(xué)習(xí)資源,而學(xué)生在選擇合適的學(xué)習(xí)資源時容易陷入信息過載與迷失[16]19-25+45。用智能技術(shù)構(gòu)建新型教育體系,其中重要一步是建立學(xué)習(xí)者和學(xué)習(xí)資源的聯(lián)結(jié)[17]137-147。此外,虛擬教學(xué)場景構(gòu)建成本較大,難以規(guī)?；l(fā)展,而合理應(yīng)用生成式人工智能可以打破專業(yè)壁壘,推動學(xué)習(xí)場景多元化。生成式人工智能可以為學(xué)生提供個性化、定制化的自適應(yīng)學(xué)習(xí)體驗。學(xué)生可以與ChatGPT進(jìn)行知識問答,ChatGPT可以通過學(xué)生畫像識別學(xué)生學(xué)習(xí)情境,結(jié)合學(xué)科專業(yè)知識幫助學(xué)生獲取個性化的學(xué)習(xí)資源[18]24-31+51。ChatGPT還可以作為學(xué)生的外語學(xué)習(xí)助手,模擬日常場景進(jìn)行實時對話,依據(jù)任務(wù)幫助學(xué)生進(jìn)行代碼編寫。其多模態(tài)信息理解與生成能力,可以將數(shù)據(jù)進(jìn)行跨模態(tài)整合,進(jìn)行場景構(gòu)建與生成實驗等。在化學(xué)、生物、物理等學(xué)科中,ChatGPT可以根據(jù)學(xué)生的學(xué)習(xí)需求和興趣,結(jié)合學(xué)科知識和實驗數(shù)據(jù),生成一定的實驗內(nèi)容,同時結(jié)合圖像生成式人工智能生成虛擬實驗室中的場景、設(shè)備等,并引導(dǎo)學(xué)生進(jìn)行操作和觀察。在未來的無障礙學(xué)習(xí)方面,ChatGPT可以根據(jù)特殊人群的需求和特點,結(jié)合其他生成式人工智能技術(shù),為特殊人群提供無障礙學(xué)習(xí)的機會,促進(jìn)人工智能的包容性發(fā)展。

(三)創(chuàng)新管評:優(yōu)化管理和評價新視角

在教育領(lǐng)域,生成式人工智能的運用正在逐步深化,其對教育管理和評價的改革和創(chuàng)新帶來的影響也日益凸顯。其突出的自然語言處理能力、邏輯推理與決策能力可以幫助學(xué)校與教師優(yōu)化管理流程,實現(xiàn)精細(xì)化管理。生成式人工智能分析各種教學(xué)活動的數(shù)據(jù),通過進(jìn)行精確的畫像分析、提供學(xué)習(xí)診斷報告等方式[19]74-80,便于教師實時調(diào)整教學(xué)策略[20]34-41,為教師定制個性化的教學(xué)計劃。不僅如此,生成式人工智能可以為教育管理者的決策提供科學(xué)依據(jù)與生成分析報告[21]247-253+267。通過對學(xué)生出勤率、學(xué)習(xí)表現(xiàn)、教師的教學(xué)評價等數(shù)據(jù)進(jìn)行深度分析,以此生成學(xué)生未來可能的學(xué)術(shù)表現(xiàn)等預(yù)測信息,為教育管理者提供一系列如成績分布圖、教師評價雷達(dá)圖等可視化的報告[22]26-33,這些報告可以幫助教師了解教學(xué)效果等情況,發(fā)現(xiàn)可能存在的問題,從而及時調(diào)整教學(xué)管理策略。

在評價方面,生成式人工智能也將改變傳統(tǒng)的考試評價方式,實現(xiàn)更全面和個性化的評價。人工智能在注意的廣度、深度與客觀程度上都會強于傳統(tǒng)的評價方式[23]36-43。生成式人工智能所具有的自然語言處理能力,可以對學(xué)生的作業(yè)文本進(jìn)行評分,還可以解釋得出評分的原因,以輔助學(xué)習(xí)者不斷提升閱讀和寫作技巧[24]21-41。除此之外,還可以借助生成式人工智能對學(xué)生進(jìn)行知識水平、思維方式、創(chuàng)新能力等多角度的多元化評價。生成式人工智能可以通過分析學(xué)生的測試結(jié)果,評估學(xué)生特定學(xué)科的知識水平;通過分析作業(yè)、報告和在線討論等文本,理解他們的思維方式,如是否能夠邏輯清晰地組織和表達(dá)思想,是否能夠多角度和有深度地考慮問題;通過評估學(xué)生的創(chuàng)新項目、作品等,評價他們的創(chuàng)新能力,如是否能夠提出獨特的想法,是否能夠使用新的工具和技術(shù)等。

(四)助力科研:塑造學(xué)術(shù)研究的新模式

生成式人工智能在賦能學(xué)術(shù)研究方面,通過運用先進(jìn)的算法與龐大的知識庫,能協(xié)助研究人員從海量信息中獲取相關(guān)信息,還可以為研究者提供創(chuàng)新性想法與啟示,以提高學(xué)術(shù)研究的效率。首先,生成式人工智能可以輔助研究人員進(jìn)行文獻(xiàn)搜集與梳理工作。生成式人工智能與搜索引擎相結(jié)合,憑借其強大的自然語言能力與處理速度,可以快速檢索與搜集相關(guān)領(lǐng)域文獻(xiàn),并進(jìn)行匯總與分析[25]15-25。生成式人工智能還可以輔助研究者進(jìn)行研究設(shè)計。借助與生成式人工智能的討論,研究者可以獲得一定的研究啟示,從而進(jìn)一步明晰和完善研究思路[26]3-12+21。此外,生成式人工智能在提升論文寫作質(zhì)量方面也發(fā)揮著重要作用。在論文寫作過程中,研究者需要關(guān)注語言的表達(dá)和組織方式是否清晰明了。此時,他們可以利用生成式人工智能進(jìn)行語法和句式的修訂,以及語言表達(dá)的潤色,從而更有效地傳遞知識。

三、生成式人工智能教育應(yīng)用的倫理風(fēng)險

生成式人工智能在教育應(yīng)用中可以為我們提供精準(zhǔn)的個性化教學(xué)設(shè)計、自適應(yīng)的學(xué)習(xí)支持、高效的學(xué)校管理支持、多元化的考核形式、客觀的評價體系以及對學(xué)術(shù)研究的賦能。但是其在為教育發(fā)展帶來新的活力的同時,也帶來諸多風(fēng)險隱憂與倫理問題[27]88-94。在教育領(lǐng)域,數(shù)據(jù)的收集、儲存、傳遞及分析過程中可能產(chǎn)生的違反公認(rèn)道德和規(guī)則的風(fēng)險,可以被認(rèn)為是教育數(shù)據(jù)倫理風(fēng)險。這包括但不限于數(shù)據(jù)隱私被侵犯與數(shù)據(jù)利益分配不均等倫理問題[28]17-25+77。算法風(fēng)險的存在與否取決于多個因素,如是否遵循教育邏輯,教育過程和相關(guān)人員是否能夠被準(zhǔn)確量化,量化結(jié)果是否真實體現(xiàn)教育本質(zhì),以及算法和計算模型是否安全、可靠且無濫用風(fēng)險[29]20-30。在人工智能的運用中,可能存在削弱教師角色、對學(xué)生全面發(fā)展的潛在限制及無界限的智能教育環(huán)境對學(xué)生自我認(rèn)知的影響,此外,還需全面審視教育應(yīng)用中責(zé)任歸屬不明確的問題[30]47。為引導(dǎo)人工智能的應(yīng)用與發(fā)展,避免人工智能對社會產(chǎn)生負(fù)面影響,聯(lián)合國教科文組織提出一系列人工智能倫理原則,其中包括尊重人權(quán)、問責(zé)性、公平性和透明度[31]。基于以上分析,本研究提出一種倫理問題分析框架,這種框架旨在幫助我們更深入地理解、分析和解決在教育中使用生成式人工智能可能出現(xiàn)的倫理問題,如圖2所示。

按照倫理問題產(chǎn)生的階段自下而上可將風(fēng)險分為數(shù)據(jù)、算法和使用三個部分,從主體及其行為的角度,重點分析可能產(chǎn)生的倫理風(fēng)險成因:數(shù)據(jù)生命周期中的數(shù)據(jù)收集、處理、存儲和管理的倫理問題(如隱私侵犯和數(shù)據(jù)安全等);算法生命周期中的理解問題、算法設(shè)計和建模階段等的倫理問題(如算法偏見與歧視及責(zé)任歸屬等);使用場景中的教學(xué)管評研等應(yīng)用中的倫理問題(如濫用導(dǎo)致學(xué)術(shù)不端和缺乏人文關(guān)懷等)。根據(jù)倫理風(fēng)險的成因,結(jié)合教育倫理原則,從個體、人與人之間的關(guān)系、教育生態(tài)三個維度深度分析可能產(chǎn)生的影響。

(一)數(shù)據(jù)全生命周期的倫理風(fēng)險及影響

從數(shù)據(jù)收集、處理、存儲到管理的整個過程中,可能面臨多種潛在的教育倫理風(fēng)險,如數(shù)據(jù)泄露、侵犯隱私和存在誤導(dǎo)性信息等。生成式人工智能在學(xué)習(xí)和適應(yīng)過程中需要大量數(shù)據(jù),在數(shù)據(jù)收集中涉及學(xué)生、教師等敏感信息的數(shù)據(jù)安全問題變得尤為重要。此外,受訓(xùn)練數(shù)據(jù)、模型不完美性等因素影響,生成式人工智能可能產(chǎn)生錯誤或虛假知識,進(jìn)而影響教育質(zhì)量和公平。

1.數(shù)據(jù)泄露與侵犯隱私:學(xué)生權(quán)益受損

數(shù)據(jù)泄露可能導(dǎo)致學(xué)生權(quán)益受損。ChatGPT等生成式人工智能需要處理和存儲大量的數(shù)據(jù),在學(xué)習(xí)、教學(xué)和評價場景中,學(xué)生、教師與這些應(yīng)用之間的對話可能會涉及個人隱私信息、學(xué)術(shù)記錄、行為模式、學(xué)生成績、班級信息和答題信息等[32]41-50。

根據(jù)倫理問題分析框架,在數(shù)據(jù)的生命周期中,若在數(shù)據(jù)處理、存儲與管理時,相關(guān)的企業(yè)技術(shù)人員沒有采取相應(yīng)的安全措施,人工智能教育產(chǎn)品存在安全隱患,這些數(shù)據(jù)若被未經(jīng)授權(quán)的人訪問、篡改或濫用[33]35-40,可能會對學(xué)生和教育機構(gòu)帶來嚴(yán)重的、持久的負(fù)面效應(yīng)。從對個體的影響來看,如果學(xué)校未能妥善保護(hù)這些數(shù)據(jù),導(dǎo)致數(shù)據(jù)被利用,就會使學(xué)生被詐騙或騷擾,不僅嚴(yán)重影響學(xué)生的心理安全感,還會使學(xué)生的財產(chǎn)權(quán)、隱私權(quán)等受損。這種情況會進(jìn)一步破壞學(xué)生與教育機構(gòu)之間的信任關(guān)系,對教育機構(gòu)的聲譽產(chǎn)生負(fù)面影響,甚至可能導(dǎo)致家校關(guān)系惡化。數(shù)據(jù)泄露問題對教育生態(tài)的影響也是明顯的,它可能使人們對生成式人工智能的安全性產(chǎn)生疑慮,進(jìn)而制約生成式人工智能與教育的深度融合。

2.數(shù)據(jù)有誤與處理不當(dāng):虛假知識誤導(dǎo)

ChatGPT等生成式人工智能可能會生成錯誤或虛假知識,影響學(xué)生認(rèn)知發(fā)展與教育公平。ChatGPT模型可以模擬人類思維,甚至可以一本正經(jīng)地“胡說八道”,根據(jù)倫理問題分析框架,在數(shù)據(jù)收集過程中,它可能會受到訓(xùn)練數(shù)據(jù)有錯誤等因素的影響,生成有事實性錯誤的信息。如果企業(yè)相關(guān)技術(shù)人員對收集數(shù)據(jù)質(zhì)量不加以把控,學(xué)生對其內(nèi)容不加辨別,教師對學(xué)生學(xué)習(xí)過程不監(jiān)督、不進(jìn)行合理引導(dǎo),就會對個體、人與人之間的關(guān)系及教育生態(tài)造成破壞性影響。從對個體影響的角度看,錯誤知識的傳授可能導(dǎo)致學(xué)生對某個領(lǐng)域或概念的理解產(chǎn)生偏差,影響自身知識體系的構(gòu)建及其對真實世界的認(rèn)知;從對關(guān)系影響角度看,學(xué)生獲取了由生成式人工智能產(chǎn)生的錯誤知識,這些知識與教師所講授的知識存在偏差或相悖,而教師未發(fā)現(xiàn)或不加以引導(dǎo),則會導(dǎo)致教師在學(xué)生心中的“知識權(quán)威地位”下降,不利于師生關(guān)系的發(fā)展;從對教育生態(tài)的影響分析,如果有關(guān)部門不加以監(jiān)管,生成式人工智能則可能導(dǎo)致虛假知識泛濫,產(chǎn)生“劣幣驅(qū)逐良幣”的風(fēng)險[15]102-112。

(二)算法全生命周期的倫理風(fēng)險及影響

在算法生命周期的不同階段,也可能存在不同原因?qū)е碌膫惱韱栴}。在理解問題階段,可能存在理解偏差和認(rèn)知偏差;在建模階段,可能存在將不公平的偏見納入模型的問題;在算法設(shè)計階段,可能存在將人為價值觀帶入模型設(shè)計的問題;在應(yīng)用階段,可能存在導(dǎo)致實踐應(yīng)用階段模型輸出不準(zhǔn)確、歧視性輸出的問題。

1.算法歧視與訓(xùn)練集偏見:教育不公平加劇

人為價值涉入的算法設(shè)計可能會影響教育公平。盡管算法的基礎(chǔ)原理是價值無涉的,但算法的各種參數(shù)、變換、賦值實際上存在著人為價值介入的可能性[34]12-18。根據(jù)倫理問題分析框架,在算法的生命周期中,在設(shè)計與建模階段,設(shè)計人員的主觀價值觀介入可能會導(dǎo)致偏見的產(chǎn)生。此外,在算法的建模階段,生成式人工智能如ChatGPT在模型訓(xùn)練時,采用了基于人類反饋的強化學(xué)習(xí)技術(shù),需要獲取人類的反饋來不斷優(yōu)化自己,我們無法得知其中是否存在隱含偏見。在算法的數(shù)據(jù)收集階段,開發(fā)人員采用的數(shù)據(jù)集代表性不足會導(dǎo)致教育偏見與歧視。ChatGPT的訓(xùn)練數(shù)據(jù)集中包含來自各個語種的語料庫,如英語、中文、西班牙語、德語、法語等[35],但由于英語在全球范圍內(nèi)的廣泛使用,所以英語語料占比是較高的。這些語料來自多個渠道的歷史數(shù)據(jù),包括網(wǎng)絡(luò)文本、書籍、新聞、論文、對話和其他形式的語言數(shù)據(jù)。那么這些語料可能存在數(shù)據(jù)偏差與偏見,例如存在性別、種族、文化和經(jīng)濟(jì)等方面的偏見,最終產(chǎn)生“成見疊加”效應(yīng)[36],甚至?xí)B透西方的意識形態(tài)[37]26-32。部分圖形生成式人工智能在測試中也顯現(xiàn)了明顯的種族偏見,當(dāng)其被要求生成“CEO”“律師”等高薪白領(lǐng)職業(yè)時,輸出的圖片幾乎都是白人形象[38]17。從個體維度分析其造成的影響,若學(xué)生與ChatGPT進(jìn)行知識問答,ChatGPT因存在偏見給出歧視性與不準(zhǔn)確的回答,或者以不當(dāng)?shù)姆绞揭龑?dǎo)學(xué)生的學(xué)習(xí)和行為,忽視部分學(xué)生的學(xué)習(xí)需求,可能會使學(xué)生感到困惑或沮喪,最終降低學(xué)生的學(xué)習(xí)效果。從關(guān)系維度分析,學(xué)生可能會對生成式人工智能產(chǎn)生不信任,甚至產(chǎn)生反感,進(jìn)一步影響生成式人工智能在教育領(lǐng)域的應(yīng)用和接受度。從教育生態(tài)的維度分析,算法偏見和數(shù)據(jù)代表性不足可能會破壞整個教育生態(tài),因為它們可能導(dǎo)致教育資源的不公平分配,這會加深學(xué)生之間的數(shù)字技能鴻溝,甚至損害教育的公平性[39]34-39+96。

2.算法不可釋與不透明:人機信任產(chǎn)生危機

生成式人工智能如ChatGPT采用深度學(xué)習(xí)算法模型,其內(nèi)部結(jié)構(gòu)和運行流程的復(fù)雜性使得結(jié)果的產(chǎn)生過程通常難以被清晰地闡述[40]131-139。以ChatGPT為代表的生成式人工智能并不會清晰展示其得出答案與決策的推導(dǎo)過程。因此,教師和學(xué)生對其算法路徑與運算邏輯一無所知[41]61-69。而在算法的主導(dǎo)下,ChatGPT會生成看似有道理的答案,極具迷惑性。如果開發(fā)者沒有盡力提高算法的可解釋性與適當(dāng)?shù)耐该鞫?師生可能無法判斷生成式人工智能提供的答案的正確性、全面性與邏輯性,“知其然而不知其所以然”,這可能使部分學(xué)生接受有偏差的知識,從而導(dǎo)致學(xué)業(yè)成績下滑。長此以往,批判性思維弱的學(xué)生在知識理解上的差距可能被拉大,從而進(jìn)一步破壞教育公平。對于人機信任關(guān)系的影響來說,教師可能會對在教育中生成式人工智能的使用產(chǎn)生疑慮,這可能會降低他們在教學(xué)中允許學(xué)生使用這種工具的意愿。

(三)人工智能教育應(yīng)用場景中的倫理風(fēng)險及影響

生成式人工智能賦能教育首先要滿足“合理性”這一基本要素[42]80-89。馬克思·韋伯提出了“合理性”的概念。他把合理性分為工具理性和價值理性。工具理性以結(jié)果為導(dǎo)向,追求效率;而價值理性以目的為導(dǎo)向,強調(diào)動機的純正和選擇正確的手段達(dá)到自己的目的,注重個人的價值與意義。在生成式人工智能與教育的融合過程中,如果過度推崇工具理性,可能會掩蓋“以人為本”的核心價值[43]34-38+102。教師與學(xué)生一味追求完成教學(xué)、學(xué)習(xí)任務(wù)的高效率,對其產(chǎn)生依賴,最終可能導(dǎo)致自身主體地位被取代,產(chǎn)生學(xué)生思維怠惰、人際溝通能力下降、學(xué)術(shù)不端等現(xiàn)象以及教師專業(yè)發(fā)展被抑制等問題。

1.思維惰化與專業(yè)能力下降:教師主體地位消解

教育的目的不僅僅是傳授知識,更重要的是對人的全面塑造[44]66-72。如果教師在備課時只追求效率,只想要快速進(jìn)行知識傳遞,忽視了教學(xué)的育人屬性,則會產(chǎn)生思維惰化的現(xiàn)象。根據(jù)倫理問題分析框架,在教學(xué)場景中,教師將自己的教學(xué)主體地位全權(quán)交給ChatGPT,忽略“育人”本質(zhì),教育信念喪失,缺少對教學(xué)內(nèi)容的藝術(shù)性設(shè)計,思維怠惰以至于直接拿其生成的教學(xué)方案進(jìn)行授課,或是在教育中用人工智能代替與學(xué)生的互動[45]52-62。長此以往,教師的教學(xué)能力就會因缺少鍛煉而退化。當(dāng)教師被技術(shù)主導(dǎo),其實現(xiàn)自我專業(yè)發(fā)展的內(nèi)在驅(qū)動力可能會喪失,創(chuàng)新精神可能會被削弱,主體地位可能被消解,成為技術(shù)的附庸[46]15-23+33。如果教師對學(xué)生的心理狀態(tài)與學(xué)習(xí)情況關(guān)注不夠,將教學(xué)權(quán)力讓渡給ChatGPT等生成式人工智能,從師生關(guān)系角度看,會加劇教師與學(xué)生的情感疏離。從對教育生態(tài)的影響看,當(dāng)教師群體都追求工具理性時,教師的教學(xué)模式逐漸趨同,導(dǎo)致教師群體的同質(zhì)化發(fā)展。

2.過度依賴與使用不當(dāng):學(xué)生學(xué)習(xí)異化

過于依賴ChatGPT等生成式人工智能可能會使學(xué)生長期處于一種“信息繭房”狀態(tài)。在ChatGPT這樣的AI系統(tǒng)中,雖然它的目標(biāo)是盡可能提供準(zhǔn)確、全面與多元化的信息,但它也可能會根據(jù)用戶的前序?qū)υ捄捅磉_(dá)的興趣,提供符合用戶已有觀點和興趣的信息,不能完全保證提供的知識是全面和系統(tǒng)的。根據(jù)倫理問題分析框架,在學(xué)習(xí)過程中,如果學(xué)生只依賴ChatGPT進(jìn)行學(xué)習(xí),忽視傳統(tǒng)的面對面交流和協(xié)作學(xué)習(xí),且教師未進(jìn)行適度引導(dǎo),就可能會導(dǎo)致他們知識理解片面,導(dǎo)致獲取信息的廣度與思考的深度會受限制,仿佛將自己束縛在蠶繭中,難以形成連貫和深入的理解[47]79-84。若學(xué)生習(xí)慣于依賴技術(shù)工具獲取信息和解決問題,沉浸在“信息繭房”中,而不愿意與他人進(jìn)行交流和互動,愛“人工智能”而不愛“鄰人”,會進(jìn)一步影響人與人之間的關(guān)系,如降低學(xué)生的人際交往和溝通能力,減弱與教師的情感聯(lián)系,喪失在真實交往中獲取的人文關(guān)懷和情感支持。除此之外,人們需要在共同的學(xué)習(xí)與交往中,增強對國家和民族的歷史與文化的感受,人們的集體精神需要互相激發(fā),而非單純依賴于與ChatGPT的對話[48]102-112+2。從對教育生態(tài)影響的角度出發(fā),信息的不完整性可能會使學(xué)生在各個學(xué)習(xí)階段面臨不公平的學(xué)習(xí)機會,從而導(dǎo)致學(xué)生的認(rèn)知發(fā)展不均衡,對此我們必須認(rèn)真對待。

ChatGPT等生成式人工智能在一定程度上可以幫助學(xué)生提升獲取知識的效率,但學(xué)生若全盤接受其生成的內(nèi)容,則可能不利于學(xué)生的發(fā)展。根據(jù)倫理問題分析框架,在學(xué)習(xí)過程中,學(xué)生在利用ChatGPT完成系列學(xué)習(xí)任務(wù)時,只獲得單向的知識灌輸與投喂,只等待答案的生成,不再進(jìn)行思考[48]102-112+2。從對個體的影響分析,學(xué)生若對其呈現(xiàn)的結(jié)果不加批判,全盤接受,會導(dǎo)致學(xué)生思維的惰化,消弭主觀能動性[49]48-56。長期被“機器喂養(yǎng)”的學(xué)生的元認(rèn)知、創(chuàng)新性思維、批判性思維、獨立解決問題的能力均可能受到不同程度的損害[50]。從對教育生態(tài)的影響來說,這與教育的“培養(yǎng)全面發(fā)展的人”目標(biāo)背道而馳,如果學(xué)生沉溺于生成式人工智能提供的便捷環(huán)境,而忽視了獨立思考和實踐,將會導(dǎo)致教育目標(biāo)的偏離,影響教育質(zhì)量,對教育的可持續(xù)發(fā)展造成威脅。

3.評價失衡與決策偏頗:學(xué)生全面發(fā)展受限

濫用ChatGPT等生成式人工智能還可能引發(fā)教育評價的失衡問題[51]5-14。ChatGPT在當(dāng)前開放測試中的表現(xiàn)可能會對線上考試的學(xué)術(shù)誠信評價體系構(gòu)成威脅[52]。根據(jù)倫理問題分析框架,在教育評價時,部分學(xué)生使用ChatGPT生成的內(nèi)容提交作業(yè)、論文和考試答案,教師將難以準(zhǔn)確評價學(xué)生的知識水平和能力。對于學(xué)生個體而言,首先,長期使用生成式人工智能完成作業(yè)與考試,不僅不利于自身的學(xué)業(yè)成績提升,還會影響自身的高階思維發(fā)展。其次,這種依賴可能增加教師對學(xué)生的不信任感,學(xué)生在完成學(xué)業(yè)時還需要考慮如何自證,增大學(xué)業(yè)壓力[53]113-123。最后,濫用生成式人工智能可能對教育生態(tài)產(chǎn)生長期不利影響,可能破壞公平競爭的環(huán)境,導(dǎo)致評價機制失衡,影響可持續(xù)發(fā)展。有學(xué)者提出諸如ChatGPT等人工智能為傳統(tǒng)的教育評價敲響喪鐘。因此,教育者需全面反思,對教學(xué)評價方式作出實質(zhì)性與創(chuàng)新性的改變。

在使用生成式人工智能對學(xué)生進(jìn)行趨勢預(yù)測時,可能會產(chǎn)生決策偏頗的問題。因為預(yù)測趨勢只是對可能性的分析,而可能性并不直接轉(zhuǎn)化為必然性。生成式人工智能對數(shù)據(jù)與學(xué)生學(xué)業(yè)成績等相關(guān)關(guān)系的探討,僅僅是揭示兩個數(shù)值間的互動關(guān)系,這有助于我們洞察更深層的發(fā)展規(guī)律,然而,相關(guān)性并不能取代因果關(guān)系,更不能基于此斷言兩種事物間的必然聯(lián)系[54]34。根據(jù)倫理問題分析框架,作為人類智慧的產(chǎn)物,“方法+工具”必須同人類的智慧緊密相連,不能背離人類的洞見力[55]7-12+20。若一味地盲從采納其對學(xué)生的決策并進(jìn)行管理,學(xué)生的個性化需求和自我發(fā)展的可能性被忽視,其未來的學(xué)習(xí)和發(fā)展也會受到相應(yīng)的影響。長此以往,學(xué)校對學(xué)生的管理可能會變得機械化,缺乏人性化的溫度與人文力量,不利于學(xué)生與學(xué)校的關(guān)系發(fā)展。如果整個社會都依賴生成式人工智能的決策來決定教育資源的分配,可能會使教育資源的分配更加傾向于那些有優(yōu)勢的群體,加劇教育資源的不平等分配。

4.學(xué)術(shù)不端與科研失信:研究可持續(xù)發(fā)展受阻

不誠信使用生成式人工智能可能會帶來學(xué)術(shù)不端的問題甚至影響科研發(fā)展與進(jìn)步。依據(jù)倫理問題分析框架,在科研中,學(xué)生在使用生成式人工智能時,為了快速產(chǎn)出成果,追求效率,往往放棄了自身的思考,失去科研的本心,濫用這種技術(shù)從而產(chǎn)生學(xué)術(shù)不端問題,如剽竊、抄襲與數(shù)據(jù)造假等[56]19-30。從個體角度看,這些行為會使學(xué)生不愿認(rèn)真鉆研,只想“不勞而獲”,這將損害學(xué)生的獨立思考能力與科研能力;從關(guān)系角度看,破壞誠信將會削弱科研的真實性和可信度,導(dǎo)致研究成果質(zhì)量下降,使得大眾對學(xué)術(shù)研究的信任和尊重減弱;從教育生態(tài)角度看,這些學(xué)術(shù)不端行為會導(dǎo)致研究成果質(zhì)量下降,阻礙科學(xué)知識的積累和創(chuàng)新,可能進(jìn)一步影響整個學(xué)術(shù)界的可持續(xù)發(fā)展。

四、生成式人工智能教育應(yīng)用的實施路徑

著名的“科林格里奇困境”表明,對一項技術(shù)限制得過早,可能會抑制技術(shù)的爆發(fā),若限制得過晚,則可能該項技術(shù)已成為整個經(jīng)濟(jì)和社會的一部分,對它的控制會變得十分困難[57]。當(dāng)下我們要積極思考應(yīng)對策略,既不對其放任自流,也不過分限制而扼殺技術(shù)的創(chuàng)新,教育與人工智能并非“零和博弈”,我們應(yīng)積極擁抱新技術(shù),順勢而為。

(一)重新思考教育目標(biāo)和理念

教育的首要目標(biāo)是培養(yǎng)能獨立思考和有正確價值判斷能力的人[58]。以ChatGPT為代表的生成式人工智能浪潮對學(xué)生的邏輯思維、提問能力、批判性思維、協(xié)作能力、溝通能力等提出了新的要求。只有學(xué)習(xí)個體的內(nèi)腦建立高階思維技能,并通過思維技能駕馭如ChatGPT這樣的外腦,才能與ChatGPT等人工智能應(yīng)用形成良性的人機協(xié)同[59]8-15。我們應(yīng)該重新思索教育理念,加速教師的觀念轉(zhuǎn)變,著重培養(yǎng)學(xué)生的高階思維能力,讓學(xué)生可以更好地應(yīng)對未來不確定的社會。

(二)優(yōu)化AI教育應(yīng)用場景設(shè)計

生成式人工智能擁有卓越的內(nèi)容生成能力,可應(yīng)用于教、學(xué)、管、考、評、研等多個場景。需要進(jìn)一步優(yōu)化教育應(yīng)用場景的設(shè)計,明確人工智能技術(shù)在育人過程中的價值,從教學(xué)全流程、全要素、全業(yè)務(wù)的視角進(jìn)行深入探索,實現(xiàn)智能技術(shù)與教育教學(xué)的深度融合,從提高教育質(zhì)量和促進(jìn)教育均衡的角度,破解我國現(xiàn)階段教育的主要矛盾。通過典型場景驅(qū)動的模式,解決教育和教學(xué)中的核心問題,探索低成本、可復(fù)制、可推廣的典型應(yīng)用,推動教育數(shù)字化轉(zhuǎn)型升級。

(三)制定AI教育應(yīng)用倫理規(guī)范

生成式人工智能在為教育帶來新的機遇的同時,也帶來了如隱私泄露、“信息繭房”、算法偏見和學(xué)術(shù)不端等倫理問題。為了避免此類問題的發(fā)生,教育領(lǐng)域應(yīng)高度重視生成式人工智能在教育應(yīng)用中的倫理道德問題,健全相關(guān)倫理規(guī)范體系,將倫理道德融入人工智能全生命周期[60],確保數(shù)據(jù)的安全可控與師生的隱私安全,監(jiān)督審查算法的設(shè)計,確保公正無偏見,將倫理道德融入教育應(yīng)用的相關(guān)環(huán)節(jié)和實踐活動,確保人工智能的應(yīng)用以人為本。

(四)提升智能素養(yǎng)與倫理意識

在當(dāng)今信息化時代,科技快速發(fā)展,提高師生的智能素養(yǎng)是將新一代人工智能技術(shù)融入教學(xué)的基礎(chǔ),有助于學(xué)生更好地適應(yīng)社會發(fā)展。而倫理風(fēng)險意識則是保證師生安全可靠地應(yīng)用人工智能技術(shù)的前提條件。為提高師生的智能素養(yǎng)和倫理意識,應(yīng)開發(fā)人工智能教育應(yīng)用與倫理意識相關(guān)課程和培訓(xùn),組織舉辦各種實踐活動,如編程競賽、網(wǎng)絡(luò)安全知識競賽和公益活動等,讓師生在實踐中提高智能素養(yǎng)和倫理意識。

(五)明確AI教育應(yīng)用使用限度

在人工智能的應(yīng)用過程中,需明確其應(yīng)用限度。第一,在使用生成式人工智能時,要遵循相關(guān)法律法規(guī)與倫理原則,尊重學(xué)生和教師的隱私權(quán),關(guān)注弱勢群體,保證教育公平。第二,明確人工智能在教育中的定位。人工智能在教育中只是起到輔助作用,不能完全替代教師的工作。教師不能忽略對學(xué)生的情感關(guān)懷,應(yīng)關(guān)注學(xué)生的心理健康和人際交往能力,確保學(xué)生不會因為過度依賴技術(shù)而削弱人際溝通技能。第三,教師應(yīng)加強對學(xué)生使用生成式人工智能全過程的監(jiān)督,確保學(xué)生正確、適度地使用人工智能,防止學(xué)生偏離學(xué)習(xí)目標(biāo)、被錯誤的知識誤導(dǎo)、過度依賴而導(dǎo)致思維惰化,最終影響其全面發(fā)展。

(六)轉(zhuǎn)變評價方式與考核方法

在生成式人工智能發(fā)展越來越快的當(dāng)下,需要重新思考評價方式,轉(zhuǎn)變評價思路。比如,要強調(diào)思維而非知識、關(guān)注問題而非答案、注重邏輯而非簡單羅列[27]。學(xué)校可以采用以下策略來改進(jìn)評價機制,如設(shè)計富有挑戰(zhàn)性的項目式任務(wù),讓學(xué)生進(jìn)行獨立思考和探究,鼓勵學(xué)生運用高階思維技能;采用多元化評價方法,結(jié)合傳統(tǒng)的筆試、面試和作業(yè)評價,引入同行評審、自我評價和教師觀察等多種評價方式全面了解學(xué)生的學(xué)習(xí)情況和能力水平;強化過程性評價,不僅要關(guān)注學(xué)生的最終成果,還要重視學(xué)習(xí)過程中的積極參與、探究和反思。

五、結(jié) 語

生成式人工智能在教育領(lǐng)域具有廣泛的應(yīng)用前景,為教育發(fā)展和變革帶來了巨大的機遇。而技術(shù)創(chuàng)新的驅(qū)動與倫理風(fēng)險的規(guī)避需求之間形成了一種矛盾,并涉及政策制定者、技術(shù)開發(fā)者、教育工作者、受教育者等多個群體?？萍紕?chuàng)新者致力于推動人工智能技術(shù)在教育領(lǐng)域的應(yīng)用,以提高教育質(zhì)量和效率,但在這個過程中可能忽視倫理風(fēng)險。教育利益相關(guān)者則關(guān)心個人隱私、教育公平以及人的全面發(fā)展等方面的問題,希望在引入先進(jìn)技術(shù)的同時確保這些倫理問題得到妥善解決。因此,科技創(chuàng)新者與教育利益相關(guān)者之間如何找到納什均衡(1)博弈雙方在策略中找到一種平衡,使得一方在知道對方策略的情況下無法通過改變自己的策略獲得更大收益。,共同實現(xiàn)人工智能在教育領(lǐng)域的可持續(xù)發(fā)展是當(dāng)下亟待解決的問題。

在拓寬教育應(yīng)用場景的同時,必須高度重視倫理道德的底線,不可忽視其潛在的倫理風(fēng)險,如數(shù)據(jù)泄漏、算法偏見、“信息繭房”、人文關(guān)懷缺失和學(xué)術(shù)不端等。在應(yīng)對生成式人工智能教育應(yīng)用的倫理挑戰(zhàn)時,需要進(jìn)行多層面、多維度的研究與思考。這包括:完善相關(guān)政策法規(guī),引導(dǎo)科技發(fā)展方向;變革教育理念,以順應(yīng)時代發(fā)展;加強教育倫理教育,培養(yǎng)具有高度道德自覺的研究者、開發(fā)者與使用者;倡導(dǎo)多學(xué)科、跨界的合作研究,以全面深入地探討倫理問題,促進(jìn)教育高質(zhì)量發(fā)展。