張惠彬 許蕾

摘要：以ChatGPT為代表的生成式人工智能對傳統(tǒng)教育模式造成了沖擊，引發(fā)諸多教育倫理風險，而代表著英國頂尖教學和科研水平的羅素大學集團面對風險的舉措極具借鑒意義。為此，文章以羅素大學集團為主要研究對象，首先介紹生成式人工智能在教育領(lǐng)域面向?qū)W生、教師和教育部門的應用現(xiàn)狀，然后將羅素大學集團成員高校對生成式人工智能教育倫理風險的討論歸納為三個方面，再次分析介紹羅素大學集團面對上述風險的治理路徑轉(zhuǎn)變方式與轉(zhuǎn)變原因，最后借鑒羅素大學集團的典型措施，從教導學生正確使用、確保教師主體地位、完善系統(tǒng)管理制度三個層面為我國生成式人工智能教育治理提出完善建議，旨在充分發(fā)揮生成式人工智能在教育領(lǐng)域的積極作用，推動數(shù)字化教育朝向符合教育倫理的創(chuàng)新和發(fā)展。

關(guān)鍵詞：生成式人工智能；教育；倫理風險；ChatGPT

【中圖分類號】G40-057 【文獻標識碼】A 【論文編號】1009—8097（2024）06—0025—10?【DOI】10.3969/j.issn.1009-8097.2024.06.003

引言

生成式人工智能是一種可用于創(chuàng)建新內(nèi)容和想法（包括對話、故事、圖像、視頻和音樂）的人工智能。不同于傳統(tǒng)的分析式人工智能，生成式人工智能具有強大的“自主創(chuàng)造”能力，這使其在建筑設計、電子游戲、醫(yī)藥研發(fā)等諸多領(lǐng)域得以廣泛應用?，F(xiàn)代教育所具有的學科構(gòu)建、知識傳授和教學方式上的一系列突出特征，決定了其必將成為智能化的ChatGPT首先要替代的領(lǐng)域^[1]。生成式人工智能在教育領(lǐng)域的變革性潛力打破了傳統(tǒng)教育范式，這樣的改變有利亦有弊：一方面，以ChatGPT為代表的生成式人工智能以其獨特的技術(shù)優(yōu)勢賦能教學、優(yōu)化管理。有學者提出生成式人工智能具備四方面的應用潛能，有望在教師準備教育資源、學生開展自主自學、課堂增強學習互動、課外作業(yè)自動批改領(lǐng)域發(fā)揮作用^[2]。另一方面，新技術(shù)為教育領(lǐng)域注入了新活力，也帶來了新挑戰(zhàn)。有學者表示，圍繞生成式人工智能開展的教育轉(zhuǎn)型從愿景走向?qū)嵕皩媾R來自人機沖突、知識魔法、數(shù)字鴻溝和超脫現(xiàn)實的挑戰(zhàn)^[3]。

2023年，聯(lián)合國教科文組織對450多所中小學和大學進行的一項新的全球調(diào)查發(fā)現(xiàn)，只有不到10%的學校制定了關(guān)于使用生成式人工智能應用的機構(gòu)政策或指導^[4]。羅素大學集團是其中的重要代表，且其態(tài)度經(jīng)歷了“從堵到疏”的轉(zhuǎn)變。2023年7月，羅素大學集團統(tǒng)一簽署聲明，許可學生和教師使用生成式人工智能工具，并且發(fā)布指南從學生使用培訓、教師教學配套、

教學評估監(jiān)管等多方面進行具體安排。羅素大學集團的轉(zhuǎn)變是基于技術(shù)發(fā)展與現(xiàn)實需求的雙重考慮，也給各國教育管理部門提供了指引。因此，本研究以羅素大學集團為研究對象，結(jié)合目前全球教育市場上的生成式人工智能應用實踐，歸納生成式人工智能在教育領(lǐng)域的應用情況與倫理風險，通過梳理羅素大學集團對待生成式人工智能的治理路徑轉(zhuǎn)變方式、探究其轉(zhuǎn)變原因，嘗試為我國教育領(lǐng)域應用生成式人工智能提出改革建議，旨在充分發(fā)揮生成式人工智能在教育領(lǐng)域的積極作用，推動數(shù)字化教育朝向符合教育倫理的創(chuàng)新和發(fā)展。

一 生成式人工智能在教育領(lǐng)域的應用

現(xiàn)代教育以“多元共治”為基本特征，生成式人工智能與教育之間的互動也是多元推進的，依照面向主體的不同，本研究梳理了生成式人工智能工具在教育領(lǐng)域的不同應用，如圖1所示。

1面向?qū)W生的學習支持工具

學生作為教育和學校場域中具有學習訴求的主體，是教育活動的重心^[5]。面向?qū)W生的生成式人工智能工具亦是關(guān)注的焦點，主要可以分為兩種類型：①模擬人類1V1教學的智能導學類工具，如好未來公司于2023年2月上線的講題機器人“小π”可以提供數(shù)學運算和講題服務，這類工具基于預先提取的學習者信息構(gòu)建模型，抓取相關(guān)領(lǐng)域的教學信息，生成個性化定制的最優(yōu)學習路徑。②幫助學生完成各項學習任務的作業(yè)輔助類工具，如Grammarly從語法和拼寫到風格和語氣為使用者進行全面定制以生成獨一無二的文章，Beautiful.ai在快速生成演示文稿方面能力極佳。這些作業(yè)幫手通過使用者的訓練不斷進行完善，成為“專屬作業(yè)定制管家”。當前，大量出現(xiàn)的學習支持類生成式人工智能受到學生群體的青睞，ChatGPT語言優(yōu)化模型的問世更是加劇了這一現(xiàn)象。Study.com問卷調(diào)查顯示，89%的學生受訪者表示曾使用ChatGPT協(xié)助完成作業(yè)^[6]。無獨有偶，2023年3月份Best Colleges發(fā)布了一份調(diào)查報告，對英國國內(nèi)的1000名在讀本科生和研究生進行采訪，發(fā)現(xiàn)43%的受訪者曾經(jīng)使用ChatGPT或類似的AI應用程序^[7]。

2面向教師的授課輔助工具

教育是把人從自然人轉(zhuǎn)化為社會人的過程，生成式人工智能無法取代教師的工作，但能夠作為教學輔助工具在教學全過程發(fā)揮作用：課前，生成式人工智能可以預先完成資料收集、課件制作、教案完善等煩瑣的工作，如世紀天鴻公司基于NLP技術(shù)和Transformer算法完成的“小鴻助教”能夠結(jié)合教育資源幫助教師提高工作效率，完成整理備課素材、起草工作文件等活動。課中，生成式人工智能可以與教師分工合作，一個負責整體的課程講授，一個擔任學生的專屬陪教，從而更高效、更有針對性地滿足學生的學習需求，如語言學習網(wǎng)站Duolingo不僅能夠解答問題，還能自動給出更多的示例以供練習；科大訊飛AI學習機T20系統(tǒng)上線了作文類人批改、口語類人陪練等功能，作為一個“引導者”帶領(lǐng)學生訓練寫作思路。課后，生成式人工智能可以繼續(xù)提供服務，為學生答疑解惑，如由美國佐治亞理工學院開發(fā)的人工智能助手Jill Watson軟件基于IBM的Watson平臺，可自動回答學生問題并向?qū)W生發(fā)送關(guān)于作業(yè)的電子郵件。生成式人工智能在知識獲取上的超凡效率，使其成為增強教師教學能力的優(yōu)秀工具。

3面向教育部門的管理工具

生成式人工智能在教育管理和教育供給上也發(fā)揮著重要作用，這些面向教育系統(tǒng)的應用并不直接支持教學，而是旨在實現(xiàn)學校行政管理各方面的自動化。在教育資源方面，市場上各類在線課程層出不窮，使人眼花繚亂，生成式人工智能強大的自動檢索與智能化分析功能可以幫助用戶從中篩選出難度合適的資源，如科大訊飛的學習機和小度的“青禾手機”都在加強這方面的功能研發(fā)。在教育規(guī)劃方面，基于大模型數(shù)據(jù)庫，生成式人工智能可以為學校在課程設置與人員管理方面提供支持，如由北美和歐洲大學的教師、學生和工作人員共同開發(fā)的UniTime是一個全面的教育調(diào)度系統(tǒng)，可以提供課程開發(fā)、時間表制定、教室分配與學生課程推薦等服務。在教育服務方面，智能工具為學習環(huán)境的“智慧”提供了全面支撐，能夠提升學生的臨場感、沉浸感，進而增強其學習體驗^[8]，如北京大學開發(fā)的智慧場館管理系統(tǒng)，面向全校師生開放體育館預約、裝備租賃、可視化健身指數(shù)分析等，使人工智能技術(shù)更好地服務學生、助力教育。

二 生成式人工智能教育應用的倫理風險

生成式人工智能以高度智能化、算法靈活性、數(shù)據(jù)廣泛性為重要特征，但是在以“立德樹人”為根本任務的教育領(lǐng)域，這些特點卻引發(fā)了巨大的倫理風險。針對人工智能技術(shù)的倫理風險可以分為技術(shù)層風險和應用層風險，前者包括數(shù)據(jù)安全、數(shù)據(jù)偏見和算法偏差，后者則主要體現(xiàn)在歸責無效、主體性受損和加劇分化等方面^[9]。作為人工智能倫理治理的先行者，羅素大學集團對于生成式人工智能在教育領(lǐng)域應用的倫理風險進行了諸多討論，基于面向主體的不同，可以歸納為三個方面，如圖2所示。

1“高效”到“高危”：數(shù)據(jù)陷阱沖擊教育管理系統(tǒng)

作為高校戰(zhàn)略聯(lián)盟的典范，羅素大學集團針對生成式人工智能技術(shù)應用于教育管理的風險，聚焦于信息數(shù)據(jù)的安全真實。其中，劍橋大學的Connolly博士和Watson博士從信息局限性與偏見性的角度提出擔憂，認為生成式人工智能不是一個值得信賴的、獨立的信息來源^[10]。生成式人工智能極易受到錯誤或不當數(shù)據(jù)信息的影響，如果過度信賴其生成內(nèi)容，就會落入“數(shù)據(jù)陷阱”。教育數(shù)據(jù)涉及教育中的人或者通過數(shù)據(jù)而生成的與人有關(guān)的信息要素（如身份信息、思維習慣、行為偏好、學習表現(xiàn)等）^[11]，因此教育領(lǐng)域的數(shù)據(jù)倫理失范會帶來更為嚴重的后果：①數(shù)據(jù)安全問題。依托生成式人工智能為教育服務的各類軟件往往由企業(yè)研發(fā)與維護，這些數(shù)據(jù)平臺中儲存了學生基礎(chǔ)檔案、學生行為記錄等大量信息，教育數(shù)據(jù)的不當使用與泄露不僅會導致隱私權(quán)受損，更會引發(fā)學生人格尊嚴受損的倫理風險。②數(shù)據(jù)偏見問題。個性化定制是教育領(lǐng)域的高層次追求，但個性定制與教育歧視往往只有一線之隔。生成式人工智能以系統(tǒng)輸入或自身抓取的數(shù)據(jù)為基礎(chǔ)，數(shù)據(jù)的中立程度決定了輸出結(jié)果的公平與否?；诔跏紨?shù)據(jù)運作的人工智能會因數(shù)據(jù)樣本的不足與滯后性產(chǎn)生數(shù)據(jù)偏見，實時抓取的人工智能更是無法以技術(shù)中立化解數(shù)據(jù)信息樣本的自身偏見。生成式人工智能帶來了數(shù)據(jù)安全與數(shù)據(jù)偏見的雙重挑戰(zhàn)，致使以數(shù)據(jù)為基石的教育管理系統(tǒng)存在較大風險。

2“助教”與“主教”：算法支配損害教師主體權(quán)威

羅素大學集團的另一成員愛丁堡大學，在有關(guān)生成式人工智能的倫理討論中多次提及算法偏差帶來的倫理風險，教育者在教育活動中的使命是實現(xiàn)多元化和包容性，但其使用的工具可能會產(chǎn)生有害的偏見并復制現(xiàn)實世界的不平等^[12]。隨著深度學習算法研究的深入，機器智能化程度不斷提升，人機協(xié)同也有了新的模式，當生成式人工智能與人類的教育理念一致時，能夠事半功倍，但倘若出現(xiàn)不同意見，人機協(xié)同就極易演化為人機沖突，產(chǎn)生算法偏差從而影響教學決策，損害教師主體權(quán)威。西弗吉尼亞大學和加州理工大學的學者進行了一項研究——使用算法來識別哪些學生有物理掛科的風險，結(jié)果表明預測的準確度僅有57%，其中對于女性和少數(shù)族裔學生的預測準確度更低^[13]。這些高度智能化與自動化的教學工具不僅帶有開發(fā)人員的主觀想法和社會偏見，還容易受數(shù)據(jù)偏見與數(shù)據(jù)不足的影響，往往無法向教師提供客觀真實的信息，反而影響教學決策的公正。同時，在利用生成式人工智能開展教學活動的過程中還存在責任承擔上的糾紛。人工智能作為理性工具，其預設程序具有固定化、同質(zhì)化的特點，追求效率優(yōu)先性與發(fā)展路徑一致性，會以自有邏輯主導發(fā)展，自動排除干擾性數(shù)據(jù)。換言之，算法支配下的人工智能具有將自身邏輯合理化的能力，并非完全“聽命于”使用者，那么當教師使用生成式人工智能出現(xiàn)教學事故時應當由誰負責？基于算法評價引發(fā)的歧視問題又是誰的責任？此外，算法需求的智能推送也是對“人”之主體性價值選擇權(quán)的嚴重挑戰(zhàn)^[14]?；趯θ斯ぶ悄車乐斢嬎闩c周密邏輯的信任，學生極有可能對教師的判斷產(chǎn)生懷疑，教師的教學功能與權(quán)威地位便會受到?jīng)_擊。

3“助手”或“幫兇”：智能依賴造成學生學習畸化

英國牛津大學教育中心總結(jié)了ChatGPT的四個教訓，其中提到ChatGPT對維護學術(shù)誠信提出了挑戰(zhàn)，“它將準確的事實與被稱為‘幻覺的捏造交織在一起……生成不易被識別為機器生成的作品，從而逃脫抄襲檢測，成為作弊工具”^[15]。教育是傳播和學習人類文明成果，以促進個體社會化和個體個性化的社會實踐活動^[16]，也是一項通過不斷實踐形成的體系化的人才培養(yǎng)活動。ChatGPT強大的信息檢索與資料整理能力為學生提供豐富的學習資料，不斷學習與自我更新之下生成的文本答案兼具合理的邏輯與流暢的表達，學生可以借助這一工具完成各項學習任務。但教育活動不是一個一蹴而就的過程，其中的每一個環(huán)節(jié)都有其存在的價值，生成式人工智能在幫助學生完成學習活動的同時，也是對學生學習機會的剝奪，過度依賴智能化工具會降低學生的學習自主性與主動性，使學生落入算法推薦的“信息繭房”中。生成式人工智能作為聊天工具給出的答案也并非完全正確，基于數(shù)據(jù)抓取與自身邏輯形成的信息往往存在漏洞，甚至有“編造”之嫌，如果對其提供的資料不加篩選地用于學術(shù)活動，便會對知識真實性、學術(shù)可信性造成沖擊。此外，從技術(shù)視角審視教育公平是數(shù)字時代教育領(lǐng)域的一項重要命題^[17]，在生成式人工智能進入教育領(lǐng)域后，新的教育不公問題也隨之誕生。教育資源在線共享和人性化學習方案定制是我們的美好愿景，但ChatGPT每月20美元的訂閱費和Photomath的418元會員費卻是現(xiàn)實的阻礙。如果生成式人工智能不是作為一項基礎(chǔ)性教育工具得以廣泛應用，而是以設備與付費進行用戶區(qū)分，將會進一步加劇教育領(lǐng)域的“馬太效應”。生成式人工智能可以作為提高效率的智能助手，但過度依賴智能工具帶來的人格損害以及智能工具分配不均帶來的教育資源傾斜都是不可忽視的倫理風險。

三 羅素大學集團應對風險的治理路徑

生成式人工智能在教育領(lǐng)域的諸多倫理風險是客觀存在的，在面對這些不可控因素之初，各國都采取相對保守的政策加以應對，各項禁令相繼出臺。然而，生成式人工智能工具的層出不窮和其在教育教學中的禁而不止表明，一味地排斥新技術(shù)不僅無法從根源上規(guī)避風險，更會將發(fā)展的機會拒之門外。羅素大學集團率先因勢應時，不僅面對生成式人工智能的態(tài)度發(fā)生了轉(zhuǎn)變，還發(fā)布指南從學生使用培訓、教師教學配套、教學評估監(jiān)管等多方面進行具體安排，以規(guī)避各種倫理風險。這樣的治理路徑轉(zhuǎn)變具有一定的借鑒價值，轉(zhuǎn)變的原因?qū)ξ覈嘤袉⑹尽?/p>

1治理路徑轉(zhuǎn)變方式：從堵到疏

（1）以禁令“堵”：禁止使用、嚴格打擊

據(jù)BBC報道，2023年2月英國卡迪夫大學的一名學生使用ChatGPT完成一篇論文，并獲得其在大學期間的最好成績^[18]。此消息一出，立刻引起各大院校的廣泛關(guān)注，卡迪夫校方回應道，對不當使用人工智能程序的學術(shù)不端行為不予容忍。羅素集團的其他多所大學也明令禁止學生在作業(yè)及論文中使用ChatGPT。但禁令似乎未能阻止學生的“使用熱情”。2023年5月博爾頓大學的學生使用ChatGPT撰寫了一篇有關(guān)領(lǐng)導力理論的論文，學校標準與提升辦公室經(jīng)過審查發(fā)現(xiàn)，該學生的“寫作風格”在論文的理論部分和實踐部分有所不同，這篇文章只引用了學生可以在Moodle上找到的兩本期刊，而未引用課程閱讀清單給出的任何資料，這引起了授課教師的懷疑，最終這篇文章被退回，該生被要求重修這門課程。博爾頓大學表示，迄今為止，已完成兩項針對學生涉嫌使用ChatGPT的嚴重學術(shù)不端行為調(diào)查。在另一項調(diào)查中，該大學發(fā)現(xiàn)抄襲檢測軟件Turnitin“錯誤地標記”了學生的作品，后經(jīng)進一步審查確認該作品是學生的原創(chuàng)作品，因此調(diào)查被駁回。盡管Turnitin人工智能檢測軟件的可靠性遭到了多所大學的質(zhì)疑，但98%的英國大學仍在使用這一軟件進行抄襲檢測，英國高校對待ChatGPT這類生成式人工智能的態(tài)度，頗有些“寧可錯殺，不能放過”的意思。

（2）以指南“疏”：聯(lián)合許可、共同指導

羅素大學集團中高校的態(tài)度在2023年7月發(fā)生了改變，成員高校共同簽署《關(guān)于在教育中使用生成式人工智能工具的原則》，允許學生和教職員工在合乎道德的情況下使用生成式人工智能。這項指南以確保生成式人工智能工具造福學生和教職員工為宗旨，以增強教學實踐和學生學習體驗為目標，基于支持使用、適當使用、平等使用、誠信使用、合作共享五項基本原則，提出了諸多具體要求，依其規(guī)范對象的不同可做如下分類：

①在教育管理層面，指南提出通過調(diào)整教學和評估來維護學術(shù)的嚴謹性與完整性。羅素大學集團基于生成式人工智能工具本身的局限性進行了非常細致的考量，提出了完善教學工作以確保公平性的一些措施，諸如如何為學生在大學以外使用生成式人工智能進行實際應用做準備、如何應對付費工具以確保訪問公平、如何營造生成式人工智能符合倫理使用要求的環(huán)境等。

②在教師層面，指南提出教職人員應具備能力支持學生在學習過程中有效、適當?shù)厥褂蒙墒饺斯ぶ悄芄ぞ摺樘岣呓搪毠な褂蒙墒饺斯ぶ悄芄ぞ叩哪芰?，羅素大學集團將提供資源與培訓機會、確保教職工與學生之間定期交流，并鼓勵各大學根據(jù)不同學科的特色、特殊學生群體的需求制定相應的對策。

③在學生層面，指南表示羅素大學集團的成員高校支持學生和教職工成為人工智能精通者（AI-literate）。指南指出，生成式人工智能工具具有強大的信息處理能力，但是使用這一工具仍存在一些限制與道德問題，包括數(shù)據(jù)隱私泄露、潛在的偏見、信息的不準確與錯誤理解、抄襲等。針對這些問題，羅素大學集團將提供指導和培訓，以提高學生和教職工的人工智能素養(yǎng)，確保學生能夠正確使用這些工具以適應教學與支持學習。

指南同時基于開放共享的理念，要求各大學合作分享其有益實踐。在教育領(lǐng)域?qū)⑸墒饺斯ぶ悄芎戏ê弦?guī)化，絕不是一項聲明或者指南能夠?qū)崿F(xiàn)的，這需要學生、學校、部門與專業(yè)機構(gòu)等多方主體的協(xié)作，需要學習、教學、評估實踐的不停探索，羅素大學集團僅僅是表明了立場與前進的方向，生成式人工智能在高校的合理應用前景仍是一片迷霧，未來是充滿挑戰(zhàn)的，各所大學必須根據(jù)自己的學科特色與教育理念摸索路徑，并通過經(jīng)驗的分享相互支持前行。

2 治理路徑轉(zhuǎn)變原因：因勢應時

從明令禁止、嚴懲不貸，到共同許可、鼓勵支持，對于生成式人工智能在教育領(lǐng)域的應用，羅素大學集團的態(tài)度發(fā)生了大逆轉(zhuǎn)。這樣的轉(zhuǎn)變看似突兀，實則合理，可以從幾所高校發(fā)言人的觀點中窺其一二。

（1）順“時”而為，乘技術(shù)發(fā)展之帆

羅素大學集團首席執(zhí)行官Bradshaw博士表示，大學必須抓住人工智能提供的變革機遇^[19]。羅素大學集團簽署指南是為了確保提供教育的高質(zhì)量與完整性。生成式人工智能在教育領(lǐng)域的運用既非學生之惰，也非監(jiān)管之過，而是技術(shù)發(fā)展的必然產(chǎn)物。“喬布斯之問”曾引發(fā)了技術(shù)變革在多大程度上影響教育的熱烈探討，相較于其他領(lǐng)域，技術(shù)變革對教育的影響相對較慢，這是因為最初的人工智能技術(shù)是一種初級工具，很難在教育環(huán)節(jié)發(fā)揮替代作用。但生成式人工智能已經(jīng)發(fā)展到一個更高的層次，能夠像人類一樣理解與學習，在教育的很多環(huán)節(jié)都具有替代人類甚至超越人類的能力。在現(xiàn)代教育追求高效化教學與個性化學習的道路上，生成式人工智能是不可忽視的存在。社會進步的加速器不是倫理或者宗教，而是技術(shù)的推動力^[20]，生成式人工智能是技術(shù)進步的產(chǎn)物，如果因為對技術(shù)的恐懼將其束之高閣，不僅無法解決眼前的難題，更會與世界的發(fā)展脫節(jié)。英國高校對生成式人工智能的接受，是順應技術(shù)發(fā)展、助力教育現(xiàn)代化的必然之舉。

（2）順“勢”而為，應學生使用之需

堅持以人為本，尊重人權(quán)和人類根本利益訴求，是現(xiàn)代國家的基本理念與核心宗旨，教育領(lǐng)域也必須因勢而為。曼徹斯特大學健康科學學院院長Brass教授表示，目前面臨的問題是如何讓學生為使用生成式人工智能做好準備，以及他們需要掌握哪些技能才能合理地參與生成人工智能^[21]。英國高校最初試圖通過禁令來杜絕學生對生成式人工智能的使用，但現(xiàn)實表明，自上而下的強加要求不僅難以貫徹，更是與學生的利益訴求相違背。在很多教育教學環(huán)節(jié)中，生成式人工智能比傳統(tǒng)教育模式更具優(yōu)勢，更符合學生的需求，也能夠更快、更好地實現(xiàn)教學目的，但生成式人工智能的迅速崛起，對學生而言可以是“阿拉丁神燈”，也可以是“潘多拉魔盒”^[22]，教育的意義則在于正確評估與合理引導，利用其來加強學生的學習與幫助教育活動的開展。從學生的現(xiàn)實需求出發(fā)，探索生成式人工智能在教育領(lǐng)域更合適的應用范圍與方式，通過指南對使用方式加以引導，對限制領(lǐng)域清楚闡釋，才是更好的解決方案。

四 羅素大學集團治理路徑對我國的啟示

生成式人工智能已經(jīng)開始滲透到教育領(lǐng)域，英國教育學界的討論與政策轉(zhuǎn)變的實踐表明，全面嚴格的禁止與不加管制的放縱都絕非良策。新技術(shù)的發(fā)展已然勢不可擋，與其過分擔憂，不如主動出擊、應對變革?？萍寂c人文的全面融合，才是實現(xiàn)優(yōu)質(zhì)教育、促進人類全面發(fā)展的根本之策^[23]。我國于2023年8月15日實施的《生成式人工智能服務管理暫行辦法》（下文簡稱《辦法》），是全球第一部針對生成式人工智能規(guī)范的行政規(guī)章，不僅對生成式人工智能在各領(lǐng)域的應用持鼓勵態(tài)度，更是提出支持教育科研機構(gòu)與其他機構(gòu)開展協(xié)作，以促進技術(shù)創(chuàng)新與轉(zhuǎn)化應用。為確保《辦法》的平穩(wěn)落地、助力生成式人工智能教育工具的合理使用，結(jié)合羅素大學集團的治理方案與我國的現(xiàn)實情況，可以從如下三個方面進行制度完善：

1課程創(chuàng)新，教導學生正確使用

在人工智能技術(shù)的支持下，學生學習呈現(xiàn)精準化、擬真化、個性化的發(fā)展趨勢^[24]。但生成式人工智能工具可以是處理海量信息、提高學習效率的最佳助手，也可以是減弱自主思考、損害學術(shù)誠信的不良幫兇，關(guān)鍵在于用戶的使用方式。為確保學生合理使用生成式人工智能，揚其利避其弊，羅素大學集團提出要對學生開展相關(guān)培訓和指導，結(jié)合我國實踐，可以利用思政教育課與專業(yè)教學課雙管齊下。一方面，通過思政教育加強價值引導，幫助學生理解生成式人工智能的工具性。只有正確理解生成式人工智能的工具地位，才能更好地發(fā)揮生成式人工智能的工具作用，在新技術(shù)支持下要培養(yǎng)善用人工智能工具、具備數(shù)字涵養(yǎng)的現(xiàn)代化人才，而不是滿足于算法推薦答案的工具人。另一方面，通過專業(yè)教學完善人才培養(yǎng)，帶領(lǐng)學生正確使用生成式人工智能?？梢愿鶕?jù)學科特色，適當設置生成式人工智能規(guī)范使用的相關(guān)課程，使學生充分理解這一技術(shù)背后的基本原理，認識到其利弊所在，進而在專業(yè)學習中進行合理使用。如此雙管齊下，方能引導學生正確使用、規(guī)范使用。此外，在科研不端行為形式愈發(fā)多樣、程度愈發(fā)嚴重的背景下，以法律強制性規(guī)范加以約束能夠調(diào)適道德譴責的弱勢效果。2023年8月，《學位法（草案）》提交全國人大常委會審議，其中第三十三條明確將人工智能代寫學位論文列為學術(shù)不端行為，學位授予單位可以撤銷其學位論文。這一規(guī)定使針對新技術(shù)與教育學術(shù)關(guān)系的討論進入一個新的高度，但仍應進一步明確認定標準，從學生使用生成式人工智能產(chǎn)品進行的活動類型與人工智能產(chǎn)品生成的內(nèi)容占比兩個方面加以具體認定，實現(xiàn)法律硬標準與教育軟規(guī)范的共同發(fā)力。

2明確分工，確保教師主體地位

生成式人工智能憑借其強大的輸出能力成為教師的優(yōu)秀教學助手，而教師在從煩瑣、機械的工作中解放出來的同時，也必須正確處理人機關(guān)系，既要將生成式人工智能融入教育，又要避免被生成式人工智能取代。羅素大學集團致力于使用生成式人工智能改善教育質(zhì)量和減少教師工作量，我國亦要充分發(fā)揮與正確利用人工智能在教育活動中的輔助性作用。首先，要明確分工。所謂教育，即“教書”和“育人”。在“教書”環(huán)節(jié)，智能化教學以其技術(shù)優(yōu)勢發(fā)揮了重要作用，但在“育人”環(huán)節(jié)，教師以其社會經(jīng)驗與人文關(guān)懷，幫助學生塑造品格、提高素養(yǎng)，由自然人成長為社會人，具有不可替代的地位。其次，要主次有別。生成式人工智能在知識面的寬度、信息量的深度上優(yōu)于大部分教師，但是在教育活動中只能處于輔助性地位，這是將生成式人工智能引入教育的底線所在。在教育領(lǐng)域開展人機協(xié)同的過程中，教師必須把握節(jié)奏、主導教學活動，不能“放權(quán)”于人工智能。最后，要全程負責。教師在使用生成式人工智能的過程中，必須具有主體意識與責任意識，在鼓勵學生使用人工智能工具的同時加以指導，審查通過人工智能生成并反饋給學生的內(nèi)容，避免生成式人工智能對學生的不良引導與錯誤輸出。

3協(xié)同跟進，完善系統(tǒng)管理制度

要實現(xiàn)針對學生的課程創(chuàng)新和針對教師的教學完善，助力生成式人工智能在教育領(lǐng)域的有益應用，必須完善相應的配套制度。羅素大學集團在發(fā)布的指南中，針對行政支持與高校合作提出了一些應對措施，對我國教育管理系統(tǒng)的全面完善具有參考價值。首先，嚴格高效的審查監(jiān)管制度是生成式人工智能合理使用的保障。在鼓勵學生正確使用生成式人工智能工具以提高學習效率的同時，必須采取措施避免學術(shù)不端行為，如英國98%的大學使用Turnitin檢測軟件進行人工智能生成物的審查，我國也有必要鼓勵技術(shù)研發(fā)以加強審查監(jiān)管。其次，快捷可靠的軟件工具是生成式人工智能合理使用的前提。在人工智能背景下，學習必須被視為一種在學習資源之間的旅行和探險^[25]，在教育領(lǐng)域鼓勵生成式人工智能使用的同時，也應當在工具選擇上加以幫助，要結(jié)合不同高校、不同學科的教育模式分類指引，還要盡可能排除一些使用障礙，如ChatGPT的收費、文心一言的賬號等待，以快捷訪問助力教育公平。最后，聯(lián)合統(tǒng)一的高校合作是生成式人工智能發(fā)揮作用的最佳載體。數(shù)據(jù)庫的樣本越大、使用者的糾偏越多，生成式人工智能工具的可信度就越高，高校合作成立規(guī)模較大的管理平臺，不僅能夠助力教育領(lǐng)域人工智能工具的不斷完善，還能及時交流經(jīng)驗與信息互通，共同探索生成式人工智能在教育領(lǐng)域的發(fā)展前景。

五 結(jié)語

挑戰(zhàn)已到，未來已來。ChatGPT具備深入的理解能力、海量的知識庫和高效的生成服務，在未來5～10年將成為人類生活不可缺少的部分^[26]。以生成式人工智能為引領(lǐng)的新時代已經(jīng)到來，未來教育的新格局正在重構(gòu)。在倫理風險與發(fā)展機遇并存的背景下，回避絕非長遠之計，擁抱方能乘勢而發(fā)。我們要建設教育強國，實現(xiàn)教育現(xiàn)代化，就要乘好技術(shù)發(fā)展的順風車，用好人工智能的新工具。羅素大學集團從堵到疏的觀念轉(zhuǎn)變是大勢所趨，多方協(xié)作的制度設計極具借鑒意義。針對生成式人工智能工具的不同面向的倫理風險，從學生學習、教師教學、教育管理三個方面有針對性地進行風險應對與制度構(gòu)建，堅持以人為本的教育理念，充分發(fā)揮生成式人工智能的工具作用，是應為之事，更是必為之舉。

參考文獻

[1]陳寶生.ChatGPT：教育的未來和未來的教育[J].人民教育，2023，（Z3）：6-13.

[2]楊曉哲，王晴晴，王若昕.生成式人工智能的有限能力與教育變革[J].全球教育展望，2023，（6）：3-12.

[3]楊欣.基于生成式人工智能的教育轉(zhuǎn)型圖景——ChatGPT究竟對教育意味著什么[J].中國電化教育，2023，（5）：1-8、14.

[4]聯(lián)合國科教文組織.生成式人工智能突飛猛進，教科文組織動員教育界協(xié)調(diào)應對[OL].

[5]劉金松.人工智能時代學生主體性的相關(guān)問題探討[J].現(xiàn)代教育技術(shù)，2021，（1）：5-11.

[6]Study.com.?Productive teaching tool or innovative cheating？[OL].

[7]CNBC TV18. 51% of college students believe using ChatGPT to do assignments is cheating， says survey[OL]

[8]徐振國，趙春雨，王悅，等.智慧學習環(huán)境下大學生深度學習的影響因素[J].現(xiàn)代教育技術(shù)，2023，（1）：58-65.

[9]汝鵬，秦曉陽，蘇竣.風險、原則與責任：基于實驗路徑的人工智能社會實驗倫理規(guī)范體系建構(gòu)探究[OL].

[10]Tom Kirk. ChatGPT（We need to talk）[OL].?

[11]趙磊磊，張黎，王靖.智能時代教育數(shù)據(jù)倫理風險：典型表征與治理路徑[J].中國遠程教育，2022，（3）：17-25、77.

[12]EDE-Open World. Generative AI-ethics all the way down[OL].

[13]American Physical Society. Using machine learning to identify the most at-risk students in physics classes[OL].

[14]孫立會.人工智能之于教育決策的主體性信任危機及其規(guī)避[J].電化教育研究，2023，（3）：21-27、43.

[15]University of Oxford. Four lessons from ChatGPT：?Challenges and opportunities for educators[OL].

[16]徐俊.“個體個性化”與“個體社會化”究竟是什么關(guān)系：兼論學校的教育功能[J].上海教育科研，2015，（8）：18-21.

[17]呂建強，許艷麗.5G賦能數(shù)字時代的教育公平芻議[J].中國電化教育，2021，（5）：18-26.

[18]Bethan Wild. ChatGPT： Cardiff students admit using AI on essays[OL].

[19][21]Sally Weale. UK universities draw up guiding principles on generative AI[OL].

[20]倪閩景.從學習進化的視角看ChatGPT/生成式人工智能對學習的影響[J].華東師范大學學報（教育科學版），2023，（7）：151-161.

[22]王佑鎂，王旦，梁煒怡，等.“阿拉丁神燈”還是“潘多拉魔盒”：ChatGPT教育應用的潛能與風險[J].現(xiàn)代遠程教育研究，2023，（2）：48-56.

[23]劉永謀，王春麗.積極應對生成式人工智能對文科教育的挑戰(zhàn)[J].南京社會科學，2023，（6）：119-128.

[24]胡小勇，孫碩，楊文杰，等.人工智能賦能教育高質(zhì)量發(fā)展：需求、愿景與路徑[J].現(xiàn)代教育技術(shù)，2022，（1）：5-15

[25]于澤元，鄒靜華.人工智能視野下的教學重構(gòu)[J].現(xiàn)代遠程教育研究，2019，（4）：37-46.

[26]賀樑，應振宇，王英英，等.教育中的ChatGPT：教學能力診斷研究[J].華東師范大學學報（教育科學版），2023，（7）：162-176.

Ethical Risks and Governance Approaches of Generative Artificial Intelligence in Education

——Based on the Practical Investigation of the Russell University Group

ZHANG Hui-Bin?XU Lei

（Civil and Commercial Law School， Southwest University of Political Science and Law， Chongqing， China 401120）

Abstract：The generative artificial intelligence represented by ChatGPT has impacted the traditional education model and caused many ethical risks in education. However， the measures taken by Russell University Group to face the risks， which represents the topteaching and research level in the UK， are of great significance. Therefore， this paper took the Russell University Group as the main research object， firstly introduced the current application status of generative artificial intelligence in the field of education faced for students， teachers and the education sectors， then summarized the discussions on the ethical risks of generative artificial intelligence in education in member universities of Russell University Group into three aspects， and further analyzed and introduced the transformation ways and transformation reasons for the governance path of Russell University Group in the face of the above risks. Finally， drawing on the typical measures of the Russell University Group， this paper put forward suggestions for improving the governance of generative artificial intelligence education in China from the three levels of teaching students to use it correctly， ensuring the main position of teachers， and improving the systematic management system， aiming to give full play to the positive role of generative artificial intelligence in the field of education and promote the innovation and development of digital education in line with educational ethics.

Keywords：generative artificial intelligence; education; ethical risk; ChatGPT

羅素大學集團，簡稱羅素集團（The Russell Group），有英國“常春藤聯(lián)盟”的美譽，代表英國頂尖教學和科研水平。羅素大學集團成立于1994年，是由英國的24所研究型大學（包含6所金三角名校）組成的高校聯(lián)盟，其性質(zhì)類似于美洲大學協(xié)會。

“喬布斯之問”是蘋果公司創(chuàng)始人喬布斯生前提出的：“為什么計算機改變了幾乎所有領(lǐng)域，卻唯獨對學校教育的影響小得令人吃驚？”

第五條：鼓勵生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應用，生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容，探索優(yōu)化應用場景，構(gòu)建應用生態(tài)體系。支持行業(yè)組織、企業(yè)、教育和科研機構(gòu)、公共文化機構(gòu)、有關(guān)專業(yè)機構(gòu)等在生成式人工智能技術(shù)創(chuàng)新、數(shù)據(jù)資源建設、轉(zhuǎn)化應用、風險防范等方面開展協(xié)作。

*基金項目：本文為重慶市教委科學技術(shù)研究重點項目“生成式人工智能對著作權(quán)登記制度的挑戰(zhàn)與應對研究”（項目編號：KJZD-K202300304）、重慶市教育科學“十四五”規(guī)劃2023年度重點項目“高校數(shù)字技術(shù)應用的倫理風險與預防研究”（項目編號：K23YD2030079）、重慶市高等教育學會高等教育科學研究一般項目“ChatGPT類產(chǎn)品對學術(shù)誠信的負面影響及對策”（項目編號：cqgj2023017C）的階段性研究成果。

作者簡介：張惠彬，副教授，博士，研究方向為知識產(chǎn)權(quán)法學，郵箱為179002478@qq.com。

編輯：小時