林莉

摘要：隨著人工智能技術(shù)的迅猛發(fā)展，生成式人工智能（AIGC） 服務(wù)在教育領(lǐng)域的應(yīng)用也日益廣泛。作為AIGC的典型代表，ChatGPT憑借其強(qiáng)大的底座能力、卓越的思維鏈推理能力以及實(shí)用的零樣本能力，在為教育主體賦能、為教育客體賦權(quán)以及為教育過程注入活力的同時(shí)，也帶來了諸多挑戰(zhàn)，包括在法律、倫理、技術(shù)等方面的潛在風(fēng)險(xiǎn)。為有效應(yīng)對(duì)這些教育風(fēng)險(xiǎn)，我們應(yīng)從法律規(guī)范、倫理約束和技術(shù)攻關(guān)三個(gè)維度出發(fā)，推動(dòng)以ChatGPT為代表的生成式人工智能安全風(fēng)險(xiǎn)治理工作。

關(guān)鍵詞：生成式人工智能；ChatGPT；潛在風(fēng)險(xiǎn)；教育風(fēng)險(xiǎn)應(yīng)對(duì)

中圖分類號(hào)：TP3 文獻(xiàn)標(biāo)識(shí)碼：A

文章編號(hào)：1009-3044（2024）11-0033-03

自O(shè)penAI于2022年11月30日發(fā)布ChatGPT以來，這款優(yōu)化對(duì)話的語言模型迅速在全球范圍內(nèi)引起高度關(guān)注。2023年4月11日，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布了《生成式人工智能服務(wù)管理辦法（征求意見稿）》，明晰了對(duì)生成式人工智能的定義，將其界定為“基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)”[1]。

一些學(xué)者積極肯定ChatGPT的價(jià)值，認(rèn)為其發(fā)展將有利于人類的自由與解放，并對(duì)其持歡迎態(tài)度。然而，也有學(xué)者指出ChatGPT在教學(xué)應(yīng)用中可能帶來的負(fù)面影響，如信息不準(zhǔn)確的風(fēng)險(xiǎn)、對(duì)人際互動(dòng)與同理心培養(yǎng)的不足以及對(duì)現(xiàn)有考試評(píng)價(jià)制度的沖擊[2]。這些問題進(jìn)一步引發(fā)了關(guān)于數(shù)據(jù)悖論、知識(shí)悖論和認(rèn)識(shí)能力等悖論的討論[3]。面對(duì)人工智能技術(shù)的飛速發(fā)展，教育工作者應(yīng)如何應(yīng)對(duì)ChatGPT在社會(huì)和教育領(lǐng)域引發(fā)的“海嘯”？本文將以ChatGPT為例，深入探討生成式人工智能在教育中的潛在風(fēng)險(xiǎn)及其應(yīng)對(duì)策略。

1 生成式人工智能的教育風(fēng)險(xiǎn)檢視

黨的十九大以來，國(guó)家陸續(xù)出臺(tái)了“1+N”政策體系，為人工智能的快速發(fā)展提供政策依據(jù)和制度保障，規(guī)劃強(qiáng)調(diào)了對(duì)人工智能行為進(jìn)行科學(xué)和倫理研究的重要性，并倡導(dǎo)在最大范圍內(nèi)減輕相關(guān)風(fēng)險(xiǎn)[4]。2023年4月，國(guó)家網(wǎng)信辦發(fā)布的《征求意見稿》，在對(duì)科技倫理風(fēng)險(xiǎn)預(yù)警與跟蹤研判的基礎(chǔ)上，及時(shí)回應(yīng)當(dāng)前生成式人工智能帶來的風(fēng)險(xiǎn)與沖擊?？偟膩碚f，以ChatGPT為代表的生成式人工智能在學(xué)習(xí)、教學(xué)和管理等層面帶來諸多價(jià)值，然而，由于當(dāng)前仍處于弱人工智能階段，生成式人工智能（AIGC） 在帶來眾多機(jī)遇的同時(shí)，也在法律、倫理、技術(shù)等方面存在潛在風(fēng)險(xiǎn)。

1.1 生成式人工智能的法律風(fēng)險(xiǎn)

1.1.1 數(shù)據(jù)和隱私的泄露

生成式人工智能系統(tǒng)通常需要大量的數(shù)據(jù)來進(jìn)行學(xué)習(xí)和訓(xùn)練。在課堂中，ChatGPT可能成為“課堂間諜”。為了獲得ChatGPT對(duì)特定問題的解決方案，師生需要輸入大量與之相關(guān)的數(shù)據(jù)。生成式AI通過對(duì)歷史記錄、行為模式和當(dāng)前情況等日常數(shù)據(jù)的分析，以最小成本和最快速度為師生提供決策支持。然而，這種數(shù)據(jù)收集和處理方式可能引發(fā)數(shù)據(jù)和隱私的泄漏風(fēng)險(xiǎn)。

1.1.2 知識(shí)產(chǎn)權(quán)侵犯的風(fēng)險(xiǎn)

生成式人工智能在向用戶提供回復(fù)時(shí)，若過度借鑒他人作品，則可能引發(fā)知識(shí)產(chǎn)權(quán)侵權(quán)問題[5]。Chat‐GPT給出的答案通常來源于搜索引擎搜索來的網(wǎng)上公開數(shù)據(jù)。這些數(shù)據(jù)都是人們上傳和留痕的結(jié)果。如果ChatGPT 給出的答案涉及他人的著作權(quán)，如文字、代碼、圖片等，用戶在使用時(shí)若不加以甄別，可能面臨侵權(quán)風(fēng)險(xiǎn)。

1.2 生成式人工智能的倫理風(fēng)險(xiǎn)

1.2.1 師生情感的異化

教育是培養(yǎng)人的社會(huì)實(shí)踐活動(dòng)，廣泛運(yùn)用這類技術(shù)可能導(dǎo)致教師的知識(shí)權(quán)威逐漸減弱，教學(xué)變得更像是通過“人-機(jī)-人”模式傳授知識(shí)。這種方式與傳統(tǒng)的“人-人”面對(duì)面交流不同，學(xué)生和教師面對(duì)的是機(jī)器或屏幕，而非真實(shí)的生命體驗(yàn)[6]。對(duì)于教師來說，這可能阻礙了他們?nèi)娴馗兄獙W(xué)生內(nèi)心微妙變化的能力，也難以及時(shí)進(jìn)行真實(shí)的情感交流[7]。馬斯洛的需求層次理論表明，人是社會(huì)性的，情感需求至關(guān)重要，“人-機(jī)- 人”交流方式可能導(dǎo)致師生間情感交往的疏離，減弱彼此關(guān)懷和情感投入，使情感體驗(yàn)變得缺乏真實(shí)感[8]。

1.2.2 人工智能的偏見

ChatGPT是一個(gè)大型的語言模型，雖然被訓(xùn)練了幾百萬個(gè)數(shù)據(jù)點(diǎn)，包括了大量的文本與書籍，但由于其學(xué)到的知識(shí)僅來自訓(xùn)練數(shù)據(jù)中的統(tǒng)計(jì)規(guī)律，缺乏語境理解能力，無法像人類一樣能對(duì)世界進(jìn)行復(fù)雜和系統(tǒng)地了解，因此常具有攻擊性和偏見性的反饋內(nèi)容。由于ChatGPT的學(xué)習(xí)算法是建立在歷史數(shù)據(jù)基礎(chǔ)上的，其時(shí)效性相對(duì)較差。在對(duì)學(xué)生成績(jī)及能力進(jìn)行評(píng)估時(shí)，采用這種算法將基于過去的衡量標(biāo)準(zhǔn)，可能導(dǎo)致產(chǎn)生偏見和不公平。

1.3 生成式人工智能的技術(shù)風(fēng)險(xiǎn)

1.3.1 內(nèi)在技術(shù)風(fēng)險(xiǎn)

內(nèi)在化技術(shù)風(fēng)險(xiǎn)即生成式人工智能教育技術(shù)應(yīng)用過程中客觀存在的風(fēng)險(xiǎn)[9]。以ChatGPT為代表的生成式人工智能，主要涉及幾項(xiàng)關(guān)鍵技術(shù)和架構(gòu)，分別是基于Transformer的預(yù)訓(xùn)練語言模型、提示學(xué)習(xí)與指令精調(diào)、思維鏈以及基于人類反饋的強(qiáng)化學(xué)習(xí)。

因此內(nèi)在化技術(shù)風(fēng)險(xiǎn)首先體現(xiàn)在數(shù)據(jù)支持的缺陷，具體表現(xiàn)為ChatGPT時(shí)效性差，無法融入新的知識(shí)。例如：當(dāng)詢問ChatGPT“卡塔爾世界杯的冠軍是哪支球隊(duì)”？ChatGPT給出的回答是“卡塔爾世界杯將于2022年11月21日至12月18日在卡塔爾舉行。因此無法回答這個(gè)問題，因?yàn)楸荣惖臅r(shí)間尚未確定。請(qǐng)耐心等待比賽結(jié)果揭曉”。

1.3.2 外在技術(shù)風(fēng)險(xiǎn)

生成式AI時(shí)代的教育技術(shù)風(fēng)險(xiǎn)與以往的分析式AI有所不同，顯現(xiàn)出明顯的特殊性。在這一時(shí)代，技術(shù)風(fēng)險(xiǎn)不僅涉及內(nèi)在方面，還包括外在的技術(shù)風(fēng)險(xiǎn)。外在技術(shù)風(fēng)險(xiǎn)主要體現(xiàn)在以下幾個(gè)方面：首先是數(shù)據(jù)隱私和安全，因?yàn)樯墒紸I需要大量數(shù)據(jù)進(jìn)行訓(xùn)練，可能會(huì)牽涉?zhèn)€人隱私信息的泄露和濫用。其次是誤導(dǎo)性和誤解，生成的內(nèi)容可能會(huì)誤導(dǎo)人們，造成信息不準(zhǔn)確或不真實(shí)的情況。此外，惡意濫用也是一個(gè)風(fēng)險(xiǎn)，生成式AI可以被用于制作虛假信息、網(wǎng)絡(luò)欺詐和惡意攻擊等。另外，技術(shù)的濫用也可能導(dǎo)致倫理和道德問題的出現(xiàn)，比如深度偽造視頻可能會(huì)引發(fā)虛假新聞、個(gè)人聲譽(yù)受損等問題。因此，需要嚴(yán)格監(jiān)管和合理限制生成式AI的應(yīng)用，以減少這些潛在風(fēng)險(xiǎn)。

2 生成式人工智能的教育風(fēng)險(xiǎn)構(gòu)成

在大規(guī)模數(shù)據(jù)和強(qiáng)大計(jì)算力的支持下，ChatGPT 具備了“涌現(xiàn)”能力。這使得它不僅能夠“理解”人類自然語言，還能夠“記住”在訓(xùn)練期間積累的大量事實(shí)，并基于這些“記憶”生成高質(zhì)量的內(nèi)容[10]。與此同時(shí)，相對(duì)已有的人工智能技術(shù)，生成式人工智能帶來的潛在風(fēng)險(xiǎn)更為緊迫。

2.1 生成式人工智能準(zhǔn)備階段的數(shù)據(jù)風(fēng)險(xiǎn)

生成式人工智能的運(yùn)行離不開算法和數(shù)據(jù)，Chat‐GPT通過“大數(shù)據(jù)＋大算力＋強(qiáng)算法”，構(gòu)建了一種大型自然語言模型，讓人們?cè)谌斯ぶ悄苌a(chǎn)力轉(zhuǎn)變的基礎(chǔ)上向前推進(jìn)一步。對(duì)于ChatGPT這類高度智能化的生成式人工智能，如何有效運(yùn)用和處理數(shù)據(jù)，包括國(guó)家數(shù)據(jù)和個(gè)人數(shù)據(jù)等，以及在生成式人工智能準(zhǔn)備階段如何應(yīng)對(duì)數(shù)據(jù)風(fēng)險(xiǎn)，都成為評(píng)估ChatGPT安全性和規(guī)范其后續(xù)應(yīng)用的重要標(biāo)準(zhǔn)[11]。

2.2 生成式人工智能運(yùn)算階段的算法偏見風(fēng)險(xiǎn)

生成式人工智能引起廣泛社會(huì)關(guān)注的原因之一是它由傳統(tǒng)的分析式AI向新興的生成式AI轉(zhuǎn)變，而在這一過渡中，算法模型發(fā)揮著至關(guān)重要的角色。生成式人工智能主要通過基礎(chǔ)算法對(duì)數(shù)據(jù)進(jìn)行分析和處理，ChatGPT算法的偏見風(fēng)險(xiǎn)也因此產(chǎn)生[12]。換言之，ChatGPT在進(jìn)行機(jī)器學(xué)習(xí)的同時(shí)，通過人工標(biāo)注來修正和校對(duì)機(jī)器學(xué)習(xí)的結(jié)論，“機(jī)器學(xué)習(xí)+人工標(biāo)注”作為算法技術(shù)內(nèi)核，雖然提升了技術(shù)水平，但也增加了算法偏見的風(fēng)險(xiǎn)。

2.3 生成式人工智能生成階段的知識(shí)產(chǎn)權(quán)風(fēng)險(xiǎn)

生成式人工智能的崛起給多個(gè)產(chǎn)業(yè)帶來了挑戰(zhàn)，其中對(duì)知識(shí)產(chǎn)權(quán)領(lǐng)域的影響最為顯著。生成式人工智能的智能程度極高，在運(yùn)算時(shí)對(duì)知識(shí)產(chǎn)權(quán)的歸屬產(chǎn)生了顛覆性的變化，相較以往的人工智能系統(tǒng)，帶來了知識(shí)產(chǎn)權(quán)風(fēng)險(xiǎn)，而這是人工智能無法規(guī)避的。

3 生成式人工智能的教育風(fēng)險(xiǎn)應(yīng)對(duì)

未來，人機(jī)協(xié)同成為大勢(shì)所趨。為了減少或避免生成式人工智能帶來的各種風(fēng)險(xiǎn)，應(yīng)當(dāng)從法治、倫理以及應(yīng)用維度出發(fā)，采取具體實(shí)用的措施來應(yīng)對(duì)這些風(fēng)險(xiǎn)。

3.1 法治層面：制定和完善生成式人工智能應(yīng)用的政策和法律框架

為落實(shí)生成式人工智能的政策和法律體系，2016 年以來，世界各國(guó)與各類組織發(fā)布了大量與人工智能風(fēng)險(xiǎn)防范相關(guān)的規(guī)劃和報(bào)告[13]。2016年9月，英國(guó)標(biāo)準(zhǔn)協(xié)會(huì)出臺(tái)《機(jī)器人和機(jī)器系統(tǒng)的倫理涉及和應(yīng)用指南》，指明人工智能倫理的研究要在行業(yè)設(shè)定標(biāo)準(zhǔn)的指導(dǎo)下進(jìn)行。2021年4月，歐盟委員會(huì)通過了《人工智能》立法提案，提出通過制度規(guī)范規(guī)避風(fēng)險(xiǎn)的重大安排。

黨的十九大報(bào)告強(qiáng)調(diào)“以良法促進(jìn)發(fā)展、保障善治”[14]。因此，我們需要科學(xué)嚴(yán)謹(jǐn)?shù)貙?duì)生成式人工智能的發(fā)展和應(yīng)用可能帶來的潛在風(fēng)險(xiǎn)進(jìn)行判斷、分析和論證，不斷制定和優(yōu)化關(guān)于生成式人工智能的法律法規(guī)，以確保其在法制化軌道上規(guī)范發(fā)展和應(yīng)用。

3.2 倫理層面：加強(qiáng)倫理約束，培養(yǎng)關(guān)鍵素養(yǎng)

加強(qiáng)倫理約束并培養(yǎng)關(guān)鍵素養(yǎng)是校規(guī)校紀(jì)與課程整合的重要方面。通過加強(qiáng)倫理約束，學(xué)校可以建立起一套明確的道德規(guī)范和行為準(zhǔn)則，引導(dǎo)學(xué)生樹立正確的道德觀念和行為習(xí)慣。這不僅有助于維護(hù)校園秩序，還能培養(yǎng)學(xué)生的自律意識(shí)和社會(huì)責(zé)任感。同時(shí)，課程整合還可以通過教育教學(xué)活動(dòng)，引導(dǎo)學(xué)生思考和討論倫理道德問題，促進(jìn)他們的道德判斷能力和倫理意識(shí)的培養(yǎng)。通過這種方式，學(xué)生將更加深入地理解和內(nèi)化校規(guī)校紀(jì)的內(nèi)涵，為他們未來的學(xué)習(xí)和生活打下堅(jiān)實(shí)的倫理基礎(chǔ)。因此，必須充分意識(shí)到使用ChatGPT等人工智能工具帶來的社會(huì)風(fēng)險(xiǎn)[15]，探索以主流價(jià)值導(dǎo)向駕馭算法，采取措施確保輸出內(nèi)容準(zhǔn)確可靠。同時(shí)，通過多樣化的教育活動(dòng)，傳播人工智能相關(guān)的政策與法律法規(guī)，提升公眾人工智能的技術(shù)和人文素養(yǎng)[16]。

3.3 應(yīng)用層面：建立ChatGPT 教育應(yīng)用的風(fēng)險(xiǎn)預(yù)防體系

ChatGPT系統(tǒng)使用全過程的監(jiān)督。如果學(xué)生過度依賴ChatGPT技術(shù)，可能會(huì)出現(xiàn)采用相同算法和對(duì)象的“常?！边M(jìn)行學(xué)習(xí)的情況，很難真正激發(fā)學(xué)生的潛力，也不利于引導(dǎo)學(xué)生深入思考和探究，甚至可能剝奪學(xué)生的思維訓(xùn)練和創(chuàng)造力發(fā)展的空間[17]。因此，教師應(yīng)有針對(duì)性地進(jìn)行教學(xué)活動(dòng)和課外實(shí)踐，根據(jù)學(xué)生的“最近發(fā)展區(qū)”設(shè)計(jì)創(chuàng)新性的資源，成為學(xué)生學(xué)業(yè)和人格發(fā)展的“引路人”，這是機(jī)器所無法替代的[18]。學(xué)校和教師應(yīng)舍棄側(cè)重知識(shí)記憶的傳統(tǒng)評(píng)價(jià)方式，引入多維度的評(píng)價(jià)標(biāo)準(zhǔn)，注重考查學(xué)生在批判性思維和創(chuàng)新性思維等方面的綜合能力，以有效提升評(píng)價(jià)方式的科學(xué)性和公平性[19]。

4 結(jié)束語

本文探討了生成式人工智能服務(wù)在教育領(lǐng)域中存在的風(fēng)險(xiǎn)，并結(jié)合ChatGPT作為案例進(jìn)行分析。雖然生成式人工智能在教育中具有巨大潛力，可以提供個(gè)性化的學(xué)習(xí)體驗(yàn)和幫助，但同時(shí)也面臨一些挑戰(zhàn)和風(fēng)險(xiǎn)。我們必須謹(jǐn)慎對(duì)待生成式人工智能在教育領(lǐng)域中的應(yīng)用，既要充分利用其優(yōu)勢(shì)，又要警惕其中的風(fēng)險(xiǎn)。只有在全社會(huì)共同努力下，才能更好地推動(dòng)人工智能技術(shù)在教育中的發(fā)展，為教育事業(yè)帶來更多的機(jī)遇與挑戰(zhàn)。

參考文獻(xiàn)：

[1] 生成式人工智能服務(wù)管理辦法（征求意見稿）[J]. 中國(guó)信息化，2023（5）：18-19.

[2] 王佑鎂，王旦，梁煒怡，等.“阿拉丁神燈” 還是“潘多拉魔盒”：ChatGPT 教育應(yīng)用的潛能與風(fēng)險(xiǎn)[J]. 現(xiàn)代遠(yuǎn)程教育研究，2023，35（2）：48-56.

[3] 肖峰. 哲學(xué)視域中的信息技術(shù)[M]. 北京：科學(xué)出版社，2017.

[4] 王嵐，王凱. 教育中的人工智能：應(yīng)用、風(fēng)險(xiǎn)與治理研究[J]. 黑龍江高教研究，2020，38（6）：45-49.

[5] 張學(xué)博，王涵睿. 生成式人工智能的法律規(guī)制：以ChatGPT為例[C]//上海市法學(xué)會(huì).《上海法學(xué)研究》集刊2023年第6卷：2023年世界人工智能大會(huì)青年論壇論文集，2023.

[6] 馮雨奐. ChatGPT在教育領(lǐng)域的應(yīng)用價(jià)值、潛在倫理風(fēng)險(xiǎn)與治理路徑[J]. 思想理論教育，2023（4）：26-32.

[7] 尚瑞茜，么加利. 人工智能時(shí)代教師教學(xué)語言變革的隱憂與堅(jiān)守[J]. 大學(xué)教育科學(xué)，2023，14（3）：54-62.

[8] 張雅麗，周雄俊，田再來，等. 人工智能教育應(yīng)用風(fēng)險(xiǎn)與治理[J]. 中國(guó)現(xiàn)代教育裝備，2023（8）：63-65.

[9] 吳河江，涂艷國(guó)，譚轢紗. 人工智能時(shí)代的教育風(fēng)險(xiǎn)及其規(guī)避[J]. 現(xiàn)代教育技術(shù)，2020，30（4）：18-24.

[10] 韓丹東，王意天.ChatGPT火爆背后有何法律風(fēng)險(xiǎn)？[N].法治日?qǐng)?bào)，2023-02-13（008）.

[11] 劉艷紅.生成式人工智能的三大安全風(fēng)險(xiǎn)及法律規(guī)制：以ChatGPT為例[J].東方法學(xué)，2023（4）：29-43.

[12]（ 美）約瑟夫·E.奧恩.教育的未來：人工智能時(shí)代的教育變革[M].李海燕，王秦輝，譯.北京：機(jī)械工業(yè)出版社，2019.

[13] 西桂權(quán)，譚曉，靳曉宏，等.挑戰(zhàn)與應(yīng)對(duì)：大型語言模型（Chat‐GPT）的多樣態(tài)安全風(fēng)險(xiǎn)歸因及協(xié)同治理研究[J].新疆師范大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2023，44（6）：131-139.

[14] 馬煥靈.黨的十八大以來中國(guó)教育法治新樣態(tài)：理念、制度與行動(dòng)[J].現(xiàn)代教育管理，2022（10）：22-32.

[15] 徐和祥，申利俠“. 智能+教育”：應(yīng)用場(chǎng)景、風(fēng)險(xiǎn)挑戰(zhàn)與治理對(duì)策[J].復(fù)旦教育論壇，2023，21（2）：24-30.

[16] 李曉鋒.人工智能將如何改變中國(guó)教育：評(píng)《教育的未來： 人工智能時(shí)代的教育變革》[J].林產(chǎn)工業(yè)，2019，56（12）：110.

[17] 鐘秉林，尚俊杰，王建華，等.ChatGPT對(duì)教育的挑戰(zhàn)（筆談）[J].重慶高教研究，2023，11（3）：3-25.

[18] 盧宇，余京蕾，陳鵬鶴，等.生成式人工智能的教育應(yīng)用與展望：以ChatGPT系統(tǒng)為例[J].中國(guó)遠(yuǎn)程教育，2023，43（4）：24-31，51.

[19] 儲(chǔ)舒婷.ChatGPT火熱“出圈”，我們?nèi)绾螒?yīng)對(duì)新挑戰(zhàn)[N].文匯報(bào)，2023-02-05（3）.

【通聯(lián)編輯：代影】