鐘悅 王潔

摘? ?要：人工智能自引進教育領(lǐng)域以來，其發(fā)展?jié)摿εc價值已得到廣泛驗證且取得較大成功。經(jīng)濟合作與發(fā)展組織（OECD）于2020年4月發(fā)布了《教育中的可信賴人工智能：前景與挑戰(zhàn)》報告，詳細闡述了人工智能在教育領(lǐng)域的應(yīng)用與發(fā)展。從現(xiàn)狀看，人工智能在課堂教學(xué)、學(xué)校管理及教育系統(tǒng)三個層面發(fā)揮了巨大價值。從影響看，人工智能推動了正規(guī)教育系統(tǒng)進一步變革知識與技能。從前景看，人工智能在教育領(lǐng)域的快速發(fā)展給各國教育工作者和政策制定者帶來了新的問題與挑戰(zhàn)。

關(guān)鍵詞：教育 人工智能 OECD

近年來，人工智能、物聯(lián)網(wǎng)等數(shù)字技術(shù)推動了教育的發(fā)展。中國、美國、印度等國家的教育技術(shù)行業(yè)獲得了大規(guī)模投資，為教育機構(gòu)與利益相關(guān)者開發(fā)了廣泛的數(shù)字方案，如線上平臺、機器人、智能設(shè)備等。數(shù)字技術(shù)為教育創(chuàng)造了新的機遇，也帶來新的挑戰(zhàn)。數(shù)字時代下各國教育系統(tǒng)、課程與技能需求均開始變革，創(chuàng)新技能與公民技能的重要性逐漸增加。同時，勞動力市場技能范圍在自動化影響下不斷擴展，創(chuàng)造力、批判性思維等勞動者的綜合技能越來越受重視。

一、背景

作為數(shù)字技術(shù)發(fā)展前景最廣闊的領(lǐng)域之一，人工智能未來有望幫助人類實現(xiàn)可持續(xù)發(fā)展目標（Sustainable Development Goals），為創(chuàng)造可持續(xù)、包容的社會提供幫助。但是，人工智能快速發(fā)展的同時也帶來了巨大的挑戰(zhàn)，如勞動力市場轉(zhuǎn)型問題，隱私、安全與道德問題，數(shù)字鴻溝問題，技能培養(yǎng)需求問題等。2019年，二十國集團（G20）在日本大阪通過了《G20人工智能原則》，致力于發(fā)展以人為本的人工智能應(yīng)用，增強公眾對人工智能的信任與信心，充分發(fā)揮人工智能的潛力。

2020年，沙特阿拉伯（G20輪值主席國）提議展開G20人工智能對話，由G20數(shù)字經(jīng)濟工作組主持，旨在使基于人工智能的全球政策制定與技術(shù)發(fā)展保持同步，支持G20成員間分享經(jīng)驗和政策實踐。G20人工智能對話的重點是教育、醫(yī)療保障、公共服務(wù)（電子政府）領(lǐng)域值得信賴的人工智能。

基于此，OECD于2020年4月發(fā)布《教育中的可信賴人工智能：前景與挑戰(zhàn)》（Trustworthy Artificial Intelligence（AI）in Education： Promises and Challenges）報告[1]。OECD稱，向數(shù)字時代的過渡中，G20國家教育面臨兩個挑戰(zhàn)：一是利用人工智能的優(yōu)勢推動課堂教學(xué)與教育系統(tǒng)層面的發(fā)展;二是幫助學(xué)生發(fā)展新技能以適應(yīng)日益自動化的經(jīng)濟社會。該報告介紹了人工智能應(yīng)用于各國課堂教學(xué)及教育系統(tǒng)的成功實例，以及培養(yǎng)學(xué)生綜合技能的方法。OECD提出，各國利益相關(guān)者必須采取措施應(yīng)對人工智能引發(fā)的問題與挑戰(zhàn)。

二、教育領(lǐng)域人工智能的應(yīng)用現(xiàn)狀

（一）人工智能在教育領(lǐng)域的潛力與價值

OECD人工智能專家組將人工智能系統(tǒng)定義為一種基于機器的系統(tǒng)，它可以制定影響真實環(huán)境或虛擬環(huán)境的預(yù)測、建議或決策。人工智能系統(tǒng)包括4個生命周期階段：規(guī)劃與設(shè)計、數(shù)據(jù)的收集與處理、模型的建立與解釋，驗證與批準，部署，運行與監(jiān)控[2]。在過去十年中，數(shù)字化一直是課堂中教學(xué)實踐創(chuàng)新的主要驅(qū)動力之一[3]。近年來，課堂教學(xué)的數(shù)字化創(chuàng)新主要體現(xiàn)在增加課堂計算機/互聯(lián)網(wǎng)的使用。OECD認為，人工智能的應(yīng)用將引發(fā)課堂教學(xué)的下一輪創(chuàng)新與變革浪潮。

當(dāng)前，世界范圍內(nèi)最有前景的人工智能技術(shù)之一是機器學(xué)習(xí)。機器學(xué)習(xí)使機器通過模式和推論，而不是通過人類的明確指令，以自動化方式進行學(xué)習(xí)。支撐機器學(xué)習(xí)的技術(shù)被稱為“神經(jīng)網(wǎng)絡(luò)”（Neural Network），用于提升機器的計算能力并為機器提供海量數(shù)據(jù) [4]。例如，許多語言學(xué)習(xí)應(yīng)用程序就是依賴于機器學(xué)習(xí)的應(yīng)用。此外，人工智能時常被嵌入各種教育技術(shù)中，用于開發(fā)各種形式或目標的學(xué)習(xí)分析、建議及評估的創(chuàng)新工具。

OECD預(yù)測，人工智能將引發(fā)未來幾十年教育領(lǐng)域的巨大變革，包括課堂教學(xué)與教育系統(tǒng)，且直接影響到教育政策制定者、教育管理者、教師、學(xué)生、家長等利益相關(guān)者。同時，人工智能將推動實現(xiàn)可持續(xù)發(fā)展目標4中的全球教育目標，即“確保包容公平的優(yōu)質(zhì)教育，并為所有人提供終身學(xué)習(xí)機會”。人工智能在教育領(lǐng)域的使用還將實現(xiàn)巨大的社會價值，提升人的創(chuàng)造力，減少經(jīng)濟、社會及性別層面的不平等問題，促進包容性和可持續(xù)發(fā)展，進而實現(xiàn)全人類福祉。

（二）人工智能在課堂教學(xué)中的應(yīng)用現(xiàn)狀

1.識別學(xué)生的需求以提供個性化學(xué)習(xí)

人工智能在課堂教學(xué)中主要應(yīng)用于提供個性化學(xué)習(xí)。個性化學(xué)習(xí)能根據(jù)學(xué)生的個性需求定制適合學(xué)生的學(xué)習(xí)方法。人工智能能夠識別哪種教學(xué)材料和方法最適合個別學(xué)生的水平，并根據(jù)個別學(xué)生的數(shù)據(jù)對學(xué)習(xí)過程的下一步驟作出預(yù)測、建議及決定，進而幫助學(xué)生按照自己的步調(diào)掌握學(xué)習(xí)主題，為教師提供如何幫助學(xué)生的有效建議。例如，印度的個性化教學(xué)（Teach at the right level，TaRL）技術(shù)是一項人工智能輔助個性化學(xué)習(xí)的創(chuàng)新技術(shù)。TaRL技術(shù)支持的教學(xué)方案由印度非政府組織Pratham開發(fā)，根據(jù)學(xué)習(xí)需求（并非年齡或年級）將學(xué)生（三至五年級）分成小組，指導(dǎo)學(xué)生關(guān)注基本技能的學(xué)習(xí)，且定期評估學(xué)生的表現(xiàn)。通過與人工智能的結(jié)合，能進一步為學(xué)生提供個性化學(xué)習(xí)內(nèi)容，提高學(xué)生讀寫能力和計算能力。

美國新課堂創(chuàng)新合作者（New Classrooms Innovation Partners）基于人工智能開發(fā)了“面向每一個人的教學(xué)：數(shù)學(xué)”（Teach to One：Math）模式，可以在大數(shù)據(jù)的支持下根據(jù)每個學(xué)生的具體情況制定合適的學(xué)習(xí)與教學(xué)方案。2012年，該模式在芝加哥、紐約及華盛頓特區(qū)的8所學(xué)校試點實施，主要應(yīng)用于初中數(shù)學(xué)。該模式的目標是對學(xué)生技能的發(fā)展與進步做出持續(xù)回應(yīng)，定期評估學(xué)生的技能水平，通過人工智能算法定位內(nèi)容傳遞，并為學(xué)生指定不同的教學(xué)模式。該模式依靠持續(xù)的形成性評估得出數(shù)據(jù)，以確定學(xué)生之間的學(xué)習(xí)差距。學(xué)生每天都可以訪問電腦儀表盤（computer dashboard），獲取個人進度信息、技能發(fā)展任務(wù)，以及各種教學(xué)資源的鏈接，學(xué)生可以按自定的步調(diào)進行學(xué)習(xí)。這個過程中生成的大量數(shù)據(jù)將反饋給基礎(chǔ)信息系統(tǒng)。最新版“面向每一個人的教學(xué)：數(shù)學(xué)”模式能為學(xué)生個性化學(xué)習(xí)路徑的每日重新配置和兩周教學(xué)周期的設(shè)計提供信息，還能通過動態(tài)的電腦儀表盤為教師提供有關(guān)班級和學(xué)生表現(xiàn)的實時信息，幫助教師及時支持學(xué)生學(xué)習(xí)。

印度教育科技公司（BYJU）開發(fā)了基于人工智能的學(xué)習(xí)應(yīng)用程序（The Learning APP）。據(jù)調(diào)查，至2019年10月，該應(yīng)用程序已經(jīng)有3500萬次下載量，270萬年訂閱用戶。2015年，該應(yīng)用程序憑借后臺的人工智能，為學(xué)生提供個性化學(xué)習(xí)材料，同時面向印度六至十二年級教師發(fā)布了數(shù)學(xué)和科學(xué)學(xué)科指導(dǎo)。此后，該應(yīng)用程序還為印度四至五年級教師提供了將教學(xué)與診斷和個性化功能相結(jié)合的指導(dǎo)。除了提供視頻課程，該應(yīng)用程序使用人工智能評估學(xué)生是否理解了數(shù)學(xué)和科學(xué)概念，將評估結(jié)論作為依據(jù)引導(dǎo)學(xué)生進入下一階段學(xué)習(xí)，或者引導(dǎo)學(xué)生返回基礎(chǔ)階段的學(xué)習(xí)。

在中國，好未來教育集團的人工智能實驗室開發(fā)了多種類型的數(shù)字方案，為學(xué)生高考備考提供幫助。其中，“適應(yīng)性測試及學(xué)習(xí)計劃”（adaptive test and learning plan）系統(tǒng)最具代表性。該系統(tǒng)從各方面數(shù)據(jù)中挖掘大量評估性問題，以更好地了解每一位學(xué)生當(dāng)前的知識水平，有助于學(xué)生選擇合適自身的線下課程。該系統(tǒng)還為學(xué)生設(shè)計和定制學(xué)習(xí)計劃，將相關(guān)材料發(fā)送給學(xué)生家長，幫助家長了解孩子的備考問題。

2.為特殊需求學(xué)生的學(xué)習(xí)提供支持與幫助

全球各國（尤其是經(jīng)濟落后國家）長期面臨如何為所有學(xué)生提供更具包容性的受教育機會的問題。包容性教育是可持續(xù)發(fā)展目標4所倡導(dǎo)的全球目標之一，目的是確保所有人士平等地獲得各級各類教育。OECD認為，人工智能可以有效地支持特殊需求學(xué)生的學(xué)習(xí)，包括視聽覺障礙或社交技能（語言或交流）障礙的學(xué)生，幫助特殊需求學(xué)生從教育中受益。

人工智能對特殊需求學(xué)生的學(xué)習(xí)支持主要體現(xiàn)在兩個方面。一方面，幫助規(guī)避學(xué)生的某些障礙問題，例如，將文本轉(zhuǎn)換為語音或?qū)⒄Z音轉(zhuǎn)換為文本的程序。2016年，北京聯(lián)合大學(xué)特殊教育學(xué)院引進了智能語音識別系統(tǒng)，該系統(tǒng)可將教師的教學(xué)語言轉(zhuǎn)化成文字字幕呈現(xiàn)在大屏幕上。課堂教學(xué)上采用“手語+語音口型+口語字幕+文字講義”多通道、多維度的信息輸入方式，確保聽覺障礙學(xué)生能準確、完整、高效地接收信息。同時，學(xué)校還為每個視覺障礙的學(xué)生配備了閱讀終端產(chǎn)品“陽光聽書郎”，幫助學(xué)生無阻礙地收聽電子書籍，并為他們配備安裝讀屏軟件的專用電腦，學(xué)生可以聽到屏幕上的信息并進行相關(guān)操作[5]。另一方面，基于科學(xué)研究從問題根源上幫助學(xué)生解決障礙問題。例如，患有自閉癥的學(xué)生在人工智能支持下可以通過與課堂中的虛擬角色或物體進行交互和協(xié)作，以提高社交技能，進而解決心理障礙。此外，許多國家或地區(qū)還使用人工智能設(shè)備作為診斷工具檢測學(xué)生的特殊需求。

3.其他功能

除了用于支持學(xué)生個性化學(xué)習(xí)及特殊需求，人工智能的其他功能也得到了開發(fā)。例如，人工智能檢測模式的功能可為學(xué)生、教師或家長提供個性化建議，主要應(yīng)用于以下三個學(xué)習(xí)場景：在線與混合式學(xué)習(xí)——人工智能代理支持的聊天程序可以為學(xué)生和教師提供與學(xué)習(xí)相關(guān)的分析;課堂動態(tài)——不同類型的傳感器和攝像機可以分析課堂動態(tài)和學(xué)生參與度，為教師提供實時或課后反饋和建議;外語學(xué)習(xí)——語音識別、分析及發(fā)音校正等人工智能功能可以輔助外語教師開展課堂教學(xué)。

（三）人工智能在學(xué)校管理與教育系統(tǒng)中的應(yīng)用

人工智能在學(xué)校管理與教育系統(tǒng)層面的應(yīng)用主要是預(yù)測模型及評估模型的建構(gòu)，為教育機構(gòu)和教育系統(tǒng)提供反饋，服務(wù)于教育決策。目的在于提高高質(zhì)量初等、中等教育的學(xué)業(yè)完成率，減少學(xué)生輟學(xué)率，以及改造教育評估工具（如標準化評估工具等）。

1.創(chuàng)建預(yù)警系統(tǒng)，有效降低學(xué)生輟學(xué)率

輟學(xué)問題是一個重要的全球教育問題，不同發(fā)展水平的國家關(guān)注的學(xué)生輟學(xué)階段不同。OECD報告稱，在低收入國家，2015年高中階段學(xué)生輟學(xué)率為60%;2018年小學(xué)、初中及高中教育的完成率分別是68%、44%和21%，該數(shù)字距離2030年普及教育的目標相差巨大。各國教育工作者及教育政策制定者希望尋求正確的指標來預(yù)測學(xué)生輟學(xué)情況，在此基礎(chǔ)上找到正確的干預(yù)措施降低學(xué)生輟學(xué)率。因此，人工智能將成為重要的預(yù)測工具。相比其他工具，人工智能預(yù)警系統(tǒng)使用縱向數(shù)據(jù)作為預(yù)測基礎(chǔ)，可進一步改善學(xué)校的輟學(xué)預(yù)警系統(tǒng)。在人工智能的輔助下，學(xué)校管理者能更創(chuàng)新地使用現(xiàn)有學(xué)生數(shù)據(jù)，改進和設(shè)計學(xué)校的干預(yù)措施，更有效地預(yù)測并降低學(xué)生輟學(xué)率。

人工智能預(yù)警系統(tǒng)已經(jīng)在發(fā)展水平較高的國家得到廣泛使用。以美國為例，許多數(shù)字供應(yīng)商為地區(qū)和州的學(xué)校提供了人工智能預(yù)警系統(tǒng)，實時幫助學(xué)校校長和地區(qū)領(lǐng)導(dǎo)者應(yīng)對學(xué)生輟學(xué)問題。人工智能預(yù)警系統(tǒng)的優(yōu)點之一是能及時地為學(xué)校提供反饋。此外，該系統(tǒng)通常采用儀表盤的形式，使面臨輟學(xué)風(fēng)險的不同類型學(xué)生的情況可視化，并對這部分學(xué)生采取適當(dāng)?shù)母深A(yù)措施。在發(fā)展水平較低、收入較低的國家，輟學(xué)問題同樣是教育面臨的一個嚴峻問題。例如，印度已經(jīng)開發(fā)了輟學(xué)預(yù)警系統(tǒng)與對應(yīng)的干預(yù)措施，并開展了有效性評估。

當(dāng)前，人工智能預(yù)警系統(tǒng)雖在學(xué)校管理和教育系統(tǒng)中發(fā)揮了一定作用，但還未完全成熟。其局限性在于人工智能系統(tǒng)仍可能出現(xiàn)預(yù)測誤差，即忽略一些需要幫助的學(xué)生，沒有及時給予幫助。因此，使用人工智能預(yù)警系統(tǒng)的前提是必須保證人工智能提供的是可信任的且有使用價值的預(yù)測建議。

2.改進技能評估工具，擴展技能評估范圍

在經(jīng)濟社會變革的時代中，綜合技能的重要性與日俱增，如問題解決技能、協(xié)作技能、社交技能、情感技能等。由于大多數(shù)國家的教育系統(tǒng)評估方式仍以標準化評估為主要特征，各國教育政策制定者和人才市場倡導(dǎo)改進技能評估工具，在以知識內(nèi)容與能力為主的評估范圍基礎(chǔ)上進行新的擴展，將各種綜合技能納入評估范圍。

人工智能的應(yīng)用開啟了評估綜合技能的新路徑。以嵌入式評估（embedded assessment）為例。在數(shù)字學(xué)習(xí)環(huán)境中，人工智能系統(tǒng)通過存儲學(xué)生信息，識別學(xué)生是否掌握了特定學(xué)科技能，為學(xué)生提供詳盡的形成性反饋。此外，人工智能還能通過語音識別、語言分析及工作參與行為模式實現(xiàn)對學(xué)生思維方式的評估，對學(xué)習(xí)情況的反饋，對學(xué)生需求及技能的回應(yīng)。

基于游戲的評估（Game-based Assessment）為教育系統(tǒng)提供了評估綜合技能的新工具?；谟螒虻脑u估在形成性評估中具有很大的價值，通常使用人工智能模擬的增強現(xiàn)實、虛擬現(xiàn)實和自適應(yīng)能力，不僅可以適應(yīng)個別學(xué)生的能力，也可以用于總結(jié)性評估。例如，將評估項目合并到游戲環(huán)境中，使學(xué)生在一個有趣的、沉浸式體驗的環(huán)境中展示他們的學(xué)習(xí)成果。該評估工具已被廣泛且有效地應(yīng)用于科學(xué)、技術(shù)、工程和數(shù)學(xué)（STEM）教育。

三、數(shù)字時代勞動者技能的變革與發(fā)展

（一）傳統(tǒng)技能面臨自動化引發(fā)的挑戰(zhàn)

人工智能在經(jīng)濟領(lǐng)域得到迅速使用和傳播的同時，正規(guī)教育系統(tǒng)應(yīng)進一步培養(yǎng)勞動者的新知識與技能。OECD的一項最新研究預(yù)估，未來15～20年內(nèi)，自動化會導(dǎo)致14%的現(xiàn)有工作消失，32%的工作可能會產(chǎn)生根本性變革。[6]

人工智能在某些方面的能力已經(jīng)超越人類，如記憶力和計算力[7]。人工智能能夠更高效地完成重復(fù)性和預(yù)測性的任務(wù)，以及大量數(shù)據(jù)處理、輸入或分類的任務(wù)[8]。但人類在溝通、情感、價值觀、創(chuàng)造力等方面仍占據(jù)優(yōu)勢。因此，勞動者必須具備人工智能無法實現(xiàn)的技能，才能避免在工作中被機器取代[9]。此外，2019年OECD發(fā)布的《OECD技能展望》（OECD Skills Outlook）報告顯示，當(dāng)前人們對互聯(lián)網(wǎng)的使用常常局限于獲取信息與通信。培養(yǎng)更高階的認知技能，即在技術(shù)含量高的環(huán)境中發(fā)揮讀寫能力、計算能力及問題解決能力，互聯(lián)網(wǎng)的使用方式才能更多樣化和綜合化。[10]

（二）綜合認知技能的重要性增強

在數(shù)字時代，綜合認知技能變得越來越重要。相對于其他綜合技能而言，綜合認知技能更難以自動化或被人工智能取代，是實現(xiàn)人類福祉與社會良性運轉(zhuǎn)的重要技能。其中，創(chuàng)造力與批判性思維得到了新時代勞動力市場的需求與重視[11]。由于互聯(lián)網(wǎng)信息傳播速度快，信息數(shù)量大，傳播范圍廣，創(chuàng)造力與批判性思維對互聯(lián)網(wǎng)使用者而言不可或缺。

擁有批判性思維的勞動者在使用互聯(lián)網(wǎng)檢索信息時，能夠閱讀復(fù)雜的數(shù)字文本，可以區(qū)分互聯(lián)網(wǎng)信息來源是否可信。創(chuàng)造力能支持勞動者開發(fā)與建構(gòu)新的問題解決方案，包括需要使用人工智能或機器人的方案。除創(chuàng)造力與批判性思維外，溝通、協(xié)作技能等社會情感技能也屬于重要的綜合認知技能。

（三）逐步推進實施綜合技能培養(yǎng)

為了應(yīng)對經(jīng)濟與社會的轉(zhuǎn)型與變革，各國教育系統(tǒng)和教育機構(gòu)制定了各種技能培養(yǎng)方案，幫助勞動者學(xué)習(xí)和掌握綜合技能，適應(yīng)人工智能帶來的技能轉(zhuǎn)型。

OECD國家的學(xué)校課程大都已經(jīng)正式推進綜合技能培養(yǎng)方案的實施，以各級學(xué)校學(xué)生和高等教育學(xué)生為對象，培養(yǎng)與發(fā)展學(xué)生的創(chuàng)造力、批判性思維及其他創(chuàng)新技能。綜合技能的培養(yǎng)也在G20國家中越來越普及，包括中國和印度。但在綜合技能培養(yǎng)過程中，各國教育工作者常常不了解綜合技能的概念與意義，不清楚如何將綜合技能的培養(yǎng)納入日常教學(xué)實踐中。為解決該問題，OECD與11個國家的學(xué)校網(wǎng)絡(luò)開展合作，為教育決策者及教育一線工作者提供了針對性的課程和教案，支撐他們推進綜合技能的培養(yǎng)方案。同時，OECD還提供了專業(yè)發(fā)展計劃的案例，幫助教育工作者學(xué)習(xí)有效培養(yǎng)綜合技能的成功經(jīng)驗，教育工作者才能夠成功地調(diào)整教學(xué)方法和課程計劃，進而有效地幫助學(xué)生在學(xué)習(xí)知識內(nèi)容的同時，發(fā)展創(chuàng)造力和批判性思維等綜合技能。[12]

另一項重要的綜合技能培養(yǎng)方案是開放充足的、針對性強的高等教育課程。在該方案推進過程中，STEM教育發(fā)揮了至關(guān)重要的作用，為學(xué)生提供了許多具有針對性的綜合技能學(xué)習(xí)課程。同時，許多新課程開放計劃與商業(yè)界合作后也取得了一定成果。OECD與15個國家的高等教育機構(gòu)合作，計劃未來在高等教育領(lǐng)域創(chuàng)新性地開發(fā)與實踐綜合技能培養(yǎng)課程。

四、人工智能給教育帶來的問題與挑戰(zhàn)

人工智能在教育領(lǐng)域的快速發(fā)展，給教育工作者和教育政策制定者帶來了新的問題與挑戰(zhàn)，主要源于對人工智能的信任度以及如何塑造人工智能的可信賴應(yīng)用。

（一）建立公眾對人工智能的信任

教育對人們未來就業(yè)和生活機會有巨大影響，人工智能在教育中的透明度、可解釋性及問責(zé)制非常重要。例如，人工智能用于教育決策的制定將直接影響學(xué)生的個人利益。為了充分發(fā)揮人工智能在教育中的潛力，教育政策制定者、教育工作者及其他利益相關(guān)者應(yīng)建立公眾對人工智能的信任。

在教育領(lǐng)域，人工智能的使用符合兩種條件才能獲得公眾信任：一是任務(wù)的準確執(zhí)行，二是使用方式的公平且正確。以人工智能預(yù)警系統(tǒng)為例。預(yù)警系統(tǒng)通常會對學(xué)生進行描述，識別出哪個學(xué)生面臨輟學(xué)風(fēng)險。如果預(yù)警系統(tǒng)識別學(xué)生的效果太差、準確率低，會喪失公眾的信任，并將返回研究開發(fā)階段，對系統(tǒng)加以改進。另一種可能性是人工智能預(yù)警系統(tǒng)沒有得到使用者的正確使用。只有通過正確的人為干預(yù)措施，支持并幫助學(xué)生解除輟學(xué)風(fēng)險，人工智能預(yù)警系統(tǒng)才能真正識別出面臨輟學(xué)風(fēng)險的學(xué)生。人工智能預(yù)警系統(tǒng)的使用目的在于提高學(xué)生學(xué)業(yè)完成率，并提升社會正義和公平。但是，由于部分使用者試圖將面臨輟學(xué)風(fēng)險的學(xué)生從學(xué)校剔除（在某些問責(zé)制下，這部分學(xué)生可能會導(dǎo)致學(xué)校遭受問責(zé)與制裁，學(xué)校聲譽將受損），導(dǎo)致學(xué)生受到歧視。因此，被公眾信任的前提是，不僅要確保人工智能正確執(zhí)行任務(wù)，而且需要人與人工智能的正確交互。

在其他方面，人工智能引導(dǎo)自主決策或建議（例如，基于人工智能的中小學(xué)/大學(xué)的自動招生決策）可能會出現(xiàn)兩種情況：一是打破學(xué)校招生系統(tǒng)先前的偏見，提高公平性;二是引發(fā)無法預(yù)估的后果，如生源好的學(xué)校在人工智能新系統(tǒng)的引導(dǎo)下招生，如若其招生標準與算法缺乏透明度與解釋性，學(xué)校的受益群體將產(chǎn)生變動。因此，增強對人工智能的信任只能依靠標準和算法的透明度和可解釋性。關(guān)于如何解決透明度問題，OECD認為擴大人工智能的開放性是一種解決方案。但對于某些人工智能（如深度學(xué)習(xí)）而言，可解釋性仍然是個很難解決的問題。

OECD國家在建立公眾對人工智能的信任上有不同的方式和策略。歐盟建構(gòu)了可信賴人工智能的準則，提出人工智能應(yīng)該是透明的、可追溯的、可解釋的。同時，歐盟認為公眾應(yīng)有權(quán)被告知他們正在與人工智能系統(tǒng)進行交互，并且應(yīng)該將人工智能的優(yōu)勢與局限傳達給人工智能的實踐者或終端用戶。

（二）解決個人數(shù)據(jù)隱私與安全問題

雖然人工智能對教育與學(xué)習(xí)帶來了積極影響，能幫助學(xué)生對數(shù)字時代未來的發(fā)展做準備，但大多數(shù)人工智能的使用者仍是未成年人，且人工智能算法或數(shù)據(jù)本身存在一定偏差，會引發(fā)個人數(shù)據(jù)的隱私和安全問題。

人工智能引發(fā)的隱私及數(shù)據(jù)安全問題通常源于大規(guī)模的個人數(shù)據(jù)收集與使用。人工智能為了提高其功能的針對性與有效性，以收集與使用個人數(shù)據(jù)為主要方式，收集和存儲數(shù)據(jù)的過程易產(chǎn)生個人隱私泄露的風(fēng)險。人工智能引發(fā)的隱私與安全問題是雙重的。一方面，教育機構(gòu)會重復(fù)使用過去收集和儲存的學(xué)生數(shù)據(jù)，但由于數(shù)據(jù)存儲的時長、類型及長期使用的標準沒有得到確定，許多學(xué)生家長對此存在擔(dān)憂;另一方面，一些開發(fā)者會處于商業(yè)目的使用學(xué)生的個人數(shù)據(jù)。

關(guān)于如何解決人工智能及其應(yīng)用帶來的個人數(shù)據(jù)的隱私與安全問題，不同OECD國家和地區(qū)有各自的做法。例如，歐盟的《通用數(shù)據(jù)保護條例》（General Data Protection Regulation，GDPR）為個人數(shù)據(jù)的使用設(shè)定了相對嚴格的框架——僅允許特定條件使用數(shù)據(jù)，包括共享數(shù)據(jù)與存儲數(shù)據(jù)。GDPR中最重要的原則之一是透明度、數(shù)據(jù)與存儲限制及問責(zé)制。美國的《家庭教育權(quán)和隱私權(quán)法》（Family Educational and Privacy Rights Act）規(guī)定了在教育中使用個人數(shù)據(jù)的特定框架。

五、結(jié)語

人工智能正重塑著世界經(jīng)濟發(fā)展的新格局，引發(fā)人們經(jīng)濟、生活及工作的深刻變革。全球各國高度關(guān)注與重視人工智能的價值與潛力，相繼制定了相關(guān)政策與規(guī)劃，如美國的《為人工智能的未來做好準備》《國家人工智能研發(fā)戰(zhàn)略規(guī)劃》，英國的“現(xiàn)代工業(yè)戰(zhàn)略”計劃，日本的“人工智能產(chǎn)業(yè)化路線圖”[13]。我國于2017年發(fā)布了《新一代人工智能發(fā)展規(guī)劃》，提出了“三步走”戰(zhàn)略，又接著推出了《人工智能標準化白皮書（2018版）》，對人工智能的發(fā)展方向與應(yīng)用展開了政策層面的規(guī)劃。

教育信息化時代下，人工智能與教育的結(jié)合創(chuàng)新是未來教育變革的重要趨勢[14]。無論是改進課堂教學(xué)和教育系統(tǒng)，還是推動可持續(xù)發(fā)展目標4的實現(xiàn)，人工智能無疑展現(xiàn)了巨大潛力。隨著教育技術(shù)行業(yè)持續(xù)壯大，G20國家也在進行大規(guī)模投資，人工智能在教育領(lǐng)域的普及將勢不可擋。OECD的報告表明，人工智能在個性化學(xué)習(xí)、特殊需求學(xué)生學(xué)習(xí)、學(xué)生輟學(xué)問題的應(yīng)用及技能評估工具的改進方面發(fā)揮了巨大作用。各國對人工智能的應(yīng)用充分展現(xiàn)了其巨大的價值，有助于我們把握世界教育領(lǐng)域中人工智能的發(fā)展趨勢，以及落實《G20人工智能原則》是否實現(xiàn)，促進人工智能在教育中的深入應(yīng)用，推動下一步的研發(fā)與改進。由于人工智能在教育領(lǐng)域的應(yīng)用大都處于新生階段，尚未完全成熟，其決策準確性、解釋性與透明度必然引起了社會的諸多質(zhì)疑。為應(yīng)對挑戰(zhàn)，各國在人工智能應(yīng)用的研究、開發(fā)、應(yīng)用與推廣過程中，應(yīng)提高人工智能應(yīng)用的透明度、可追溯性，增強可解釋性，明確記錄技術(shù)流程與人為決策等信息，建立數(shù)據(jù)與存儲限制及問責(zé)制，構(gòu)建更加可靠、更值得信賴、更安全及健全的人工智能系統(tǒng)。

參考文獻：

[1]OECD. Trustworthy artificial intelligence（AI） in education：promises and challenges[EB/OL]. （2020-04-08）[2020-05-22].https：//doi.org/10.1787/a6c90fa9-en.

[2]OECD. Artificial intelligence in society[EB/OL]. （2019-06-11）[2020-05-22].https：//dx.doi.org/10.1787/eedfee77-en.

[3]VINCENT-LANCRIN S， URGEL J， KAR S， et al. Measuring innovation in education 2019： what has changed in the classroom？[EB/OL]. （2019-03-05）[2020-05-22].https：//dx.doi.org/10.1787/9789264311671-en.

[4]李曉巖，史宏.“人工智能合作與人才培養(yǎng)創(chuàng)新發(fā)展研討會暨機器人學(xué)院成立大會”上的報告[J].北京聯(lián)合大學(xué)學(xué)報，2016，30（3）：1-4.

[5]李德毅.人工智能在奔跑? 教育的機遇與挑戰(zhàn)——在“北京聯(lián)合大學(xué)智能機器人產(chǎn)學(xué)研合作與人才培養(yǎng)創(chuàng)新發(fā)展研討會暨機器人學(xué)院成立大會”上的報告[J].北京聯(lián)合大學(xué)學(xué)報，2016，30（3）：1-4.

[6]OECD. OECD Employment Outlook 2019： The Future of Work[EB/OL].（2019-04-25）[2020-05-22].https：//dx.doi.org/10.1787/9ee00155-en.

[7]張學(xué)軍，董曉輝.人機共生：人工智能時代及其教育的發(fā)展趨勢[J].電化教育研究，2020，41（4）：35-41.

[8][9]HOLMES W. Artificial intelligence in education[EB/OL]. （2019-04-15）[2020-05-22].https：//doi.org/10.1007/978-3-319-60013-0_107-1.

[10]OECD. OECD 能視域下機器學(xué)習(xí)的教育應(yīng)用與創(chuàng)新探索[J].計算機產(chǎn)品與流通，2020（9）：40.

[11][12]VINCENT-LANCRIN S， GONZALEZ-SANCHO C， BOUCKAERT M， et al. Fostering students creativity and critical thinking： what it means in school[EB/OL]. （2019-10-24）[2020-05-22].https：//dx.doi.org/10.1787/62212c37-en.

[13]梁迎麗，劉陳.人工智能教育應(yīng)用的現(xiàn)狀分析、典型特征與發(fā)展趨勢[J].中國電化教育，2018（3）：24-30.

[14]楊現(xiàn)民，張昊，郭利明，等.教育人工智能的發(fā)展難題與突破路徑[J].現(xiàn)代遠程教育研究，2018（3）：30-38.

編輯 王亭亭? ?校對 朱婷婷