李世瑾　胡藝齡　顧小清

[摘? ?要] 對(duì)新興技術(shù)應(yīng)用的追問從來都是停留在技術(shù)中性論層面。教育創(chuàng)新雖需技術(shù)支持，但不能只是管中窺豹，必須采用前瞻目光澄清模糊認(rèn)識(shí)和錯(cuò)誤做法，主動(dòng)走出技術(shù)應(yīng)用的風(fēng)險(xiǎn)困局。為推進(jìn)智能教育生態(tài)的健康發(fā)展，本研究從管控視角廓清了四類典型現(xiàn)象：忽視智能技術(shù)還原教育世界的本體風(fēng)險(xiǎn)、遮蔽智能技術(shù)表征教育生態(tài)的認(rèn)識(shí)風(fēng)險(xiǎn)、輕視智能技術(shù)違背教育初心的價(jià)值風(fēng)險(xiǎn)、濫用智能技術(shù)導(dǎo)致教育治理的倫理風(fēng)險(xiǎn)。研究發(fā)現(xiàn)，風(fēng)險(xiǎn)成因關(guān)鍵在于：過度掩蓋技術(shù)應(yīng)用的內(nèi)生復(fù)雜性機(jī)理，尚未厘清技術(shù)介入教育生態(tài)的普遍性規(guī)律;盲目弱化技術(shù)重塑教育的脆弱性機(jī)理，滋生技術(shù)介入教育生態(tài)的負(fù)向效應(yīng);高度忽視教育生態(tài)的測(cè)不準(zhǔn)性機(jī)理，缺少風(fēng)險(xiǎn)治理的科學(xué)方法與適切路徑。鑒于此，提出應(yīng)對(duì)智能教育風(fēng)險(xiǎn)的關(guān)鍵出路：共創(chuàng)復(fù)雜性治理范式，揭示教育生態(tài)的內(nèi)生規(guī)律;厘清主體的協(xié)同機(jī)制，提升教育生態(tài)的抗逆基因;構(gòu)建多元?jiǎng)?chuàng)新方法論，適應(yīng)教育生態(tài)的動(dòng)態(tài)平衡。

[關(guān)鍵詞] 人工智能; 教育應(yīng)用; 生態(tài)風(fēng)險(xiǎn); 內(nèi)生機(jī)理; 因應(yīng)策略

[中圖分類號(hào)] G434? ? ? ? ? ? [文獻(xiàn)標(biāo)志碼] A

[作者簡(jiǎn)介] 李世瑾（1993—），女，河南安陽人。博士研究生，主要從事學(xué)習(xí)科學(xué)與技術(shù)設(shè)計(jì)、智能教育研究。E-mail：shijinliEdu@163.com。

一、問題的提出

面對(duì)二元智能時(shí)代的到來，教育已被卷入這場(chǎng)聲勢(shì)浩大的技術(shù)革命中。盡管人工智能教育實(shí)踐的熱情與野心日趨高漲，但當(dāng)技術(shù)直接參與人本身的改寫和塑造時(shí)，教育工作者產(chǎn)生前所未有的慌亂，甚至動(dòng)搖了教育初心及育人使命。技術(shù)是建立在流沙之上的雙刃劍，對(duì)新興技術(shù)的追問從來都是停留在技術(shù)中性論層面[1]。教育創(chuàng)新雖需技術(shù)支持，但不能只是管中窺豹，必須采用前瞻目光澄清若干模糊認(rèn)識(shí)和錯(cuò)誤做法，主動(dòng)走出技術(shù)應(yīng)用的風(fēng)險(xiǎn)困局。

已有學(xué)者對(duì)這一問題進(jìn)行深刻省思。舍恩伯格等指出，人工智能技術(shù)不是解決一切教育問題的“靈丹妙藥”，亟須理性探索人本人工智能的路徑和邊界[2]。安濤從海德格爾技術(shù)哲學(xué)觀檢省了“人—技術(shù)—教育”一體化的存在論結(jié)構(gòu)[3]。李芒等從人工智能教育應(yīng)用的盲區(qū)、禁區(qū)和誤區(qū)出發(fā)，強(qiáng)調(diào)人工智能教育必須重視人本性和完整性[4]。Jim[5]、Williamson[6]等依據(jù)教育治理原則探索數(shù)據(jù)服務(wù)的未來趨勢(shì)。鄧國民等提出福祉、公平正義、責(zé)任和問責(zé)等人工智能倫理原則[7]。由此看來，學(xué)界對(duì)人工智能教育的理性抉擇已達(dá)成共識(shí)，但鮮有針對(duì)風(fēng)險(xiǎn)管控的突圍路徑，這無疑將制約教育生態(tài)的健康發(fā)展。正如英國著名社會(huì)學(xué)家大衛(wèi)·科林格里奇所言：“一旦技術(shù)應(yīng)用的風(fēng)險(xiǎn)后果發(fā)生時(shí)，它已成為經(jīng)濟(jì)和社會(huì)結(jié)構(gòu)的一部分，對(duì)其管控將十分困難。”[8]因此，本研究從管控視角廓清智能教育的技術(shù)風(fēng)險(xiǎn)閾，進(jìn)一步透析其內(nèi)生機(jī)理，主動(dòng)突圍技術(shù)風(fēng)險(xiǎn)的困局，以期為智能技術(shù)與教育生態(tài)的深度融合覓求鏡鑒。

二、解構(gòu)：智能教育的技術(shù)陷阱

智能技術(shù)內(nèi)蘊(yùn)“造客之術(shù)”和“塑主之術(shù)”[9]。所謂造客之術(shù)，即主體在智能場(chǎng)域中無法理性感知到客觀環(huán)境的存在，對(duì)其本原認(rèn)識(shí)存在偏頗。所謂塑主之術(shù)，即過于強(qiáng)調(diào)智能技術(shù)的應(yīng)用價(jià)值，無法保持主體思維、意識(shí)和情感等方面的主觀能動(dòng)性。如何消解智能技術(shù)的周邊定律、“過濾氣泡”等偏見效應(yīng)[10]，脫離技術(shù)奴役的牢籠尤為關(guān)鍵。因此，研究重新審視智能教育的邊界和限度（如圖1所示），為教育治理與管控指引科學(xué)方向。

（一）忽視智能技術(shù)還原教育世界的本體風(fēng)險(xiǎn)

人工智能通過多重意涵指向，試圖探索教育世界的奧秘，彰顯出更多的“趣悅性”和“個(gè)性化”[11]。例如，基于深度學(xué)習(xí)挖掘?qū)W習(xí)者的交互行為和情感特征[12]、采用人臉識(shí)別技術(shù)監(jiān)測(cè)學(xué)習(xí)者的學(xué)習(xí)質(zhì)量[13]、基于Spring Cloud的“微課堂”推送個(gè)性化學(xué)習(xí)資源[14]。但是，當(dāng)撕下技術(shù)虛偽的“樂觀面目”時(shí)，其現(xiàn)實(shí)應(yīng)用效果并不盡如人意。一項(xiàng)關(guān)于智能導(dǎo)學(xué)系統(tǒng)的元分析結(jié)果表明，其對(duì)學(xué)業(yè)成就的提升效果非常有限（ES=0.09）[15]。另有研究結(jié)果表明，智能教學(xué)干預(yù)會(huì)讓表現(xiàn)不佳的學(xué)習(xí)者感到不適應(yīng)[16]，甚至加劇了學(xué)習(xí)者的同質(zhì)化傾向[17]。

教育復(fù)雜而不可控，人性神秘而不可測(cè)[18]。人工智能技術(shù)雖能匯聚規(guī)?；慕逃龜?shù)據(jù)，但始終無法全部還原真實(shí)的教育世界，這正是技術(shù)本體風(fēng)險(xiǎn)的現(xiàn)實(shí)映射。具體地，一是算法和數(shù)據(jù)的表征閾值遠(yuǎn)遠(yuǎn)小于教育生態(tài)范疇，其“樣本<總體”的可視化表征顯露出人工智能的局限性。二是表征形式的節(jié)點(diǎn)化和簡(jiǎn)約化，背離了教育生態(tài)的復(fù)雜性和系統(tǒng)性。試想，當(dāng)高高豎起的能力標(biāo)桿被量化為可復(fù)制的標(biāo)準(zhǔn)時(shí)，恐怕早已遺忘“好的教育”的規(guī)范性問題[19]。因此，從本體意義上來看，一味忽視“暗箱知識(shí)”“緘默知識(shí)”以及人的生命成長(zhǎng)和價(jià)值觀等內(nèi)在品質(zhì)，無疑將與育人初心相悖。此外，算法偏好往往固化甚至放大教育世界的“噪音數(shù)據(jù)”或“干擾數(shù)據(jù)”，抹殺教育的整全性和人本性，甚至成為教育質(zhì)量測(cè)評(píng)的“殺傷性武器”。由此看來，技術(shù)工具的肆意狂妄，導(dǎo)致了教育人工智能的本體風(fēng)險(xiǎn)。

（二）遮蔽智能技術(shù)表征教育生態(tài)的認(rèn)識(shí)風(fēng)險(xiǎn)

人工智能具有溢出帶動(dòng)性很強(qiáng)的“頭雁”效應(yīng)[20]，為教育工作者勾勒未來教育圖景打開了新視角。然而，正是遵循“主體—數(shù)據(jù)—客體”的表征路徑，造成了技術(shù)還原教育實(shí)踐的局限與割裂。其一，人工智能技術(shù)企圖通過動(dòng)態(tài)的數(shù)據(jù)鏈打開教育世界的“黑匣子”，但由于數(shù)字計(jì)算缺乏對(duì)因果關(guān)系這一隱性態(tài)勢(shì)的挖掘和解釋，很容易造成技術(shù)應(yīng)用偏離教育實(shí)踐的本原路徑。其二，人工智能技術(shù)打破了“本我”與“非我”的平衡感。這是因?yàn)?，技術(shù)的趣悅化促使個(gè)體認(rèn)知、情感和意志等沉浸在智適應(yīng)的世界里，進(jìn)而產(chǎn)生一種“非我”的錯(cuò)覺。一旦“非我”表征形態(tài)無法適配“本我”精神意志時(shí)，兩者之間的張力將會(huì)失衡，自我由此陷入技術(shù)異化的困境之中。其三，個(gè)體對(duì)技術(shù)過度迷戀容易導(dǎo)致主體話語權(quán)的缺失，從而遮蔽甚至割裂人的情感表征以及價(jià)值觀[21]。誠然，這些缺失主體內(nèi)在品質(zhì)和生命價(jià)值的二進(jìn)制數(shù)據(jù)，實(shí)質(zhì)上是對(duì)教育情境、教育生命、教育價(jià)值的荒謬表征。因此，面對(duì)人工智能教育的認(rèn)識(shí)風(fēng)險(xiǎn)，教育工作者亟須“知其然，知其所以然”。

（三）輕視智能技術(shù)違背教育初心的價(jià)值風(fēng)險(xiǎn)

教育是一項(xiàng)具有時(shí)代感的偉大事業(yè)[22]，始終承載著育人這一亙古不變的責(zé)任與使命[23]。然而，伴隨技術(shù)潛在的功效增強(qiáng)，其違背育人初心的現(xiàn)象愈發(fā)凸顯，這恰是技術(shù)價(jià)值風(fēng)險(xiǎn)的真實(shí)寫照。一方面，人工智能技術(shù)是一種客觀手段的存在，一旦未能充分考量教育的終極目標(biāo)時(shí)，其弊端將顯而易見。比如，當(dāng)大腦幾乎24小時(shí)置于智能世界時(shí)，由于緘默性知識(shí)的缺失以及認(rèn)知結(jié)構(gòu)的固化，人的思維和意識(shí)很容易陷入西西弗斯式狀態(tài)[24]。另一方面，當(dāng)過度依賴技術(shù)桎梏時(shí)，主我與客我之間的互動(dòng)交流將視為數(shù)據(jù)與數(shù)據(jù)之間的較量，進(jìn)而造成形式化和表層化的教學(xué)事故愈發(fā)頻繁，學(xué)習(xí)共同體也呈現(xiàn)同質(zhì)化發(fā)展傾向。顯然，這些初見端倪的價(jià)值風(fēng)險(xiǎn)正如“普羅克拉斯提斯鐵床”，逼迫學(xué)習(xí)者經(jīng)過“鐵床”的考驗(yàn)終打上“標(biāo)準(zhǔn)產(chǎn)品”標(biāo)簽[25]。但是，教育不是工廠流水線上的產(chǎn)品[26]，無論人工智能技術(shù)如何發(fā)展，動(dòng)之以情、導(dǎo)之以行的教育始終是育人的根基。因此，坦然面對(duì)人工智能技術(shù)“有計(jì)算而無算計(jì)、有智能而無智慧、有感知而無認(rèn)知”的現(xiàn)實(shí)，以及“技術(shù)服務(wù)于人”的理性認(rèn)知，是突圍教育人工智能價(jià)值風(fēng)險(xiǎn)的關(guān)鍵。

（四）濫用智能技術(shù)導(dǎo)致教育治理的倫理風(fēng)險(xiǎn)

人類總會(huì)對(duì)技術(shù)的進(jìn)步勾勒善意的幻想。然則，人是倫理性的存在，其價(jià)值取向或精神觀念無疑將受到技術(shù)倫理風(fēng)險(xiǎn)的規(guī)約。其一，技術(shù)服務(wù)的異化以及數(shù)據(jù)隱私的泄露，正在侵蝕學(xué)習(xí)者的幸福感[27]。比如，賦思頭環(huán)所導(dǎo)致的信息泄露、學(xué)習(xí)證據(jù)的標(biāo)簽化、異質(zhì)數(shù)據(jù)的雜糅化……可以說，教育人工智能正在通過程序和規(guī)則構(gòu)建一所?？率健叭笆奖O(jiān)獄”，釋放出諸多“現(xiàn)代性信任風(fēng)險(xiǎn)”[28]。正如德雷福斯所言：“人類理性和智能的獨(dú)特性需要積聚智力、社會(huì)以及文化的熏陶，而這種獨(dú)特性是很難被人工智能表征和程序化的?！盵29]其二，學(xué)習(xí)者由于長(zhǎng)期使用智能技術(shù)，很容易養(yǎng)成“技術(shù)心流”的陋習(xí)。所謂技術(shù)心流，即學(xué)習(xí)者過度迷戀技術(shù)交互而進(jìn)入忘我的狀態(tài)，甚至抗拒技術(shù)之外的任何事物感知[30]。也就是說，一旦學(xué)習(xí)者脫離技術(shù)牢籠，將會(huì)逃避同儕之間的合作交流，進(jìn)而產(chǎn)生性情孤僻、情感疏離等不良癥狀。其三，在人工智能技術(shù)的倒逼下，教育內(nèi)容具有更大的密度和吞吐量，這讓學(xué)習(xí)者經(jīng)常感到無所適從，且當(dāng)教育內(nèi)容愈發(fā)滿足學(xué)習(xí)者的個(gè)性化需求時(shí)，同伴之間的競(jìng)爭(zhēng)力將會(huì)明顯弱化，這會(huì)阻礙學(xué)習(xí)者持續(xù)努力的信念與動(dòng)力。

三、審思：風(fēng)險(xiǎn)形態(tài)的內(nèi)生機(jī)理

人工智能技術(shù)擁有變革教育的偉力，但“技術(shù)之于教育”的自反性力量消弭了人的主動(dòng)性和生長(zhǎng)性。正如著名風(fēng)險(xiǎn)社會(huì)學(xué)家烏爾里?！へ惪怂裕骸凹夹g(shù)宛如達(dá)摩克利斯之劍，應(yīng)用進(jìn)程中必將面臨隨時(shí)墜落的風(fēng)險(xiǎn)?！盵31]無論是智能教育裹挾下的何種風(fēng)險(xiǎn)，實(shí)則正是技術(shù)風(fēng)險(xiǎn)范式的現(xiàn)實(shí)映射。因此，從根源上透析風(fēng)險(xiǎn)背后的復(fù)雜機(jī)理，助力智能教育的理性蛻變。

（一）過度掩蓋技術(shù)應(yīng)用的內(nèi)生復(fù)雜性機(jī)理

教育生態(tài)是一個(gè)不以人的意志為轉(zhuǎn)移的內(nèi)生復(fù)雜系統(tǒng)。當(dāng)人工智能技術(shù)介入教育生態(tài)系統(tǒng)時(shí)，教育邊界被打開，性質(zhì)迥異的要素和行為耦合在一起，沖突、協(xié)同、吞噬、更新等現(xiàn)象紛紛涌現(xiàn)，教育系統(tǒng)也更加錯(cuò)綜復(fù)雜[32]。正如技術(shù)風(fēng)險(xiǎn)范式所證實(shí)，一旦教育工作者無法掌控教育生態(tài)系統(tǒng)時(shí)，其復(fù)雜性要素將以風(fēng)險(xiǎn)形式釋放出來。具體來說，人工智能教育應(yīng)用的內(nèi)生與外源制約著風(fēng)險(xiǎn)產(chǎn)生的情境和場(chǎng)域，也決定著風(fēng)險(xiǎn)發(fā)生的頻率以及現(xiàn)實(shí)條件（如圖2所示）。從內(nèi)源風(fēng)險(xiǎn)來看，人工智能教育的不確定性、不可知性、非線性以及局限性擴(kuò)大了風(fēng)險(xiǎn)發(fā)生場(chǎng)域。從外源風(fēng)險(xiǎn)來看，由于尚未厘清技術(shù)介入教育生態(tài)的基礎(chǔ)機(jī)制、普遍性規(guī)律以及特殊情境，使得原本復(fù)雜的生態(tài)系統(tǒng)衍生出更多新的風(fēng)險(xiǎn)，并將特殊化的內(nèi)生風(fēng)險(xiǎn)轉(zhuǎn)化為普遍風(fēng)險(xiǎn)。顯然，這種因技術(shù)交互所引發(fā)的外源風(fēng)險(xiǎn)、內(nèi)生風(fēng)險(xiǎn)以及與教育生態(tài)系統(tǒng)本身的復(fù)雜性耦合，加之飽受理性異化、認(rèn)知沖突、監(jiān)管失范和利益驅(qū)動(dòng)等“多重陷阱”的煩惱和詬病，加劇了人工智能教育風(fēng)險(xiǎn)發(fā)生的可能，進(jìn)而影響教育風(fēng)險(xiǎn)的監(jiān)控與治理進(jìn)程。

（二）盲目弱化技術(shù)重塑教育的脆弱性機(jī)理

脆弱性作為教育生態(tài)系統(tǒng)內(nèi)生屬性的客觀存在，是技術(shù)變革教育所呈現(xiàn)的不強(qiáng)韌狀態(tài)。人工智能教育應(yīng)用遵循“起步→應(yīng)用→融合→創(chuàng)新”的變革路徑，雖不斷嘗試在教育創(chuàng)新方面作出改革，但由于技術(shù)的脆弱性具有強(qiáng)大的潛在性或隱蔽性，只有當(dāng)風(fēng)險(xiǎn)發(fā)生時(shí)才會(huì)涌現(xiàn)出來。依據(jù)技術(shù)風(fēng)險(xiǎn)范式的意涵可知，技術(shù)本身的脆弱性將會(huì)滋生教育生態(tài)的負(fù)向效應(yīng)（如圖3所示）。首先是動(dòng)機(jī)性，動(dòng)機(jī)是行為意向的發(fā)端和持續(xù)方向，由于教育生態(tài)系統(tǒng)的復(fù)雜性表征和模糊邊界轉(zhuǎn)換加大了動(dòng)機(jī)權(quán)重賦值的難度，迫使人工智能計(jì)算陷入尷尬局面。其次是常識(shí)，它是時(shí)間、空間和文化熏陶的經(jīng)驗(yàn)產(chǎn)物，包括大量技術(shù)規(guī)約。但由于人工智能技術(shù)無法自主產(chǎn)生常識(shí)這一脆弱性，成為滯緩技術(shù)與教育生態(tài)深度融合的“絆腳石”。最后是決策，由于智能決策與人類決策之間存在天然的鴻溝，如何讓智能系統(tǒng)如同人腦一般，采用更加綜合化、智能化的行動(dòng)干預(yù)，這是突圍教育人工智能走向人機(jī)協(xié)同、群智開放、跨界融合的關(guān)鍵。顯然，人工智能教育系統(tǒng)中脆弱性的存在無疑會(huì)放大教師、學(xué)習(xí)者和資源之間的不良互動(dòng)，一旦發(fā)生較小“擾動(dòng)”時(shí)，教育生態(tài)系統(tǒng)就會(huì)將“擾動(dòng)”放大甚至變異[33]。但是，這并不意味著應(yīng)該排斥技術(shù)應(yīng)用的脆弱性，相反，高度警醒技術(shù)的脆弱性機(jī)理，掌握其變化規(guī)律和發(fā)生機(jī)制，是管控人工智能教育風(fēng)險(xiǎn)的科學(xué)方法。

（三）高度忽視教育生態(tài)的測(cè)不準(zhǔn)性機(jī)理

人工智能在教育中的應(yīng)用是一個(gè)動(dòng)態(tài)演化過程，其風(fēng)險(xiǎn)發(fā)生機(jī)制和作用過程通常無法預(yù)測(cè)。比如，這些風(fēng)險(xiǎn)形態(tài)源于何種場(chǎng)域，其風(fēng)險(xiǎn)擴(kuò)散路徑和機(jī)制又是如何？這恰是技術(shù)風(fēng)險(xiǎn)理論“測(cè)不準(zhǔn)性”的直觀表現(xiàn)。測(cè)不準(zhǔn)性表明教育系統(tǒng)的主觀意識(shí)與其客觀存在具有一定差距，只有當(dāng)教育系統(tǒng)處于動(dòng)態(tài)平衡或脫離“擾動(dòng)”的影響時(shí)，才能夠正確刻畫和精準(zhǔn)預(yù)測(cè)人工智能教育應(yīng)用的發(fā)展情勢(shì)。在此情境下，我們需要高度重視教育生態(tài)的整體性和完備性，即不僅透視人工智能教育應(yīng)用的潛在風(fēng)險(xiǎn)和發(fā)生過程，也亟須關(guān)注“風(fēng)險(xiǎn)為何發(fā)生”以及“為何如此認(rèn)知”等問題。層次分析法（Analytic Hierarchy Process，簡(jiǎn)稱AHP）是監(jiān)控與治理技術(shù)應(yīng)用成效的典型工具[34]。具體地，可將人工智能技術(shù)介入教育生態(tài)分為三個(gè)層次：目標(biāo)層、準(zhǔn)則層以及方案層。其中，目標(biāo)層是風(fēng)險(xiǎn)治理的科學(xué)方法與適應(yīng)性路徑。準(zhǔn)則層是對(duì)風(fēng)險(xiǎn)原點(diǎn)、風(fēng)險(xiǎn)場(chǎng)域以及風(fēng)險(xiǎn)過程的具體探索，把控風(fēng)險(xiǎn)成因的背后機(jī)理以及內(nèi)生規(guī)律。方案層是具體的治理措施，即從風(fēng)險(xiǎn)認(rèn)知、監(jiān)控過程、作用機(jī)制等層面提供系統(tǒng)的應(yīng)對(duì)方案。

四、突圍：風(fēng)險(xiǎn)治理的應(yīng)對(duì)之策

科學(xué)管控智能技術(shù)風(fēng)險(xiǎn)，提升技術(shù)賦能教育生態(tài)的實(shí)效性，其根本出路在于共創(chuàng)復(fù)雜性治理范式，揭示教育生態(tài)的內(nèi)生規(guī)律;關(guān)鍵在于厘清多元主體協(xié)同的機(jī)制，提升教育生態(tài)的抗逆基因;最終落腳點(diǎn)在于構(gòu)建多元?jiǎng)?chuàng)新方法論，適應(yīng)教育生態(tài)的動(dòng)態(tài)平衡。

（一）共創(chuàng)復(fù)雜性治理范式，揭示教育生態(tài)的內(nèi)生規(guī)律

技術(shù)對(duì)人的奴役實(shí)質(zhì)上是教育愿景無限擴(kuò)張的體現(xiàn)，正如恩格斯所言：“人有限的認(rèn)識(shí)能力往往給技術(shù)應(yīng)用的長(zhǎng)期目標(biāo)埋下潛在威脅?！盵35]若要實(shí)現(xiàn)對(duì)技術(shù)的馴服，必須厘清人工智能教育風(fēng)險(xiǎn)的本質(zhì)、風(fēng)險(xiǎn)演化的內(nèi)生規(guī)律以及博弈機(jī)制。盡管腦科學(xué)、心理學(xué)、教育神經(jīng)科學(xué)等領(lǐng)域針對(duì)教育風(fēng)險(xiǎn)管控已經(jīng)沉淀了些許可靠結(jié)論。但是，由于人工智能介入教育生態(tài)的復(fù)雜性和動(dòng)態(tài)性，帶有“經(jīng)驗(yàn)色彩”的舉措始終無法靈活地應(yīng)對(duì)人工智能教育風(fēng)險(xiǎn)。因此，構(gòu)建復(fù)雜性治理范式以揭示教育生態(tài)的內(nèi)生規(guī)律，是突圍人工智能教育風(fēng)險(xiǎn)的根本出路。

所謂范式，即科學(xué)共同體信念、價(jià)值以及方法的揚(yáng)棄與組合[36]。復(fù)雜性范式則脫離二元線性的“簡(jiǎn)單思維”，強(qiáng)調(diào)通過動(dòng)態(tài)的、非線性的思維方式，平等關(guān)注技術(shù)與人性、理性與非理性、機(jī)制與規(guī)律等內(nèi)生機(jī)理[37]。也就是說，復(fù)雜性范式的理性洞見突圍了技術(shù)外力主導(dǎo)的路徑依賴，為監(jiān)控教育生態(tài)的異質(zhì)性、演化性和涌現(xiàn)性等提供了安全屏障。一方面，強(qiáng)調(diào)風(fēng)險(xiǎn)治理的“管”，即需要多元主體自覺形塑基于證據(jù)的科學(xué)精神，不僅是風(fēng)險(xiǎn)識(shí)別、分析、評(píng)估、處理、監(jiān)控和審查等過程需要基于證據(jù)，同樣技術(shù)介入教育系統(tǒng)的問題診斷、策略選擇以及效果評(píng)估等進(jìn)程也需符合科學(xué)的證據(jù)線索。另一方面，強(qiáng)調(diào)風(fēng)險(xiǎn)治理的“控”，即基于問題的求真精神，確保編寫算法時(shí)不引入性別、種族、經(jīng)濟(jì)能力、技術(shù)文化等偏好。比如，可通過元分析或?qū)嶒?yàn)研究法識(shí)別風(fēng)險(xiǎn)形態(tài)并篩選出關(guān)鍵要素，或是通過大規(guī)模實(shí)驗(yàn)探索風(fēng)險(xiǎn)發(fā)生的作用機(jī)制?？傊?，運(yùn)用復(fù)雜性范式形塑人工智能教育生態(tài)的科學(xué)與透明化，依據(jù)內(nèi)生規(guī)律脫離風(fēng)險(xiǎn)場(chǎng)域的“囚徒困境”，致力于技術(shù)與教育生態(tài)的和諧共生以及深度融合。

（二）厘清主體的協(xié)同機(jī)制，提升教育生態(tài)的抗逆基因

技術(shù)與教育都是“人”的所有物，兩者在依附對(duì)象上是一體化的存在，這也決定了技術(shù)與教育是互惠共生的關(guān)系。然而，由于人工智能技術(shù)在教育實(shí)踐中往往充斥著技術(shù)算計(jì)、算法偏見、信息繭房等離心現(xiàn)象，加之原本教育生態(tài)的脆弱性，加劇了人工智能教育風(fēng)險(xiǎn)的“涌現(xiàn)效應(yīng)”。正如馬克斯·霍克海默等所言：“技術(shù)最終實(shí)現(xiàn)了‘負(fù)催化劑的夙愿?！盵38]因此，治理人工智能教育的潛在風(fēng)險(xiǎn)，關(guān)鍵在于厘清多元主體協(xié)同機(jī)制，提升教育生態(tài)的抗逆基因。同時(shí)，需要強(qiáng)調(diào)的是，管理者、研究者以及教育實(shí)踐者等多元主體需要采用指數(shù)思維以及協(xié)同創(chuàng)新的交互模式[39]，預(yù)測(cè)技術(shù)融入教育生態(tài)的臨界點(diǎn)，基于理性的系統(tǒng)思維勾勒人工智能教育生態(tài)的發(fā)展愿景，維持技術(shù)與教育的動(dòng)態(tài)平衡與良性互構(gòu)。

對(duì)于管理者來說，人工智能教育風(fēng)險(xiǎn)管控智慧源于對(duì)風(fēng)險(xiǎn)規(guī)律的理性認(rèn)識(shí)和科學(xué)把控，當(dāng)教育生態(tài)面臨具有風(fēng)險(xiǎn)性、波動(dòng)性、不透明性的因素時(shí)，必須切實(shí)完備地探索教育風(fēng)險(xiǎn)的作用機(jī)制和內(nèi)生規(guī)律。換言之，科學(xué)可行的管控措施有助于增強(qiáng)教育生態(tài)系統(tǒng)的抗脆弱性。一方面，應(yīng)詳盡分析人工智能教育應(yīng)用的真實(shí)情況，對(duì)現(xiàn)存的、潛在的風(fēng)險(xiǎn)進(jìn)行預(yù)判并歸類。另一方面，合理調(diào)適“人—技術(shù)—環(huán)境”三者之間的依存與聯(lián)結(jié)，嘗試激活彼此之間的主觀能動(dòng)性，增強(qiáng)教育生態(tài)抗脆弱的生命力。比如，圣母大學(xué)商業(yè)智能項(xiàng)目通過雇傭數(shù)據(jù)治理管家，協(xié)調(diào)多元主體的數(shù)據(jù)共識(shí)，建立了利益相關(guān)者的數(shù)據(jù)權(quán)限規(guī)約以及數(shù)據(jù)流通機(jī)制。對(duì)于研究者來說，需要解答人工智能教育風(fēng)險(xiǎn)的本質(zhì)規(guī)律以及作用機(jī)理。這個(gè)問題一方面需要研究者以重復(fù)性實(shí)驗(yàn)梳理人工智能教育風(fēng)險(xiǎn)的一般類型和內(nèi)生規(guī)律，另一方面也需要研究者采用小規(guī)模實(shí)驗(yàn)針對(duì)性地解答特殊風(fēng)險(xiǎn)。比如，佐治亞大學(xué)采用數(shù)據(jù)分析工具GPS（Graduation Progression Success）探索動(dòng)態(tài)數(shù)據(jù)的變化規(guī)律以及發(fā)生機(jī)理，同時(shí)結(jié)合學(xué)習(xí)風(fēng)格和興趣偏好，幫助學(xué)習(xí)者建立學(xué)習(xí)預(yù)警系統(tǒng)以及反饋機(jī)制。對(duì)于教學(xué)實(shí)踐者來說，需要充分利用自身的教育敏感性和實(shí)踐智慧等優(yōu)勢(shì)，不斷提升人工智能教育生態(tài)脆弱性的認(rèn)知，努力將風(fēng)險(xiǎn)意識(shí)內(nèi)化為應(yīng)對(duì)行為，突圍技術(shù)所引發(fā)的教師角色“脫嵌”與“消匿”等危機(jī)。

（三）構(gòu)建多元?jiǎng)?chuàng)新方法論，適應(yīng)教育生態(tài)的動(dòng)態(tài)平衡

人工智能加劇了教育生態(tài)的“測(cè)不準(zhǔn)性”，一旦技術(shù)方法無法洞見或表征過去、現(xiàn)在以及未來的深刻變化時(shí)，將會(huì)失去數(shù)據(jù)賦能以及科學(xué)預(yù)見的功效[40]。因此，構(gòu)建適應(yīng)教育生態(tài)平衡的復(fù)雜方法論，反思技術(shù)驅(qū)動(dòng)的合理性與創(chuàng)新性，彌合技術(shù)與教育深度融合的溝壑，縮小理論與現(xiàn)實(shí)之間的差距，這是治理人工智能教育風(fēng)險(xiǎn)的落腳點(diǎn)。需要強(qiáng)調(diào)的是，盡管人工智能技術(shù)介入教育生態(tài)的側(cè)重方向不一致，但有關(guān)風(fēng)險(xiǎn)治理路徑卻存在若干共同法則。

首先，建立真實(shí)透明的方法論體系，涵蓋人工智能算法偏好、學(xué)習(xí)者文化表征與內(nèi)在價(jià)值，以及人工智能技術(shù)“包容性”“公平性”“魯棒性”“可解釋性”等規(guī)約，保障規(guī)?；逃龜?shù)據(jù)挖掘和診斷進(jìn)程的科學(xué)性。例如，有學(xué)者基于“相關(guān)利益者的跨領(lǐng)域協(xié)作→兼顧群體的一般性和特殊性→識(shí)別風(fēng)險(xiǎn)作用機(jī)理→增加公眾評(píng)議”等過程弱化了技術(shù)算法偏見[41]。也有學(xué)者嘗試采用弱信號(hào)、場(chǎng)景構(gòu)建等未來方法論洞察教育發(fā)展范式。其次，架構(gòu)局部與整體相統(tǒng)一的方法論體系，即確保方法論與風(fēng)險(xiǎn)治理的邏輯自洽，使其在“時(shí)間—過程—空間”一致性鏈條中審查風(fēng)險(xiǎn)源及其變化規(guī)律。教育社會(huì)實(shí)驗(yàn)研究法是一種局部通向整體的科學(xué)范式，通過循證手段、證據(jù)表征、背景分析和表達(dá)傳遞等過程[42]，直面教育生態(tài)風(fēng)險(xiǎn)非線性、不確定性、不可知等因素，努力平衡現(xiàn)實(shí)與可能、實(shí)然與應(yīng)然之間的鴻溝。最后，強(qiáng)調(diào)方法論的復(fù)雜性系統(tǒng)思維。其一，注重教育生態(tài)的聯(lián)動(dòng)性、開放性與系統(tǒng)性，將風(fēng)險(xiǎn)結(jié)構(gòu)、發(fā)生機(jī)制和變化規(guī)律等模塊化或結(jié)構(gòu)化，有序演化人工智能教育風(fēng)險(xiǎn)的變化軌跡，這也符合貝塔朗菲“整體之和大于部分之和”的觀點(diǎn)。其二，強(qiáng)調(diào)風(fēng)險(xiǎn)演化的協(xié)同性和因果性，理性辯證地看待風(fēng)險(xiǎn)要素、序參量以及環(huán)境之間的非線性機(jī)制、上向和下向因果作用。其三，關(guān)注適應(yīng)的、生成的突現(xiàn)性思維，即不僅從要素或系統(tǒng)的可能狀態(tài)把控風(fēng)險(xiǎn)的生成過程，同時(shí)也應(yīng)充分考量“剩余風(fēng)險(xiǎn)”或“緘默風(fēng)險(xiǎn)”的客觀存在，預(yù)測(cè)以及治理突現(xiàn)性風(fēng)險(xiǎn)的侵襲。

五、結(jié)? ?語

盡管人工智能教育應(yīng)用的熱情與野心日趨強(qiáng)烈，但要時(shí)刻警醒技術(shù)始終無法還原教育世界的面目。唯有堅(jiān)守教育的育人初心，打造人與技術(shù)和諧共生的教育生態(tài)體系，才能從根本上發(fā)揮人工智能技術(shù)賦能教育的作用。因此，理性看待技術(shù)應(yīng)用的價(jià)值與限度，主動(dòng)建立風(fēng)險(xiǎn)意識(shí)和擔(dān)當(dāng)意識(shí)，緊扣風(fēng)險(xiǎn)發(fā)生的內(nèi)生規(guī)律與作用機(jī)制，持續(xù)推動(dòng)教育人工智能的健康發(fā)展。同時(shí)，建立公正透明的風(fēng)險(xiǎn)反饋與預(yù)警機(jī)制，形塑信仰同一的權(quán)力共同體。未來，如何應(yīng)用人工智能技術(shù)提供個(gè)性化的學(xué)習(xí)支持、如何應(yīng)用人工智能技術(shù)提高教學(xué)效率和質(zhì)量、如何應(yīng)用人工智能技術(shù)開展精準(zhǔn)化的教育決策與干預(yù)等應(yīng)是人工智能教育生態(tài)研究的重點(diǎn)。

[參考文獻(xiàn)]

[1] 卡爾·波普爾. 推想與反駁[M]. 傅季重，紀(jì)樹立，周昌忠，蔣弋為，譯. 杭州：中國美術(shù)學(xué)院出版社，2010：39.

[2] 維克托·邁爾·舍恩伯格，肯尼斯·庫克耶. 大數(shù)據(jù)時(shí)代：生活、工作與思維的大變革[M]. 盛楊燕，周濤，譯. 杭州：浙江人民出版社，2013：105.

[3] 安濤.“算計(jì)”與“解蔽”：人工智能教育應(yīng)用的本質(zhì)與價(jià)值批判[J].現(xiàn)代遠(yuǎn)程教育研究，2020，32（6）：9-15.

[4] 李芒，張華陽.對(duì)人工智能在教育中應(yīng)用的批判與主張[J].電化教育研究，2020，41（3）：29-39.

[5] JIM C K， CHANG H C. The current state of data governance in higher education[J]. Proceedings of the association for information science and technology， 2018， 55（1）：198-206.

[6] WILLIAMSON B. Digital education governance： data visualization， predictive analytics， and "real-time" policy instruments[J]. Journal of education policy， 2016， 31（2）：123-141.

[7] 鄧國民，李梅.教育人工智能倫理問題與倫理原則探討[J].電化教育研究，2020，41（6）：39-45.

[8] MAYNE A J. The social control of technology[J]. Journal of the operational research society， 1982， 33（8）：771-772.

[9] 徐英瑾.虛擬現(xiàn)實(shí)：比人工智能更深層次的糾結(jié)[J].人民論壇·學(xué)術(shù)前沿，2016（24）：8-26.

[10] MELVIN K. Technology and history： "kranzberg's laws"[J]. Bulletin of science， technology & society， 1995， 15（1）：5-13.

[11] 李棟.人工智能時(shí)代的教師發(fā)展：特質(zhì)定位與行動(dòng)哲學(xué)[J].電化教育研究，2020，41（12）：5-11.

[12] 徐振國，張冠文，孟祥增，黨同桐，孔璽.基于深度學(xué)習(xí)的學(xué)習(xí)者情感識(shí)別與應(yīng)用[J].電化教育研究，2019，40（2）：87-94.

[13] 王慧. 基于人臉識(shí)別的智能教育管理平臺(tái)的設(shè)計(jì)與實(shí)現(xiàn)[D].北京：北京交通大學(xué)，2019：18-41.

[14] 洪傳旺. 基于Spring Cloud的“微課堂”知識(shí)考核系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)[D].南京：南京大學(xué)，2019：49-69.

[15] STEENBERGEN H S， COOPER H. A meta-analysis of the effectiveness of intelligent tutoring systems on K-12 students' mathematical learning[J]. Journal of educational psychology， 2013， 105（4）：970-987.

[16] CHANG H Y， HSU Y S， WU H K. A comparison study of augmented reality versus interactive simulation technology to support student learning of a socio-scientific issue[J]. Interactive learning environments， 2014， 24（6）：1148-1161.

[17] LIN H C K， CHEN M C， CHANG C K. Assessing the effectiveness of learning solid geometry by using an augmented reality-assisted learning system[J]. Interactive learning environments， 2013， 23（6）：799-810.

[18] 金生鈜.大數(shù)據(jù)教育測(cè)評(píng)的規(guī)訓(xùn)隱憂——對(duì)教育工具化的哲學(xué)審視[J].教育研究，2019，40（8）：33-41.

[19] BIESTA G. Good education in the age of measurement—ethics， politics， democracy[M]. London： Routledge， 2016： 26.

[20] 習(xí)近平.確保人工智能關(guān)鍵核心技術(shù)牢牢掌握在自己手里[N].人民日?qǐng)?bào) （海外版），2018-11-01.

[21] BURTON E， GOLDSMITH J， KOENIG S， KUIPERS B， MATTEI N， WALSH T. Ethical considerations in artificial intelligence courses[J]. AI magazine， 2017， 38（2）：22-34.

[22] 顧明遠(yuǎn).教育大辭典（上卷）[M].上海：上海教育出版社，1990： 726.

[23] 赫爾巴特.普通教育學(xué)[M].李其龍，譯.南京：江蘇教育出版社，1990： 6.

[24] 德克勞斯·施瓦布. 第四次工業(yè)革命——轉(zhuǎn)型的力量[M].林毅夫，姜建清，董明珠，等譯.北京：中信出版社，2016： 104.

[25] 高德勝.論標(biāo)準(zhǔn)化對(duì)教育公平的傷害[J].教育科學(xué)研究，2019（2）：5-12.

[26] 宋靈青，許林.“AI”時(shí)代未來教師專業(yè)發(fā)展途徑探究[J].中國電化教育，2018（7）：73-80.

[27] 張治.教育信息化——走進(jìn)自適應(yīng)學(xué)習(xí)時(shí)代[M].上海：上海教育出版社，2018： 2.

[28] 安東尼·吉登斯.現(xiàn)代性的后果[M].田禾，譯.南京：譯林出版社，2011： 27.

[29] 徐獻(xiàn)軍.德雷福斯對(duì)人工智能的批判仍然成立嗎？[J].自然辯證法研究，2019，35（1）：15-20.

[30] CSIKSZENTMIHALYI M. The psychology of optimal experience[M]. New York： Harper Collins， 1990： 76.

[31] 烏爾里希·貝克.風(fēng)險(xiǎn)社會(huì)[M].何博聞，譯.南京：譯林出版社，2004：5.

[32] 阿蘭·柯林斯，理查德·哈爾弗森.技術(shù)時(shí)代重新思考教育[M].陳家剛，程佳銘，譯.上海：華東師范大學(xué)出版社，2013：109.

[33] WOOLF B P， LANE H C， CHAUDHRI V K， KOLODNER J L. AI grand challenges for education[J]. AI magazine， 2013， 34（4）：66-84.

[34] 張炳江.層次分析法及其應(yīng)用案例[M].北京：電子工業(yè)出版社，2014：30-61.

[35] 許良.勞動(dòng)、技術(shù)與人類解放——恩格斯技術(shù)哲學(xué)思想探析[J].自然辯證法研究，2006（4）：45-47，60.

[36] 托馬斯·庫恩.科學(xué)革命的結(jié)構(gòu)[M].金吾倫，胡新和，譯.北京：北京大學(xué)出版社，2003：11.

[37] 劉佳.復(fù)雜性范式：混合方法研究的哲學(xué)立場(chǎng)[J].自然辯證法通訊，2015，37（6）：85-91.

[38] 馬克斯·霍克海默，西奧多·阿道爾諾.啟蒙辯證法[M].渠敬東，曹衛(wèi)東，譯.上海：上海人民出版社，2003：27.

[39] 祝智庭，俞建慧，韓中美，黃昌勤.以指數(shù)思維引領(lǐng)智慧教育創(chuàng)新發(fā)展[J].電化教育研究，2019，40（1）：5-16，32.

[40] 蔡中宏.教育與社會(huì)發(fā)展研究——基于文化和人的視角[M].北京：中國社會(huì)科學(xué)出版社，2013：12-20.

[41] KUSNER M J， LOFTUS J R. The long road to fairer algorithms[J]. Nature： international weekly journal of science， 2020， 578 （7793）：34-36.

[42] 黃榮懷，王歡歡，張慕華，等.面向智能時(shí)代的教育社會(huì)實(shí)驗(yàn)研究[J].電化教育研究，2020，41（10）：5-14.