聶靜?宗利永

【摘要】將內(nèi)容生成式AI應(yīng)用于教育出版知識(shí)服務(wù)領(lǐng)域，可以打破時(shí)空限制，賦能教育出版知識(shí)服務(wù)活動(dòng)。AI優(yōu)秀的交互性能和出色的編輯生成能力可以助力教育出版知識(shí)服務(wù)的內(nèi)容生產(chǎn)理念變革、產(chǎn)品開(kāi)發(fā)交互方式創(chuàng)新、應(yīng)用場(chǎng)景拓展以及成本的有效降低，但教育出版知識(shí)服務(wù)應(yīng)用落地的推進(jìn)尚存在準(zhǔn)確性不穩(wěn)定、侵權(quán)風(fēng)險(xiǎn)加劇、倫理失范凸顯、教育評(píng)價(jià)機(jī)制失衡等現(xiàn)實(shí)問(wèn)題。對(duì)此，教育出版知識(shí)服務(wù)應(yīng)加強(qiáng)技術(shù)前端的倫理治理，提高預(yù)訓(xùn)練模型的針對(duì)性，降低知識(shí)服務(wù)侵權(quán)風(fēng)險(xiǎn)，引入多元評(píng)價(jià)主體。

【關(guān)? 鍵? 詞】人工智能；內(nèi)容生成式AI；教育出版；知識(shí)服務(wù)

【作者單位】聶靜，上海出版印刷高等專(zhuān)科學(xué)校；宗利永，上海出版印刷高等專(zhuān)科學(xué)校。

【基金項(xiàng)目】全國(guó)教育科學(xué)“十四五”規(guī)劃2022年度教育部重點(diǎn)項(xiàng)目“人工智能時(shí)代在線教育知識(shí)服務(wù)研究”（DFA220433）。

【中圖分類(lèi)號(hào)】G230.7【文獻(xiàn)標(biāo)識(shí)碼】A【DOI】10.16491/j.cnki.cn45-1216/g2.2023.15.009

人工智能時(shí)代，教育出版知識(shí)服務(wù)智能化轉(zhuǎn)型需要突破原有的服務(wù)范圍，從知識(shí)生產(chǎn)與傳播轉(zhuǎn)變?yōu)樘峁?fù)合型的知識(shí)解決方案。國(guó)務(wù)院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》指出， 我國(guó)人工智能的發(fā)展重點(diǎn)包括大數(shù)據(jù)驅(qū)動(dòng)知識(shí)學(xué)習(xí)、跨媒體協(xié)同處理、人機(jī)協(xié)同增強(qiáng)智能、群體集成智能、自主智能系統(tǒng)。其中，前三項(xiàng)與教育出版知識(shí)服務(wù)智能化密切相關(guān)［1］。在提升教育出版知識(shí)服務(wù)的人格化、場(chǎng)景化、智能化與公平化中，“數(shù)據(jù)”和“服務(wù)”是關(guān)鍵。2022年底，ChatGPT的橫空出世成為公眾關(guān)注的熱點(diǎn)話(huà)題，其強(qiáng)大的內(nèi)容生成能力讓業(yè)界看到了內(nèi)容生成式AI可延伸的廣闊邊界。內(nèi)容生成式AI利用人工智技術(shù)生成內(nèi)容，被認(rèn)為是繼專(zhuān)業(yè)生產(chǎn)內(nèi)容和用戶(hù)生產(chǎn)內(nèi)容之后的新型內(nèi)容創(chuàng)作方式，在文本、音視頻、代碼、3D建模等領(lǐng)域擁有顯著的技術(shù)優(yōu)勢(shì)。目前，內(nèi)容生成式AI的代表性產(chǎn)品有ChatGPT、Stability AI、谷歌“Imagen Video和Phenaki”、微軟“小冰”、百度“文心一言”等。內(nèi)容生成式AI的走紅，正是因?yàn)槿斯ぶ悄軐?shí)現(xiàn)了從感知、理解世界到生成、創(chuàng)造世界的躍遷［2］。將內(nèi)容生成式AI應(yīng)用于教育出版知識(shí)服務(wù)領(lǐng)域，可以打破時(shí)空限制，真正賦能教育出版知識(shí)服務(wù)活動(dòng)。

一、內(nèi)容生成式AI賦能教育出版知識(shí)服務(wù)的創(chuàng)新變革

1．助力教育出版知識(shí)服務(wù)的理念變革

數(shù)字化轉(zhuǎn)型時(shí)代，教育出版知識(shí)服務(wù)不僅豐富了用戶(hù)的知識(shí)儲(chǔ)備，而且培養(yǎng)用戶(hù)具備人工智能難以取代的創(chuàng)造性、遷移性、社會(huì)情感等技能。教育決定人類(lèi)的未來(lái)，內(nèi)容生成式AI賦能教育出版知識(shí)服務(wù)必須以人本邏輯為出發(fā)點(diǎn)，強(qiáng)調(diào)發(fā)揮人的認(rèn)識(shí)主體性和實(shí)踐主體性，以服務(wù)用戶(hù)核心技能的形成為目標(biāo)，培養(yǎng)用戶(hù)具備應(yīng)對(duì)未來(lái)技術(shù)挑戰(zhàn)的能力。技能形成需要以知識(shí)積累為基礎(chǔ)，并在外部場(chǎng)景變化中不斷演練。內(nèi)容生成式AI有助于教育出版知識(shí)服務(wù)拓展虛擬應(yīng)用場(chǎng)景，推進(jìn)用戶(hù)知識(shí)與技能的迭代轉(zhuǎn)換。

2．助力教育出版知識(shí)服務(wù)的人性化交互創(chuàng)新

內(nèi)容生成式AI作為以用戶(hù)為核心的個(gè)性化信息分發(fā)與內(nèi)容創(chuàng)造工具，可適應(yīng)多任務(wù)、多場(chǎng)景、多功能需求，能夠依據(jù)用戶(hù)提供的信息，利用千億字?jǐn)?shù)量級(jí)的數(shù)據(jù)訓(xùn)練成果生成符合用戶(hù)個(gè)性化知識(shí)需求的內(nèi)容。以ChatGPT為代表的內(nèi)容生成式AI突破了以往人工智能側(cè)重理性邏輯表達(dá)的邊界，其在深度學(xué)習(xí)過(guò)程中融入關(guān)系計(jì)算和情感計(jì)算，能夠以人的價(jià)值邏輯和思考方式進(jìn)行文本分析，對(duì)給定文本的語(yǔ)氣、情感進(jìn)行識(shí)別，對(duì)個(gè)性化內(nèi)容進(jìn)行解剖，并以與人類(lèi)高度相似的知識(shí)理解水平與回復(fù)生成能力進(jìn)行反饋，大幅提升了知識(shí)服務(wù)過(guò)程中人機(jī)交互的自然性。作為教育出版知識(shí)服務(wù)的智能助教，以人性化對(duì)話(huà)溝通方式為主的內(nèi)容生成式AI能夠在很大程度上增加用戶(hù)在平臺(tái)上的留存時(shí)間，增強(qiáng)用戶(hù)黏性。

3．助力教育出版知識(shí)服務(wù)的應(yīng)用場(chǎng)景拓展

內(nèi)容生成式AI的開(kāi)源模式可匯聚多方教育出版知識(shí)服務(wù)主體的智慧，實(shí)現(xiàn)優(yōu)勢(shì)互補(bǔ)、資源整合，助力教育應(yīng)用場(chǎng)景開(kāi)發(fā)。多模態(tài)技術(shù)是內(nèi)容生成式AI的底層技術(shù)之一，音頻、文本、圖像、視頻等都可被稱(chēng)為一種模態(tài)。多模態(tài)數(shù)據(jù)治理有利于教育出版知識(shí)服務(wù)環(huán)境的管理，實(shí)現(xiàn)知識(shí)服務(wù)形態(tài)在物理空間和虛擬空間的快捷切換。具身認(rèn)知理論認(rèn)為，人的認(rèn)知是身體和環(huán)境互動(dòng)的結(jié)果，這里所指的身體包括聽(tīng)覺(jué)、視覺(jué)、嗅覺(jué)、觸覺(jué)、腦電等多種模態(tài)。AI跨模態(tài)深度學(xué)習(xí)能夠?qū)崿F(xiàn)對(duì)教育出版知識(shí)服務(wù)多模態(tài)數(shù)據(jù)的理解，在此基礎(chǔ)上，跨模態(tài)生成全新的知識(shí)內(nèi)容，能夠極大地提高人機(jī)沉浸式交互體驗(yàn)。

4．助力教育出版知識(shí)服務(wù)的降本增效

內(nèi)容生成式AI具有強(qiáng)大的數(shù)字內(nèi)容孿生能力、編輯能力和創(chuàng)作能力，可以大幅降低教育出版知識(shí)服務(wù)多模態(tài)內(nèi)容的生產(chǎn)成本。傳統(tǒng)數(shù)字人制作通過(guò)三維建模技術(shù)生成人物，耗時(shí)長(zhǎng)、計(jì)算量大、成本高，而使用內(nèi)容生成式AI用戶(hù)僅需上傳照片或視頻即可在1分鐘內(nèi)完成建模，不僅成本低，還可以實(shí)現(xiàn)個(gè)性化定制［3］。例如，英偉達(dá)發(fā)布的內(nèi)容生成式AI模型GET3D根據(jù)訓(xùn)練的2D圖像，實(shí)現(xiàn)了每秒生成20個(gè)3D集合體的效率和速度。語(yǔ)義分析模型從對(duì)文本的理解升級(jí)為對(duì)文本的分析歸納總結(jié)，用戶(hù)只需輸入零星散亂的內(nèi)容資料，內(nèi)容生成式AI就能夠自主提煉出結(jié)構(gòu)化內(nèi)容，這將實(shí)現(xiàn)教育出版知識(shí)服務(wù)內(nèi)容生產(chǎn)的零成本，加之內(nèi)容生成式AI具有優(yōu)秀的交互功能及通用性能，其在內(nèi)容分發(fā)方面具備天然優(yōu)勢(shì)，應(yīng)用成本將同步降低。

二、內(nèi)容生成式AI在教育出版知識(shí)服務(wù)中的細(xì)分應(yīng)用場(chǎng)景

1．面向思維訓(xùn)練的知識(shí)服務(wù)

世界銀行將現(xiàn)代社會(huì)所需的技能類(lèi)型分為認(rèn)知技能、社會(huì)和行為技能、技術(shù)技能三大類(lèi)，進(jìn)一步強(qiáng)調(diào)了具備認(rèn)知技能和解決問(wèn)題能力的重要性，并提出高階思維技能（如計(jì)算思維、推理、創(chuàng)造性思維等）是認(rèn)知技能的核心。面對(duì)現(xiàn)實(shí)世界中的復(fù)雜性問(wèn)題，用戶(hù)的解決策略具有共通性，但更多的是差異性，內(nèi)容生成式AI依靠龐大的數(shù)據(jù)資源可以為用戶(hù)提供豐富的訓(xùn)練主題，借助不同的主題培養(yǎng)用戶(hù)掌握“如何從真實(shí)世界中選擇研究對(duì)象”“如何從研究對(duì)象中發(fā)現(xiàn)真實(shí)問(wèn)題”“如何針對(duì)問(wèn)題尋找解決路徑”“如何選擇合適的支持工具”“如何建立可以遷移的問(wèn)題解決模型”等推理思維［4］。這種思維訓(xùn)練能夠充分發(fā)揮用戶(hù)的主體性，幫助用戶(hù)逐步達(dá)到從問(wèn)題到方法、從簡(jiǎn)單到復(fù)雜、從過(guò)程到結(jié)果的思維進(jìn)階。

2．面向?qū)W習(xí)行為助理的知識(shí)服務(wù)

基于內(nèi)容生成式AI的教育出版知識(shí)服務(wù)能夠?yàn)橛脩?hù)提供個(gè)性化和定制化的學(xué)習(xí)體驗(yàn)：強(qiáng)大的文字處理功能和數(shù)據(jù)分析功能可以輔助用戶(hù)進(jìn)行跨學(xué)科自學(xué)、翻譯、編程等學(xué)習(xí)活動(dòng)；根據(jù)用戶(hù)需求推薦有針對(duì)性的多媒體內(nèi)容資源；通過(guò)人機(jī)對(duì)話(huà)交流方式提升用戶(hù)的學(xué)習(xí)參與度，促進(jìn)合作學(xué)習(xí)；借助優(yōu)秀的預(yù)測(cè)能力和分析能力在主題探究活動(dòng)中為用戶(hù)提供有益啟示，促進(jìn)用戶(hù)展開(kāi)探究學(xué)習(xí)，培養(yǎng)創(chuàng)新精神和實(shí)踐能力。

3．面向教研輔助功能的知識(shí)服務(wù)

內(nèi)容生成式AI能夠幫助教師完成一些簡(jiǎn)單的基礎(chǔ)性工作：課前幫助教師設(shè)計(jì)教學(xué)大綱、課程講義、生成教案等，教師只需進(jìn)一步完善相關(guān)教學(xué)內(nèi)容即可；課中可以根據(jù)教學(xué)需求、學(xué)情分析幫助教師形成多種創(chuàng)新的教學(xué)策略，增強(qiáng)教學(xué)的趣味性和互動(dòng)性，提升教學(xué)效果；課后可以根據(jù)學(xué)生的學(xué)習(xí)情況幫助教師促進(jìn)作業(yè)質(zhì)量?jī)?yōu)化，監(jiān)測(cè)學(xué)生學(xué)習(xí)效果，形成可視化教學(xué)質(zhì)量評(píng)估報(bào)告等。此外，內(nèi)容生成式AI還能輔助教師開(kāi)展科研工作，通過(guò)其強(qiáng)大的數(shù)據(jù)采集能力、整合能力、分析能力，幫助教師進(jìn)行科研選題前瞻性分析、科研項(xiàng)目可行性分析、科研成果轉(zhuǎn)化等。

4．面向智慧客戶(hù)畫(huà)像的知識(shí)服務(wù)

智慧管理是指圍繞教學(xué)科研業(yè)務(wù)領(lǐng)域形成的輔助性智慧化管理，包括業(yè)務(wù)管理（如內(nèi)容服務(wù)、共享交流、智慧決策等）和綜合管理（如用戶(hù)管理、資源管理等）。內(nèi)容服務(wù)主要是指針對(duì)用戶(hù)的知識(shí)需求及行為習(xí)慣，自動(dòng)生成個(gè)性化閱讀推薦，幫助用戶(hù)便捷地找到其所需的內(nèi)容資源，并通過(guò)聊天機(jī)器人、數(shù)智人、互動(dòng)游戲等形式打造虛實(shí)交互的沉浸式閱讀體驗(yàn)空間，增強(qiáng)用戶(hù)的閱讀體驗(yàn)。共享交流主要是通過(guò)舉辦虛擬學(xué)術(shù)沙龍、版權(quán)授權(quán)交易等，為用戶(hù)提供在線知識(shí)共享、增值服務(wù)等服務(wù)。智慧決策主要是滿(mǎn)足用戶(hù)在決策過(guò)程中對(duì)數(shù)據(jù)和信息的需求，為用戶(hù)提供數(shù)據(jù)挖掘、定制知識(shí)庫(kù)、學(xué)科競(jìng)爭(zhēng)力評(píng)估報(bào)告等。用戶(hù)管理主要是對(duì)用戶(hù)的相關(guān)信息、教育背景、行為習(xí)慣、知識(shí)需求等進(jìn)行分類(lèi)整理，形成全面的用戶(hù)畫(huà)像。資源管理主要是對(duì)自有內(nèi)容資源及開(kāi)放獲取學(xué)術(shù)資源進(jìn)行多維度、細(xì)粒度、對(duì)象化的知識(shí)表示，深度探索關(guān)鍵技術(shù)攻關(guān)，構(gòu)建富含語(yǔ)義的智慧知識(shí)中心［5］。

三、內(nèi)容生成式AI賦能教育出版知識(shí)服務(wù)應(yīng)用的現(xiàn)實(shí)困境

1．內(nèi)容生成準(zhǔn)確性不穩(wěn)定

內(nèi)容生成式AI屬于機(jī)器學(xué)習(xí)模型，模型響應(yīng)的質(zhì)量和準(zhǔn)確性取決于其訓(xùn)練數(shù)據(jù)的質(zhì)量與多樣性，海量數(shù)據(jù)并不代表海量高質(zhì)量數(shù)據(jù)?，F(xiàn)階段，AI生成的內(nèi)容在某些領(lǐng)域的準(zhǔn)確性已經(jīng)超過(guò)了人類(lèi)專(zhuān)家結(jié)論的準(zhǔn)確性，但在某些領(lǐng)域會(huì)給出邏輯看似合理但事實(shí)上并不正確的答案，這會(huì)直接影響教育出版知識(shí)服務(wù)用戶(hù)的主體認(rèn)知和價(jià)值觀建構(gòu)。造成內(nèi)容生成式AI準(zhǔn)確性不穩(wěn)定的原因主要在于目前大多數(shù)AI系統(tǒng)在獲取數(shù)據(jù)集時(shí)會(huì)優(yōu)先考慮數(shù)據(jù)是否容易收集、是否可以獲取，而非優(yōu)先判斷該類(lèi)數(shù)據(jù)集是否適用、優(yōu)質(zhì)，并能夠滿(mǎn)足場(chǎng)景功能需求和應(yīng)用目的。如果訓(xùn)練數(shù)據(jù)源頭的質(zhì)量不能得到保證，我們將無(wú)法準(zhǔn)確把控AI生成內(nèi)容的質(zhì)量。AI獲取的數(shù)據(jù)難免存在人為制造的謊言、偏見(jiàn)以及過(guò)時(shí)的知識(shí)或信息，如果AI將這些信息當(dāng)作事實(shí)不斷地進(jìn)行訓(xùn)練并復(fù)現(xiàn)給現(xiàn)實(shí)世界，那么準(zhǔn)確性失衡的惡性循環(huán)將不可避免。也許是出于AI產(chǎn)生的現(xiàn)實(shí)威脅，或出于權(quán)利人的著作權(quán)控制，人工智能在某些領(lǐng)域獲取優(yōu)質(zhì)數(shù)據(jù)集的范圍均受到限制。

2．知識(shí)產(chǎn)權(quán)侵權(quán)風(fēng)險(xiǎn)加劇

AI的核心競(jìng)爭(zhēng)力在于其極強(qiáng)的機(jī)器學(xué)習(xí)能力，擁有龐大的語(yǔ)料庫(kù)，能夠不斷進(jìn)行數(shù)據(jù)挖掘和訓(xùn)練。預(yù)訓(xùn)練技術(shù)的主要思想是遷移學(xué)習(xí)，通過(guò)算法對(duì)數(shù)據(jù)量龐大的公開(kāi)數(shù)據(jù)集進(jìn)行分類(lèi)整理，分析這些內(nèi)容所表達(dá)的思想情感、所采用的語(yǔ)言特征、所特有的表達(dá)風(fēng)格等，從中提取結(jié)構(gòu)、規(guī)則、模式、趨勢(shì)并自動(dòng)構(gòu)建特征，自主發(fā)掘有價(jià)值的內(nèi)容，再將這些內(nèi)容遷移到具體的目標(biāo)場(chǎng)景中，通過(guò)目標(biāo)場(chǎng)景的小數(shù)據(jù)集進(jìn)行獨(dú)立、持續(xù)的改進(jìn)和優(yōu)化。AI在預(yù)訓(xùn)練之前，首先要將文本轉(zhuǎn)換成其能夠理解的標(biāo)準(zhǔn)數(shù)據(jù)格式，再將這些數(shù)據(jù)復(fù)制并存儲(chǔ)到機(jī)器中形成副本，這屬于著作權(quán)法意義上典型的復(fù)制行為，如果預(yù)訓(xùn)練數(shù)據(jù)屬于版權(quán)保護(hù)的客體范圍，在未授權(quán)的情況下進(jìn)行文本挖掘使用，將存在極大的著作權(quán)侵權(quán)風(fēng)險(xiǎn)。

同時(shí)，內(nèi)容生成式AI的可版權(quán)性認(rèn)定目前還存在爭(zhēng)議，在現(xiàn)行知識(shí)產(chǎn)權(quán)法律體系下，包括我國(guó)在內(nèi)的大部分國(guó)家，作品的作者僅有可能是自然人，AI還無(wú)法成為作品的作者。因此，北京互聯(lián)網(wǎng)法院在“菲林案”中認(rèn)為，AI不能成為作者，AI生成的內(nèi)容也不能構(gòu)成作品。但在“Dreamwriter案”中，深圳市南山區(qū)法院認(rèn)為，AI生成的內(nèi)容構(gòu)成作品，受著作權(quán)法保護(hù)，且屬于騰訊主持的多團(tuán)隊(duì)、多人分工形成的整體智力創(chuàng)作完成的法人作品［6］。

3．技術(shù)倫理失范凸顯

教育出版知識(shí)服務(wù)不僅是知識(shí)的傳播，還是豐富教育層面上人與人之間的精神互動(dòng)。內(nèi)容生成式AI在教育出版知識(shí)服務(wù)領(lǐng)域的應(yīng)用如果過(guò)多依靠技術(shù)、算法，會(huì)導(dǎo)致用戶(hù)過(guò)分依賴(lài)技術(shù)而忽略教學(xué)互動(dòng)，這與教育的本質(zhì)是相違背的。AI本身尚不具備價(jià)值判斷能力，無(wú)法自我判斷內(nèi)容是否遵循教育倫理，其所依存的預(yù)訓(xùn)練模型在對(duì)人類(lèi)社會(huì)過(guò)往數(shù)據(jù)學(xué)習(xí)總結(jié)的過(guò)程中，不可避免地會(huì)復(fù)制和延續(xù)當(dāng)前社會(huì)既有的一些認(rèn)知偏見(jiàn)。如果AI技術(shù)開(kāi)發(fā)人員自身存在某些教育倫理認(rèn)知偏見(jiàn)，就有可能在技術(shù)設(shè)計(jì)開(kāi)發(fā)階段有意識(shí)或者無(wú)意識(shí)地造成內(nèi)嵌邏輯的價(jià)值失衡。這些算法缺陷會(huì)在一定程度上加深知識(shí)服務(wù)主體的偏見(jiàn)，對(duì)用戶(hù)形成錯(cuò)誤引導(dǎo)，而用戶(hù)也在無(wú)形中受認(rèn)知偏見(jiàn)的影響，形成認(rèn)知固化。另外，AI獲取的用戶(hù)數(shù)據(jù)集本就存在結(jié)構(gòu)性不平等和不平衡的現(xiàn)實(shí)問(wèn)題，教育出版知識(shí)服務(wù)追求的教育公平性將無(wú)法得到保障。

4．教育評(píng)價(jià)機(jī)制失衡

對(duì)教育評(píng)價(jià)機(jī)制的沖擊是內(nèi)容生成式AI給教育出版知識(shí)服務(wù)帶來(lái)的最大沖擊。AI能夠輕松擁有人類(lèi)經(jīng)過(guò)多年學(xué)習(xí)才能掌握的邏輯運(yùn)算、語(yǔ)言表達(dá)、文章寫(xiě)作、總結(jié)概括、虛擬假設(shè)等能力，當(dāng)知識(shí)被便捷調(diào)取并基于需求隨時(shí)形成解決方案時(shí)，知識(shí)服務(wù)主體將難以辨別用戶(hù)真實(shí)的理解水平、無(wú)法準(zhǔn)確評(píng)價(jià)用戶(hù)實(shí)際的學(xué)習(xí)效果，且難以量化評(píng)估用戶(hù)內(nèi)在的求知欲、創(chuàng)造力、想象力、社會(huì)責(zé)任感等綜合素養(yǎng)。用戶(hù)作為維持智能系統(tǒng)運(yùn)轉(zhuǎn)的數(shù)據(jù)來(lái)源，時(shí)刻作為被計(jì)算、被設(shè)計(jì)的目標(biāo)，所謂個(gè)性化培養(yǎng)的過(guò)程也只是局部指標(biāo)設(shè)定的結(jié)果，與教育評(píng)價(jià)的全面性并不相符。循環(huán)往復(fù)地片面理解用戶(hù)，必將影響知識(shí)服務(wù)主體對(duì)用戶(hù)知識(shí)需求的精準(zhǔn)把握。智能技術(shù)時(shí)代，教育出版知識(shí)服務(wù)只有開(kāi)發(fā)新的學(xué)習(xí)效果評(píng)價(jià)工具，建立新型教育評(píng)價(jià)機(jī)制和方式，重新認(rèn)知智能化時(shí)代的用戶(hù)需要學(xué)什么、怎么學(xué)，才能有效提升知識(shí)服務(wù)的效能。

四、內(nèi)容生成式AI應(yīng)用于教育出版知識(shí)服務(wù)領(lǐng)域的路徑

1．加強(qiáng)技術(shù)前端的倫理治理，更好地體現(xiàn)教育本質(zhì)

好的技術(shù)不僅要關(guān)注應(yīng)用結(jié)果，還要重視開(kāi)發(fā)過(guò)程。教育出版知識(shí)服務(wù)要加強(qiáng)對(duì)技術(shù)前端的倫理治理，注重開(kāi)發(fā)團(tuán)隊(duì)的多元融合。例如：在技術(shù)開(kāi)發(fā)、部署層面展開(kāi)有效商談，尊重教育規(guī)律，樹(shù)立前瞻性、預(yù)防性的倫理設(shè)計(jì)意識(shí)，抑制無(wú)意識(shí)表達(dá)偏見(jiàn)；規(guī)范開(kāi)發(fā)行為，明確技術(shù)開(kāi)發(fā)設(shè)計(jì)主體的權(quán)責(zé)劃分，堅(jiān)持教育倫理的公正平等原則；確保算法程序制定的透明度和可追溯性，要求技術(shù)供應(yīng)商公示說(shuō)明算法使用的目的、倫理標(biāo)準(zhǔn)、具體參數(shù)、信息采集的范圍、運(yùn)行規(guī)則等，使教育服務(wù)消費(fèi)者能夠清晰地掌握個(gè)人信息采集的用途，當(dāng)出現(xiàn)算法運(yùn)行不當(dāng)、侵害個(gè)人權(quán)益的狀況時(shí)，能夠及時(shí)追溯到相關(guān)負(fù)責(zé)人。

絕大多數(shù)從事AI科研工作的中堅(jiān)力量沒(méi)有經(jīng)過(guò)專(zhuān)門(mén)的人工智能倫理教育與培訓(xùn)，為了使人工智能教育出版知識(shí)服務(wù)的科研開(kāi)發(fā)人員承擔(dān)起前瞻性的道德責(zé)任，科研機(jī)構(gòu)需要將教育倫理原則轉(zhuǎn)化為技術(shù)開(kāi)發(fā)過(guò)程中的具體實(shí)踐，設(shè)立一整套系統(tǒng)化的內(nèi)部治理機(jī)制和技術(shù)解決方案，開(kāi)展專(zhuān)業(yè)化的教育倫理培訓(xùn)。

2．提高預(yù)訓(xùn)練模型的針對(duì)性，更好地適配教育場(chǎng)景

為了拓展人工智能教育出版知識(shí)服務(wù)的應(yīng)用場(chǎng)景，教育出版知識(shí)服務(wù)需不斷優(yōu)化和完善預(yù)訓(xùn)練模型：針對(duì)思維訓(xùn)練、助學(xué)服務(wù)、教研輔助、智慧管理等應(yīng)用場(chǎng)景，為內(nèi)容生成式AI后臺(tái)數(shù)據(jù)庫(kù)提供全面、動(dòng)態(tài)的實(shí)踐數(shù)據(jù)和事實(shí)材料；針對(duì)每一類(lèi)應(yīng)用場(chǎng)景構(gòu)建標(biāo)準(zhǔn)化的輸入框架和輸出模板，并進(jìn)行反復(fù)多次的預(yù)訓(xùn)練，以自動(dòng)生成符合用戶(hù)需求的內(nèi)容；針對(duì)在實(shí)踐中由于數(shù)據(jù)匱乏、質(zhì)量參差不齊、多樣性不足、版權(quán)沖突導(dǎo)致的難以獲得有效數(shù)據(jù)材料等問(wèn)題，教育出版知識(shí)服務(wù)機(jī)構(gòu)可以定制合成數(shù)據(jù)作為真實(shí)數(shù)據(jù)的替代品或是增強(qiáng)集?，F(xiàn)實(shí)世界中難以采集或者無(wú)法采集的場(chǎng)景數(shù)據(jù)也可以通過(guò)合成數(shù)據(jù)自動(dòng)創(chuàng)建和生成，以有效提高內(nèi)容生成式AI的場(chǎng)景適配性和準(zhǔn)確性。合成數(shù)據(jù)可以更高效、更低成本、更高質(zhì)量助力人工智能內(nèi)容產(chǎn)業(yè)的未來(lái)發(fā)展，根據(jù)美國(guó)高德納咨詢(xún)公司預(yù)測(cè)，到2024年，用于訓(xùn)練AI的數(shù)據(jù)中將有60%是合成數(shù)據(jù)［7］。此外，在實(shí)踐中運(yùn)用合成數(shù)據(jù)還可以有效避免用戶(hù)隱私泄露的問(wèn)題。

3．完善數(shù)據(jù)標(biāo)注，降低知識(shí)服務(wù)侵權(quán)風(fēng)險(xiǎn)

在機(jī)器學(xué)習(xí)和自然語(yǔ)言處理領(lǐng)域中，數(shù)據(jù)標(biāo)注是機(jī)器智能化水平提升的重要一環(huán)。數(shù)據(jù)標(biāo)注的質(zhì)量和規(guī)模對(duì)提升人工智能的性能和泛化能力具有巨大影響。在訓(xùn)練自然語(yǔ)言處理模型時(shí)，需要大量的標(biāo)注文本數(shù)據(jù)，數(shù)據(jù)特征越豐富，機(jī)器越能夠理解自然語(yǔ)言的語(yǔ)法、語(yǔ)義和上下文信息，泛化能力越強(qiáng)，場(chǎng)景適用范圍越廣。雖然ChatGPT這類(lèi)人工智能已經(jīng)可以自動(dòng)學(xué)習(xí)和生成文本，但要提高AI在教育出版知識(shí)服務(wù)這類(lèi)專(zhuān)業(yè)領(lǐng)域的適配性和準(zhǔn)確性，仍然需要具備專(zhuān)業(yè)知識(shí)的人力、設(shè)備來(lái)進(jìn)行科學(xué)合理的人工標(biāo)注。為了從源頭上降低內(nèi)容生成式AI的侵權(quán)風(fēng)險(xiǎn)，科研機(jī)構(gòu)可以利用著作權(quán)制度中“思想和表達(dá)的二分法”理論，根據(jù)模型訓(xùn)練數(shù)據(jù)的抽象程度進(jìn)行“思想”和“表達(dá)”標(biāo)注，當(dāng)生成內(nèi)容只涉及訓(xùn)練數(shù)據(jù)集的“思想”時(shí)予以獎(jiǎng)勵(lì)，當(dāng)生成內(nèi)容不當(dāng)使用訓(xùn)練數(shù)據(jù)集中的“表達(dá)”時(shí)則予以懲罰。

同時(shí)，科研機(jī)構(gòu)可以在預(yù)訓(xùn)練中融入海量版權(quán)侵權(quán)案例，將獨(dú)創(chuàng)性、復(fù)制、改編、合理使用、侵權(quán)行為等概念和規(guī)則編入算法設(shè)定，作為內(nèi)容生成式AI的行動(dòng)標(biāo)準(zhǔn)，讓AI從認(rèn)知邏輯層面明確哪些可為哪些不可為。如庫(kù)茲韋爾就將防止剽竊他人作品的規(guī)則編入了“電腦詩(shī)人”RKCP的算法設(shè)計(jì)［8］。2023年1月10日起正式實(shí)施的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》為AIGC在教育出版知識(shí)服務(wù)領(lǐng)域應(yīng)用提供了很好的規(guī)范指引，多模態(tài)教學(xué)資源的合成和使用都應(yīng)在法律允許的框架范圍內(nèi)展開(kāi)。不斷完善技術(shù)檢測(cè)手段，強(qiáng)制性標(biāo)注“AIGC”數(shù)據(jù)標(biāo)簽，可有效防止AI對(duì)學(xué)術(shù)生態(tài)的侵害。

4．明確各參與主體的角色、任務(wù)與責(zé)任，引入多元評(píng)價(jià)主體

教育出版知識(shí)服務(wù)可以輔助教育教學(xué)，但在技術(shù)與知識(shí)服務(wù)主體之間，須明確各自的角色、任務(wù)與責(zé)任。在具體的運(yùn)行管理中，科研機(jī)構(gòu)可將多方利益主體納入 DAO 模型（所謂DAO，是指在區(qū)塊鏈技術(shù)支撐上分布式存在的個(gè)體、內(nèi)容和智能技術(shù)物通過(guò)算法聚攏，在智能合約和代幣等公開(kāi)透明的數(shù)字代碼保障下自主生產(chǎn)、互動(dòng)、流轉(zhuǎn)價(jià)值的組織模式，這類(lèi)組織具備超越第三方干預(yù)的自演化、自運(yùn)轉(zhuǎn)和自治理能力）［9］，提高整個(gè)教育出版知識(shí)服務(wù)過(guò)程的透明度和公平性，通過(guò)智能合約明確各方的權(quán)利和義務(wù)，建立社區(qū)治理機(jī)制與共識(shí)機(jī)制。

教育出版知識(shí)服務(wù)機(jī)構(gòu)要合理應(yīng)用AI的技術(shù)功能，營(yíng)造積極、健康的知識(shí)服務(wù)環(huán)境：注重輔助教師教學(xué)，加強(qiáng)與學(xué)生用戶(hù)的情感交流，增強(qiáng)人文關(guān)懷，正確引導(dǎo)、監(jiān)督學(xué)生正確使用人工智能技術(shù)；在提供內(nèi)容資源整合時(shí)應(yīng)做好研判，及時(shí)規(guī)避AI對(duì)尚不具備專(zhuān)業(yè)知識(shí)和能力的用戶(hù)產(chǎn)生誤導(dǎo)；積極引入多元評(píng)價(jià)主體，采用主客觀相融合的評(píng)價(jià)體系，在該評(píng)價(jià)體系中，指標(biāo)設(shè)計(jì)應(yīng)覆蓋基礎(chǔ)知識(shí)體系架構(gòu)、系統(tǒng)的問(wèn)題解決能力、創(chuàng)造性的高階思維模式、積極正向的人格特質(zhì)等方面，以實(shí)現(xiàn)促進(jìn)用戶(hù)全面發(fā)展的目標(biāo)。

｜參考文獻(xiàn)｜

［1］田頌云. 教育出版的知識(shí)服務(wù)轉(zhuǎn)型研究：愿景描摹、內(nèi)在邏輯與實(shí)施路徑［J］. 編輯之友，2022（6）：33-38.

［2］騰訊發(fā)布AIGC發(fā)展趨勢(shì)報(bào)告：迎接人工智能的下一個(gè)時(shí)代［EB/OL］.? （2023-01-31）［2023-07-

16］.https：//mp.weixin.qq.com/s/9AjTpyL4HmQ6BDhW

IDbD0A.

［3］ AIGC：Web3.0時(shí)代的內(nèi)容生產(chǎn)革命［EB/OL］.（2023-01-31）［2023-07-16］.http：//www.yitb.com/article-46181.

［4］ 祝智庭，趙曉偉，沈書(shū)生. 技能本位的學(xué)習(xí)范式：教育數(shù)字化轉(zhuǎn)型的認(rèn)識(shí)論新見(jiàn)解［J］. 電化教育研究，2023（2）：36-46.

［5］蔡子凡，蔚海燕. 人工智能生成內(nèi)容（AIGC）的演進(jìn)歷程及其圖書(shū)館智慧服務(wù)應(yīng)用場(chǎng)景［J］. 圖書(shū)館雜志，2023（4）：34-43+135-136.

［6］梅傲，鄭宇豪. 人工智能作品的困境及求解：以人工智能寫(xiě)作領(lǐng)域第一案為考察中心［J］. 出版發(fā)行研究，2020（12）：50-56.

［7］趨勢(shì)報(bào)告｜人工智能的下一個(gè)時(shí)代 AIGC未來(lái)已來(lái)［EB/OL］.（2023-02-03）［2023-07-16］. https：//

baijiahao.baidu.com/s？id=1756792705666661456&wfr=spider&for=pc.

［8］黃鳴奮. 人工智能與文學(xué)創(chuàng)作的對(duì)接、滲透與比較［J］. 社會(huì)科學(xué)戰(zhàn)線，2018（11）：179-188+282+2.

［9］劉彧晗，喻國(guó)明. 游戲作為DAO媒介：數(shù)字文明時(shí)代社會(huì)的“再組織”方式：兼論媒介與人類(lèi)存在方式的演進(jìn)［J］. 新聞界，2022（12）：25-36.