王鵬濤

【摘要】AIGC技術(shù)憑借強(qiáng)大的內(nèi)容生成能力迅速滲透到知識(shí)生產(chǎn)領(lǐng)域，在成為知識(shí)生產(chǎn)有力工具的同時(shí)也引發(fā)諸多合規(guī)化問題。出版界早已敏銳地認(rèn)識(shí)到問題的嚴(yán)重性，卻因缺乏應(yīng)對(duì)能力而陷入了知識(shí)生產(chǎn)合規(guī)化治理的困境。文章對(duì)AIGC技術(shù)可能違反的知識(shí)生產(chǎn)規(guī)范進(jìn)行詳細(xì)梳理，包括獨(dú)立性規(guī)范、知識(shí)產(chǎn)權(quán)規(guī)范、權(quán)責(zé)明確規(guī)范、科學(xué)性規(guī)范和創(chuàng)新性規(guī)范，剖析知識(shí)生產(chǎn)合規(guī)化困境的結(jié)構(gòu)化成因，提出以構(gòu)建知識(shí)核驗(yàn)機(jī)制為核心的調(diào)適思路，并設(shè)計(jì)知識(shí)核驗(yàn)機(jī)制的具體方案，以期為破解AIGC出版背景下知識(shí)生產(chǎn)的合規(guī)化困境，維護(hù)知識(shí)生產(chǎn)秩序提供有效的參考。

【關(guān)鍵詞】AIGC 知識(shí)生產(chǎn) 智能出版 學(xué)術(shù)規(guī)范

【中圖分類號(hào)】G230 【文獻(xiàn)標(biāo)識(shí)碼】Ａ 【文章編號(hào)】1003-6687（2024）3-014-09

【DOI】 10.13786/j.cnki.cn14-1066/g2.2024.3.002

2022年年底，ChatGPT的上線使AIGC技術(shù)正式進(jìn)入大眾應(yīng)用階段并成為世界上最受關(guān)注的人工智能技術(shù)。伴隨著AIGC技術(shù)在知識(shí)生產(chǎn)領(lǐng)域的滲透，知識(shí)生產(chǎn)合規(guī)化問題逐漸凸顯，在知識(shí)界引發(fā)了強(qiáng)烈反應(yīng)。作為知識(shí)領(lǐng)域的守門人，出版機(jī)構(gòu)最先直面這一沖擊，但由于對(duì)AIGC技術(shù)參與下知識(shí)生產(chǎn)合規(guī)化問題的認(rèn)識(shí)尚不統(tǒng)一，規(guī)制能力非常有限，出版界表現(xiàn)出明顯的被動(dòng)狀態(tài)。一方面，多家出版機(jī)構(gòu)各行其是，針對(duì)知識(shí)生產(chǎn)中的AIGC技術(shù)應(yīng)用行為發(fā)布標(biāo)準(zhǔn)不一的技術(shù)使用規(guī)定或作者政策；另一方面，各出版機(jī)構(gòu)的應(yīng)對(duì)舉措僅限于單方面要求和勸說性建議，目前并無實(shí)質(zhì)性的違規(guī)行為識(shí)別和規(guī)制手段以維護(hù)知識(shí)生產(chǎn)的秩序?？偟膩碚f，目前出版界深陷AIGC技術(shù)參與下的知識(shí)生產(chǎn)合規(guī)化問題治理困境之中。

為突破這一困境，本文首先明確知識(shí)生產(chǎn)應(yīng)當(dāng)遵循的規(guī)范是什么，梳理AIGC技術(shù)參與下的知識(shí)生產(chǎn)具體引發(fā)了哪些合規(guī)化問題；然后剖析這些合規(guī)化問題為何難以解決以至于形成了治理困境；進(jìn)而提出知識(shí)生產(chǎn)合規(guī)化困境的調(diào)適思路，抓住突破困境的核心，并據(jù)此設(shè)計(jì)具體的應(yīng)對(duì)方案。

一、AIGC出版背景下的知識(shí)生產(chǎn)合規(guī)化問題概述

1. 知識(shí)生產(chǎn)之“規(guī)”的內(nèi)涵與外延

按照索薩的觀點(diǎn)，知識(shí)可以被劃分為動(dòng)物性知識(shí)和反思性知識(shí)，分別對(duì)應(yīng)低階知識(shí)和高階知識(shí)。[1]二者的區(qū)分標(biāo)準(zhǔn)在于是否體現(xiàn)了人所具有的理解、反思和判斷等高階能力。高階知識(shí)與通俗意義上的專業(yè)知識(shí)相對(duì)應(yīng)，是認(rèn)知主體利用自身理性以及科學(xué)的能力和品質(zhì)所獲得的科學(xué)認(rèn)知，[2]需遵循嚴(yán)格的生產(chǎn)、傳授和接受規(guī)律，訓(xùn)練方法以及學(xué)術(shù)規(guī)范。[3]在現(xiàn)代科學(xué)范式下，知識(shí)生產(chǎn)是在規(guī)范的學(xué)科體系下以科學(xué)的研究方法進(jìn)行的、以生產(chǎn)科學(xué)知識(shí)為目標(biāo)的活動(dòng)。[4]因此，知識(shí)生產(chǎn)所產(chǎn)出的知識(shí)屬于高階知識(shí)范疇，重視“規(guī)范”的參與和作用。

正如韋奇伍德所言，規(guī)范是指導(dǎo)人們?nèi)绾涡袆?dòng)或思考的一般原則。[5]在不同情境下，規(guī)范的定義具有特殊性?？茖W(xué)規(guī)范則是指導(dǎo)和調(diào)適科學(xué)共同體成員行為的、具有普適性和長效性的指示系統(tǒng)，能夠?qū)茖W(xué)家的行為起到引領(lǐng)和糾偏的作用。[6]因而知識(shí)生產(chǎn)作為產(chǎn)出科學(xué)知識(shí)的活動(dòng)，其遵守的“規(guī)范”便是指約束、指導(dǎo)知識(shí)生產(chǎn)主體行為的標(biāo)準(zhǔn)和原則。

知識(shí)生產(chǎn)活動(dòng)是具有明確目標(biāo)的行為過程，因而知識(shí)生產(chǎn)規(guī)范還將作用于知識(shí)生產(chǎn)過程和結(jié)果兩個(gè)方面。從過程角度來看，知識(shí)生產(chǎn)是指真理、思想等各種類型知識(shí)的創(chuàng)新過程，而創(chuàng)新并不是毫無規(guī)范約束的任意行動(dòng)?？茖W(xué)是理性的事業(yè)，這要求科學(xué)知識(shí)的生產(chǎn)要以規(guī)范性方法論作為行為標(biāo)準(zhǔn)，若違反這一標(biāo)準(zhǔn)，科學(xué)活動(dòng)便是不合理的，創(chuàng)新過程便不能稱之為“科學(xué)創(chuàng)新”，其產(chǎn)物也不再是合格的“科學(xué)知識(shí)”。從結(jié)果角度來看，科學(xué)的價(jià)值目標(biāo)包括對(duì)“客觀性”和“原創(chuàng)性”的追求，這也是科學(xué)知識(shí)的本質(zhì)屬性。[7]知識(shí)生產(chǎn)活動(dòng)是否成立，其產(chǎn)物能否被稱為“科學(xué)知識(shí)”，需要以其是否實(shí)現(xiàn)了科學(xué)的價(jià)值目標(biāo)作為判斷標(biāo)準(zhǔn)，亦即是否符合知識(shí)生產(chǎn)的“結(jié)果規(guī)范”。

2. AIGC技術(shù)介入知識(shí)生產(chǎn)引發(fā)的合規(guī)化問題

由于知識(shí)生產(chǎn)需同時(shí)遵循過程規(guī)范和結(jié)果規(guī)范，AIGC技術(shù)介入知識(shí)生產(chǎn)所引發(fā)的合規(guī)化問題也要從過程規(guī)范與結(jié)果規(guī)范兩方面來分析。現(xiàn)有的學(xué)術(shù)規(guī)范已經(jīng)明確規(guī)定了科研工作者在知識(shí)生產(chǎn)過程中應(yīng)當(dāng)遵守的行為規(guī)范，[8]因此，從學(xué)術(shù)規(guī)范文本中，可以歸納出AIGC技術(shù)參與下的知識(shí)生產(chǎn)可能會(huì)違反的過程規(guī)范，包括獨(dú)立性、知識(shí)產(chǎn)權(quán)和權(quán)責(zé)明確三個(gè)方面。知識(shí)生產(chǎn)的結(jié)果規(guī)范則可以基于“知識(shí)”及“知識(shí)生產(chǎn)”兩個(gè)概念的成立條件進(jìn)行歸納。具體來說，AIGC參與下的知識(shí)生產(chǎn)可能會(huì)違反科學(xué)性和創(chuàng)新性這兩則結(jié)果規(guī)范。

（1）獨(dú)立性規(guī)范的侵蝕。既有學(xué)術(shù)規(guī)范文本明確指出，學(xué)者應(yīng)當(dāng)堅(jiān)持獨(dú)立的學(xué)術(shù)品格和自由探索精神，提出新的學(xué)術(shù)思想和見解；[9]學(xué)術(shù)論文應(yīng)當(dāng)是作者在親自進(jìn)行深入的研究、思考、寫作和反復(fù)核查后獲得的創(chuàng)新性知識(shí)成果。[10]作為一種科學(xué)活動(dòng)，知識(shí)生產(chǎn)也應(yīng)堅(jiān)守科學(xué)精神。理性精神是科學(xué)精神的核心內(nèi)涵，體現(xiàn)在科學(xué)活動(dòng)嚴(yán)格的研究規(guī)范和方法之中。科學(xué)的規(guī)范和方法來自于經(jīng)驗(yàn)的長期積累，是只有人類才能繼承并實(shí)踐的內(nèi)容，且不能輕率地加以摒棄。[11]因此，知識(shí)生產(chǎn)需要從過程角度考量知識(shí)生產(chǎn)主體是否遵守了獨(dú)立性規(guī)范，是否將其主導(dǎo)地位讓渡于旁人或現(xiàn)代技術(shù)。

ChatGPT等AIGC產(chǎn)品一經(jīng)上線便在文獻(xiàn)綜述、文本翻譯與潤色、生成論述文本等知識(shí)生產(chǎn)環(huán)節(jié)中表現(xiàn)出超強(qiáng)的能力。但AIGC技術(shù)濫用會(huì)侵蝕人類在知識(shí)生產(chǎn)中的能動(dòng)性和自由意志，使人類從知識(shí)生產(chǎn)的主導(dǎo)者轉(zhuǎn)變?yōu)楸粍?dòng)接受者，走向“機(jī)器的人化”與“人的機(jī)器化”的悖論。[12]同時(shí)，AIGC技術(shù)的過度介入使知識(shí)生產(chǎn)缺少了由人類通過感官經(jīng)驗(yàn)和價(jià)值判斷做出科學(xué)決策的過程，[13]難以保證其是否符合理性精神這一基本價(jià)值遵循。因此，AIGC技術(shù)的介入極有可能導(dǎo)致知識(shí)生產(chǎn)活動(dòng)違背獨(dú)立性這一過程規(guī)范。

（2）知識(shí)產(chǎn)權(quán)規(guī)范的觸犯。知識(shí)生產(chǎn)是生產(chǎn)主體經(jīng)歷資料收集、經(jīng)驗(yàn)積累、實(shí)踐感受等過程而展開的復(fù)雜思維活動(dòng)，[14]其產(chǎn)物不僅是個(gè)人智力勞動(dòng)創(chuàng)造的財(cái)產(chǎn)，也是全部人類的精神財(cái)富，知識(shí)生產(chǎn)這一勞動(dòng)過程理應(yīng)受到尊重和保護(hù)。知識(shí)產(chǎn)權(quán)規(guī)范繼而成為公認(rèn)的規(guī)約，在法律和學(xué)術(shù)規(guī)范中被確立下來，以激發(fā)人的創(chuàng)造力，鼓勵(lì)知識(shí)創(chuàng)新。[15]

AIGC技術(shù)的應(yīng)用滋長了剽竊這一觸犯知識(shí)產(chǎn)權(quán)規(guī)范的劣行。一方面，AIGC技術(shù)可以抽取和重組前人的觀點(diǎn)和思想，不加任何來源引注，以非同質(zhì)化的表述方式重新呈現(xiàn)，反而成就了更“高級(jí)”的剽竊手段。另一方面，AIGC技術(shù)為知識(shí)生產(chǎn)者提供了將“走捷徑”的主觀意愿付諸實(shí)踐的便利工具，幫助部分投機(jī)者將他人的學(xué)術(shù)觀點(diǎn)和成果進(jìn)行糅合改寫，逃過學(xué)術(shù)不端檢測(cè)手段的查驗(yàn)。此外，AIGC技術(shù)的應(yīng)用不可避免地要對(duì)原始文本和數(shù)據(jù)進(jìn)行復(fù)制，但這一行為的范圍和合理性還有待商榷。在域外的判例中，美國法院已經(jīng)確立了AI復(fù)制行為的合理性條件，一是不用于激勵(lì)他人生產(chǎn)新的作品，二是不影響被使用著作權(quán)的作品的潛在市場(chǎng)和價(jià)值。[16]AIGC技術(shù)在知識(shí)生產(chǎn)領(lǐng)域的應(yīng)用顯然觸碰到以上兩條原則，自然也會(huì)導(dǎo)致知識(shí)生產(chǎn)過程觸犯知識(shí)產(chǎn)權(quán)規(guī)范。

（3）權(quán)責(zé)明確規(guī)范的模糊。學(xué)術(shù)規(guī)范明確了有關(guān)署名的一系列要求。署名代表著對(duì)著作權(quán)人身份的認(rèn)定以及屬于作者的一系列權(quán)利的行使，[17]也意味著署名者要對(duì)知識(shí)成果承擔(dān)責(zé)任。

作品作為獨(dú)創(chuàng)性表達(dá)，一般被認(rèn)為源于人的思想和感情，[18]因而著作權(quán)也無法脫離“人”這一權(quán)利主體。而AIGC技術(shù)的信息篩選和創(chuàng)造性表達(dá)能力卻使得程序算法和獨(dú)立思考的界限愈發(fā)模糊，[19]引發(fā)了是否應(yīng)當(dāng)賦予AI署名權(quán)或著作權(quán)的爭議。[20]更為復(fù)雜的是，AIGC參與下的知識(shí)生產(chǎn)往往是由人類和AI“合作”完成的。AI、AI產(chǎn)品開發(fā)者、AI使用者以及數(shù)據(jù)提供者之間的分工如何判定，他們的貢獻(xiàn)比例如何劃分，權(quán)利歸屬是否遵循了知識(shí)產(chǎn)權(quán)設(shè)立的初衷，這些問題尚無定論，知識(shí)產(chǎn)權(quán)也無法明晰。

與“自動(dòng)駕駛汽車的事故責(zé)任由誰承擔(dān)”這一經(jīng)典責(zé)任難題類似，AIGC參與下的知識(shí)生產(chǎn)違規(guī)問題可能由數(shù)據(jù)、模型、提問、加工等多個(gè)環(huán)節(jié)和因素導(dǎo)致，很難厘清其中的因果關(guān)系、分辨主觀意愿并舉證，繼而難以判定責(zé)任主體。即便上述問題能夠得到解決，AI本身也不具有承擔(dān)責(zé)任的能力，它并沒有作為法律主體而需要同時(shí)具備的理性和欲望，[21]就像一個(gè)具有“涌現(xiàn)”能力的未成年人，[22]會(huì)制造出意外的“麻煩”卻無法被追究相應(yīng)的法律后果，因而AIGC參與下的知識(shí)生產(chǎn)還無法確定明確的責(zé)任者，必將導(dǎo)致知識(shí)生產(chǎn)秩序的空前混亂。

（4）科學(xué)性規(guī)范的違背?！靶畔ⅰ迸c“知識(shí)”是一組密切關(guān)聯(lián)但有著明確界限的概念。信息是對(duì)客觀事物和狀態(tài)的反映，[23]知識(shí)則具有更嚴(yán)格的限定條件。如柏拉圖在《泰阿泰德 智術(shù)之師》中所提出的，“它一定是正確的，可以被人感知的，得到論證的真的信念”，[24]知識(shí)可以被定義為來源于實(shí)踐，并經(jīng)過權(quán)威證實(shí)的，絕對(duì)確定的必然真理。[25]相較于信息，知識(shí)需要滿足“能夠被證實(shí)”這一條件。知識(shí)的生產(chǎn)需建立在反復(fù)驗(yàn)證的基礎(chǔ)之上，遵守公認(rèn)的科學(xué)性規(guī)范。

傳統(tǒng)知識(shí)生產(chǎn)秩序下，學(xué)者需要基于大量經(jīng)驗(yàn)事實(shí)，在既有知識(shí)基礎(chǔ)上結(jié)合新的現(xiàn)實(shí)情況，進(jìn)行進(jìn)一步的知識(shí)總結(jié)和創(chuàng)造，并提出有說服力的結(jié)論。[26]而AIGC技術(shù)卻采用基于概率規(guī)則的語言生成模式，省略了學(xué)者的邏輯思辨過程。然而概率并不能與正確性、準(zhǔn)確性等量齊觀。實(shí)踐表明，AIGC生成內(nèi)容中極易出現(xiàn)虛構(gòu)參考文獻(xiàn)、編造不實(shí)信息、夾帶性別或種族歧視的觀點(diǎn)等違背科學(xué)性規(guī)范的內(nèi)容。因此，AIGC技術(shù)所生成的內(nèi)容還不能夠經(jīng)得起“證實(shí)”，暫且只能被稱為“信息集合”。當(dāng)AIGC技術(shù)介入知識(shí)生產(chǎn)后，知識(shí)生產(chǎn)者極易被AIGC技術(shù)高超的表述水平所迷惑，產(chǎn)生惰性，放棄對(duì)內(nèi)容價(jià)值的鑒別，從而放任違背科學(xué)性規(guī)范的信息進(jìn)入知識(shí)領(lǐng)域，對(duì)人類的知識(shí)大廈造成侵蝕。

（5）創(chuàng)新性規(guī)范的挑戰(zhàn)。知識(shí)生產(chǎn)常被定義為知識(shí)的增進(jìn)，也就是新知識(shí)的生產(chǎn)，[27]或原創(chuàng)性知識(shí)的生產(chǎn)等。[28]從概念表述可以看出，知識(shí)生產(chǎn)的結(jié)果就是要產(chǎn)出“新”的知識(shí)。由此能夠推斷，知識(shí)生產(chǎn)的結(jié)果必須達(dá)到創(chuàng)新性目標(biāo)，即知識(shí)生產(chǎn)須遵循創(chuàng)新性規(guī)范。

不同于知識(shí)生產(chǎn)的傳統(tǒng)模式，AIGC技術(shù)的內(nèi)容生成方式是對(duì)既有知識(shí)進(jìn)行重組和表述，并沒有結(jié)合知識(shí)基礎(chǔ)和實(shí)際經(jīng)驗(yàn)展開思考和深度研究的過程，[29]因而也不會(huì)出現(xiàn)既有知識(shí)之外的新內(nèi)容。加之在概率規(guī)則下，AIGC也只能表現(xiàn)出“常人化”的知識(shí)水平，[30]甚至無法在內(nèi)容新穎度上有所提升，因此也更談不上創(chuàng)新。此外，知識(shí)創(chuàng)新所需的創(chuàng)意和靈感主要基于人類的觀察思考，并產(chǎn)生于人類的大腦。智能機(jī)器雖已可以作為人類身體的延伸，但對(duì)人類感知的復(fù)制能力極其有限。加之欲望作為知識(shí)創(chuàng)新的根本驅(qū)動(dòng)力也為人類所獨(dú)有，因而知識(shí)創(chuàng)新還需人類充分發(fā)揮自身的能動(dòng)性。但AIGC技術(shù)介入知識(shí)生產(chǎn)后展現(xiàn)出的便捷性和易用性，反而會(huì)消解人類的知識(shí)創(chuàng)造動(dòng)力，由此進(jìn)一步導(dǎo)致AIGC過度參與知識(shí)生產(chǎn)制造知識(shí)創(chuàng)新的假象，對(duì)知識(shí)生產(chǎn)的創(chuàng)新性規(guī)范帶來挑戰(zhàn)。

二、AIGC出版背景下知識(shí)生產(chǎn)的合規(guī)化困境及其結(jié)構(gòu)化成因

目前，國內(nèi)外出版機(jī)構(gòu)都已意識(shí)到AIGC技術(shù)應(yīng)用后，所引發(fā)的知識(shí)生產(chǎn)合規(guī)化問題的嚴(yán)峻性，相繼發(fā)布了作者合理使用AIGC技術(shù)的政策，總體上呈現(xiàn)保守性和穩(wěn)妥性的傾向。[31]雖然不禁止作者在知識(shí)生產(chǎn)過程中使用AIGC技術(shù)，但基本上都反對(duì)AIGC擁有署名權(quán)，拒絕完全由AIGC生成的文本，并要求作者說明AIGC工具的使用情況。然而在實(shí)際執(zhí)行過程中，出版機(jī)構(gòu)卻缺乏有效措施，以發(fā)現(xiàn)和規(guī)制技術(shù)濫用的行為，無法明確知識(shí)生產(chǎn)過程中是否存在違規(guī)行為，以及知識(shí)成果中是否隱含AIGC生成的不當(dāng)內(nèi)容，從而引發(fā)了出版機(jī)構(gòu)意欲規(guī)制卻不具備規(guī)制能力的知識(shí)生產(chǎn)合規(guī)化問題治理困境，即便作者濫用AIGC技術(shù)，也無法被出版機(jī)構(gòu)及時(shí)發(fā)現(xiàn)和懲處。這一困境的成因主要來自標(biāo)準(zhǔn)、制度和技術(shù)三個(gè)層面。

1. 標(biāo)準(zhǔn)層面：知識(shí)生產(chǎn)合規(guī)性判斷標(biāo)準(zhǔn)的缺失

在一項(xiàng)新技術(shù)發(fā)展的早期階段，人類對(duì)該技術(shù)的特質(zhì)以及其與社會(huì)關(guān)系的認(rèn)識(shí)尚處于穩(wěn)定狀區(qū)間，技術(shù)所伴生的問題往往還處于人類社會(huì)秩序的框架之內(nèi)，容易得到有效控制。但在這一時(shí)期，人類能掌握的關(guān)于技術(shù)特質(zhì)、技術(shù)發(fā)展方向和應(yīng)用風(fēng)險(xiǎn)的信息是極其有限的，加之技術(shù)發(fā)展的不確定性以及技術(shù)與社會(huì)的復(fù)雜互動(dòng)關(guān)系也使得技術(shù)發(fā)展的后續(xù)常常超出人類的認(rèn)識(shí)能力。[32]正如人類當(dāng)初為“微軟小冰”作詩而感到新奇和期待時(shí)，萬萬沒想到AIGC參與知識(shí)生產(chǎn)的時(shí)代這么快就到來了，且引發(fā)了如此復(fù)雜的秩序問題。人類無法提前預(yù)知AIGC技術(shù)應(yīng)用于知識(shí)生產(chǎn)領(lǐng)域所引發(fā)的合規(guī)性問題，自然也不能預(yù)先完善知識(shí)生產(chǎn)規(guī)范細(xì)則并制定對(duì)違規(guī)行為進(jìn)行判定的標(biāo)準(zhǔn)。 因此，AIGC參與下的知識(shí)生產(chǎn)必然面臨“科林格里奇困境”，即當(dāng)AIGC技術(shù)對(duì)知識(shí)生產(chǎn)的影響成為已知時(shí)，原本的違規(guī)判斷標(biāo)準(zhǔn)已經(jīng)不再適用，對(duì)技術(shù)的控制能力將變得極其有限。[33]

如今，AIGC參與下的知識(shí)生產(chǎn)模式已然經(jīng)歷了一段時(shí)間的實(shí)踐并顯現(xiàn)出了諸多合規(guī)性問題。違反知識(shí)生產(chǎn)規(guī)范的新型行為表征逐漸涌現(xiàn)，例如出現(xiàn)了新的剽竊手段、侵犯知識(shí)產(chǎn)權(quán)的行為等。然而，這些表征下的本質(zhì)尚未能梳理清楚并與知識(shí)生產(chǎn)規(guī)范一一對(duì)應(yīng)，也沒有形成新的知識(shí)生產(chǎn)合規(guī)性判定標(biāo)準(zhǔn)，導(dǎo)致當(dāng)前依然在使用原來的規(guī)范標(biāo)準(zhǔn)診斷新的知識(shí)生產(chǎn)合規(guī)性問題，更遑論知識(shí)生產(chǎn)行為的自制與監(jiān)督。

2. 制度層面：知識(shí)生產(chǎn)把關(guān)制度與現(xiàn)實(shí)需要間的失調(diào)

如何才能避免發(fā)生AIGC技術(shù)參與下的知識(shí)生產(chǎn)違規(guī)行為？答案是要形成對(duì)知識(shí)生產(chǎn)行為的有效制約。對(duì)主體行為的制約包括內(nèi)在制約和外部制約。內(nèi)在制約就是個(gè)人的“德性”，是規(guī)范內(nèi)化于認(rèn)知而形成的對(duì)自我行為的控制能力。外部制約是指法律、制度等外在的控制力量，通常由特定的人員或機(jī)構(gòu)依據(jù)明確的標(biāo)準(zhǔn)和程序來實(shí)施控制。[34]雖然內(nèi)在規(guī)制因能使人形成“自覺”而具有優(yōu)越性，但絕大多數(shù)人并不具備足以控制個(gè)人行為的“德性”，仍然需要外部力量對(duì)其行為進(jìn)行規(guī)制。而另一小部分人擁有的“德性”也是在外部規(guī)制力量的基礎(chǔ)上形成的，且這部分人也不能保證在沒有監(jiān)督和規(guī)制的情況下時(shí)刻保持自覺。也就是說，即便明確的知識(shí)生產(chǎn)規(guī)范已經(jīng)存在，也并不是所有的知識(shí)生產(chǎn)者都能將其內(nèi)化為時(shí)刻警醒的自我規(guī)制力量，仍然需要外部制約手段規(guī)制其利用AIGC技術(shù)開展知識(shí)生產(chǎn)活動(dòng)的行為。

對(duì)于AIGC技術(shù)參與下的知識(shí)生產(chǎn)合規(guī)化問題來說，外部規(guī)制手段主要是通過知識(shí)把關(guān)制度識(shí)別違規(guī)行為，進(jìn)而做出后續(xù)處置。當(dāng)前的知識(shí)把關(guān)主要依靠執(zhí)行審稿制度，即由期刊編輯主導(dǎo)，同行專家參與，結(jié)合查重等技術(shù)工具，對(duì)知識(shí)成果的規(guī)范性進(jìn)行審查。由于審稿主體的知識(shí)范圍以及問題識(shí)別能力和手段的局限，現(xiàn)行審稿模式并不能有效識(shí)別AIGC技術(shù)參與知識(shí)生產(chǎn)導(dǎo)致的隱性抄襲、侵權(quán)等行為，也無法有效判別署名作者與AI機(jī)器的貢獻(xiàn)比例，甚至無法準(zhǔn)確分辨看似合理的有誤信息。因此，現(xiàn)行的知識(shí)把關(guān)制度已不能有效發(fā)現(xiàn)AIGC參與下的知識(shí)生產(chǎn)合規(guī)化問題，無法為違規(guī)行為的懲處提供依據(jù)，使得部分知識(shí)生產(chǎn)者的技術(shù)濫用行為更加無所忌憚。

3. 技術(shù)層面：科技理性的膨脹與價(jià)值理性的缺位

科技的發(fā)展和應(yīng)用向來具有復(fù)雜性。馬克斯·韋伯?dāng)嘌?，近代文明的一切成就和問題都是源自價(jià)值理性和工具理性的沖突。[35]AIGC技術(shù)應(yīng)用于知識(shí)生產(chǎn)所顯現(xiàn)出的合規(guī)化問題不過是作為工具理性范疇的科技理性與價(jià)值理性的關(guān)系的失調(diào)。

科技理性和價(jià)值理性分別處于理性天平的兩端?？萍祭硇灾鲝堄每茖W(xué)解決一切問題，強(qiáng)調(diào)目的至上，關(guān)注結(jié)果和效益的最大化；而價(jià)值理性強(qiáng)調(diào)價(jià)值觀至上，關(guān)注世界“善”與“美”的追求。在科技極大地提高生產(chǎn)力的同時(shí)，人們也往往陷入目的至上、效率至上的泥潭，急切渴望享用技術(shù)進(jìn)步帶來的回報(bào)而忽視了技術(shù)同樣會(huì)帶來的價(jià)值漠視和倫理危機(jī)。AIGC等人工智能技術(shù)是非常符合目的性需求的載體，能夠作為知識(shí)生產(chǎn)的有效手段達(dá)到效率、功利的最大化。[36]AIGC技術(shù)雖然能夠有效提升知識(shí)生產(chǎn)的效率，但非人性化的技術(shù)本質(zhì)決定了它無法關(guān)照更為復(fù)雜的價(jià)值理性，因而產(chǎn)生一系列違背知識(shí)生產(chǎn)規(guī)范的問題。AIGC技術(shù)的技術(shù)理性愈發(fā)強(qiáng)大，對(duì)價(jià)值理性的沖擊也會(huì)愈發(fā)猛烈。正如AIGC技術(shù)的組織和表達(dá)能力越完善，知識(shí)生產(chǎn)過程中所包含的偽造、剽竊、侵犯知識(shí)產(chǎn)權(quán)等問題就越隱蔽，知識(shí)生產(chǎn)合規(guī)化困境就越難化解。

在人類實(shí)踐活動(dòng)中，科技理性和價(jià)值理性理應(yīng)是融合統(tǒng)一的?？萍祭硇孕枰粌r(jià)值理性約束和引導(dǎo)以保障科技的向“真”向“善”走向；價(jià)值理性也需要科技理性作為基礎(chǔ)，來解決“如何做”的實(shí)際問題。[37]目前可應(yīng)用的知識(shí)生產(chǎn)合規(guī)性控制手段僅限于已開發(fā)的AI Text Classifier、DetectGPT等AIGC生成內(nèi)容檢測(cè)工具。而技術(shù)治理手段只能提供科技理性的基礎(chǔ)，并不能完全保障價(jià)值理性。“以技治技”只會(huì)是一場(chǎng)人類滯后輸入價(jià)值觀的“技術(shù)追逐游戲”，永遠(yuǎn)無法及時(shí)應(yīng)對(duì)AIGC參與知識(shí)生產(chǎn)所涌現(xiàn)出的新的違規(guī)形式。

三、AIGC出版背景下知識(shí)生產(chǎn)合規(guī)化困境的調(diào)適思路

鑒于AIGC出版背景下知識(shí)生產(chǎn)合規(guī)化困境成因的復(fù)雜性，本文認(rèn)為應(yīng)當(dāng)抓住一個(gè)關(guān)鍵突破點(diǎn)，圍繞這一核心構(gòu)建體系化的困境應(yīng)對(duì)方案。由此提出知識(shí)生產(chǎn)合規(guī)化困境的調(diào)適思路：以構(gòu)建知識(shí)核驗(yàn)機(jī)制為核心策略，配套制定明確的規(guī)范標(biāo)準(zhǔn)，多主體全流程搭建知識(shí)核驗(yàn)功能結(jié)構(gòu)，形成多手段融合的作用體系。

1. 核心策略：知識(shí)核驗(yàn)重塑知識(shí)生產(chǎn)把關(guān)制度

要突破AIGC參與下的知識(shí)生產(chǎn)合規(guī)化困境，難點(diǎn)有二，其一是知識(shí)生產(chǎn)成果的質(zhì)量把關(guān)難，其二是機(jī)器與人的參與貢獻(xiàn)剝離難。面對(duì)這兩項(xiàng)難題，僅依靠知識(shí)生產(chǎn)主體的自我控制遠(yuǎn)遠(yuǎn)不夠，歸根到底還是要重建嚴(yán)格的知識(shí)把關(guān)制度，即構(gòu)建把控知識(shí)成果水準(zhǔn)、還原知識(shí)生產(chǎn)過程的知識(shí)核驗(yàn)機(jī)制，以起到促使知識(shí)生產(chǎn)主體自我約束、確保知識(shí)生產(chǎn)符合規(guī)范、維護(hù)知識(shí)生產(chǎn)秩序的作用。

筆者認(rèn)為，知識(shí)核驗(yàn)是指在統(tǒng)一的知識(shí)生產(chǎn)規(guī)范和違規(guī)行為判別標(biāo)準(zhǔn)的指導(dǎo)下，由多方主體共同參與，多個(gè)環(huán)節(jié)共同作用，對(duì)知識(shí)生產(chǎn)的過程進(jìn)行核實(shí)，對(duì)知識(shí)成果的質(zhì)量展開檢驗(yàn)，從而識(shí)別和判定知識(shí)生產(chǎn)成果中的違規(guī)內(nèi)容以及生產(chǎn)過程中的違規(guī)行為的系統(tǒng)化知識(shí)把關(guān)體系。

現(xiàn)行的事實(shí)核查機(jī)制和審稿制度雖然也都致力于內(nèi)容治理，但與知識(shí)核驗(yàn)存在本質(zhì)上的區(qū)別。事實(shí)核查機(jī)制以甄別危害社會(huì)秩序和公共利益的虛假信息為目標(biāo)，以非法的目的、惡意的主觀性為執(zhí)行標(biāo)準(zhǔn)，[38]只在信息生成結(jié)果層面分辨對(duì)錯(cuò)，并不關(guān)注信息生產(chǎn)過程。現(xiàn)行審稿機(jī)制雖然默認(rèn)知識(shí)生產(chǎn)的結(jié)果規(guī)范和過程規(guī)范同樣重要，但由于傳統(tǒng)知識(shí)生產(chǎn)模式下，人類作者之間存在的合作與制約關(guān)系使得知識(shí)生產(chǎn)過程相對(duì)透明，因而現(xiàn)行審稿模式在實(shí)踐中還是側(cè)重于對(duì)知識(shí)成果質(zhì)量的把控。而知識(shí)核驗(yàn)機(jī)制則要執(zhí)行更為嚴(yán)格的知識(shí)把關(guān)標(biāo)準(zhǔn)，不論是否存在知識(shí)生產(chǎn)主體的主觀違規(guī)意愿，都要將一切不符合知識(shí)生產(chǎn)規(guī)范的內(nèi)容視為治理對(duì)象，并且要追蹤和還原知識(shí)生產(chǎn)過程，核查人類與AI的分工貢獻(xiàn)等問題。因此，知識(shí)核驗(yàn)機(jī)制在把控知識(shí)成果質(zhì)量、核實(shí)知識(shí)生產(chǎn)過程規(guī)范方面的功能是事實(shí)核查機(jī)制和現(xiàn)行審稿制度無法替代的。

2. 實(shí)施前提：制定規(guī)范標(biāo)準(zhǔn)提供知識(shí)核驗(yàn)工作依據(jù)

發(fā)現(xiàn)和治理AIGC技術(shù)參與下的知識(shí)生產(chǎn)合規(guī)化問題需先考慮兩個(gè)問題：哪些行為是違反知識(shí)生產(chǎn)規(guī)范的行為？如何判定一個(gè)行為違反了知識(shí)生產(chǎn)規(guī)范？也就是說，明確的知識(shí)生產(chǎn)規(guī)范和違規(guī)行為判定標(biāo)準(zhǔn)是識(shí)別與治理知識(shí)生產(chǎn)合規(guī)化問題的前提，同時(shí)也是知識(shí)核驗(yàn)必需的工作依據(jù)。如前文所述，在AIGC技術(shù)誕生之初，人們無法預(yù)測(cè)這項(xiàng)技術(shù)進(jìn)入知識(shí)生產(chǎn)領(lǐng)域后會(huì)引發(fā)什么問題，更不具備預(yù)先制定行為規(guī)范的條件。而如今，隨著AIGC技術(shù)在知識(shí)生產(chǎn)領(lǐng)域的應(yīng)用實(shí)踐初具規(guī)模，并顯現(xiàn)出明確的合規(guī)化問題，人類已經(jīng)基本掌握了這一階段的技術(shù)應(yīng)用規(guī)律和風(fēng)險(xiǎn)機(jī)理，制定AIGC參與下的知識(shí)生產(chǎn)行為規(guī)范和違規(guī)行為判定標(biāo)準(zhǔn)的時(shí)機(jī)已然成熟。

規(guī)范標(biāo)準(zhǔn)的制定可從三個(gè)方面著手。首先，要解決AIGC技術(shù)在知識(shí)生產(chǎn)中參與界限的問題。需從倫理、道德、學(xué)術(shù)規(guī)范等角度出發(fā)，明確知識(shí)生產(chǎn)的哪些環(huán)節(jié)鼓勵(lì)A(yù)IGC技術(shù)參與，哪些環(huán)節(jié)禁止AIGC技術(shù)涉足，在可參與的知識(shí)生產(chǎn)環(huán)節(jié)中AIGC技術(shù)的合理參與程度又如何界定。其次，要補(bǔ)充更新學(xué)術(shù)規(guī)范的具體內(nèi)容?，F(xiàn)有的面向傳統(tǒng)知識(shí)生產(chǎn)模式的學(xué)術(shù)規(guī)范框架仍然具有高度的概括性和穩(wěn)定性，不過，要在詳細(xì)規(guī)定和表述上進(jìn)行調(diào)整，如將AIGC技術(shù)參與后的新型剽竊、代寫等行為表征囊括在規(guī)范細(xì)則之內(nèi)，并對(duì)相關(guān)概念意涵進(jìn)行完善和闡釋，使規(guī)范文本更適用于AIGC參與下的知識(shí)生產(chǎn)實(shí)踐。最后，要制定違規(guī)行為的判別標(biāo)準(zhǔn)，即為違規(guī)行為劃定需要承擔(dān)責(zé)任的尺度和界限。例如，在傳統(tǒng)知識(shí)生產(chǎn)模式下，超過規(guī)定文字復(fù)制比的論文會(huì)被認(rèn)定為涉嫌抄襲。在AIGC參與知識(shí)生產(chǎn)的時(shí)代，也需制定具有可操作性的違規(guī)行為判定標(biāo)準(zhǔn)，作為知識(shí)把關(guān)和責(zé)任追究的依據(jù)。

3. 實(shí)現(xiàn)方式：多主體全流程架構(gòu)知識(shí)核驗(yàn)功能結(jié)構(gòu)

人類行為的外在制約力量可以分為集中和分散兩種模式。集中制約是指對(duì)行為的制約力量是由少數(shù)幾個(gè)人或組織發(fā)出的。由于涉及的參與主體少，更易達(dá)成統(tǒng)一的制約目標(biāo)，執(zhí)行清晰的管理流程，因而集中制約模式能夠?qū)θ说男袨樾纬捎行У谋O(jiān)督和控制，但這種模式也要求制約力量的主體掌握足夠的信息。[34]傳統(tǒng)的審稿模式就屬于集中型的外在制約模式，在傳統(tǒng)知識(shí)生產(chǎn)階段起到了很好的知識(shí)把關(guān)作用。而AIGC技術(shù)參與知識(shí)生產(chǎn)后，合規(guī)化問題的復(fù)雜程度已然超出了編輯和審稿專家的信息掌握程度，例如編輯無從得知知識(shí)生產(chǎn)過程中AI機(jī)器參與的實(shí)際情況，致使傳統(tǒng)審稿模式在面對(duì)AIGC技術(shù)參與下的知識(shí)生產(chǎn)合規(guī)化問題時(shí)，顯得無能為力。

分散型的制約模式則是由多個(gè)力量中心發(fā)揮制約作用，可以集中多人或多方組織所掌握的信息和手段，從而形成多樣化、全面性的能力結(jié)構(gòu)，能夠在面對(duì)復(fù)雜問題時(shí)創(chuàng)造更多的應(yīng)對(duì)機(jī)會(huì)和施策條件。因此，知識(shí)核驗(yàn)可采用多元主體協(xié)同的工作模式，根據(jù)不同主體的差異化優(yōu)勢(shì)和能力范圍構(gòu)造多個(gè)核驗(yàn)中心，將知識(shí)生產(chǎn)合規(guī)化問題的發(fā)現(xiàn)和規(guī)制任務(wù)劃分為若干功能領(lǐng)域，并貫穿和連接知識(shí)成果流轉(zhuǎn)的各個(gè)階段，最終形成多主體緊密協(xié)同、全流程共同作用的知識(shí)核驗(yàn)工作模式，滿足AIGC技術(shù)參與下的知識(shí)生產(chǎn)合規(guī)化問題的治理需要。

4. 作用手段：多手段融合組建知識(shí)核驗(yàn)作用體系

AIGC技術(shù)參與下的知識(shí)生產(chǎn)合規(guī)化困境的形成原因復(fù)雜、涉及主體眾多，需要組建綜合性的作用體系，總覽不同領(lǐng)域的思路和方法，發(fā)揮不同手段間的互補(bǔ)優(yōu)勢(shì)，軟硬兼施、內(nèi)外并舉地達(dá)到發(fā)現(xiàn)問題、判定性質(zhì)、追究責(zé)任、約束行為的目的。

首先，采用“法律—規(guī)范—道德”式的層級(jí)化約束手段。將AIGC技術(shù)參與知識(shí)生產(chǎn)引發(fā)的權(quán)利、義務(wù)和責(zé)任問題納入法律約束范圍，對(duì)相關(guān)法律條款進(jìn)行修改和補(bǔ)充，作為知識(shí)生產(chǎn)行為的硬性約束手段；從規(guī)范層面規(guī)定AIGC參與下的知識(shí)生產(chǎn)行為的合規(guī)化標(biāo)準(zhǔn)，作為知識(shí)生產(chǎn)者行為選擇的標(biāo)尺和界限；在倫理道德層面明確知識(shí)生產(chǎn)應(yīng)當(dāng)遵循的價(jià)值觀和道德標(biāo)準(zhǔn)，作為知識(shí)生產(chǎn)者內(nèi)化于心的價(jià)值判斷依據(jù)。與之相對(duì)應(yīng)，知識(shí)生產(chǎn)者在做出違規(guī)行為時(shí)，也要承擔(dān)來自法律層面的處罰、來自規(guī)范層面的名譽(yù)或聲望損失以及來自道德層面的譴責(zé)，[39]由此對(duì)AIGC技術(shù)參與下的知識(shí)生產(chǎn)行為起到警戒和約束作用。

其次，實(shí)施“自查—審查—監(jiān)督”式的多步驟核驗(yàn)手段。由知識(shí)生產(chǎn)者對(duì)知識(shí)成果的質(zhì)量和生產(chǎn)過程的合規(guī)性進(jìn)行自查糾正；由專門化的知識(shí)審核群體對(duì)知識(shí)生產(chǎn)的結(jié)果和過程的合規(guī)性進(jìn)行審查，過濾存在違規(guī)情節(jié)的知識(shí)成果；在知識(shí)成果公開發(fā)表和傳播后，由讀者大眾繼續(xù)對(duì)其合規(guī)化問題進(jìn)行監(jiān)督和反饋。

最后，采取“人機(jī)協(xié)同”式的核驗(yàn)手段。一方面，繼續(xù)開發(fā)、優(yōu)化并利用AIGC生成內(nèi)容識(shí)別技術(shù)，輔助開展人類與AI知識(shí)貢獻(xiàn)的分離工作，也幫助和提示人工核驗(yàn)環(huán)節(jié)，著重驗(yàn)證AIGC生成部分內(nèi)容的科學(xué)性；另一方面，使人類在價(jià)值判斷和規(guī)范方面的經(jīng)驗(yàn)及優(yōu)勢(shì)與智能識(shí)別技術(shù)形成互補(bǔ)，保障知識(shí)核驗(yàn)的效果，并由人類制定、執(zhí)行并及時(shí)調(diào)整知識(shí)核驗(yàn)的具體工作流程，在知識(shí)生產(chǎn)和傳播的各個(gè)階段起到有效的規(guī)范控制作用。

四、AIGC出版背景下知識(shí)核驗(yàn)機(jī)制的構(gòu)建方案設(shè)計(jì)

遵循AIGC出版背景下知識(shí)生產(chǎn)合規(guī)化困境的調(diào)適思路，本文進(jìn)一步搭建了知識(shí)核驗(yàn)機(jī)制的層級(jí)框架，構(gòu)建知識(shí)核驗(yàn)機(jī)制的運(yùn)作流程，并設(shè)計(jì)了知識(shí)核驗(yàn)機(jī)制的保障體系，為知識(shí)生產(chǎn)合規(guī)化問題的規(guī)制提供了明晰可行的方案參考。

1. 全要素整合搭建知識(shí)核驗(yàn)層級(jí)框架

AIGC出版背景下知識(shí)核驗(yàn)機(jī)制的整體框架包含準(zhǔn)則層、工具層、平臺(tái)層、主體層、功能層、任務(wù)層、目標(biāo)層7個(gè)層次（見圖1）。

準(zhǔn)則層是知識(shí)核驗(yàn)機(jī)制運(yùn)行所要遵循的基本原則，包括與知識(shí)生產(chǎn)相關(guān)的法律法規(guī)，適用于AIGC參與下的知識(shí)生產(chǎn)新情境的學(xué)術(shù)規(guī)范及倫理道德，以及更為細(xì)化的知識(shí)生產(chǎn)行為細(xì)則和違規(guī)行為判別標(biāo)準(zhǔn)。

工具層涵蓋知識(shí)核驗(yàn)機(jī)制運(yùn)行過程所需調(diào)用的技術(shù)或智力支持，包括區(qū)塊鏈、AIGC生成文本識(shí)別、自然語言處理、圖像識(shí)別等能夠記錄跟蹤知識(shí)生產(chǎn)和核驗(yàn)過程、有效提高核驗(yàn)效率的技術(shù)工具，以及感知力、判斷力、規(guī)范經(jīng)驗(yàn)、價(jià)值取向等來自人類的高階智力手段。

平臺(tái)層是知識(shí)核驗(yàn)機(jī)制賴以運(yùn)轉(zhuǎn)的軟硬件基礎(chǔ)，包含知識(shí)成果追蹤流轉(zhuǎn)平臺(tái)、開放同行評(píng)議平臺(tái)、期刊審核決策平臺(tái)、意見反饋收集平臺(tái)等。

主體層囊括了知識(shí)核驗(yàn)機(jī)制的核心參與者，涉及作者、出版機(jī)構(gòu)（尤其是負(fù)責(zé)知識(shí)成果出版的編輯）、同行專家、讀者（接觸或利用知識(shí)成果的公眾）等多方主體。

功能層則是知識(shí)核驗(yàn)機(jī)制所具有的核驗(yàn)功能集合，包括人與機(jī)器貢獻(xiàn)的分離、知識(shí)生產(chǎn)過程的還原和驗(yàn)證、知識(shí)生產(chǎn)成果質(zhì)量的檢驗(yàn)、違規(guī)行為的判定以及違規(guī)責(zé)任的明確等功能。

任務(wù)層體現(xiàn)的是知識(shí)核驗(yàn)機(jī)制需要達(dá)成的工作效果，一是對(duì)知識(shí)生產(chǎn)結(jié)果合規(guī)性的核驗(yàn)，二是對(duì)知識(shí)生產(chǎn)過程合規(guī)性的核驗(yàn)。

目標(biāo)層則是知識(shí)核驗(yàn)機(jī)制運(yùn)行的最終目的，即發(fā)現(xiàn)和規(guī)制AIGC技術(shù)參與下的知識(shí)生產(chǎn)合規(guī)化問題，從而維護(hù)知識(shí)生產(chǎn)秩序，保證知識(shí)生產(chǎn)質(zhì)量。

2. 多主體協(xié)作塑造知識(shí)核驗(yàn)運(yùn)作流程

AIGC出版背景下知識(shí)核驗(yàn)機(jī)制貫穿整個(gè)知識(shí)成果流轉(zhuǎn)過程，由多方主體協(xié)同參與、多個(gè)環(huán)節(jié)協(xié)同作用，核驗(yàn)和發(fā)現(xiàn)知識(shí)生產(chǎn)的過程和成果中的違規(guī)問題。核驗(yàn)結(jié)果可為追究知識(shí)生產(chǎn)違規(guī)責(zé)任提供依據(jù)，從而有效規(guī)制知識(shí)生產(chǎn)行為。具體核驗(yàn)流程如圖2所示。

在知識(shí)成果的創(chuàng)作生產(chǎn)階段，由作者負(fù)責(zé)踐行知識(shí)生產(chǎn)的規(guī)范條例，嚴(yán)格約束自身行為，對(duì)知識(shí)生產(chǎn)過程及成果的規(guī)范性進(jìn)行自查，從根源上避免違規(guī)問題的出現(xiàn)。在投稿時(shí)對(duì)使用過的AIGC產(chǎn)品版本、使用環(huán)節(jié)以及成果中由AIGC生成的部分進(jìn)行聲明，并對(duì)知識(shí)生產(chǎn)的合規(guī)性做出書面承諾。

在知識(shí)成果的審查評(píng)議階段，先由出版機(jī)構(gòu)的編輯對(duì)知識(shí)成果進(jìn)行初審，包括利用智能識(shí)別工具對(duì)成果中的AIGC生成內(nèi)容進(jìn)行辨別，與作者提供的AIGC使用聲明進(jìn)行比對(duì)，將不符合規(guī)范標(biāo)準(zhǔn)的成果篩除，并進(jìn)一步將通過初審的成果及其核驗(yàn)報(bào)告提交至同行評(píng)議環(huán)節(jié)。同行評(píng)議環(huán)節(jié)可結(jié)合開放同行評(píng)議等新型評(píng)議模式，吸納更多的同行專家參與成果評(píng)議，集中群體智慧充分識(shí)別AIGC技術(shù)參與生產(chǎn)的知識(shí)成果合規(guī)性問題。在這一環(huán)節(jié)，由同行專家群體從創(chuàng)新性、科學(xué)性等方面對(duì)知識(shí)成果的質(zhì)量進(jìn)行評(píng)判，并重點(diǎn)關(guān)注成果中由AIGC工具生成的部分的合規(guī)性。在開放評(píng)議環(huán)境下還可與作者及其他評(píng)議專家進(jìn)行意見交流，最終對(duì)知識(shí)成果的合規(guī)性形成評(píng)價(jià)意見并將其反饋至出版機(jī)構(gòu)。接著，由出版機(jī)構(gòu)綜合同行評(píng)議意見對(duì)知識(shí)成果進(jìn)行復(fù)審，從編輯角度對(duì)知識(shí)成果的合規(guī)性進(jìn)行再次審核，對(duì)達(dá)到規(guī)范標(biāo)準(zhǔn)的成果予以認(rèn)定，即做出出版決策。

在知識(shí)成果的傳播利用階段，讀者對(duì)成果的閱讀、復(fù)現(xiàn)和利用過程也是持續(xù)發(fā)現(xiàn)問題、監(jiān)督知識(shí)生產(chǎn)合規(guī)性的過程。讀者可在意見收集平臺(tái)將發(fā)現(xiàn)的違規(guī)問題及依據(jù)進(jìn)行反饋，并可以與作者進(jìn)行進(jìn)一步的交流探討。由于知識(shí)成果的傳播和利用是一個(gè)長期性過程，因而讀者對(duì)知識(shí)核驗(yàn)的參與有助于實(shí)現(xiàn)知識(shí)生產(chǎn)合規(guī)化問題終身負(fù)責(zé)制的落實(shí)。

3. 多角度配合建立知識(shí)核驗(yàn)保障體系

知識(shí)核驗(yàn)機(jī)制的構(gòu)建不僅意味著核驗(yàn)體系和工作流程的搭建，還需配合體系化的保障措施，從規(guī)范、制度、技術(shù)角度為知識(shí)核驗(yàn)機(jī)制的運(yùn)作提供必要條件。

在規(guī)范保障方面，政府部門需及時(shí)修改補(bǔ)充適用于AIGC技術(shù)時(shí)代的知識(shí)生產(chǎn)相關(guān)法律，并發(fā)布有關(guān)知識(shí)生產(chǎn)規(guī)范、違規(guī)行為懲處的相關(guān)規(guī)定、標(biāo)準(zhǔn)、通知等。由學(xué)術(shù)共同體聯(lián)合討論和更新AIGC出版背景下的學(xué)術(shù)規(guī)范具體內(nèi)容，形成明確、可執(zhí)行的規(guī)范文本。各高校、科研單位還應(yīng)建設(shè)AIGC技術(shù)應(yīng)用背景下的學(xué)術(shù)規(guī)范教育體系，通過教育、宣傳、引導(dǎo)的手段樹立知識(shí)生產(chǎn)者的規(guī)范意識(shí)，提高其內(nèi)在修養(yǎng)，加強(qiáng)對(duì)知識(shí)生產(chǎn)行為的自律，并落實(shí)對(duì)違規(guī)行為的責(zé)任追究。此外，應(yīng)考慮建立跨學(xué)科專家委員會(huì)，負(fù)責(zé)監(jiān)督和評(píng)估AIGC技術(shù)應(yīng)用，確保其符合科研倫理和相關(guān)法律規(guī)定。[40]還應(yīng)鼓勵(lì)學(xué)術(shù)界和產(chǎn)業(yè)界共同開發(fā)AIGC技術(shù)的最佳實(shí)踐指南，為知識(shí)生產(chǎn)者提供清晰的合規(guī)使用方案。

在制度保障方面，首先，考慮到知識(shí)核驗(yàn)的多方參與主體之間存在的社會(huì)合作關(guān)系，可能會(huì)因?yàn)槟承┲黧w的搭便車行為而逐漸衰退的情況，[41]因而有必要建立維持保障主體協(xié)作關(guān)系的激勵(lì)約束制度。一方面要樹立共享價(jià)值觀念從而形成價(jià)值約束，將維護(hù)知識(shí)生產(chǎn)合規(guī)性作為這些參與知識(shí)生產(chǎn)、傳播、利用的主體的共識(shí)，并明確各方角色和責(zé)任，使其積極參與協(xié)作。另一方面則要設(shè)置利益激勵(lì)和約束措施，如將評(píng)議參與度及評(píng)議水平與名譽(yù)聲望掛鉤，將評(píng)議結(jié)果量化并進(jìn)行群體意見偏離度測(cè)量等，充分調(diào)動(dòng)同行專家及讀者的參與并保障其評(píng)議和監(jiān)督質(zhì)量。其次，要確立追責(zé)制度，明確AIGC出版背景下的知識(shí)生產(chǎn)違規(guī)行為的責(zé)任歸屬、問責(zé)流程及追責(zé)手段。將知識(shí)生產(chǎn)違規(guī)行為與責(zé)任主體的切身利益相掛鉤，使知識(shí)核驗(yàn)的作用能夠落到實(shí)處，起到警醒和制約作用。再次，設(shè)立獨(dú)立的第三方監(jiān)督機(jī)構(gòu)，負(fù)責(zé)監(jiān)督知識(shí)核驗(yàn)的過程和結(jié)果，確保其公正透明。同時(shí)建立知識(shí)核驗(yàn)反饋機(jī)制，鼓勵(lì)公眾參與反饋，允許公眾運(yùn)用獨(dú)立的認(rèn)知和批判能力，[42]對(duì)核驗(yàn)結(jié)果提出質(zhì)疑，以提高核驗(yàn)的準(zhǔn)確性和可靠性。

在技術(shù)保障方面，一方面，AIGC工具開發(fā)者應(yīng)當(dāng)履行透明度義務(wù)，以通俗有效的方式公開算法邏輯及數(shù)據(jù)來源，以便作者在技術(shù)應(yīng)用過程中合理衡量使用行為和生成內(nèi)容的規(guī)范性，同時(shí)也方便其他核驗(yàn)主體根據(jù)技術(shù)風(fēng)險(xiǎn)明確核驗(yàn)重點(diǎn)。另一方面，政府部門、出版機(jī)構(gòu)、技術(shù)企業(yè)應(yīng)當(dāng)聯(lián)合推進(jìn)區(qū)塊鏈、AIGC內(nèi)容識(shí)別等先進(jìn)技術(shù)的研發(fā)和應(yīng)用，并積極開發(fā)部署各個(gè)工作平臺(tái)，為知識(shí)核驗(yàn)提供有效的技術(shù)手段，創(chuàng)造有利的技術(shù)環(huán)境?？商剿鹘㈤_放的知識(shí)核驗(yàn)平臺(tái)，允許不同的核驗(yàn)主體共享數(shù)據(jù)和算法，以提高核驗(yàn)的效率和準(zhǔn)確性。此外，注重知識(shí)核驗(yàn)體系的持續(xù)更新與迭代升級(jí)。隨著科技的快速發(fā)展，新的技術(shù)手段不斷涌現(xiàn)，應(yīng)當(dāng)緊跟時(shí)代步伐，及時(shí)將新技術(shù)引入知識(shí)核驗(yàn)體系和學(xué)術(shù)出版活動(dòng)，[43]確保其始終保持先進(jìn)性和有效性。

綜上，建立知識(shí)核驗(yàn)保障體系需要從規(guī)范、制度和技術(shù)三個(gè)維度系統(tǒng)發(fā)力。通過明確知識(shí)生產(chǎn)規(guī)范、完善激勵(lì)約束機(jī)制、加強(qiáng)技術(shù)創(chuàng)新應(yīng)用，構(gòu)建高效、公正、可靠的知識(shí)核驗(yàn)體系。這一體系不僅有助于提升知識(shí)生產(chǎn)的質(zhì)量，也有利于推動(dòng)科研創(chuàng)新，為人類知識(shí)社會(huì)的可持續(xù)發(fā)展奠定堅(jiān)實(shí)基礎(chǔ)。

結(jié)語

AIGC技術(shù)不僅為知識(shí)領(lǐng)域帶來了生產(chǎn)力的變革，也引發(fā)了一場(chǎng)知識(shí)生產(chǎn)秩序的空前危機(jī)。在規(guī)制手段缺失的現(xiàn)實(shí)狀況下，知識(shí)生產(chǎn)違規(guī)行為肆意滋長，形成了AIGC出版背景下的知識(shí)生產(chǎn)合規(guī)化困境。作為知識(shí)領(lǐng)域的守門人，出版界在化解困境、維護(hù)規(guī)范、重建秩序方面責(zé)無旁貸。本文詳細(xì)梳理了AIGC技術(shù)應(yīng)用于知識(shí)生產(chǎn)可能引發(fā)的知識(shí)生產(chǎn)合規(guī)化問題，分析了這些問題未被有效規(guī)制以至于出現(xiàn)治理困境的原因。抓住要重塑知識(shí)把關(guān)制度從而有效發(fā)現(xiàn)問題、明確責(zé)任、制約行為這一關(guān)鍵突破點(diǎn)，提出以知識(shí)核驗(yàn)為核心的知識(shí)生產(chǎn)合規(guī)化困境調(diào)適思路，并據(jù)此設(shè)計(jì)了知識(shí)核驗(yàn)機(jī)制的構(gòu)建方案，為出版界有效應(yīng)對(duì)AIGC技術(shù)參與下的知識(shí)生產(chǎn)合規(guī)化問題提供了行動(dòng)指南。知識(shí)核驗(yàn)機(jī)制作為一套系統(tǒng)化的運(yùn)作體系，不僅意味著出版機(jī)構(gòu)工作模式的革新，更代表著多方主體在知識(shí)生產(chǎn)與傳播過程中的深度協(xié)同。這一機(jī)制全面滲透于知識(shí)生產(chǎn)的各個(gè)環(huán)節(jié)，對(duì)維護(hù)知識(shí)生產(chǎn)秩序具有至關(guān)重要的意義。未來的研究還需進(jìn)一步關(guān)注AIGC時(shí)代的知識(shí)生產(chǎn)規(guī)范細(xì)則、技術(shù)應(yīng)用邊界、違規(guī)判定標(biāo)準(zhǔn)的制定問題，探究知識(shí)核驗(yàn)機(jī)制運(yùn)行的動(dòng)力機(jī)制、主體協(xié)同機(jī)制，并探討詳細(xì)的出版審核創(chuàng)新模式以及改革行動(dòng)方案。

參考文獻(xiàn)：

[1] Cresto E. A Virtue Epistemology： Apt Belief and Reflective Knowledge[J]. Canadian Journal of Philosophy， 2010， 40（1）： 131-149.

[2] 殷杰，王曉森. 科學(xué)理解、知識(shí)規(guī)范與德性路徑[J]. 江漢論壇，2022（2）：12-17.

[3] 姜濤. 法律發(fā)展與法律知識(shí)化[J]. 法律科學(xué)（西北政法大學(xué)學(xué)報(bào)），2008（4）：11-22.

[4] 李洪修，劉笑. 數(shù)字化背景下高校智慧課堂建構(gòu)的技術(shù)之維[J]. 高校教育管理，2023，17（5）：81-89，124.

[5] 田海濱，韓東暉. 論知識(shí)的規(guī)范性困境及其出路[J]. 哲學(xué)動(dòng)態(tài)，2019（11）：100-106.

[6] 徐夢(mèng)秋. 規(guī)范通論[M]. 北京：商務(wù)印書館，2011：617.

[7] 陳志堅(jiān). 科學(xué)規(guī)范是科學(xué)進(jìn)步的另一翼——兼解“錢學(xué)森之問”[J]. 科技進(jìn)步與對(duì)策，2013，30（10）：21-25.

[8] 李春輝. 新的時(shí)代背景下學(xué)術(shù)寫作的內(nèi)在要求[J]. 社會(huì)科學(xué)動(dòng)態(tài)，2023（10）：113-116.

[9] 楊玉圣，張保生. 學(xué)術(shù)規(guī)范導(dǎo)論[M]. 北京：高等教育出版社，2004：337.

[10] 教育部科技發(fā)展中心. 在線發(fā)表科技論文的學(xué)術(shù)道德和行為規(guī)范[EB/OL].[2023-12-23].https：//www.edu.cn/rd/gai_kuang/zheng_ce_fa_gui/200603/t20060323_144244.shtml.

[11] 科學(xué)技術(shù)部科研誠信建設(shè)辦公室. 科研誠信知識(shí)讀本[M]. 北京：科學(xué)技術(shù)文獻(xiàn)出版社，2009：14-15.

[12] 高奇琦，嚴(yán)文鋒. 知識(shí)革命還是教育異化？ChatGPT與教育的未來[J]. 新疆師范大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2023，44（5）：102-112，2.

[13] 蔣雪穎，劉欣. 生成式人工智能技術(shù)下的學(xué)術(shù)生產(chǎn)與出版：變革、失范與路徑[J]. 數(shù)字圖書館論壇，2023，19（5）：64-71.

[14] 王坤. 論反剽竊的理論依據(jù)及其對(duì)制度建構(gòu)的影響[J]. 浙江學(xué)刊，2013（4）：136-142.

[15] 趙志彬. 中國知識(shí)產(chǎn)權(quán)文化的發(fā)展與展望[J]. 知識(shí)產(chǎn)權(quán)，2019（8）：28-37.

[16] 朱鴻軍，李辛揚(yáng). ChatGPT生成內(nèi)容的非版權(quán)性及著作權(quán)侵權(quán)風(fēng)險(xiǎn)[J]. 新聞?dòng)浾撸?023（6）：28-38.

[17] 葉繼元. 學(xué)術(shù)規(guī)范通論[M]. 第二版. 上海：華東師范大學(xué)出版社，2017：207-208.

[18] 熊琦. 人工智能生成內(nèi)容的著作權(quán)認(rèn)定[J]. 知識(shí)產(chǎn)權(quán)，2017（3）：3-8.

[19] 鄧建鵬，朱懌成. ChatGPT模型的法律風(fēng)險(xiǎn)及應(yīng)對(duì)之策[J]. 新疆師范大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2023，44（5）：91-101，2.

[20] 吳漢東，張平，張曉津. 人工智能對(duì)知識(shí)產(chǎn)權(quán)法律保護(hù)的挑戰(zhàn)[J]. 中國法律評(píng)論，2018（2）：1-24.

[21] 龍文懋. 人工智能法律主體地位的法哲學(xué)思考[J]. 法律科學(xué)（西北政法大學(xué)學(xué)報(bào)），2018，36（5）：24-31.

[22] 梁鵬. 人工智能產(chǎn)品侵權(quán)的責(zé)任承擔(dān)[J]. 中國青年社會(huì)科學(xué)，2018，37（4）：11-14.

[23] 金炳華. 哲學(xué)大辭典（上冊(cè)）[M]. 上海：上海辭書出版社，2007：23.

[24] 柏拉圖. 泰阿泰德 智術(shù)之師[M]. 嚴(yán)群，譯. 北京：商務(wù)印書館，1963：21.

[25] 杜華，顧小清. 人工智能時(shí)代的知識(shí)觀審思[J]. 中國遠(yuǎn)程教育，2022（10）：1-9，76.

[26] 高奇琦. 知識(shí)革命還是知識(shí)墮化——ChatGPT與知識(shí)生成秩序[J]. 中國社會(huì)科學(xué)評(píng)價(jià)，2023（2）：8-13.

[27] 杜月升. 論知識(shí)生產(chǎn)及其經(jīng)濟(jì)特征[J]. 深圳大學(xué)學(xué)報(bào)（人文社會(huì)科學(xué)版），1999（2）：46-51.

[28] 許崴. 試論知識(shí)生產(chǎn)的構(gòu)成要素與特點(diǎn)[J]. 南方經(jīng)濟(jì)，2005（12）：53-55.

[29] 段永杰，李彤. 數(shù)字出版中AIGC生成物的應(yīng)用場(chǎng)景及其倫理規(guī)制[J]. 出版科學(xué)，2023，31（6）：84-93.

[30] 喻國明，蘇芳，蔣宇樓. 解析生成式AI下的“涌現(xiàn)”現(xiàn)象——“新常人”傳播格局下的知識(shí)生產(chǎn)邏輯[J]. 新聞界，2023（10）：4-11，63.

[31] 宋時(shí)磊，楊逸云. 應(yīng)用場(chǎng)景、風(fēng)險(xiǎn)與前景：ChatGPT類大語言模型時(shí)代的學(xué)術(shù)出版[J]. 出版科學(xué)，2023，31（5）：76-84.

[32] 賈向桐，胡楊. 從技術(shù)控制的工具論到存在論視域的轉(zhuǎn)變——析科林格里奇困境及其解答路徑問題[J]. 科學(xué)與社會(huì)，2021，11（3）：26-39.

[33] Calvert， Jane. Governing in the Context of Uncertainty[J]. Hastings Center Report， 2014， 44（S5）： S31-3.

[34] 賈新奇. 從制約的角度來理解公民倫理[J]. 首都師范大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2008（4）：48-53.

[35] 周蘭珍，潘洪林. 科技理性與價(jià)值理性關(guān)系探析[J]. 江蘇社會(huì)科學(xué)，2007（6）：38-41.

[36] 陳昌鳳，石澤. 技術(shù)與價(jià)值的理性交往：人工智能時(shí)代信息傳播——算法推薦中工具理性與價(jià)值理性的思考[J]. 新聞戰(zhàn)線，2017（17）：71-74.

[37] 湯建龍. 科學(xué)發(fā)展觀：科技理性和價(jià)值理性的統(tǒng)一[J]. 理論導(dǎo)刊，2013（1）：62-65.

[38] 漆晨航. 生成式人工智能的虛假信息風(fēng)險(xiǎn)特征及其治理路徑[J/OL].情報(bào)理論與實(shí)踐，1-10[2023-12-14].http：//kns.cnki. net/kcms/detail/11.1762.G3.20231128.1005.002.html.

[39] 陳偉. 作為規(guī)范的技術(shù)標(biāo)準(zhǔn)及其與法律的關(guān)系[J]. 法學(xué)研究，2022，44（5）：84-100.

[40] 張洪忠，徐鴻晟. 智能傳播時(shí)代的范式轉(zhuǎn)變：媒介技術(shù)研究十大觀點(diǎn)（2023）[J]. 編輯之友，2024（1）：38-44.

[41] FEHR E， CACHTER S. Cooperation and punishment inpublic goods experiments [J]. American Economic Review， 2000， 90（4）： 980-994.

[42] 彭蘭. 智能生成內(nèi)容如何影響人的認(rèn)知與創(chuàng)造？[J]. 編輯之友，2023（11）：21-28.

[43] Thomas P N. 人工智能環(huán)境下的學(xué)術(shù)出版[J]. 圖書情報(bào)知識(shí)，2023（4）：6-9.

The Normalization of Knowledge Production in the Context of AIGC Publishing： Dilemma and Adaptation

WANG Peng-tao1，2（1.School of Information Management， Nanjing University， Nanjing 210023， China; 2.Publishing Convergence Development Strategy Institute， Nanjing University， Nanjing 210023， China）

Abstract： AIGC technology， with its powerful content generation capability， quickly permeated through the field of knowledge production and became a favorable tool for knowledge production while it also triggered a lot of normalization problems. The publishing industry has long been keenly aware of the seriousness of the problem， but due to the lack of ability to deal with it， it has been caught in the governance dilemma of knowledge production normalization problems. This paper has sorted out the participation of AIGC technology， which may violate the norms of independence， intellectual property， clear rights and responsibilities， science， and innovation of knowledge production. It has also analyzed the structural causes of the normalization dilemma of knowledge production， put forward the dilemma debugging ideas centered on the construction of the knowledge verification mechanism， and further designed the construction of the knowledge verification mechanism program to provide an effective reference for cracking the knowledge production normalization dilemma and maintaining the knowledge production order in the context of AIGC publishing.

Key words： AIGC; knowledge production; intelligent publishing; academic norm