摘要：歐盟委員會(huì)發(fā)布的《科研領(lǐng)域負(fù)責(zé)任使用生成式人工智能指南》針對(duì)研究人員、研究機(jī)構(gòu)及研究資助機(jī)構(gòu)等不同主體提出建議，為科研實(shí)踐提供明確的操作指導(dǎo)。該指南對(duì)我國(guó)生成式人工智能的科研應(yīng)用有較好的借鑒價(jià)值，因此本文提出以下啟示：應(yīng)盡快制訂適用于科學(xué)研究場(chǎng)景的專門規(guī)范或指南；強(qiáng)化科研數(shù)據(jù)保護(hù)機(jī)制，提升網(wǎng)絡(luò)安全水平；完善組織架構(gòu)，確保生成式人工智能應(yīng)用的有效監(jiān)管。

關(guān)鍵詞：生成式人工智能；科學(xué)研究；應(yīng)用規(guī)范；應(yīng)用指南

中圖分類號(hào)：G434 文獻(xiàn)標(biāo)識(shí)碼：A 論文編號(hào)：1674-2117（2024）23-0000-04

引言

生成式人工智能，作為一種顛覆性的技術(shù)，正在對(duì)經(jīng)濟(jì)社會(huì)的發(fā)展產(chǎn)生深遠(yuǎn)的影響。[1]它通過(guò)模擬人類的思維和創(chuàng)造力，能夠自動(dòng)生成新的信息、產(chǎn)品和服務(wù)，從而推動(dòng)經(jīng)濟(jì)社會(huì)的全面變革?？茖W(xué)研究是推動(dòng)經(jīng)濟(jì)社會(huì)發(fā)展的關(guān)鍵因素，它通過(guò)探索未知、創(chuàng)新技術(shù)、培養(yǎng)人才和促進(jìn)國(guó)際合作，為社會(huì)進(jìn)步提供動(dòng)力。高校作為科學(xué)研究的高地，不僅在學(xué)術(shù)領(lǐng)域具有重要地位，而且在推動(dòng)社會(huì)進(jìn)步和經(jīng)濟(jì)發(fā)展中也起著關(guān)鍵作用。因此，如何更加科學(xué)、規(guī)范地推動(dòng)生成式人工智能賦能高校科學(xué)研究是世界各國(guó)正面臨的一個(gè)重要的現(xiàn)實(shí)問(wèn)題。

為解決生成式人工智能為科學(xué)研究帶來(lái)的關(guān)鍵機(jī)遇和挑戰(zhàn)，2024年3月20日，歐盟委員會(huì)與歐洲研究區(qū)國(guó)家和利益相關(guān)者共同提出《科研領(lǐng)域負(fù)責(zé)任使用生成式人工智能指南》（Living Guidelines on the Responsible Use of Generative Ai in Research）（簡(jiǎn)稱《指南》），以指導(dǎo)歐洲研究界負(fù)責(zé)任地使用生成式人工智能。該指南為我國(guó)在人工智能賦能行動(dòng)中推動(dòng)生成式人工智能科學(xué)、規(guī)范賦能科學(xué)研究提供了重要參考。

《指南》的主要內(nèi)容

在具體內(nèi)容上，《指南》分別針對(duì)研究人員、研究機(jī)構(gòu)和研究資助機(jī)構(gòu)科學(xué)合理地使用生成式人工智能提出了建議。

1.對(duì)科學(xué)研究人員的建議

《指南》對(duì)科學(xué)研究人員主要提出以下六點(diǎn)建議：①科研人員對(duì)科研成果負(fù)最終責(zé)任?？蒲腥藛T需對(duì)由人工智能工具生成或在其支持下生成的內(nèi)容的完整性負(fù)責(zé)；對(duì)使用生成式人工智能所產(chǎn)生的結(jié)果應(yīng)保持批判的態(tài)度，并意識(shí)到這些工具的局限性，如偏差、幻覺(jué)和不準(zhǔn)確性；明確人工智能系統(tǒng)既不是作者，也不是共同作者；不能在科學(xué)研究過(guò)程中使用生成式人工智能創(chuàng)建的捏造材料，如偽造、篡改或操縱原始研究數(shù)據(jù)。②透明地使用生成式人工智能?？蒲腥藛T應(yīng)詳細(xì)說(shuō)明在研究過(guò)程中主要使用了哪些生成式人工智能工具；應(yīng)披露或討論所使用的生成式人工智能工具的局限性，包括生成內(nèi)容中可能存在的偏差，以及可能的緩解措施。③在與人工智能工具共享敏感或受保護(hù)信息時(shí)，要特別注意隱私、保密及知識(shí)產(chǎn)權(quán)相關(guān)的問(wèn)題?？蒲腥藛T應(yīng)保護(hù)未發(fā)表或敏感的作品，不要將其上傳到在線人工智能系統(tǒng)中，除非能保證這些數(shù)據(jù)不會(huì)被重復(fù)使用；不應(yīng)向在線生成式人工智能系統(tǒng)提供第三方的個(gè)人數(shù)據(jù)，除非得到數(shù)據(jù)主體（個(gè)人）的同意；應(yīng)了解有關(guān)隱私、保密和知識(shí)產(chǎn)權(quán)的技術(shù)和道德影響。④尊重適用的國(guó)家、歐盟和國(guó)際立法?？蒲腥藛T在使用生成式人工智能的輸出結(jié)果時(shí)，要避免剽竊的可能，尊重他人的著作權(quán)；有責(zé)任妥善處理生成式人工智能輸出的任何個(gè)人數(shù)據(jù)，并遵守歐盟數(shù)據(jù)保護(hù)規(guī)則。⑤不斷學(xué)習(xí)生成式人工智能工具的正確使用方法。生成式人工智能工具發(fā)展迅速，不斷有新的使用方法涌現(xiàn)，科研人員要及時(shí)了解最佳實(shí)踐，并與其他利益相關(guān)者分享。⑥避免在可能影響他人的敏感活動(dòng)中大量使用生成式人工智能工具。避免使用生成式人工智能工具，導(dǎo)致不公平待遇或潛在的評(píng)估風(fēng)險(xiǎn)；保護(hù)科研人員未發(fā)表的原創(chuàng)作品，使其免于暴露或被納入人工智能模型。

2.對(duì)科研機(jī)構(gòu)的建議

《指南》對(duì)科研機(jī)構(gòu)主要提出以下四點(diǎn)建議：①促進(jìn)、指導(dǎo)和支持研究人員在研究活動(dòng)中負(fù)責(zé)任地使用生成式人工智能工具。生成式人工智能工具的使用不僅涉及對(duì)技術(shù)能力的掌握，還涉及對(duì)相關(guān)倫理和法律要求的深刻理解?？蒲袡C(jī)構(gòu)應(yīng)提供和促進(jìn)關(guān)于使用生成式人工智能工具的培訓(xùn)，確保生成式人工智能工具的使用符合道德和法律要求。②監(jiān)督組織內(nèi)生成式人工智能系統(tǒng)的開(kāi)發(fā)和使用情況?？蒲袡C(jī)構(gòu)應(yīng)重視機(jī)構(gòu)內(nèi)使用生成式人工智能工具的研究活動(dòng)和流程，以便為生成式人工智能的使用提供進(jìn)一步指導(dǎo)，確定培訓(xùn)需求。同時(shí)，還應(yīng)分析生成式人工智能技術(shù)和工具的局限性，并向科研人員提供反饋和建議。③將生成式人工智能相關(guān)指南納入研究實(shí)踐和倫理的一般研究指南中?？蒲袡C(jī)構(gòu)可以生成式人工智能相關(guān)指南為基礎(chǔ)，制訂生成式人工智能的使用相關(guān)規(guī)定，并向科研人員和利益相關(guān)者征求意見(jiàn)；應(yīng)盡可能以生成式人工智能相關(guān)指南為指導(dǎo)。④在可能和必要的情況下，對(duì)生成式人工智能工具施行本地托管或基于云的管理。本地托管或云管理能夠防止數(shù)據(jù)泄露和未授權(quán)訪問(wèn)，這是保護(hù)敏感信息不被濫用的關(guān)鍵措施。這種管理策略不僅符合數(shù)據(jù)保護(hù)法規(guī)，而且對(duì)提升研究可信度及科研機(jī)構(gòu)責(zé)任感至關(guān)重要?？蒲腥藛T可將其科學(xué)數(shù)據(jù)保存到能保障數(shù)據(jù)安全的工具中，科研機(jī)構(gòu)應(yīng)確保這些系統(tǒng)達(dá)到相應(yīng)的網(wǎng)絡(luò)安全水平。

3.對(duì)科研資助組織的建議

《指南》對(duì)科研資助組織提出以下四點(diǎn)建議：①促進(jìn)和支持在研究中負(fù)責(zé)任地使用生成式人工智能?？蒲匈Y助組織設(shè)計(jì)的資助工具應(yīng)開(kāi)放、易于接受，并支持科研人員負(fù)責(zé)任、合乎道德地使用生成式人工智能技術(shù)；應(yīng)要求受資助的研究機(jī)構(gòu)和受資助者，鼓勵(lì)科研人員和研究機(jī)構(gòu)遵守現(xiàn)有的法律、研究標(biāo)準(zhǔn)，合乎道德和負(fù)責(zé)任地使用生成式人工智能技術(shù)。②審查生成式人工智能在其內(nèi)部流程中的使用情況。科研資助組織對(duì)其在活動(dòng)中使用生成式人工智能產(chǎn)生的影響負(fù)全部責(zé)任。科研資助組織應(yīng)以透明的方式使用生成式人工智能，特別是在與評(píng)估和評(píng)價(jià)管理有關(guān)的活動(dòng)中，并且不損害內(nèi)容的保密性和過(guò)程的公平性；在選擇生成式人工智能工具時(shí)，應(yīng)審查該工具是否符合質(zhì)量、透明度、完整性、數(shù)據(jù)保護(hù)、保密性和尊重知識(shí)產(chǎn)權(quán)的標(biāo)準(zhǔn)。

③要求項(xiàng)目申請(qǐng)者在使用生成式人工智能方面保持透明性?？蒲许?xiàng)目申請(qǐng)者應(yīng)聲明在申報(bào)過(guò)程中是否使用了生成式人工智能工具，并說(shuō)明該工具在研究活動(dòng)中的作用。④監(jiān)督并推動(dòng)生成式人工智能的發(fā)展。科研資助組織應(yīng)加強(qiáng)對(duì)在科研中負(fù)責(zé)任地使用生成式人工智能的培訓(xùn)和教育計(jì)劃的資助。

《指南》的借鑒價(jià)值

通過(guò)分析筆者認(rèn)為，《指南》對(duì)推動(dòng)生成式人工智能技術(shù)在我國(guó)高?？茖W(xué)研究中合理規(guī)范使用的啟示和借鑒主要有以下幾點(diǎn)。

1.細(xì)化現(xiàn)有相關(guān)政策，聚焦高校場(chǎng)景研制針對(duì)性規(guī)范或指南

我國(guó)面對(duì)形勢(shì)的變化，頒布了《生成式人工智能服務(wù)管理暫行辦法》《人工智能倫理治理標(biāo)準(zhǔn)化指南（2023版）》《新一代人工智能倫理規(guī)范》等一系列聚焦新一代人工智能倫理規(guī)范的制度文件，為新一代人工智能技術(shù)的合理規(guī)范應(yīng)用提供了重要的政策保障。但是，現(xiàn)有的制度文件具有廣泛通用性，針對(duì)性聚焦高?？蒲蓄I(lǐng)域的相關(guān)文件仍相對(duì)缺失。因此，急需在現(xiàn)有文件制度的基礎(chǔ)上，研究制訂針對(duì)高?？茖W(xué)研究領(lǐng)域合理使用新一代人工智能技術(shù)的規(guī)范或指南。在制訂過(guò)程中，可汲取歐盟《指南》的精髓，并強(qiáng)化國(guó)際合作，為我國(guó)規(guī)范構(gòu)建提供較好的參考與啟示。

高?？茖W(xué)研究應(yīng)重點(diǎn)聚焦以下幾方面研制相關(guān)規(guī)范或指南，明確人工智能在科研中的地位和作用，推動(dòng)新一代人工智能技術(shù)在高校科學(xué)研究中的合理使用。①注重人工智能倫理準(zhǔn)則。高校應(yīng)制訂關(guān)于人工智能倫理的準(zhǔn)則，確?？蒲腥藛T在使用人工智能時(shí)遵循道德和法律規(guī)范，其中主要包括保護(hù)個(gè)人隱私、數(shù)據(jù)安全、避免歧視和偏見(jiàn)等方面的規(guī)定。②加強(qiáng)數(shù)據(jù)管理和共享。高校應(yīng)制訂關(guān)于數(shù)據(jù)管理和共享的政策，確?？蒲腥藛T在使用人工智能時(shí)能夠有效地管理和共享數(shù)據(jù)，其中主要包括數(shù)據(jù)收集、存儲(chǔ)、處理和共享的規(guī)定，以及數(shù)據(jù)隱私和安全性的保護(hù)措施。③建立人工智能研究評(píng)估和監(jiān)督機(jī)制。高校應(yīng)建立評(píng)估和監(jiān)督機(jī)制，對(duì)人工智能研究進(jìn)行定期評(píng)估和監(jiān)督，以確保研究的質(zhì)量和可靠性，主要包括同行評(píng)審、研究倫理審查委員會(huì)等機(jī)構(gòu)，對(duì)研究過(guò)程和結(jié)果進(jìn)行監(jiān)督和評(píng)估。④加強(qiáng)人工智能培訓(xùn)和教育。高校應(yīng)制訂人工智能培訓(xùn)和教育計(jì)劃，為科研人員提供必要的技能和知識(shí)，以更好地應(yīng)用人工智能技術(shù)，其中主要包括人工智能課程、研討會(huì)、工作坊等形式，幫助科研人員了解和應(yīng)用最新的人工智能技術(shù)和方法。⑤加強(qiáng)合作與交流。高校應(yīng)積極通過(guò)共享資源、合作研究項(xiàng)目、學(xué)術(shù)交流等方式實(shí)現(xiàn)與其他高校、研究機(jī)構(gòu)和企業(yè)建立合作與伙伴關(guān)系，促進(jìn)人工智能技術(shù)的共享和傳播，共同推動(dòng)人工智能在科學(xué)研究中的應(yīng)用。

2.注重科研數(shù)據(jù)保護(hù)，加強(qiáng)網(wǎng)絡(luò)安全升級(jí)

近年來(lái)，以大數(shù)據(jù)、人工智能等為代表的信息技術(shù)的發(fā)展，推動(dòng)了第四代科學(xué)研究范式即數(shù)據(jù)密集型科學(xué)（Data-intensive Science）的發(fā)展，引導(dǎo)科學(xué)研究由傳統(tǒng)的假設(shè)驅(qū)動(dòng)向數(shù)據(jù)驅(qū)動(dòng)轉(zhuǎn)變。[2]科學(xué)研究范式的轉(zhuǎn)變意味著高?？茖W(xué)研究數(shù)據(jù)密集型特征越來(lái)越明顯。此外，高校擁有人才、學(xué)科及研究條件的優(yōu)勢(shì)，通過(guò)執(zhí)行科技創(chuàng)新系統(tǒng)的任務(wù)，成為科學(xué)創(chuàng)新與基礎(chǔ)研究基地、國(guó)家關(guān)鍵技術(shù)攻堅(jiān)基地和高技術(shù)產(chǎn)業(yè)化的孵化基地。高?？茖W(xué)研究在國(guó)家創(chuàng)新體系中占據(jù)重要地位，它們不僅是國(guó)家創(chuàng)新體系的重要組成部分，也是科技創(chuàng)新和理論創(chuàng)新的重要承擔(dān)者。面對(duì)激烈的國(guó)際競(jìng)爭(zhēng)，國(guó)內(nèi)高校也逐漸成為網(wǎng)絡(luò)攻擊的重要領(lǐng)域。因此，加強(qiáng)高校科學(xué)研究數(shù)據(jù)安全，也是落實(shí)國(guó)家戰(zhàn)略的重要任務(wù)。

在高等教育數(shù)字化改革深度推進(jìn)的背景下，為進(jìn)一步加強(qiáng)網(wǎng)絡(luò)安全，高校應(yīng)重點(diǎn)加強(qiáng)和改進(jìn)以下幾方面：①?gòu)?qiáng)化網(wǎng)絡(luò)意識(shí)形態(tài)安全教育。隨著信息網(wǎng)絡(luò)化的不斷發(fā)展，高校網(wǎng)絡(luò)意識(shí)形態(tài)安全教育也面臨著諸多挑戰(zhàn)，高校要以深化價(jià)值引領(lǐng)、擴(kuò)展內(nèi)容空間、融合新興技術(shù)和拓寬實(shí)踐路徑為抓手，協(xié)同推進(jìn)高校網(wǎng)絡(luò)意識(shí)形態(tài)安全教育，筑牢高校網(wǎng)絡(luò)意識(shí)形態(tài)安全防線。[3]

②本地化部署和運(yùn)行人工智能相關(guān)模型，把握數(shù)據(jù)主權(quán)。高校在與企業(yè)進(jìn)行合作共建時(shí)，應(yīng)始終堅(jiān)持主導(dǎo)地位，明確責(zé)任，落實(shí)人工智能相關(guān)模型的本地部署和運(yùn)行，把握數(shù)據(jù)主動(dòng)權(quán)，確保數(shù)據(jù)安全，這也是國(guó)外人工智能在高校應(yīng)用的主流形勢(shì)。[4]③優(yōu)化高校數(shù)據(jù)治理架構(gòu)，引導(dǎo)全員參與數(shù)據(jù)治理。高校應(yīng)立足學(xué)校數(shù)據(jù)治理需要，進(jìn)一步優(yōu)化組織架構(gòu)，形成涵蓋決策管理層、組織協(xié)調(diào)層、執(zhí)行落實(shí)層、生成維護(hù)層的組織架構(gòu)，并明確各層責(zé)任主體及主要職責(zé)，規(guī)范、引導(dǎo)全員深度參與學(xué)校數(shù)據(jù)治理。④加大經(jīng)費(fèi)投入，強(qiáng)化基礎(chǔ)設(shè)施和人才保障。高校應(yīng)進(jìn)一步加大網(wǎng)絡(luò)安全經(jīng)費(fèi)投入，對(duì)現(xiàn)有基礎(chǔ)設(shè)施進(jìn)行定期升級(jí)維護(hù)，同時(shí)加大網(wǎng)絡(luò)安全人才引進(jìn)，不斷夯實(shí)高校網(wǎng)絡(luò)安全基本保障。

3.加強(qiáng)組織機(jī)構(gòu)建設(shè)，落實(shí)生成式人工智能應(yīng)用監(jiān)管

生成式人工智能為經(jīng)濟(jì)社會(huì)各領(lǐng)域的發(fā)展帶來(lái)了顛覆性技術(shù)創(chuàng)新，也必然引發(fā)相應(yīng)的制度創(chuàng)新，其中就包括組織機(jī)構(gòu)變革。加強(qiáng)組織機(jī)構(gòu)建設(shè)，落實(shí)生成式人工智能應(yīng)用監(jiān)管，是確保人工智能技術(shù)健康發(fā)展的重要措施。其中包括建立完善的組織機(jī)構(gòu)、明確職責(zé)分工、加強(qiáng)人員培訓(xùn)、完善制度建設(shè)、加強(qiáng)技術(shù)研發(fā)和創(chuàng)新投入以及建立風(fēng)險(xiǎn)評(píng)估機(jī)制等。

面對(duì)生成式人工智能技術(shù)的深度應(yīng)用，相關(guān)組織已逐漸建立，如中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)人工智能安全治理專業(yè)委員會(huì)、人工智能倫理與治理工作委員會(huì)等，并已發(fā)揮重要作用。筆者認(rèn)為，在現(xiàn)有工作的基礎(chǔ)上，為推動(dòng)生成式人工智能技術(shù)在高校科學(xué)研究及其他領(lǐng)域的深度應(yīng)用，在國(guó)家及社會(huì)層面應(yīng)進(jìn)一步建立健全現(xiàn)有組織的職能，充分發(fā)揮對(duì)人工智能合理應(yīng)用的監(jiān)管。該類機(jī)構(gòu)應(yīng)是一個(gè)獨(dú)立的、國(guó)際性和跨學(xué)科的科學(xué)組織，從準(zhǔn)確性、偏差、安全性等方面對(duì)生成式人工智能工具及其使用進(jìn)行評(píng)估；在人員構(gòu)成上，應(yīng)至少包括但不限于計(jì)算機(jī)科學(xué)、行為科學(xué)、心理學(xué)、人權(quán)、隱私、法律、倫理學(xué)、科學(xué)和哲學(xué)方面的專家；在主要職責(zé)上，應(yīng)為科學(xué)實(shí)踐和社會(huì)中使用的生成式人工智能工具制訂質(zhì)量標(biāo)準(zhǔn)和認(rèn)證程序，至少涵蓋準(zhǔn)確性和真實(shí)性，適當(dāng)和準(zhǔn)確的來(lái)源信用，歧視性和仇恨性內(nèi)容，訓(xùn)練數(shù)據(jù)、訓(xùn)練設(shè)置和算法的細(xì)節(jié)，以及機(jī)器學(xué)習(xí)的驗(yàn)證等；獨(dú)立的跨學(xué)科科學(xué)機(jī)構(gòu)應(yīng)開(kāi)發(fā)和部署各種方法，以評(píng)估生成式人工智能是否促進(jìn)公平，以及生成式人工智能開(kāi)發(fā)者可采取哪些措施來(lái)促進(jìn)公平和公平使用。[5]此外，在高校內(nèi)部及相關(guān)項(xiàng)目資助機(jī)構(gòu)，還應(yīng)進(jìn)一步健全現(xiàn)有機(jī)構(gòu)職能或增設(shè)新的職能機(jī)構(gòu)，以加強(qiáng)生成式人工智能技術(shù)在高校科研及教學(xué)等領(lǐng)域應(yīng)用情況的全面監(jiān)管。

結(jié)束語(yǔ)

生成式人工智能賦能高?？茖W(xué)研究是推動(dòng)落實(shí)人工智能賦能行動(dòng)的重要任務(wù)。本研究在介紹分析歐盟《科研領(lǐng)域負(fù)責(zé)任使用生成式人工智能指南》的基礎(chǔ)上，聚焦高?？茖W(xué)研究場(chǎng)域，對(duì)如何推動(dòng)生成式人工智能更合理、規(guī)范地賦能高?？茖W(xué)研究提出了幾點(diǎn)建議，以期為未來(lái)發(fā)展提供有價(jià)值的參考。

參考文獻(xiàn)：

[1]鄭世林，姚守宇，王春峰.ChatGPT新一代人工智能技術(shù)發(fā)展的經(jīng)濟(jì)和社會(huì)影響[J].產(chǎn)業(yè)經(jīng)濟(jì)評(píng)論，2023（03）：5-21.

[2]TOLLE M K，TANSLEY S W D， Hey J G A. The fourth paradigm： data-intensive scientific discovery[J].Proceedings of the IEEE，2011，99（08）：1334-1337．

[3]蔣燕玲.強(qiáng)化高校網(wǎng)絡(luò)意識(shí)形態(tài)安全教育論析[J].中國(guó)高等教育，2021（06）：34-36.

[4]苗逢春.生成式人工智能及其教育應(yīng)用的基本爭(zhēng)議和對(duì)策[J].開(kāi)放教育研究，2024，30（01）：4-15.

[5]Claudi L B， Eva A M D， Robert R， etal. Living guidelines for generative AI—why scientists must oversee its use[J].Nature，2023（622）：693-696.

基金項(xiàng)目：國(guó)家社會(huì)科學(xué)基金“十四五”規(guī)劃2021年度教育學(xué)青年課題“支撐教育高質(zhì)量發(fā)展的國(guó)家教育管理信息化體系研究”（課題編號(hào)：CCA210253）。