[摘 要]在《中華人民共和國(guó)民法典》（以下稱《民法典》）背景下，生成式人工智能的民事侵權(quán)責(zé)任可以從一般侵權(quán)責(zé)任和產(chǎn)品責(zé)任兩種責(zé)任承擔(dān)方式進(jìn)行分析。從生成式人工智能的本質(zhì)、鼓勵(lì)產(chǎn)業(yè)發(fā)展和保護(hù)個(gè)人權(quán)利之間的權(quán)衡出發(fā)，宜將其納入產(chǎn)品責(zé)任的范疇。內(nèi)容責(zé)任主體方面，不應(yīng)簡(jiǎn)單地將服務(wù)提供者定性為內(nèi)容生產(chǎn)者，僅由其對(duì)外承擔(dān)責(zé)任，而應(yīng)劃定符合生成式人工智能特點(diǎn)的責(zé)任主體范圍。

[關(guān)鍵詞]生成式人工智能；產(chǎn)品責(zé)任；責(zé)任主體

近日，為了促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，國(guó)家網(wǎng)信辦聯(lián)合國(guó)家發(fā)展改革委及有關(guān)部門公布了《生成式人工智能服務(wù)管理暫行辦法》（以下稱《辦法》）?！掇k法》將生成式人工智能服務(wù)提供者視為生成內(nèi)容的生產(chǎn)者，由其直接承擔(dān)生成式人工智能生成內(nèi)容的生產(chǎn)者責(zé)任和相關(guān)個(gè)人信息處理者的責(zé)任。作為應(yīng)對(duì)新興生成式人工智能治理問題而快速出臺(tái)的新規(guī)定，《辦法》在責(zé)任主體劃定方面仍存在探討空間。本文以ChatGPT為例，對(duì)生成式人工智能進(jìn)行解構(gòu)，并在現(xiàn)有的法律基礎(chǔ)上，進(jìn)一步對(duì)生成式人工智能侵權(quán)的責(zé)任主體及相關(guān)的歸責(zé)原則進(jìn)行分析，就生成式人工智能的侵權(quán)責(zé)任規(guī)制進(jìn)行研究。

一、我國(guó)生成式人工智能的規(guī)制現(xiàn)狀

2022年11月，美國(guó)OpenAI公司推出的以ChatGPT為代表的生成式人工智能在全球引起了廣泛關(guān)注，推出兩個(gè)月后，積累了逾3000萬用戶量。隨后，百度的文心一言、阿里的通義千問、谷歌的大型視覺語言模型PaLM 2，以及清華大學(xué)開發(fā)的以中英語言模型為基礎(chǔ)的ChatGLM等生成式人工智能也相繼出臺(tái)。與依賴于預(yù)定義規(guī)則模式的傳統(tǒng)人工智能模型不同，生成式人工智能模型能夠通過學(xué)習(xí)大量先前的數(shù)據(jù)產(chǎn)生不同的輸出結(jié)果。生成式人工智能目前有兩種主要框架：GAN（生成式對(duì)抗網(wǎng)絡(luò)）和GPT（生成式預(yù)訓(xùn)練轉(zhuǎn)化器）。GPT生成型預(yù)訓(xùn)練變換模型，是一種自回歸語言模型，這種模型利用深度學(xué)習(xí)產(chǎn)生類似于人類語言的文本。值得注意的是，最新版本的GPT模型的訓(xùn)練語料庫來源該公司并未公開。基于生成式人工智能數(shù)據(jù)語料庫的廣泛性及生成內(nèi)容的復(fù)雜多樣性引發(fā)的一系列治理問題，我國(guó)目前有一些法律法規(guī)可以對(duì)其進(jìn)行相關(guān)性規(guī)制。

當(dāng)前，我國(guó)對(duì)生成式人工智能的規(guī)制主要有：在法律層面，《民法典》規(guī)定了任何組織和個(gè)人不得通過利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)，體現(xiàn)了對(duì)使用“深度偽造”技術(shù)生成虛假信息侵害他人名譽(yù)行為的規(guī)制。在部門規(guī)章層面的立法則較為豐富，從已生效的部門規(guī)章來看，最主要的是《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡(jiǎn)稱《深度合成管理規(guī)定》），該規(guī)定從技術(shù)的角度采用了“深度合成”的概念，即利用算法制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等網(wǎng)絡(luò)信息的技術(shù)。廣義的“深度合成”概念可以涵蓋生成式人工智能的技術(shù)，該規(guī)定的規(guī)制范圍涵蓋了人工智能內(nèi)容。《深度合成管理規(guī)定》之外，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》和《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》（以下簡(jiǎn)稱《網(wǎng)絡(luò)音視頻管理規(guī)定》）兩部法規(guī)中都有條款對(duì)人工智能生成內(nèi)容的披露進(jìn)行了規(guī)定?！毒W(wǎng)絡(luò)音視頻管理規(guī)定》還規(guī)定了服務(wù)提供者和使用者不得基于深度學(xué)習(xí)技術(shù)制作、發(fā)布和傳播虛假新聞信息，服務(wù)提供者基于深度學(xué)習(xí)技術(shù)提供服務(wù)時(shí)要通過安全評(píng)估、部署非真實(shí)音視頻鑒別技術(shù)及建立辟謠機(jī)制，與生成式人工智能內(nèi)容的規(guī)制具有相關(guān)性。在上述已生效的法律法規(guī)之外，中國(guó)已經(jīng)有專門針對(duì)生成式人工智能的立法。如前所述，即國(guó)家互聯(lián)網(wǎng)信息辦公室于2023年7月正式頒布的《生成式人工智能服務(wù)管理辦法》。

以上規(guī)定更多強(qiáng)調(diào)開發(fā)者和提供者的行政責(zé)任與刑事責(zé)任，未涉及民事侵權(quán)責(zé)任，更沒有規(guī)定承擔(dān)責(zé)任的原則，對(duì)生成式人工智能內(nèi)容風(fēng)險(xiǎn)規(guī)制相對(duì)全面，但對(duì)于生成式人工智能具體的民事侵權(quán)的規(guī)制仍需進(jìn)一步完善。責(zé)任主體方面，《深度合成管理規(guī)定》為服務(wù)提供者和技術(shù)支持者規(guī)定了法律責(zé)任，《辦法》第九條僅為服務(wù)提供者規(guī)定了法律責(zé)任?？梢?，相關(guān)規(guī)制生成式人工智能產(chǎn)業(yè)的法規(guī)規(guī)定的責(zé)任主體主要是服務(wù)提供者，對(duì)處于開發(fā)核心位置的算法模型設(shè)計(jì)者、數(shù)據(jù)提供者等主體則不作要求，具有一定的不合理性?；诖笮驼Z言模型的復(fù)雜性和自動(dòng)生成過程的不透明性和難以解釋性，使得用戶對(duì)于有害、非法或侵權(quán)內(nèi)容的責(zé)任難以確定，且可以通過用戶與服務(wù)提供者之間的合同進(jìn)行相關(guān)規(guī)制，因此本文不將用戶列入侵權(quán)責(zé)任承擔(dān)的主體范圍。

對(duì)于具體的生成式人工智能侵權(quán)的規(guī)制，有學(xué)者認(rèn)為應(yīng)當(dāng)重新訂立適用于生成式人工智能相關(guān)的新的侵權(quán)責(zé)任法律，即在已有的侵權(quán)責(zé)任法律體系中添加關(guān)于人工智能責(zé)任的相關(guān)條款；有學(xué)者則主張?jiān)谂f的框架法律下對(duì)已有的條款進(jìn)行解釋，應(yīng)對(duì)當(dāng)前的生成式人工智能侵權(quán)現(xiàn)狀。王利明（中國(guó)人民大學(xué)常務(wù)副校長(zhǎng)，教授、博士生導(dǎo)師，國(guó)務(wù)院學(xué)位委員會(huì)法學(xué)學(xué)科評(píng)議組成員兼召集人，中國(guó)法學(xué)會(huì)副會(huì)長(zhǎng)，中國(guó)法學(xué)會(huì)民法學(xué)研究會(huì)會(huì)長(zhǎng)）教授認(rèn)為：因生成式人工智能引發(fā)的侵權(quán)，目前為止還沒有完全超出《民法典》和《個(gè)人信息保護(hù)法》的相關(guān)規(guī)定。如適用《民法典》的侵權(quán)責(zé)任編對(duì)生成式人工智能的侵權(quán)進(jìn)行規(guī)制，也應(yīng)當(dāng)結(jié)合生成式人工智能的本質(zhì)屬性，予以特殊的綜合考量，對(duì)于承擔(dān)責(zé)任的主體范圍、具體歸責(zé)原則進(jìn)一步探討。

二、生成式人工智能侵權(quán)責(zé)任主體分析

生成式人工智能，是通過算法模型在數(shù)據(jù)語料庫的基礎(chǔ)上進(jìn)行無監(jiān)督大量廣泛的學(xué)習(xí)及有監(jiān)督的強(qiáng)化引導(dǎo)學(xué)習(xí)，即對(duì)模型“投喂”大量數(shù)據(jù)再到生成文本的過程?？梢姡墒饺斯ぶ悄艿暮诵碾x不開算法模型和數(shù)據(jù)?！掇k法》將生成式人工智能服務(wù)提供者直接作為對(duì)外承擔(dān)責(zé)任的主體，忽視了模型設(shè)計(jì)者與數(shù)據(jù)提供者在生成式人工智能的研發(fā)中發(fā)揮的關(guān)鍵作用，否定其承擔(dān)責(zé)任的可能性。僅由服務(wù)提供者作為風(fēng)險(xiǎn)高發(fā)的生成式人工智能的責(zé)任主體，范圍較為狹窄且不利于受害人行使相關(guān)救濟(jì)權(quán)。從生成式人工智能生成內(nèi)容的本質(zhì)缺陷出發(fā)，也不宜僅將服務(wù)提供者作為責(zé)任主體。首先，基于輸入數(shù)據(jù)的龐大性，算力的復(fù)雜性，算法的多重迭代性，不可避免會(huì)使生成結(jié)果變得無法解釋，這是人工智能本身的固有缺陷。其次，生成式人工智能也因其生成內(nèi)容的特點(diǎn)，生成結(jié)果還容易受到生態(tài)謬誤（Ecological fallacy）的影響。如ChatGPT在基于相同的數(shù)據(jù)語料庫提供通用的安全建議時(shí)，不適用于特定群體或某些環(huán)境，特別是人口中的個(gè)人用戶或少數(shù)群體。以全概偏的輸出結(jié)果可能會(huì)侵害特定群體的合法權(quán)益。從其具有的客觀固有缺陷來看，《辦法》將責(zé)任主體僅僅限定為服務(wù)提供者，使得承擔(dān)責(zé)任的主體不太公平，也不利于對(duì)被害人權(quán)益的完整保障。應(yīng)從生成式人工智能的本質(zhì)屬性和固有缺陷出發(fā)確立“鏈條式”的責(zé)任承擔(dān)主體，不僅對(duì)于責(zé)任的分擔(dān)以及受害人的救濟(jì)具有重要意義，對(duì)于生成式人工智能的健康發(fā)展也具有重要作用。

侵權(quán)責(zé)任，是民事主體侵害他人權(quán)益應(yīng)當(dāng)承擔(dān)的法律后果。承擔(dān)責(zé)任的前提是具有民事主體資格。有學(xué)者主張，按照技術(shù)邏輯去劃定承擔(dān)生成式人工智能內(nèi)容侵權(quán)的責(zé)任主體；或主張可以根據(jù)物種位階的規(guī)范主義立場(chǎng)，為人工智能構(gòu)建一種以責(zé)任承擔(dān)為基礎(chǔ)的特殊財(cái)產(chǎn)性法律主

體[1]。顯然，按照這兩種觀點(diǎn)，將生成式人工智能技術(shù)或者說ChatGPT本身作為承擔(dān)責(zé)任的主體。這類構(gòu)想存在一定的合理性，但是在現(xiàn)有的法律體系下難以實(shí)現(xiàn)。在無法賦予生成式人工智能主體地位的情形下，只能將自然人作為責(zé)任主體，其侵權(quán)責(zé)任也只能在原有的責(zé)任歸責(zé)理論中進(jìn)行適當(dāng)選擇。

三、生成式人工智能侵權(quán)的歸責(zé)原則探討

就侵權(quán)責(zé)任而言，以ChatGPT為例，因其所生成的內(nèi)容具有虛假、錯(cuò)誤、誤導(dǎo)或有害性，主要是侵犯人格權(quán)和相關(guān)知識(shí)產(chǎn)權(quán)，部分情況下，也會(huì)侵犯財(cái)產(chǎn)權(quán)和生命身體健康權(quán)，如在提供與健康和安全相關(guān)的建議時(shí)，ChatGPT可能會(huì)提供不正確或潛在的有害陳述。相關(guān)研究指出，適用ChatGPT（3.5版）作為安全相關(guān)問題的信息和建議來源時(shí)，存在重大的風(fēng)險(xiǎn)，如在提供健身計(jì)劃、緊急情況預(yù)防措施、操作重型機(jī)械等方面，其生成的誤導(dǎo)陳述可能致使用戶或第三人受到損害，對(duì)于識(shí)字率和受教育程度較低的人群來說，ChatGPT生成的內(nèi)容風(fēng)險(xiǎn)則更高。對(duì)于來自金融、醫(yī)療、環(huán)境保護(hù)等專業(yè)領(lǐng)域的問題，如果沒有足夠的數(shù)據(jù)資源供ChatGPT進(jìn)行有監(jiān)督學(xué)習(xí)訓(xùn)練，ChatGPT可能將無法就相應(yīng)內(nèi)容生成適當(dāng)?shù)幕?/p>

答[2]。在當(dāng)前的法律框架下，就生成式人工智能的侵權(quán)責(zé)任原則而言，一般適用一般過錯(cuò)責(zé)任原則和產(chǎn)品責(zé)任進(jìn)行規(guī)制。

（一）適用一般過錯(cuò)責(zé)任分析

涉及侵權(quán)責(zé)任，必先談歸責(zé)原則。有學(xué)者指出，由于法律沒有特別規(guī)定，對(duì)于人工智能生成內(nèi)容場(chǎng)景下相關(guān)主體侵權(quán)責(zé)任的判定只能采取過錯(cuò)責(zé)任的歸責(zé)原則[3]。對(duì)生成式人工智能侵權(quán)采取過錯(cuò)責(zé)任原則，受害人舉證難度較大。首先，作為受害人的用戶或第三人需就對(duì)方存在過錯(cuò)進(jìn)行舉證，難度不言而喻。由于被害人和服務(wù)提供者可控制資源的不對(duì)等以及生成式人工智能本身具有的專業(yè)性和復(fù)雜性，作為“門外漢”的受害人就對(duì)方存在過錯(cuò)的進(jìn)行舉證將處于明顯的不利地位。因此，適用一般過錯(cuò)責(zé)任將造成對(duì)被害人的救濟(jì)難以實(shí)現(xiàn)。過錯(cuò)推定方面，生成式人工智能的侵權(quán)明顯不能納入《民法典》規(guī)定之下的九種過錯(cuò)推定責(zé)任情形框架之下來進(jìn)行解釋，即不存在法律上的明文規(guī)定，因此無法適用過錯(cuò)推定責(zé)任，倘若適用該歸責(zé)方式，需增補(bǔ)相應(yīng)條款。

（二）適用產(chǎn)品責(zé)任分析

生成式人工智能的侵權(quán)能否適用產(chǎn)品責(zé)任？首先需考慮，生成式人工智能能否納入符合“產(chǎn)品”的內(nèi)涵或外延之中。就ChatGPT的聊天生成預(yù)訓(xùn)練轉(zhuǎn)化器而言，作為一種人工智能聊天機(jī)器人程序，該轉(zhuǎn)化器是產(chǎn)品還是服務(wù)？我國(guó)《辦法》中將生成式人工智能程序運(yùn)行視為一種服務(wù)；有學(xué)者亦主張，產(chǎn)品具有大規(guī)模生產(chǎn)和批量銷售的特點(diǎn)，且產(chǎn)品之間需具有同質(zhì)性[4]。從這個(gè)意義上來說，生成式人工智能生成內(nèi)容不能算作產(chǎn)品。而歐盟《產(chǎn)品責(zé)任指令》，美國(guó)《侵權(quán)法重述》（第3版）將生成式人工智能的性質(zhì)界定為軟件。根據(jù)生成式人工智能的設(shè)計(jì)過程、運(yùn)行模式以及用戶使用結(jié)果來看，本文更傾向于將其視為一個(gè)軟件，同時(shí)也是一種產(chǎn)品。軟件，即一系列按照特定順序組織的電腦數(shù)據(jù)和指令，是電腦中的非有形部分。電腦中的有形部分稱為硬件，由電腦的外殼及各零件、電路所組成。電腦軟件需有硬件才能運(yùn)作。軟件不分架構(gòu)，有共通的特性，在執(zhí)行后可以讓硬件執(zhí)行依設(shè)計(jì)時(shí)要求的機(jī)能。軟件存儲(chǔ)在存儲(chǔ)器中，不是可以碰觸到的實(shí)體，可以碰觸到的都只是存儲(chǔ)軟件的零件或介質(zhì)（光盤或磁片等）。也即說，軟件和硬件二者相互作用，缺一不可，否則無法運(yùn)行。產(chǎn)品，是用以滿足人們需求和欲望的有形物體或無形載體。而軟件作為一種依附于有形載體的無形體，向消費(fèi)者提供基本效用和利益，滿足一般意義上產(chǎn)品的要求。

軟件是否屬于我國(guó)產(chǎn)品責(zé)任法意義上的產(chǎn)品，相關(guān)法律法規(guī)沒有明確規(guī)定。產(chǎn)品是指經(jīng)過加工、制作、用于銷售的產(chǎn)品（動(dòng)產(chǎn)）。生成式人工智能作為一種聊天生成預(yù)訓(xùn)練轉(zhuǎn)化器，在研發(fā)過程中，經(jīng)過算法模型設(shè)計(jì)、數(shù)據(jù)投入的加工，最終成為一個(gè)面向消費(fèi)者的無形且可通過網(wǎng)絡(luò)傳輸使用的程序軟件。就ChatGPT而言，在開始向消費(fèi)者投放時(shí)雖未收取相關(guān)費(fèi)用，但無形中獲得的流量及收集的數(shù)據(jù)信息，背后隱藏著潛在的收益。如ChatGPT、文心一言、通義千問等生成式人工智能，從設(shè)計(jì)加工到面向用戶提供使用，不可謂不是一種產(chǎn)品，也就可以適用產(chǎn)品責(zé)任進(jìn)行規(guī)制。

適用產(chǎn)品責(zé)任進(jìn)行規(guī)制，首先要考慮產(chǎn)品是否存在缺陷。一般來說，產(chǎn)品缺陷包括三類，即制造缺陷、設(shè)計(jì)缺陷、指示缺陷。在辨別生成式人工智能生成內(nèi)容有害或有誤是否屬于產(chǎn)品缺陷？屬于何種缺陷？仍需要被害人結(jié)合各種因素具體認(rèn)定，對(duì)其舉證要求較高。但適用產(chǎn)品責(zé)任無須證明對(duì)方存在過錯(cuò)，在這方面減輕了受害人的舉證壓力，使得受害人在舉證上達(dá)到一個(gè)平衡。在產(chǎn)品責(zé)任中，生產(chǎn)者與銷售者對(duì)外承擔(dān)無過錯(cuò)責(zé)任，對(duì)內(nèi)銷售者系過錯(cuò)責(zé)任。依前所述，將作為研發(fā)核心的數(shù)據(jù)提供者、算法模型設(shè)計(jì)者，以及作為“總抓手”的服務(wù)提供者確立為生成式人工智能侵權(quán)的責(zé)任主體。在產(chǎn)品責(zé)任中，服務(wù)提供者應(yīng)作為銷售者的角色；而處于研發(fā)核心的數(shù)據(jù)提供者、算法模型設(shè)計(jì)者則是生產(chǎn)者。二者既要履行產(chǎn)品的跟蹤觀察義務(wù)，亦可以適用產(chǎn)品責(zé)任的特別免責(zé)事由。從生成式人工智能的本質(zhì)出發(fā)確定責(zé)任主體鏈條，并適用產(chǎn)品責(zé)任進(jìn)行規(guī)制。不僅有利于受害人方便行使救濟(jì)權(quán)，也有利于督促核心主體不斷優(yōu)化算法模型、積極提升設(shè)計(jì)理念，實(shí)現(xiàn)生成式人工智能產(chǎn)業(yè)與個(gè)體和諧共生。

結(jié)束語

以ChatGPT為代表風(fēng)靡全球的大語言模型已經(jīng)成為人工智能領(lǐng)域競(jìng)爭(zhēng)的新軌道，隱藏著巨大潛力的同時(shí)也蘊(yùn)含巨大風(fēng)險(xiǎn)。我國(guó)在面對(duì)該技術(shù)挑戰(zhàn)時(shí)應(yīng)保持謹(jǐn)慎態(tài)度，只有符合我國(guó)現(xiàn)實(shí)發(fā)展和國(guó)際局勢(shì)的監(jiān)管與治理制度，才能促進(jìn)我國(guó)生成式人工智能產(chǎn)業(yè)長(zhǎng)遠(yuǎn)健康發(fā)展。就生成式人工智能侵權(quán)方面的規(guī)制而言，若可以通過釋法予以應(yīng)對(duì)，則不必也不應(yīng)當(dāng)修法或立新法。通過解釋將其納入規(guī)制不僅成本和風(fēng)險(xiǎn)低，符合人們對(duì)法律預(yù)期的同時(shí)也能維持法律的穩(wěn)定性。

參考文獻(xiàn)

[1]鄭文革.人工智能法律主體建構(gòu)的責(zé)任路徑[J].中國(guó)應(yīng)用法學(xué)，2022（5）：221-231.

[2]于文軒.ChatGPT與敏捷治理[J].學(xué)海，2023（2）：52-57.

[3]昂格魯瑪.論大型內(nèi)容生成式人工智能模型設(shè)計(jì)者及提供者的侵權(quán)責(zé)任[C]//上海市法學(xué)會(huì).《上海法學(xué)研究》集刊2023年第6卷：2023年世界人工智能大會(huì)青年論壇論文集.北京化工大學(xué)，2023：7.

[4]周學(xué)峰.生成式人工智能侵權(quán)責(zé)任探析[J].比較法研究，2023（4）：117-131.

作者簡(jiǎn)介：彭梅（1998— ），女，漢族，貴州畢節(jié)人，貴州師范大學(xué)法學(xué)院，在讀碩士。

研究方向：民商法。