胡元聰 李雨益

[摘要]近年來(lái)，國(guó)內(nèi)人工智能產(chǎn)品層出不窮，成功吸引著大量消費(fèi)者嘗鮮買單。人工智能的技術(shù)風(fēng)險(xiǎn)與滯后的法律規(guī)范之間的矛盾沖突使得人工智能產(chǎn)品風(fēng)險(xiǎn)防范制度面臨全新挑戰(zhàn)。面對(duì)人工智能產(chǎn)品違背倫理道德、引導(dǎo)不合理消費(fèi)、損害精神安全等風(fēng)險(xiǎn)，亟待從企業(yè)社會(huì)責(zé)任的內(nèi)在邏輯和現(xiàn)實(shí)要求入手，在人工智能企業(yè)與消費(fèi)者之間合理配置權(quán)利與義務(wù)，明確人工智能企業(yè)研發(fā)生產(chǎn)、缺陷產(chǎn)品管理等方面的社會(huì)責(zé)任，并通過(guò)積極變革與創(chuàng)新人工智能產(chǎn)品風(fēng)險(xiǎn)防范制度來(lái)降低相應(yīng)風(fēng)險(xiǎn)。

[關(guān)鍵詞]企業(yè)社會(huì)責(zé)任;人工智能產(chǎn)品;風(fēng)險(xiǎn)防范;發(fā)展風(fēng)險(xiǎn)

[中圖分類號(hào)]F49

[文獻(xiàn)標(biāo)識(shí)碼]A

[文章編號(hào)]1673-0461（2020）04-0019-08

一、研究背景與問(wèn)題

人工智能企業(yè)的發(fā)展已備受世界矚目。我國(guó)《新一代人工智能發(fā)展規(guī)劃》提出，要積極發(fā)展人工智能新興產(chǎn)業(yè)，到2030年使中國(guó)成為世界主要人工智能創(chuàng)新中心?！洞龠M(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動(dòng)計(jì)劃（2018-2020年）》也提出，要培育人工智能創(chuàng)新標(biāo)桿企業(yè)，搭建人工智能企業(yè)創(chuàng)新交流平臺(tái)。[1]然而，發(fā)展人工智能產(chǎn)業(yè)在促進(jìn)經(jīng)濟(jì)增長(zhǎng)和社會(huì)發(fā)展的同時(shí)，其運(yùn)用的人工智能技術(shù)也存在不確定性和潛在的安全風(fēng)險(xiǎn)，并可能帶來(lái)倫理、法律和社會(huì)危機(jī)。面對(duì)處于快速發(fā)展和變化過(guò)程中的人工智能技術(shù)，一方面目前的法律體系并不能適應(yīng)人工智能領(lǐng)域一系列的特殊問(wèn)題，人工智能領(lǐng)域的法律監(jiān)管工作無(wú)法可依、無(wú)章可循，[2]而制定出臺(tái)新的法律尚待時(shí)日。另一方面政府對(duì)于人工智能企業(yè)應(yīng)當(dāng)承擔(dān)何種社會(huì)責(zé)任也尚未形成共識(shí)。舊有的科技創(chuàng)新模式、政策法規(guī)、評(píng)估方法和科學(xué)社會(huì)契約關(guān)系等在面向新興科技創(chuàng)新治理時(shí)存在制度缺失。所以，科技創(chuàng)新的社會(huì)責(zé)任議題引發(fā)了學(xué)術(shù)研究者和政策制定者的關(guān)注。[3]因此，積極探討人工智能企業(yè)社會(huì)責(zé)任[4]①可以采取的制度化途徑，對(duì)研究新型智能技術(shù)下的產(chǎn)品風(fēng)險(xiǎn)防范具有重要意義。

隨著人工智能企業(yè)不斷發(fā)展以及人工智能技術(shù)不斷革新，產(chǎn)品安全隱患、交易不公、個(gè)人信息隱私泄露、行為被監(jiān)視等侵犯消費(fèi)者權(quán)益的負(fù)外部性現(xiàn)象層出不窮且愈演愈烈。如越南公司BKAV用3D打印技術(shù)破解iPhoneX的面部識(shí)別技術(shù)，加大了消費(fèi)者設(shè)備隱私方面的風(fēng)險(xiǎn);Knightscope平臺(tái)曾打造的“打擊犯罪的機(jī)器人”在硅谷的一家商場(chǎng)里弄傷了一個(gè)16歲的少年;IBM?Watson醫(yī)療保健應(yīng)用程序?qū)Π┌Y治療提出了錯(cuò)誤的建議，可能會(huì)導(dǎo)致嚴(yán)重甚至致命的后果等等?？v觀這些人工智能產(chǎn)品風(fēng)險(xiǎn)帶來(lái)的責(zé)任問(wèn)題的案例，迫使我們思考：在當(dāng)今社會(huì)能否成功應(yīng)對(duì)人工智能所帶來(lái)的新的風(fēng)險(xiǎn)和不確定性問(wèn)題，能否在人工智能時(shí)代繼續(xù)維持秩序與變革、守護(hù)與創(chuàng)新、價(jià)值與事實(shí)之間的動(dòng)態(tài)平衡，便成為今天法律人所必須面對(duì)的緊迫問(wèn)題。[5]通過(guò)給企業(yè)施加社會(huì)責(zé)任，即通過(guò)經(jīng)濟(jì)法規(guī)范賦予外部性受體即其利益相關(guān)者較多的相關(guān)權(quán)利，也就是說(shuō)對(duì)企業(yè)施加較多的義務(wù)，最終實(shí)現(xiàn)權(quán)利與義務(wù)的真正平衡，這是值得探討的解決途徑之一。故本文基于企業(yè)社會(huì)責(zé)任的視域，旨在為應(yīng)對(duì)人工智能產(chǎn)品發(fā)展風(fēng)險(xiǎn)和不確定性，探討人工智能產(chǎn)品的風(fēng)險(xiǎn)防范問(wèn)題。克勞斯·施瓦布（Klaus

Schwab）指出，當(dāng)前世界正處在一個(gè)拐點(diǎn)上，數(shù)字技術(shù)的影響力通過(guò)自動(dòng)化的發(fā)展和“前所未有的事物”的生產(chǎn)而得到全面的發(fā)揮。[6]“前所未有的事物”的生產(chǎn)將對(duì)社會(huì)產(chǎn)生積極意義上的正外部性和消極意義上的負(fù)外部性兩方面的影響，為有效應(yīng)對(duì)其產(chǎn)生的負(fù)外部性，有多種解決進(jìn)路。其在人工智能產(chǎn)品上產(chǎn)生的負(fù)外部性主要集中體現(xiàn)在人工智能產(chǎn)品研發(fā)生產(chǎn)、人工智能缺陷產(chǎn)品管理兩方面，故本文重點(diǎn)從這兩方面的風(fēng)險(xiǎn)防范出發(fā)，深入探討人工智能企業(yè)應(yīng)當(dāng)承擔(dān)的具體社會(huì)責(zé)任規(guī)范，旨在為人工智能產(chǎn)品風(fēng)險(xiǎn)防范制度提供些許創(chuàng)新路徑。具體而言，一是人工智能產(chǎn)品的研發(fā)生產(chǎn)方面，歐盟委員會(huì)認(rèn)為科學(xué)研究與技術(shù)創(chuàng)新必須有效反映社會(huì)需求和社會(huì)意愿、反射社會(huì)價(jià)值和社會(huì)責(zé)任，創(chuàng)新應(yīng)表現(xiàn)為道德可接受、社會(huì)期望滿足、安全和可持續(xù)等，[7]違反基本倫理道德、危害安全、不可持續(xù)的創(chuàng)新則應(yīng)受到約束。那么，人工智能企業(yè)需要遵循什么樣的倫理道德？如何通過(guò)企業(yè)社會(huì)責(zé)任的分配應(yīng)對(duì)這些風(fēng)險(xiǎn)？二是人工智能缺陷產(chǎn)品管理方面，如何通過(guò)規(guī)范的變革與創(chuàng)新來(lái)應(yīng)對(duì)人工智能缺陷產(chǎn)品召回管理面臨的新風(fēng)險(xiǎn)？缺陷產(chǎn)品認(rèn)定標(biāo)準(zhǔn)和生產(chǎn)免責(zé)規(guī)范的合理性基礎(chǔ)受到動(dòng)搖，如何重新分配權(quán)利義務(wù)來(lái)實(shí)現(xiàn)利益平衡、達(dá)致實(shí)質(zhì)正義？所以，筆者從人工智能企業(yè)社會(huì)責(zé)任規(guī)范角度探討人工智能產(chǎn)品研發(fā)生產(chǎn)、人工智能缺陷產(chǎn)品管理方面的風(fēng)險(xiǎn)防范問(wèn)題。通過(guò)對(duì)人工智能產(chǎn)品相關(guān)風(fēng)險(xiǎn)防范規(guī)范的分析，運(yùn)用經(jīng)濟(jì)法中的市場(chǎng)規(guī)制法予以限制或禁止，對(duì)企業(yè)在承擔(dān)產(chǎn)品社會(huì)責(zé)任方面提出全新要求，從而為人工智能企業(yè)如何通過(guò)降低產(chǎn)品風(fēng)險(xiǎn)履行社會(huì)責(zé)任，促進(jìn)人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展提供一些具體的參考。

二、企業(yè)社會(huì)責(zé)任視域下人工智能產(chǎn)品風(fēng)險(xiǎn)防范的制度檢視

（一）人工智能產(chǎn)品研發(fā)生產(chǎn)風(fēng)險(xiǎn)防范的社會(huì)責(zé)任規(guī)范方面

人工智能的某些領(lǐng)域目前已走入法律的無(wú)人區(qū)。[8]尤其是人工智能產(chǎn)品研發(fā)生產(chǎn)的特殊問(wèn)題尚無(wú)相關(guān)社會(huì)責(zé)任規(guī)范予以約束，從而帶來(lái)各類風(fēng)險(xiǎn)，②主要表現(xiàn)在基本倫理道德規(guī)范、對(duì)消費(fèi)者合理引導(dǎo)和精神安全保障的社會(huì)責(zé)任規(guī)范難以回應(yīng)人工智能產(chǎn)品風(fēng)險(xiǎn)防范的時(shí)代要求。

1.人工智能產(chǎn)品研發(fā)生產(chǎn)風(fēng)險(xiǎn)防范之基本倫理道德規(guī)范尚未制定

我國(guó)目前尚未制定適用于人工智能產(chǎn)品研發(fā)生產(chǎn)的基本倫理道德規(guī)范，難以對(duì)研發(fā)生產(chǎn)階段的倫理道德失范風(fēng)險(xiǎn)進(jìn)行防范與應(yīng)對(duì)。全國(guó)政協(xié)十三屆二次會(huì)議第三次全體會(huì)議上，百度CEO李彥宏發(fā)言提到，人工智能倫理將是未來(lái)人工智能社會(huì)的發(fā)展基石，應(yīng)強(qiáng)化領(lǐng)軍企業(yè)擔(dān)當(dāng)，加快人工智能倫理原則落地。人工智能技術(shù)與資本結(jié)合愈加強(qiáng)化了企業(yè)利益最大化驅(qū)動(dòng)，增加了倫理失范的風(fēng)險(xiǎn)。為降低人工智能產(chǎn)品風(fēng)險(xiǎn)，需要強(qiáng)化對(duì)生產(chǎn)企業(yè)的責(zé)任約束，轉(zhuǎn)變生產(chǎn)企業(yè)經(jīng)濟(jì)理性的觀念，這需要在制度體系方面進(jìn)行有效規(guī)范和保障，進(jìn)而增強(qiáng)其風(fēng)險(xiǎn)防范能力。但是就人工智能的法律應(yīng)對(duì)而言，我國(guó)目前更多的是從產(chǎn)業(yè)政策促進(jìn)、扶持和發(fā)展的角度對(duì)人工智能提供行政指導(dǎo)。[9]法律關(guān)于企業(yè)為保障人工智能產(chǎn)品研發(fā)生產(chǎn)而需要遵守的基本倫理道德規(guī)范欠缺，故無(wú)法提供足夠必要的社會(huì)責(zé)任制度供給。從政策層面來(lái)看，《中國(guó)制造2025》（國(guó)發(fā)〔2015〕28號(hào)）并未提及人工智能制造相關(guān)基本倫理道德規(guī)范。《國(guó)務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知》（國(guó)發(fā)〔2017〕35號(hào)）明確提到我國(guó)的戰(zhàn)略目標(biāo)是，2020年初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系。并且該通知提到了對(duì)人工智能產(chǎn)品研發(fā)設(shè)計(jì)人員制定相關(guān)道德規(guī)范和行為守則，但其并未提及對(duì)人工智能產(chǎn)品研發(fā)生產(chǎn)的主體——人工智能企業(yè)應(yīng)當(dāng)承擔(dān)的基本倫理道德規(guī)范進(jìn)行立法規(guī)劃。然而人工智能企業(yè)卻在把控人工智能產(chǎn)品設(shè)計(jì)生產(chǎn)合乎倫理的過(guò)程中扮演著舉足輕重的作用，所以制度應(yīng)明確企業(yè)在人工智能產(chǎn)品研發(fā)生產(chǎn)過(guò)程中應(yīng)承擔(dān)的倫理道德責(zé)任，從而對(duì)基本倫理道德規(guī)范缺失風(fēng)險(xiǎn)的防范予以回應(yīng)。

2.人工智能產(chǎn)品研發(fā)生產(chǎn)風(fēng)險(xiǎn)防范之合理消費(fèi)引導(dǎo)規(guī)范尚不完善

毋庸置疑，新技術(shù)革命必將創(chuàng)造新的消費(fèi)需求。從人工智能企業(yè)的生產(chǎn)動(dòng)機(jī)來(lái)看，人工智能技術(shù)與資本的結(jié)合進(jìn)一步激發(fā)了企業(yè)利益最大化的逐利本性，所以企業(yè)為了實(shí)現(xiàn)資本經(jīng)濟(jì)的良性運(yùn)行，消費(fèi)者的欲望、需要和情感便成為資本作用、控制和操縱的對(duì)象。[10]從人工智能企業(yè)的生產(chǎn)能力來(lái)看，在人工智能技術(shù)所不斷延展開拓的領(lǐng)域中，人工智能技術(shù)賦予企業(yè)強(qiáng)大的創(chuàng)造、引導(dǎo)、控制消費(fèi)者消費(fèi)欲望的能力。當(dāng)產(chǎn)品超出人們的實(shí)際需求時(shí)，就必須要想法刺激人們的消費(fèi)欲望，以為生產(chǎn)提供源源不斷的動(dòng)力，因而消費(fèi)就成了主導(dǎo)性的邏輯。[11]所以人工智能產(chǎn)品的研發(fā)生產(chǎn)在人工智能企業(yè)生產(chǎn)動(dòng)機(jī)和生產(chǎn)能力的雙重影響下，不僅僅是單純的滿足，同時(shí)更是開發(fā)、引導(dǎo)消費(fèi)者產(chǎn)生新的消費(fèi)欲望和需要的研發(fā)生產(chǎn)。這種消費(fèi)對(duì)需要的背離，就使得消費(fèi)可能突破需要的有限性，從而獲得無(wú)限擴(kuò)張的性質(zhì)，形成過(guò)度消費(fèi)。如果沒(méi)有相應(yīng)制度適當(dāng)約束人工智能產(chǎn)品的研發(fā)生產(chǎn)，不斷創(chuàng)造消費(fèi)者“不滿足”的這種行為，消費(fèi)者將會(huì)形成一種不合理的消費(fèi)方式，給人類生存環(huán)境帶來(lái)巨大壓力。所以，必須對(duì)人工智能企業(yè)在人工智能產(chǎn)品研發(fā)生產(chǎn)過(guò)程中承擔(dān)引導(dǎo)消費(fèi)者適度消費(fèi)的相關(guān)責(zé)任進(jìn)行制度回應(yīng)，進(jìn)而促進(jìn)對(duì)不合理消費(fèi)風(fēng)險(xiǎn)的防范。然而在目前的法律法規(guī)中，涉及可持續(xù)性消費(fèi)或綠色消費(fèi)的內(nèi)容僅僅在個(gè)別詞語(yǔ)或從側(cè)面有所涉及，[12]并無(wú)與產(chǎn)品研發(fā)生產(chǎn)相關(guān)的消費(fèi)引導(dǎo)法律規(guī)范。

3.人工智能產(chǎn)品研發(fā)生產(chǎn)風(fēng)險(xiǎn)防范之精神安全保障規(guī)范亟待構(gòu)建

我國(guó)當(dāng)前人工智能產(chǎn)品研發(fā)生產(chǎn)的風(fēng)險(xiǎn)防范之精神安全保障規(guī)范尚處于缺失狀態(tài)。隨著AI、算法技術(shù)的快速發(fā)展，人工智能消費(fèi)產(chǎn)品將在衣食住行各個(gè)方面顯著提升生活品質(zhì)，但其對(duì)消費(fèi)者精神損害的威脅卻不容忽視。首先，就人工智能信息產(chǎn)品而言，機(jī)器學(xué)習(xí)、算法機(jī)制推動(dòng)信息產(chǎn)品形態(tài)、分發(fā)流通渠道的創(chuàng)新。例如短視頻平臺(tái)利用算法，根據(jù)用戶偏好和興趣推送內(nèi)容，目的在于建構(gòu)使用戶上癮的平臺(tái)機(jī)制。[13]其次，就人工智能實(shí)體產(chǎn)品而言，人工智能產(chǎn)品是在使用方式、范圍、體驗(yàn)感等方面區(qū)別于傳統(tǒng)產(chǎn)品的一類產(chǎn)品，如可植入技術(shù)、可穿戴設(shè)備聯(lián)網(wǎng)、視覺(jué)成為新的交互界面等人工智能技術(shù)相關(guān)的衍生人工智能產(chǎn)品等。這類人工智能產(chǎn)品的研發(fā)生產(chǎn)不僅存在危害消費(fèi)者人身、財(cái)產(chǎn)安全等傳統(tǒng)產(chǎn)品也會(huì)存在的外在物質(zhì)風(fēng)險(xiǎn)，還存在使消費(fèi)者產(chǎn)生逃避現(xiàn)實(shí)、上癮等內(nèi)在的精神損害風(fēng)險(xiǎn)。易言之，人工智能產(chǎn)品對(duì)消費(fèi)者帶來(lái)的風(fēng)險(xiǎn)，不僅僅在于人身財(cái)產(chǎn)安全層面的損害，更在于精神層面的威脅。然而，對(duì)于消費(fèi)者精神層面風(fēng)險(xiǎn)的產(chǎn)生與防范，人工智能產(chǎn)品生產(chǎn)者——人工智能企業(yè)負(fù)有不可推卸的責(zé)任。因?yàn)?，“?jì)算機(jī)系統(tǒng)中的錯(cuò)誤或不當(dāng)行為的來(lái)源可以原則上回溯到對(duì)軟件設(shè)計(jì)做出決定的人，無(wú)論合理與否?！盵14]人工智能產(chǎn)品設(shè)計(jì)生產(chǎn)者利用算法等技術(shù)，在交互界面、軟件應(yīng)用、程序設(shè)置等方面引導(dǎo)用戶，使之在行為選擇的偏好力、信息獲取的推動(dòng)力和逃避現(xiàn)實(shí)的誘惑力驅(qū)使下養(yǎng)成符合企業(yè)盈利意向的行為習(xí)慣。顯然，這是人工智能產(chǎn)品設(shè)計(jì)者刻意為之，也能得到企業(yè)支持的結(jié)果。[15]所以，制度應(yīng)從人工智能企業(yè)承擔(dān)社會(huì)責(zé)任的角度出發(fā)，對(duì)威脅消費(fèi)者精神安全的風(fēng)險(xiǎn)進(jìn)行防范。然而，現(xiàn)有法律規(guī)定企業(yè)僅在消費(fèi)者人身、財(cái)產(chǎn)安全保障兩方面承擔(dān)保證產(chǎn)品質(zhì)量的義務(wù)，人工智能產(chǎn)品研發(fā)生產(chǎn)的精神安全保障規(guī)范亟待構(gòu)建。

（二）人工智能缺陷產(chǎn)品管理風(fēng)險(xiǎn)防范的社會(huì)責(zé)任規(guī)范方面

人工智能產(chǎn)品的負(fù)外部性除了體現(xiàn)在人工智能產(chǎn)品研發(fā)生產(chǎn)方面，還體現(xiàn)在人工智能缺陷產(chǎn)品管理規(guī)范的缺乏和滯后難以應(yīng)對(duì)人工智能產(chǎn)品風(fēng)險(xiǎn)。人工智能缺陷產(chǎn)品管理社會(huì)責(zé)任規(guī)范風(fēng)險(xiǎn)防范能力的不足具體表現(xiàn)在召回管理規(guī)范、認(rèn)定標(biāo)準(zhǔn)規(guī)范和生產(chǎn)免責(zé)規(guī)范3個(gè)方面的缺乏和滯后。

1.人工智能缺陷產(chǎn)品管理風(fēng)險(xiǎn)防范之召回管理規(guī)范尚付闕如

我國(guó)現(xiàn)有缺陷產(chǎn)品召回管理制度不足以防范與應(yīng)對(duì)人工智能產(chǎn)品在使用過(guò)程中的風(fēng)險(xiǎn)。首先，人工智能缺陷產(chǎn)品召回管理的質(zhì)量預(yù)警規(guī)范難以實(shí)現(xiàn)。人工智能產(chǎn)品的部分安全風(fēng)險(xiǎn)伴隨消費(fèi)者的使用而產(chǎn)生，難以提前予以控制。比如，可植入技術(shù)的相關(guān)產(chǎn)品、視覺(jué)成為新交互界面的相關(guān)產(chǎn)品以及可穿戴設(shè)備聯(lián)網(wǎng)的相關(guān)產(chǎn)品等。在消費(fèi)者使用過(guò)程中存在使消費(fèi)者逃避現(xiàn)實(shí)、成癮以及數(shù)據(jù)泄露的風(fēng)險(xiǎn)，而這些風(fēng)險(xiǎn)并不能在產(chǎn)品的研發(fā)生產(chǎn)階段內(nèi)予以有效控制。③并且，人工智能企業(yè)有義務(wù)對(duì)產(chǎn)品銷售后的使用狀態(tài)進(jìn)行合理監(jiān)測(cè)并及時(shí)預(yù)警。人是主體，他既能創(chuàng)造，也應(yīng)該能夠控制，道義上也有責(zé)任控制自己的創(chuàng)造物。[16]所以，人工智能企業(yè)理應(yīng)承擔(dān)建立人工智能缺陷產(chǎn)品召回管理風(fēng)險(xiǎn)防范之質(zhì)量預(yù)警機(jī)制的責(zé)任。但是我國(guó)現(xiàn)有規(guī)范中僅規(guī)定了由消費(fèi)者保護(hù)協(xié)會(huì)發(fā)布產(chǎn)品安全預(yù)警的一些規(guī)范，并且其影響力度非常小。其次，人工智能缺陷產(chǎn)品召回管理的信息披露制度面臨挑戰(zhàn)。2016年1月1日實(shí)施的《缺陷消費(fèi)品召回管理辦法》（以下簡(jiǎn)稱《管理辦法》）將凡是消費(fèi)品都納入了召回范圍，這為降低產(chǎn)品風(fēng)險(xiǎn)起到了積極作用。2018年2月13日國(guó)務(wù)院法制辦發(fā)布了《缺陷消費(fèi)品召回管理規(guī)定（征求意見(jiàn)稿）》（以下簡(jiǎn)稱《管理規(guī)定》）?！豆芾硪?guī)定》較《管理辦法》在信息披露方面增加了生產(chǎn)者應(yīng)當(dāng)配合召回技術(shù)機(jī)構(gòu)和省級(jí)質(zhì)檢部門對(duì)有關(guān)缺陷信息、投訴信息進(jìn)行核實(shí)確認(rèn)和技術(shù)分析的責(zé)任。然而，人工智能企業(yè)在缺陷產(chǎn)品召回管理的信息披露方面不可避免地出現(xiàn)隱瞞、欺詐等行為。因?yàn)槿斯ぶ悄芗夹g(shù)的應(yīng)用，是通過(guò)代碼和算法來(lái)實(shí)現(xiàn)的，大多數(shù)人工智能系統(tǒng)都是不透明的，這意味著它們可以規(guī)避審查。如果設(shè)計(jì)開發(fā)者刻意在這種算法黑箱中裝進(jìn)過(guò)度的商業(yè)資本追求、價(jià)值偏好和不公正因素，憑借算法來(lái)侵蝕大眾權(quán)益的情況下，[17]要求設(shè)計(jì)開發(fā)者配合召回技術(shù)機(jī)構(gòu)和省級(jí)質(zhì)檢部門對(duì)有關(guān)缺陷信息進(jìn)行核實(shí)確認(rèn)以及技術(shù)分析則成為無(wú)稽之談。因此，現(xiàn)有《管理規(guī)定》對(duì)生產(chǎn)者責(zé)任的規(guī)定不足以回應(yīng)人工智能缺陷產(chǎn)品在召回信息披露方面所面臨的風(fēng)險(xiǎn)，人工智能缺陷產(chǎn)品召回管理規(guī)范的風(fēng)險(xiǎn)防范能力亟需提升。

2.人工智能缺陷產(chǎn)品管理風(fēng)險(xiǎn)防范之認(rèn)定標(biāo)準(zhǔn)規(guī)范亟待革新

（2）人工智能產(chǎn)品生產(chǎn)企業(yè)應(yīng)當(dāng)有限且適當(dāng)?shù)爻袚?dān)部分發(fā)展風(fēng)險(xiǎn)。維護(hù)消費(fèi)者利益和保障社會(huì)安全是有代價(jià)的，但是其應(yīng)當(dāng)有合理的界限，讓企業(yè)承擔(dān)發(fā)展風(fēng)險(xiǎn)會(huì)增大人工智能技術(shù)落地為人工智能產(chǎn)品的阻力，阻礙人工智能技術(shù)的進(jìn)步和社會(huì)的發(fā)展。如果責(zé)任過(guò)重，必然阻礙制造者發(fā)展人工智能的積極性。但是，基于人工智能企業(yè)判斷人工智能產(chǎn)品可能發(fā)生的抽象危險(xiǎn)的能力，人工智能企業(yè)應(yīng)當(dāng)有限且適當(dāng)?shù)爻袚?dān)部分發(fā)展風(fēng)險(xiǎn)。除此以外，科技進(jìn)步的風(fēng)險(xiǎn)應(yīng)由所有享受這種科技進(jìn)步成果的社會(huì)來(lái)承擔(dān)。那么，必須有相關(guān)制度幫助責(zé)任主體承擔(dān)人工智能產(chǎn)品的風(fēng)險(xiǎn)，這一制度便是保險(xiǎn)制度。[34]

四、結(jié)語(yǔ)

在人工智能時(shí)代的潮流中，面對(duì)人工智能革命給現(xiàn)有制度體系帶來(lái)的沖擊和挑戰(zhàn)，變革與創(chuàng)新是不二之選。中國(guó)作為全球第一消費(fèi)大國(guó)，也將成為全球最大的機(jī)器人市場(chǎng)，[35]同時(shí)成為眾多人工智能產(chǎn)品的龐大消費(fèi)市場(chǎng)。人工智能產(chǎn)品風(fēng)險(xiǎn)勢(shì)必會(huì)給消費(fèi)市場(chǎng)帶來(lái)沖擊，對(duì)現(xiàn)有的產(chǎn)品風(fēng)險(xiǎn)防范制度體系帶來(lái)挑戰(zhàn)。所以，對(duì)人工智能產(chǎn)品風(fēng)險(xiǎn)的防控勢(shì)在必行，因此需要積極變革與創(chuàng)新人工智能產(chǎn)品風(fēng)險(xiǎn)防范制度體系，為消費(fèi)者提供合理適當(dāng)?shù)闹贫缺Ｗo(hù)，為人工智能行業(yè)發(fā)展提供制度支持。易言之，需要積極發(fā)揮主觀能動(dòng)性，在享受人工智能帶來(lái)的技術(shù)紅利的同時(shí)，對(duì)人工智能產(chǎn)品可能帶來(lái)的風(fēng)險(xiǎn)和挑戰(zhàn)進(jìn)行回應(yīng)，即對(duì)其進(jìn)行合理的法律規(guī)制，在遵循造福人類的可持續(xù)發(fā)展模式下推動(dòng)我國(guó)人工智能產(chǎn)業(yè)的高質(zhì)量發(fā)展。

[注釋]

①企業(yè)社會(huì)責(zé)任乃指企業(yè)在謀求股東利潤(rùn)最大化之外所負(fù)有的維護(hù)和增進(jìn)社會(huì)公益的義務(wù)。

②這里也包括了產(chǎn)品發(fā)展風(fēng)險(xiǎn)，因?yàn)槠髽I(yè)可能故意不提高科技水平，去避免此類缺陷。

③如果是因?yàn)榭萍妓街剩丛诳萍及l(fā)展水平提高之后才“發(fā)現(xiàn)”的缺陷屬于發(fā)展風(fēng)險(xiǎn)。

④生產(chǎn)者的后續(xù)觀察義務(wù)即跟蹤觀察義務(wù)，主要是對(duì)產(chǎn)品投入流通后的狀態(tài)進(jìn)行跟蹤，用途為發(fā)現(xiàn)產(chǎn)品交付前不知其弱點(diǎn)和缺陷以及獲得關(guān)于該產(chǎn)品之可靠性、生命周期、操作風(fēng)險(xiǎn)等資料。

⑤第一條：機(jī)器人不得傷害人類，或看到人類受到傷害而袖手旁觀;第二條：機(jī)器人必須服從人類的命令，除非這條命令與第一條相矛盾;第三條：機(jī)器人必須保護(hù)自己，除非這種保護(hù)與以上兩條相矛盾。

⑥即人的能動(dòng)性和監(jiān)督能力、安全性、隱私數(shù)據(jù)管理、透明度、包容性、社會(huì)福祉、問(wèn)責(zé)機(jī)制。

[參考文獻(xiàn)]

[1]工業(yè)和信息化部.關(guān)于印發(fā)《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動(dòng)計(jì)劃（2018-2020年）》的通知[EB/OL].http：//www.miit.gov.cn/n1146295/n1652858/n1652930/n3757016/c5960820/content.html.

[2]胡元聰，辛茹茹.人工智能對(duì)法律監(jiān)管帶來(lái)的挑戰(zhàn)及制度因應(yīng)[J].人工智能法學(xué)研究，2018（2）：113-128.

[3]梅亮，陳勁，吳欣桐.責(zé)任式創(chuàng)新范式下的新興技術(shù)創(chuàng)新治理解析——以人工智能為例[J].技術(shù)經(jīng)濟(jì)，2018（1）：1-7，43.

[4]盧代富.企業(yè)社會(huì)責(zé)任的經(jīng)濟(jì)學(xué)與法學(xué)分析[M].北京：法律出版社，2002：119-120.

[5][JP2]鄭戈.人工智能與法律的未來(lái)[J].探索與爭(zhēng)鳴，2017（10）：78-84.

[6][德]克勞斯·施瓦布.第四次工業(yè)革命[M].李菁，譯.北京：中信出版社，2016：6.

[7]OWEN R， BESSANT J， HEINTZ M. Responsible innovation： managing the responsible emergence of science and innovation in society [M]. John Wiley & Sons， 2013.

[8]蔡學(xué)恩.關(guān)于加快開展人工智能領(lǐng)域立法工作的建議[J].中國(guó)科技產(chǎn)業(yè)，2018（4）：28-29.

[9]汪慶華.人工智能的法律規(guī)制路徑：一個(gè)框架性討論[J].現(xiàn)代法學(xué)，2019（2）：54-63.[ZK）]

[10]于霄鳴.消費(fèi)主義的危害和對(duì)策[J].鹽城工學(xué)院學(xué)報(bào)（社會(huì)科學(xué)版），2011（1）：36-38.

[11]張舜清.“物象化論”視域下的消費(fèi)主義與消費(fèi)正義問(wèn)題——兼論消費(fèi)社會(huì)中“人”的倫理規(guī)定[J].自然辯證法研究，2007（9）：69-74.

[12]鄭玉歆.政府引導(dǎo)可持續(xù)消費(fèi)模式的責(zé)任與路徑[J].學(xué)習(xí)與實(shí)踐，2015（1）：5-11.

[13]王潔.短視頻的流行及監(jiān)管[J].中國(guó)廣播電視學(xué)刊，2018（12）：21-23.

[14][荷]尤瑞恩·范登·霍文， [澳]約翰·維克特.信息技術(shù)與道德哲學(xué)[M].趙迎歡，等譯.北京：科學(xué)出版社，2014：223.

[15]盧嘉瑞，李增軍.智能消費(fèi)的若干倫理問(wèn)題[J].經(jīng)濟(jì)與管理，2018（2）：53-57.

[16][JP3]王家范.科技創(chuàng)造必須以人為本[J].探索與爭(zhēng)鳴，2017（10）：21-22.

[17]馬長(zhǎng)山.人工智能的社會(huì)風(fēng)險(xiǎn)及其法律規(guī)制[J].法律科學(xué)（西北政法大學(xué)學(xué)報(bào)），2018（6）：47-55.

[18]張鳳涼，涂靜.質(zhì)量?jī)?yōu)先背景下我國(guó)產(chǎn)品質(zhì)量法律體系的完善[J].華南理工大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2018（2）：48-55.

[19]張?jiān)?違反產(chǎn)品后續(xù)觀察義務(wù)的侵權(quán)責(zé)任構(gòu)成及抗辯[J].法治研究，2018（5）：93-104.

[20][JP2]馬長(zhǎng)山.智能互聯(lián)網(wǎng)時(shí)代的法律變革[J].法學(xué)研究，2018（4）：33.

[21]日本內(nèi)閣府.以人類為中心的人工智能社會(huì)原則[EB/OL].http：//www.sohu.com/a/290057926_485245.

[22]張建文.阿西莫夫的教誨：機(jī)器人學(xué)三法則的貢獻(xiàn)與局限[J].人工智能法學(xué)研究，2018（2）：21-37.

[23]方瑩馨.歐盟發(fā)布人工智能倫理準(zhǔn)則[N].人民日?qǐng)?bào)，2019-04-11（17B）.

[24][美]盧克·多梅爾.算法時(shí)代：新經(jīng)濟(jì)的新引擎[M].胡小銳，等譯.北京：中信出版社，2016：144.

[25]魯政委，湯維祺.興業(yè)研究：上市公司ESG披露、評(píng)估與應(yīng)用[EB/OL].[2017-04-13]. http：//app.xinhua08.com/print.php？contentid=1699269.

[26]鮑金.消費(fèi)正義：構(gòu)建和諧社會(huì)的倫理基礎(chǔ)[J].上海交通大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2011（1）：20-26.

[27][美]E.弗洛姆.逃避自由[M].陳學(xué)明，譯.北京：工人出版社，1987：172.

[28]黃波.生產(chǎn)正義及其倫理原則[J].唐都學(xué)刊，2015（4）：19-23.

[29][JP2]畢金杰.馬克思主義生產(chǎn)理論對(duì)生態(tài)環(huán)境的構(gòu)建解析——基于生產(chǎn)正義視角[J].黃岡職業(yè)技術(shù)學(xué)院學(xué)報(bào)，2017（2）：39-42.

[30][JP2]工信部.促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動(dòng)計(jì)劃（2018-2020年）[EB/OL].http：//www.miit.gov.cn/n1146285/n1146352/n3054355/n3057497/n3057498/c5960779/content.html.

[31][美]羅斯科·龐德.通過(guò)法律的社會(huì)控制[M].沈宗靈，譯.北京：商務(wù)印書館，2010：13.

[32]劉彤.發(fā)展水平抗辯的制度構(gòu)建與消費(fèi)者保護(hù)的協(xié)調(diào)[J].北京聯(lián)合大學(xué)學(xué)報(bào)（人文社會(huì)科學(xué)版），2017（1）：48-56.

[33]司曉，曹建峰.論人工智能的民事責(zé)任：以自動(dòng)駕駛汽車和智能機(jī)器人為切入點(diǎn)[J].法律科學(xué)（西北政法大學(xué)學(xué)報(bào)），2017（5）：166-173.

[34]梁鵬.人工智能產(chǎn)品侵權(quán)的責(zé)任承擔(dān)[J].中國(guó)青年社會(huì)科學(xué)，2018（4）：11-14.

[35]習(xí)近平.習(xí)近平談治國(guó)理政[M].北京：外文出版社，2014：120.

Research on Riskprevention of Artificial Intelligence Products?from the Perspective of Corporate Social Responsibility

Hu Yuancong，Li Yuyi

（School of Economics and Law， Southwest University of Political Science and Law， Chongqing 401120， China）

Abstract： In recent years， domestic Artificial Intelligence products have been emerging， attracting a large number of consumers. However， conflicts between the technological risks of Artificial Intelligence and the hysteretic laws and regulations have comprehensively challenged the riskprevention system of Artificial Intelligence products. When faced with the realistic risks of Artificial Intelligence products such as violation of ethics， introduction of unreasonable consumption， and damage to psychic security and so on， it is suggested to decrease the risks from the internal logic and requirements of the Corporate Social Responsibilities. The following measures are necessary： properly optimize the rights and obligations of Artificial Intelligence corporations and consumers; ?specify the social responsibility of Artificial Intelligence corporations in the research & development of new products and the management of defective products; reform and innovate the riskprevention system of Artificial Intelligence products.

Key words： Corporate Social Responsibility; Artificial Intelligence product; riskprevention; development risk