浮婷

近年來(lái)，負(fù)責(zé)任研究與創(chuàng)新（Responsible Research and Innovation， RRI）逐漸成為研究熱點(diǎn)。它建立在多學(xué)科背景的理論基礎(chǔ)上，是對(duì)包括人工智能、互聯(lián)網(wǎng)、大數(shù)據(jù)、納米技術(shù)、基因研究等新興研究與創(chuàng)新領(lǐng)域的深刻反思。在工業(yè)革命以及工業(yè)革命之前的時(shí)期里，科學(xué)技術(shù)往往以一種絕對(duì)正面的力量而存在，它被哲學(xué)家認(rèn)為是一種美德，也被稱(chēng)之為人類(lèi)社會(huì)進(jìn)步的標(biāo)志。而在兩次世界大戰(zhàn)中，科技開(kāi)始呈現(xiàn)出“惡”的一面，催生了包括核武器在內(nèi)的威脅人類(lèi)命運(yùn)的成果，成為了戰(zhàn)爭(zhēng)的幫兇。

科學(xué)研究的“價(jià)值中立主義”最早由德國(guó)社會(huì)學(xué)家馬科斯·韋伯（1914年）提出，這一理論強(qiáng)調(diào)的是包括社會(huì)科學(xué)在內(nèi)的所有研究應(yīng)當(dāng)秉持一種“價(jià)值中立”的原則，實(shí)際上指出了科學(xué)研究從選題到提出假設(shè)都包含著主觀的價(jià)值判斷?？茖W(xué)研究中純粹的“價(jià)值中立”實(shí)際并不存在。為此，負(fù)責(zé)任研究與創(chuàng)新完全揚(yáng)棄了所謂的“價(jià)值中立”，主張?jiān)谛驴萍加绊懺絹?lái)越重大的背景下，在研究與創(chuàng)新階段就貫穿對(duì)影響負(fù)責(zé)任的理念，實(shí)現(xiàn)社會(huì)價(jià)值、環(huán)境價(jià)值和道德標(biāo)準(zhǔn)的和諧統(tǒng)一，真正將“社會(huì)中的科學(xué)”轉(zhuǎn)變?yōu)椤盀樯鐣?huì)的科學(xué)”以及“與社會(huì)共生”的科學(xué)。

在負(fù)責(zé)任研究與創(chuàng)新的理論模型中，具有代表性的是英國(guó)學(xué)者斯蒂爾戈與歐文等（Stilgoe et al. ，2013年）提出的“預(yù)見(jiàn)性—反思性—包容性—回應(yīng)性”四維框架。其中“預(yù)見(jiàn)性”是指研究與創(chuàng)新本身所涉及到重大影響需要提前進(jìn)行分析、認(rèn)知與管理，既包括了對(duì)風(fēng)險(xiǎn)的預(yù)防也包括了對(duì)于參與者、受益者、替代方案等一系列問(wèn)題的關(guān)注；“反思性”是指研究與創(chuàng)新必須充分考慮法律法規(guī)的約束條件和道德要求，確保實(shí)驗(yàn)室中的研究與創(chuàng)新能夠充分反映社會(huì)訴求?！鞍菪浴笔侵秆芯颗c創(chuàng)新的過(guò)程必須最廣泛地邀請(qǐng)利益相關(guān)方參與，并將關(guān)鍵群體的訴求納入到研究重點(diǎn)議程范圍。“回應(yīng)性”是指保持研究與創(chuàng)新全過(guò)程的透明和接受監(jiān)督，并對(duì)政策監(jiān)管、技術(shù)標(biāo)準(zhǔn)、知識(shí)產(chǎn)權(quán)、文化背景等諸多方面積極做出回應(yīng)。“預(yù)見(jiàn)性—反思性—包容性—回應(yīng)性”四維框架能夠促進(jìn)責(zé)任價(jià)值融入實(shí)驗(yàn)室的基礎(chǔ)研究與企業(yè)所推動(dòng)的應(yīng)用創(chuàng)新的過(guò)程，對(duì)于人工智能這樣基礎(chǔ)研究與企業(yè)創(chuàng)新并行的前沿?zé)狳c(diǎn)領(lǐng)域尤為重要。

1.預(yù)見(jiàn)性：我們需要什么樣的人工智能？目前人工智能的快速發(fā)展是移動(dòng)互聯(lián)產(chǎn)生的大數(shù)據(jù)、機(jī)器學(xué)習(xí)算法演進(jìn)和硬件發(fā)展遵循摩爾定律共同驅(qū)動(dòng)的結(jié)果。如果說(shuō)人工智能發(fā)展在多種條件成熟之后具備了發(fā)展的前提和動(dòng)力，那么應(yīng)當(dāng)將人工智能引向怎樣的方向則是超越技術(shù)范疇的社會(huì)問(wèn)題。我們需要考慮的不僅僅是人工智能研究創(chuàng)新需要避免什么，同時(shí)也應(yīng)該清楚的是我們究竟希望從人工智能發(fā)展中獲得什么。這里需要納入考量的兩條必要原則是：A. 人工智能的研究與創(chuàng)新需要利于經(jīng)濟(jì)、社會(huì)環(huán)境可持續(xù)發(fā)展。人工智能的意義遠(yuǎn)不僅僅體現(xiàn)在商業(yè)價(jià)值，目前企業(yè)推動(dòng)的人工智能模式識(shí)別大量被用在了推銷(xiāo)產(chǎn)品和制造消費(fèi)需求上，所有尋找所謂用戶(hù)“痛點(diǎn)”的商業(yè)策略都可謂不痛不癢，關(guān)于資源、環(huán)境、社會(huì)平等等方面的重大問(wèn)題卻鮮有關(guān)注，這是一種缺乏預(yù)見(jiàn)的方向性偏差。B. 人工智能的應(yīng)用與創(chuàng)新要有利于個(gè)體賦能和人的價(jià)值實(shí)現(xiàn)?！癆I云”即云端的人工智能計(jì)算，不應(yīng)該僅僅為大型企業(yè)所掌控，而應(yīng)當(dāng)像互聯(lián)網(wǎng)走出軍方的實(shí)驗(yàn)室最終成為現(xiàn)代社會(huì)的基礎(chǔ)設(shè)施那樣，成為人人都可以便捷利用的個(gè)體賦能工具，并能夠通過(guò)數(shù)字化的手段和實(shí)時(shí)溝通策略，進(jìn)一步將分散的人類(lèi)智慧聚合起來(lái)，成為使個(gè)體專(zhuān)長(zhǎng)得到充分發(fā)揮的“人機(jī)協(xié)同系統(tǒng)”。

2.反思性：需要從人與機(jī)器的層面同時(shí)進(jìn)行反思。人工智能研究與創(chuàng)新應(yīng)當(dāng)最大限度避免管中窺豹的思維，僅從單一的領(lǐng)域與單一的視野出發(fā)很容易將研究與創(chuàng)新引向極端，單純的技術(shù)思維不可取，而單純的商業(yè)思維同樣也不是最佳解決方案，需要將相關(guān)研究創(chuàng)新置于社會(huì)—技術(shù)系統(tǒng)中認(rèn)識(shí)與分析。這里同樣存在著兩種反思，A.第一種是研究者與政策制定者的反思。“好心辦壞事”往往都是由于過(guò)于自信和缺乏反思。不僅研究者們需要反思自己的研究方向和具體的技術(shù)構(gòu)架，商業(yè)領(lǐng)域的創(chuàng)新者們同樣需要反思人工智能的應(yīng)用與推廣策略，而政策制定者們則更需要有長(zhǎng)遠(yuǎn)的眼光和視角，不能被短期的效果和利益所蒙蔽。B.第二種是構(gòu)建的人工智能需要具有反思性。強(qiáng)調(diào)機(jī)器擁有對(duì)目標(biāo)的反思能力聽(tīng)起來(lái)似乎還很遙遠(yuǎn)，但卻是關(guān)系到人工智能是否會(huì)造成威脅的關(guān)鍵因素。如果我們繼續(xù)向著人類(lèi)智能的方向塑造人工智能，那么最危險(xiǎn)的莫過(guò)于最終出現(xiàn)了極其高效并可以通過(guò)一切手段實(shí)現(xiàn)其目標(biāo)，但又缺少人類(lèi)的自我反思能力的人工智能，其后果顯然將會(huì)是災(zāi)難性的。

3.包容性：人工智能需要最廣泛的利益相關(guān)方參與。究竟誰(shuí)應(yīng)當(dāng)決定人工智能未來(lái)的發(fā)展方向？目前人工智能的發(fā)展中，社會(huì)力量的參與和影響微乎其微。普通公眾對(duì)大數(shù)據(jù)、算法和人工智能缺少必要的了解與認(rèn)知，更談不上監(jiān)督與參與，市場(chǎng)目前在這一過(guò)程中發(fā)揮決定性作用，很多人工智能的應(yīng)用與產(chǎn)品匆匆投向市場(chǎng)，只能接受社會(huì)公眾消費(fèi)行動(dòng)這種唯一的檢驗(yàn)方式。然而商業(yè)上成功的產(chǎn)品未必就代表著正確的發(fā)展方向。這里增加包容性的兩點(diǎn)建議是：A.企業(yè)與政府在相關(guān)決策過(guò)程中應(yīng)促進(jìn)利益相關(guān)方參與。隨著人工智能技術(shù)的應(yīng)用，科技巨頭企業(yè)已日益向著基礎(chǔ)設(shè)施提供者和“社會(huì)公器”的角色演變，這就需要這些企業(yè)在收集和運(yùn)用大數(shù)據(jù)時(shí)，超越單純的經(jīng)濟(jì)價(jià)值驅(qū)動(dòng)和企業(yè)家個(gè)人偏好驅(qū)動(dòng)，開(kāi)展相關(guān)方合作使創(chuàng)新能夠服務(wù)于社會(huì)整體利益；政府在制定與社會(huì)關(guān)系重大的人工智能政策時(shí)，同樣需要盡可能廣泛地納入各個(gè)群體的意見(jiàn)。B.為利益相關(guān)方參與準(zhǔn)備資源和平臺(tái)。這些資源和平臺(tái)包括信息公開(kāi)的機(jī)制和渠道，必要的知識(shí)與技能的培訓(xùn)，政策與理論的儲(chǔ)備，以及對(duì)公眾對(duì)于自己數(shù)據(jù)權(quán)益使用敏感意識(shí)的培養(yǎng)等。

4.回應(yīng)性：人工智能研究與創(chuàng)新必須克服“黑箱”與“盲點(diǎn)”。目前人工智能研究流行的神經(jīng)網(wǎng)絡(luò)算法，在輸入和輸出結(jié)果之間的調(diào)試過(guò)程存在著難以確知的“黑箱”，即研究人員也弄不清楚算法自身進(jìn)行了怎樣的演化并產(chǎn)生了最終的結(jié)果。這從安全性的角度來(lái)看風(fēng)險(xiǎn)極高。針對(duì)這樣不明確的研究與創(chuàng)新應(yīng)當(dāng)怎樣回應(yīng)？需要重點(diǎn)關(guān)注以下兩點(diǎn)。A.技術(shù)上的回應(yīng)。對(duì)于高度不確定性的“黑箱”技術(shù)是否一定要采用？是否有技術(shù)上的替代方案？在運(yùn)用的同時(shí)有沒(méi)有建立類(lèi)似自動(dòng)切斷電源這類(lèi)的技術(shù)安全屏障？B.制度上的回應(yīng)。必須使制度和政策設(shè)計(jì)跟上技術(shù)的發(fā)展，不應(yīng)該有法律和政策上的盲點(diǎn)，要明確相關(guān)影響的主體，產(chǎn)生了什么樣的影響就應(yīng)該對(duì)什么樣的影響負(fù)責(zé)，通過(guò)合理的制度框架明確責(zé)任關(guān)系的歸屬，是應(yīng)對(duì)人工智能可能帶來(lái)的風(fēng)險(xiǎn)的最后一道保障措施。

編輯|胡文娟 wenjuan.hu@wtoguide.net

作者單位：中國(guó)社會(huì)科學(xué)院工業(yè)經(jīng)濟(jì)研究所