胡文娟

2017年10月，《紐約客》雜志的封面圖再次引發(fā)對人工智能（AI）的熱議。雖然圖片描述的情景想象起來有些可怕——人類坐地乞討，而機(jī)器人則扮演了施予者的角色，但不得不承認(rèn)，和其他任何一種技術(shù)革新一樣，AI在創(chuàng)造價(jià)值的同時(shí)也帶來了風(fēng)險(xiǎn)。

隨著人工智能決策日益盛行，算法歧視就是常見風(fēng)險(xiǎn)之一。比如，圖像識別軟件就犯下過種族主義錯(cuò)誤。2015年7月，谷歌公司的圖片軟件曾錯(cuò)將黑人的照片標(biāo)記為“大猩猩”；2016年3月，微軟公司的人工智能聊天機(jī)器人Tay上線后被“教”成了一個(gè)集反猶太人、性別歧視、種族歧視等于一身的“不良少女”。有些歧視或許還無關(guān)緊要，但在涉及信用評估、犯罪風(fēng)險(xiǎn)評估、雇傭評估等重大事項(xiàng)時(shí)，人工智能所做出的決策將影響甚至決定貸款額度、刑法選擇、雇傭與否，這時(shí)歧視就會帶來嚴(yán)重影響。

因此，在大量的資金和精力都被投入到研究加速人工智能的發(fā)展中時(shí)，這也意味著，我們應(yīng)該且必須花費(fèi)更多精力思考人工智能的應(yīng)用給社會、經(jīng)濟(jì)和道德帶來的影響，并采取行動彌補(bǔ)可能造成的負(fù)能量。本文作者DUNSTAN ALLISON-HOPE從商業(yè)與人權(quán)的角度分享了人工智能應(yīng)用所帶來的人權(quán)挑戰(zhàn)及應(yīng)對建議，以此啟發(fā)投資和應(yīng)用AI的工商界思索可能的商業(yè)風(fēng)險(xiǎn)。

當(dāng)決定權(quán)在機(jī)器而不是人類手中時(shí)，如何保證人類能夠獲得并采取補(bǔ)救措施？這是一個(gè)很復(fù)雜的問題。日前，在聯(lián)合國商業(yè)與人權(quán)年度論壇的聯(lián)席會議上，BSR和國際企業(yè)責(zé)任圓桌會議（簡稱ICAR）就討論了這個(gè)問題。

通過極大提高我們的分析能力，人工智能（AI）有可能解決人類面臨的一些最緊迫的挑戰(zhàn)，如與醫(yī)療、教育、交通、反恐和刑事審判等相關(guān)的難題。然而，人工智能也帶來了前所未有的、不可預(yù)見的各種人權(quán)風(fēng)險(xiǎn)，如非歧視、隱私、兒童權(quán)利、言論自由和獲取公共服務(wù)等。

例如，在法庭審判中使用了人工智能，或在決定是否提供信貸或識別潛在恐怖分子時(shí)使用了人工智能，這都有可能導(dǎo)致做出有歧視性的決定。同時(shí)，使用基于人工智能的語音識別設(shè)備還可能影響隱私權(quán)和兒童權(quán)利。一些人甚至明確表示擔(dān)憂，他們認(rèn)為讓機(jī)器判斷在社交媒體上發(fā)貼是否遵守服務(wù)條款，可能會消極影響言論自由。

《聯(lián)合國商業(yè)與人權(quán)指導(dǎo)原則》（UNGPs）的第三支柱規(guī)定，應(yīng)為此類侵權(quán)行為的受害者提供補(bǔ)救措施。我們的會議討論了在人工智能的背景下確保獲得補(bǔ)救的三項(xiàng)新挑戰(zhàn)：

1. 當(dāng)違權(quán)行為是由機(jī)器和算法而非人類做決定導(dǎo)致時(shí)，保證補(bǔ)救；

2. 當(dāng)有數(shù)以億計(jì)的權(quán)利持有人和數(shù)以億計(jì)的決策時(shí)，提供具有操作性的申訴機(jī)制；

3. 當(dāng)數(shù)十家公司而不是單一的企業(yè)參與者，通過不同的基于AI的產(chǎn)品和服務(wù)相互作用，與侵犯人權(quán)的行為聯(lián)系在一起時(shí)，要保證獲取補(bǔ)救措施的權(quán)利和機(jī)會。

雖然這些討論看上去都是假設(shè)，但技術(shù)在快速發(fā)展，來自各行各業(yè)的公司正迅速將人工智能集成到他們的產(chǎn)品、服務(wù)和運(yùn)營中。

微軟副總裁兼副總法律顧問Steve Crown提出了一項(xiàng)挑戰(zhàn)，即如何知道什么時(shí)候傷害開始發(fā)生、怎樣識別誰犯了錯(cuò)并能夠及時(shí)確定一種補(bǔ)救措施使受害者回到以前狀態(tài)。Crown提供了一個(gè)年輕女性的例子，零售數(shù)據(jù)分析顯示該女子懷孕了，而她又是定向投放廣告的目標(biāo)，于是，她的父親從家中直接郵件廣告而不是自己女兒口中得知了這個(gè)事實(shí)。在這種情況下，是否發(fā)生了侵犯隱私的行為？如果是的話，有什么恰當(dāng)?shù)难a(bǔ)救措施？公司又該如何阻止此類事件再次發(fā)生？

牛津大學(xué)的數(shù)據(jù)倫理學(xué)方面的研究員Sandra Wachter和阿蘭圖靈研究所的一位博士后提出了新的《歐盟通用數(shù)據(jù)保護(hù)條例》（簡稱GDPR）中關(guān)于“解釋權(quán)”的概念，這個(gè)概念會在一些諸如由機(jī)器決定信貸額度和雇傭與否的情境中生效。

但Wachter強(qiáng)調(diào)，一旦人類參與到這個(gè)過程中后，GDPR中規(guī)定的這一權(quán)利就會消失——即使人類的參與如同橡皮圖章（機(jī)械地聽從命令安排）一樣——許多公司也會反對透露他們決策算法的細(xì)節(jié)，認(rèn)為那是商業(yè)機(jī)密。

Sandra提出了一種基于反設(shè)事實(shí)的，關(guān)于“解釋權(quán)”的替代模型，該模型描述了導(dǎo)致該決策的事實(shí)（例如收入或教育成績），它可能為權(quán)利持有人提供有意義的信息，而不需要傳達(dá)算法的內(nèi)部邏輯。Sandra還提議成立一個(gè)獨(dú)立的監(jiān)督機(jī)構(gòu)來審查公司并確保盡責(zé)。

谷歌自由表達(dá)和人權(quán)顧問Alex Walden談到了機(jī)器是如何被部署并協(xié)助判斷互聯(lián)網(wǎng)用戶上傳的有爭議的內(nèi)容如仇恨言論和恐怖主義等。在大量內(nèi)容被上傳的情況下，這些機(jī)器會特別有用，但即便機(jī)器可以通過篩查大量內(nèi)容識別這些爭議言論，但是只有人類具備理解上下文和語言的必需能力，也只有人類才能做出最終的決定。

總之，貫穿會議始終的一個(gè)主題就是人工智能將在我們的生活中扮演越來越重要的角色，它將被許多行業(yè)，不僅僅是科技公司使用?？偟膩碚f，我對《聯(lián)合國商業(yè)與人權(quán)指導(dǎo)原則》在人工智能時(shí)代的應(yīng)用得出了三個(gè)結(jié)論。

首先，所有經(jīng)濟(jì)部門（如零售、金融服務(wù)、能源、醫(yī)療、交通、基礎(chǔ)設(shè)施和公共部門）都要理解人工智能應(yīng)用對人權(quán)的影響，這很重要。

其次，我們應(yīng)該通過權(quán)利持有人的鏡頭考慮獲取補(bǔ)救措施的問題。人工智能極其復(fù)雜，只有極少數(shù)人知道它是如何工作的。如果想要發(fā)揮人工智的潛力，同時(shí)又減輕其所帶來的風(fēng)險(xiǎn)，那么重要的是公民社會、權(quán)利持有人和弱勢群體要受益，要有渠道讓其有意義地參與討論AI應(yīng)用以及獲取補(bǔ)救措施等話題。

同時(shí)，從事人工智能發(fā)展的專業(yè)團(tuán)隊(duì)也將會從對倫理問題和權(quán)利持有人觀點(diǎn)的深入理解中獲益，而這一情況也已經(jīng)開始在諸如斯坦福的Partnership in AI和美國研究機(jī)構(gòu)AI Now（第一家跨領(lǐng)域的人工智能研究所）中發(fā)生。

最后，有必要評估一下在人工智能環(huán)境下開發(fā)的補(bǔ)救措施是否符合《聯(lián)合國商業(yè)與人權(quán)指導(dǎo)原則》中所規(guī)定的補(bǔ)救有效性標(biāo)準(zhǔn)，如合法、可獲得、可預(yù)見、公平、透明、與權(quán)利兼容、基于參與和對話。

這些問題的答案只會隨著時(shí)間的推移而出現(xiàn)，我們需要通過鑒別使用案例來證明如何獲得有效的補(bǔ)救措施。期待與各行業(yè)的公司展開合作，進(jìn)一步探討這些重要話題。endprint