董見

從數(shù)百萬美元的勒索軟件賠款，到數(shù)億用戶私人信息的數(shù)據(jù)泄露，圍繞惡意技術(shù)的頭條新聞一直很吸引眼球，但它們并不能說明全部問題。真實(shí)情況是，惡意技術(shù)遠(yuǎn)不止蓄意的、有針對性的破壞系統(tǒng)或竊取用戶數(shù)據(jù)。盡管黑客攻擊、勒索軟件攻擊、數(shù)據(jù)泄露和DDoS攻擊在這類新聞敘述中占據(jù)著主導(dǎo)地位，也的確造成了嚴(yán)重?fù)p害，但實(shí)際上它們只是滄海一粟。

首先要擺正心態(tài)，不要對“惡意技術(shù)”一詞感到過于恐慌。這里談?wù)摰牟粌H是技術(shù)攻擊本身，需要更廣泛地思考。

惡意技術(shù)并不單純指非法行為，例如，有些人完全樂于接受在線監(jiān)控，因?yàn)檫@可以幫助他們獲得更精準(zhǔn)、更具個(gè)性化的推薦。也有另外一些人會(huì)不遺余力地躲避任何數(shù)字監(jiān)控的追蹤，因?yàn)檫@在他們看來是不道德的。

有些技術(shù)看似惡意，其出發(fā)點(diǎn)卻并不如此。例如，圖像識別軟件的開發(fā)者不會(huì)刻意讓軟件在識別到黑人面孔時(shí)提供不一致的結(jié)果，只是由于軟件現(xiàn)階段有一個(gè)糟糕的數(shù)據(jù)集，才會(huì)呈現(xiàn)出看似有偏見的結(jié)果，而這些并非開發(fā)者的本意。這些都不是惡意的項(xiàng)目，當(dāng)然也不歸屬于惡意的品牌，在許多情況下，它們甚至不是設(shè)計(jì)或規(guī)劃上的失敗，而是團(tuán)隊(duì)沒有充分考慮到一項(xiàng)技術(shù)決定會(huì)對所有潛在的利益相關(guān)者群體產(chǎn)生怎樣不同的影響。

這是一個(gè)關(guān)鍵點(diǎn)。在設(shè)計(jì)之初，軟件通常有一個(gè)特定的利益相關(guān)者群體，設(shè)計(jì)者試圖直接服務(wù)或滿足這一群體的需求，卻常常忽視了該產(chǎn)品對其他利益相關(guān)者的影響。比如訓(xùn)練一個(gè)自然語言處理模型所產(chǎn)生的二氧化碳排放足跡，與紐約和北京之間往返125次航班相同———很少有人考慮到這種環(huán)境上的影響。除此之外還有很多人忽視的公平、公正問題。疫情期間很多教育轉(zhuǎn)入線上，一些家庭沒有良好的網(wǎng)絡(luò)情況，根本無法同時(shí)支撐幾個(gè)孩子共同參與線上課程，更不用說父母也要同時(shí)在家辦公。許多人看到的是數(shù)字教育的精彩革命，但他們沒有看到那些因數(shù)字不平等而被落下的人。

疫情所暴露的數(shù)字不平等和正在發(fā)生的氣候危機(jī)只是原因之二?，F(xiàn)如今，技術(shù)幾乎深深扎根于我們生活的各個(gè)方面———醫(yī)療決定、信貸決定、緩刑或判刑決定，所有這些對個(gè)人生活有巨大影響的事情，都受到技術(shù)選擇的巨大影響。這其中的利害關(guān)系是非常真實(shí)的，而技術(shù)決策者在做這些決定時(shí)卻很少做到全面考慮。這就是為什么對各種組織來說，樹立負(fù)責(zé)任的技術(shù)思維是如此重要。

負(fù)責(zé)任技術(shù)，有時(shí)也被稱為道德技術(shù)或公平技術(shù)，是一個(gè)總括性的術(shù)語，包含了多種概念，總之就是用技術(shù)做正確的事情。這可能意味著任何事情，從采取措施更容易獲得一個(gè)應(yīng)用程序，到實(shí)施政策以幫助持續(xù)提供公平的技術(shù)體驗(yàn)。

從字面上看，這是一個(gè)相對簡單的概念，但仍然被誤解所籠罩。最近讀到一些信息說：“責(zé)任在土木工程等領(lǐng)域很容易定義，你的責(zé)任是確保建筑物穩(wěn)定，不倒塌、不對相關(guān)居民的生活產(chǎn)生負(fù)面影響?！逼潆[藏的含義是，在軟件或技術(shù)領(lǐng)域，這一點(diǎn)很難定義。我們并不像醫(yī)療行業(yè)那樣受到任何形式的“希波克拉底誓言”的約束。但是，當(dāng)涉及到用技術(shù)做出道德以及負(fù)責(zé)任的決定時(shí)，我們常常給自己留了過多的余地。

為了減少技術(shù)所附帶的無意傷害并做出負(fù)責(zé)任的決定，企業(yè)需要著重關(guān)注的是，識別可能受到特定技術(shù)決定影響的潛在利益相關(guān)者。這意味著需要關(guān)注：

受測群體———他們是否真正代表了預(yù)期中將使用該產(chǎn)品的終端用戶群體？這個(gè)過程是否涵蓋了所有利益相關(guān)群體，他們是否有發(fā)聲渠道？

服務(wù)所需數(shù)據(jù)集的質(zhì)量和準(zhǔn)確性———是否沒有偏見，是否能夠提供真實(shí)、全面的反饋和包容性體驗(yàn)？

設(shè)計(jì)中是否考慮到了平等和易用性———以及復(fù)雜的特征或功能是否以整體可用性和可及性為代價(jià)？

這一決策是否會(huì)對人類社會(huì)產(chǎn)生更廣義的負(fù)面影響？例如，它是否與我們的可持續(xù)發(fā)展目標(biāo)相一致，是否有可能破壞環(huán)境？

希望鼓勵(lì)組織做的另一件事是，明確聲明組織關(guān)心什么，以及希望所采用的技術(shù)能幫助實(shí)現(xiàn)什么。正如《數(shù)學(xué)毀滅武器》的作者Cathy O’Neil所說，有些時(shí)候，你必須在公平和利潤之間進(jìn)行交易。

這取決于你想在這個(gè)光譜上處于什么位置，但重要的是要明確目標(biāo)和意圖。本人曾與一個(gè)組織合作，該組織制定了一個(gè)框架，表達(dá)了他們在使用客戶數(shù)據(jù)方面的價(jià)值觀和原則，清楚地闡述了他們打算如何操作這些數(shù)據(jù)，以及為什么會(huì)做出這個(gè)決定。這花了幾個(gè)月的時(shí)間，但這使他們的意圖和道德立場十分清晰，并且容易保持一致。

技術(shù)所產(chǎn)生的無意識傷害有多種形式，可能潛伏在任何技術(shù)決策中。作為技術(shù)管理者，我們有責(zé)任提出正確的問題，并考慮這些技術(shù)將如何被每個(gè)人使用，以及可能對使用者的生活和經(jīng)歷產(chǎn)生怎樣的影響。

轉(zhuǎn)向這種負(fù)責(zé)任的方法和心態(tài)在理論上相對簡單，但在看到有意義的結(jié)果之前，整個(gè)行業(yè)的組織和專業(yè)人士需要做出真正的奉獻(xiàn)。正如我們有責(zé)任保護(hù)客戶數(shù)據(jù)免受惡意威脅一樣，我們也有道德責(zé)任盡我們所能減少技術(shù)所產(chǎn)生的負(fù)面影響，并為所有人建立一個(gè)平等、可訪問的數(shù)字世界。