摘要：人工智能的設計倫理研究并非新事，不斷發(fā)展的人工智能技術為人類帶來便利的同時，伴隨復雜環(huán)境而來的人機矛盾也逐漸顯現(xiàn)，反復探究人工智能產(chǎn)品可能埋下的隱患以及如何實現(xiàn)設計階段的倫理反思是幫助人工智能走向“良善”的應有之舉。因此，文章探究設計對人工智能產(chǎn)品的倫理規(guī)約，設計行業(yè)之善想要最終形成歷史進程之善，需要多學科、全行業(yè)和政策的共同支持，人機關系和諧背后是人際關系的處理以及人性與資本、科技的博弈，梳理與分析這些問題，是倫理介入人工智能設計環(huán)節(jié)的前提，它將幫助設計引導人工智能實現(xiàn)“良善”的未來。

關鍵詞：設計之善;人工智能;設計倫理;奇點;人機關系

中圖分類號：B82-057 文獻標識碼：A 文章編號：1004-9436（2022）08-00-03

從1956年達特茅斯會議提出AI（Artificial Intelligence）概念，到1968年菲利普·K.迪克的小說《仿生人會夢見電子羊嗎？》中“妄圖成為人類”的“生命”進行的抗爭，再到人工智能早已不再停留于理論層面的當下，具備智能的機器到底意味著什么，又該如何處理人機關系等，人們從未停止對這些問題的思考。過去只存在于小說、電影中的情形逐漸變?yōu)楝F(xiàn)實，人類需要面對的一系列倫理問題也隨之而來。如果人類不能將倫理反思前置到設計階段，只在問題發(fā)生后提出批評，那所做的一切也不過是亡羊補牢罷了。越早將人工智能的設計倫理問題納入考量，就能越早地處理人機矛盾，從而避免人工智能技術引發(fā)嚴重的人機沖突，并從設計層面實現(xiàn)人工智能的“向善”發(fā)展[1]。

1 倫理規(guī)約何以由設計伊始

當人們意識到設計已滲透到人類生活的方方面面后，對設計的定義便不再局限于它是一種有限的人類活動。理查德·布坎南曾對設計有如下理解：“當代生活的每個角落都有設計，如規(guī)劃、實施或作業(yè)假設等都是設計的表現(xiàn)，亦構(gòu)成了目的性活動的目的本身，設計是形塑人類體驗（塑造人類經(jīng)驗）的重要因素?！盵2]在這里，設計被理解為一種人類特有的思維方式，它是站在更宏觀的視角整體、系統(tǒng)地指引人類未來走向。在此意義上，將人工智能產(chǎn)品的應有面貌與未來建構(gòu)視為一種設計，它有義務不斷向自身與周遭發(fā)問，并在循環(huán)演進之中為人工智能產(chǎn)品明晰思路，提供倫理框架。

2 設計之善的四重維度

在探討設計倫理如何介入人工智能設計環(huán)節(jié)之前，有必要理解應該從哪些維度詮釋設計之善。設計的善是設計最基本的價值追求，與此相關的設計方法論分支是設計倫理學[3]。張黔先生在《設計方法論的構(gòu)成譜系》中將設計之善歸納為四個維度，不同維度體現(xiàn)的是對設計之善理解上的層次差異，分別是設計服務對象、設計師的價值尺度、設計效應以及設計評價標準。其中，設計師的價值尺度、設計效應以及設計評價標準是對設計師本人的要求，設計師需要在消費者和生產(chǎn)者之間充當溝通、協(xié)調(diào)的角色，從雙方不同的利益訴求中找到共同的價值尺度。另外，設計師必須充分權衡設計帶來的近期效應與遠期效應，并使自己的設計與社會的、長期的利益保持一致。

需要注意的是，設計作為動態(tài)的存在，其評價標準也處在變動之中，設計之善只是一個籠統(tǒng)的概念，時代變化帶來的全新問題會影響設計之善具體的內(nèi)容。敏銳知悉新的標準，才是實現(xiàn)設計持續(xù)的正面價值的關鍵。張黔先生的這篇文章用凝練概括的語言闡述了設計之善應該從何考量，但也折射出設計倫理本身實施可能遇到的巨大困難與矛盾，他寫道：“設計之善，不是一時之善，不是一人或一企業(yè)、一行業(yè)之善，從根本上是整個人類、整個歷史進程之善?！盵3]設計師或設計行業(yè)，想要貫徹設計之善，往往意味著需要與資本、技術博弈。隨著設計跨學科傾向愈發(fā)明顯，如果設計之善的內(nèi)核不能夠在生產(chǎn)設計環(huán)節(jié)達成跨學科共識，促成歷史進程之善則十分困難。在人工智能技術不斷發(fā)展的今天，設計所要面對的早已不是簡單的節(jié)能、環(huán)保、可持續(xù)發(fā)展等評價標準，隨著復雜環(huán)境而來的是有關身體、控物能力、技術強權等一系列問題，如何解決這些問題，是設計對人工智能產(chǎn)品進行倫理規(guī)約的關鍵所在。

3 被虛構(gòu)的身體與數(shù)字化聯(lián)結(jié)

視頻主播是真實存在的人還是繁復代碼構(gòu)成的虛像？虛擬數(shù)字人代言的口紅，廣告詞“滋潤不拔干”是否值得相信？中央美術學院2022年畢業(yè)季虛擬學生元徠的作品能算是“獨立人格”進行的創(chuàng)作嗎？人工智能技術似乎在不斷挑戰(zhàn)人們對于“真實”的認知，社會的非物質(zhì)化進程因人工智能技術而得到了空前加速，它的速度之快、光景之炫目甚至令人們無暇思考——當人們的精神全然賦予虛擬數(shù)據(jù)，情感的另一端聯(lián)結(jié)運轉(zhuǎn)的光纖，真實世界的身體又該如何自處？

早在20世紀末，第亞尼就在《非物質(zhì)社會：后工業(yè)世界的設計、文化與技術》一書中指出，與過去相比，非物質(zhì)社會將發(fā)生的最根本的改變，即思想觀念和思維方式的改變，“多數(shù)傳統(tǒng)的‘兩極對立，如物質(zhì)與非物質(zhì)的對立、精神與身體的對立、天與地的對立、主觀主義與個人主義的對立等等，眼看著一個個消失了”[4]。對立的消失意味著“邊界”將變?yōu)椤斑吘墶保斑吘墶笔菍α㈦p方融合、對話、拼貼、交融的場所。這也許就是為什么在人工智能時代人們依然對“身體”有所執(zhí)著，盡管人們追求的是“身體”在數(shù)字化社會投射的“象”?！爱敩F(xiàn)實與非現(xiàn)實、真實物品與它們的表象之間的界限在人們心目中變得越來越模糊時，當人們再也弄不清真實顯現(xiàn)與替代性顯現(xiàn)之間的等同時，人類還有沒有能力來控制現(xiàn)實？”[4]第亞尼書中的提問仿佛一個清脆的耳光，在光怪陸離的數(shù)字世界，人們選擇沉淪還是保持清醒，這是不得不思考的問題，也應該是設計提醒人們?nèi)ニ伎嫉膯栴}。不同于張黔先生為設計之善提出的四重維度，第亞尼書中收錄的最后一篇文章《從尼安德特人到數(shù)字化的人》并未詳細描述數(shù)字社會中的設計應該是何種樣貌，但通過他提出的眾多設計倫理問題，人們依然能夠為當下人工智能產(chǎn)品應持有的“良善”勾勒出輪廓：將社會中最重要但又最脆弱的社會要素——人始終放在首位，這不是簡單的“以人為本”，而應該是跨越設計學、人類學、社會學、哲學等眾多學科進行學科交叉研究的成果。

4 奇點啟示錄

“智能并不是人之為人的全部，人還有一個智慧與意義的世界。”[5]精神世界似乎是人類與人工智能抗衡的最后陣地，可如果失去對現(xiàn)實之物的控制力量，人們對超人工智能來說不過是會思考的“猩猩”。不過，這場未來也許會發(fā)生的人機沖突，可能正來自人類控物能力與控己能力之間的失衡，對物的過分追求最終使人類失去對物的控制力。

何懷宏先生在《奇點臨近：福音還是噩耗——人工智能可能帶來的最大挑戰(zhàn)》一文中從哲學角度將人工智能時代人類所要面臨的問題極致化，當“奇點”到來時，超人工智能是否會讓全人類成為“無用之人”？比人更聰明、更有控制物的力量的超級智能機器，怎么還會繼續(xù)服帖地充當人類的仆人呢？何懷宏先生更多地持有將“奇點”的可能來臨視作一種警訊的觀點，并且指出想要從根本上避免人類被超人工智能取代，最根本的出路也許是放慢甚至停止對科技的發(fā)展、對人工智能的發(fā)展，減弱人類的控物能力。但他也指出，停止對人工智能的發(fā)展需要在根本上改變?nèi)诵院腿诵模@是幾乎不可能達到的，雖然難以達到，但這是人類尚能干預與妥協(xié)的領域。這意味著，想要在人工智能設計環(huán)節(jié)達成設計之善，在處理好人機關系之前，應預先處理好人與人之間的關系，這種關系不必苛求完美，而應追求一種和諧。

“災難之所以最終沒有發(fā)生，正是一些人擔心和預警而使人們采取行動的結(jié)果?！盵5]這也是為什么要在人工智能技術為人類帶來好處與歡樂的當下敲響警鐘，并盡早將設計之善納入人工智能設計的考量之中。畢竟，“奇點”最終是福音還是噩耗，取決于人類何時反思、如何反思以及采取何種行動。

5 設計的抵抗姿態(tài)

上述三篇文獻分別從設計之善的認識論基礎、非物質(zhì)社會可能面臨的設計倫理問題以及人工智能倫理問題的哲學考量三個角度帶來啟示，但如何將設計之善貫徹設計的全過程，答案依然是模糊的。周志禹先生則在《人工智能系統(tǒng)及產(chǎn)品設計的倫理問題探究》一文中提出了詳盡的設計倫理實施路徑。他首先列舉人工智能可能帶來的包括貧富差距、數(shù)據(jù)壟斷、算法操縱等十大問題，由此提出倫理介入人工智能設計環(huán)節(jié)的緊迫性，并指出人工智能熱潮背后的驅(qū)動力——資本，它的增值有時是盲目而不計后果的，需要予以足夠的警惕，這是站在更為宏觀的視角提出的面向國家、社會的呼吁，需要政府適時出臺相應約束資本的政策。而在個人或行業(yè)層面，特別是對設計師來說，既要積極掌握人工智能技術，讓工具為自身所用，又要形成一種抵抗姿態(tài)，避免應用有設計缺陷的人工智能并防止人工智能形成自主的侵犯。

周志禹先生在文章最后一部分指出，負責任的設計一定要詢問：設計的目的是什么？但也發(fā)現(xiàn)，設計師的主觀能動性往往難以與大型的人工智能研發(fā)公司相抗衡，而將希望全然寄托于研發(fā)公司和科研人員的自覺顯然是不負責任的。因人工智能引起的復雜問題，應邀請更多的學科參與討論，共同營造一個以“人工智能理應良善”為常識的社會環(huán)境，消費者也應當積極提出對人工智能產(chǎn)品進行倫理規(guī)約的要求，從消費端推動研發(fā)公司進行設計規(guī)劃上的配合。

與何懷宏先生的觀點“人機關系背后事實上是人與人的關系”[5]一致，周志禹先生同樣認為“在建立設計倫理的時候，警惕的是人：反人道主義科學家或不正當利用人工智能者。來自人工智能的威脅其實也是來自人類本身的威脅”[6]。因此，設計之善對人工智能產(chǎn)品進行的倫理規(guī)約，本質(zhì)上克服的是人性之中的諸多缺陷，追求的是人機關系背后人際關系的和諧，而設計扮演的角色是交流的中介，它要能夠幫助人工智能技術所有的利益相關者暢通地互動，并通過利益相關者的參與和反饋進一步完善自身，在此循環(huán)演進過程中，不斷為人工智能產(chǎn)品的倫理導向提供思路，以達成規(guī)約人工智能產(chǎn)品的目的。

6 人性與資本的博弈

周至禹先生在《人工智能系統(tǒng)及產(chǎn)品設計的倫理問題探究》一文中洞察到需要警惕盲目的資本，吳軍先生則在《智能時代：大數(shù)據(jù)與智能革命重新定義未來》一書中認為，將個人隱私泄露等智能時代所帶來的問題寄托在數(shù)據(jù)擁有者的善意上是人們一廂情愿的行為，他的這一觀點佐證了周至禹先生對資本的看法。那么問題是，應該如何看待資本的混沌狀態(tài)呢？吳軍先生鼓勵人們加入資本一方，擁抱新技術，成為技術革命中受益的那2%的人[7]。但數(shù)字鴻溝導致每個人接觸新技術的機會并不是均等的，如果按照吳軍先生認為的技術革命必然犧牲一部分人的利益，人們要做的是避免自己成為被犧牲的那部分，如此逐利，那么設計之善或者社會之善便失去了實施的土壤。

吳軍先生站在技術理性的角度呼吁個人、企業(yè)、國家積極面對智能時代的到來，這種態(tài)度并沒有錯，但他的觀點難免會被企業(yè)家們當成資本利用新技術不計后果謀發(fā)展的借口。確實應該發(fā)展人工智能技術并充分使用它，可究其根本它只是一種工具，工具不是人肆意使用的理由，也不該是企業(yè)為了牟利而拋棄善意的借口。也就是說，即使人工智能產(chǎn)品在設計過程中已經(jīng)考量了如隱私、信任、知情同意、無偏見等一系列問題，設計師們也只是呈現(xiàn)出了可能達成設計之善的產(chǎn)品，而最終人工智能產(chǎn)品能否被正確使用，其背后仍然是人性與資本之間的博弈。

7 結(jié)語

設計對人工智能產(chǎn)品進行倫理規(guī)約，為人工智能倫理的建構(gòu)提供了新的思路，通過設計的方式將倫理價值嵌入人工智能技術中，使人工智能技術表現(xiàn)出“向善”的倫理意圖，是設計的責任所在。但是，正如上述文獻中提出的，人工智能設計所要面臨的是復雜的價值沖突問題，設計既要協(xié)調(diào)自身與資本的關系，又需要形成完善的設計倫理框架，其間的諸多矛盾，顯然僅靠設計行業(yè)是難以調(diào)解的。設計之善是人工智能產(chǎn)品擁有“善”的內(nèi)核的基礎，而在產(chǎn)品的使用、傳播過程中形成良性互動，需要多學科、全行業(yè)以及政策的共同支持，如此，方能對人工智能產(chǎn)品構(gòu)建的未來有所期待。良善方能致遠，如果“奇點”將在不久的未來降臨，那么今日設計之善或許能成全來日人類的一方樂土。

參考文獻：

[1] 于雪，李倫.人工智能的設計倫理探析[J].科學與社會，2020，10（2）：75-88.

[2] 理查德·布坎南，維克多·馬格林.設計思維中的抗解問題[M].設計的觀念：設計問題讀本[M].張黎，譯.南京：江蘇鳳凰美術出版社，2018：25.

[3] 張黔.設計方法論的構(gòu)成譜系[J].設計藝術研究，2017，7（2）：41-46，57.

[4] 馬克·第亞尼.非物質(zhì)社會：后工業(yè)世界的設計、文化與技術[M].滕守堯，譯.成都：四川人民出版社，1998：3-27.

[5] 何懷宏.奇點臨近：福音還是噩耗：人工智能可能帶來的最大挑戰(zhàn)[J].探索與爭鳴，2018（11）：50-59，117.

[6] 周至禹.人工智能系統(tǒng)及產(chǎn)品設計的倫理問題探究[J].創(chuàng)意與設計，2019（1）：23-30.

[7] 吳軍.智能時代：大數(shù)據(jù)與智能革命重新定義未來[M].北京：中信出版社，2016：237-260.

作者簡介：周姣彤（1993—），女，湖北武漢人，碩士在讀，研究方向：設計史論。