本力

《當世界史的指針逆轉(zhuǎn)之時》

（德）馬庫斯·加布里爾著

時晨譯

廣東人民出版社，2023年2月

微軟公司創(chuàng)始人比爾·蓋茨近日在其個人博客“Gates Notes”上發(fā)表了一篇題為《人工智能時代已經(jīng)開啟》的博文。一如當年預言互聯(lián)網(wǎng)時代到來的《未來之路》，文中描繪的前景不免令人神往。

尤其讓人心潮澎湃的是，比爾·蓋茨說，“1980年首次看到圖形用戶界面以來，OpenAI的GPT人工智能模型是我所見過的最具革命性的技術進步。”當然，文中也提到了一些眾所周知的風險：“我明白為什么——它引發(fā)了關于勞動力、法律體系、隱私、偏見等一系列尖銳問題。同時人工智能也會犯事實性錯誤并產(chǎn)生幻覺?！?h3>進步與退步之間

很少有人知道，就在這場人工智能（以下簡稱“AI”）新時代的狂歡到來之際，微軟已然將其AI部門中的倫理和社會團隊裁撤。本來，作為數(shù)字經(jīng)濟從未缺席的弄潮兒，微軟一直以在技術倫理方面的遠見卓識而為人稱道。2018年，微軟出版了《未來計算》一書，其中提出了人工智能開發(fā)的六大倫理原則：公平、可靠和安全、隱私和保障、包容、透明、責任。同年，微軟公開發(fā)布了報告《未來基石——人工智能的社會倫理和角色》。為確保AI等新一代信息技術的發(fā)展更加負責且符合倫理道德方面的要求，微軟長期擁有一支倫理和社會團隊，并在2020年達到30人的規(guī)模。但在2022年10月，該團隊已經(jīng)縮減到7人，2023年被全部裁撤。

這種矛盾很像偉大的哲學家維特根斯坦所提出的：一方面，道德總是被人類當作梯子，得到好處就踢掉它；另一方面，人的一生就是一場道德拼爭，就是一場與自己本性的戰(zhàn)斗——努力去做一個更好的人。

毋庸諱言，這是個技術驅(qū)動、價值退縮的大時代，筆者早在2017年曾用“在進步與退步之間”來形容這種窘境。最近讀到德國當代新銳哲學家馬庫斯·加布里爾教授的《當世界史的指針逆轉(zhuǎn)之時》一書，更意識到這種變化并非局部，而是在全球范圍、諸多領域都出現(xiàn)了逆轉(zhuǎn)的趨勢。

筆者“在進步與退步之間”一文中更多表達的是：要接受和應對科學與人文這兩種文化的對立，以及“逆全球化”加劇的事實，并看到“進步是不可避免的”長期趨勢。而加布里爾教授的判斷簡直石破天驚，那就是“歐洲各國正密切回望19世紀的模式，并不約而同地加快了回歸的步伐”。至于美國，他認為本身就是“以各種方法效仿19世紀的歐洲模式”，這種奇跡般重現(xiàn)可以用“擬態(tài)”形容。當然，在他看來，日本等發(fā)達國家也概莫能外，都是“擬態(tài)”回歸19世紀歐洲的優(yōu)等生。

19世紀當然象征著人類文明的輝煌，科技進步、文化昌盛、秩序井然。不過不幸的是，這種發(fā)達和強大也孕育出了20世紀的兩次世界大戰(zhàn)。加布里爾的言下之意是，人類在汲取20世紀慘痛歷史教訓中所取得的巨大進步正在逐步喪失。

“數(shù)字化”是這個世界最近幾十年最重要的潮流，信息技術帶來的變革和進步正在深刻改變著人類社會。但是，在釋放出巨大生產(chǎn)力和效率的同時，其負面影響也不容回避。例如，互聯(lián)網(wǎng)廣泛應用后，信息的真實性以及社交媒體對人的控制備受質(zhì)疑，“我們與事實（或真實）之間的關系不斷發(fā)生著變化，現(xiàn)實和非現(xiàn)實的界限已變得非常模糊”。

后真相所產(chǎn)生的問題不僅僅是人們得到了一些虛假的、帶著情緒的，甚至包藏禍心、極端化的信息，更可怕的是人類在認知層面上的退化。出于迎合而不是啟發(fā)人們，偏執(zhí)、膚淺信息越來越多，社會越來越失去共識，公共空間越來越成為極端化言論的舞臺。

凱文·凱利的《失控》被譽為互聯(lián)網(wǎng)浪潮的經(jīng)典之作，但“數(shù)字化”還帶來了權(quán)力的“失控”。奈飛在2020年推出的熱門紀錄片《監(jiān)視資本主義：智能陷阱》揭開了硅谷精英們良心遭受譴責的秘密。這其中除了虛假信息泛濫、大數(shù)據(jù)操縱公眾、社交媒體上癮等技術倫理問題，硅谷高科技公司利用平臺優(yōu)勢，源源不斷地收集和挖掘人們的原始行為數(shù)據(jù)，并從商業(yè)目的出發(fā)操弄用戶的行為，也被認為是對社會的巨大威脅。不應忘記，技術也是一種權(quán)力，而且由于技術的復雜性，這是非常不易受約束的權(quán)力。在推崇企業(yè)技術賦能的同時，也需要多關注“用戶失能”的問題。

多數(shù)人可能認為數(shù)字化的過程以及數(shù)字化背后的現(xiàn)代性是一種全面的進步。但是現(xiàn)代化其實很容易被權(quán)力濫用，這個進步背后有一個重大的破壞性問題。比如，兩次世界大戰(zhàn)就是系統(tǒng)地將工業(yè)化、現(xiàn)代化的進步成果用于戰(zhàn)爭。

重拾人的主體地位

《當世界史的指針逆轉(zhuǎn)之時》一書認為，世界回歸19世紀，表面原因似乎是信息技術和數(shù)字經(jīng)濟對現(xiàn)當代人類文明和社會進步的沖擊，借“看不見的手”繞過了一個世紀以來形成的國際治理、隱私安全、勞工福利、媒體倫理甚至未成年人保護等方面的措施，但深層次的決定性因素還在于經(jīng)濟，尤其是唯科學論的統(tǒng)計型世界觀。

當然，加布里爾對統(tǒng)計型世界觀的批評并非對統(tǒng)計學有偏見，而是質(zhì)疑當前無孔不入的指標、概率和算法思維。他認為將價值觀置于統(tǒng)計學依據(jù)之下，這是一種純粹的后現(xiàn)代主義思想，進而批評與之相關的新自由主義“是舍棄人存在的理論系統(tǒng)”。如此，假科學為名，人類不愛思考、惰性認同的問題便被盲目地無限放大。

該書給出的答案是重拾人的主體地位，經(jīng)濟制度的目標應該是提升人性而不是統(tǒng)計數(shù)字。具體的方向是重新思考道德意義，并明確指出“道德企業(yè)將決定22世紀的政治結(jié)構(gòu)”。還提出了一個烏托邦式的建議：“不能雇傭?qū)Ｓ貌┺恼搧砝孟M者和生產(chǎn)者信息差的經(jīng)濟學者，必須雇傭倫理學者”。

這不免讓人想起黃仁宇先生在《萬歷十五年》一書中所提出的一個根本問題：“要從技術的角度看歷史，而不是從道德的角度檢討歷史”。如歷史學家王家范先生所言：中國歷代沒有能“在數(shù)目字上管理”，缺乏中層的技術操作環(huán)節(jié)，是妨礙向現(xiàn)代化順利轉(zhuǎn)型的重要癥結(jié)。

數(shù)目字管理不正是統(tǒng)計型世界觀的一種說法嗎？而與之相對應的被黃仁宇先生質(zhì)疑的“道德的角度”，又恰恰成為加布里爾極力推崇的當務之急。黃仁宇的思路和加布里爾所推崇的方向可謂背道而馳，世界史的指針真的逆轉(zhuǎn)了？

這里需要搞清楚兩個問題。其一涉及對現(xiàn)代化與道德關系的理解。吉登斯認為，脫嵌是理解現(xiàn)代性的關鍵。與傳統(tǒng)的狩獵時代以及游牧社會、農(nóng)業(yè)社會不同，脫嵌機制把社會關系和信息交流從具體的時空情境中提取出來，但與此同時又為它們重新植入提供新的機會。這也正是我們今天的諸多幸福和很多不幸的來源。例如，貨幣就是一種典型的脫嵌機制，脫嵌制度極大地拓展了時間空間限制，但它需要建立在信任的基礎上——對抽象能力的信任和專家系統(tǒng)的信任。這種信任正是以現(xiàn)代化了的道德為基礎，而且有會計、法律、信息等制度和技術保障。這就不難理解，脫嵌機制為當今世界提供了大面積的安全，但是創(chuàng)造出來的新型風險也足以令人生畏。一言蔽之，類似啟蒙運動與工業(yè)革命的關系，技術的現(xiàn)代化和道德的現(xiàn)代化并不矛盾，而是相互支持。

其二，人文思維和科學的導向并不一樣。在近現(xiàn)代科學的大發(fā)展之前，人類其實長期生活在一個有著崇高意義和道德目的的生機勃勃的世界里。但是現(xiàn)在，需要賦予意義并且通過感官、情感、情緒體驗理解的人文思維被推翻了。與我們在暢想未來的人工智能時代相映成趣的是，人文主義者認為，我們已經(jīng)變成了神經(jīng)連線、基因編碼的機器人。只是，這些人文主義者全然沒有影響力和話語權(quán)。因此，與把英國作為統(tǒng)計型世界觀的反面教材不同，加布里爾認為，“除了純粹統(tǒng)計、經(jīng)濟戰(zhàn)爭和博弈論，美國一直有著一整套非常保守的價值體系。從整體上看，美國委實是個強有力的保守國家?！?/p>

回到本文開篇談到的，比爾·蓋茨對人工智能時代的預言和微軟公司裁撤倫理團隊。雖然看起來有些矛盾，但也許這兩個方面的言行正是一盤棋。只不過，一個是戰(zhàn)略上的，另一個是戰(zhàn)術上的。戰(zhàn)略上需要為股東和利潤負責，戰(zhàn)術上是為人類和社會負責。戰(zhàn)略上“形勢比人強”，戰(zhàn)術上卻“從善如登”。這很難不讓人想起茨威格說的那番話：“我們共同的理想主義，我們進步中必然產(chǎn)生的那種樂觀主義使得我們低估和忽視了我們共同的危險?！?/p>

在沸騰狂熱之中，我們聽到了另一種聲音。近日，圖靈獎得主約書亞·本吉奧和埃隆·馬斯克為首的1000多位知名人士聯(lián)名發(fā)公開信呼吁所有人工智能實驗室立即暫停訓練比GPT-4更強大的人工智能系統(tǒng)。

他們提出了一系列問題：“我們必須問自己：我們應該讓機器充斥我們的信息渠道，散布宣傳和不實信息嗎？我們應該自動化所有工作，包括那些令人滿意的工作嗎？我們應該發(fā)展可能最終比我們更多、更聰明、更先進、取代我們的非人類智能嗎？我們應該冒失去對文明的控制的風險嗎？”

因此，筆者贊同《當世界史的指針逆轉(zhuǎn)之時》一書對人工智能時代的倫理學轉(zhuǎn)向的判斷，普及倫理學與培養(yǎng)倫理人才刻不容緩，我們需要調(diào)整位置，把事關人類文明未來的倫理作為戰(zhàn)略甚至成為更高的行動綱領，而把技術和利潤置于其之下。

（編輯：臧博）