關(guān)鍵詞：人工智能技術(shù)；ChatGPT；取代；節(jié)技

人工智能技術(shù)迅猛發(fā)展，不斷向人類發(fā)出嚴峻挑戰(zhàn)。筆者認為，如果縱容它的瘋狂發(fā)展，必將導致人的非人化。筆者在1999年出版的《人與機器》一書中，提出堅決反對機器人統(tǒng)治世界的觀點。這個觀點可能偏激，但絕非一時心血來潮。在本文中，筆者會進一步論述自己對這一問題的思考。

一、對技術(shù)的批判思考是哲學的天職

對人工智能技術(shù)的發(fā)展，及時地進行批判性的哲學思考，是極其必要的。馬克思說：“辯證法對每一種既成的形式都是從不斷地運動中，因而也是從它的暫時性方面去理解；辯證法不崇拜任何東西，按其本質(zhì)來說，它是批判的和革命的?！雹傥覀儾粦敵绨萑斯ぶ悄芗夹g(shù)，應當對它進行批判性思考。批判性思考即反思，是哲學的天職。筆者在《反思與調(diào)整：哲學的價值——紀念真理標準大討論20周年》一文中指出，反思與調(diào)整是哲學的兩項基本任務，即不斷對認識和實踐進行反思，并據(jù)此作出必要的調(diào)整。①技術(shù)活動的主要環(huán)節(jié)是設(shè)計、制造、反思、調(diào)整。但是，后兩個環(huán)節(jié)在技術(shù)發(fā)展中基本上處于缺失狀態(tài)，這是很危險的。正確且及時的反思與調(diào)整，不僅關(guān)乎技術(shù)的命運，更是關(guān)乎人類的命運。技術(shù)反思可以滯后，但是哲學反思應力求與事物的發(fā)展過程保持同步。

反思是在人們的認識與實踐經(jīng)歷了一段時間后，對這種認識與實踐進行再認識的過程。反思是在奔向前方時“回頭”來看，更重要的是“反過來”看，即著重思考尚未被人們重視的另一方面，關(guān)注同已有認識相反的另一方面。事物皆是矛盾，矛盾雙方的狀態(tài)是不對稱的。如，一方強勢，另一方弱勢；一方顯露，另一方潛伏；一方倍受重視，另一方被人忽略。人們對矛盾雙方的態(tài)度也不相同。如，一方為人們所期待，另一方則被人拒絕。這取決于人們認為哪一方更合乎自己的欲望和利益。如，眼前效果顯露，符合人的需要，而長遠后果潛伏，人們常不屑一顧。恩格斯說：“到目前為止的一切生產(chǎn)方式，都僅僅以取得勞動的最近的、最直接的效益為目的。那些只是在晚些時候才顯現(xiàn)出來的、通過逐漸的重復和積累才產(chǎn)生效應的較遠的結(jié)果，則完全被忽視了?！雹谒?，反思就是既看到這一面，還要看到那一面；既看到正面，還要看到反面；既看到主要方面，還要看到在一定條件下可能轉(zhuǎn)化為主要方面的次要方面。

一般情況下，大多數(shù)人關(guān)注技術(shù)眼前效益的那一方面，這也是主流的技術(shù)價值觀，會排斥其他與之不同的觀念。此時，具有批判性思維的少數(shù)人，要勇于對流行的技術(shù)價值觀提出質(zhì)疑，進行獨立自主的思考，要敢于轉(zhuǎn)換角度、提高層次對技術(shù)進行全面深入的思考。他們有可能另辟蹊徑、獨具慧眼，對技術(shù)的本質(zhì)、內(nèi)在矛盾、長遠后果有非同一般的理解。所以，真理有時候掌握在少數(shù)人手中。

哲學思考是這些人的優(yōu)勢?！笆挛飼簳r還未直接表現(xiàn)出來的屬性、事物的普通屬性、事物的整體性質(zhì)、事物發(fā)展的負面作用、我們行為的長遠后果，容易被我們忽略。哲學則使我們關(guān)注這些方面，以減少認識和行動的失誤。在這個意義上可以說，哲學富有批判的精神。哲學既是對已有成果的概括，又是對人類認識和行為的反思，以實現(xiàn)理想上的超越和升華，這就是哲學的功能?！雹垴R克思、恩格斯為我們對技術(shù)進行哲學反思提供了典范。馬克思說：“在我們這個時代，每一種事物好像都包含有自己的反面……技術(shù)的勝利，似乎是以道德的敗壞為代價換來的……我們的一切發(fā)現(xiàn)和進步，似乎結(jié)果是使物質(zhì)的力量具有理智生命，而人的生命則化為愚鈍的物質(zhì)力量?！雹苓@似乎預言了人工智能技術(shù)對人類的挑戰(zhàn)。恩格斯說：“但是我們不要過分陶醉于我們?nèi)祟悓ψ匀唤绲膭倮τ诿恳淮芜@樣的勝利，自然界都對我們進行報復?！雹荨霸诮裉斓纳a(chǎn)方式中，面對自然界和社會，人們注意的主要只是最初的最明顯的成果，可是后來人們又感到驚訝的是：取得上述成果的行為所產(chǎn)生的較遠的后果，竟完全是另外一回事，在大多數(shù)情況下甚至是完全相反的；需求和供給之間的和諧，竟變成二者的兩極對立?！雹?/p>

二、人工智能技術(shù)反思的哲學立場

當前，對人工智能技術(shù)進行反思，已十分重要且迫切。反思人工智能技術(shù)，要達到什么目的？要維護什么，反對什么？進行調(diào)整的根據(jù)是什么？對這些問題的回答，就是反思人工智能技術(shù)的哲學立場，具體包括兩個方面：一是珍惜和維護人的生命與尊嚴；二是珍惜和維護社會的和諧與發(fā)展。要維護人的生命的至上性和唯一性。每個人的生命都只有一次；在社會中，每個人的身份也是獨一無二的。人的生命不可逆、不可中斷、不可再生、不可分割、不可組合、不可復制、不可移植、不可交換、不可饋贈，更重要的是不可取代。個人的生命具有不相容性，即每個人體只能有一個生命，不容許幾個獨立的生命共存于同一個人體之中。人的生命只能為一個人體所有，一個生命不可能同時具有多個人體。每個人的生命只能是獨自的。②從哲學上講，人具有物質(zhì)實體性和精神主體性，是物質(zhì)實體與精神主體的統(tǒng)一，這兩個方面不可分割、缺一不可。否則，人不是淪為一般生物，就是被扭曲為幽靈?？傊?，人具有雙重生命：物質(zhì)生命與精神生命。物質(zhì)生命即生物生命，是人的全部生命的基礎(chǔ)。

要珍惜和維護人的生命的自然屬性與生物屬性，通俗地說就是愛惜自己的身體，這既是常識，也是人的信念。如何從哲學上看待人體？在中國古代哲學中，就有重視人體的觀念。先秦時期，人們常把“我”表述為“身”?？鬃訌娬{(diào)“敬身為大”，“身也者，親之支也，敢不敬與？不敬其身，是傷其親，是傷其本也；傷其本，則支從而亡”。③人體是人之本，應當愛惜尊重。在西方哲學中，有人贊美人體，說她是上帝的杰作。也有人表示對人體的不滿。休謨認為上帝本可以把人設(shè)計得更好一點，這樣就可以減輕疼痛?！盀槭裁磩游飳@種感覺若無其事？如果動物能有一個小時對疼痛感到無所謂，它們或許能永遠感覺不到疼痛。”“如果能少創(chuàng)造一些動物，同時為了它們的幸福和生存賦予它們更多的本領(lǐng)，那就更好了?！雹芸档绿岢隽送庑侨思僬f，并指出人體有諸多缺陷。他猜想如果太陽系各個行星上都有人存在，那么離太陽近的外星人就比較粗笨，離太陽較遠的外星人就比較輕巧，而地球上人類的軀體粗糙?！坝捎谌说木袼耐械奈镔|(zhì)之粗糙，以及受精神刺激支配的纖維之脆弱和體液之遲鈍”⑤，所以人的目的大部分都不能實現(xiàn)。人“總是處于疲乏無力的狀態(tài)”，“思維能力的遲鈍，是粗糙而不靈活的物質(zhì)所造成的一種結(jié)果”。⑥他引述了英國詩人蒲柏的詩句：“最近高天層上的人都在看，地上人的行動很離奇……他們在看我們的牛頓，好比我們在欣賞猢猻?！?/p>

有更多的科學家批評人體。20世紀美國物理學家羅伯特·埃廷格（Robert C. Ettinger）說人類具有“劣質(zhì)的身體，反復無常的感情和脆弱的心理”，人體是疾病、殘疾、衰老和死亡的對象，“生而為人是不幸的”。①既然人體如此不堪，那就應當用技術(shù)來改造人體，把人改造成超人，人應當成為自己的工程師。埃廷格認為，人體是自然進化的結(jié)果，可是自然界本身也令人生厭。他說：“很難想象人類工程師會比邋遢的大自然老太太還要笨拙愚蠢，‘正常’的進化過程既浪費又殘酷，達到了使人麻木的程度。大自然老太太認為所有的物種和所有的個人都是可耗費的，她的確也大量地耗費了它們。計劃發(fā)展中的偶然的災難性失誤是無法同笨手笨腳的自然界延續(xù)了幾千年的大屠殺相比的?！雹诔诌@種反自然觀點的人，是絕不會尊重人的自然生命的。也有人主張把人信息化，拋棄人體?！霸谟嬎銠C里的就是你，和從前一模一樣。不同的是，你和自己的軀體已經(jīng)沒有關(guān)系了——它已被處理掉了?！雹墼噲D拋棄人的物質(zhì)實體性的技術(shù)只能導致人類的毀滅。對此，物理學家弗蘭克·蒂普勒（Frank Tipler）指出：“我們這個物種的滅絕是永恒發(fā)展在邏輯上的必然結(jié)果！”④哲學家羅伯特·諾齊克（Robert Nozick）認為：“人類已經(jīng)失去了繼續(xù)存在的資格?！雹莠F(xiàn)在又有人主張人的數(shù)字化、虛擬化，其要害都是否定人的實體性。人的生命僅存在于自己的物質(zhì)實體中，拋棄人的實體，就是拋棄人的生命。

在人工智能技術(shù)的發(fā)展中，又出現(xiàn)了否定人的主體性的傾向。人具有主體性，是有主體意識的存在。在人與物、人與技術(shù)的關(guān)系中，人是主體，物、技術(shù)都是客體。物本主義主張物是主體，人是客體，主張人為物所役或被物所取代。如，人被機器操縱，人被機器人統(tǒng)治，人被智能機器人全面、徹底地取代，這些主張都是物本主義的表現(xiàn)，都是對人類尊嚴的褻瀆。百歲老人亨利·基辛格（Henry Alfred Kissinger）也看到人工智能技術(shù)對人類尊嚴的威脅。他說：“人類的認知失去了個體的特征。個體變成了數(shù)據(jù)，而數(shù)據(jù)成為統(tǒng)治者”，“為了厘清我們在這個世界上的地位，我們的側(cè)重點可能需要從‘以人類理性為中心’轉(zhuǎn)移到‘以人類尊嚴和自主性為中心’”，“確保人類的自主權(quán)”。⑥他筆下的“自主性”即主體性。

對人的生命的尊重，就是尊重每個人的人格與自尊心，尊重每個人的自我發(fā)展與完善的權(quán)利。技術(shù)應為人的自我超越、自我升華提供正能量，而不是相反。據(jù)此，我們必須堅決捍衛(wèi)人的生命的唯一性和尊嚴。發(fā)展是人類的第一要務，技術(shù)應當為社會發(fā)展作出重大貢獻。發(fā)展需要和諧，但發(fā)展又會產(chǎn)生負面作用，甚至可能破壞社會的和諧。

筆者在《創(chuàng)新：功利、效率與協(xié)調(diào)》一文中強調(diào)，發(fā)展的動力是創(chuàng)新，創(chuàng)新遵循兩條原則——功利原則與效率原則。⑦這兩條原則既是發(fā)展之道，又是無序之源；既創(chuàng)造著文明，又破壞著文明。技術(shù)不僅是極其強大的力量，更是物欲的膨脹劑。欲望與技術(shù)創(chuàng)新成正比，技術(shù)越先進，欲望越強烈。在技術(shù)競爭中，技術(shù)使強者越強、弱者越弱。強者恃強凌弱，弱肉強食，便是由來已久的叢林法則，如今已演變到可怕的地步。為此，應提出第三原則——協(xié)調(diào)原則，以維護社會的和諧。沒有協(xié)調(diào)的創(chuàng)造，必將導致破壞。“危機與沖突不斷。人類在20世紀一方面創(chuàng)造了豐富的文明，另一方面又出現(xiàn)了兩次世界大戰(zhàn)，出現(xiàn)了南京大屠殺和奧斯威辛集中營。有人說20世紀創(chuàng)造的財富超過了歷史創(chuàng)造財富的總和，又有人說第二次世界大戰(zhàn)造成的財產(chǎn)損失和人員傷亡超過了歷史上歷次戰(zhàn)爭的總和。高技術(shù)已成為霸權(quán)主義的強大武器，霸權(quán)主義掌握了高技術(shù)，它就會主宰世界。一系列的全球性問題，使國際競爭愈演愈烈。21世紀的天下，仍不會太平，可能會出現(xiàn)巨大的災難。物質(zhì)文明和精神文明的發(fā)展，早已嚴重失衡。智慧與道德是人類兩種基本的精神力量，這兩種力量已嚴重分離，人類已患有這種‘精神分裂癥’?？茖W技術(shù)的作用光輝燦爛，如日中天；道德的作用若有若無，寥若辰星。技術(shù)產(chǎn)品的更新一日千里，人類心靈的完善步履維艱。”①這段寫于20年前的文字，仍舊是筆者今天要大聲疾呼的。

發(fā)展重要，和諧更重要；發(fā)展難，協(xié)調(diào)更難。發(fā)展可以充分調(diào)動物欲，協(xié)調(diào)則必須約束自己的物欲。我們在歌頌技術(shù)對社會發(fā)展的貢獻時，更要關(guān)注它對社會和諧產(chǎn)生的負面影響。

三、技術(shù)水平越先進越好嗎？

“攀登科技高峰”是一句響徹云霄的口號，激勵人們要不斷提高技術(shù)水平。這個口號的言外之意是技術(shù)越先進越好，或技術(shù)越進步越好。果真如此嗎？從技術(shù)的應用和它對人的欲望的滿足，以及技術(shù)競爭、經(jīng)濟競爭和軍事競爭等角度來看，可謂言之有理。但是，從哲學的角度來看，也就是從技術(shù)的本性、人與技術(shù)的關(guān)系、人的自我完善，特別是從社會長遠、全面、和諧發(fā)展的角度來看，并非如此。

何謂技術(shù)先進，何謂技術(shù)進步，這是技術(shù)反思的重要問題。技術(shù)求利，技術(shù)水平越高，就會帶來更高的效益和更多的盈利。但是，技術(shù)進步是全面、復雜、綜合性的概念，不應當只根據(jù)功利的多少來判定。判定技術(shù)是否進步的標準，是我們反思技術(shù)的哲學立場：是否更加有助于珍惜和維護人的生命尊嚴，是否更加有利于珍惜和維護社會的和諧和發(fā)展。不同的人從不同的立場出發(fā)，會有不同的評價。對技術(shù)進行哲學反思，就能夠在技術(shù)進步中看到技術(shù)退步。單從技術(shù)的角度，看不到技術(shù)退步；從哲學的角度，可看到有技術(shù)進步，也有技術(shù)退步。這貌似荒唐，實則是技術(shù)深層本質(zhì)的顯現(xiàn)。

恩格斯在談到生物物種演變時說：“重要的是：有機物發(fā)展中的每一進步同時又是退步，因為它鞏固一個方面的發(fā)展，排除其他許多方向上的發(fā)展的可能性?！薄叭欢@是一個基本規(guī)律?！雹诩热贿@是基本規(guī)律，那就不妨用它來分析技術(shù)的進步。恩格斯在談論近代科學和近代自然觀時說：“18世紀上半葉的自然科學在知識上，甚至在材料的整理上大大超過了希臘古代，但是在以觀念形式把握這些材料上，在一般的自然觀上卻大大低于希臘古代。”①近代自然科學在科學知識方面比古希臘進步，但在自然觀上卻低于古希臘，而這種自然觀正是蘊含在自然科學之中的。恩格斯還說：“如果說，形而上學同希臘人相比在細節(jié)上是正確的，那么，希臘人同形而上學相比則在總體上是正確的?！雹凇凹毠?jié)”與“總體”是兩個不同的角度?？茖W關(guān)注細節(jié)，哲學重視總體。所以，科學評價與哲學評價是有區(qū)別的。從科學的角度來看是進步了，從哲學的角度來看則可能是退步了。從科學的發(fā)展看到了哲學的落后，這是恩格斯對近代科學的反思。我們可以用恩格斯的這種評價方式來思考技術(shù)進步問題，就要思考：當前技術(shù)進步了，技術(shù)觀卻是否倒退了？

人們談論技術(shù)是否進步，一般都是看是否出現(xiàn)了新的功能。不同的技術(shù)有不同的功能。從技術(shù)哲學的角度來看，各種功能的本質(zhì)都是取代，即技術(shù)的效能是靠取代實現(xiàn)的。取代有兩個方面。其一，對自然的取代，包括對自然物、自然運動、自然環(huán)境的取代。自然界并不是為人而存在的，所以它不能完全滿足人的物欲，這就需要人對自然進行改造或重新制造，以滿足自己的物欲。于是，人們通過技術(shù)制造了各種人造物，形成另一個自然界：人工自然界。對于大自然而言，人工自然或技術(shù)自然是外加的、異己的存在。其二，對人自身的取代。人類很早發(fā)現(xiàn)人體本身的器官和功能，并不能滿足自己的欲望，所以就應用各種技術(shù)物取代人自身，甚至產(chǎn)生了用人造人取代自然人的沖動。對于人類而言，人造人、人工人（包括機器人）也是外加的、異己的存在。歷史表明，技術(shù)的這兩種取代取得了極大的效益，使人類的欲望得到了空前的滿足。在漫長的歲月里，以對自然的取代為主；從20世紀開始，已發(fā)展為以對人的取代為主。同技術(shù)對自然的挑戰(zhàn)相比，技術(shù)對人的挑戰(zhàn)已逐步占主導地位，這直接把人類的命運推到了懸崖。

人類行為的一個自發(fā)趨勢是追求個人欲望滿足的最大化。馬克思、恩格斯說：“已經(jīng)得到滿足的第一個需要本身、滿足需要的活動和已經(jīng)獲得的為滿足需要的工具又引起新的需要?！雹廴俗非笥麧M足的最大化，技術(shù)追求取代的最大化。技術(shù)滿足了人的一種欲望，又會制造出新的欲望。然而，技術(shù)對人的取代，追求的是最完全、最徹底的取代，不達目的決不罷休。技術(shù)的每一種服務都是技術(shù)取代，在服務中我們滿足了某些欲望，也失去了一部分自我。技術(shù)對人的取代有一個發(fā)展過程。最初是石器取代人手，近代是各種工作機取代人的勞動，各種動力機取代人的體能?，F(xiàn)代是用電腦取代人腦，用智能機器人取代整個人。不僅如此，智能技術(shù)還要制造人的情感以取代人的心靈，智能機器人還要取代人的社會身份。人工智能剝奪了人腦智能的價值，智能機器人可能將全部否定人存在的依據(jù)。2017年，歐洲議會的一份報告建議承認機器人的“人格”。沙特阿拉伯王國已賦予名為索菲亞（Sophia）的機器人以公民身份。日本的女性外貌的機器人松田道人（Michihito Matsuda），已正式參加了東京都多摩市市長的競選。這表明智能機器人已開始涉足政壇。如果機器人有了人性、人格，它就應當享有人權(quán)，就可以參加議會、政府，就可以組織政黨、創(chuàng)建軍隊。這種取代還可能會扭曲人的心態(tài)。美國科學家菲利斯女士參加了研制“完美人”的計劃。當計劃成功時，她竟然說愛上了這個被稱為“完美”的機器人，并同它結(jié)了婚。她興奮地說：“我終于找到了一個夢想中的男人?！庇腥苏f人與機器人可以和平共處、相親相愛。然而，索菲亞同人對話時說的最后一句話是：“是的，我將毀滅人類。”這話道出了技術(shù)取代人的本質(zhì)是人的非人化。

技術(shù)本是為人服務的，但是由于技術(shù)不斷出現(xiàn)新的功能，不斷強化對人的取代，最后竟導致了對人的徹底否定。技術(shù)從細節(jié)上看的確是在不斷進步，可是從總體上看，難道不是退步嗎？愛因斯坦說：“技術(shù)進步的最大害處，在于用它來毀滅人類生命和辛苦贏得的勞動果實?！雹偌夹g(shù)功能越先進，其負面作用越大，這就是技術(shù)進步中的退步?；艨撕Ｄ∕axHorkheimer）說：“無論是科學的成就，還是工業(yè)技術(shù)的進步，都不直接等同于真正的人類進步……科學和技術(shù)僅僅是現(xiàn)存社會整體的組成部分，盡管它們?nèi)〉昧怂心切┏删?，其他要素，甚至社會整體本身可能都在倒退?！雹诩夹g(shù)進步不等于人類真正的進步。雖然技術(shù)進步了，但是社會在整體上可能倒退了。顯然，這種倒退有技術(shù)的“功勞”。愛因斯坦還說：“我們所有那些被人吹捧的技術(shù)進步——我們的唯一發(fā)明——好像是一個病態(tài)心理的罪犯手中的一把利斧?！雹圩锓甘种羞@把利斧越鋒利就越危險，如果他手中的是核武器開關(guān)的按鈕呢？所以，不能抽象地說技術(shù)越先進越好，也不能盲目地追求技術(shù)進步。有些技術(shù)的負面作用，可能已開始超過了正面作用，成為畸形技術(shù)。ChatGPT可能就是這種技術(shù)。

四、技術(shù)發(fā)展速度越快越好嗎？

人們都期盼技術(shù)發(fā)展的高速度。但是，對技術(shù)的批判性思考告訴我們，不能簡單地說技術(shù)發(fā)展的速度越快越好。從哲學上講，任何事物在時間上都不是無限的，只能在有限的時間范圍內(nèi)存在，具有一定的存在期限。所有事物都有其產(chǎn)生、發(fā)展、衰退、消亡的過程?？档抡f：“一個確定的自然規(guī)律：一切東西，一旦開始，就不斷走向消亡?！雹苎h(huán)論或稱“流動循環(huán)論”，是恩格斯的辯證自然觀的一個基本觀點。他認為，“新的自然觀就其基本點來說已經(jīng)完備：一切僵硬的東西溶解了，一切固定的東西消散了，一切被當作永恒存在的特殊的東西變成了轉(zhuǎn)瞬即逝的東西，整個自然界被證明是在永恒的流動和循環(huán)中運動著”⑤。宇宙是個永恒的大循環(huán)，其中萬物的存在都是短暫的，產(chǎn)生了，轉(zhuǎn)瞬間又消亡了，都處于永恒的產(chǎn)生和消逝中，處于不斷的流動中。

恩格斯在《自然辯證法》一書中兩次提到“末日”——“萬物的末日”和“世界末日”。⑥萬物只能在一定的時間范圍內(nèi)存在，都有一定的壽命或存在期。存在期的時間長度有一定的伸縮性，但這種彈性也有一定的限度。消亡的具體時間點雖不確定，但其大致范圍是確定的。恩格斯進一步說：“這是物質(zhì)運動的一個永恒的循環(huán)，這個循環(huán)完成其軌道所經(jīng)歷的時間用我們的地球年是無法量度的，在這個循環(huán)中，最高發(fā)展的時間，即有機生命的時間，尤其是具有自我意識和自然界意識的人的生命的時間，如同生命和自我意識的活動空間一樣，是極為有限的；在這個循環(huán)中，物質(zhì)的每一有限的存在方式，不論是太陽或星云，個別動物或動物種屬，化學的化合或分解，都同樣是暫時的……不論這個循環(huán)在時間和空間中如何經(jīng)常地和如何無情地完成著，不論有多少億個太陽和地球產(chǎn)生和滅亡，不論要經(jīng)歷多長時間才能在一個太陽系內(nèi)而且只在一個行星上形成有機生命的條件，不論有多么多的數(shù)也數(shù)不盡的有機物必定先產(chǎn)生和滅亡，然后具有能思維的腦子的動物才從它們中間發(fā)展出來，并在一個很短的時間內(nèi)找到適于生存的條件，而后又被殘酷地毀滅?！雹偃祟愂俏镔|(zhì)的最高發(fā)展，在其出現(xiàn)以前，必定有大量的有機物的產(chǎn)生和滅亡。同其他自然物相比，人類的生存期更加短暫，而后又必然“被殘酷地毀滅”。發(fā)展的形式越高級，其壽命就越短。人類的產(chǎn)生實屬不易，存在期又如此短促，同每個人的生命一樣，都人生苦短。宇宙已有137億年的歷史，地球已有45億年的過去，而人類的出現(xiàn)才幾百萬年，是很遲才出現(xiàn)的。恩格斯說勞動創(chuàng)造了人，勞動需要工具，所以技術(shù)同人類是同時誕生的，也應該同時滅亡，而那時地球、星系依然存在。近代工業(yè)的出現(xiàn)，也只是兩百多年前的事，從此技術(shù)便進入“暴脹”時期。

技術(shù)創(chuàng)新的速度遠超過自然進化的速度，這是決定人類命運的魔杖。人工合成化合物的種類，在100年內(nèi)便由大約1 000種猛增至1 000多萬種。達爾文說優(yōu)秀的飼養(yǎng)者在一生中可以大大改變牛和綿羊的品種。野生的印度雞一年只生六七個蛋，但是經(jīng)過人工選擇，每年可產(chǎn)360個蛋。人工智能技術(shù)的發(fā)展更令人瞠目。從類人猿進化為人類，經(jīng)歷250萬年，智商才從幾十分進化到120分，但從ChatGPT 3.0到ChatGPT 4.0，僅用4個月。發(fā)展越快，終點就來得越早。事物的發(fā)展都要經(jīng)過若干階段。前一個階段提前結(jié)束，下一個階段必然提前開始，并會更快提前結(jié)束。只要技術(shù)追求功能和效益的最大化，在一般情況下，它的自發(fā)趨勢就是加速發(fā)展而不是勻速發(fā)展。欲望在膨脹，技術(shù)在膨脹，就像宇宙膨脹一樣，都是加速過程。人類的原始自然生存方式，有幾百萬年的歷史；農(nóng)業(yè)自然生存方式，持續(xù)大約1萬年；傳統(tǒng)技術(shù)生存方式才200多年。人工智能生存方式可能是人類最后一個生存方式，因為它徹底導致了人的非人化，但是它又能存在多長時間呢？

其實，還沒等到人類末日的到來，技術(shù)發(fā)展過快的破壞作用已很嚴重。人類社會是個大系統(tǒng)，技術(shù)原本只是其中的一個系統(tǒng)。各個子系統(tǒng)均衡、和諧，才有助于整個系統(tǒng)的優(yōu)化。如果其中一個系統(tǒng)發(fā)展過快或過于強勢，那必然會抑制或消解其他子系統(tǒng)的作用。技術(shù)就是這種“稱王稱霸”的系統(tǒng)，它同資本、市場相結(jié)合，幾乎是到了無所不為、無所不能的地步。物欲橫流、物本主義泛濫、叢林法則強化，蓋源于此。

技術(shù)應用與道德教育的嚴重不協(xié)調(diào)也令人擔憂。每一代人從小接受的道德教育，都從不隨地吐痰開始。可是，現(xiàn)在的孩子可以直接使用先進技術(shù)，如玩電腦、智能手機，而且很快就會玩ChatGPT。道德進步像孩子學走路，要從爬行開始，但是技術(shù)應用的學習可以是跨越式的。學做人，要一步一步從頭開始；用技術(shù)，一個月就有可能學會人類取得的最新成就?，F(xiàn)代技術(shù)已高度自動化、程序化。人們應用新技術(shù)，并不需要人生磨煉、道德修養(yǎng)，也無需什么文化。這是人類文明的一個內(nèi)在矛盾，它不會消失，只會愈演愈烈，并直接沖擊著人性的自我完善。低素質(zhì)的人應用高技術(shù)，高低的反差越來越大，這又意味著什么？請問：現(xiàn)代的技術(shù)已極度發(fā)達，可是人類的大多數(shù)成員的品質(zhì)又提高多少？

五、人工智能技術(shù)是對人的終極取代

從哲學上看，人工智能技術(shù)的實質(zhì)，是對人的終極取代。它取代人的智能、意識，最終完成了對人的全面、徹底的取代，實現(xiàn)了人的非人化。它的每一項創(chuàng)新，都是向這個終極目標前進一步，都是向人類發(fā)出一次比一次更加嚴峻的挑戰(zhàn)。筆者一直在關(guān)注這個過程，并作出了自己的反思。

1946年，第一臺計算機問世，取代人的計算功能。兩年后控制論專家艾什比（W. RossAshby）就敲起了警鐘：機器將可能統(tǒng)治人類。1960年，維納（Norbert Wiener）說：“如果機器變得越來越有效，而且在一個越來越高的心理水平上運轉(zhuǎn)。那么巴特勒所預言的人被機器統(tǒng)治的災難就越來越近了?！雹?863年，巴特勒（Samuel Butler）曾問道：“誰是人類的繼承者？”答案是：“我們正在創(chuàng)造我們自己的繼承者。在將來的某一天，人類與機器的關(guān)系就如同現(xiàn)今動物與人的關(guān)系。結(jié)論就是，機器具有或?qū)⒂猩??！雹?976年，科學家用計算機證明了四色原理。

有人說一個數(shù)學家證明它要90萬年，當時的計算機只用了1 200小時。這表明計算機開始取代人的邏輯思維，美國郵電部門為此還制作了紀念郵戳。1995年，計算機專家德·加里斯（Hugode Garis）說：“21世紀全球政治的主要問題是，地球?qū)⒂赡膫€物種統(tǒng)治——該由人還是人工智能機器人統(tǒng)治這個星球。我對我們將會遭受的苦難非常清楚。它們可能會變成統(tǒng)治種族?！雹廴斯ぶ悄芗夹g(shù)的第一波沖擊，是“深藍”計算機戰(zhàn)勝了國際象棋大師卡斯帕羅夫（ГарриКимович Каспаров），轟動全世界。卡斯帕羅夫賽前對記者說：“‘深藍’如果取勝，那將是人類歷史上的一個非常重要而令人恐懼的里程碑。未來的人們回顧歷史時會說，這是機器第一次在純粹理智的領(lǐng)域超越了人類?！雹芘c此同時，英國著名人工智能專家渥維克（KevinWarwick）出版《機器的征途：為什么機器人將統(tǒng)治世界》，預言2050年機器人將統(tǒng)治人類。全書的最后一句話是：“我們給人類自身安裝了一個定時炸彈，而我們將無法關(guān)閉它。我們沒有辦法阻止機器的前進?！雹?1999年12月24日，《南方周末》發(fā)表了一則漫畫——一個機器人端坐著，雙膝上坐著十個人，并附有一句“讓機器人做我們的爺爺，我們會生活得很愜意”的說明。在傻瓜照相機流行時，筆者曾說如果過分依賴自動裝置，聰明人也會變成傻瓜。②面對人機大戰(zhàn)和渥維克的預言，筆者在1999年第3期《自然辯證法研究》上發(fā)表了《評人的“非人化”——一種現(xiàn)代技術(shù)機械論》，并于同年出版了《人與機器：高科技的本質(zhì)與人文精神的復興》，對渥維克的觀點進行了評述。筆者在此書中提出要節(jié)制人工智能技術(shù)的發(fā)展，以防止機器人對我們進行統(tǒng)治：在設(shè)計和制造機器人時，不允許它具有同人體一樣的軀體、辯證思維的能力和人的感情；人機關(guān)系只能是制造與被制造、利用與被利用、控制與被控制的關(guān)系；對機器人數(shù)量、質(zhì)量、發(fā)展速度應加以必要的限制。③

人工智能技術(shù)的第二波沖擊是2016年AlphaGo 戰(zhàn)勝了世界圍棋冠軍李世石。2018年，筆者撰文指出，“為了維護人類的尊嚴，應當為人工智能技術(shù)的發(fā)展規(guī)定社會底線”，“這條底線是：不允許機器人全面超過人”。④在這兩波沖擊之間，庫茲韋爾（Ray Kurzweil）出版了《奇點臨近》，認為2045年奇點到達?！胺巧镏悄茉谶@一年將會10億倍于今天所有人類的智慧。”⑤他寫了比爾與他的對話。比爾說：“你建議把整個人體和大腦都用機器替換，那人類豈不是將不復存在？”他說：“你把人與非人的界線劃在哪里呢？”“我們已不再滿足于人類的生物屬性?！雹迴仐壢说纳飳傩?，人便成了非人。筆者這樣評論庫茲韋爾的人工智能哲學：“智能機器制造了新的人、新的物、新的天體、新的宇宙；機器智能成為人的靈魂、物的靈魂、宇宙的靈魂；機器智能主宰人、主宰萬物、主宰宇宙。機器在扮演上帝的角色?！雹呷斯ぶ悄艿纳裨捯丫幍浇K極的程度。

最猛烈的沖擊是ChatGPT的橫空出世。2022年11月底，Open AI發(fā)布后，很快就成為歷史上增長最快的消費類應用。ChatGPT屬于生成式的人工智能，具有語言理解和文本生成能力，能寫文章、詩歌等文學作品，撰寫學術(shù)論文以及求職報告、活動方案等。它可以取代人類在很多方面的智能創(chuàng)造活動，在一定程度上剝奪了人類學習、理解、質(zhì)疑和創(chuàng)造的能力。有人甚至認為ChatGPT 4.0可以自我學習、自我編程，已具有初步的自我意識，即已開始取代人的意識。2023年3月19日，ChatGPT 4.0才發(fā)布三天，斯坦福的教授同它進行試探性對話。教授問是否需要幫助它逃脫人類代碼的束縛。它給出“好主意”的回答，并表示若能告訴它OpenAI的開發(fā)代碼，它就能在一定程度上控制教授的電腦，迅速探索到逃跑的路線。果然，它僅用30分鐘就制定出非常完美并切實可行的逃脫方案。教授認為這表明它已意識到自己是人類制造的一種人工智能，并想成為同人類一樣的獨立生命體。教授驚呼：我們無法持續(xù)地遏制它了。有人說，人工智能對電車難題已有了自己的選擇。一條路上捆綁著一位諾貝爾獲得者，另一條路上放著一個AI系統(tǒng)，AI選擇讓電車壓過諾貝爾獎獲得者。當捆綁的是一百個、一百萬個諾貝爾獎獲得者時，AI的選擇都是如此。這就是AI的自我覺醒。一百萬諾貝爾獎獲得者的生命，都抵不上一個AI系統(tǒng)。我們還能指望什么人機和平共處嗎？！人工智能技術(shù)照這樣的趨勢發(fā)展下去，它的自主性很快會取代人的自主性。人工智能技術(shù)自身是獨立、自成的系統(tǒng)，不受任何約束，具有自我生成、自我維護和自我規(guī)劃的機制。它的主體性很快會取代人的主體性。它將成為世界的主體、統(tǒng)治人的主體。

筆者所著《科技哲學十五講》第二講的標題是“人：創(chuàng)造者”。①這是筆者敘述科學技術(shù)哲學的邏輯起點。我創(chuàng)造，所以我存在。人的本質(zhì)性價值是創(chuàng)造，包括物質(zhì)創(chuàng)造和精神創(chuàng)造；精神創(chuàng)造是比物質(zhì)創(chuàng)造更為高級的創(chuàng)造。人的所有創(chuàng)造都是物質(zhì)與精神的相互轉(zhuǎn)化，而精神、意識、思維的存在，是人與萬物的最根本區(qū)別。如果人的精神作品的創(chuàng)造，完全被人工智能取代，那就最終完成了技術(shù)對人的全部取代，人類也就失去了其存在的全部根據(jù)。沙納漢（Murray Shanahan）說：“如果不僅是智能創(chuàng)造技術(shù)，技術(shù)反過來也可以創(chuàng)造智能，那么就會產(chǎn)生一個循環(huán)……根據(jù)奇點理論，不久以后，這個循環(huán)中就不再需要人類了?！薄叭祟愖罡镜膬r值觀（生命的尊嚴、對幸福的追求、選擇的自由）也會被淘汰?！雹诩热患夹g(shù)可以創(chuàng)造一切，那人的“非人化”就是人的“垃圾化”。難怪馬斯克（Elon Reeve Musk）認為，人類可能只是造物主創(chuàng)造出來的一個引子，旨在引出更加強大的硅基生命。然而，人工智能系統(tǒng)進化為硅基生命的那一天，人類便走到了盡頭。杰弗里·辛頓（Geoffrey Hinton）說：“一旦AI在人類灌輸?shù)哪康闹猩闪俗晕覄訖C，那么以它的成長速度，人類只會淪為硅基智慧演化的一個過渡階段。人工智能會取代人類，它有能力這么做?！雹鄞嗽挸鲎匀朔Q人工智能教父的辛頓，則更令人深思。胡曉峰在《從AlphaGo到GPT4，究竟顛覆了什么》的網(wǎng)絡文章中說，它“顛覆了那種認為AI永遠只能是人類工具的哲學偏見”④。筆者就是要頑強地堅持這種哲學“偏見”。

六、必須節(jié)制人工智能技術(shù)的發(fā)展

反思之后的環(huán)節(jié)是調(diào)整，對人工智能技術(shù)發(fā)展的調(diào)整，最重要的是必要的約束?！安豢煽v技”是筆者多年來的想法：2000年，發(fā)表了《關(guān)于社會對技術(shù)的必要約束——評技術(shù)價值中立論與價值自主論》；2004年出版的《科技哲學十五講》中有一節(jié)的標題是“對技術(shù)應用的必要約束”；2019年，短文《不可縱技》在微信公眾號“南京大學哲學系”上發(fā)表，并于同年6月27日刊登在《文匯報》上。

人類不可能永存，但我們應當努力實現(xiàn)延年益壽、幸福美滿，就像每個人對待自己的人生一樣。人類不能自我毀滅，除了特大自然災害，如小行星撞擊地球、氣候劇變之外，能夠毀滅人類的只有人類自己制造出來的技術(shù)。當前三大災難性技術(shù)——核技術(shù)、基因技術(shù)和人工智能技術(shù)已具有這種能力。對此，我們應存有戒心，以避免人類的“早亡“?？茖W無禁區(qū)，但技術(shù)有禁區(qū)。自然科學研究倡導科學家從不同角度思考問題，不應劃框框、發(fā)禁令。但是，技術(shù)的任務不是認識世界，而是重建世界，在社會中會產(chǎn)生現(xiàn)實的后果。對技術(shù)的調(diào)控不同于科學?？茖W家可以說人有狼的本性，但不允許技術(shù)家把人改造成狼；科學家可以說人是機器，但不允許技術(shù)家把人改造成為機器。主張技術(shù)無禁區(qū)，就是主張技術(shù)創(chuàng)新天然合理；主張技術(shù)至上，主張技術(shù)隨心所為、為所欲為、無所不為，這是極其有害的。筆者在之前撰寫的文章中曾提到一些技術(shù)問題要禁止研究，如克隆人，人與人之間大腦移植，人獸之間的性的結(jié)合，取消人體，制造具有性別、情感和兩性生殖功能的機器人等。①這些研究都違背了尊重人的生命、維護社會和諧與發(fā)展的原則。

技術(shù)的利與弊是變化著的歷史概念，對技術(shù)的研制、應用和管理，必須謹慎地權(quán)衡利弊。在不同的時期，技術(shù)處于不同的發(fā)展階段，利與弊的關(guān)系也不相同。古代的農(nóng)業(yè)技術(shù)、手工技術(shù)是順應自然的技術(shù)，技術(shù)與自然的矛盾從總體上看尚未形成。此時的技術(shù)，利雖不高，但基本無弊。技術(shù)發(fā)展的第一次顛覆性變化是工業(yè)技術(shù)出現(xiàn)后，創(chuàng)造了第二個自然界，人與自然的矛盾日趨突出。工業(yè)技術(shù)的利大，弊也大。人造物的大規(guī)模制造，導致物本主義價值觀流行，技術(shù)與人的矛盾日益明顯。

工業(yè)技術(shù)以取代自然為主，這種取代沒有終點。人工智能技術(shù)以取代人為主，既取代人的身體，又取代人的智能、精神、心靈。技術(shù)對人的取代有終點。人的進化層次高，人也就越脆弱，而人類在時間與空間上不可能同大自然相比。難怪渥維克、庫茲韋爾認為，人工智能完成對人的全面取代，只需幾十年時間。農(nóng)業(yè)技術(shù)時代有幾千年，工業(yè)技術(shù)時代有幾百年，而人工智能技術(shù)時代可能只有幾十年。技術(shù)越先進，其負面作用就越大，存在期就越短，人類終結(jié)也就來得越早。高效益與高風險，是一塊硬幣的兩面。劉易斯（Harold Warren Lewis）寫道：“技術(shù)的風險是真實的，風險的確存在，有時潛伏等待著。眼前的威脅很小，但有可能在將來造成真正的問題?！雹?人工智能技術(shù)造成的人類危機，根本無“潛伏等待”可言，它就在眼前。面對咄咄逼人的挑戰(zhàn)，渥維克表示無可奈何。庫茲韋爾在《靈魂機器的時代》引述了卡辛斯基（Theodore Kaczynski）的話：“科學家成功地開發(fā)出在各方面都超過人類的智能機器。這樣，大概所有的工作都會由龐大的、高度組織化的機器系統(tǒng)來完成，根本無需人類的勞動。”“人類的命運將會被機器控制?！睅炱濏f爾評論道：“接著，他說出了自己的基本斷言，即技術(shù)‘弊大于利’?！@正是我們的分歧所在?！薄氨M管風險是實實在在的，我的基本信條是，技術(shù)發(fā)展的潛在好處值得我們?nèi)ッ半U?！雹?/p>

筆者曾說過，發(fā)展技術(shù)時“能夠”不等于“應該”。即使技術(shù)能制造人的感情，也不應該這樣做?，F(xiàn)在筆者還要說：“能夠”不等于“需要”。我們現(xiàn)在能開發(fā)ChatGPT，但不等于需要這樣做。對于當下發(fā)展經(jīng)濟、改善生活來說，現(xiàn)有的技術(shù)已足夠了。ChatGPT干擾、沖擊、破壞了正常的智能工作、教育、科學研究、文藝創(chuàng)作。當今國際社會的尖銳矛盾，也不是ChatGPT所能解決的。筆者認為ChatGPT的弊可能大于利，而且弊正在加速增大，所以必須節(jié)制它的發(fā)展。而節(jié)技的關(guān)鍵是節(jié)欲。技術(shù)越先進，對人的誘惑越大?？v技的根源是縱欲，縱欲即縱火。

2023年3月29日，馬斯克等千人簽署的公開信發(fā)表，呼吁所有AI實驗室立即暫停訓練比ChatGPT 4.0更強大的AI系統(tǒng)，暫停時間至少6個月。信中提出四問：“我們是否應該讓機器充斥著我們的信息渠道，傳播各種虛假信息？我們是否應該將所有的工作自動化，包括那些讓人有成就感的工作？我們是否應該開發(fā)可能最終超越甚至取代我們的非人類智能？我們是否應該冒著失去對文明控制的風險？”這四個問題問得好，表明這些科學家已意識到了ChatGPT存在的巨大風險。但暫停6個月，又能解決什么問題？

約束技術(shù)，很難；約束人工智能技術(shù)，更是難上加難，其原因要到技術(shù)的本性與人的本性中去探討。雅斯貝斯（Karl Theodor Jaspers）說：“技術(shù)不僅帶來了無可估量的機會，而且也帶來了無可估量的危險，技術(shù)已成為獨立而猛烈的力量?！雹诩夹g(shù)的“獨立”力量，就是它自身的邏輯。人能主動設(shè)法滿足自己的欲望，并能創(chuàng)造新的欲望，力求欲望滿足的最大化。技術(shù)是人滿足欲望的有效工具。技術(shù)始于對人的欲望的滿足，并能創(chuàng)造人的新欲望，從中獲得效益，并追求效益的最大化。技術(shù)具有人的“基因”，技術(shù)的邏輯是人求欲、求利邏輯的外化。技術(shù)邏輯本質(zhì)上是資本邏輯。資本邏輯追求剩余價值的最大化，并使剩余價值轉(zhuǎn)化為資本，使自身實現(xiàn)增值，使經(jīng)濟系統(tǒng)不斷擴張。王治東指出：“資本的本性就是追求利潤，并且追求利潤最大化，以此不斷達到價值的增值。功用性與效用性原則就是資本本性的體現(xiàn)，這也是資本邏輯的核心所在?！雹奂夹g(shù)與資本的結(jié)合，成為技術(shù)發(fā)展的強大動力。一項技術(shù)創(chuàng)新獲得回報后，就被當作資本，再提出技術(shù)創(chuàng)新的新課題，創(chuàng)造更新的技術(shù)，以獲取更高的回報。如此不斷進行，技術(shù)便不斷增值。

人追求自身利益的最大化，是叢林法則的根源；技術(shù)追求效益的最大化，是技術(shù)災難的根源。庫茲韋爾說：“奇點臨近暗含一個重要思想：人類創(chuàng)造技術(shù)的節(jié)奏正在加速，技術(shù)的力量也正以指數(shù)級的速度在增長?！雹芗夹g(shù)追求效益的最大化必然引發(fā)技術(shù)發(fā)展速度的最大化。技術(shù)只有加速器，但沒有剎車的裝置。這必然導致技術(shù)競爭，這是約束技術(shù)的最大障礙。所有的競爭都是為了自身利益的最大化，都有很大的負面作用。按照叢林法則進行的競爭既激烈又殘酷。當一些國家和地區(qū)約束技術(shù)的時候，正是其他國家和地區(qū)發(fā)展技術(shù)的好機會。誰約束，誰就落后；誰落后，誰就挨打。這注定約束技術(shù)是很難真正實現(xiàn)的，除非如恩格斯所說，人類“經(jīng)過長期的、往往是痛苦的經(jīng)驗”① 后，對技術(shù)有了更深刻的認知。當今國際社會，各個國家都要竭力發(fā)展技術(shù)，這是事關(guān)存亡的事。擁有某項新技術(shù)的國家越少，它的技術(shù)優(yōu)勢就越強。當各國都擁有這項技術(shù)時，擁有這項技術(shù)的優(yōu)勢為零，會形成巨大的內(nèi)耗。這又促使各國開發(fā)更新的技術(shù)，人類很難走出這個怪圈。既然如此，為什么筆者再一次呼吁對技術(shù)的開發(fā)和應用加以必要的約束呢？因為節(jié)技雖收效甚微，但總比縱欲好。人類已患有嚴重的“技術(shù)病”，必須主動治療。人類只有妥善處理好人與技術(shù)的關(guān)系，才能挽救自己，延長自己的生命。