徐英瑾

摘 要：站在當(dāng)代認(rèn)識(shí)論的立場(chǎng)上看，“網(wǎng)絡(luò)謠言”的構(gòu)成要件之一——“與事實(shí)不符的虛構(gòu)”——可以被替換為“目標(biāo)信念的認(rèn)知欠安妥性”，即“目標(biāo)信念太容易為假”。而一個(gè)自動(dòng)避謠系統(tǒng)對(duì)于一個(gè)信念的“欠安妥性”的評(píng)估，則可以按照評(píng)測(cè)“特定背景信息下目標(biāo)信念的‘使真者的成真概率”的方式來進(jìn)行。此外，由于上述背景知識(shí)的具體內(nèi)容對(duì)于特定用戶的價(jià)值觀的依賴，這一方案在原則上就是與以“泯滅個(gè)體用戶個(gè)性”為必然后果的大數(shù)據(jù)技術(shù)截然不同的，并因此足以構(gòu)成對(duì)于大數(shù)據(jù)技術(shù)的某種對(duì)沖技術(shù)。站在更宏觀的角度看，此項(xiàng)研究所具有的“打通人文思辨與工程學(xué)研究之間的壁壘”的意蘊(yùn)，又包含了如下兩個(gè)目標(biāo)指向：其一，通過工程學(xué)問題自身自帶的“跨文化性”，為英美認(rèn)識(shí)論在華語世界的傳播降低文化門檻;其二，通過上述這種工程學(xué)研究所自帶的“可操作性”要求，倒逼學(xué)院哲學(xué)家對(duì)認(rèn)識(shí)論領(lǐng)域內(nèi)的“安妥性”概念進(jìn)行“可編程性”檢查。

關(guān)鍵詞：網(wǎng)絡(luò)謠言;通用人工智能;認(rèn)知安妥性;概率論;背景知識(shí)

中圖分類號(hào)：G20;B017 ? ? ?文獻(xiàn)標(biāo)識(shí)碼：A ? ? ?文章編號(hào)：1003-0751（2020）06-0111-10

一、導(dǎo)論

首先，筆者要解釋本文標(biāo)題中的“認(rèn)知安妥性”（epistemic safety）究竟是何意。先請(qǐng)讀者考慮如下案例：張三在化學(xué)測(cè)驗(yàn)之前復(fù)習(xí)不足，因此，在做選擇題時(shí)，他只能通過抓鬮來押答案。假設(shè)最后一題的答案是“B”，而且他也押中了，那么，這是否意味著他已經(jīng)獲取了囊括在該答案中的化學(xué)知識(shí)呢？從常識(shí)角度看，答案當(dāng)然是否定的。說得具體一點(diǎn)，張三此次獲取正確答案的過程包含了太多的運(yùn)氣成分，而只要幸運(yùn)女神下次不再那么眷顧他，他就會(huì)馬上得出錯(cuò)誤的答案。此外，根據(jù)大多數(shù)人對(duì)于作為名詞的“知識(shí)”（knowledge）與作為動(dòng)詞的“知道”（to know）的語義直覺，任何人要獲取一項(xiàng)知識(shí)，或是要知道某事，其獲知的方式都應(yīng)當(dāng)具有一定的公開可辯護(hù)性與可重復(fù)性，并由此在相當(dāng)程度上排除掉“認(rèn)知運(yùn)氣”（epistemic luck）的成分。因此，張三如果足夠理智的話，他就不能在自我評(píng)測(cè)時(shí)認(rèn)為自己已經(jīng)掌握了囊括在答案B中的相關(guān)化學(xué)知識(shí)，因?yàn)樗蓪?duì)的答案是缺乏“認(rèn)知安妥性”的。由于“認(rèn)知運(yùn)氣”本身就意味著產(chǎn)生錯(cuò)誤的風(fēng)險(xiǎn)的存在，故此，我們就不妨先將“認(rèn)知安妥性”（以下簡(jiǎn)稱為“安妥性”）大致定義為一種能夠在相當(dāng)程度上豁免于錯(cuò)誤風(fēng)險(xiǎn)的認(rèn)知狀態(tài)。在當(dāng)代西方認(rèn)識(shí)論（epistemology）①文獻(xiàn)中，“認(rèn)知安妥性”也被視為“知識(shí)之為知識(shí)”的一項(xiàng)必要條件。

——以上說的這些，與“網(wǎng)絡(luò)謠言”又有什么關(guān)系呢？

由于“網(wǎng)絡(luò)謠言”本身不是一個(gè)成熟的學(xué)術(shù)詞匯，所以，在此我們只能滿足于對(duì)于它的一個(gè)非常粗疏的常識(shí)定義。按照“百度百科”的說法，網(wǎng)絡(luò)謠言是指通過網(wǎng)絡(luò)介質(zhì)（ 例如微博、國(guó)外網(wǎng)站、網(wǎng)絡(luò)論壇、社交網(wǎng)站、聊天軟件等）而傳播的沒有事實(shí)依據(jù)，帶有攻擊性、目的性的話語。②按照這個(gè)粗疏的定義，網(wǎng)絡(luò)謠言的特征有：（甲）通過互聯(lián)網(wǎng)傳播;（乙）是與事實(shí)不符的虛構(gòu);（丙）帶有一定的傳播目的。很明顯，在這三個(gè)特征之中，（乙）最為關(guān)鍵，因?yàn)椴唤柚ヂ?lián)網(wǎng)傳播的謠言依然還會(huì)是謠言，而帶有一定的傳播目的的真信息也依然不會(huì)成為謠言。那么，（乙）與“安妥性”的關(guān)系又是什么呢？

筆者認(rèn)為，“安妥性”標(biāo)準(zhǔn)乃是我們用以判斷一條信息是否觸發(fā)了條件（乙）的簡(jiǎn)易標(biāo)準(zhǔn)。那為何我們需要一個(gè)簡(jiǎn)易標(biāo)準(zhǔn)呢？這是因?yàn)?，?duì)于一個(gè)知識(shí)與信息處理能力有限的智能體來說，要判斷一條信息是不是與外部事實(shí)真正相符乃是非常困難的，因?yàn)檫@樣的智能體往往缺乏獨(dú)立調(diào)查真相的能力與精力。相對(duì)容易做的反而是判斷一條信息的“安妥性”，即判斷這條信息是不是容易出錯(cuò)。譬如，若有條信息說有個(gè)數(shù)學(xué)功底很差的高中生通過在高考中一路抓鬮而考上了清華，這樣的信息雖然也可能是真的，但因?yàn)樘啡薄鞍餐仔浴保刺菀族e(cuò)），而依然會(huì)被任何一個(gè)心智正常的人判斷為謠言。這里需要注意的是，從邏輯上看，當(dāng)然存在著一條信息既欠安妥性，同時(shí)又為真的可能性，在這種情況下，按照條件（乙），該信息反而不算謠言。但考慮到這種“誤殺”的可能性其實(shí)不高，將“欠安妥性”視為將某信息被判為謠言的“測(cè)試標(biāo)準(zhǔn)”，依然是妥當(dāng)?shù)摹?/p>

——以上說的這些，與人工智能又有什么關(guān)系呢？

假設(shè)有一臺(tái)具有“通用人工智能”（Artificial General Intelligence，以下簡(jiǎn)稱為AGI）③特征的推理機(jī)器，設(shè)計(jì)者希望它能夠自動(dòng)地在海量的互聯(lián)網(wǎng)信息中將網(wǎng)絡(luò)謠言篩選出來。那么，我們?cè)撊绾卧O(shè)計(jì)這樣的系統(tǒng)呢？一種目下似乎很受青睞的做法，乃是基于大數(shù)據(jù)技術(shù)而設(shè)計(jì)的。譬如，根據(jù)所謂的“多能動(dòng)者的信息主體信任識(shí)別機(jī)制”，相關(guān)系統(tǒng)能夠自動(dòng)尋找每條信息背后的信息發(fā)布者的權(quán)威度或可信度（這一點(diǎn)又取決于發(fā)布者自身的互聯(lián)網(wǎng)活動(dòng)痕跡），然后延及對(duì)于信息傳播者的權(quán)威度與可信度的計(jì)算，由此決定信息本身的可信度。④但這個(gè)做法本身卻是有問題的，因?yàn)樗鼪]有辦法應(yīng)對(duì)如何揭穿“楚門的世界”這一難題，即，在網(wǎng)絡(luò)本身充斥著大量虛假的網(wǎng)絡(luò)意見領(lǐng)袖與“權(quán)威避謠人”的情況下，這樣的避謠機(jī)制很容易被錯(cuò)誤的網(wǎng)絡(luò)風(fēng)向帶到錯(cuò)誤的方向上去，而不能根據(jù)所傳播的信息本身的質(zhì)量給出獨(dú)立的評(píng)斷意見。換言之，這樣的機(jī)制無法豁免于任何基于大數(shù)據(jù)的AI技術(shù)所無法避免的困難，即它只能根據(jù)既有的數(shù)據(jù)對(duì)未來的時(shí)態(tài)發(fā)展趨勢(shì)進(jìn)行推測(cè)，而無法對(duì)所涉及的信息內(nèi)容本身進(jìn)行真正的思考。

而要避免這個(gè)問題，筆者的建議是讓AI能夠?qū)π畔⒌膬?nèi)容進(jìn)行獨(dú)立的評(píng)斷，特別是對(duì)于其“安妥性”的評(píng)估。由于“安妥性”本身意味著相關(guān)信息“不太容易為假”，而對(duì)“不容易為假”的判斷又牽涉到對(duì)于信息內(nèi)容的內(nèi)部特征——而不是信息發(fā)布者——的判斷，所以，這樣的系統(tǒng)的運(yùn)作方式，顯然就應(yīng)當(dāng)具備英語認(rèn)識(shí)論文獻(xiàn)中所經(jīng)常提到的“內(nèi)在主義理路”（the internalist approach）的某些特征，以便由此提供更多的理論空間來模擬人類的內(nèi)部思維過程。

那么，我們又該使用怎樣的技術(shù)手段，以一種親和于“內(nèi)在主義”的方式，來表征“安妥性”與“安妥性欠缺”之間的差別呢？一條很容易被想到的表征思路就是訴諸概率論，比如將一個(gè)更具“安妥性”的信念表征為一個(gè)具有更高成真概率的信念，并將一個(gè)不那么具“安妥性”的信念表征為一個(gè)成真概率較低的信念。雖然這個(gè)想法本身還是非常粗糙的，但考慮到基于貝葉斯式概率計(jì)算的AI研究早已通過珀?duì)枺↗udea Pearl）的工作⑤而成為AI學(xué)界的通識(shí)，因此我們不妨就認(rèn)為：在概率論的大框架里去理解刻畫“安妥性”，至少在大方向上是具有可行性的。此外，特別需要指出的是，筆者所推崇的這種概率統(tǒng)計(jì)本身并不是基于那種泯滅用戶個(gè)性的大數(shù)據(jù)處理技術(shù)的（盡管將概率論與大數(shù)據(jù)技術(shù)結(jié)合，其實(shí)并不困難），而恰恰是通過引入“概率值歸賦者的背景知識(shí)”，而與特定用戶的個(gè)性畫像發(fā)生了密切關(guān)聯(lián)（詳后）。因此，這種技術(shù)路徑與其說是大數(shù)據(jù)技術(shù)的一種，還不如說是構(gòu)成了大數(shù)據(jù)技術(shù)的對(duì)沖技術(shù)。

不過，有意思的是，在西方認(rèn)識(shí)論討論“安妥性”的典型文獻(xiàn)中，特別是在英國(guó)哲學(xué)家普理查德（Ducan Prichard）的理論框架中，處理安妥性的技術(shù)工具卻不是概率論，而是“可能世界語義學(xué)”（possible world semantics），即一種通過“可能世界”的理論假設(shè)來對(duì)“反事實(shí)條件句”（counterfactuals）的含義進(jìn)行闡釋的技術(shù)工具。而本文首先將論證，至少站在AGI的立場(chǎng)上看，這一技術(shù)路徑是根本無法被編程化的。與之相比較，筆者將要在本文中提出的基于概率論的“安妥性”概念，不僅不會(huì)引發(fā)“循環(huán)論證”的問題，而且它還將產(chǎn)生對(duì)以“斑馬案例”為典型的諸認(rèn)識(shí)論經(jīng)典案例的足夠解釋力（此外，筆者還將提到“斑馬案例”與一般謠言甄別過程之間的類似性）。從更宏大的視角去看，筆者所給出的技術(shù)路線，不僅對(duì)AI的研究具有意義，也將向哲學(xué)界提供一條經(jīng)由經(jīng)驗(yàn)科學(xué)改造傳統(tǒng)的認(rèn)識(shí)論理論的新道路，以便在AI時(shí)代以新的技術(shù)內(nèi)容夯實(shí)奎因（Willard Van Orman Quine）所提出的“自然主義的認(rèn)識(shí)論”（naturalized epistemology）概念的內(nèi)涵。

二、基于“可能世界語義學(xué)”的“安妥性”概念是無法被編程的

用“可能世界”概念解釋“安妥性”的學(xué)者很多，但最具代表性的乃是英國(guó)學(xué)者普理查德。他對(duì)于“安妥性”的定義，大致可以被概括如下。⑥

某主體所持有的某目標(biāo)信念P是安妥的，當(dāng)且僅當(dāng)如下條件被滿足：就與該主體所處的那個(gè)現(xiàn)實(shí)世界最為切近的大多數(shù)的可能世界而言，只要在那些可能世界中，主體繼續(xù)以他在現(xiàn)實(shí)世界中持有P的方式持有P，那么，P依然是真的。

這個(gè)定義貌似還很抽象，我們不妨便用所謂的“谷倉(cāng)案例”⑦來解釋一下（順便說一句，本文已經(jīng)在“謠言甄別”的語境中對(duì)該案例進(jìn)行了改寫）。假設(shè)讀者已經(jīng)知道在橫店影視城有大量的假谷倉(cāng)（里面當(dāng)然是沒谷子的），以便為影視劇的拍攝提供布景。而且讀者還知道，在這些假谷倉(cāng)中，混有一個(gè)編號(hào)為“88號(hào)”的真谷倉(cāng)（里面藏有很多優(yōu)質(zhì)黑龍江產(chǎn)壓縮真空大米），以便為廣大群眾演員提供后勤保障。⑧同時(shí)，讀者還知道，關(guān)于谷倉(cāng)之虛實(shí)，乃是包括讀者在內(nèi)的小圈子里的秘密知識(shí)，廣大公眾對(duì)此是一無所知的。這時(shí)候，假設(shè)讀者再獲得一條新信息：有個(gè)叫“張三”的竊糧賊（他不屬于上述小圈子），騎了一輛自行車進(jìn)入“谷倉(cāng)陣”，而且，他在沒有任何內(nèi)部情報(bào)支援的情況下就隨機(jī)找到了88號(hào)谷倉(cāng)，并偷走了其中的一袋大米。你覺得這是謠言嗎？

很多人恐怕會(huì)傾向于認(rèn)為這是謠言，因?yàn)閺埲銮勺采?8號(hào)谷倉(cāng)這件事太容易成假了。譬如，只要張三稍微轉(zhuǎn)轉(zhuǎn)頭，或者他的自行車騎得快一點(diǎn)或者慢一點(diǎn)，他就會(huì)看到那些假谷倉(cāng)，并由此錯(cuò)過唯一藏有糧食的88號(hào)谷倉(cāng)。若按照普理查德的“可能世界語義學(xué)”的話語方式來重述這個(gè)故事，那么在這個(gè)案例中，所謂的“現(xiàn)實(shí)世界”，就是指“張三撞上88號(hào)谷倉(cāng)”這一狀況，而所謂的“與現(xiàn)實(shí)世界非常切近的可能世界”，就是指“張三稍微轉(zhuǎn)頭并由此注意到假谷倉(cāng)”的那些狀況。由此看來，張三的信念（即“我看到的的確是真谷倉(cāng)”）之所以是不安妥的，就是因?yàn)樗鼉H僅在現(xiàn)實(shí)世界中為真，卻在那些與現(xiàn)實(shí)世界非常接近的可能世界中為假。

上文提到的“非常切近”一詞，顯然涉及了某種空間性隱喻，而在威廉姆森（Timothy Williamson）的知識(shí)論模型中，關(guān)于“安妥性”的空間化隱喻還得到了一種更為淋漓盡致的表達(dá)。具體而言，在他的隱喻框架中，目標(biāo)信念被看成了一個(gè)圓潤(rùn)的球體，而其真值則被視為球與所在平面之間的關(guān)系——如果球能夠在平面上停穩(wěn)，則代表“真”，若停不穩(wěn)，則代表“假”。至于球在平面上的投影位置，則被視為“現(xiàn)實(shí)世界”，與該位置接近的那些位置，就代表那些“與現(xiàn)實(shí)世界非常接近的可能世界”。這樣一來，如果一個(gè)信念被認(rèn)為是“安妥的”，那么就可以通過這種空間隱喻而被理解為：即使球稍微離開其所在的位置，并在與之非常接近的位置出現(xiàn)，它也能停穩(wěn)當(dāng)。換言之，如果它一離開自己原來的位置就馬上就無法停穩(wěn)了，它就是不安妥的。⑨

然而，上述這種基于空間隱喻的理解方式雖然很直觀，但從計(jì)算機(jī)編程的角度看，它卻很難被恰當(dāng)?shù)爻绦蚧驗(yàn)樯鲜雒枋龇绞街幸呀?jīng)包含了一個(gè)難以被消除的循環(huán)論證。

很明顯，任何人若要按照普理查德的要求去確定一個(gè)信念是否安妥的話，他就不得不先去依次做三件事情：

（1）分辨出哪種情況是現(xiàn)實(shí)世界，哪些情況是可能世界;

（2）根據(jù)每個(gè)可能世界與現(xiàn)實(shí)世界之間的舉例，來判定哪些可能世界是與現(xiàn)實(shí)世界“切近”的，哪些則否;

（3）在那些與現(xiàn)實(shí)世界非常切近的可能世界中，我們?cè)偃ヅ袛嗄繕?biāo)信念在其中是否依然是真的——若是真的，則目標(biāo)信念安妥，否則相關(guān)信念就是不安妥的。

然而，上述這個(gè)路線圖的步驟（1）預(yù)設(shè)（2）已經(jīng)被執(zhí)行了，而（2）的執(zhí)行卻必須預(yù)設(shè)（1）已經(jīng)被執(zhí)行。這種自相矛盾的狀況就必然導(dǎo)致（1）與（2）都不能得到執(zhí)行，由此導(dǎo)致整個(gè)路線圖的崩塌。為何這么說呢？