摘要：受科技迅猛發(fā)展、作戰(zhàn)環(huán)境變化等因素的影響，國(guó)防建設(shè)過(guò)程面臨前所未有的復(fù)雜性，如何輔助決策者更準(zhǔn)確地理解復(fù)雜系統(tǒng)要素之間的因果邏輯，進(jìn)一步鞏固和提升國(guó)防建設(shè)水平是國(guó)防領(lǐng)域的重要議題之一。在闡述魯賓因果模型和結(jié)構(gòu)因果模型等因果知識(shí)的基礎(chǔ)上，以美國(guó)國(guó)防高級(jí)研究計(jì)劃局（Defense Advanced Research Projects Agency，DARPA）實(shí)施的一系列因果推斷智能項(xiàng)目為例，分析因果推斷在國(guó)防建設(shè)中的重要價(jià)值與具體應(yīng)用場(chǎng)景。結(jié)合因果推斷智能項(xiàng)目的趨勢(shì)分析，探討對(duì)我國(guó)國(guó)防建設(shè)的啟示與建議。研究表明，因果推斷在提升國(guó)防決策準(zhǔn)確性與可解釋性方面具有獨(dú)特優(yōu)勢(shì)，未來(lái)應(yīng)正視并積極引入因果推斷，重視數(shù)據(jù)資源建設(shè)，提升技術(shù)智能化水平，加強(qiáng)監(jiān)督管理，加快因果推斷在國(guó)防建設(shè)中的應(yīng)用。

關(guān)鍵詞：因果推斷；國(guó)防建設(shè)；美國(guó)；國(guó)防高級(jí)研究計(jì)劃局；魯賓因果模型；結(jié)構(gòu)因果模型

中圖分類(lèi)號(hào)：G353.1 DOI：10.3772/j.issn.1673-2286.2024.10.003

引文格式：任前前，白如江，陳鑫，等. 因果推斷及其在國(guó)防領(lǐng)域的應(yīng)用研究：以美國(guó)DARPA因果推斷智能項(xiàng)目為例[J]. 數(shù)字圖書(shū)館論壇，2024，20（10）：22-32.

*本研究得到山東省哲學(xué)社會(huì)科學(xué)青年人才團(tuán)隊(duì)“面向國(guó)家安全的多源數(shù)據(jù)智慧情報(bào)感知研究”（編號(hào)：2023-zkzd-061）資助。

國(guó)防建設(shè)關(guān)乎國(guó)家安全、社會(huì)穩(wěn)定與經(jīng)濟(jì)發(fā)展，其決策的正確性和有效性是國(guó)家生存與發(fā)展的保障。大數(shù)據(jù)、人工智能等智能化要素逐漸向國(guó)防決策領(lǐng)域滲透，為決策者處理國(guó)防事務(wù)提供了全面、準(zhǔn)確、及時(shí)的數(shù)據(jù)和信息支持，從而幫助作出更明智、更高效的判斷。在未來(lái)的智能化戰(zhàn)爭(zhēng)中，智能化決策技術(shù)可通過(guò)構(gòu)建場(chǎng)景模型規(guī)則，結(jié)合機(jī)器學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)等技術(shù)謀局布勢(shì)，以機(jī)器智能拓展決策者智慧，使決策人員從繁瑣的情報(bào)信息甄別與處理的工作中解脫出來(lái)，形成決策優(yōu)勢(shì)，成為提升未來(lái)智能化戰(zhàn)斗力的新質(zhì)增長(zhǎng)點(diǎn)[1]。

國(guó)防智能決策過(guò)程面臨著無(wú)可比擬的復(fù)雜性，主要體現(xiàn)在兩個(gè)方面：一是國(guó)防智能決策技術(shù)涉及多部門(mén)、多領(lǐng)域、多層次合作及多技術(shù)集成應(yīng)用，本身具有復(fù)雜性；二是隨著未來(lái)戰(zhàn)場(chǎng)新型武器系統(tǒng)、航空航天新技術(shù)、高精度打擊武器等高端、復(fù)雜技術(shù)的應(yīng)用，智能決策系統(tǒng)需要不斷提高正確應(yīng)對(duì)復(fù)雜安全威脅的能力。因此，提升國(guó)防智能決策的正確性、可信任度和可解釋性是未來(lái)一段時(shí)間內(nèi)的關(guān)鍵任務(wù)。

因果推斷的發(fā)展為應(yīng)對(duì)上述復(fù)雜性帶來(lái)了契機(jī)。這種基于溯因的決策支持不僅有助于揭示復(fù)雜系統(tǒng)中各種要素之間的因果關(guān)系，還能夠深入了解其影響原理和機(jī)制，找出影響資源配置和技術(shù)性能的關(guān)鍵因素，從而有助于制定科學(xué)合理的資源配置方案，提高國(guó)防智能決策的準(zhǔn)確性和可解釋性。本研究在闡明因果推斷概念內(nèi)涵和框架的基礎(chǔ)上，選取美國(guó)國(guó)防高級(jí)研究計(jì)劃局（Defense Advanced Research Projects Agency，DARPA）實(shí)施的融入因果推斷思想或技術(shù)方法的項(xiàng)目案例，分析因果推斷在國(guó)防建設(shè)過(guò)程中的具體應(yīng)用，歸納因果推斷智能項(xiàng)目的發(fā)展趨勢(shì)，并提出對(duì)我國(guó)國(guó)防建設(shè)領(lǐng)域開(kāi)展因果推斷研究、應(yīng)用因果推斷技術(shù)的啟示與建議，以期為鞏固和推進(jìn)我國(guó)國(guó)防建設(shè)提供參考。

1 因果推斷的理論基礎(chǔ)

1.1 因果推斷相關(guān)概念

因果關(guān)系往往容易與相關(guān)關(guān)系混淆，但實(shí)際上兩者有本質(zhì)區(qū)別。相關(guān)關(guān)系是指總是共同發(fā)生的兩事件之間的關(guān)系，而因果關(guān)系是“因”事件和“果”事件之間客觀存在的關(guān)系，其中“因”事件是“果”事件發(fā)生的原因，且不以人的意志為轉(zhuǎn)移[2]。二者的一個(gè)顯著區(qū)別就是因果關(guān)系具有方向性，即有了“前因”才會(huì)產(chǎn)生“后果”。

因果推斷也稱(chēng)為因果推理，Savage[3]發(fā)表在《Nature》中的“Why artificial intelligence needs to understand consequences”（《為什么人工智能需要理解因果》）將因果推斷定義為用數(shù)學(xué)的形式化方法來(lái)確定一個(gè)變量是否影響另一個(gè)變量。運(yùn)用因果推斷的最終目的在于去除混雜的偽因果關(guān)系，確定研究變量間真正的因果關(guān)系。其主要解決兩個(gè)方面的問(wèn)題：一是因果關(guān)系發(fā)現(xiàn)，即發(fā)現(xiàn)或識(shí)別研究變量之間是否存在因果關(guān)系；二是因果效應(yīng)評(píng)估，即對(duì)原因未施加和施加干預(yù)產(chǎn)生的結(jié)果之間差異的評(píng)估，評(píng)估因果效應(yīng)可以提升“因事件”與“果事件”之間內(nèi)在運(yùn)行機(jī)制的透明度。

作為機(jī)器學(xué)習(xí)領(lǐng)域的重要分支，可解釋機(jī)器學(xué)習(xí)目的在于解決模型的“黑盒”問(wèn)題，增強(qiáng)用戶(hù)對(duì)模型的信任[4]。然而，盡管其在提升模型透明度方面表現(xiàn)出色，但在挖掘數(shù)據(jù)背后的深層次機(jī)制和根本原因時(shí)顯得無(wú)能為力。相比之下，因果推斷更側(cè)重理解因果機(jī)制，深層次揭示系統(tǒng)變量之間的因果關(guān)系。因此，因果推斷為科學(xué)研究提供了一個(gè)不同于傳統(tǒng)變量關(guān)聯(lián)分析的新視角，借助因果推斷的理論框架及方法等，可以為決策者作出更穩(wěn)健的結(jié)論和預(yù)測(cè)提供支撐。

1.2 因果推斷理論框架

因果推斷的實(shí)踐核心在于敏銳地發(fā)現(xiàn)并捕捉到數(shù)據(jù)中因果關(guān)系的線(xiàn)索，并探索出能夠模擬這種捕捉能力的計(jì)算模型，較為著名的因果推斷理論框架主要有潛在結(jié)果框架（Potential Outcome Framework，POF）和結(jié)構(gòu)因果模型（Structural Causal Model，SCM）兩種。

（1）潛在結(jié)果框架。潛在結(jié)果框架由美國(guó)國(guó)家科學(xué)院院士Donald Rubin提出，因此又稱(chēng)為魯賓因果模型（Rubin Causal Model，RCM）。此模型旨在解決因果效應(yīng)評(píng)估難題，通過(guò)深入學(xué)習(xí)和理解因果效應(yīng)，設(shè)想與現(xiàn)有觀測(cè)相悖的情境，估計(jì)不同干預(yù)措施下的潛在結(jié)果，以幫助決策者作出最為恰當(dāng)?shù)臎Q策。Yao等[5]在關(guān)于魯賓因果模型因果推斷方法和機(jī)器學(xué)習(xí)問(wèn)題的綜述中指出，魯賓因果模型的基礎(chǔ)是因果關(guān)系作用于一個(gè)個(gè)體，通過(guò)比較各個(gè)體產(chǎn)生的觀察結(jié)果（事實(shí)結(jié)果）與潛在結(jié)果（反事實(shí)的結(jié)果）獲得最終效果。

（2）結(jié)構(gòu)因果模型。圖靈獎(jiǎng)得主Judea Pearl認(rèn)為當(dāng)下正在進(jìn)行一場(chǎng)以科學(xué)為中心的涉及科學(xué)歸因與公平性的改變數(shù)據(jù)科學(xué)的新革命，即因果革命。對(duì)此，Judea Pearl根據(jù)其在因果領(lǐng)域多年探索的經(jīng)驗(yàn)，提出了一個(gè)新穎的科學(xué)方法框架，即結(jié)構(gòu)因果模型[6]。該模型結(jié)合了經(jīng)濟(jì)學(xué)和社會(huì)科學(xué)中結(jié)構(gòu)方程模型的特征和魯賓因果模型，以及為概率推理和因果分析開(kāi)發(fā)的圖形模型[7]。結(jié)構(gòu)因果模型開(kāi)發(fā)一種數(shù)學(xué)語(yǔ)言來(lái)捕捉因果關(guān)系，通過(guò)構(gòu)建因果圖直觀地表達(dá)出研究變量間的因果關(guān)系及因果路徑，使數(shù)據(jù)有了更加合理的特征表示。

魯賓因果模型和結(jié)構(gòu)因果模型框架對(duì)比如表1所示。雖然魯賓因果模型與結(jié)構(gòu)因果模型的研究視角不同，主要解決問(wèn)題以及表現(xiàn)形式也不相同，但是二者在本質(zhì)上是等價(jià)的。Judea Pearl在其著作《因果論：模型、推理和推斷》中對(duì)兩個(gè)框架的等價(jià)性進(jìn)行了介紹，但也強(qiáng)調(diào)這并不意味著概念上或?qū)嶋H應(yīng)用中的等價(jià)性[8]。

2 因果推斷在情報(bào)分析中的應(yīng)用

因果推斷涉及海量的數(shù)據(jù)和信息，包括經(jīng)濟(jì)、軍事、政治等多方面的情報(bào)。這些數(shù)據(jù)和信息往往具有高度的異構(gòu)性和不確定性，對(duì)情報(bào)分析提出了更高的要求。因果推斷作為一種能夠揭示變量之間因果關(guān)系的科學(xué)方法，已經(jīng)成為推動(dòng)情報(bào)分析工作現(xiàn)代化、智能化發(fā)展的重要力量，具有廣泛的應(yīng)用前景，其應(yīng)用主要可歸納為以下幾類(lèi)。

（1）異常檢測(cè)與預(yù)警。異常檢測(cè)是情報(bào)分析中的一個(gè)重要環(huán)節(jié)。情報(bào)分析人員的工作任務(wù)之一就是找出存在的風(fēng)險(xiǎn)或威脅點(diǎn)，及時(shí)拉響警報(bào)，為決策者提供具有前瞻性的建議或意見(jiàn)。借助因果推斷方法，特別是通過(guò)構(gòu)建結(jié)構(gòu)因果模型，可識(shí)別出偏離正常關(guān)系模式的點(diǎn)，這些異常點(diǎn)往往代表著潛在的風(fēng)險(xiǎn)或威脅。目前，因果推斷已被應(yīng)用于多個(gè)領(lǐng)域的安全性檢測(cè)與診斷中，如Zhou等[10]開(kāi)發(fā)了名為CausalKGPT的工業(yè)結(jié)構(gòu)因果知識(shí)圖譜增強(qiáng)的大語(yǔ)言模型，該模型相較于經(jīng)典商業(yè)模型，在航空航天產(chǎn)品缺陷原因分析方面表現(xiàn)出更高的專(zhuān)業(yè)性和可靠性。Pu等[11]提出基于結(jié)構(gòu)因果模型的決策級(jí)融合方法，利用因果圖保證融合的因果方向，利用結(jié)構(gòu)方程實(shí)現(xiàn)融合目標(biāo)、提高故障檢出率，該方法在各單一系統(tǒng)狀態(tài)的故障檢出率和平均故障檢出率上均有較好的表現(xiàn)。Li等[12]在結(jié)構(gòu)因果模型框架下，提出一種基于梯度提升決策樹(shù)的結(jié)構(gòu)化因果模型，利用GBDT機(jī)器學(xué)習(xí)方法提高模型在結(jié)構(gòu)安全異常檢測(cè)任務(wù)中的魯棒性，實(shí)驗(yàn)表明該模型構(gòu)建過(guò)程合理，能夠在不同異常場(chǎng)景下保持良好的異常檢測(cè)性能。

（2）事件關(guān)聯(lián)與模式識(shí)別。在情報(bào)分析中，如何將多個(gè)變量進(jìn)行關(guān)聯(lián)，進(jìn)一步探究變量之間的因果關(guān)系是亟待研究的問(wèn)題。因果推斷能夠從復(fù)雜的數(shù)據(jù)中抽取出事件的因果關(guān)系鏈，進(jìn)而識(shí)別出特定事件或行為模式，揭示隱藏在數(shù)據(jù)背后的深層次信息，為未來(lái)情報(bào)預(yù)測(cè)提供基礎(chǔ)。例如，Che等[13]通過(guò)雙向雙樣本孟德?tīng)栯S機(jī)化分析發(fā)現(xiàn)胃癌與惡性貧血之間存在反向因果關(guān)系，而惡性貧血與前列腺癌之間則存在隱含的反向因果關(guān)系。Lee等[14]基于魯賓因果模型和貝葉斯算法開(kāi)發(fā)了C-search算法，可以從各種遺傳數(shù)據(jù)集中發(fā)現(xiàn)致病基因（因果基因），基于致病基因治療患者可產(chǎn)生較好的效果。在軍事決策過(guò)程中，戰(zhàn)場(chǎng)態(tài)勢(shì)的不完備性和模糊性對(duì)經(jīng)典意圖識(shí)別技術(shù)的有效性和因果關(guān)系分析提出了挑戰(zhàn)。Zhang等[15]將魯賓因果模型與不確定性因果推理相結(jié)合，提出了一種目標(biāo)意圖因果分析范式，完成了證據(jù)結(jié)構(gòu)下的空中目標(biāo)意圖識(shí)別，并進(jìn)一步分析了樣本屬性對(duì)目標(biāo)意圖的因果影響。

（3）因果效應(yīng)評(píng)估與策略?xún)?yōu)化。作為數(shù)據(jù)分析和決策制定中的重要理論方法，因果推斷通過(guò)量化數(shù)據(jù)評(píng)估因果效應(yīng)，為進(jìn)一步優(yōu)化干預(yù)策略提供了證據(jù)。McJames等[16]采用因果推斷概率框架，發(fā)現(xiàn)每日作業(yè)對(duì)數(shù)學(xué)成績(jī)的益處最大，而每周3～4次的家庭作業(yè)對(duì)學(xué)習(xí)成績(jī)提升最有效。依據(jù)該信息，教育工作者和政策制定者可科學(xué)把控并優(yōu)化各學(xué)科家庭作業(yè)布置的頻率，發(fā)揮家庭作業(yè)對(duì)學(xué)科成績(jī)提升的正向作用。Zhang等[17]采用固定效應(yīng)模型逆方差加權(quán)方法，發(fā)現(xiàn)較高水平的超氧化物歧化酶和鋅是出生體重增加的原因，懷孕期間補(bǔ)充抗氧化劑可以防止低出生體重嬰兒出現(xiàn)。Li等[18]利用孟德?tīng)栯S機(jī)化分析方法發(fā)現(xiàn)，遺傳驅(qū)動(dòng)的阻塞性睡眠呼吸暫停是心房顫動(dòng)產(chǎn)生的原因之一，該發(fā)現(xiàn)為采取有效措施預(yù)防和治療阻塞性睡眠呼吸暫停以降低心房顫動(dòng)產(chǎn)生風(fēng)險(xiǎn)提供了新的思路。

值得注意的是，除上述因果框架方法，還有許多學(xué)者也對(duì)因果推斷進(jìn)行了前沿性的探索。例如：Du等[19]提出了因果引導(dǎo)的主動(dòng)學(xué)習(xí)框架，能夠自動(dòng)且自主地識(shí)別信息性偏差樣本并引導(dǎo)偏差模式；Liu等[20]設(shè)計(jì)了一個(gè)迭代學(xué)習(xí)與識(shí)別框架，用于識(shí)別事件的因果性；Ma等[21]提出了基于Vicinal圖的學(xué)習(xí)算法，顯著提高了ML4S模型的預(yù)測(cè)精度，使其能夠構(gòu)建準(zhǔn)確的因果骨架。這些因果框架和方法對(duì)于我國(guó)國(guó)防領(lǐng)域因果推斷研究工作具有重要指導(dǎo)和參考意義。

3 DARPA因果推斷項(xiàng)目介紹

DARPA隸屬于美國(guó)國(guó)防部，是美國(guó)國(guó)防技術(shù)優(yōu)勢(shì)的發(fā)源地，主要負(fù)責(zé)引領(lǐng)并推動(dòng)美國(guó)軍事領(lǐng)域高新科技的研發(fā)工作。DARPA的科研重點(diǎn)涵蓋多個(gè)領(lǐng)域，包括但不限于先進(jìn)武器系統(tǒng)、通信技術(shù)、人工智能等，前瞻性的科研探索和靈活高效的運(yùn)作模式使其在維持美國(guó)軍事技術(shù)領(lǐng)先方面發(fā)揮了關(guān)鍵作用，進(jìn)一步鞏固了美國(guó)在全球軍事科技領(lǐng)域的領(lǐng)軍地位。本研究選取2014—2024年DARPA實(shí)施的因果推斷智能項(xiàng)目作為案例，分析因果推斷在其中的具體應(yīng)用與潛在價(jià)值，為將因果推斷應(yīng)用于我國(guó)國(guó)防建設(shè)提供借鑒。

3.1 大機(jī)制項(xiàng)目

大機(jī)制項(xiàng)目（Big Mechanism Program，BMP）旨在構(gòu)建揭示復(fù)雜系統(tǒng)（如生態(tài)系統(tǒng)、大腦、經(jīng)濟(jì)和社會(huì)系統(tǒng)等）內(nèi)部交互作用因果關(guān)系的解釋模型[22]。其目標(biāo)是通過(guò)閱讀大量文獻(xiàn)，賦予機(jī)器常識(shí)推理能力，提取文章及其摘要中的因果片段從而自動(dòng)組裝成更完整的因果模型，并對(duì)這些模型進(jìn)行推理以產(chǎn)生解釋。盡管該項(xiàng)目圍繞癌癥生物學(xué)領(lǐng)域，重點(diǎn)關(guān)注癌癥信號(hào)傳遞，但其首要目標(biāo)是為美國(guó)國(guó)防部中重要的復(fù)雜系統(tǒng)構(gòu)建完整的解釋模型，使數(shù)據(jù)和知識(shí)自動(dòng)或半自動(dòng)地集成到因果解釋模型中，癌癥通路僅是因果解釋模型的一個(gè)應(yīng)用方面。該項(xiàng)目主要?jiǎng)澐譃?個(gè)階段：①利用機(jī)器閱讀相關(guān)領(lǐng)域期刊文章，提取有用信息即因果關(guān)系片段，轉(zhuǎn)化為機(jī)器能夠理解的形式；②將知識(shí)整合至癌癥通路的計(jì)算模型中，即裝配大機(jī)制，并不斷完備該機(jī)制，在模擬環(huán)境中進(jìn)行潛在結(jié)果評(píng)估，這體現(xiàn)了魯賓因果模型的思想；③利用較為完備的大機(jī)制系統(tǒng)，實(shí)現(xiàn)可通過(guò)實(shí)驗(yàn)檢驗(yàn)的解釋、推理、預(yù)測(cè)等。具體大機(jī)制系統(tǒng)如圖1[22]所示。

3.2 復(fù)雜作戰(zhàn)環(huán)境中的因果探索項(xiàng)目

隨著現(xiàn)代軍事科技的創(chuàng)新突破，復(fù)雜的作戰(zhàn)環(huán)境對(duì)軍隊(duì)和聯(lián)盟伙伴及其行動(dòng)提出了更高的要求，亟須獲得對(duì)作戰(zhàn)環(huán)境的深度了解，尤其是違反直覺(jué)的因果動(dòng)態(tài)。同時(shí)，為了擺脫數(shù)據(jù)庫(kù)更新的滯后性以及對(duì)數(shù)據(jù)庫(kù)工具的嚴(yán)重依賴(lài)性，DARPA啟動(dòng)了因果探索（Causal Exploration，CausX）項(xiàng)目。該項(xiàng)目的核心目標(biāo)是研發(fā)一個(gè)用于協(xié)助軍事規(guī)劃者深入剖析并應(yīng)對(duì)導(dǎo)致復(fù)雜沖突局勢(shì)的潛在原因的建模平臺(tái)，主要應(yīng)用于以區(qū)域混合沖突為例的場(chǎng)景挖掘，著重解決由復(fù)雜因素交織引發(fā)的混合或非常態(tài)的沖突，并能夠在使用時(shí)根據(jù)作戰(zhàn)環(huán)境迅速構(gòu)建和維護(hù)因果模型。建立作戰(zhàn)環(huán)境模型、分析敵我雙方行動(dòng)間的因果關(guān)系等是結(jié)構(gòu)因果模型在該項(xiàng)目中的應(yīng)用體現(xiàn)，而評(píng)估不同作戰(zhàn)方案潛在結(jié)果、提供最有效的打擊方案則展示出了魯賓因果模型的指導(dǎo)作用。借助建模平臺(tái)可以探究影響作戰(zhàn)環(huán)境的各類(lèi)因素，幫助軍事規(guī)劃者梳理作戰(zhàn)脈絡(luò)，科學(xué)制定軍事決策，全面把握作戰(zhàn)環(huán)境的復(fù)雜性。該項(xiàng)目實(shí)施流程如圖2[23]所示。

3.3 可解釋人工智能項(xiàng)目

盡管人工智能研究已經(jīng)取得舉世矚目的突破，但因許多技術(shù)應(yīng)用包含的算法、模型以及系統(tǒng)存在著決策邏輯透明度低、結(jié)果的可解釋性弱的問(wèn)題，人工智能技術(shù)及其系統(tǒng)在國(guó)防、金融、醫(yī)療等關(guān)鍵決策領(lǐng)域的應(yīng)用受到了極大的限制?？山忉屓斯ぶ悄埽‥xplainable Artificial Intelligence，XAI）項(xiàng)目的目標(biāo)在于創(chuàng)建一套新的或改進(jìn)的機(jī)器學(xué)習(xí)技術(shù)，生成可解釋的模型，當(dāng)模型與有效的解釋技術(shù)相結(jié)合時(shí)，用戶(hù)能夠理解、適當(dāng)信任和有效管理新一代人工智能系統(tǒng)，其計(jì)劃架構(gòu)如圖3[24]所示。該項(xiàng)目利用圖模型等推理出決策過(guò)程中的因果邏輯，評(píng)估模型框架的有效性，充分體現(xiàn)了因果推斷框架的結(jié)合應(yīng)用。XAI項(xiàng)目聚焦兩個(gè)技術(shù)領(lǐng)域：①可解釋的學(xué)習(xí)者，主要是指開(kāi)發(fā)原型可解釋學(xué)習(xí)系統(tǒng)，包括可解釋模型和解釋界面；②解釋的心理學(xué)模型，以總結(jié)當(dāng)前心理學(xué)解釋理論、開(kāi)發(fā)用于解釋的計(jì)算模型為主要工作內(nèi)容[25]。

3.4 知識(shí)導(dǎo)向人工智能推理圖譜項(xiàng)目

隨著非結(jié)構(gòu)化多媒體信息量的爆炸式增長(zhǎng)，迅速理解和分析全球事件成為維護(hù)國(guó)家安全、把握局勢(shì)動(dòng)態(tài)、精準(zhǔn)制定應(yīng)對(duì)策略的信息基石。知識(shí)導(dǎo)向人工智能推理圖譜（Knowledge-Directed Artificial Intelligence Reasoning over Schemas，KAIROS）項(xiàng)目旨在實(shí)現(xiàn)一個(gè)知識(shí)導(dǎo)向的（基于模式的）人工智能系統(tǒng)，可以通過(guò)學(xué)習(xí)大量的時(shí)間信息和事件模式識(shí)別并展現(xiàn)不同事件間的相似性，進(jìn)而識(shí)別復(fù)雜事件并引起用戶(hù)注意。如圖4[26]所示，該項(xiàng)目第一階段主要利用豐富的語(yǔ)言和事件數(shù)據(jù)，進(jìn)行深入的語(yǔ)言學(xué)推斷和常識(shí)推理檢測(cè)，分類(lèi)和集中子事件并以此為基礎(chǔ)構(gòu)建強(qiáng)大的模式庫(kù)；第二階段將創(chuàng)建的模式庫(kù)應(yīng)用于多媒體、多語(yǔ)言等新信息的處理，識(shí)別事件與實(shí)體，致力于發(fā)現(xiàn)和提煉其中的復(fù)雜事件及關(guān)聯(lián)，進(jìn)而構(gòu)建或擴(kuò)充知識(shí)庫(kù)[27]。KAIROS項(xiàng)目對(duì)因果推斷框架的應(yīng)用主要體現(xiàn)在人工智能知識(shí)圖譜的構(gòu)建與分析上，結(jié)合時(shí)間變化對(duì)圖譜進(jìn)行分析，可以高效推理出事件的因果關(guān)系和動(dòng)態(tài)變化，支持正確決策。

CausX、XAI、KAIROS項(xiàng)目及BMP是DARPA在因果推斷研究中的重要嘗試，對(duì)其項(xiàng)目目標(biāo)、項(xiàng)目特點(diǎn)、目標(biāo)對(duì)象和項(xiàng)目周期進(jìn)行歸納，結(jié)果如表2所示。

4 DARPA因果推斷智能項(xiàng)目趨勢(shì)分析

4.1 堅(jiān)持問(wèn)題導(dǎo)向原則，強(qiáng)調(diào)前瞻性視角引領(lǐng)

在國(guó)防領(lǐng)域，因果推斷智能項(xiàng)目的實(shí)施緊密?chē)@國(guó)家安全和戰(zhàn)略需求，具有明確的研究目標(biāo)和關(guān)注重點(diǎn)，不僅需要解決當(dāng)前的問(wèn)題，還要具有前瞻性視角，引領(lǐng)未來(lái)發(fā)展方向。表3所示為DARPA 4個(gè)項(xiàng)目的研究問(wèn)題、關(guān)注重點(diǎn)和前瞻性的研究角度。BMP專(zhuān)注于從知識(shí)發(fā)現(xiàn)角度探索海量文獻(xiàn)數(shù)據(jù)中的大機(jī)制模式，進(jìn)而提升模型行為的可解釋性。CausX項(xiàng)目主要從系統(tǒng)動(dòng)力學(xué)的角度，將作戰(zhàn)環(huán)境看作一個(gè)動(dòng)力驅(qū)動(dòng)系統(tǒng)，探索導(dǎo)致沖突的潛在因素，如激進(jìn)分子的攻擊、政府的腐敗、安全部隊(duì)的濫用等，以幫助軍事規(guī)劃者捕捉、應(yīng)對(duì)和預(yù)測(cè)復(fù)雜沖突局勢(shì)。XAI項(xiàng)目從人機(jī)協(xié)作的角度，研究如何使人工智能決策過(guò)程能夠被人類(lèi)理解，重點(diǎn)關(guān)注可解釋性和透明度的提升，進(jìn)而增強(qiáng)人類(lèi)對(duì)人工智能系統(tǒng)的控制和信任。KAIROS項(xiàng)目前瞻性地從事件理解的角度，自動(dòng)抽取時(shí)間信息和事件模式，構(gòu)建社會(huì)復(fù)雜事件的知識(shí)圖譜，致力于深入解析復(fù)雜事件并反饋至用戶(hù)，引起關(guān)注。

4.2 數(shù)據(jù)驅(qū)動(dòng)向知識(shí)導(dǎo)向轉(zhuǎn)變，聚焦技術(shù)集成與創(chuàng)新應(yīng)用

隨著大數(shù)據(jù)、人工智能、云計(jì)算等技術(shù)的迅猛發(fā)展，情報(bào)工作愈發(fā)強(qiáng)調(diào)知識(shí)導(dǎo)向以及技術(shù)集成和創(chuàng)新應(yīng)用的重要性。在分析上述4個(gè)因果推斷智能項(xiàng)目的基礎(chǔ)上，從數(shù)據(jù)源和技術(shù)方法兩個(gè)方面繪制因果推斷智能項(xiàng)目數(shù)據(jù)源拓展與技術(shù)革新趨勢(shì)圖，如圖5所示。數(shù)據(jù)是訓(xùn)練精確且高效的因果模型的關(guān)鍵要素，數(shù)據(jù)源的選擇將會(huì)直接影響因果推斷的結(jié)果。BMP收集癌癥期刊文本數(shù)據(jù)進(jìn)行淺層閱讀和深度閱讀以訓(xùn)練模型。CausX項(xiàng)目數(shù)據(jù)主要來(lái)自軍事和情報(bào)文件、開(kāi)源文本、政府或非政府組織數(shù)據(jù)等。XAI項(xiàng)目將異構(gòu)的多媒體信息作為數(shù)據(jù)源，從中發(fā)現(xiàn)感興趣的事件。KAIROS項(xiàng)目以知識(shí)為導(dǎo)向，依賴(lài)文本、演講、圖片、視頻等多媒體、多語(yǔ)言數(shù)據(jù)構(gòu)建知識(shí)圖譜，挖掘潛在規(guī)律。因果推斷智能項(xiàng)目重視數(shù)據(jù)源的多樣性和融合，更強(qiáng)調(diào)將數(shù)據(jù)轉(zhuǎn)化為可解釋、可應(yīng)用的知識(shí)體系，呈現(xiàn)出由數(shù)據(jù)驅(qū)動(dòng)轉(zhuǎn)向知識(shí)導(dǎo)向的趨勢(shì)。

大數(shù)據(jù)和人工智能等前沿技術(shù)迅猛發(fā)展，為因果關(guān)系分析提供了極為豐富的數(shù)據(jù)源和強(qiáng)大的計(jì)算工具。BMP主要利用機(jī)器閱讀、自然語(yǔ)言處理、生物學(xué)建模等技術(shù)構(gòu)筑大機(jī)制，但對(duì)于因果推斷技術(shù)的研究尚處在相對(duì)初級(jí)的階段；CausX項(xiàng)目綜合運(yùn)用貝葉斯網(wǎng)絡(luò)、結(jié)構(gòu)方程模型等因果推斷技術(shù)和機(jī)器學(xué)習(xí)算法，實(shí)現(xiàn)潛在因果因素的發(fā)現(xiàn)；XAI項(xiàng)目利用深度學(xué)習(xí)、人機(jī)交互等技術(shù)輔助決策，提升決策的可解釋性與透明度；KAIROS項(xiàng)目將敘事結(jié)構(gòu)引入復(fù)雜事件序列，并以結(jié)構(gòu)化表示呈現(xiàn)給用戶(hù)，與知識(shí)圖譜、時(shí)間推理、上下文推理等技術(shù)相結(jié)合，可以感知并剖析多媒體信息中的復(fù)雜事件。依據(jù)目標(biāo)任務(wù)，4個(gè)項(xiàng)目在技術(shù)上從單純的機(jī)器學(xué)習(xí)技術(shù)研究逐漸向融合、應(yīng)用和創(chuàng)新的方向發(fā)展，并且呈現(xiàn)出面向未來(lái)的智能化、自動(dòng)化推理預(yù)測(cè)的趨勢(shì)。

4.3 明確角色劃分與責(zé)任擔(dān)當(dāng)，持續(xù)優(yōu)化團(tuán)隊(duì)協(xié)作模式

角色劃分和責(zé)任擔(dān)當(dāng)在團(tuán)隊(duì)協(xié)作中起到至關(guān)重要的作用，也是推動(dòng)團(tuán)隊(duì)項(xiàng)目實(shí)施和提升成果質(zhì)量的重要保證。鑒于因果推斷智能項(xiàng)目的復(fù)雜性與廣泛的應(yīng)用潛力，DARPA往往會(huì)將項(xiàng)目細(xì)分成多個(gè)聚焦的領(lǐng)域，每個(gè)細(xì)分領(lǐng)域被賦予獨(dú)特的戰(zhàn)略重要性。同時(shí)，有針對(duì)性地組建跨學(xué)科研究團(tuán)隊(duì)，匯聚各領(lǐng)域精英力量，攻關(guān)克難，推動(dòng)領(lǐng)域內(nèi)的前沿探索與突破。表4所示為4個(gè)項(xiàng)目的研究機(jī)構(gòu)和科技公司參與情況。

XAI項(xiàng)目在可解釋的學(xué)習(xí)者領(lǐng)域分配了俄勒岡州立大學(xué)、帕洛阿爾托研究中心、雷神BBN公司、羅格斯大學(xué)等11個(gè)研究團(tuán)隊(duì)，在解釋的心理學(xué)模型領(lǐng)域安排了佛羅里達(dá)人機(jī)認(rèn)知研究所的團(tuán)隊(duì)攻關(guān)。每個(gè)團(tuán)隊(duì)各自承擔(dān)具體的工作任務(wù)，注重團(tuán)隊(duì)間工作的配合，合力促成項(xiàng)目實(shí)施。在研究成果方面，查爾斯河實(shí)驗(yàn)室團(tuán)隊(duì)開(kāi)發(fā)了深度強(qiáng)化學(xué)習(xí)策略的因果模型，通過(guò)回應(yīng)反事實(shí)查詢(xún)來(lái)實(shí)現(xiàn)解釋增強(qiáng)訓(xùn)練，開(kāi)發(fā)出了行人檢測(cè)算法的精煉版本[28]；加州大學(xué)洛杉磯分校團(tuán)隊(duì)提出概念和反事實(shí)解釋?zhuān)–onceptual and Counterfactual Explanations，CoCoX）模型，利用故障線(xiàn)路這一新穎反事實(shí)解釋取代了標(biāo)準(zhǔn)的基于注意力的解釋?zhuān)瑢?shí)現(xiàn)了圖像的分類(lèi)[29]；得克薩斯大學(xué)達(dá)拉斯分校團(tuán)隊(duì)利用可處理的概率模型，使用由邏輯、概率、有向圖生成的全局解釋?zhuān)捎嘘P(guān)視頻數(shù)據(jù)中是否存在活動(dòng)的解釋?zhuān)瑢?shí)現(xiàn)視頻活動(dòng)的識(shí)別等，推動(dòng)因果推斷在智能決策領(lǐng)域發(fā)揮強(qiáng)大功能[30]。

4.4 精準(zhǔn)對(duì)接項(xiàng)目需求，實(shí)現(xiàn)落地成果價(jià)值最大化

DARPA的因果推斷項(xiàng)目緊密?chē)@實(shí)際問(wèn)題和應(yīng)用需求，根據(jù)項(xiàng)目目標(biāo)和應(yīng)用場(chǎng)景對(duì)項(xiàng)目功能及技術(shù)方法進(jìn)行設(shè)計(jì)，并加快推進(jìn)研究成果的實(shí)際應(yīng)用轉(zhuǎn)化。如表5所示，這些項(xiàng)目的研究成果大部分還處于試驗(yàn)和開(kāi)發(fā)階段，部分技術(shù)在特定領(lǐng)域進(jìn)行應(yīng)用和測(cè)試，進(jìn)入早期應(yīng)用階段，但是已經(jīng)在一些行業(yè)中展現(xiàn)出了巨大的潛力和實(shí)際效益，應(yīng)用前景十分廣闊。

上述項(xiàng)目中，XAI項(xiàng)目現(xiàn)已推出專(zhuān)為分析和自主應(yīng)用程序而構(gòu)建的開(kāi)源的、可解釋的人工智能工具包xaitk.org，該工具包結(jié)合了一個(gè)可搜索的獨(dú)立貢獻(xiàn)存儲(chǔ)庫(kù)和一個(gè)更加集成的通用軟件框架。雖然CausX項(xiàng)目周期已經(jīng)結(jié)束，開(kāi)發(fā)的Causal Exploration軟件暫時(shí)還未完全投入使用，但該軟件已經(jīng)能夠挖掘并提取豐富且相互關(guān)聯(lián)的行為，未來(lái)有望在軍事國(guó)防、經(jīng)濟(jì)金融、公共衛(wèi)生等領(lǐng)域發(fā)揮重要作用。BMP的自適應(yīng)軟件系統(tǒng)框架也將應(yīng)用于新科學(xué)模式，改變知識(shí)的組織及溝通方式，解釋驅(qū)動(dòng)復(fù)雜系統(tǒng)的要素。KAIROS項(xiàng)目目前正處于積極的研發(fā)階段，其進(jìn)展令人矚目，有望在世界事件動(dòng)態(tài)理解領(lǐng)域樹(shù)立新的里程碑。

5 啟示與建議

美國(guó)DARPA在因果推斷道路上不懈探索，為世界各國(guó)國(guó)防決策分析工作提供了參考借鑒。然而，不同國(guó)家之間在頂層設(shè)計(jì)上可能存在差異，因此在借鑒相關(guān)經(jīng)驗(yàn)時(shí)，需要充分考慮自身國(guó)情和建設(shè)需求。從成功經(jīng)驗(yàn)中獲取有效適用的策略和方法，從失敗教訓(xùn)中洞察疏漏與不足并及時(shí)修正，對(duì)加快因果推斷在情報(bào)分析中的應(yīng)用具有重要意義。

5.1 正視因果推斷作用，強(qiáng)化因果推斷基礎(chǔ)研究

國(guó)防建設(shè)智能化步伐加快，對(duì)國(guó)防智能決策系統(tǒng)提出了更高的可解釋性要求。在國(guó)防情報(bào)分析系統(tǒng)中引入因果推斷研究，可以識(shí)別影響國(guó)防決策的關(guān)鍵因素并揭示這些因素之間的相互作用和反饋機(jī)制，更清晰地描繪出因素間的因果關(guān)系和作用路徑，從而增強(qiáng)決策的可解釋性。從“是什么”跨越至“為什么”，是一個(gè)由淺及深、從現(xiàn)象到本質(zhì)的認(rèn)知過(guò)程，在促進(jìn)批判思維和創(chuàng)新思維發(fā)展的同時(shí)，提供了更廣闊的視野和更深刻的洞察力。因此，必須正視因果推斷的作用，明確因果事件中存在的因果邏輯而非僅限于簡(jiǎn)單的相關(guān)性分析。特別是情報(bào)機(jī)構(gòu)，應(yīng)認(rèn)識(shí)到僅憑相關(guān)性分析并不足以支持復(fù)雜的決策過(guò)程，必須引入因果推斷來(lái)提升分析的深度和準(zhǔn)確性。

夯實(shí)因果推斷基礎(chǔ)研究根基，激發(fā)理論創(chuàng)新活力，提升技術(shù)方法先進(jìn)性與實(shí)用性。首先，要加強(qiáng)因果推斷基礎(chǔ)理論研究，深入理解其概念、原理和方法論，支持科研機(jī)構(gòu)和高校開(kāi)展前沿性、探索性因果推斷研究，鞏固基礎(chǔ)研究根基。其次，鼓勵(lì)科研人員自由探索，敢于提出新理論、新方法、新技術(shù)，勇于挑戰(zhàn)傳統(tǒng)觀念，同時(shí)建立激勵(lì)機(jī)制，加強(qiáng)在因果推斷研究領(lǐng)域的交流，激發(fā)理論創(chuàng)新活力。最后，利用政策支持、團(tuán)隊(duì)協(xié)作、資源整合等形成合力，共同推動(dòng)因果研究在理論和實(shí)踐方面邁向新高度。國(guó)防智能決策系統(tǒng)是一個(gè)高度動(dòng)態(tài)化的復(fù)雜系統(tǒng)，因果推斷基礎(chǔ)研究是促進(jìn)該系統(tǒng)正確決策的“證據(jù)底座”，只有深度把握系統(tǒng)內(nèi)各變量間的因果邏輯關(guān)系，才能提升系統(tǒng)可解釋性，進(jìn)而提升國(guó)防智能化建設(shè)水平。

5.2 重視數(shù)據(jù)資源建設(shè)，促進(jìn)知識(shí)傳播與高效利用

數(shù)智時(shí)代，深度學(xué)習(xí)、人工智能等技術(shù)井噴式發(fā)展，工作模式正在朝向以數(shù)據(jù)為基礎(chǔ)、以人工智能技術(shù)為驅(qū)動(dòng)的全新形態(tài)演進(jìn)[31]。數(shù)據(jù)是輔助國(guó)防軍事領(lǐng)域智能系統(tǒng)實(shí)現(xiàn)精準(zhǔn)分析、決策、指揮、打擊的關(guān)鍵要素之一，高質(zhì)量訓(xùn)練數(shù)據(jù)背景下的智能決策系統(tǒng)能夠提升部隊(duì)的快速響應(yīng)和精確打擊能力[32]。要想謀勝未來(lái)，就必須要重視數(shù)據(jù)賦能的重要作用。在支撐決策方面，數(shù)據(jù)驅(qū)動(dòng)擺脫了依賴(lài)經(jīng)驗(yàn)和直覺(jué)而產(chǎn)生的結(jié)果主觀性過(guò)高的限制，提供了更為科學(xué)合理的分析方法與結(jié)果。然而，數(shù)據(jù)更新的滯后性、數(shù)據(jù)迷霧、數(shù)據(jù)不完備以及數(shù)據(jù)缺失等數(shù)據(jù)質(zhì)量問(wèn)題可能會(huì)導(dǎo)致因果結(jié)論的失真或誤導(dǎo)，使研究人員深陷“偽數(shù)據(jù)”泥潭，寸步難行。鑒于此，獲取數(shù)據(jù)時(shí)應(yīng)當(dāng)加大資源和精力的投入，以確保數(shù)據(jù)的準(zhǔn)確性和完整性。

加強(qiáng)數(shù)據(jù)及數(shù)據(jù)資源平臺(tái)建設(shè)，促進(jìn)知識(shí)傳播與高效利用。一方面，高質(zhì)量的數(shù)據(jù)是訓(xùn)練精準(zhǔn)的因果推斷模型的必要條件，通過(guò)整合多領(lǐng)域、多場(chǎng)景的數(shù)據(jù)，建立高質(zhì)量因果推斷數(shù)據(jù)集，進(jìn)一步實(shí)現(xiàn)數(shù)據(jù)的組織，構(gòu)建數(shù)據(jù)資源體系，為用戶(hù)提供安全可靠的數(shù)據(jù)支持。另一方面，公共數(shù)據(jù)資源的有序開(kāi)發(fā)、開(kāi)放和流通共享可以促進(jìn)知識(shí)傳播、提升數(shù)據(jù)利用率。借助該思想，構(gòu)建國(guó)家層面的數(shù)據(jù)共享平臺(tái)，完善數(shù)據(jù)共享機(jī)制，打破數(shù)據(jù)機(jī)構(gòu)之間的壁壘與信息孤島，實(shí)現(xiàn)跨機(jī)構(gòu)、跨領(lǐng)域的數(shù)據(jù)互聯(lián)互通，形成全國(guó)多源統(tǒng)一的公共數(shù)據(jù)資源體系。但值得注意的是用于國(guó)防智能決策的數(shù)據(jù)往往涉及國(guó)家機(jī)密信息，在進(jìn)行數(shù)據(jù)資源建設(shè)時(shí)必須考慮到數(shù)據(jù)的安全性、隱私保護(hù)以及特定業(yè)務(wù)需求的獨(dú)特性，根據(jù)實(shí)際情況作出判定。

5.3 提升技術(shù)智能化水平，推動(dòng)跨領(lǐng)域合作與研究成果轉(zhuǎn)化

在復(fù)雜的情報(bào)環(huán)境中，因果關(guān)系往往被噪聲數(shù)據(jù)掩蓋，而目前缺乏有效的因果推斷工具和方法，推斷結(jié)果的可靠性被質(zhì)疑，因此必須加強(qiáng)因果推斷技術(shù)的集成與創(chuàng)新。首先，不同的模型和算法有著各自的特點(diǎn)與顯著優(yōu)勢(shì)。例如，一些模型在捕捉數(shù)據(jù)間的線(xiàn)性關(guān)系方面尤為出色，而其他模型在洞察非線(xiàn)性關(guān)系方面能力卓越，通過(guò)技術(shù)集成，可以將不同優(yōu)勢(shì)的模型與算法進(jìn)行有機(jī)融合與疊加，匯聚所長(zhǎng)，從而提升因果推斷的準(zhǔn)確率與效率。其次，通過(guò)技術(shù)集成和創(chuàng)新可實(shí)現(xiàn)實(shí)時(shí)或動(dòng)態(tài)的推理，緩解時(shí)間滯后和長(zhǎng)期效應(yīng)問(wèn)題[33-34]，滿(mǎn)足高度動(dòng)態(tài)化智能戰(zhàn)場(chǎng)的時(shí)效性要求。最后，技術(shù)集成創(chuàng)新為跨領(lǐng)域的知識(shí)融合提供了新方法，通過(guò)技術(shù)集成，將不同領(lǐng)域知識(shí)有機(jī)結(jié)合，利用因果推斷更專(zhuān)業(yè)、更高效地解決國(guó)防情報(bào)分析中的因果關(guān)系問(wèn)題。

推動(dòng)跨領(lǐng)域合作與交流，搭建開(kāi)放共享的因果推斷模型庫(kù)，拓展因果推斷應(yīng)用領(lǐng)域及場(chǎng)景。因果推斷研究涉及計(jì)算機(jī)科學(xué)、統(tǒng)計(jì)學(xué)、醫(yī)學(xué)、軍事等多個(gè)學(xué)科領(lǐng)域，因果推斷任務(wù)的完成往往需要多領(lǐng)域?qū)W者的鼎力合作，因此，有必要加強(qiáng)跨學(xué)科、跨領(lǐng)域的合作與交流，創(chuàng)新不同學(xué)科領(lǐng)域交叉融合的途徑。其中，搭建開(kāi)放共享的因果推斷模型庫(kù)不失為一種能夠有效促進(jìn)因果推斷交流與合作的方式，它可以為用戶(hù)提供數(shù)據(jù)處理、模型訓(xùn)練、結(jié)果可視化等功能，能夠使更多專(zhuān)家學(xué)者參與因果推斷研究。同時(shí)，加強(qiáng)與產(chǎn)業(yè)界的合作，共同研發(fā)具有市場(chǎng)前景的因果推斷產(chǎn)品和技術(shù)解決方案，加速因果推斷技術(shù)成果向?qū)嶋H應(yīng)用轉(zhuǎn)化。

5.4 加強(qiáng)監(jiān)督管理，制定并嚴(yán)格執(zhí)行道德倫理審查制度

為提高決策準(zhǔn)確性與有效性，因果推斷研究密切結(jié)合智能技術(shù)工具。但無(wú)論是人工智能、大語(yǔ)言模型還是機(jī)器學(xué)習(xí)，都主要依賴(lài)算法和數(shù)據(jù)來(lái)處理海量信息，這就容易導(dǎo)致其只能按照預(yù)設(shè)的邏輯或規(guī)則進(jìn)行處理，缺乏人類(lèi)所具備的價(jià)值觀和道德倫理觀念，道德倫理問(wèn)題明顯。例如，在推斷過(guò)程中，智能化技術(shù)或工具可能會(huì)無(wú)意放大或引入數(shù)據(jù)中的偏見(jiàn)，導(dǎo)致對(duì)特定群體產(chǎn)生不公平的影響，因此十分有必要加強(qiáng)道德倫理層面的監(jiān)管。

嚴(yán)格執(zhí)行倫理審查與監(jiān)管措施，確保合規(guī)性。必須重視道德倫理審查過(guò)程并施以監(jiān)管措施，為因果推斷研究守牢健康、可持續(xù)發(fā)展底線(xiàn)。2023年，中國(guó)科學(xué)院自動(dòng)化研究所曾毅團(tuán)隊(duì)研發(fā)出人工智能倫理道德與社會(huì)規(guī)范的群智數(shù)據(jù)與知識(shí)平臺(tái)“智善·如流”，該平臺(tái)允許公眾參與刻畫(huà)人類(lèi)在不同情景下的道德認(rèn)知和行為，把脈、把關(guān)和引導(dǎo)人工智能的健康穩(wěn)健發(fā)展[35]。同樣，在利用因果推斷推動(dòng)情報(bào)分析和決策工作時(shí)，有關(guān)部門(mén)也需要加強(qiáng)監(jiān)督管理工作，嚴(yán)格執(zhí)行道德倫理審查制度，防止因?yàn)E用、誤用導(dǎo)致操縱輿論、傳播虛假信息等危害。

參考文獻(xiàn)

[1] 新華社. 國(guó)家國(guó)防科工局：務(wù)實(shí)推動(dòng)國(guó)防科技工業(yè)高質(zhì)量發(fā)展[EB/OL]. [2024-03-22]. https：//baijiahao.baidu.com/s？id=177 4900541796301255wfr=spiderfor=pc.

[2] 蔡瑞初，郝志峰. 大數(shù)據(jù)中的因果關(guān)系發(fā)現(xiàn)[M]. 北京：科學(xué)出版社，2018：2.

[3] SAVAGE N. Why artificial intelligence needs to understand consequences[EB/OL]. [2024-02-24]. https：//doi.org/10.1038/ D41586-023-00577-1.

[4] 劉智鋒，王繼民. 可解釋機(jī)器學(xué)習(xí)在信息資源管理領(lǐng)域的應(yīng)用研究綜述[J]. 數(shù)據(jù)分析與知識(shí)發(fā)現(xiàn)，2024，8（1）：16-29.

[5] YAO L Y，CHU Z X，LI S，et al. A survey on causal inference[J]. ACM Transactions on Knowledge Discovery from Data，2021，15（5）：74.

[6] 珀?duì)枺溈淆R. 為什么？[M]. 江生，于華，譯. 北京：中信出版社，2019.

[7] PEARL J. Causal inference in statistics：an overview[J]. Statistics Surveys，2009，3：96-146.

[8] 珀?duì)? 因果論：模型、推理和推斷[M]. 2版. 劉禮，譯. 北京：機(jī)械工業(yè)出版社，2022.

[9] PEARL J. Causal inference：history，perspectives，adventures，and unification（an interview with Judea Pearl）[J]. Observational Studies，2022，8（2）：22-36.

[10] ZHOU B，LI X Y，LIU T Y，et al. CausalKGPT：industrial structure causal knowledge-enhanced large language model for cause analysis of quality problems in aerospace product manufacturing[J]. Advanced Engineering Informatics，2024，59：102333.

[11] PU H Y，CHEN Z，LIU J，et al. Research on decision-level fusion method based on structural causal model in system-level fault detection and diagnosis[J]. Engineering Applications of Artificial Intelligence，2023，126：107095.

[12] LI H R，LIU X M，HUAI X F，et al. A causal inference method for canal safety anomaly detection based on structural causal model and GBDT[J]. LHB，2023，109（1）：2218844.

[13] CHE B W，YUAN S L，ZHANG H Y，et al. Causal inference between pernicious anemia and cancers：a bidirectional twosample Mendelian randomization analysis[J]. BMC Cancer，2024，24（1）：586.

[14] LEE Y K，KIM J，SEO S W. Discovery of genes positively modulating treatment effect using potential outcome framework and Bayesian update[J]. BMC Medical Informatics and Decision Making，2022，22（1）：113.

[15] ZHANG Y，HUANG F H，DENG X Y，et al. Air target intention recognition and causal effect analysis combining uncertainty information reasoning and potential outcome framework[J]. Chinese Journal of Aeronautics，2024，37（1）：287-299.

[16] MCJAMES N，PARNELL A，O’SHEA A. Little and often：causal inference machine learning demonstrates the benefits of homework for improving achievement in mathematics and science[J]. Learning and Instruction，2024，93：101968.

[17] ZHANG Y P，WU M，WANG H H，et al. Genetic predicted causal inferences between antioxidants and birth weight[J]. Journal of Clinical Biochemistry and Nutrition，2024，75（1）：54-59.

[18] LI Y L，LENG Y M，TANG H B，et al. Assessment of the causal effects of obstructive sleep apnea on atrial fibrillation：a Mendelian randomization study[J]. Frontiers in Cardiovascular Medicine，2022，9：843681.

[19] DU L，SUN Z H，DING X，et al. Causal-guided active learning for debiasing large language models[EB/OL]. [2024-09-08]. https：//doi.org/10.48550/arXiv.2408.12942.

[20] LIU C，XIANG W，WANG B. Identifying while learning for document event causality identification[EB/OL]. [2024-09-08]. https：//doi.org/10.48550/arXiv.2405.20608.

[21] MA P C，DING R，DAI H Y，et al. ML4S：learning causal skeleton from vicinal graphs[C]//Proceedings of the 28th ACM SIGKDD Conference on Knowledge Discovery and Data Mining. Washington DC USA. New York：ACM Press，2022：1213-1223.

[22] COHEN P R. DARPA’s Big Mechanism program[J]. Physical Biology，2015，12（4）：045008.

[23] DARPA. Causal Exploration[EB/OL]. [2024-08-26]. https：// www.darpa.mil/attachments/CausalExplorationProposersDayP MBriefing20161219.pdf.

[24] GUNNING D，AHA D W. DARPA’s Explainable Artificial Intelligence program[J]. AI Magazine，2019，40（2）：44-58.

[25] DARPA. Explainable Artificial Intelligence（XAI）[EB/OL].[2024-09-10]. https：//www.darpa.mil/attachments/DARPABAA-16-53.pdf.

[26] DARPA. Knowledge-Directed Artificial Intelligence Reasoning over Schemas（KAIROS）[EB/OL]. [2024-09-10]. https：//www. darpa.mil/program/knowledge-directed-artificial-intelligencereasoning-over-schemas.

[27] 張慧，張驍雄，丁鯤，等. 美軍智能數(shù)據(jù)情報(bào)KAIROS項(xiàng)目分析[J]. 指揮信息系統(tǒng)與技術(shù)，2021，12（1）：45-49.

[28] WITTY S，LEE J K，TOSCH E，et al. Measuring and characterizing generalization in deep reinforcement learning[J]. Applied AI Letters，2021，2（4）：e45.

[29] AKULA A，WANG S，ZHU S C. CoCoX：generating conceptual and counterfactual explanations via faultlines[J]. Proceedings of the AAAI Conference on Artificial Intelligence，2020，34（3）：2594-2601.

[30] ROY C，NOURANI M，HONEYCUTT D R，et al. Explainable activity recognition in videos：lessons learned[J]. Applied AI Letters，2021，2（4）：e59.

[31] 張欽，薛海麗，梁昊光. 國(guó)家戰(zhàn)略情報(bào)體系發(fā)展的國(guó)際態(tài)勢(shì)、經(jīng)驗(yàn)與啟示[J]. 圖書(shū)情報(bào)工作，2024，68（5）：13-21.

[32] 中工網(wǎng). 為推動(dòng)軍事大數(shù)據(jù)發(fā)展注入源頭活水[EB/OL]. [2024-04-17]. https：//www.workercn.cn/c/2022-12-30/7687020.shtml.

[33] DU S Z，SONG G J，HONG H K. Collective causal inference with lag estimation[J]. Neurocomputing，2019，323：299-310.

[34] DU S Z，SONG G J，HAN L，et al. Temporal causal inference with time lag[J]. Neural Computation，2018，30（1）：271-291.

[35] 新京報(bào). 中科院等發(fā)布人工智能倫理道德平臺(tái) 用戶(hù)可對(duì)大模型道德判斷[EB/OL]. [2024-04-19]. https：//baijiahao.baidu.com/s？id=1770915881748162976wfr=spiderfor=pc.

作者簡(jiǎn)介

任前前，女，碩士研究生，研究方向：科技情報(bào)分析與文本挖掘。

白如江，男，博士，教授，通信作者，研究方向：科技情報(bào)分析與文本挖掘，E-mail：brj@sdut.edu.cn。

陳鑫，女，碩士研究生，研究方向：科技情報(bào)分析與文本挖掘。

劉睿琳，女，碩士研究生，研究方向：科技情報(bào)分析與文本挖掘。

Causal Inference and Its Application in the Field of National Defense： Taking DARPA Causal Inference Intelligence Project in the United States as an Example

REN QianQian1 BAI RuJiang1 CHEN Xin1 LIU RuiLin2

（1. School of Information Management， Shandong University of Technology， Zibo 255049， P. R. China； 2. Faculty of Informatics， University of Toronto， Toronto M5S3G6， Canada）

Abstract： Affected by the rapid development of technology and changes in the combat environment， the process of national defense construction is facing unprecedented complexity. How to assist decision-makers in more accurately understanding the causal logic between complex system elements， and further consolidate and improve the level of national defense construction is one of the important issues in the field of national defense. Based on the elaboration of causal knowledge such as Rubin causal model and structural causal model， this study takes a series of causal inference intelligence projects carried out by Defense Advanced Research Projects Agency （DARPA） in the United States as an example to analyze the important value and specific application scenarios of causal inference in national defense construction. Combining the trends of causal inference intelligence projects， this article explores the inspirations and suggestions for China’s national defense construction. Research has shown that causal inference has unique advantages in improving the accuracy and interpretability of national defense decisions. In the future， it is necessary to face up to and actively introduce causal inference， attach importance to data resource construction， enhance the level of technological intelligence， strengthen supervision and management， and accelerate the application of causal inference in national defense construction.

Keywords： Causal Inference； National Defense Construction； America； Defense Advanced Research Projects Agency； Rubin Causal Model； Structural Causal Model

（責(zé)任編輯：王瑋）