李悅霖

從概念探索到自主作戰(zhàn)，人工智能(AI)正被引入航空航天和國防的新領(lǐng)域。機器學習已在數(shù)據(jù)分析領(lǐng)域取得了快速進步，下一步將在航空航天領(lǐng)域發(fā)力，從飛機的設(shè)計與制造到載人與飛行。

波音首席執(zhí)行官丹尼斯·穆林堡(Dennis Muilenburg)表示，人工智能已經(jīng)影響到波音業(yè)務(wù)的方方面面，且這種影響還在繼續(xù)擴大。波音于2017年成立了AnalytX組織，專家們已將人工智能應(yīng)用于供應(yīng)鏈和制造系統(tǒng)管理以及工程工具集。人工智能正在波音的產(chǎn)品線和飛機系統(tǒng)中發(fā)揮著作用。

需克服的技術(shù)障礙

不過，在人工智能起飛之前，還有一些障礙需要克服?？铝炙购娇蘸教旃臼紫瘓?zhí)行官凱利·奧爾特伯格說：“要獲得安全認證，必須能預先確定機器在某個場景中的行為，但對人工智能卻無法確定這一點。我們只能繼續(xù)研究如何將具有固有非確定性的人工智能應(yīng)用于確定性的認知世界，找到其邊界在哪里?！?/p>

空客、波音、洛·馬等公司正在進行機載人工智能試驗，但還處于起步階段。凱利·奧爾特伯格說：“我認為近期內(nèi)還看不到人工智能獨立駕駛飛機。人工智能可能會成為一種補充工具，但仍必須有一個能掌控全局的決策系統(tǒng)，在出現(xiàn)故障的情況下，有能力決定飛機的功能?！?/p>

到目前為止，航空航天領(lǐng)域的人工智能多半依賴于統(tǒng)計學學習。雷聲公司首席技術(shù)官馬克·拉塞爾說:“我不認為現(xiàn)在真的存在人工智能，但未來人工智能一定能發(fā)揮出更大作用，而不僅是攝取大量數(shù)據(jù)加以整理并協(xié)助決策。總有一天，機器學習能達到正確的精確度，變得更加確定?！?/p>

人工智能在航空航天方面的問題不只有不確定性。當今的機器學習系統(tǒng)在經(jīng)過篩選海量數(shù)據(jù)的訓練后，雖然在統(tǒng)計模式識別方面非常強大，但它們無法解釋自己得出的結(jié)論。而如果沒有合理的解釋來支持預測，用戶就無法建立起人工智能與人類共存所需要的信任。

聯(lián)合技術(shù)公司(United Technologies Corp.)首席技術(shù)官保羅·埃列門科表示，實現(xiàn)人工智能有很多不同的方法，但大多數(shù)在今天都是‘黑箱’。例如，可以訓練一個多層卷積神經(jīng)網(wǎng)絡(luò)，但無法預測該神經(jīng)網(wǎng)絡(luò)將來能做什么、不能做什么，只能得到統(tǒng)計數(shù)據(jù)，但在現(xiàn)今的鑒定水平下無法對這些數(shù)據(jù)進行解釋。無從得知人工智能采取行動的目的甚至不清楚它正在做什么。因此，人工智能的替代方法應(yīng)該是具備可解釋性從而可證明的，還要能提供更好的人機協(xié)作能力，這是長期發(fā)展的關(guān)鍵。

圖1 計算機視覺和機器學習等人工智能技術(shù)為大型運輸機的單飛行員操作提供了研究基礎(chǔ)。

由于機器學習固有的復雜性，可解釋性將是客戶接受人工智能系統(tǒng)的關(guān)鍵。馬克·拉塞爾說，在檢查代碼時不能說‘我可以驗證它’，事件性質(zhì)實際是‘我們應(yīng)如何測試它？’盡管處理了眾多神經(jīng)網(wǎng)絡(luò)，仍有許多程序無法調(diào)試，人類無法得知在神經(jīng)網(wǎng)絡(luò)內(nèi)部到底發(fā)生了什么。因此，在某種程度上，必須找到一種方法，讓人類能夠真正理解神經(jīng)網(wǎng)絡(luò)的行為內(nèi)容和內(nèi)在的邏輯。

人工智能NEXT計劃

為了達到這一目的，DARPA啟動了人工智能Next計劃，在過去的五年里投入了超過20億美元的資金進行研發(fā)。主要目標之一是開發(fā)可解釋的人工智能，同時創(chuàng)建能從經(jīng)驗中學習并在現(xiàn)實世界里運行的系統(tǒng)，減少訓練神經(jīng)網(wǎng)絡(luò)所需的手工標記數(shù)量，并防范對網(wǎng)絡(luò)的錯誤分類攻擊。

DARPA參與人工智能的歷史始于20世紀80年代，當時DARPA啟動研究第一波人工智能專家系統(tǒng)。專家系統(tǒng)以手工規(guī)則的形式對各主題專家的知識進行編碼。一個例子是飛行員輔助計劃，開發(fā)能幫助單座戰(zhàn)斗機飛行員的決策支持系統(tǒng)。

DARPA局長史蒂夫·沃克說：“不幸的是，每條規(guī)則都有例外。當遇到不符合規(guī)則的情況時，專家系統(tǒng)是脆弱的，但如果添加新規(guī)則來解釋每個異常，將很快變得難以處理。”

第二波人工智能的重點是以人腦為啟發(fā)建立神經(jīng)網(wǎng)絡(luò)，并用大量貼標簽的例子來訓練它們。史蒂夫·沃克說：“從2010年開始，由于具備了足夠強大的計算機硬件技術(shù)條件，這些方法的工作效果出奇地好?！?/p>

圖2 訓練人工智能處理視距內(nèi)作戰(zhàn)，能把戰(zhàn)斗機飛行員從日常工作中解放出來管理空戰(zhàn)，包括無人駕駛的僚機。

然而，和第一波專家系統(tǒng)一樣，第二波系統(tǒng)也有缺點。例如在給一幅圖片添加難以察覺的噪聲時，連訓練有素的神經(jīng)網(wǎng)絡(luò)也可能對其分類嚴重錯誤?！暗侥壳盀橹?，我們只找到了針對這種對抗性圖像攻擊的特定解決方案，因為機器學習的實踐已經(jīng)遠遠領(lǐng)先于理論?！?/p>

可解釋人工智能(XAI)計劃

DARPA的可解釋人工智能(XAI)項目正在開發(fā)計算體系架構(gòu)，使神經(jīng)網(wǎng)絡(luò)能夠自我解釋。史蒂夫·沃克說：“神經(jīng)網(wǎng)絡(luò)的知識包含在數(shù)以百萬計的鏈接權(quán)重因素中，使得這些系統(tǒng)無法解釋它們的決策?？山忉尩娜斯ぶ悄軐椭祟惒僮鲉T在其系統(tǒng)中建立適當?shù)男湃嗡??！?/p>

XAI項目經(jīng)理大衛(wèi)·阿哈表示，機器學習系統(tǒng)無法為特定預測提供依據(jù)，“可能會讓用戶感到沮喪，尤其是當他們負責關(guān)鍵的應(yīng)用程序時?！盭AI項目正在創(chuàng)建能輸出可解釋模型的機器學習過程，其界面允許用戶查詢該模型，并知曉應(yīng)在何時信任系統(tǒng)。

XAI專注于兩種類型的應(yīng)用：數(shù)據(jù)分析和自主控制。以數(shù)據(jù)分析為例，一個情報分析員與一個機器學習系統(tǒng)共同工作，機器學習系統(tǒng)的職責是觀察圖像、識別特定對象和活動，并就如何響應(yīng)所觀察到的內(nèi)容提出建議。

XAI的研究成果之一是，機器學習算法中存在隱性偏見，可能導致誤導性的預測，例如把購物中心誤判為太陽能發(fā)電廠，原因神經(jīng)網(wǎng)絡(luò)對停車場等非關(guān)鍵特征的關(guān)注度超過了用戶對其的關(guān)注度，從而使預測復雜化。

XAI項目經(jīng)理表示，在自主性方面，運營商感興趣的是自動駕駛汽車為何要采取某些行為。由于看不到車輛行駛情況，操作人員無法獲得信息，因此他們希望能夠詢問模型以理解自動駕駛行為。

XAI項目的目標是在不犧牲學習性能的前提下提高可解釋性。在處理傳感器數(shù)據(jù)時，深度學習模型已被證明可以極大地提升性能，“但常常犧牲了可解釋性。我們的目標是創(chuàng)造一個支持機器學習的人工智能系統(tǒng)，在該系統(tǒng)中用戶可以理解所學習的模型、為什么會生成預測，以及何時他們可以信任模型并與之有效合作?！?/p>

在另一個涉及自動駕駛汽車的XAI項目中，車輛控制指令生成負責模型動作的文本解釋?！把芯咳藛T發(fā)現(xiàn)，當給出解釋后，人類的表現(xiàn)要好得多。也有證據(jù)表明這些解釋已經(jīng)在這個體系中建立了適當?shù)男湃巍５粋€缺點是，如果系統(tǒng)提供了錯誤的解釋，可能會造成非常大的損害?！?/p>

DARPA正在推動人工智能進入新的領(lǐng)域，如軟件開發(fā)。DARPA項目經(jīng)理山德普·尼曼解釋說，在軟件開發(fā)過程中，系統(tǒng)中的代碼量增加了，軟件中實現(xiàn)的關(guān)鍵功能增加了，但不可避免的是軟件的缺陷或漏洞也在同時增加，然而用于軟件開發(fā)和質(zhì)量保證的工具和方法卻沒有隨著代碼量的增加而增加。軟件工程師無法有效使用現(xiàn)有的大型代碼庫來理解bug的來源，無法確保它們不會重復出現(xiàn)。

DARPA項目經(jīng)理尼曼表示，一個解決之道是把軟件程序作為機器學習的數(shù)據(jù)。DARPA正在開發(fā)代碼挖掘、bug檢測和程序綜合的新能力，目的是使工程師易于搜索現(xiàn)有數(shù)據(jù)庫以獲得可用的代碼，將基于學習的方法應(yīng)用于異常檢測，并生成最小規(guī)范的程序構(gòu)件。

DARPA也在將人工智能應(yīng)用于設(shè)計。項目經(jīng)理簡·范登布蘭德說：“我關(guān)注的是設(shè)計的早期階段，因為這仍然是一個很有匠心的階段。人工智能如何幫助我們探索所有不同的可能性？在現(xiàn)今選擇很多的條件下，能否利用人工智能探索所有組合來發(fā)現(xiàn)真正新穎的東西？”

研究人員利用圓柱繞流的觀測數(shù)據(jù)訓練了一個深度神經(jīng)網(wǎng)絡(luò)，并用它來生成控制物理行為的方程。計算結(jié)果非常貼近用于描述粘性流體運動的納維爾-斯托克斯方程?！澳芊裼柧氁粋€神經(jīng)網(wǎng)絡(luò)來發(fā)現(xiàn)我們從未思考過的其他物理定律？也許能創(chuàng)生出一個‘盒子里的牛頓’，比如，把蘋果從樹上掉下的觀測數(shù)據(jù)發(fā)給神經(jīng)網(wǎng)絡(luò)，它就能得出結(jié)果F=ma?！?/p>

在另一個項目中，研究人員把強化學習和游戲機的物理引擎結(jié)合起來，尋找新的飛機滑行方式?！八麄儼l(fā)現(xiàn)了一種新的飛行方式，飛機利用不同的邊界層來提取能量，增加飛行距離。人工智能所選擇的這條路徑絕不會被有尊嚴的飛行員所考慮，但有些鳥類會選擇，這說明我們正在發(fā)現(xiàn)一些從來沒有想到的新事物。”

DARPA還有一個人工智能項目是利用拓撲優(yōu)化——根據(jù)基礎(chǔ)物理原理來放置和移除材料使重量最小——來平衡形狀與材料之間的關(guān)系，但拓撲優(yōu)化存在的問題是，需要求解一些復雜的非線性方程，必須設(shè)置一堆旋鈕，為人工智能提供初步的猜測?！叭祟惒惶瞄L猜測。如果你不把事情安排好，就永遠找不到解決辦法”。因此，研究人員正在訓練神經(jīng)網(wǎng)絡(luò)。目前機器學習可以設(shè)置這些旋鈕并提供初步猜測，能更快地獲得幾個數(shù)量級的解決方案。研究人員正在加快新設(shè)計的合成速度。

人工智能還被應(yīng)用到新的制造流程中。在增材制造零件時，金屬底部比頂部維持熱的時間更長，合金晶粒在底部生長的時間更多，因此底部材料的性能與頂部不同。研究人員考慮的問題是：“能否用人工智能來理解如何設(shè)置機器的參數(shù)，以彌補設(shè)計不足或利用其優(yōu)點？”

波音公司已將此應(yīng)用于電子束增材制造。“與焊接類似，我們有大量數(shù)據(jù)和經(jīng)驗公式來描述焊接方式與材料性能之間的關(guān)系?！辈ㄒ衾蒙窠?jīng)網(wǎng)絡(luò)收集已知的方程和機器的加工數(shù)據(jù)，進行數(shù)據(jù)融合，再根據(jù)工藝參數(shù)導出材料性能。該方法將機器的性能、工藝和材料結(jié)合起來，可根據(jù)所掌握的所有旋鈕來預測可能的屈服強度。

洛·馬公司解決了另一個問題：如何確信兩塊復合材料粘合成功。XAI項目經(jīng)理表示，因無法確定粘合度，一直以來采取的解決方式是不得不在材料內(nèi)部鉆孔、打鉚釘，造成成本和加工時間增加，對材料引入了缺陷。如果能擺脫這一方式，將能節(jié)省重量、時間和成本。

由于目前還沒有可靠的數(shù)學模型來預測粘合強度，洛克希德公司詳細研究了不同參數(shù)的影響，包括溫度、濕度和原材料存放時間。XAI項目人員繪制了一個巨大的決策樹，可以追溯到機器學習的早期。XAI項目經(jīng)理稱，現(xiàn)在研究人員已找到了獲知粘合是否可靠的方法，“如果在決策樹中段的某處結(jié)束，馬上就能知道是否應(yīng)當繼續(xù)，以及能采取何種緩解措施來提高粘合質(zhì)量。有時，這意味著必須進行特定類型的表面處理?；蛘?，決策樹會告知‘你需要拒絕這一部分，因為你永遠也做不到”，它給了你這樣的洞察力?！?/p>

但研究人員也表示，人工智能距離取代人類設(shè)計師還有很長的路要走?！皬氖略O(shè)計必須清楚這個世界是如何運作的。作為人類，我們不會回到最原始的原則，因為我們經(jīng)過數(shù)十年的學習后在腦中已有了捷徑。但問題是，我們?nèi)绾卫媚撤N人工智能來發(fā)現(xiàn)所有這些捷徑呢？”

DARPA認為人工智能設(shè)計的未來是一種伙伴關(guān)系，在這種伙伴關(guān)系中，人類的責任是形成問題后提供給人工智能。“這些是我需要尋找答案的問題，這些是約束條件”。然后人工智能負責搜索能設(shè)計的空間有多大并告知人類：“這里有一些你應(yīng)該探索的想法”。這一方式轉(zhuǎn)變成了計算機和人類之間的對話，人類從人工智能中獲得了洞察力，進而改變了形成問題的方式。

人工智能作戰(zhàn)應(yīng)用

Alias 項目

當人工智能應(yīng)用于自主作戰(zhàn)，與人的交互就成為一個關(guān)鍵問題。

DARPA的Alias項目正在開發(fā)高水平的自動化系統(tǒng)，可以加載到飛機上以減少機上人員數(shù)量。該系統(tǒng)由西科斯基公司開發(fā)，已在西科斯基S-76直升機和固定翼塞斯納208(Cessna 208)“大篷車”多用途輕型通用飛機上飛行，將在美國空軍國民警衛(wèi)隊的洛馬F-16 Block 30戰(zhàn)斗機上飛行測試。目前正在一架可選有人駕駛的UH-60“黑鷹”直升機上測試，可以有一名、兩名飛行員或不需飛行員。

西科斯基公司正在其Matrix技術(shù)項目下在S-76B SARA自主研究機上飛行Alias系統(tǒng)。同樣，西科斯基的UH-60A也被改裝成能使用Alias系統(tǒng)的可選有人駕駛飛行器。與此同時，美國陸軍正在改進最新的UH-60M，在Alias項目下采用Matrix自主管理系統(tǒng)。

圖3 西科斯基公司使用其S-76 SARA自主研究機來開發(fā)Alias系統(tǒng)

DARPA的Alias自主系統(tǒng)將在F-16上飛行測試。F-16將是迄今為止采用Matrix進行測試的最高性能的飛機。DARPA計劃將Alias 自主設(shè)施集成到F-16批次30飛機上。與直升機上一樣，固定翼飛機上的Alias主要用來協(xié)助飛行員減少其工作量。F-16上Alias自主系統(tǒng)的開發(fā)與集成將在近期開始，飛行試驗預計在未來三年內(nèi)進行。

Alias可使飛行員通過平板電腦與自主系統(tǒng)交互，自主系統(tǒng)利用由數(shù)據(jù)庫和傳感器提供的飛機環(huán)境信息，自動地完成任務(wù)的規(guī)劃與執(zhí)行。在直升機上，Alias能規(guī)劃并執(zhí)行可避開已知障礙和和探測障礙的路線。

Alias項目經(jīng)理菲利普·魯特中校說：“在黑鷹這個例子中，飛機上有兩名飛行員，系統(tǒng)在后臺運行，類似于汽車里的車道保持輔助系統(tǒng)。”第二直截了當?shù)氖遣捎昧銈€飛行員，因為飛機上的人工智能系統(tǒng)清楚應(yīng)對所有行動負責，不需要與飛行員溝通。

“最具挑戰(zhàn)性的情況是只有一名飛行員，因為移走一名人類飛行員后以一個自主副駕駛代替，但這種互動還沒有被很好地理解?！钡哂刑魬?zhàn)性的可能是“少于一名飛行員”——即飛行員無行為能力但又未失去知覺的情況，尤其是在訓練期間。

“我們相信Alias項目對此情況能提供真正的幫助，但這是非常有挑戰(zhàn)性的，因為飛行員可能并沒意識到他們的能力喪失。最難處理的情況是人工智能的正確決策可能會讓飛行員憤怒，發(fā)覺自己當時沒有采取必要的行動。那么，在這種讓人類尷尬的情況下如何找到一種新的合作方式呢?”

空戰(zhàn)演化(ACE)項目

目前，Alias項目中不包含人工智能，因為Alias系統(tǒng)的設(shè)計初衷是可認證的，而且FAA無法對采用學習行為的不確定性系統(tǒng)認證其適航性。但人工智能正在向空中發(fā)展。DARPA啟動了一項計劃，目標是在戰(zhàn)斗機上使用人工智能。該計劃被稱為“空戰(zhàn)演化”(ACE)，旨在創(chuàng)建能夠自動執(zhí)行格斗機動的算法，使反應(yīng)時間達到機器速度，并使飛行員從操縱飛機中解放出來管理空戰(zhàn)。

ACE計劃緊隨今年3月由美國空軍研究實驗室(AFRL)公布的Skyborg項目，Skyborg計劃在2023財年之前開發(fā)出一個由人工智能控制的“類戰(zhàn)斗機”控制系統(tǒng)原型。

美國空軍的創(chuàng)新加速器Afwerx將在ACE項目下發(fā)布一份初步征求意見稿，用于“阿爾法近距空戰(zhàn)測試”。DARPA表示，在這一階段，不同的人工智能近距空戰(zhàn)算法將在一場錦標賽式的比賽中相互較量。

DARPA承認近距空戰(zhàn)未來將非常罕見，并指出ACE項目的最終目標是開發(fā)出可信賴的人工智能，使有人機和無人機能在近距空戰(zhàn)和其他類型的空戰(zhàn)中協(xié)同工作。

由DARPA戰(zhàn)略技術(shù)辦公室(Strategic Technology Office)發(fā)起的ACE屬于影響深遠的Mosaic項目。30年前，DARPA的“突擊破壞者”計劃(Assault Breaker program)建立了作戰(zhàn)管理概念，在諾斯羅普·格魯門的E-8C“聯(lián)合星”(Joint Stars)等飛機上，人類操作員將傳感器數(shù)據(jù)拼在一起并指揮攻擊。Mosaic程序的目標是使遙遠的傳感器網(wǎng)絡(luò)之間的接口自動化。當單個部分被破壞或毀壞時，這些算法將用于重構(gòu)網(wǎng)絡(luò)。

DARPA將空戰(zhàn)訓練描述為一個熔爐，在熔爐里飛行員的自身能力和對自主系統(tǒng)的信任度得到了很大提高。DARPA表示，ACE將把人機協(xié)同近距格斗作為一個挑戰(zhàn)場景，以增強飛行員對自主作戰(zhàn)技術(shù)的信任。項目經(jīng)理丹·賈沃塞克中校說:“當我們朝著未來的戰(zhàn)爭邁進，包括有人平臺作戰(zhàn)和與無人系統(tǒng)協(xié)同作戰(zhàn)時，能夠信任自主技術(shù)是至關(guān)重要的?！?/p>

在為期4年的三階段計劃下，作戰(zhàn)自主算法和人機界面將在一系列日益復雜的演習中進行開發(fā)和測試，包括先進行縮比模型演習，然后進行一對一和二對二空戰(zhàn)的全尺寸飛機演習。賈沃塞克說：“我們設(shè)想在未來，當對方謀劃無人機蜂群作戰(zhàn)時，我們的人工智能技術(shù)能實現(xiàn)視距格斗時的瞬間機動，從而保證我方飛行員安全?！?/p>

通過像訓練戰(zhàn)斗機飛行員那樣訓練人工智能形成近距格斗規(guī)則，未來在加速將機器學習能力從數(shù)據(jù)中心轉(zhuǎn)向飛機駕駛艙方面，ACE項目有望發(fā)揮關(guān)鍵作用。