0 引言

ENISA與來自學(xué)術(shù)界和業(yè)界的外部專家合作完成了本次預(yù)測。從為數(shù)不多的專家開始，ENISA計劃通過聘請歐洲委員會和機構(gòu)以內(nèi)及以外的更多專家來擴展這一評估。目前，最凸顯的技術(shù)挑戰(zhàn)為：

·物聯(lián)網(wǎng)；

·自動系統(tǒng)；

·下一代虛擬基礎(chǔ)設(shè)施（包括SDN和5G）；

·即將到來的社會挑戰(zhàn)；

·虛擬和增強現(xiàn)實；

·生物納米技術(shù)互聯(lián)網(wǎng)；

·人工智能和機器人技術(shù)。

上述名單并不詳盡，ENISA將繼續(xù)與專家進(jìn)行討論，對其進(jìn)行補充。對于上述新興技術(shù)領(lǐng)域，本報告提出了相應(yīng)的技術(shù)和網(wǎng)絡(luò)安全挑戰(zhàn)。

通過將新出現(xiàn)的安全挑戰(zhàn)納入考慮范圍，ENISA使用了“新興安全相關(guān)領(lǐng)域（emerging security related areas）”的方法，確定了最重要的幾個網(wǎng)絡(luò)安全領(lǐng)域。它們是：

·認(rèn)證闡述（Elaboration on Certification）；

·網(wǎng)絡(luò)空間行動協(xié)調(diào)；

·可信度提升；

·完整生命周期覆蓋；

·未來密碼學(xué)；

·未來識別技術(shù)；

·在網(wǎng)絡(luò)安全中使用人工智能和機器學(xué)習(xí)；

·增加終端用戶參與。

ENISA認(rèn)為，這些網(wǎng)絡(luò)安全領(lǐng)域?qū)⒃谖磥韼啄陮W(wǎng)絡(luò)安全界提出挑戰(zhàn)，ENISA希望利益相關(guān)方之間能夠廣泛討論這些問題。

1 介紹

本文是記述即將到來的技術(shù)和相關(guān)安全挑戰(zhàn)評估的初步文檔。評估將通過與行業(yè)、學(xué)術(shù)界、公共部門等不同部門的安全專家進(jìn)行交流來完成。

這個想法并不新鮮：在ENISA內(nèi)部，對未來技術(shù)挑戰(zhàn)的考慮是內(nèi)部規(guī)劃和知識管理過程的一部分。通過這一考慮，ENISA得以制定提案、開發(fā)渠道知識并設(shè)置工作優(yōu)先級。在ENISA的項目領(lǐng)域，各種外部專家都會參與這一目標(biāo)的實現(xiàn)，例如參與相應(yīng)的活動（例如，項目中得出的結(jié)論、提供建議、支持研究、估計、調(diào)查等）。最后，ENISA建立了永久利益相關(guān)方小組（PSG，Permanent Stakeholder Group），以便將有關(guān)新發(fā)展的信息和想法納入ENISA的計劃過程。

然而，通過這種努力，預(yù)測未來的挑戰(zhàn)變得更加廣泛也更加集中：ENISA與利益相關(guān)者團(tuán)體的代表進(jìn)行了一場專門的對話，對新興技術(shù)和安全挑戰(zhàn)進(jìn)行頭腦風(fēng)暴，將討論/想法/經(jīng)驗以這篇報告的形式進(jìn)行鞏固。所覆蓋技術(shù)領(lǐng)域的時間范圍各不相同，涵蓋了之前約1到5年的發(fā)展。這種方法的目的是通過收集不同關(guān)鍵利益相關(guān)者的想法，以相對較低的資源投資，建立一個初始的核心材料。在本報告的最初階段，已經(jīng)收集了在信息/網(wǎng)絡(luò)安全領(lǐng)域內(nèi)，技術(shù)利益相關(guān)者的想法。在對取得的成果進(jìn)行評估后，將在技能和利益相關(guān)者數(shù)量方面進(jìn)行更廣泛地收集。

這一工作背后的過程有一個次要目標(biāo)：通過與不同利益相關(guān)者的互動，ENISA可以了解這些利益相關(guān)者能夠互補互利的利益和想法。從這一方面來說，ENISA將扮演調(diào)解人的角色，對可能會促成安全實踐/產(chǎn)品/利益相關(guān)者之間操作的發(fā)展的想法，實現(xiàn)相互落地。與此同時，這些利益相關(guān)者活動的結(jié)果可能會與其他工作，包括ENISA的可交付成果相關(guān)聯(lián)，并將向公眾進(jìn)行傳播。

2 過程和內(nèi)容

2.1 過程

為了繼續(xù)進(jìn)行這項工作，ENISA確定了下列過程：

·在ENISA內(nèi)建立持續(xù)的信息收集機制。這主要是基于開源信息，涵蓋了安全、技術(shù)和政策發(fā)展的各個領(lǐng)域。此外，這些信息還包含ENISA管理團(tuán)隊與關(guān)鍵利益相關(guān)者交流的成果；

·加入以前與利益相關(guān)者交流的可用材料（如前ENISA永久利益相關(guān)者集團(tuán)，PSG）；

·在ENISA年度工作方案交付過程中，確定了安全領(lǐng)域和新興技術(shù)領(lǐng)域的開放點、未來需求和差距。這些材料需要在ENISA內(nèi)部和貢獻(xiàn)利益相關(guān)者之間進(jìn)行討論；

·各個ENISA機構(gòu)中，特別是在ENISA PSG中，正在進(jìn)行指導(dǎo)和頭腦風(fēng)暴。這些信息將被用在預(yù)期版本的工作方案中，并在內(nèi)部和外部項目/活動中實踐；

·ENISA的相關(guān)主要聯(lián)系人（例如：PSG專家、參與ENISA項目的其他專家、與ENISA合作的學(xué)術(shù)組織）都參加了關(guān)于新興技術(shù)和安全問題的頭腦風(fēng)暴對話；

·所有這些信息都在內(nèi)部進(jìn)行了整合，并輸入本報告。

2.2 內(nèi)容

本文的內(nèi)容主要針對一些具有共同特征的問題/主題/方面。這些共同特征如：相同的技術(shù)部門、相同的業(yè)務(wù)領(lǐng)域、相同的政策環(huán)境和范圍等。鑒于不可能避免重疊，本報告中提出的不同主題可能同時在技術(shù)上和安全問題上有共同之處。

在下文中，我們記述了關(guān)于不同技術(shù)主題中的普遍看法，并在適當(dāng)?shù)臅r候，得出其對網(wǎng)絡(luò)安全的可能影響。

如果提到的行動與現(xiàn)有的ENISA工作方案主題相關(guān)，我們將會指出。如果所提到的主題與參與頭腦風(fēng)暴的利益相關(guān)者的非機密活動有關(guān)，我們也會指出。要想開啟跨利益相關(guān)者之間基于共同利益主題的交流，這些主題是很好的選擇。

最后，為了完整性，我們列出了每個組織進(jìn)行頭腦風(fēng)暴的主題。這一列表將記錄所討論的主題，其順序并不代表任何優(yōu)先級。

3 收集觀點整合：新興科技領(lǐng)域

本章包含了所有可能會帶來網(wǎng)絡(luò)安全挑戰(zhàn)的新興技術(shù)領(lǐng)域。這項評估基于的是過去一年所進(jìn)行的討論、報告和信息收集。我們認(rèn)為，這些技術(shù)領(lǐng)域?qū)⒃谖磥頂?shù)年為網(wǎng)絡(luò)安全界帶來挑戰(zhàn)。

3.1 物聯(lián)網(wǎng)

3.1.1 技術(shù)挑戰(zhàn)

由于物聯(lián)網(wǎng)（IoT）影響人類生活、通過新產(chǎn)品引發(fā)數(shù)字轉(zhuǎn)型的潛力，它被人們看作是一個新興的技術(shù)領(lǐng)域。盡管這種技術(shù)已經(jīng)存在了好幾年而且并不新鮮，但專家們認(rèn)為它的潛力遠(yuǎn)不止于此，并帶來了許多技術(shù)上的挑戰(zhàn)。

與物聯(lián)網(wǎng)（IoT）相關(guān)的挑戰(zhàn)在（安全）界內(nèi)已經(jīng)被了解。物聯(lián)網(wǎng)在生活中扮演著重要的角色，因為它服務(wù)/管理著消費者環(huán)境的各個領(lǐng)域。因此，從市場的角度來看，物聯(lián)網(wǎng)：

·是為消費者提供硬件、軟件和服務(wù)的新環(huán)境；

·創(chuàng)造了大量可再利用的數(shù)據(jù)，幫助開發(fā)新產(chǎn)品；

·使向用戶私人生活和私人領(lǐng)域的滲透，進(jìn)而營銷成為可能；

·使靈活地環(huán)境開發(fā)成為可能，同時允許客戶綁定；

·使各種基礎(chǔ)設(shè)施、數(shù)據(jù)和服務(wù)進(jìn)一步融合。

這些事實清楚地說明了，為什么各市場、政府、國家安全以及惡意行為者都想獲得關(guān)于物聯(lián)網(wǎng)部署/使用的信息。

在物聯(lián)網(wǎng)中解決安全問題是困難的： 由于成本問題，設(shè)備的廉價和大規(guī)模生產(chǎn)使得安全性隨之降低。此外，由于物聯(lián)網(wǎng)設(shè)備是通用的，很難預(yù)見未來應(yīng)用領(lǐng)域，因此在制作過程中就要注意保護(hù)要求。盡管如此，當(dāng)聚集為較大/群體中時，它們可能會成為復(fù)雜基礎(chǔ)設(shè)施的一部分并處理大量的數(shù)據(jù)，這些數(shù)據(jù)可能具有很強的機密性、完整性和可用性需求。

另一個挑戰(zhàn)是在互聯(lián)設(shè)備中固有的計算能力。當(dāng)惡意行為者控制了全部或部分IoT網(wǎng)絡(luò)時，這種計算能力就可能會被濫用。未來僵尸網(wǎng)絡(luò)已經(jīng)展示了大量設(shè)備在用于精心策劃的攻擊時的危害強度。

有趣的是，在Gartner技術(shù)成熟度曲線（Hype Cycle）2016中，物聯(lián)網(wǎng)被認(rèn)為仍處于創(chuàng)新觸發(fā)階段（即早期階段）。因此，在直到物聯(lián)網(wǎng)市場成熟/生產(chǎn)之前，我們還有很長時間可以采取行動。

總而言之，物聯(lián)網(wǎng)環(huán)境和設(shè)備的挑戰(zhàn)將是保持低成本（即物聯(lián)網(wǎng)采用的驅(qū)動力）、市場投放速度和安全性（即可信度的促進(jìn)因素）之間的平衡。如果丟失了這種平衡，那么物聯(lián)網(wǎng)應(yīng)用程序就可能面臨市場失敗。

3.1.2 物聯(lián)網(wǎng)安全挑戰(zhàn)

物聯(lián)網(wǎng)將為網(wǎng)絡(luò)犯罪貨幣化活動提供機會。相當(dāng)?shù)?，物?lián)網(wǎng)將成為國家安全和間諜活動的焦點，不管是國家支持的活動還是企業(yè)支持的活動。此外，用戶的行為數(shù)據(jù)將成為未來的營銷工具。

因此，我們很容易就能夠評估出這些信息的濫用區(qū)域和相應(yīng)的威脅：

·物聯(lián)網(wǎng)應(yīng)用的數(shù)據(jù)和可用功能可能會在網(wǎng)絡(luò)釣魚、網(wǎng)絡(luò)間諜、網(wǎng)絡(luò)間諜、數(shù)據(jù)泄露、身份盜竊等網(wǎng)絡(luò)威脅中被濫用；

·不安全的設(shè)備可以在僵尸網(wǎng)絡(luò)、拒絕服務(wù)、垃圾郵件等各種攻擊場景中被劫持和濫用；

·服務(wù)提供商擁有的不受保護(hù)的接口和流程可能會被濫用為侵入其系統(tǒng)的途徑。此外，產(chǎn)品生命周期功能（例如更新）的缺失，使得消除漏洞變得不可能；

·可用功能、流程和數(shù)據(jù)可能被濫用，以獲取非法利潤；

·公司可能對用于監(jiān)視競爭對手的數(shù)據(jù)、實踐和可用功能感興趣；

·單個家庭或群體的家用器具，可能會被活動人士、恐怖分子、網(wǎng)絡(luò)戰(zhàn)士等人濫用，從而對整個地區(qū)造成危害。

考慮到物聯(lián)網(wǎng)應(yīng)用（媒體消費、生活習(xí)慣、私人環(huán)境、電子健康、輔助生活等）的隱私性和存在性，對其的機密性、完整性和可用性需求將會很高。有必要開發(fā)產(chǎn)品來保護(hù)這種環(huán)境。

與其進(jìn)行“微觀”保護(hù)——保護(hù)物聯(lián)網(wǎng)環(huán)境中的每個元素，關(guān)注架構(gòu)組件的保護(hù)可能更為合適?，F(xiàn)有/眾所周知/有效的安全控制，只要適當(dāng)?shù)貞?yīng)用于物聯(lián)網(wǎng)架構(gòu)的正確級別，就可以提供良好的保護(hù)。當(dāng)前的討論表明，不管是在架構(gòu)還是在服務(wù)方面，物聯(lián)網(wǎng)要達(dá)到成熟還需要大量的努力。例如，未來僵尸網(wǎng)絡(luò)常常被作為物聯(lián)網(wǎng)濫用的典型例子，這一僵尸網(wǎng)絡(luò)實際上濫用的是互聯(lián)網(wǎng)路由器。盡管如此，這些組件從未被認(rèn)為是物聯(lián)網(wǎng)基礎(chǔ)設(shè)施的一部分。

未來發(fā)展要點：

·物聯(lián)網(wǎng)平臺處于早期開發(fā)階段;

·5G和虛擬化將增強設(shè)備對設(shè)備（M2M）的交互;

·物聯(lián)網(wǎng)的整體保護(hù)將是很困難的。應(yīng)用程序/部門為主的解決方案更可行；

·通過新的濫用場景，物聯(lián)網(wǎng)將擴大攻擊面；

·對于物聯(lián)網(wǎng)場景，需要考慮現(xiàn)有的安全保護(hù)控制；

·盡管處理過的數(shù)據(jù)可能會不穩(wěn)定且價值低，但為了保護(hù)隱私，數(shù)據(jù)保護(hù)仍然是必要的。

3.2 技術(shù)使用與社會挑戰(zhàn)之間的相互作用

3.2.1 技術(shù)和社會挑戰(zhàn)

雖然社會變革本身不屬于技術(shù)領(lǐng)域，但它在技術(shù)采用中起著重要作用：首先，社會變革會影響新產(chǎn)品的創(chuàng)造。其次，它們在現(xiàn)有產(chǎn)品的使用上扮演著重要的角色。在兩種情況下，社會挑戰(zhàn)都會影響技術(shù)部署和安全/隱私問題。因此，在我們的頭腦風(fēng)暴會議中，社會變革被認(rèn)為是一個為技術(shù)使用建立環(huán)境的領(lǐng)域。這是本章考慮社會變革的主要原因。

有關(guān)數(shù)字化的社會變革無疑是社會上的一種重要現(xiàn)象。理解這些變化有助于識別終端用戶的行為和習(xí)慣——即建立各種使用場景。這反過來又為保護(hù)終端用戶的要求提供了理由。

人們消費媒體的方式發(fā)生了明顯的變化：傳統(tǒng)電視觀眾的平均年齡正在增長，年輕一代逐漸遠(yuǎn)離電視。與此同時，視頻點播的用戶大多為年輕用戶。同樣地，科技在年輕一代的社會行為變化中已經(jīng)并將持續(xù)扮演著重要的角色，尤其會影響他們的溝通、互動、媒體消費和社交習(xí)慣。

用戶在社交領(lǐng)域的復(fù)雜行為，也可以通過消息傳遞服務(wù)、社交網(wǎng)絡(luò)使用以及生活記錄信息和量化生活的分享來評估。這些趨勢中有許多與行使健全的有關(guān)隱私需要的人權(quán)有部分矛盾。例如，一些用戶可以選擇公開自己的信息，而政府將這些信息視為保密的個人數(shù)據(jù)。

此外，數(shù)字鴻溝的現(xiàn)代看法表明，在先進(jìn)和弱勢（社會）群體在技術(shù)使用上存在差異。這些差異反映在他們使用在線服務(wù)的方式上。

在未充分了解終端用戶行為的情況下，無法在技術(shù)和技術(shù)平臺的領(lǐng)域進(jìn)行討論和行動。這將導(dǎo)致包括網(wǎng)絡(luò)安全在內(nèi)的任何技術(shù)措施的失敗。

3.2.2 社會變革帶來的安全挑戰(zhàn)

用戶群體中的社會變革為網(wǎng)絡(luò)安全帶來的挑戰(zhàn)是相當(dāng)大的。這主要是由于了解終端用戶的動機、習(xí)慣和心理的需要，終端用戶是網(wǎng)絡(luò)安全中最薄弱的環(huán)節(jié)。

評估顯示，更好的終端用戶安全意識，可以將當(dāng)前由人類錯誤引發(fā)的安全事件減少超過50%。這表明了此類措施的重要性，盡管此類措施在所有年齡范疇的傳播都遠(yuǎn)遠(yuǎn)超出了平均水平。安全界已經(jīng)充分認(rèn)識到了這一點：目前發(fā)起的重要意識宣傳運動就考慮到了這一事實。

從用戶的行為，網(wǎng)絡(luò)安全界可以得出以下重要結(jié)論（陳述性列表，非詳盡）：

·行為模式導(dǎo)致的弱點；

·使用場景造成的弱點；

·由于弱點而面臨的威脅；

·濫用場景；

·重要的用戶資產(chǎn)的評估/識別；

·詳細(xì)闡述可由非專家管理的安全控制；

·意識提高和培訓(xùn)，包括根據(jù)目標(biāo)群體的年齡進(jìn)行區(qū)分；

·社會需求、教育方法和用戶行為模式的平衡/編配；

·為實現(xiàn)這一平衡（包括監(jiān)管、用戶責(zé)任等）制定可能的行動方案。

未來發(fā)展要點：

·需要更好的研究和理解用戶行為；

·在網(wǎng)絡(luò)安全方面，用戶習(xí)慣必須考慮在內(nèi)；

·通過實施基本的安全控制可以顯著降低風(fēng)險。

3.3 下一代IT基礎(chǔ)設(shè)施

3.3.1 技術(shù)挑戰(zhàn)

在許多IT領(lǐng)域，下一代IT基礎(chǔ)設(shè)施都在創(chuàng)建中。這種演變的主要特征是虛擬化部署增加、網(wǎng)狀環(huán)境/應(yīng)用程序、多租戶功能、定制和管理功能等。這些系統(tǒng)正在考慮提供端到端服務(wù)，從而允許遠(yuǎn)程管理操作，而不需要維護(hù)任何本地基礎(chǔ)設(shè)施。

這些趨勢帶來了重大的技術(shù)、操作和經(jīng)濟(jì)挑戰(zhàn)。例如，基于這些趨勢，許多端到端服務(wù)都需要被重新定義和啟用。

盡管從用戶的角度來看，這一趨勢是積極的，但這一趨勢將會使當(dāng)前的市場平衡發(fā)生巨大的變化：大廠商將會影響或取代那些為終端客戶提供透明服務(wù)的競爭對手。然而，通過市場競爭，這一趨勢可能會導(dǎo)致市場力量集中于少數(shù)幾個巨頭。這樣的寡頭壟斷可能會影響終端用戶所獲得的服務(wù)，減少終端用戶需求、成本和安全性方面的靈活性。

新一代IT基礎(chǔ)設(shè)施實現(xiàn)了多層架構(gòu)，這一架構(gòu)可以中和單個硬件和低級功能依賴的特性。雖然這些系統(tǒng)的配置和管理是在應(yīng)用程序級別進(jìn)行的，但是對異構(gòu)子系統(tǒng)（硬件和軟件）的內(nèi)在依賴帶來了技術(shù)、操作和安全方面的挑戰(zhàn)。

3.3.2 下一代IT的安全挑戰(zhàn)

多層、虛擬化的架構(gòu)具有將子系統(tǒng)的特性抽象出來的優(yōu)點。多個系統(tǒng)可以在一個通用的硬軟件平臺上獨立定義，然后通過管理程序進(jìn)行管理。下一代系統(tǒng)為運營商和終端用戶提供了更加全面和一致的信息。然而，這種功能的實現(xiàn)，需要支持將各種邏輯和系統(tǒng)層中的用戶行為，轉(zhuǎn)換到特定底層組件的系統(tǒng)中。

這種轉(zhuǎn)換和執(zhí)行具有安全風(fēng)險，特別是考慮到底層（硬件）系統(tǒng)較短的創(chuàng)新周期。值得一提的是，在這次討論中最受歡迎的下一代基礎(chǔ)設(shè)施是軟件定義網(wǎng)絡(luò)和5G。

這些風(fēng)險可能與子系統(tǒng)的弱點、配置中的錯誤、版本控制、不兼容性、安全漏洞等有關(guān)。而且，這些風(fēng)險一旦變成現(xiàn)實，其影響可能很大，因為它可能影響到使用系統(tǒng)的多個租戶的操作。

某服務(wù)的大量用戶/租戶的是攻擊者將這些平臺作為目標(biāo)的動機：只要攻入此類服務(wù)，就可以獲得大量的數(shù)據(jù)。顯然，此類泄露的利用選擇可能是相當(dāng)廣泛的。一般來說，下一代IT基礎(chǔ)設(shè)施將會帶來許多安全挑戰(zhàn)，如：

·大量的異構(gòu)組件需要多種弱點/漏洞解決方式；

·多個邏輯與物理層使弱點/漏洞濫用更快速；

·多種服務(wù)和大量用戶提供多樣貨幣化機會；

·平臺上實施的技術(shù)、過程和業(yè)務(wù)流程多樣，制造多種攻擊場景；

·多方參與管理/行政角色多樣（特別是內(nèi)部人員濫用）導(dǎo)致濫用用例多樣；

·安全措施的跨層實施無效，導(dǎo)致保護(hù)漏洞；

·通過濫用多層架構(gòu)繞過現(xiàn)有安全控制的方法過多。

未來發(fā)展要點：

·傳統(tǒng)上，安全濫用發(fā)生在系統(tǒng)層之間。下一代IT包含了大量的層和組件，因此會增加濫用用例；

·就像云基礎(chǔ)設(shè)施一樣，對下一代IT的攻擊可能會獲得大量的信息，因此將成為一個很有吸引力的目標(biāo)；

·虛擬基礎(chǔ)設(shè)施中涉及組件的缺陷，可能會影響數(shù)據(jù)的機密性和完整性；

·了解新虛擬基礎(chǔ)設(shè)施的相互作用和架構(gòu)需求的新方法；依此建立安全保障。

3.4 虛擬和增強現(xiàn)實/游戲化

一般來說，在要將某一過程與其物理規(guī)則相分離時，就會使用虛擬現(xiàn)實和游戲化技術(shù)。該技術(shù)可以模擬災(zāi)難性事件而不實際體驗它們。模擬在培訓(xùn)中非常普遍，當(dāng)學(xué)員想要獲得職業(yè)技能時，在現(xiàn)實生活中練習(xí)可能會承擔(dān)很大的風(fēng)險。在醫(yī)學(xué)、航空航天、水下、軍事等領(lǐng)域都有相應(yīng)的例子。只要保持網(wǎng)絡(luò)和物理空間的分離，虛擬現(xiàn)實和游戲化與網(wǎng)絡(luò)安全的相關(guān)性就很低。當(dāng)虛擬和物理開始連接時，這將會改變。盡管如此，虛擬現(xiàn)實和游戲化與隱私有著重要的關(guān)聯(lián)。

3.4.1 技術(shù)挑戰(zhàn)

虛擬和增強現(xiàn)實（VAR）這一技術(shù)領(lǐng)域在走向生產(chǎn)階段的過程中已經(jīng)有了顯著的進(jìn)步。根據(jù)虛擬和增強技術(shù)使用的部門/領(lǐng)域，它可能對人類活動產(chǎn)生相當(dāng)?shù)母蓴_性和/或至關(guān)重要的作用，特別是應(yīng)用在醫(yī)藥、軍事、航空、航天等領(lǐng)域時。

虛擬和增強現(xiàn)實以游戲的方式應(yīng)用于游戲化領(lǐng)域，既有嚴(yán)肅的游戲也有有趣的游戲。因此，它正被廣泛的用戶群應(yīng)用于各種領(lǐng)域。目前，這項技術(shù)面臨的挑戰(zhàn)與顯示和通過傳感器捕獲用戶反饋有關(guān)。

作為高度交互的組件的集合，虛擬和增強現(xiàn)實承擔(dān)了復(fù)雜系統(tǒng)面臨的架構(gòu)穩(wěn)健性的挑戰(zhàn)，以及連接組件可靠性的挑戰(zhàn)。

3.4.2 安全挑戰(zhàn)

虛擬和增強現(xiàn)實面臨的安全挑戰(zhàn)，與復(fù)雜的、高度互聯(lián)的多組件環(huán)境面臨的挑戰(zhàn)相似。此外，VAR將提供用戶習(xí)慣數(shù)據(jù)收集的額外領(lǐng)域。這些信息可能具有私密性，并且，根據(jù)VAR使用的領(lǐng)域，其濫用可以影響人類的生活。

與其他新興技術(shù)領(lǐng)域一樣，VAR通過以下方式為網(wǎng)絡(luò)安全帶來挑戰(zhàn)：

·VAR信息濫用的安全和隱私影響；

·此類系統(tǒng)的信息處理和功能提供，對其機密性、完整性和可用性要求的作用；

·使用、操作、維護(hù)的弱點（如成癮、混淆等）；

·內(nèi)部人員濫用場景；

·由于組件的集成較弱受到的威脅。未來發(fā)展要點：

·需要了解該技術(shù)領(lǐng)域的安全要求；

·VAR將提供新的攻擊面和弱點；

·VAR濫用影響/沖擊仍有待評估。

3.5 自動系統(tǒng)（如車輛）

3.5.1 技術(shù)挑戰(zhàn)

自動系統(tǒng)是目前在自動車輛領(lǐng)域逐步實施的新興技術(shù)之一。盡管有過一些成功的實驗展示[1]，對產(chǎn)品開發(fā)也提供了積極的預(yù)測，仍常常有自動系統(tǒng)失敗的新聞。

出于顯而易見的原因，測試無疑是實現(xiàn)自動系統(tǒng)產(chǎn)品部署最重要的、但卻很費力的任務(wù)。[2]科學(xué)家們發(fā)現(xiàn)了許多與測試相關(guān)的挑戰(zhàn)，特別是：

·自動系統(tǒng)環(huán)境復(fù)雜性的掌握；

·復(fù)雜軟硬件的管理，包括與大量的情景參數(shù)并最終與其他復(fù)雜系統(tǒng)進(jìn)行整合和交互；

·考慮到異構(gòu)組件生命周期的不同，對所有這些組件維護(hù)的掌握。

此外，一些額外的技術(shù)挑戰(zhàn)還與容錯、對功能和韌性的信任有關(guān)：

·鑒于配置錯誤和設(shè)備故障是系統(tǒng)故障的常見誘因，因此有必要增強容錯、故障避免和故障排除。這種特性在自動系統(tǒng)中是不可避免的，特別是在與人類生活相關(guān)的自動系統(tǒng)中；

·建立對系統(tǒng)功能和自動系統(tǒng)運行的信任；

·即使是在失敗的情況下，自動系統(tǒng)也需要能夠調(diào)整它們的功能特性以適應(yīng)新形勢，并能夠為了其所處的整個生態(tài)系統(tǒng)退回到安全狀態(tài)。

3.5.2 安全挑戰(zhàn)

自動系統(tǒng)領(lǐng)域的安全挑戰(zhàn)來自于對韌性、信任和完整性的需求。值得一提的是，在自動系統(tǒng)中，我們需要更好的理解安全與保障之間的相互作用：由于自動系統(tǒng)中典型的工程遺留問題，許多（信任）需求是基于安全的。在闡述這類系統(tǒng)的保障問題時，人們不僅需要了解為確保安全的保障控制的使用，也需要詳細(xì)說明保障故障對安全的影響。更具體地說：

（1）自動系統(tǒng)的韌性是其經(jīng)受不同類型故障，而不進(jìn)入可能造成人身傷害、生命損失或財產(chǎn)嚴(yán)重?fù)p害或損失的狀態(tài)的能力。這里說的財產(chǎn)可以是由自動系統(tǒng)控制的財產(chǎn)，或者直接/間接屬于自動系統(tǒng)環(huán)境的財產(chǎn)。為了實現(xiàn)這一目標(biāo)，需要維護(hù)連續(xù)性機制、失敗和冗余機制。此外，還需要安全機制對運行時環(huán)境的所有階段，從開發(fā)到運行階段進(jìn)行保護(hù)。

（2）對自動系統(tǒng)最具挑戰(zhàn)性的要求之一就是可信。這種可信，關(guān)系到系統(tǒng)各組成部分之間的可信功能的建立，使它們不能被偽造/惡意改變。此外，為了保證與自動系統(tǒng)與外部其他組件/系統(tǒng)交互的真實性，需要建立可信關(guān)系。這對自動駕駛汽車尤其重要，因為它們可能嚴(yán)重依賴于與外界交換的信息（例如GPS和交通信息）。最后，需要建立對自動系統(tǒng)自身各個關(guān)鍵功能的安全性的信任（例如，所處理信息的不可否認(rèn)性）。所有可信功能都可以通過使用僅基于計算的安全功能（例如區(qū)塊鏈、身份驗證、數(shù)據(jù)簽名、證書等）來實現(xiàn)。

（3）除了韌性帶來的可用性需求（見上文），對完整性的保持是此類系統(tǒng)所需要的另一個基本功能。除了現(xiàn)有功能和所處理信息在流動和休息時的不可改變性之外，這些系統(tǒng)還需要保持對所執(zhí)行活動的不可否認(rèn)性。這將是必要的，因為這樣的系統(tǒng)可能會影響人類的生活（例如通過事故）。

（4）可信在自動系統(tǒng)中尤其重要：這種系統(tǒng)的復(fù)雜性，以及失敗或惡意行為的嚴(yán)重影響（即生命損失），引發(fā)了相關(guān)組件之間的可信問題。考慮到這些系統(tǒng)之間可能的特別互連（即通過M2M），很明顯需要為交互系統(tǒng)開發(fā)信任模型。

未來發(fā)展要點：

·自動系統(tǒng)需要基于某種信任模型與其他組件進(jìn)行交互；

·由于自動系統(tǒng)在交通和醫(yī)療方面的潛在應(yīng)用，其韌性將會達(dá)到新的高度；

·自動系統(tǒng)最終將需要在安全機制中采用新型方法，特別是在其與不太可靠的設(shè)備進(jìn)行交互時，如最終屬于物聯(lián)網(wǎng)環(huán)境的傳感器等。

3.6 生物納米物聯(lián)網(wǎng)（IoBNT）

3.6.1 技術(shù)挑戰(zhàn)

在物聯(lián)網(wǎng)問世之后[3]，科學(xué)家們詳細(xì)闡述了將聯(lián)網(wǎng)設(shè)備與微型化和生物過程相結(jié)合的可能性。人們設(shè)想，技術(shù)將提供“控制、再利用、修改和重組細(xì)胞結(jié)構(gòu)和功能的工具，并有望使工程師實際上將生物細(xì)胞作為可編程的基底”。在這種背景下，普遍認(rèn)為要實現(xiàn)將生物納米物質(zhì)作為生物嵌入式計算設(shè)備是主要的促成因素。

如果與DNA研究的發(fā)展，與生物計算[4]、電子健康和醫(yī)學(xué)的進(jìn)步相結(jié)合，IoBNT為技術(shù)突破開辟了許多途徑，使網(wǎng)絡(luò)成為重要的人類生物過程的一部分并發(fā)揮控制作用。

這樣的發(fā)展將會給技術(shù)帶來巨大的挑戰(zhàn)，顯著挑戰(zhàn)包括倫理、社會、法律經(jīng)濟(jì)和政治等方面的挑戰(zhàn)。盡管這些發(fā)展的影響目前難以評估，但技術(shù)專家需要意識到，應(yīng)對這些挑戰(zhàn)需要做大量的工作。

3.6.2 安全挑戰(zhàn)

IoBNT覆蓋的安全問題將給安全和網(wǎng)絡(luò)安全帶來巨大的挑戰(zhàn)：保護(hù)水平要盡可能高，因為要保護(hù)的資產(chǎn)是生命和健康的基石。此外，對功能和所有相關(guān)組件之間通信的可信將會非常重要。最后，對識別、問責(zé)、不可否認(rèn)性和完整性的要求，將決定IoBNT的開發(fā)和部署。

預(yù)計未來發(fā)展要點：

·IoBNT將為信息安全/網(wǎng)絡(luò)安全帶來巨大挑戰(zhàn)。這是因為這一領(lǐng)域涉及的資產(chǎn)具有跨學(xué)科性質(zhì)；

·對這些技術(shù)進(jìn)行的初步風(fēng)險評估，對于理解這項技術(shù)的影響至關(guān)重要；

·由于應(yīng)用領(lǐng)域的性質(zhì)和所涉及組件的性質(zhì)及相互作用，有必要擴展現(xiàn)有的安全技術(shù)來獲得所需的保護(hù)。

3.7 人工智能和機器人

3.7.1 技術(shù)挑戰(zhàn)

計算機科學(xué)人工智能中的人工智能（AI），是指計算機系統(tǒng)/服務(wù)/感知環(huán)境的應(yīng)用程序，以及使用從環(huán)境中獲得的可能不完整的數(shù)據(jù)，將完成某一任務(wù)的成功率最大化。人工智能的技術(shù)和方法，包括從簡單的決策算法，到模式識別和數(shù)據(jù)挖掘，以及深度學(xué)習(xí)和其他強化學(xué)習(xí)技術(shù)。人工智能的有趣用例包括機器人、自動駕駛、無人機、醫(yī)療診斷、個人助理等。

（1）復(fù)雜和廣闊的范圍：機器人和人工智能建立在豐富的信息之上，信息使得智能決策成為可能。人工智能和機器人共同促進(jìn)智能、自適應(yīng)、環(huán)境感知服務(wù)和應(yīng)用的部署。因此，很明顯，保障人工智能安全的復(fù)雜性在于它涉及到許多行業(yè)和領(lǐng)域，安全控制需要進(jìn)行自適應(yīng)，并能夠在這些協(xié)調(diào)設(shè)置中運行。這種安全控制很新且需要進(jìn)一步發(fā)展。

（2）財務(wù)成本： 人工智能在幾個關(guān)鍵領(lǐng)域的廣泛滲透，意味著與替換組件/人所需要的投入相比，網(wǎng)絡(luò)安全相關(guān)的潛在巨大金錢投入。

（3）無所不在：盡管人工智能確實是能帶來社會和技術(shù)范式轉(zhuǎn)變的技術(shù)之一，它可能被作為人們賴以生存的東西，卻沒有怎么認(rèn)識到相關(guān)的風(fēng)險。與大多數(shù)創(chuàng)新一樣，在其采用階段，只考慮人工智能的好處而不考慮它的缺點更為普遍。

（4）大型供應(yīng)鏈：每一個人工智能解決方案都涉及大量的利益相關(guān)者，例如軟件開發(fā)人員、硬件制造商、網(wǎng)絡(luò)提供商、軟件提供商、大數(shù)據(jù)/機器學(xué)習(xí)解決方案的服務(wù)提供商、數(shù)據(jù)交換協(xié)議、數(shù)學(xué)家等等。

（5）算法完整性：人工智能通常是一個黑盒子，無法對其進(jìn)行算法驗證，而算法的動態(tài)和不斷演化性則會阻礙鑒定。算法與其訓(xùn)練和測試數(shù)據(jù)的緊密聯(lián)系進(jìn)一步加劇了這一現(xiàn)狀，因為數(shù)據(jù)的修改可能會導(dǎo)致完全不同的算法行為。因此，對上述算法進(jìn)行驗證，確保算法不偏倚且安全可靠，具有重要意義。

3.7.2 安全挑戰(zhàn)

人工智能技術(shù)會幫助進(jìn)行智能和自動決策，因此是部署物聯(lián)網(wǎng)和工業(yè)4.0場景的先決條件。在這種情況下，對安全的首要需求自然就延伸到了人工智能。通過分析有關(guān)人工智能和機器人的現(xiàn)有材料，ENISA列出了一系列網(wǎng)絡(luò)安全挑戰(zhàn)。這一網(wǎng)絡(luò)安全風(fēng)險和挑戰(zhàn)列表并不詳盡，僅作為陳述性列表使用：

（1）可信：考慮到人工智能對自動決策的支持通常不考慮人工輸入的特殊性，可信的概念因此就顯得至關(guān)重要。機器人系統(tǒng)需要基于信任模型與其他的組件進(jìn)行交互。這種信任應(yīng)如何建立在此類基于AI的系統(tǒng)中、如何在信任鏈中傳播、如何利用信任來提升用戶意識，以及如何使用信任來引發(fā)人們對安全問題的關(guān)注，這是人工智能領(lǐng)域的公開挑戰(zhàn)之一。

（2）非常大的攻擊面：與機器人和人工智能相關(guān)的威脅和風(fēng)險是多種多樣的，并且會迅速發(fā)展。由于對公民的健康、安全和隱私（用戶可能不清楚數(shù)據(jù)的收集和處理）的巨大影響，人工智能的相關(guān)威脅范圍非常廣泛。

（3）復(fù)雜的范圍：由于人工智能及其在機器人上的應(yīng)用，不應(yīng)該被看作是獨立的算法和解決方案的集合，而更像是一個豐富的、多樣化的、廣泛的生態(tài)系統(tǒng)，且涉及軟件、硬件、數(shù)據(jù)、設(shè)備、通信、接口和人員等方面，安全問題變得更加嚴(yán)峻。

（4）不確定性：由于此類系統(tǒng)缺乏確定性，自動機器人系統(tǒng)的本質(zhì)就是依賴于一定程度的不確定性。安全控制需要考慮這方面并提供適當(dāng)?shù)慕鉀Q方案。

（5）透明度：決策的透明度意味著人工智能需要會行動的原因和決策的邏輯流程進(jìn)行證明。監(jiān)管機構(gòu)和用戶都應(yīng)該知道做出某個決定的原因，以在必要使增加信任和調(diào)整責(zé)任。對機器人技術(shù)的接受和采用就依賴于這種透明度。

（6）廣泛的部署：除了人工智能的商業(yè)應(yīng)用（例如可穿戴設(shè)備的智能通知），最近出現(xiàn)了關(guān)鍵基礎(chǔ)設(shè)施（CI）通過在傳統(tǒng)基礎(chǔ)設(shè)施上使用AI，向智能基礎(chǔ)設(shè)施即工業(yè)4.0（例如制造業(yè)中的機器人）轉(zhuǎn)移的趨勢。我們需要考慮使用動態(tài)安全控制，從而滿足上文所述系統(tǒng)操作的不同環(huán)境需求。

（7）安全與保障流程集成：這是一個非常具有挑戰(zhàn)性的任務(wù)，因為它可能涉及所有利益相關(guān)者可能相抵的觀點和要求。安全挑戰(zhàn)本身在議程中就極其重要。由于人工智能的決策和機器人的行動可能對物理世界產(chǎn)生嚴(yán)重和實際的影響，對安全的保障應(yīng)該得到提升。

（8）對個人數(shù)據(jù)和隱私的影響：人工智能可能會導(dǎo)致有關(guān)用戶行為的大量信息，向少數(shù)組織/公司的集中。要保證這種集中對隱私條例和信息安全措施的合規(guī)將是一項挑戰(zhàn)。此外，人工智能對收集和處理數(shù)據(jù)的需求可能會影響消費者的行為，因為消費者的個人數(shù)據(jù)和隱私可能會被泄露給非法方。在這方面，同意提供的方式、應(yīng)用在人工智能上的運行方式、一種算法到另一種算法的中繼方式等等，都需要進(jìn)一步被分析。

預(yù)計未來發(fā)展要點：

·有必要了解人工智能和機器人技術(shù)的構(gòu)建模塊以及模塊之間相互作用。基于此（技術(shù)）信息，安全專家將能夠確定模塊的風(fēng)險暴露位置；

·必須對與人工智能和機器人技術(shù)相關(guān)的威脅和弱點進(jìn)行評估。鑒于此類技術(shù)的廣泛使用，這項評估需要同時包括技術(shù)和非技術(shù)性問題；

·需要通過政策解決所發(fā)現(xiàn)的社會和技術(shù)問題：需要確定各種利益相關(guān)者的作用；政府的必要指導(dǎo)水平；與各種現(xiàn)有法規(guī)的銜接等；

·一定要在產(chǎn)品和服務(wù)生命周期的所有階段確保安全，特別是在設(shè)計、開發(fā)階段（測試，因API再利用）以及使用和維護(hù)（安全補丁，特別是使用第三方安全功能/API）階段。

4 收集觀點整合：新興安全相關(guān)領(lǐng)域

4.1 認(rèn)證

通過移動計算、智能設(shè)備和物聯(lián)網(wǎng)，安全保護(hù)與許多家庭的設(shè)備和商品都息息相關(guān)。我們越發(fā)需要用某種標(biāo)志證明安全功能的存在和效率，這種標(biāo)志類似于用于電器的認(rèn)證標(biāo)志。

然而，現(xiàn)有的認(rèn)證計劃都過于“沉重”（即昂貴、嚴(yán)格、狹窄和靜態(tài)）。這些特性與IoT設(shè)備的特性不兼容，IoT設(shè)備的生命周期短、廉價并且可以快速改變其操作方式。在許多情況下，獲得安全功能認(rèn)證的努力，可能會大大削減產(chǎn)品營銷所帶來的經(jīng)濟(jì)效益。這實際上不利于安全認(rèn)證。

隨著時間的推移，為了克服前文所提到的不足，人們已經(jīng)想出了各種安全認(rèn)證方法。

其中一個想法是通過模擬的網(wǎng)絡(luò)威脅，對設(shè)備進(jìn)行暴露模擬。這將測試出各種安全產(chǎn)品的韌性/防護(hù)等級。這種方法雖然不正式，但可能是檢查商業(yè)產(chǎn)品安全級別的一種實用且經(jīng)濟(jì)的方法。歐盟委員會通過公開募集的方式，在研究領(lǐng)域（H2020）采用了一種類似的方法。

其他現(xiàn)有的想法包括用于供應(yīng)商和/或組件（硬件和軟件）的可信模型。在這種情況下，評估人員需要根據(jù)所使用的體系結(jié)構(gòu)和暴露場景的信息，來評估安全功能的有效性。后一種方法與上一段所述的方法類似。軟件責(zé)任可能會影響到創(chuàng)新的、短生命周期的組件/技術(shù)的發(fā)展。

ENISA在產(chǎn)品安全認(rèn)證領(lǐng)域進(jìn)行了一系列活動[5]，并支持歐盟委員會和成員國建立框架，用于制定全歐洲可用的認(rèn)證標(biāo)準(zhǔn)。作為本預(yù)測的另一項內(nèi)容，利益相關(guān)者和ENISA計劃進(jìn)一步完善輕便設(shè)備認(rèn)證計劃，使其適用于在面向消費者的環(huán)境和應(yīng)用程序（例如，物聯(lián)網(wǎng)、電子健康、聯(lián)網(wǎng)家庭等）中部署的零售硬軟件組件。

值得一提的是，歐洲委員會在《歐洲議會和歐洲理事會對ENISA的未來規(guī)定》（Regulation of the European Parliament and of the Council on the future of ENISA）的提案中，包含了一份可能認(rèn)證的可能內(nèi)容草案。該草案需與歐盟成員國和利益相關(guān)方進(jìn)行商議。

認(rèn)證要點：

·現(xiàn)有的認(rèn)證方案無法適用類似于物聯(lián)網(wǎng)中的輕便設(shè)備；

·需要用新的方法來制定網(wǎng)絡(luò)安全功能檢查的替代方法；

·ENISA支持歐盟委員會鞏固現(xiàn)有的方法。

4.2 一個虛擬地帶，多個參與者

網(wǎng)絡(luò)空間是一個虛擬地帶，在這里各種犯罪/違法/攻擊行為都有可能發(fā)生。當(dāng)被告知此類事件/行為的存在時，擁有受到威脅的IT組件的各種專業(yè)人員，將采取某種行動保護(hù)他們的資產(chǎn)。同樣，國家安全、執(zhí)法和軍事力量也可能介入處理網(wǎng)絡(luò)事件的影響。

就像在真正的空間/領(lǐng)土中一樣，一起嚴(yán)重的安全事件將會同時引起國家安全、執(zhí)法并最終引起軍事部隊的注意。從這一領(lǐng)域吸取的經(jīng)驗教訓(xùn)說明，在事件發(fā)生領(lǐng)域部署部隊，需要經(jīng)過謹(jǐn)慎的協(xié)調(diào)。否則，通過救援力量造成的傷害可能比事件本身造成的傷害更大。

網(wǎng)絡(luò)空間的虛擬性和溯源的困難性，使得協(xié)調(diào)行動組織變得更加困難也更加關(guān)鍵。再加上協(xié)調(diào)各種力量行動的監(jiān)管框架還沒有到位這一事實，這一問題很明顯是非常緊迫的，特別是在跨國界、泛歐洲方面。[6]

相關(guān)群體已經(jīng)理解了這一問題。網(wǎng)絡(luò)危機管理合作被認(rèn)為是一項需要向前推進(jìn)的重要事項，不管是在歐盟委員會還是在ENISA層面[7]。根據(jù)歐盟委員會對ENISA的未來提出的草案，我們預(yù)計在今后一段時間內(nèi)，這一領(lǐng)域?qū)邢喈?dāng)多的發(fā)展。

行動協(xié)調(diào)要點：

·就像其他生活領(lǐng)域一樣（如危機、災(zāi)難性事件等），協(xié)調(diào)各種參與者的活動，包括防御、執(zhí)法、救援等是必要的；

·網(wǎng)絡(luò)危機合作是一個需要解決的重要領(lǐng)域。

4.3 可信度

可信度，一種使某一實體在與其他實體互動時顯得可信的特性的集合。在各交互方之中變得可信的需求，并不是某種新的安全問題。過去10年，電子商務(wù)中出現(xiàn)了這種需求。人們已經(jīng)開發(fā)了各種模型，某些基于的是強大的身份驗證（例如基于PKI），其他基于的是聲譽模型。[8]

雖然這些模型實現(xiàn)了它們的目的（例如在電子商務(wù)平臺和交易中），但它們不一定適用于第4節(jié)中提到的各種新興技術(shù)領(lǐng)域。我們預(yù)計，各種新的信任模型將被開發(fā)出來，特別是通過無線協(xié)議以特別的方式建立通信的組件。為了實現(xiàn)適當(dāng)?shù)臄?shù)據(jù)保護(hù)/數(shù)據(jù)隱私從而獲得必要的用戶信任，這些模型是必要的。

基于身份驗證的系統(tǒng)必須解決的一個挑戰(zhàn)是可擴展性：考慮到設(shè)備/服務(wù)和交互的數(shù)量之大，身份驗證過程的性能（包括涉及憑證的處理）可能是部署的一個限制因素。

考慮到組件的多供應(yīng)商和互操作的特別性，我們預(yù)計現(xiàn)有的信任基礎(chǔ)設(shè)施（例如基于PKI、加密等的基礎(chǔ)設(shè)施）將需要加強它們的互操作性，以便與可信組件相互識別。這種需求將使信任基礎(chǔ)設(shè)施提供商采用新的業(yè)務(wù)模式。此外，在相關(guān)領(lǐng)域的全球大玩家，可能將必要的功能和基礎(chǔ)設(shè)施作為其“全包”服務(wù)組合的一部分?？梢灶A(yù)料的是，信任和可信度將共同促進(jìn)認(rèn)證領(lǐng)域的發(fā)展。

可信度要點：

·未來將開發(fā)新的信任模型，以適應(yīng)特殊組件交互的需要；

·現(xiàn)有的和新的信任基礎(chǔ)設(shè)施，將需要滿足必要的互操作性和性能需求；

·信任模型對于接受服務(wù)提議非常重要，因此可以無縫整合進(jìn)服務(wù)組合中。

4.4 安全對整個生命周期的覆蓋

考慮到當(dāng)前和未來的基礎(chǔ)設(shè)施、系統(tǒng)、應(yīng)用程序和服務(wù)的復(fù)雜性，安全對所有類型IT產(chǎn)品整個生命周期的覆蓋是必不可少的。這包括IT產(chǎn)品的各個階段，包括設(shè)計、開發(fā)、測試、采購、操作、管理和逐步淘汰的安全。IT產(chǎn)品責(zé)任是未來需要注意的一個問題。[9]通過用戶端的適當(dāng)配置和組件維護(hù)，安全對生命周期的覆蓋是實現(xiàn)IT產(chǎn)品責(zé)任的條件之一。在產(chǎn)品整個生命周期中都需要保持這種服務(wù)水平，這一生命周期通常最高為幾十年。

使安全覆蓋整個生命周期還有一個更重要的原因，即實施某種全面安全管理，或?qū)⑾嚓P(guān)組件集成到現(xiàn)有安全管理系統(tǒng)中的可能性。

將組件集成到整體安全管理系統(tǒng)中的能力非常重要：在上述新興技術(shù)領(lǐng)域中，安全管理的可用性，是實現(xiàn)可接受的安全性和保護(hù)級別的推動因素。此外可以假定的是，大多數(shù)專業(yè)使用的IT基礎(chǔ)設(shè)施都將成為安全管理系統(tǒng)的一部分。

在這里要說的最后一點是，不管是在組件集成到現(xiàn)有安全管理平臺的能力中，還是安全管理平臺適應(yīng)不斷變化的威脅環(huán)境的能力中，都需要靈活性。

生命周期安全要點：

·在產(chǎn)品開發(fā)生命周期中包含安全，是對各類基礎(chǔ)設(shè)施進(jìn)行必要安全改進(jìn)的先決條件；

·在產(chǎn)品開發(fā)生命周期中包含安全，增加了對適應(yīng)變化的威脅環(huán)境的敏捷性；

·在產(chǎn)品開發(fā)生命周期中包含安全，是將IT組件集成到整體安全管理方案中的唯一方法。

4.5 加密領(lǐng)域即將出現(xiàn)的問題

目前，想要隱私的人（如加密）和想通過監(jiān)聽來獲得保障的人之間正在進(jìn)行競爭。2016年，有證據(jù)表明，隱私與國家安全之間斗爭的不確定前所未有。各國為了確保國家安全，傾向于自行實施網(wǎng)絡(luò)安全和監(jiān)聽。[10]

盡管如此，因為有著不同的加密和隱私規(guī)定，誕生了新的加密“地域立法（legislation geographies）”。在這些地區(qū)移動的公民可能會察覺其合規(guī)狀況的變化。這種情況類似于老一輩人在美國法律限制強加密時所經(jīng)歷的。[11]考慮到約一半的互聯(lián)網(wǎng)流量是加密的[12]，國家安全將其視為從數(shù)據(jù)通信中獲取情報的一個越來越大的障礙。

與此同時，國家和行業(yè)致力于審查功能以及大規(guī)模的通信流/帶寬的控制。政治方面的發(fā)展也顯示出了反全球化的趨勢。這可能會大部分互聯(lián)網(wǎng)的出現(xiàn)控制中心。此類實體可以影響參與這一通信的所有國家和個人。這種分化的發(fā)展所造成的緊張關(guān)系，勢必會影響到未來的網(wǎng)絡(luò)安全界。

在競爭方面，整合歐盟現(xiàn)有的密碼學(xué)能力將是有意義的。歐洲在關(guān)鍵管理、硬件加密、識別方法、加密和數(shù)據(jù)保護(hù)等領(lǐng)域的競爭優(yōu)勢是歐盟能力的核心。任何相關(guān)資源、技能和知識都應(yīng)在參與和支持框架內(nèi)加以鞏固和使用（例如，歐盟方案、成員國支持的發(fā)展計劃等）。

特別的，歐洲在醫(yī)療器械認(rèn)證標(biāo)準(zhǔn)和監(jiān)管方面的進(jìn)步，可能會被用來為這類設(shè)備制定嚴(yán)格的歐洲安全要求，并為在這個市場上的歐洲供應(yīng)商增加競爭優(yōu)勢。

最后，密碼學(xué)應(yīng)用的新模型正在被開發(fā)，這些模型旨在使物聯(lián)網(wǎng)環(huán)境下/應(yīng)用程序之間的組件交互更加安全。這一趨勢很強并與商業(yè)流程在IoT基礎(chǔ)設(shè)施上的實施相關(guān)，例如通過數(shù)字貨幣進(jìn)行電子支付。我們預(yù)計，加密技術(shù)將是保證IoT和其他技術(shù)領(lǐng)域中，此類交互安全的關(guān)鍵技術(shù)。

總結(jié)這一節(jié)，應(yīng)該提到技術(shù)進(jìn)步的重要性：加密方案和協(xié)議安全，例如量子計算機，以及其他可能的數(shù)學(xué)突破將是非常關(guān)鍵的。無論是對于防守方還是進(jìn)攻方。此類發(fā)展使有效的密碼成為不可或缺的組成部分。

安全加密要點：

·在國家層面，加密被視為合法監(jiān)聽的障礙。民族國家將設(shè)法克服這些障礙；

·供應(yīng)商/供應(yīng)商對較弱的數(shù)據(jù)保護(hù)感興趣，這將使他們用統(tǒng)一的安全標(biāo)準(zhǔn)在國際上擁有更好的地位，統(tǒng)一的安全標(biāo)準(zhǔn)還將簡化產(chǎn)品開發(fā)/集成工作；

·歐盟應(yīng)利用這一領(lǐng)域現(xiàn)有的加密技術(shù)和服務(wù)發(fā)展謀求領(lǐng)導(dǎo)全球市場；

·加密功能的新使用模式正在開發(fā)中。這將增強在軟硬件產(chǎn)品中包含加密功能的需求。

4.6 識別

就像現(xiàn)在一樣，在未來，識別將成為網(wǎng)絡(luò)空間中各種互聯(lián)技術(shù)、個人、組件和所有其他可識別物體的必要功能。識別是信任的必要先決條件且不可否認(rèn)，即在兩個或多個可識別的主體之間行為發(fā)生的無法辯駁的證據(jù)。

目前，大多數(shù)形式的識別涵蓋的是人類主體，且主要用于身份驗證。此外，相當(dāng)一些識別/身份驗證方法已經(jīng)可以適用非人類主體。在這兩種情況下，身份都是網(wǎng)絡(luò)罪犯最理想的事物之一。出于顯而易見的原因，個人可識別信息（PII）是泄露最多的一種數(shù)據(jù)。

最近的研究表明，當(dāng)前，前沿且廣泛應(yīng)用的生物特征認(rèn)證方法的實施有一些缺陷。這種認(rèn)證機制是否會應(yīng)用于電子健康或金融應(yīng)用程序中呢？顯然不會；因此有必要（提前）改進(jìn)識別/身份驗證方法，以適應(yīng)新興技術(shù)，避免關(guān)鍵IT系統(tǒng)中出現(xiàn)嚴(yán)重事故。

在網(wǎng)絡(luò)空間中，需要認(rèn)證的另外兩個同樣重要的方面是匿名性和溯源。盡管兩者是相反的，匿名和行為的不可否認(rèn)性卻都是需要識別機制支持的兩種功能/性質(zhì)。它們?yōu)檎麄€識別領(lǐng)域帶來了額外的復(fù)雜性。

最后，由于用戶會留下豐富數(shù)字足跡（例如對所有數(shù)字痕跡的概括），我們需要重新考慮身份的一般概念，因為它已經(jīng)遠(yuǎn)遠(yuǎn)超過了現(xiàn)今功能、產(chǎn)品和服務(wù)所包含的典型身份。此外，非用戶組件（如自動系統(tǒng)）的身份將變得越來越重要，因為它們將承擔(dān)攸關(guān)人類生命的重要功能。

識別要點：

·需要對識別和信任之間的相互作用進(jìn)行研究；

·要考慮匿名性、身份和不可否認(rèn)性概念的共同點，將其放在現(xiàn)代IT基礎(chǔ)設(shè)施中，并同時考慮到隱私和安全需求；

·身份的概念需要在更廣泛的基礎(chǔ)上考慮，因為多種用戶數(shù)據(jù)一起可以形成檔案，并匹配到網(wǎng)絡(luò)上某唯一用戶上。

4.7 將人工智能（AI）和機器學(xué)習(xí)（ML）作為網(wǎng)絡(luò)安全工具

AI/ML和物聯(lián)網(wǎng)似乎是一個有趣的組合，發(fā)展也越來越快：AI和ML可以被用于半自動或自動地監(jiān)督物聯(lián)網(wǎng)環(huán)境中的簡單任務(wù)。[13]這可以通過利用由交互組件/傳感器產(chǎn)生的可用知識/數(shù)據(jù)（大量）來實現(xiàn)?？紤]到互聯(lián)網(wǎng)永遠(yuǎn)不會忘記這一點，這將是一個巨大的優(yōu)勢。這些信息可用于糾正組件交互，從而提高安全性和韌性。

就像許多應(yīng)用領(lǐng)域一樣，ML和AI在網(wǎng)絡(luò)安全領(lǐng)域都很有趣。它們可以通過識別組件在操作或通信模式中的異常來檢測攻擊。相似的，ML和AI可以用于發(fā)現(xiàn)網(wǎng)絡(luò)威脅情報收集所需的相互關(guān)系，從而通過大量的數(shù)據(jù)建立背景。在大數(shù)據(jù)和國家安全領(lǐng)域已經(jīng)有過類似的應(yīng)用。

在安全方面，ML和AI的使用也可以支持對基礎(chǔ)設(shè)施和安全管理政策應(yīng)用領(lǐng)域的自動監(jiān)督。在這方面，ML和AI將有助于修正政策執(zhí)行和輔助監(jiān)督，這些在很大程度上是由人類執(zhí)行的。這樣，ML和AI可以降低成本，提高安全操作的有效性。

AI和ML安全要點：

·AI和ML是網(wǎng)絡(luò)安全領(lǐng)域的重要工具。可用于威脅情報（TI）領(lǐng)域的背景發(fā)現(xiàn)；

·第二個非常有希望的領(lǐng)域是使用ML和AI識別攻擊模式（即基于TI），并協(xié)助安全管理/政策實施監(jiān)督；

·AI和ML將成為攻擊的目標(biāo)。它們可能成為操縱和攻擊的新途徑。

4.8 讓終端用戶更多的參與進(jìn)來

毫無疑問，網(wǎng)絡(luò)安全知識需要轉(zhuǎn)移給終端用戶。事件分析數(shù)據(jù)顯示，超過50%的事件是由普通/基本的用戶錯誤引起的。這就說明從成本/效益比來看，用戶意識可能成為最有效的安全控制。

網(wǎng)絡(luò)安全的意識行動確實存在，教育工作也正在進(jìn)行中。雖然許多倡議都包括終端用戶培訓(xùn)，在這方面仍然存在大量的改進(jìn)空間。一些例子包括：安全與教育、決策者信息意識的提高、使用戶更好的參與到自有設(shè)備/應(yīng)用安全的管理中、傳遞安全信息時使用目標(biāo)群體導(dǎo)向。這一領(lǐng)域清單的廣度/深度是很大的。我們認(rèn)為，終端用戶安全是一個重要的領(lǐng)域，卻未能隨著社會的數(shù)字化而發(fā)展。

最后，眾所周知，網(wǎng)絡(luò)安全技能存在嚴(yán)重不足。這一需求將在未來進(jìn)一步加強。來自軍事領(lǐng)域的新型組織完成了大白帽網(wǎng)絡(luò)玩家的版圖。然而，問題在于如何填補網(wǎng)絡(luò)安全和網(wǎng)絡(luò)威脅技能的空白。網(wǎng)絡(luò)戰(zhàn)爭的擴大是否會影響到其他、商業(yè)領(lǐng)域？這一問題在今天很難回答，因為在網(wǎng)絡(luò)犯罪、網(wǎng)絡(luò)戰(zhàn)爭、網(wǎng)絡(luò)間諜、供應(yīng)商、研究者和其他商業(yè)組織中，確實存在廣泛的灰色地帶。

毫無疑問，安全界必須讓人們更多的了解他們，決策者也需要提升能力，更好地教育受過各種教育的人士。

終端用戶要點：

·教育和網(wǎng)絡(luò)安全認(rèn)識需要包括各種水平和技能；

·專業(yè)教育需要嘗試解決市場上的技能短缺問題；

·產(chǎn)品需要注意隱藏的復(fù)雜性，并支持用戶管理安全參數(shù)。

[1]Detroit is Stomping Silicon Valley in The Selfdriving Car Race.[EB/OL].(2017-04-03).https:// www.wired.com/2017/04/detroit-stompingsilicon-valley-self-driving-car-race/.

[2]Testing of Autonomous Systems - Challenges and Current State-of-the-Art[EB/OL].(2016-07-20).https://www.researchgate.net/publication/305622163_Testing_of_ Autonomous_Systems_-_Challenges_and_ Current_State-of-the-Art, accessed April 2017.

[3]The Internet of Things Goes Nano[EB/OL].(2016-07-23).https://www.scientificamerican.com/ article/the-internet-of-things-goes-nano/.

[4]Scientists Hacked a Cell’s DNA and Made a Biocomputer Out of It[EB/OL].(2017-04-12).https://singularityhub.com/2017/04/12/ scientists-hacked-a-cells-dna-and-made-abiocomputer-out-of-it/.

[5]ICT Security Certification for Industry [EB/OL].(2017-04-30).https://www.enisa.europa.eu/ events/ict-security-certification-for-industry/ security-certification-of-ict-productsineurope, accessed April 2017.

[6]Estonia to conduct the first cyber defence exercise for defence ministers [EB/OL].(2017-07-26).https://www.eu2017.ee/news/press-releases/ estonia-conduct-first-cyber-defenceexercise-defence-ministers.

[7]Strategies for incident response and cyber crisis cooperation [EB/OL].(2016-08-25).https:// www.enisa.europa.eu/publications/strategiesfor-incident-response-and-cyber-crisiscooperation.

[8]The Value of Reputation on Ebay: A Controlled Experiment[EB/OL].(2017-04-25).http:// courses.cs.washington.edu/courses/cse522/05au/ reputation-ebay.pdf.

[9]Software Companies: New Liability Under the Commercial Agents Regulations 1993[EB/ OL].(2017-04-27).https://devant.co.uk/ software-companies-new-liability-under-thecommercial-agents-regulations-1993/.

[10]'Extreme Surveillance' Becomes UK Law with Barely a Whimper[EB/OL].(2017-06-27).https://www.theguardian.com/world/2016/ nov/19/extreme-surveillance-becomes-uklaw-with-barely-a-whimper.

[11]Export of Cryptography from the United States[EB/OL].(2017-06-30).https:// en.wikipedia.org/wiki/Export_of_cryptography_ from_the_United_States.

[12]Half The WEB is Now Encrypted, That Makes Everyone Safer [EB/OL].(2017-01-30).https:// www.wired.com/2017/01/half-web-nowencrypted-makes-everyone-safer/.

[13]Ericsson’s Big Black Box Full of AI Goodness Intrigues at MWC 2017[EB/OL].(2017-02-28).http://telecoms.com/480122/ericssons-bigblack-box-full-of-ai-goodness-intrigues-atmwc-2017/.