李 宏，左延智，張宗鵬，吳訓(xùn)吉

（1.中國電子科技集團(tuán)公司第五十四研究所，石家莊 050002；2.北京跟蹤與通信技術(shù)研究所，北京 100094；3.北京新宇航星科技有限公司，北京 100080）

0 引言

航天業(yè)務(wù)網(wǎng)建設(shè)完成以后，長期穩(wěn)定和可靠地運行便成為了網(wǎng)絡(luò)建設(shè)及使用維護(hù)人員共同關(guān)注的問題。為了能夠給各種類型的試驗任務(wù)提供實時、可靠的服務(wù)，參試人員必須及時了解網(wǎng)絡(luò)及設(shè)備的運行狀況，特別是在網(wǎng)絡(luò)性能降低及發(fā)生故障時，如何快速準(zhǔn)確定位，及時排除故障，成為網(wǎng)絡(luò)運行中一個非常關(guān)鍵的問題。因此需要部署網(wǎng)絡(luò)性能管理運維系統(tǒng)實現(xiàn)對各項網(wǎng)絡(luò)性能指標(biāo)的實時在線監(jiān)測，并對網(wǎng)絡(luò)承載的各類業(yè)務(wù)進(jìn)行實時分析和透視，一旦出現(xiàn)網(wǎng)絡(luò)性能下降或信息傳輸異常時，幫助網(wǎng)管人員進(jìn)行故障定位。

1 用戶需求分析

1.1 日常維護(hù)工作中遇到的問題

網(wǎng)絡(luò)維護(hù)人員最關(guān)注兩個方面：維護(hù)日常網(wǎng)絡(luò)的正常運轉(zhuǎn)；遇到問題查找故障解決問題。他們經(jīng)常會遇到哪些問題呢？例如：

表1 日常維護(hù)工作中可能遇到的問題列表

1.2 解決問題的思路

從問題產(chǎn)生的角度看，解決問題是從宏觀到微觀的過程，自上而下層層分析解決問題。首先是網(wǎng)絡(luò)的使用者——用戶反饋遇到諸如卡頓、反應(yīng)遲頓，甚至圖片或視頻出現(xiàn)馬賽克；第二步維護(hù)人員需要從復(fù)雜的網(wǎng)絡(luò)連接中孤立出問題，識別哪些因素造成這樣的影響；第三步是深入分析，找到問題出現(xiàn)前后時刻的現(xiàn)場，確定問題根源，從而制定解決方案，避免問題再次出現(xiàn)。

從問題挖掘的角度看，解決問題應(yīng)采用KFP 模式，自下而上的三層數(shù)據(jù)架構(gòu)。最底層為探針，抓取網(wǎng)絡(luò)中的數(shù)據(jù)包，解析報頭和應(yīng)用層，計算得到各項性能指標(biāo)；第二步將數(shù)據(jù)包映射為測試流，計算測試流的指標(biāo)，然后再深度分析得到應(yīng)用層的有關(guān)參數(shù)；第三步將各個層次的性能指標(biāo)以圖表形式展現(xiàn)給網(wǎng)絡(luò)維護(hù)人員，對于超過閾值的指標(biāo)或丟包等故障予以告警。提醒維護(hù)人員關(guān)注告警信息，提前發(fā)現(xiàn)問題解決問題。

圖1 解決問題的思路

綜上所述，問題發(fā)生是一個被動的過程，而問題挖掘是一個主動的過程，因此解決問題的根本思路應(yīng)當(dāng)采用主動測試模式和被動測試模式相結(jié)合的方式。在任務(wù)執(zhí)行前，需要發(fā)送模擬數(shù)據(jù)流對整個網(wǎng)絡(luò)進(jìn)行性能測試，提前了解網(wǎng)絡(luò)各個鏈路和通道的時延和丟包狀況；在任務(wù)執(zhí)行中，需要實時監(jiān)測網(wǎng)絡(luò)性能指標(biāo)，獲得網(wǎng)絡(luò)整體態(tài)勢，應(yīng)當(dāng)采用被動測試模式；任務(wù)完成后，對保存的數(shù)據(jù)進(jìn)行事后分析和統(tǒng)計，分析和追溯問題的起源。

2 功能體系結(jié)構(gòu)設(shè)計

2.1 選取合適的網(wǎng)絡(luò)性能指標(biāo)

網(wǎng)絡(luò)運維管理系統(tǒng)的基礎(chǔ)是對網(wǎng)絡(luò)的測量，捕獲網(wǎng)絡(luò)數(shù)據(jù)包、統(tǒng)計和計算得到各項指標(biāo)值，從而得到網(wǎng)絡(luò)的實時態(tài)勢。本文結(jié)合航天業(yè)務(wù)網(wǎng)的實際情況，從指標(biāo)體系中選取了最能反映網(wǎng)絡(luò)自身運行狀況和特征的指標(biāo)，并在此基礎(chǔ)上進(jìn)行應(yīng)用監(jiān)控、態(tài)勢感知、故障定位、容量規(guī)劃等功能，實現(xiàn)智能化管理。在分析了網(wǎng)絡(luò)各協(xié)議層的基礎(chǔ)上對性能指標(biāo)進(jìn)行了歸類，按照功能分為三類：

2.1.1 反映網(wǎng)絡(luò)性能的指標(biāo)

（1）時延：數(shù)據(jù)離開源點的時間T1與到達(dá)目的點的時間T2的時間間隔T2-T1。實際測量時采用實時時延（抓包時間-發(fā)送時間）或區(qū)間時延（兩個探針抓包時間之差）。

（2）時延抖動：數(shù)據(jù)流中不同數(shù)據(jù)包時延的變化量。實際測量時采用單位時間內(nèi)最小時延值與最大時延值表示抖動值。

（3）丟包：某一時間段內(nèi)被測網(wǎng)絡(luò)傳輸及處理中丟失或出錯的信息包數(shù)。

（4）丟包率：一段時間內(nèi)丟失或出錯的數(shù)據(jù)包數(shù)量與傳輸?shù)臄?shù)據(jù)包總數(shù)的比值。

（5）分片丟包：分片傳輸?shù)那闆r下，丟失一個或若干個分片。

（6）錯序：未按照原始的包順序轉(zhuǎn)發(fā)記錄為錯序。大多數(shù)情況下接收方能夠修復(fù)錯序，但對于實時通信而言，錯序破壞了數(shù)據(jù)的正常順序，需要重點監(jiān)測。

2.1.2 反映網(wǎng)絡(luò)流量的指標(biāo)

（1）吞吐量：單位時間內(nèi)在網(wǎng)絡(luò)中給定點成功傳送的IP 數(shù)據(jù)包數(shù)量，也就是分組吞吐量，也可以用字節(jié)或比特吞吐量來衡量。

（2）帶寬：單位時間內(nèi)物理通路理論上所能傳送的最大比特數(shù)。相關(guān)的參數(shù)有鏈路帶寬、瓶頸帶寬和可用帶寬等。

（3）業(yè)務(wù)流量分布：單位時間內(nèi)網(wǎng)絡(luò)中各主流業(yè)務(wù)流量大小及其占總流量的比例分布。（4）組播綜合指標(biāo)：單位時間內(nèi)組播的各項指標(biāo)分布情況。（5）TCP 通信過程：監(jiān)測TCP 通信過程的建立、斷開、握手等信號幀。

（6）TCP 重傳率：TCP 重傳的數(shù)據(jù)量與傳輸?shù)臄?shù)據(jù)量總數(shù)的比值。

2.1.3 反映業(yè)務(wù)質(zhì)量的指標(biāo)

關(guān)注網(wǎng)絡(luò)里的主要業(yè)務(wù)應(yīng)用，例如：數(shù)字話音、數(shù)字視頻、Web 應(yīng)用、網(wǎng)絡(luò)實時數(shù)字、數(shù)據(jù)庫訪問等業(yè)務(wù)的質(zhì)量，可以通過業(yè)務(wù)的帶寬、丟包率和時延、請求-返回時延來衡量。

2.2 系統(tǒng)功能結(jié)構(gòu)

系統(tǒng)功能分為5層：網(wǎng)絡(luò)層、數(shù)據(jù)獲取存儲層、基礎(chǔ)功能層、核心功能層、操作管理層。

圖2 系統(tǒng)體系結(jié)構(gòu)圖

2.2.1 網(wǎng)絡(luò)層功能

網(wǎng)絡(luò)層的功能包括：千兆網(wǎng)絡(luò)鏡像接口功能、萬兆網(wǎng)絡(luò)鏡像接口功能、B 碼校時信號接口功能。

（1）系統(tǒng)連接交換機或路由器的鏡像端口，同時采集主用網(wǎng)絡(luò)和備用網(wǎng)絡(luò)的數(shù)據(jù)包，或者其他通用網(wǎng)絡(luò)信號的數(shù)據(jù)包，支持千兆網(wǎng)絡(luò)和萬兆網(wǎng)絡(luò)。

（2）系統(tǒng)接收B 碼校時信號實現(xiàn)全網(wǎng)時間統(tǒng)一，支持直流DC 和交流AC。

2.2.2 數(shù)據(jù)獲取存儲層

數(shù)據(jù)獲取存儲層的功能包括：數(shù)據(jù)包捕獲、通信協(xié)議解析、數(shù)據(jù)包存儲三項功能。

（1）數(shù)據(jù)包捕獲：系統(tǒng)從網(wǎng)絡(luò)中捕獲所有的數(shù)據(jù)包，無遺漏抓包；為每一個數(shù)據(jù)包打上時間戳，并檢查CRC 校驗是否正確，統(tǒng)計錯誤數(shù)據(jù)包。用于日常網(wǎng)絡(luò)運行維護(hù)、任務(wù)準(zhǔn)備及實施階段。

（2）通信協(xié)議解析：系統(tǒng)對每一個數(shù)據(jù)包的7層通信協(xié)議進(jìn)行解析，得到IP 地址、端口等參數(shù)，然后進(jìn)行分類歸并為測試流，計算各項性能指標(biāo)值。

（3）數(shù)據(jù)包存儲：系統(tǒng)將數(shù)據(jù)包的特征值保存在本地磁盤中，也可以根據(jù)操作員的設(shè)置保存原始數(shù)據(jù)包內(nèi)容。存儲的數(shù)據(jù)可供事后分析讀取和調(diào)用。

2.2.3 基礎(chǔ)功能層

基礎(chǔ)功能層的功能包括：網(wǎng)絡(luò)性能測試、網(wǎng)絡(luò)性能監(jiān)測、事后數(shù)據(jù)分析、性能告警。

（1）網(wǎng)絡(luò)性能測試：采用主動測試模式，按照發(fā)送協(xié)議、發(fā)包間隔、發(fā)包數(shù)、發(fā)包時間等設(shè)置條件模擬發(fā)送業(yè)務(wù)數(shù)據(jù)包，對時延、時延抖動、丟包、流量等性能指標(biāo)進(jìn)行測試，用于任務(wù)前網(wǎng)絡(luò)聯(lián)試聯(lián)調(diào)階段。

（2）網(wǎng)絡(luò)性能監(jiān)測：系統(tǒng)根據(jù)通信協(xié)議解析的結(jié)果，分時統(tǒng)計測試流的各項性能指標(biāo)，對于超出正常范圍的指標(biāo)進(jìn)行告警，將監(jiān)測結(jié)果上報到管理控制中心；在中心對上報結(jié)果進(jìn)行匯總和挖掘，進(jìn)行圖形化展示。用于日常網(wǎng)絡(luò)運行維護(hù)、任務(wù)準(zhǔn)備及實施階段。

（3）事后數(shù)據(jù)分析：利用數(shù)據(jù)庫存儲的監(jiān)測結(jié)果和存儲的數(shù)據(jù)包，在任務(wù)結(jié)束后對歷史數(shù)據(jù)流進(jìn)行深度分析。

（4）性能告警：包括性能告警和系統(tǒng)告警兩類，當(dāng)性能指標(biāo)超出指定的范圍時，系統(tǒng)給出性能告警；當(dāng)系統(tǒng)運行環(huán)境故障時，給出系統(tǒng)告警。例如：網(wǎng)線脫落、B 碼校時信號中斷等。

2.2.4 核心功能層

核心功能層的功能包括：網(wǎng)絡(luò)監(jiān)控、應(yīng)用監(jiān)控、態(tài)勢感知、故障診斷定位及故障預(yù)防、容量規(guī)劃、服務(wù)水平管理。

（1）網(wǎng)絡(luò)監(jiān)控：實時監(jiān)測網(wǎng)絡(luò)質(zhì)量，系統(tǒng)提供全面的可視化，監(jiān)控網(wǎng)絡(luò)各個部分。從上到下解決問題，根據(jù)關(guān)鍵性能指標(biāo)（KPIs）的分析，定位到相關(guān)的測試流（Flows），監(jiān)控到網(wǎng)絡(luò)終端。最終深入到前后關(guān)聯(lián)的數(shù)據(jù)包（Packets），進(jìn)行關(guān)聯(lián)分析，從而獲知問題發(fā)生的根源。

（2）應(yīng)用監(jiān)控：系統(tǒng)監(jiān)控網(wǎng)絡(luò)中的重點應(yīng)用。采用DPI 技術(shù)和DFI 技術(shù)，通過網(wǎng)絡(luò)協(xié)議類型、目的端口、特征字段等參數(shù)以及流量行為特征來定位不同的業(yè)務(wù)應(yīng)用，對重點業(yè)務(wù)進(jìn)行全面監(jiān)控。

（3）態(tài)勢感知：系統(tǒng)根據(jù)任務(wù)的開始時刻T0，跟蹤任務(wù)進(jìn)展過程中，重點設(shè)備的工作狀態(tài)、各項指標(biāo)，從而形成任務(wù)期間整體測控設(shè)備的運行態(tài)勢。系統(tǒng)還可以從歷史數(shù)據(jù)中反演設(shè)備運行態(tài)勢，相互比對或與實時態(tài)勢比對，從而得到態(tài)勢變化曲線，為網(wǎng)絡(luò)管理人員和任務(wù)指揮員提供量化數(shù)據(jù)。

（4）故障診斷定位及故障預(yù)防：系統(tǒng)綜合時延、TTL 等指標(biāo)推測網(wǎng)絡(luò)拓?fù)浼巴ㄐ怕窂?，?dāng)監(jiān)測到網(wǎng)絡(luò)故障時，根據(jù)發(fā)生的時間、地點，反向推導(dǎo)定位故障位置。系統(tǒng)統(tǒng)計網(wǎng)絡(luò)的時延和流量形成指標(biāo)基線，通過監(jiān)測實時的流量、時延等指標(biāo)與基線的偏差情況，預(yù)測網(wǎng)絡(luò)異常的發(fā)生，提醒網(wǎng)絡(luò)管理員關(guān)注重點區(qū)域，預(yù)防故障的發(fā)生。

（5）容量規(guī)劃：系統(tǒng)統(tǒng)計網(wǎng)絡(luò)的日常流量形成流量基線，通過監(jiān)測網(wǎng)絡(luò)流量的變化趨勢，為管理人員提供因業(yè)務(wù)變化而帶來的流量變化報告，同時提供網(wǎng)絡(luò)關(guān)鍵節(jié)點的流量與基線的對比情況，為節(jié)點的擴容提供量化數(shù)據(jù)。

（6）服務(wù)水平管理：系統(tǒng)對需要重點保障的測試流、測試流組、通信支路等進(jìn)行重點監(jiān)測，通過流量、時延、丟包等特征參數(shù)的變化情況，評估網(wǎng)絡(luò)服務(wù)質(zhì)量。結(jié)合歷史數(shù)據(jù)和實時數(shù)據(jù)的變化趨勢，為通信服務(wù)質(zhì)量的改進(jìn)提供量化依據(jù)。

3 關(guān)鍵技術(shù)及解決途徑

3.1 無遺漏捕獲數(shù)據(jù)包技術(shù)

捕獲數(shù)據(jù)包（簡稱“抓包”）是系統(tǒng)的基礎(chǔ)。如何保證無遺漏抓包是一個技術(shù)問題。常用的網(wǎng)卡抓包技術(shù)，受到操作系統(tǒng)的限制，只能在100～200Mbps 范圍內(nèi)抓包，速率再高就來不及讀取數(shù)據(jù)，造成丟失數(shù)據(jù)包。必須研制專用的硬件抓包卡，在卡上設(shè)置緩沖區(qū)。由硬件檢測數(shù)據(jù)包，打上時間戳，傳輸?shù)教结槂?nèi)存中。

無遺漏捕獲數(shù)據(jù)包、數(shù)據(jù)抽取、數(shù)據(jù)存儲等是由硬件采集、板上緩沖區(qū)、主機內(nèi)存、多進(jìn)程處理、高速磁盤緩存、硬盤raid等多項技術(shù)協(xié)同完成的。

3.2 DPI/DFI 融合技術(shù)

DPI（Deep Packet Inspection，深度分組檢測）是對應(yīng)用層內(nèi)容（凈荷）進(jìn)行深度分析的技術(shù)，根據(jù)凈荷特征識別其應(yīng)用類型或內(nèi)容。DPI 在分析5元組和測試流的基礎(chǔ)上，對應(yīng)用層進(jìn)行識別，從而映射為各種特定的業(yè)務(wù)應(yīng)用和服務(wù)，針對不同的應(yīng)用統(tǒng)計各自的性能指標(biāo)實現(xiàn)應(yīng)用監(jiān)測。

DFI 技術(shù)（Deep Flow Inspection，深度流檢測）是通過分析會話連接流的包長、連接速率、傳輸字節(jié)數(shù)量、包與包之間的間隔等行為特征，建立流量特征模型，然后對實際應(yīng)用進(jìn)行模型比對從而鑒別應(yīng)用類型。

DPI 技術(shù)適用于需要精細(xì)和準(zhǔn)確識別、精細(xì)管理的環(huán)境，而DFI 技術(shù)適用于需要高效識別、粗放管理的環(huán)境。DFI 技術(shù)在管理維護(hù)上的工作量較少，同一類型的新應(yīng)用與舊應(yīng)用的流量特征不會出現(xiàn)大的變化，不需要頻繁升級流量行為模型。

3.3 態(tài)勢感知技術(shù)

態(tài)勢感知（Situational Awareness，SA）包括三個層次：感知（感覺）、理解和預(yù)測，網(wǎng)絡(luò)態(tài)勢感知需要在網(wǎng)絡(luò)環(huán)境中對能夠引起網(wǎng)絡(luò)態(tài)勢發(fā)生變化的要素進(jìn)行獲取、理解、顯示以及最近發(fā)展趨勢的順延性預(yù)測，而最終的目的是要進(jìn)行決策與行動。

網(wǎng)絡(luò)運維管理系統(tǒng)借鑒了態(tài)勢感知的方法和技術(shù)，在感知方面目前僅限于網(wǎng)絡(luò)抓包，對主機和服務(wù)的監(jiān)測則采用性能監(jiān)測、應(yīng)用監(jiān)測來反向推測；在理解層次上，采用了大量的網(wǎng)絡(luò)分析技術(shù)，監(jiān)測了各層網(wǎng)絡(luò)性能指標(biāo)，為網(wǎng)絡(luò)維護(hù)人員提供了大量指標(biāo)數(shù)據(jù)；在預(yù)測層次，側(cè)重于數(shù)據(jù)可視化，包括三個方面：

（1）面向流向分析的可視化，顯示流量等指標(biāo)的全網(wǎng)分布情況、顯示各種應(yīng)用的占比情況，對指標(biāo)異常、丟包錯序等給出告警；

（2）面向故障診斷的可視化：通過KFP 方法逐步深入定位故障解決問題；

（3）面向服務(wù)和安全分析的可視化：通過應(yīng)用監(jiān)控和服務(wù)水平管理提供可視化的分析結(jié)果。

4 系統(tǒng)實現(xiàn)與部署

網(wǎng)絡(luò)運維管理系統(tǒng)由兩部分組成：管理控制中心和探針。

探針通常部署在遠(yuǎn)程交換機或路由器附近，捕獲鏡像數(shù)據(jù)包，解析處理數(shù)據(jù)包，得到監(jiān)測結(jié)果上報管理控制中心。

管理控制中心匯總各臺探針上報的監(jiān)測結(jié)果，進(jìn)行二次統(tǒng)計，得到了整個網(wǎng)絡(luò)的性能分布態(tài)勢。在此基礎(chǔ)上，對數(shù)據(jù)進(jìn)行深度分析和挖掘，從而完成各項核心功能。

根據(jù)航天業(yè)務(wù)網(wǎng)實際和用戶行政關(guān)系，從邏輯上和部署上，可以將管理控制中心分為三級。

一級管理控制中心只有一套，管理整個網(wǎng)絡(luò)。一級中心從各個二級中心獲取數(shù)據(jù)，匯總得到整個網(wǎng)絡(luò)的運行態(tài)勢。一級管理控制中心不配置探針。

二級管理控制中心是最常見的，通常每個功能中心（如基地或省級）都可以部署二級管理控制中心，負(fù)責(zé)本區(qū)域的網(wǎng)絡(luò)性能監(jiān)測，匯總本區(qū)域各臺探針上報的監(jiān)測結(jié)果得到本區(qū)域的性能分布態(tài)勢。系統(tǒng)默認(rèn)為二級管理控制中心。

三級管理控制中心也稱為站級管理中心，或者“站級分中心”，是針對部分業(yè)務(wù)較多單位（如測站或重點市）的實際需要而研發(fā)的，在站級分中心可以查看本測站管理的各類設(shè)備運行情況，不必通過二級管理控制中心查詢。

每臺探針都支持“多中心”，接受多個管理控制中心的調(diào)度和管理，監(jiān)測結(jié)果同時上報給多個中心。每臺探針都有一個所屬的二級管理控制中心，至始至終接受該中心的管理和控制。同時，它還可以接受其他的二級中心或三級中心的管理，執(zhí)行這些中心的任務(wù)。探針的監(jiān)測結(jié)果都會復(fù)制多份，同時上報給各個中心。

圖3 系統(tǒng)部署示意圖

5 結(jié)束語

網(wǎng)絡(luò)運維管理系統(tǒng)采用了多層次的功能設(shè)計，基于KFP 模式協(xié)助網(wǎng)絡(luò)維護(hù)人員定位故障解決問題。該系統(tǒng)還提供了北向接口，采用標(biāo)準(zhǔn)的網(wǎng)絡(luò)數(shù)據(jù)通信標(biāo)準(zhǔn)向其他系統(tǒng)提供網(wǎng)絡(luò)監(jiān)測結(jié)果，實現(xiàn)了與網(wǎng)管系統(tǒng)等第三方系統(tǒng)的協(xié)同工作。該系統(tǒng)已經(jīng)在航天業(yè)務(wù)網(wǎng)中實現(xiàn)了批量部署，參加了多次航天任務(wù)，協(xié)助用戶解決了很多網(wǎng)絡(luò)性能問題。

后續(xù)系統(tǒng)將逐步完善各項功能，以模塊方式靈活組合，向智能化、綜合化和自動化發(fā)展，加強數(shù)據(jù)采集和數(shù)據(jù)挖掘能力，滿足各級網(wǎng)絡(luò)維護(hù)人員的需要，在航天業(yè)務(wù)網(wǎng)的運維中發(fā)揮更大作用。