李愛華，吳曉波，陳超，魏彬，史嫄嫄

（1.中國移動通信有限公司研究院，北京 100053；2.維沃移動通信有限公司，廣東 東莞 523000）

0 引言

作為信息通信的基礎(chǔ)設(shè)施，5G將從“服務(wù)于人”走向“全面服務(wù)于數(shù)字化社會”。5G支持大帶寬、低延時和海量連接等場景，可服務(wù)于自動駕駛、工業(yè)控制、XR、云游戲等多樣化業(yè)務(wù)；同時，5G網(wǎng)絡(luò)云化帶來資源調(diào)度和運(yùn)營管理的新挑戰(zhàn)，多接入制式共存的網(wǎng)絡(luò)環(huán)境引發(fā)網(wǎng)絡(luò)協(xié)同的新難度，切片和邊緣計算等新技術(shù)對網(wǎng)絡(luò)可靈活編排和部署提出新訴求。5G多樣的業(yè)務(wù)需求、復(fù)雜的網(wǎng)絡(luò)形態(tài)以及靈活的部署要求，對網(wǎng)絡(luò)的規(guī)劃設(shè)計、開通部署、運(yùn)維、運(yùn)營都帶來了重大挑戰(zhàn)，傳統(tǒng)的方式已經(jīng)無法適應(yīng)。但與此同時，多樣化的業(yè)務(wù)和海量終端，將為網(wǎng)絡(luò)提供更豐富的數(shù)字信息，為 5G網(wǎng)絡(luò)的發(fā)展和演進(jìn)帶來新機(jī)遇。

人工智能（artificial intelligence，AI）技術(shù)在解決高計算量數(shù)據(jù)分析、跨領(lǐng)域特性挖掘、動態(tài)策略生成等方面，具備天然優(yōu)勢。5G網(wǎng)絡(luò)擁有海量數(shù)據(jù)，為人工智能賦能5G網(wǎng)絡(luò)大數(shù)據(jù)分析提供了重要基石。網(wǎng)絡(luò)大數(shù)據(jù)智能分析技術(shù)通過將網(wǎng)絡(luò)技術(shù)與人工智能技術(shù)、大數(shù)據(jù)技術(shù)深度融合，實現(xiàn)5G網(wǎng)絡(luò)的自動化和智能化功能，提高5G網(wǎng)絡(luò)的部署效益，優(yōu)化運(yùn)行效率和資源利用率，降低網(wǎng)絡(luò)的運(yùn)維成本。

網(wǎng)絡(luò)智能化在實際開展時，會面臨網(wǎng)絡(luò)體系大、領(lǐng)域多、規(guī)模大、端到端協(xié)同困難、網(wǎng)絡(luò)資源受限以及實時性、安全性、可靠保障性要求高等挑戰(zhàn)。因此，5G網(wǎng)絡(luò)大數(shù)據(jù)智能分析技術(shù)迫切需要思考并解決3個熱點問題，包括數(shù)據(jù)隱私的安全保護(hù)問題、跨平臺的模型共享問題以及網(wǎng)絡(luò)對業(yè)務(wù)識別的實時性和精準(zhǔn)性問題。本文在總結(jié) 5G網(wǎng)絡(luò)大數(shù)據(jù)智能分析標(biāo)準(zhǔn)進(jìn)展的基礎(chǔ)上，提出了 5G大數(shù)據(jù)智能分析系統(tǒng)架構(gòu)和特征，并進(jìn)一步分析和研究了5G網(wǎng)絡(luò)大數(shù)據(jù)智能分析的關(guān)鍵技術(shù)。

1 標(biāo)準(zhǔn)進(jìn)展

本節(jié)介紹了國際化標(biāo)準(zhǔn)機(jī)構(gòu)在 5G網(wǎng)絡(luò)智能化方向的研究進(jìn)展，包括第三代合作伙伴項目（3rd Generation Partnership Project，3GPP）、國際電信聯(lián)盟（International Telecommunication Union，ITU）和歐洲電信標(biāo)準(zhǔn)組織（European Telecommunications Standards Institute，ETSI）。

1.1 3GPP標(biāo)準(zhǔn)

3GPP SA2 工作組在 3GPP Release15（Rel-15）首次引入了 5G網(wǎng)絡(luò)大數(shù)據(jù)分析網(wǎng)元網(wǎng)絡(luò)數(shù)據(jù)分析功能（network data analysis function，NWDAF），其功能單一，主要用于智能化切片選擇，于2017年12月完成；3GPP Rel-16定義了面向5G大數(shù)據(jù)分析服務(wù)的集中式架構(gòu)，引入用戶體驗分析等6個特性，但在部署靈活性、可擴(kuò)展性上存在局限，于2019年6月完成；3GPP Rel-17設(shè)計了分層智能網(wǎng)絡(luò)架構(gòu)，提供AI平臺化能力，并將應(yīng)用拓展到垂直行業(yè)，具備在大型5G網(wǎng)絡(luò)商用的條件，于2021年12月完成；3GPP Rel-18面向toB/toC行業(yè)，研究分布式智能架構(gòu)、新型分析機(jī)制、新應(yīng)用場景和跨域智能協(xié)同等課題，全面適應(yīng)智能化試驗落地的需求，于2022年2月啟動相關(guān)研究工作。

面向網(wǎng)絡(luò)生命周期自動化的規(guī)劃、建設(shè)、維護(hù)、優(yōu)化等方面，3GPP SA5工作組開展了意圖驅(qū)動網(wǎng)絡(luò)、網(wǎng)管數(shù)據(jù)分析、5G能耗優(yōu)化等多項標(biāo)準(zhǔn)化工作，提出了管理數(shù)據(jù)分析功能（management data analytic function，MDAF），為網(wǎng)絡(luò)服務(wù)管理與編排帶來了智能化和自動化。MDAF基于網(wǎng)絡(luò)管理數(shù)據(jù)的數(shù)據(jù)處理和分析功能，可實現(xiàn)對網(wǎng)管領(lǐng)域數(shù)據(jù)價值挖掘，還可結(jié)合人工智能和機(jī)器學(xué)習(xí)技術(shù)輸出分析報告及相應(yīng)的網(wǎng)絡(luò)管理操作建議，實現(xiàn)網(wǎng)管域的閉環(huán)管理。

1.2 ITU標(biāo)準(zhǔn)

ITU的 SG13研究組，聚焦于下一代網(wǎng)絡(luò)發(fā)展，工作重點是云計算、泛在網(wǎng)絡(luò)、分布式服務(wù)網(wǎng)絡(luò)、網(wǎng)絡(luò)虛擬化、軟件定義網(wǎng)絡(luò)、物聯(lián)網(wǎng)和節(jié)能網(wǎng)絡(luò)。SG13研究組于2017年11月成立了ML5G（Machine Learning for Futurre Netwok including 5G ，包含5G的未來網(wǎng)絡(luò)機(jī)器學(xué)習(xí)）焦點組，該小組在面向包括 5G在內(nèi)的未來網(wǎng)絡(luò)方向起草了機(jī)器學(xué)習(xí)技術(shù)規(guī)范，包括接口、網(wǎng)絡(luò)架構(gòu)、協(xié)議、算法和數(shù)據(jù)格式。ML5G焦點組在2019年6月至2020年7月，發(fā)布了“面向 IMT-2020 及未來網(wǎng)絡(luò)的機(jī)器學(xué)習(xí)數(shù)據(jù)處理框架標(biāo)準(zhǔn)”“面向IMT-2020和未來網(wǎng)絡(luò)的機(jī)器學(xué)習(xí)用例”“AI集成跨域網(wǎng)絡(luò)架構(gòu)”以及“基于AI輔助分析的網(wǎng)絡(luò)切片管理編排”等智能化項目。

1.3 ETSI標(biāo)準(zhǔn)

ETSI于 2017年 2月成立體驗式網(wǎng)絡(luò)智能（Experiential Networked Intelligence，ENI）行業(yè)規(guī)范小組，定義了認(rèn)知網(wǎng)絡(luò)管理架構(gòu)，即使用人工智能技術(shù)為 5G網(wǎng)絡(luò)提供自動化的服務(wù)提供、運(yùn)營、保障以及優(yōu)化的切片管理和資源調(diào)度。ENI致力于研究使用人工智能技術(shù)來協(xié)助包括 5G在內(nèi)的未來網(wǎng)絡(luò)的部署和運(yùn)營等工作，并發(fā)布了應(yīng)用案例、網(wǎng)絡(luò)需求與架構(gòu)、網(wǎng)絡(luò)自治、智能等級分級及其評估方法、數(shù)據(jù)處理機(jī)制等多個系列規(guī)范和報告。

2 總體架構(gòu)及特征

為了使AI更好地融合于5G核心網(wǎng)，在5G網(wǎng)絡(luò)中構(gòu)建了以網(wǎng)絡(luò)數(shù)據(jù)分析實體 NWDAF為中心的智能化閉環(huán)運(yùn)行網(wǎng)絡(luò)。NWDAF作為獨立的邏輯功能，專門負(fù)責(zé)數(shù)據(jù)采集、數(shù)據(jù)分析和分析結(jié)果反饋，5G大數(shù)據(jù)智能分析系統(tǒng)總體架構(gòu)如圖1所示。

圖1 5G大數(shù)據(jù)智能分析系統(tǒng)總體架構(gòu)

NWDAF是5G網(wǎng)絡(luò)的AI+大數(shù)據(jù)引擎，具備AI能力標(biāo)準(zhǔn)化、匯聚網(wǎng)絡(luò)數(shù)據(jù)、實時性更高、支持閉環(huán)可控等特點，滿足5G多樣化業(yè)務(wù)場景的需求。NWDAF作為3GPP在5GC中引入的標(biāo)準(zhǔn)化網(wǎng)元，其網(wǎng)絡(luò)架構(gòu)、能力特性、接口及交互流程皆已規(guī)范化；NWDAF可打通5G控制面、管理面以及應(yīng)用提供者應(yīng)用功能（application function，AF），同時還具備獲取5G用戶面數(shù)據(jù)、UE側(cè)數(shù)據(jù)的能力，是網(wǎng)絡(luò)數(shù)據(jù)的匯聚點；NWDAF支持基于場景的定制化軟采的數(shù)據(jù)采集能力，其實時性處理和輸出能力更高；遵循 5G服務(wù)化架構(gòu)，NWDAF分析結(jié)果能以服務(wù)調(diào)用的形式直接提供給策略控制等相關(guān)網(wǎng)元，形成基于信息感知的反饋和進(jìn)一步閉環(huán)優(yōu)化，實現(xiàn)5G網(wǎng)絡(luò)的自優(yōu)化、自治、自愈。NWDAF為5G網(wǎng)絡(luò)端到端引入基于數(shù)據(jù)分析的AI提供了規(guī)范化的能力依據(jù)，可從根本解決異廠商割據(jù)等問題，有效凝聚產(chǎn)業(yè)力量，促進(jìn)5G網(wǎng)絡(luò)和AI技術(shù)的深度融合。

3 關(guān)鍵技術(shù)

本節(jié)針對目前行業(yè)內(nèi)聚焦的5G網(wǎng)絡(luò)大數(shù)據(jù)智能分析技術(shù)迫切需要解決的熱點問題，提出了3項關(guān)鍵技術(shù)。其中，分布式可信智能數(shù)據(jù)分析技術(shù)能夠基于聯(lián)邦學(xué)習(xí)解決由于隱私保護(hù)等原因產(chǎn)生的數(shù)據(jù)“孤島”問題；跨平臺AI/ML模型共享技術(shù)基于公共的模型表示標(biāo)準(zhǔn)生成中間模型以實現(xiàn)跨平臺模型共享；智能業(yè)務(wù)識別技術(shù)能夠基于網(wǎng)絡(luò)數(shù)據(jù)結(jié)合NWDAF來解決應(yīng)用標(biāo)識與數(shù)據(jù)流量匹配的問題。

3.1 分布式可信智能數(shù)據(jù)分析技術(shù)

出于數(shù)據(jù)隱私保護(hù)考慮、漫游數(shù)據(jù)難以聚合、運(yùn)營商和垂直行業(yè)之間數(shù)據(jù)無法互通等原因，5G網(wǎng)絡(luò)大數(shù)據(jù)往往以“孤島”的形式出現(xiàn)，且無法匯聚，數(shù)據(jù)集中式的模型訓(xùn)練將無法開展，這在一定程度上制約了網(wǎng)絡(luò)智能化的發(fā)展；同時，移動網(wǎng)絡(luò)狀態(tài)隨機(jī)性高，在一些場景下，用于訓(xùn)練的數(shù)據(jù)呈現(xiàn)分布式、碎片化、小樣本的特點，模型性能無法保障。因此，如何合理合法、充分高效地利用數(shù)據(jù)，成為5G網(wǎng)絡(luò)智能化迫切需要解決的問題。本文提出基于聯(lián)邦學(xué)習(xí)的5G分布式可信智能數(shù)據(jù)分析技術(shù)，通過5G與聯(lián)邦學(xué)習(xí)的結(jié)合，可在參與各方數(shù)據(jù)不出本地的基礎(chǔ)上，基于加密機(jī)制實現(xiàn)聯(lián)合訓(xùn)練和共同建模，既保證了數(shù)據(jù)隱私的安全，還能充分利用各方數(shù)據(jù)，減少數(shù)據(jù)傳輸所帶來的帶寬占用。

3.1.1 分布式可信AI架構(gòu)

為推動聯(lián)邦學(xué)習(xí)技術(shù)與5G網(wǎng)絡(luò)的結(jié)合，以及滿足用戶、運(yùn)營商和行業(yè)的聯(lián)合建模需求，中國移動提出了面向聯(lián)邦學(xué)習(xí)的分布式可信AI架構(gòu)，如圖2所示。

圖2 面向聯(lián)邦學(xué)習(xí)的分布式可信AI架構(gòu)

在 5G網(wǎng)絡(luò)面向聯(lián)邦學(xué)習(xí)的分布式可信 AI架構(gòu)中，根據(jù)聯(lián)邦學(xué)習(xí)涉及的領(lǐng)域，可分為域內(nèi)聯(lián)邦、跨域聯(lián)邦以及全局聯(lián)邦 3個層次，涉及對象包括用戶、運(yùn)營商和行業(yè)等建模需求方。中心協(xié)調(diào)者（central coordinator）提供跨界互通、任務(wù)協(xié)同、資源調(diào)度、安全認(rèn)證等功能，運(yùn)營商作為用戶與行業(yè)的紐帶，可作為中心協(xié)調(diào)者，在提供優(yōu)質(zhì)服務(wù)的同時，協(xié)助用戶與行業(yè)解決跨域隱私的問題，打通數(shù)據(jù)“孤島”，打造先進(jìn)的數(shù)據(jù)生態(tài)鏈、構(gòu)建共享的產(chǎn)業(yè)生態(tài)、形成良好的智能商業(yè)模式。運(yùn)營商側(cè)主要涵蓋網(wǎng)管和網(wǎng)絡(luò)功能節(jié)點（network function，5GNF），這些節(jié)點可承擔(dān)客戶（client）和協(xié)調(diào)者（coordinator）的雙重角色，作為協(xié)調(diào)者時協(xié)調(diào)域內(nèi)/域間各節(jié)點間的聯(lián)邦學(xué)習(xí)，作為客戶時參與域內(nèi)/域間各節(jié)點間的聯(lián)邦學(xué)習(xí)，例如核心網(wǎng)中 NWDAF既可協(xié)調(diào)域內(nèi)NF/其他域聯(lián)邦學(xué)習(xí)，又可參與域內(nèi)NF/其他域聯(lián)邦學(xué)習(xí)；用戶側(cè)UE與行業(yè)側(cè)AF均可作為協(xié)調(diào)者/客戶實現(xiàn)域內(nèi)/域間聯(lián)邦學(xué)習(xí)。

3.1.2 關(guān)鍵使能技術(shù)

5G與聯(lián)邦學(xué)習(xí)需從場景、數(shù)據(jù)安全特性、網(wǎng)絡(luò)數(shù)據(jù)特點等角度進(jìn)行定制化的深度融合。本文從場景角度考慮，介紹了面向5G網(wǎng)絡(luò)的橫向聯(lián)邦學(xué)習(xí)方法和縱向聯(lián)邦學(xué)習(xí)方法；從安全角度考慮，介紹了加密技術(shù)；從網(wǎng)絡(luò)數(shù)據(jù)特點及網(wǎng)絡(luò)性能需求角度考慮，介紹了面向聯(lián)邦學(xué)習(xí)的5G QoS保障技術(shù)。

（1）面向5G網(wǎng)絡(luò)的橫向聯(lián)邦學(xué)習(xí)

橫向聯(lián)邦學(xué)習(xí)也稱為特征對齊的聯(lián)邦學(xué)習(xí)（feature-aligned federated learning），即橫向聯(lián)邦學(xué)習(xí)的參與者的數(shù)據(jù)特征是對齊的，適用于參與者的數(shù)據(jù)特征重疊較多、而用戶ID重疊較少的情況。在橫向聯(lián)邦學(xué)習(xí)中，協(xié)調(diào)者負(fù)責(zé)模型安全聚合以及聚合后的模型參數(shù)加密分發(fā)，參與方負(fù)責(zé)本地模型學(xué)習(xí)、加密上報。其典型應(yīng)用場景（如不同區(qū)域的切片或子網(wǎng)）中 UE或者業(yè)務(wù)流的數(shù)據(jù)特征相同，需要聯(lián)合學(xué)習(xí)提高模型的泛化能力，如聯(lián)合業(yè)務(wù)檢測、聯(lián)合用戶行為分析等。

橫向聯(lián)邦學(xué)習(xí)在5G網(wǎng)絡(luò)架構(gòu)中的應(yīng)用如圖3所示，可以在5G核心網(wǎng)內(nèi)部同一類型網(wǎng)元上針對不同用戶做相同特征的分析。中心NWDAF作為協(xié)調(diào)者，統(tǒng)一負(fù)責(zé)觸發(fā)模型訓(xùn)練、終止模型訓(xùn)練、獲取模型。區(qū)域 NWDAF及與 NF合同設(shè)立的NWDAF作為參與方，負(fù)責(zé)本地模型學(xué)習(xí)、加密上報與本地模型更新。5G NF并不直接參與數(shù)據(jù)共享，而是先由內(nèi)部合設(shè)NWDAF進(jìn)行數(shù)據(jù)分析，再發(fā)送加密后的子模型梯度給中心 NWDAF，中心NWDAF進(jìn)行安全聚合后再發(fā)送更新后的模型梯度給區(qū)域 NWDAF或與 NWDAF合同設(shè)立的5G NF，區(qū)域NWDAF或與NWDAF合同設(shè)立的5G NF對模型進(jìn)行更新。

圖3 橫向聯(lián)邦學(xué)習(xí)在5G網(wǎng)絡(luò)架構(gòu)中的應(yīng)用

（2）面向5G網(wǎng)絡(luò)的縱向聯(lián)邦學(xué)習(xí)

縱向聯(lián)邦學(xué)習(xí)也稱為樣本對齊的聯(lián)邦學(xué)習(xí)（sample-aligned federated learning），即縱向聯(lián)邦學(xué)習(xí)的參與者的訓(xùn)練樣本是對齊的，適用于參與方的用戶ID重疊較多，但是數(shù)據(jù)特征重疊較少。在縱向聯(lián)邦學(xué)習(xí)中，協(xié)調(diào)者主要負(fù)責(zé)公鑰分發(fā)、模型參數(shù)加解密以及判斷模型訓(xùn)練是否終止，參與方負(fù)責(zé)樣本對齊、本地模型參數(shù)學(xué)習(xí)、加密上報。其典型應(yīng)用場景如同一個 UE或者同一個業(yè)務(wù)流的數(shù)據(jù)分布在不同域（如終端、網(wǎng)絡(luò)或者業(yè)務(wù)提供方）上，需要跨域數(shù)據(jù)分析，如業(yè)務(wù)體驗分析、聯(lián)合信用等級評估等。

縱向聯(lián)邦學(xué)習(xí)在5G網(wǎng)絡(luò)架構(gòu)中的應(yīng)用如圖4所示，可以用來解決5G網(wǎng)絡(luò)中基站、核心網(wǎng)、與應(yīng)用服務(wù)器之間的數(shù)據(jù)隱私與數(shù)據(jù)隔離問題。無線基站、核心網(wǎng)以及應(yīng)用服務(wù)器之間由于數(shù)據(jù)加密的限制，無法進(jìn)行數(shù)據(jù)直接共享。NWDAF作為協(xié)調(diào)者，統(tǒng)一負(fù)責(zé)觸發(fā)模型訓(xùn)練、終止模型訓(xùn)練、獲取模型。

圖4 縱向聯(lián)邦學(xué)習(xí)在5G網(wǎng)絡(luò)架構(gòu)中的應(yīng)用

在數(shù)據(jù)采集過程中，每個數(shù)據(jù)隔離源都包括兩部分：可上報數(shù)據(jù)和不可上報數(shù)據(jù)。以線性回歸為例，需要考慮非線性模型的復(fù)雜度，并結(jié)合特征維度、樣本個數(shù)、迭代次數(shù)等評估中間變量傳輸帶來的信令開銷。比如，以線性回歸為例考慮在每次迭代時，各個數(shù)據(jù)隔離源都需要傳輸每個樣本的數(shù)據(jù)中間結(jié)果給AI訓(xùn)練平臺，AI訓(xùn)練平臺再傳輸每個樣本的數(shù)據(jù)中間結(jié)果給各個數(shù)據(jù)隔離源，輔助更新本地模型。縱向聯(lián)邦學(xué)習(xí)在5G網(wǎng)絡(luò)架構(gòu)中的算法如圖5所示。

圖5 縱向聯(lián)邦學(xué)習(xí)在5G網(wǎng)絡(luò)架構(gòu)中的算法

（3）面向5G網(wǎng)絡(luò)的加密技術(shù)

面向5G網(wǎng)絡(luò)的聯(lián)邦學(xué)習(xí)研究，需面向網(wǎng)絡(luò)場景，研究聯(lián)邦學(xué)習(xí)技術(shù)、安全多方計算、同態(tài)加密、差分隱私、可信執(zhí)行環(huán)境等隱私計算技術(shù)，進(jìn)行定制化的研究、優(yōu)化和應(yīng)用，實現(xiàn)聯(lián)邦學(xué)習(xí)在信息通信中的高效可靠落地。

縱向聯(lián)邦學(xué)習(xí)在 5G網(wǎng)絡(luò)的中的框架如圖6所示，可采用隱私集合求交進(jìn)行基于用戶的數(shù)據(jù)對齊，對非交集內(nèi)的用戶數(shù)據(jù)進(jìn)行保護(hù)；可引入同態(tài)加密技術(shù)等來加密保護(hù)中間過程的信息，如梯度和參數(shù)信息，但是加密會帶來額外的計算代價，降低了運(yùn)算的效率。

圖6 縱向聯(lián)邦學(xué)習(xí)在5G網(wǎng)絡(luò)中的框架

在5G網(wǎng)絡(luò)中的聯(lián)邦學(xué)習(xí)場景下，客戶端和服務(wù)端會傳遞梯度數(shù)據(jù)，而梯度的本質(zhì)是原始數(shù)據(jù)的函數(shù)，所以通過梯度可以反推得到參與方的原始數(shù)據(jù)。無論是回歸方法還是深度學(xué)習(xí)，梯度的泄露可能會導(dǎo)致原始數(shù)據(jù)的泄露。為了避免原始數(shù)據(jù)的泄露，可采用差分隱私技術(shù)添加噪聲實現(xiàn)梯度的隱私保護(hù)，然而這種方式會降低分布式學(xué)習(xí)的收斂速度，一定程度上會損失訓(xùn)練模型的精度?？尚艌?zhí)行環(huán)境是一種芯片級的硬件安全計算技術(shù)，聯(lián)邦學(xué)習(xí)可以依靠這種方式實現(xiàn)更高的硬件層面的安全性能?？傊?，針對網(wǎng)絡(luò)智能化應(yīng)用場景，需選擇合適的安全解決方案，構(gòu)建安全的大數(shù)據(jù)聯(lián)合學(xué)習(xí)框架，通過網(wǎng)絡(luò)、聯(lián)邦學(xué)習(xí)與其他安全技術(shù)有機(jī)融合、協(xié)同發(fā)展，在數(shù)據(jù)加密、計算加密、模型加密的基礎(chǔ)上，實現(xiàn)安全和效率的合理平衡。

（4）面向聯(lián)邦學(xué)習(xí)的5G QoS保障技術(shù)

面向5G網(wǎng)絡(luò)的聯(lián)邦學(xué)習(xí)研究，考慮5G網(wǎng)絡(luò)的數(shù)據(jù)特點以及對AI的性能需求特點，引入面向聯(lián)邦學(xué)習(xí)的QoS調(diào)度機(jī)制的網(wǎng)絡(luò)技術(shù)，從傳輸、QoS保障等方面支持聯(lián)邦學(xué)習(xí)，實現(xiàn)聯(lián)邦學(xué)習(xí)在信息通信中的高效可靠落地。

在聯(lián)盟準(zhǔn)備階段，為選擇合適的節(jié)點進(jìn)行聯(lián)邦學(xué)習(xí)，5G網(wǎng)絡(luò)需要將每個參與方節(jié)點的性能信息提供給協(xié)調(diào)者。聯(lián)邦參與方節(jié)點的性能需要從節(jié)點本身進(jìn)行 AI處理的計算時間和模型結(jié)果的傳輸時間兩方面進(jìn)行考慮，聯(lián)邦節(jié)點的性能分布如圖7所示。

圖7 聯(lián)邦節(jié)點的性能分布

其中，模型結(jié)果的傳輸時間與模型結(jié)果大小、QoS策略有關(guān)。因此，5G網(wǎng)絡(luò)應(yīng)能夠感知UE的AI處理時間和需要傳輸?shù)哪Ｐ痛笮?，從而相?yīng)地調(diào)整QoS策略。此外，參與聯(lián)邦學(xué)習(xí)的節(jié)點形成一個群體（flock），對于一個群體，總資源應(yīng)該保持不變（或保持最大），以避免占用太多的無線資源而影響其他服務(wù)的正常使用。群體中的一個或幾個節(jié)點因上述的節(jié)點性能差異而落后于其他節(jié)點，會直接影響整個聯(lián)合學(xué)習(xí)的迭代效率。因此，可采用一種新的基于群組的QoS參數(shù)，從而使得網(wǎng)絡(luò)可以通過新的QoS策略，對組中各節(jié)點的QoS參數(shù)進(jìn)行調(diào)整。由于整個群組的輸出性能受群組中最弱節(jié)點的性能的限制，因此，當(dāng)這種情況發(fā)生時，網(wǎng)絡(luò)可以根據(jù)群組的QoS參數(shù)調(diào)整一些終端的 QoS 參數(shù)，為那些計算性能落后的UE分配更多的通信資源，為那些計算能力領(lǐng)先的終端分配更少的通信資源，分配給不同終端的資源至少保持一次迭代。通過這種方式，可以在保證不超過為整個群組分配的總資源的情況下，平衡不同節(jié)點的性能差異，實現(xiàn)聯(lián)邦學(xué)習(xí)的同步。

3.2 跨平臺AI/ML模型共享

由于存在多個運(yùn)營商網(wǎng)絡(luò)、多個終端/芯片廠商以及多個網(wǎng)絡(luò)設(shè)備廠商等復(fù)雜場景，如果AI/ML模型無法跨廠商/跨平臺共享，將極大限制5G智能化應(yīng)用。因此，需要一個合適的模型共享方式，以保證在不同的操作環(huán)境（如Windows、UNIX等）、不同的編程語言（如C、Python等）以及不同的AI框架下都可以共享網(wǎng)絡(luò)結(jié)構(gòu)和權(quán)重參數(shù)，實現(xiàn)不同節(jié)點之間AI模型信息的交互。

3.2.1 跨平臺模型共享通用架構(gòu)

3GPP SA2在3GPP Rel-17定義了NWDAF的分析邏輯功能（analytics logical function，AnLF）和NWDAF 的模型訓(xùn)練邏輯功能（model training logical function，MTLF）之間的AI/ML模型交互機(jī)制。AI/ML模型作為一個文件，只能在同廠商或者同一AI框架下使用，導(dǎo)致AI/ML無法跨廠商跨平臺共享，如圖8所示。

圖8 3GPP SA2 定義的單廠商AI/ML模型共享

3GPP Rel-18將研究AI/ML模型是否標(biāo)準(zhǔn)化、如何標(biāo)準(zhǔn)化等問題，并討論UE和網(wǎng)絡(luò)之間如何交互AI/ML模型，即終端可能需要使用從網(wǎng)絡(luò)下載的AI/ML模型。本文提出了一種跨平臺模型共享的通用架構(gòu)來解決上述問題，如圖9所示。模型訓(xùn)練平臺所使用的AI框架平臺為“TensorFlow”，模型消費者平臺所使用的AI框架平臺為“Caffe”，由于所使用的AI框架平臺不同，如果將TensorFlow平臺的模型直接傳遞給Caffe平臺，后者將無法識別和使用該模型。因此，對于這種不同AI框架平臺間的模型共享，首先需要將模型訓(xùn)練平臺中的AI模型轉(zhuǎn)化為公共AI模型描述語言下的中間模型，再由模型消費者識別該中間模型，并轉(zhuǎn)化為自己所支持的框架平臺格式。

圖9 跨平臺模型共享通用架構(gòu)

3.2.2 基于ONNX的跨平臺模型共享技術(shù)

開放式神經(jīng)網(wǎng)絡(luò)交換（open neural network exchange，ONNX）是深度學(xué)習(xí)網(wǎng)絡(luò)的描述標(biāo)準(zhǔn)，是一種開放式的文件格式，可以用于存儲訓(xùn)練好的模型。常用的深度學(xué)習(xí)框架都可以支持ONNX模型的加載和保存，其中，官方支持加載ONNX模型的框架包括 PyTorch、CNTK、Caffe2、MXNet等，TensorFlow等也有非官方的支持。本文提出了基于ONNX的模型跨平臺共享方式，如圖10所示，NWDAF（MTLF）通過把訓(xùn)練完成的AI模型轉(zhuǎn)換為ONNX格式的中間模型，NWDAF（AnLF）再把ONNX中間模型解析成推理所用的AI模型。

圖10 基于ONNX的模型跨平臺共享方式

其中，ONNX標(biāo)準(zhǔn)的基本結(jié)構(gòu)如圖11所示，ModelProto包含了模型的作者版本等信息，GraphProto用于記錄模型結(jié)構(gòu)并保存整個網(wǎng)絡(luò)結(jié)構(gòu)和參數(shù)，NodeProto、ValueInfoProto和TensorProto完成網(wǎng)絡(luò)的基本描述，具體如下。

圖11 ONNX標(biāo)準(zhǔn)的基本結(jié)構(gòu)

? NodeProto用于描述網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)，ONNX將網(wǎng)絡(luò)的每個算子都描述成一個節(jié)點，每個節(jié)點的輸入和輸出的名稱都是全局唯一的，通過名稱的匹配關(guān)系來描述整個網(wǎng)絡(luò)的結(jié)構(gòu)。ONNX通過 NodeProto所屬的AttributeProto字段來記錄節(jié)點功能，如卷積層、乘法層等，賦予對應(yīng)的節(jié)點功能。節(jié)點功能的權(quán)重參數(shù)保存在TensorProto字段，其維度保存在ValueInfoProto字段。

? ValueInfoProto用于描述所有輸入、輸出的信息，包括維度和元素類型，表明了對應(yīng)元素的大小，每一個輸入、輸出的名稱和NodeProto中的記錄對應(yīng)。

? TensorProto用于存儲具體權(quán)重參數(shù)的數(shù)值，根據(jù)每個節(jié)點輸入、輸出的名稱去存儲位置獲取對應(yīng)的參數(shù)。

ONNX應(yīng)用于通信系統(tǒng)中，ONNX標(biāo)準(zhǔn)可以進(jìn)一步改良。一方面，ONNX的基礎(chǔ)模塊需要被重新定義以符合通信中常用的網(wǎng)絡(luò)，使得同一個網(wǎng)絡(luò)的 ONNX描述是相同的并同時減少 ONNX的開銷；另一方面，ONNX結(jié)構(gòu)可進(jìn)一步壓縮，如將節(jié)點所占的bit數(shù)固定，并按照約定的順序排列，減少數(shù)據(jù)標(biāo)識開銷。

3.3 智能業(yè)務(wù)識別

業(yè)務(wù)識別技術(shù)作為一種基礎(chǔ)的運(yùn)營商網(wǎng)絡(luò)能力，可以輔助運(yùn)營商針對不同的業(yè)務(wù)流進(jìn)行差異化處理，如QoS保障、切片或者網(wǎng)元負(fù)載均衡、空口資源調(diào)度?，F(xiàn)有業(yè)務(wù)識別技術(shù)中的深度流檢測（deep flow inspection，DFI）方法可以基于應(yīng)用功能（application function，AF）提供的業(yè)務(wù)流描述（packet flow description，PFD）信息，即業(yè)務(wù)標(biāo)識（application ID，App ID）與IP三元組（服務(wù)器地址、服務(wù)器端口號、通信協(xié)議名稱）的對應(yīng)關(guān)系做業(yè)務(wù)識別。在實際操作中，業(yè)務(wù)的IP三元組往往不斷發(fā)生變化，當(dāng)AF不及時更新時，UPF就無法檢測新的IP三元組所對應(yīng)的App ID。因此本文基于DFI業(yè)務(wù)識別技術(shù)提出了一種智能業(yè)務(wù)識別技術(shù)，通過引入NWDAF來構(gòu)建App ID對應(yīng)的業(yè)務(wù)分類器或者業(yè)務(wù)流量特征，來解決UPF無法確定業(yè)務(wù)流對應(yīng)的App ID問題。

3.3.1 智能業(yè)務(wù)識別架構(gòu)

DFI技術(shù)架構(gòu)如圖12所示，NWDAF可以通過網(wǎng)絡(luò)開放功能（network exposure function，NEF）獲取AF的App ID信息，通過SMF獲取UPF的流量信息，UPF可以通過SMF返回流量信息，也可以直接反饋給NWDAF信息。NWDAF根據(jù)AF提供的歷史App ID以及通過SMF獲取UPF對應(yīng)的流量數(shù)據(jù)（IP1），在NWDAF內(nèi)部進(jìn)行模型訓(xùn)練與智能分析，構(gòu)建業(yè)務(wù)分類器或者App ID對應(yīng)的流量特征。當(dāng)新的流量信息（IP2）產(chǎn)生時，NWDAF可以根據(jù)其流量特征分析，輔助UPF將該流量信息（IP2）對應(yīng)到與流量信息（IP1）相同的App ID上。

圖12 DFI技術(shù)架構(gòu)

此外，NWDAF經(jīng)過長時間的推理后，還可以進(jìn)一步地學(xué)習(xí)確定某個特定的IP三元組是對應(yīng)到某個App ID的，在后續(xù)推理過程中，無須通過上述多分類器或者業(yè)務(wù)特征匹配確定App ID，只需提取新的流量數(shù)據(jù)中的IP三元組，即可確定新的流量數(shù)據(jù)對應(yīng)的App ID。

3.3.2 智能業(yè)務(wù)識別技術(shù)

NWDAF的訓(xùn)練功能模塊根據(jù)App ID對應(yīng)的歷史PFD信息以及流量信息訓(xùn)練業(yè)務(wù)分類器或者學(xué)習(xí)每個業(yè)務(wù)的流量特征，然后將其安裝在NWDAF的推理功能模塊，在推理過程中，將實時的業(yè)務(wù)流對應(yīng)的流量數(shù)據(jù)輸入業(yè)務(wù)分類器或者與業(yè)務(wù)的流量特征進(jìn)行匹配，即可以確定該業(yè)務(wù)流的App ID。具體步驟如下。

步驟1NWDAF通過SMF向UPF訂閱并獲取流量信息，具體內(nèi)容見表1。

表1 流量信息輸入數(shù)據(jù)

步驟2假設(shè)NWDAF在生成訓(xùn)練數(shù)據(jù)集的過程，訓(xùn)練數(shù)據(jù)集中只有3個App ID，共N個樣本數(shù)據(jù)，見表2。針對一個來自UPF的流量信息，NWDAF首先從其IP五元組中抽取得到服務(wù)器IP地址、服務(wù)器端口號以及協(xié)議號，然后從PFD信息中查詢該服務(wù)器IP地址、服務(wù)器端口號以及協(xié)議號對應(yīng)的App ID，進(jìn)而通過這種數(shù)據(jù)關(guān)聯(lián)方式就可以確定一個樣本數(shù)據(jù)。

表2 用于訓(xùn)練業(yè)務(wù)識別模型或者確定業(yè)務(wù)流量特征的訓(xùn)練數(shù)據(jù)集

步驟 3在此過程中，為了避免 AF提供的PFD信息欺騙網(wǎng)絡(luò)情況，也就是說存在PFD中的某些IP三元組原本應(yīng)該對應(yīng)到App IDX，但是實際用來傳輸App IDY的情況。在生成App IDX的訓(xùn)練數(shù)據(jù)集過程中，NWDAF需要對App IDX的原始訓(xùn)練集進(jìn)行聚類。假設(shè)有K個類別，NWDAF取K個類別中包括樣本數(shù)據(jù)最多的樣本數(shù)據(jù)集，作為該App IDX處理后的訓(xùn)練數(shù)據(jù)集。

步驟 4基于上述訓(xùn)練數(shù)據(jù)集，一方面，NWDAF可以針對多個業(yè)務(wù)（如上述3個業(yè)務(wù)）訓(xùn)練業(yè)務(wù)識別模型；另一方面，NWDAF可以針對多個業(yè)務(wù)中的每個業(yè)務(wù)訓(xùn)練或者學(xué)習(xí)該業(yè)務(wù)對應(yīng)的流量特征。

NWDAF訓(xùn)練業(yè)務(wù)識別模型的過程采用有監(jiān)督的機(jī)器學(xué)習(xí)算法，如邏輯回歸（logistic regression，LR）、支持向量機(jī)（support vector machine，SVM）等訓(xùn)練分類器。以邏輯回歸為例，該分類器（以二分類為例，App ID 1以及非App ID 1）可以表示為：

其中，

其中，yi為第i個業(yè)務(wù)數(shù)據(jù)流的流量數(shù)據(jù)的業(yè)務(wù)分類結(jié)果，如果yi=1，則為App ID 1，如果yi=0，則非App ID 1；zi為xi經(jīng)過線性回歸所得中間數(shù)據(jù)值；xi={xi0,xi1,xi2,xi3, … ,xiD}是由第i個業(yè)務(wù)數(shù)據(jù)流的流量數(shù)據(jù)轉(zhuǎn)換成的向量，其中xi0,xi1,xi2,xi3, … ,xiD為業(yè)務(wù)數(shù)據(jù)流的流量數(shù)據(jù)，如通信或交互的起始時間、上行或下行包時延、上行或下行包個數(shù)等；w= {w0,w1,w2,w3, … ,wD}為權(quán)重。

NWDAF確定每個業(yè)務(wù)的業(yè)務(wù)特征的過程，采用無監(jiān)督學(xué)習(xí)的方法（如K-Means）。如針對App ID 1對應(yīng)的訓(xùn)練數(shù)據(jù)集，NWDAF采用K-Means算法將訓(xùn)練數(shù)據(jù)集聚成K個類別，并取K個類別中包括樣本數(shù)據(jù)最多的類別的質(zhì)心，作為App ID 1對應(yīng)的流量特征。

步驟5當(dāng)NWDAF通過UPF獲取新的IP五元組對應(yīng)的流量數(shù)據(jù)后，通過業(yè)務(wù)識別模型或業(yè)務(wù)特征的推理數(shù)據(jù)直接確定對應(yīng)的App ID。

步驟6NWDAF經(jīng)過統(tǒng)計分析，對大量出現(xiàn)并且不存在該業(yè)務(wù)歷史PFD信息的業(yè)務(wù)，生成一條新的PFD信息，并更新給NEF。NEF新產(chǎn)生的PFD信息分發(fā)給 SMF/UPF，UPF在安裝新 PFD后可以直接推斷得到業(yè)務(wù)標(biāo)識，不再需要重復(fù)的模型推斷和特征匹配過程。

此外，針對 AF不提供 PFD信息的情況，NWDAF可以學(xué)習(xí)得到某個IP三元組對應(yīng)一個業(yè)務(wù)，則可以借助第三方確定該業(yè)務(wù)的 App ID。NWDAF通過無監(jiān)督的學(xué)習(xí)方法，確定IP三元組對應(yīng)到某個業(yè)務(wù)，發(fā)送給NEF后，NEF可以與第三方AF查詢，確定該IP三元組對應(yīng)的業(yè)務(wù)標(biāo)識，然后得到完整的PFD信息，輔助用戶面業(yè)務(wù)檢測。

4 結(jié)束語

面向5G及未來網(wǎng)絡(luò)的多樣化業(yè)務(wù)、差異化需求和極致化體驗要求，核心網(wǎng)作為網(wǎng)絡(luò)和業(yè)務(wù)的樞紐，其發(fā)展和演進(jìn)對運(yùn)營商網(wǎng)絡(luò)有著舉足輕重的作用。在5G核心網(wǎng)中引入人工智能技術(shù)，可實現(xiàn)網(wǎng)絡(luò)向自動化和智能化的躍遷，以應(yīng)對網(wǎng)絡(luò)所面臨的需求和挑戰(zhàn)。當(dāng)前網(wǎng)絡(luò)智能化產(chǎn)業(yè)正處于快速發(fā)展階段，本文希望通過對5G網(wǎng)絡(luò)大數(shù)據(jù)智能分析技術(shù)中架構(gòu)及關(guān)鍵問題的分析，為業(yè)界同仁在網(wǎng)絡(luò)智能化的發(fā)展和落地研究中提供參考和啟示，推動網(wǎng)絡(luò)逐步實現(xiàn)智能和智慧。