朱嘯豪 姜述超 孫超
摘 要: 作為未來(lái)5G通信的核心技術(shù)之一,大規(guī)模多輸入多輸出(multple-nput multple-output,MMO)技術(shù)獲得了廣泛的研究。但是,“大規(guī)?!睅?lái)顯著性能增益的同時(shí),也給接收機(jī)設(shè)計(jì)帶來(lái)了挑戰(zhàn),尤其是考慮到資源和成本限制,基站天線在滿足性能需求的同時(shí),需要盡可能少。論文首先討論了MMO情景下的傳統(tǒng)檢測(cè)算法,如最大似然(maxmum lkelhood, ML)檢測(cè)算法、迫零(zero-forcng, ZF)檢測(cè)算法及線性最小均方誤差(lnear mnmum mean square error, LMMSE)檢測(cè)算法等。仿真結(jié)果表明最優(yōu)的 ML算法的復(fù)雜度隨著用戶數(shù)指數(shù)增加。在接收天線數(shù)不是充分多時(shí),次優(yōu)的ZF和LMMSE算法都會(huì)有顯著的性能損失。針對(duì)這一問(wèn)題,討論了基于深度學(xué)習(xí)框架的解決方案,包括目前已有的LAMP(learned approxmate message passng)檢測(cè)算法和神經(jīng)網(wǎng)絡(luò)DetNet算法;基于全連接網(wǎng)絡(luò)結(jié)構(gòu)做了初步探索。經(jīng)過(guò)對(duì)它們的仿真比較,發(fā)現(xiàn)基于深度神經(jīng)網(wǎng)絡(luò)的MMO檢測(cè)算法,確實(shí)可以提升傳統(tǒng)檢測(cè)算法的性能;但對(duì)神經(jīng)網(wǎng)絡(luò)系數(shù)的優(yōu)化,可能會(huì)導(dǎo)致較高的訓(xùn)練復(fù)雜度,論文討論了可能的解決方法。
關(guān)鍵詞: 大規(guī)模MMO; 深度神經(jīng)網(wǎng)絡(luò); 5G; 信號(hào)檢測(cè)
中圖分類號(hào): TN92 ? ? ?文獻(xiàn)標(biāo)志碼: A
Dscusson on MMO Detecton Algorthms and Deep Learnng Methods
ZHU Xaohao, JANG Shuchao, SUN Chao
(Department of Communcaton Scence and Engneerng,F(xiàn)udan Unversty, Shangha 200433)
Abstract: As one of the key technologes of 5G communcaton n the future, massve multple-nput multple-output (MMO) technology has ganed extensve research nterest. However, "large scale" brngs sgnfcant performance gans, and also poses challenges for recever desgn, especally consderng resource and cost constrants. Base staton antennas need to be as small as possble whle meetng performance requrements. The paper frst dscusses tradtonal detecton algorthms n MMO scenaros, such as maxmum lkelhood (ML), zero-forcng (ZF) and lnear mnmum mean square error (LMMSE) algorthm. Results show that the complexty of the optmal ML algorthm ncreases wth the number of users, whle ZF and LMMSE have sgnfcant performance loss, especally when the recevng antenna and the number of users are close. n response to ths problem, the paper dscusses solutons based on deep learnng framework, ncludng the exstng LAMP detecton algorthm and neural network DetNet; and the prelmnary exploraton of the paper based on fully connected networks. After comparng ther smulatons, t s found that the MMO detecton algorthm based on deep neural network can mprove the performance of tradtonal detecton algorthms. However, the optmzaton of neural network coeffcents may stll lead to hgher tranng complexty. The paper dscusses possble soluton.
Key words: Massve MMO; Deep neural network; 5G; Sgnal detecton
0 引言
大規(guī)模多輸入多輸出(MMO)技術(shù)作為5G通信的關(guān)鍵基礎(chǔ)技術(shù),是主要的研究熱點(diǎn)之一[1],在MMO系統(tǒng)中,多個(gè)干擾信息或符號(hào)被同時(shí)傳輸,而我們希望在接收端檢測(cè)出被噪聲和干擾污染的發(fā)送信號(hào)。對(duì)于MMO檢測(cè)問(wèn)題的最優(yōu)算法:最大似然準(zhǔn)則(ML),其計(jì)算復(fù)雜度將隨發(fā)送天線數(shù)Nt顯著增加。而計(jì)算復(fù)雜度低的傳統(tǒng)檢測(cè)算法如迫零(ZF)檢測(cè)算法、線性最小均方誤差(LMMSE)檢測(cè)算法等,在接收天線數(shù)Nr沒(méi)有遠(yuǎn)大于Nt時(shí),性能損失明顯。因此這種場(chǎng)景下尋找低復(fù)雜度、高性能的MMO檢測(cè)算法十分必要。
最近十幾年,機(jī)器學(xué)習(xí)在工業(yè)界成功案例非常多[2]。機(jī)器學(xué)習(xí)中的有監(jiān)督分類與信號(hào)檢測(cè)非常相似。機(jī)器學(xué)習(xí)里,學(xué)習(xí)模型的時(shí)候是計(jì)算最昂貴的時(shí)候,但這個(gè)過(guò)程可線下進(jìn)行。近兩年,深度學(xué)習(xí)在通信方面得到了廣泛的關(guān)注,在MMO檢測(cè)領(lǐng)域,將深度學(xué)習(xí)與其他的檢測(cè)算法相結(jié)合也是將來(lái)重要的研究趨勢(shì)。
本文接下來(lái)將首先仿真分析幾種傳統(tǒng)檢測(cè)算法,討論它們各自的優(yōu)缺點(diǎn)和存在的問(wèn)題;在第3部分將對(duì)基于深度學(xué)習(xí)的檢測(cè)算法進(jìn)行討論,探索全連接網(wǎng)絡(luò)在檢測(cè)中的運(yùn)用;最后進(jìn)行總結(jié)。
1 傳統(tǒng)檢測(cè)算法
考慮MMO系統(tǒng)的仿真條件:位于接收端的基站有Nr = {2,3,4,6,8}根天線,服務(wù)Nt=4個(gè)單天線用戶,每個(gè)用戶發(fā)送BPSK信號(hào),且相互獨(dú)立。發(fā)送接收端之間的鏈路是服從標(biāo)準(zhǔn)正態(tài)分布的高斯隨機(jī)信道,信噪比定義成NtP/σ2z,其中P=E
xkx*k
是每個(gè)用戶的傳輸能量,如圖1所示。
從圖1可以看出,Nt=4固定,在Nr較多時(shí),LMMSE和ZF的誤碼率都表現(xiàn)不錯(cuò),隨著接收天線的減少,傳統(tǒng)檢測(cè)方法的性能損失(相比ML方法)顯著增加。進(jìn)一步分析:
a) ML的復(fù)雜度隨發(fā)送天線增多以及調(diào)制星座點(diǎn)數(shù)的增加呈指數(shù)關(guān)系,實(shí)際中往往不可行;
b) ZF和LMMSE雖計(jì)算復(fù)雜度較低,但Nr ? ? 注意到這里的性能分析是以最優(yōu)的ML方法為參考的,而ML的復(fù)雜度隨著Nt的增加呈指數(shù)增加。因此,為了方便仿真,Nr和Nt的取值都較小。但我們期待相應(yīng)的結(jié)論在Nr和Nt取值較大時(shí)同樣成立:ZF和LMMSE的性能在Nr和Nt取值相近時(shí),與ML相比,性能損失明顯。
2 基于神經(jīng)網(wǎng)絡(luò)的檢測(cè)算法
前文已經(jīng)說(shuō)明了傳統(tǒng)檢測(cè)算法在MMO場(chǎng)景里并不能滿足所有需求,因此將深度學(xué)習(xí)引入MMO檢測(cè)中以獲得復(fù)雜度與性能要求下最佳的檢測(cè)器是有意義的。
2.1 LAMP
Approxmate message passng (AMP)算法是最近提出的基于因子圖的迭代算法,用于解決L1問(wèn)題,比如壓縮感知[3]。文獻(xiàn)[4]中,討論了其在MMO檢測(cè)中的應(yīng)用,其迭代公式如式(1)、式(2)。vt=y-Ht+btvt-1
(1)
t+1=ηstt+HΤvt;λt
(2)其中,H∈RNr×Nt,0=0,v-1=0,t∈0,1,2,…,且bt=1Nrt0,λt=αNrvt2.
直觀上講,AMP是首先對(duì)于發(fā)送符號(hào)向量x進(jìn)行粗略估計(jì);然后根據(jù)粗略估計(jì)的結(jié)果進(jìn)行軟干擾消除;這兩步迭代進(jìn)行,最終得到更加準(zhǔn)確的估計(jì)結(jié)果。文獻(xiàn)[5]中證明了AMP在收發(fā)天線趨于無(wú)窮時(shí)的漸進(jìn)最優(yōu)性。
LAMP算法是借鑒AMP算法設(shè)計(jì)的神經(jīng)網(wǎng)絡(luò)算法。為了獲得更好的性能,[6]中將公式(2)中的傳遞矩陣一般化為矩陣B,并通過(guò)訓(xùn)練來(lái)優(yōu)化B的選擇。此時(shí),迭代的數(shù)學(xué)表達(dá)式為式(3)、式(4)。t+1=ηstt+Btvt;σt,θt
(3)
vt+1=y-At+1+bt+1vt
(4)其單層網(wǎng)絡(luò)圖如圖2所示。
若每一層的B是同樣的,則為ted-LAMP,反之為unted-LAMP。損失函數(shù)為式(5)。l(x;t(H,y))=∑Lt=1x-t2
(5)2.2 DetNet
由展開(kāi)投影梯度下降算法替代ML的思路, Neev Samuel等人引入了DetNet框架[7]??紤]MMO系統(tǒng)模型為式(6)。y=Hx+z
(6) ?它的迭代公式為式(7)。
k+1=∏ k-δky-Hx2x=
∏ k-δkHΤy+δkHΤHxk
(7)
其中,k是第k次迭代的估計(jì),∏ ·是一個(gè)非線性操作單元,δk是步長(zhǎng)。于是產(chǎn)生了以下架構(gòu)圖,如圖3所示。
另外參考迭代檢測(cè)思想, DetNet提取了部分參數(shù)b3k、zk、W3k,構(gòu)造了向量vk并將其傳遞到下一層神經(jīng)網(wǎng)絡(luò)中。DetNet單元的數(shù)學(xué)表達(dá)式如式(8)—式(10)。zk=ρW1kHΤy
k
HΤHk
vk+b1k
(8)
k+1=ψtkW2kzk+b2k
(9)
k+1=W3kzk+b3k
(10)其中k=1,…,L,并且ψtk·定義為式(1)。ψtk(x)=-1+ρ(x+t)t-ρ(x-t)t
(11) ?損失函數(shù)為式(12)。l(x;θ(H,y))=∑Lk=1log(k)x-k2x-2
(12)其中,=(HΤH)-1HΤy。
可以看出在DetNet中不需輸入噪聲的方差信息(因?yàn)镸L算法并不需要噪聲方差),而方差信息是LMMSE、AMP等檢測(cè)器需利用的重要信息,因此理論上在外部噪聲未知或不穩(wěn)定的時(shí)候,LMMSE、AMP等算法的魯棒性不如DetNet。
2.3 算法仿真
當(dāng)接收端天線數(shù)Nr~Nt時(shí)如圖4所示。
a) 當(dāng)Nr≥Nt時(shí),從圖4可以看出,兩者(Amp和DtNet)雖然比不上ML,但都比LMMSE好了很多,在誤碼率為10-3時(shí),LAMP比LMMSE提高了3.5 dB,DetNet比LMMSE提高了4.6 dB,性能較好,問(wèn)題部分解決如圖5所示。
b) 當(dāng)Nr 4 全連接網(wǎng)絡(luò)
回顧LAMP和DetNet網(wǎng)絡(luò)的設(shè)計(jì),其整體結(jié)構(gòu)都可以理解為每層的信號(hào)估計(jì)和層與層之間的迭代檢測(cè)。不同之處在于每層的結(jié)構(gòu)選擇,LAMP是借鑒AMP算法原理,DetNet是利用投影梯度下降算法??紤]到發(fā)送信號(hào)的離散非高斯性,上述算法都不是最優(yōu)的;仿真結(jié)果也驗(yàn)證了算法在某些場(chǎng)景下的性能損失。為此,本節(jié)中考慮去掉每層的結(jié)構(gòu)限制,直接采用全連接網(wǎng)絡(luò),探索基于深度學(xué)習(xí)框架的算法的性能極限。
在接收機(jī)一端,接收到的信號(hào)為式(13)。y=Hx+z
(13) ?在固定信道的條件下,接下來(lái)要利用y來(lái)檢測(cè)出x。文獻(xiàn)[8]中證明,只需一個(gè)包含足夠多神經(jīng)元的隱層,多層前饋網(wǎng)絡(luò)就能以任意精度逼近任意復(fù)雜度的連續(xù)函數(shù),這意味著總能找到一組參數(shù)(并不唯一),使得全連接網(wǎng)絡(luò)的檢測(cè)機(jī)盡可能的逼近ML的檢測(cè)效果。
損失函數(shù)為式(14)。l(;H,y)=fnal_n-x2
(14) ?算法仿真。
隱藏層為10層,每層200個(gè)神經(jīng)元,激活函數(shù)為RELU函數(shù),如圖6所示。
設(shè)置發(fā)送天線數(shù)與接收天線數(shù)都是64時(shí),此時(shí)對(duì)應(yīng)的是大規(guī)模MMO的場(chǎng)景,ML因?yàn)閺?fù)雜度過(guò)高不便進(jìn)行仿真,全連接此時(shí)的性能比LMMSE和ZF好很多,如從圖7所示。
從圖7可以看出,當(dāng)接收端天線數(shù)Nr
5 總結(jié)
傳統(tǒng)檢測(cè)方法在天線規(guī)模增大時(shí),尤其接收端天線數(shù)Nr
參考文獻(xiàn)
[1] Rusek F, Persson D, Lau B K, et al. Scalng Up MMO: Opportuntes and Challenges wth Very Large Arrays[J]. Sgnal Processng Magazne EEE, 2012, 30(1):40-60.
[2] Shalev-Shwartz S, Ben-Davd S. Understandng Machne Learnng: From Theory to Algorthms[M]. Cambrdge: Cambrdge Unversty Press, 2014.
[3] Donoho D L, Malek A, Montanar A. Message-passng algorthms for compressed sensng[J]. Proceedngs of the Natonal Academy of Scences, 2009, 106(45): 18914-18919.
[4] Senel K, Larsson E G. Devce actvty and embedded nformaton bt detecton usng AMP n massve MMO[J]. arXv preprnt arXv:1709.05161, 2017.
[5] Donoho D L, Malek A, Montanar A. Message-passng algorthms for compressed sensng[J]. Proceedngs of the Natonal Academy of Scences of the Unted States of Amerca, 2009, 106(45):18914.
[6] Borgerdng M, Schnter P, Rangan S. AMP-nspred Deep Networks for Sparse Lnear nverse Problems[J]. EEE Transactons on Sgnal Processng, 2017, 65(16):4293-4308.
[7] Samuel N, Dskn T, Wesel A. Deep MMO detecton[C]∥2017 EEE 18th nternatonal Workshop on Sgnal Processng Advances n Wreless Communcatons (SPAWC), Sapporo, 2017: 1-5.
[8] Hornk K, Stnchcombe M, Whte H. Multlayer feedforward networks are unversal approxmators[J]. Neural Networks, 1989, 2(5):359-366.
(收稿日期: 2018.11.25)
作者簡(jiǎn)介:朱嘯豪(1995-),男,湖南,碩士,研究方向:信號(hào)檢測(cè)等。
姜述超(1991-),男,山東,博士,研究方向:信號(hào)檢測(cè)等。
孫超(1992-),男,山東,博士,研究方向:信道均衡等。文章編號(hào):1007-757X(2020)01-0094-04