一種模型驅動的深度學習OFDM接收機*

劉 檬,盧 敏,胡 娟,李卓敏

(江西理工大學 理學院,江西 贛州 341000)

0 引 言

正交頻分復用(Orthogonal Frequency Division Multiplexing,OFDM)技術因其優異的性能被用于無線通信標準[1],但傳統的OFDM系統依賴于數學模型,而復雜的信道環境很難用數學公式表達。

近幾年,深度學習(Deep Learning,DL)方法因具有很強的非線性能力,能夠較好地解決通信系統中描述不準確的問題,在通信系統中得到了廣泛的應用,包括信號辨識[2]、信道估計[3]、信道解碼[4]、信號解調[5-8]等方面。文獻[9]提出以神經網絡構建端到端的通信系統,解決了傳統算法不能實現全局優化的問題,但該方法需要同時訓練發送端和接收端,訓練難度較大。文獻[10-11]針對訓練難度大的問題,提出了數據驅動的方法,采用全連接神經網絡和卷積神經網絡實現信息接收。此方法結構簡單,誤比特率性能較佳,但需要大量的訓練數據樣本且時間和空間復雜度高。為了降低模型復雜度,文獻[12-13]提出了一種模型驅動的接收機,其結合無線通信領域的專家知識,通過傳統算法初始化神經網絡輸入,極大地提升訓練效率,減小數據依賴,降低接收機整體復雜度,但是在復雜信道下接收機的抗噪聲性能有待提高。

基于以上分析,針對深度學習的OFDM接收機網絡參數大、收斂速度慢、計算復雜度高的問題,本文采用深度學習方法,結合專家知識和多種神經網絡,構建一種模型驅動的無線接收機模型,即FBLTNet(Fully Connected,Bi-LSTM and Transformer-encoder Neural Network)。該接收機分為信道估計和信道檢測兩個模塊,以最小二乘(Least Squares,LS)信道估計算法和最小均方誤差估計(Minimum Mean Square Error,MMSE)信號檢測算法初始化神經網絡的輸入,使得模型的輸入具有物理意義,降低模型的復雜度以及提高解調性能。在信道估計模塊中,以全連接神經網絡(Fully Connected Deep Neural Network)替代線性插值部分,實現信道狀態信息(Channel State Information,CSI)的估計。在信號檢測模塊,由深度自注意力網絡編碼器(Transformer-encoder)[14]與雙向長短期記憶網絡(Bidirectional Long Short Term Memory,Bi-LSTM)[15]組合的網絡實現信號比特流的恢復。

本文將從噪比性能、調制方式、導頻數量、循環前綴角度,對比分析FBLTNet接收機、傳統接收機和現有的深度學習接收機。

1 系統模型

OFDM無線通信系統包括發射機、信道和接收機,如圖1所示。系統發射端將輸入的二進制數據序列調制為發射符號序列,插入導頻符號形成完整的OFDM發送符號,符號經過離散傅里葉逆變換(Inverse Discrete Fourier Transformation,IDFT)轉換為時域信號,接著加入循環前綴(Cyclic Prefix,CP),以減輕由無線信道的延遲擴展引起的符號間干擾(Inter-symbol Interference,ISI),形成完整的時域OFDM信號。

OFDM接收機中,由于信號在傳輸過程中,發送和接收是異步的,即可能出現發射端的信號在接收端收不到或者接收不完全的情況。為了使得數據能夠正常工作,不破壞子載波之間的正交性,接收端在快速傅里葉變換(Fast Fourier Transformation,FFT)變換之前,發射機和接收機必須進行同步操作,之后去除CP,然后再執行FFT變換,將接收信號Y(k)表示為第k個子載波的接收信號,接著進行信道估計、信號檢測和星座映射解調。

信號通過一個頻率選擇性衰落多徑信道的脈沖響應表示為

(1)

式中:M為多徑條數;τi為第i路信號的時延;h(i)為第i路信號的幅度衰減因子。在符號正確同步的情況下,接收端的采樣信號為

(2)

式中:Ts為采樣周期;n(nTs)為采樣的高斯白噪聲。當用循環卷積代替信號與信道的線性卷積時,對接收到的信號做快速傅里葉變換后解調出的頻域信號為

Yi,k=Xi,k*Hi,k+wi,k

(3)

(4)

式中:Xi,k(P)和Xi,k(D)分別表示第k個子載波中的導頻和發射符號。Xi,k(P)在接收端是已知的,用于信道估計,而Xi,k(D)在接收端是未知的,需要根據接收到信號和估計信道進行檢測。

基于人工智能(Artificial Intelligence,AI)的接收機,用神經網絡取代傳統接收器中的信道估計和信號檢測,將大量的無線信號作為神經網絡的輸入,比特流信號作為輸出,通過隨機梯度下降算法訓練所有參數。下面將詳細介紹本文提出的FBLTNet接收機。

2 接收機設計

2.1 FBLTNet接收機

將接收端接收到的時域信號YD∈M×N,經過信道的導頻Yp∈和接收端已知的原始導頻Xp∈作為輸入數據,通過所提出的FBLTNet接收機獲得恢復的比特流信號,其數據流如圖2所示。

圖2 FBLNet接收機數據流圖

2.1.1 信道估計

信道估計的作用是估計出信道狀態信息矩陣。導頻輔助信道估計采用LS算法,通過利用導頻估計導頻位置的信道響應,表示為

HLS=Yp/Xp,HLS∈M×N

(5)

圖3 信道估計網絡

2.1.2 信號檢測

信號檢測先利用傳統檢測算法初始化神經網絡的輸入,再通過信號檢測神經網絡(簡稱SD網絡)恢復比特流信號,如圖4所示。

圖4 信號檢測網絡結構數據流圖

(6)

由于此時信號是復數信號,在輸入神經網絡前提取YMMSE∈M×N,YD∈M×N和M×N3個復數特征矩陣復數的實部和虛部,合并成6列的實數矩陣,則SD網絡的輸入矩陣G∈M×6N表示為

(7)

式中:Re{·}表示取復數值的實部;Im{·}表示取復數值的虛部。用WSD表示SD子網權重,bSD表示該神經網絡偏置,則SD子網的輸出σ表示為

σ=WSD×G+bSD

(8)

2.2 信道估計網絡

CE網絡由3層的批量歸一化(Batch Normalization)和兩層的全連接層(Dense)組成,全連接層的神經元個數分別是256和128;采用ReLU激活函數;網絡結構見圖3。

(9)

2.3 信號檢測網絡

SD網絡結構如圖4所示,由兩個雙向長短期記憶網絡(Bi-LSTM)、兩個深度自注意力編碼器網絡(Transformer-encoder)及一個全連接網絡組成。

2.3.1 Bi-LSTM

使用ReLu激活函數,神經元個數64,主要用于信號序列上下文的學習。Bi-LSTM為兩個單向LSTM網絡的組合,其中一個LSTM網絡進行數據的正向預測,另一個LSTM網絡進行反向預測。LSTM網絡中有若干個LSTM單元,每個單元由輸入門it、遺忘門ft、輸出門ot、記憶單元ct和隱藏層矢量lt組成,并且每個單元參數共享,即每個時間步上神經網絡的參數都一樣。則單個LSTM網絡結構的數學描述如下:

it=σ(bi+Uixi+Wilt-1)

(10)

ft=σ(bf+Ufxt+Wflt-1)

(11)

ct=ft⊙ct-1+it⊙σ(bc+Ucxt+Wclt-1)

(12)

ot=σ(bo+Upxt+Wolt-1)

(13)

lt=ot⊙tanh(ct)

(14)

式中:Ui,Wi,Uf,Wf,Uc,Wc,Uo,Wo∈d×d為網絡中的權重矩陣;bi,bf,bc,bo∈d為網絡的偏置,權重和偏置在訓練學習過程中確定下來;⊙表示元素乘法;σ為sigmoid函數;d表示輸入序列維度。每個時間步LSTM網絡的輸出lt和隱藏層更新變換公式可以簡化為式(15)和(16):

lt=LSTM(lt-1,xt,Θ)

(15)

(16)

(17)

2.3.2 Transformer-encoder

Transformer-encoder的作用主要為了加強信號序列學習的深度,提取序列的特征,解決序列中長期依賴問題,包含注意力機制和殘差結構,分別為層歸一化(LayerNormalization)、多頭注意力(Muti-Head Attention)、失活(Dropout)和一維卷積(Conv1D)。LayerNormalization表示層歸一化函數,其作用是將輸入的特征數值進行規范化轉換,使得整個網絡的計算過程數值更穩定,訓練網絡收斂速度更快。多頭注意力將原輸入向量映射為多個不同的查詢矩陣Q、鍵矩陣K和值矩陣V的三元組,然后對每個三元組分別使用點積注意力機制進行計算,最后將不同三元組計算得到的輸出進行拼接得到表達能力更多樣的新特征向量,數學表示如下:

(18)

Mutihead(Q,K,V)=Concati=1,…,n(headi)Wp

(19)

Dropout層作用是通過在訓練期間隨機丟棄網絡節點,可以使用單個模型來模擬具有大量不同的網絡架構,是一種計算低成本且非常有效的正則化方法,以減少過度擬合并改善各種深度神經網絡中的泛化誤差。合理使用Dropout正則化層可以減少過度擬合并提高深度神經網絡的泛化能力。

綜上,Transformer-encoder模塊的數據流過程可以簡化表示為

(20)

(21)

(22)

Xi=Xi-1+Dropout(MutiHead(Qi,Ki,Vi))

(23)

Xi=LayerNormalization(Xi)

(24)

Xi=Conv1D(Xi)

(25)

Xi=Dropout(Xi)

(26)

Xout=Conv1D(Xi)

(27)

2.3.3 Dense層

SD網絡最后一層是全連接層用于分類,使用sigmoid激活函數,表示為

(28)

輸出值限制在0～1之間,通過公式(29)硬判決的方式,判定輸出的值是1 b還是0 b。門限p根據sigmoid激活函數的輸出范圍決定,在本文中設定為0.5。

(29)

FBLNet接收機的訓練以均方誤差作為損失函數。公式(30)表示,通過訓練學習,不斷調整對權重和偏置,減小真實值與模型預測值之間的誤差。

(30)

3 仿真分析

OFDM系統仿真參數如表1所示,其中發射機中的導頻插入方式為梳狀導頻,并將發射機生成的信號數據經過瑞利衰落后全部作為神經網絡的訓練集和測試集。本文的信道采用服從瑞利分布的衰落信道模型,多徑瑞利信道的參數使用COST207標準模型中的參數[16],該模型設定為Jakes的多普勒類型。接收端的同步技術采用基于導頻的符號定時同步操作[17]。對于訓練過程,使用Adam優化器,訓練學習率為0.01。其中,當SNR、導頻數量、循環前綴等參數變化時,根據生成的樣本數據重新訓練接收機模型參數。對于測試過程,本文采用與訓練過程相同的參數來評價框架的誤碼率性能。

表1 主要仿真參數

3.1 傳統接收機的對比分析

誤比特率(Bit Error Ratio,BER)性能是衡量接收機解調性能影響的宏觀指標。傳統的OFDM接收機模型采用LS信道估計和MMSE信號檢測算法組合解調算法進行仿真,稱為LS-MMSE接收機。實驗結果如圖5和表2所示,可見在各種調制方式下,FBLTNet接收機的性能全面優于LS-MMSE方法,說明深度學習接收機更適合調制信號的解調。

表2 瑞利信道下FBLTNet接收機和LS-MMSE接收機的信噪比對比

圖5 FBLTNet與LS-MMSE接收機信噪比-誤比特率曲線

3.2 深度學習接收機的對比分析

本文將從空間時間復雜度和誤比特率兩個角度,與數據驅動的FCDNN接收機[10]和模型驅動的ComNet接收機[12]進行對比分析。

3.2.1 空間和時間復雜度

神經網絡的空間復雜度,主要指網絡模型的參數數量。由于維度的限制,模型的參數越多即空間復雜度越高,訓練模型所需的數據量就越大,不僅會導致模型的訓練容易過擬合,還會增大訓練的難度。時間復雜度主要取決于模型的訓練和預測時間,時間復雜度過高,既無法快速地驗證想法和改善模型,在實際部署中也無法做到實時解調。表3、表4和圖6分別比較了FCDNN、ComNet和本文所提的FBLTNet模型的網絡模型參數數量、訓練時間及測試時間。

表3 空間復雜度

表4 時間復雜度

圖6 模型訓練收斂圖

由表3可知,基于數據驅動的FCDNN參數量最大,遠高于基于模型驅動的ComNet和FBLTNet,FBLTNet接收機與數據驅動的FCDNN接收機相比,網絡結構參數減少29.5%。其主要原因是模型驅動模型每層之間除神經元之間數據傳遞外,在連接之間還加入了自定義的數據變換,提取更多有物理意義的信息,降低了網絡結構的復雜度。

由表4可知,收斂速度、訓練時間和測試時間上,FBLTNet模型最少,FCDNN次之,ComNet最多。FBLTNet接收機與FCDNN相比,線下訓練模型收斂時間和測試時間分別減少33.0%和25.0%。圖6表明,FBLTNet模型在訓練41輪次后收斂過程開始趨于穩定,80輪次后就會出現過擬合;FCDNN在100輪次都還未出現過擬合;ComNet收斂最慢,還未達到收斂平穩狀態?？傊?與FCDNN和ComNet相比,FBLTNet的空間和時間復雜度均最小,這表明采用具有強大記憶能力的自注意力網絡的FBLTNet,能夠快速捕捉訓練數據全局特征和學習數據分布特征。

3.2.2 誤比特率

圖7比較了FCDNN、ComNet和本文所提的FBLTNet在瑞利衰落信道的誤比特率。當接收機達到特定誤比特率量級時,實驗結果如表5所示,可以看出,FBLTNet接收機信噪比性能與FCDNN接近,信噪比相差在0.3 dB左右。但與ComNet接收機相比,在BPSK調制方式下信噪比性能提高了1.576 dB,在QPSK調制方式下提高了4.248 dB,在16QAM調制方式下提高了1.013 dB,在64QAM調制方式下提高了0.755 dB,說明FBLTNet具有較好的信噪比性能。

表5 信噪比性能對比

圖7 多種接收機模型信噪比-誤比特率對比

3.3 導頻和循環前綴的影響

3.3.1 導頻的影響

在OFDM通信系統中,接收端數據的同步和相干檢測都需要預先知道收發天線之間的信道信息。為了獲得信道的頻率響應,最常用的方式是利用導頻輔助信道估計算法。在傳統估計算法中,適合的導頻數量能夠較為準確地估計出信道頻率響應,但導頻過多會使得頻譜利用率降低。由于深度學習方法的數據擬合能力,可以采用較少的導頻來估計,從而進一步提高頻譜利用率。本文采用64個子載波的OFDM符號,使用梳狀的導頻插入方式,比較了QPSK調制方式下不同導頻數量分別為4,8,16時的誤比特率性能。從圖8中可以看出,使用LS-MMSE算法的表現性能最差,且不同導頻數量之間的誤差大。當信噪比高于15 dB時,LS-MMSE接收機的誤比特率曲線已經趨于飽和,而基于深度學習方法的FBLNet接收機依然具有隨著信噪比的提高而降低誤碼率的能力。在相同量級的誤比特率下,不同導頻數量的接收機信噪比性能波動范圍在1 dB左右。這表明FBLNet接收機對于導頻數量具有魯棒性,原因在于神經網絡對于數學模型的依賴性較低,能夠從模型生成的訓練數據中學習無線信道的特性。

圖8 導頻數量對不同接收機誤比特率的影響

3.3.2 循環前綴的影響

在OFDM通信系統中,傳統接收機高度依賴數學模型中的循環前綴。循環前綴是將符號末尾的信號復制符號最前面,確保每個子載波之間的正交性,一次對整數時間進行FFT變換,避免信號之間的干擾,從而對抗多徑衰落。但這種做法讓OFDM符號長度增加,系統在移動情況下對頻率誤差更敏感,帶來了更大的開銷并降低信息的傳輸效率。通過舍棄循環前綴以提高頻譜利用率,從圖9中可以看到,在舍棄循環前綴后,LS-MMSE接收機表現敏感性最大,信噪比差異接近10 dB,而FBLNet接收機對循環前綴的使用,信噪比差異較小,最大不超過1 dB。這可解釋為傳統接收機方法極大依賴數學模型,舍棄循環前綴后使得子載波之間不再正交,接收端的數據對模型產生了較大的影響。反觀FBLNet接收機,利用深度學習強大的數據擬合能力,且網絡模型中引入了注意力機制,能夠學習到符號間前后端信息的關系,說明FBLTNet接收機具有良好的抗符號間串擾的能力,也證明了在去除循環前綴的情況下深度學習方法是可行的。

圖9 循環前綴對不同接收機誤比特率的影響

4 結 論

本文以OFDM無線通信系統為研究對象,采用深度學習的方法,結合神經網絡和專家知識,提出了一種模型驅動接收機模型FBLTNet。測試了不同調制方式的多種接收機性能,結果表明,本文提出的FBLTNet接收機提高了模型學習符號間關系的能力,不僅能夠減少模型訓練的收斂時間,還加快了模型的測試時間;在瑞利信道中,與傳統接收機相比,對不同的調制方式均具有魯棒性和泛化性;與基于深度學習的數據驅動接收機相比,降低了接收機的復雜度;與基于深度學習的模型驅動接收機相比,提高了解調精度,降低了誤比特率。此外通過對比分析的得出結論,導頻數量的變化及循環前綴對FBLTNet接收機解調性能影響較小,在實際部署中,可以通過減少導頻數量和不使用循環前綴來提高信息的傳輸效率。