基于深度學習的室內目標波達方向估計

鄧偉鑫,高 暉*,唐 勐,粟 欣,彭 瑩,蘇 昕

(1.北京郵電大學 信息與通信工程學院,北京 100876;2.清華大學 信息科學技術學院,北京 100084;3.中信科移動通信技術股份有限公司,北京 100083)

0 引言

隨著無線通信系統的不斷發展與演進,超五代及第六代移動通信將提供更高的技術指標[1]。當前,多輸入多輸出(Multiple-Input Multiple-Output,MIMO)系統具有高信號增益、強干擾抑制能力及高空間分辨力等優點[2-3],這使其有望同時具備通信和感知能力,實現高速率通信和高精度感知[4]。此外,隨著移動互聯網、物聯網以及新型設備的快速發展,越來越多的智能化應用出現在人們面前,如室內定位及追蹤[5]、人體活動檢測[6]等,這些應用需要高精度、高實時的感知技術支持,快速準確的波達方向(Direction of Arrival,DoA)估計[7]是關鍵技術之一。與室外環境不同,室內環境下DoA估計面臨多徑和障礙的挑戰,這些挑戰導致接收信號幅相特性變化從而對DoA估計產生不利的影響,此外室內場景中行人身體姿態的變化及位置移動、大型機器設備的運動都將導致電磁特性復雜多變,傳統DoA估計技術在室內場景直接運用時性能較差[8]。

傳統的DoA估計方法,如最大似然估計(Maximum Likelihood,ML),通過求得方向估計似然函數的最優解來估計DoA[9-10];基于噪聲子空間的多重信號分類(Multiple Signal Classification,MUSIC)方法[11],通過特征值分解劃分信號子空間,然后根據噪聲/信號子空間正交性估計DoA[12-13]。這些方法因高分辨率而得到廣泛使用,然而多徑環境將導致視距(Line of Sight,LoS)徑信號分辨困難以及多徑分量之間具有相干性,對傳統方法估計精度造成不利影響,此外這些方法涉及多次迭代以及特征值分解等高復雜度運算,難以實現高實時性估計。因此亟待一些面向室內場景的高精度、高實時DoA估計技術。

1 相關工作

近年來,機器學習在解決信號處理問題方面顯示出許多優勢[14-15],一些研究將機器學習應用于DoA估計問題[16-19]。在傳統的機器學習方法中,Malajner等人[18]提出了基于接收信號強度指示(Received Signal Strength Indicator,RSSI)和支持向量機的DoA估計方法,以RSSI為數據集使用支持向量機方法。董川源[19]提出了基于梯度提升樹與集成學習原理的極限梯度提升(Extreme Gradient Boosting,XGBoost)方法來進行DoA估計。但這些方法僅對非多徑環境DoA估計有效,受到多徑環境的不利影響,難以解決過擬合、維度災難等機器學習難題[20]。

相比傳統的機器學習方法,深度學習(Deep Learning,DL)不依賴可解釋模型設計,自主從大量原始數據中學習,提取數據高級特征。DL模型具備更好的預測性能,且訓練好的網絡只需要簡單的推斷就可以完成估計?，F有基于DL的DoA估計研究一般以接收信號及其各種處理形式作為網絡輸入,以矯正的接收信號或預測角度等作為輸出[21-26]。一些團隊提出基于深度神經網絡(Deep Neural Network,DNN)的DoA估計方法[23-24],通過訓練多層隱藏層對目標DoA在角度域網格上進行分類。Chen等人[25]通過劃分扇區分區域進行DoA估計,設計探測網絡以及估計網絡,前者對信源目標進行區域分類,后者進行DoA估計,降低了時間開銷。此外,DL也可用于增強傳統方法,Elbir[26]提出DeepMUSIC方法,設計了特征提取能力更強的卷積神經網絡(Convolutional Neural Network,CNN)重構MUSIC譜峰函數以增強MUSIC方法,減少計算量并提高估計精度。這些研究針對特定場景構建數據集,取得了較好性能,然而在室內環境下仍具有局限：一是未考慮場景中未知多徑信號的影響,嚴重扭曲信號的相位特性分布,降低了估計精度;二是面對多徑環境沒有刻意訓練模型分辨LoS徑信號的能力;三是尚未有研究考慮電磁環境變化的潛在挑戰,模型不具備適應環境變化的魯棒性。

對DoA估計方法展開研究,提出了一種基于DL的室內目標DoA估計方法,訓練CNN用于室內目標DoA估計,并設計了一種基于小樣本學習(Few-Shot Learning,FSL)的快速模型更新機制。將所提方法簡記為FSL-CNN方法,進一步從DoA估計拓展到對目標位置的感知。主要研究內容如下：

① 提出了基于DL的室內目標DoA估計方法。設計了一個用于DoA估計的深度卷積網絡,利用有監督的DL訓練CNN對抗多徑影響,提升模型從多徑分量中分辨提取LoS徑信號DoA特征的能力,并針對室內環境構建數據集,并以此為訓練模型,訓練完成的模型實現了高精度、高實時的DoA估計。相比ML、MUSIC等傳統方法,所提FSL-CNN方法在時間復雜度上有顯著優勢;相比DNN、DeepMUSIC等DL方法,所提方法具有更高的精度和較低的時間開銷。

② 基于FSL設計了在線學習機制?？紤]提升模型在面對電磁環境變化情況下的魯棒性能,預訓練模型在首次部署時根據實際部署環境,在線學習少量數據,更新網絡部分參數,完成模型微調。面對電磁環境變化的情況,基站按需獲取新數據,快速更新模型。引入FSL[27-28]可以提高模型對環境的泛化性和魯棒性,相比重新訓練,所提在線學習機制具有更高效能。

③ 基于DeepMIMO數據集展開了仿真實驗。在DeepMIMO的Indoor1[29]環境下進行仿真實驗,結果驗證了所提FSL-CNN方法實現的效能優勢。作為應用示例,進一步討論了基于DoA估計的多站協同室內目標定位方案,在室內環境下達到了0.017 4 m的平均定位誤差。

2 系統模型

基于陣列天線構建了DoA估計方法所需的接收信號模型。如圖1所示,考慮一個室內上行場景,以單基站為例,其為K名目標用戶提供服務?；揪哂蠱根接收天線,配備了均勻線性陣列,各陣元間距為d,取半波長,每名用戶均配備單天線發射機。為了實現對目標用戶DoA的估計,設定場景中來自K名用戶的入射信號si(t)=[s1,s2,…,sNs]∈1×Ns,i=1,2,…,K;Ns是快拍數,來自不同用戶的入射信號相互獨立,且與噪聲也相互獨立。假設天線陣部署位置與目標用戶具有足夠距離,可將目標發射信號視為遠場平面波。設定分別來自K名目標用戶的入射信號方向角為θ1、θ2、…、θk。

圖1 室內目標DoA估計場景Fig.1 Indoor target DoA estimation scenes

假設基站側的接收信號表示為X(t)=[x(t),x2(t),…,xM(t)]T∈M×Ns,具體表達式為：

X(t)=AS(t)+N(t),

(1)

式中：A=[a(θ1),a(θ2),…,a(θk)]∈M×K是由K個陣列導向矢量組成的矩陣,導向矢量表示為M×1,i=1,2,…,K;S(t)=[s1(t),s2(t),…,sK(t)]T∈K×Ns表示來自K個不同信源的入射信號矩陣,N(t)=[n1(t),n2(t),…,nM(t)]T∈M×Ns表示噪聲矩陣,其中各噪聲向量滿足獨立同分布,并且有ni(t)～N(0,σ2),i=1,2,…,M;σ2為噪聲功率。

進一步,如果環境中存在多徑信號,設多徑數為L(不包含直射徑),則接收信號可改寫為多徑信號的求和。

(2)

為獲取DoA信息,計算接收信號的協方差矩陣是一個良好的選擇。以無多徑為例,為不失一般性,忽略時間標簽t,則接收信號的協方差矩陣RX∈M×M表示為：

RX=E[XXH]=ARsAH+σ2IM,

(3)

式中：Rs∈K×K為入射信號的自相關矩陣,由于信源信號與噪聲之間不相關,可以得到AE[SNH]和E[NSH]AH為0,因而接收信號的協方差矩陣如 式(3)右側所示。實際情況下無法根據式(3)求得概率平均值,因此如式(4)所示計算算術平均值來近似表示接收信號的協方差矩陣。由對稱性,僅取協方差矩陣的上三角部分作為參數以減少輸入神經網絡的數據量：

(4)

3 基于DL的DoA估計

對基于DL的DoA估計框架、室內環境數據集構建、模型的設計訓練以及更新4個重要組成部分進行詳細介紹。

3.1 基于DL的DoA估計框架

估計框架包含離線訓練、在線估計以及模型更新階段,如圖2所示。離線訓練階段通過大量數據訓練模型;在線估計階段輸入采集的接收信號樣本進行DoA估計;模型更新階段基站按需通過當前采集數據對模型進行更新。估計模型以接收信號協方差矩陣上三角部分作為源數據輸入,進一步執行數據預處理得到數據集：① 為方便DL模型處理,需要將復矩陣分成實部和虛部兩部分,再通過扁平化重組成一維向量;② 為使樣本向量在進行點乘運算或其他計算時擁有統一的標準,進行歸一化處理。采用監督學習的方式訓練模型,除對接收信號進行上述處理得到的數據集外,還需要輸入與之對應的LoS徑DoA角作為標簽數據。

圖2 基于DL的DoA估計框架Fig.2 DL-based DoA estimation framework

3.2 數據集構建

針對室內環境DoA估計構建數據集。DeepMIMO數據集[29]由Wireless Insite軟件生成,是一個面向MIMO系統的公開DL數據集,其基于精確的3D射線跟蹤方法生成,廣泛支持基于DL的通信和感知應用。

依據DeepMIMO構建室內環境下DoA估計的數據集,選擇實驗場景為室內環境Indoor1。通過DeepMIMO數據生成器,依照場景中關鍵參數設置生成DeepMIMO數據集;其中包含大量信息,需要對所需信息進行提取,例如接收信號,基站與目標用戶的位置、角度關系等。進一步,將該數據中的基站-用戶角度信息作為標簽數據y,然后對接收信號數據按算 法1處理得到室內目標DoA估計數據集。以預測的DoA結果作為網絡的輸出Z,構建網絡的輸入-輸出對{d,Z}其中d∈M(M+1)×1、Z∈K×1分別表示網絡的輸入和輸出,最終數據集構建方法如下。

算法1 數據集構建輸入：數據集樣本總數U,接收信號X,Z輸出：數據集1：初始化u=1以及數據集長度U2：for 1≤u≤U do3：生成接收信號樣本X(u)4：利用式(4)計算X的協方差矩陣R(u)X 5：雙通道扁平化處理得到^d(u) = [Re(R(u)X ),Im(R(u)X )]T6：對^d(u)進行歸一化處理得到d(u) =[cov(u)real,cov(u)Imag]T7：設計數據集輸入(u)in={d(u)} ,輸出(u)out={Z(u)} 8：構建數據集(u)={(u)in,(u)out}9：u←u+110：end for u

3.3 模型設計和訓練

構建數據集之后,設計了DoA估計模型。該模型主要由卷積層和全連接層構成,具體如圖3所示。將數據集饋送到神經網絡中進行訓練,采用多層神經網絡模型對訓練集進行求解,得到各神經網絡節點的權值,根據最小化損失函數確定網絡節點的最優權值。

圖3 基于DL的DoA估計之神經網絡結構Fig.3 Neural network structure of DoA estimation based on DL

本文采用了卷積層、池化層、整流線性單元(Rectified Linear Unit,ReLU)激活函數層、全連接層等結構來設計深度卷積網絡模型。網絡模型的輸入為：

d=[covreal,covImag]T,

(5)

y=[θlabel(1),θlabel(2),…,θlabel(k)]。

(6)

(7)

式中：f1(·)表示輸入層,將輸入數據傳遞給隱藏層;{fi(·)}i={2,5,8}表示卷積層,通過卷積運算提取數據中含有的DoA特征,尤其從多徑分量中學習LoS徑信號的特征;{fi(·)}i={3,6,9}、 {fi(·)}i={4,7,10,12,14}分別表示最大池化層、激活層,實現特征降維和非線性輸出以提高模型學習能力;{fi(·)}i={11,13}表示全連接層,實現由特征到目標DoA的映射關系;f15(·)表示輸出層。使用ReLU作為激活函數提升模型的學習能力,其表示為ReLU(x)=max(0,x)。

為不失一般性,每次訓練假設使用相同的隨機初始權重和偏置值。此外,為提高模型估計的準確性,使用Adam優化器[30]實現反向傳播(Back Propagation,BP)方法,對模型參數進行調整。損失函數設計為當輪訓練輸出的DoA估計值和真實值的均方誤差(Mean Square Error,MSE)：

(8)

3.4 DoA估計和模型更新

訓練完成后各層網絡權重固定,輸入新采集的接收信號數據可實現DoA估計。為了使模型有效適應所部署的場景,使用了一種小樣本增量[27-28]學習的策略,能夠有機結合完成訓練的模型和在線采集的數據,提升模型在實際部署中的準確性。具體的方法執行流程示意如圖4所示,基站交替執行DoA估計和其他任務的同時,對新的無線數據進行采集,模型基于新的數據按需進行更新。

圖4 方法執行流程示意圖Fig.4 Schematic diagram of algorithm execution process

DoA估計階段,基站采集當前場景下的陣列接收信號,并計算得到協方差矩陣。為保證數據的一致性,這一階段使用與離線階段相同的數據預處理操作得到在線估計階段的數據,隨后將在線估計階段陣列捕獲的數據輸入到模型中進行估計。

執行其他感知任務階段,基站基于已采集信號數據按需進行模型更新。需要更新模型時,基站根據所部署平臺的計算資源情況,在不影響DoA估計及其他感知任務運行的前提下對少量接收信號數據執行ML方法得到校準的DoA,隨后利用這些接收信號數據及其校準的DoA制作數據集作為模型更新階段的輸入。由于校準的DoA獲取并行于持續運行的DoA估計及其他感知,因而進行所提方法DoA估計時間評估時忽略ML方法校準帶來的高復雜度影響。

模型更新階段,基于FSL思想更新模型。通過少量的訓練數據來訓練模型[27],以學習和識別新的實例。采用基于模型微調的FSL方法,通過增加新的訓練樣本,在已有描述舊數據的特征之上加入新數據的特征,不斷更新模型的參數,使得模型能夠適應新的類別[28]。這種學習方式可以使模型基于原有知識提高學習新知識的效率,而不會使新知識覆蓋舊知識?；谏鲜鏊枷?設計更新方案：模型在已有訓練的基礎上,僅依靠少量樣本學習新的特征,基于式(8)和BP方法快速完成參數的更新,提高模型對不同環境的適應性。相比重新訓練,在原有模型上進行更新,可以減少訓練輪次,降低訓練時間。

模型更新如圖5所示,通過饋入少量新數據,更新全連接層的權重參數實現在線估計階段模型快速更新。首先,根據實際部署的環境,當采集到新的少量數據時,對新數據進行預處理得到新數據集;然后,加載預訓練模型,凍結參數使得在BP過程中這些層的權重固定不變,因為該部分結構具備了在多徑環境下提取DoA特征的能力而無需在某個特定場景下再針對這部分結構進行調整;最后,設置優化器對全連接層進行訓練,優化器的配置和離線階段訓練整個模型時的配置保持一致。調整全連接層是因為這一部分結構主要用于特征向估計角的映射,在不同環境下存在不同映射關系,針對特定環境進行特定映射關系學習將有效提高估計精度[22]。在已有模型基礎上,這部分的更新僅需輸入少量數據就能達到良好的估計性能。

圖5 模型更新Fig.5 Model updating

3.5 時間復雜度分析

表1展示了各方法時間復雜度：ML方法首先需要計算協方差矩陣RX,然后基于交替投影方法搜索最優解,ML方法復雜度為O(Kp(M3+M2K+2K2M+K3)),p為最優解搜索次數;MUSIC方法計算協方差矩陣RX后進行特征值分解,最后譜峰搜索,因此MUSIC方法復雜度為O(s(M3+M2K+K2M)),s為譜峰搜索步數;本文所提方法計算復雜度取決于神經網絡計算復雜度,具體為O(aM2+bK),其中a和b是與網絡模型設置相關的常數。顯然,引入DL可以實現更低的時間開銷。

表1 時間復雜度對比Tab.1 Calculation complexity comparison

4 仿真結果與分析

4.1 仿真配置

本文仿真使用MIMO通信中具有代表性的DeepMIMO數據集[29]驗證所提方法的可行性。設計場景為Indoor1生成的矩形房間,該室內場景中放置4個基站,分別部署在房間的4個角落,仿真DoA估計時設置某個基站開啟工作?；揪哂?6陣元,場景信源數為2個,載波信號頻率為2.5 GHz,信噪比(Signal to Noise Ratio,SNR)設為[-10∶5∶10] dB,多徑數L為3(信號能量主要集中在L個多徑分量上),快拍數Ns為512,譜峰搜索的間隔步長為0.1°。選擇80 600個樣本按8∶2比例劃分訓練集和測試集。網絡訓練具體超參數設置如表2所示。

表2 超參數表Tab.2 Hyperparameter table

衡量DoA估計性能的指標為均方根誤差(Root Mean Square Error,RMSE),表示為：

(9)

本部分仿真選擇如下DoA估計方法展開對比：所有方法在與所提方法相同的場景設置下對相同信源目標進行DoA估計。

① ML[10]：傳統方法,通過ML方法以及交替投影法來估計DoA。

② MUSIC[11]：傳統方法,利用子空間正交性進行DoA估計,并使用空間平滑方法實現解相干。

③ XGBoost[19]：基于梯度提升樹與集成學習原理求解分類問題對DoA進行估計。

④ DNN[23]：DL方法,設計DNN輸入接收信號協方差矩陣輸出角度結果,對雙目標信源進行DoA估計。

⑤ DeepMUSIC-CNN[26]：DL方法,設計CNN輸入接收信號協方差矩陣輸出MUSIC譜函數,通過CNN構建譜函數以強化傳統MUSIC方法。

⑥ FSL-CNN：本文所提DL方法,輸入信號協方差矩陣預訓練CNN。模型部署具體環境后基于FSL更新CNN并輸出目標LoS徑角度估計結果。

4.2 DoA估計性能分析

圖6和圖7為在相同的室內環境下不同估計方法在精度和估計時間方面的比較。估計時間比較的方式是在一次DoA估計階段內,以所提FSL-CNN方法估計時間為基準,比較其他方法估計時間與基準方法估計時間的倍數。從圖6可知,FSL-CNN方法可以達到0.1°級別及以下的估計精度。相較于傳統的機器學習方法XGBoost,所提方法采用DL,可以達到更高的估計精度;相較DeepMUSIC-CNN和基于DNN的DoA估計,所提方法具有性能優勢,因為FSL-CNN考慮設計有監督的CNN提升模型對抗未知多徑信號的能力,同時提高了分辨LoS信號的成功率。圖7表明,FSL-CNN方法實現了估計時間的大幅減少,僅稍慢于DNN方法。因為DNN不涉及卷積結構,計算速度相對較快;除此以外所提方法均優于其他對比方法,比如估計時間僅為ML與MUSIC方法的萬分之一,對比XGBoost、DeepMUSIC-CNN方法也是具有更低的時間開銷。由此可知,所提方法針對DoA估計具有良好的實時性。

圖6 不同方法性能對比圖Fig.6 Performance comparison chart of different methods

圖7 不同方法估計時間對比圖(以FSL-CNN 為基準)Fig.7 Estimation time comparison chart of different methods (based on FSL-CNN)

圖8為非多徑模型分別在多徑場景下從零開始重新訓練以及基于所提FSL機制在線學習多徑場景特征的歸一化MSE收斂曲線對比圖。在非多徑環境下訓練所提DoA估計模型,并使用該模型分別針對某一多徑環境進行在線學習、重新訓練?？梢钥闯?所提方法可使模型快速適應所部署的多徑場景。僅需要少量的訓練輪次(50 epoch)便可基本修正模型的估計結果,收斂速度遠快于從零開始直接訓練(500 epoch)。

圖8 在線學習與從零開始直接學習曲線對比圖Fig.8 Comparison of online learning and learn from scratch

為驗證在線學習機制具有提高模型快速環境適應能力的作用,在非多徑環境下訓練了所提的DoA估計模型。如圖9所示,當模型不經過任何額外訓練而直接應用到一個具有多徑的室內環境時,顯然其無法實現準確的DoA估計。因此,為使原始模型適應新環境,基于本文所提FSL機制對模型進行在線學習和更新(CNN with FSL),同時以重新訓練的模型(CNN with Retraining)作為對比。模型經過在線學習后,可以快速適應新場景,能達到至少 0.1°的分辨率,性能表現基本與重新訓練相差無幾。

圖9 所提方法在遷移到不同場景下性能對比圖Fig.9 Performance comparison chart of proposed methods in migrating to different scenes

4.3 應用案例——多站聯合定位性能分析

僅通過估計的DoA信息可以推廣到對目標定位：由幾何關系可知,如果場景中存在至少兩個不共線的基站時可以確定一個位置坐標,因而聯合兩個基站的DoA信息可以實現對室內目標的定位。具體而言,由于基站位置先驗已知,同時合理假設兩個基站分享各自的DoA估計信息,則如式(10)所示計算可得目標位置坐標。

(10)

式中：(x,y)、(xR1,yR1)、(xR2,yR2)分別表示目標位置、基站1、基站2的坐標,{θR1,θR2}分別表示目標相對基站1和2的角度,σ表示可能存在的角度測量誤差。

由于場景中存在許多障礙或目標距離基站較遠的情況,部分基站估計DoA精度不高,將導致定位不準,而部署多站可以有效增加覆蓋并提高定位精度。針對部署多站的場景,在兩站幾何式定位基礎上提出一種基于接收信號強度的最優基站選擇機制,依據接收信號強度選擇最優的兩個基站,并基于所選基站估計的DoA信息如式(10)所示計算目標位置,完整的方法流程如算法2所示。

算法2 多站聯合目標定位方法輸入：n個基站的接收信號Xki(t),i=1,2,…,n,k=1,2,…,K輸出：目標位置估計(xk,yk),k=1,2,…,K1：for 1≤k≤K do2：對于第k個目標,根據接收信號強度Pr=Xk(t)22選擇強度最高的兩個基站Sa、Sb,位置分別記為(xa,ya)、(xb,yb)3：對所選基站Sa、Sb執行DoA估計方法,獲得估計角度θka、θkb4：利用式(10)計算目標位置(xk,yk)5：k←k+16：end for k

假設場景中4個不共線的基站開啟工作,為用戶提供定位服務。在這一場景下選取2 000組測試數據分別進行仿真,每組數據僅包含一個目標,2 000組數據的單目標均勻分布于水平面高度為1 m的場景中。對比兩種多站聯合定位方法：① 任選兩個基站執行估計方法,得到兩個基站的DoA數據,再進行幾何定位;② 采用所提多站聯合目標定位方法選擇連接質量最好的兩個基站,再進行幾何定位。結果如 圖10所示,x軸與y軸共同表示目標在x-y平面上的位置,z軸為該目標的定位誤差值,誤差值以歐氏距離表示。計算平均定位誤差可得：方法①為0.020 2 m,方法②為0.017 4 m。由于方法①隨機兩站定位方法可能使用了信號質量較差的基站數據,因而導致較高平均定位誤差;而方法②選取了質量更佳的兩站執行幾何定位方法,將平均定位誤差降低至0.017 4 m。

(a) 隨機兩站定位

(b) 選取最佳兩站定位

5 結束語

對基于DL的室內目標DoA估計進行研究,提出了一種高效且環境適變的方法,解決了現有方法效能不佳的問題。所提FSL-CNN方法根據實際部署情況,在線學習快速更新模型,適應復雜的室內場景,有效提高估計的性能,進一步基于估計的DoA信息提出了一種多站聯合定位方法。仿真結果表明,所提方法能達到0.1°及以下的估計精度,相對于大多機器學習方法以及傳統估計方法,可以實現更短的估計時間。在不同室內環境下,模型通過在線FSL快速適應新環境,仿真表明經在線學習后的模型估計DoA能夠達到0.1°級別的分辨率。在推廣到多站聯合定位時,可以達到0.017 4 m的平均定位誤差,實現高精度定位。所提方法為室內DoA估計提供了一種方案,未來將對通感一體化場景下的高實時性、高魯棒性感知展開深入研究。