基于多管秩和全變分的低秩張量填充

馬 嬌,汪麗琴,喻高航

(杭州電子科技大學理學院,浙江 杭州 310018)

0 引 言

張量填充問題被廣泛應用于機器學習、圖像修復等領域,在過去幾年里受到廣泛關注。在實際運用中,很多數據具有低秩和稀疏的特征。Lin等[1]在低秩張量分解的基礎上,結合張量的稀疏性和數據的時空平滑性,提出了TCTF-TVT模型。該模型描述的是因子張量而不是填充張量的時空平滑性。在此基礎上,Wang等[2]提出了三階張量低秩填充模型(spatio-temporal regularization tensor factorization with TV regularization,SRTFTV)。該模型刻畫了填充張量的時空平滑性,但缺失了張量在第三個維度上的低秩性刻畫,對某些三個維度都具有低秩性的張量數據填充效果不佳。

張量的秩有很多不同的定義,如CP秩[3]、Tucker秩[4]、Tubal秩[5]、TT秩[6]等。2015年,Xu等[7]基于Tucker秩的定義,提出了低秩張量填充的TMac算法。該模型的本質是刻畫每個維度上模展開矩陣的低秩,當整一行或整一列數據缺失時,填充效果就會很差。2017年,Zhou等[8]基于管秩提出了低秩張量填充的TCTF方法。該方法可以避免算法執行中的張量奇異值分解,能夠快速有效的完成張量數據填充。但該模型只有前兩個維度的低秩刻畫,當實際張量數據每個維度都具有低秩性時,TCTF填充效果不夠理想。2017年,Yu等[9]給出了多管秩的概念,將TCTF方法從一個模上的低秩張量分解擴展到三個模上的低秩張量分解,構建了MTRTC模型。該模型通過張量低多管秩分解,很好的刻畫了每個維度上的低秩信息。2019年,Song等[10]提出了基于酉變換的T-積分解方法,使得模型的低秩性更加明顯?；谝陨戏治?本文主要研究基于酉變換的張量低多管秩分解的張量填充模型,并提出了鄰近交替極小化(PAM)算法。

1 張量填充模型

假設φ∈Cnu×nu是滿足φφH=φHφ=I的酉變換矩陣,其中φH表示φ的共軛轉置,I是單位矩陣。將三階張量∈Rn1×n2×n3沿第u個維度的所有纖維都左乘矩陣φ得到張量

定義1(塊對角矩陣) 對于給定三階張量∈Rn1×n2×n3,定義矩陣Rn1n3×n2n3為

定義2(酉變換張量積) 對于2個三階張量∈Cn1×n2×n3和∈Cn2×n4×n3,沿第3個維度作酉變換張量積(φ3-積)得∈Cn1×n4×n3,表示如下

定義3(共軛轉置):對于給定張量∈Cn1×n2×n3,定義在酉變化下的共軛轉置

引理1[10]假設和為任意兩個張量,令=*φu,u∈[3],則下列的性質成立

我們簡要回顧一下TCTF算法。為了避免做t-SVD分解,Zhou[8]等提出了以下張量填充問題。

(1)

Wang等[2]提出的SRTFTV模型是在TCTF模型的基礎上,添加了對填充張量時空平滑性的刻畫,但仍然是在傅里葉變換的基礎上進行的張量分解。為了使模型具有更好的低秩性,本文研究基于酉變換三階張量低秩填充模型,模型如下:

(2)

優化問題(2)可以轉化為如下無約束優化問題:

(3)

2 PAM算法

(4)

(5)

(6)

式中,ρ1,ρ2,ρ3是給定的參數,并且ρ1,ρ2,ρ3>0?？梢钥闯?子問題(4)-(6)都是強凸優化問題,因此子問題的存在性和唯一性能得到保證,均有顯示解。具體如下:

(7)

(8)

(9)

(10)

(12)

(13)

(14)

通過軟閾值算子,式和式有如下唯一解:

(15)

(16)

(17)

(18)

可以看出上述問題的唯一解是以下矩陣方程的解。

(19)

(20)

即Λn為n×n的非負對角矩陣,所以式等價于

(21)

(22)

故有:

(23)

式中,iUtran表示逆酉變換。

3 收斂性分析

基于酉變換的張量低秩分解的張量填充(UTCTFTV)方法的詳細偽代碼描述如下:

算法 基于酉變換的張量低秩分解的張量填充(UTCTFTV) 輸入: 觀察到的張量數據 ∈ R n 1 ×n 2 ×n 3 ,初始秩 r 0 ∈ Rn 3 , 觀測指標集 Ω,相關參數 α1 ,α2 ,α3 ,β,λ,ρ 1 ,ρ 2 ,ρ 3 > 0,容差 ε = 1e - 6。 初始化: 0 u , 0 u , 0 ,u ∈ [3] While not converge do (1) 固定 k u 和 k ,通過式(7) 更新 k+1 u ; (2) 固定 k+1 u 和 k ,通過式(8) 更新 k+1 u ; (3) 固定 k+1 u 和 k+1 u ,通過式(23) 更新 k+1 ; (4) 檢查終止條件: w k+1 - w k 2 F w k+1 2 F ≤ ε; End while 輸出: k+1

定義V[l1,l2,l3]∶∈Rl1×l2×l3V[l1,l2,l3]()∈Rl1l2l3×1,參數設置如下:

將式(3)改寫為

F(x,y,w)=H(x,y,w)+G(w)+δs(w)

引理2令f∶Rn→R∪{+∞}為正常下半連續(PLSC)函數,{xk}k∈N?Rn為滿足以下條件的序列

定理1假設算法生成的序列(x,y,w)是有界的,則它收斂到F的臨界點。

證明首先,因為(x,y,w)是有界序列,所以函數H是梯度利普希茨連續的。S是非空閉集,故δs(·)是正常下半連續函數。又因為G是正常下半連續函數,所以F也是正常下半連續函數。

最后,傅里葉變換和逆傅里葉變換是有限維空間之間的線性映射,因此H是半代數函數。函數G是絕對值函數和線性多項式的有限線性組合,絕對值函數和線性多項式均為半代數函數,故G是半代數函數。半代數函數的有限和與有限乘積仍是半代數函數,故F是半代數函數。由于F在每個(x,y,w)∈dom(F)上滿足K性質,因此F在dom(F)上是半代數的。根據引理1,算法生成的有界序列收斂到F的臨界點。證畢。

4 多光譜圖像恢復數值實驗

實驗中,將UTCTFTV方法與TCTF[8]、TMac[7]、TCTF-TVT[1]和SRTFTV[2]方法進行比較,采用峰值信噪比(Peak Signal to Noise Ratio,PSNR)作為數值指標。PSNR定義如下:

我們對三個多光譜數據集pompoms,cloth和beads做數值實驗,并對其峰值信噪比和運行時間進行比較。對于pompoms數據集,我們只在每張圖像中使用256×256的區域,其中每個像素在31個頻率通道上記錄,所得張量的大小為256×256×31。對于cloth數據集和beads數據集,我們在每幅圖像中都僅使用512×512的區域,其中每個像素記錄在31個頻率通道上,所得張量的大小為512×512×31。

圖1 高光譜實驗效果

表1 TCTF、TMac、TCTF-TVT、SRTFTV、MTRTC和UTCTFTV多光譜數據集峰值信噪比和時間

在表1中,通過對不同采樣率0.4至0.7下的峰值信噪比和運算時間進行比較,可以看出,UTCTFTV的峰值信噪比高于TCTF、TMac、TCTF-TVT、MTRTC和SRTFTV的峰值信噪比。圖1是多光譜數據集“pompoms”,“cloth”和“beads”在模型TCTF、TMac、TCTF-TVT、SRTFTV和UTCTFTV采樣率設為70%的恢復圖像。我們可以觀察到UTCTFTV的恢復效果優于TCTF、TMac、TCTF-TVT、MTRTC和SRTFTV的恢復效果。

5 結束語

本文在張量T-積分解的基礎上,提出了一個基于酉變換下多管秩低秩張量填充模型,充分利用目標張量在多個維度上的低秩性。此外,模型還加入了空間平滑正則項,與現有的TCTF、TMac、TCTF-TVT、MTRTC、SRTFTV算法相比,仿真實驗結果表明本文所提的UTCTFTV模型具有更好的恢復效果。