KL散度多模塊滑動窗口慢特征分析的故障診斷方法

郭昕剛,霍金花,程 超,許連杰

(長春工業大學 計算機科學與工程學院, 吉林 長春 130012)

隨著現代工業的發展,數據驅動方法在過程監控中發揮著重要作用[1-2]。在主流方法中,多元統計過程監控(multivariate statistical process monitoring,MSMP)被用于監控多元復雜工業過程中的故障[3]。傳統的多元統計監控主要包括主成分分析法(principal component analysis,PCA)、偏最小二乘法(partial least square,PLS)和獨立成分分析[4](independent component analysis,ICA)。

工業過程的復雜性和未知的動態特性使得靜態過程的監測效果較差。傳統的MSMP方法是靜態過程監控方法,即當前時間的樣本與過去的樣本沒有關聯,樣本數據相互獨立,忽略了動態特性。Li等提出了一種部分動態主成分分析(dynamic principal component analysis,DPCA)來提高動態過程監測能力[5]。針對過程動力學和數據非高斯統計的特點,動態獨立成分分析(dynamic independent component analysis,DICA)也相繼被提出[6-7]。上述方法以消除動力學為目標,往往假設所有變量具有相同的動態特性,然后對原始數據進行擴展,與傳統方法相比提高了性能,但產生了大量的冗余信息,處理動態特性較強的變量時性能較差。慢特征分析[8](slow feature analysis, SFA)可以從時間序列中提取緩慢變化的特征,表征變量變化的快慢程度,是一種有效的無監督算法。Shang等提出了基于SFA的動態監控,實現了運行和控制性能的監控[9]。上述方法雖然克服了動態缺陷,但只建立單一模型卻忽略了局部信息,導致大規模工業過程的診斷性能較差。

多模塊算法最早由Macgregor等提出,有效利用局部信息改進過程分析將整個模型分為多個子模型[10]。Ge等根據主成分分析的不同方向對原始數據進行劃分,將線性變量分配到同一個塊中,分塊過程中存在缺失和重疊的問題[11]。Tong等分別分析了變量與主元子空間和殘差空間的相關性,再將變量分配到相應的子空間中實現分塊[12]。這些方法都以先驗知識作為前提,極大程度限制了該方法的應用。KL(Kullback-Leibler)散度作為一種新的概率測度,可以測量兩個統計變量之間的差值,用來解決故障診斷問題[13-14]。Wang等利用KL散度將具有類似統計特征的變量劃分為一塊,在每個低維子空間中建立PCA模型,使用貝葉斯策略進行融合[15]。周偉等在DPCA建模的基礎上,利用 KL 散度量化模型得到分向量概率分布之間的相似度,從而建立多塊模型實現對微小故障的診斷[16]。

在實際的工業生產過程中,大多數緩慢變化的過程數據也具有非線性時變的特性,其使正常數據出現偏移,導致出現誤警現象?？铝恋忍岢隽嘶诨瑒哟癙CA的微小故障檢測方法,利用滑動窗口的策略對數據實時更新,使得故障數據與非故障數據分化明顯,實現了對微小故障的放大,提高了模型的自適應能力[17]。

綜合以上問題,提出一種基于KL散度的多模塊滑動窗口慢特征分析故障診斷方法,利用KL散度的統計特性,建立多塊模型,在每個塊中應用SFA來提取過程數據的不同動態,利用滑動窗口得到最優模型,克服依據先驗知識分塊的策略、單一模型不穩定等問題。在田納西伊斯曼(Tennessee Eastman, TE)過程監控中取得了較好的診斷效果。

1 理論基礎

1.1 KL散度

(1)

由于KL散度的定義具有不對稱性,不能作用于距離的度量。 在實際的應用中,人們將其改進為對稱形式

(2)

1.2 慢特征分析

假設存在m維時間序列輸入信號x(t)=[x1(t),x2(t),…,xm(t)]T, SFA的目標是找到一組特征函數g(t)=[g1(t),g2(t),…,gm(t)]T,使得特征s(t)=g(x(t))緩慢變化[2]。s(t)=[s1(t),s2(t),…,sm(t)]T用來表示緩慢變化的特征,SFA的優化問題表示如下

(3)

約束條件為

〈si〉t=0

(4)

(5)

?i≠j,〈sisj〉t=0

(6)

線性SFA中,每個緩慢變化的特征(slow features, SFs)是所有輸入數據的線性組合

s=Wx

(7)

式中,W=[w1,w2,…,wm]T是權重矩陣。

R=〈x(t)x(t)T〉t=UΛUT

(8)

式中,U是R的特征值,Λ是由特征值組成的對角矩陣。白化矩陣可表示為Q=Λ-1/2UT,白化過程為

z=Λ-1/2UTx=Qx

(9)

結合式(7)和式(9),SFs進一步表示為

s=Wx=WQ-1z=Pz

(10)

式中,P=WQ-1,〈zzT〉t=Q〈xxT〉QT=I,〈z〉t=0。優化問題(3)和約束條件進一步表示為

(11)

(12)

(13)

(14)

為了滿足式(11)～(14),優化問題再次轉化為求解正交矩陣P。

(15)

式中,P=[p1,p2,…,pm]是正交特征向量矩陣,對應的特征值為Ω=diag(λ1,λ2,…,λm),且λ1≤λ2≤…≤λm。

權重W表示為

W=PQ=PΛ-1/2UT

(16)

最后,得到m個緩慢程度由大到小排列的SFs。

s=Wx=PQx=PΛ-1/2UTx

(17)

(18)

2 基于KL散度多模塊滑動窗口慢特征分析方法及過程監測

2.1 KL散度分塊策略

使用KL散度度量任意兩個變量間的相關性,并進一步構造KL散度分量,作為分塊的基礎。

對于訓練數據X=[x1,x2, …,xm]T∈Rn×m,m和n表示變量數和樣本個數。取任意兩個變量xi和xj,且xi∈X,xj∈X,在正態分布的條件下,KL散度分量表示為

(19)

(20)

最后將訓練數據分成兩個子模塊X=[x1,x2, …,xm]T= [X1,X2]T。

2.2 多模塊滑動窗口慢特征分析方法

根據工業過程的動態特性,將子模塊X=[X1,X2]T擴展d個時延,使當前樣本與過去樣本相關聯,得到增強的過程矩陣,在SFA建模過程中擴展了動態特性,矩陣增強過程如式(21)所示。

(21)

式中,i是子模塊數量,n是過程變量的樣本量。

隨后進行SFA離線建模,局部建模過程中使用滑動窗口算法訓練最優的離線模型,如算法1所示。

算法1 滑動窗口訓練最優模型

以上模型通過將樣本數據根據歐氏距離升序排列,使用滑動窗口算法對樣本進行篩選,得到最優的局部模型及相應的權重矩陣W1,W2,提高了模型的自適應能力。

為了實現對故障的檢測,分別構造T2和S2統計量對故障進行在線監測,T2表示統計量在慢特征空間中的靜態變化,S2表示過程統計量的動態變化分布。T2統計量定義為

(22)

(23)

其中,子塊的SFs為si=Wixi,i=1,2。S2統計量定義為

(24)

(25)

算法2 SVDD建模及監測

監測結果融合后,得到閾值控制限Dt=1和半徑中心DR。當D≥Dt時,檢測出故障,反之D

2.3 KL-MWSFA過程監測

基于KL散度的多模塊滑動窗口慢特征分析方法(multi-block moving window slow feature analysis method based on KL divergence,KL-MWSFA)的過程監測詳細步驟如下。

離線訓練:

步驟1：對訓練數據X標準化,計算變量間的KL散度分量dKL。

步驟2：隨機取dKL中的兩個值作為中心,根據損失函數依次迭代更新中心數值,直到收斂,劃分為兩個子塊X=[X1,X2]T。

步驟3：將子塊進行d個時延擴展為動態矩陣,計算與測試數據的歐氏距離,將其升序排列。

步驟4：利用滑動窗口對每個子塊進行SFA離線建模,分別計算T2,S2的閾值。

在線監測:

步驟5：對故障數據標準化,擴展d個時延,然后分塊。

步驟6：使用SFA進行訓練,得到T2,S2的閾值,作為SVDD的輸入Y。

步驟7：建立SVDD模型,計算測試向量Yt到超球半徑的距離,得到DR。

步驟8：控制限Dt=1,當D≥Dt時,發生故障,反之正常。

3 TE過程仿真實驗

3.1 TE過程簡要介紹

TE過程是美國化工公司在大量實際工程經驗的基礎上,由Downs和Vogel[19]提出的一個化工過程模型,其產生的數據具有時變性、強耦合性以及非線性,廣泛應用于過程控制、監測和故障診斷研究,工藝流程如圖1所示。主要由反應器、冷凝器、壓縮機、氣液分離器以及汽提塔5個操作控制部分構成。其共有33個變量,正常情況下的基準數據集包含500個樣本。故障數據共有960個樣本,前160個是正常數據,第161到960個樣本為故障數據。本實驗選擇22個過程變量和11個操作變量作為輸入,用500個正常樣本建立模型。仿真共有21個故障類型,其中16種是已知故障,剩余5種是未知故障,實際的建模和監測過程中,一般不包括由攪拌速度引起的故障21,故采用15種已知故障進行測試,具體描述如表1所示。

圖1 TE過程流程圖Fig.1 TE process flow chart

表1 TE過程故障類型表

3.2 分塊

隨機選取兩個變量作為初始中心,計算KL散度分量構成的對稱矩陣到初始中心的歐氏距離,離初始中心最近的分量重新確定為新的中心,依次迭代,最后收斂時將變量自動分成兩個子塊。具體分塊策略見第2.1節,變量間的分布如圖2所示,分塊結果如表2所示。

3.3 TE仿真實驗結果分析

將KL-MWSFA和核主成分分析(kernel

(a) 聚類前的變量分布(a) Distribution of variables before clustering

principal component analysis, KPCA),ICA,SVDD進行對比分析,故障檢測率如表3所示,可以看出,對于故障1,2,4,5,6,7,8,9,10,11,12,13,KL-MWSFA方法都能有效檢測到這些故障。由于故障3,9,15的震級非常小,幾乎所有的方法都無法檢測到故障。但對于故障5,10,12,該方法具有較好的檢測性能。

故障5是冷凝器冷卻水入口溫度的階躍變化,導致冷凝器溫度發生變化[20]。故障5的監測圖如圖3所示,圖3(a)在第300個采樣點以后,無法檢測出故障。圖3(b)I2統計量在第161個采樣點之前發生虛警現象,圖3(c)在故障正常檢測一段時間后,大部分統計量向控制限下方波動,檢測效果一般。圖3(d)在第161個采樣點檢測到故障后,一直持續到最后一個樣本,檢測效果較好。

表3 KPCA,DICA,SVDD和KL-MWSFA的故障檢測率Tab.3 Fault detection rate of KPCA, DICA, SVDD and KL-MWSFA

(a) KPCA監測結果(a) Monitoring results of KPCA

(b) DICA監測結果(b) Monitoring results of DICA

(c) SVDD監測結果(c) Monitoring results of SVDD

(d) KL-MWSFA監測結果(d) Monitoring results of KL-MWSFA圖3 故障5監測結果Fig.3 Monitoring results for fault 5

故障10是C進料溫度的隨機變化,主要影響汽提塔壓力[21]。圖4為KPCA,DICA,SVDD和KL-MWSFA的監測圖,圖4(a)的T2統計樣本大部分在控制限下面,檢測效果不佳,圖4(c)的監控數據在控制限附近波動,也無法清楚地檢測到故障的發生,由表3可見DICA和KL-MWSFA檢測效果較好,但在圖4(b)的子圖中,我們可以看到個別正常樣本出現虛警,只有圖4(d)在檢測故障的同時沒有發生虛警狀況。

故障12是冷凝器冷卻水入口溫度的隨機變化[22]。由圖5(a)可知,T2監測性能不好且在閾值附近上下波動,圖5(b)雖然可以檢測到故障,但在正常工況時發生虛警,圖5(c)在發生虛警的同時監測效果沒有圖5(b)的效果好,而圖5(d)的監測性能在檢測中均得到改善,沒有虛警并檢測到所有故障。

(a) KPCA監測結果(a) Monitoring results of KPCA

(b) DICA監測結果(b) Monitoring results of DICA

(c) SVDD監測結果(c) Monitoring results of SVDD

(d) KL-MWSFA監測結果(d) Monitoring results of KL-MWSFA圖4 故障10監測結果Fig.4 Monitoring results for fault 10

(a) KPCA監測結果(a) Monitoring results of KPCA

(b) DICA監測結果(b) Monitoring results of DICA

(c) SVDD監測結果(c) Monitoring results of SVDD

(d) KL-MWSFA監測結果(d) Monitoring results of KL-MWSFA圖5 故障12監測結果Fig.5 Monitoring results for fault 12

4 結論

本文提出了一種基于KL散度的多模塊滑動窗口慢特征分析方法,該方法使用KL散度算法度量每兩個變量間的相似度,利用最小誤差平方和準則對變量間的距離依次迭代,實現了對樣本的無監督分塊,并在每個子塊中建立SFA監測模型,解決了單一模塊的不穩定性問題,同時引入滑動窗口建立最優子模型,利用SVDD將子塊監測結果融合。并將所提方法應用于TE過程,驗證了該方法的有效性。