基于兩種改進RedNet的滾動軸承故障診斷方法研究

鄭直，單思然，曾魁魁，王志軍，朱勇

(1.華北理工大學機械工程學院，河北唐山 063210；2.江蘇大學國家水泵及系統工程技術研究中心，江蘇鎮江 212013)

0 前言

在機械設備中，滾動軸承主要用于支承機械旋轉體、減小軸系運轉摩擦力，起到高精度回轉傳動作用[1]，它已被廣泛地應用在工程機械、航空航天、石油化工、船舶等重要國計民生領域。但其大多工作在高濕、高溫、高速或重負載等惡劣環境，導致其故障率很高[2-4]。

目前，國內外很多學者利用卷積神經網絡(Convolutional Neural Networks，CNN)對滾動軸承進行了故障診斷分析[5-11]。WANG等[5]提出了基于注意力機制的CNN任務診斷網絡，并利用滾動軸承故障驗證了方法的有效性。CAO等[6]提出了一種無監督域共享CNN，用于滾動軸承從恒轉速到變轉速的遷移學習故障診斷。SU等[7]提出了一種分層分支的CNN，在考慮噪聲和工況變化條件下，實現了滾動軸承的故障診斷。XU等[8]為了有效地實時診斷滾動軸承故障，構建了一種基于在線傳遞的CNN診斷模型。CHEN等[9]為了提高滾動軸承故障診斷性能，提出了一種基于循環譜相干性二維映射表示和CNN相結合的故障診斷方法。PENG等[10]針對滾動軸承振動信號的高復雜性、強耦合性和低信噪比的特點，提出了一種新穎的多分支、多尺度的CNN。為了準確預測滾動軸承在不同失效行為下的剩余壽命，提出了一種可轉移CNN來學習域不變特征[11]。

隨著深度神經網絡的深入研究，HOWARD等[12]在MobileNetV1基礎上提出了MobileNetV3。MobileNetV3將CNN中的常規卷積替換為深度可分離卷積，大大減少了參數量；引入了線性瓶頸和反向殘差結構，利用該結構處理后的低秩性質使層結構間的信息利用率更加高效。近期，國內外學者開始利用MobileNetV3對滾動軸承進行故障診斷[13-15]。針對提高滾動軸承故障特征的提取能力問題，YAO等[13]提出了一種基于蝴蝶變換的MobileNetV3故障診斷模型。YANG等[14]利用改進的MobileNetV3提取圖像中裂紋的線性結構特征和灰度分布特征，并診斷它是否存在缺陷。針對滾動軸承的小樣本問題，XUE等[15]提出了一種基于結構相似生成對抗網絡和改進MobileNetv3的故障診斷方法。

2020年，LI等[16]提出了微分解卷積和新的動態激活函數，以此構建了MicroNet網絡，并應用于圖像分類、目標檢測和人體姿態估計領域。它將卷積矩陣分解成低秩矩陣，以及將稀疏連通性整合到卷積中；通過最大化輸入特征圖和圓形通道位移之間的多次動態融合來提高非線性。由于其新穎性，國內外學者尚未將它應用于包括故障診斷等其他方面。

2021年，LI等[17]提出了Involution核，并基于此構建了RedNet網絡，應用于圖像識別領域?；谕ǖ拦蚕砜墒笽nvolution核在不同空間位置共享權值，也不會導致參數量和計算量的顯著增長；空間特異性能夠在不同空間位置上保證信息共享和遷移。因此，Involution核相較卷積核能夠獲取更好的性能表現。由于此方法的新穎性，RedNet尚未得到其他方面的應用研究。

分析傳統的RedNet應用于滾動軸承故障診斷，發現RedNet自帶的余弦退火算法易陷入局部極小值，出現過擬合現象，導致診斷精度過低。

因此，本文作者利用MobileNetV3和MicroNet分別對RedNet進行改進處理，提出MobileNetV3-RedNet和MicroNet-RedNet新型網絡。通過滾動軸承的內圈、外圈和滾動體實測故障實驗驗證所提方法的有效性。

1 RedNet網絡

LI等[17]提出了Involution核，通過它替代ResNet網絡的部分傳統卷積，進而構建了RedNet網絡。其通道特異性可使通道共享，減少大量參數、降低通道維度冗余；其空間特異性可動態調整核尺寸，自適應地提取更多特征信息。

1.1 Involution核

利用Involution核對輸入進行處理，得到輸出特征映射為

(1)

其中：(i，j)表示像素位置；k為通道編號；表示Involution卷積核，∈RH×W×K×K×G；X表示輸入特征張量；H、W分別表示X的高度、寬度，K×K為卷積核大??；ΔK={-[K/2],…,[K/2]}×{-[K/2],…,[K/2]}，為對像素進行卷積的鄰域偏移量集合。

與傳統卷積核不同，Involution核和輸入特征張量X在空間維度上能夠自動對齊。單個像素Xi，j基于核生成函數φ，經如下變換得到Involution核i，j：

(2)

其中：W0∈RC/r×C和W1∈R(K×K×G)×C/r代表2個線性變換矩陣；r為通道縮減比率；δ表示ReLU激活函數。

Involution核的形成過程(G=1)如圖1所示。

圖1 Involution核示意

在圖1中，第一步，基于像素位置(i，j)，運用核生成函數φ生成Involution核，之后進行通道到空間的重排列；第二步，Involution核的乘加運算分解為2個步驟，將(i,j)鄰域的特征向量進行圖1中的乘加運算得到特征圖，?表示跨C個信道傳播的乘法運算，?表示在空間鄰域內聚合的求和運算。

1.2 基于Involution核的RedNet網絡

為了構建具有Involution核的RedNet網絡，通過堆疊剩余模塊來模仿ResNet網絡結構。在ResNet的所有瓶頸位置用Involution核替換掉原來的3×3卷核積，但保留所有1×1卷積核用于通道投影和融合。經過調整后，形成了一種新的高性能神經網絡模型，稱為RedNet網絡。RedNet網絡結構如圖2所示。

圖2 RedNet網絡結構

在RedNet網絡中，信道空間、空間單獨和信道單獨交互交替且獨立地作用于信息傳播流，協同促進網絡架構的高效化，同時確保特征提取能力。

2 MicroNet網絡

LI等[16]提出了微分解卷積核和Dynamic Shift-Max動態激活函數，并在此基礎上構建了MicroNet網絡。在不降低網絡寬度的情況下，微分解卷積核可降低網絡節點間的連通性，進而剔除冗余參數；Dynamic Shift-Max動態激活函數加強了由微分解卷積核創建的組之間的連接，可解決參數大幅度減少而導致的性能降低問題，進而提升精度。

2.1 微分解卷積核

微分解卷積核分為微分解逐點卷積核和微分解深度可分離卷積核。微分解卷積核將MobileNet系列網絡中的逐點卷積核和深度可分離卷積核分解為低秩矩陣，從而使通道數和輸入輸出的連通性得到良好平衡。

微分解逐點卷積核：假設卷積核W具有相同的輸入和輸出通道數，它可分解為兩組自適應卷積：

W=PΦQT

(3)

其中：組數G取決于通道C，W為C×C矩陣；Q為C×C/R矩陣，它將通道數壓縮1/R；P為C×C/R矩陣，它將通道數擴展回C；Q和P均為包含G個塊的對角矩陣；Φ為C/R×(C/R)排列矩陣。卷積示意如圖3所示。

圖3 Micro-Factorized pointwise convolution示意

微分解深度可分離卷積核：將k×k深度可分離卷積核分解為k×1傳統卷積核與1×k傳統卷積核，每個卷積核W大小為k×k，將其分解為k×1向量P和1×k向量QT，Φ為1的標量，如圖4所示。

圖4 Micro-Factorized depthwise convolution示意

2.2 Dynamic Shift-Max動態激活函數

和傳統h-swish激活函數不同，Dynamic Shift-Max是動態激活函數，它通過最大化輸入特征與其循環通道偏移之間的多重動態融合來增強非線性特征，且加強了微分解卷積創建的組之間的連接。

設輸入x={xi}(i=1,…,C)，將x分為G組，每組包含C/G維。x的循環偏移為xN(i)=x(i+N)modC，將維度循環偏移擴展到分組循環偏移，具體操作如下：

xC/G(i,j)=x(i+jC/G)modCj=0,…,G-1

(4)

其中：xC/G(i，j)對應第i維輸入xi關于j分組的偏移，該激活函數將多個j分組偏移進行結合，遵循如下規則：

(5)

3 MobileNetV3網絡

Google于2019年發布了新一代MobileNet系列網絡的V3版本，即MobileNetV3。h-swish激活函數通常應用在網絡結構的深層次處，且性能較ReLU激活函數優異，可降低應用成本、提升泛化能力；Squeeze-and-Excitation模塊可將所有通道的全局空間信息壓縮成一個通道描述符，之后完全捕獲通道間依賴關系，進而可更好地了解全局特征，實現高質量特征提取[12]。

3.1 h-swish激活函數

為進一步提高網絡精度，MobileNetV3引入了h-swish激活函數：

(6)

激活函數的改變會帶來響應延遲，為此，僅在網絡后半部分采用h-swish激活函數，前半部分仍采用ReLU激活函數。

3.2 Squeeze-and-Excitation模塊

Squeeze-and-Excitation模塊可將全局空間信息壓縮到信道描述符中，進而捕獲全局通道依賴性。

Squeeze操作：提出將全局空間信息壓縮成一個通道信息。通過在空間維度W×H上收縮特征圖U，可生成z∈RC，z的第c個元素可通過下式獲得：

(7)

其中：uc(i,j)為U的局部特征圖譜。

Excitation操作：利用Squeeze壓縮后的通道信息，進行全局捕獲通道依賴性。因此，執行一個簡單的門機制，并使用Sigmoid函數激活：

s=Fex(z,W)=σ(g(z,W))=σ(W4δ(W3z))

(8)

其中：δ代表ReLU函數；W3∈RC/r×C和W4∈RC×C/r分別為降維層和升維層；r為降維系數。最終U通過激活函數的重新排列得到如下輸出：

(9)

Squeeze-and-Excitation模塊示意如圖5所示。

圖5 Squeeze-and-Excitation模塊的示意

4 所提MicroNet-RedNet新型網絡

RedNet網絡自帶余弦退火衰減算法用于動態調整學習率，易在訓練中陷入局部最小值，出現過擬合現象，導致精度過低。

針對上述問題，文中利用MicroNet網絡中的微分解卷積核和Dynamic Shift-Max動態激活函數對RedNet網絡進行改進處理，提出MicroNet-RedNet新型網絡。

具體改進步驟為：

(1)將圖2中的第四堆疊層1×1卷積核替換為3×3卷積核，進而保證上述輸出與微分解卷積的輸入大小一致；

(2)在Involution核的表達式(2)中，利用W1與W0進行特征提取，激活函數δ用于非線性映射。為了進一步體現Involution核的思想，分別用微分解卷積代替實現W1和W0的功能，深度可分離卷積代替實現δ的功能。因此，加入微分解卷積層和深度可分離卷積層，從而可進一步剔除冗余參數、提高特征提取能力。

改進后，MicroNet-RedNet新型網絡結構如圖6所示。

圖6 MicroNet-RedNet網絡結構

5 所提MobileNetV3-RedNet新型網絡

同樣，針對RedNet網絡存在的問題，文中也利用MobileNetV3網絡中的h-swish激活函數和Squeeze-and-Excitation模塊對RedNet網絡進行改進處理，提出MobileNetV3-RedNet新型網絡。

具體改進步驟為：

(1)將圖2中第七堆疊層的ReLU激活函數替換為h-swish激活函數，進而可使h-swish激活函數在深層網絡中發揮強提取能力。

(2)將圖2中第六和七堆疊層之間，引入Squeeze-and-Excitation模塊，可將全局空間信息壓縮融合到一個通道中進行描述，完全捕獲通道依賴關系，進而提升特征提取能力。

改進后，MobileNetV3-RedNet新型網絡結構如圖7所示。

圖7 MobileNetV3-RedNet網絡結構

6 滾動軸承實測故障診斷分析

6.1 實驗臺

文中基于凱斯西儲大學的軸承故障診斷實驗臺進行實驗驗證。實驗對象為SKF6250滾動軸承，故障形式為內圈故障、外圈故障和滾動體故障。電機轉速為1 797 r/min，載荷為0 kW。用加速度傳感器對電機驅動端進行數據采集，采樣頻率為48 kHz。

6.2 基于所提MicroNet-RedNet和所提MobileNetV3-RedNet的故障診斷分析

內圈、外圈和滾動體故障各有370個樣本，其中每個樣本的信號長度為324點。將70%樣本作為訓練集，剩余30%作為測試集。將預熱率設為0.25、迭代終止次數設為300，在[1×10-5，7×10-5]內對學習率進行尋優，之后再以該最優學習率對預熱率在[0.1，0.4]內進行細化尋優，進而保證找到各個網絡的最優性能。尋優結果如圖8—10所示。

圖8 基于RedNet的故障診斷結果

圖9 基于所提MobileNetV3-RedNet的故障診斷結果

圖10 基于所提MicroNet-RedNet的故障診斷結果

基于圖8—10的診斷結果，將其最優診斷結果在表1中進行展示，并將其和傳統CNN進行了對比分析。

表1 最優診斷結果

由表1可知：

(1)所提MicroNet-RedNet和所提MobileNetV3-RedNet的最優診斷率分別為最高和次高，分別高達98.57%和93.81%；所提MicroNet-RedNet的最優診斷率分別較傳統CNN、原算法RedNet、所提MobileNetV3-RedNet提高了34.6%、24.65%、5.07%；所提MobileNetV3-RedNet的最優診斷率分別較傳統CNN、原算法RedNet提高了28.10%、18.63%；

(2)所提MicroNet-RedNet和所提MobileNetV3-RedNet達到最優診斷精度時，對應最優迭代步數分別為最少和次最少，分別低至93和242；所提MicroNet-RedNet的最優迭代步數分別較傳統CNN、原算法RedNet、所提MobileNetV3-RedNet顯著降低了67.82%、66.67%、61.57%。

7 結論

RedNet網絡自帶余弦退火衰減算法，在動態調整學習率時，容易陷入局部極小值，出現過擬合現象，導致診斷精度過低等。針對此問題，作者提出2種新型網絡：(1)利用MicroNet網絡的微分解卷積和Dynamic Shift-Max動態激活函數，對RedNet網絡進行改進處理，提出MicroNet-RedNet新型網絡；(2)利用MobileNetV3網絡的h-swish激活函數和Squeeze-and-Excitation模塊將RedNet網絡進行改進處理，提出MobileNetV3-RedNet新型網絡。通過分析滾動軸承實測故障，可得出如下結論：

(1)所提MicroNet-RedNet新型網絡可有效診斷出滾動軸承故障，診斷精度高達98.57%，較傳統CNN、原算法RedNet分別提高了34.6%、24.65%；

(2)同樣，所提MobileNetV3-RedNet新型網絡也可有效地診斷出滾動軸承故障，診斷精度高達93.81%，較傳統CNN、原算法RedNet分別提高了28.10%、18.63%；

(3)所提MicroNet-RedNet新型網絡相較所提MobileNetV3-RedNet新型網絡更具有效性和優越性，前者最優診斷精度較后者高出5.07%；達到最優診斷精度時，前者的對應最優迭代步數較后者減少61.57%。