基于改進DenseNet和遷移學習的變負載滾動軸承故障診斷

呂 歡， 許 濤，2， 麻愛松， 李建平， 陳玉立

(1.西安工程大學 機電工程學院， 陜西 西安 710600；2.西安市現代智能紡織裝備重點實驗室， 陜西 西安 710049)

滾動軸承作為旋轉機械的重要組成部分之一，對其進行故障診斷是眾多學者研究的重點[1]。由于傳統故障診斷技術需要大量的人力和物力，而且診斷精度不高，深度學習技術的出現改變了現狀，其中算法包括卷積神經網絡、自編碼器、深度置信網絡和長短期記憶網絡[2]。吳晨芳等[3]55提出了一種基于改進的LeNet-5模型的卷積神經網絡故障診斷方法，該方法有較好的魯棒性和泛化能力。王太勇等[4]提出了基于DenseNet的卷積核dropout (KD)智能故障診斷模型KD-DenseNet，提高了有效特征的提取效率，解決了傳統特征提取方法中無法有效挖掘特征、無法自適應于任務進行調整等問題。Che等[5]提出一種門循環單元和混合自編碼器的智能故障預測模型，用凱斯西儲大學數據集驗證了該方法的有效性且具有較高的精度。Gao等[6]提出一種新的優化自適應深度置信網絡，實驗證明該方法在滾動軸承故障診斷上具有較高的診斷精度。曹正志等[7]提出了一種基于改進的一維卷積神經網絡 (1D-CNN) 和長短期記憶網絡 (LSTM) 集成的滾動軸承故障診斷方法，此方法在不同工況下有較好的適應性和高效性，其中模型有較強的泛化能力。

但深度學習需要大量的標簽樣本進行訓練，而在實際工況中滾動軸承有標簽的故障樣本較少，大部分學者都是通過模擬故障實驗來獲得數據集的。遷移學習解決了故障樣本不足的問題，不僅縮短了訓練時間，而且提高了訓練精度[8]。院老虎等[9]提出了一種基于 AlexNet 和遷移學習的滾動軸承故障診斷方法，在標記故障數據稀缺的情況下仍可實現對滾動軸承常見故障類型的診斷，且診斷精度與對比模型相比有所提升。趙宇凱等[10]提出一種基于 VGG16 卷積神經網絡與遷移學習的故障診斷方法，能夠取得接近100% 的軸承故障診斷準確率。Qian等[11]提出了基于改進的DenseNet和聯合分布適應(FT-IDJ)的特征遷移學習模型，具有比DAN和其他8種方法更高的分類精度，證明了此模型具有從輔助數據中有效學習的特征。

但以上方法沒有考慮到工廠實際采集的數據中存在的噪聲。針對環境噪聲以及負載變化的影響，滾動軸承故障樣本分布存在差異性以及樣本不足和跨域診斷泛化性差的問題，課題組提出一種基于改進DenseNet與遷移學習結合的變負載滾動軸承故障診斷方法。在原DenseNet中，使用LeakyReLU替代ReLU激活函數，并在全連接層后添加Softmax層使提取故障特征更為豐富。

1 理論基礎

1.1 DenseNet原理

DenseNet如圖1所示，主要是由稠密連接塊和過渡層組成的[12]。其中稠密連接塊使用了密集連接的思想，即將每一層的特征輸出通過疊加后作為下一層的輸入，其公式如下:

ti=Hi[t0,t1,…,ti-1]。

(1)

式中：i表示此網絡的第i層；Hi(·)表示每一層的非線性變化處理，包括歸一化、非線性變化、卷積和池化操作；ti表示第i層的輸出特征。

圖 1 DenseNet結構圖Figure 1 DenseNet structure diagram

而過渡層中包括歸一化操作、非線性變化以及卷積池化層，可以壓縮模型，起到降維的作用。

1.2 LeakyReLU激活函數

不同于ReLU函數將所有負值都設為0，LeakyReLU[13]激活函數是在負值部分的斜率賦予了一個非零的斜率，公式為：

(2)

式中：x為輸入，a取默認值0.01。

課題組采用LeakyReLU替代ReLU函數，加強非線性變化能力。

2 故障診斷方法

故障診斷流程如圖2所示。主要分為3個步驟：

1) 確定源域和目標域，將2域數據轉化為灰度圖像；

2) 對源域數據進行預訓練，得到損失最小和準確率最高的預訓練模型權重；

3) 將目標域數據按1∶4劃分為訓練集和測試集，使用步驟2)得到的預訓練權重對目標域數據進行再訓練得到權重文件，在測試集進行測試輸出故障分類。

圖 2 遷移學習流程圖Figure 2 Flow chart of transfer learning

課題組提出的故障診斷方法是基于改進DenseNet模型進行診斷的，其主要參數如表1所示。首先對64×64圖像樣本進行卷積層和池化層處理，再通過4個稠密連接塊和3個過渡層堆疊的結構來防止過擬合，同時提取特征；其中稠密連接塊包括不同個數的1×1和3×3卷積,而過渡層中包含1×1卷積和2×2的平均池化，然后經過全局平均池化和全連接層拉伸為一維向量，最后使用Softmax層進行分類后輸出。

表1 改進DenseNet模型參數

3 實驗部分

3.1 數據集劃分

實驗采用凱斯西儲大學(CWRU)滾動軸承故障數據集。在CWRU滾動軸承實驗臺采集的振動信號中，有0.18，0.36和0.54 mm共3種不同尺寸的單點缺陷，分別在滾動軸承的內圈、 外圈和滾動體上； 這9種故障類型由電火花造成的，故障標簽序號為0～8，無故障軸承標簽序號為9，如表2所示。還分別記錄了電機負載為746，1 492和2 238 W時各種故障類型的時域振動信號。在12 kHz采樣頻率下，由16通道采集儀采集到不少于10 s的時域振動原始信號。

表2 故障數據標簽

在工廠實際情況下，傳感器采集的振動信號會受到環境噪聲的影響，為了模擬這一現狀，對746，1 492和2 238 W的3種不同電機負載下的數據集進行加噪處理,信噪比(RSN)定義為信號功率與噪聲功率的比值，通常用分貝(dB)為單位，定義如下：

(3)

式中，Psignal和Pnosie分別表示信號的功率和噪聲的功率。

如圖3所示，分別為原始數據和添加RSN=-2 dB的高斯白噪聲。

圖 3 不同負載下的噪聲數據對比Figure 3 Comparison of noise data under different loads

假設樣本x=(x1,x2,x3, …,xm, …)，μ為原始樣本數據的均值，σ為原始樣本數據的標準差，則Z-Score歸一化公式為：

(4)

將加噪信號經過Z-Score歸一化處理，將數據量級統一到規定的范圍內。在每個負載下，將振動原始信號中每取4 096個點分別以重疊間隔128，256和512個采樣點的方式循環生成3 600個64×64的灰度圖像，實驗數據集如表3所示。

表3 實驗數據集

3.2 變負載下遷移學習實驗

實驗在 PyTorch 的框架下開發，使用Intel(R)Core(TM)i9-10900X CPU(主頻3.70 GHz)，NVIDIA RTX2080ti顯卡，主機上安裝了CUDA10.2，Cudnn8.1.1對顯卡運算進行加速。使用交叉熵函數和Adam優化器更新參數，學習率初始化為0.001，batchsize為16。如圖4采用100%的源域數據集A進行預訓練，隨機選取20%目標域數據集B和C進行再訓練，對剩下的目標域數據進行測試。從圖中可以看出，經過預訓練權重進行再訓練后，模型很快達到了收斂。

圖 4 遷移學習下的診斷曲線Figure 4 Diagnostic curve under transfer learning

如圖5所示為數據集A在數據集B和C進行遷移診斷的混淆矩陣。從圖5中可以看出，對角線的方塊顯示了診斷正確樣本數量的準確率，其他方塊顯示了診斷錯誤樣本數量的準確率?？梢钥闯鲈跀祿疊上，除了標簽序號4，其余標簽診斷準確率都達到了90%以上；而在數據集C上，除了標簽序號2和3，其余標簽診斷準確率都達到了90%以上，證明了該方法的有效性。

圖 5 數據集A在數據集B和C上進行遷移的混淆矩陣Figure 5 Confusion matrix for migration of dataset A on datasets B and C

為了證明課題組提出方法的泛化性，對任一負載下100%的源域數據集進行預訓練，隨機選取其他負載下的20%目標域數據集進行再訓練，對剩下的目標域數據進行測試。通過對比模型LeNet-5[3]56、模型ResNet18以及原DenseNet模型來進行遷移學習實驗，實驗結果為每組實驗5次的平均值，如圖6所示。從圖中可以看出，課題組提出方法在小樣本和變負載下的跨域診斷準確率都達到了90%以上，相比其他模型精度都高，證明了課題組提出方法具有更高的泛化性。

圖 6 變負載下遷移學習的模型準確率Figure 6 Model accuracy of transfer learning under load changes

4 結論

課題組針對工廠中滾動軸承故障樣本不足以及變負載軸承故障分布差異大而導致跨域診斷泛化性差的問題，提出了一種基于改進DenseNet和遷移學習的變負載滾動軸承故障診斷方法。課題組對原DenseNet模型進行了改進，使用LeakyReLU替換了ReLU激活函數增強非線性變化，添加了Softmax層進行分類。在工廠采集的振動信號往往存在環境干擾的噪聲，因此通過在凱斯西儲大學軸承數據集中746，1 492和2 238 W不同負載數據集上添加高斯白噪聲來模擬現實場景采集的信號。通過實驗表明：對比LeNet-5模型[3]57、ResNet18模型、原DenseNet模型，課題組所提方法在小樣本的故障數據訓練下，變負載跨域診斷準確率都達到了90%以上，證明了改進DenseNet模型具有較好的泛化性。該方法可以適用添加較低噪聲的故障數據，考慮到現實場景的環境噪聲更為復雜，下一步將針對于該方法的魯棒性作研究重點。