基于AlexNet-SVM 模型微型鋼球表面缺陷快速識別方法*

栗 琳 王 仲 吳秀麗

（①北京科技大學機械工程學院，北京 100083；②天津大學精密測試技術及儀器國家重點實驗室，天津 300072）

鋼球作為軸承的重要組成部分，其表面質量直接影響軸承的精度、性能和使用壽命[1]。微型鋼球通常指直徑在3 mm 以下的鋼球，其在精密機械和自動化設備中有著較高的需求。由于生產和使用等原因，鋼球表面的凹坑、銹蝕、磨損和孔傷等缺陷，會導致機械性能的劣化，甚至產生機器故障[2]，故在出廠前要對其表面質量進行逐一檢測。工業現場最常用的檢測方法是人工檢測，但其效率低下且準確率無法保證。隨著鋼球生產大批量化，傳統人工檢測方法難以為繼[3]。此外，由于金屬球產生鏡像影響識別，微型滾動體的全覆蓋展開也給系統結構設計增加難度。研究微型鋼球表面缺陷的快速識別方法具有至關重要的實際意義。

許多學者采用無損檢測方法，如渦流[4]、超聲波[5]、聲發射[6]和傳統的機器視覺[7]。超聲波探傷和渦流檢測的方法檢測速度慢、識別微小缺陷能力差；聲發射法易受環境和接收傳感器的位置影響，而且自動化檢測不易實現；傳統基于視覺的缺陷檢測方法檢測精度高、成本低，但它通常包含特征提取與分類器模型兩部分，需要針對不同缺陷類型人工提取特征，對缺陷變化的適應能力差，難以應對實際生產環境[8]。

隨著卷積神經網絡（CNN）在目標檢測領域的快速發展，基于深度學習的缺陷檢測方法相比傳統機器視覺具有更高效的圖像特征提取能力，許多學者將該技術應用到各種工業場景中[9]。Yi L 等[10]采用CNN 對缺陷進行分類，分類準確率為99.05%。Ashour M W 等[11]將離散剪切變換（DST）和灰度共生矩陣（GLCM）相結合，并采用支持向量機分類器（SVM）區分6 種帶鋼表面缺陷。文獻[12]提出基于CNN 的Ds-DenseNet 網絡模型，用于帶鋼表面陷檢測的深度神經網絡模型算法。但這些算法實際受到一定的限制，例如為了追求更高的準確度，卷積網絡算法的結構不斷加深導致計算量增大和數據處理時間增長。如何改進高效的參數優化模型的同時，提高缺陷識別算法的實時性是需要進一步研究的問題。

在此背景下，本文利用學習遷移技術，提出了一種基于改進的AlexNet 和SVM 的卷積神經網絡的微型鋼球表面缺陷快速識別方法，并做了檢測和分類系統的開發工作。目的是在高識別準確率的同時，盡可能地減少計算量，簡化網絡結構，使其能部署在計算設備中，應用于工業現場。

1 網絡結構設計

在AlexNet 網絡結構基礎上，本文提出AlexNet-SVM 模型，設計過程分為兩個階段。首先，在AlexNet 網絡結構的基礎上，刪減卷積層，并保留FC7 提取的特征，以精簡網絡結構。將特征數量從51 529 個（初始特征）減少到4 096 個有效特征，減小模型算法整體的耗時和復雜性。其次，將特征放入SVM 模型分類器中，代替Softmax 分類器，以防止過擬合，提高模型泛化能力。

1.1 AlexNet 簡介

AlexNet 模型是由Alex Krizhevsky 設計的CNN模型[13]，由于其網絡相對簡單高效，它也成為深度學習中的經典網絡模型。該結構如圖1 所示，共有8 層網絡，包括 5 個卷積層、3 個最大池化層和3個完全連接層。該網絡為每幀生成4 096 個二維特征向量，其中包含輸出層之前隱藏層的激活。最后一個完全連接的層連接到1 000 個類，剩下的網絡被視為特征提取器。AlexNet 模型輸入圖像經過預處理后尺寸為227×227×3，在卷積層1 中采用11×11 的filter。模型特點：①采用激活ReLU 函數，解決網絡較深時梯度彌散問題，使用LRN 對局部的特征進行歸一化；②使用Overlapping Max Pooling，避免平均池化時模糊化效果；③全連接層中使用Dropout 以避免過擬合。

圖1 AlexNet 模型

1.2 SVM 簡介

SVM 是一種常用的機器學習算法，用于目標分類和識別。它通過在特征空間中找到一個超平面，將不同類別的樣本分開，并且使離超平面最近的樣本點到超平面的距離最大化[14-15]。鋼球表面缺陷識別是非線性識別任務的一個典型例子。SVM 最大分割超平面的求解問題可以表示為以下約束優化問題，使用拉格朗日方法求解。

設K(xi,yi)為核函數，C為懲罰參數，為了滿足核空間的分類要求，選擇高斯徑向基函數作為核函數。它可以表示為

式中：xi和xj為訓練樣本的特征向量；σ為控制高斯分布寬度的參數。優化問題的目標是找到權重向量w和截距b的最優集合，該集合能最大化分類邊界和支持向量的間距，并最小化錯分誤差。

為了得到更精確的SVM 模型參數,在傳統的網格搜索方法中，網格被均勻地劃分，導致了較大的計算負載。本文設計5 重交叉驗證的網格搜索算法對SVM 參數模型進行優化，算法原理為：首先執行具有大步長、寬范圍的粗搜索，在最佳范圍內，細化較小步長進行精細搜索，以確定懲罰系數和核參數的最佳參數范圍。該算法步驟如圖2 所示，首先，得到缺陷圖像的特征，確定最優聚類數K，使用K-CV 算法和改進的網格搜索方法找到SVM 參數的最優解，并訓練SVM 模。其次，對測試集進行預測，將來自模型的預測標簽與預測數據的實際標簽進行比較，以獲得預測鋼球缺陷的準確性。

圖2 結合AlexNet 模型的網格搜索算法SVM 參數尋優

1.3 改進的AlexNet-SVM 模型

本文利用遷移學習技術，改進了卷積神經網絡AlexNet 模型架構，同時使用SVM 分類器代替AlexNet 模型中的Softmax 分類器，提出AlexNet-SVM 模型，改進后的網絡結構如圖3 所示。該模型基于特征提取和分類兩個階段。

圖3 提出的AlexNet-SVM 模型

（1）特征提取階段：采用遷移學習技術，改進AlexNet 模型以識別微型鋼球表面缺陷的新圖像。具體改進的網絡結構為：根據鋼球缺陷檢測的應用場景，刪除5 個卷積層的后面3 個卷積層，通過保留模型的所有層直到全連接 FC7，獲取FC7 層上的特征，通過實驗可以得到該全連接層中能夠獲得代表所有圖像的低級別的特征，其特征數量估計為4 096 個。另外，如果去掉所有的全連接層，網絡的識別準確率會降低，因此，相比傳統的模型，裁剪了AlexNet 網絡中的FC8 層，并且不再通過其Softmax分類器，防止過擬合情況的發生。整體的特征數量從51 529 個（初始特征）減少到4 096 個。

（2）分類階段：從FC7 全連接層獲取的圖像特征（4 096 個特征）輸入到SVM 分類器模型中（包含6 個類別），以執行分類過程。

2 實驗驗證

2.1 實驗數據采集

由于研究對象為直徑小于3 mm 的微型鋼球，本文自行制作實驗數據集。鋼球作為滾動體，不僅鏡面反射會倒映周圍物體的像，而且要檢測整個球面的缺陷。本文設計了漫反射穹頂光源來減小鏡像影響，同時采用兩個CCD 相機分別安裝在斜45°方向、鋼球通過一維列滾動裝置進行全表面展開的方法采集缺陷圖像。實驗裝置如圖4 所示，采集型號440c1205039-1.4、直徑為1.5 mm 的微型鋼球缺陷數據集來訓練和測試分類模型。鋼球分選裝置結構原理如圖5 所示，振動盤作為微型鋼球的上料裝置，鋼球在V 形導軌上滾動并被CCD 采集，每粒鋼球由兩個相機采集的結果共同確認，并根據系統判別結果，分別由左右氣嘴執行分選。對比傳統機器視覺以兩個物料盤相互搓動鋼球滾動以實現全展開的裝置[16-17]，該檢測系統采用一維球列向下滾動代替了復雜的二維展開的機械結構，檢測速度從2 粒/s提升到4 粒/s。每粒鋼球在視場內采集5 次，10 幅圖像通過處理綜合檢測其結果，達到了100%全覆蓋展開，檢測可靠度大幅度提升。

圖4 微型鋼球表面缺陷采集與分選實驗裝置

圖5 鋼球分選裝置結構原理圖

該數據集包含5 類不同類型的表面缺陷以及合格球，缺陷種類包括開裂、凹坑、銹蝕、磨損和孔傷。共包括1 780 張圖像，其中訓練集和數據集樣本各占50%，圖6 顯示了五類缺陷圖像，其中，鋼球圖像中心的黑色圓形是反射的鏡頭圖像。

圖6 微型鋼球表面缺陷圖像數據集樣本

2.2 實驗環境

實驗的深度神經網絡搭建在Tensorflow 深度學習框架上，運用Python 語言編程實現，CPU 為Intel Core i7，內存大小為32 GB，GPU 為NVIDIA GeForce GTX 1080Ti，操作系統為Windows 10。

2.3 采用經典AlexNet 網絡實驗分析

將數據集應用于經典AlexNet 模型，與本文提出模型對比。將Softmax 分類器改為6，其余8 層網絡結構不變，得到分類結果見表1。該模型能夠正確對857 個圖像進行分類，錯誤對23 張圖像分類。將5 個孔傷、3 個凹坑、2 個磨損錯誤的分類為開裂，6 個銹蝕錯誤的認為是磨損，3 個開裂錯誤的分為凹坑，該模型實現了97.3%的準確率，開裂與其他幾個類別顯然沒有區別開，沒有達到理想分類目標。在經典AlexNet 網絡模型應用中，對全連接層分別實驗了其對分類精度的影響，以試圖找出最佳的特征提取的全連接層。FC6 層的分類精度為99.10%，FC7 層的分類準確率為99.50%，而FC8 層的分類正確率為98.90%。因此，從AlexNet模型中提取特征的最佳層是FC7 層。此外，該層的選擇將特征數量從51 529 個（初始特征）減少到4 096 個有效特征，減小模型算法整體的耗時和復雜性。

表1 經典AlexNet 模型的混淆矩陣

2.4 本文提出模型的實驗結果及評估

采用提出的AlexNet-SVM 網絡模型對采集的樣本進行訓練和測試。圖7 闡述了第一層卷積權重，展示了經過模型第一層卷積后的特征圖像。第一層能夠提供基本圖像特征，包括邊緣、斑點以及顏色信息。直接從第二層可以提取更為合適的圖像特征。因此，本文提出模型中特征提取階段的卷積層數為2。一共對900 張圖像數據進行訓練，880 張數據用于測試。

圖7 第一層卷積權重

采用K-CV 算法和改進的網格搜索方法來確定最優SVM 參數。實驗可得最優K=5，圖8 使用大步長的粗略搜索獲得的等高線圖，其中x軸和y軸分別表示參數c和g以2 為底的對數值。輪廓線表示獲得的缺陷識別精度。圖9 是相應3D 視圖，其中c和g都設置為[2-20,220]，步長為0.9。最佳懲罰系數c為10.556 1，核函數參數g為0.870 55，最佳CV 精度為91.916%。在粗略選擇的基礎上，進一步精細參數搜索。從圖10 中可以看出，c和g的范圍縮小到[2-5,25]，步長為0.2。圖11 所示為三維視圖，最優懲罰系數c為5.656 9，核函數參數g為1.414 2，最佳CV 精度為98.833%。

圖8 大步長參數選擇

圖9 大步長3D 網格搜索精度

圖10 小步長參數選擇

圖11 小步長3D 網格搜索精度

本文提出的AlexNet-SVM 網絡模型結果的混淆矩陣見表2，采用混淆矩陣來評估分類器的性能。每一列代表當前類，每一行代表預測類。本文計算了準確度、精確度、召回率和F1 分數4 個指標。準確度表示分類器正確識別的比率，精確度表示分類器對每組已分類的正確案例進行分類的成功率，召回率表示分類器未將錯誤案例分類到已分類類別的另一類別（或組）的成功率。F1 分數代表準確度和召回率的和諧平均值。精確度越高，誤檢率越低，召回率越高，漏檢率越低，所有指標計算如下：

表2 本文AlexNet-SVM 模型實驗混淆矩陣

其中：TP、TN分別表示正樣本預測為正樣本的數量、負樣本預測為負樣本的數量；FP、FN分別表示正樣本預測為負樣本的數量、負樣本預測為正樣本的數量。

本文提出的AlexNet-SVM 模型性能評估對比結果見表3。由表3 可得，對比經典AlexNet 模型各類缺陷分類精度，該模型精度指標在98.86%～100%。對比改進前開裂與其他種類缺陷區分度差，即93.01%的分類精度，本文模型開裂的識別精度有顯著提升，達到了99.43%。磨損的識別精度由93.41%提升至98.86%，識別率得到明顯改善。在鋼球缺陷檢測中，召回率是非常重要的衡量指標，因為它強調不遺漏任何有缺陷的鋼球，寧可錯判，但不能放過缺陷球，也是企業檢測鋼球的出廠準則。因此，較高的召回值表明該系統更善于捕捉真實缺陷，降低了遺漏任何缺陷鋼球的可能性。測試樣本的召回率范圍在98.86%～100%，對比改進前模型均得到提升。F1 分數范圍在0.988 6～1，反映了該模型的有效性。因此，由實驗分析可得該分類器的性能非常好。每種類型缺陷的識別率都顯著提高，證明了本文方法的有效性和可行性。

表3 提出AlexNet-SVM 模型性能對比

在相同預處理后的鋼球數據集和相同配置條件下，對文獻[12-13]等多個模型進行對比實驗見表4。該表記錄了5 個網絡的特征提取模型、分類器、分類準確率和單幅圖像的平均時間。實驗結果表明，本文提出的網絡單次推理時間為7.8 ms，綜合平均準確率和運算時間兩個指標，更優于其他經典卷積神經網絡。對比經典AlexNet 算法，SVM 代替FC的分類具有更好的泛化能力，同時精簡網絡結構，能夠得到更優化的模型，準確度和運算速度都有很大改善，證明了所提出方法的優越性。

表4 網絡模型對比

3 結語

針對現有微型鋼球表面缺陷檢測問題，本文提出一種基于改進的AlexNet-SVM 卷積神經網絡模型的快速識別方法。在AlexNet 網絡結構的基礎上，優化網絡結構，刪減后三個卷積層，從FC7 連接層中提取最重要的圖像缺陷特征，并采用SVM 分類器代替Softmax，減少網絡過擬合，提高模型泛化能力。在SVM 模型參數確定中采用了基于K-CV的改進的網絡搜索算法，以尋求最佳參數。實驗結果表明，對比文獻采用的網絡模型，本文提出的分類方法平均準確率為99.43%，精簡網絡結構后，模型的測試時間可達17.2 ms，綜合性能更優于對比網絡，能夠滿足鋼球缺陷分類在工業現場部署的需求。由于缺陷樣本量小，未來會考慮增加樣本預擴充，研究更適合小樣本鋼球缺陷的無監督或半監督的模型算法。