基于改進MobileNet的輕量級外來入侵植物識別模型研究

吳鴻飛 劉萬學 冼曉青 趙夢欣 姚青

摘要

外來入侵植物防治的首要任務是準確識別入侵植物種類，然而外來入侵植物種類繁多，存在類間同質和類內異質現象，給技術人員甄別與防治外來入侵植物帶來了挑戰。為了準確、實時和高效地識別外來入侵植物，本文提出基于改進MobileNet的輕量級外來入侵植物圖像識別模型（MobileNetLW）。以專業人員鑒定得到的113種11?628幅外來入侵植物圖像作為研究對象，并按照6∶2∶2的比例劃分訓練集、驗證集和測試集。通過Retinex、旋轉和高斯噪聲等方法對圖像進行數據增強。為了減少類間同質現象對模型誤檢的影響，在模型MobileNet基礎上添加了SE通道注意力機制和深度連接注意力網絡，提高網絡對關鍵特征的提取能力。為了降低模型計算消耗和內存消耗，采用通道剪枝方法對網絡瘦身;為了彌補剪枝后造成模型準確率降低，采用教師網絡助教網絡學生網絡的形式對剪枝后的網絡進行知識蒸餾，學生網絡通過軟知識的學習來提高識別外來入侵植物的準確率。通過消融試驗測試模型的性能，利用平均準確率、平均召回率和平均F1值3個評價指標，對現階段經典模型與改進后模型MobileNetLW所獲得的識別結果進行評價。消融試驗結果顯示，在相同數據集條件下，所有改進點對模型的性能都有所提升，且改進后算法在外來入侵植物圖像識別中準確率提高了5.4百分點，模型參數量減少了約53%;模型對比試驗表明，EfficentNet、DBTNet、ResNet101、ConvNext和MobileNetLW?5個模型平均準確率分別為72.3%、74.9%、76.1%、79.7%和86.1%，表明改進后的網絡提高了外來入侵植物的識別準確率?；诟倪MMobileNet的輕量級外來入侵植物識別模型對113種外來入侵植物識別具有較高的準確率，且模型具有輕量化特點。

關鍵詞

外來入侵植物;?智能識別;?通道剪枝;?知識蒸餾;?注意力機制;?MobileNet

中圖分類號：

Q?948;?TP?391.41

文獻標識碼：?A

DOI：?10.16688/j.zwbh.2022710

A?lightweight?identification?model?for?alien?invasive?plants?based?on?improved?MobileNet

WU?Hongfei1，?LIU?Wanxue2*，?XIAN?Xiaoqing2，?ZHAO?Mengxin2，?YAO?Qing1

（1.?School?of?Computer?Science?and?Technology，?Zhejiang?SciTech?University，?Hangzhou?310018，?China;?

2.?State?Key?Laboratory?for?Biology?of?Plant?Diseases?and?Insect?Pests，?Institute?of?Plant?Protection，?

Chinese?Academy?of?Agricultural?Sciences，?Beijing?100193，?China）

Abstract

The?primary?task?in?controlling?alien?invasive?plants?is?to?accurately?identify?the?species?of?invasive?plants.?However，?there?are?a?wide?variety?of?alien?invasive?plants，?and?some?of?them?present?the?interclass?homogeneity?or?intraclass?heterogeneity，?which?brings?challenges?to?the?identification?and?control?of?alien?invasive?plants.?In?order?to?identify?alien?invasive?plants?accurately，?efficiently?and?in?real?time，?a?lightweight?identification?model?based?on?the?improved?MoblileNet?（MobileNetLW）?was?proposed.?The?11?628?images?of?113?species?of?alien?invasive?plants?identified?by?technicians?were?divided?into?the?training?set，?verification?set?and?testing?set?in?a?ratio?of?6∶2∶2.?The?image?data?were?enhanced?by?Retinex，?rotating?image?and?Gaussion?noise.?In?order?to?reduce?the?false?detection，?the?SE?channel?attention?mechanism?and?deep?connection?attention?network?were?added?to?the?MobileNet?model?to?improve?the?ability?of?key?feature?extraction.?In?order?to?reduce?consumption?of?model?computation?and?memory，?the?channel?pruning?method?was?used?to?slim?down?the?network.?In?order?to?improve?the?accuracy?reduction?caused?by?model?pruning，?the?knowledge?distillation?of?the?teacher?networkteaching?assistant?networkstudent?network?was?adopted?to?the?pruned?network，?and?the?student?network?can?improve?the?recognition?accuracy?of?alien?invasive?plants?through?learning?the?soft?knowledge.?In?this?study，?the?ablation?experiments?of?the?model?were?done.?Three?indicators?including?average?accuracy，?average?recall?rate?and?average?F1?value?were?used?to?evaluate?the?classical?models?and?the?improved?model?MobileNetLW.?The?results?of?ablation?experiments?showed?that?the?performance?of?each?improved?method?on?the?model?was?improved?on?a?same?testing?set.?The?accuracy?of?MobileNetLW?increased?by?5.4?percentage?points?in?identifying?the?alien?invasive?plants，?and?the?number?of?parameters?of?model?reduced?by?about?53%.?The?average?accuracies?of?the?five?models，?i.e.，?EfficentNet，?DBTNet，?ResNet101，?ConvNext?and?MobileNetLW，?were?72.3%，?74.9%，?76.1%，?79.7%?and?86.1%，?respectively，?showing?that?the?improved?model?could?improve?the?identification?accuracy?of?alien?invasive?plants.?The?alien?invasive?plant?identification?model?based?on?the?improved?MobileNet?showed?high?accuracy?in?identifying?113?species?of?alien?invasive?plants，?and?showed?characteristic?of?lightweight?after?pruning.

Key?words

alien?invasive?plants;?intelligent?identification;?channel?pruning;?knowledge?distillation;?attention?mechanism;?MobileNet

隨著全球經濟一體化，國際貿易、跨國旅游業等快速發展，外來生物入侵已成為當前全球性的問題，被認為是21世紀五大全球性環境問題之一［1］。我國農林生態系統外來入侵物種已達800種，已確認入侵農林生態系統的有638種，其中動物179種、植物381種、病原微生物78種，我國已經成為全球遭受生物入侵威脅與損失最為嚴重的國家之一［12］。外來生物入侵的危害主要表現在3個方面：1）危害生態系統，破壞生物多樣性;2）危害人畜健康，威脅人類安全;3）危害農業生產，造成巨大經濟損失［3］。因此，針對外來入侵生物的危害需要提出相應的防控對策，其中建立外來入侵生物早期預警和監測體系一個重要的前提是外來入侵生物的準確識別。目前，外來入侵生物識別主要通過生物形態學鑒定［45］和分子生物學鑒定［67］等方法。其中生物形態學鑒定主要依賴于人的主觀經驗和相關文獻書籍。由于外來入侵植物種類繁多，存在類間同質和類內異質現象，且野外實地調查過程中數據采集規范性不足、紙質采集記錄丟失、記錄數據不完整，因此在外來入侵植物監測工作中存在工作量大、數據出錯概率高、維護困難等問題［8］;分子生物學鑒定如線粒體COⅠ條形碼序列分析存在耗時長且花費成本大等問題，不能滿足大量樣本快速監測的需要［9］。此外，由于專業技術人員人數的限制和專業的差異等，對外來入侵植物防治工作是一種挑戰。因此，亟須一種準確、實時和高效的識別工具或方法實現外來入侵植物自動識別。

隨著圖像處理和機器學習在多個領域的成功應用，利用圖像來識別外來入侵植物成為了近些年的熱點。傳統的植物圖像識別方法［1013］主要是依據植物葉片，通過提取葉片的顏色、紋理、形狀和脈絡等特征，再用不同的分類器進行分類識別。張寧等［11］通過克隆選擇算法和K近鄰識別100種植物葉片，結果表明，此方法識別率達到91.37%，優于BP神經網絡方法。Cao等［12］提出描述輪廓曲率R角的形狀描述符，并采用L1范數和基于動態規劃來匹配不同植物葉片之間的R角，以此度量葉片的相似性，試驗證明該方法表現優良。Mahajan等［13］利用自適應增強技術向量機（SVM）從葉片圖像中提取植物形態特征并采用Adaboost?算法集合多種弱分類器從而得到一個更強的最終分類器對提取的特征進行分類，在開源數據集FLAVIA上達到95.85%的準確率。

由于自然環境下外來入侵植物種類繁多，同種植物因環境、氣候及不同發育階段，存在較大的外觀差異，不同植物可能存在相似的表型特征，因此在實際應用中會發現傳統的模式識別方法魯棒性弱，泛化能力差。近年來，隨著深度學習的不斷發展，卷積神經網絡（convolutional?neural?network，CNN）在圖像識別任務中有著不俗的表現，運用卷積神經網絡的方法提取更為豐富的圖像特征用于植物圖像的識別［1418］。王艷等［15］通過蟻群優化的圖像分割算法將中草藥植物葉片從背景中分離出來，再使用AlexNet對目標圖像分類訓練，并用Softmax分類器進行分類識別，在13類中草藥植物圖像識別中平均準確率達到99.38%。Qiao等［16］提出了由卷積層、ReLU激活函數、局部響應歸一化（LRN）、池化層、Dropout層、全連接層組成的47層的MmNet模型用來識別外來入侵植物微甘菊Mikania?micrantha，準確率達到94.5%。利用深度學習方法對植物進行識別可以有效地解決很多弊端［1418］，通過算法調優、數據增強等方法來提高識別模型的泛化能力。Qian等［17］結合AlexNet局部響應歸一化、GoogleNet初始模型和連續VGG卷積提出IAPsNet模型對7類外來入侵植物進行分類識別，結果達到93.74%準確率。上述研究局限于單個物種或者較少種類的植物識別。李立鵬等［18］通過Dropout正則化和批量正則化技術、SGDM優化器和遷移學習的方法來對ResNet101模型進行優化，在62類野生植物圖像識別中平均準確率達到85.6%。劉萬學等［19］利用DenseNet模型、Android移動設備和云服務器對135類外來入侵植物進行分類識別，準確率達85.3%。劉萬學等［19］建立的外來入侵植物識別系統需要通過云服務器進行模型部署和數據傳輸;李立鵬等［18］所使用的ResNet101模型的參數量達到42.5?M，內存占據大，難以在移動設備終端實現部署。上述研究雖然識別種類較多，但由于實際野外調查中網絡狀態的不穩定性以及網絡帶寬的限制，無法滿足可應用于無網絡信號條件下輕量化模型的需求。因此亟須建立一個泛化能力強且輕量化、易部署在移動式設備的模型來完成外來入侵植物識別任務。

基于輕量化模型的需求，Howard等［21］提出了MobileNet輕量級模型。該模型實現識別的關鍵是深度可分離卷積（depthwise?separable?convolution），通過深度卷積（depthwise?convolution）和逐點卷積（pointwise?convolution）達到減少計算量和縮小模型的目的。為了進一步讓模型達到輕量化部署，可以對模型進行剪枝瘦身操作，根據BN層的權重因子［21］來判斷通道對特征提取的權重值，依據通道的權重因子對相對不重要的通道進行剪枝，從而達到剪枝瘦身的目的，并最大程度上減小對模型準確率的影響。為了彌補剪枝對于模型準確率的影響，利用知識蒸餾［22］，通過教師模型來指導剪枝后的模型進行訓練，使得剪枝后的模型在原有的準確率基礎上有較大的提升，達到教師模型性能的水平。

為了提升網絡對于特征的提取能力，本文在MobileNet網絡的基礎上，先嵌入squeezeandexcitation?（SE）注意力機制模塊，并用deep?connected?attention?network（DCANet）將不同卷積模塊的注意力連接;為了滿足外來入侵防治工作對于模型輕量化的需求，本文通過batch?normalization（BN）的縮放因子進行網絡通道剪枝，再通過知識蒸餾提高剪枝后的模型識別準確率，最終建立MobileNetLW外來入侵植物識別模型。

1?試驗數據和方法

1.1?外來入侵植物數據集

本文的圖像來自中國農業科學院植物保護研究所植物病蟲害綜合治理全國重點實驗室和網絡爬取，并經過外來入侵生物專家鑒定與確認，數據集包含113種11?628幅外來入侵植物圖像，數據集所含外來入侵植物種類如表1所示。由于原圖像尺寸大小不一，首先采用補邊的方式將圖像長和寬調整為相等，再統一將圖像的尺寸調整為256?px×256?px，將圖像數據集按照6∶2∶2的比例隨機分成訓練集、測試集和驗證集。

1.2?圖像數據增強

由于在實際圖像采集中得到的圖像質量參差不齊，尤其是外來入侵植物的圖像拍攝大多都在野外，受到天氣、環境等因素干擾的情況較多，低光照的圖像特征不明顯，難以識別，給外來入侵植物識別工作帶來難度。本文利用Retinex算法［23］中彩色多尺度MSRCP算法、多尺度加權平均MSR算法和色彩增益加權AutoMSRCR算法對外來入侵植物圖像數據集中低亮度圖像進行數據增強，同時利用旋轉90度和添加高斯噪聲等對訓練圖像進行數據增強，如圖1為外來入侵植物五爪金龍Ipomoea?cairica的圖像數據增強結果。

1.3?外來入侵植物識別模型

1.3.1?基于改進MobileNet的外來入侵植物識別模型

由于外來入侵植物種類繁多，存在種內變異，種間相似和圖像背景復雜多變的問題。為了提高入侵植物識別準確率，本文在MobileNet的基礎上建立外來入侵植物識別模型。改進的模型網絡結構如圖2所示，輸入為外來入侵植物圖像，網絡先通過一個卷積層對輸入圖像進行處理，后通過15個瓶頸塊分別對特征圖進行特征提取，最后通過卷積和全連接層得到外來入侵植物圖像的分類結果。為了提高瓶頸塊對圖像特征的提取能力，本文將SE（squeezeandexcitation）注意力機制模塊嵌入MobileNet模型，同時在具有注意力模塊的相鄰瓶頸塊添加了深度連接注意力網絡DCANet，詳細連接結構見圖3。

1.3.2?深度連接注意力網絡DCANet

由于外來入侵植物圖像背景復雜且物種形態特異，網絡在對圖像識別過程中很難提取到有效信息，而注意力機制能夠在少量的計算消耗下，加權圖像重要的信息，并抑制無關信息，從而提高網絡對于重要特征的提取能力。本文在關鍵瓶頸塊中的深度可分離卷積層傳遞特征信息到1×1的卷積層過程中添加了基于通道域的注意力機制［24］（圖3），它是由全局平均池化層、2個全連接層和1個Sigmoid激活函數組成。首先如公式（1）所示對于輸入特征圖X進行展平處理，進行高度H和寬度W的全局平均池化，將空間特征維度降到1×1，得到特征圖Z;再使用2個全連接層和ReLU激活函數建立通道之間的連接;公式（2）表示最后一層全連接層Z⌒通過Sigmoid函數進行歸一化處理，再通過乘法逐個通道加權到原始特征圖X的每一個通道得到特征圖X⌒。通過注意力機制可以增加關鍵通道權重并減少非關鍵通道權重。

Z=1H×W∑Hi=1∑Wj=1xc（i，j）（1）

X⌒=X·σ（Z⌒）（2）

其中，c為輸入特征圖的通道，xc（i，j）為通道的像素點位置，σ?為Sigmoid函數。

添加注意力機制的瓶頸模塊提高了特征提取能力，但它僅考慮了當前層的特征，本文在模型中添加深度連接注意力網絡DCANet［25］，該網絡連接相鄰關系的注意力機制模塊，可以提高注意力機制的學習能力。圖3給出了DCANet網絡結構圖，其中，注意力機制模塊分為提取、轉換和融合3個步驟。第1個卷積塊通過全局平均池化提取得到特征G，再通過公式（3）的轉換操作獲得注意力模塊的輸出T。將前一個注意力模塊生成的注意力映射特征圖?與當前注意力模塊提取的特征圖G進行連接并轉換，特征圖映射關系見公式（4），其中連接函數f將2個模塊特征圖進行連接，得到的結果再逐個通過加權到原始特征圖X并得到特征圖X⌒。連接函數f采用公式（5）的直接連接方式，連接函數將2個模塊相同索引的特征連接起來，從而保證了模型既能學習提取當前卷積塊的特征，又能學習之前的注意力信息，增強模型的魯棒性和泛化能力。

T=t（G，wt）（3）

X⌒=t（f（αG，β），wt）·X（4）

f（αGi，βi）=αGi+βi（5）

其中，t為定義的特征轉換的操作，wt表示特征轉換中使用的參數，α和β為可學習參數，i為特征圖索引位置。

1.3.3?通道剪枝

在外來入侵植物實地野外調查中，由于網絡狀態的不穩定性以及網絡帶寬的限制，簡單地將CNN模型部署在云端的計算模式無法保證移動用戶的體驗期望，同時受限于移動端有限的資源，移動設備也無法滿足CNN模型對計算、存儲及電量資源的需求［26］。結合野外防治工作對于輕量化模型的實際需求，本文在改進的模型基礎上進行通道剪枝（圖4）。在通道剪枝方法中，找到合適的剪枝策略和評判通道的重要程度的方法是保證通道剪枝效果良好的關鍵?；诰W絡的特點，在輸入維度和輸出維度相同的模塊中會進行shortcut短路連接，而對這些模塊剪枝導致的輸入輸出維度不匹配就會影響整個網絡的結構從而降低網絡對于特征的提取能力，因此對具有短路連接的相關模塊進行通道剪枝操作會維持輸入維度和輸出維度相同，在保證模型整體結構穩定的基礎上對瓶頸塊的升維層和降維層進行剪枝。本文在網絡瘦身策略上選擇BN通道剪枝［21］。首先，在網絡中采用L1正則進行稀疏化訓練，對于通道因子γ的訓練如公式（6），然后根據網絡中BN層的權重因子γ來對網絡的通道進行權重判斷，對網絡中權重靠近零值的通道進行剪枝操作。由BN層輸出Y的計算公式（7）可知，當通道因子γ值足夠小時候，BN層的輸出都與輸入樣本無關，因此具有此類BN參數的通道都可以剪枝，此方法可以保證在一定的剪枝率下模型瘦身對模型的準確率影響最小。

L=∑（x，y）l（f（x，W），y）+λ∑γ∈Γg（γ）（6）

Y=limγ→0γ·X－μσ2+ε+β=β（7）

其中，x表示訓練輸入，y表示訓練目標，W為可訓練權重，f（x，W）為網絡的預測輸出，l（f（x，W），y）?為網絡的預測輸出與真實目標之間的損失，g（γ）為對通道因子的懲罰，λ為平衡參數，X為輸入樣本，μ為數據均值，σ為數據方差，ε為防止分母為零的定值參數，β為可訓練仿射變換參數。

1.3.4?知識蒸餾

知識蒸餾最早是由Hinton等在分類任務上提出［22］，知識蒸餾的核心就是通過教師模型來指導學生模型進行訓練，使得學生模型在原有的準確率基礎上有較大的提升，達到教師模型性能的水平。外來入侵植物圖像識別存在圖像背景復雜，物種相似等問題，而且剪枝后的模型雖然更加輕量化但是也不可避免帶來準確率下降，因此需要將性能較差的學生模型遷移學習性能較好的教師模型以此獲得準確率的提高。本文剪枝后的模型需要在移動式設備上部署，因此對于它的大小有一定的要求，此時如果采用規模較大的教師網絡進行蒸餾訓練，蒸餾效果不如預期。為了解決這個問題，本文在教師網絡及學生網絡之間引入1個中等規模的網絡即30%剪枝率的助教網絡來彌補兩者之間規模差距過大的問題，如圖5所示。助教網絡即首先遷移學習教師網絡，然后扮演新的老師角色指導訓練學生網絡，使得教師網絡的軟知識先提煉到中等規模的助教網絡上，助教網絡再蒸餾訓練規模差距更小的學生網絡上以此獲得模型精度的提高。在知識蒸餾過程中，學生網絡在訓練的時候首先是根據數據集標注的硬標簽，但是在軟標簽上往往涵蓋圖像更多的信息。假設試驗是對飛機草Chromolaena?odorata、金合歡Vachellia?farnesiana、馬纓丹Lantana?camara、牛茄子Solanum?capsicoides?4組類別進行分類任務，教師網絡得到的輸出向量是［0.02，0.07，0.11，0.8］，在此圖像中類別大概率是牛茄子，教師網絡利用牛茄子與其他類別直接關系的軟標簽來監督訓練學生網絡，其方法就是在原始Softmax函數中引入軟化常數T，公式如（8）。學生網絡通過教師網絡的軟標簽可以學到更為豐富的知識，同時通過教師網絡助教網絡學生網絡這樣逐級知識蒸餾的方法可以有效降低因為通道剪枝的學生網絡和規模較大的教師網絡間規模差距過大的問題，從而有效地提高學生網絡的準確率，對于本文輕量化模型改進具有很大意義。

其中，zi為第i個節點的輸出，j為輸出節點個數，即分類的個數，qi?為Softmax輸出在第i類的值，T為軟化常數。

1.4?外來入侵植物模型評價方法

為了評估不同模型對外來入侵植物圖像的識別效果，本文在相同的訓練集、驗證集和測試集上分別訓練和測試了未剪枝模型、50%剪枝率模型、添加注意力機制模型、添加深度連接注意力網絡模型和知識蒸餾后的剪枝模型。同時為了證明本文模型的優越性，訓練并測試了EfficentNet［27］、DBTNet［28］、ResNet101［29］和ConvNext［30］常用的4個卷積神經網絡模型。

采用準確率（precision，Pre）、召回率（recall，Rec）和F1（Fmeasure）作為衡量模型優劣性的評價指標，計算公式分別為公式（9）、公式（10）和公式（11）。

Pre=TPTP+FP（9）

Rec=TPTP+FN（10）

F1=2×Pre×RecPre+Rec（11）

其中，TP（true?positive）表示模型識別為目標外來入侵植物種類且真實是外來入侵植物種類的數量，FP（false?positive）表示模型識別為目標外來入侵植物種類但實際不是該外來入侵植物種類的數量，FN（false?negative）表示為模型識別為非目標外來入侵植物種類的數量但實際是該外來入侵植物種類的數量。F1是基于準確率和召回率的調和平均，作為衡量模型性能的整體評價。

1.5?模型運行環境

所有模型的訓練和測試都在同一臺計算機上，其CPU為Intel（R）?Core（TM）?i79800X?CPU?@?3.80GHz，3塊型號為GeForce?GTX?1080Ti的GPU，內存為48G，操作系統為Ubuntu?20.04。

2?結果與分析

2.1?消融試驗結果與分析

為了檢驗模型每個改進點對于外來入侵植物的識別準確率和性能是否有所提高，通過消融試驗進行控制變量對比結果。為了提高模型的魯棒性使之適應多種移動設備的嵌入，因此選擇了0.5權重因子進行通道剪枝。消融試驗包括通道剪枝、加入注意力機制、加入深度連接注意力網絡、教師網絡知識蒸餾和助教網絡知識蒸餾。結果如表2所示，根據0.5權重因子進行通道剪枝模型的準確率下降了4.9百分點，但是參數量僅為原來40%左右;在加入通道注意力機制后，準確率提高了3.6百分點;在注意力機制的基礎上添加深度連接注意力網絡，模型的準確率提高了4.8百分點;使用教師網絡對剪枝后的網絡進行知識蒸餾，模型的準確率比原剪枝后的模型提升了1.4百分點;由于教師網絡和剪枝后的網絡之間的規模差距過大，因此選擇30%剪枝率的助教網絡來彌補教師網絡和助教網絡模型的空白，模型的準確率比原剪枝后的模型提高了4.9百分點。本文模型MobileNetLW通過0.5權重因子通道剪枝，引入通道注意力機制并添加深度連接注意力網絡，最后利用助教網絡進行知識蒸餾，增強模型的魯棒性和泛化能力。本文改進的算法在外來入侵植物圖像識別中準確率較改進前模型提高了5.4百分點，且參數量減少了約53%，實現了對模型整體瘦身，同時也提高了模型的識別精度，在模型的計算性能消耗和識別結果準確率間做了一個較好的平衡，更加適用于移動端的部署和使用，對實際外來入侵生物的防治工作具有積極作用。

2.2?不同外來入侵植物模型識別結果與分析

為了測試本文提出的模型MobileNetLW是否有利于提高外來入侵植物的識別率，訓練并測試了EfficentNet、DBTNet、ResNet101和ConvNext常用的4個卷積神經網絡模型，5個模型的平均準確率、召回率和F1值見表3。本文改進后的MobileNetLW模型在平均準確率、召回率和F1值3個評價指標較其余4個模型都有所提高，其中，平均準確率分別提高13.8、11.2、10.0百分點和6.4百分點，平均召回率分別提高14.9、11.5、10.3百分點和7.7百分點，平均F1值分別提高14.3、11.3、10.2百分點和7.0百分點，參數量分別下降了5.7、22.2、40.5?M和23.1?M。從結果可以看出：本研究算法在保證輕量級模型的基礎上仍能夠取得較好的識別結果，在實際使用過程中MobileNetLW是低消耗、高精度的外來入侵植物識別模型。

2.3?模型特征圖可視化

CNN卷積神經網絡識別圖像通過圖像的像素點提取到圖像的特征，在這個過程中本文使用GradCAM算法［31］進行可視化試驗來比較模型對特征信息的提取能力。本文未添加注意力機制的網絡、加入通道注意力機制的網絡和在注意力機制基礎上加入深度連接注意力網絡生成的熱力圖如圖6所示。未添加注意力機制的網絡感興趣的區域更多放在無關信息上，添加注意力機制網絡的熱力圖中的高亮區域更加聚集于曼陀羅Datura?stramonium花的主體部分，添加深度連接注意力網絡的熱力圖聚集的范圍更加廣且集中，使得模型更加能夠提取曼陀羅中的局部細節特征，從而提高模型對于外來入侵植物圖像特征的提取能力，以減弱外來入侵圖像背景復雜和外來入侵物種多變給識別帶來的不利影響，并提高分類性能。

圖6?外來入侵植物曼陀羅不同模型熱力圖

Fig.6?Heat?maps?of?different?models?of?alien invasive?plant?Datura?stramonium

3?結論與討論

中國外來入侵植物種類繁多、分布范圍廣，有些相同物種表型存在較大差異，不同物種之間可能存在一定的相似性，給非專業人員進行外來入侵植物的識別或監測調查工作帶來了挑戰，因此亟須一種易嵌入移動設備并具有較高精度的識別方法解決外來入侵植物監測防控面臨的困境。

近幾年機器視覺和深度學習技術在外來入侵植物識別領域取得了較多進展［1617，19，33］。傳統的植物識別方法主要通過植物葉片特征進行分類，對圖像先進行圖像灰度化、亮度矯正、閾值分割處理，再計算特征參數，最后通過分類器來對圖像進行分類［34］。然而傳統的機器視覺識別方法進行分類識別需要大量前期工作來確定植物的特征，特別在外來入侵植物野外識別情景下，圖像背景復雜且存在大量的干擾因素，人工篩選特征參數費時費力;且使用單特征進行圖像分類往往識別效果不佳，無法適用于物種較多的情況，訓練出來的模型魯棒性較弱且泛化能力較差，無法滿足現如今外來入侵植物防治需求。目前已有學者利用深度學習方法來識別植物，李雅婷［35］利用改進ResNet?34對18類植物圖像進行分類，準確率達到88.2%;Hati等［36］利用改進的ResNet?20對12種植物圖像進行分類，準確率達到91.84%。但上述方法由于使用的模型占據內存過大，難以部署在移動設備終端，不利于外來入侵植物防治工作;在輕量化識別模型的應用方面，李文逵等［37］利用改進的MobileNet模型對11類植物圖像進行分類，王冠等［38］利用通道剪枝操作對模型進行進一步的壓縮，并利用遷移學習提高剪枝模型識別植物病害的精度。但是上述使用的數據集大多都是背景無干擾的圖片，并不適用外來入侵植物識別的野外復雜情況。

針對上述提出的問題，本文針對113種外來入侵植物提出了輕量型高性能的外來入侵植物識別模型（MobileNetLW）。圖像數據通過Retinex、旋轉和高斯噪聲等進行增強，提升了外來入侵植物圖像的細節信息，并增加了數據集數量。通過增加注意力機制和深度連接注意力網絡提高了模型對于特征的提取能力，增強模型的泛化能力;通過通道剪枝進行模型瘦身使模型能夠適配多種移動式設備;為了彌補通道剪枝引起的模型準確率降低，用教師網絡先知識蒸餾助教網絡，再由學生網絡學習遷移助教網絡的方式來優化模型的權重參數，從而進一步提高模型的泛化能力。經過控制變量的消融試驗，證明了本文算法的改進對于網絡的改進是有效的，同時整個模型實現了外來入侵植物圖像分類識別的低消耗和高精度。經過與EfficentNet、DBTNet、ResNet101和ConvNext常用的4個卷積神經網絡模型對比，MobileNetLW在對113種外來入侵植物的識別中取得了較好的效果，平均識別率達到了86.1%。由此表明，本文方法可以有效地提高外來入侵植物的識別率，對于外來入侵植物的防治具有學術意義和實際應用價值。

基于MobileNetLW的外來入侵植物識別方法雖然提高了識別的準確率，但是仍然存在少數植物識別率較低，主要原因是植物生長階段形態各異且物種之間相似度較高，圖像的采集角度不一、質量不一也會影響模型的識別效果。因此，需要通過增加樣本量以及算法優化來提高模型對局部特征的提取能力，以滿足實際外來入侵植物防治的需求。中國國土面積廣、環境氣候復雜，每個地域存在的外來入侵物種存在較大的差異，不同地域相同物種的形態、特征也可能會有較大差別，因此也會給外來入侵植物的防治工作帶來挑戰。針對這一問題還需要建立對應的本地外來入侵物種庫，調查人員拍攝的外來入侵植物圖片上傳到移動設備識別，系統保存并處理這些圖片然后補充進數據集，也一定程度上提高了樣本量，在后續模型的迭代可以增加識別的準確率。

將本文提出的MobileNetLW外來入侵植物識別模型應用于移動端設備中，可以輔助防治人員在網絡狀態不穩定以及網絡帶寬限制的條件下準確、實時和高效地識別外來入侵植物，同時在后期可以通過大數據挖掘和分析各個地區的入侵物種分布地點和危害情況，監控當地外來入侵植物發展，并建立相對應的防治措施，這對于中國外來入侵植物的早期防控預警、實時調查監測和精準防治具有重大意義。

參考文獻

［1］?陳寶雄，?孫玉芳，?韓智華，?等.?我國外來入侵生物防控現狀、問題和對策［J］.?生物安全學報，?2020，?29（3）：?157163.

［2］?冼曉青，?王瑞，?陳寶雄，?等.?“世界100種惡性外來入侵物種”在我國大陸的入侵現狀［J］.?生物安全學報，?2022，?31（1）：?916.

［3］?史延通.?淺析我國外來入侵生物的危害和對策［J］.?吉林農業，?2012（2）：?139145.

［4］?陳潔君，?蔣躍明，?劉楠.?外來入侵生物防控策略研究進展［J］.?檢驗檢疫學刊，?2013，?23（3）：?4648.

［5］ 李倩.?外來入侵種南美蟛蜞菊與其同屬本地種蟛蜞菊跨代可塑性對形態和生理特性影響的差異［D］.?成都：?四川師范大學，?2020.

［6］?林淵源，?趙崢.?環境DNA技術在水生入侵生物監測中的應用［J］.?生態毒理學報，?2021，?16（6）：?112.

［7］?李晗溪，?黃雪娜，?李世國，?等.?基于環境DNA宏條形碼技術的水生生態系統入侵生物的早期監測與預警［J］.?生物多樣性，?2019，?27（5）：?491504.

［8］?邱榮洲，?趙健，?陳宏，?等.?外來物種入侵大數據采集方法的建立與應用［J］.?生物多樣性，?2021，?29（10）：?13771385.

［9］?樊曉培.?COI1/MYC2與冷響應基因ICE41調節冬小麥抗寒分子機制［D］.?哈爾濱：?東北農業大學，?2020.

［10］闞江明，?王怡萱，?楊曉微，?等.?基于葉片圖像的植物識別方法［J］.?科技導報，?2010，?28（23）：?8185.

［11］張寧，?劉文萍.?基于克隆選擇算法和K近鄰的植物葉片識別方法［J］.?計算機應用，?2013，?33（7）：?20092013.

［12］CAO?Jie，?WANG?Bin，?BROWN?D.?Similarity?based?leaf?image?retrieval?using?multiscale?Rangle?description?［J］.?Information?Sciences，?2016，?374：?5164.

［13］MAHAJAN?S，?RAINA?A，?GAO?Xiaozhi，?et?al.?Plant?recognition?using?morphological?feature?extraction?and?transfer?learning?over?SVM?and?AdaBoost?［J/OL］.?Symmetry，?2021，?13（2）：?356.?DOI：?10.3390/sym13020356.

［14］LU?Jinzhu，?TAN?Lijuan，?JIANG?Huanyu.?Review?on?convolutional?neural?network?（CNN）?applied?to?plant?leaf?disease?classification?［J］.?Agriculture，?2021，?11（8）：?707711.

［15］王艷，?孫薇，?周小平.?基于深度學習的中草藥植物圖像識別方法研究［J］.?中醫藥信息，?2020，?37（6）：?2125.

［16］QIAO?Xi，?LI?Yanzhou，?SU?Guangyuan，?et?al.?MmNet：?Identifying?Mikania?micrantha?Kunth?in?the?wild?via?a?deep?convolutional?neural?network?［J］.?Journal?of?Integrative?Agriculture，?2020，?19（5）：?12921300.

［17］QIAN?Wanqiang，?HUANG?Yiqi，?LIU?Qi，?et?al.?UAV?and?a?deep?convolutional?neural?network?for?monitoring?invasive?alien?plants?in?the?wild?［J/OL］.?Computers?and?Electronics?in?Agriculture，?2020，?174：?105519.?DOI：?10.1016/j.compag.2020.105519.

［18］李立鵬，?師菲蓬，?田文博，?等.?基于殘差網絡和遷移學習的野生植物圖像識別方法［J］.?無線電工程，?2021，?51（9）：?857863.

［19］劉萬學，?蒯乃陽，?韓爽，?等.?基于Android和深度學習的外來入侵植物智能識別系統［J］.?植物保護，?2021， 47（4）：?174179.

［20］SANDLER?M，?HOWARD?A，?ZHU?Menglong，?et?al.?Mobilenetv2：?Inverted?residuals?and?linear?bottlenecks?［C］∥Proceedings?of?the?IEEE?Conference?on?Computer?Vision?and?Pattern?Recognition，?2018：?45104520.

［21］HOWARD?A?G，?ZHU?Menglong，?ZHEN?Bo，?et?al.?MobileNets：?Efficient?convolutional?neural?networks?for?mobile?vision?application?［J/OL］.?arXiv，?2017，?1704.04861v1.?DOI：?10.48550/arXiv.1704.04861.

［22］LIU?Zhuang，?LI?Jianguo，?SHEN?Zhijiang，?et?al.?Learning?efficient?convolutional?networks?through?network?slimming?［C］∥Proceedings?of?the?IEEE?International?Conference?on?Computer?Vision，?2017：?27362744.

［23］HINTON?G，?VINYALS?O，?DEAN?J.?Distilling?the?knowledge?in?a?neural?network?［J/OL］.?arXiv，?2015，?14：?1503.02531.?DOI：?10.48550/arXiv.1503.02531.

［24］LIU?Shouxin，?LONG?Wei，?HE?Lei，?et?al.?Retinexbased?fast?algorithm?for?lowlight?image?enhancement?［J/OL］.?Entropy，?2021，?23（6）：?746.?DOI：?10.3390/e23060746.

［25］HU?Jie，?SHEN?Li，?SUN?Gang.?Squeezeandexcitation?networks?［C］∥Proceedings?of?the?IEEE?Conference?on?Computer?Vision?and?Pattern?Recognition，?2018：?71327141.

［26］MA?Xu，?GUO?Jingda，?TANG?Sihai，?et?al.?Learning?connected?attentions?for?convolutional?neural?networks?［C］∥2021?IEEE?International?Conference?on?Multimedia?and?Expo?（ICME），?IEEE，?2021：?16.

［27］于佳龍.?面向移動設備的圖像分類任務功耗優化研究［D］.?西安：?西北大學，?2019.

［28］TAN?Mingxing，?LE?Q?V.?EfficientNet：?Rethinking?model?scaling?for?convolutional?neural?networks?［C］∥International?Conference?on?Machine?Learning，?PMLR，?2019：?61056114.

［29］ZHENG?Heliang，?FU?Jianlong，?ZHA?Zhengjun，?et?al.?Learning?deep?bilinear?transformation?for?finegrained?image?representation?［C］∥Proceedings?of?the?33rd?International?Conference?on?Neural?Information?Processing?Systems，?2019：?42774286.

［30］SZEGEDY?C，?IOFFE?S，?VANHOUCKE?V，?et?al.?Inceptionv4，?inceptionresnet?and?the?impact?of?residual?connections?on?learning?［C］∥Thirtyfirst?AAAI?Conference?on?Artificial?Intelligence，?2017.

［31］LIU?Zhuang，?MAO?Hanzi，?WU?Chaoyuan，?et?al.?A?convnet?for?the?2020s?［C］∥Proceedings?of?the?IEEE/CVF?Conference?on?Computer?Vision?and?Pattern?Recognition，?2022：?1197611986.

［32］SELVARAJU?R?R，?COGSWELL?M，?DAS?A，?et?al.?Gradcam：?Visual?explanations?from?deep?networks?via?gradientbased?localization?［C］∥Proceedings?of?the?IEEE?International?Conference?on?Computer?Vision，?2017：?618626.

［33］原忠虎，?王維，?蘇寶玲.?基于改進VGGNet模型的外來入侵植物葉片識別方法［J］.?計算機與現代化，?2021（9）：?711.

［34］張善文，?張傳雷，?王旭啟，?等.?基于葉片圖像和監督正交最大差異伸展的植物識別方法［J］.?林業科學，?2013，?49（6）：?184188.

［35］李雅婷.?基于殘差網絡的植物分類識別方法研究與實現［D］.?呼和浩特：?內蒙古大學，?2021.

［36］HATI?A?J，?SINGH?R?R.?Artificial?intelligence?in?smart?farms：?plant?phenotyping?for?species?recognition?and?health?condition?identification?using?deep?learning?［J］.?AI，?2021，?2（2）：?274289.

［37］李文逵，?韓俊英.?基于一種輕量級卷積神經網絡的植物葉片圖像識別研究［J］.?軟件工程，?2022，?25（2）：?1013.

［38］王冠，?王建新，?孫鈺.?面向邊緣計算的輕量級植物病害識別模型［J］.?浙江農林大學學報，?2020，?37（5）：?978985.

（責任編輯：楊明麗）