mRMR和PSO算法對神經網絡預測模型優化效果

杜潤琪, 于 丹, 劉益民, 岑 悅

(1.北京建筑大學, 北京 102627; 2.中國建筑科學研究院有限公司, 北京 100013)

1 概述

隨著科技進步,傳統集中供熱正向智慧供熱發展[1]。利用人工智能算法對供熱負荷進行準確預測,是實現供熱系統優化調節及節能運行的先決條件與迫切需求[2]。

當前已有研究人員對供熱負荷預測進行了相關研究[3-6]。BP(Back Propagation)神經網絡適用于對供熱負荷這類非線性對象的預測建模[7],但存在收斂速度慢及易陷入局部極小值等缺陷[8]。因此,本文提出利用最大相關和最小冗余(Maximum Relevance and Minimum Redundancy,mRMR)算法對BP神經網絡預測模型的輸入變量進行特征選擇,加快BP神經網絡預測模型的收斂速度并提高預測精度,得到mRMR-BP神經網絡預測模型。然后利用粒子群優化(Particle Swarm Optimization,PSO)算法優化mRMR-BP神經網絡預測模型初始參數,進一步提高預測模型預測精度并避免陷入局部極小值,最終建立PSO-mRMR-BP神經網絡預測模型。對實際住宅樓進行供熱負荷預測,評價3種神經網絡預測模型的預測效果。

2 mRMR算法與PSO算法

① mRMR算法

BP神經網絡預測模型的拓撲結構受輸入節點數量的影響,因此確定合理的輸入節點數量對提高BP神經網絡預測模型的收斂速度及預測精度至關重要[9]。本文采用mRMR算法選取BP神經網絡預測模型輸入變量集合。

mRMR算法是一種基于互信息理論的封裝式特征選擇方法[10],互信息是信息論中用于度量變量間相關性的一種參數(互信息越大,表明相關性越強)。mRMR算法的功能為在原始輸入變量集合中找到與目標變量相關性最大,但是輸入變量之間冗余最小的輸入變量集合。

基于mRMR算法,可計算得到各輸入變量(共m個輸入變量)與預測目標變量的互信息,并按照由高到低的順序進行排序?；诟鬏斎胱兞炕バ畔⒌呐判蚪Y果,選擇序列中1～m個輸入變量作為預選輸入變量集合,輸入BP神經網絡預測模型中進行訓練,以預測結果的均方根誤差(Root Mean Square Error,RMSE)最小作為評價指標,選取最佳mRMR-BP神經網絡預測模型,對應的預選輸入變量集合即為最優輸入變量集合。

② PSO算法

PSO算法是一種模仿鳥群社會行為的智能優化算法,可用于解決非線性、不可微、多峰值的復雜問題[11]。算法中的每個粒子都代表問題的一個潛在解,用位置、速度、適應度值3項指標表示該粒子特征,通過不斷迭代更新粒子的速度和位置達到全局最優解。

由于mRMR-BP神經網絡預測模型會隨機對初始參數進行賦值,易陷入局部極小值,因此本文利用PSO算法對mRMR-BP神經網絡預測模型的初始參數進行優化。通過PSO算法搜索全局最優初始權值和閾值,并將計算得到的最優初始權值和閾值賦予mRMR-BP神經網絡預測模型,最終得到優化后的PSO-mRMR-BP神經網絡預測模型。

3 預測模型優化步驟

a.從實際工程中得到輸入變量數據及供熱負荷數據。

b.基于mRMR算法計算各個輸入變量的互信息,并按照互信息由高到低對輸入變量進行排序。

c.選擇序列中1～m個輸入變量作為預選輸入變量集合,輸入BP神經網絡預測模型進行訓練。

d.以RMSE最小為評價指標,選取最佳mRMR-BP神經網絡預測模型,對應的預選輸入變量集合即為最優輸入變量集合。

e.經過mRMR算法優化后確定mRMR-BP神經網絡預測模型的拓撲結構,初始化mRMR-BP神經網絡預測模型。以模型預測結果的相對誤差絕對值作為個體適應度值,利用PSO算法優化mRMR-BP神經網絡預測模型的初始權值和閾值。

f.訓練模型,直至預測值與實際值滿足相對誤差絕對值小于等于0.01后停止訓練。

4 預測效果評價

① 工程概況

北京市某住宅小區共16棟住宅樓,熱力站設在地下一層,每個樓棟口安裝調節閥。監測數據均來自設置在熱力站內的二級管網監控平臺。采樣時間間隔在監控平臺中已經設定,本次僅調取各監測數據的逐時平均值。監測數據包括室外溫度、室外風速、室外相對濕度、二級干管供水溫度、二級干管回水溫度、二級干管供水壓力、二級干管回水壓力、二級干管流量、二級循環泵運行頻率、住宅樓室內溫度、住宅樓流量、住宅樓供熱負荷、樓棟口調節閥開度、熱力站供熱負荷。

② 數據來源

以小區內某棟住宅樓為研究對象,對該住宅樓供熱負荷進行預測。住宅樓供熱面積為7 000 m2,共有48戶住戶。2 259組數據樣本來自該住宅樓2019—2020年供暖期,每組數據的采樣間隔為1 h。

③ 缺失值與異常值處理

直接刪除連續12 h缺失的數據,其余缺失數據采用K最近鄰(K-Nearest Neighbors,KNN)算法,根據缺失樣本周圍K個鄰近樣本的平均值進行填充[12]。利用拉依達準則[13]篩選過大、過小等異常值,并刪除含有異常值的數據組。處理后的有效數據為1 889組。

④ 模型訓練數據和驗證數據

隨機抽取處理后的1 789組數據,作為BP神經網絡預測模型的訓練數據,基于MATLAB平臺建立BP神經網絡預測模型以及進行mRMR算法、PSO算法優化。經隨機抽取后剩余的100組數據用于預測模型驗證。

⑤ 最優輸入變量集合

以住宅樓當前供熱負荷為預測目標變量,考慮到居住建筑的熱惰性,引入住宅樓前3 h、2 h、1 h供熱負荷,共計16個輸入變量,利用mRMR算法篩選出最優輸入變量集合。由mRMR算法得到的16個輸入變量的互信息見表1。由互信息可知,二級干管回水溫度與住宅樓當前供熱負荷的相關性最強,相關性最弱的是住宅樓室內溫度。

表1 16個輸入變量的互信息

根據輸入變量相關性排序結果,從1～16號輸入變量依次選取輸入變量集合。利用BP神經網絡預測模型進行訓練,得到16個預測模型。預測模型RMSE隨輸入變量數量的變化見圖1。輸入變量數量為1時,輸入變量僅為二級干管回水溫度。輸入變量數量為2時,輸入變量為二級干管回水溫度、樓棟口調節閥開度。以此類推。由圖1可知,輸入變量數量為12時,預測模型RMSE最小,此時輸入變量集合為最優輸入變量集合。

圖1 預測模型RMSE隨輸入變量數量的變化

⑥ 神經網絡預測模型的拓撲結構

與mRMR-BP神經網絡預測模型、PSO-mRMR-BP神經網絡預測模型對比的BP神經網絡預測模型共有16個輸入變量,因此輸入節點數量為16。預測模型的輸出為住宅樓當前供熱負荷,即輸出節點數量為1。因此,BP神經網絡預測模型的拓撲結構為16-33-1[14]。

mRMR-BP神經網絡預測模型、PSO-mRMR-BP神經網絡預測模型均基于最優輸入變量集合建立,最優輸入變量集合中有12個輸入變量,即輸入節點數量為12,預測模型的輸出同樣為住宅樓當前供熱負荷。因此,mRMR-BP神經網絡預測模型、PSO-mRMR-BP神經網絡預測模型的拓撲結構均為12-25-1[14]。3個模型均為多輸入、單輸出結構。

⑦ 預測效果評價指標

本文選擇平均相對誤差(Mean Relative Error,MRE)絕對值、RMSE、最大絕對誤差絕對值作為預測效果評價指標。3種評價指標的值越小,說明預測結果越接近實際,預測模型的預測效果越好。

⑧ 預測效果評價

將經過隨機抽取后余下的100組數據樣本作為驗證數據進行驗證,得到BP神經網絡預測模型、mRMR-BP神經網絡預測模型、PSO-mRMR-BP神經網絡預測模型的預測結果。3種神經網絡預測模型的預測值與實際值見圖2。由圖2可知,3種神經網絡預測模型預測值的變化趨勢與實際值均基本一致。與BP神經網絡預測模型、mRMR-BP神經網絡預測模型相比,PSO-mRMR-BP神經網絡預測模型預測值更加接近實際值。

圖2 3種神經網絡預測模型的預測值與實際值

3種神經網絡預測模型預測值與實際值的絕對誤差見圖3。由圖3可知,與BP神經網絡預測模型、mRMR-BP神經網絡預測模型相比,PSO-mRMR-BP神經網絡預測模型預測值與實際值的絕對誤差的絕對值更小。

圖3 3種神經網絡預測模型預測值與實際值的絕對誤差

3種神經網絡預測模型的預測效果評價指標見表2。由表2可知,BP神經網絡預測模型的MRE絕對值、RMSE、最大絕對誤差絕對值均最大,為3種神經網絡預測模型中預測效果最差的預測模型。PSO-mRMR-BP神經網絡預測模型的MRE絕對值、RMSE、最大絕對誤差絕對值均最小,為3種神經網絡預測模型中預測效果最佳的預測模型。說明,在經過mRMR算法對預測模型輸入變量進行篩選以及PSO算法對模型初始參數進行優化后,預測模型的預測效果顯著提高。

表2 3種神經網絡預測模型的預測效果評價指標

5 結論

在3種神經網絡預測模型中,BP神經網絡預測模型的預測效果最差,PSO-mRMR-BP神經網絡預測模型的預測效果最佳。與BP神經網絡預測模型相比,經過mRMR算法對輸入變量進行篩選以及PSO算法對初始參數進行優化,PSO-mRMR-BP神經網絡預測模型的預測效果顯著提高。