基于霧計算的制造物聯網數據處理技術綜述

韓 坤，王 政，段俊勇，楊化林

（青島科技大學機電工程學院，山東 青島 266061）

0 引 言

第四次工業革命的到來，給傳統的制造組織帶來了許多挑戰，企業需要做到管理工廠內日漸復雜的環境，降低生產中斷的可能性，同時實現更加高效的生產［1］。這是一種從現有的集中控制制造到分散制造的范式轉變，能夠實現生產資料、人員，甚至產品之間的無障礙溝通，這就需要將物聯網（Internet of Things，IoT）標準和技術整合到工業流程中［2］，從而促進工業物聯網（Industrial Internet of Things，IIoT）的產生。

IIoT 將工業流程抽象為數據類型，將設備轉化為數據終端，全方位收集底層基礎數據［3］，并結合云計算強大的數據存儲和計算功能，執行更深入的數據分析和挖掘，以提高效率和優化運營。而制造業是迄今為止最大的工業物聯網市場，制造物聯網（Manufacturing Internet of Things，MIoT）作為IIoT 的一個分支［4］，主要致力于改進工廠運營和生產，減少機器停機時間，提高生產質量，數據處理技術則是提升MIoT核心競爭力和效率的關鍵技術。

制造業復雜的生產環境決定了工業網絡將傳輸海量的異構多源多模態數據，且與多協議、多種命名格式并存［5］的狀況，這些數據需要被及時處理。云提供低成本、可擴展的存儲和處理能力，是儲存和處理工業大數據的有效方法，但是隨著數據的爆炸式增長，云計算已經漸漸無法滿足數據處理要求，且云中的數據需要提供給服務器進行處理，再發送回設備，這大大增加了延遲［6］。霧計算的發展使得數據處理能在系統邊緣進行［7］，能夠減少通信以實現數據的實時處理，這對于需要實時監控設備運行情況的制造業來說是十分重要的，表1［8］給出了霧計算和云計算的技術性能比較。

表1 云和霧的技術性能比較

作為一種去中心化的計算概念，霧計算為實時數據處理提供分布式解決方案［9］，是計算領域的一個最新范式轉變，是一種對云計算概念的延伸［10］。霧計算由部署在云平臺和現場設備之間的一些服務器組成，通常位于本地網絡上的節點附近，使數據的存儲、計算和分析工作能在更接近數據源和用戶的地方進行［11］，能夠增強多功能性、降低延遲、提升傳輸速度以及提高安全性［12］。它還與云相關聯，實現對延遲無感知的處理和有用數據的長期存儲。

本文提出一種應用于MIoT 的霧計算的架構，并總結其中的關鍵技術和數據處理方式。

1 MIOT數據特點及處理挑戰

1.1 MIoT數據的特點

MIoT 通常應用于惡劣的工業環境中，由多種制造設備、傳感器、執行器、控制器、RFID 標簽和智能儀表組成［4］，這些分布式異構工業設備形成邊緣網絡從工業現場中實時感知和收集工業數據，然后通過異構網絡［13］與MIoT系統連接，對數據進行傳輸和處理。

從2018 年到2025 年，制造業數據年增長率將達到30%，結構化數據（如關系數據庫或電子表格中的表格數據）僅占生成的所有數據的5%，其余部分由JSON、XML、圖像、視頻和音頻等格式的半結構化和非結構化數據組成［14］。

隨著制造業的快速發展，MIoT 系統的規模越來越大，某個傳感器每秒就可生成數萬個數據點［15］。日益復雜的工業環境也使得制造數據具有多維度［16］、多噪聲［17］、不平衡［18］、格式異構［19］和數據冗余［20］等特點，并以實時方式生成［21］。這使得MIoT 數據處理工作的難度大大增加，而數據處理在提取信息值、預測即將發生的事件和預測產品的增量/減量方面又起著重要作用。

1.2 數據處理的挑戰

從MIoT 的功能來看，數據被放在核心位置，數據驅動的決策和過程控制有助于優化工作流和減少停機時間，使制造過程具有更高的效率和有效性［22］。工業大數據主要來源于生產和運營業務數據、設備和對象數據，以及由大量設備和冗長業務流程生成的企業外部數據。數據收集、傳輸、處理和應用是MIoT 的主功能，尤其數據處理是前提，它貫穿于MIoT 的各個部分［23］。

制造業數據復雜的特點給數據分析帶來了許多挑戰：

1）高效的數據傳輸。由于大數據傳輸成為無線通信系統的主要瓶頸，因此帶寬消耗高［24］。而且數據傳輸過程中的能耗問題也是許多無線工業系統的主要制約因素之一［25］。

2）減少數據冗余［26］。MIoT 生成的原始數據具有時間和空間冗余的特點，并且由于機械故障或傳感器錯誤而經常出錯和有噪聲［27］，這通常導致產生數據偏差，繼而對后續的數據分析工作造成影響。

3）數據存儲的可靠性和持久性［28］。由于數據量巨大，在平衡成本的同時滿足數據存儲可靠性和持久性是有一定挑戰性的。

4）可伸縮性［29］。MIoT 海量數據集導致了傳統數據庫在大數據分析中的不可行性。因此，數據的處理任務應該以一種彈性的方式向下和向上擴展轉移。

5）數據處理的時間和空間相關性［30］。與傳統的數據倉庫不同，MIoT 數據通常是空間和時間相關的。如何管理數據并從時間/空間相關的MIoT 數據中提取有價值的信息成為新的挑戰。

6）高效的數據挖掘［31］。一方面，由于數據量巨大，應用傳統的多通道數據挖掘方案是不可行的，另一方面，緩解MIoT 數據錯誤特征導致的數據錯誤和不確定性至關重要，使得設計高效數據挖掘方案成為一項挑戰。

上述的挑戰如果完全通過云計算，會消耗太多的帶寬資源，運營成本會很高，數據處理的整體延遲也會增加。尤其是對于延遲敏感的任務，如果將收集到的數據移交給云平臺進行處理和決策，信息的有效時間段可能會一直被錯過［32］。并且在一些時間敏感的任務中，如智能工廠設備的緊急關閉和智能連接車輛的緊急制動，數據傳輸到云平臺進行處理后再返回將導致更嚴重的后果。因此，將部分數據從云數據中心卸載到霧節點進行處理是解決上述問題的解決方案［33］之一。

2 基于霧計算的數據處理架構

系統架構通常是基于特定場景的技術、業務和服務需求提出的，以確定層的數量和功能。目前比較主流的觀點認為霧計算的架構包括設備層、霧層、云層［34-36］，或者物聯網層、霧計算層和云計算層［37-38］。雖然3 層的名稱各不相同，但每一層的功能相對類似。本文考慮到MIoT 數據的復雜性和不同的處理要求，將架構中關鍵的霧層進一步進行分層，如圖1所示。

圖1 MIoT中霧計算的參考架構

2.1 設備層

設備層包括位于或嵌入在現場設備中的設備，如機床、控制器、傳感器、執行器和機器人等。這些設備從生產環境中收集機器數據，通過各種傳感器網絡和通信適配器傳輸實時數據，并向執行器發出控制命令。這些傳感器網絡和通信適配器通常會基于簡單對象訪問協議（SOAP）、MTConnect 和開放平臺通信統一架構（OPC UA）等協議運行。

同時，設備層需要通過維護信息采集節點（這些節點根據從傳感器獲得的輸入動態更改系統執行策略）來維持與設備間的通信，進而維護各種通信協議，以實現工業現場和霧節點之間的通信［39］，完成對數據的采集和傳輸任務。

數據的傳輸可以通過低功率廣域網（LPWAN）、WiFi、移動通信等技術實現。LPWAN 是一種先進的無線通訊技術，包括Sigfox、LoRa 和窄帶物聯網（NBIoT）等技術，相較于另外2 種方式LPWAN 的功耗更低，使用壽命也更長。

2.2 霧層

霧層是MIoT 系統的核心，主要負責接收、處理來自設備層的數據流，提供安全和隱私保護、數據分析、流程優化和實時控制等時間敏感服務。本文根據霧層數據處理的具體功能將其分為3 個子層：近霧層、中霧層和遠霧層，3 個子層分工明確，高效地完成數據處理工作。

2.2.1 遠霧層

遠霧層是設備層和霧層之間的過渡層，包含一些設備控制器，從設備層收集數據，執行初步閾值判斷或數據過濾［40］，并將控制流從霧層或云應用層向下傳輸到設備層。

由于設備層中傳感器和設備的異質性［41］，遠霧層中的控制器必須能夠與各種協議兼容，并訪問各種傳感器或設備，以便能夠從MIoT 的時延敏感網絡實時收集數據。采集數據后，需要對其進行閾值判斷或數據濾波，同時，遠霧層的控制器需要將控制流傳輸到設備層，因此降低延遲也是遠霧層的重要任務［42］。

2.2.2 中霧層

中霧層主要包含一些邊緣服務器或網關，負責通過有線網絡（現場總線、工業以太網、工業光纖等）或無線網絡（WiFi、藍牙、RFID、NB-IoT 等）獲取來自收集遠霧層的數據并緩存在霧節點中［43］，同時完成時間敏感性數據的分析。與僅執行簡單閾值判斷或數據過濾的遠霧層不同，中霧層具有更多的存儲和計算資源來處理從設備收集的數據［44］。遠霧層將從MIoT設備層收集的異構數據首先在中霧層進行預處理、融合和緩存［45］，同時保存數據分析日志以供將來使用。MIoT 數據的數據預處理方法包括數據清理、數據集成和數據壓縮［46］，如圖2所示。

圖2 數據預處理技術

時間敏感型或者延遲敏感型數據可以在中霧層進行處理［47-48］。被保留在霧節點的時敏數據通過機器學習或者深度學習算法進行實時過濾和分析，處理過的數據被保存在霧節點中，并完成對設備層的信息反饋和向云層傳送處理結果的任務。數據重構也是中霧層的功能之一，該組件負責處理傳感器產生的錯誤和不完整的數據，如果一個或多個傳感器在操作期間發生故障，該組件將根據數據生成模式重建數據，以防止中斷或任何其他應用程序故障。

2.2.3 近霧層

近霧層包含一些功能強大的服務器，負責執行更復雜和關鍵的數據處理［49］，并且通過專用網絡從中霧層收集數據以提高系統決策能力［50］。同時，近霧層的服務器具有業務應用管理和平臺管理功能［51］。該層具有比遠霧層和中霧層設備更強大的存儲和計算資源。因此，近霧層主要用于異構數據的批量處理和操作、推理和訓練更精確的模型，以獲得更好的下級網絡生產調度決策。

另外，霧節點廣泛分散和開放的結構設計使其容易遭受無端惡意攻擊［52］，因此近霧層中應部署安全組件確保設備安全、網絡安全和數據安全。

2.3 云層

云層包括具有大量資源的高速服務器，支持計算密集型操作和長期存儲［53］，云可以一次連接到多個霧節點，擁有強大的計算能力和存儲容量，主要負責非時間敏感數據的分析，以及從海量數據中挖掘潛在價值，實現最佳資源分配。歷史數據可用于分類、時間序列分析、預測建模和識別隱藏的趨勢或模式。

另一方面，云層要負責提供對整個系統的全面監督，以幫助系統的主動管理。這種監督包括監控數據流和網絡健康狀況等服務，以及控制系統的能力。云層可以提供靈活、通用、互操作的智能的應用，幫助維護業務系統的安全性。

3 數據處理技術

在霧計算中，來自現場設備和異構傳感器的異構數據構成了數據源。收集的數據可能包括多種類型，如模糊和不完整的數據，因此在數據處理的不同階段需要不同的處理技術。

3.1 傳感器技術

當前的制造系統由不同的技術定義，但使用的主要技術是傳感器、致動器、效應器、控制器和控制回路［54］。傳感器在MIoT 中起著至關重要的作用，它準確地收集工業現場的數據并將其應用到制造過程中，以提高生產質量。在許多情況下，傳感器將物理刺激轉換為電信號，然后對其進行深度的評估和分析，以便對正在進行的操作做出決策［55］。最新的傳感器技術使制造商能夠前所未有地控制和獲取數據［56］。制造業中常用的無源傳感器有溫度傳感器、壓力傳感器、位置傳感器、力傳感器和流量傳感器等［57］。

目前很多研究都利用基于物聯網的傳感器來確定真實現場的環境條件，使數據可以實時呈現?；谖锫摼W的傳感器為制造業提供了重要的解決方案，彰顯了傳感器在提高物聯網系統性能方面的重要作用。Moon 等人［58］開發了一種基于物聯網的傳感器，采集工廠內的溫度、濕度、CO2含量、灰塵和氣味數據，并通過無線通信進行收集和傳輸，能夠實時準確地測量工廠內的環境狀況，并有望幫助管理人員為工廠內的工人保持最佳的工作環境。Salamone 等人［59］提出了一種基于低成本物聯網傳感器的環境監測系統，系統通過傳感器來收集溫度和濕度數據，防止增材制造在設計階段產生錯誤。Li 等人［60］利用物聯網傳感器收集數據，用于礦井提升設備的故障診斷，該研究表明物聯網傳感器可以幫助提供完整的診斷數據，對于改善診斷結果很有幫助。

基于物聯網的傳感器和其他相關組件的數量正在顯著增加，使傳統數字化制造向現代數字化制造轉型成為可能。隨著制造業中收集傳感器數據的設備數量的增加，可以處理大量傳感器數據輸入的新型應用（如大數據技術、機器學習）的潛力也在增加。Ge等人［61］通過在物聯網中集成大數據技術開發了一個概念框架，有望支持關鍵決策，通過利用大數據處理，使得傳感器設備收集的大量數據以有效的方式得到處理和呈現，從而幫助管理者更好地做出決策。

3.2 機器學習

制造業已經迎來了數據爆炸式增長的時期，分析收集到的數據并提取有意義的信息能夠極大地提高生產效率。因此工業物聯網框架需要智能、健壯的技術對系統收集到的數據進行預處理、后處理和數據挖掘等一序列工作，機器學習等技術的新發展為分析數據提供了無限可能，使系統根據具體情況做出決定，并從收集到的數據中學習［62］，在提高系統執行能力和數據處理等方面發揮著重要作用。

3.2.1 常用算法

制造業正在見證可用傳感器數據以多種格式、不同語義和結構的方式進行前所未有的擴展。感官數據是從制造過程的各個方面收集的，包括生產線、設備、手工活動和工廠生產條件。數據建模與分析是智能制造中處理海量數據、支持實時數據處理的重要組成部分，這些都是機器學習技術的基本任務，在現有的技術中，有少數已在制造業中得到有效應用。

1）支持向量機（SVM），作為一種監督學習算法，常被用來解決分類和預測問題［63］。但是支持向量機需要覆蓋整個數據點空間的大量數據，因此學習速度慢，缺乏對人類的解釋能力［64］。

2）決策樹是一種易于理解和解釋的圖形算法，由于在數據挖掘的關鍵特征上得分很高，因此在預測性數據［65］中得到了廣泛的應用。決策樹的優點是學習速度很快，但是不能解決非線性問題。

3）K-近鄰算法（K-NN）是一種用于非線性問題（即分類和模式識別）的機器學習算法，對缺失、有噪聲、模糊、不相關和冗余的數據值非常敏感，分類速度非常慢，但是K-NN 具有較高的學習速度，是學習速度最快的ML（Machine Learning）算法之一［66］。

4）卷積神經網絡（CNN）是一種多層前饋人工神經網絡，在制造業中通常被用于表面缺陷檢測、系統狀態監測、故障診斷和剩余壽命預測等方面［67］。

3.2.2 制造業中的機器學習應用

在機器學習上進行的工作涉及執行器、傳感器和低層霧節點。學習過程從數據觀察開始，即直接體驗或指導，根據提供的示例找到數據模式，目的是讓計算機在沒有人工干預或協助的情況下自動學習，用于檢測某些模式或規律，如故障檢測、質量預測、缺陷分類等，并在未來工作中［68］自行決策。

故障檢測和診斷是數據處理的重要應用，用于檢測過程中的異常事件。及早發現工藝故障，有助于避免生產率損失。隨機森林算法在故障檢測方面效果顯著，作為一種集合預測算法，它聚合了單個決策樹的結果，通過決策樹算法訓練子數據集，最后基于對森林中所有樹木的多數投票（投票最多的類別）來選擇最終預測結果。Quiroz 等人［69］使用隨機森林算法檢測轉子桿的故障，他們在隨機森林和其他模型（決策樹、樸素貝葉斯、邏輯回歸和支持向量機）之間進行了性能比較，最終隨機森林算法的準確率約為98.8%，高于其他算法，該模型可用于實時故障監測系統和工廠預防性維護系統。此外，Patel 等人［70］還利隨機森林算法檢測軸承故障，并與現有人工智能技術神經網絡進行橫向對比，結果表明隨機森林算法具有更好的性能和更高的精度。

機器學習算法遇到離群數據的問題時，分類模型的準確性會降低，可以通過缺陷分類的方式在預處理步驟中識別數據中的異常值。Syafrudin 等人［71］提出了一種混合預測模型，該模型包括基于DBSCAN聚類算法的異常值檢測用以去除異常值數據，通過隨機森林算法檢測制造過程是否正?；虍惓＿\行，混合預測模型與實時大數據處理系統集成，能夠實時處理基于物聯網的傳感器設備（溫度、濕度、加速度計和陀螺儀等）的傳感器數據和故障預測。

機器學習在產品質量預測上同樣十分重要。Lee等人［72］針對金屬鑄件產品質量預測問題對4 種機器學習算法（決策樹、隨機森林、卷積神經網絡和支持向量機）進行了評估分析，結果表明4 種機器學習算法都可以有效地用于預測產品質量。Chen 等人［73］利用支持向量機算法預測高功率磁盤中的焊接質量，并且開發了一種智能系統，有效地應用于實際產品的質量檢測自動化任務，減少了制造過程中的錯誤警告。

3.3 大數據處理技術

制造過程中產生的數據每天都在以不同的類型和格式（過程日志、事件、圖像和傳感器數據等）增加，部分時敏數據能夠在霧節點上完成處理，但是處理結果以及剩余大量數據都將匯集到云層中，這些數據的處理和存儲正成為一個需要解決的挑戰性問題。制造業中可以使用幾種大數據技術來快速處理和存儲大量數據，如Apache Kafka、Apache Storm 和NoSQL MongoDB。

Apache Kafka是一種可擴展的消息隊列系統，用于構建實時應用程序，它具有容錯、高吞吐量和可擴展性等優點。Park 等人［74］對制造業中的機器日志提出了一種基于Apache Kafka的攝取系統架構，系統從一組銑床收集機器日志，在Kafka 消息隊列中處理它們，并將它們傳遞給外部系統以供進一步分析。Ferry等人［75］提出了一種基于大數據技術的數據管理系統，用于處理制造車間的機器生成數據，該系統將Apache Kafka作為消息隊列，將Apache Storm 作為實時處理系統，該系統能夠大大地減少基礎設施的部署成本。

4 挑戰和未來的方向

4.1 挑戰

4.1.1 安全性

MIoT 更高連通性的發展趨勢意味著從更多地方實時收集更多數據以實現實時決策，提高收入、生產率和效率。在這種情況下，網絡安全威脅形勢也變得更加復雜，如果不能緩解影響MIoT 的安全和隱私問題，將無法充分發揮其潛力。MIoT 基礎設施的廣泛部署為攻擊者提供了一個極具吸引力的平臺［76］，可以通過數字方式滲透這些設備，由于其地理分布、移動性和異構性的特點，云中存在的安全和隱私機制不能直接應用于霧計算。

霧計算中主要的安全問題包括身份驗證、機密性、隱私和信息的可用性等［77］。Wu等人［78］提出了一種稱為霧計算入侵檢測系統（FC-IDS）的機制，這是一種抵御分布式拒絕服務（Distributed Denial of Service，DDoS）的技術，基于先驗算法，提出了一種超圖分組模型，用于有效描述遭受DDoS 威脅的節點之間的關聯，該模型對霧節點的資源利用具有更好的性能，但沒考慮系統延遲增加的問題。Fu 等人［45］基于真實實驗和模擬評估監控工廠車間的溫度，并專注于數據處理、使用唯一身份的安全存儲、每個節點上的密鑰、高效恢復和動態收集。數據由霧節點預先處理，完成時間敏感數據被本地使用和存儲的目的，而非時間敏感數據則被傳輸到云中的服務器。

4.1.2 效率

為了實現高效的性能結果，需要對嵌入所有技術的網絡進行必要的設計。研究表明，在分支定界算法的幫助下，使用下載模式可以最大化系統在效用、吞吐量和能效方面的性能［79］。Cau 等人［80］致力于通過提高移動邊緣計算（Mobile Edge Computing，MEC）的效率來提升系統性能，還可以通過MEC 實現對無線電網絡中信息的訪問，此功能可以用于應用開發和內容分發。

超可靠低延遲通信（Ultra Reliable Low Latency Communication，URLLC）和高容量的可靠服務也是提升系統效率的重要指標，制造業中數據的異構型和資源可用性差異會對霧節點的數據處理造成麻煩，而霧無線接入網絡（Fog Radio Access Network，FRAN）提供了一種解決方案。對此，Pontois 等人［81］提出了一種前向運輸約束下的非凸優化方法，通過一種混合半分布式資源分配算法，實現在最大吞吐量和系統延遲之間的權衡。Li 等人［82］提出了一個多目標優化問題，采用3 種并行算法來改善延遲、吞吐量和資源管理，研究了任務緩沖、卸載和資源分配算法下的排隊模型，并且使用李雅普諾夫漂移來設計資源分配策略，獲得了更好的系統性能。

4.1.3 數據儲存

提供存儲服務是霧計算的主要關鍵功能之一［83］，但如何實現為邊緣用戶提供分布式存儲系統仍然是一個懸而未決的問題。霧計算中有3 種主要的服務模型用于數據存儲和工作負載執行，即卸載、聚合和對等模型：1）在卸載模型中，從邊緣設備生成的數據被卸載到最近的霧節點，然后向云端卸載（向上卸載）；2）在聚合模型中，由多個邊緣設備生成的數據流在上傳到云數據中心之前需要在最近的霧節點進行聚合和處理；3）在對等（P2P）模型下，邊緣設備附近的霧節點共享其計算和存儲能力并進行協作，以便向邊緣用戶提供抽象存儲和數據處理。

為了處理從邊緣設備產生或消耗的大量數據，需要能夠支持數據分布式儲存的系統和改進算法。Moysiadis 等人［84］對當前主流的分布式數據存儲技術進行了總結，提出為確保高效可靠的數據存儲，不僅要考慮霧節點的存儲容量問題，還要系統地考慮容錯性、異構性、可擴展性、帶寬消耗等性能，并對此進行了詳細的敘述。

4.2 未來發展方向

霧計算在制造業的應用為現代制造業向智能化的發展提供了動力，并隨著量子計算、6G 通信技術、無服務器計算等新技術的發展，為霧計算提供了新的機遇和挑戰，為了迎接即將到來的變化，霧計算的體系結構需要更加健壯、可靠和靈活高效。

1）更安全。無服務器霧計算的概念可用于提高MIoT 系統的可擴展性并降低成本［76］，量子計算和區塊鏈等流行技術可以與無服務器邊緣計算一起使用，極大提高計算速度和安全性。人工智能系統在未來也將與霧計算框架集成，使系統更加智能化，優化生產流程，降低能耗，檢測生產線中的異常情況。

2）更高效，這就需要更加有效的計算卸載方案和更加可靠的高效調度算法。Sellami 等人［85］探討了一種方法將云和霧之間的混合卸載模式引入到與復雜應用程序相關的任務中，該方法基于任務需求，通過機器學習算法選擇將任務卸載到霧或云上，以實現負載平衡并更高效地執行。此外，Jamil 等人［86］介紹了一種高效的調度算法，用于霧節點上的高效資源利用，該算法根據延遲和資源利用標準對霧節點進行排序，然后通過基于博弈論的智能調度算法優化任務分配，以提高系統的整體性能。

5 結束語

數據是IIoT 的血液，對于生產環境更加惡劣的MIoT 系統而言，數據處理工作更是貫穿了其每一個環節，隨著科技的不斷發展，數據處理技術從云計算衍生出了霧計算，處理工作也從系統中心向邊緣偏移，極大地提高了數據處理的效率，也緩解了傳輸帶寬有限的問題。本文介紹了MIoT 數據的特點以及數據處理的必要性，并根據數據處理過程中的具體功能實現介紹了基于霧計算的MIoT 數據處理架構以及關鍵的數據處理技術，最后介紹了霧計算所面臨的挑戰并闡述了未來發展方向，希望對后續霧計算在MIoT中的具體應用起到幫助作用。