自動化故障對操作者綜合績效的影響及應對措施

陳樹駿

（通號通信信息集團有限公司，北京 100070）

隨著自動化等技術的發展，人-機協同任務中“機”的部分正在變得越來越自動化，在各個領域得到了廣泛的應用，逐漸將人工操作者從任務的直接執行者變為了任務的監控者。在自動駕駛領域，駕駛自動化可以減少由人為錯誤造成的交通事故、提高交通效率，并有望改變人類駕駛員的角色。如采用了較低水平的自動駕駛系統和復雜的自動駕駛輔助系統的特斯拉Model S 和沃爾沃S90 要求駕駛員監測道路情況和自動化系統的狀態[1]，駕駛員的主要任務從駕駛轉變為了監控，因此需要了解自動化的功能和故障，以便在系統遇到功能限制時及時進行干預，進而保證駕駛安全。采用自動化技術不僅可以把人從繁重的體力勞動、部分腦力勞動及惡劣、危險的工作環境中解放出來，而且能擴展人的器官功能，較大程度地提高勞動效率。

誠然，自動化技術的使用帶來了多方面的益處，但是也導致了諸多負面影響，引起了人們的高度關注。實際上，并不存在一種完全可靠、永不出錯的自動化系統，自動化功能也會出現故障或失效的情況。自動化故障/失效指的是自動化系統出現差錯，自動化的故障模式可以分為3 種類型：漏檢（發生但是沒有被檢測到的故障）、誤報（未發生但是被檢測到的故障）和診斷錯誤（檢測到故障，但是類別被診斷錯誤的故障）[2]。偶發性的自動化系統故障動輒會造成無法彌補的災難性后果，比如1985 年中華航空358 號班機空難：飛行過程中4 號引擎的推力減弱且無法重啟，導致機身不平衡時，本就處于超負荷工作狀態的機長們做出了錯誤的判斷和應對操作，加速了飛機的失速墜落，好在最后在不到609.6 m 的高度將一架俯沖姿勢的飛機改為正常運行并迫降舊金山機場，挽救了200 多名乘客的生命；但飛機的機身嚴重受損，機尾的狀態極為不好，左側的水平翼也被折斷，液壓系統已經完全被破壞。

經過文獻調研發現，目前的研究大多數是分析自動化功能的故障對于操作者某一方面的影響，并未進行多維度的闡述。本文以有自動化參與的運行工況為背景，從自動化信任、操作績效、情境意識和工作負荷在內的具體維度評估自動化功能的故障/失效對操作者綜合績效的影響，并提出了應對措施。

1 自動化故障對操作者綜合績效的影響

本文分別從自動化信任、操作績效、情境意識和工作負荷的維度闡述自動化功能的故障/失效對操作者綜合績效的影響。

1.1 自動化故障與自動化信任

在自動化背景下，操作者對自動化系統的信任是其依賴復雜自動化系統執行任務的基本決定因素之一。自動化信任是指在以不確定性和脆弱性為特征的情況下，自動化系統將代替操作者實現操作目標的一種態度，自動化系統的可靠性便是其影響因素之一。操作者對系統主觀感知的信任程度會影響其對自動化系統的客觀行為上的依賴程度，信任程度過高或過低分別會導致操作者對自動化系統的過度依賴和棄用的不良現象，均不利于人機交互。

自動化故障或失效等異常情況的發生會降低操作者對當前執行任務的自動化系統的信任程度。LEE 等以一個駕駛模擬器為實驗設備，讓56 名司機完成了他們對自動化的信任程度的問卷調查，對數據的統計分析結果表明，違背用戶對自動化性能期望的自動化故障會導致駕駛員的信任水平暫時下降，之后經歷了無錯誤的自動化之后，減少的信任會得到一定程度的恢復。這表明自動化系統本身的可靠性是影響駕駛員對其信任程度的重要因素。除此之外，某系統的自動化功能故障除了會降低操作者對該系統的信任程度之外，也會導致其對其他100%可靠的自動化設備的可靠性的質疑，影響其信任和依賴水平，稱為“擴散效應”[3]。向駕駛員提供有關自動化系統的信息，以保持駕駛員在監督控制中與自動化系統本身的持續交互，是保持駕駛員對自動化系統信任的一種有效手段[4]。

1.2 自動化故障與操作績效

操作績效是對作業者完成任務好壞程度的客觀度量，是自動化系統中需要關注的重要指標。自動化系統大多是為正常工況設計的，會不可避免地發生故障，以至于影響作業者的操作績效水平。

SAUER 等模擬了一個可以在航天飛機上自動將二氧化碳、氧氣、壓力等的參數保持在設定的目標范圍內的管理空氣質量的生命維持系統，參與者在實驗中經歷了包括氧氣閥門泄露等在內的15 種故障場景。分析結果表明，系統中主要任務的自動化功能故障會顯著降低次要任務的績效水平，對主要任務的績效會帶來負面影響也得到了實驗驗證。

對于空中交通管制員來說，當自動化不可靠時，與信息采集自動化相比，所有自動化類型檢測即將發生的碰撞的時間要長得多，會顯著降低工作效率[5]。對于駕駛模擬無人機通過一系列任務航段，并且執行搜索目標和監控系統參數的操作者來說，具有較低可靠性的自動化輔助系統會顯著降低發生故障的任務及并發任務的績效水平[6]。

綜上可以看出，自動化系統某一功能的自動化發生故障，會對該任務及當前并發任務或次要任務的績效帶來負面影響。

1.3 自動化故障與情境意識

作業者對工作環境和系統狀態的了解程度是影響其能否做出正確決策和是否能防止事故發生的重要因素，這一因素被稱為“情境意識”。1989 年，美國國家運輸安全委員會（National Transportation Safety Board，NTSB）對361 起通用航空事故進行分析并得出結論，97%的可能原因是飛行員的失誤[7]，而大多數原因都與飛行員的情境意識相關。

具有較高的可靠性和較強的功能是自動化系統設計的主要目標，但是自動化系統的可靠性越高、功能越強大，操作者就越有可能將其注意力轉移到與當前執行任務無關的事情上，比如，駕駛員在監控汽車進行自動駕駛的過程中很有可能出現打電話等行為，這便是較高程度的自動化導致的駕駛員“人在環外”行為，也可以理解為駕駛員的注意力分散。2018 年，美國約有250 萬人在車禍中受傷，其中近16%的受傷是由于司機分心[8]。

2016-02-14，在美國加州山景城，Google 一輛自動駕駛汽車Lexus 與公交車發生的碰撞事故中，駕駛員在汽車自動行駛過程中沒有對汽車進行不間斷監控，當緊急事件發生，自動化系統失效后，需要人來接管駕駛任務，但是駕駛員很難在2 s 的時間內做出正確應對，導致這起事故發生的原因是自動化系統的介入在一定程度上降低了駕駛員手動操作技能及情境意識[9]，以至于在系統失效時不能進行有效應對。在鐵路運輸系統中，列車運行自動控制系統將乘務員的主要職責從駕駛轉為了監控列車的運行狀態，但是，這種長期且單調的監控任務非常不適合人為操作，主要原因在于長時間的單調工作容易導致列車乘務員的警覺性下降，即“單調效應”。

所以，正常工況設計的自動化系統出現故障或功能失效時，處于較低情境意識水平的駕駛員很有可能無法做出及時、正確的應對操作，甚至發生交通事故。

1.4 自動化故障與工作負荷

在人機系統領域，工作負荷一直是研究者們關注的主要指標，設計自動化系統的目標之一是在一定程度上降低操作者的工作負荷。

與完全可靠的自動化系統相比，自動化故障會影響操作員的認知需求，出現自動化故障時，操作者會體驗到更高的工作負荷水平。

在航空領域，數據通信（Data Communication）是空中交通管制員和機組人員使用的通信工具，允許操作人員共享實時空間、天氣和安全等信息，可以實現信息的定向傳輸，減少了語音通信引起的錯誤。但是，當數據通信出現故障時，空中交通管制員與機組人員之間就需要進行口頭溝通，增加了工作負荷，同時還占用了操作者的情境意識資源，降低其績效水平。汽車在自動駕駛模式下因自動駕駛功能限制或計算機等的功能限制而發生故障時，被要求恢復對車輛控制的駕駛員會比在手動駕駛狀態下經歷更高的腦力負荷。所以駕駛一輛可能需要隨時干預的高度自動化汽車需要駕駛員具有持續的注意力、保持高度警惕，以便及時發現何時需要恢復手動控制。

2 緩解自動化故障帶來的負面影響的技術手段

本文按照故障發生前、故障發生時和故障發生后的時間節點，分別提出對應的技術手段以緩解自動化故障/失效對操作者綜合績效的負面影響，包括提供后備方案、預防維護措施和培訓；提高系統信息透明度；構建故障診斷系統。

2.1 提供故障后備方案、預防維護措施

正所謂“未雨綢繆”，對特定系統提供后備方案、制定對應的故障預防維護措施，對操作人員提供相關故障培訓不失為可行的方式。

在列車自動運行的背景下，蘇靖棋提出了3 級自動化運行下故障后備方案中可能的人-機協作方式，即：傳統的人-人協作，采用ETCS（European Train Control System，歐洲列車控制系統）、無需ATO（Automatic Train Operation，列車自動運行系統）的列車員自主駕駛，有控制中心操作員參與、無需ATO系統的人-機協作，采用ATO 系統、無需ETCS 系統的列車員自主駕駛，有控制中心操作員參與、無需ETCS系統的人機協作，同時采用ETCS 系統和ATO 系統的列車員自主駕駛。

分級預防和生命周期預防的故障預防措施、增加自動化診斷技術和規范維護工作和管理工作的故障維護措施，毫無疑問也是保證化工行業自動化儀表等設備高水平運行的有效手段。

除了對自動化系統提供預防維護措施之外，還可以對操作者提供自動化故障的相關培訓，即讓操作人員為實際的情況做好準備，以便能夠應對意外事件，對操作者關于自動化故障的相關培訓經驗也會提高操作者在故障發生時所正在執行的次要任務的績效水平。

2.2 提高系統信息透明度

上述提供故障后備方案和預防維護措施會在一定程度上降低自動化故障/失效發生的概率，并非可以保證故障永不會發生。

NORMAN 認為，高水平自動化與執行監控任務的操作者之間缺乏持續的反饋和互動是故障發生的原因之一。提高系統信息透明度是一種在操作者與系統之間提供持續的反饋和互動的有效措施。關于透明度的概念，最根本的思想是將有關于自動化系統運行的某些信息以某種方式呈現給操作者，適當增加操作者獲得的信息量。

以提高系統信息透明度的手段來緩解自動化功能偶發性的故障或失效對作業者綜合績效的負面影響或許也不失為一種可行的方法。以自動駕駛為例，讓駕駛員及早意識到自動化功能故障的發生，及時介入并接管駕駛任務以處理潛在的危險后果是至關重要的。SHAHINI 以駕駛模擬器為設備，探究合適的接管時間預算（Take Over Time Budgets，TOTB），即接管請求和即將發生的故障之間的時間差，結果顯示，自動駕駛系統在故障發生的10 s 之前告知駕駛員會顯著降低其工作負荷。但是，一方面，應該考慮到更高水平的透明度可以提供更豐富的信息以輔助操作者決策，會在一定程度上減少操作者的工作負荷；另一方面，為增加透明度而提供的信息可能需要額外的認知資源來處理，這便會增加操作者的腦力負荷。因此，需要根據實際的應用場景提供適當的透明度信息。

2.3 構建故障診斷系統

故障發生后，“亡羊補牢，為時未晚”，應及時收集相關的故障數據，建立故障數據庫，與正常數據進行對比，構建復雜自動化控制系統故障診斷系統。

信息化、自動化技術的進步促使了自動故障診斷系統的出現，實現了在線檢測、診斷機械故障。自動故障診斷系統獲取到設備的診斷數據，運用檢測定位技術，分析收集到的數據并判斷設備的故障，主要包括基于知識領域的專家診斷系統、基于神經網絡的專家診斷系統。明先承等通過數據罩篩引擎進行數據的收集、整理、分析及模型的創建，用運行單元動態判斷模塊和多因素基準庫的配合改進了故障診斷方法，解決了傳統診斷方法中存在的在多數據環境下故障診斷率低、多因素分析算法跟進力不足等問題。之后，5G 技術、視覺處理和AR 增強現實的融入可以促進自動化故障診斷系統朝著高性價比的方向發展。

3 結束語

本文以自動化技術在人和自動化領域引起的“自動化諷刺”現象和自動化功能的偶發故障導致的災難性后果為切入點，著重分析了系統自動化功能的故障/失效對操作者綜合績效的影響，并分別從自動化信任、操作績效、情境意識和工作負荷的維度進行分析與論證。最后基于文獻調研的方法，以故障發生前、正在發生和故障發生后的時間節點為依據，總結并提出了降低自動化故障/失效對操作者綜合績效帶來負面影響的技術手段，包括提供后備方案、預防維護措施和培訓；提高系統信息透明度；構建故障診斷系統。

本文分析了自動化故障對操作者綜合績效的影響及應對措施，分析了多個領域文獻的調研結果。但本文畢竟是以查閱、分析文獻的方法為基礎進行闡述的，因此還存在以下不足：本文的分析基礎是查閱文獻，缺少相應的實驗結果支撐；后續應針對具體的應用場景，設計嚴謹的人因工效學實驗，從實驗的角度分析某個領域的某個場景下自動化功能的失效對操作者綜合績效指標的影響。