陳樹駿

（通號通信信息集團(tuán)有限公司，北京 100070）

隨著自動化等技術(shù)的發(fā)展，人-機(jī)協(xié)同任務(wù)中“機(jī)”的部分正在變得越來越自動化，在各個領(lǐng)域得到了廣泛的應(yīng)用，逐漸將人工操作者從任務(wù)的直接執(zhí)行者變?yōu)榱巳蝿?wù)的監(jiān)控者。在自動駕駛領(lǐng)域，駕駛自動化可以減少由人為錯誤造成的交通事故、提高交通效率，并有望改變?nèi)祟愸{駛員的角色。如采用了較低水平的自動駕駛系統(tǒng)和復(fù)雜的自動駕駛輔助系統(tǒng)的特斯拉Model S 和沃爾沃S90 要求駕駛員監(jiān)測道路情況和自動化系統(tǒng)的狀態(tài)[1]，駕駛員的主要任務(wù)從駕駛轉(zhuǎn)變?yōu)榱吮O(jiān)控，因此需要了解自動化的功能和故障，以便在系統(tǒng)遇到功能限制時及時進(jìn)行干預(yù)，進(jìn)而保證駕駛安全。采用自動化技術(shù)不僅可以把人從繁重的體力勞動、部分腦力勞動及惡劣、危險的工作環(huán)境中解放出來，而且能擴(kuò)展人的器官功能，較大程度地提高勞動效率。

誠然，自動化技術(shù)的使用帶來了多方面的益處，但是也導(dǎo)致了諸多負(fù)面影響，引起了人們的高度關(guān)注。實際上，并不存在一種完全可靠、永不出錯的自動化系統(tǒng)，自動化功能也會出現(xiàn)故障或失效的情況。自動化故障/失效指的是自動化系統(tǒng)出現(xiàn)差錯，自動化的故障模式可以分為3 種類型：漏檢（發(fā)生但是沒有被檢測到的故障）、誤報（未發(fā)生但是被檢測到的故障）和診斷錯誤（檢測到故障，但是類別被診斷錯誤的故障）[2]。偶發(fā)性的自動化系統(tǒng)故障動輒會造成無法彌補(bǔ)的災(zāi)難性后果，比如1985 年中華航空358 號班機(jī)空難：飛行過程中4 號引擎的推力減弱且無法重啟，導(dǎo)致機(jī)身不平衡時，本就處于超負(fù)荷工作狀態(tài)的機(jī)長們做出了錯誤的判斷和應(yīng)對操作，加速了飛機(jī)的失速墜落，好在最后在不到609.6 m 的高度將一架俯沖姿勢的飛機(jī)改為正常運(yùn)行并迫降舊金山機(jī)場，挽救了200 多名乘客的生命；但飛機(jī)的機(jī)身嚴(yán)重受損，機(jī)尾的狀態(tài)極為不好，左側(cè)的水平翼也被折斷，液壓系統(tǒng)已經(jīng)完全被破壞。

經(jīng)過文獻(xiàn)調(diào)研發(fā)現(xiàn)，目前的研究大多數(shù)是分析自動化功能的故障對于操作者某一方面的影響，并未進(jìn)行多維度的闡述。本文以有自動化參與的運(yùn)行工況為背景，從自動化信任、操作績效、情境意識和工作負(fù)荷在內(nèi)的具體維度評估自動化功能的故障/失效對操作者綜合績效的影響，并提出了應(yīng)對措施。

1 自動化故障對操作者綜合績效的影響

本文分別從自動化信任、操作績效、情境意識和工作負(fù)荷的維度闡述自動化功能的故障/失效對操作者綜合績效的影響。

1.1 自動化故障與自動化信任

在自動化背景下，操作者對自動化系統(tǒng)的信任是其依賴復(fù)雜自動化系統(tǒng)執(zhí)行任務(wù)的基本決定因素之一。自動化信任是指在以不確定性和脆弱性為特征的情況下，自動化系統(tǒng)將代替操作者實現(xiàn)操作目標(biāo)的一種態(tài)度，自動化系統(tǒng)的可靠性便是其影響因素之一。操作者對系統(tǒng)主觀感知的信任程度會影響其對自動化系統(tǒng)的客觀行為上的依賴程度，信任程度過高或過低分別會導(dǎo)致操作者對自動化系統(tǒng)的過度依賴和棄用的不良現(xiàn)象，均不利于人機(jī)交互。

自動化故障或失效等異常情況的發(fā)生會降低操作者對當(dāng)前執(zhí)行任務(wù)的自動化系統(tǒng)的信任程度。LEE 等以一個駕駛模擬器為實驗設(shè)備，讓56 名司機(jī)完成了他們對自動化的信任程度的問卷調(diào)查，對數(shù)據(jù)的統(tǒng)計分析結(jié)果表明，違背用戶對自動化性能期望的自動化故障會導(dǎo)致駕駛員的信任水平暫時下降，之后經(jīng)歷了無錯誤的自動化之后，減少的信任會得到一定程度的恢復(fù)。這表明自動化系統(tǒng)本身的可靠性是影響駕駛員對其信任程度的重要因素。除此之外，某系統(tǒng)的自動化功能故障除了會降低操作者對該系統(tǒng)的信任程度之外，也會導(dǎo)致其對其他100%可靠的自動化設(shè)備的可靠性的質(zhì)疑，影響其信任和依賴水平，稱為“擴(kuò)散效應(yīng)”[3]。向駕駛員提供有關(guān)自動化系統(tǒng)的信息，以保持駕駛員在監(jiān)督控制中與自動化系統(tǒng)本身的持續(xù)交互，是保持駕駛員對自動化系統(tǒng)信任的一種有效手段[4]。

1.2 自動化故障與操作績效

操作績效是對作業(yè)者完成任務(wù)好壞程度的客觀度量，是自動化系統(tǒng)中需要關(guān)注的重要指標(biāo)。自動化系統(tǒng)大多是為正常工況設(shè)計的，會不可避免地發(fā)生故障，以至于影響作業(yè)者的操作績效水平。

SAUER 等模擬了一個可以在航天飛機(jī)上自動將二氧化碳、氧氣、壓力等的參數(shù)保持在設(shè)定的目標(biāo)范圍內(nèi)的管理空氣質(zhì)量的生命維持系統(tǒng)，參與者在實驗中經(jīng)歷了包括氧氣閥門泄露等在內(nèi)的15 種故障場景。分析結(jié)果表明，系統(tǒng)中主要任務(wù)的自動化功能故障會顯著降低次要任務(wù)的績效水平，對主要任務(wù)的績效會帶來負(fù)面影響也得到了實驗驗證。

對于空中交通管制員來說，當(dāng)自動化不可靠時，與信息采集自動化相比，所有自動化類型檢測即將發(fā)生的碰撞的時間要長得多，會顯著降低工作效率[5]。對于駕駛模擬無人機(jī)通過一系列任務(wù)航段，并且執(zhí)行搜索目標(biāo)和監(jiān)控系統(tǒng)參數(shù)的操作者來說，具有較低可靠性的自動化輔助系統(tǒng)會顯著降低發(fā)生故障的任務(wù)及并發(fā)任務(wù)的績效水平[6]。

綜上可以看出，自動化系統(tǒng)某一功能的自動化發(fā)生故障，會對該任務(wù)及當(dāng)前并發(fā)任務(wù)或次要任務(wù)的績效帶來負(fù)面影響。

1.3 自動化故障與情境意識

作業(yè)者對工作環(huán)境和系統(tǒng)狀態(tài)的了解程度是影響其能否做出正確決策和是否能防止事故發(fā)生的重要因素，這一因素被稱為“情境意識”。1989 年，美國國家運(yùn)輸安全委員會（National Transportation Safety Board，NTSB）對361 起通用航空事故進(jìn)行分析并得出結(jié)論，97%的可能原因是飛行員的失誤[7]，而大多數(shù)原因都與飛行員的情境意識相關(guān)。

具有較高的可靠性和較強(qiáng)的功能是自動化系統(tǒng)設(shè)計的主要目標(biāo)，但是自動化系統(tǒng)的可靠性越高、功能越強(qiáng)大，操作者就越有可能將其注意力轉(zhuǎn)移到與當(dāng)前執(zhí)行任務(wù)無關(guān)的事情上，比如，駕駛員在監(jiān)控汽車進(jìn)行自動駕駛的過程中很有可能出現(xiàn)打電話等行為，這便是較高程度的自動化導(dǎo)致的駕駛員“人在環(huán)外”行為，也可以理解為駕駛員的注意力分散。2018 年，美國約有250 萬人在車禍中受傷，其中近16%的受傷是由于司機(jī)分心[8]。

2016-02-14，在美國加州山景城，Google 一輛自動駕駛汽車Lexus 與公交車發(fā)生的碰撞事故中，駕駛員在汽車自動行駛過程中沒有對汽車進(jìn)行不間斷監(jiān)控，當(dāng)緊急事件發(fā)生，自動化系統(tǒng)失效后，需要人來接管駕駛?cè)蝿?wù)，但是駕駛員很難在2 s 的時間內(nèi)做出正確應(yīng)對，導(dǎo)致這起事故發(fā)生的原因是自動化系統(tǒng)的介入在一定程度上降低了駕駛員手動操作技能及情境意識[9]，以至于在系統(tǒng)失效時不能進(jìn)行有效應(yīng)對。在鐵路運(yùn)輸系統(tǒng)中，列車運(yùn)行自動控制系統(tǒng)將乘務(wù)員的主要職責(zé)從駕駛轉(zhuǎn)為了監(jiān)控列車的運(yùn)行狀態(tài)，但是，這種長期且單調(diào)的監(jiān)控任務(wù)非常不適合人為操作，主要原因在于長時間的單調(diào)工作容易導(dǎo)致列車乘務(wù)員的警覺性下降，即“單調(diào)效應(yīng)”。

所以，正常工況設(shè)計的自動化系統(tǒng)出現(xiàn)故障或功能失效時，處于較低情境意識水平的駕駛員很有可能無法做出及時、正確的應(yīng)對操作，甚至發(fā)生交通事故。

1.4 自動化故障與工作負(fù)荷

在人機(jī)系統(tǒng)領(lǐng)域，工作負(fù)荷一直是研究者們關(guān)注的主要指標(biāo)，設(shè)計自動化系統(tǒng)的目標(biāo)之一是在一定程度上降低操作者的工作負(fù)荷。

與完全可靠的自動化系統(tǒng)相比，自動化故障會影響操作員的認(rèn)知需求，出現(xiàn)自動化故障時，操作者會體驗到更高的工作負(fù)荷水平。

在航空領(lǐng)域，數(shù)據(jù)通信（Data Communication）是空中交通管制員和機(jī)組人員使用的通信工具，允許操作人員共享實時空間、天氣和安全等信息，可以實現(xiàn)信息的定向傳輸，減少了語音通信引起的錯誤。但是，當(dāng)數(shù)據(jù)通信出現(xiàn)故障時，空中交通管制員與機(jī)組人員之間就需要進(jìn)行口頭溝通，增加了工作負(fù)荷，同時還占用了操作者的情境意識資源，降低其績效水平。汽車在自動駕駛模式下因自動駕駛功能限制或計算機(jī)等的功能限制而發(fā)生故障時，被要求恢復(fù)對車輛控制的駕駛員會比在手動駕駛狀態(tài)下經(jīng)歷更高的腦力負(fù)荷。所以駕駛一輛可能需要隨時干預(yù)的高度自動化汽車需要駕駛員具有持續(xù)的注意力、保持高度警惕，以便及時發(fā)現(xiàn)何時需要恢復(fù)手動控制。

2 緩解自動化故障帶來的負(fù)面影響的技術(shù)手段

本文按照故障發(fā)生前、故障發(fā)生時和故障發(fā)生后的時間節(jié)點，分別提出對應(yīng)的技術(shù)手段以緩解自動化故障/失效對操作者綜合績效的負(fù)面影響，包括提供后備方案、預(yù)防維護(hù)措施和培訓(xùn)；提高系統(tǒng)信息透明度；構(gòu)建故障診斷系統(tǒng)。

2.1 提供故障后備方案、預(yù)防維護(hù)措施

正所謂“未雨綢繆”，對特定系統(tǒng)提供后備方案、制定對應(yīng)的故障預(yù)防維護(hù)措施，對操作人員提供相關(guān)故障培訓(xùn)不失為可行的方式。

在列車自動運(yùn)行的背景下，蘇靖棋提出了3 級自動化運(yùn)行下故障后備方案中可能的人-機(jī)協(xié)作方式，即：傳統(tǒng)的人-人協(xié)作，采用ETCS（European Train Control System，歐洲列車控制系統(tǒng)）、無需ATO（Automatic Train Operation，列車自動運(yùn)行系統(tǒng)）的列車員自主駕駛，有控制中心操作員參與、無需ATO系統(tǒng)的人-機(jī)協(xié)作，采用ATO 系統(tǒng)、無需ETCS 系統(tǒng)的列車員自主駕駛，有控制中心操作員參與、無需ETCS系統(tǒng)的人機(jī)協(xié)作，同時采用ETCS 系統(tǒng)和ATO 系統(tǒng)的列車員自主駕駛。

分級預(yù)防和生命周期預(yù)防的故障預(yù)防措施、增加自動化診斷技術(shù)和規(guī)范維護(hù)工作和管理工作的故障維護(hù)措施，毫無疑問也是保證化工行業(yè)自動化儀表等設(shè)備高水平運(yùn)行的有效手段。

除了對自動化系統(tǒng)提供預(yù)防維護(hù)措施之外，還可以對操作者提供自動化故障的相關(guān)培訓(xùn)，即讓操作人員為實際的情況做好準(zhǔn)備，以便能夠應(yīng)對意外事件，對操作者關(guān)于自動化故障的相關(guān)培訓(xùn)經(jīng)驗也會提高操作者在故障發(fā)生時所正在執(zhí)行的次要任務(wù)的績效水平。

2.2 提高系統(tǒng)信息透明度

上述提供故障后備方案和預(yù)防維護(hù)措施會在一定程度上降低自動化故障/失效發(fā)生的概率，并非可以保證故障永不會發(fā)生。

NORMAN 認(rèn)為，高水平自動化與執(zhí)行監(jiān)控任務(wù)的操作者之間缺乏持續(xù)的反饋和互動是故障發(fā)生的原因之一。提高系統(tǒng)信息透明度是一種在操作者與系統(tǒng)之間提供持續(xù)的反饋和互動的有效措施。關(guān)于透明度的概念，最根本的思想是將有關(guān)于自動化系統(tǒng)運(yùn)行的某些信息以某種方式呈現(xiàn)給操作者，適當(dāng)增加操作者獲得的信息量。

以提高系統(tǒng)信息透明度的手段來緩解自動化功能偶發(fā)性的故障或失效對作業(yè)者綜合績效的負(fù)面影響或許也不失為一種可行的方法。以自動駕駛為例，讓駕駛員及早意識到自動化功能故障的發(fā)生，及時介入并接管駕駛?cè)蝿?wù)以處理潛在的危險后果是至關(guān)重要的。SHAHINI 以駕駛模擬器為設(shè)備，探究合適的接管時間預(yù)算（Take Over Time Budgets，TOTB），即接管請求和即將發(fā)生的故障之間的時間差，結(jié)果顯示，自動駕駛系統(tǒng)在故障發(fā)生的10 s 之前告知駕駛員會顯著降低其工作負(fù)荷。但是，一方面，應(yīng)該考慮到更高水平的透明度可以提供更豐富的信息以輔助操作者決策，會在一定程度上減少操作者的工作負(fù)荷；另一方面，為增加透明度而提供的信息可能需要額外的認(rèn)知資源來處理，這便會增加操作者的腦力負(fù)荷。因此，需要根據(jù)實際的應(yīng)用場景提供適當(dāng)?shù)耐该鞫刃畔ⅰ?/p>

2.3 構(gòu)建故障診斷系統(tǒng)

故障發(fā)生后，“亡羊補(bǔ)牢，為時未晚”，應(yīng)及時收集相關(guān)的故障數(shù)據(jù)，建立故障數(shù)據(jù)庫，與正常數(shù)據(jù)進(jìn)行對比，構(gòu)建復(fù)雜自動化控制系統(tǒng)故障診斷系統(tǒng)。

信息化、自動化技術(shù)的進(jìn)步促使了自動故障診斷系統(tǒng)的出現(xiàn)，實現(xiàn)了在線檢測、診斷機(jī)械故障。自動故障診斷系統(tǒng)獲取到設(shè)備的診斷數(shù)據(jù)，運(yùn)用檢測定位技術(shù)，分析收集到的數(shù)據(jù)并判斷設(shè)備的故障，主要包括基于知識領(lǐng)域的專家診斷系統(tǒng)、基于神經(jīng)網(wǎng)絡(luò)的專家診斷系統(tǒng)。明先承等通過數(shù)據(jù)罩篩引擎進(jìn)行數(shù)據(jù)的收集、整理、分析及模型的創(chuàng)建，用運(yùn)行單元動態(tài)判斷模塊和多因素基準(zhǔn)庫的配合改進(jìn)了故障診斷方法，解決了傳統(tǒng)診斷方法中存在的在多數(shù)據(jù)環(huán)境下故障診斷率低、多因素分析算法跟進(jìn)力不足等問題。之后，5G 技術(shù)、視覺處理和AR 增強(qiáng)現(xiàn)實的融入可以促進(jìn)自動化故障診斷系統(tǒng)朝著高性價比的方向發(fā)展。

3 結(jié)束語

本文以自動化技術(shù)在人和自動化領(lǐng)域引起的“自動化諷刺”現(xiàn)象和自動化功能的偶發(fā)故障導(dǎo)致的災(zāi)難性后果為切入點，著重分析了系統(tǒng)自動化功能的故障/失效對操作者綜合績效的影響，并分別從自動化信任、操作績效、情境意識和工作負(fù)荷的維度進(jìn)行分析與論證。最后基于文獻(xiàn)調(diào)研的方法，以故障發(fā)生前、正在發(fā)生和故障發(fā)生后的時間節(jié)點為依據(jù)，總結(jié)并提出了降低自動化故障/失效對操作者綜合績效帶來負(fù)面影響的技術(shù)手段，包括提供后備方案、預(yù)防維護(hù)措施和培訓(xùn)；提高系統(tǒng)信息透明度；構(gòu)建故障診斷系統(tǒng)。

本文分析了自動化故障對操作者綜合績效的影響及應(yīng)對措施，分析了多個領(lǐng)域文獻(xiàn)的調(diào)研結(jié)果。但本文畢竟是以查閱、分析文獻(xiàn)的方法為基礎(chǔ)進(jìn)行闡述的，因此還存在以下不足：本文的分析基礎(chǔ)是查閱文獻(xiàn)，缺少相應(yīng)的實驗結(jié)果支撐；后續(xù)應(yīng)針對具體的應(yīng)用場景，設(shè)計嚴(yán)謹(jǐn)?shù)娜艘蚬ばW(xué)實驗，從實驗的角度分析某個領(lǐng)域的某個場景下自動化功能的失效對操作者綜合績效指標(biāo)的影響。