(浙江大學(xué)心理科學(xué)研究中心,杭州 310058)

1 引 言

1.1 從自動化到自主化技術(shù)的應(yīng)用

自動化(automation)技術(shù)已經(jīng)廣泛地應(yīng)用在人們的工作和生活中,從簡單的室內(nèi)恒溫器，到復(fù)雜的工業(yè)自動化生產(chǎn)線、飛機(jī)駕駛艙自動化飛行系統(tǒng)以及航天在軌設(shè)備等。自動化技術(shù)為提高人機(jī)系統(tǒng)可靠性和效率、降低操作員體力工作負(fù)荷等方面帶來了許多益處。隨著技術(shù)的日益成熟，自動化技術(shù)已經(jīng)觸碰到了其發(fā)展的“天花板”,尤其在一些特殊操作環(huán)境中(例如，不需要或者無法人工干預(yù)、設(shè)計(jì)無法預(yù)料的操作場景)，人們需要自適應(yīng)、智能化、個性化和更高水平“自動化”的技術(shù)系統(tǒng)。

智能時代的自主化(autonomy)技術(shù)應(yīng)運(yùn)而生。自主化技術(shù)采用了人工智能(AI)等技術(shù)，具有學(xué)習(xí)、自我導(dǎo)向、獨(dú)立執(zhí)行等能力，在特定的場景下可以自主地完成獨(dú)立于人工干預(yù)的一些特定任務(wù)。目前，我們開始進(jìn)入一個逐漸充滿自主化技術(shù)的世界，越來越多的自主化系統(tǒng)(autonomous systems)開始投入使用或者正在開發(fā)。例如，采用軟件自主代理和基于語音輸入的智能音箱、智能決策支持系統(tǒng)、大型智能無人機(jī)、智能機(jī)器人、自動駕駛車(具有高等級自動駕駛功能)、空間行走機(jī)器人(月球車、火星車等)自主武器系統(tǒng)，甚至包括網(wǎng)上自主傳播的Stuxnet病毒軟件等。

1.2 基于自主化技術(shù)的自動駕駛車安全問題

目前許多企業(yè)投入了大量資金來研發(fā)基于AI等自主智能技術(shù)的自動駕駛車(autonomous vehicles，根據(jù)智能技術(shù)和英文原文，應(yīng)該嚴(yán)格地稱之為自主駕駛車)，希望在未來能夠開發(fā)出全自主化的無人駕駛車。在美國與汽車駕駛相關(guān)的交通死亡事故中，約94%是由駕駛員的人為差錯所導(dǎo)致，美國國家公路交通安全管理局(NHTSA)(2018)希望未來的無人駕駛車可以通過消除這些人為差錯來大幅度減少死亡事故。然而，Lee & Kolodge(2018)的研究表明，在被調(diào)查的8571名美國司機(jī)中，35%的司機(jī)表示他們肯定或不太會相信自動駕駛車在沒有駕駛員控制情況下具備安全運(yùn)行的能力。CARAVAN(2018)的民意調(diào)查也表明，在1005名受調(diào)查的美國司機(jī)中，64%的司機(jī)出于對安全的擔(dān)心而表示不愿意與自動駕駛車分享道路,63%的司機(jī)不支持降低目前聯(lián)邦道路安全標(biāo)準(zhǔn)以便讓更多的自動駕駛車上路。另外，近幾年在美國發(fā)生了多起自動駕駛車致命事故(NTSB，2017；Endsley,2018)。

在人因?qū)W(Human Factors)界，一些資深人因?qū)W家表達(dá)了對自主化技術(shù)的應(yīng)用可能引起的安全問題的擔(dān)心，尤其是對自動駕駛車的安全的擔(dān)心(de Visser et al.2018;Endsley,2019a,2019b;Hancock,2017,2019;Lee,2019;Waterson,2019;Woods,2016)。Hancock(2019)將當(dāng)前的自動駕駛車研發(fā)熱潮形容為“就像一匹馬已離開馬廄”，而Salmon(2019)認(rèn)為“人因?qū)W再次發(fā)現(xiàn)自己處在一個相似的境地：追逐一匹已經(jīng)真正開始狂奔的馬”。社會目前正在引入與傳統(tǒng)自動化技術(shù)不同的更加獨(dú)立的自主化技術(shù)，這些新技術(shù)的研發(fā)正在快速進(jìn)行，但是人因?qū)W問題、安全和對大眾心理的負(fù)面影響等因素沒有引起足夠的重視(Hancock，2017,2019;Endsley,2019a;Salmon,2019)。

1.3 問題的提出

綜上所述，繼自動化技術(shù)后，自主化技術(shù)正在走進(jìn)人們的工作和生活。一方面，許多企業(yè)雄心勃勃地投資于自動駕駛車等自主化系統(tǒng)的研發(fā)；另一方面，大眾信任度較低，一些致命事故相繼發(fā)生，人因?qū)W家們對自動駕駛車的安全表達(dá)了很大的擔(dān)憂。并且，已有人開始混淆自動化和自主化的概念，這可能導(dǎo)致對技術(shù)不恰當(dāng)?shù)钠谕驼`用(Kaber，2018；Bradshaw et al.2013)，因此，及時開展這方面的人因?qū)W研究是非常必要的。

本文要回答的主要問題是：自主化與自動化各自的人因?qū)W特征和區(qū)別是什么？為提高自主化系統(tǒng)的安全性，我們應(yīng)該從以往人因?qū)W針對自動化的研究中得到什么啟發(fā)？在自主化系統(tǒng)(包括自動駕駛車)的研發(fā)中，應(yīng)該如何發(fā)揮人因?qū)W的學(xué)科作用？針對這些問題，本文基于以用戶為中心的設(shè)計(jì)理念(許為，2003a)，即以人為中心的設(shè)計(jì)理念，從自主化系統(tǒng)人類操作員的需求和利益等因素出發(fā)，綜述相關(guān)的人因?qū)W研究，討論、分析以及提供針對自主化系統(tǒng)和自動駕駛車研發(fā)的人因?qū)W解決方案。

2 自動化和自主化的人因?qū)W分析

2.1 人-自動化交互的人因?qū)W研究

自動化系統(tǒng)通常依賴于固定的邏輯規(guī)則和算法來執(zhí)行定義好的任務(wù)，并產(chǎn)生確定的操作結(jié)果，它的操作需要人類操作員啟動、設(shè)置控制模式以及編制任務(wù)計(jì)劃等，在一些特殊操作環(huán)境中(例如，設(shè)計(jì)無法預(yù)料的操作場景，非正?；驊?yīng)急狀態(tài))，需要人工干預(yù)來控制系統(tǒng)的運(yùn)行。自動化通常不會完全取代操作員的崗位，但是它將人類工作的性質(zhì)從直接操作轉(zhuǎn)變?yōu)楦弑O(jiān)控性質(zhì)的操作，并且許多自動化系統(tǒng)可以設(shè)置為不同的自動化水平。例如，現(xiàn)代大型民用飛機(jī)駕駛艙裝備了自動化飛行系統(tǒng)后，飛行員可以設(shè)置全自動飛行狀態(tài)，由飛行管理系統(tǒng)(FMS)來完成所有飛行階段的任務(wù)(除起飛以外),或者啟動自動飛行指導(dǎo)儀來采用半自動飛行操作，飛行員的主要任務(wù)是監(jiān)控性質(zhì)的飛行操作。但是，自動化系統(tǒng)本身沒有自主能力(Kaber，2018)，F(xiàn)MS功能的實(shí)現(xiàn)是基于飛行員預(yù)先編程的飛行計(jì)劃，F(xiàn)MS本身沒有能力來制定和啟動飛行任務(wù)，在非正常的操作場景或者應(yīng)急狀態(tài)時，飛行員必須立刻斷開自動飛行系統(tǒng)，人工干預(yù)接管對飛機(jī)的操控。

在過去的幾十年中，人因?qū)W界已經(jīng)對一些復(fù)雜領(lǐng)域(航空航天、核電、工業(yè)制造等)中的人-自動化交互開展了廣泛的人因?qū)W研究，評估自動化技術(shù)和操作對操作員的情境意識(SA)、自動化模式識別、心理模型、警戒水平、信任、工作負(fù)荷、工作績效等的影響，這些研究結(jié)果已達(dá)到基本一致的共識(例如，Sarter & Woods，1995；Endsley，2017a；許為，2003b)。自動化操作中的監(jiān)控作業(yè)雖然減少了操作員的體力工作負(fù)荷，但實(shí)際上會提高認(rèn)知工作負(fù)荷(Grubb,et al.,1994),導(dǎo)致操作員警戒水平的降低(Hancock,2013)，操作員往往會產(chǎn)生過度信任(自滿)，并且過度依賴自動化(Parasuraman & Riley，1997)。研究發(fā)現(xiàn)許多自動化系統(tǒng)存在脆弱性，在設(shè)計(jì)所規(guī)定的操作情況下系統(tǒng)運(yùn)行良好，但是在遇到意外事件需要人工干預(yù)時，可能導(dǎo)致操作員的“自動化驚訝”(automation surprise)和自動模式混淆等問題(Sarter & Woods，1995)。操作員可能無法理解自動化正在做什么，為什么要這樣做，為什么它會意外地從一種自動化模式轉(zhuǎn)換到另一種模式。

自動化水平也影響操作員的工作績效、工作負(fù)荷和SA(Kaber，2018)。Endsley & Kiris(1995)的研究證明全自動化所導(dǎo)致的SA損失可以通過使用中等程度的自動化來減少。Onnasch et al.(2014)通過對18項(xiàng)研究的元分析，發(fā)現(xiàn)自動化程度的提高，有利于操作員工作績效的提升和工作負(fù)荷的下降,但是操作員的SA和手動技能也下降。Bainbridge(1983)在總結(jié)了以往研究的基礎(chǔ)上提出了一個經(jīng)典的現(xiàn)象，即“ironies of automation”(自動化的諷刺)：自動化程度越高，操作員的介入越少，對系統(tǒng)的關(guān)注度就越低,在應(yīng)急狀態(tài)下，操作員就越不容易通過人工干預(yù)來操控系統(tǒng)。

由此可見，許多因素會導(dǎo)致操作員SA的下降，產(chǎn)生“人在閉環(huán)外”(out-of-the-loop)效應(yīng)、診斷問題的準(zhǔn)確性和效率降低的問題，從而可能會做出錯誤的人工干預(yù)(Endsley,2015；Endsley & Kiris,1995；Wickens & Kessel，1979；Young,1969)。自動化的這種脆弱性給操作員的工作績效和系統(tǒng)安全帶來了挑戰(zhàn)，在民用航空領(lǐng)域，由于這些原因駕駛艙自動化導(dǎo)致了多起重大飛行事故(Endsley,2015；Xu,2007)。

針對以上這些自動化問題，人因?qū)W提出了許多解決方案。例如，提倡以人為中心的自動化設(shè)計(jì)理念、開發(fā)有效的自動化界面人機(jī)交互設(shè)計(jì)、優(yōu)化系統(tǒng)設(shè)計(jì)、加強(qiáng)操作員培訓(xùn)、改進(jìn)操作程序等(Billings,1996；Xu,2007)。Endsley(2017)綜合以往的研究提出了一個人-自動系統(tǒng)監(jiān)督(HASO)模型，該模型概括了產(chǎn)生自動化人因?qū)W問題的主要因素，并且為實(shí)現(xiàn)有效的自動化系統(tǒng)開發(fā)提供了一個綜合的人因?qū)W解決方案。

2.2 自主化與半自主化

不同于自動化，基于AI等智能技術(shù)的自主化系統(tǒng)具有學(xué)習(xí)等能力，可以在沒有人工干預(yù)的情況下自我導(dǎo)向，獨(dú)立執(zhí)行任務(wù)，并且可以在一些未預(yù)期的條件下成功執(zhí)行任務(wù)，從而能在更廣泛的操作條件下提供更多的高水平“自動化”系統(tǒng)功能(den Broek，et al.，2017；Kaber,2018)。自主化的定義是基于特定場景和上下文環(huán)境中的特定任務(wù)(Madni & Madni，2018；Kaber,2018)。比如，一輛裝備L3等級自動駕駛功能的自動駕駛車，基于專門的AI算法和機(jī)器學(xué)習(xí)訓(xùn)練，能夠在一個特定場景中(工業(yè)園區(qū)內(nèi)),根據(jù)操作設(shè)計(jì)領(lǐng)域(ODD)參數(shù)(比如,不超過25英里/小時的速度)，自主獨(dú)立地執(zhí)行特定的任務(wù)(沿著固定的線路接送人員)。顯然這輛自動駕駛車無法在園區(qū)外運(yùn)行，因?yàn)樵撟灾髦悄芟到y(tǒng)還沒有學(xué)習(xí)和訓(xùn)練掌握園區(qū)外更為復(fù)雜的交通環(huán)境。

我們距離全自主化技術(shù)的實(shí)現(xiàn)還有相當(dāng)一段路要走。現(xiàn)有的自主化系統(tǒng)實(shí)際上是只能在有限的場景中自主完成有限任務(wù)的半自主化系統(tǒng)(semi-autonomous systems)，這里的“半”字沒有量化的意義，僅代表一個具有有限自主化能力的系統(tǒng)。實(shí)現(xiàn)全自主化技術(shù)的困難除了系統(tǒng)復(fù)雜性的增加會提高系統(tǒng)故障發(fā)生的概率以外，主要有兩方面：一方面，許多自主化系統(tǒng)基于AI深度學(xué)習(xí)等算法構(gòu)建，這些算法擅長模式識別，但目前缺乏在新條件下預(yù)期操作所需的因果推理能力(Pearl & Mackenzie 2018)；另一方面，在開發(fā)中，設(shè)計(jì)者不可能預(yù)測到一個系統(tǒng)可能面臨的與所有場景和任務(wù)相關(guān)的變量條件,只能基于對已知場景和任務(wù)的有限了解、潛在操作和結(jié)果的假設(shè)來設(shè)計(jì)，當(dāng)對抗真實(shí)環(huán)境時，系統(tǒng)可能遇到設(shè)計(jì)師從未考慮過的情況而無法執(zhí)行正確的操作(Endsley，2015；Kaber,2018)。

以自動駕駛車為例，國際汽車工程師協(xié)會(SAE)J3016條例主導(dǎo)了對自動駕駛等級的定義(SAE,2018)，包括L0到L5的六個自動駕駛等級：L0-無自動化、L1-駕駛輔助、L2-部分自動化、L3-有條件自動化、L4-高度自動化以及L5-完全自動化。目前正在研發(fā)的自動駕駛車主要裝備L2和L3等級的自動駕駛功能。中國人工智能學(xué)會(CAAI)理事長李德勤院士(2017)認(rèn)為當(dāng)前應(yīng)該采用務(wù)實(shí)的方法，集中開發(fā)基于各種固定場景下的L3等級自動駕駛車，這些場景包括園區(qū)觀光、市區(qū)定點(diǎn)接駁和定點(diǎn)物流等相對簡單的場景，然后在安全和技術(shù)成熟的基礎(chǔ)上再逐漸地向L4等級拓展。擁有全球首個自主駕駛車封閉試驗(yàn)場的密歇根大學(xué)M-city實(shí)驗(yàn)室主任彭暉(2019)認(rèn)為企業(yè)界在未來幾十年之內(nèi)應(yīng)該集中開發(fā)L4級別(含)以下的自動駕駛車，在這個范圍內(nèi)保證安全和最低成本，一個負(fù)責(zé)的企業(yè)目前不應(yīng)該去追求設(shè)計(jì)L5等級全自動化的自動駕駛車。

由此可見，目前還沒有成熟的技術(shù)能夠?qū)崿F(xiàn)完全自主化的系統(tǒng)，我們所面對的都是一些半自主化系統(tǒng)。因此，本文所討論的重點(diǎn)是針對這些半自主化系統(tǒng)的人因?qū)W解決方案。

2.3 自主化人因?qū)W解決方案的切入點(diǎn)

基于以上討論，表1進(jìn)一步比較了自動化、半自主化、全自主化之間的主要人因?qū)W特征。由表1可知，一方面，從“機(jī)器智能”的角度來說，不同于自動化技術(shù)，自主化系統(tǒng)具有一定的認(rèn)知(知覺整合、模式識別、學(xué)習(xí)、推理、決策等)、對不可預(yù)測環(huán)境的自適應(yīng)等方面的機(jī)器智能特征，AI學(xué)界將具有這些機(jī)器智能特征的軟件或者硬件實(shí)體稱為智能代理或自主代理(intelligent /autonomous agent),也有人開始稱之為認(rèn)知代理(cognitive agent)。從人因?qū)W的角度出發(fā)，本文統(tǒng)一稱之為自主化認(rèn)知代理(以下簡稱為認(rèn)知代理)，因?yàn)檫@些自主化系統(tǒng)已經(jīng)具備一定程度上的類似人類的認(rèn)知能力，有些甚至已經(jīng)超越人類(例如，谷歌的阿爾發(fā)狗圍棋機(jī)器人)。相反，基于自動化技術(shù)的自動化系統(tǒng)無論怎樣先進(jìn)(例如，現(xiàn)代大型民用飛機(jī)駕駛艙中的自動化飛行系統(tǒng))，它們都不具備這些認(rèn)知能力，不具有獨(dú)立執(zhí)行操作以及對不可預(yù)測環(huán)境的自適應(yīng)等特征，這是由自動化技術(shù)本身的系統(tǒng)原理、架構(gòu)和功能等決定的。NASA和Rockwell-Collins在針對未來單人操縱智能化民用飛機(jī)駕駛艙的概念性預(yù)備研究報(bào)告中指出，未來單人操縱智能化駕駛艙的技術(shù)不是在目前自動化駕駛艙的基礎(chǔ)上去尋求更加自動化的機(jī)載技術(shù)，而是需要智能化的、能夠與飛行員開展有效合作的自主化系統(tǒng)(Bailey,et al.,2018)。因此，從人因?qū)W來看，自動化和自主化之間的區(qū)別不是在自動化水平上遞進(jìn)的關(guān)系，有沒有基于智能技術(shù)的認(rèn)知等能力是兩者之間本質(zhì)上的區(qū)別。

表1 自動化和自主化之間人因?qū)W特征的比較

另一方面，從“操作獨(dú)立性”的角度來說，半自主化系統(tǒng)的獨(dú)立執(zhí)行操作性能是針對特定場景和任務(wù)，在應(yīng)急狀態(tài)下，操作員必須通過人工干預(yù)方法來掌控系統(tǒng)的控制權(quán)。半自主化系統(tǒng)在運(yùn)行操作中與自動化系統(tǒng)一樣需要人工監(jiān)控和必要的人工干預(yù)，這就意味著在人-自動化交互中發(fā)生的人因?qū)W問題有可能在人-自主化交互中發(fā)生。對近幾年在美國發(fā)生的多起自動駕駛車致命事故的調(diào)查結(jié)果清楚地表明，類似于自動化中的人因?qū)W問題，駕駛員對基于自主化系統(tǒng)的自動駕駛車(盡管自主化程度低)的過度信任、參與度低以及注意力不集中，同時人機(jī)界面設(shè)計(jì)不能有效地支持人工監(jiān)控，這些原因?qū)е埋{駛員未能在緊急情況下采取快速有效的人工干預(yù)來接管車輛(NTSB，2017；Endsley,2018)。駕駛員行為受他們對自動駕駛車的信任、期望等因素的影響。有些制造商似乎高估了當(dāng)前自動駕駛車自主化的性能，低估了人因?qū)W問題的嚴(yán)重性。一些市場宣傳信息可能導(dǎo)致一些消費(fèi)者對自動駕駛車的不恰當(dāng)期望和操作行為。自主化技術(shù)潛在的操作獨(dú)立性可能也會造成人們對自主化技術(shù)產(chǎn)生類似于對自動化過度依賴和信任(自滿)的典型人因?qū)W現(xiàn)象(Parasuraman & Riley，1997)。這些事故的調(diào)查結(jié)果也清楚地表明，類似于自動化中的人因?qū)W問題，自主化(半自主化)系統(tǒng)使用中有效的人機(jī)交互和人工干預(yù)對安全也具有極其重要的作用。即使某一天我們能夠?qū)崿F(xiàn)全自主化的系統(tǒng)，從以人為中心的設(shè)計(jì)理念出發(fā)，同時考慮到自主化系統(tǒng)操作結(jié)果潛在的不確定性(見表1)，人因?qū)W強(qiáng)調(diào)人類操作員應(yīng)該是系統(tǒng)的最終決策操縱者。

因此，對自主化與自動化人因?qū)W特征的比較表明：(1)自主化(包括半自主化)與自動化之間在認(rèn)知能力等方面存在本質(zhì)上的差異；(2)自主化(主要指半自主化)與自動化相似，在操作獨(dú)立性方面都需要必要的人工監(jiān)控和干預(yù)。這種差異性和相似性對人因?qū)W研究以及應(yīng)用具有極其重要的意義，是尋找自主化人因?qū)W解決方案的切入點(diǎn)。這意味著針對這種差異性人因?qū)W解決方案，既要采用有效的人因?qū)W思路，來找到具有針對性的途徑和方法；同時針對這種相似性，人因?qū)W解決方案可以考慮利用以往自動化人因?qū)W的方法和結(jié)果。

3 自主化的人因?qū)W解決方案

3.1 人-自主化交互的人因?qū)W分析

針對人-自主化交互的人因?qū)W研究目前處于起步階段，主要是基于以往人-自動化交互的人因?qū)W研究成果。Endsley(2017a)將人-自動化交互的人因?qū)W問題總結(jié)為“自動化難題(automation conundrum)”：隨著系統(tǒng)中添加更多的自動化功能，自動化水平提高，自動化任務(wù)序列的持續(xù)時間更長，操作員更可能信任系統(tǒng)，更可能失去或降低SA，越來越可能在監(jiān)控作業(yè)中抓不住關(guān)鍵信息，需要時就越不容易快速準(zhǔn)確地人工干預(yù)來接管對系統(tǒng)的操控。自動化難題類似于經(jīng)典的“自動化的諷刺”現(xiàn)象(Bainbridge,1983)。

Endsley(2017a)認(rèn)為“自動化難題”會對自主化造成根本性的障礙。在自主化系統(tǒng)中，隨著單個功能“自動化”水平的提高、整體系統(tǒng)的自主化以及可靠性的增加，操作員對這些功能的關(guān)注度和SA降低，在應(yīng)急狀態(tài)下出現(xiàn)“人在閉環(huán)外”的可能性也增加。針對基于自主化技術(shù)的自動駕駛車人因?qū)W研究以及近幾年發(fā)生的多起自動駕駛車致命事故，進(jìn)一步核實(shí)了影響自動駕駛車安全的人因?qū)W問題(Navarro,2018；NHTSA，2017；Zhang，et al.，2019；Endlsey 2017b,2018)，包括人機(jī)界面設(shè)計(jì)問題、降低的SA、自動化模式混淆、“人在閉環(huán)外”、低參與度、過度依賴或信任、手動操作技能的退化以及缺乏基本的駕駛員培訓(xùn)等,這些問題正是以往人-自動化交互中的典型人因?qū)W問題。

另外，具有學(xué)習(xí)等認(rèn)知能力的自主化系統(tǒng)隨著在不同環(huán)境中的使用會不斷提升自身的能力，自主化系統(tǒng)的操作結(jié)果所具有的不確定性意味著系統(tǒng)有可能以意想不到的方式發(fā)展，因此自主化有可能比自動化給操作員帶來更強(qiáng)烈的類似“自動化驚奇”的體驗(yàn)(Sarter & Woods，1995;Woods,2016)。這些效應(yīng)可能進(jìn)一步放大以上這些人因?qū)W問題的影響程度，這種現(xiàn)象被稱為“l(fā)umberjack”效應(yīng)(Onnasch et al.2014)。此外，與自動化相比，自主化還可能會導(dǎo)致操作員高度情緒化的反應(yīng)，一些社會因素更容易對操作員的心理產(chǎn)生影響(Clare，et al.,2015;de Visser,et al.,2018)。

由此可見，雖然自動化技術(shù)中人因?qū)W問題的出現(xiàn)和被人們充分認(rèn)識經(jīng)歷了一個長期的過程，經(jīng)典的“ironies of automation”現(xiàn)象在30多年后仍然沒有得到徹底的解決(Strauch，2017)。但是，目前隨著AI等智能技術(shù)催生了新的自主化技術(shù)，我們又遇到了一個新的“irony”。就如同當(dāng)年自動化新技術(shù)在民用飛機(jī)駕駛艙設(shè)計(jì)中剛剛應(yīng)用的時候，人們在對新技術(shù)歡呼雀躍的同時，并沒有充分意識到這些新技術(shù)也可能帶來對安全的潛在威脅。今天，人因?qū)W有責(zé)任提醒工程技術(shù)界和公眾必須對智能時代的自主化新技術(shù)保持一定的冷靜和敬畏的態(tài)度，人因?qū)W要發(fā)揮自己的學(xué)科影響力。

3.2 自主化帶來的新型人機(jī)合作關(guān)系:人機(jī)組隊(duì)

除了上面討論的人-自主化交互中的人因?qū)W問題，自主化技術(shù)的引進(jìn)還帶來了智能時代人機(jī)關(guān)系的重大轉(zhuǎn)變。表2總結(jié)了在不同的技術(shù)發(fā)展階段,人機(jī)關(guān)系、人機(jī)角色以及作業(yè)性質(zhì)的演變。其中，智能時代自主化技術(shù)所帶來的新型人機(jī)關(guān)系必然帶來智能時代對人因?qū)W研究、應(yīng)用和設(shè)計(jì)范式的新思考，人因?qū)W必須充分考慮人類操作員和機(jī)器角色的新變化：(1)在人-自動化交互(人機(jī)交互，HCI)中，人類操作員作為監(jiān)控員，而機(jī)器充當(dāng)輔助工具;(2)在人-自主化(半自主化)交互中，同為認(rèn)知代理的人類操作員和機(jī)器作為隊(duì)友而合作，機(jī)器擁有的“輔助工具+合作隊(duì)友”雙重新角色是自主化所特有的，這種機(jī)器角色的轉(zhuǎn)變代表了智能時代人機(jī)關(guān)系的重大轉(zhuǎn)變。

表2 不同技術(shù)發(fā)展階段中人機(jī)關(guān)系、作業(yè)性質(zhì)以及人機(jī)角色的演變

已有人因?qū)W研究者洞察到了智能技術(shù)的引入正在改變傳統(tǒng)的人機(jī)關(guān)系，“人機(jī)組隊(duì)”(human-machine teaming,HMT)在一些研究中正在替換傳統(tǒng)的“人機(jī)交互”(human-computer interaction,HCI)(例如，Chen & Barnes 2014；Brill,et al.2018)。在HCI中，基于計(jì)算技術(shù)的機(jī)器是通過“交互”來支持人類操作的一種工具(例如，基于計(jì)算技術(shù)的自動化)。當(dāng)基于自主化技術(shù)的機(jī)器獲取一定的認(rèn)知能力后，機(jī)器從一種支持人類操作的工具發(fā)展為一個具有一定認(rèn)知能力的自主化智能體,因此人與機(jī)器之間的關(guān)系演變成為一個團(tuán)隊(duì)合作的隊(duì)友關(guān)系，即人-自主化組隊(duì)(Human-Autonomy Teaming,HAT)(Brandt,et al.,2018;Shively,et al.,2018)。在HCI中，也存在一定程度的人機(jī)合作(協(xié)作)，但是HCI的人機(jī)合作與人機(jī)組隊(duì)合作之間有著本質(zhì)上的差別。理由如下：

第一，正如自主化與自動化之間人因?qū)W特征的比較所表明的(見2.3和表1)，基于智能技術(shù)的自主化系統(tǒng)是具備一定認(rèn)知能力、獨(dú)立執(zhí)行能力、對不可預(yù)測環(huán)境的自適應(yīng)能力的認(rèn)知代理；在HCI中，基于一般計(jì)算技術(shù)的機(jī)器(例如，自動化系統(tǒng))不具備任何這些認(rèn)知能力。兩者之間在認(rèn)知能力(“有”與“沒有”)上的區(qū)別決定了兩種合作在本質(zhì)上的差別。

第二，在人機(jī)組隊(duì)中，兩個認(rèn)知代理(人與自主化系統(tǒng))之間的合作是主動的(即人機(jī)各自可以啟動激活人機(jī)之間的合作)、雙向分享的(即人機(jī)之間各自可以擁有自己的但是可分享的情境意識、信任、意圖、決策控制等)、智能互補(bǔ)的(即人類的生物智能——認(rèn)知信息加工能力；機(jī)器智能——由AI等技術(shù)實(shí)現(xiàn))。在HCI的人機(jī)合作中，作為輔助工具的自動化系統(tǒng)是被動的(即只有人可以啟動激活，機(jī)器只能以“刺激-反應(yīng)”式的、依賴于由人事先固定設(shè)計(jì)的邏輯規(guī)則和算法來響應(yīng)人類操作員的指令)、單向非分享的(即只有人針對機(jī)器單方向的信任、情境意識、決策控制等)、非智能互補(bǔ)的(即只有人類的生物智能)。

第三，人機(jī)組隊(duì)(human-machine teaming)(而不是人機(jī)團(tuán)隊(duì)，human-machine team)中的“組隊(duì)”和“teaming”(中英文動名詞)可以被認(rèn)為是表征了一種人與代表自主化系統(tǒng)的認(rèn)知代理之間雙向地、主動地尋求合作的動態(tài)過程。認(rèn)知代理的這種合作主動性是由自主化系統(tǒng)所特有的認(rèn)知能力、獨(dú)立執(zhí)行操作、對不可預(yù)測環(huán)境的自適應(yīng)等機(jī)器智能的本質(zhì)特征所決定的，這也是一般非智能計(jì)算技術(shù)(例如，自動化技術(shù))所望塵莫及的。

因此，HAT是一種更加高效的人機(jī)合作。但是，HAT的人機(jī)合作也是一把雙刃劍。一方面，人機(jī)雙方是強(qiáng)強(qiáng)組合，例如，基于AI智能技術(shù)的自主化系統(tǒng)的認(rèn)知代理，利用大數(shù)據(jù)和深度學(xué)習(xí)技術(shù)可以整合來自大量專家知識的智慧，主動地幫助人類操作員在非正常的場景中解決以往單個人類操作員所不能解決的問題，這是一般的HCI或者自動化系統(tǒng)中的人機(jī)合作所無法達(dá)到的；另一方面，如果HAT設(shè)計(jì)中沒能保證人擁有系統(tǒng)的最終決策控制權(quán)的話，基于AI技術(shù)的自主化系統(tǒng)有可能帶來安全的隱患。因此，HAT既是人因?qū)W的新機(jī)遇，也是新挑戰(zhàn)。這種新型的人機(jī)合作關(guān)系要求人因?qū)W人員超越以往的設(shè)計(jì)思維,在自主智能化技術(shù)人因?qū)W研究和應(yīng)用中，充分考慮這種新型人機(jī)合作關(guān)系，從而為自主化技術(shù)提供有效的人因?qū)W學(xué)科支持和完整的人因?qū)W解決方案。

目前，有關(guān)HAT在概念層面上的人因?qū)W研究已在一些領(lǐng)域初步展開。例如，空中智能交通管理系統(tǒng)中的空管員-空管自主化組隊(duì)(Kistan,et al.,2018),特殊操作環(huán)境中的操作員-智能機(jī)器人組隊(duì)(Calhoun，et al.,2018),智能飛機(jī)駕駛艙中飛行員-機(jī)載自主化組隊(duì)(Brandt,et al.,2018)，未來高等級自動駕駛車中的駕駛員-車載自主化組隊(duì)(de Visser et al.，2018;Navarro,2018)。也有研究者提出人-自動化組隊(duì)(human-automation teaming)的概念(Christoffersen & Woods，2002,Mosier,et al.,2017)。根據(jù)以上針對“組隊(duì)”的討論，人-自動化組隊(duì)是不成立的，因?yàn)椴痪邆湔J(rèn)知等能力的自動化系統(tǒng)只能以一種輔助工具的方式存在于人機(jī)系統(tǒng)中，最多以一般意義上的被動式、單向非分享式、非智能互補(bǔ)的形式存在，并且這種人機(jī)合作是相對低效的。

3.3 自主化人因?qū)W解決方案的問題空間

如前所討論，自動化完全不具有基于機(jī)器智能的認(rèn)知等能力，而自主化擁有基于機(jī)器智能的認(rèn)知等能力，自主化的程度取決于基于機(jī)器智能的認(rèn)知等能力水平，可見自動化與自主化之間是正交的關(guān)系。另外，人因?qū)W的理念是以人為中心的設(shè)計(jì)，研究的對象是人機(jī)關(guān)系，人因?qū)W重點(diǎn)關(guān)心在操作條件下人類操作員與機(jī)器的關(guān)系。在自主化和自動化的操作領(lǐng)域中，人因?qū)W視人類操作員的人工干預(yù)是人機(jī)系統(tǒng)安全的極其重要的保證，是自主化和自動化系統(tǒng)在應(yīng)急操作場景中最后的安全保障。人工干預(yù)與自主化和自動化程度之間分別存在著一對一的關(guān)系，即隨著自主化和自動化程度的提高，人工干預(yù)的需求隨之減少，可見，人工干預(yù)是以上兩個平面(即人工干預(yù)×自主化，人工干預(yù)×自動化)所共有的一個維度。因此，自主化、自動化、人工干預(yù)三個變量可以用來表征三者之間的一個三維空間關(guān)系。

圖1示意了自主化、自動化與人工干預(yù)三者之間關(guān)系的一個三維空間概念模型。如圖1所示，A點(diǎn)代表一個完全需要人工操作而沒有任何自動化和自主化能力的系統(tǒng);B點(diǎn)代表一個具有針對特定場景的全自動化功能、沒有任何自主化能力，但是仍然需要人工干預(yù)的系統(tǒng);C點(diǎn)代表未來理想的全自主化系統(tǒng)，工程技術(shù)上有可能實(shí)現(xiàn)不需要人工干預(yù)，但是人因?qū)W強(qiáng)調(diào)人類操作員應(yīng)該是系統(tǒng)的最終決策控制者，所以需要必要的人工干預(yù)。平面ABO示意了具有不同自動化水平但沒有自主化的系統(tǒng)(即沒有任何基于機(jī)器智能的認(rèn)知能力的自動化系統(tǒng))。隨著自動化水平的提高，人工干預(yù)減少，但即使系統(tǒng)達(dá)到完全自動化(B點(diǎn))，也仍然需要一定程度的人工干預(yù)，這是由自動化系統(tǒng)的特征所決定的(見表1)。平面ACO示意了具有不同自主化程度的系統(tǒng)，但沒有自動化的系統(tǒng)(在現(xiàn)實(shí)中不存在)，所以該界面是開環(huán)邊界，隨著自主化程度的提高，人工干預(yù)的需求下降至全自主化(C點(diǎn))，并且保留一定程度上的人工干預(yù)來保證人對系統(tǒng)的最終控制權(quán)。

圖1 自主化、自動化與人工干預(yù)三者之間關(guān)系的概念模型

重要的是，在圖1的概念模型中，介于四個平面(ABC，ABO，ACO和BCO)之間的三維空間。在實(shí)現(xiàn)全自主化之前，半自主化系統(tǒng)一般都擁有相當(dāng)程度的自動化技術(shù)，正如“高等級自動駕駛車不僅僅是自動的，更應(yīng)該是自主的”(李德毅，2019)。自動化的操作以及半自主化系統(tǒng)的操作都需要不同程度的人工干預(yù)，在各種操作條件下，人-自動化交互和人-自主化交互在這個三維空間內(nèi)共存。

總結(jié)以上的討論以及表1和圖1，可以得到以下三點(diǎn)：

(1)半自主化系統(tǒng)與自動化系統(tǒng)類似，需要人工監(jiān)控和干預(yù)，人與半自主化之間存在交互，在實(shí)現(xiàn)全自主化之前，人-半自主化交互(本文以下簡稱人-自主化交互)必然長期存在，如同自動化人因?qū)W問題一樣，人-自主化交互中的人因?qū)W問題也將長期存在。

(2)人-自動化交互伴隨人-自主化交互，共存于一個問題空間，如同半自主化系統(tǒng)中一定有自動化技術(shù)的支撐。這意味著半自主化系統(tǒng)可能遇到與人-自動化交互中類似的人因?qū)W問題，以往豐富的人-自動化交互人因?qū)W研究成果可能有助于解決人-自主化交互中的部分人因?qū)W問題。

(3)人-自主化交互與人-自主化組隊(duì)(HAT)互為包容，共存于同一個問題空間中，因?yàn)镠AT合作需要人-自主化交互的支持，而人-自主化之間的“交互”是為了人機(jī)之間的有效合作。比如，人機(jī)之間通過雙向信任和分享SA等的人機(jī)組隊(duì)合作需要有效的人-自主化交互的支持(例如，人機(jī)界面上的信息交互，人類操作員在應(yīng)急狀態(tài)下通過有效的人工干預(yù)接管系統(tǒng)的操控等)。

因此，圖1所示意的三維空間包括了人-自動化交互、人-自主化交互、人-自主化組隊(duì)，這個三維空間表征了自主化人因?qū)W的問題空間，也正是目前人因?qū)W面臨的挑戰(zhàn)和機(jī)遇所在。作為人因?qū)W學(xué)科理念的“以人為中心的設(shè)計(jì)”應(yīng)該就是在這個問題空間內(nèi)探尋人因?qū)W解決方案過程中應(yīng)該遵循的理念。

3.4 自主化人因?qū)W解決方案的理念：以人為中心的設(shè)計(jì)

在歷史上,許多自動化系統(tǒng)的研發(fā)最初是按照以技術(shù)為中心的途徑進(jìn)行,然后因?yàn)槿艘驅(qū)W的干預(yù)而逐漸轉(zhuǎn)向以人為中心的設(shè)計(jì)。一個典型的例子就是現(xiàn)代大型民用飛機(jī)駕駛艙的自動化飛行系統(tǒng),它的發(fā)展從一開始就是以技術(shù)為導(dǎo)向，而并非遵循以人(飛行員)為中心的人因?qū)W理念，導(dǎo)致自動駕駛系統(tǒng)人機(jī)界面上過分復(fù)雜的自動化模式和控制方式設(shè)計(jì)等人因?qū)W問題。當(dāng)自動化系統(tǒng)帶來系統(tǒng)可靠性、操作準(zhǔn)確性、飛行員體力工作負(fù)荷、經(jīng)濟(jì)效益和安全等方面益處的同時，也帶來產(chǎn)生人為差錯的隱患，直接或間接地導(dǎo)致了一些重大飛機(jī)解體事故的發(fā)生(Billings,1996；Xu,2007；許為，2014)。盡管航空人因?qū)W界一直在努力，但是受設(shè)計(jì)兼容性、飛行員培訓(xùn)成本、適航風(fēng)險等因素的影響，這種以技術(shù)為導(dǎo)向的設(shè)計(jì)給后續(xù)新機(jī)型人機(jī)界面設(shè)計(jì)的改進(jìn)帶來許多挑戰(zhàn)。這是人因?qū)W對自動化技術(shù)干預(yù)所受到挑戰(zhàn)的一個典型案例。

如前面所討論，今天我們面對新一波的自主化技術(shù)，首先是一系列半自主化系統(tǒng)。從以人為中心設(shè)計(jì)的理念出發(fā)，根據(jù)自動化人因?qū)W研究的成果和教訓(xùn)，半自主化系統(tǒng)的設(shè)計(jì)必須通過有效的人機(jī)交互設(shè)計(jì)，在所定義的特定場景和任務(wù)操作環(huán)境中始終保證人類操作員的“人在閉環(huán)中”(in-the-loop)狀態(tài)，從而確保人類操作員擁有較高的SA和參與度，能夠在任何時候?qū)ο到y(tǒng)進(jìn)行人工干預(yù)。在工程技術(shù)上，即使能夠?qū)崿F(xiàn)半自主化系統(tǒng)的非人工干預(yù)手段，以人為中心設(shè)計(jì)理念強(qiáng)調(diào)在任何時候人類操作員都應(yīng)該能夠進(jìn)行有效的人工干預(yù)?；诮鼛啄甓嗥鹱詣玉{駛車致命事故的教訓(xùn)(NTSB，2017；Endsley,2018)，這是人因?qū)W對人的生命和系統(tǒng)安全的承諾，是人因?qū)W對AI、工程技術(shù)界的呼吁。

盡管目前全自主化系統(tǒng)在現(xiàn)實(shí)中并不存在，以人為中心設(shè)計(jì)的理念強(qiáng)調(diào)，如果將來某一天實(shí)現(xiàn)了全自主化系統(tǒng)，并且工程上可以實(shí)現(xiàn)非人工干預(yù)手段，系統(tǒng)設(shè)計(jì)仍然必須保證，作為系統(tǒng)的最終決策操控者的人類操作員在任何時候都可以實(shí)現(xiàn)有效的人工干預(yù)。正如作者在上一篇系列文章《四論以用戶為中心的設(shè)計(jì):以人為中心的人工智能》中所提出的“以人為中心的AI”設(shè)計(jì)理念模型，該模型強(qiáng)調(diào)AI的下一個前沿不能僅僅是技術(shù)，它也必須是合乎道德倫理的、惠及人類的；AI是增強(qiáng)人類的能力而不是取代人(許為，2019b)。已有多名知名科學(xué)家和高科技企業(yè)家(包括史蒂芬·霍金、伊隆·馬斯克等)通過發(fā)表公開信表達(dá)了對未來智能系統(tǒng)可能傷害人類(甚至毀滅人類)的極大擔(dān)憂(Russell,et al.2015)。以人為中心設(shè)計(jì)的理念強(qiáng)調(diào)人應(yīng)該是在任何條件下、任何時候、對任何智能系統(tǒng)(包括全自主化系統(tǒng))最終的決策控制者(見表1)。

從人-自主化組隊(duì)的新型人機(jī)合作關(guān)系的角度來看,在人機(jī)兩個認(rèn)知代理之間雙向的、分享的、主動的、智能互補(bǔ)的合作關(guān)系中,以人為中心設(shè)計(jì)的理念同樣要求保證人類操作員在任何時候具有對系統(tǒng)的最終決策操縱權(quán)。只不過這種設(shè)計(jì)理念在人-自主化組隊(duì)情境下的實(shí)現(xiàn)更加智能化，更加體現(xiàn)出人機(jī)兩個認(rèn)知代理之間的無縫合作，從而大大提高人機(jī)系統(tǒng)整體的可靠性和安全性。例如，在未來單人操縱的大型智能化民用飛機(jī)駕駛艙中，在正常操作狀態(tài)下，自主化系統(tǒng)操縱飛行，人-自主化系統(tǒng)之間的雙向信任、共享的SA等可以保證系統(tǒng)的最終控制權(quán)始終在人類操作員的手中，比如在應(yīng)急狀態(tài)下，自主化系統(tǒng)將系統(tǒng)操控權(quán)快速有效地交付給人類操作員。當(dāng)人類操作員處于失能狀態(tài)(即喪失認(rèn)知和操控能力)時，自主化系統(tǒng)通過情景模型能夠迅速查詢到人類操作員的當(dāng)前狀態(tài)(包括認(rèn)知、生理和行為等)，基于人-自主化組隊(duì)合作過程中已經(jīng)建立起的人機(jī)雙向信任，分享的操作任務(wù)、意圖和目的，自主化系統(tǒng)可以迅速有效地掌控系統(tǒng)的最終操控權(quán)，將損失降到最低的程度(例如，尋找安全的著陸地點(diǎn)，或者啟動針對特殊飛機(jī)的彈射離艙救生系統(tǒng))。這種人機(jī)之間機(jī)器最終操控權(quán)的分配轉(zhuǎn)移是建立在人機(jī)之間優(yōu)先權(quán)分配、系統(tǒng)備份設(shè)計(jì)、人機(jī)之間雙向信任、雙向SA、分享的任務(wù)意圖等人-自主化組隊(duì)合作的基礎(chǔ)上所產(chǎn)生的對系統(tǒng)操控權(quán)的分享。這是一種升級版的以人為中心設(shè)計(jì)理念在人-自主化組隊(duì)情境下的有效實(shí)現(xiàn)。

因此，以人為中心設(shè)計(jì)的理念提醒人們從自動化系統(tǒng)設(shè)計(jì)的演化進(jìn)程中吸取歷史教訓(xùn)，希望人因?qū)W在社會進(jìn)入一個自主化技術(shù)世界的初期，旗幟鮮明地表明自己的學(xué)科理念和立場，與AI、工程技術(shù)界密切合作，盡最大努力去影響自主化系統(tǒng)的研發(fā)。

4 人-自主化組隊(duì)的人因?qū)W研究

4.1 人-自主化組隊(duì)人因?qū)W研究的思路

作為一種新的研究對象，HAT需要借助成熟的研究理論和框架，有研究者推崇人-人團(tuán)隊(duì)的理論(Madhavan & Wiegmann,2007;de Visser,2018)。人-人團(tuán)隊(duì)理論為HAT人因?qū)W研究提供的啟示是要考慮類似于人-人團(tuán)隊(duì)合作的一些關(guān)鍵特征：人與自主化認(rèn)知代理之間的溝通、協(xié)調(diào)和合作等(Salas，et al.,2005)；人與自主化認(rèn)知代理之間共享的心理模型、雙向績效監(jiān)測、團(tuán)隊(duì)適應(yīng)性、團(tuán)隊(duì)領(lǐng)導(dǎo)力、信任修復(fù)以及校準(zhǔn)(Mosier,et al.,2017)。

其他一些理論框架也為HAT研究提供了工作思路。借用協(xié)同認(rèn)知系統(tǒng)(Joint Cognitive Systems)的概念(Hollnagel & Woods,2005)，HAT中的人類操作員和自主化認(rèn)知代理可被認(rèn)為是同一認(rèn)知協(xié)同系統(tǒng)中兩個合作的認(rèn)知代理，人類的生物智能(認(rèn)知信息加工能力)與機(jī)器智能(由AI等技術(shù)實(shí)現(xiàn))通過深度整合和兩個認(rèn)知代理之間的協(xié)作實(shí)現(xiàn)了智能互補(bǔ)。從彈性工程(Resilience Engineering)的角度(Woods,et al.,2012)，HAT需要一種能夠主動預(yù)測和處理錯誤的彈性工程方法，HAT必須不斷適應(yīng)操作場景，其成功取決于兩個隊(duì)友在預(yù)測和管理潛在風(fēng)險的能力，當(dāng)失敗時，積極修復(fù)信任應(yīng)該是HAT和自主化設(shè)計(jì)的基本要求之一(de Visser,et al.,2018))。最后，交互式團(tuán)隊(duì)認(rèn)知(ITC)理論強(qiáng)調(diào)在團(tuán)隊(duì)認(rèn)知活動中在團(tuán)隊(duì)層面上開展針對團(tuán)隊(duì)工作效率的測量和建模工作(Cooke,et al.,2013)。

針對HAT的人因?qū)W研究，目前主要集中在概念層面和工作思路等方面。研究者開始在航空航天(Kistan,et al.,2018；Brandt,et al.,2018)、軍事(Calhoun，et al.,2018)以及自動駕駛車(de Visser et al.，2018;Navarro,2018)等領(lǐng)域內(nèi)探索HAT的應(yīng)用。從研究思路上來說，人-人團(tuán)隊(duì)理論是目前HAT人因?qū)W研究的主要框架。根據(jù)人-人團(tuán)隊(duì)理論，研究者為HAT的人因?qū)W研究制定了一些基本原則：雙向的(溝通、信任等)、共享的(目標(biāo)、情境意識、語言、意圖、決策、自主化控制等)、協(xié)商的責(zé)任以及可控的工作負(fù)荷等(Madni & Madni,2018;Shively,et al.,2018;Ho,et al.,2017)。本節(jié)以下的內(nèi)容主要基于人-人團(tuán)隊(duì)理論的框架，重點(diǎn)總結(jié)三個方面的研究。

4.2 人-自主化組隊(duì)的人因?qū)W研究

4.2.1 人機(jī)共享的情景意識

不同于以往人類操作員個體針對自動化系統(tǒng)和操作環(huán)境的單向式情景意識(SA),HAT的SA是雙向分享式的團(tuán)隊(duì)SA，人因?qū)W可以借助人-人團(tuán)隊(duì)SA模型來開展研究(Endsley & Jones,2001)。從Endsley(1995)的SA三水平信息加工模型出發(fā)：在感知階段,人類操作員和自主化認(rèn)知代理都需要了解對方的狀態(tài),分享與任務(wù)、行動、目標(biāo)分配優(yōu)先權(quán)等相關(guān)信息的感知；在理解階段,人類操作員要理解自身作業(yè)以及對自主化作業(yè)的影響,自主化認(rèn)知代理同樣如此，并且相互共享對任務(wù)、環(huán)境、系統(tǒng)等信息的理解；在預(yù)測階段,兩者協(xié)同定義工作的策略和預(yù)測可能的行動。

在航空領(lǐng)域應(yīng)用中，飛行員與未來智能駕駛艙中的自主化系統(tǒng)之間應(yīng)該高度共享SA，確保兩者之間協(xié)調(diào)功能分配、目標(biāo)調(diào)整和行動方案，例如，目前正在處于概念研究階段的未來民用飛機(jī)單人操縱智能化駕駛艙(Bailey,et al.,2018)。在高等級自動駕駛車中，駕駛員與自主駕駛系統(tǒng)共享的SA信息應(yīng)該包括當(dāng)前駕駛軌跡、彼此的能力、各種與評估和計(jì)劃行動相關(guān)的信息(比如目標(biāo)，優(yōu)先級)等(Endsley,2017)。有研究從人機(jī)交互透明度的角度來尋找如何利用共享SA幫助構(gòu)建有效的HAT，例如，Chen et al.(2017)提出了基于HAT中SA分享的代理透明度模型(SAT)，來達(dá)到滿足雙向透明度的團(tuán)隊(duì)合作范式的需要。

開展HAT團(tuán)隊(duì)共享SA的研究具有一些挑戰(zhàn)。以往人因?qū)W的SA研究大多集中在針對個體SA方面，針對人-人團(tuán)隊(duì)SA的研究已引起關(guān)注，不僅取決于團(tuán)隊(duì)每個成員的SA水平，同時更依賴于成員之間共享的SA水平，但是團(tuán)隊(duì)SA測量仍未完全解決(孫向紅等，2011)。共享SA是團(tuán)隊(duì)成員擁有相同的并且有助于跨角色作決策所需的SA(Endsley & Jones,2001)，針對HAT團(tuán)隊(duì)共享SA的研究更有待于開展。在應(yīng)用中，自主化代理在技術(shù)上可以通過傳感器所輸入的信息源和計(jì)算模型得到針對人類操作員、系統(tǒng)本身以及環(huán)境的SA，該模型化的SA可能與人類操作員的SA不同，會導(dǎo)致雙方對決策所需的SA信息有不同的評估,因此人類操作員和自主化認(rèn)知代理之間的SA模型需要有效的雙向溝通。在復(fù)雜操作環(huán)境中，為確保高效的HAT，今后的研究需要開發(fā)針對自主化系統(tǒng)的情境模型(Endsley,2015)。

4.2.2 人機(jī)雙向的信任

如同人-人團(tuán)隊(duì)的合作，信任是HAT合作的基本特征之一。在人-自動化交互中，信任只是人針對自動化的單向信任，大量的人因?qū)W研究已經(jīng)清楚表明操作員對自動化的過度信任(自滿)或者缺乏信任都會影響人機(jī)績效(例如，Parasuraman & Riley，1997)。在HAT中，兩個認(rèn)知代理(人類操作員與自主化)之間的信任是雙向的，兩者之間是否保持對對方適當(dāng)?shù)男湃嗡綍苯佑绊慔AT的團(tuán)隊(duì)績效。例如，在未來空中智能交通指揮系統(tǒng)中，交通管制員與自主指揮系統(tǒng)之間維持適當(dāng)?shù)男湃斡兄趦烧咧g有效地協(xié)調(diào)管理(Kistan,et al.,2018)。作為人機(jī)交互設(shè)計(jì)的方案之一，將人類操作員保持“人在閉環(huán)中”狀態(tài)的設(shè)計(jì)就是維持自主化系統(tǒng)對人類操作員信任的一種手段。例如，在自動駕駛車運(yùn)行中，如果駕駛員雙手離開方向盤，自主化系統(tǒng)可以認(rèn)為目前駕駛員在監(jiān)管上是不可信任的，打破了人機(jī)組隊(duì)合作的信任，從而系統(tǒng)應(yīng)該主動地啟動某種人機(jī)交互方式(比如多模態(tài)的告警信號)將駕駛員拉回“人在閉環(huán)中”的信任狀態(tài)。

除了人-人信任中常遇到的因素(比如，完整性、可預(yù)測性和不確定性)以外，自主化認(rèn)知代理面臨一些基于AI的機(jī)器智能體所共有的問題，包括缺乏類似人的“思考”、缺乏透明度、無法解釋其推理決策過程等(許為，2019b)。另外，機(jī)器智能體也缺乏心理模型、價值觀和信仰來激勵自我(Marquez，et al.，2013)。這些特殊因素給人-自主化信任的研究和應(yīng)用帶來了一些新的考慮。

Kistan,et al.(2018)認(rèn)為HAT雙向信任的人因?qū)W研究應(yīng)該著重考慮信任測量、建模、修復(fù)以及校正。從系統(tǒng)設(shè)計(jì)角度來說，人機(jī)界面透明度、可解釋性和可理解性有利于人-自主化信任的建立，比如，系統(tǒng)應(yīng)該有足夠的透明度來支持和促進(jìn)信任校準(zhǔn)(Chen & Barnes,2014;Mercado et al.2016)，而Chen et al.(2017)認(rèn)為他們提出的代理透明度模型(SAT)可用作為一個校準(zhǔn)團(tuán)隊(duì)信任和促進(jìn)共同理解的有效工具。但是需要多少透明度和傳達(dá)哪些信息需要進(jìn)一步研究(Pelegrini Morita et al.,2014)。de Visser et al.(2018)認(rèn)為發(fā)生錯誤后積極開展信任修復(fù)應(yīng)該是HAT設(shè)計(jì)的基本問題,并提出了一些選擇信任修復(fù)的策略。

已有研究者針對自動駕駛車中的信任修復(fù)展開了初步研究。de Visser et al.(2018)建議在司機(jī)-自主駕駛系統(tǒng)交互中，當(dāng)系統(tǒng)失敗時(比如，選擇非最佳的路線)，簡單地向司機(jī)通知或解釋可能無法修復(fù)信任，需要采取一定的行為措施。Kohn et al.(2018)設(shè)法了解人們?nèi)绾慰创詣玉{駛汽車所犯的錯誤以及合適的信任修復(fù)類型。該研究發(fā)現(xiàn)在HAT中人機(jī)之間的道歉行為在修復(fù)信任方面比一些否認(rèn)式行為更有效，一個具有信任修復(fù)能力的自主化系統(tǒng)應(yīng)該能夠維護(hù)和修復(fù)HAT的合作伙伴關(guān)系，這方面的問題需要進(jìn)一步的研究。

4.2.3 人機(jī)共享的自主化系統(tǒng)控制權(quán)

自主化系統(tǒng)控制權(quán)的選擇和共享有助于構(gòu)建有效的HAT和保障人機(jī)系統(tǒng)的安全。目前還沒有自主化系統(tǒng)可以在所有條件下完美地工作，靈活的自主化系統(tǒng)控制權(quán)分配將允許任務(wù)、功能和整個系統(tǒng)(比如，車輛的控制)的控制在人類操作員和自主化認(rèn)知代理之間分享(接管或交付)?？刂茩?quán)轉(zhuǎn)移取決于雙方的信任、共享SA、風(fēng)險、需求以及合作關(guān)系等因素。在應(yīng)用中，需要保證“人在閉環(huán)中”的設(shè)計(jì)和人類操作員掌握系統(tǒng)最終控制權(quán)。在特殊情況下(例如，人類操作員失去意識)，通過監(jiān)測人類操作員的認(rèn)知、生理狀態(tài)等，必要時自主認(rèn)知代理需要快速有效地接管系統(tǒng)的控制權(quán)(Endsley，2015)。

針對人機(jī)共享的自主化系統(tǒng)控制權(quán)的人因?qū)W研究尚處在概念階段。在自動駕駛車研究領(lǐng)域，美國MIT的自主車研究項(xiàng)目提出了以人為中心的自主車(HCAV)共享自主化研發(fā)范式(Fridman,2018)。HCAV項(xiàng)目認(rèn)為自主化系統(tǒng)控制權(quán)不是一個單獨(dú)的機(jī)制，需要人機(jī)之間的合作(HAT),包括互相分享的SA、信任等的支持。其中，分享的SA由HCAV的“駕駛員感知”功能實(shí)現(xiàn)，“駕駛員感知”采用多模態(tài)的測量來評估駕駛員的身體功能特征(包括分心、疲勞、認(rèn)知、情緒狀態(tài)等)；分享的信任是通過算法對外部環(huán)境的建模產(chǎn)生風(fēng)險評估，然后視覺化地呈現(xiàn)給人類駕駛員。HCAV通過人機(jī)合作、分享的SA、風(fēng)險評估等方法，保證車輛控制權(quán)在人機(jī)之間的有效過渡，自主化系統(tǒng)負(fù)責(zé)絕大部分的操作，駕駛員承擔(dān)對車輛的最終的控制權(quán)。該研究估計(jì)將HCAV的共享控制權(quán)方法用在裝備特斯拉Autopilot(L2等級)的自動駕駛車上，可將目前較低的Autopilot(自動駕駛)平均使用率從約占總里程的30%提高到50%以上。

人們還試圖尋找其他有效的方法來實(shí)現(xiàn)人機(jī)之間自主化系統(tǒng)控制權(quán)共享的途徑，例如，自適應(yīng)控制的方法。Muslim & Itoh(2018)遵循以人為中心的理念對自動駕駛車研發(fā)提出由自適應(yīng)控制來共享車輛控制權(quán)的方法，并且定義了人機(jī)之間動態(tài)切換控制權(quán)限的自適應(yīng)轉(zhuǎn)換策略。該策略保證人類操作員擁有對系統(tǒng)的最終權(quán)限，從原理上提出了如何以及何時可以在人機(jī)之間轉(zhuǎn)換控制的建議。Madni & Madni(2018)認(rèn)為自適應(yīng)的HAT需要解決協(xié)同人機(jī)績效、SA共享、人機(jī)知識共享、動態(tài)任務(wù)分配以及人機(jī)決策共享等問題，提出了一個用于航空領(lǐng)域的自適應(yīng)HAT架構(gòu)。

4.3 人-自主化組隊(duì)人因?qū)W研究的展望

HAT研究需要跨學(xué)科的合作和方法,包括AI、計(jì)算科學(xué)以及認(rèn)知學(xué)科等領(lǐng)域(McNeese,et al,2019)。在前面有關(guān)HAT人因?qū)W研究討論的基礎(chǔ)上，展望今后HAT人因?qū)W研究總的工作思路。

首先,開展針對基于HAT的新型人機(jī)合作的人因?qū)W基本問題研究。例如，如何更好地理解HCI與HAT的區(qū)別；如何有效定義和設(shè)計(jì)智能系統(tǒng)中動態(tài)化人機(jī)功能分配來支持HAT；在HAT中，人-自主化交互與HAT之間的關(guān)系，人-自主化交互和組隊(duì)合作的優(yōu)化組合受哪些因素影響；自主化程度對HAT合作和團(tuán)隊(duì)績效的影響；如何構(gòu)造可解釋和可協(xié)商的自主化系統(tǒng)；人機(jī)之間決策權(quán)的分配；人機(jī)之間知識的獲取和管理，例如，機(jī)器需要什么樣的人類行為表征(比如隱性知識)才能有效地理解人類操作員的意圖。

開展對HAT中一些重要因素的量化研究。例如，在人-人團(tuán)隊(duì)信任研究的基礎(chǔ)上，如何確定和量化HAT中雙方之間動態(tài)功能交換所需的信任程度；以往許多研究集中在個體SA,近年來已有針對團(tuán)隊(duì)SA以及測量的研究，但是大多集中在人-人團(tuán)隊(duì)場景中。針對HAT的共享SA，未來的研究要針對HAT建立有效的方法來評估和量化共享SA(Endsley,2017a)。另外,Sheridan(2019)將三種現(xiàn)有模型擴(kuò)展到自動化信任的量化分析，這種方法或許給HAT的量化信任研究提供了一種工作思路。

開展HAT的人因?qū)W計(jì)算建模研究。例如，通過生物識別技術(shù)(視覺追蹤,人臉識別,腦電圖信號等)的有效指標(biāo)來測量人類操作員狀態(tài)(認(rèn)知工作負(fù)荷，疲勞和情緒狀態(tài)等)，建立自主認(rèn)知代理對人類操作員的行為評估模型(Madni & Madni,2018)。今后人因?qū)W的一項(xiàng)重要工作是基于以往人類SA的研究，為自主認(rèn)知代理的機(jī)器情境模型定義認(rèn)知架構(gòu)，從而支持創(chuàng)建HAT的共享SA(Endsley,2015)。此外，這種模型還需要評估在特定操作條件下人類能力的局限性，有助于確定何時以及在何種程度上系統(tǒng)的操控權(quán)應(yīng)該在兩者之間動態(tài)地分配轉(zhuǎn)換。

開展HAT中人機(jī)交互的研究。首先解決自主化系統(tǒng)中人機(jī)交互的基本問題，包括可解釋和可理解的HAT人機(jī)界面等(許為，2019b)。針對HAT的人機(jī)合作特征，考慮基于任務(wù)場景的動態(tài)化人機(jī)界面設(shè)計(jì)，比如，在高等級自動駕駛車中，針對正常狀態(tài)下(自主化系統(tǒng)控制)與應(yīng)急狀態(tài)下(人類操作員人工接管)的兩種場景，研究如何提供有效的、多模態(tài)、余度化和差異化的人機(jī)交互設(shè)計(jì)，貫徹以人為中心的設(shè)計(jì)理念，從而保證“人在閉環(huán)中”和充分的SA。另外，開展復(fù)雜領(lǐng)域中HAT的人機(jī)交互研究，例如，Calhoun，et al.(2018)針對未來單人操作員與多個自主代理(空中，地面和海面多場景)組成的全領(lǐng)域HAT應(yīng)用，采用生態(tài)界面設(shè)計(jì)(EID)方法(Vicente & Rasmussen,1992)，構(gòu)造全域多場景、人機(jī)雙向溝通的HAT人機(jī)界面設(shè)計(jì)。

開展HAT中人機(jī)共享的自主化系統(tǒng)控制權(quán)的研究。研究如何提供適當(dāng)程度的自主化選擇來支持人機(jī)之間的接管或交付；自主化認(rèn)知代理是否、如何以及何時可以接管或者將功能切換到人類操作員。例如，空中交通管制員與未來自主交通管制系統(tǒng)如何在兩者之間動態(tài)地交換功能，可否依據(jù)團(tuán)隊(duì)中人和機(jī)器的可信度，將權(quán)限與“獲得的信任級別”相匹配，然后執(zhí)行適當(dāng)?shù)那袚Q控制(Kistan,et al.,2018)。自主化系統(tǒng)控制權(quán)的分配和轉(zhuǎn)移取決于眾多因素，包括圍繞HAT的一系列研究問題，有待于今后系統(tǒng)化的人因?qū)W研究。

最后，除了采用人-人團(tuán)隊(duì)理論的框架來開展HAT的研究，同時也要采用協(xié)同認(rèn)知系統(tǒng)、彈性工程、交互式團(tuán)隊(duì)認(rèn)知等理論框架，多方面開展HAT的人因?qū)W研究。例如，根據(jù)協(xié)同認(rèn)知系統(tǒng)理論，如何利用人類的生物智能和機(jī)器智能在不同程度上的深度組合以及互補(bǔ)來支持基于人機(jī)組隊(duì)合作的自主化系統(tǒng)創(chuàng)新設(shè)計(jì)。

5 自主化人因?qū)W解決方案的個案分析：自動駕駛車

自動駕駛車是目前基于AI等智能技術(shù)的一個典型的自主化系統(tǒng)產(chǎn)品，而且受到各方面的關(guān)注。與此同時，近幾年也發(fā)生了一些安全事故(NTSB，2017；Endsley,2018)，人因?qū)W問題、安全和對大眾心理的影響等因素沒有引起足夠的重視(Hancock，2017,2019;Endsley,2019a;Salmon,2019)?；谝陨厢槍ψ灾骰艘?qū)W解決方案的討論和分析，本節(jié)進(jìn)一步集中討論自動駕駛車研發(fā)中人因?qū)W的解決方案。由于人因?qū)W在自動駕駛車研發(fā)中的應(yīng)用尚未全面展開，本文討論初步的工作思路。其中，以人為中心的設(shè)計(jì)是人因?qū)W在自動駕駛車研發(fā)中的設(shè)計(jì)理念，各方面的工作都是圍繞這個理念展開。

首先，要充分評估自動駕駛車的自主化技術(shù)對駕駛員操作角色、心理期望和操作行為等的影響。不同于傳統(tǒng)汽車的操作作業(yè)，自動駕駛車駕駛員從事多重作業(yè)，包括駕駛、監(jiān)控操作以及可能的非駕駛作業(yè)(手機(jī)或車載娛樂系統(tǒng)等)。從安全角度來說，現(xiàn)有自動駕駛技術(shù)要求駕駛員時刻處于監(jiān)控狀態(tài)(比如，特斯拉L2等級的Autopilot要求駕駛員雙手放在方向盤上)，隨時準(zhǔn)備接管手動駕駛，然而駕駛員行為受他們對自動駕駛車的信任、期望等因素的影響。有些制造商似乎高估了當(dāng)前自動駕駛車自主化的性能，低估了人因?qū)W問題的嚴(yán)重性，他們所發(fā)布的一些容易引起混淆的市場信息，會導(dǎo)致一些消費(fèi)者對自動駕駛車的不恰當(dāng)期望和操作行為。近幾年發(fā)生的多起自動駕駛車致命事故的調(diào)查結(jié)果揭示了類似的人因?qū)W問題：過度信任，參與度低以及注意力不集中，導(dǎo)致未能在緊急情況下快速接管駕駛(NHTSA，2017；Endsley,2018)。

人因?qū)W要積極參與自動駕駛車的研發(fā)。首先，在研發(fā)策略上，應(yīng)該提倡漸進(jìn)穩(wěn)重的研發(fā)策略，優(yōu)先研發(fā)適合于特定場景、自主化技術(shù)可行、安全的以及大眾可接受的L3等級的自動駕駛功能，然后逐步拓展到其他場景以及L4等級。其次，在研發(fā)流程方面，人因?qū)W需要盡早介入研發(fā)的早期階段,貫徹“以人為中心的設(shè)計(jì)”理念，將人(包括駕駛員、乘客以及行人)的需要和安全貫穿于研發(fā)的各個環(huán)節(jié)(Hancock，2017)。再則，在人機(jī)交互設(shè)計(jì)中，參照現(xiàn)有的自動駕駛車人機(jī)交互設(shè)計(jì)指南(HFES,2018)和人因?qū)W的專家建議(Endsley，2017a,2017b)，通過有效的人因?qū)W設(shè)計(jì)來解決“人在閉環(huán)外”、低參與度和低SA等問題(Navarro，2018)。最后，從應(yīng)用和設(shè)計(jì)范式上，在高等級自動駕駛車中，需要從HAT合作的角度來考慮人機(jī)交互以及人機(jī)界面的設(shè)計(jì)。

在人因?qū)W的應(yīng)用中，要盡量消除潛在的安全隱患對安全設(shè)計(jì)的影響。已有研究者質(zhì)疑SAE(2018)J3016條例對自動駕駛等級的分類沒有充分考慮以人為中心的設(shè)計(jì)理念(Hancock，2019)。從設(shè)計(jì)需求、可靠性、度量方法、安全管理和標(biāo)準(zhǔn)化等方面來說，SAE J3016條例對自動駕駛等級的分類是不嚴(yán)格的。SAE J3016條例認(rèn)為當(dāng)自動駕駛車裝備高等級(L4-L5)自動駕駛功能運(yùn)行時，不需要駕駛員監(jiān)控和人工干預(yù)，人因?qū)W認(rèn)為這種定義(至少對L4等級的自動駕駛功能)可能留下了安全的隱患，對車輛的安全設(shè)計(jì)和操作有誤導(dǎo)作用。人因?qū)W需要通過有效的人因?qū)W實(shí)驗(yàn)來獲取足夠的實(shí)證數(shù)據(jù)，幫助完善自動駕駛等級的分類、符合安全的系統(tǒng)需求以及自動駕駛技術(shù)的認(rèn)證標(biāo)準(zhǔn)等。

在人因?qū)W研究方面，采納HAT的研究范式開展對高等級的自動駕駛車人因?qū)W研究。SAE J3016條例中對自動化和自主化之間的區(qū)別是比較含糊不清的，可能會導(dǎo)致設(shè)計(jì)中對HAT新型人機(jī)合作關(guān)系、自主化人因?qū)W問題的忽略。借助于HAT的新型研究范式，人因?qū)W研究需要能夠超越對自動化研究的思維方式，為自主化技術(shù)提供全面的人因?qū)W解決方案。李德毅(2019)將自動駕駛車形容為“一個會學(xué)習(xí)的輪式機(jī)器人”，建議開發(fā)一個物化駕駛員在線認(rèn)知的智能代理(駕駛腦)。另外，以人為中心的自主車設(shè)計(jì)理念也為自動駕駛車的自主化人因?qū)W研究提供了一個工作思路(Fridman,2018；Muslim & Itoh，2018)。

最后，從宏觀工效學(xué)的角度看，自動駕駛車的研發(fā)不僅僅是一個工程技術(shù)項(xiàng)目，它對整個社會產(chǎn)生廣泛的影響，需要從社會技術(shù)系統(tǒng)大視野為自主化技術(shù)的應(yīng)用做好全面的準(zhǔn)備，包括自主化技術(shù)、設(shè)計(jì)標(biāo)準(zhǔn)、道路交通基礎(chǔ)設(shè)施、法律、倫理、交通規(guī)則、智聯(lián)網(wǎng)/5G、企業(yè)投資回報(bào)、大眾信任度和接受度、駕駛員技能以及自動駕駛車技術(shù)認(rèn)證等。因此，開發(fā)安全的、技術(shù)可行的、大眾信任和接受的自動駕駛車是一個系統(tǒng)工程，需要多學(xué)科以及跨部門(企業(yè)、政府、科研單位等)的通力合作。

6 總結(jié)與展望

(1)基于AI的智能技術(shù)促進(jìn)了自主化技術(shù)的應(yīng)用，自主化表現(xiàn)出與自動化不同的人因?qū)W特征。人-自主化(半自主化)交互將長期存在，人-自主化交互中出現(xiàn)的一些人因?qū)W問題類似于人-自動化交互，利用以往人-自動化交互人因?qū)W研究的成果有助于解決一部分自主化人因?qū)W問題。本文通過建立一個自主化、自動化與人工干預(yù)三者之間關(guān)系的概念空間模型表征了自主化人因?qū)W的問題空間。

(2)不同于自動化，智能化技術(shù)的加入使得智能時代的人機(jī)關(guān)系發(fā)生了新的轉(zhuǎn)變，帶來了人與自主化系統(tǒng)兩個隊(duì)友之間的新型人機(jī)合作關(guān)系。智能時代這種新型人機(jī)合作關(guān)系必定帶來對人因?qū)W研究和應(yīng)用的新考慮，促使重新評估現(xiàn)有的人因?qū)W理論和方法，開展必要的人因?qū)W研究，從而能夠?yàn)樽灾骰夹g(shù)的應(yīng)用提供有效的人因?qū)W學(xué)科支持和完整的人因?qū)W解決方案。

(3)針對人-自主化組隊(duì)(HAT)的人因?qū)W工作，需要采用有效的研究和應(yīng)用范式。需要開展跨學(xué)科的協(xié)同合作，開展對智能時代新型人機(jī)合作關(guān)系的人因?qū)W基本問題(人-自主化雙向信任、共享SA、共享的自主化系統(tǒng)控制權(quán)等)、HAT中一些重要因素的量化、針對HAT的人因?qū)W建模以及人機(jī)交互設(shè)計(jì)等方面的研究和應(yīng)用。

(4)作為自主化技術(shù)的應(yīng)用，自動駕駛車的研發(fā)正方興未艾，人因?qū)W的初步研究和事故調(diào)查揭示了目前自動駕駛車設(shè)計(jì)中的一些人因?qū)W問題，人因?qū)W對當(dāng)前自動駕駛車研發(fā)的學(xué)科作用和影響力遠(yuǎn)遠(yuǎn)不夠。我們呼吁在自動駕駛車研發(fā)中要重視人因?qū)W問題，人因?qū)W界要主動融入自動駕駛車的研發(fā)，基于以人為中心的設(shè)計(jì)理念,從研發(fā)策略、流程整合、人機(jī)交互、設(shè)計(jì)范式、HAT研究以及社會技術(shù)系統(tǒng)等方面著手，充分發(fā)揮人因?qū)W的學(xué)科作用和影響力。

(5)自動化技術(shù)中人因?qū)W問題的出現(xiàn)到被人們充分認(rèn)識經(jīng)歷了一個長期的過程，經(jīng)典的“ironies of automation”現(xiàn)象在30多年后仍然沒有得到徹底的解決。今天，隨著AI等智能技術(shù)催生了新的自主化技術(shù)，在當(dāng)前的社會技術(shù)系統(tǒng)大環(huán)境中，我們又遇到了一個新的“irony”，需要跨學(xué)科的協(xié)同合作去迎接和克服新的挑戰(zhàn)，人因?qū)W任重而道遠(yuǎn)。