吳越

2018年11月中，久負(fù)盛名的歐洲航空電子設(shè)備制造商泰雷斯公司與法國國家宇航研究中心（ONERA）簽署了一份進(jìn)行空間活動研究的合作協(xié)議。在隨后的媒體采訪中，這兩大歐洲航空航天工業(yè)巨頭共同拋出了一個令人震驚的觀點——人工智能（AI）不適合用在駕駛艙中替代飛行員工作！

很顯然，這個觀點是完全有悖于近來多數(shù)人的認(rèn)知的。

現(xiàn)代飛機上的電子設(shè)備越來越復(fù)雜，飛行員們的工作負(fù)擔(dān)也越來越重，迫切需要一種輔助的手段協(xié)助飛行員進(jìn)行飛行管理。電傳操縱系統(tǒng)在一定程度上解決了飛機性能提高和安全性下降之間的矛盾，并通過設(shè)置邊界保護、多重冗余等手段，達(dá)成了一定的智能化自動操作水平，顯著降低了駕駛員操縱飛機的負(fù)擔(dān)。但是，除了操縱飛機之外，現(xiàn)代飛機的飛行員需要掌控的其他事項仍然較多。而受人類的生理限制，在多任務(wù)監(jiān)控和執(zhí)行、對飛行參數(shù)變化的敏感度以及進(jìn)行操縱的及時性等諸多方面，仍然難以滿足現(xiàn)代飛機的要求，出現(xiàn)飛行員工作負(fù)荷增加、航空安全壓力增大、無法適應(yīng)現(xiàn)代的空中作戰(zhàn)態(tài)勢環(huán)境或者飛行環(huán)境等問題。據(jù)統(tǒng)計，目前的航空飛行事故中，大約80%是由于各種人為因素造成的。為此，需要更進(jìn)一步提高AI的能力來輔助駕駛員進(jìn)行飛機操縱。

洛克希德公司在上世紀(jì)80年代曾對一個可以協(xié)助客機飛行員進(jìn)行實時航線管理和規(guī)劃的AI系統(tǒng)進(jìn)行了研究。從工作原理上來講，這一類AI主要是采用知識庫和專家系統(tǒng)，與實時性足夠高的并行處理系統(tǒng)、語音系統(tǒng)等結(jié)合，形成一個人工智能輔助決策系統(tǒng)，為飛行員提供決策依據(jù)。在此基礎(chǔ)上，增加此類系統(tǒng)的權(quán)限，使其在一定范圍內(nèi)可以接管駕駛員的操縱權(quán)限，便可實現(xiàn)駕駛員的“無憂慮操作”，并可以在應(yīng)急時實現(xiàn)自動化調(diào)整和控制，保證飛機的安全飛行。例如，美國空軍在上世紀(jì)90年代對具有故障重構(gòu)能力的智能型飛控系統(tǒng)進(jìn)行了驗證，實現(xiàn)了在出現(xiàn)一定氣動損傷的情況下，仍能維持戰(zhàn)機飛行的能力。到了今天，這一類AI的發(fā)展已經(jīng)非常成熟，目前幾乎所有的先進(jìn)飛機上，都已經(jīng)廣泛采用了類似的AI作為駕駛員輔助系統(tǒng)。這類輔助系統(tǒng)屬于初級AI，目前也幾乎成為了現(xiàn)代飛機的標(biāo)準(zhǔn)配置。這些初級AI已經(jīng)成為了現(xiàn)代飛機系統(tǒng)的一個有機組成部分，自然不是ONERA和泰雷斯公司反對的對象。

需要可解析的AI

目前普遍探索、并不斷深入發(fā)展的高級Al，基本上都沿襲了Deep Mind公司在“Alpha Go”上開創(chuàng)的道路（“Alpha Go”在2016年擊敗韓國圍棋九段李世石而一舉成名），關(guān)鍵技術(shù)為深度學(xué)習(xí)與神經(jīng)網(wǎng)絡(luò)。深度學(xué)習(xí)，是高級AI進(jìn)行自主學(xué)習(xí)的主要方式，通過人工輸入（或AI按規(guī)則自行生成、獲?。┐罅康臄?shù)據(jù)，AI會自行建立識別模型。而由分層算法組成的神經(jīng)網(wǎng)絡(luò)，則是模擬了生物神經(jīng)網(wǎng)絡(luò)的工作原理，非常適合大量數(shù)據(jù)并行操作，可以有效減少計算時間，提高反應(yīng)速度。

但是，目前人們對于高級AI的最大憂慮，也來自于深度學(xué)習(xí)與神經(jīng)網(wǎng)絡(luò)。由于深度學(xué)習(xí)只是由人類進(jìn)行目標(biāo)指示，學(xué)習(xí)過程完全是由AI自主完成，而神經(jīng)網(wǎng)絡(luò)算法多重并行計算的特征則導(dǎo)致了難以進(jìn)行數(shù)據(jù)回溯。因此，完全可以將這個過程看作是AI本身的“黑箱操作”，同時，高級AI的這種算法只能保證結(jié)果符合要求，并不能保證整個過程都可以受控。因此目前已經(jīng)在許多領(lǐng)域取得重大進(jìn)展的高級AI技術(shù)，并不滿足現(xiàn)行航空運輸安全標(biāo)準(zhǔn)的要求，也不適合用于裝備飛機駕駛艙。ONERA信息處理和系統(tǒng)主管維金尼·威爾斯對此評價說：“如果我們不能解析該系統(tǒng)的功能，我們將很難使其通過認(rèn)證?！?/p>

另外，目前的高級AI還有一個重大缺陷，即只能在限定的規(guī)則中學(xué)習(xí)，以“經(jīng)驗主義”的方法來完成工作，無法應(yīng)對額外的錯誤或者擾動。這對于保證飛行安全的最高要求來講，很可能是致命的威脅。去年，位于舊金山的一家人工智能公司Vicorance的專家進(jìn)行了一個有趣的試驗。他們訓(xùn)練了一個高級AI學(xué)習(xí)彈珠消除游戲，AI只進(jìn)行了約600次學(xué)習(xí)，便達(dá)到了專業(yè)的人類玩家水平。然而，當(dāng)專家們在游戲中做出改變，增加了一個不可擊破的區(qū)域之后，AI便完全抓瞎了。Vicarious的專家迪利普·喬治對此評論說“我們?nèi)祟惒粌H僅是模型識別器，我們也不斷為看到的新東西建立新模型?！焙茱@然，人類玩家可以迅速適應(yīng)這些變化，而高級AI則困在了原有的規(guī)則中，無法突破。人類的邏輯推理能力，使得人腦可以應(yīng)對許多突發(fā)的變化事件，這也是高級AI目前無法達(dá)到的能力。

泰雷斯公司首席技術(shù)官馬爾科·艾爾曼也對高級AI出錯的可能性進(jìn)行了描述：“系統(tǒng)會提取圖案，但我們不知道它在做什么——當(dāng)識別照片上的乒乓球時，它可能會被欺騙，在一張展示另一項運動的照片上，在運動員的頭發(fā)上增加一些顏色的像素?！?/p>

然而，不可否認(rèn)的是，更強大、更完善、更能滿足人類規(guī)則需求的新型AI，將會規(guī)避目前高級AI的缺陷，也是AI技術(shù)未來進(jìn)一步發(fā)展的方向。事實上，泰雷斯公司和ONERA目前仍在進(jìn)行新一代AI的研發(fā)工作，他們對媒體所說的駕駛艙不需要AI，僅僅是特指目前仍未成熟、無法達(dá)到航空工業(yè)標(biāo)準(zhǔn)的AI而已。艾爾曼為此說：“我們給自己兩到三年的時間來完成第一個‘可解析人工智能系統(tǒng)?！睋Q句話說，泰雷斯公司希望到2021年在新一代AI項目上取得重大進(jìn)展。但威爾斯認(rèn)為，對這些新AI系統(tǒng)的研究和測試需要更長的時間，在未來10年里，不會實際應(yīng)用到駕駛艙里。

問題的關(guān)鍵在于“可解析”，艾爾曼解釋說：“正在接受人工智能協(xié)助的人類飛行員必須能夠理解人工智能選擇的原因。目前的用戶還沒有解決這些問題，因為他們不需要解決這些問題。”關(guān)于新AI系統(tǒng)如何獲得認(rèn)證的問題，艾爾曼指出，“至于認(rèn)證，我們已經(jīng)與歐洲航空安全局（EASA）談過，他們很清楚，認(rèn)證標(biāo)準(zhǔn)必須與技術(shù)解決方案同步進(jìn)行發(fā)展?！蓖査箤Υ搜a充說，“目前我們還不能進(jìn)行認(rèn)證，因為我們不知道該系統(tǒng)在每個案例中都做了什么。”

最近發(fā)生的印尼獅骯波音737客機空難，使得目前已有的人工智能與人類飛行員的矛盾暴露得更加明顯。根據(jù)事故初步調(diào)查的結(jié)果，由于仰角傳感器故障，導(dǎo)致防失速系統(tǒng)自動壓低機頭，而飛行員發(fā)現(xiàn)飛機狀態(tài)錯誤后及時拉起，隨后因為防失速系統(tǒng)具有超越權(quán)限，再次壓低機頭，二者反復(fù)多次較勁，直至飛機墜毀，造成了189人喪生的慘劇。很顯然，未來的新型AI必須能夠擺脫這種單調(diào)功能規(guī)則的局限，并與駕駛員達(dá)成良好的溝通和互動，才能真正成為駕駛艙中的好助手。

責(zé)任編輯：王鑫邦

2018年10月29日，印尼獅航JT610航班墜毀，機型為最新的波音737 MAX 8，機上189人遇難。