, ,

(1.上海民用飛機健康監(jiān)控工程技術研究中心，上海 200241；2.上海帕科網(wǎng)絡科技有限公司，上海 200233)

0 引言

世界正處于數(shù)據(jù)爆炸性增長的大數(shù)據(jù)時代[1]，航空業(yè)具有大數(shù)據(jù)應用的天然土壤。民用飛機的主制造商是航空數(shù)據(jù)的生產(chǎn)者和集成者，能夠收集民用飛機運行、維修維護相關的海量數(shù)據(jù)，具備構建民機運營大數(shù)據(jù)平臺的數(shù)據(jù)資源。

20世紀80年代，空客在A320試飛試驗階段分析了超過12 000個具體參數(shù)，采集了將近8TB的數(shù)據(jù)量。目前，A350型號分析的參數(shù)達到60萬個，每天收集到的數(shù)據(jù)已超過1.8TB。2015年，波音737系列的發(fā)動機運轉過程中采集到的數(shù)據(jù)量就達到91TB。目前，波音787飛機僅執(zhí)行一個航班，所采集的數(shù)據(jù)就能夠達到0.5TB，這些數(shù)據(jù)包括客艙壓力、高度、燃油消耗等信息。針對飛機所產(chǎn)生的爆炸性增長的數(shù)據(jù)，在飛機運行和服務領域需要借助大數(shù)據(jù)技術進行高效的海量數(shù)據(jù)存儲和分析。

波音公司2014年度的市場預測報告表明，全世界各大航空公司都在積極探索能夠提供更好的預測功能的飛機，特別是部件發(fā)動機健康管理解決方案，為其庫存管理和零部件采購提供決策建議，進而降低航空公司的經(jīng)營成本?？湛鸵惨褜IRMAN遷移至云平臺，向用戶提供基于大數(shù)據(jù)的健康管理服務。據(jù)SAP介紹，一家生產(chǎn)飛機零部件的公司借助大數(shù)據(jù)分析HANA工具，在庫存方面節(jié)省了近200萬美元，在生產(chǎn)流程時間方面縮短了25%，從而降低了30%的組裝水平，同時減少了員工40%的加班費用。2015年6月，空客、波音等民機主制造商紛紛與微軟、IBM等IT企業(yè)開展積極合作，利用大數(shù)據(jù)的技術來探索提高綜合競爭力。2015年底GE將30多年積累的發(fā)動機數(shù)據(jù)全部遷移至Predix大數(shù)據(jù)平臺，利用資產(chǎn)性能管理系統(tǒng)(APM)監(jiān)控全球34977臺在翼發(fā)動機，每天將接收到的22萬個數(shù)據(jù)報文進行分析處理，并根據(jù)故障情況，發(fā)出相應警告信息。每年可以收集超過1億條報文，這些信息意義重大。波音已將他們基于大數(shù)據(jù)的飛機性能分析應用、AHM飛機健康管理服務轉移至微軟Azure云計算平臺上，航空公司使用這種應用來預測維護需求，目前，用戶超過300家航空公司。

國內(nèi)在基于QAR數(shù)據(jù)的運營方面，開展了相關的研究工作[2-3]。在大數(shù)據(jù)應用方面，在基于民航協(xié)同系統(tǒng)，航空維修信息應用[4]及航空安全數(shù)據(jù)收集[5]方面有一些研究，但在系統(tǒng)架構方面還沒有自身的大數(shù)據(jù)平臺。本文針對民機運行業(yè)務支持，對民機運行大數(shù)據(jù)平臺技術進行了研究。

1 民機大數(shù)據(jù)平臺總體架構

民機運行大數(shù)據(jù)平臺架構設計主要包括基礎架構層及資源層設計，數(shù)據(jù)層設計及服務層設計。

圖1 民機運行大數(shù)據(jù)平臺體系架構

基礎架構層及資源層為上層應用系統(tǒng)提供計算，網(wǎng)絡，存儲等資源，主要組成部分包括計算機基礎設施，通常是虛擬化的平臺環(huán)境。基礎架構層是為民機運行大數(shù)據(jù)平臺提供物理硬件支撐。

數(shù)據(jù)層設計包括數(shù)據(jù)采集和大數(shù)據(jù)存儲設計。數(shù)據(jù)采集系統(tǒng)完成大數(shù)據(jù)平臺與民機業(yè)務系統(tǒng)及其數(shù)據(jù)庫的對接，將應用系統(tǒng)中的結構化、非結構化數(shù)據(jù)通過批量、增量采集方式匯集到大數(shù)據(jù)平臺系統(tǒng)中。該匯集過程可以配置自動化的數(shù)據(jù)采集規(guī)則，并得到數(shù)據(jù)擁有者的審核授權再進行數(shù)據(jù)傳輸，數(shù)據(jù)管理員可以對整個數(shù)據(jù)采集過程進行監(jiān)控、追溯。系統(tǒng)可提供了相應工具支持數(shù)據(jù)管理員針對關系型數(shù)據(jù)庫、列式數(shù)據(jù)庫、Nosql數(shù)據(jù)庫等不同的數(shù)據(jù)存儲方式進行優(yōu)化處理； 大數(shù)據(jù)存儲系統(tǒng)采用分布式的設計架構，可以支持傳統(tǒng)關系數(shù)據(jù)庫、分布式文件系統(tǒng)、Nosql數(shù)據(jù)庫、以及內(nèi)存數(shù)據(jù)庫等多種數(shù)據(jù)存儲方式，可以實現(xiàn)對海量民機運行數(shù)據(jù)進行快速存儲和處理。

服務層的主要功能是為民機運行業(yè)務應用提升計算分析等支撐服務。民機運行大數(shù)據(jù)分析平臺采取內(nèi)存優(yōu)化的計算引擎、實時數(shù)據(jù)流計算引擎的技術方案，實現(xiàn)SQL引擎、內(nèi)存分析服務，為健康管理、遠程運維等應用提供接口支撐。平臺系統(tǒng)實現(xiàn)是通過授權的數(shù)據(jù)訪問服務接口，為上層數(shù)據(jù)應用提供基礎查詢和計算等服務。本層集成利用大數(shù)據(jù)分析算法工具集，提供一些常用的分析和可視化工具包，并支持算法的集成，包括R語言、Python語言自定義的算法。

2 民機運行大數(shù)據(jù)基礎平臺組成

民機大數(shù)據(jù)基礎平臺采用基于HDFS(分布式文件系統(tǒng))的大數(shù)據(jù)集群平臺架構進行數(shù)據(jù)的存儲和分析。底層硬件采用常規(guī)配置的服務器和存儲，通過HDFS設計，實現(xiàn)高吞吐量的功能，滿足民機運行大型數(shù)據(jù)集的業(yè)務應用程序。 HDFS 的 “一次寫入、多次讀取” 模型，降低了平臺對并發(fā)性控制要求，支撐主制造商及航空公司多用戶的高吞吐量訪問。HDFS 將平臺處理邏輯放置在各類數(shù)據(jù)周圍，數(shù)據(jù)寫入模式嚴格定義為 “一次寫入一個”。每一個流的末尾附加一個字節(jié)，保證數(shù)據(jù)已字節(jié)流的方式寫入HDFS中，進行順序存儲。各個互聯(lián)的節(jié)點組成了HDFS節(jié)點群，文件數(shù)據(jù)以及其目錄均保存在這些節(jié)點上。一個 HDFS 集群通常包含管理節(jié)點和數(shù)據(jù)節(jié)點。管理節(jié)點管理著文件系統(tǒng)的名稱空間并規(guī)范客戶端對文件的訪問權限，對各個數(shù)據(jù)節(jié)點進行統(tǒng)一調(diào)配。數(shù)據(jù)節(jié)點主要用于民機運行相關的數(shù)據(jù)存儲。

圖2 大數(shù)據(jù)集群拓撲

2.1 管理節(jié)點

管理節(jié)點在大數(shù)據(jù)平臺中，提供重要的集中式的集群管理功能，若管理服務終止，則對應的Hadoop集群服務也會停止。因此，大數(shù)據(jù)平臺對管理節(jié)點的硬件設備的可靠性要求較高。管理節(jié)點主要提供HDFS中文件打開、關閉以及重命名文件和目錄等管理服務，即將這些鏈接映射到數(shù)據(jù)節(jié)點中。因此管理節(jié)點對內(nèi)存的要求高，對存儲的要求低。管理節(jié)點的數(shù)據(jù)通常很少，因此民機運行大數(shù)據(jù)平臺的管理節(jié)點前期設計一個管理節(jié)點，使用高端的小型機服務器，保證其高性能和可靠性。

2.2 數(shù)據(jù)節(jié)點

數(shù)據(jù)節(jié)點是具體處理任務的，包括數(shù)據(jù)的存儲和計算功能。由于處理節(jié)點是計算密集型的操作節(jié)點，因此對硬件的配置要求較高，特別是CPU的能力。某個數(shù)據(jù)節(jié)點如果出現(xiàn)異常，則它的服務功能可以被其他的數(shù)據(jù)節(jié)點來代替，因此對設備的可靠性要求相對管理節(jié)點的要求較小。民機飛行大數(shù)據(jù)平臺采取數(shù)量多而不是單機的可靠性等性能很高的配置，可根據(jù)項目后續(xù)數(shù)據(jù)的增加，而擴展配置。管理節(jié)點通過數(shù)據(jù)節(jié)點的ID進行識別，并優(yōu)化數(shù)據(jù)節(jié)點之間的通信。民機運行中的數(shù)據(jù)在數(shù)據(jù)節(jié)點上是分布式存儲的，由于數(shù)據(jù)在各個數(shù)據(jù)節(jié)點的分布式不會時刻都是均衡的，為了保證資源的充分利用，可以通過HDFS，進行數(shù)據(jù)平衡分配，即如果某個數(shù)據(jù)節(jié)點的空余空間太少，HDFS會將其上的數(shù)據(jù)轉移到其他數(shù)據(jù)節(jié)點上。為了保證數(shù)據(jù)安全，每臺數(shù)據(jù)節(jié)點上的數(shù)據(jù)在其他數(shù)據(jù)節(jié)點上都會有備份。

2.3 硬件平臺指標需求分析

2.3.1 民機運行數(shù)據(jù)量預估

隨著高新技術在航空領域的廣泛應用，未來民用客機的綜合化、系統(tǒng)化、信息化程度將會越來越高，飛機所產(chǎn)生的數(shù)據(jù)規(guī)模將爆炸式增長，大數(shù)據(jù)平臺需要接收不同數(shù)據(jù)源的多種類型的數(shù)據(jù)。其中包括存在于數(shù)據(jù)庫中的結構化的數(shù)據(jù)、電子文檔形式、圖片視頻形式存在的非結構化數(shù)據(jù)，以及眾多半結構化的數(shù)據(jù)。對于這些不同種類的異構數(shù)據(jù)，需要采用不同的方式進行處理和存儲。此外，為了支持民機運行，大數(shù)據(jù)平臺還需要采集各種設計及維修手冊，維修記錄數(shù)據(jù)、氣象數(shù)據(jù)、可靠性數(shù)據(jù)等。

2.3.2 大數(shù)據(jù)平臺計算能力規(guī)劃

以數(shù)據(jù)量20PB為例統(tǒng)計，后續(xù)可以動態(tài)不停機加存儲節(jié)點。如果每臺X86存儲服務器配置100T硬盤，則20000TB /100T=200,需要200臺X86存儲服務器。如果采用更大的硬盤，數(shù)據(jù)存儲服務器數(shù)量還能更少。按功能區(qū)分，將整個大數(shù)據(jù)集群劃分成4個邏輯功能集群，每個集群的功能描述和所需要的服務器節(jié)點數(shù)量如表2所示。

表2 大數(shù)據(jù)節(jié)點功能

3 民機運行大數(shù)據(jù)計算分析工具

3.1 離線數(shù)據(jù)計算分析工具

離線數(shù)據(jù)計算分析可應用于民機故障預測、健康管理、趨勢判斷等功能模塊。故障預測功能采集每天所有航班的飛行數(shù)據(jù)，通過大數(shù)據(jù)技術分析，可得到飛機的運營狀態(tài)和其安全可靠性。同時，通過對飛行參數(shù)的變化趨勢以及是否超限進行分析，完成對潛在的故障的預測功能。故障預測分析的主要數(shù)據(jù)來源是航后積累的歷史數(shù)據(jù)，包括QAR數(shù)據(jù)、可靠性數(shù)據(jù)等。地面系統(tǒng)將這類數(shù)據(jù)進行譯碼和統(tǒng)計分析，根據(jù)飛行事件的嚴重程度進行分級預警。同時通過對飛機參數(shù)的狀態(tài)變化趨勢分析。結合系統(tǒng)模型原理特性，可得到飛機上重要系統(tǒng)的健康狀況，進而實現(xiàn)對單架飛機乃至整個機隊的健康狀況進行統(tǒng)一管理，合理調(diào)度。

面對大規(guī)模的各類數(shù)據(jù)，需要采用一種高效的離線計算引擎來提高PHM各業(yè)務模塊的運行效率。民機運行大數(shù)據(jù)分析平臺采用Apache Spark批處理離線計算引擎應對PB,EB級別大規(guī)模的數(shù)據(jù)處理業(yè)務。

Apache Spark是基于內(nèi)存計算的新型大數(shù)據(jù)處理引擎，它可以使用存儲器內(nèi)運算技術，數(shù)據(jù)未寫入硬盤之前，即開始在存儲器內(nèi)進行分析計算，由于消除了頻繁的I/O磁盤訪問，因此其計算速度相對于MapReduce要快很多。為了提升在內(nèi)存中批計算能力，Spark采取彈性分布式數(shù)據(jù)集，即RDD模型，來對大量的數(shù)據(jù)進行分析處理。Spark對每一個RDD執(zhí)行的操作可生成新的RDD，而每個RDD可通過世系回溯至其父級RDD，并最終回溯至硬盤中的數(shù)據(jù)。借助這種功能，Spark可通過RDD進行容錯設計，這種容錯方式無需將每次操作的結果都寫回磁盤中。Spark架構如下圖所示：

圖3 Spark運行框架

Spark支持獨立部署模式、Hadoop YARN、Apache Mesos等不同的使用方式。在分布式存儲技術方面，Spark支持HDFS、Cassandra、OpenStack Swift和Amazon S3等接口的連接，為民機運行大數(shù)據(jù)使用多種數(shù)據(jù)存儲方式提供可能。Spark允許用戶將數(shù)據(jù)加載至存儲器中，支持對其多次查詢，其MLib算法庫集成了多種算法，包括機器學習算法等，是民機運行大數(shù)據(jù)分析的有力支撐。

3.2 實時數(shù)據(jù)流處理工具

實時數(shù)據(jù)流計算引擎適用于對系統(tǒng)的響應，數(shù)據(jù)的處理速度要求非常高的業(yè)務，民機運行業(yè)務中實時監(jiān)控模塊為實時獲取飛機飛行過程中的各類數(shù)據(jù)信息，進而能夠實時掌握飛機的飛行狀態(tài)。實時監(jiān)控模塊的數(shù)據(jù)來源通常是ACARS報文數(shù)據(jù)，飛機通過空地鏈路將 ACARS報文傳送到地面基站，地面應用系統(tǒng)實現(xiàn)對報文的接收和解碼。一旦飛機出現(xiàn)故障，可實時得到飛機的實時故障信息、重要參數(shù)狀態(tài)，可根據(jù)故障狀態(tài)快速反應。實時監(jiān)控功能，可以使航空公司、飛機生產(chǎn)商及時地掌握民用客機的當運營狀態(tài)，當某些等級特別嚴重的故障發(fā)生時，地面工作人員可提前分析判斷故障原因，組織相關技術人員、航材資源、地面工具，一旦飛機降落，迅速進行故障解決，提高效率，減少民用客機的停場維修時間，節(jié)約運營成本。目前，應對實時流計算業(yè)務的引擎主要包括：Storm、Spark Steaming、雅虎的S4系統(tǒng)、Facebook的Puma等，民機運行大數(shù)據(jù)分析平臺采用Storm和Spark streaming計算引擎。

(1)Storm分布式實時流計算引擎。

作為一個典型的分布式實時流計算系統(tǒng)，Storm擴展性強、可以快速可靠地處理各類數(shù)據(jù)流。在電商領域，Storm常被用于處理實時日志、實時數(shù)據(jù)統(tǒng)計、風險控制、產(chǎn)品推薦等應用場景中。Strom通過數(shù)據(jù)流(stream)、數(shù)據(jù)流生產(chǎn)者(spout)、運算(bolt)等組成完整的數(shù)據(jù)流處理模型。其中，數(shù)據(jù)流是storm的核心抽象，而數(shù)據(jù)流是由無數(shù)的元組(tuple)，tuple中包含了一個或多個鍵值對。Storm通過唯一的ID

標志來識別各個數(shù)據(jù)流，通過控制數(shù)據(jù)流持續(xù)不斷地流經(jīng)各個網(wǎng)絡節(jié)點，來處理大量的實時流數(shù)據(jù)。如圖4所示。

圖4 Storm數(shù)據(jù)處理流

架構圖所示中的水龍頭代表了數(shù)據(jù)流的來源，例如飛機正在飛行過程中產(chǎn)生的ACARS報文，一旦水龍頭打開，數(shù)據(jù)就會源源不斷地流入。圖中有三條數(shù)據(jù)流，分別用藍色、綠色、紅色不同的顏色來表達，數(shù)據(jù)在每個數(shù)據(jù)流中流動的元組中被承載。Storm對這些數(shù)據(jù)的來源和去向不做限制，因此，可以通過代碼實現(xiàn)任意來源的數(shù)據(jù)輸入和數(shù)據(jù)任意方向的輸出。通常情況下，輸入/輸出的數(shù)據(jù)都是基于Kafka、ActiveMMQ等消息隊列系統(tǒng)的，此外還兼容民機運行相關的傳統(tǒng)數(shù)據(jù)倉庫、各類文件系統(tǒng)以及網(wǎng)絡中民機運行相關輿情信息等數(shù)據(jù)源。使用Storm可以實現(xiàn)民機運行大數(shù)據(jù)分析平臺毫秒級的數(shù)據(jù)分析處理，但其吞吐量比較低，可以為一些核心故障監(jiān)測等對實時性要求極高的業(yè)務提供支撐服務。

(2)Spark Streaming分布式流式計算引擎。

Spark Streaming 是Spark計算引擎核心API的擴展，可以實現(xiàn)安全可靠、容錯性高的實時流數(shù)據(jù)處理。與Storm 相比，Spark Streaming是基于單元時間的方式來處理數(shù)據(jù)，可以在短暫的事件窗口中處理多條事件，因此具有一定的時延。Spark Streaming支持從多種數(shù)據(jù)源中獲取數(shù)據(jù)，包括Kafka、Flume、Twitter、Kinesis 以及TCP sockets等數(shù)據(jù)。Spark Streaming對數(shù)據(jù)流的輸入輸出接口如圖5所示。

圖5 Spark Streaming數(shù)據(jù)處理流

Spark Streaming 基于Spark的優(yōu)秀架構，可以集成多種數(shù)據(jù)分析算法，包括map、reduce、join等高級函數(shù)，以及機器學習算法等。此外，Spark Streaming還可以與Spark中其他子框架聯(lián)合工作，例如集群學習框架、圖計算框架等，對流數(shù)據(jù)進行更多地處理。Spark可以實現(xiàn)民機運行大數(shù)據(jù)分析平臺秒級的數(shù)據(jù)分析處理，其吞吐量比較大，可以為常規(guī)實時監(jiān)控、實時故障診斷等實時業(yè)務提供支持服務。

4 結果分析展示

通過搭建民機運行大數(shù)據(jù)分析平臺，將ARJ民機運行數(shù)據(jù)ACARS、QAR、維修記錄數(shù)據(jù)通過相應工具采集到大數(shù)據(jù)分析平臺中，并存儲到HBASE中，并提供不同的業(yè)務分析工具，驗證了本平臺架構的可行性，可為ARJ飛機業(yè)務數(shù)據(jù)服務提供平臺支撐。

5 結論

通過構建民機運行大數(shù)據(jù)分析平臺，利用大數(shù)據(jù)的優(yōu)勢，解決民機運行中的關鍵性問題。民機運行大數(shù)據(jù)平臺為民用客機故障預測、健康管理、飛機安全保障，航空公司服務品質提升，飛機派簽率提高，維護成本降低等方面提供了平臺技術支持，為我國民用航空業(yè)和飛機主制造商帶來了巨大的社會與經(jīng)濟效益。同時，通過大數(shù)據(jù)平臺，有助于打破國外先進主制造商的技術壁壘，對我國邁向航空制造強國，縮小與國外的差距有著重要的意義。

[1] 張 潔, 秦 威, 鮑勁松. 制造業(yè)大數(shù)據(jù)[M].上海：上?？萍汲霭嫔? 2016.

[2] 耿 宏, 李萍萍, 劉家學,等. 基于壓縮感知的QAR數(shù)據(jù)重構[J]. 計算機測量與控制，2013,21(5):1351-1353.

[3] 高飛鵬, 黃加陽, 陳新霞. 基于航后QAR數(shù)據(jù)譯碼的APU故障診斷技術[J]. 計算機測量與控制，2016,24(1):42-45.

[4] 葉云斐, 陳曉建, 陳偉青,等. 基于云計算的民航協(xié)同決策系統(tǒng)基礎架構研究[J]. 軟件產(chǎn)業(yè)與工程, 2015(4):36-41.

[5] 曹 彪, 張 磊, 宋 巖,等.大數(shù)據(jù)時代航空維修信息應用研究[A]. 航空裝備維修技術及應用研討會論文集[C]. 2015:22-26.