劉文生
摘要:在當(dāng)前我國(guó)橋梁發(fā)展由建設(shè)向養(yǎng)護(hù)轉(zhuǎn)移的重要背景下,因?yàn)殚L(zhǎng)期積累的橋梁監(jiān)測(cè)數(shù)據(jù)類型繁多、評(píng)價(jià)標(biāo)準(zhǔn)不同,導(dǎo)致數(shù)據(jù)可視化差、企業(yè)決策困難。以武漢市城市橋梁智慧管理平臺(tái)橋梁監(jiān)測(cè)數(shù)據(jù)為例,開展多源監(jiān)測(cè)數(shù)據(jù)的標(biāo)準(zhǔn)化集成和基于Power BI的商業(yè)數(shù)據(jù)分析工具的可視化,對(duì)原始數(shù)據(jù)進(jìn)行建模轉(zhuǎn)換,實(shí)現(xiàn)異構(gòu)數(shù)據(jù)源的集成,多維角度觀察數(shù)據(jù),通過可視化界面展開,提高橋梁數(shù)據(jù)展示能力,支持企業(yè)戰(zhàn)略決策需求。
Abstract: In the current important background of bridge development in China shifting from construction to maintenance, long-term accumulation of bridge monitoring data has many types and different evaluation standards, resulting in poor data visualization and difficult decision-making for enterprises. Taking the bridge monitoring data of Wuhan City Bridge Smart Management Platform as an example, the standardized integration of multi-source monitoring data and the visualization of commercial data analysis tools based on Power BI are carried out, and the original data is modeled and converted to realize the integration of heterogeneous data sources, and observe the data from a multi-dimensional perspective and expand it through a visual interface to improve the ability to display bridge data and support corporate strategic decision-making needs.
關(guān)鍵詞:橋梁監(jiān)測(cè)數(shù)據(jù);Power BI;可視化
0? 引言
橋梁監(jiān)測(cè)過程中,隨著監(jiān)測(cè)年份增加,數(shù)據(jù)量增大,信息相對(duì)固化,客觀上易形成信息孤島。傳統(tǒng)的紙質(zhì)記錄和Excel方法,無法對(duì)大量數(shù)據(jù)進(jìn)行有效管理,也阻礙對(duì)數(shù)據(jù)進(jìn)一步的分析和挖掘。
本文基于Power BI橋梁監(jiān)測(cè)數(shù)據(jù)可視化研究,構(gòu)建數(shù)據(jù)展示層的橋梁監(jiān)控?cái)?shù)據(jù)倉(cāng)庫(kù)模型,通過數(shù)據(jù)挖掘,實(shí)現(xiàn)數(shù)據(jù)可視化。
1? 理論基礎(chǔ)
1.1 Power BI
Power BI是微軟開發(fā)的一款應(yīng)用在商業(yè)中自助式智能軟件。它可把復(fù)雜而混亂數(shù)據(jù)轉(zhuǎn)化為交互式可視化報(bào)告。
數(shù)據(jù)分析過程包括數(shù)據(jù)采集、建模和分析、數(shù)據(jù)可視化三個(gè)步驟。數(shù)據(jù)分析最終目標(biāo)是把繁雜的數(shù)據(jù)簡(jiǎn)單地展示,為企業(yè)決策提供有利幫助。
在對(duì)數(shù)據(jù)大量重復(fù)手工整理、要求多變的定期報(bào)告、數(shù)據(jù)可視化等方面,Power BI可以為人們提供有效幫助。
1.2 Microsoft Azure
微軟基于云計(jì)算的操作系統(tǒng)——“Microsoft Azure”。平臺(tái)可操作性強(qiáng)、功能豐富和Office兼容與繼承性好,穩(wěn)定性高,區(qū)域支持全面,網(wǎng)速快。
隨著信息大數(shù)據(jù)時(shí)代的到來,各類需求層出不窮,傳統(tǒng)的本地部署服務(wù)器的模式將會(huì)導(dǎo)致成本日增,不能滿足企業(yè)日益增長(zhǎng)的業(yè)務(wù)需求,而采用彈性的云計(jì)算服務(wù)模式將獲得更大IT容量,使企業(yè)能夠更好地匹配實(shí)際的網(wǎng)絡(luò)負(fù)荷。
1.3 可視化基本原理
很多學(xué)者對(duì)可視化的基本原理有著各自的理解。花向紅認(rèn)為基本思想是“用圖形數(shù)據(jù)圖像來表示數(shù)據(jù)。”具體地說,就是利用計(jì)算機(jī)圖形技術(shù)與方法,對(duì)大量的數(shù)據(jù)進(jìn)行處理,用圖形、圖像的形式,形象而具體地顯示出來,使研究人員能夠觀察與模擬,從而豐富科學(xué)發(fā)現(xiàn)的過程,給予人們深刻與意想不到的洞察力,在許多領(lǐng)域使科研人員的研究方式發(fā)生了很大的變化[1]。周海燕與袁景凌等人認(rèn)為是利用計(jì)算機(jī)圖形學(xué)和圖像處理技術(shù),將數(shù)據(jù)轉(zhuǎn)換成圖形或圖形在屏幕上顯示出來,并進(jìn)行交互處理[2-3]。Wood等人認(rèn)為是指人通過視覺觀察并在頭腦中形成客觀事物的影像過程,這是一個(gè)心智處理過程,提高了人對(duì)事物的觀察能力及整體概念的形成[4-5]。吳加敏等人認(rèn)為可視化以人們慣于接受圖形、圖像并輔以信息處理技術(shù)將客觀事物及其內(nèi)在的聯(lián)系表現(xiàn)出來[6]。
2? 多源異構(gòu)監(jiān)測(cè)數(shù)據(jù)的標(biāo)準(zhǔn)化集成
2.1 監(jiān)測(cè)數(shù)據(jù)標(biāo)準(zhǔn)化組織與處理
數(shù)據(jù)標(biāo)準(zhǔn)化是實(shí)現(xiàn)數(shù)據(jù)可視化基礎(chǔ),只有在數(shù)據(jù)標(biāo)準(zhǔn)化的前提下,才能夠?qū)ζ溥M(jìn)行編碼,這是實(shí)現(xiàn)橋梁監(jiān)測(cè)信息化的重要標(biāo)志。
目前橋梁監(jiān)測(cè)源數(shù)據(jù)量巨大,數(shù)據(jù)格式和評(píng)價(jià)體系各異,需要根據(jù)用戶需求對(duì)數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化處理并建立相應(yīng)的數(shù)據(jù)庫(kù)。依據(jù)對(duì)真實(shí)數(shù)據(jù)的分析和向下挖掘的需要,將數(shù)據(jù)分為四類:載荷項(xiàng)、整體響應(yīng)項(xiàng)、關(guān)鍵部件響應(yīng)項(xiàng)和載荷-響應(yīng)相關(guān)項(xiàng)。
監(jiān)測(cè)數(shù)據(jù)標(biāo)準(zhǔn)化主要是針對(duì)監(jiān)測(cè)格式、監(jiān)測(cè)指標(biāo)、監(jiān)測(cè)關(guān)鍵構(gòu)件等進(jìn)行標(biāo)準(zhǔn)化。
2.2 多源異構(gòu)數(shù)據(jù)建庫(kù)與集成
各類監(jiān)測(cè)數(shù)據(jù)經(jīng)過數(shù)據(jù)標(biāo)準(zhǔn)化組織后為其建庫(kù)提供了統(tǒng)一標(biāo)準(zhǔn)。根據(jù)監(jiān)測(cè)數(shù)據(jù)分類,利用SQL語句單獨(dú)設(shè)計(jì)每一小類數(shù)據(jù)庫(kù)的數(shù)據(jù)表,將監(jiān)測(cè)數(shù)據(jù)指標(biāo)數(shù)據(jù)字段一一映射。為了實(shí)現(xiàn)監(jiān)測(cè)信息空間可視化,單獨(dú)設(shè)計(jì)監(jiān)測(cè)橋梁地理信息數(shù)據(jù)表,利用Power BI軟件中內(nèi)置的ArcGIS Maps for Power BI可視化組件將監(jiān)測(cè)橋梁的具體地理位置(緯度、經(jīng)度)與其他監(jiān)測(cè)數(shù)據(jù)進(jìn)行關(guān)聯(lián),形成數(shù)據(jù)模型。
數(shù)據(jù)庫(kù)的集成入庫(kù)主要是由不同種類的監(jiān)測(cè)數(shù)據(jù)以Excel格式導(dǎo)入到新建立的SQL數(shù)據(jù)庫(kù)中,根據(jù)不同的監(jiān)測(cè)類別的特點(diǎn),采用不同的導(dǎo)入方法,將其統(tǒng)一封裝到數(shù)據(jù)導(dǎo)入服務(wù)接口中。通過數(shù)據(jù)導(dǎo)入服務(wù)方法可判斷數(shù)據(jù)格式與信息是否正確,實(shí)時(shí)進(jìn)行數(shù)據(jù)信息規(guī)范化處理。
3? 平臺(tái)需求分析
3.1 平臺(tái)功能
以武漢市城市智慧橋梁管理平臺(tái)為例。該平臺(tái)著重對(duì)武漢市橋梁處管理的44座重點(diǎn)橋梁建立在線安全監(jiān)測(cè)系統(tǒng)。
源橋梁監(jiān)測(cè)數(shù)據(jù)差別體現(xiàn):由于各個(gè)歷史時(shí)期對(duì)數(shù)據(jù)監(jiān)測(cè)格式的要求不一,導(dǎo)致監(jiān)測(cè)數(shù)據(jù)格式不同;不同年份的數(shù)據(jù)監(jiān)測(cè)指標(biāo)不同或相同的監(jiān)測(cè)指標(biāo)使用了不同的數(shù)據(jù)來源單位;數(shù)據(jù)分類混亂,沒有對(duì)所有的數(shù)據(jù)進(jìn)行有效的歸類整理。
這些差別都會(huì)給監(jiān)測(cè)數(shù)據(jù)的分析帶來困難,影響管理決策。所以需要在可視化之前先建立統(tǒng)一的數(shù)據(jù)模型,對(duì)數(shù)據(jù)規(guī)范化定義,實(shí)現(xiàn)統(tǒng)一信息資源體系、數(shù)據(jù)元素標(biāo)準(zhǔn)化和信息編碼,建立統(tǒng)一的數(shù)據(jù)模型以滿足之后的多維數(shù)據(jù)可視化展示分析及更深的數(shù)據(jù)向下挖掘。
3.2 平臺(tái)業(yè)務(wù)需求
針對(duì)武漢市城市智慧橋梁管理平臺(tái)使用狀態(tài),其主要需求如下:全市橋梁管理接入同一平臺(tái),管養(yǎng)同一標(biāo)準(zhǔn);橋梁關(guān)鍵安全狀態(tài)自動(dòng)監(jiān)控,專業(yè)人員定制成套監(jiān)測(cè)指標(biāo),橋上荷載有效控制;橋梁現(xiàn)場(chǎng)視頻隨時(shí)查看,關(guān)鍵安全事件智能識(shí)別;橋梁巡查、維修、驗(yàn)收全程監(jiān)管,大數(shù)據(jù)輔助管養(yǎng)優(yōu)化決策。
4? 監(jiān)測(cè)數(shù)據(jù)可視化
為簡(jiǎn)明扼要展現(xiàn)數(shù)據(jù)變化情況,采用基于Power BI商務(wù)智能解決方法。
4.1 監(jiān)測(cè)數(shù)據(jù)導(dǎo)出
根據(jù)平臺(tái)業(yè)務(wù)需求分析,主要數(shù)據(jù)來源于橋梁關(guān)鍵部位安裝的傳感器數(shù)據(jù)的導(dǎo)出與人工手動(dòng)錄入兩種方式。
4.2 建立數(shù)據(jù)倉(cāng)庫(kù)
將業(yè)務(wù)系統(tǒng)數(shù)據(jù)庫(kù)導(dǎo)出的數(shù)據(jù)分別導(dǎo)入新建Access數(shù)據(jù)庫(kù)(Excel),對(duì)于分析可能需要的數(shù)據(jù)維度轉(zhuǎn)換表則直接在Access(Excel)中建立,從而構(gòu)建業(yè)務(wù)分析自定義數(shù)據(jù)倉(cāng)庫(kù)。
4.3 業(yè)務(wù)數(shù)據(jù)提取
利用Power BI軟件創(chuàng)建新的文件作為系統(tǒng)主體,將各數(shù)據(jù)表和業(yè)務(wù)數(shù)據(jù)庫(kù)維度表導(dǎo)入該文件中,并根據(jù)需要設(shè)置數(shù)據(jù)刷新頻率,從而建立系統(tǒng)動(dòng)態(tài)數(shù)據(jù)鏈接。
4.4 數(shù)據(jù)清洗
利用Power BI軟件內(nèi)置Power Query功能,對(duì)提取的業(yè)務(wù)數(shù)據(jù)庫(kù)數(shù)據(jù)進(jìn)行分析前的數(shù)據(jù)清洗。
4.5 數(shù)據(jù)建模
為了數(shù)據(jù)之間的維度分析,找出不同數(shù)據(jù)板塊之間的業(yè)務(wù)關(guān)系,并利用DAX函數(shù)計(jì)算出各類指標(biāo)數(shù)值,通過度量值建立一整套數(shù)據(jù)指標(biāo)集市,供業(yè)務(wù)分析人員實(shí)時(shí)調(diào)取。
4.6 分析儀表盤建立
根據(jù)集團(tuán)業(yè)務(wù)和系統(tǒng)功能設(shè)計(jì)要求,在使用上述數(shù)據(jù)、指標(biāo)基礎(chǔ)上,利用Power BI軟件內(nèi)置 Power view功能和不同的可視化對(duì)象插件對(duì)數(shù)據(jù)進(jìn)行可視化處理,實(shí)現(xiàn)業(yè)務(wù)分析目的。
4.7 儀表盤展示異常問題處理步驟
①使用微軟賬號(hào)登陸Azure網(wǎng)站(https://portal.azure.com)。找到Azure服務(wù)窗口,點(diǎn)擊“創(chuàng)建資源”按鈕;在“新建”按鈕下搜索“Azure Active Directory”,再點(diǎn)擊“創(chuàng)建”按鈕,在子頁的“組織名稱”和“初始區(qū)域”中輸入用戶可供選擇的名稱,然后點(diǎn)擊“創(chuàng)建”。如圖1所示。
②文件創(chuàng)建好以后,單擊“此處”按鈕以管理新目錄。在跳轉(zhuǎn)頁面后,在“管理”菜單欄下,點(diǎn)擊“用戶”菜單。如圖2所示。
③點(diǎn)擊“新建用戶”按鈕進(jìn)入創(chuàng)建界面,完成編輯后點(diǎn)擊“創(chuàng)建”按鈕。如圖3所示。
④點(diǎn)擊剛剛建立的用戶,在左側(cè)管理界面上選擇“分配的角色”按鈕。選擇子菜單下指定的角色,并在該頁面添加上選擇“添加角色分配”功能,選擇“全局管理員”角色。如圖4所示。
以上四步可保證Power BI網(wǎng)頁端儀表盤正常運(yùn)行與發(fā)布。利用Azure云服務(wù)功能,可防止Power BI自帶微軟服務(wù)器不穩(wěn)定帶來不利影響。
5? 結(jié)語
本文針對(duì)海量傳統(tǒng)橋梁監(jiān)測(cè)數(shù)據(jù)多源類型,對(duì)多源異構(gòu)監(jiān)測(cè)數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化集成;簡(jiǎn)要分析橋梁管理平臺(tái)及其業(yè)務(wù)需求;著重利用Power BI商業(yè)智能軟件,對(duì)橋梁監(jiān)測(cè)數(shù)據(jù)動(dòng)態(tài)圖表可視化研究,包括理論基礎(chǔ)、操作步驟及可視化圖表發(fā)布過程異常問題的處理等。
參考文獻(xiàn):
[1]花向紅.測(cè)量數(shù)據(jù)可視化技術(shù)研究[J].測(cè)繪工程,1999(03):30-33.
[2]周海燕,郭建忠,王家耀.知識(shí)發(fā)現(xiàn)與數(shù)據(jù)可視化技術(shù)淺析[J].信息工程大學(xué)學(xué)報(bào),2002(04):78-80.
[3]袁景凌,鐘珞,瞿偉廉,金鵬.結(jié)構(gòu)健康監(jiān)測(cè)中的可視化技術(shù)研究[J].武漢理工大學(xué)學(xué)報(bào)(交通科學(xué)與工程版),2008(05):925-928.
[4]K. W. Brodlie, D. A. Duce, J. R. Gallop, J. P. R. B. Walton, J. D. Wood. Distributed and Collaborative Visualization[J]. Computer Graphics Forum,2004,23(2).
[5]周海燕,郭建忠,王家耀.知識(shí)發(fā)現(xiàn)與數(shù)據(jù)可視化技術(shù)淺析[J].信息工程大學(xué)學(xué)報(bào),2002(04):78-80.
[6]吳加敏,孫連英,張德政.空間數(shù)據(jù)可視化的研究與發(fā)展[J].計(jì)算機(jī)工程與應(yīng)用,2002(10):85-88.