亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        一種基于爬蟲技術(shù)的多源配電網(wǎng)運行報表自動生成及管理工具設(shè)計與實現(xiàn)

        2020-12-29 07:57:08劉同斌陳曉湖何曄文
        機電信息 2020年36期
        關(guān)鍵詞:技術(shù)支持爬蟲報表

        劉同斌 陳曉湖 何曄文

        (廣東電網(wǎng)有限責(zé)任公司茂名供電局,廣東茂名525000)

        1 軟件設(shè)計

        1.1 現(xiàn)狀

        配電網(wǎng)運行報表是系統(tǒng)運行部配網(wǎng)調(diào)度日常工作的一項重要內(nèi)容,但目前報表種類多,提交頻繁,給配網(wǎng)調(diào)度造成了很大負(fù)擔(dān)。當(dāng)前報表填寫工作都是通過調(diào)度員人工查看數(shù)據(jù)并統(tǒng)計,按照規(guī)定的文件格式逐項填寫Word文檔和Excel文檔。盡管這些數(shù)據(jù)絕大部分在配網(wǎng)技術(shù)支持平臺已經(jīng)存在[1],但數(shù)據(jù)龐大,報表類型多,導(dǎo)致調(diào)度員仍然需要人工手動去完成這些費時費力的機械性工作,在突發(fā)惡劣天氣情況下,配網(wǎng)調(diào)度臺需要兩位專職收集線路跳閘情況相關(guān)數(shù)據(jù),做好統(tǒng)計,每小時發(fā)布,這給調(diào)度工作人員造成了很大負(fù)擔(dān)。

        1.2 總體目標(biāo)

        1.2.1 實現(xiàn)報表數(shù)據(jù)的獲取

        隨著數(shù)據(jù)規(guī)模的膨脹以及系統(tǒng)數(shù)量的增長,數(shù)據(jù)復(fù)用以及系統(tǒng)交互的需求會越來越多,消除信息孤島、異構(gòu)系統(tǒng)的信息交互成為迫切需要解決但又難以解決的問題,當(dāng)前主要可通過Web服務(wù)方式實現(xiàn)。本設(shè)計采用運行于安全四區(qū)的爬蟲技術(shù)以及中間數(shù)據(jù)導(dǎo)入技術(shù),不依賴于系統(tǒng)廠家即可實現(xiàn)異構(gòu)系統(tǒng)的數(shù)據(jù)整合,直接獲取報表數(shù)據(jù),作為消除信息孤島、實現(xiàn)數(shù)據(jù)復(fù)用和共享的補充模式。

        1.2.2 提供報表在線編輯功能

        自動讀取的數(shù)據(jù),可能存在信息不夠全面或顯示方式不滿足要求等情況,這就需要對讀取數(shù)據(jù)進(jìn)行編輯加工。本設(shè)計提供了方便的定制工具及編輯組件,編輯組件與展示組件為一體,為用戶提供了良好的體驗和操作的便捷性。

        1.3 軟件架構(gòu)

        利用后臺JAVA/JSoup技術(shù)以及前臺JS/Ajax技術(shù)兩個渠道來分析抓取配電網(wǎng)運行管理技術(shù)支持平臺的網(wǎng)頁數(shù)據(jù);基于JavaEE平臺(包括JAVA容器Apache/Tomcat服務(wù)器)以及中間件Spring+IBatis+DWR構(gòu)建軟件架構(gòu);采用的Spring是一個輕量級的控制反轉(zhuǎn)(IoC)和面向切面(AOP)的JavaBean容器框架;采用IBatis對象關(guān)系映射框架,進(jìn)行輕量級的對象封裝,摒除了大部分的JDBC代碼、手工設(shè)置參數(shù)和結(jié)果集重獲,使得程序的持久化過程變得可以重用、可配置、易于編寫和管理,而且也易于調(diào)試;采用的DWR是RPC技術(shù),通過反射等技術(shù)將后臺的JAVA服務(wù)類直接暴露給前臺JavaScript,使得前臺JS代碼調(diào)用后臺的JAVA方法就如同直接調(diào)用JS方法一樣,直截了當(dāng)、簡單方便。

        基于爬蟲技術(shù)的多源配電網(wǎng)運行報表自動生成及管理工具軟件架構(gòu)如圖1所示。

        圖1 軟件架構(gòu)

        2 軟件功能

        2.1 數(shù)據(jù)爬取

        利用后臺JAVA/JSoup技術(shù)以及前臺JS/Ajax技術(shù)兩個渠道來分析抓取配電網(wǎng)運行管理技術(shù)支持平臺的網(wǎng)頁數(shù)據(jù);根據(jù)各種配網(wǎng)調(diào)度報表,確定需要統(tǒng)計的數(shù)據(jù)來源;利用規(guī)則庫來定位各數(shù)據(jù)的保存位置,以便準(zhǔn)確抓取,規(guī)則庫維護工具提供編輯功能,以跟蹤配電網(wǎng)運行管理技術(shù)支持平臺頁面的變化。網(wǎng)絡(luò)爬蟲常見的技術(shù)障礙是跨越問題(網(wǎng)頁資源的不同源問題),采用Nginx等反向代理框架,將配電網(wǎng)運行管理技術(shù)支持平臺的Web資源URL配置到Nginx服務(wù)器上,從而有效規(guī)避Web瀏覽器跨域安全限制問題。數(shù)據(jù)爬蟲處理流程如圖2所示。

        圖2 數(shù)據(jù)爬蟲處理流程

        2.2 中間數(shù)據(jù)導(dǎo)入

        通過提供基于POI/JACOB技術(shù)的Office導(dǎo)入工具,將從有關(guān)平臺渠道獲?。ɑ蛉斯ぞ庉嫞┑臄?shù)據(jù)文件,導(dǎo)入到系統(tǒng)里來。

        2.3 數(shù)據(jù)規(guī)則定義

        通過ETL與數(shù)據(jù)導(dǎo)入適配器,運用ETL技術(shù),可處理不同類型的數(shù)據(jù)源,并通過動態(tài)語言定義規(guī)則庫按統(tǒng)一的格式轉(zhuǎn)換處理,可用來描述中間數(shù)據(jù)文件的元數(shù)據(jù)格式。

        2.4 數(shù)據(jù)庫訪問視圖

        通用數(shù)據(jù)庫表設(shè)計及數(shù)據(jù)庫視圖訪問,設(shè)計合乎規(guī)范要求的配電網(wǎng)數(shù)據(jù)庫表,作為其他系統(tǒng)應(yīng)用的基礎(chǔ)。設(shè)計數(shù)據(jù)庫訪問視圖,提供緊密層應(yīng)用的數(shù)據(jù)訪問途徑。

        2.5 FR報表定制工具應(yīng)用

        用FR等有關(guān)報表定制工具,定制與上報報表一樣的Web界面,以提供在線瀏覽及編輯功能,提供所見即所得的用戶體驗,同時提供辦公文件導(dǎo)出功能,以滿足有關(guān)提交文檔的需要。提供單記錄/多記錄數(shù)據(jù)輸出定義功能,將自動獲取或?qū)氲臄?shù)據(jù)輸出顯示在表格指定的位置。

        2.6 Web方式的在線編輯

        提供基于Web方式的在線編輯[2],通過提供在線編輯組件,使軟件可以對通報進(jìn)行在線修改編輯,包括智能輔助表單組件、單記錄/多記錄編輯組件,提供良好的可用性及用戶體驗。同時采用itextpdf等JAVA框架,提供導(dǎo)出Word、Excel、PDF文檔功能。

        2.7 報表的數(shù)據(jù)可視化

        采用Echart等圖表技術(shù),在配網(wǎng)運行報表里嵌入儀表盤組件,用曲線柱圖等統(tǒng)計分析圖表,可視化展示報表/運行通報數(shù)據(jù)。

        2.8 自定義統(tǒng)計功能

        用戶自定義的自動統(tǒng)計功能,提供自動統(tǒng)計計算公式定制功能,通過動態(tài)語言引擎,賦予用戶自定義需要統(tǒng)計的表單項以及統(tǒng)計公式。通過自動統(tǒng)計功能,減少上報報表計算工作量;通過計算公式自定義功能,實現(xiàn)統(tǒng)計工作的靈活性、擴展性。

        3 結(jié)語

        本軟件通過網(wǎng)絡(luò)爬蟲抓取配電網(wǎng)運行管理技術(shù)支持平臺的網(wǎng)頁數(shù)據(jù),利用規(guī)則庫來描述定位各數(shù)據(jù)的保存位置;利用可視化儀表盤,將配電網(wǎng)報表數(shù)據(jù)直觀形象地展示出來;提供基于Web方式的在線編輯,減少報表統(tǒng)計出錯;提供自動統(tǒng)計計算公式定制功能,減少報表數(shù)據(jù)計算工作量;提供便捷的查詢功能,實現(xiàn)歷史報表的在線瀏覽及歷史檢索功能;有效減少調(diào)度員工作量,實現(xiàn)一鍵查詢,自動生成報表,零出錯,在特殊天氣情況下,能有效減少配網(wǎng)調(diào)度搶修復(fù)電壓力。

        猜你喜歡
        技術(shù)支持爬蟲報表
        利用網(wǎng)絡(luò)爬蟲技術(shù)驗證房地產(chǎn)灰犀牛之說
        基于Python的網(wǎng)絡(luò)爬蟲和反爬蟲技術(shù)研究
        LabWindows/CVI中Excel報表技術(shù)研究
        利用爬蟲技術(shù)的Geo-Gnutel la VANET流量采集
        電子測試(2018年1期)2018-04-18 11:53:04
        從三大報表讀懂養(yǎng)豬人的成績單
        大數(shù)據(jù)環(huán)境下基于python的網(wǎng)絡(luò)爬蟲技術(shù)
        電子制作(2017年9期)2017-04-17 03:00:46
        提升技術(shù)支持能力, 深化“林肯之道”
        汽車零部件(2017年1期)2017-02-22 07:52:48
        多種現(xiàn)代技術(shù)支持的第二語言學(xué)習(xí)
        精準(zhǔn)扶貧需要技術(shù)支持
        iPad技術(shù)支持下的翻轉(zhuǎn)課堂模式探索*——暨“分式方程”的翻轉(zhuǎn)課例展示
        亚州少妇无套内射激情视频| 中文字幕一区二区三区四区| 亚洲av综合色区无码另类小说| 久久精品国产色蜜蜜麻豆| 在线精品国产一区二区| 日本啪啪一区二区三区| 国产精品毛片极品久久| 亚洲av无码成人精品区狼人影院 | 中文无码制服丝袜人妻AV| 在线观看国产一区二区av| 成人网站在线进入爽爽爽| 亚洲经典三级| av大片在线无码永久免费网址 | 国产 无码 日韩| 小池里奈第一部av在线观看| 午夜精品射精入后重之免费观看| 区久久aaa片69亚洲| 国产欧美亚洲另类第一页| 亚洲精彩av大片在线观看 | 人妻无码aⅴ中文系列久久免费| 亚洲最黄视频一区二区| 少妇被黑人整得嗷嗷叫视频| 国产av丝袜旗袍无码网站| 无码人妻少妇久久中文字幕蜜桃 | 亚洲国产高清在线一区二区三区 | 亚洲桃色蜜桃av影院| 麻豆md0077饥渴少妇| 亚洲人成绝费网站色www| 国产精品女同久久免费观看 | 亚洲无码美韩综合| 涩涩鲁精品亚洲一区二区| 一本本月无码-| 亚洲a∨天堂男人无码| 蜜臀一区二区av天堂| 国产无套中出学生姝| 人妻在线日韩免费视频| mm在线精品视频| 亚州中文热码在线视频| 777精品久无码人妻蜜桃| 2022Av天堂在线无码| 加勒比一区二区三区av|