吳行惠 張東 王光昕 房立鎮(zhèn) 耿宏偉
摘要:大數(shù)據(jù)在我國電子政務(wù)中的應(yīng)用越來越廣泛,山東省質(zhì)監(jiān)局建設(shè)的“基于大數(shù)據(jù)的山東質(zhì)監(jiān)信息共享平臺”是山東省內(nèi)首家完成的電子政務(wù)大數(shù)據(jù)項(xiàng)目, 本文依托該項(xiàng)目形成的質(zhì)監(jiān)大數(shù)據(jù)倉庫,針對質(zhì)監(jiān)領(lǐng)域的計(jì)量業(yè)務(wù),而設(shè)計(jì)出了基于大數(shù)據(jù)的省級計(jì)量監(jiān)管平臺的原型,結(jié)合質(zhì)監(jiān)局實(shí)際開展的計(jì)量業(yè)務(wù)闡明了該平臺所解決的實(shí)際需求問題及建設(shè)的意義,并給出了該平臺建設(shè)的總體設(shè)計(jì)方案及具體開發(fā)技術(shù)方案,給系統(tǒng)的開發(fā)提供了依據(jù)。
關(guān)鍵詞:計(jì)量;大數(shù)據(jù);管理平臺;原型設(shè)計(jì)
中圖分類號:TM933.4 文獻(xiàn)標(biāo)識碼:A 文章編號:1007-9416(2018)01-0147-05
隨著大數(shù)據(jù)技術(shù)的不斷進(jìn)步,“大數(shù)據(jù)”在電子政務(wù)中的發(fā)揮的作用也越來越受到人們的重視[1]。山東省質(zhì)監(jiān)局自2012年以來一直致力于質(zhì)監(jiān)大數(shù)據(jù)的研究與開發(fā)工作,目前已經(jīng)依托“基于大數(shù)據(jù)的山東質(zhì)監(jiān)信息共享平臺”項(xiàng)目建設(shè)完成了山東質(zhì)監(jiān)大數(shù)據(jù)倉庫。為充分利用質(zhì)監(jiān)大數(shù)據(jù)的數(shù)據(jù)資源,優(yōu)化山東省計(jì)量相關(guān)的業(yè)務(wù)流程,本文提出了基于大數(shù)據(jù)的省級計(jì)量監(jiān)管平臺,該平臺實(shí)現(xiàn)了對計(jì)量數(shù)據(jù)資源的統(tǒng)一監(jiān)管和信息共享,對規(guī)范山東省計(jì)量技術(shù)機(jī)構(gòu)的檢定或檢驗(yàn)工作流程,統(tǒng)一檢定證書和檢驗(yàn)報告格式[2],提高工作質(zhì)量加強(qiáng)計(jì)量監(jiān)管等方面都會發(fā)揮重要的作用。
1 項(xiàng)目背景
1.1 山東質(zhì)監(jiān)局計(jì)量業(yè)務(wù)信息化系統(tǒng)現(xiàn)狀
山東省質(zhì)監(jiān)局根據(jù)自身計(jì)量業(yè)務(wù)的發(fā)展需要,已經(jīng)開發(fā)完成了多款關(guān)于計(jì)量的信息化系統(tǒng),在計(jì)量業(yè)務(wù)的辦理及監(jiān)管中也曾發(fā)揮了重要的作用,但隨著計(jì)量業(yè)務(wù)的不斷發(fā)展以及對數(shù)據(jù)共享需求的不斷提高,目前的信息系統(tǒng)也暴露出了證書報告以及檢驗(yàn)工作流程不規(guī)范統(tǒng)一、計(jì)量檢定或檢驗(yàn)工作責(zé)任不可追溯等一系列問題,更重要的是,國家對政務(wù)數(shù)據(jù)的共享要求以及質(zhì)監(jiān)計(jì)量業(yè)務(wù)對數(shù)據(jù)共享的需求都在不斷的提高,當(dāng)前計(jì)量業(yè)務(wù)信息系統(tǒng)“數(shù)據(jù)孤島”的情形,已經(jīng)遠(yuǎn)遠(yuǎn)不能滿足社會各方對數(shù)據(jù)共享的需求[3]。
1.2 山東質(zhì)監(jiān)局“基于大數(shù)據(jù)的山東質(zhì)監(jiān)信息共享平臺”現(xiàn)狀
山東質(zhì)監(jiān)局“基于大數(shù)據(jù)的山東質(zhì)監(jiān)信息共享平臺”自2012年開始建設(shè)以來經(jīng)過不斷的完善、優(yōu)化以及持續(xù)的深化應(yīng)用,截止到2017年年底共梳理形成了776 個信息類,13461個信息項(xiàng),4435 個數(shù)據(jù)元;已采集結(jié)構(gòu)化數(shù)據(jù)138,258,082 條,非結(jié)構(gòu)化文檔403,618 個,數(shù)據(jù)量4.3T。從管理的業(yè)務(wù)對象來看,包含了3,169,619條組織機(jī)構(gòu)數(shù)據(jù)、702,573條人員數(shù)據(jù)、429,049條產(chǎn)品數(shù)據(jù)、1,814,182條設(shè)備數(shù)據(jù)以及189,828條標(biāo)準(zhǔn)數(shù)據(jù),并可以對這些數(shù)據(jù)的歷史進(jìn)行追溯,從而在數(shù)據(jù)和信息層面滿足了對管理層決策、業(yè)務(wù)管理和公共服務(wù)的需求[5]。
目前,山東質(zhì)監(jiān)局在行政許可、監(jiān)督檢查、特種設(shè)備等很多領(lǐng)域已經(jīng)建立了依托“質(zhì)監(jiān)大數(shù)據(jù)”的信息化系統(tǒng),并得到了廣泛應(yīng)用,提高了社會和公眾對質(zhì)監(jiān)業(yè)務(wù)的滿意度同時也增強(qiáng)了質(zhì)監(jiān)局對企業(yè)、設(shè)備的監(jiān)管力度。
2 大數(shù)據(jù)在計(jì)量業(yè)務(wù)中的應(yīng)用
通過對山東省質(zhì)監(jiān)局計(jì)量業(yè)務(wù)信息系統(tǒng)現(xiàn)狀及“質(zhì)監(jiān)大數(shù)據(jù)”項(xiàng)目的應(yīng)用情況進(jìn)行分析,筆者認(rèn)為借助大數(shù)據(jù)平臺的輿情采集、日志采集以及強(qiáng)大的數(shù)據(jù)分析能力,將會使計(jì)量業(yè)務(wù)的信息化產(chǎn)生非常重要的影響,具體表現(xiàn)在以下幾個方面:
借助大數(shù)據(jù)平臺,解決了跨部門之間的數(shù)據(jù)共享問題,將會使計(jì)量相關(guān)部門的工作效率得到大幅度的提高,同時可以實(shí)現(xiàn)跨部門之間的聯(lián)動,對于存在問題的器具、機(jī)構(gòu)可以快速追本溯源,從而確定具體監(jiān)管部門并采取針對性的措施,最大限度的降低危害與影響,同時,借助大數(shù)據(jù)倉庫的輿情采集與分析系統(tǒng),可以快速響應(yīng)群眾提出的有關(guān)于計(jì)量的質(zhì)量問題,進(jìn)一步加強(qiáng)政府對計(jì)量業(yè)務(wù)的監(jiān)管力度。
借助大數(shù)據(jù)平臺的輿情采集與分析,可以使相關(guān)監(jiān)管部門更加容易的發(fā)現(xiàn)一些企業(yè)、機(jī)構(gòu)的違法信息,實(shí)現(xiàn)更加精準(zhǔn)的執(zhí)法。
借助大數(shù)據(jù)平臺強(qiáng)大的數(shù)據(jù)分析能力,并結(jié)合計(jì)量業(yè)務(wù)數(shù)據(jù)、海量輿情數(shù)據(jù)、行政許可、監(jiān)督檢查等數(shù)據(jù)進(jìn)行統(tǒng)一的分析整理,可以給政府相關(guān)部門更加準(zhǔn)確和直觀的展示各種分析數(shù)據(jù),從而為政府相關(guān)部門提供輔助決策支持。
借助大數(shù)據(jù)的日志采集與分析,可以發(fā)現(xiàn)企業(yè)及機(jī)構(gòu)等各類用戶使用系統(tǒng)的關(guān)注點(diǎn),從而更加方便的實(shí)現(xiàn)計(jì)量系統(tǒng)為各類用戶提供服務(wù)。
3 需求分析
3.1 計(jì)量行政許可業(yè)務(wù)需求分析
(1)業(yè)務(wù)分析。根據(jù)權(quán)力清單,當(dāng)前山東質(zhì)監(jiān)行政許可計(jì)量業(yè)務(wù)主要包含6類許可事項(xiàng),如表1所示。
每項(xiàng)行政許都可統(tǒng)一劃分為受理、審查、許可三分離工作模式,受理、許可是由行政許可部門完成,審查是由審查技術(shù)機(jī)構(gòu)完成,明確了行政管理人員和技術(shù)審查人員的崗位職責(zé)和任務(wù),提高現(xiàn)場審查工作質(zhì)量。依據(jù)受理、審查、許可三分離工作模式,主要包含行政許可審批管理、技術(shù)審查機(jī)構(gòu)業(yè)務(wù)管理、行政許可審查人員管理、行政許可文件支撐管理的需求,實(shí)現(xiàn)行政許可審批管理、審查機(jī)構(gòu)的業(yè)務(wù)管理、各類(認(rèn)證、監(jiān)督、工業(yè)產(chǎn)品、計(jì)量)技術(shù)審查人員“進(jìn)、用、管、出”的統(tǒng)一規(guī)范管理及行政許可審批過程中需要的法律法規(guī)、產(chǎn)業(yè)政策、細(xì)則、產(chǎn)品標(biāo)準(zhǔn)、作業(yè)指導(dǎo)書、具體要求等技術(shù)支持文件。
(2)行政許可的業(yè)務(wù)模型。行政許可的業(yè)務(wù)模型如圖1所示。
3.2 計(jì)量檢驗(yàn)檢測(檢定)規(guī)范管理需求分析
計(jì)量檢驗(yàn)檢測(檢定)業(yè)務(wù)目前主要涉及計(jì)量檢定證書、定量包裝商品凈含量檢驗(yàn)報告、計(jì)量器具型評價報告、計(jì)量器具監(jiān)督檢驗(yàn)報告四大類證書(報告)。通過許可審批提供計(jì)量授權(quán),獲得授權(quán)的檢驗(yàn)檢測機(jī)構(gòu)按照抽查計(jì)劃的要求對抽查的相關(guān)產(chǎn)品進(jìn)行抽樣、檢驗(yàn)檢測,并按照標(biāo)準(zhǔn)規(guī)程規(guī)范庫中報告的模板出具檢驗(yàn)報告,最后將報告及相關(guān)數(shù)據(jù)按照相關(guān)要求進(jìn)行共享,以滿足統(tǒng)計(jì)分析、風(fēng)險預(yù)警、省政務(wù)資源共享以及國家局計(jì)量統(tǒng)計(jì)的相關(guān)需求,其業(yè)務(wù)流程示意如圖2所示。
3.3 計(jì)量業(yè)務(wù)監(jiān)督檢查需求分析
計(jì)量業(yè)務(wù)監(jiān)督檢查主要實(shí)現(xiàn)制造(修理)計(jì)量器具許可證的證后監(jiān)督檢查管理、授權(quán)計(jì)量技術(shù)機(jī)構(gòu)的監(jiān)督檢查管理以及計(jì)量建標(biāo)機(jī)構(gòu)的監(jiān)管(包括:法定計(jì)量檢定機(jī)構(gòu)、省局對外開展工作的專項(xiàng)計(jì)量授權(quán)檢定機(jī)構(gòu)、法定計(jì)量檢定機(jī)構(gòu))。目前,計(jì)量業(yè)務(wù)監(jiān)督檢查采用企業(yè)(機(jī)構(gòu))自查和監(jiān)督部門組織檢查兩種形式。
企業(yè)(機(jī)構(gòu))自查是由計(jì)量技術(shù)機(jī)構(gòu)或建標(biāo)單位填寫報表并提交到市局,市局審核提交到省局計(jì)量處,由計(jì)量處確認(rèn)歸檔入庫。計(jì)量技術(shù)機(jī)構(gòu)或建標(biāo)單位填報后也可直接報到計(jì)量處,由計(jì)量處直接確認(rèn)歸檔入庫。業(yè)務(wù)流程如圖3所示。
監(jiān)督部門組織檢查是由計(jì)量機(jī)構(gòu)選定授權(quán)類型、填寫計(jì)劃信息、選擇待檢計(jì)量技術(shù)機(jī)構(gòu)或建標(biāo)單位、選擇評審專家生成臨時考評組(同時為錄入考評信息的專家分配登陸賬號)、執(zhí)行計(jì)劃、填寫監(jiān)督檢查記錄,計(jì)量處審核確認(rèn)、歸檔入庫。如圖4所示。
3.4 計(jì)量行政執(zhí)法業(yè)務(wù)需求分析
根據(jù)山東省政府辦公廳對行政執(zhí)法的部署要求,計(jì)量業(yè)務(wù)的行政執(zhí)法必須要遵從行政執(zhí)法公示制度、執(zhí)法全過程記錄制度、重大執(zhí)法決定法制審核制度這三項(xiàng)制度的要求[7]。根據(jù)調(diào)研整理,計(jì)量業(yè)務(wù)行政執(zhí)法的需求主要包含以下幾個方面:(1)行政執(zhí)法資源管理:包含行政執(zhí)法事項(xiàng)管理、隨機(jī)抽查事項(xiàng)管理、行政執(zhí)法主體資格管理、行政執(zhí)法人員資格管理、行政執(zhí)法程序流程管理、行政執(zhí)法服務(wù)指南管理、窗口辦事人員信息管理。(2)行政執(zhí)法過程記錄信息管理:對執(zhí)法全過程記錄中的文字、音像等信息進(jìn)行收集、保存、管理和使用。(3)重大執(zhí)法決定法制審核管理:重大執(zhí)法決定法制審核流程管理,重大執(zhí)法決定法制審核目錄清單管理、重大執(zhí)法決定法制審核人員力量管理。
4 總體設(shè)計(jì)
4.1 設(shè)計(jì)概述
省級計(jì)量監(jiān)管平臺的設(shè)計(jì)要滿足上述需求,與質(zhì)監(jiān)大數(shù)據(jù)平臺的互聯(lián)互通是設(shè)計(jì)的關(guān)鍵點(diǎn),一方面要充分利用已建成的大數(shù)據(jù)倉庫來獲取計(jì)量業(yè)務(wù)中所需要的數(shù)據(jù),另一方面也要使本平臺產(chǎn)生的數(shù)據(jù)通過大數(shù)據(jù)項(xiàng)目的數(shù)據(jù)采集模塊及時共享到大數(shù)據(jù)倉庫中,以便于監(jiān)管部門實(shí)現(xiàn)精準(zhǔn)執(zhí)法。系統(tǒng)總體設(shè)計(jì)規(guī)劃如圖5所示。
4.2 功能模塊設(shè)計(jì)
根據(jù)業(yè)務(wù)需求分析計(jì)量省級計(jì)量監(jiān)管平臺可以劃分為:計(jì)量資源信息庫管理、判定依據(jù)管理、計(jì)量項(xiàng)目指標(biāo)庫管理、計(jì)量規(guī)程規(guī)范標(biāo)準(zhǔn)管理、證書(報告)數(shù)據(jù)要求管理、證書或報告上傳、信息資源使用、其他業(yè)務(wù)管理八大模塊。各功能模塊的具體職責(zé)如下:
計(jì)量資源信息庫管理:指對質(zhì)監(jiān)系統(tǒng)內(nèi)具有檢定能力、定量包裝檢驗(yàn)?zāi)芰?、型式試?yàn)檢驗(yàn)?zāi)芰Φ母饔?jì)量技術(shù)機(jī)構(gòu)的基本信息及各種資質(zhì)數(shù)據(jù)庫的管理。主要包括以下數(shù)據(jù)庫的管理。如表2所示。
判定依據(jù)管理:對是否超范圍開展檢驗(yàn)或檢定的判定依據(jù)進(jìn)行管理。包括對檢定證書、定量包裝報告、型式試驗(yàn)報告的判定。
計(jì)量項(xiàng)目指標(biāo)庫管理:該模塊主要功能是對全省計(jì)量技術(shù)機(jī)構(gòu)所要出具的檢驗(yàn)報告進(jìn)行規(guī)范化,所有計(jì)量技術(shù)機(jī)構(gòu)所出具的檢驗(yàn)報告的格式按照省局統(tǒng)一規(guī)范定義的模板格式,結(jié)果部分由專家組按照相關(guān)標(biāo)準(zhǔn)進(jìn)行確定,全省統(tǒng)一應(yīng)用。
計(jì)量規(guī)程規(guī)范標(biāo)準(zhǔn):是計(jì)量檢定、校準(zhǔn)、檢測的技術(shù)依據(jù),建立統(tǒng)一的計(jì)量規(guī)程規(guī)范標(biāo)準(zhǔn)數(shù)據(jù)庫,對全省計(jì)量技術(shù)機(jī)構(gòu)所依據(jù)的技術(shù)規(guī)范進(jìn)行統(tǒng)一管理,確保計(jì)量技術(shù)機(jī)構(gòu)在用技術(shù)文件的有效性。
證書(報告)數(shù)據(jù)要求:該部分功能主要描述檢定證書、定量包裝報告、型式批準(zhǔn)及試驗(yàn)試驗(yàn)報告這 3項(xiàng)的證書(報告)的數(shù)據(jù)結(jié)構(gòu)定義;錄入信息的復(fù)制功能;企業(yè)信息建立數(shù)據(jù)數(shù)據(jù)庫,各單位從數(shù)據(jù)庫中選擇。
證書或報告上傳方式:各計(jì)量技術(shù)機(jī)構(gòu)在使用該平臺計(jì)量管理有關(guān)數(shù)據(jù)庫的基礎(chǔ)上,將已有證書或報告數(shù)據(jù)通過該服務(wù)平臺接口定期導(dǎo)入,實(shí)現(xiàn)計(jì)量技術(shù)機(jī)構(gòu)的檢定證書或檢驗(yàn)報告上傳。
信息資源使用:該模塊主要功能是通過查詢、統(tǒng)計(jì)的方式,實(shí)現(xiàn)對檢定證書、定量包裝報告、型式批準(zhǔn)及試驗(yàn)試驗(yàn)報告的分析。該功能對監(jiān)管部門和各計(jì)量技術(shù)機(jī)構(gòu)通用。根據(jù)用戶級別可分為:省、市局和技術(shù)機(jī)構(gòu)三類;每一級別可查看依據(jù)行政區(qū)域管理授權(quán)范圍內(nèi)的數(shù)據(jù),也可根據(jù)服務(wù)平臺進(jìn)行用戶授權(quán)查看不同的數(shù)據(jù)。
其它業(yè)務(wù)管理:該模塊主要涉及制造計(jì)量器具證書信息、強(qiáng)檢計(jì)量器具、能源計(jì)量等業(yè)務(wù)數(shù)據(jù)的管理、維護(hù)、分析功能。根據(jù)使用用戶級別可以分為省級、地市級、區(qū)縣級、技術(shù)機(jī)構(gòu)四類;每一級別可查看依據(jù)行政區(qū)域管理授權(quán)范圍內(nèi)的數(shù)據(jù),也可根據(jù)服務(wù)平臺進(jìn)行用戶授權(quán)查看不同的數(shù)據(jù)。
4.3 系統(tǒng)邏輯架構(gòu)
為了增強(qiáng)系統(tǒng)的可維護(hù)性、可擴(kuò)展性與靈活性,同時提高系統(tǒng)的性能和高可用性,系統(tǒng)在開發(fā)時采用目前流行的微服務(wù)架構(gòu),并將整個系統(tǒng)邏輯上劃分為邏輯表現(xiàn)層、接口訪問層、實(shí)體層、業(yè)務(wù)服務(wù)層、公共服務(wù)層、服務(wù)治理層和資源層七個層次[8]。
邏輯表現(xiàn)層為最終展現(xiàn)給使用者的應(yīng)用與對外數(shù)據(jù)共享提供的接口服務(wù)。
實(shí)體層和接口訪問層屬于邏輯層,并不單獨(dú)發(fā)布為服務(wù),而是使用Jar包類庫的方式提供給其它服務(wù)調(diào)用,實(shí)體層是系統(tǒng)中與數(shù)據(jù)庫對應(yīng)的實(shí)體類。
業(yè)務(wù)服務(wù)層在設(shè)計(jì)時按照4.2節(jié)中功能模塊的劃分,將系統(tǒng)規(guī)劃為八個服務(wù),每個服務(wù)都以restful接口的形式對外提供服務(wù)。
公共服務(wù)層的日志采集、字典服務(wù)、權(quán)限管理和通知四個服務(wù)同業(yè)務(wù)服務(wù)層的服務(wù)類似,以restful接口的形式供業(yè)務(wù)服務(wù)層和web服務(wù)直接調(diào)用。
服務(wù)治理層是是整個系統(tǒng)的核心控制層,采用典型的“服務(wù)注冊表”模式對服務(wù)的管理,系統(tǒng)使用dubbo分布式服務(wù)框架,利用zookeeper作為服務(wù)注冊中心,并借助zookeeper的動態(tài)“心跳”機(jī)制實(shí)現(xiàn)服務(wù)的治理與高可用,業(yè)務(wù)服務(wù)層和公共服務(wù)層的每個服務(wù)組件在啟動時將自己注冊進(jìn)服務(wù)注冊表,web服務(wù)器或api網(wǎng)關(guān)在訪問服務(wù)時查詢服務(wù)注冊表得到服務(wù)的uri,然后調(diào)用某服務(wù)接口。同時服務(wù)治理層也可以單獨(dú)對某個接口進(jìn)行權(quán)限控制和配置有針對性的負(fù)載均衡策略,保障系統(tǒng)運(yùn)行的性能與安全性。
資源層使用質(zhì)監(jiān)局目前搭建的數(shù)據(jù)庫服務(wù)系統(tǒng)、文件管理系統(tǒng),同時為了增強(qiáng)系統(tǒng)的性能,系統(tǒng)采用Varnish作為靜態(tài)頁面和圖片的高速緩存,并使用Redis集群作為業(yè)務(wù)層的高速緩存。具體的系統(tǒng)邏輯架構(gòu)圖,如圖6所示。
4.4 計(jì)量大數(shù)據(jù)分析核心架構(gòu)
對計(jì)量業(yè)務(wù)中的日志信息、輿情信息等需要借助大數(shù)據(jù)平臺中的大數(shù)據(jù)分析架構(gòu),具體核心架構(gòu)如圖7所示。
數(shù)據(jù)采集模塊根據(jù)系統(tǒng)復(fù)雜的數(shù)據(jù)采集情況,使用Sqoop、Kettle以及Scrapy等技術(shù)混合采集。Sqoop主要用于在Hadoop(Hive)與傳統(tǒng)的數(shù)據(jù)庫(Oracle等)間進(jìn)行數(shù)據(jù)的傳遞,可以將一個關(guān)系型數(shù)據(jù)庫(如Oracle等)中的數(shù)據(jù)導(dǎo)進(jìn)到Hadoop的HDFS中,也可以將HDFS的數(shù)據(jù)導(dǎo)進(jìn)到關(guān)系型數(shù)據(jù)庫中;Kettle是ETL工具,可在多平臺上運(yùn)行,且數(shù)據(jù)抽取高效穩(wěn)定;Scrapy是一款由Python編寫的網(wǎng)絡(luò)爬蟲。
為了適應(yīng)數(shù)據(jù)存儲的復(fù)雜性,大數(shù)據(jù)存儲設(shè)計(jì)為傳統(tǒng)關(guān)系性數(shù)據(jù)庫和KV非結(jié)構(gòu)化數(shù)據(jù)庫混合存儲。redis是一個高性能的key-value存儲數(shù)據(jù)庫。它支持存儲多種value類型,包括string(字符串)、list(鏈表)、set(集合)、zset(sorted set --有序集合)和hash(哈希類型)。這些數(shù)據(jù)類型都支持push/pop、add/remove及取交集并集和差集及更豐富的操作。HBase是一個高可靠性、高性能、面向列、可伸縮的分布式存儲系統(tǒng)。
大數(shù)據(jù)計(jì)算模塊由spark、mapreduce等組成。Spark 是專為大規(guī)模數(shù)據(jù)處理而設(shè)計(jì)的快速通用的計(jì)算引擎,啟用了內(nèi)存分布數(shù)據(jù)集,除了能夠提供交互式查詢外,它還可以優(yōu)化迭代工作負(fù)載。MapReduce是一種批處理計(jì)算模型由Map和Reduce兩個模型組成,Map是將一組鍵值對映射成一組新的鍵值對,Reduce則用來保證所有映射的鍵值對中的每一個共享相同的鍵組。
4.5 系統(tǒng)運(yùn)行架構(gòu)
根據(jù)上述系統(tǒng)的邏輯架構(gòu),針對系統(tǒng)中存在的頁面訪問、日志采集、數(shù)據(jù)交換共享三個主要控制流程,并結(jié)合當(dāng)前大數(shù)據(jù)倉庫的數(shù)據(jù)交換情況,給出系統(tǒng)的運(yùn)行架構(gòu)圖如圖8所示。
頁面訪問控制流:由前端瀏覽器發(fā)起請求,如果請求的內(nèi)容已經(jīng)存在緩存中則返回,如果沒有緩存內(nèi)容,則繼續(xù)請求web服務(wù)器。也有部分請求可以指定不通過緩存直接訪問web服務(wù)器獲取數(shù)據(jù)。
日志采集:操作日志的采集設(shè)計(jì)了兩條控制流。一條是在jsp中調(diào)用統(tǒng)一js方法,直接將用戶請求發(fā)送至日志采集接口,由日志采集接口提交給消息隊(duì)列,再由日志采集模塊從消息隊(duì)列里獲取數(shù)據(jù)并保存。另外一條是利用web服務(wù)器的攔截器,攔截到用戶訪問請求后,傳送到消息隊(duì)列,日志采集模塊在消息隊(duì)列中獲取和處理數(shù)據(jù)。日志采集數(shù)據(jù)庫與大數(shù)據(jù)倉庫之間互通,借助大數(shù)據(jù)的分析工具產(chǎn)生結(jié)果后,傳入業(yè)務(wù)數(shù)據(jù)庫中。
數(shù)據(jù)交換共享:由接口調(diào)用方或者定時器觸發(fā)的形式發(fā)起數(shù)據(jù)交換的請求,經(jīng)由dubbo框架的控制,通過緩存或者數(shù)據(jù)庫存取的方式來實(shí)現(xiàn)數(shù)據(jù)的交換。
5 結(jié)語
基于大數(shù)據(jù)的省級計(jì)量監(jiān)管平臺的建立必將會強(qiáng)化質(zhì)監(jiān)局對計(jì)量業(yè)務(wù)的監(jiān)管力度,使得監(jiān)管的效率得到提高的同時監(jiān)管維度更加的精細(xì),并且通過對數(shù)據(jù)的共享與分析,使政府相關(guān)部門、檢驗(yàn)機(jī)構(gòu)和企業(yè)都能各取所需從中受益,從而創(chuàng)造更多的社會效益,推進(jìn)服務(wù)模式創(chuàng)新,提高了電子政務(wù)服務(wù)水平。
參考文獻(xiàn)
[1]史小雪.大數(shù)據(jù)在質(zhì)量監(jiān)督中的應(yīng)用[J].信息化建設(shè),2016,(4):6-7.
[2]張瑞,杜衍華.計(jì)量檢測信息系統(tǒng)的開發(fā)與應(yīng)用[J].中國計(jì)量,2006,(5):67-68.
[3]孫淳,戴洪宇.計(jì)量管理軟件系統(tǒng)發(fā)展概況[J].計(jì)量與測試技術(shù),2006,(12):4-5.
[4]吳行惠,劉建,張東,等.論質(zhì)量技術(shù)監(jiān)督大數(shù)據(jù)[J].電子政務(wù),2015,(03):113-117.
[5]吳行惠,張東.質(zhì)監(jiān)大數(shù)據(jù)在產(chǎn)品質(zhì)量監(jiān)督檢查中的應(yīng)用[J].信息安全與技術(shù),2015,(12):10-12.
[6]高展,吳志剛,高棟.業(yè)務(wù)流程規(guī)范化是電子政務(wù)系統(tǒng)建設(shè)的基礎(chǔ)[J].信息技術(shù)與標(biāo)準(zhǔn)化,2003,(11):27-30.
[7]梁勇.Java語言程序設(shè)計(jì)[M].北京:機(jī)械工業(yè)出版社,2011.