摘""要:云環(huán)境中,通過(guò)大數(shù)據(jù)可以實(shí)現(xiàn)冗余信息的處理與分析,通過(guò)數(shù)據(jù)挖掘等技術(shù)手段的支持可以實(shí)現(xiàn)信息資源的優(yōu)化與處理。為了充分滿(mǎn)足云環(huán)境中數(shù)據(jù)處理的需求,通過(guò)現(xiàn)代技術(shù)手段綜合分析,可以切實(shí)保障信息數(shù)據(jù)的安全性。大數(shù)據(jù)時(shí)代,計(jì)算機(jī)技術(shù)高度發(fā)展,可以實(shí)現(xiàn)多種信息數(shù)據(jù)以及資源的整合,對(duì)于國(guó)家、企業(yè)以及群眾的信息安全具有重要的影響。在云環(huán)境中為了實(shí)現(xiàn)信息數(shù)據(jù)處理的安全性、高效性,要基于實(shí)際狀況對(duì)信息數(shù)據(jù)的采集、存儲(chǔ)以及安全管理等方面進(jìn)行綜合分析。
關(guān)鍵詞:云環(huán)境""云存儲(chǔ)技術(shù)""大數(shù)據(jù)""計(jì)算機(jī)處理技術(shù)
中圖分類(lèi)號(hào):TP393
Research"on"the"Application"of"Computer"Processing"Technology"for"Big"Data"in"the"Cloud"Environment
YUAN""Xiaoyong
(Guizhou"Vocational"College"of"Economics"and"Business,"Duyun,"Guizhou"Province,558000"China)
Abstract:"In"the"cloud"environment,"the"processing"and"analysisnbsp;of"redundant"information"can"be"achieved"through"big"data,"and"the"optimization"and"processing"of"information"resources"can"be"achieved"through"technical"means"such"as"data"mining."In"order"to"fully"meet"the"needs"of"data"processing"in"the"cloud"environment,"comprehensive"analysis"through"modern"technological"means"can"effectively"ensure"the"security"of"information"data."In"the"era"of"big"data,"computer"technology"is"highly"developed,"and"it"can"achieve"the"integration"of"various"information"data"and"resources,"which"has"an"important"impact"on"the"information"security"of"the"country,"enterprises"and"the"public."In"order"to"achieve"the"security"and"efficiency"of"information"data"processing"in"the"cloud"environment,"it"is"necessary"to"conduct"a"comprehensive"analysis"of"the"collection,"storage"and"security"management"of"information"data"based"on"actual"conditions.
Key"Words:"Cloud"environment;"Cloud"storage"technology;"Big"data;"Computer"processing"technology
云環(huán)境中,通過(guò)大數(shù)據(jù)可以實(shí)現(xiàn)冗余信息的處理與分析,通過(guò)數(shù)據(jù)挖掘等技術(shù)手段的支持可以實(shí)現(xiàn)信息資源的優(yōu)化與處理。為了充分滿(mǎn)足云環(huán)境中數(shù)據(jù)處理的需求,通過(guò)現(xiàn)代技術(shù)手段綜合分析,可以切實(shí)保障信息數(shù)據(jù)的安全性。
1云環(huán)境下大數(shù)據(jù)計(jì)算機(jī)處理流程
在云環(huán)境中合理應(yīng)用大數(shù)據(jù)等技術(shù)手段,可以實(shí)現(xiàn)數(shù)據(jù)的挖掘與處理,在數(shù)據(jù)處理中主要就是利用計(jì)算機(jī)技術(shù)進(jìn)行數(shù)據(jù)信息的抽取、處理與集成數(shù)據(jù)、分析數(shù)據(jù),通過(guò)處理之后的信息數(shù)據(jù)可以根據(jù)實(shí)際需求形成報(bào)表與圖表等不同的方式,便于用戶(hù)分析處理。通過(guò)標(biāo)準(zhǔn)化的方式進(jìn)行數(shù)據(jù)處理可以挖掘信息數(shù)據(jù)的內(nèi)在價(jià)值,提高信息數(shù)據(jù)資源的利用效率。
1.1數(shù)據(jù)抽取
在云環(huán)境中通過(guò)大數(shù)據(jù)進(jìn)行信息數(shù)據(jù)的采集分析,在網(wǎng)絡(luò)技術(shù)之下可以拓展范圍,實(shí)現(xiàn)數(shù)據(jù)信息的綜合處理。而數(shù)據(jù)連接復(fù)雜,為了提高采集精度以及速度,則要綜合實(shí)際狀況合理應(yīng)用大數(shù)據(jù)等技術(shù)手段[1]。
1.2處理與集成數(shù)據(jù)
在數(shù)據(jù)分析之前要通過(guò)技術(shù)手段對(duì)多種信息數(shù)據(jù)進(jìn)行集成化處理,通過(guò)格式化、噪聲處理等操作之后進(jìn)行數(shù)據(jù)集合,如果數(shù)據(jù)采集標(biāo)準(zhǔn)尚未統(tǒng)一,則無(wú)法實(shí)現(xiàn)數(shù)據(jù)結(jié)構(gòu)的抑制性,會(huì)對(duì)后期的數(shù)據(jù)分析效率以及精確性產(chǎn)生影響。因此,在處理中要應(yīng)用統(tǒng)一的數(shù)據(jù)進(jìn)行采集分析,保障信息數(shù)據(jù)精準(zhǔn)全面。
1.3分析數(shù)據(jù)
分析數(shù)據(jù)主要就是通過(guò)大數(shù)據(jù)進(jìn)行數(shù)據(jù)挖掘,在采集數(shù)據(jù)倉(cāng)庫(kù)與存儲(chǔ)發(fā)掘等工具支持之下,對(duì)大數(shù)據(jù)與傳統(tǒng)的數(shù)據(jù)差異性進(jìn)行綜合性的分析,通過(guò)多元化的方式提供服務(wù)[2]。
1.4數(shù)據(jù)分析
通過(guò)大數(shù)據(jù)進(jìn)行數(shù)據(jù)分析,可以在系統(tǒng)支持之下進(jìn)行可視化的方案數(shù)據(jù)設(shè)置,基于模擬分析數(shù)據(jù)結(jié)果則可以了解各項(xiàng)信息,根據(jù)不同客戶(hù)的需求提供形象化的結(jié)果,充分提高決策制定的科學(xué)性。
2云環(huán)境下大數(shù)據(jù)計(jì)算機(jī)處理技術(shù)
2.1云存儲(chǔ)技術(shù)
2.1.1數(shù)據(jù)收集以及加工技術(shù)
在信息數(shù)據(jù)的處理與加工中獲得信息數(shù)據(jù)要根據(jù)要求進(jìn)行存儲(chǔ)、檢測(cè)以及利用。而在信息數(shù)據(jù)的傳輸中在多種因素的影響之下會(huì)出現(xiàn)丟失、損壞等問(wèn)題,為了提高信息數(shù)據(jù)的安全性,要綜合實(shí)際狀況進(jìn)行數(shù)據(jù)安全管理,提高數(shù)據(jù)傳輸?shù)陌踩?。通過(guò)分析傳輸?shù)那?,了解安全隱患問(wèn)題,基于標(biāo)準(zhǔn)進(jìn)行判斷分析,及時(shí)處理存在的異常問(wèn)題,保障傳輸通道安全的基礎(chǔ)上進(jìn)行數(shù)據(jù)的處理則可以降低安全隱患問(wèn)題。在云環(huán)境中,做好信息數(shù)據(jù)的收集以及處理,通過(guò)篩選技術(shù)進(jìn)行信息的分析,剔除冗余、錯(cuò)誤性的信息數(shù)據(jù),通過(guò)信息加工技術(shù)優(yōu)化完善,則可以切實(shí)增強(qiáng)數(shù)據(jù)安全性[3]。
2.1.2數(shù)字整合處理技術(shù)
通過(guò)數(shù)據(jù)參數(shù)核算與分析,可以利用網(wǎng)絡(luò)平臺(tái)進(jìn)行數(shù)據(jù)參數(shù)的綜合分析、處理,有效提高了數(shù)字計(jì)算能力。隨著現(xiàn)代技術(shù)手段的提高,數(shù)字整合技術(shù)也實(shí)現(xiàn)了創(chuàng)新優(yōu)化,在大數(shù)據(jù)平臺(tái)上融合數(shù)字整合技術(shù)手段,根據(jù)技術(shù)應(yīng)用的特征拓展范圍,可以實(shí)現(xiàn)多元化的發(fā)展,充分增強(qiáng)了數(shù)字計(jì)算的高效性。
2.2云安全與云計(jì)算處理技術(shù)
2.2.1云安全技術(shù)
網(wǎng)絡(luò)安全問(wèn)題是人們必須要重視的問(wèn)題之一,通過(guò)云安全技術(shù)進(jìn)行數(shù)據(jù)安全處理可以有效降低安全隱患問(wèn)題,保障信息數(shù)據(jù)的安全性。通過(guò)云安全技術(shù)進(jìn)行系統(tǒng)中各項(xiàng)風(fēng)險(xiǎn)隱患的識(shí)別以及綜合分析,可有效降低非法入侵與病毒侵蝕等問(wèn)題的出現(xiàn),充分保障系統(tǒng)運(yùn)行安全性。通過(guò)云安全技術(shù)實(shí)現(xiàn)病毒查殺以及安全管理,可以切實(shí)提高系統(tǒng)運(yùn)行的安全性。
2.2.2云計(jì)算技術(shù)
云計(jì)算技術(shù)具有強(qiáng)大的功能,可有效降低信息資源的損耗性問(wèn)題,提高信息利用效率。計(jì)算機(jī)信息在應(yīng)用中會(huì)產(chǎn)生大量的信息數(shù)據(jù),這些數(shù)據(jù)冗余復(fù)雜,通過(guò)計(jì)算方式進(jìn)行優(yōu)化可以快速實(shí)現(xiàn)目標(biāo)信息的處理以及優(yōu)化。通過(guò)云計(jì)算技術(shù),根據(jù)用戶(hù)的需求與等級(jí)等設(shè)置提供更加具有針對(duì)性的復(fù)雜,通過(guò)定制化的服務(wù)增強(qiáng)滿(mǎn)意度,無(wú)需人工操作進(jìn)行優(yōu)化處理,則可以實(shí)現(xiàn)多任務(wù)的有效開(kāi)展。
2.3虛擬化處理技術(shù)
虛擬化技術(shù)的應(yīng)用可以充分保障數(shù)據(jù)信息資源的科學(xué)配置,便于信息數(shù)據(jù)的存儲(chǔ)管理。在應(yīng)用中根據(jù)程序、網(wǎng)絡(luò)以及操作等不同內(nèi)容進(jìn)行系統(tǒng)設(shè)置。利用技術(shù)形成虛擬軟件,則可以根據(jù)用戶(hù)需求進(jìn)行處理,通過(guò)服務(wù)器進(jìn)行程序與設(shè)備的連接,則可以連接多臺(tái)終端設(shè)備。用戶(hù)通過(guò)升級(jí)等方式可以實(shí)現(xiàn)系統(tǒng)的優(yōu)化,有效降低維修負(fù)荷等問(wèn)題[4]。
3云環(huán)境下大數(shù)據(jù)計(jì)算機(jī)處理技術(shù)應(yīng)用研究
3.1"Hadoop"處理技術(shù)
基于"Hadoop"處理技術(shù)進(jìn)行平臺(tái)建設(shè),其作為一種MAP算法框架結(jié)構(gòu),通過(guò)分布式框架特征進(jìn)行模塊化處理,在分布文化與數(shù)據(jù)庫(kù)虛體支持之下可以構(gòu)建完善的大數(shù)據(jù)處理框架系統(tǒng)。實(shí)現(xiàn)對(duì)程序的綜合分析以及管理,有利于進(jìn)行大規(guī)模集成化的工程處理。
Hadoop"技術(shù)中最為顯著的優(yōu)勢(shì)就是處理模型"MapReduce"的Map"映射函數(shù)屬于本地計(jì)算方式,在進(jìn)行數(shù)據(jù)輸出中可以實(shí)現(xiàn)在本地計(jì)算機(jī)中進(jìn)行運(yùn)算分析,但是受到計(jì)算節(jié)點(diǎn)資源的影響,因此在處理中要綜合數(shù)據(jù)分布狀況進(jìn)行綜合分析,如果節(jié)點(diǎn)數(shù)量高于處理片數(shù)則要進(jìn)行遠(yuǎn)程化的處理。因此,在運(yùn)算中要分析處理的數(shù)據(jù)片數(shù),Map"映射函數(shù)的公式如下。(1)
式(1)中:其中表示的是Map函數(shù)讀取的階段代價(jià);
則表示任務(wù)數(shù)所占節(jié)點(diǎn)中的任務(wù)比例;S表示的是要處理的數(shù)據(jù)總量參數(shù);表示磁盤(pán)讀取速度;網(wǎng)絡(luò)通信速度;表示的是函數(shù)代價(jià);
"表示的是數(shù)據(jù)片輸入條;"表示系統(tǒng)函數(shù)總數(shù)。
Map函數(shù)可以基于輸入不同的數(shù)據(jù)進(jìn)行映射處理,通過(guò)系統(tǒng)進(jìn)行函數(shù)計(jì)算結(jié)構(gòu)的排序,整個(gè)過(guò)程為混洗過(guò)程,系統(tǒng)中會(huì)根據(jù)數(shù)據(jù)結(jié)果進(jìn)行磁盤(pán)存儲(chǔ)。
3.2"MapReduce"技術(shù)提供重要支持
云環(huán)境中,通過(guò)計(jì)算機(jī)技術(shù)分析大數(shù)據(jù),通過(guò)分布或者并行的方式進(jìn)行數(shù)據(jù)信息的處理,基于"MapReduce"技術(shù),對(duì)技術(shù)接口定義優(yōu)化,進(jìn)行數(shù)據(jù)的調(diào)查分析,通過(guò)計(jì)算則可以進(jìn)行數(shù)據(jù)集合的處理與拆分,通過(guò)碎片化處理進(jìn)行數(shù)據(jù)片段的集成化處理,構(gòu)建對(duì)應(yīng)鍵值,配置數(shù)據(jù)片段,則可以進(jìn)行大規(guī)模的集群節(jié)點(diǎn)的設(shè)置,根據(jù)鍵值的有效性則可以實(shí)現(xiàn)對(duì)任務(wù)的集合化處理。在處理中要基于"MapReduce"特征進(jìn)行分析,提高信息數(shù)據(jù)處理效率,通過(guò)云計(jì)算技術(shù)對(duì)數(shù)據(jù)進(jìn)行綜合性的處理,可以實(shí)現(xiàn)"tb"級(jí)的處理,在平臺(tái)中可以根據(jù)具體的需要,通過(guò)SDFS寬帶數(shù)據(jù)處理等多種技術(shù)手段,在計(jì)算機(jī)服務(wù)集群的支持之下進(jìn)行數(shù)據(jù)節(jié)點(diǎn)的擴(kuò)展,進(jìn)而有效增強(qiáng)數(shù)據(jù)處理的綜合效率與質(zhì)量。
3.3大數(shù)據(jù)處理模型框架的建設(shè)
通過(guò)大數(shù)據(jù)技術(shù)進(jìn)行處理,主要就是基于MapReduce算法進(jìn)行數(shù)據(jù)的映射與劃分,在處理中要做好紙模塊的劃分與參數(shù)的控制處理。通過(guò)框架系統(tǒng)進(jìn)行分布式的管理,在系統(tǒng)中輸入信息數(shù)據(jù),通過(guò)數(shù)據(jù)進(jìn)行智能化的信息數(shù)據(jù)采集,根據(jù)設(shè)計(jì)的目標(biāo)參數(shù)執(zhí)行各項(xiàng)任務(wù)。對(duì)數(shù)據(jù)信息的處理,通過(guò)MapReduce技術(shù)則可以有效滿(mǎn)足數(shù)據(jù)轉(zhuǎn)移與分析的目的?;谠朴?jì)算框架進(jìn)行分布式的管理,根據(jù)系統(tǒng)需求進(jìn)行綜合處理,基于API技術(shù)支撐則可以滿(mǎn)足不同的需求[5]。
在大數(shù)據(jù)處理框架系統(tǒng)的配置中,要根據(jù)需求對(duì)任意配置點(diǎn)進(jìn)行定量評(píng)估,則可以實(shí)現(xiàn)自動(dòng)化的配置,基于黑盒性能建模,進(jìn)行數(shù)據(jù)收集與模型訓(xùn)練,通過(guò)遺傳算法進(jìn)行自動(dòng)配置。實(shí)現(xiàn)高位配置空間的自動(dòng)化配置與處理。遺傳算法可以實(shí)現(xiàn)最優(yōu)解的優(yōu)化處理,實(shí)現(xiàn)自動(dòng)化的配置。評(píng)估中假設(shè)含有n個(gè)虛擬的性能模型,獲得真實(shí)性能公式為式(2)中:U表示不確定度;n表示虛擬性能模型;p表示預(yù)測(cè)結(jié)果;U越大則性能模型的整體精度產(chǎn)生的影響也越大,在進(jìn)行大數(shù)據(jù)處理中則可以基于"conf程序進(jìn)行性能測(cè)試,執(zhí)行"conf,將其在訓(xùn)練數(shù)據(jù)集中處理,實(shí)現(xiàn)性能模型的更新優(yōu)化。
3.4優(yōu)化方法
3.4.1深網(wǎng)數(shù)據(jù)感知
深網(wǎng)數(shù)據(jù)感知主要的功能就是實(shí)現(xiàn)對(duì)海量信息數(shù)據(jù)的研究與分析處理,深網(wǎng)數(shù)據(jù)萬(wàn)網(wǎng)絡(luò)規(guī)模為常規(guī)網(wǎng)絡(luò)的400~450倍左右。而深網(wǎng)的數(shù)據(jù)構(gòu)成以及處理模式與常規(guī)網(wǎng)絡(luò)具有一定的差異性。在深網(wǎng)結(jié)構(gòu)中無(wú)法確定訪問(wèn)路徑以及信息,通過(guò)大數(shù)據(jù)進(jìn)行分析,深網(wǎng)通過(guò)兩套差異性的系統(tǒng)進(jìn)行計(jì)算處理并有效融合,可以提高性功能。
3.4.2數(shù)據(jù)索引技術(shù)
非關(guān)系數(shù)據(jù)庫(kù)是基于大數(shù)據(jù)建立的新型數(shù)據(jù)庫(kù),可以實(shí)現(xiàn)對(duì)非關(guān)系的信息數(shù)據(jù)的平行性存儲(chǔ)與管理,此種方式可以有效增強(qiáng)信息數(shù)據(jù)的承載能力,在處理中可以實(shí)現(xiàn)對(duì)多種數(shù)據(jù)結(jié)構(gòu)的優(yōu)化,構(gòu)建高效能的存儲(chǔ)模式。進(jìn)而為數(shù)據(jù)索引等工作提供實(shí)時(shí)性的信息數(shù)據(jù)支持。非關(guān)系數(shù)據(jù)庫(kù)具有較強(qiáng)的自適應(yīng)能力與可擴(kuò)展性,信息數(shù)據(jù)處理能力顯著,可有效信息數(shù)據(jù)存儲(chǔ)方式。
4結(jié)語(yǔ)
在云環(huán)境下,綜合時(shí)代發(fā)展特征,做好大數(shù)據(jù)計(jì)算機(jī)技術(shù)的優(yōu)化與更新處理,才可以切實(shí)提高核心競(jìng)爭(zhēng)能力。在大數(shù)據(jù)計(jì)算機(jī)技術(shù)的應(yīng)用中要做好傳輸效率與安全分析,重視信息存儲(chǔ)以及安全管理,利用多種計(jì)算機(jī)技術(shù)進(jìn)行優(yōu)化完善,切實(shí)保障信息數(shù)據(jù)的安全性、完整性、高效性,這樣才可以有效推動(dòng)社會(huì)經(jīng)濟(jì)的發(fā)展。
參考文獻(xiàn)
[1] 孫云.基于云環(huán)境的大數(shù)據(jù)計(jì)算機(jī)處理技術(shù)分析[J].長(zhǎng)江信息通信,2022,35(11):158-160.
[2] 夏慧琳.云環(huán)境下大數(shù)據(jù)計(jì)算機(jī)處理技術(shù)應(yīng)用研究[J].軟件,2022,43(9):173-175.
[3] 王莉,孟強(qiáng).腦機(jī)接口技術(shù)運(yùn)用中自然人的意思自治與責(zé)任承擔(dān)[J].北京理工大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版),2023,25(6):68-82.
[4] 何錫點(diǎn),朱仲馬,張曉兵.云原生模式下體系聯(lián)動(dòng)的綜合運(yùn)維技術(shù)[J].網(wǎng)絡(luò)安全技術(shù)與應(yīng)用,"2023,"(12):"62-65.
[5] 劉朝,朱莉芳,接標(biāo),等.基于局部鄰域?yàn)V波的對(duì)抗攻擊檢測(cè)方法[J].信息安全學(xué)報(bào),2023,8(6):84-93.
[6]"翟峰.生態(tài)環(huán)境大數(shù)據(jù)平臺(tái)建設(shè)及其資源規(guī)劃運(yùn)行探析[J].決策咨詢(xún),"2023(5):"57-61.