陳婧?王蘭花?郭鵬程

伴隨物聯(lián)網(wǎng)、云計算和人工智能等技術(shù)的快速發(fā)展，以微博、微信等為代表的新型信息發(fā)布平臺的出現(xiàn)，數(shù)據(jù)正以前所未有的速度增長，在數(shù)據(jù)出現(xiàn)多源異構(gòu)、動態(tài)增長等特點后，傳統(tǒng)的數(shù)據(jù)管理方式已經(jīng)不能滿足海量數(shù)據(jù)的需求，新的挑戰(zhàn)應(yīng)運而生。

一、大數(shù)據(jù)概述

大數(shù)據(jù)（Big Data）術(shù)語早在20世紀80年代就已經(jīng)提出，Nature雜志于2008年刊登了一篇題為“Big Data：Science in the petabyte Era”的文章后，大數(shù)據(jù)的概念才漸漸被人知曉。近年來，大數(shù)據(jù)的價值逐漸得到體現(xiàn)，成為人們研究的重點領(lǐng)域。

2008年，馬云通過整合旗下電子商務(wù)網(wǎng)站中的消費者訂單數(shù)據(jù)等信息，發(fā)現(xiàn)海外企業(yè)的采購量急劇下降，提前6個月的時間準確地預(yù)測出世界金融危機。2009年，Google公司利用人們網(wǎng)上搜索的相關(guān)詞條，如咳嗽、發(fā)熱等，并依據(jù)檢索的頻率、時間和空間建立分析預(yù)測系統(tǒng)，成功預(yù)測出甲型H1N1流感病毒的爆發(fā)，及時發(fā)出預(yù)警信息。此類例子不勝枚舉。

二、大數(shù)據(jù)時代面臨的新挑戰(zhàn)

（一）數(shù)據(jù)集成的挑戰(zhàn)

大數(shù)據(jù)背景下，數(shù)據(jù)集成有新的需求：

1.廣泛的異構(gòu)性。傳統(tǒng)的數(shù)據(jù)一般是結(jié)構(gòu)性數(shù)據(jù)，處理技術(shù)也非常成熟，但在大數(shù)據(jù)時代，數(shù)據(jù)的類型出現(xiàn)了新的變化。

2.數(shù)據(jù)從以往的多以結(jié)構(gòu)化的形式體現(xiàn)逐漸向結(jié)構(gòu)化、半結(jié)構(gòu)化和非結(jié)構(gòu)化這三者的融合過度。

3.數(shù)據(jù)越來越多樣，而多樣性的變化源于數(shù)據(jù)源的變化。傳統(tǒng)數(shù)據(jù)一般產(chǎn)生于個人PC或者服務(wù)器，這些設(shè)備較固定。隨著Web 2.0技術(shù)的發(fā)展，移動智能終端（如智能手機、平板和GPS導(dǎo)航儀等）的普及，數(shù)據(jù)量呈爆炸式增長，并開始具備跨時空的特性。

（二）數(shù)據(jù)分析的挑戰(zhàn)

傳統(tǒng)數(shù)據(jù)分析一般是在結(jié)構(gòu)化數(shù)據(jù)上展開的，已經(jīng)形成了一套成熟的分析體系，例如聯(lián)機分析處理（On-line Analytic Processing，OLAP）模式。隨著大數(shù)據(jù)時代的到來，半結(jié)構(gòu)化甚至非結(jié)構(gòu)化的數(shù)據(jù)量猛增，傳統(tǒng)的分析技術(shù)已經(jīng)無法應(yīng)付這些海量：

1.數(shù)據(jù)處理的實時性。大數(shù)據(jù)時代，數(shù)據(jù)往往是具有時效性要求的，時間越短，能夠從中獲得的數(shù)據(jù)價值越高。而在大數(shù)據(jù)分析方法上，沒有一個通用的實時處理框架。

2.在動態(tài)變化環(huán)境中進行索引。大數(shù)據(jù)環(huán)境中，數(shù)據(jù)量是海量的，利用傳統(tǒng)的索引方式從海量不同類型的數(shù)據(jù)中找到一條想要的記錄是非常困難的，因此設(shè)計一種新的索引方式勢在必行。

3.先驗知識的缺乏。大數(shù)據(jù)時代，數(shù)據(jù)多以半結(jié)構(gòu)化和非結(jié)構(gòu)化的形式存在，這些數(shù)據(jù)之間難以建立直接建立聯(lián)系，很多實時數(shù)據(jù)是以流的形式流入數(shù)據(jù)分析系統(tǒng)中，因此難有時間去建立先驗知識。

（三）數(shù)據(jù)隱私與安全的挑戰(zhàn)

個人隱私問題始終貫穿互聯(lián)網(wǎng)時代，在大數(shù)據(jù)時代，數(shù)據(jù)的隱私與安全問題更為嚴重。

1.隱性數(shù)的暴露。在互聯(lián)網(wǎng)時代，隱私信息的保護一直是用戶擔憂的問題，尤其是在社交網(wǎng)絡(luò)出現(xiàn)以后，使得用戶在不同地點和時間產(chǎn)生了越來越多的數(shù)據(jù)足跡。這種數(shù)據(jù)在一定程度的關(guān)聯(lián)和積累，將用戶在不同地點的行為聚集起來，用戶的隱私信息能夠被輕易的暴露出來，隱私信息泄露風(fēng)險大大增加。

2.數(shù)據(jù)公開與隱私保護之間存在的矛盾。若是為了保護隱私而將數(shù)據(jù)隱藏起來，數(shù)據(jù)就無法體現(xiàn)其價值。為了更有效的利用數(shù)據(jù)，需要進行數(shù)據(jù)公開，包括政府機構(gòu)和一些企業(yè)在內(nèi)，都可以通過這些公開的數(shù)據(jù)知悉社會的需求和狀況，從而更好的利用大數(shù)據(jù)技術(shù)，例如阿里巴巴可以利用公開的數(shù)據(jù)了解客戶的需求，在線上進行更有針對性的產(chǎn)品推薦和銷售。大數(shù)據(jù)時代下，怎樣在保護隱私的前提下進行有效的數(shù)據(jù)分析和挖掘，是很難把握的。

3.數(shù)據(jù)具備的動態(tài)性。之前的隱私保護多針對于靜態(tài)數(shù)據(jù)集，而在大數(shù)據(jù)時代下，數(shù)據(jù)類型的變化除了要有新的數(shù)據(jù)處理技術(shù)外，還給隱私保護帶來了巨大的挑戰(zhàn)。

三、結(jié)語

大數(shù)據(jù)時代的到來是技術(shù)發(fā)展的必然趨勢，利用大數(shù)據(jù)技術(shù)能夠獲得巨大的價值，為人們提供便利。但它也是一把雙刃劍。大數(shù)據(jù)環(huán)境下，數(shù)據(jù)量和數(shù)據(jù)類型與以往不一樣，傳統(tǒng)的數(shù)據(jù)分析方法無法繼續(xù)適用，新挑戰(zhàn)應(yīng)運而生，這些新問題亟待解決，也期望學(xué)者能以此為參考，為大數(shù)據(jù)技術(shù)的發(fā)展獻計獻策。（作者單位：江西科技學(xué)院）