李星星 段超
摘 要: 數(shù)據(jù)挖掘就是從海量數(shù)據(jù)中提取潛在有趣模式的過程。數(shù)據(jù)挖掘技術現(xiàn)已廣泛應用于零售業(yè)、金融業(yè)、電信、網(wǎng)絡安全分析、農業(yè)、醫(yī)療衛(wèi)生等領域,研究十分廣泛。
關鍵詞: 海量數(shù)據(jù);數(shù)據(jù)挖掘;應用研究
【中圖分類號】 TP311.1 【文獻標識碼】 A【文章編號】 2236-1879(2018)14-0178-01
一、數(shù)據(jù)挖掘概念
數(shù)據(jù)挖掘比較公認的定義是由U.M.Fayyad等人提出的:數(shù)據(jù)挖掘就是從海量數(shù)據(jù)中提取潛在有趣模式的過程[1]。還有一些術語,具有和數(shù)據(jù)挖掘類似但稍有不同的含義,如數(shù)據(jù)庫中知識挖掘、知識提取、數(shù)據(jù)/模式分析、數(shù)據(jù)考古等。數(shù)據(jù)挖掘技術最初是面向應用層面的,不光可以實現(xiàn)檢索和統(tǒng)計專門數(shù)據(jù)庫的操作,還能夠在大量的數(shù)據(jù)集中實現(xiàn)小型、中型乃至大型系統(tǒng)的分析、歸納、推理等工作。
二、數(shù)據(jù)挖掘的基本任務
數(shù)據(jù)挖掘的目的就是發(fā)現(xiàn)有用的知識(即概念、規(guī)則和模式)。數(shù)據(jù)挖掘的基本任務主要有以下幾個方面:
(1)分類與預測。
分類屬于有監(jiān)督的學習,在構建分類模型之前,在數(shù)據(jù)源中選取訓練集數(shù)據(jù)并作分類標記,然后運用分類模型對訓練集數(shù)據(jù)進行分類,實在是按照樣本屬性相近的劃入一類,最后將完成訓練的分類模型應用到在未知類別的數(shù)據(jù)集中,獲得相應的分類。預測是依據(jù)歷史數(shù)據(jù)和現(xiàn)有的數(shù)據(jù)建立兩種或兩種以上變量間相互依賴的函數(shù)模型,然后進行預測或控制。
(2)聚類分析。
聚類分析是在識別數(shù)據(jù)的內在規(guī)則后,將數(shù)據(jù)分成相似數(shù)據(jù)對象組,從而獲得數(shù)據(jù)的分布規(guī)律,劃分的原則是不同組間距離盡可能大,組內距離盡可能小。聚類分析進一步是打算從一組雜亂的數(shù)據(jù)中發(fā)掘隱藏其中的分類規(guī)則。聚類分析與分類模式模型不同,分類模式是使用有標記樣本構成的訓練集的一種有監(jiān)督學習方法,則聚類模型是使用在無標記的數(shù)據(jù)上的一種無監(jiān)督學習方法。近年來,聚類分析在圖像處理、商業(yè)分析、模式識別等有廣泛應用。
(3)關聯(lián)規(guī)則。
關聯(lián)分析是通過對數(shù)據(jù)集中數(shù)據(jù)之間隱藏的相互關系的分析,揭露了具有相同類別的數(shù)據(jù)之間未知的關系。關聯(lián)分析就是將給定一組項集和一個記錄集合,通過對記錄集合的分析,推導項集間的相關性,側重確定數(shù)據(jù)中在不同領域之間的聯(lián)系,并找出符合用戶給定的最小支持度和最小置信度的依賴關系。著名的Apriori算法就屬于目前關聯(lián)規(guī)則中最常用的算法模型之一。
(4)時序模式。
時間序列預測是一種依據(jù)事物過去的歷史資料記錄延伸到未來的預測,是以時間序列所能反映現(xiàn)象的發(fā)展過程和規(guī)律性,建立比較精確地反應動態(tài)依存關系的數(shù)學模型,然后進行引伸外推,預測其發(fā)展趨勢的方法。
(5)偏差檢測。
偏差檢測,也稱異常檢測,主要是從數(shù)據(jù)中提取其中的偏差和異常。偏差檢測的方法主要有:(1)基于鄰近度的技術;(2)基于模型的方法;(3)基于密度的技術。
三、數(shù)據(jù)挖掘的應用領域
數(shù)據(jù)挖掘技術現(xiàn)已廣泛應用于零售業(yè)、金融業(yè)、電信、網(wǎng)絡安全分析、農業(yè)、醫(yī)療衛(wèi)生等領域。
(1)零售業(yè)方面:該方面的應用最早是在美國,超市運用數(shù)據(jù)挖掘分析售貨記錄從中發(fā)掘有關購買商品的一些特征,來調整擺放商品的位置,提高了銷售額。
(2)電子商務方面:利用數(shù)據(jù)挖掘技術來分析系統(tǒng)中客戶購買記錄,得到如學生、白領、教師等不同客戶群體,然后按照客戶群體的劃分來提供個性化的促銷活動。
(3)金融業(yè)方面:美國花旗銀行運用數(shù)據(jù)挖掘來智能分析銀行信用卡業(yè)務數(shù)據(jù)來區(qū)別客戶信用等級,其惡性透支減少了,且每年避免的損失達十幾億美元。結合分析客戶的刷卡記錄之后的結果實現(xiàn)對客戶的流失風險的預測;運用數(shù)據(jù)挖掘來識別和判斷非正常的交易,有效地減少客戶和企業(yè)的意外損失;通過分析客戶消費特點來推薦合適的理財產(chǎn)品。
(4)通信方面:為了發(fā)掘客戶潛在需求,通過對以往客戶行為特征數(shù)據(jù)挖掘分析,應用挖掘結果在風險可控范圍內來制定針對性的套餐設計與定價,提高了套餐的接受度,避免了老客戶的流失和增加了新入網(wǎng)數(shù),實現(xiàn)了業(yè)務量的提升。
(6)網(wǎng)絡安全方面:計算機網(wǎng)絡安全管理部門在信息系統(tǒng)的安全管理中,運用基于規(guī)則集的訪問控制技術和系統(tǒng)網(wǎng)絡日志文件,通過數(shù)據(jù)挖掘技術檢測出系統(tǒng)未授權用戶非法訪問受保護數(shù)據(jù),來檢測黑客程序的入侵。
(7)在農業(yè)方面,通過衛(wèi)星圖片作為信息源預測森林火災的路徑和趨勢。Umama-heshwaran et al.[22]利用衛(wèi)星拍攝的圖片來研究森林火災的產(chǎn)生以及發(fā)展時的動態(tài)變化過程,開發(fā)了一個實時監(jiān)測系統(tǒng),能夠實現(xiàn)對森林火災變化的檢測和跟蹤。
(8)在醫(yī)療方面,Maria-Luiza Antonie[2]通過對比數(shù)據(jù)挖掘技術中的關聯(lián)規(guī)則和神經(jīng)網(wǎng)絡來乳腺癌圖片的實驗結果,分類精確率都能達到70%,而關聯(lián)規(guī)則效果更好。通過有效的乳腺癌圖片的分類可以減少醫(yī)生準確獲取有效信息的工作量。
(9)在Web數(shù)據(jù)挖掘中,將數(shù)據(jù)挖掘應用到搜索引擎,產(chǎn)生智能搜索引擎,給用戶提供一個高效、準確的Web檢索工具。還將數(shù)據(jù)挖掘用到站點訪問模式分析、網(wǎng)頁內容自動分類、聚類等[3]。
參考文獻
[1] 王國勛.基于多目標決策的數(shù)據(jù)挖掘模型選擇研究:[博士學位論文].成都:電子科技大學,2013.
[2] 丁沖,范鈞,欒添.圖像數(shù)據(jù)挖掘相關研究綜述—概念和應用[J].統(tǒng)計教育,2008(12):8-12+7
[3] 楊占華,楊燕.數(shù)據(jù)挖掘在智能搜索引擎中的應用[J].微計算機信息,2006(12):244-246.