肖程望,盧 軍,余力耕,張 弛

(武漢郵電科學(xué)研究院,武漢 430074)

適用于手機(jī)取證數(shù)據(jù)的權(quán)重計(jì)算方法①

肖程望,盧 軍,余力耕,張 弛

(武漢郵電科學(xué)研究院,武漢 430074)

傳統(tǒng)分類(lèi)系統(tǒng)往往選擇樸素貝葉斯算法作為分類(lèi)算法,在研究過(guò)程中,發(fā)現(xiàn)樸素貝葉斯模型(NBC)具有以下前提條件:所有特征互不影響,并且特征屬性的權(quán)重為1.研究后發(fā)現(xiàn)并非如此,在對(duì)數(shù)據(jù)進(jìn)行分類(lèi)時(shí),有的特征可能對(duì)分類(lèi)結(jié)果的影響較大,有的可能對(duì)結(jié)果影響較小.為了對(duì)算法進(jìn)行優(yōu)化,需要給不同的特征附上不同的權(quán)重值,才能更加客觀的獲得分類(lèi)結(jié)果.本文研究了兩種傳統(tǒng)的基于屬性權(quán)重的計(jì)算方法,同時(shí)考慮到手機(jī)取證數(shù)據(jù)的特點(diǎn),提出兩種適應(yīng)于手機(jī)取證數(shù)據(jù)的改進(jìn)權(quán)重計(jì)算方法,并對(duì)其改進(jìn)原理進(jìn)行研究,比較改進(jìn)后的權(quán)重計(jì)算方法與傳統(tǒng)的權(quán)重計(jì)算方法,在使用相同分類(lèi)算法與相同數(shù)據(jù)的情況下,對(duì)分類(lèi)結(jié)果的影響.

手機(jī)取證;權(quán)重計(jì)算;分類(lèi)算法

隨著信息技術(shù)飛速發(fā)展,智能手機(jī)已然成為人們?nèi)粘Ｉ钪斜夭豢缮俚墓ぞ?由于智能手機(jī)變得越來(lái)越流行,利用其進(jìn)行犯罪活動(dòng)的行為也越發(fā)的頻繁.這一愈發(fā)突出的現(xiàn)象,要求我們對(duì)手機(jī)取證方面進(jìn)行相關(guān)研究,從中發(fā)現(xiàn)重點(diǎn)信息和需要重點(diǎn)關(guān)注的對(duì)象.

后前,基于手機(jī)取證數(shù)據(jù)的分析算法研究主要集中在兩個(gè)方面:一方面針對(duì)手機(jī)內(nèi)信息進(jìn)行親密度分析,例如分析手機(jī)使用者與通訊錄內(nèi)各聯(lián)系人的親密度關(guān)系,主要利用各種分類(lèi)算法,并對(duì)現(xiàn)有的分類(lèi)算法進(jìn)行改進(jìn),其中改進(jìn)的方向主要集中在權(quán)重計(jì)算方法的改進(jìn)與優(yōu)化上[1];另一方面針對(duì)手機(jī)內(nèi)信息進(jìn)行關(guān)聯(lián)規(guī)則挖掘,例如通過(guò)Apriori、FP-tree等關(guān)聯(lián)規(guī)則挖掘算法分析團(tuán)伙每個(gè)人手機(jī)中的信息,分析出犯罪團(tuán)伙中的主要人物或關(guān)鍵人物[2].本文提出適應(yīng)于手機(jī)取證數(shù)據(jù)的改進(jìn)權(quán)重計(jì)算方法,基于屬性頻率和變異系數(shù)的權(quán)重計(jì)算方法,并對(duì)其改進(jìn)原理進(jìn)行研究.最后通過(guò)實(shí)驗(yàn)對(duì)權(quán)重計(jì)算準(zhǔn)確性進(jìn)行驗(yàn)證,證明本文提出的權(quán)重計(jì)算方法的準(zhǔn)確性.

1 算法分析

1.1 傳統(tǒng)權(quán)重計(jì)算方法分析

傳統(tǒng)分類(lèi)系統(tǒng)往往選擇樸素貝葉斯算法作為分類(lèi)算法,在研究過(guò)程中,發(fā)現(xiàn)樸素貝葉斯模型(NBC)具有以下前提條件:所有特征互不影響,并且特征屬性的權(quán)重為1.研究后發(fā)現(xiàn)并非如此,在對(duì)數(shù)據(jù)進(jìn)行分類(lèi)時(shí),有的特征可能對(duì)分類(lèi)結(jié)果的影響較大,有的可能對(duì)結(jié)果影響較小[3].為了對(duì)算法進(jìn)行優(yōu)化,需要給不同的特征附上不同的權(quán)重值,才能更加客觀的獲得分類(lèi)結(jié)果,下面分析兩種傳統(tǒng)的權(quán)重計(jì)算方法.

1.1.1 基于屬性頻率的權(quán)重計(jì)算方法

在對(duì)測(cè)試數(shù)據(jù)進(jìn)行分類(lèi)時(shí),向量C為屬性條件集,其中分類(lèi)樣本有n個(gè)可能出現(xiàn)的屬性,當(dāng)有m個(gè)訓(xùn)練樣本時(shí),可以組成 m*n 階的矩陣,記為 M=(Mn)m*n.由屬性頻率定義可知,屬性在此矩陣中出現(xiàn)的頻率越高,那么重要性就越高,對(duì)分類(lèi)結(jié)果的影響也就越大[4].式(1)表示了屬性a所對(duì)應(yīng)的屬性頻率,應(yīng)用在針對(duì)手機(jī)取證數(shù)據(jù)中的屬性權(quán)重分析時(shí),需要依靠屬性的重要性對(duì)頻率值進(jìn)行重新分配,得出式(2)的基于屬性頻率的權(quán)值計(jì)算方法.

為驗(yàn)證算法的有效性,基于UCI數(shù)據(jù)庫(kù),利用屬性頻率權(quán)重計(jì)算方法對(duì)不同數(shù)據(jù)集的屬性進(jìn)行加權(quán)后,將不同的權(quán)重值帶入三種不同的分類(lèi)算法中進(jìn)行驗(yàn)證,得出了如表1所示數(shù)據(jù).

1.1.2 基于相關(guān)系數(shù)的權(quán)重計(jì)算方法

相關(guān)關(guān)系是一種非確定性關(guān)系,相關(guān)系數(shù)是研究變量之間相互關(guān)聯(lián)程度的量.應(yīng)用在分類(lèi)系統(tǒng)中時(shí),設(shè)測(cè)試樣本具有n個(gè)條件屬性與1個(gè)決策屬性,可用Mi(i=1,2,3…n)和 N 表示,則可得第 i個(gè)特征屬性所對(duì)應(yīng)的權(quán)重系數(shù)[5],如式(3)所示:

表1 基于屬性頻率的權(quán)值計(jì)算方法實(shí)驗(yàn)結(jié)果

式中 Cov(Mi,N)的計(jì)算方法為 E(Mi N)-E(Mi)E(N),由此式得出的特征屬性所對(duì)應(yīng)的權(quán)重系數(shù)為一個(gè)介于0到1之間的常數(shù),當(dāng)Wi為0時(shí),表示此特征屬性對(duì)分類(lèi)結(jié)果沒(méi)有影響,當(dāng)Wi為1時(shí),表明此特征屬性對(duì)分類(lèi)結(jié)果的影響較大,呈線性關(guān)系,并且當(dāng)Wi越趨近與1,影響越大,當(dāng)Wi趨近于0,特征屬性對(duì)分類(lèi)結(jié)果的影響較小[6].由此可知,Wi表示特征屬性M與決策屬性之間的相關(guān)性程度,可應(yīng)用在手機(jī)取證分析系統(tǒng)中作為加權(quán)系數(shù)優(yōu)化分類(lèi)結(jié)果.應(yīng)用上一節(jié)中所用數(shù)據(jù)庫(kù),利用相關(guān)系數(shù)權(quán)重計(jì)算方法對(duì)不同數(shù)據(jù)集的屬性進(jìn)行加權(quán)后,將不同的權(quán)重值帶入三種不同的分類(lèi)算法中進(jìn)行驗(yàn)證,結(jié)果如表2所示.

表2 基于相關(guān)系數(shù)的權(quán)值計(jì)算方法實(shí)驗(yàn)結(jié)果

1.2 適用于手機(jī)取證數(shù)據(jù)的權(quán)重計(jì)算方法

考慮到手機(jī)中提取出的數(shù)據(jù)具有,樣本小、屬性多的特點(diǎn),以上兩種權(quán)重計(jì)算方法主要是針對(duì)數(shù)據(jù)量較大的情況,且都是從正向考慮特征屬性對(duì)分類(lèi)結(jié)果的影響,應(yīng)用在手機(jī)取證中計(jì)算結(jié)果可能會(huì)不太準(zhǔn)確.并且屬性權(quán)重計(jì)算是分類(lèi)算法中十分重要的一部分,下面對(duì)兩種改進(jìn)后的權(quán)重計(jì)算方法進(jìn)行研究,改進(jìn)的理論依據(jù)在于,考慮到的信息量的熵值越大,其攜帶的信息越多,對(duì)分類(lèi)結(jié)果的影響也就越大[7].

1.2.1 基于變異系數(shù)的權(quán)重計(jì)算方法

變異系數(shù)法(Coefficient of variation method)是一種客觀賦權(quán)的方法,在很多場(chǎng)合都有所應(yīng)用,理論依據(jù)為利用各個(gè)特征項(xiàng)所包含的信息大小,來(lái)決定各個(gè)特征項(xiàng)的權(quán)重值[8].因?yàn)樵谠u(píng)價(jià)一類(lèi)事物時(shí),相互間差別越大的特征項(xiàng)越能表達(dá)這類(lèi)事物的不同之處,更能反映相互之間的差別.針對(duì)手機(jī)取證中數(shù)據(jù)的特點(diǎn),入變異系數(shù)作為計(jì)算特征屬性權(quán)重的一種方法.

將各屬性視為隨機(jī)變量Mi,任意隨機(jī)變量Mi的標(biāo)準(zhǔn)差與平均數(shù)的比值稱(chēng)為對(duì)應(yīng)的變異系數(shù),記為CVi,可得到各屬性對(duì)應(yīng)權(quán)重.在評(píng)價(jià)通訊錄內(nèi)聯(lián)系人的親密度時(shí),有多種評(píng)價(jià)標(biāo)準(zhǔn),例如:通話(huà)次數(shù)、通話(huà)時(shí)長(zhǎng)、短信次數(shù)、短信中關(guān)鍵字詞的出現(xiàn)頻率、郵件聯(lián)系次數(shù)等等.由于各個(gè)指標(biāo)的量綱不同,不能直接拿來(lái)進(jìn)行比較,需進(jìn)行歸一化處理.考慮到概率計(jì)算后都為大于0小于1的數(shù),需進(jìn)行比例逆運(yùn)算,然后得到各個(gè)指標(biāo)的權(quán)重系數(shù).計(jì)算過(guò)程如下:

(1)對(duì)訓(xùn)練數(shù)據(jù)進(jìn)行分析訓(xùn)練數(shù)據(jù),分別計(jì)算特征屬性的平均數(shù)和標(biāo)準(zhǔn)差;

(2)按式(4)計(jì)算出變異系數(shù)(均值與標(biāo)準(zhǔn)差的比值);

(3)將特征屬性所對(duì)應(yīng)的變異系數(shù)相加求和,然后進(jìn)行歸一化處理;

(4)通過(guò)比例逆運(yùn)算計(jì)算特征屬性所對(duì)應(yīng)的權(quán)重系數(shù).

通過(guò)變異系數(shù)法得出權(quán)重系數(shù),量化了不同特征屬性對(duì)分類(lèi)結(jié)果的影響,可應(yīng)用在加權(quán)貝葉斯分類(lèi)模型中,對(duì)分類(lèi)算法進(jìn)行優(yōu)化.

1.2.2 基于屬性頻率和變異系數(shù)的權(quán)重計(jì)算方法

基于屬性頻率的權(quán)重計(jì)算方法考慮到正向類(lèi)別對(duì)分類(lèi)結(jié)果的影響,例如某屬性出現(xiàn)頻率較高時(shí),對(duì)分類(lèi)類(lèi)別的影響較大,然而,未能考慮到信息量的熵對(duì)分類(lèi)結(jié)果的影響,比如某個(gè)屬性雖然出現(xiàn)頻率較低,但對(duì)分類(lèi)結(jié)果具有決定性的影響.同時(shí),基于變異系數(shù)的權(quán)重計(jì)算方法考慮到,相互間差別越大的特征項(xiàng)越能表達(dá)事物之間的不同之處,更能反映屬性之間的差距.舉例說(shuō)明上述問(wèn)題:從數(shù)據(jù)庫(kù)中隨機(jī)選取兩個(gè)特征項(xiàng),利用兩種權(quán)重計(jì)算方法進(jìn)行測(cè)試,結(jié)果如表3所示.

從上表可知,特征項(xiàng)1和特征項(xiàng)2有相同的屬性頻率,但所包含的信息量有區(qū)別,單從屬性頻率方面考慮不能得到準(zhǔn)確的屬性權(quán)重,賦予特征項(xiàng)1和特征項(xiàng)2相同的權(quán)重是不合適的.只有同時(shí)考慮到屬性頻率與變異系數(shù),得出的屬性權(quán)重才符合實(shí)際情況.因此,綜合考慮兩種算法的優(yōu)點(diǎn)與缺陷,入基于屬性頻率和變異系數(shù)的權(quán)重計(jì)算方法,計(jì)算公式如式(5)所示:

該方法理論依據(jù)為:在使用變異系數(shù)計(jì)算方法進(jìn)行分析前,先從全局的角度使用基于屬性頻率的權(quán)重計(jì)算方法對(duì)各屬性的進(jìn)行權(quán)重評(píng)估,然后通過(guò)變異系數(shù)計(jì)算方法對(duì)其進(jìn)行改進(jìn),這樣便可以削弱特征屬性的頻率對(duì)各類(lèi)別的代表性.這樣,在表 3 的例子中,特征項(xiàng)1比特征項(xiàng)2的權(quán)重要高,是因?yàn)樘卣黜?xiàng)1所攜帶的信息量更多,增強(qiáng)了其類(lèi)別的代表性.

2 算法設(shè)計(jì)與實(shí)現(xiàn)

本節(jié)主要實(shí)現(xiàn)在上一節(jié)中提出的四種權(quán)重計(jì)算方法,包括基于屬性頻率的權(quán)重計(jì)算、基于相關(guān)系數(shù)的權(quán)重計(jì)算和新提出的兩種更適用于手機(jī)取證數(shù)據(jù)的基于變異系數(shù)的權(quán)重計(jì)算和基于屬性頻率和變異系數(shù)的權(quán)重計(jì)算方法,并通過(guò)實(shí)驗(yàn)進(jìn)行比較,在得出各個(gè)算法的權(quán)重計(jì)算結(jié)果后,進(jìn)行歸一化的處理.圖1展示特征屬性權(quán)重計(jì)算模塊的具體流程圖.

由于四種特征屬性權(quán)重計(jì)算方法的流程幾乎一樣,區(qū)別僅僅是計(jì)算公式不同,以下以基于屬性頻率的權(quán)重計(jì)算方法為例,圖2為此方法的偽代碼實(shí)現(xiàn).

3 實(shí)驗(yàn)結(jié)果分析

本節(jié)主要對(duì)上一節(jié)中設(shè)計(jì)的分類(lèi)器進(jìn)行測(cè)試,通過(guò)使用四種特征屬性權(quán)重計(jì)算方法對(duì)10部真實(shí)手機(jī)內(nèi)數(shù)據(jù)的各個(gè)特征屬性進(jìn)行加權(quán),包括通話(huà)時(shí)長(zhǎng)/通話(huà)次數(shù)、短信聯(lián)系頻率、微信聊天頻率與短信關(guān)鍵詞出現(xiàn)頻率等,然后帶入三種分類(lèi)算法中進(jìn)行分析,同時(shí)利用經(jīng)典的F1評(píng)價(jià)方法對(duì)分類(lèi)性能進(jìn)行評(píng)估,如式(6)所示.

圖1 特征屬性的權(quán)重計(jì)算流程圖

圖2 特征權(quán)重計(jì)算偽代碼實(shí)現(xiàn)

從公式中可發(fā)現(xiàn),F1評(píng)價(jià)方法綜合考慮了正確率與召回率兩個(gè)參數(shù),當(dāng) F1 值較高時(shí),分類(lèi)效果較好,實(shí)驗(yàn)結(jié)果如表4所示.

從實(shí)驗(yàn)數(shù)據(jù)中可知:

(1)在基于屬性頻率權(quán)重計(jì)算方法、相關(guān)系數(shù)權(quán)重計(jì)算方法、基于變異系數(shù)權(quán)重計(jì)算方法與基于屬性頻率和變異系數(shù)權(quán)重計(jì)算方法中,基于屬性頻率和變異系數(shù)的權(quán)重計(jì)算方法準(zhǔn)確性最高;

(2)根據(jù)手機(jī)取證的數(shù)據(jù)具有小樣本、多屬性的特點(diǎn),選擇基于變異系數(shù)的權(quán)重計(jì)算方法和改進(jìn)后的基于屬性頻率和變異系數(shù)權(quán)重計(jì)算方法應(yīng)用在手機(jī)取證中,比傳統(tǒng)的權(quán)重計(jì)算方法表現(xiàn)得更好;

(3)在傳統(tǒng)計(jì)算機(jī)取證中應(yīng)用較好的基于相關(guān)系數(shù)和基于屬性頻率的權(quán)重計(jì)算方法F1值在0.8左右,然而對(duì)于手機(jī)取證的數(shù)據(jù)來(lái)說(shuō),更加關(guān)注召回率,在這方面,這兩種方法均沒(méi)有基于變異系數(shù)和改進(jìn)的基于屬性頻率和變異系數(shù)的方法效果好;

(4)在傳統(tǒng)取證過(guò)程中運(yùn)用較好的SVM和KNN分類(lèi)算法,在手機(jī)取證中分類(lèi)效果雖然整體來(lái)看效果較好,但是優(yōu)勢(shì)有限,在某些特征權(quán)重計(jì)算的優(yōu)化下,甚至不如NB分類(lèi)算法.

表4 實(shí)驗(yàn)結(jié)果

4 結(jié)語(yǔ)

本文著重對(duì)應(yīng)用在分類(lèi)系統(tǒng)中的幾種不同權(quán)重計(jì)算方法進(jìn)行了研究,并且基于手機(jī)取證中的數(shù)據(jù)特征,提出了更適用于手機(jī)取證數(shù)據(jù)的基于屬性頻率和變異系數(shù)的權(quán)重計(jì)算方法,使用測(cè)試數(shù)據(jù)對(duì)不同的方法進(jìn)行了測(cè)試比較,分析算法的優(yōu)化原理,并且設(shè)計(jì)算法的實(shí)現(xiàn)步驟.通過(guò)對(duì)實(shí)驗(yàn)結(jié)果的分析,證明本文提出的權(quán)重計(jì)算方法較為優(yōu)秀和穩(wěn)定.

同時(shí),存在以下不足之處,需要進(jìn)一步的研究:

(1)本文對(duì)各種不同分析方法的測(cè)試主要通過(guò)分類(lèi)精度進(jìn)行比較,而測(cè)試數(shù)據(jù)的親密度是人為評(píng)定的,有一定的誤差,后續(xù)需要收集更多的數(shù)據(jù)進(jìn)行分析,以便得到更精確的數(shù)據(jù);

(2)還可對(duì)本文提出的算法繼續(xù)進(jìn)行優(yōu)化,例如利用本文提出的方法和更多權(quán)重計(jì)算方法進(jìn)行組合.

下一步的研究方向主要是考慮新的變異系數(shù)度量方法以便更進(jìn)一步的提高分類(lèi)性能,以及考慮各屬性的其他特征以及各屬性間的相關(guān)性.

1 周喜.基于粗糙集的加權(quán)樸素貝葉斯分類(lèi)算法研究[碩士學(xué)位論文].長(zhǎng)沙:長(zhǎng)沙理工大學(xué),2013.

2 賈嫻,劉培玉,公偉.基于改進(jìn)屬性加權(quán)的樸素貝葉斯入侵取證研究.計(jì)算機(jī)工程與應(yīng)用,2013,49(7):81–84.

3 劉磊,陳興蜀,尹學(xué)淵,等.基于特征加權(quán)樸素貝葉斯分類(lèi)算法的網(wǎng)絡(luò)用戶(hù)識(shí)別.計(jì)算機(jī)應(yīng)用,2011,31(12):3268–3270.

4 徐光美,劉宏哲,張敬尊.基于特征加權(quán)的多關(guān)系樸素貝葉斯分類(lèi)模型.計(jì)算機(jī)科學(xué),2014,41(10):283–285.[doi:10.11896/j.issn.1002-137X.2014.10.059]

5 饒麗麗,劉雄輝,張東站.基于特征相關(guān)的改進(jìn)加權(quán)樸素貝葉斯分類(lèi)算法.廈門(mén)大學(xué)學(xué)報(bào)(自然科學(xué)版),2012,51(4):682–685.

6 Huang LS,Moshchuk A,Wang HJ,et al.Clickjacking:Attacks and defenses.Proc.the 21st Usenix Conference on Security Symposium.Bellevue,WA,USA.2012.22.

7 Yao YY,Zhao Y.Attribute reduction in decision-theoretic rough set models.Information Sciences,2008,178(17):3356–3373.[doi:10.1016/j.ins.2008.05.010]

8 楊敏,賀興時(shí).基于改進(jìn)的加權(quán)貝葉斯分類(lèi)算法在空間數(shù)據(jù)中的應(yīng)用.價(jià)值工程,2012,31(36):201–203.[doi:10.3969/j.issn.1006-4311.2012.36.101]

9 李衛(wèi)平,楊杰,王鋼.比例逆權(quán)重kNN算法及其流處理應(yīng)用.計(jì)算機(jī)工程與設(shè)計(jì),2015,36(12):3355–3358.

10 秦鋒,任詩(shī)流,程澤凱,等.基于屬性加權(quán)的樸素貝葉斯分類(lèi)算法.計(jì)算機(jī)工程與應(yīng)用,2008,44(6):107–109.

11 程克非,張聰.基于特征加權(quán)的樸素貝葉斯分類(lèi)器.計(jì)算機(jī)仿真,2006,23(10):92–94,150.[doi:10.3969/j.issn.1006-9348.2006.10.024]

12 張明衛(wèi),王波,張斌,等.基于相關(guān)系數(shù)的加權(quán)樸素貝葉斯分類(lèi)算法.東北大學(xué)學(xué)報(bào)(自然科學(xué)版),2008,29(7):952–955.

13 魯明羽,李凡,龐淑英,等.基于權(quán)值調(diào)整的文本分類(lèi)改進(jìn)方法.清華大學(xué)學(xué)報(bào)(自然科學(xué)版),2003,43(4):513–515.

14 陳曉琳,姬波,葉陽(yáng)東.一種基于 ReliefF 特征加權(quán)的 R-NIC算法.計(jì)算機(jī)工程,2015,41(4):161–165.

15 王小麗,遠(yuǎn)俊紅.基于加權(quán)樸素貝葉斯分類(lèi)法的成績(jī)預(yù)測(cè)模型.電子技術(shù)與軟件工程,2013,(19):225–226.

Weight Calculation Method for Mobile Phone Forensics Data

XIAO Cheng-Wang,LU Jun,YU Li-Geng,ZHANG Chi
(Wuhan Research Institute of Posts and Telecommunications,Wuhan 430074,China)

The traditional classification system often chooses the Naive Bayesian algorithm as the classification algorithm.In the course of the study,we find that the Naive Bayesian model(NBC)has the following conditions:all the characteristics do not mutually influence each other,and the feature attribute weights is 1.But we find that is not the case after a study.In the classification of data,some features may have a greater impact on the classification results,while some may have little impact.In order to optimize the algorithm,we need to attach different weights to different features,so as to obtain the classification results more objectively.This paper studies two kinds of calculation methods of attributing weight based on the traditional algorithm.At the same time,considering the characteristics of mobile phone forensic data,it proposes the calculation method of two kinds of improved weight suitable for mobile phone forensic data.This paper researches the improvement principle of research,compares the improved calculation method of weight with the traditional calculation method in their impacts on the classification results using the same classification algorithm with the same data.

mobile phone forensics;term weighting;method of forensics

肖程望,盧軍,余力耕,張弛.適用于手機(jī)取證數(shù)據(jù)的權(quán)重計(jì)算方法.計(jì)算機(jī)系統(tǒng)應(yīng)用,2017,26(9):200–204.http://www.c-s-a.org.cn/1003-3254/5995.html

2017-01-03;采用時(shí)間:2017-02-17