例如如下向量：

[1，1，1，1，8，3，2，0，0，0，0，0，0，0，0，108]

在經(jīng)過上述轉化過程后成為

[8，3，2，0，0，0，0，0，0，0，0，0，0，0，0，108]

即去除了所有的起始“1”標簽編號，將關鍵項提前，并用“0”補全原向量維數(shù)。

另一方面也可以發(fā)現(xiàn)，不同DOM樹的子結構出現(xiàn)頻次差異較大，而出現(xiàn)頻次低的往往是網(wǎng)頁整體框架或其它非標志性板塊。為提取出網(wǎng)頁中比例最大、出現(xiàn)最頻繁的DOM結構，可再次對向量進行壓縮，去除頻次低的向量，只保留出現(xiàn)頻次最高的前5位。同時，考慮到網(wǎng)頁之間的容量差異，將出現(xiàn)頻次統(tǒng)一為位次高低形式而不使用比例形式。則此時的DOM樹結構向量通式為

[，，…，，5]

[，，…，，4]

[，，…，，3]

(9)

[，，…，，2]

[，，…，，1]

此外，若因網(wǎng)頁容量較小而不足以提取出至少5類結構時，則使用0補全后續(xù)向量。最后將上述5行向量進行扁平化壓縮，得到最終的壓縮樹結構向量形式為：

[，…，5，，…，4，，…，3，，…，2，，…，1]

(10)

上述壓縮樹結構向量生成過程如下：

算法1：壓縮樹結構向量生成算法

輸入：遍歷后的樹矩陣

輸出：壓縮樹特征向量

初始化：123

1)查找中的所有相同項共類，記錄每一類中相同項的重復數(shù)目、2，…，；

2)根據(jù)式(7)，將行向量1，2，…，均統(tǒng)一為16維，前15位存放節(jié)點標簽編號，末位存放對應類別的重復數(shù)目，存入1；

3)刪除1中每行向量最前方的標簽編號“1”，并將每行向量重新補全為16維，存入2；

4)篩選出2中重復數(shù)目最多的前5位21、22、23、24和25，存入3；

5)根據(jù)式(9)，將3中5行向量依照末位數(shù)的大小改寫為5、4、3、2、1；

6)根據(jù)式(10)，將3中5行向量壓縮為一行并存入；

7)

3.3 向量融合

在得到文本特征向量和樹結構向量之后，對向量進行融合，首先設文本的特征向量形式為

=[1，2，…，]

(11)

其中表示文本特征向量的維數(shù)，該維數(shù)在詞向量訓練過程中定義。

對應樹結構向量形式如(10)所示，為簡化表達，將其改寫為

=[1，2，…，]

(12)

其中表示樹結構向量的維數(shù)，在本文中為80維。

則將二者融合后得到融合向量形式為

=[1，2，…，，1，2，…，]

(13)

融合后的向量即可通過分類器進行分類。

4 實驗分析

4.1 數(shù)據(jù)集與實驗設置

本文使用的數(shù)據(jù)集為Amazon數(shù)據(jù)集和DMOZ數(shù)據(jù)集。Amazon數(shù)據(jù)集是在Amazon的Alexa網(wǎng)址排名網(wǎng)站中獲取的URL集合，共分為10類，每類3000條，共30000條數(shù)據(jù)。DMOZ數(shù)據(jù)集則是在DMOZ網(wǎng)址分類網(wǎng)站中獲取的URL集合，也分為相同的10類，每類800條，共8000條。其中數(shù)據(jù)是使用爬蟲程序爬取對應URL而獲取的網(wǎng)頁所有標簽符號及標簽內容，爬取過程中已經(jīng)使用遞歸方式對每一棵DOM樹進行了遍歷。類別是在參考網(wǎng)站中的分類類別以及校園網(wǎng)絡行為日志中的APP類別后進行整理合并來確定的，分為“游戲”、“影視”、“音樂”、“社交”、“閱讀”、“學習”、“購物”、“運動”、“新聞”和“服務”。上述兩種數(shù)據(jù)集均采取4：1的比例劃分訓練集和測試集。

實驗運行的系統(tǒng)環(huán)境為macOS Catalina 10.15.3，硬件環(huán)境為2.6GHz 六核 Intel Core i7 CPU以及32G 2667MHz DDR4內存，軟件環(huán)境為Python 3.8.1。

在詞向量構建部分，使用jieba分詞庫進行分詞操作，使用整理后的stopwords.txt進行去停用詞操作。使用gensim函數(shù)庫訓練Word2vec模型，其中模式sg設置為Skip-Gram，詞向量維數(shù)size設置為100維，上下文窗口大小window設置為8，最小詞頻mincount調低為1，其余參數(shù)設置為默認值。TF-IDF過程使用Scikit-learn中的CountVectorizer和TfidfTransformer完成。GloVe詞向量訓練過程使用python-glove庫，詞向量維數(shù)仍然設置為100維。

在分類器部分，分別使用Scikit-learn提供的naive＿bayes中的MultinomialNB實現(xiàn)樸素貝葉斯分類，linear＿model中的LogisticRegression實現(xiàn)邏輯回歸分類，以及svm中核參數(shù)少且速度快的LinerSVC實現(xiàn)支持向量機分類。

在評價部分，使用F(F-Measure)值作為評價指標

(14)

式中為準確率(Precision)，為召回率(Recall)，計算公式分別為

(15)

式中代表被正確分類的樣本數(shù)，代表不屬于該類別卻被誤分到該類別的樣本數(shù)

(16)

式中代表屬于該類別卻未被分入該類別的樣本數(shù)。

4.2 結果分析

實驗共分為兩部分。一部分是為了比較使用2均值模型(以下簡稱)、2+-權值模型(以下簡稱)以及均值模型(以下簡稱)三類方法構建出的詞向量模型分別進行分類的效果，設置實驗的原因在于該模型本身使用了共現(xiàn)矩陣的方法，不僅考慮了詞在上下文中的關聯(lián)度，還考慮了詞在全語料中的出現(xiàn)情況，因此將其作為探索性實驗以比較其與之間的性能差異。分類器使用了樸素貝葉斯(以下簡稱)、邏輯回歸(以下簡稱)以及支持向量機(以下簡稱)。另一部分實驗則是在得出、和三類方法中的最優(yōu)方法后，使用最優(yōu)方法比較不融合樹結構向量(以下簡稱)、文獻[13]中融合未壓縮樹結構向量(以下簡稱)以及本文所提融合壓縮樹結構向量(以下簡稱)三類方法的效果，分類器仍然使用、和三種。

表4、5和6分別列出了三類不同分類器結合三種不同文本特征向量模型的分類效果平均值，由于在兩種數(shù)據(jù)集上的實驗結果差異不大，因此將兩者加權平均后得出表中實驗數(shù)據(jù)，本組實驗未融合樹結構向量。

表4 NB分類器結合Wa、WT及Ga的分類F1平均值

表5 LR分類器結合Wa、WT及Ga的分類F1平均值

表6 SVM分類器結合Wa、WT及Ga的分類F1平均值

從整體上看，無論使用哪種模型組合方式，“游戲”、“影視”、“音樂”和“購物”這4種類型的分類效果較好，而“閱讀”“學習”、“運動”和“服務”這4種類型效果不太理想。從文本特征向量模型上看，W模型和G模型相比于W模型均有不同程度提高，W模型的提升率在1.3%～5%之間，提升幅度較為平穩(wěn)；而G模型的提升率在0.4%～5.7%之間，但表現(xiàn)極不穩(wěn)定，并且在某些類別上的效果低于W模型。從分類器上看，NB效果一般，LR和SVM均在某些類別上呈現(xiàn)出良好的效果。

圖4則是將表中10種類別取平均值后的柱狀圖對比效果，由圖像可以看出，WT模型和Ga模型相比于Wa模型，在最終的平均值上均有不同程度提升，WT模型平均提升率為2.3%，Ga模型平均提升率為1.4%。因此綜合考量模型的穩(wěn)定性和總提升率，決定在下一部分實驗中使用WT模型來進行。

圖4 三種分類器結合Wa、WT及Ga的分類F1平均值

表7 NB分類器結合WT、WTD及WTDc的分類F1平均值

表8 LR分類器結合WT、WTD及WTDc的分類F1平均值

表9 SVM分類器結合WT、WTD及WTDc的分類F1平均值

表7、8和9分別列出了三類不同分類器結合三種不同樹結構向量的分類效果1平均值，數(shù)據(jù)使用了數(shù)據(jù)集和數(shù)據(jù)集，將兩者加權平均后得出表中實驗數(shù)據(jù)。

由數(shù)據(jù)可知，文獻[12]所提WD方法與未引入DOM樹結構向量的W方法相比，提升率在0%～3%，提升幅度較為平穩(wěn)，雖然在某些類別上存在下降趨勢，但數(shù)值較小，整體上取得了不錯的效果。本文所提WD方法與W方法相比，提升率在0.1%～5.3%，提升幅度較為平穩(wěn)，尤其在“新聞”和“服務”類別上，獲得了大幅度提升，但值得注意的是，“閱讀”類別存在下降趨勢。從分類器上看，仍然是NB效果一般，LR和SVM效果較好。

圖5 三種分類器結合WT、WTD及WTDc的分類F1平均值

圖5則是將表中10種類別取平均值后的柱狀圖對比效果，由圖像可以看出，WD模型和WD模型相比于W模型，在最終的平均值上均有不同程度提升，WD模型平均提升率為0.9%，而本文所提WD模型平均提升率為1.6%。

5 結束語

為了解決現(xiàn)有的校園網(wǎng)絡行為日志分析僅考慮文本內容而忽視結構信息，導致對學生行為類別表述模糊的問題，提出了融合壓縮樹結構向量的行為類別標簽預測模型。在生成文本特征時，區(qū)別于基于詞向量的均值模型，本文為每個詞向量賦予不同權重。在生成結構特征時，將樹的結構轉化為向量，并作為輔助條件與文本特征向量融合，構建成最終的融合向量。實驗結果表明，所提的模型的1值相較于比較的方法平均提升率為16，從而驗證了算法的有效性。