顧亦然，陳禹洲

（南京郵電大學(xué)自動(dòng)化學(xué)院、人工智能學(xué)院，江蘇南京 210046）

0 引言

人們平時(shí)通過(guò)電商平臺(tái)購(gòu)物，看到愿意購(gòu)買(mǎi)的商品時(shí)，通常會(huì)想要查看這件商品的具體信息，如顏色種類(lèi)、尺寸大小及商品評(píng)論等。而很多商品的評(píng)論信息數(shù)量實(shí)在太大，并且會(huì)有各種虛假信息，查看及篩選頗為費(fèi)時(shí)耗力。一些電商平臺(tái)很貼心地給出了評(píng)價(jià)標(biāo)簽，將所有的評(píng)論信息聚類(lèi)成幾個(gè)評(píng)價(jià)標(biāo)簽，讓用戶(hù)查看時(shí)一目了然，并且對(duì)這件商品有一個(gè)直觀的印象。消費(fèi)者也可以單獨(dú)查看某個(gè)評(píng)論標(biāo)簽下的所有評(píng)論信息，再?zèng)Q定是否購(gòu)買(mǎi)商品，而這也是商家看重評(píng)論的重要原因。

評(píng)論信息中的有用詞匯，一般都為情感詞，因而需要對(duì)情感詞進(jìn)行提取，然后聚類(lèi)，從而形成評(píng)價(jià)標(biāo)簽。因此，選擇合適的聚類(lèi)方法十分重要。

常用的文本聚類(lèi)算法包括K-means 聚類(lèi)算法、層次聚類(lèi)算法、密度聚類(lèi)算法，以及神經(jīng)網(wǎng)絡(luò)模型聚類(lèi)算法等。K-means 是情感詞聚類(lèi)的經(jīng)典算法，在聚類(lèi)分析中經(jīng)常被使用的一種迭代求解的無(wú)監(jiān)督學(xué)習(xí)算法。該算法具有結(jié)構(gòu)簡(jiǎn)單、運(yùn)行速度快等特點(diǎn)，對(duì)大數(shù)據(jù)分析的效率較高、可伸縮性較強(qiáng)，因此常被用于數(shù)據(jù)挖掘任務(wù)中。但缺點(diǎn)也較為明顯，K-means 算法在訓(xùn)練過(guò)程中容易陷入局部最優(yōu)解，其聚類(lèi)個(gè)數(shù)需要人為確定，并且聚類(lèi)個(gè)數(shù)和初始聚類(lèi)中心對(duì)整個(gè)K-means 算法的結(jié)果影響較大。

SOM 是自組織映射算法，是一種無(wú)導(dǎo)師學(xué)習(xí)網(wǎng)絡(luò)，它通過(guò)自動(dòng)尋找文本中的內(nèi)在規(guī)律和本質(zhì)屬性，自組織、自適應(yīng)地改變網(wǎng)絡(luò)結(jié)構(gòu)和參數(shù)。其目標(biāo)是用低維空間的點(diǎn)表示高維空間中的所有點(diǎn)，并且盡可能地保持點(diǎn)與點(diǎn)之間的距離關(guān)系。

關(guān)于SOM 算法和K-means 算法的研究較多，并取得系列成果。Xu 等［1］提出一種面向混合屬性的動(dòng)態(tài)SOM 模糊聚類(lèi)算法，并將其用于移動(dòng)用戶(hù)分類(lèi)，驗(yàn)證了該算法的有效性；Yanik 等［2］使用SOM 算法生成客戶(hù)集群，利用信用卡交易所得的消費(fèi)模式進(jìn)行客戶(hù)聚類(lèi)，得到了較好的聚類(lèi)效果；尹積棟等［3］通過(guò)句法結(jié)構(gòu)分析方法，在降低文本復(fù)雜度的基礎(chǔ)上，通過(guò)K-means 算法挖掘信息，解決了K-means 算法容易陷入局部最優(yōu)的問(wèn)題；張素榮［4］在智能客服問(wèn)答系統(tǒng)中采用K-means 算法和樸素貝葉斯分類(lèi)算法，提高了系統(tǒng)效率和準(zhǔn)確率；任春華等［5］提出基于LRFAT 模型選取K值，以改進(jìn)K-means 算法，對(duì)汽車(chē)客戶(hù)進(jìn)行細(xì)分，并通過(guò)實(shí)驗(yàn)驗(yàn)證了其有效性；周本金［6］提出一種最大化減少當(dāng)前誤差平方和的K-means 初始聚類(lèi)中心優(yōu)化方法，實(shí)驗(yàn)結(jié)果表明，改進(jìn)后K-means 算法的準(zhǔn)確率和召回率等都得到了顯著提高；Shi 等［7］使用K-means++算法，先對(duì)文本進(jìn)行預(yù)處理聚類(lèi)，再將聚類(lèi)結(jié)果進(jìn)行LDA 模型算法的聚類(lèi)訓(xùn)練，從而得到更準(zhǔn)確的主題詞匯。

將SOM 算法與K-means 算法相結(jié)合，也取得良好應(yīng)用效果。Mahjoub 等［8］運(yùn)用SOM 算法與K-means 算法建立客戶(hù)信用評(píng)分混合模型；趙凱等［9］提出基于SOM 和K-means聚類(lèi)的風(fēng)電場(chǎng)多機(jī)等值建模方法；趙文均［10］對(duì)基于SOM 網(wǎng)絡(luò)改進(jìn)的K 均值算法效果進(jìn)行分析，為后續(xù)算法的進(jìn)一步改進(jìn)提供了基礎(chǔ)；周歡等［11］應(yīng)用SOM+K-means 算法對(duì)某地區(qū)電信家庭客戶(hù)數(shù)據(jù)進(jìn)行分析，具有較好的聚類(lèi)結(jié)果；張石［12］將SOM 算法和K-means 算法用于銀行客戶(hù)細(xì)分，并通過(guò)實(shí)驗(yàn)驗(yàn)證了該算法能為不同客戶(hù)群體提供個(gè)性化營(yíng)銷(xiāo)策略；李昌華等［13］為了解決非精確圖匹配算法在應(yīng)用上的局限性，采用SOM 算法和K-means 算法，結(jié)果表明這種方法可以有效提升準(zhǔn)確率；周冰鈺等［14］結(jié)合SOM 算法和K-means 算法對(duì)用戶(hù)互動(dòng)用電行為進(jìn)行分析，實(shí)驗(yàn)表明，該算法可以更加精確識(shí)別和快速聚類(lèi)互動(dòng)用電行為；王育軍［15］根據(jù)合作學(xué)習(xí)者的個(gè)性化特征，提出SOM 算法與Kmeans 算法進(jìn)行分組，提高了合作學(xué)習(xí)者的學(xué)習(xí)效果；任云等［16］提出基于K-means 聚類(lèi)的三維SOM 初始化模式庫(kù)算法，實(shí)驗(yàn)結(jié)果表明，該算法減少了搜索時(shí)間，增加了信源的匹配度，提高了整體性能；趙翠翠等［17］利用K-means 和SOM 兩種算法對(duì)商品評(píng)論分別進(jìn)行聚類(lèi)分析，通過(guò)實(shí)驗(yàn)得出了小規(guī)模樣本中，SOM 聚類(lèi)比K-means 聚類(lèi)分布得更加均勻；趙莉華等［18］提出采用K-means 與SOM 神經(jīng)網(wǎng)絡(luò)相結(jié)合的混合算法，對(duì)斷路器操作機(jī)構(gòu)進(jìn)行狀態(tài)評(píng)估，混合算法模型在計(jì)算速度和聚類(lèi)準(zhǔn)確率上都優(yōu)于其本身的兩種模型；汪海濤等［19］提出一種分布式自組織映射（DSOM）結(jié)合K-均值聚類(lèi)的網(wǎng)絡(luò)流量攻擊檢測(cè)方法，實(shí)驗(yàn)表明，該方法能有效監(jiān)測(cè)異常流量，提高了系統(tǒng)對(duì)攻擊流量的反應(yīng)速度，節(jié)省了系統(tǒng)開(kāi)銷(xiāo)；鄭恒杰等［20］使用isolation forest 算法和SOM 算法對(duì)交通數(shù)據(jù)進(jìn)行預(yù)處理，再通過(guò)K-mesns 聚類(lèi)算法歸類(lèi)并添加標(biāo)簽，最后通過(guò)BP 神經(jīng)網(wǎng)絡(luò)構(gòu)建分類(lèi)器，實(shí)現(xiàn)了對(duì)駕駛員駕駛行為的分類(lèi)和評(píng)價(jià)，實(shí)驗(yàn)表明，該算法能客觀、有效地評(píng)價(jià)駕駛員的駕駛行為。

綜上所述，基于SOM 算法改進(jìn)的K-means 算法一般用于客戶(hù)分類(lèi)、尋找機(jī)械故障、防止網(wǎng)絡(luò)入侵等方面，應(yīng)用于商品評(píng)論的則很少。市場(chǎng)上普遍的聚類(lèi)算法是LDA 算法，這種算法精度高，但運(yùn)行時(shí)間很慢。針對(duì)該問(wèn)題，本文采用SOM-K-means 模型對(duì)收集到的商品評(píng)論信息作情感詞聚類(lèi)，并對(duì)其結(jié)果進(jìn)行可視化分析。

1 算法描述

1.1 SOM 算法

SOM 算法是一種無(wú)監(jiān)督學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)算法，具有良好的自組織性和可視化等特征，由輸入層和競(jìng)爭(zhēng)層（輸出層）組成。輸入層主要負(fù)責(zé)接受外界信息，將輸入的數(shù)據(jù)向競(jìng)爭(zhēng)層傳遞，競(jìng)爭(zhēng)層主要對(duì)數(shù)據(jù)進(jìn)行整理訓(xùn)練，并根據(jù)訓(xùn)練次數(shù)和鄰域的選擇將數(shù)據(jù)劃分為不同的類(lèi)。SOM 神經(jīng)網(wǎng)絡(luò)的典型拓?fù)浣Y(jié)構(gòu)如圖1 所示（彩圖掃OSID 碼可見(jiàn)，下同）。

Fig.1 Typical topology structure of SOM neural network圖1 SOM 神經(jīng)網(wǎng)絡(luò)的典型拓?fù)浣Y(jié)構(gòu)

算法步驟為：

（1）網(wǎng)絡(luò)初始化，對(duì)輸出層每個(gè)節(jié)點(diǎn)權(quán)重Wj隨機(jī)賦予較小初值，定義訓(xùn)練結(jié)束條件。

（2）從輸入樣本中隨機(jī)選取一個(gè)輸入向量Xi，求Xi中與Wj距離最小的連接權(quán)重向量，如式（1）所示。

式中，‖ ‖為距離函數(shù)，這里采用的是歐式距離。

（3）定義g 為獲勝單元，Ng(t)為獲勝單元的鄰近區(qū)域。對(duì)于鄰近區(qū)域內(nèi)的單元，按照式（2）調(diào)整權(quán)重使其向Xi靠攏。

式中，t 為學(xué)習(xí)次數(shù)，α(t)為第t 次學(xué)習(xí)率，hgj(t)為g 的鄰域函數(shù)。

（4）隨著學(xué)習(xí)次數(shù)t 的增加，重復(fù)步驟（2）及步驟（3），當(dāng)達(dá)到訓(xùn)練結(jié)束條件時(shí)停止訓(xùn)練。

（5）輸出具體聚類(lèi)數(shù)與聚類(lèi)中心。

1.2 K-means 算法

K-means 算法基本原理是用距離函數(shù)作為相似度指標(biāo)，將距離相近的樣本對(duì)象劃分為同一類(lèi)別（稱(chēng)為“簇”），缺點(diǎn)是需要給定指定的聚類(lèi)數(shù)和聚類(lèi)中心，否則容易導(dǎo)致算法不收斂或者局部最優(yōu)化。

算法步驟為：①隨機(jī)選取K 個(gè)點(diǎn)作為初始聚類(lèi)中心；②將其余樣本數(shù)據(jù)根據(jù)他們與初始聚類(lèi)中心的歐式距離劃分給距離最小的初始聚類(lèi)中心，形成新的簇；③重新計(jì)算每個(gè)簇的均值，作為新的聚類(lèi)中心；④循環(huán)步驟②和步驟③，直至達(dá)到某個(gè)終止條件；⑤輸出樣本具體聚類(lèi)信息。

1.3 SOM-K-means 算法

SOM 算法與K-means 算法比較如表1 所示。

Table 1 Comparison of the two algorithms表1 兩種算法比較

SOM 算法不同于K-means 算法，它不需要提前確定聚類(lèi)數(shù)，并且可以自動(dòng)對(duì)輸入數(shù)據(jù)進(jìn)行聚類(lèi)，但在訓(xùn)練數(shù)據(jù)時(shí)可能出現(xiàn)有些神經(jīng)元始終不能勝出，導(dǎo)致分類(lèi)結(jié)果不準(zhǔn)確。K-means 算法優(yōu)點(diǎn)較多，缺點(diǎn)是初始聚類(lèi)數(shù)和聚類(lèi)中心很難提前確定。本文提出SOM-K-means 算法，將SOM與K-means 算法結(jié)合，既解決了K-means 算法需要提前設(shè)定聚類(lèi)數(shù)和聚類(lèi)中心的問(wèn)題，又克服了SOM 算法中分類(lèi)結(jié)果不準(zhǔn)確的缺陷。

SOM-K-means 算法步驟如下：

（1）賦予輸出層每個(gè)節(jié)點(diǎn)的初始權(quán)值，定義訓(xùn)練終止條件；

（2）計(jì)算訓(xùn)練數(shù)據(jù)集中每個(gè)樣本與每個(gè)輸出節(jié)點(diǎn)之間的相似度，通常取歐式距離，找出距離最近的樣本節(jié)點(diǎn)；

（3）根據(jù)鄰域函數(shù)判斷獲勝單元，然后調(diào)整它的權(quán)值；

（4）重復(fù)訓(xùn)練，直到達(dá)到其最大訓(xùn)練長(zhǎng)度，并滿(mǎn)足訓(xùn)練終止條件，得出聚類(lèi)數(shù)及聚類(lèi)中心；

（5）將得到的聚類(lèi)數(shù)作為k值，得到的聚類(lèi)中心作為初始聚類(lèi)中心；

（6）將樣本數(shù)據(jù)根據(jù)他們與初始聚類(lèi)中心的歐式距離，劃分給距離最小的初始聚類(lèi)中心，形成新的簇；

（7）重新計(jì)算每個(gè)簇的均值，作為新的聚類(lèi)中心；

（8）循環(huán)步驟（6）和步驟（7），直至每個(gè)聚類(lèi)不再發(fā)生變化；

（9）輸出具體的聚類(lèi)信息。

該算法在保持SOM 網(wǎng)絡(luò)自組織特性的同時(shí)，將SOM 算法和K-means 算法相結(jié)合，在分類(lèi)結(jié)果的準(zhǔn)確度和運(yùn)算效率上都有了較大提高。

2 聚類(lèi)實(shí)驗(yàn)

2.1 實(shí)驗(yàn)流程

為了驗(yàn)證SOM-K-means 算法是否達(dá)到預(yù)期效果，所采用的實(shí)驗(yàn)步驟為：①選定一個(gè)電商平臺(tái)中的某個(gè)商品，運(yùn)用軟件八爪魚(yú)采集該商品評(píng)論信息，并以文本格式保存；②針對(duì)采集到的數(shù)據(jù)，建立一個(gè)自定義詞表，詞表里存放一些網(wǎng)絡(luò)詞匯和網(wǎng)絡(luò)用語(yǔ)；③在網(wǎng)上下載一個(gè)較為權(quán)威的停用詞表，然后對(duì)文本里的數(shù)據(jù)進(jìn)行切詞，去除停用詞，保留自定義詞句，以及對(duì)詞句的向量化表示；④將得到的數(shù)據(jù)進(jìn)行聚類(lèi)，并將聚類(lèi)結(jié)果進(jìn)行可視化分析。

實(shí)驗(yàn)流程如圖2 所示。

Fig.2 Experimental procedure圖2 實(shí)驗(yàn)流程

2.2 數(shù)據(jù)準(zhǔn)備及處理

本文選取淘寶網(wǎng)上銷(xiāo)售的一款耳機(jī)作為研究對(duì)象，將其2 000 條評(píng)論數(shù)據(jù)下載下來(lái)，并將采集到的數(shù)據(jù)以文本形式保存，構(gòu)成語(yǔ)料庫(kù)；從網(wǎng)上下載停用詞表，再自定義需要用到的情感詞，如表2 所示，以文本形式保存。用Python導(dǎo)入語(yǔ)料庫(kù)，使用Jieba 分詞的精確模式，完成去除停用詞表中的詞語(yǔ)、加載自定義詞表、去除特殊字符等操作，得到結(jié)果如表3 所示。

Table 2 Partial data of the custom word table表2 自定義詞表部分?jǐn)?shù)據(jù)

Table 3 Partial results of emotion vocabulary表3 情感詞表部分結(jié)果

運(yùn)用Python 中開(kāi)源的第三方工具包gensim構(gòu)建詞向量模型，然后將切好的詞句放入模型中進(jìn)行向量化并加以訓(xùn)練，最后得到基于該模型的情感詞向量，部分情感詞向量如表4 所示。

2.3 SOM 聚類(lèi)實(shí)驗(yàn)

在SOM 聚類(lèi)實(shí)驗(yàn)開(kāi)始時(shí)，需要對(duì)SOM 模型進(jìn)行初始化，設(shè)置不通鄰節(jié)點(diǎn)的半徑為0.3，學(xué)習(xí)率為0.5，數(shù)據(jù)集中的特征數(shù)量為2。模型建立好以后，輸入gensim 訓(xùn)練好的情感詞向量，迭代次數(shù)為2 000 次，進(jìn)行訓(xùn)練。SOM 模型最后將輸入的詞向量自動(dòng)聚為5 類(lèi)，得到的聚類(lèi)數(shù)為5，聚類(lèi)中心為［2.113 350 48，0.794 973 43］、［-0.578 455 51，1.512 801 01］、［0.237 874 86，1.228 131 42］、［0.586 385 88，0.942 294 46］，可視化結(jié)果如圖3 所示。

Table 4 Emotional word vectors表4 部分情感詞向量

Fig.3 SOM clustering visualization results圖3 SOM 聚類(lèi)可視化結(jié)果

2.4 SOM-K-means 聚類(lèi)實(shí)驗(yàn)

K-means 聚類(lèi)需要指定的聚類(lèi)數(shù)和聚類(lèi)中心以得到具體分類(lèi)信息，而上述SOM 聚類(lèi)可以得到大致的聚類(lèi)數(shù)和聚類(lèi)中心，將其作為K-means 算法的初始輸入，最后得到具體情感詞的分類(lèi)信息。

將聚類(lèi)數(shù)5，聚類(lèi)中心［2.113 350 48，0.794 973 43］、［-0.578 455 51，1.512 801 01］、［0.237 874 86，1.228 131 42］、［0.586 385 88，0.942 294 46］作為初始值傳入K-means 算法，可視化結(jié)果如圖4 所示。

Fig.4 K-means clustering visualization results圖4 K-means 聚類(lèi)可視化結(jié)果

K-means聚類(lèi)得到的聚類(lèi)中心為［-0.597 892 767 272 727 2，1.542 160 406 060 606 2］，［0.043 389 711 540 358 99，1.267 052 688 717 948 7］、［0.372 023 790 029 325 56，1.127 026 021 642 228］、［0.774 095 899 570 552 6，1.020 623 237 239 263 6］、［1.707 220 908 928 571 3，0.890 265 547 678 571 2］，對(duì)應(yīng)的簇也可得出。本文是為了得到商品評(píng)論中的用戶(hù)評(píng)價(jià)標(biāo)簽，取距離聚類(lèi)中心最近的樣本點(diǎn)，最后得到的結(jié)果是：重低音、高端、渾厚、價(jià)格便宜、音質(zhì)不太好。與淘寶網(wǎng)上的評(píng)價(jià)標(biāo)簽類(lèi)似，具體如表5所示。

在大型購(gòu)物APP 中，商品評(píng)論標(biāo)簽一般都是采用LDA算法聚類(lèi)得到，LDA 算法是目前市場(chǎng)上的常用算法，但是它在保證自己準(zhǔn)確率的同時(shí)，運(yùn)行效率卻很低。

SOM-K-means 算法與LDA 算法運(yùn)行時(shí)間比較如圖5所示?？梢钥闯觯S著數(shù)據(jù)量的不斷變大，LDA 算法運(yùn)行時(shí)間也明顯變長(zhǎng)，而SOM-K-means 算法運(yùn)行時(shí)間基本保持穩(wěn)定，增長(zhǎng)并不明顯，且十分迅速。在數(shù)據(jù)量為1 000、3 000、5 000、7 000、10 000 時(shí)，LDA 算法運(yùn)行時(shí)間分別是SOM-K-means 算法的2、11、12、16、17 倍。

Fig.5 Comparison of running time of SOM-K-means and LDA algorithm圖5 SOM-K-means 與LDA 算法運(yùn)行時(shí)間比較

2.5 標(biāo)簽應(yīng)用

本文根據(jù)SOM-K-means 算法聚類(lèi)出來(lái)的評(píng)論標(biāo)簽，可應(yīng)用在多種商品評(píng)論中，因?qū)嶒?yàn)數(shù)據(jù)有限，可以得出在數(shù)據(jù)量較少、自定義詞表比較完善的情況下，使用SOM-Kmeans 算法能得出比較滿(mǎn)意的聚類(lèi)結(jié)果，并且得益于Kmeans 算法本身優(yōu)點(diǎn)，相較于市場(chǎng)上常用的LDA 聚類(lèi)算法，SOM-K-means 算法運(yùn)行時(shí)間要快得多。在追求效率的小型購(gòu)物軟件中，會(huì)得到很好的應(yīng)用。

3 結(jié)語(yǔ)

通過(guò)SOM-K-means 算法模型對(duì)商品評(píng)論信息進(jìn)行聚類(lèi)實(shí)驗(yàn)分析，發(fā)現(xiàn)該算法有較好的聚類(lèi)效果。該算法模型結(jié)合了兩種算法的優(yōu)點(diǎn)，聚類(lèi)過(guò)程減少了人工干預(yù)，具有較強(qiáng)的自適應(yīng)性。SOM 算法首先算出聚類(lèi)數(shù)和聚類(lèi)中心，再將其作為初值傳入給K-means 算法，這樣可加速Kmeans 算法的收斂速度。該混合算法在得出令人比較滿(mǎn)意的聚類(lèi)結(jié)果的同時(shí)，運(yùn)行效率也比市場(chǎng)上主流算法有了很大提高。

雖然SOM-K-means 算法有著較好的聚類(lèi)效果，但自定義詞表對(duì)于本文聚類(lèi)效果有著重要影響。由于網(wǎng)絡(luò)流行詞越來(lái)越多，需要人工維持自定義詞表更新，比較耗費(fèi)人力。本文使用的自定義詞表有限，想要獲得更加精確的聚類(lèi)結(jié)果，需要更多的評(píng)論數(shù)據(jù)并不斷更新自定義詞表。