夏千姿 倪麗萍 倪志偉 朱旭輝 李 想

(合肥工業(yè)大學(xué)管理學(xué)院 安徽 合肥 230009)(合肥工業(yè)大學(xué)過(guò)程優(yōu)化與智能決策教育部重點(diǎn)實(shí)驗(yàn)室 安徽 合肥 230009)

0 引 言

隨著近年來(lái)自媒體與社交網(wǎng)絡(luò)不斷發(fā)展，社交平臺(tái)成為報(bào)道公司新聞和重要活動(dòng)的主要媒介之一，且由于其信息傳播速度遠(yuǎn)快于傳統(tǒng)媒體，成為人們接收信息的重要來(lái)源。Petrovic等[1]指出，在報(bào)道與政治和商業(yè)有關(guān)的事件時(shí)，推特平臺(tái)報(bào)道速度遙遙領(lǐng)先。由于金融市場(chǎng)對(duì)金融事件的突發(fā)較為敏感，因此從與特定公司相關(guān)的微博中識(shí)別公司金融事件具有重要意義，可以幫助投資者了解企業(yè)動(dòng)態(tài)，明確競(jìng)爭(zhēng)對(duì)手策略，預(yù)估可能引起的市場(chǎng)變動(dòng)，以此作出有價(jià)值的投資決策。

從微博平臺(tái)上進(jìn)行金融事件檢測(cè)的本質(zhì)是社交平臺(tái)事件檢測(cè)的一個(gè)特定應(yīng)用，雖然近年來(lái)社交平臺(tái)事件檢測(cè)研究取得了一定的進(jìn)展，學(xué)者提出了多種針對(duì)社交平臺(tái)特點(diǎn)的事件檢測(cè)方法。從微博平臺(tái)中檢測(cè)金融事件仍存在如下三個(gè)方面的挑戰(zhàn)。

(1) 雖然事件檢測(cè)技術(shù)已經(jīng)發(fā)展了很長(zhǎng)時(shí)間，但是過(guò)去研究主要集中在熱點(diǎn)事件或突發(fā)事件檢測(cè)方法上，這些事件往往沒(méi)有針對(duì)某個(gè)具體領(lǐng)域，因此針對(duì)特定領(lǐng)域的事件檢測(cè)在方法和應(yīng)用上仍不成熟，對(duì)于金融事件目前在定義上尚沒(méi)有一個(gè)廣泛認(rèn)可的標(biāo)準(zhǔn)。如何通過(guò)分析與公司相關(guān)的微博信息特點(diǎn)，抽取有效的金融事件類型是值得進(jìn)一步研究的。

(2) 社交媒體平臺(tái)所報(bào)道的事件信息主要為非結(jié)構(gòu)化文本信息，不能簡(jiǎn)單地利用傳統(tǒng)定量數(shù)據(jù)算法來(lái)計(jì)算，需要先將非結(jié)構(gòu)化文本進(jìn)行表征。而傳統(tǒng)的表征方法主要利用統(tǒng)計(jì)方法如詞頻、TF-IDF等進(jìn)行，沒(méi)有真正考慮到文本的語(yǔ)義信息，影響了后續(xù)分析的準(zhǔn)確率。因此有必要從文本結(jié)構(gòu)化表征的角度研究與公司相關(guān)的微博信息表征方法。

(3) 社交平臺(tái)信息具有實(shí)時(shí)性和動(dòng)態(tài)性，針對(duì)這一特性研究者往往通過(guò)考慮數(shù)據(jù)到達(dá)的時(shí)間順序以解決動(dòng)態(tài)性問(wèn)題。然而這些方法仍存在計(jì)算成本較高及對(duì)概念漂移適應(yīng)能力不強(qiáng)的問(wèn)題。其次，社交平臺(tái)中的信息更新速度快，信息量大，存在信息過(guò)載現(xiàn)象。因此如何優(yōu)化算法提高抗噪能力是非常重要的。

針對(duì)上述挑戰(zhàn)，本文從文本表示及文本數(shù)據(jù)流分類兩個(gè)方向來(lái)對(duì)基于微博的金融事件檢測(cè)方法進(jìn)行研究。本文中文本表示主要是結(jié)合詞向量及觸發(fā)詞對(duì)非結(jié)構(gòu)化文本進(jìn)行語(yǔ)義層面信息提取，以實(shí)現(xiàn)較少信息丟失的短文本結(jié)構(gòu)化表示；數(shù)據(jù)流分類主要是提出一種基于集成SVM的數(shù)據(jù)流分類算法，該算法能對(duì)微博信息中的金融事件類型進(jìn)行動(dòng)態(tài)分類，且能有效檢測(cè)概念漂移。

1 方法概述

本文所考慮的事件檢測(cè)方法主要利用數(shù)據(jù)驅(qū)動(dòng)的監(jiān)督分類算法實(shí)現(xiàn)。其基本原理為：首先確定已標(biāo)注的訓(xùn)練語(yǔ)料，其次利用特征工程對(duì)訓(xùn)練語(yǔ)料進(jìn)行表示，最后利用監(jiān)督分類算法進(jìn)行訓(xùn)練并對(duì)金融事件類型進(jìn)行預(yù)測(cè)識(shí)別。具體分為金融事件類型定義、文本預(yù)處理與金融事件檢測(cè)3個(gè)步驟。

1.1 金融事件類型定義

對(duì)于金融事件類型的定義，針對(duì)不同的研究角度，已有學(xué)者給出了不同的定義，如表1所示。Hogenboom等[2]主要研究從異構(gòu)新聞中提取金融事件，定義了涉及十種不同相關(guān)公告涉及的事件主體(如關(guān)于首席執(zhí)行官的公告)的金融事件；Han等[3]則從商業(yè)事件的角度，參考了ACE[4]事件語(yǔ)料庫(kù)的構(gòu)建，針對(duì)中文在線新聞的特點(diǎn)，為商業(yè)行為定義了8種事件類型和16種事件子類型；Zhang等[5]考慮從在線社交媒體數(shù)據(jù)中提取公司行為事件信息，定義了六種事件類別；Shi等[6]利用金融時(shí)間序列數(shù)據(jù)進(jìn)行金融事件識(shí)別，側(cè)重于識(shí)別四種類型的股票事件。本文在綜合上述文獻(xiàn)和公司微博中報(bào)道的與金融相關(guān)的主要事件特點(diǎn)基礎(chǔ)上，擬將公司金融事件類型定義為七類。

表1 金融事件類型相關(guān)研究

1.2 文本表示方法

文本預(yù)處理是信息檢索、文本挖掘、自然語(yǔ)言處理等研究的基礎(chǔ)，目的是將非結(jié)構(gòu)化原始文本轉(zhuǎn)換為可由計(jì)算機(jī)處理的數(shù)據(jù)形式[7]，在文本挖掘中起著關(guān)鍵作用，并且極大地影響了最終的實(shí)驗(yàn)效果[8]。傳統(tǒng)的文本挖掘方案通過(guò)利用BT、TF、TF-IDF來(lái)表示單詞的權(quán)重并建立文檔項(xiàng)矩陣[9]。Wu等[10]指出模式匹配是表示推特文本的最佳方式，通過(guò)詞頻獲得單詞權(quán)重，再利用NLTK計(jì)算相似度，并執(zhí)行特征處理。但由于公司微博中的信息通常為短文本單詞數(shù)量有限，且金融文本中專業(yè)術(shù)語(yǔ)多樣化，導(dǎo)致詞頻信息無(wú)法有效使用[11]。Shi等[6]則先提取文本主題句，然后利用哈爾濱工業(yè)大學(xué)社會(huì)計(jì)算與信息檢索研究中心開發(fā)的觸發(fā)詞提取算法，提取12個(gè)與事件類型相關(guān)的文本特征來(lái)實(shí)現(xiàn)特征處理。該方法更適用于具有嚴(yán)謹(jǐn)結(jié)構(gòu)和語(yǔ)法的長(zhǎng)文本，且需要利用較多的領(lǐng)域知識(shí)，通過(guò)手工構(gòu)建金融領(lǐng)域的事件標(biāo)注語(yǔ)料庫(kù)，不適用于公司微博金融事件檢測(cè)中。

本文考慮到微博中所發(fā)布的信息量大、短句多、具有隨機(jī)性和口語(yǔ)化且非嚴(yán)格語(yǔ)法等特征，使用NLPIR工具對(duì)社交媒體數(shù)據(jù)流短文本進(jìn)行詞性標(biāo)注，從中提取動(dòng)詞，通過(guò)構(gòu)造的噪聲詞典消除噪聲動(dòng)詞，并通過(guò)構(gòu)造擴(kuò)充觸發(fā)詞典來(lái)挖掘觸發(fā)金融事件的動(dòng)詞，最終對(duì)整篇文章進(jìn)行加權(quán)向量化表示以轉(zhuǎn)化為計(jì)算機(jī)可識(shí)別的結(jié)構(gòu)化數(shù)據(jù)形式。

1.3 金融事件檢測(cè)方法

關(guān)于從文本中檢測(cè)事件，主要是指從文本中檢測(cè)出用戶感興趣的事件信息，并以結(jié)構(gòu)化的形式呈現(xiàn)出來(lái)，例如事件發(fā)生的時(shí)間、地點(diǎn)、發(fā)生原因、參與者等[12]。事件抽取任務(wù)最基礎(chǔ)的部分包括識(shí)別事件觸發(fā)詞及事件類型，抽取事件元素同時(shí)判斷其角色，然后抽出描述事件的詞組或句子。事件抽取方法主要有流水線方法和聯(lián)合抽取方法，本文的方法屬于前者，這種流水線方法一般將事件抽取任務(wù)轉(zhuǎn)化為多階段的分類問(wèn)題：事件觸發(fā)分類器、元素分類器、元素角色分類器、屬性分類器和可報(bào)告性分類器；后者主要包括多模型聯(lián)合推理、利用結(jié)構(gòu)化預(yù)測(cè)(概率圖模型、馬爾可夫邏輯網(wǎng)絡(luò))的聯(lián)合建模，以及近年來(lái)發(fā)展的深度學(xué)習(xí)方法[13-15]。

在金融事件檢測(cè)中，大多數(shù)的研究關(guān)注于從網(wǎng)絡(luò)新聞或公司年報(bào)中檢測(cè)金融事件。例如，Jacobs等[16]基于英文新聞提出了一種有監(jiān)督的分類方法來(lái)檢測(cè)公司金融事件。Hájek[17]從美國(guó)公司的年報(bào)中提取情緒與詞袋信息，然后使用多層感知神經(jīng)網(wǎng)絡(luò)對(duì)可能引起異常股票收益的公司行為進(jìn)行分類。Arendarenko等[18]提出了一種基于本體(約200條手工制作的語(yǔ)法規(guī)則)的商業(yè)事件信息提取框架。Daniel等[19]研究了推特平臺(tái)上事件的影響性，然而其重點(diǎn)不在于檢測(cè)事件，而是通過(guò)分析推特的情緒來(lái)獲取事件對(duì)市場(chǎng)的影響。在金融事件分類檢測(cè)方法上，常用的有監(jiān)督分類檢測(cè)方法有支持向量機(jī)[6](SVM)、樸素貝葉斯[3,20-21]和基于模型的方案[3,10]等。其中SVM表現(xiàn)出特別突出的性能[22]，是金融領(lǐng)域最廣泛應(yīng)用的數(shù)據(jù)挖掘技術(shù)[7]。而集成學(xué)習(xí)在提高學(xué)習(xí)系統(tǒng)泛化能力方面具有顯著優(yōu)勢(shì)，且已被證明是提高預(yù)測(cè)準(zhǔn)確性和將復(fù)雜且困難的學(xué)習(xí)問(wèn)題分解為更易解決子問(wèn)題的有效方法[23]。Wang等[24]使用集成SVM進(jìn)行自動(dòng)模糊分類，通過(guò)與單個(gè)SVM分類器及其他分類方法進(jìn)行比較，實(shí)驗(yàn)表明所提出的集成SVM分類器性能優(yōu)越。Shan等[25]提出了一種基于混合標(biāo)記策略的漂移數(shù)據(jù)流在線主動(dòng)學(xué)習(xí)集成的新框架，包括集成分類器和非固定標(biāo)記算法，動(dòng)態(tài)對(duì)分類器和決策閾值調(diào)整，也表現(xiàn)出較好的實(shí)驗(yàn)結(jié)果。但集成學(xué)習(xí)的缺點(diǎn)是構(gòu)造方案復(fù)雜，需要大量標(biāo)記數(shù)據(jù)，以及具有高時(shí)間復(fù)雜度。本文考慮使用集成學(xué)習(xí)來(lái)解決數(shù)據(jù)流問(wèn)題，為解決構(gòu)造的復(fù)雜性問(wèn)題，結(jié)合社交平臺(tái)所帶來(lái)的動(dòng)態(tài)數(shù)據(jù)環(huán)境伴隨瞬時(shí)數(shù)據(jù)流及概念漂移等特征，提出一種基于滑動(dòng)時(shí)間窗口模型的集成SVM分類算法，大大減少訓(xùn)練數(shù)據(jù)，形成更易構(gòu)建的集成算法。

綜上，本文考慮到微博數(shù)據(jù)的非結(jié)構(gòu)化、低維、數(shù)據(jù)量大及更新迅速等特征，提出一種詞嵌入和觸發(fā)詞典的短文本表示方案，以準(zhǔn)確掌握數(shù)據(jù)特征；并提出一種DSESVM算法，由多個(gè)SVM基分類器組成的集成分類模型以提升算法分類效果；結(jié)合短文本表示方案與DSESVM算法，形成對(duì)公司金融事件進(jìn)行檢測(cè)的框架。本文框架利用滑動(dòng)窗口模型，檢測(cè)概念漂移。

2 公司金融事件檢測(cè)模型

2.1 事件檢測(cè)框架

本文提出了一個(gè)事件檢測(cè)框架，可用于檢測(cè)來(lái)自微博的潛在公司金融事件。該框架分為公司金融事件類型預(yù)定義、觸發(fā)詞典構(gòu)造、文檔向量化和事件類型分類檢測(cè)幾個(gè)部分，如圖1所示。

圖1 事件檢測(cè)框架

本文框架的具體步驟如下：

步驟1定義公司金融事件類型。

步驟2根據(jù)觸發(fā)詞典獲取事件中的觸發(fā)詞。觸發(fā)詞是最清楚地表達(dá)事件發(fā)生的關(guān)鍵詞，通常是動(dòng)詞，本文使用監(jiān)督學(xué)習(xí)來(lái)更好地識(shí)別事件觸發(fā)詞。根據(jù)七類事件類型，邀請(qǐng)專家將10%的微博文本標(biāo)記為事件檢測(cè)的種子事件。為確保標(biāo)注質(zhì)量和一致性，對(duì)該數(shù)據(jù)進(jìn)行比較和討論，最終輸出統(tǒng)一的標(biāo)注結(jié)果。其余的原始數(shù)據(jù)被分成三部分，由專家分別進(jìn)行標(biāo)記。然后，對(duì)已標(biāo)記的種子微博文本進(jìn)行分詞及詞性標(biāo)注，抽取其中動(dòng)詞文本。其次，利用詞頻對(duì)提取的動(dòng)詞進(jìn)行排序，根據(jù)專家給定閾值提取觸發(fā)詞及噪聲詞。這里的噪聲詞是指某些動(dòng)詞頻繁出現(xiàn)在種子微博中，但對(duì)公司的金融事件行為沒(méi)有觸發(fā)意義。最后，通過(guò)詞嵌入算法擴(kuò)充原始觸發(fā)詞構(gòu)造成為觸發(fā)詞典，噪聲詞構(gòu)成噪聲詞典。

步驟3由噪聲詞典對(duì)文檔去噪，并由觸發(fā)詞典進(jìn)行加權(quán)向量化表示。

步驟4利用基于DSESVM的數(shù)據(jù)流分類算法識(shí)別微博文本的潛在事件類型。

為了解釋事件檢測(cè)的流程步驟，給出示例如圖2所示。

圖2 公司金融事件檢測(cè)案例

對(duì)于圖2中文檔預(yù)處理中的文檔，首先提取文檔中的動(dòng)詞，得到“加速、收購(gòu)、加大、投入、宣布、收購(gòu)、是、開展”；然后根據(jù)噪聲詞表進(jìn)行去噪處理，明確噪聲詞“是”,得到去噪后的觸發(fā)詞“加速、收購(gòu)、加大、投入、宣布、收購(gòu)、開展”；其次利用詞嵌入算法進(jìn)行向量化表征，并根據(jù)擴(kuò)充后的觸發(fā)詞典進(jìn)行加權(quán)處理，得到對(duì)文檔的向量化表征；最后利用DSESVM算法對(duì)文檔進(jìn)行預(yù)測(cè)，得出事件類別。該事件的正確類別應(yīng)為融資并購(gòu)。

2.2 公司金融事件分類

本文綜合現(xiàn)有文獻(xiàn)及公司微博中信息的特點(diǎn)，將公司金融事件類型定義為七類，具體事件類型及描述如表2所示。

表2 公司金融事件類型

2.3 觸發(fā)詞典構(gòu)建

觸發(fā)詞是事件檢測(cè)中最重要的元素，代表著事件類型。本文認(rèn)為擴(kuò)展觸發(fā)詞具有重要意義，原因在于：首先，同一個(gè)事件可以由不同的觸發(fā)詞表示，并且這些觸發(fā)詞通常具有相似的含義；其次，種子語(yǔ)料庫(kù)在整個(gè)文件中占比較?。蛔詈?，在不同的時(shí)間階段，同一個(gè)單詞在微博文本中的語(yǔ)義可能不同。本文中，Word2vec的Skip-Gram模型用于對(duì)觸發(fā)詞基于語(yǔ)義的向量化表示，并可據(jù)其計(jì)算得到同義詞以擴(kuò)展為觸發(fā)詞典。Word2vec算法是基于類似情境的單詞具有相似含義的假設(shè)，通過(guò)神經(jīng)網(wǎng)絡(luò)模型獲得單詞的低維實(shí)數(shù)向量表示，將離散詞映射到N維真實(shí)空間，以表達(dá)豐富的語(yǔ)義信息，解決詞袋模型的向量稀疏性問(wèn)題，挖掘詞語(yǔ)間的語(yǔ)義關(guān)聯(lián)性。Word2vec可在語(yǔ)義上表達(dá)單詞映射至高維空間，因此可使用單詞距離來(lái)衡量詞義的相似性。本文利用Google提供的開源詞向量化工具Word2vec來(lái)訓(xùn)練基于Skip-gram模型的單詞向量，使用余弦相似度計(jì)算單詞間的語(yǔ)義差異。若單詞間語(yǔ)義差距小于閾值，意味著語(yǔ)義相似度較高，有較大可能進(jìn)行觸發(fā)詞典擴(kuò)展。

2.4 文檔向量化

文檔的向量化表示是數(shù)據(jù)處理的第一步，常用方法包括TF-IDF、BOW等。本文采用基于觸發(fā)詞的文檔表征方案，在提取文檔特征時(shí)，僅考慮潛在觸發(fā)詞，消除大量對(duì)文檔分類無(wú)意義常用單詞的影響。并根據(jù)觸發(fā)詞典，對(duì)文檔特征進(jìn)行加權(quán)以增加觸發(fā)詞在文檔表示中的影響力。

假設(shè)B是時(shí)間窗口[1，T]微博文本中的數(shù)據(jù)流：

B={B1,B2,…,Bi,…,BT}

(1)

每個(gè)時(shí)間窗口Bi中的數(shù)據(jù)流由n個(gè)文本組成：

Bi={Pi1,Pi2,…,Pij,…,Pin}

(2)

對(duì)每篇文檔Pij提取動(dòng)詞：

(3)

利用噪聲詞典N去噪，以獲得降噪后的動(dòng)詞：

(4)

利用Word2vec獲得文檔Pij的一組單詞向量：

(5)

利用觸發(fā)詞典E加權(quán)，以獲得每篇文檔向量化表示：

(6)

2.5 DSESVM算法

本文提出的集成SVM的數(shù)據(jù)流挖掘算法(DSESVM算法)是由多個(gè)SVM基分類器組成的集成分類器。其中，數(shù)據(jù)流檢測(cè)框架基于CDSMM算法[21]；基分類器權(quán)重通過(guò)計(jì)算當(dāng)前數(shù)據(jù)塊的分類精度得出；并通過(guò)假設(shè)檢驗(yàn)檢測(cè)概念漂移，動(dòng)態(tài)調(diào)整基分類器以適應(yīng)概念變化；利用錯(cuò)誤分類與被替換基分類器訓(xùn)練集重新構(gòu)建新訓(xùn)練集，以訓(xùn)練得到新基分類器，對(duì)較低準(zhǔn)確度的基分類器予以替換，以提升整體分類精度。該算法可有效增強(qiáng)概念漂移實(shí)例對(duì)新分類器訓(xùn)練的影響，使算法能夠快速檢測(cè)概念漂移并適應(yīng)新實(shí)例。DSESVM算法中符號(hào)定義如表3所示。

表3 DSESVM算法符號(hào)定義

續(xù)表3

算法流程如下：

步驟1構(gòu)造集成分類器EC：當(dāng)S中的實(shí)例數(shù)達(dá)到d時(shí)，如果num

步驟2噪聲過(guò)濾：用EC對(duì)S中的每個(gè)實(shí)例進(jìn)行分類，如果被EC錯(cuò)誤分類，則將其添加到數(shù)據(jù)集ErrInst中。

步驟3權(quán)重更新：用S更新EC中各基分類器的權(quán)重，表示為Weight_S。

步驟4概念漂移檢測(cè)：計(jì)算EC上對(duì)數(shù)據(jù)塊S的分類錯(cuò)誤率，并使用該值檢測(cè)概念漂移。

步驟5分類器調(diào)整與更新：一旦檢測(cè)到漂移并且集成分類器中基分類器的數(shù)量達(dá)到K，則使用錯(cuò)誤分類緩沖器ErrInst構(gòu)造新的分類器C_new，分類正確率為其權(quán)重。并利用ErrInst更新EC權(quán)重，記為Weight_E。計(jì)算權(quán)重?cái)?shù)組Weight_S和Weight_E的均值，記為Weight_ave，替換EC的權(quán)重。如果新分類器C_new權(quán)重大于Weight_ave中的最小權(quán)重，則用ErrInst中的實(shí)例與Weight_ave中的最小權(quán)重相對(duì)應(yīng)的基分類器C_k訓(xùn)練集來(lái)組成訓(xùn)練數(shù)據(jù)，訓(xùn)練得到替換分類器C_new′及其權(quán)重Right_new。利用其替換基分類器C_k和權(quán)重以獲得更新的EC。

DSESVM算法偽代碼如算法1所示。

算法1DSESVM算法

輸入：集成分類器EC=Null，數(shù)據(jù)流DS，集成分類器的容量K，訓(xùn)練集的大小d。

輸出：已訓(xùn)練的集成分類器EC。

開始

1.While(新數(shù)據(jù)到達(dá)){

2.讀取d個(gè)數(shù)據(jù)形成當(dāng)前數(shù)據(jù)塊S；

3.If(num

4.C_num=getNewClassifier(S)；

5.EC=AddBaseClassifier(EC,C_num)；

6.

//利用S訓(xùn)練新分類器C_num，并

//將其添加到EC中

7.num++；

8.Else

9.For(E_j∈S)

10.If(EventType(E_j)≠getpredict(EC,E_j))；

//E_j被EC錯(cuò)分類

11.ErrInst=AddInstance(ErrInst,E_j)；

//將E_j加入ErrInst

12.End if

13.End for

14.Weight_S=UpdateWeight(EC,S)；

15.err=getErrorRate(EC,S)；

//利用S更新EC權(quán)重,并計(jì)算其錯(cuò)誤率

17.If(U>μα&&num==K)

//概念漂移檢測(cè)

18.C_new=getNewClassifier(ErrInst)；

//利用ErrInst訓(xùn)練得到新基分類器

19.Right_new=getAccuracy(C_new,S)；

//計(jì)算C_new的正確率

20.Weight_Err=UpdateWeight(EC,ErrInst)；

//更新EC權(quán)重

21.Weight_Ave=getMean(Weight_S,Weight_Err)

//u利用Weight_S與Weight_Err計(jì)算平均權(quán)重?cái)?shù)組

22.If(Right_new>min(Weight_Ave))

23.C_k=getBaseClassifier(EC,min(Weight_Ave))；

//找到Weight_Ave中所對(duì)應(yīng)最小權(quán)重的基分類器C_k

24.C_new′=getNewClassifier(ErrInst+

getTrainData(C_k))；

//利用ErrInst與C_k訓(xùn)練構(gòu)成替換基分類器C_new′

25.EC=UpdateBaseClassifier(EC,C_k,C_new′)；

//更新EC

26.End if

27.End if

28.End if

29.End while

下面詳細(xì)解釋數(shù)據(jù)流分類算法的一些重要部分：

(1) 基分類器的選擇。本文面向公司微博進(jìn)行關(guān)于金融事件的分類，SVM是金融領(lǐng)域中使用最廣泛的數(shù)據(jù)挖掘技術(shù)，實(shí)驗(yàn)已證明其具有較好的預(yù)測(cè)能力[22]。因此，選擇SVM作為基分類器。

(2) 概念漂移檢測(cè)。以分類錯(cuò)誤率作為度量指標(biāo)，利用假設(shè)檢驗(yàn)檢測(cè)數(shù)據(jù)流中的概念漂移[21]。

對(duì)當(dāng)前數(shù)據(jù)塊上的分類錯(cuò)誤率進(jìn)行假設(shè)檢驗(yàn)，μ_0為常數(shù)，初始化為前五個(gè)數(shù)據(jù)塊的分類錯(cuò)誤率均值。給定顯著置信性水平α=95%，如果式(7)成立，則表明錯(cuò)誤率發(fā)生較大變化，且發(fā)生了概念漂移，反之，則認(rèn)為概念分布是穩(wěn)定的。

(7)

(3) 替換基分類器選擇規(guī)則。選定當(dāng)前數(shù)據(jù)塊和錯(cuò)誤分類實(shí)例中分類效果最差的基分類器為被替換的基分類器。通過(guò)更新當(dāng)前數(shù)據(jù)塊和錯(cuò)誤分類實(shí)例的權(quán)重?cái)?shù)組，計(jì)算平均權(quán)重?cái)?shù)組，選擇對(duì)應(yīng)于最小權(quán)重的基分類器作為分類效果最差的基分類器。

(4) 新分類器的訓(xùn)練原理。該算法應(yīng)用于數(shù)據(jù)流中，各基分類器訓(xùn)練集無(wú)重復(fù)。當(dāng)選擇替換的分類器時(shí)，新分類器將由錯(cuò)誤分類的實(shí)例與被替換的分類器訓(xùn)練集共同訓(xùn)練得到。

(5) 集成分類器EC分類預(yù)測(cè)策略。集成分類器EC采用加權(quán)投票機(jī)制進(jìn)行分類預(yù)測(cè)。對(duì)未知實(shí)例進(jìn)行分類時(shí)，具有最多加權(quán)投票的類別為未知實(shí)例的預(yù)測(cè)類別。

3 實(shí) 驗(yàn)

3.1 數(shù)據(jù)集與評(píng)估指標(biāo)

本次實(shí)驗(yàn)選取微博平臺(tái)關(guān)注度超過(guò)一百萬(wàn)的新聞媒體博主發(fā)布的關(guān)于中國(guó)五家知名上市公司的相關(guān)微博信息，如表4所示。數(shù)據(jù)從2012年1月至2018年7月，總數(shù)為20 000條，通過(guò)刪除重復(fù)和無(wú)意義數(shù)據(jù)，最終獲得15 000條實(shí)驗(yàn)數(shù)據(jù)，具體5家公司相關(guān)的微博數(shù)據(jù)量分布如表5所示。微博格式包括標(biāo)題、發(fā)布人、發(fā)布時(shí)間、內(nèi)容及由三位專家給定的標(biāo)簽，最終公司金融事件的分布如表6所示。

表4 微博新聞媒體博主詳表

表5 微博的數(shù)據(jù)量表

續(xù)表5

表6 公司金融事件類型分布表

本文用于評(píng)估事件檢測(cè)性能的評(píng)估指標(biāo)為精度(P)、召回值(R)和F1值(F1)，其中：P度量所有提取事件中正例的比例；R度量在所有正例中預(yù)測(cè)正確的正例比例；F1是精確率和召回率的調(diào)和平均值，相當(dāng)于精確率和召回率的綜合評(píng)價(jià)指標(biāo)。相關(guān)的計(jì)算公式如下：

(8)

(9)

(10)

3.2 公司金融微博觸發(fā)詞典構(gòu)建

本文將公司金融事件分為七類，對(duì)于每類事件，將隨機(jī)選取的200條數(shù)據(jù)標(biāo)記為種子微博，從其中提取動(dòng)詞，結(jié)合詞頻排序與領(lǐng)域知識(shí)，獲取每個(gè)類的關(guān)鍵特征觸發(fā)詞與噪聲。最終，得到315個(gè)觸發(fā)詞與7個(gè)事件類型的52個(gè)噪聲詞，如表7所示。

表7 種子觸發(fā)詞表

Word2vec算法用于獲取種子觸發(fā)詞的同義詞。若擴(kuò)展較多，會(huì)導(dǎo)致擴(kuò)展詞匯超出原始單詞同義詞范疇；若擴(kuò)展范圍較小，則會(huì)忽略某些同義詞。因此，在本文中選擇與觸發(fā)詞的相似度在前十位的單詞，以將觸發(fā)詞擴(kuò)展為觸發(fā)詞典。最終，七類事件獲得38 256個(gè)觸發(fā)詞，如表8所示。

表8 公司金融微博觸發(fā)詞表

3.3 文檔向量化表征算法評(píng)估

為了評(píng)估文檔向量化結(jié)果，使用相同的分類算法DSESVM來(lái)顯示不同表示方法下的實(shí)驗(yàn)結(jié)果差異。通過(guò)將BOW、TF-IDF、Word2dvec和Triggers分別與DSESVM相結(jié)合，形成四種實(shí)驗(yàn)方案。本文根據(jù)時(shí)間順序?qū)?5 000個(gè)實(shí)驗(yàn)數(shù)據(jù)分成每個(gè)時(shí)間窗口500條，并在總數(shù)為30的時(shí)間窗口的數(shù)據(jù)流下進(jìn)行預(yù)測(cè)實(shí)驗(yàn)。分類模型將當(dāng)前時(shí)間窗口的數(shù)據(jù)視為測(cè)試集，將之前時(shí)間窗口的數(shù)據(jù)視為訓(xùn)練集。即文檔中的動(dòng)詞首先分別由TF-IDF、BOW、Word2vec和觸發(fā)詞典分別進(jìn)行文檔表示，然后利用DSESVM算法在第10到第30個(gè)時(shí)間窗口分別進(jìn)行分類預(yù)測(cè)，其中DSESVM算法中基分類器個(gè)數(shù)設(shè)為9。

實(shí)驗(yàn)結(jié)果如表9所示，“MAX”表示最佳實(shí)驗(yàn)結(jié)果，“MEAN”表示實(shí)驗(yàn)結(jié)果平均值。在第10到30個(gè)時(shí)間窗口中，可以看出基于相同分類方法DSESVM，觸發(fā)詞典的文檔表示明顯優(yōu)于其他三種表示方案，精度為66.2%，召回率為63.0%，F(xiàn)1值為64.6%。BOW+DSESVM、TFIDF+DSESVM、Word2vec+DSESVM僅獲得10.3%、8.7%、62.4%的F1值。通過(guò)對(duì)實(shí)驗(yàn)結(jié)果的分析，可以得出與BOW、TF-IDF和Word2vec相比，基于觸發(fā)詞典的文檔表示能獲得更好的語(yǔ)義表征，有助于模型獲得更好的結(jié)果。

表9 文檔向量化性能比較表

3.4 公司金融事件檢測(cè)模型評(píng)估

為了進(jìn)一步說(shuō)明DSESVM算法的學(xué)習(xí)效果，通過(guò)觸發(fā)詞典對(duì)文檔進(jìn)行向量化表征，并利用Bagging、Random Forest、AdaBoost[26]三種常用的集成分類算法對(duì)表示結(jié)果進(jìn)行分類比較。當(dāng)模型訓(xùn)練及分類結(jié)束后，獲得當(dāng)前時(shí)間窗口的預(yù)測(cè)結(jié)果。表10為四種分類模型的各時(shí)間窗口內(nèi)最佳與平均的實(shí)驗(yàn)結(jié)果。圖3詳細(xì)展示了四種分類算法與本文提出的觸發(fā)詞表示方法結(jié)合下的分類準(zhǔn)確率。本文算法精度為66.2%，召回率為63.0%，F(xiàn)1值為64.6%。與其他三種分類預(yù)測(cè)算法相比，最優(yōu)F1值增加了4.1～5百分點(diǎn)，平均F1值增加了5.6～7.2百分點(diǎn)。與AdaBoost、Bagging和Random Forest相比，該算法使用較少的訓(xùn)練數(shù)據(jù)并獲得了更好的實(shí)驗(yàn)結(jié)果。

表10 公司金融事件檢測(cè)算法性能比較表

(a) 精度

3.5 概念漂移檢測(cè)評(píng)估

為了進(jìn)一步說(shuō)明考慮動(dòng)態(tài)數(shù)據(jù)流內(nèi)概念漂移檢測(cè)的必要性，本文進(jìn)行概念漂移檢測(cè)對(duì)比實(shí)驗(yàn)。如圖4所示，本文所提模型在時(shí)間窗口10、11、12、13、15、16、17、28、29和30中檢測(cè)到概念漂移。該模型使用概念漂移檢測(cè)機(jī)制調(diào)整更新基分類器，以確保模型能夠適應(yīng)概念漂移后的數(shù)據(jù)特征，從而確保模型對(duì)未來(lái)數(shù)據(jù)檢測(cè)性能的穩(wěn)定性。例如，當(dāng)模型從時(shí)間窗口10到17檢測(cè)到概念漂移時(shí)，調(diào)整更新模型中的分類器，在第18個(gè)窗口中的F1值明顯高于第17個(gè)窗口中的F1值，并在第19至27窗口中獲得更穩(wěn)定的實(shí)驗(yàn)結(jié)果。

圖4 Triggers-DSESVM的實(shí)驗(yàn)結(jié)果

為了顯示概念漂移檢測(cè)對(duì)實(shí)驗(yàn)結(jié)果的影響，進(jìn)行檢測(cè)概念漂移和未檢測(cè)概念漂移的進(jìn)一步對(duì)比實(shí)驗(yàn)。如表11所示，概念漂移檢測(cè)的實(shí)驗(yàn)結(jié)果平均F1值增加了5.8百分點(diǎn)，明顯優(yōu)于未概念漂移檢測(cè)的結(jié)果。綜上，概念漂移檢測(cè)對(duì)實(shí)驗(yàn)結(jié)果具有顯著影響，進(jìn)一步證實(shí)在動(dòng)態(tài)數(shù)據(jù)內(nèi)進(jìn)行概念漂移檢測(cè)的必要性。

表11 概念漂移檢測(cè)對(duì)比結(jié)果 %

3.6 參數(shù)分析

模型Triggers-DSESVM的部分參數(shù)參考李燕等[21]的參數(shù)設(shè)置。如數(shù)據(jù)塊尺寸d設(shè)置為500，集成分類器的基分類器個(gè)數(shù)K設(shè)置為9，錯(cuò)誤分類緩沖實(shí)例的閾值e設(shè)置為100。

3.6.1Word2vec維度選擇

Word2vec的維度選擇對(duì)模型的復(fù)雜性和有效性有一定的影響。若維度較小，則表示的單詞將無(wú)法在語(yǔ)義上區(qū)分；若維度較大，則模型的時(shí)間復(fù)雜度和空間復(fù)雜度急劇增加，且模型的學(xué)習(xí)效率將降低。在此基礎(chǔ)上，進(jìn)行維度選擇實(shí)驗(yàn)，通過(guò)改變維度觀察模型的性能變化。實(shí)驗(yàn)結(jié)果如表12所示。

表12 不同詞向量維度的實(shí)驗(yàn)結(jié)果表 %

可以看出，當(dāng)維度從50增加到200時(shí)，F(xiàn)1值略微增加，然后開始衰減。因此，本模型的Word2vec維度選擇為200維。

3.6.2文檔向量化表示的權(quán)重選擇

在文檔中取出動(dòng)詞后，將根據(jù)噪聲詞典和觸發(fā)詞典執(zhí)行去噪和加權(quán)處理。該方法可以消除噪聲的影響，增強(qiáng)文檔表示中觸發(fā)詞的權(quán)重，并最終使文檔得到更好的語(yǔ)義表示。若權(quán)重太小，觸發(fā)詞的影響將被削弱，且觸發(fā)詞在表示中的效果將會(huì)降低；而過(guò)大的權(quán)重設(shè)置將導(dǎo)致過(guò)分強(qiáng)調(diào)已知的觸發(fā)詞，忽略未知潛在觸發(fā)詞在文檔表示中的影響。實(shí)驗(yàn)結(jié)果如表13所示。

表13 不同權(quán)重設(shè)置下實(shí)驗(yàn)結(jié)果表 %

可以看出，去除噪聲的實(shí)驗(yàn)效果明顯優(yōu)于未經(jīng)處理的實(shí)驗(yàn)效果。當(dāng)權(quán)重設(shè)為1.4時(shí)，平均P與F1具有最佳實(shí)驗(yàn)結(jié)果。因此，該模型選擇去噪，并將權(quán)重值設(shè)為1.4。

4 結(jié) 語(yǔ)

傳統(tǒng)的金融事件檢測(cè)方法存在短文本語(yǔ)義表示及動(dòng)態(tài)分類檢測(cè)效果不理想等問(wèn)題；傳統(tǒng)的文本表示方法存在高維、稀疏、語(yǔ)義信息丟失等；傳統(tǒng)分類檢測(cè)方法無(wú)法適用于具有概念漂移、數(shù)據(jù)量大、短句多和口語(yǔ)化等特征的社交媒體數(shù)據(jù)中。因此，本文提出了一種應(yīng)用于微博文本的公司金融事件檢測(cè)模型。為提高公司金融事件檢測(cè)性能，本文首先結(jié)合Word2vec與觸發(fā)詞對(duì)文檔進(jìn)行表示，其次提出DSESVM集成分類算法來(lái)處理大量的微博文本流，以達(dá)到實(shí)時(shí)檢測(cè)事件的目的，來(lái)自微博的實(shí)際數(shù)據(jù)實(shí)驗(yàn)結(jié)果證明了文檔向量化和集成數(shù)據(jù)流分類方法的有效性。

后續(xù)研究將從以下兩個(gè)方面進(jìn)一步完善提出的事件檢測(cè)模型：(1) 關(guān)注多標(biāo)簽數(shù)據(jù)分類問(wèn)題，同一條微博信息可能與多種類型的金融事件有關(guān)，因此如何解決這個(gè)問(wèn)題是后續(xù)研究重點(diǎn)；(2) 目前算法中使用固定時(shí)間窗口且數(shù)據(jù)塊大小固定。由于實(shí)驗(yàn)中流入時(shí)間窗的數(shù)據(jù)量導(dǎo)致實(shí)驗(yàn)語(yǔ)料規(guī)模受限，會(huì)影響分類結(jié)果，因此將研究如何優(yōu)化算法以提高算法對(duì)數(shù)據(jù)規(guī)模的自適應(yīng)能力。