王新武

（大連財經(jīng)學(xué)院，遼寧 大連 116000）

0 引言

隱馬爾可夫模型（HMM）是由Baum等人于1966年率先提出來的[1]。HMM是馬爾可夫模型的延伸，是一個概率模型，可以用來預(yù)測序列問題。HMM最早應(yīng)用于語音識別中，并獲得了巨大的成功，之后被廣泛應(yīng)用于模式識別、圖像識別、生物信息科學(xué)、故障診斷等領(lǐng)域，取得了可喜的成績[2]。隨著研究的深入，HMM的應(yīng)用也越來越廣泛。

1 隱馬爾可夫模型建模

下面是以解碼問題為例的隱馬爾可夫模型建模過程：

（1）狀態(tài)集：定義一個狀態(tài)集合G={G1,G2,…,Gn}

（2）轉(zhuǎn)移集：每個狀態(tài)轉(zhuǎn)移元素集合(gi→gi+1)

（3）觀察集：輸出的觀察符號集：

從g1開始，轉(zhuǎn)移到新的狀態(tài)gi，可以觀測到一個輸出符號σi。經(jīng)過轉(zhuǎn)移到最終狀態(tài)，會得到一個符號串：H=h1,h2,…,h i。每一個狀態(tài)轉(zhuǎn)移對應(yīng)的概率為P(gi→gi+1)。在任意狀態(tài)觀測到特殊符號的概率P(H|g)。在一個隱馬爾可夫模型O上，序列H被觀測到的概率是所有可能路徑的概率和，如式（1）所示：

建立隱馬爾科夫模型的目的就是找到能使觀察概率達到最大的狀態(tài)序列Q(H|O)，如式（2）所示：

HMM用圖形表示如圖1所示。

圖1 HMM圖形

任意時刻狀態(tài)序列的產(chǎn)生：序列在某時刻的狀態(tài)是a1，在該狀態(tài)下得到的觀察值是e1，從a1轉(zhuǎn)移到a2，在a2狀態(tài)下得到觀察值e2。按照此種方法，會得到一個觀察值序列E={e1,e2,…ei,…,et}。因為在任意時刻產(chǎn)生的觀察值e只依賴于狀態(tài)值a，所以可以得到在a狀態(tài)下出現(xiàn)e觀察值的概率為所有時刻狀態(tài)轉(zhuǎn)移概率和觀測概率的乘積，

2 隱馬爾可夫模型應(yīng)用

（1）個性化推薦：基于隱馬爾可夫模型的偏好進化學(xué)習(xí)和高維數(shù)據(jù)稀疏問題處理[3]。解決高維數(shù)據(jù)稀疏問題和因用戶偏好學(xué)習(xí)困難而難以高效反應(yīng)用戶的個性化需求的問題，從而突破上下文感知推薦系統(tǒng)的應(yīng)用瓶頸。利用評分分組，構(gòu)造轉(zhuǎn)移矩陣和觀察矩陣。為防惡意刷分引入權(quán)重因子，完成隱馬爾可夫的建模。

（2）文本分類：通過提取文本中的特征詞、特征詞頻、文檔數(shù)量、特征詞語義等信息，利用信息增益的方法進行特征詞的合并和分類，通過分類分別建立隱馬爾可夫分類模。新文本的分類則是通過分類向量的交集，作為觀察序列輸入隱馬爾可夫模型，預(yù)測各分類輸出的概率，以概率大小作為分類標準[4]。

（3）輿情分析：以微博為平臺，考慮微博用戶的個人特征、感情走向，以具體的行為表現(xiàn)等為觀察序列，以及輿情的發(fā)展、波動消亡等為狀態(tài)序列，建立隱馬爾可夫模型，預(yù)測和預(yù)警輿情的發(fā)展和一般規(guī)律，為最終決策提供科學(xué)高效的方法[5]。

（4）智能學(xué)習(xí)：假設(shè)用戶擁有良好的學(xué)習(xí)習(xí)慣和效果，需要從用戶的學(xué)習(xí)序列中找到一個最優(yōu)的學(xué)習(xí)序列引導(dǎo)學(xué)習(xí)的目的。建立隱馬爾可夫模型，對模型進行訓(xùn)練，尋找知識點間的關(guān)聯(lián)概率，利用模型預(yù)測知識點的遷移序列，找到最優(yōu)的狀態(tài)序列，智能引導(dǎo)用戶學(xué)習(xí)，提升用戶的學(xué)習(xí)效率和學(xué)習(xí)效果[6]。

（5）時間序列預(yù)測：假設(shè)一系列的隱狀態(tài)構(gòu)成了一個時間序列，隱狀態(tài)間的轉(zhuǎn)換構(gòu)成系統(tǒng)運行的根本。對時間序列分段后，根據(jù)先后發(fā)生的時間順序和發(fā)生時間的相似性等進行聚類，以分類為隱含狀態(tài)得到狀態(tài)轉(zhuǎn)移矩陣，建立隱馬爾可夫模型，進行時間序列的預(yù)測。

3 基于隱馬爾可夫模型的在線視頻個性化推薦實現(xiàn)過程

3.1 模型參數(shù)準備

以在線視頻的評分為狀態(tài)序列，評分對應(yīng)的視頻內(nèi)容即為觀察序列。用戶某一次對在線視頻內(nèi)容的評分只與前一次的評分有關(guān)，與下一次無關(guān)，所以用戶的評分行為符合隱馬爾可夫隨機過程。

3.2 隱馬爾可夫模型訓(xùn)練

利用無監(jiān)督的學(xué)習(xí)法（EM算法），訓(xùn)練集中t時刻使用并給出所得到評分的用戶觀察集Y={Y1,Y2,Y3,…,Yt}，隱含的狀態(tài)序列X={X1,X2,X3,…,Xt}，通過對訓(xùn)練集參數(shù)的訓(xùn)練，得到基于隱馬爾可夫最大概率，即P(Y|λ)。訓(xùn)練方法如下[7]。

①根據(jù)向前-向后算法（訓(xùn)練HMM的標準算法是向前-向后算法（Forward-backward Algorithm）或者叫作鮑姆-韋爾奇算法（Baum-Welch algorithm），這是期望最大化（Expectation-Maximization algorithm，EM算法）的一種特殊情形），定義一個在T時刻處于狀態(tài)i的前向變量概率是(i)，如果T+1時刻的狀態(tài)為j，根據(jù)前向算法，則有公式（3）：

②根據(jù)向前-向后算法，定義一個在T時刻狀態(tài)是Si的后向變量概率是ηT(i)，代表如果T+1時刻到t時刻觀察到序列Y={Y(T+1)Y(T+2)…Yt}的概率，根據(jù)向后算法則有公式（4）：

③采用向前-向后算法完成計算后，計算P(Y|λ)見公式（5）：

④假如已知某刻T的在線視頻概率變量σT（i,j）。代表在這一時刻T對在線視頻內(nèi)容的Yi的評分是Si，在下一時刻T+1時刻對視頻Yi+1的評分是Sj的概率，其中（1≤I,j≤m, 1≤T≤t）。把式（3）～（5）帶入式（6）可得：

⑤假如已知用戶在T時刻的在線視頻概率變量是T(i,j)(1≤I,j≤m, 1≤T≤t)，代表在T時刻在線視頻Yi的評分是Si的概率。把式（3）～（5）代入式（7）可得：

⑥根據(jù)步驟④和⑤，得到Si轉(zhuǎn)移得到Sj狀態(tài)的期望值。評分值期望如式（8）所示：

由于Si轉(zhuǎn)移到Sj狀態(tài)的期望可以計算的出，那么Si轉(zhuǎn)移到其他狀態(tài)的方法也可以得到，如式（9）所示：

3.3 獲取觀察值序列

用戶在視頻網(wǎng)站上觀看視頻和評分的信息通過觀看時間戳的方式記錄，通過觀看評分記錄可以從中提取一個在線視頻評分路徑轉(zhuǎn)移序列。定義該序列為A={a1,a2,a3,…,an}。假如用戶選擇評分的在線視頻資源都是用戶喜歡的內(nèi)容，那么用戶選擇評分的某在線視頻中必然存在某些吸引用戶的信息，而吸引用戶選擇觀看并評分的信息就可以定義為該用戶的興趣點。通過一系列的用戶瀏覽記錄，就可以提取用戶的興趣集。這個興趣集就是隱馬爾可夫模型“隱”的內(nèi)涵。通過挖掘用戶的興趣集當(dāng)中興趣點并進行加權(quán)，找出符合用戶興趣點權(quán)重的視頻內(nèi)容，推薦給該用戶，那么就可以獲得好的用戶體驗。

用戶在評分轉(zhuǎn)移的過程中，每一個評分對應(yīng)一個視頻內(nèi)容。而用戶評分對應(yīng)的在線視頻內(nèi)容就是隱馬爾可夫模型的觀察值，獲得觀察序列E={e1,e2,e3,…,en}，觀察序列示意如圖2所示。

圖2 觀察值序列

3.4 關(guān)鍵字提取

在線視頻網(wǎng)站上的某個視頻內(nèi)容簡介，就是對該視頻內(nèi)容的簡單概括，如圖3所示。

圖3 豆瓣網(wǎng)站圖片

圖3中展示的是豆瓣網(wǎng)站上電影《流浪地球》的頁面截圖，從圖中可以發(fā)現(xiàn)每部電影的簡介信息結(jié)構(gòu)相同，但頁面的關(guān)鍵字不同，用戶選擇觀看電影會根據(jù)電影簡介的關(guān)鍵字進行選擇，喜歡科幻或災(zāi)難題材電影的用戶可能會選擇觀看《流浪地球》。假設(shè)不同用戶因為自己的喜好不同而選擇不同，那么用戶最終選擇觀看影片的出發(fā)點可能就是網(wǎng)頁中不同的關(guān)鍵字。

一部電影的簡介頁面中包含多個關(guān)鍵字，那么一部電影可以用一個關(guān)鍵字集合來表征，用戶最終所選擇觀看的某部電影，決定因素可能就是因為被某個電影中的關(guān)鍵詞吸引。為了找到用戶的興趣關(guān)鍵詞，決定采用Python定向爬取網(wǎng)站關(guān)鍵詞信息的方式實現(xiàn)，具體步驟如下：

①確定爬取的目標信息。因電影簡介頁面的標準化程度較高，所以決定定向的爬取有用的特征詞信息，建立興趣關(guān)鍵詞集。這里需要爬取的特征詞主要包含：電影名，電影上映時間、評分、導(dǎo)演、演員、產(chǎn)地、語言、影片類型等信息。建立一個特征詞集，F(xiàn)={f1,f2,f3,…,fn}，fi（i表示自然數(shù)1…n）則表示視頻網(wǎng)站上爬取的一個特征詞，n表示特征詞的數(shù)量。

②特征詞出現(xiàn)的頻率計算：采用爬取后的信息建立起的特征詞集即為當(dāng)前影片的表征形式。由于電影的結(jié)構(gòu)化程度較高，關(guān)鍵詞的使用頻率較固定，所以用戶如果只存在觀看了一部影片記錄，那么并不能發(fā)現(xiàn)該用戶的關(guān)鍵詞興趣。所以需要用戶的一系列的瀏覽記錄集，建立一個多事務(wù)（觀看的影片）的關(guān)鍵詞集。通過觀看記錄關(guān)鍵詞的提取計算，才能發(fā)現(xiàn)用戶真正感興趣的關(guān)鍵詞。計算公式如下：

式中，Q1、Q2、Q3、Q4、Q5、Q6代表調(diào)整系數(shù)。

計算完特征詞的出現(xiàn)頻率，就可以算出每個特征詞對該用戶的權(quán)重值。計算公式如下：

通過公式（4）～（10），可以計算出每個特征詞對該用戶的興趣權(quán)重，根據(jù)該權(quán)重就可以計算出該用戶的對任何一部電影的感興趣的概率，根據(jù)概率值得大小既可以預(yù)測該用戶最可能感興趣的視頻資源。

豆瓣電影網(wǎng)的結(jié)構(gòu)化的數(shù)據(jù)可以利用Python進行爬取。

3.5 三級推薦目標實現(xiàn)

基于隱馬爾可夫模型的在線視頻個性化推薦的最終目標是滿足不同類型用戶的使用需要。第一層級的個性化推薦：非注冊用戶的個性化推薦，主要解決的問題是非注冊用戶的冷啟動問題。第二層級的個性化推薦：注冊新會員用戶的個性化推薦，解決的問題是新用戶的用戶稀疏問題。第三層級的個性化推薦：針對網(wǎng)站的資深會員用戶的在線視頻個性化推薦服務(wù)，提升用戶的使用滿意度。

3.6 模型實驗結(jié)果

3.6.1 第一層級的個性化推薦結(jié)果（表1）

表1 第一層級的個性化推薦輸出結(jié)果

3.6.2 第二層級的個性化推薦結(jié)果（表2）

表2 第二層級的個性化推薦輸出結(jié)果

本層的數(shù)據(jù)結(jié)果本應(yīng)是6個不同年齡段的輸出結(jié)果，但由于數(shù)據(jù)集中的年齡數(shù)據(jù)是隨機生成的，而隨機生成的數(shù)據(jù)對于各年齡段的輸出結(jié)果幾乎沒有差別，所以本輸出結(jié)果只對其中一個輸出結(jié)果進行展示。

3.6.3 第三層級的個性化推薦結(jié)果（表3）

表3 第三層級的個性化推薦輸出結(jié)果

表3是基于隱馬爾可夫模型的個性化推薦結(jié)果展示，模型輸出7 120個結(jié)果，本文只截取前5個結(jié)果作為展示。由表3可以發(fā)現(xiàn)，前5個用戶的興趣關(guān)鍵詞各不相同，所得到的推薦電影也各不相同，得到相應(yīng)預(yù)測評分的概率也相差較大。但各自獲得相應(yīng)預(yù)測評分的概率都是在各自興趣關(guān)鍵詞集中概率最高的結(jié)果。第三級個性化推薦完成。

4 結(jié)束語

基于對大型視頻網(wǎng)站用戶的觀看記錄數(shù)據(jù)的采集，建立基于隱馬爾可夫模型的個性化推薦系統(tǒng)。推薦分成三個推薦層級，分別針對不同的用戶類型，解決了不同用戶的實際需求，并提出用戶興趣時間閾值觀念，適時地滿足用戶的個性化需求，為在線視頻網(wǎng)站的發(fā)展奠定基礎(chǔ)。■