郝騰飛，郭建龍，劉 曉，馮偉夏，熊 山

（廣東電網(wǎng)有限責(zé)任公司培訓(xùn)與評價中心，廣州 510520）

近年來，在線學(xué)習(xí)獲得了飛躍的發(fā)展，2020 年新冠肺炎疫情的爆發(fā)更是讓線上學(xué)習(xí)成為了一種不可或缺的學(xué)習(xí)方式。線上學(xué)習(xí)具有獲取知識便捷、節(jié)約學(xué)習(xí)時間和價格成本低等優(yōu)點，但在線學(xué)習(xí)還存在一些不足，如視頻內(nèi)容快速檢索困難、回放定位輔助操作不清楚、知識點與視頻幀無關(guān)聯(lián)等，從而不利于知識信息在視頻中的注入和檢索生成，導(dǎo)致學(xué)習(xí)者難以快速精準(zhǔn)獲取適合自身的個性化學(xué)習(xí)資源[1-4]。

針對MOOC（Massive Open Online Course，MOOC）教學(xué)視頻內(nèi)容檢索不便和知識點與視頻幀無法關(guān)聯(lián)的問題，許鄧艷等[5]基于知識注釋的MOOC 視頻快速檢索系統(tǒng)探究了視頻快速分割方法，但在視頻檢索并未考慮用戶的個性化信息。針對在線學(xué)習(xí)個性化欠缺的問題，朱曉云[6]認為應(yīng)當(dāng)研究用戶群需求，進而從數(shù)據(jù)龐大的資源中提取真正滿足用戶需求的資源；張莉萍[7]強調(diào)知識整合，認為應(yīng)當(dāng)著眼用戶需要，積極為其提供完善的知識信息服務(wù)。劉愛琴等[8-10]提出在在線學(xué)習(xí)中利用自組織映射網(wǎng)絡(luò)（Self-Organizing Feature Map，SOM）神經(jīng)網(wǎng)絡(luò)算法對用戶個人特征信息、行為數(shù)據(jù)及文獻數(shù)據(jù)庫進行聚類分析，進而提出一種自適應(yīng)學(xué)習(xí)框架，用來滿足用戶學(xué)習(xí)的個性化需要。上述文獻中提出的方法都在一定程度上提高了檢索速度或精度，但均未考慮不同歷史時間段瀏覽內(nèi)容與本次用戶檢索內(nèi)容的關(guān)聯(lián)性，對新的搜索特征缺乏敏感性，無法根據(jù)用戶搜索內(nèi)容及時調(diào)整對應(yīng)的資源快速推薦庫，導(dǎo)致資源檢索的快速性和精準(zhǔn)性較低。

針對上述問題，本文提出了一種基于SOM 和時間權(quán)重的資源快速精準(zhǔn)檢索方法。該方法首先基于員工基本信息和歷史瀏覽記錄構(gòu)建用戶特征集并進行SOM 聚類，得到不同特征用戶組成的用戶集群，并將利用該用戶集群得到的關(guān)聯(lián)資源集生成的資源快速推薦庫供用戶檢索，檢索內(nèi)容被采納后則生成瀏覽歷史記錄；再檢索時，根據(jù)用戶瀏覽歷史記錄與本次搜索時間的遠近賦予時間權(quán)重，根據(jù)所賦時間權(quán)重更新用戶特征集并再聚類，獲得新的關(guān)聯(lián)資源集群，并進而得到新的資源快速推薦庫，依此類推。仿真結(jié)果顯示本文提出的方法提高了檢索精確度，縮短了檢索時間。

1 SOM 神經(jīng)網(wǎng)絡(luò)聚類算法

所謂聚類系指基于一定特征的相似程度分組，實現(xiàn)組內(nèi)相似度最大，組間相似度最小的過程[11-12]。鑒于自組織特征映射神經(jīng)網(wǎng)絡(luò)SOM 算法具有無導(dǎo)師自組織學(xué)習(xí)、無參數(shù)、精準(zhǔn)化和穩(wěn)定性強的特點，廣泛應(yīng)用于智慧神經(jīng)網(wǎng)絡(luò)構(gòu)建分析、大數(shù)據(jù)分析處理和用戶個性化服務(wù)，在聚類時間和聚類效果上比其它算法更好。因此，本文采用自組織特征映射神經(jīng)網(wǎng)絡(luò)SOM 算法實施用戶聚類。

1.1 SOM 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

如圖1 所示，SOM 神經(jīng)網(wǎng)絡(luò)基本結(jié)構(gòu)通常由輸入層和輸出層構(gòu)成，神經(jīng)網(wǎng)絡(luò)沒有隱含層。由圖1 可見，一維輸入層與二維輸出層所有神經(jīng)元之間存在縱向全權(quán)連接關(guān)系，輸入層中各個神經(jīng)元之間彼此獨立，不存在權(quán)連接關(guān)系；輸出層各神經(jīng)元之間存在雙向權(quán)連接關(guān)系。本文所采用的SOM 神經(jīng)網(wǎng)絡(luò)框架，其輸入層由m 個神經(jīng)元組成，對應(yīng)輸入為m 維向量x1，x2，…，xi，…，xm記作x=[x1，x2，…，xi，…xm]T，i=1，2，…，m。輸出層由n 個神經(jīng)元組成，任一輸入向量xi與輸出向量縱向全權(quán)連接權(quán)值向量為wi1，wi2，…，wij，…，win記作wi=[wi1，wi2，…，wij，…，win]，j=1，2，…，n。

圖1 SOM 神經(jīng)網(wǎng)絡(luò)基本結(jié)構(gòu)

對SOM 神經(jīng)網(wǎng)絡(luò)而言，一旦網(wǎng)絡(luò)結(jié)構(gòu)、輸入向量及輸出向量確定后，其關(guān)鍵是通過訓(xùn)練對神經(jīng)網(wǎng)絡(luò)的輸入與輸出、輸出向量之間的連接權(quán)值向量進行調(diào)整，以提高SOM 神經(jīng)網(wǎng)絡(luò)的訓(xùn)練精度和速度。

1.2 SOM 算法原理

自組織特征神經(jīng)網(wǎng)絡(luò)算法實質(zhì)是對各神經(jīng)元之間連接權(quán)值向量調(diào)整和優(yōu)化過程，該過程分為粗學(xué)習(xí)與粗調(diào)整和精學(xué)習(xí)與細調(diào)2 個階段。粗學(xué)習(xí)與粗調(diào)整階段，常用歐式距離法或余弦法計算輸入向量和輸出向量之間相似程度，大致確定輸入向量在輸出層所對應(yīng)的影射位置[13]。精學(xué)習(xí)與細調(diào)整階段，在粗調(diào)整階段所建立的輸入和輸出拓撲關(guān)系基礎(chǔ)上，在小范圍內(nèi)對連接權(quán)值進行調(diào)整。

SOM 算法流程如圖2 所示，介紹如下。

圖2 SOM 算法流程圖

（1）權(quán)值向量的歸一化。對全連接權(quán)值向量wi=[wi1，wi2，…，wij，…，win]賦予初值，假設(shè)權(quán)值向量值wij線性無關(guān)，則可歸一化為

式中：j 為輸出向量個數(shù)，j=1，2，…，n。

（2）輸入向量的歸一化。對輸入向量x=[x（1t），x2（t），…，x（it），…x（mt）]T進行歸一化，即

式中：xi（t）為第t 次學(xué)習(xí)優(yōu)化得到的輸入向量；t 為優(yōu)化次數(shù)，t＝0，1，2，…。

（3）計算任一輸入向量xi（t）與第j 個輸出向量之間權(quán)值向量的歐式距離，即

選擇歐式距離dj最小的對應(yīng)的輸出向量為獲勝神經(jīng)元j*。

（4）選擇優(yōu)勝鄰域。以獲勝神經(jīng)元j*作為中心，根據(jù)優(yōu)化次數(shù)t 來確定優(yōu)化鄰域半徑。初始鄰域范圍Sj*（0）最大，隨著優(yōu)化次數(shù)的增加，鄰域范圍Sj*（t）逐步收縮。本文采用指數(shù)衰減法來縮減鄰域范圍，即

式中：T 為衰減常數(shù)，直接影響學(xué)習(xí)優(yōu)化迭代次數(shù)。

（5）權(quán)值向量優(yōu)化學(xué)習(xí)調(diào)整。對權(quán)值向量進行優(yōu)化調(diào)整，調(diào)整函數(shù)為

式中：βt為第t 次優(yōu)化的學(xué)習(xí)率，粗學(xué)習(xí)階段βt=β0e-t/T，精學(xué)習(xí)階段βt=β0（1-t/T）；hij（t）為第t 次優(yōu)化學(xué)習(xí)時輸出層獲勝神經(jīng)元j*調(diào)整的鄰域程度；β0為初始學(xué)習(xí)率。

調(diào)整后的權(quán)值向量為

重復(fù)以上步驟，直至優(yōu)化學(xué)習(xí)率小于設(shè)定值或達到設(shè)定的優(yōu)化學(xué)習(xí)次數(shù)，模型優(yōu)化結(jié)束。

2 時間權(quán)重

目前，基于用戶特征的個性化資源推薦策略中，往往只考慮了用戶瀏覽歷史記錄特征出現(xiàn)的的頻率，而忽視了其時間相關(guān)性。實際上，用戶搜索的內(nèi)容具有時間有效性，用戶興趣會隨時間流逝而變化[14]，過去某個時間段出現(xiàn)頻率較高的關(guān)鍵詞，在當(dāng)前階段搜索中并不一定密切相關(guān)，而用戶近期內(nèi)頻繁搜索或者檢索內(nèi)容與當(dāng)前搜索內(nèi)容更具延續(xù)性和關(guān)聯(lián)性，對當(dāng)前搜索內(nèi)容更具影響?；谶@一考慮，本文依據(jù)用戶歷史瀏覽資源距當(dāng)前檢索時間的遠近而賦予不同的權(quán)重，即考慮時間權(quán)重的方法，將其納入基于用戶特征的個性化資源推薦策略中。時間權(quán)重主要涉及有效歷史時間跨度t、周期劃分及權(quán)重函數(shù)，即

（1）有效歷史時間跨度t 的確定

有效歷史時間跨度系指所選取的有效瀏覽歷史記錄涵蓋的時間長度，由用戶學(xué)習(xí)同一領(lǐng)域相關(guān)內(nèi)容的周期長度決定。用戶學(xué)習(xí)同一領(lǐng)域相關(guān)內(nèi)容的周期越長，則有效歷史時間跨度越大，反之亦然。如果學(xué)習(xí)同一領(lǐng)域相關(guān)內(nèi)容的周期長，有效歷史時間跨度選取較小，則會導(dǎo)致用戶有效信息被遺漏。反之，如果學(xué)習(xí)同一領(lǐng)域相關(guān)內(nèi)容的周期短，有效歷史時間跨度設(shè)置過大，則會極大增加平臺的數(shù)據(jù)處理量。有效歷史時間跨度應(yīng)結(jié)合實際情況，根據(jù)用戶學(xué)習(xí)同一領(lǐng)域內(nèi)容的周期來確定。

（2）權(quán)重周期的劃分

將有效歷史時間跨度t 劃分為不同的權(quán)重周期T，同一權(quán)重周期內(nèi)的歷史瀏覽資源取相同時間權(quán)重值。有效時間跨度t 與權(quán)重周期的關(guān)系可表示為

式中：Ti為有效歷史時間跨度t 內(nèi)的第i 個權(quán)重周期，與本次檢索的時間排序由近及遠為T1，T2，…，Ti，…，Tn。

權(quán)重周期的選取與用戶的學(xué)習(xí)頻率密切相關(guān)，學(xué)習(xí)頻率越高，則T 的長度越短，反之亦然。權(quán)重周期長度的劃分基于以下2 點原則：其一要保證能夠及時提取用戶的新特征，其二要確保系統(tǒng)能夠濾除偶然因素對用戶特征的干擾。這2 點原則具有矛盾性，因此，權(quán)重周期的劃分需要權(quán)衡并通過測試達到最優(yōu)。

（3）時間權(quán)重函數(shù)的確定

對不同周期的歷史瀏覽資源賦予時間權(quán)重，決定了歷史瀏覽資源的對當(dāng)前檢索內(nèi)容有效性。因此，選取合適的權(quán)重函數(shù)對檢索結(jié)果的準(zhǔn)確性至關(guān)重要。張馳等[15]根據(jù)記憶激活理論，研究了用戶歷史行為物品對當(dāng)前物品影響的時間權(quán)重。通過對指數(shù)型函數(shù)、線性函數(shù)及二次函數(shù)的分析，指數(shù)函數(shù)具有初始遞減速度快、近期資源權(quán)重占比大的特點，更加符合資源檢索的實際情況，故選定指數(shù)型函數(shù)作為時間權(quán)重函數(shù)，即

式中：k、b 為待定系數(shù)，通過測試確定。

3 基于SOM 神經(jīng)網(wǎng)絡(luò)聚類算法電力資源快速精確檢索

基于SOM 神經(jīng)網(wǎng)絡(luò)聚類算法電力資源快速精確檢索流程如圖3 所示。精確檢索流程圖介紹如下。

圖3 電力企業(yè)大學(xué)資源快速精確檢索流程

（1）用戶聚類。根據(jù)用戶的基本信息和歷史瀏覽記錄提取用戶特征集，采用SOM 神經(jīng)網(wǎng)絡(luò)算法對用戶依據(jù)標(biāo)簽進行聚類，根據(jù)聚類結(jié)果構(gòu)建構(gòu)建具有相似特征的用戶集群；對集群用戶的歷史瀏覽記錄進行統(tǒng)計處理并形成關(guān)聯(lián)資源庫，為刷新快速推薦資源庫做好準(zhǔn)備。

（2）資源推薦。用戶登錄后，首先提取用戶所在的聚類集群信息，然后從用戶輸入信息中提取特征并與用戶特征集進行匹配。若匹配成功，則優(yōu)先從快速推薦資源庫進行資源推薦；若匹配不成功或快速推薦資源庫沒有符合用戶要求的資源，則從平臺總資源庫進行檢索并推薦。

（3）用戶特征集更新。當(dāng)用戶采納推薦資源后，自動生成歷史瀏覽記錄。基于時間權(quán)重對用戶特征集進行更新。用戶特征集每次更新后不一定重新參與聚類，需要對用戶特征集變化與設(shè)定閾值進行比較，若超過設(shè)定閾值則重新聚類，當(dāng)用戶被重新劃分到不同的聚類集群后，相應(yīng)的快速推薦資源庫也會相應(yīng)刷新。

3.1 基于SOM 算法的用戶聚類

為對電力企業(yè)大學(xué)平臺用戶進行聚類，首先需根據(jù)平臺資源和用戶信息建立用戶特征集體系，用戶特征集體系主要包括是否新員工、資源類型、作業(yè)對象、業(yè)務(wù)類型和電壓等級等，見表1；然后根據(jù)用戶信息和歷史瀏覽記錄建立用戶特征集；最后，利用SOM 算法對用戶進行聚類。任一用戶特征集可用n 維特征向量表示為

表1 用戶特征集體系

式中：Nk為任一員工k 的特征集信息；xkn為任一號員工k 的第n 個特征，n 為正整數(shù)。

根據(jù)式（9）所示的用戶特征集，利用SOM 算法對用戶進行聚類，將具有相似特征的用戶歸類，得到不同類族用戶的集合。

3.2 考慮時間權(quán)重的特征集更新

通常用戶檢索內(nèi)容與歷史瀏覽記錄具有相關(guān)性和延續(xù)性，不同時期的歷史瀏覽記錄對用戶當(dāng)前檢索的影響不同，因此對不同周期的歷史瀏覽記錄賦予時間權(quán)重，可使得檢索結(jié)果更加符合用戶的期望。因此，當(dāng)用戶產(chǎn)生新的瀏覽記錄后，重新對歷史瀏覽記錄的權(quán)重周期進行劃分，并對不同權(quán)重周期的歷史瀏覽記錄賦予時間權(quán)重，對用戶特征集進行更新，為下次用戶檢索做好準(zhǔn)備。

根據(jù)權(quán)重周期數(shù)量均勻地從時間權(quán)重函數(shù)中取權(quán)重向量y=[y1，y2，…，yj，…，yn]，任一用戶k 第j 個權(quán)重周期權(quán)重值ykj的歸一化為

于是，任一用戶k 的第i 個特征值可表示為

式中：xki為用戶k 的第i 個特征值，i=1，2，…，m；wkj為用戶k 第j 個權(quán)重周期的歸一化權(quán)重，j=1，2，…，n；Nji為第j 個權(quán)重周期中用戶第i 個特征出現(xiàn)的次數(shù)。

用戶特征集是否更新的述判據(jù)可表示為

式中：xki（j）為用戶k 第i 個特征第j 個周期的特征值；xki（j+1）為用戶k 第i 個特征第j+1 個周期的特征值；Xit為第i 個特征的設(shè)定閾值。當(dāng)用戶的特征值發(fā)生改變且滿足式（12）時，則對用戶特征集重新聚類更新；反之，維持原有聚類結(jié)果，不對用戶特征集進行更新。

4 應(yīng)用驗證及結(jié)果分析

以某電網(wǎng)電力企業(yè)大學(xué)在線學(xué)習(xí)平臺為例，對本文所提出的資源檢索方法的快速性和精準(zhǔn)性進行了驗證。

4.1 基于SOM 算法的用戶聚類結(jié)果及分析

建立電力企業(yè)大學(xué)在線學(xué)習(xí)平臺用戶特征集體系。從中隨機抽取600 條員工信息；將每個用戶按照“是否新員工”“瀏覽資源類型（視頻、PPT、AR 和VR）”“作業(yè)對象（變壓器、線路設(shè)備、斷路器、隔離開關(guān)和工程項目）”“業(yè)務(wù)類型（運行、維護、檢修、調(diào)度、巡視和財務(wù)結(jié)算）”“電壓等級（10、35、110、220 kV）”20 個特征作為輸入神經(jīng)元，以及輸出神經(jīng)元10×10 構(gòu)建SOM 神經(jīng)網(wǎng)絡(luò)；利用SOM 聚類算法對用戶特征集進行聚類，聚類結(jié)果如圖4 所示。圖中“·”代表具有相似特征的用戶類，“+”代表用戶。

圖4 聚類結(jié)果

由圖4 可見，共有95 個輸出神經(jīng)元被激活，表明600 名員工被劃分為95 個聚類簇。其中大的聚類簇有十幾個用戶，小的聚類簇僅有幾個用戶。之所以出現(xiàn)這種情況，是因為聚類群體總量較小，隨著聚類群體數(shù)量的增加，聚類簇內(nèi)用戶的數(shù)量會隨之增加。

4.2 資源檢索結(jié)果及分析

在上述用戶聚類的基礎(chǔ)上，假設(shè)新員工沒有聚類群組和關(guān)聯(lián)資源集群，老員工有聚類群組和關(guān)聯(lián)資源集群；隨機從平臺中提取多名新員工和老員工連續(xù)的歷史數(shù)據(jù)（包含檢索信息和與被采納的資源信息）各300 條；時間權(quán)重函數(shù)的待定系數(shù)由試驗確定。通過統(tǒng)計分析，得到新老員工資源檢索的正確率變化趨勢分別如圖5、圖6、表2 及表3 所示。

表2 新員工平均正確率 %

表3 老員工平均正確率 %

圖5 新員工用戶資源檢索準(zhǔn)確率

圖6 老員工用戶資源檢索準(zhǔn)確率

由圖5 和表2 可見：①由于新員工沒有歷史瀏覽記錄，未能形成聚類群組和關(guān)聯(lián)資源集群，其資源檢索正確率較低，隨著檢索次數(shù)的增加，歷史瀏覽記錄增加，資源檢索的正確率逐漸提高；②不考慮時間權(quán)重時，資源檢索正確率較低，且資源檢索次數(shù)與資源檢索正確率的關(guān)聯(lián)性弱；③采用指數(shù)時間權(quán)重函數(shù)時，能夠更快地提取歷史瀏覽記錄中新出現(xiàn)的特征，加速聚類并更新快速推薦資源庫，因此，采用指數(shù)時間權(quán)重函數(shù)的資源檢索的正確率最高。

由圖6 和表3 可見：①由于老員工已有聚類群組和關(guān)聯(lián)資源集群，其資源檢索正確率較高，受偶然性因素的影響，資源檢索正確率可能在小范圍內(nèi)波動；②不考慮時間權(quán)重時，資源檢索正確率較低，且資源檢索次數(shù)與資源檢索正確率的關(guān)聯(lián)性弱；③相較線性時間權(quán)重函數(shù)及二次時間權(quán)重函數(shù)而言，采用指數(shù)時間權(quán)重函數(shù)的資源檢索的正確率最高。

5 結(jié)論

提高在線學(xué)習(xí)平臺用戶資源檢索的快速性和精準(zhǔn)性，本文提出了一種基于SOM 和時間權(quán)重的電力企業(yè)大學(xué)資源快速精準(zhǔn)檢索方法。主要結(jié)論：①基于用戶基本信息和歷史瀏覽記錄建立了用戶特征集，采用SOM神經(jīng)網(wǎng)絡(luò)實現(xiàn)了對特征相似用戶的精確聚類，生成關(guān)聯(lián)資源集群并建立了用戶資源快速推薦庫。②提出了時間權(quán)重的概念，利用時間權(quán)重函數(shù)對用戶特征集進行更新，并對更新的用戶特征集再聚類，有效地提高了檢索資源推薦的快速性和精準(zhǔn)性。③本文所提出的方法應(yīng)用于某供電公司電力企業(yè)大學(xué)在線學(xué)習(xí)平臺，驗證結(jié)果表明，采用本文所提出的資源檢索方法，用戶可快速精準(zhǔn)地檢索所需要的資源。