李菲 曹陽 顧問

（三江學(xué)院計(jì)算機(jī)科學(xué)與工程學(xué)院，江蘇 南京 210012）

1 引言

學(xué)生學(xué)習(xí)成績(jī)預(yù)測(cè)一直是教育界研究的熱點(diǎn)，尤其在當(dāng)前疫情期間，居家學(xué)習(xí)和在線教學(xué)成為常態(tài)，如何有效利用信息技術(shù)，加強(qiáng)學(xué)生學(xué)習(xí)效果識(shí)別和預(yù)測(cè)，是教育領(lǐng)域的難點(diǎn)和重點(diǎn)。學(xué)生成績(jī)預(yù)測(cè)幫助老師及時(shí)調(diào)整教學(xué)方法、監(jiān)督和提醒學(xué)生，從而提高學(xué)生的最終學(xué)習(xí)成績(jī)。

在線教學(xué)借助中國(guó)大學(xué)慕課MOOC、超星、騰訊課堂等平臺(tái)，使用騰訊會(huì)議、QQ教室等工具，相比傳統(tǒng)教學(xué)，形式更靈活、學(xué)生學(xué)習(xí)行為更多樣化，這對(duì)教師的教學(xué)方法提出更高要求。劉茜萍等[1]在疫情期間，根據(jù)課程特點(diǎn)，綜合應(yīng)用多種不同的教學(xué)平臺(tái)設(shè)計(jì)互動(dòng)教學(xué)方案，提高教學(xué)質(zhì)量。陳逸菲等[2]利用SPOC課程教學(xué)的學(xué)習(xí)行為數(shù)據(jù)，從中找到對(duì)成績(jī)影響最大的學(xué)習(xí)行為，實(shí)現(xiàn)數(shù)據(jù)驅(qū)動(dòng)的混合式教學(xué)方式。除了改進(jìn)教學(xué)方法外，機(jī)器學(xué)習(xí)方法、神經(jīng)網(wǎng)絡(luò)技術(shù)也應(yīng)用在線教學(xué)數(shù)據(jù)分析中，幫助預(yù)測(cè)學(xué)習(xí)成績(jī)，提升學(xué)習(xí)效果。鄧天平等[3]采用聚類技術(shù)，結(jié)合慕課堂線上學(xué)習(xí)數(shù)據(jù)和線下考試成績(jī)，對(duì)學(xué)生進(jìn)行聚類并分析各學(xué)習(xí)行為和成績(jī)之間的相關(guān)性。郎波等[4]根據(jù)學(xué)習(xí)平臺(tái)上的日常學(xué)習(xí)數(shù)據(jù)，選取影響因子，采用BP神經(jīng)網(wǎng)絡(luò)和遺傳算法，對(duì)學(xué)生成績(jī)進(jìn)行預(yù)測(cè)。曹洪江等[5]分析學(xué)生歷史成績(jī)的時(shí)序性，結(jié)合學(xué)習(xí)過程的遺忘特點(diǎn)，引入LSTM網(wǎng)絡(luò)進(jìn)行建模，成績(jī)預(yù)測(cè)取得了較好的準(zhǔn)確性。另外，考慮學(xué)生對(duì)課程的主觀情感因素，葉俊民等[6]針對(duì)學(xué)習(xí)社區(qū)的短文本情感特征，訓(xùn)練深度學(xué)習(xí)模型。以上研究方法大多采用單一的神經(jīng)網(wǎng)絡(luò)模型，即輸入學(xué)生的知識(shí)結(jié)構(gòu)和學(xué)習(xí)情感，沒有從線上教學(xué)實(shí)際出發(fā)，考慮學(xué)生學(xué)習(xí)行為的多樣性，因此本文分析學(xué)生在線學(xué)習(xí)的行為特點(diǎn)，提出融合LSTM網(wǎng)絡(luò)和感知機(jī)MLP的預(yù)測(cè)模型：

（1）根據(jù)學(xué)生在線學(xué)習(xí)的周期特點(diǎn)，將學(xué)習(xí)特征分為每周學(xué)習(xí)特征和整學(xué)期學(xué)習(xí)特征兩大類；

（2）對(duì)每周學(xué)習(xí)特征，使用長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)建模，模擬學(xué)生周期性學(xué)習(xí)過程，對(duì)整學(xué)期學(xué)習(xí)特征，采用MLP網(wǎng)絡(luò)建模；

（3）將LSTM網(wǎng)絡(luò)和MLP網(wǎng)絡(luò)融合，完成學(xué)生成績(jī)預(yù)測(cè)。

2 融合模型

學(xué)生學(xué)習(xí)成績(jī)預(yù)測(cè)，通常使用學(xué)習(xí)過程中學(xué)生的若干行為特征，構(gòu)建合適的學(xué)習(xí)模型。學(xué)習(xí)成績(jī)預(yù)測(cè)模型可以用數(shù)學(xué)符號(hào)表示如下：

（1）學(xué)生課程成績(jī)按照5個(gè)等級(jí)記錄，分別為優(yōu)秀、良好、一般、及格和較差，記為y∈[0,1,2,3,4]，y(i)=3表示第i個(gè)學(xué)生的成績(jī)及格。

（2）學(xué)生每周學(xué)習(xí)行為，記為Pikj∈Rq，k∈{1,…,k}，k代表一個(gè)學(xué)期的學(xué)習(xí)周數(shù)，q代表每周的學(xué)生行為數(shù)據(jù)的維度[7]，例如學(xué)生Si在k周（共16周）產(chǎn)生的學(xué)習(xí)行為特征序列為Pi=[Pi1,Pi2,…,Pik]。學(xué)生的每周學(xué)習(xí)行為有明顯時(shí)序特點(diǎn)，可通過長(zhǎng)短期記憶時(shí)間網(wǎng)絡(luò)LSTM訓(xùn)練。

（3）學(xué)生學(xué)期學(xué)習(xí)行為，記為E=[ec,ez,eg,ep]，ec為單元測(cè)驗(yàn)成績(jī)、ez為單元作業(yè)成績(jī)、eg為結(jié)課成績(jī)、ep為課程評(píng)價(jià)。

對(duì)學(xué)生學(xué)習(xí)效果進(jìn)行預(yù)測(cè)，整個(gè)過程由采集學(xué)生學(xué)習(xí)數(shù)據(jù)、提取學(xué)習(xí)行為特征、構(gòu)建學(xué)習(xí)模型和模型效果評(píng)價(jià)。（1）從中國(guó)大學(xué)MOOC平臺(tái)、騰訊會(huì)議收集學(xué)生在線學(xué)習(xí)數(shù)據(jù)；（2）提取每周學(xué)習(xí)行為和學(xué)期整體學(xué)習(xí)行為，并進(jìn)行數(shù)據(jù)優(yōu)化和清理；（3）對(duì)每周學(xué)習(xí)行為建立LSTM模型，并融合學(xué)期整體學(xué)習(xí)特征，構(gòu)建學(xué)習(xí)效果預(yù)測(cè)模型；(4)通過常見的性能評(píng)價(jià)指標(biāo)對(duì)預(yù)測(cè)模型進(jìn)行評(píng)價(jià)。預(yù)測(cè)模型框架及處理流程如圖1所示。

圖1 預(yù)測(cè)模型框架

2.1 數(shù)據(jù)源信息采集

課題數(shù)據(jù)來源于三江學(xué)院計(jì)算機(jī)學(xué)院軟件工程專業(yè)和計(jì)算機(jī)科學(xué)技術(shù)450名學(xué)生在軟件測(cè)試課程的學(xué)習(xí)數(shù)據(jù)，每個(gè)學(xué)生數(shù)據(jù)分別從中國(guó)大學(xué)慕課MOOC在線開放課程、慕課堂、騰訊會(huì)議記錄中獲取，并結(jié)合線下學(xué)習(xí)情況：（1）在線開放課程記錄包括單元測(cè)驗(yàn)、單元作業(yè)、結(jié)課成績(jī)、討論區(qū)發(fā)言個(gè)數(shù)、獲贊數(shù)、課程評(píng)價(jià)；（2）慕課堂記錄包括考勤、點(diǎn)名、隨堂練習(xí)成績(jī)、討論次數(shù)、優(yōu)秀發(fā)言次數(shù)、視頻觀看次數(shù)、視頻觀看個(gè)數(shù)、視頻觀看時(shí)長(zhǎng)；（3）騰訊會(huì)議學(xué)習(xí)記錄包括入會(huì)情況、課堂表現(xiàn)，課堂表現(xiàn)可認(rèn)為是線上課程的學(xué)習(xí)積極性，在實(shí)際教學(xué)中設(shè)置為“網(wǎng)課活躍度”行為特征，以量化學(xué)生線上學(xué)習(xí)參與程度。授課教師采用騰訊會(huì)議的投票功能，投票主題為知識(shí)點(diǎn)問題，學(xué)生對(duì)各選項(xiàng)進(jìn)行投票選擇，實(shí)踐表明線上教學(xué)中學(xué)生不會(huì)主動(dòng)參與話題討論，但大部分學(xué)生能積極投票，因此網(wǎng)課活躍度反映學(xué)生的參與程度，學(xué)生每參與一次投票活動(dòng)，增加一個(gè)網(wǎng)課活躍度；（4）線下學(xué)習(xí)主要數(shù)據(jù)為期末考試成績(jī)和實(shí)驗(yàn)成績(jī)，期末考試成績(jī)作為預(yù)測(cè)目標(biāo)數(shù)據(jù)。

利用這些學(xué)習(xí)記錄，從線上線下多個(gè)維度綜合體現(xiàn)學(xué)生的學(xué)習(xí)情況，反應(yīng)學(xué)生的主動(dòng)學(xué)習(xí)態(tài)度和實(shí)際知識(shí)掌握程度，是學(xué)習(xí)成績(jī)預(yù)測(cè)的主要依據(jù)。

2.2 數(shù)據(jù)處理及歸類

學(xué)生學(xué)習(xí)數(shù)據(jù)采集后需要進(jìn)行分析，處理學(xué)習(xí)記錄中缺失、重復(fù)的異常情況，對(duì)學(xué)生的課程評(píng)價(jià)完成情感分析，具體操作如下：

（1）部分學(xué)生的學(xué)習(xí)記錄有缺失。個(gè)別學(xué)生沒有加入學(xué)校在線開放課程，單元測(cè)驗(yàn)和單元考試學(xué)習(xí)記錄為空，只有慕課堂記錄和線下成績(jī)。對(duì)這部分學(xué)生的缺失數(shù)據(jù)以0計(jì)算。

（2）部分學(xué)生的學(xué)習(xí)記錄有重復(fù)。有部分學(xué)生使用多個(gè)賬號(hào)登錄學(xué)習(xí)，產(chǎn)生多組學(xué)習(xí)數(shù)據(jù)，例如學(xué)生使用微信掃碼登錄慕課堂，使用認(rèn)證賬號(hào)登錄在線開放課程，因此有兩組數(shù)據(jù)，需要教師手工合并為同一組數(shù)據(jù)。

（3）學(xué)生課程評(píng)價(jià)情感分析。學(xué)生對(duì)課程評(píng)價(jià)屬于主觀感受，且非實(shí)名評(píng)論，因此對(duì)這部分?jǐn)?shù)據(jù)要進(jìn)行處理：首先學(xué)生評(píng)價(jià)時(shí)采用昵稱，教師從后臺(tái)數(shù)據(jù)庫關(guān)聯(lián)學(xué)生學(xué)號(hào)姓名；其次，并非所有學(xué)生都給出評(píng)價(jià)，參與評(píng)價(jià)的學(xué)生約占總?cè)藬?shù)的2/3；另外還存在一些無效評(píng)價(jià)、重復(fù)評(píng)價(jià)；最后，有的學(xué)生評(píng)價(jià)比較隱晦，沒有明確表達(dá)自己對(duì)課程的情感。綜上，我們?cè)趧h除重復(fù)和無效評(píng)價(jià)基礎(chǔ)上，采用自然語言處理技術(shù)，對(duì)學(xué)生評(píng)價(jià)短文本處理，獲取學(xué)生的課程情感，設(shè)定為中立、消極、積極三個(gè)等級(jí)。

學(xué)生課程評(píng)價(jià)，采用SnowNLP進(jìn)行情感分析。Snow NLP是使用Python編寫的開源情感分析程序，其本質(zhì)是貝葉斯分類[8]，通過pip3 install snownlp安裝，該庫計(jì)算語句情感sentiments，分值范圍為0~1，分值越高表示其越正向，我們?cè)O(shè)定sentiments>0.5為積極，=0.5為中立，<0.5為消極。

SnowNLP來源于電商評(píng)價(jià)，泛化能力存在一定局限性，因此我們結(jié)合結(jié)巴分詞，使用textrank關(guān)鍵詞提取，強(qiáng)化分詞，以提高情感評(píng)價(jià)準(zhǔn)確性[9]。例如有學(xué)生評(píng)價(jià)：“雖然我學(xué)的不是軟件專業(yè)，但是這門課還是教會(huì)了我很多東西”。SnowNLP評(píng)價(jià)sentiments值為0.61，判斷為積極情感，但通過結(jié)巴分詞textrank后，sentiments為0.73，進(jìn)一步加強(qiáng)了情感導(dǎo)向。

學(xué)生原始數(shù)據(jù)處理后，根據(jù)學(xué)習(xí)數(shù)據(jù)特點(diǎn)，將這些數(shù)據(jù)按時(shí)間維度分為每周學(xué)習(xí)記錄、學(xué)期整體記錄兩大類，如慕課堂中每周簽到、隨堂練習(xí)記錄歸為周數(shù)據(jù)，一學(xué)期軟件測(cè)試課程教學(xué)周期為16周，因此每個(gè)學(xué)生有16次周數(shù)據(jù)。分類后的學(xué)生學(xué)習(xí)行為特征如下：

表1 學(xué)期整體學(xué)習(xí)行為特征

表2 每周學(xué)習(xí)行為特征

學(xué)生數(shù)據(jù)經(jīng)過清洗處理后，還需要根據(jù)特征類型進(jìn)行優(yōu)化處理，針對(duì)標(biāo)簽類型的學(xué)習(xí)特征，采用one-hot編碼，將標(biāo)簽分類轉(zhuǎn)換為啞變量(Dummy Variable)；針對(duì)數(shù)字類型的學(xué)習(xí)特征，采用歸一化處理，通過最小-最大標(biāo)準(zhǔn)化映射到[0，1]區(qū)間，公式如下：

2.3 建模

當(dāng)前在學(xué)生學(xué)習(xí)領(lǐng)域的研究，往往使用獨(dú)立輸入的神經(jīng)網(wǎng)絡(luò)模型[5,6,10]，即網(wǎng)絡(luò)只有一個(gè)輸入和一個(gè)輸出，而且網(wǎng)絡(luò)是層的線性堆疊。學(xué)生學(xué)習(xí)成績(jī)預(yù)測(cè)問題，包含多維度學(xué)習(xí)行為特征，網(wǎng)絡(luò)模型需要多模態(tài)輸入，使用不同類型的神經(jīng)層處理不同類型的數(shù)據(jù)。雖然可以訓(xùn)練多個(gè)獨(dú)立的模型，對(duì)預(yù)測(cè)值做加權(quán)平均，但因?yàn)槟Ｐ吞崛〉男畔⒋嬖谌哂啵虼酸槍?duì)本課題的實(shí)際情況，構(gòu)建一個(gè)具有多輸入分支的網(wǎng)絡(luò)模型，學(xué)生周學(xué)習(xí)數(shù)據(jù)采用LSTM網(wǎng)絡(luò)，學(xué)生學(xué)期學(xué)習(xí)數(shù)據(jù)采用MLP網(wǎng)絡(luò)，用一個(gè)可以組合多個(gè)張量的層將這兩個(gè)不同的輸入分支合并。整個(gè)模型的結(jié)構(gòu)如圖2所示。

圖2 學(xué)生學(xué)習(xí)成績(jī)預(yù)測(cè)融合模型結(jié)構(gòu)

（1）學(xué)生每周學(xué)習(xí)情況具有時(shí)序特點(diǎn)，每周學(xué)習(xí)情況動(dòng)態(tài)反映了學(xué)生的學(xué)習(xí)效果，對(duì)后續(xù)學(xué)習(xí)產(chǎn)生影響。LSTM能夠?qū)W習(xí)長(zhǎng)期依賴關(guān)系，建立遠(yuǎn)距離因果聯(lián)系，因此適合學(xué)生周期學(xué)習(xí)特征，輸入學(xué)生的時(shí)序數(shù)據(jù)，輸出具有代表性的行為特征，體現(xiàn)學(xué)生在不同時(shí)刻的學(xué)習(xí)狀態(tài)。

在LSTM網(wǎng)絡(luò)中，用門的開關(guān)程度來決定對(duì)哪些信息進(jìn)行讀寫或清除，有遺忘門、更新門、輸入門。LSTM通過遺忘門的Sigmoid激活函數(shù)實(shí)現(xiàn)遺忘不重要的信息，例如學(xué)生第一周的部分學(xué)習(xí)內(nèi)容對(duì)第二周的學(xué)習(xí)幫助不大，因此學(xué)生在第二周的學(xué)習(xí)會(huì)丟棄這部分內(nèi)容。遺忘門公式為：

LSTM通過輸入門將有用的新信息加入到記憶單元，計(jì)算公式為：

LSTM的輸出門，從當(dāng)前狀態(tài)中選擇重要的信息作為輸出，輸出門ot(s)得到當(dāng)前時(shí)間步的學(xué)生學(xué)習(xí)狀態(tài)，即輸出ht(s)，計(jì)算公式為：

以上公式中W是權(quán)值矩陣，B是偏置，?表示點(diǎn)積。

（2）學(xué)生的學(xué)期學(xué)習(xí)特征，由單元測(cè)驗(yàn)成績(jī)、單元作業(yè)成績(jī)、開放課程結(jié)課考試成績(jī)、學(xué)生課程評(píng)價(jià)情感4個(gè)特征組成，代表學(xué)生在該學(xué)期中的整體表現(xiàn)，設(shè)定為MLP網(wǎng)絡(luò)，作為學(xué)生評(píng)價(jià)模型的另一個(gè)輸入，和每周學(xué)習(xí)的LSTM模型實(shí)現(xiàn)融合。

把學(xué)期整體情況的輸出端和每周學(xué)習(xí)情況的輸出端合并起來，采用keras自帶的concatenate函數(shù)，形成融合模型的輸入，再接上一個(gè)全連接層，完成整個(gè)模型構(gòu)建。全連接層采用激活函數(shù)ReLu，模型優(yōu)化器為rmsprop，損失函數(shù)為categorical_crossentropy，迭代次數(shù)Epoch為500輪，輸出層采用softmax預(yù)測(cè)學(xué)生最終成績(jī)等級(jí)。

3 實(shí)驗(yàn)結(jié)果與分析

實(shí)驗(yàn)數(shù)據(jù)集為2.2節(jié)處理后的學(xué)生課程數(shù)據(jù)，評(píng)估指標(biāo)采用精確率（Precision）、召回率（Recall）、F值（F1-Score）進(jìn)行模型分類預(yù)測(cè)性度量。精確率是模型正確分類的正例樣本數(shù)與總的正例樣本總數(shù)的比值；召回率是模型正確分類的正例樣本數(shù)與分類正確的樣本總數(shù)的比值；F1值是準(zhǔn)確率與召回率的調(diào)和平均，綜合體現(xiàn)精確率和召回率，F(xiàn)1值越高，分類效果越好。

其中，TP表示學(xué)生標(biāo)簽為正例，被分類為正例；FN表示學(xué)生標(biāo)簽為正例，被分類為反例；FP表示學(xué)生標(biāo)簽為反例，被分類為正例；TN表示學(xué)生標(biāo)簽為反例，被分類為反例。

為了展示本文模型的整體性能，將本文提出的融合網(wǎng)絡(luò)和支持向量機(jī)SVM、邏輯回歸LR、多層感知機(jī)MLP進(jìn)行對(duì)比實(shí)驗(yàn)。實(shí)驗(yàn)結(jié)果如表3所示。

表3 實(shí)驗(yàn)對(duì)比結(jié)果

從表3的實(shí)驗(yàn)結(jié)果可見，LSTM+MLP融合的網(wǎng)絡(luò)模型，在精確率、召回率和F值上取得最優(yōu)值。對(duì)比實(shí)驗(yàn)中其他算法預(yù)測(cè)準(zhǔn)確率不高的原因，分析可能對(duì)所有的特征信息進(jìn)行隨機(jī)分類訓(xùn)練，在訓(xùn)練時(shí)沒有區(qū)別性對(duì)待各屬性特征對(duì)學(xué)生成績(jī)的重要程度，LSTM捕獲了學(xué)生的序列信息，考慮每周的行為信息，加強(qiáng)了重要屬性特征提取，結(jié)合學(xué)期學(xué)習(xí)行為，大大提高了模型的預(yù)測(cè)分類效果。

4 結(jié)語

本文針對(duì)在線教學(xué)現(xiàn)狀，提出了一種LSTM和MLP融合的學(xué)生成績(jī)預(yù)測(cè)方法，將學(xué)生學(xué)習(xí)數(shù)據(jù)分為周期性和整學(xué)期兩種類型，周學(xué)習(xí)數(shù)據(jù)采用LSTM網(wǎng)絡(luò)建模，學(xué)期數(shù)據(jù)采用MLP建模，這兩種模型融合使得預(yù)測(cè)能力更強(qiáng)，有效提高學(xué)生成績(jī)分類的準(zhǔn)確性。在本校軟件測(cè)試課程上進(jìn)行實(shí)驗(yàn)，實(shí)驗(yàn)結(jié)果表明，本文提出的融合模型取得較好的預(yù)測(cè)效果。未來的工作主要對(duì)學(xué)生學(xué)習(xí)行為之間的關(guān)系、學(xué)習(xí)行為與最終課程成績(jī)之間的關(guān)系采用更先進(jìn)的神經(jīng)網(wǎng)絡(luò)表達(dá)，著重分析各類關(guān)系及關(guān)系權(quán)重，提高預(yù)測(cè)結(jié)果，準(zhǔn)確反應(yīng)學(xué)生的主動(dòng)學(xué)習(xí)態(tài)度和實(shí)際知識(shí)掌握程度。