尹劍飛，何玉林

（深圳大學(xué) 計(jì)算機(jī)與軟件學(xué)院，廣東 深圳 518060）

0 引 言

隨著人工智能、機(jī)器學(xué)習(xí)等知識(shí)在各個(gè)行業(yè)的應(yīng)用，如何培養(yǎng)人工智能相關(guān)領(lǐng)域高素質(zhì)人才成為學(xué)術(shù)界和產(chǎn)業(yè)界共同關(guān)注的問題。正如《國(guó)務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知》中指出，把高端人才隊(duì)伍建設(shè)作為人工智能發(fā)展的重中之重，堅(jiān)持培養(yǎng)和引進(jìn)相結(jié)合，完善人工智能教育體系，加強(qiáng)人才儲(chǔ)備和梯隊(duì)建設(shè)，但從目前機(jī)器學(xué)習(xí)相關(guān)領(lǐng)域的本科教學(xué)實(shí)踐來看，主要存在內(nèi)容較為單一、實(shí)操性不強(qiáng)等問題。

1 機(jī)器學(xué)習(xí)的知識(shí)層次

機(jī)器學(xué)習(xí)學(xué)科涉及多方面的知識(shí)，內(nèi)容廣、基礎(chǔ)寬，若按應(yīng)用方向劃分，可以得到表1中的機(jī)器學(xué)習(xí)知識(shí)層次。第1層給出了最大粒度的劃分，分為監(jiān)督、無監(jiān)督和強(qiáng)化學(xué)習(xí)3個(gè)主要的分類研究；第2層在第1層的基礎(chǔ)上做了較細(xì)粒度的劃分，如分類和回歸屬于監(jiān)督學(xué)習(xí)、聚類屬于無監(jiān)督學(xué)習(xí)、強(qiáng)化學(xué)習(xí)可分為有模型假設(shè)和無模型假設(shè)的學(xué)習(xí)等；第4層是具體的算法大類，如CNN是第3層深度神經(jīng)網(wǎng)絡(luò)的一種表現(xiàn)形式；第5層是更為通用的技術(shù)方法，在第4層算法大類中被廣泛采用。

在機(jī)器學(xué)習(xí)相關(guān)的本科教學(xué)課程配置方面，一般為大學(xué)三年級(jí)的學(xué)生準(zhǔn)備了一個(gè)學(xué)期的1～2門選修課，如機(jī)器學(xué)習(xí)導(dǎo)論、數(shù)據(jù)挖掘?qū)д摚婕暗慕虒W(xué)內(nèi)容主要有數(shù)據(jù)預(yù)處理技術(shù)、PCA、LDA、LLE、聚類分析、關(guān)聯(lián)規(guī)則、SVM、樸素貝葉斯分類器、AdaBoost等，考核方式為課程論文或與項(xiàng)目相結(jié)合?？紤]到課程學(xué)習(xí)量的減負(fù)和學(xué)科建設(shè)的均衡性，這樣的課程安排有一定的合理性，但在參照表1中機(jī)器學(xué)習(xí)知識(shí)層次的情況下，課程安排在廣度和深度兩方面都有一定缺失[1]，特別是深度方面缺少通用技術(shù)方法的介紹，掌握像Adam、隨機(jī)采樣、變分推斷等基礎(chǔ)性算法的原理對(duì)于提高解決問題的能力具有重要意義；缺少通用算法原則的訓(xùn)練，如基于梯度的數(shù)值優(yōu)化算法設(shè)計(jì)、基于貝葉斯原則的優(yōu)化目標(biāo)函數(shù)設(shè)計(jì)、基于分布的抽樣優(yōu)化算法等；缺少新知識(shí)點(diǎn)的引入和復(fù)雜工程訓(xùn)練，如深度學(xué)習(xí)方面，包括基于CNN、RNN、LSTM的算法設(shè)計(jì)，如強(qiáng)化學(xué)習(xí)方面，包括DQN、Actor-Critic等算法以及游戲?qū)?、智能體等應(yīng)用。

若從技術(shù)視角入手，如機(jī)器學(xué)習(xí)著名學(xué)者M(jìn). I. Jordan所言，機(jī)器學(xué)習(xí)是概率和優(yōu)化兩方面相結(jié)合的一種綜合應(yīng)用，可以得到表2中的知識(shí)層次。對(duì)比表1和表2可知有一些知識(shí)點(diǎn)是重疊的，如表1第5層的極大似然、核方法、EM算法與表2的極大似然、MAP 、點(diǎn)積空間、MM算法有共同之處，但表1中還有不少知識(shí)點(diǎn)具有應(yīng)用的獨(dú)特性，如Batch規(guī)范化、Dropout、Adam這些源自深度神經(jīng)網(wǎng)絡(luò)訓(xùn)練的算法，與表2中一些概念有聯(lián)系但又有較多的改變，如Batch規(guī)范化與概率論的zscore數(shù)據(jù)預(yù)處理有相似性，但應(yīng)用場(chǎng)景從一維隨機(jī)變量的正規(guī)化變成應(yīng)用嵌套非線性函數(shù)的神經(jīng)網(wǎng)絡(luò)激活單元的輸出正規(guī)化；又如Adam算法可以看作對(duì)梯度下降算法進(jìn)行自適應(yīng)步長(zhǎng)和梯度方向正規(guī)化的改進(jìn)，以服務(wù)于深度神經(jīng)網(wǎng)絡(luò)大量參數(shù)值的搜索過程。

表1 按應(yīng)用劃分的機(jī)器學(xué)習(xí)知識(shí)層級(jí)示例

表2 按技術(shù)劃分的機(jī)器學(xué)習(xí)知識(shí)層級(jí)示例

從大學(xué)教育的能力培養(yǎng)角度來講，應(yīng)該更多地加強(qiáng)以表1的第5層和表2的第3層為代表的基礎(chǔ)概念和算法方面的訓(xùn)練，因?yàn)樗鼈兙哂懈鼜V泛的應(yīng)用場(chǎng)景，通過組合這些基礎(chǔ)知識(shí)可以創(chuàng)造新的算法、解決更廣泛的機(jī)器學(xué)習(xí)和優(yōu)化問題。然而，在課程教學(xué)編排上如果直接講述表2第3層和表1第5層的內(nèi)容，就會(huì)產(chǎn)生以下幾個(gè)問題：①單個(gè)知識(shí)點(diǎn)涉及的數(shù)學(xué)背景知識(shí)較深，需要較多的基礎(chǔ)知識(shí)鋪墊，如無監(jiān)督學(xué)習(xí)的子空間聚類研究方向的譜聚類算法就應(yīng)用了譜分解這一知識(shí)點(diǎn)，位于表2的第3層，若要從矩陣論的角度講清楚它，則需要了解對(duì)稱矩陣、特征根、正交矩陣、譜線性空間、特征向量、超橢球的幾何關(guān)系等相關(guān)知識(shí)，這樣容易陷入更多的數(shù)學(xué)細(xì)節(jié)而偏離應(yīng)用上下文；②缺少應(yīng)用上下文的導(dǎo)引，降低課程的趣味性，也削弱多個(gè)知識(shí)點(diǎn)構(gòu)成的整體性；③不是每個(gè)知識(shí)點(diǎn)都需要覆蓋，對(duì)于相近的知識(shí)點(diǎn)，如Hellinger距離與搬土距離，只需選擇一個(gè)即可。因此，如何在有限的教學(xué)課時(shí)內(nèi)，有選擇地覆蓋表1第5層和表2第3層的基礎(chǔ)概念和算法，如何設(shè)計(jì)一組機(jī)器學(xué)習(xí)主題將這些基礎(chǔ)知識(shí)點(diǎn)串聯(lián)起來，是很值得研究的課題。

2 教學(xué)設(shè)計(jì)

多數(shù)機(jī)器學(xué)習(xí)書籍[2-5]將知識(shí)點(diǎn)按照應(yīng)用方向，即監(jiān)督學(xué)習(xí)、無監(jiān)督學(xué)習(xí)和強(qiáng)化學(xué)習(xí)進(jìn)行歸類，在每個(gè)方向下羅列較多的具體算法，如屬于監(jiān)督學(xué)習(xí)方向的SVM、神經(jīng)網(wǎng)絡(luò)、RNN、LSTM、決策樹等。這種知識(shí)點(diǎn)編排對(duì)課程教學(xué)具體實(shí)施提出挑戰(zhàn)，存在以下問題：①在某個(gè)應(yīng)用方向的算法教學(xué)上停留過多時(shí)間，影響機(jī)器學(xué)習(xí)的全局觀把握，容易陷入特定應(yīng)用的固定思維模式，如監(jiān)督學(xué)習(xí)作為應(yīng)用主流，一般給予較多的課時(shí)，監(jiān)督學(xué)習(xí)的基本過程有特征選擇、特征變換、標(biāo)簽設(shè)計(jì)、目標(biāo)函數(shù)設(shè)計(jì)與正則化、數(shù)據(jù)集的訓(xùn)練、驗(yàn)證與測(cè)試劃分、交叉驗(yàn)證、模型選擇、超參數(shù)搜索等，雖然這些基本過程中的其他部分可以用于無監(jiān)督學(xué)習(xí)、強(qiáng)化學(xué)習(xí)等應(yīng)用方向，但是數(shù)據(jù)集的劃分、交叉驗(yàn)證和模型選擇這3個(gè)部分就不適于無監(jiān)督學(xué)習(xí)、強(qiáng)化學(xué)習(xí)，歸根結(jié)底，這3個(gè)部分需要標(biāo)簽信息的參與，因而帶有鮮明的監(jiān)督學(xué)習(xí)特征。進(jìn)一步而言，絕大多數(shù)監(jiān)督學(xué)習(xí)方法使用批數(shù)據(jù)，對(duì)于流數(shù)據(jù)缺乏相關(guān)介紹。②對(duì)每個(gè)細(xì)分的學(xué)習(xí)算法做了過于精致的敘述，缺少綜合應(yīng)用場(chǎng)景的案例講解，如文獻(xiàn)[2]關(guān)于神經(jīng)網(wǎng)絡(luò)的自動(dòng)梯度推導(dǎo)，對(duì)于本科生來說有較高難度，況且主流的機(jī)器學(xué)習(xí)工具如tensorf l ow、pytorch等都提供了自動(dòng)梯度計(jì)算支持[6]。因此，對(duì)于某些較深的技術(shù)內(nèi)容可以作適當(dāng)裁剪，有助于保證全局知識(shí)體系的有效掌控而不是陷入某個(gè)技術(shù)細(xì)節(jié)，同時(shí)有助于提高學(xué)習(xí)的產(chǎn)出性。

鑒于上述原因，一種適合于本科機(jī)器學(xué)習(xí)的課程設(shè)計(jì)方案應(yīng)該以具有貫穿性的應(yīng)用案例為主線，開發(fā)逐漸增強(qiáng)的案例版本，在有新知識(shí)加入的同時(shí)保證過程的完整性。應(yīng)用案例模板示例如圖1所示。

圖1給出了3種應(yīng)用案例模板，A模板對(duì)應(yīng)于一般性的無監(jiān)督學(xué)習(xí)算法執(zhí)行過程；B模板對(duì)應(yīng)一般性的監(jiān)督學(xué)習(xí)算法流程。通過對(duì)比A和B，可知監(jiān)督學(xué)習(xí)在標(biāo)簽設(shè)計(jì)、模型參數(shù)調(diào)整方面顯著不同，這是從目標(biāo)函數(shù)設(shè)計(jì)和參數(shù)更新的角度刻畫無監(jiān)督學(xué)習(xí)與有監(jiān)督學(xué)習(xí)的細(xì)微差別。C模板對(duì)應(yīng)一般性的在線學(xué)習(xí)或強(qiáng)化學(xué)習(xí)執(zhí)行流程，通過對(duì)比C與AB發(fā)現(xiàn)，在線學(xué)習(xí)或強(qiáng)化學(xué)習(xí)的參數(shù)調(diào)整是連續(xù)進(jìn)行的，而監(jiān)督學(xué)習(xí)或無監(jiān)督學(xué)習(xí)在參數(shù)調(diào)整方面都有一個(gè)明顯的分界點(diǎn)，該分界點(diǎn)劃分出模型運(yùn)行前與運(yùn)行后。在ABC應(yīng)用案例模板的基礎(chǔ)上，可以將表1和表2 的知識(shí)點(diǎn)有選擇地替換或插入相應(yīng)的環(huán)節(jié)，形成多個(gè)具體應(yīng)用案例，如用維度化簡(jiǎn)PCA替換特征變換，用極大似然、Batch規(guī)范化和DNN替換目標(biāo)函數(shù)設(shè)計(jì)，用Adam替換優(yōu)化算法，用貝葉斯優(yōu)化方法替換超參調(diào)整，可以設(shè)計(jì)出一個(gè)基于DNN的監(jiān)督學(xué)習(xí)案例。

3 教學(xué)效果

為驗(yàn)證提出的課程設(shè)計(jì)方案，我們?cè)趫D1的基礎(chǔ)上設(shè)計(jì)了若干機(jī)器學(xué)習(xí)案例，包括基于流形學(xué)習(xí)和基于深度學(xué)習(xí)相結(jié)合的監(jiān)督學(xué)習(xí)案例、基于重要性采樣的變分推斷和強(qiáng)化學(xué)習(xí)相結(jié)合的在線學(xué)習(xí)案例等，并將這些案例融入我院大數(shù)據(jù)班的教學(xué)過程。通過概念（Concept）、問題解決（ProbSolv）、編程能力（Prog）、數(shù)據(jù)分析（DataAna）、流程創(chuàng)新（FlowInno）考查應(yīng)用案例的教學(xué)效果，對(duì)比普通班與大數(shù)據(jù)班在這5個(gè)方面的成績(jī)分布情況，如圖2所示。

其中，Concept以表1和表2的知識(shí)點(diǎn)為主要考查內(nèi)容，以客觀題的形式檢查學(xué)生對(duì)各類知識(shí)點(diǎn)的理解程度和關(guān)聯(lián)情況。ProbSolv則以實(shí)際項(xiàng)目開發(fā)過程中遇到的各種數(shù)據(jù)處理子任務(wù)為原型，開發(fā)了一組算法和編程問題，涉及模式識(shí)別與預(yù)測(cè)、金融時(shí)序數(shù)據(jù)預(yù)測(cè)與分析、工業(yè)數(shù)據(jù)預(yù)測(cè)與分析、智能體運(yùn)動(dòng)設(shè)計(jì)等方面的背景案例。ProbSolv以項(xiàng)目形式開展，要求學(xué)生以小型開發(fā)團(tuán)隊(duì)方式完成，同一名學(xué)生在不同項(xiàng)目中承擔(dān)不同的角色，如程序員、數(shù)據(jù)分析員、數(shù)據(jù)建模者等，這種多項(xiàng)目、多分工的安排有助于考查學(xué)生不同方面的綜合能力，同時(shí)兼顧團(tuán)隊(duì)協(xié)作能力的培養(yǎng)。Prog涉及程序設(shè)計(jì)、工具掌握情況、軟件可維性等方面的軟件工程技術(shù)能力考查。DataAna涉及實(shí)驗(yàn)性數(shù)據(jù)分析、聚類、趨勢(shì)分析、數(shù)據(jù)可視化等方面的內(nèi)容。FlowInno主要考查學(xué)生在ProbSolv項(xiàng)目中的數(shù)據(jù)處理環(huán)節(jié)是否有創(chuàng)新性以及對(duì)于問題的簡(jiǎn)化處理能力。

由圖2可知，在問題解決、數(shù)據(jù)分析、流程創(chuàng)新3方面，大數(shù)據(jù)班學(xué)生獲得了較好的能力提升，這主要?dú)w功于教學(xué)模型的柔性設(shè)計(jì)和案例創(chuàng)新。

圖2 能力對(duì)比

4 結(jié) 語

在當(dāng)前機(jī)器學(xué)習(xí)和人工智能人才需求與供應(yīng)不匹配的情況下，對(duì)于如何改進(jìn)機(jī)器學(xué)習(xí)課程的本科教學(xué)工作，提出了一種可變流程的課程設(shè)計(jì)方案，通過可定制的應(yīng)用案例模板將各類知識(shí)點(diǎn)進(jìn)行柔性編排，從實(shí)際項(xiàng)目抽取問題開展教學(xué)實(shí)踐，并在大數(shù)據(jù)班的本科生中進(jìn)行試點(diǎn)。實(shí)際教學(xué)效果顯示，該方案能有效提高學(xué)生在機(jī)器學(xué)習(xí)領(lǐng)域的問題解決、數(shù)據(jù)分析、流程創(chuàng)新等方面的能力，為實(shí)現(xiàn)機(jī)器學(xué)習(xí)人才培養(yǎng)提供一條具有較高可操作性的思路。