顧強(qiáng)

摘要：提出了一種用于手機(jī)終端產(chǎn)品推薦的預(yù)測模型。詳細(xì)設(shè)計(jì)了用戶特征提取模塊和終端產(chǎn)品特征提取模塊;結(jié)合多層感知機(jī)模型和基于文本的卷積神經(jīng)網(wǎng)絡(luò)模型對(duì)用戶和終端產(chǎn)品的特征進(jìn)行提取;利用提取到的特征，進(jìn)行評(píng)分預(yù)測和終端產(chǎn)品推薦。實(shí)驗(yàn)結(jié)果表明，該模型在經(jīng)過一定時(shí)間的訓(xùn)練后，參數(shù)得到優(yōu)化，可以取得較穩(wěn)定的預(yù)測推薦結(jié)果。

關(guān)鍵詞：深度學(xué)習(xí);卷積神經(jīng)網(wǎng)絡(luò);推薦模型;預(yù)測算法

中圖分類號(hào)：TP393 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1006-8228（2020）07-30-04

0引言

推薦系統(tǒng)在今天的網(wǎng)絡(luò)平臺(tái)中無處不在，無論是網(wǎng)絡(luò)購物、社交平臺(tái)、音樂、新聞網(wǎng)站等等，都能見到系統(tǒng)推薦的商品列表，并可針對(duì)個(gè)性化偏好進(jìn)行推薦”。當(dāng)今，隨著智能終端產(chǎn)品的發(fā)展日新月異，面對(duì)紛繁復(fù)雜的終端產(chǎn)品，如何選擇一個(gè)適合自己的產(chǎn)品，是許多消費(fèi)者亟待解決的問題。

本文以終端手機(jī)品牌型號(hào)推薦為例，通過深度學(xué)習(xí)技術(shù)建立一個(gè)手機(jī)終端產(chǎn)品的推薦預(yù)測模型，研究消費(fèi)者選購終端產(chǎn)品時(shí)的喜好，從而可以為終端產(chǎn)品廠商提供進(jìn)一步研發(fā)的方向。

深度學(xué)習(xí)作為一個(gè)新興技術(shù)，現(xiàn)已在圖像識(shí)別、語音處理和交通控制等各領(lǐng)域取得了成功的應(yīng)用。首先，深度學(xué)習(xí)可通過人工神經(jīng)網(wǎng)絡(luò)強(qiáng)大的非線性學(xué)習(xí)能力，從龐大的數(shù)據(jù)樣本中抽象出用戶和商品數(shù)據(jù)集的特征，獲取用戶和項(xiàng)目隱含的特征表示。其次，深度學(xué)習(xí)自動(dòng)學(xué)習(xí)特征的能力是非常出色的，它能夠?qū)⒉煌Y(jié)構(gòu)層次的數(shù)據(jù)特征提取出來，并統(tǒng)一量化特征，映射到一個(gè)抽象空間中。因此可以考慮將其與傳統(tǒng)商品推薦算法進(jìn)行結(jié)合，進(jìn)而最大化有效利用海量的數(shù)據(jù)，避免了人工特征提取的繁瑣與困難，在計(jì)算上具有一定優(yōu)勢。所以，本文提出了一種基于卷積神經(jīng)網(wǎng)絡(luò)的終端產(chǎn)品推薦預(yù)測模型。

1基于卷積神經(jīng)網(wǎng)絡(luò)的特征提取模塊

在終端產(chǎn)品推薦預(yù)測模型中，首先要進(jìn)行用戶特征和終端特征的提取?；诰矸e神經(jīng)網(wǎng)絡(luò)的終端產(chǎn)品特征提取模塊可分為三個(gè)子模塊：用戶特征提取模塊，終端品牌特征提取模塊和基于神經(jīng)網(wǎng)絡(luò)的訓(xùn)練模塊。

1.1用戶特征提取模塊

終端產(chǎn)品推薦模型的功能是通過學(xué)習(xí)用戶、終端產(chǎn)品和評(píng)分三個(gè)數(shù)據(jù)來獲取用戶對(duì)不同類型終端產(chǎn)品的偏好，從而將符合相應(yīng)用戶偏好的終端產(chǎn)品推薦給用戶。其中的核心模塊：兩大信息的特征提取模塊本質(zhì)上是一個(gè)篩選分類功能的選擇器，通過神經(jīng)網(wǎng)絡(luò)的強(qiáng)大學(xué)習(xí)功能來從輸入的用戶信息和終端產(chǎn)品屬性的組合中提取用戶和終端產(chǎn)品的特征，之后推薦模塊對(duì)這兩類特征采取一定的處理策略來進(jìn)行打分預(yù)測。用戶特征提取模塊圖如圖1。

在本文的推薦模型中，訓(xùn)練集所包含的數(shù)據(jù)有：用戶的ID，性別，年齡和職業(yè)。當(dāng)數(shù)據(jù)經(jīng)過嵌入層后，分別量化為四個(gè)特征，然后經(jīng)過神經(jīng)網(wǎng)絡(luò)的兩個(gè)全連接層，用戶的四個(gè)功能組件進(jìn)行拼接和集成，以獲得完整的用戶功能。

嵌入層的功能是將用戶ID，用戶性別，用戶年齡和職業(yè)設(shè)置了不同的嵌入矩陣。經(jīng)過訓(xùn)練逐步調(diào)整各嵌入矩陣權(quán)值使得提取得到的局部特征向量越來越具有代表性。

全連接層的功能是將模型學(xué)到的分布式特征共同映射到一個(gè)大的特征空間中，由于該層使用之前獲取的所有局部特征，因此稱為完全連接層。用戶的全連接層將之前提取到的四個(gè)局部特征通過加權(quán)處理獲得完整的用戶特征向量。

1.2終端產(chǎn)品特征提取模塊

終端產(chǎn)品特征提取模塊同樣是以一個(gè)神經(jīng)網(wǎng)絡(luò)為框架，將終端產(chǎn)品ID、終端的型號(hào)類型作為嵌入層輸入，終端的品牌作為文本卷積網(wǎng)絡(luò)的輸入，并且單獨(dú)提取該特征。

如圖2所示，終端的特征提取模塊與用戶模塊類似，先對(duì)終端ID和型號(hào)類型分別進(jìn)行嵌入層處理后，由于一部終端手機(jī)可能具有多個(gè)類型標(biāo)識(shí)，所以先進(jìn)行一次局部的全連接，之后再和品牌名稱特征進(jìn)行二次連接，最終得到完整的終端特征。

1.3基于文本的卷積神經(jīng)網(wǎng)絡(luò)訓(xùn)練模塊

考慮到本文中的模型用于處理終端產(chǎn)品名稱，因此將終端產(chǎn)品的名稱用作卷積神經(jīng)網(wǎng)絡(luò)的輸入?；谖谋镜木矸e神經(jīng)網(wǎng)絡(luò)被分為四層：輸入層、卷積層、匯集層和輸出層。

（1）輸入層：將終端的品牌型號(hào)名稱轉(zhuǎn)為相應(yīng)的嵌入矩陣，方便后續(xù)特征提取。

（2）卷積層：在這一層中，模型選用了窗口大小不相同的眾多卷積核對(duì)嵌入層輸出結(jié)果做卷積操作，生成可變長度的特征向量。利用迭代更新的權(quán)重矩陣w對(duì)這些向量求加權(quán)和。接著，把結(jié)果輸入到激勵(lì)函數(shù)中。本文模型選用了Relu函數(shù)，記為：

（3）池化層：選取池化窗口中特征值最大的值作為特征來提取?？蓪⑵湟曌魈厥獾囊淮尉矸e運(yùn)算，經(jīng)過池化層后模型便獲取到更加“濃縮的”輸出結(jié)果。

（4）輸出層：輸出層接受上述經(jīng)過卷積、池化的向量作為輸入，并對(duì)其進(jìn)行分析進(jìn)一步完成對(duì)于語句的特征提取工作。

2基于卷積神經(jīng)網(wǎng)絡(luò)的推薦預(yù)測模型

2.1基于卷積神經(jīng)網(wǎng)絡(luò)的推薦預(yù)測流程

完成數(shù)據(jù)特征提取之后，就可以開始進(jìn)行終端產(chǎn)品推薦預(yù)測模型的訓(xùn)練。模型中通過反向誤差反饋調(diào)整權(quán)值矩陣，可以提高準(zhǔn)確率和精度。模型的具體實(shí)現(xiàn)流程如圖3所示。

基于卷積神經(jīng)網(wǎng)絡(luò)的推薦預(yù)測實(shí)現(xiàn)步驟如下。

（1）預(yù)處理用戶數(shù)據(jù)、終端數(shù)據(jù)，以便后續(xù)的網(wǎng)絡(luò)可以使用共享權(quán)值矩陣進(jìn)行特征的提取。

（2）初始化神經(jīng)網(wǎng)絡(luò)。即經(jīng)過實(shí)驗(yàn)確定神經(jīng)網(wǎng)絡(luò)數(shù)據(jù)矩陣的大小、維度，激活函數(shù)的確定，以及損失函數(shù)的計(jì)算方式等。

（3）對(duì)獲取到的數(shù)據(jù)進(jìn)行處理，之后利用隨機(jī)數(shù)種子將預(yù)先獲取到的數(shù)據(jù)劃分成訓(xùn)練集和測試集。

（4）選取訓(xùn)練集的部分?jǐn)?shù)據(jù)作為輸入數(shù)據(jù)，根據(jù)嵌入層、文本卷積神經(jīng)網(wǎng)絡(luò)中的各層神經(jīng)元的輸入計(jì)算輸出，直至達(dá)到全連接層II。

（5）提取出訓(xùn)練后的用戶和終端數(shù)據(jù)的特征，實(shí)現(xiàn)待預(yù)測的終端產(chǎn)品評(píng)分。利用訓(xùn)練集的預(yù)測結(jié)果和實(shí)際評(píng)分結(jié)果，通過損失函數(shù)的計(jì)算，反向調(diào)整每一層卷積核的權(quán)值矩陣w與偏置向量b。

（6）當(dāng)神經(jīng)網(wǎng)絡(luò)的評(píng)分預(yù)測結(jié)果與實(shí)際結(jié)果是在合理范圍內(nèi)，或者迭代步數(shù)完成到所預(yù)設(shè)的要求時(shí)，訓(xùn)練結(jié)束。

（7）完成上述操作后，推薦模型輸入測試用例獲取對(duì)應(yīng)的終端產(chǎn)品推薦列表，算法結(jié)束。

2.2基于全連接層的評(píng)分預(yù)測算法

本文采取全連接層預(yù)測算法，來處理用戶特征向量和終端產(chǎn)品特征的特征向量這兩個(gè)特征矩陣。全連接層計(jì)算評(píng)分的算法如圖4所示。

圖4中，左側(cè)為用戶i特征向量，右側(cè)為終端品牌類型j的特征向量，全連接層通過計(jì)算每一個(gè)特征分量給出最后評(píng)分預(yù)測。即采用一個(gè)全新的權(quán)值矩陣（訓(xùn)練學(xué)習(xí)得到）分別對(duì)用戶特征和終端品牌類型特征進(jìn)行累積、連接，相當(dāng)于對(duì)經(jīng)過篩選過濾的特征再次進(jìn)行一遍特征提取，輸出結(jié)果的打分范圍是0-5分。用戶特征矩陣和終端產(chǎn)品特征矩陣經(jīng)過“再加工”后，可以得到用戶對(duì)不同品牌及類型的終端產(chǎn)品的評(píng)分預(yù)測。

2.3終端產(chǎn)品推薦預(yù)測算法

現(xiàn)階段終端品牌類型的主要推薦方向分為三大類：推薦同類型的終端產(chǎn)品，推薦該用戶可能感興趣的終端產(chǎn)品，和用過該終端產(chǎn)品的人還關(guān)注了哪些終端產(chǎn)品。根據(jù)公式（2）計(jì)算待測終端產(chǎn)品的特征向量與完整的終端產(chǎn)品的特征矩陣的余弦相似度。其中u;和mi分別代表待測用戶終端產(chǎn)品的特征向量與完整的終端產(chǎn)品的特征向量。余弦值從-1到1變化，以表示相似性越來越高，從而說明兩類終端產(chǎn)品之間的相似性更大。

本文通過處理待推薦用戶的特征向量與完整終端特征矩陣來計(jì)算評(píng)分，獲取評(píng)分最高的前k個(gè)終端用于推薦;然后分別計(jì)算出這k個(gè)用戶最喜歡的終端是什么，來作為對(duì)應(yīng)用戶的推薦結(jié)果。

3終端產(chǎn)品推薦預(yù)測結(jié)果的分析與比較

本實(shí)驗(yàn)平臺(tái)是在Anaconda集成環(huán)境下搭建的Tensorflow2.0。

本文選取四組有代表性的數(shù)據(jù)進(jìn)行實(shí)驗(yàn)，其中，數(shù)據(jù)集合的數(shù)據(jù)量說明如表1所示。

本文選取推薦系統(tǒng)中常用的準(zhǔn)確率和召回率作為評(píng)估指標(biāo)，選用獲取到的所有評(píng)分記錄作為實(shí)際集合，將用戶、終端產(chǎn)品數(shù)據(jù)和評(píng)分?jǐn)?shù)據(jù)（0-5分）通過基于卷積神經(jīng)網(wǎng)絡(luò)的終端產(chǎn)品推薦預(yù)測模型，記錄下每位用戶對(duì)終端產(chǎn)品的預(yù)測評(píng)分，高于3分則視作推薦，否則視作不推薦。實(shí)驗(yàn)時(shí)基于推薦模型預(yù)測的打分結(jié)果和用戶實(shí)際評(píng)分對(duì)應(yīng)的標(biāo)簽對(duì)比，來確定準(zhǔn)確率和召回率。實(shí)驗(yàn)中隨機(jī)選擇部分用戶，該模型對(duì)他們進(jìn)行終端產(chǎn)品推薦預(yù)測的準(zhǔn)確率和召回率如表2所示。

本文提出的推薦預(yù)測模型在訓(xùn)練初期準(zhǔn)確率較低，是因?yàn)樵谟?xùn)練途中需要不斷地調(diào)整相關(guān)參數(shù)，之后在進(jìn)行了一定時(shí)間的訓(xùn)練后才對(duì)這一數(shù)據(jù)集的終端產(chǎn)品推薦有了一定的穩(wěn)定結(jié)果，可見模型訓(xùn)練中的參數(shù)調(diào)整也是非常重要的。表2中，樣本數(shù)為實(shí)驗(yàn)時(shí)所獲取到的用戶數(shù)據(jù)對(duì)應(yīng)有多少條終端產(chǎn)品評(píng)分項(xiàng)。計(jì)算時(shí)以現(xiàn)有評(píng)分項(xiàng)作為終端產(chǎn)品推薦的評(píng)估標(biāo)準(zhǔn)?？梢钥闯?，本文中的終端產(chǎn)品推薦預(yù)測模型準(zhǔn)確率大約在82%上下波動(dòng)，召回率約在55%上下波動(dòng)，預(yù)測結(jié)果是比較理想的。

4結(jié)束語

本文提出了一種基于卷積神經(jīng)網(wǎng)絡(luò)的終端品牌型號(hào)推薦預(yù)測模型，該模型首先提取用戶特征和終端特征，然后進(jìn)行學(xué)習(xí)和訓(xùn)練，隨后得出推薦預(yù)測得分，從而可以在用戶選擇手機(jī)品牌和型號(hào)時(shí)，精準(zhǔn)有效地進(jìn)行推薦。隨著5G技術(shù)的發(fā)展，精準(zhǔn)地向消費(fèi)者進(jìn)行終端產(chǎn)品推薦，必然可以給用戶帶來更好的消費(fèi)體驗(yàn)，也給商家?guī)砀嗟纳虣C(jī)。