林啟明

（南京郵電大學(xué) 電子與光學(xué)工程學(xué)院，江蘇 南京 210023）

0 引言

窄帶物聯(lián)網(wǎng)（NB-IOT）是當(dāng)前一種最有前景的低功率廣域物聯(lián)網(wǎng)技術(shù)，它可以很好地適用長距離、低速率的應(yīng)用場景，并且可以直接部署在GSM和LTE網(wǎng)絡(luò)下，具有部署成本低、覆蓋范圍廣的特點[1]。傳統(tǒng)的通信模塊如GSM等存在著功耗較大、信號穿透性差等缺點。而NB-IoT克服了這些不足，是未來物聯(lián)網(wǎng)領(lǐng)域替代GSM技術(shù)的理想選擇。物聯(lián)網(wǎng)應(yīng)用常常伴隨著海量的數(shù)據(jù)收集，結(jié)合統(tǒng)計機器學(xué)習(xí)技術(shù)對數(shù)據(jù)分類和預(yù)測是常見手段。本文首先介紹了一個典型的NB-IoT應(yīng)用的設(shè)計方案，然后提出一種機器學(xué)習(xí)中兩種典型學(xué)習(xí)方法的混合模型，并分析了混合模型的性能指標(biāo)，發(fā)現(xiàn)混合模型具有更加高的分類準(zhǔn)確率。

1 NB-IoT在智能農(nóng)業(yè)領(lǐng)域的應(yīng)用

1.1 總體設(shè)計

目前的物聯(lián)網(wǎng)運用中，數(shù)據(jù)傳輸模塊主要是采用GSM、GPRS等網(wǎng)絡(luò)將數(shù)據(jù)通過基站發(fā)送到服務(wù)器端口，或者利用現(xiàn)場傳輸協(xié)議。近年來推出的NB-IoT組網(wǎng)具有功耗極低、信號傳輸距離遠，在停車場、地下室等網(wǎng)絡(luò)信號較難覆蓋的場所都有良好的輻射范圍等優(yōu)點。本文結(jié)合物聯(lián)網(wǎng)在農(nóng)業(yè)中的應(yīng)用，設(shè)計了一種能夠監(jiān)測農(nóng)業(yè)生產(chǎn)中常見的數(shù)據(jù)，并在云服務(wù)器上進行監(jiān)測的系統(tǒng)。系統(tǒng)的總體框架如圖1所示，主要分為3個部分，即信號采集部分、控制器和監(jiān)控平臺[2]。

圖1 總體框圖

1.2 系統(tǒng)功能

通過土壤濕度模塊、光照強度模塊、溫濕度模塊分別測量農(nóng)業(yè)生產(chǎn)環(huán)境中的土壤濕度、光強和空氣溫濕度等信息?？刂破鞫问褂肁/D轉(zhuǎn)換器讀取土壤模塊的數(shù)據(jù)，光強模塊和溫濕度模塊內(nèi)部自帶編碼器，可以直接傳輸數(shù)字量，但是由于設(shè)計的原因，控制器分別使用IIC協(xié)議和單總線協(xié)議進行數(shù)據(jù)傳輸。數(shù)據(jù)傳輸完成后，使用BC-26模塊進行AT指令操作控制模塊的入網(wǎng)和數(shù)據(jù)傳輸?shù)炔僮鱽韺鞲袛?shù)據(jù)通過窄帶物聯(lián)網(wǎng)發(fā)送到云服務(wù)器上，在平臺端編寫軟件進行環(huán)境數(shù)據(jù)的查詢。

1.3 系統(tǒng)硬件設(shè)計

光照強度傳感器BH1750采用IIC協(xié)議傳輸采集到的光強數(shù)據(jù)，溫濕度傳感器AM2320通過單總線協(xié)議傳輸數(shù)據(jù)和指令，單總線協(xié)議是一種通過一根總線的不同時序來完成數(shù)據(jù)和命令的收發(fā)通信協(xié)議，通過軟件模擬總線的高低電平時間來進行寫指令、讀數(shù)據(jù)等操作。土壤濕度傳感器YL-69通過ADC讀取通道值來獲取當(dāng)前的土壤濕度值，通過軟件完成數(shù)據(jù)的讀取，并換算成相應(yīng)的濕度值。傳感器網(wǎng)絡(luò)完成環(huán)境數(shù)值的讀取后，通過UART串口發(fā)送至NB-IOT模塊，NB模塊接收數(shù)據(jù)后發(fā)送至云服務(wù)器ECS。通信模塊使用移遠公司生產(chǎn)的BC-26模塊代替?zhèn)鹘y(tǒng)應(yīng)用中的GSM模塊?？刂破鞑捎靡夥ò雽?dǎo)體基于CORTEX-M3內(nèi)核的STM32F103微控制器，該控制器的主頻為72MHz，精簡指令集架構(gòu)。

2 機器學(xué)習(xí)方法與物聯(lián)網(wǎng)的結(jié)合

近20年來，統(tǒng)計學(xué)習(xí)已經(jīng)被成功地應(yīng)用到人工智能、模式識別、數(shù)據(jù)挖掘、自然語言處理等許多計算機應(yīng)用領(lǐng)域中，并且成為這些領(lǐng)域的核心技術(shù)[3]。其基于數(shù)據(jù)，提取數(shù)據(jù)特征并對數(shù)據(jù)進行分析和預(yù)測的特性很符合物聯(lián)網(wǎng)應(yīng)用的數(shù)據(jù)量大、覆蓋范圍廣、實時監(jiān)測等特點。本文提出一種結(jié)合邏輯斯諦回歸和支持向量機混合模型。

邏輯斯諦模型具有簡單、易實現(xiàn)、對線性可分度較好的樣本集有較好的分類精度等優(yōu)點。但由于其自身的線性模型特性，在求解耦合程度大的數(shù)據(jù)樣本和非線性向量空間問題上效果往往不理想。支持向量機是20世紀(jì)90年代由V.Vapnic等提出的一種基于最大樣本間隔的線性分類器，后來由Boser等人[4]引入核技巧后擴展到非線性空間。支持向量機在小樣本、高維度情形下的分類性能較好，特別適合處理典型的多分類問題。但是當(dāng)樣本數(shù)據(jù)量較大甚至求解海量數(shù)據(jù)時，其自身存在著計算效率低、計算時間過長以至于無法使用的問題。結(jié)合這兩種分類方法的優(yōu)勢和不足，文章提出一種基于兩種分類方法的混合模型，首先引入可疑樣本和概率轉(zhuǎn)移矩陣的概念，然后引出LR模型中可疑樣本對整體判別精度的影響，設(shè)計了對可疑樣本進行混合判定的模型，最后分析并比較單LR、混合模型的性能指標(biāo)。

2.1 邏輯斯諦回歸低置信樣本提取

在邏輯斯諦回歸模型中，輸出Y=1的對數(shù)概率是輸入x的線性函數(shù)：

其中，w是模型訓(xùn)練后獲得的參數(shù)。

對于測試集來說，單個樣本求得的結(jié)果表示該樣本分類為正類的概率P。在此過程中，把P≥0.5的樣本分類為正類，P≤0.5的樣本分類為負類，并將邊界0.5稱為“閾值”。現(xiàn)在提高該值的大小，將部分樣本劃分為“低置信樣本”。當(dāng)某個樣本的判別輸出P比較小，則說明該樣本分為該類別的置信度較低，即該樣本判定錯誤的概率比置信度較高的樣本大。不失一般性，對于P≥0.5的樣本點，我們提高閾值到0.7后使得P≥0.7的樣本分類為正類，而0.5≤P<0.7的樣本被劃分為“低置信樣本”。對于P<0.5時過程類似。

在多分類任務(wù)中，我們按照“One-Vs-All”的原則，得到概率轉(zhuǎn)移矩陣：

2.2 SVM分類模型

SVM是一種樣本間隔最大化的學(xué)習(xí)方法，可以形式化為求解凸二次規(guī)劃問題：

其中，(w,b)為分隔超平面的特征值，ε為松弛變量，C為參數(shù)。它能夠在樣本空間中求解出正負樣本點最大間隔的分離超平面，對線性可分的數(shù)據(jù)集具有很好的分離精度，通過核函數(shù)將特征空間映射到高維空間后，還可以很好地求解非線性分類問題。

上述二次規(guī)劃問題的求解受到的限制較大，當(dāng)樣本容量很大的時候，求解該問題的算法往往變得十分低效，訓(xùn)練時間很長、占用計算機較大的內(nèi)存甚至無法使用。針對這一問題，有人提出了基于小樣本的SVM模型，其思想是通過預(yù)先的篩查機制，從海量數(shù)據(jù)樣本中找出對分離超平面影響最大的樣本，用這些樣本的子集進行訓(xùn)練來達到減小樣本容量的目的。還有學(xué)者提出了序列最小最優(yōu)化算法（Sequential Minimal Optimization，SMO），其思想是每次迭代只使用兩個樣本同時固定其他樣本點，將二次規(guī)劃問題轉(zhuǎn)化為若干個能夠得到解析解的子問題，從而大大提升了求解速度和算法的效率[5]。但是上述兩種方法都存在著機制復(fù)雜、實現(xiàn)困難等問題，從而給工程實際運用增加了難度。

3 LR和SVM混合模型

本文提出的混合模型結(jié)合了LR和SVM模型的各自優(yōu)點，思想是對于耦合度較高的樣本集，用LR模型進行初步分類，同時篩選出低置信樣本，由于低置信樣本是原樣本集合的子集，所以低置信樣本集合的樣本數(shù)量減少，同時耦合度較高，適合SVM徑向基核函數(shù)模型的非線性分類特性。模型結(jié)構(gòu)如圖2所示。

訓(xùn)練集經(jīng)過LR學(xué)習(xí)系統(tǒng)擬合出LR模型同時分離出低置信樣本的集合，該部分樣本的容量小和非線性的特性適合核函數(shù)的支持向量機學(xué)習(xí)系統(tǒng)。經(jīng)由SVM學(xué)習(xí)后訓(xùn)練的針對低置信樣本集合的SVM模型和LR混合模型對于測試集進行預(yù)測，最終得到的預(yù)測精度往往要好于單一的模型預(yù)測結(jié)果。

圖2 混合模型

4 實驗和結(jié)果

要把上述混合學(xué)習(xí)模型應(yīng)用到NB-IoT中，首先在云服務(wù)器端數(shù)據(jù)庫中讀取NB模塊傳輸?shù)臄?shù)據(jù)樣本并將其轉(zhuǎn)成混合模型的輸入格式，這些都由軟件編程實現(xiàn)，具體過程就不再贅述。下面驗證混合模型對樣本數(shù)據(jù)的預(yù)測結(jié)果來說明機器學(xué)習(xí)方法在物聯(lián)網(wǎng)領(lǐng)域的應(yīng)用。由于數(shù)據(jù)樣本具有獨立性，同時考慮到驗證的便利，本文使用了UCI的Electronic Grid數(shù)據(jù)集。在不同的應(yīng)用場景中往往需要獲取的數(shù)據(jù)特征不同，但我們可以很容易地從前文介紹的NB-IoT典型應(yīng)用中，按照所需要特征來替換監(jiān)測模塊中的傳感器從而得到對應(yīng)的數(shù)據(jù)樣本，過程這里不再贅述。下面對于UCI數(shù)據(jù)集樣本進行混合模型下的性能驗證。

原數(shù)據(jù)集有10 000個樣本，對其按照經(jīng)典7:3的比例劃分訓(xùn)練集和測試集，得到容量為7 000的訓(xùn)練集和容量為3 000的測試集。實驗環(huán)境硬件環(huán)境為i5-8300CPU、8G內(nèi)存；軟件為GNU OCTAVE和LIBSVM，LR算法使用梯度下降法求解最優(yōu)值，其迭代次數(shù)為400次，對樣本使用了均值歸一化，LIBSVM使用默認(rèn)參數(shù)，RBF核函數(shù)。

對比在不同閾值下，訓(xùn)練集的低置信樣本數(shù)以及分別用LR模型和SVM模型分別訓(xùn)練后得到的訓(xùn)練集準(zhǔn)確率，結(jié)果如表1所示。

從數(shù)據(jù)中我們可以看出，隨著閾值的不斷升高，訓(xùn)練集中越來越多的樣本被劃分到低置信樣本集中，LR模型與SVM模型相比較而言，其對低置信樣本的擬合準(zhǔn)確率明顯偏低，在閾值取0.7時差值達到最大，為35.46%。從數(shù)據(jù)對比可以得出結(jié)論：SVM模型在線性可分度較差的低置信樣本點集合的分類中具有比較理想的準(zhǔn)確率，直觀地說明了對樣本集中的低置信樣本子集使用SVM混合模型可以比直接使用LR模型獲得較高的精度。

使用訓(xùn)練模型在測試集（3 000個樣本）上進行預(yù)測，在不同閾值下獲得LR模型和混合模型的預(yù)測準(zhǔn)確率，結(jié)果如表2所示。

表1 訓(xùn)練集準(zhǔn)確率

表2 測試集準(zhǔn)確率

可以看出隨著閾值的不斷增大，LR+SVM混合模型的預(yù)測準(zhǔn)確率逐漸增大，在0.9閾值時達到了14.97%，提升較為明顯。注意到當(dāng)閾值取1時，表示僅使用SVM模型進行預(yù)測，此時準(zhǔn)確率為92.67%，而閾值為0.9的混合模型準(zhǔn)確率為95.3%，這證明了通過閾值的選取，混合模型的預(yù)測效果可以優(yōu)于純SVM模型。

5 結(jié)語

本文結(jié)合了機器學(xué)習(xí)和物聯(lián)網(wǎng)技術(shù)，先介紹了一種常見的NB-IoT技術(shù)在智能農(nóng)業(yè)領(lǐng)域的應(yīng)用，然后探討了機器學(xué)習(xí)技術(shù)在物聯(lián)網(wǎng)數(shù)據(jù)分析領(lǐng)域的應(yīng)用方法，提出了一種邏輯斯諦回歸和支持向量機的混合模型，最后通過數(shù)據(jù)集的實驗比較，證明了混合模型的性能優(yōu)勢。