李澤陽，鄭飂默，李備備，劉信君

(1. 中國科學院大學，北京 100049；2.中國科學院沈陽計算技術研究所，沈陽 110168；3.沈陽中科數(shù)控技術股份有限公司自動化裝備事業(yè)部，沈陽 110168)

0 引言

隨著運動控制工藝的發(fā)展與進步，在加工過程中，由于部件切削熱、移動和旋轉(zhuǎn)部件發(fā)熱或由于機床結構設計不合理等原因，會造成機床局部發(fā)熱而膨脹，進而影響加工零件精度。實際生產(chǎn)環(huán)境中，通常在機床加工發(fā)熱位置安裝溫度傳感器進行實時采集數(shù)據(jù)至工控機分析來避免溫度產(chǎn)生的影響。但傳統(tǒng)的過熱保護僅是在發(fā)生過熱時通過數(shù)控系統(tǒng)通知過熱報警，無法達到溫度預測的效果。因此，研究并設計一種基于實驗數(shù)據(jù)建立的數(shù)學模型使之實現(xiàn)溫度預警的方法十分必要。

近年來，BP神經(jīng)網(wǎng)絡由于其強大的非線性映照功能，出色的自組織和容錯能力[1]，在網(wǎng)絡安全[2]，故障診斷[3]，股票預測[4]，情境推薦[5]等不同專業(yè)領域得到充分運用，是目前最為成功的神經(jīng)網(wǎng)絡學習算法之一。但由于應用領域技術的快速發(fā)展，BP網(wǎng)絡算法也出現(xiàn)了一些弊端，其中最為突出的是在學習過程中誤差收斂速度過慢以及算法收斂效果不能將局部最優(yōu)和全局最優(yōu)區(qū)分開來等問題。國內(nèi)外研究人員對此也提出了不同的改進方法和研究，袁圃等針對BP算法運算過程中隱含層節(jié)點數(shù)的選擇問題，在最佳隱含層節(jié)點數(shù)下通過遺傳算法優(yōu)化BP網(wǎng)絡模型的初始權重及閾值，進而解決了BP網(wǎng)絡易陷入局部最優(yōu)的缺欠[6]。王虹等為解決BP算法對初值敏感和易陷入局部最優(yōu)解的問題，通過對粒子群的尋優(yōu)計算式改進BP網(wǎng)絡模型，有效地提高了數(shù)據(jù)融合精度和網(wǎng)絡收斂速度[7]。Shi S等采用二次規(guī)劃和廣義最小二乘法對BP網(wǎng)絡權重和閾值進行優(yōu)化，提高了目標識別算法的精度[8]。

本文在算法學習過程中通過自適應學習率的方法改進BP神經(jīng)網(wǎng)絡。在完成數(shù)控機床溫度傳感器的采集數(shù)據(jù)后，運用MATLAB軟件進行數(shù)據(jù)訓練，將傳統(tǒng)BP算法和針對學習率改進后的BP算法訓練結果進行仿真對比和誤差分析。實驗仿真表明，采用自適應學習率的BP改進算法準確率更高，學習迭代次數(shù)更少，對數(shù)控機床溫度過熱預測具有積極的實際應用價值。

1 數(shù)據(jù)采集

以五軸數(shù)控機床作為研究對象，在熱源(傳動部件，如主軸)處安裝溫度傳感器進行數(shù)據(jù)采集監(jiān)測，采用ModbusTCP協(xié)議作為遠程監(jiān)控系統(tǒng)與數(shù)控機床之間傳輸數(shù)據(jù)的通信協(xié)議。溫度傳感器接入機床設備的子設備與連接方式步驟如下：

(1)子設備的處理選用雙UART的ARM處理器，5V供電，供電通信采用USB接口的物理層，Modbus協(xié)議物理層接口采用RS485標準，整體設計如圖1所示。

圖1 電氣設計

(2)主設備與子設備之間采用菊花鏈的形式串聯(lián)起來，采用Master/Slave方式通信，其結構如圖2所示。

圖2 主設備與子設備之間菊花鏈結構

實時獲取的機床各溫度傳感器實時溫度如表1所示，將表1中A組溫度數(shù)據(jù)作為BP神經(jīng)網(wǎng)絡模型的訓練集作為輸入，B組溫度數(shù)據(jù)作為測試集進行比較。

表1 實時測量溫度值

2 BP神經(jīng)網(wǎng)絡算法設計

2.1 BP網(wǎng)絡原理

BP神經(jīng)網(wǎng)絡是一種典型的非線性算法，通常由輸入層、輸出層和中間的隱含層組成[9]，每一層可以有若干個節(jié)點。各層之間節(jié)點的連接狀態(tài)通過權重來體現(xiàn)。本文采用的溫度預測模型如圖3所示。

圖3 基于BP神經(jīng)網(wǎng)絡的溫度預測模型

經(jīng)典BP算法分為兩個過程，正向傳播是指數(shù)據(jù)(或信息、信號)從輸入端輸入之后，沿著網(wǎng)絡的指向，乘以對應的網(wǎng)絡權重之后再加和，并將結果作為輸入在激活函數(shù)中進行計算，將計算的結果作為輸入傳遞給下一個節(jié)點。依次計算，直到得到最終的輸出。反向傳播是指將預測輸出的結果與理想的輸出結果進行比較，將預測輸出結果與理想輸出結果之間的誤差利用網(wǎng)絡進行反向傳播的過程。具體的過程是通過多次迭代，不斷地對網(wǎng)絡上各個節(jié)點間所有的權重進行調(diào)整，權重調(diào)整的方法采用梯度下降法。

本文采用的BP網(wǎng)絡機床溫度預測模型的參數(shù)選定如下：

(1)激活函數(shù)

激活函數(shù)在預測網(wǎng)絡輸出結果和誤差反向調(diào)節(jié)中起到重要作用。Sigmoid函數(shù)可以把任意輸入的實數(shù)轉(zhuǎn)換到[0,1]分布空間且函數(shù)具有非常好的對稱性，故選用S型函數(shù)作為激活函數(shù)，表達式如下：

f(x)=(1+e-x)-1

(1)

(2)隱含層節(jié)點數(shù)目

BP網(wǎng)絡的函數(shù)逼近能力與隱含層神經(jīng)元數(shù)量有很大關聯(lián)[10]。隱含層節(jié)點數(shù)量過多會使得算法收斂速度降低，過少將使得網(wǎng)絡不能得到較好訓練，最終結果精度不會很高。通過大量實驗，估計隱含層節(jié)點的最佳數(shù)目經(jīng)驗表達式為：

(2)

其中，I、M和O分別表示網(wǎng)絡輸入、隱藏、輸出三層神經(jīng)元節(jié)點數(shù)，σ為范圍在1～10之間的正整數(shù)。

(3)學習誤差

定義樣本中第k個神經(jīng)元的誤差函數(shù)為：

(3)

其中，EK為學習誤差，Yi為真實值，yi為預測輸出值。

2.2 算法改進

標準BP算法采用固定學習速率進行訓練，通過梯度下降的思想尋找最佳權重，促使網(wǎng)絡誤差不斷減小。網(wǎng)絡的學習速率決定了學習過程中的權值變化[11]。學習速率過大，就會發(fā)生振蕩現(xiàn)象，出現(xiàn)圖4a的情況，即初始權重w0錯過最優(yōu)調(diào)整權重w′得到新權重w1，但w1和w′距離很遠，需要進一步迭代學習。學習速率過小，會促使訓練時長增加，網(wǎng)絡收斂能力降低，出現(xiàn)圖4b的情況，即初始權重w0按照梯度下降法搜索得到新權重w1，但w1距離最優(yōu)調(diào)整權重w′較遠，迭代效果不理想[12]。

(a) 學習率過大的情況 (b) 學習率過小的情況圖4 學習速率較大與較小情況

由上述分析可得，如果算法學習速率能在訓練過程中自動適應變化，則網(wǎng)絡收斂速度和性能都能得到有效提高。本文通過比較本次迭代的學習誤差與上次迭代的學習誤差，采用靈活的學習速率進行訓練來改進BP神經(jīng)網(wǎng)絡收斂過慢的缺陷。其數(shù)學表達式為：

(4)

其中，η(k)是第k次迭代學習速率，E(k)和E(k-1)分別是本次和上次學習誤差函數(shù)值，λ1、λ2均為常數(shù)。具體的調(diào)整為，當本次誤差函數(shù)值E(k)小于上一次學習誤差值E(k-1)時，將學習速率η(k)擴大為η(k-1)的λ1倍，以加快收斂速度；當本次誤差函數(shù)值E(k)大于上一次誤差值E(k-1)時，將學習速率η(k)縮減為η(k-1)的λ2倍，以進一步探索權值最優(yōu)點。

2.3 網(wǎng)絡建模

本文BP網(wǎng)絡結構均為單層結構，即輸入層、隱藏層和以及輸出層[13]。三層的神經(jīng)元數(shù)目分別為a，b，c。輸入樣本集xi(i=1,2,…,a)表示輸入層第i個節(jié)點的輸入，隱含層輸出節(jié)點為yj(j=1,2,…,b)，輸出層輸出節(jié)點為zn(n=1,2,…,c)。wij(i=1,2,…,a;j=1,2,…,b)表示輸入層第i個神經(jīng)元到隱含層第j個神經(jīng)元的連接權值；vjn(j=1,2,…,b;n=1,2,…,c)表示隱含層第j個神經(jīng)元到輸出層第n個神經(jīng)元的連接權值。θj(j=1,2,…,b)表示隱含層各神經(jīng)元的輸出閾值，γn(n=1,2,…,c)表示輸出層各神經(jīng)元的輸出閾值。

為了縮小數(shù)量之間的相對關系和提高算法運算效率[14]，對網(wǎng)絡各層輸入、輸出數(shù)據(jù)進行最值歸一化處理，使得原始數(shù)據(jù)轉(zhuǎn)換到[0,1]區(qū)間中，轉(zhuǎn)換函數(shù)為：

(5)

其中，x′為歸一化后的數(shù)據(jù)，x為原始樣本數(shù)據(jù)，xmax為樣本數(shù)據(jù)的最大值，xmin為樣本數(shù)據(jù)的最小值。

采用自適應學習率的BP神經(jīng)網(wǎng)絡算法步驟為：

(1)初始化網(wǎng)絡參數(shù)

連接權值wij、vjn，輸出閾值θj、γn在區(qū)間[0,1]之間隨機取值；設置收斂精度ε=0.01；表達式(4)中λ1=1.5，λ2=0.5。

(2)計算隱含層輸入與輸出

其中第j個神經(jīng)元的輸入為αi(j):

(6)

結合表達式(1)，隱含層第j個神經(jīng)元的輸出為αo(j)為:

(7)

其中，j=1,2,…,b。

(3)計算輸出層輸入與輸出

其中第n個神經(jīng)元的輸入βi(n)為:

(8)

結合表達式(1)，輸出層第n個神經(jīng)元的輸出βo(n)為：

(9)

其中，n= 1,2,…,c。

(4)輸出層權值與閾值調(diào)整

由表達式(5)可得，輸出層神經(jīng)元的預測輸出βo與樣本中期望輸出Y之間學習誤差數(shù)學函數(shù)為：

(10)

基于鏈式法則，可得輸出層權值調(diào)整表達式：

(11)

輸出層閾值調(diào)整表達式為：

(12)

(5)隱含層權值與閾值調(diào)整

與步驟(4)同理，可得隱含層權值調(diào)整為：

(13)

隱含層閾值調(diào)整表達式為：

(14)

(6)更新各層權值和閾值，計算總誤差Etotal：

(15)

(16)

(17)

(18)

(19)

若Etotal達到收斂精度標準或達到訓練最大迭代次數(shù)，則結束訓練，否則按照自適應學習率進行調(diào)整學習率，繼續(xù)下一輪學習。溫度預測模型流程如圖5所示。

圖5溫度預測模型流程圖

3 仿真實驗與分析

3.1 參數(shù)設置

讀取表1中A組實時溫度數(shù)據(jù)作為輸入數(shù)據(jù)，設定輸入層、輸出層神經(jīng)元數(shù)量為I=10和O=10，取常數(shù)σ=1，根據(jù)公式(2)，可得隱含層神經(jīng)元個數(shù)M=5。選用MATLAB作為計算機仿真平臺，經(jīng)過大量實驗測試，設定標準BP的初始學習率η=0.047效果最佳，訓練最大迭代次數(shù)為1000次，網(wǎng)絡誤差如果連續(xù)6次迭代沒有變化則終止訓練。

3.2 預測結果對比

進行網(wǎng)絡建模，對訓練樣本進行擬合。標準BP神經(jīng)網(wǎng)絡與采用自適應學習率改進的BP神經(jīng)網(wǎng)絡預測溫度值和真實溫度值對比如圖6所示。

圖6 預測溫度與真實溫度對比圖

可以看出，在同樣的訓練樣本下，改進后BP算法模型預測的溫度值比標準BP算法精度更高，與真實溫度值更為接近。

3.3 誤差分析

標準BP算法和改進后的BP網(wǎng)絡的誤差曲線如圖7所示。分析圖7可得，采用標準BP神經(jīng)網(wǎng)絡的MSE(Mean Square Error，均方誤差)在經(jīng)過最大迭代次數(shù)1000次后接近于誤差精度0.01，而采用自適學習率改進的BP網(wǎng)絡模型僅在經(jīng)歷300余次迭代后達到誤差精度要求?？芍?，采用自適應學習的BP算法經(jīng)過更少的迭代次數(shù)便可滿足誤差精度要求，誤差收斂速度相較標準BP算法更快。

(a) 標準BP誤差曲線圖

(b) 改進后BP誤差曲線圖 圖7 模型改進前后誤差曲線圖

為了評價溫度預測模型的性能，本文引入MAPE(平均百分比誤差)和RMSE(均方根誤差)兩項指標進行預測溫度值與真實溫度值之間的整體偏差估計。其計算表達式如下：

(20)

(21)

其中，Yi為真實值，yi為預測輸出值。

同時考慮P(Precision，精確率)和R(Recall，召回率)兩項評估指標[15]，計算標準BP模型和采用自適應學習率的BP模型評價參數(shù)如表2所示。

表2 模型改進前后的評價參數(shù)表

實驗結果的數(shù)據(jù)表明，改進后的BP算法訓練結果理想，對數(shù)控機床溫度過熱預測具有很好效果，能夠較為準確的預測機床溫度變化。

4 結論

本文針對數(shù)控機床由于溫度過熱產(chǎn)生熱變形的問題，引入自適應學習率的改進BP神經(jīng)網(wǎng)絡作為溫度預測模型。仿真結果表明，在確保誤差精度的前提下，改進后的BP模型有效提高了算法收斂速度和網(wǎng)絡性能。該研究的提前預測不僅提高了數(shù)控機床安全性，降低了機床維修費用，而且避免了因溫度過熱而造成的進一步損失，具有顯著意義。