王 寧, 李盼盼, 趙哲耘, 楊劍鋒

(1.鄭州大學(xué) 商學(xué)院,河南 鄭州 450001; 2.鄭州大學(xué) 馬克思主義學(xué)院,河南 鄭州 450001; 3.鄭州大學(xué) 發(fā)展規(guī)劃處,河南 鄭州 450001)

0 引言

隨著傳感器被大量安裝于現(xiàn)代化智能生產(chǎn)過程，其采集到過程數(shù)據(jù)由過去的單一數(shù)值逐漸向復(fù)雜的時間序列或空間序列數(shù)據(jù)發(fā)展[1]。智能制造的關(guān)鍵科學(xué)問題之一便是如何實(shí)現(xiàn)全過程的實(shí)時質(zhì)量智能診斷。

目前對智能制造過程質(zhì)量異常診斷研究大體可分為基于控制圖的統(tǒng)計(jì)量分解、變量選擇和基于模式識別的質(zhì)量診斷三個方面?；诳刂茍D的統(tǒng)計(jì)量分解主要關(guān)注控制圖報警信號的解釋和故障源的定位，主要包括Mason-Tracy-Young(MTY)T2分解[2]，U2統(tǒng)計(jì)量[3]，ARA方法[4]，K2分解[5]等；變量選擇主要通過無監(jiān)督變量選擇算法定位出發(fā)生變異的變量，從而降低后續(xù)的診斷復(fù)雜性，其主要研究包括前向變量選擇法[6]、LASSO[7]等；基于模式識別的質(zhì)量診斷方法首先需建立異常類型和故障之間的映射關(guān)系，而后使用機(jī)器學(xué)習(xí)方法對異常類型進(jìn)行學(xué)習(xí)、識別和診斷[8]，其方法主要包括神經(jīng)網(wǎng)絡(luò)[9]、支持向量機(jī)[10]等。然而，基于控制圖的統(tǒng)計(jì)量分解和變量選擇方法雖能對異常變量進(jìn)行定位，但難以真正實(shí)現(xiàn)質(zhì)量診斷與異因查找；基于模式識別的質(zhì)量診斷多通過人工設(shè)計(jì)的準(zhǔn)則對原始數(shù)據(jù)進(jìn)行特征抽取，但已有研究所構(gòu)建的識別模型多為單隱含層的淺層模型，識別性能和泛化能力較有限。

卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network，CNN)是一種學(xué)習(xí)效率很高的深度學(xué)習(xí)模型，其最大的特點(diǎn)是直接將矩陣數(shù)據(jù)作為輸入，通過細(xì)粒度特征提取方式刻畫數(shù)據(jù)豐富的深層特征信息，利用空間關(guān)系減少需訓(xùn)練的參數(shù)來改善BP算法的性能，擺脫了人工顯式特征提取的繁瑣過程。CNN能夠不斷的從新的數(shù)據(jù)中進(jìn)行特征自學(xué)習(xí)，相比淺層模型具有更強(qiáng)的適應(yīng)性，已被成功用于圖像識別[11]、語音識別[12]、ECG分析[13]和故障診斷[14,15]等方面，但鮮有研究將其應(yīng)用于質(zhì)量異常診斷中。因此，本文提出了基于卷積神經(jīng)網(wǎng)絡(luò)的智能制造過程質(zhì)量異常診斷模型。首先，以灰度圖像形式直觀表示過程運(yùn)行狀態(tài)，根據(jù)過程平穩(wěn)狀態(tài)和典型異常狀態(tài)劃分質(zhì)量圖譜類型，為質(zhì)量異常診斷奠定了數(shù)據(jù)基礎(chǔ)；其次，利用本文所提模型進(jìn)行了仿真分析，證明了卷積神經(jīng)網(wǎng)絡(luò)在異常診斷中的優(yōu)勢；最后，以鉛酸蓄電池制造中的球磨過程為背景，通過滑動窗口取值對球磨工業(yè)異常過程進(jìn)行了在線診斷，證明了所提方法的實(shí)用性。

1 智能制造過程質(zhì)量圖譜

智能制造過程產(chǎn)生的數(shù)據(jù)流帶有大量的噪聲和離群點(diǎn)，如何將能夠反映過程狀態(tài)的動態(tài)特性以直觀的圖像形式呈現(xiàn)出來，將復(fù)雜的時序數(shù)據(jù)分析問題變?yōu)橐粋€簡單的數(shù)字圖像處理問題[16]，成為了質(zhì)量異常識別的關(guān)鍵所在?；叶葓D(Grayscale image)只含有亮度信息，能夠以灰度變化代替抽象數(shù)據(jù)的變化，非常便于矩陣數(shù)據(jù)的可視化處理[17]，故本文選用灰度圖將反應(yīng)過程運(yùn)行狀態(tài)的數(shù)據(jù)轉(zhuǎn)化為過程質(zhì)量圖譜，并將其劃分為過程質(zhì)量正常圖譜和異常圖譜。假設(shè)過程有m個待識別變量，各變量在t時間段內(nèi)有t個觀測值，則測量數(shù)據(jù)矩陣O可表示為：

(1)

測量數(shù)據(jù)矩陣O反映了在t時間段內(nèi)過程的狀態(tài)。如式(1)所示，矩陣的第i行對應(yīng)的行向量[x1i,x2i,…,xti]表示第i個傳感器在t時間段內(nèi)采集到的過程測量值。第j列對應(yīng)的列向量[xj1,xj2,…,xjm]T表示j時刻所有傳感器采集到的過程測量值。將矩陣O中的元素進(jìn)行歸一化處理，形成歸一化矩陣，再將每個元素分別映射到灰度圖中，每個矩陣元素值對應(yīng)灰度值的計(jì)算公式如下:

(2)

式中，INT為取整函數(shù)，當(dāng)gij=0時灰度像素為黑色，當(dāng)gij=255時灰度像素為白色。當(dāng)各變量的測量值在目標(biāo)值附近隨機(jī)波動時，通常說明過程為受控狀態(tài)，質(zhì)量圖譜中的灰度值的分布沒有明顯變化態(tài)勢；當(dāng)過程變量出現(xiàn)趨勢變動時，灰度值會連續(xù)變化，呈由淺到深或由深到淺的變化態(tài)勢；當(dāng)過程變量出現(xiàn)階躍變動時，質(zhì)量圖譜中的對應(yīng)變量的灰度值會呈現(xiàn)出明顯的分界線。為了說明質(zhì)量圖譜在表述制造過程運(yùn)行狀態(tài)時的有效性，在此選用變量數(shù)為7、時間段為1分鐘所采集到的數(shù)據(jù)生成過程質(zhì)量圖譜，如圖1所示。

圖1 質(zhì)量圖譜

2 基于CNN的智能制造過程質(zhì)量診斷模型

Hinton 2006年在Science上發(fā)表的文章掀起了深度學(xué)習(xí)的研究浪潮[18]。卷積神經(jīng)網(wǎng)絡(luò)作為深度學(xué)習(xí)模型之一得到了廣泛的關(guān)注，其能夠通過進(jìn)行逐層特征變換，將圖片在原空間的特征表示變換到一個新特征空間，從而使得圖像分類變得更加容易[19]。卷積神經(jīng)網(wǎng)絡(luò)(CNN)是一種前饋式神經(jīng)網(wǎng)絡(luò)，其基本結(jié)構(gòu)由輸入層(Input layer)、卷積層(Convolutional layer)、池化層(Pooling layer)、全連接層(Fully connected layer)及輸出層(Output layer)構(gòu)成，并通過局部感受野、權(quán)值共享和池化3個方法來實(shí)現(xiàn)網(wǎng)絡(luò)對于圖像的位移、縮放和扭曲的不變性[20]。

基于CNN的智能質(zhì)量異常診斷模型的核心思想是構(gòu)建分類器并對代表不同過程運(yùn)行狀態(tài)的過程質(zhì)量圖譜進(jìn)行識別。相似的異常狀況下得到的過程質(zhì)量圖譜往往是相近的，正常狀態(tài)下得到的過程質(zhì)量圖譜也是相似的。因此，為有效的對過程進(jìn)行診斷，本文結(jié)合過程診斷的實(shí)際情況，首先采集過程數(shù)據(jù)，并將其轉(zhuǎn)化為易于識別的過程質(zhì)量圖譜，用灰度變化代替抽象的過程狀態(tài)變化；使用人工標(biāo)注好的質(zhì)量圖譜樣本對CNN進(jìn)行離線訓(xùn)練；而后采用訓(xùn)練好的CNN質(zhì)量異常監(jiān)控模型對過程進(jìn)行在線診斷，發(fā)現(xiàn)異常及時報警，并判斷異常類型以便于后續(xù)的調(diào)整。異常診斷方法如圖2所示。

圖2 基于CNN的過程質(zhì)量異常診斷方法

基于CNN的質(zhì)量異常診斷方法具體包括以下步驟：

(1)獲得訓(xùn)練及測試樣本。分別采集正常狀態(tài)和異常狀態(tài)下的過程數(shù)據(jù)，并將其分別轉(zhuǎn)化為過程質(zhì)量正常圖譜和過程質(zhì)量異常圖譜。

(2)CNN離線訓(xùn)練及性能評估。將準(zhǔn)備好的質(zhì)量異常圖譜和質(zhì)量正常圖譜作為訓(xùn)練集和驗(yàn)證集對卷積神經(jīng)網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練，然后使用測試集對其分類性能進(jìn)行離線評估。

(3)CNN在線監(jiān)控。主要通過滑窗取值的方式將傳感器采集到的數(shù)據(jù)轉(zhuǎn)化為過程質(zhì)量圖譜，利用訓(xùn)練好的CNN模型對過程質(zhì)量圖譜進(jìn)行在線識別，判斷過程是否存在異常。當(dāng)過程屬于正常時，監(jiān)控窗口繼續(xù)按照設(shè)定的移動步長向前滑動，每滑動一次都對窗口內(nèi)的數(shù)據(jù)進(jìn)行質(zhì)量圖譜生成和CNN識別；當(dāng)過程異常時，停止識別，CNN模型輸出與特定異常原因相對應(yīng)的異常類別，從而實(shí)現(xiàn)過程質(zhì)量異常識別與診斷。

3 實(shí)例分析

3.1 鉛酸蓄電池制粉過程及典型過程質(zhì)量圖譜

鉛粉是制造鉛蓄電池極板活性物質(zhì)的主要原料，鉛粉的性能優(yōu)劣直接影響到粉膏及極板的質(zhì)量，進(jìn)而對電池容量及壽命造成一定的影響。鉛粉制造工藝分為島津式和巴頓式鉛粉球磨法，其中島津式鉛粉球磨法應(yīng)用最為廣泛，主要生產(chǎn)過程如下：將化驗(yàn)合格的電解鉛錠切割成一定尺寸的鉛段；通過傳送帶將鉛段送入球磨機(jī)的輥筒中，滾筒中鉛段經(jīng)過研磨和氧化生成氧化鉛；將鉛粉經(jīng)集粉器送至粉倉中，經(jīng)過2～3天儲存化驗(yàn)合格后即可使用。制粉過程的主要過程參數(shù)為前軸溫度、后軸溫度、間隔噴水出口溫度、連續(xù)噴水出口溫度、集粉器溫度、主機(jī)功率和負(fù)風(fēng)壓，且均配備相應(yīng)的測量傳感系統(tǒng)，而鉛粉的關(guān)鍵質(zhì)量特性為視比重和氧化度。鉛粉視比重和氧化度具有檢驗(yàn)成本高、耗時和實(shí)驗(yàn)具有破壞性等特點(diǎn)，難以通過加快抽檢頻率更好的實(shí)現(xiàn)球磨過程的質(zhì)量控制。而過程參數(shù)對氧化度和視比重具有重大影響，且各個過程變量之間相關(guān)性強(qiáng)，因此將上述7個過程參數(shù)作為待監(jiān)測變量以對鉛粉的質(zhì)量特性實(shí)施監(jiān)控。各過程參數(shù)監(jiān)測傳感器的位置分布如圖3所示。

圖3 鉛酸蓄電池球磨過程

各傳感器測量對象與設(shè)定值見表1。

表1 各傳感器測量對象及設(shè)定值

離線收集鉛粉氧化度和視比重正常和異常時的過程參數(shù)矩陣。本文共收集異常過程參數(shù)矩陣183個，對收集到的過程異常參數(shù)矩陣進(jìn)行分析，找出了最具典型性的6種異常狀況，形成異常參數(shù)與異常原因之間的對照表，參見表2。

表2 鉛粉質(zhì)量與過程運(yùn)行狀態(tài)的對應(yīng)關(guān)系

根據(jù)表2將采集到的數(shù)據(jù)轉(zhuǎn)為過程質(zhì)量圖譜，典型且較為常見的圖譜見圖4。

圖4 球磨過程質(zhì)量圖譜

3.2 CNN離線訓(xùn)練

本實(shí)驗(yàn)使用深度學(xué)習(xí)機(jī)器：Xeon E3處理器，主頻2.20GHz，32GB內(nèi)存，裝備有1塊Tesla K80 GPU，軟件平臺使用Linux Ubuntu 16.04 LTS下的Caffe框架。為了加快訓(xùn)練速度，采用批次訓(xùn)練(Batch Training,BT)方法[21]，將訓(xùn)練樣本分為多個批次(batch)，只有當(dāng)一批內(nèi)樣本都經(jīng)過網(wǎng)絡(luò)傳播后更新一次網(wǎng)絡(luò)權(quán)值，在此將批次容量設(shè)定為30。并各從中隨機(jī)抽取出300個為訓(xùn)練集、300個為驗(yàn)證集、100個作為測試集來訓(xùn)練識別模型并測試其離線性能。為了對不同結(jié)構(gòu)下的CNN的識別性能進(jìn)行對比，本文選擇了如下幾種結(jié)構(gòu)，并對其測試性能進(jìn)行比較。由于質(zhì)量圖譜具有分辨率低、尺寸小的特點(diǎn)，因此所選擇的對比模型均為兩層模型，即包含兩個卷積層和池化層組合。

表3 模型參數(shù)設(shè)置表

圖5 混淆矩陣

為了對比本文所提方法在特征提取和識別精度上的有效性，對主元分析-支持向量機(jī)(PCA-SVM)、小波變換-BP神經(jīng)網(wǎng)絡(luò)(WT-BPNN)、深度信念網(wǎng)絡(luò)(DBN)進(jìn)行訓(xùn)練，并對比其識別精度，具體識別結(jié)果見表4。表4的結(jié)果通過十折交叉驗(yàn)證法計(jì)算得到。

表4 不同模型的識別性能對比

由表4可知，人工特征提取與淺層學(xué)習(xí)模型相結(jié)合的方式的識別準(zhǔn)確性明顯低于深度學(xué)習(xí)模型CNN的識別率。一方面，人工特征提取方式容易受到經(jīng)驗(yàn)的影響，增加了特征提取的不確定性。如PCA為線性降維，當(dāng)過程的變異方向與主成分垂直時，往往無法有效的對異常類別進(jìn)行監(jiān)測；小波變換雖能夠?qū)^程數(shù)據(jù)的整體特征和關(guān)鍵信息進(jìn)行有效提取，但當(dāng)小波基函數(shù)、閾值和閾值函數(shù)選擇不當(dāng)時，易造成局部關(guān)鍵信息的丟失。另一方面，淺層學(xué)習(xí)模型的效果依賴特征工程，對復(fù)雜數(shù)據(jù)的擬合能力較為有限。例如，反向傳播神經(jīng)網(wǎng)絡(luò)的單隱層特性限制了模型對高維、高耦合、非線性質(zhì)量圖譜的識別能力；支持向量機(jī)本質(zhì)上是利用凸優(yōu)化思想解決二分類問題的兩層神經(jīng)網(wǎng)絡(luò)，凸優(yōu)化思想雖保證了模型參數(shù)解的質(zhì)量，但限制了支持向量機(jī)對質(zhì)量圖譜建模效果，且數(shù)據(jù)量和過程異常類別數(shù)量地增加會削弱支持向量機(jī)的的識別精度。DBN雖具有多隱層的特征，能夠?qū)崿F(xiàn)對質(zhì)量圖譜的特征學(xué)習(xí)和模式識別，但輸入層仍為一維結(jié)構(gòu)，矩陣數(shù)據(jù)的向量化操作使得輸入數(shù)據(jù)丟失空間信息。CNN具有更好的分類特性，能夠在不破壞輸入數(shù)據(jù)結(jié)構(gòu)的情況下利用交替的卷積、池化操作實(shí)現(xiàn)對質(zhì)量圖譜的特征抽取與異常模式識別，能夠更有效用于在線監(jiān)控。

3.3 CNN在線監(jiān)控

取得正常狀態(tài)下所采集到的過程數(shù)據(jù)，并隨機(jī)將某一時間段的數(shù)據(jù)替換為異常狀態(tài)數(shù)據(jù)，以驗(yàn)證所提方法對異常狀態(tài)的靈敏性。

球磨過程屬于典型的自動化生產(chǎn)過程，具有生產(chǎn)節(jié)奏快、傳感器采樣頻率高等特點(diǎn)。因此，以某型電池氧化鉛粉的生產(chǎn)過程為例，驗(yàn)證所提實(shí)時智能監(jiān)控方法的實(shí)用性。該生產(chǎn)線采用監(jiān)控窗口滑動取值的方式將離線訓(xùn)練好的CNN應(yīng)用于球磨過程在線監(jiān)控。監(jiān)控窗口的寬度設(shè)定為30s，滑動步長設(shè)定為0.25s。對球磨過程運(yùn)行狀態(tài)的在線實(shí)時監(jiān)控示意圖如圖6所示。

圖6 某球磨過程運(yùn)行狀態(tài)在線實(shí)時監(jiān)控

當(dāng)CNN第一個神經(jīng)元的輸出值為所有輸出層神經(jīng)元中最大時，判定球磨過程處于正常運(yùn)行狀態(tài)。當(dāng)窗口移動到第123秒時，CNN第二個神經(jīng)元的輸出值為96.32%，出口溫度發(fā)生異常，此時經(jīng)檢查發(fā)現(xiàn)冷卻水噴頭堵塞造成輥筒內(nèi)溫度上升，從而使得氧化度有偏離目標(biāo)值的趨勢，經(jīng)提高冷卻水壓力使得過程回歸正常。此后，當(dāng)窗口移動到242.5秒時，第4個神經(jīng)元被激活，輸出值為92.21%，即后軸溫度出現(xiàn)異常，經(jīng)檢查發(fā)現(xiàn)后軸軸承損壞，經(jīng)過更換后軸使得過程回歸正常，避免了轉(zhuǎn)速不足導(dǎo)致的鉛粉氧化度降低的風(fēng)險。當(dāng)窗口移動到第367.25秒時，第7個神經(jīng)元輸出值為98.83%，即負(fù)風(fēng)壓發(fā)生階躍變化可能會造成鉛粉視比重的變異，此時經(jīng)檢查發(fā)現(xiàn)動力電壓變大，經(jīng)調(diào)整后過程重新回到正常狀態(tài)。當(dāng)滑動窗口移動到第492.75秒時，CNN的第6個神經(jīng)元報警，即過程出現(xiàn)了主機(jī)功率異常，輥筒動力不足會造成鉛粉視比重的變異，經(jīng)檢查發(fā)現(xiàn)襯板部位螺栓發(fā)生松動，經(jīng)緊固后過程回歸正常。以此可知，所提方法能夠?qū)嵱们矣行У膽?yīng)用于制造過程質(zhì)量異常識別。

4 結(jié)語

針對傳統(tǒng)方法診斷能力有限和淺層模型識別精度有限的問題，提出了一種基于卷積神經(jīng)網(wǎng)絡(luò)的過程質(zhì)量異常診斷新方法。首先，利用灰度映射技術(shù)將生產(chǎn)過程數(shù)據(jù)轉(zhuǎn)化為質(zhì)量圖譜形式，實(shí)現(xiàn)了過程狀態(tài)的可視化和過程變異信息的增強(qiáng)；其次，針對現(xiàn)有診斷模型中人工特征提取的不確定性、淺層模型性能有限、矩陣數(shù)據(jù)向量化對數(shù)據(jù)結(jié)構(gòu)的破壞等問題，提出了適用于質(zhì)量圖譜識別的卷積神經(jīng)網(wǎng)絡(luò)模型，克服了已有方法的弊端，能夠更好的對過程實(shí)施診斷。最后，以鉛酸電池制造中的球磨過程為例，通過滑動窗口取值的方法獲取過程數(shù)據(jù)并利用質(zhì)量圖譜捕捉生產(chǎn)過程中的異常信息，將質(zhì)量圖譜輸入到卷積神經(jīng)網(wǎng)絡(luò)中實(shí)現(xiàn)對過程異常的實(shí)時診斷。性能比較與實(shí)例分析表明，所提方法具有較高的識別精度，且神經(jīng)元的響應(yīng)值對過程運(yùn)行狀態(tài)具有較強(qiáng)的可解釋性，本方法兼具可行性和有效性。

然而，本文也有如下問題值得進(jìn)一步研究，例如，如何選取恰當(dāng)?shù)木W(wǎng)絡(luò)深度、卷積核數(shù)目、尺寸及卷積步長，在使得網(wǎng)絡(luò)具有較高的診斷性能的同時降低模型的復(fù)雜度、避免過擬合等方面仍值得進(jìn)一步研究。并且，由于工業(yè)過程具有不確定性強(qiáng)的特點(diǎn)，當(dāng)出現(xiàn)未知異常狀態(tài)時，如何能夠?qū)ζ溥M(jìn)行有效建模與診斷也需進(jìn)一步研究。