王帆，楊雅偉，譚帥，侍洪波

（華東理工大學(xué)化工過程先進(jìn)控制和優(yōu)化技術(shù)教育部重點(diǎn)實(shí)驗(yàn)室，上海 200237）

引 言

隨著現(xiàn)代工業(yè)過程變得越來越復(fù)雜，許多工業(yè)過程，如化工過程，通常包含大量高維并且互相關(guān)聯(lián)的數(shù)據(jù)。在這種情況下，多元統(tǒng)計(jì)過程監(jiān)控（MSPM）方法已經(jīng)被提出，用來從過程數(shù)據(jù)中提取有用信息，并將其用來進(jìn)行系統(tǒng)的故障監(jiān)測。傳統(tǒng)的基于數(shù)據(jù)的多元統(tǒng)計(jì)過程監(jiān)控方法主要包括主成分分析方法（PCA）、偏最小二乘方法（PLS）、獨(dú)立成分分析方法（ICA）。這些方法已經(jīng)被成功地用于化工過程的故障監(jiān)測。

主成分分析是過程監(jiān)測與故障診斷研究應(yīng)用最廣泛的一種方法，它通過將得到的樣本數(shù)據(jù)方差進(jìn)行最優(yōu)線性降維處理，解決了變量之間的相關(guān)性[1]。主成分分析方法提取的特征可以反映出原始數(shù)據(jù)的全局信息[2]?；赑CA 來進(jìn)行故障監(jiān)測的成果已有很多[3-5]。

然而，基于PCA 的故障監(jiān)測方法，假定過程的潛變量服從多元高斯分布，這與實(shí)際的工業(yè)情況是不符的，實(shí)際過程的一部分變量并不服從高斯分布，這樣用PCA 對過程進(jìn)行監(jiān)控，勢必會導(dǎo)致監(jiān)測性能不好[6]。而且經(jīng)過PCA 處理之后，潛變量是互相正交且不相關(guān)的。最近出現(xiàn)了一種新的降維方法，叫做非負(fù)矩陣分解（NMF）[7]，它沒有對潛變量的性質(zhì)進(jìn)行假設(shè)，除了要求其非負(fù)。NMF 通過從原始數(shù)據(jù)中找到一個低秩矩陣逼近，可以產(chǎn)生對原始數(shù)據(jù)的局部特征的稀疏表示。NMF 在最近幾年吸引了越來越多的關(guān)注，在許多應(yīng)用中都有良好的表現(xiàn)，比如數(shù)據(jù)挖掘和模式識別[8-9]。非負(fù)矩陣分解的方法要求非負(fù)性，這樣在進(jìn)行分解時(shí)就只允許加而非減的組合，使非負(fù)矩陣分解方法可以學(xué)習(xí)局部的基于部分的表示[10]。每一個潛變量激活一個可見變量的子集，或者說是激活一個“部分”。所有的潛變量激活作用疊加在一起，產(chǎn)生一個整體[2]。從這個角度看，NMF 可以找到一個中間表示（基于部分的），介于數(shù)據(jù)的局部和全局結(jié)構(gòu)之間[11]。

在化工過程故障監(jiān)測領(lǐng)域，非負(fù)矩陣分解方法的應(yīng)用很少。Li 等[11]提出了應(yīng)用傳統(tǒng)的非負(fù)矩陣分解方法進(jìn)行非高斯過程的故障監(jiān)測，用仿真實(shí)驗(yàn)證明了非負(fù)矩陣分解方法可以用于化工過程的故障監(jiān)測，而且比基于主成分分析的方法有更廣泛的應(yīng)用能力。隨后，Li 等[2]又改進(jìn)了PNMF（投影非負(fù)矩陣分解），提出了GNMP（廣義非負(fù)矩陣投影），主要目的是減輕對原始數(shù)據(jù)的非負(fù)約束。但是，Li 等雖然在文中提到了NMF 可以增強(qiáng)對數(shù)據(jù)的壓縮性和可解釋性是由于其基于部分的稀疏表示，也提到了稀疏性是數(shù)據(jù)壓縮的關(guān)鍵屬性，但并沒有提出關(guān)于施加稀疏性的改進(jìn)。因此，本文提出了采用SNMF（稀疏性非負(fù)矩陣分解）[12]方法來進(jìn)行化工過程故障監(jiān)測。由于在非負(fù)矩陣分解基礎(chǔ)上引入了稀疏編碼（sparse coding）方法，SNMF 可以得到對數(shù)據(jù)集更稀疏的表示。另外，對傳統(tǒng)的非負(fù)矩陣分解得到的原始數(shù)據(jù)低秩近似矩陣，即系數(shù)矩陣H，進(jìn)行正交化處理，從而在降維時(shí)除去變量中的冗余信息，得到更少的投影方向。因?yàn)槭┘恿讼∈栊院驼换畔⒓械搅烁俚耐队胺较蛏?，所以相比于傳統(tǒng)的非負(fù)矩陣分解方法具有優(yōu)越性。同時(shí)，本文提出的稀疏性非負(fù)矩陣分解，其算法中的目標(biāo)函數(shù)和更新策略不同于Li 等所使用的方法。最后用仿真實(shí)驗(yàn)證明了在應(yīng)用于故障監(jiān)測時(shí)，基于稀疏性非負(fù)矩陣分解（SNMF）的方法具有可行性。

1 稀疏性非負(fù)矩陣分解

1.1 非負(fù)矩陣分解

非負(fù)矩陣分解是一種線性的、非負(fù)的近似數(shù)據(jù)表示。給定一個非負(fù)數(shù)據(jù)矩陣X?Rm×n，NMF 可以找到一個近似的分解，將X分解為兩個非負(fù)矩陣的乘積，如式(1)所示，

其中，W?Rm×k，H?Rk×n，k通常選擇為(m+n)k≤mn[7]。W是由基向量wi組成的基矩陣，H是由系數(shù)向量hi組成的系數(shù)矩陣。經(jīng)過這種分解方法得到的基矩陣W和系數(shù)矩陣H都具有一定的稀疏性[7]。

這樣，非負(fù)矩陣分解問題就歸結(jié)為一個非線性優(yōu)化問題，用一個目標(biāo)函數(shù)來測度低秩近似的效果。Lee 等[10]定義了兩種簡單的目標(biāo)函數(shù)，如式(2)、式(3)所示

Li 等[2,11]使用的是式(2)所示的目標(biāo)函數(shù)，本文使用的是式(3)所示的目標(biāo)函數(shù)。目標(biāo)函數(shù)的不同，決定了相應(yīng)的更新策略也是不同的。Lee 等[10]提出了一種迭代方法來解決這個問題，如式(4)、式(5)所示

這個方法叫做乘法更新（MU）算法，可以保證非負(fù)性，但是有可能會卡在非平穩(wěn)點(diǎn)[13]。使用乘法更新算法解決優(yōu)化問題，就可以得到W和H?；仃嘩保留了原始數(shù)據(jù)的空間關(guān)系和數(shù)據(jù)結(jié)構(gòu)，系數(shù)矩陣H可以被看作是原始數(shù)據(jù)矩陣的低秩近似。從統(tǒng)計(jì)過程監(jiān)測方法的角度來看，需要觀察矩陣H來反映工業(yè)過程的狀態(tài)[11]。因此，基于非負(fù)矩陣分解（NMF）的監(jiān)測模型如式(6)所示

1.2 稀疏編碼

稀疏編碼的概念指的是一種代表方法。在這種代表方法中，少數(shù)單位就可以有效地代表典型數(shù)據(jù)向量，這就意味著，在表示時(shí)，大部分單位的價(jià)值接近于零，只有少部分單位作用明顯，價(jià)值是顯著的非零值[14]。經(jīng)過非負(fù)矩陣分解后得到的矩陣本身具有稀疏性特點(diǎn)，因此，將稀疏編碼的方法與非負(fù)矩陣分解結(jié)合是很合理的。對非負(fù)矩陣分解施加一定的稀疏性約束，可以得到更稀疏的表示。

線性稀疏編碼模型的思想如下：假設(shè)觀察到的數(shù)據(jù)集是一些基向量的線性組合，基于這些基向量的系數(shù)代表了為作進(jìn)一步分析的新的特征向量。稀疏編碼方法假定這些潛變量呈現(xiàn)出稀疏性，然后通過尋找一種特定形式的低熵編碼來最大化稀疏性，這種低熵編碼的概率密度的高峰出現(xiàn)在零周圍并且有嚴(yán)重的厚尾性[15]。

用 I(x,y) 來表示一個圖像，它可以表示為一些基函數(shù)的線性組合[12]，如式(9)所示

其中，fi(x,y)是基函數(shù)，a i是系數(shù)。如上所述，線性稀疏編碼可以表示為一個優(yōu)化問題，通過最小化式(10)這個損失函數(shù)[12]

其中，λ是正常數(shù)，決定了第2 項(xiàng)相對于第1項(xiàng)的重要性。第1 項(xiàng)測度了編碼描述圖像的好壞，由式(11)來表示[15]

1.3 稀疏性非負(fù)矩陣分解

傳統(tǒng)的非負(fù)矩陣分解方法，只對矩陣元素施加了非負(fù)約束，然而，對矩陣元素施加稀疏性約束，就可以得到更稀疏的表示，即降維后得到更少的投影方向。因此，把稀疏編碼和非負(fù)矩陣分解結(jié)合在一起就可以得到稀疏性非負(fù)矩陣分解。進(jìn)而，考慮到傳統(tǒng)的非負(fù)矩陣分解得到的原始數(shù)據(jù)低秩近似，即系數(shù)矩陣H，不具有正交性，這就意味著變量之間存在冗余信息，從而考慮對其進(jìn)行正交化處理。這樣在降維時(shí)，可以將變量中的冗余信息除去，得到更少的投影方向。使信息集中到更少的投影方向上，與稀疏性的思想也是契合的。此時(shí)需要解決的優(yōu)化問題如式(12)所示[12]

相應(yīng)的乘法更新（MU）方法如式(13)～式(15)所示

這種方法是通過最小化所有Hkj的和來進(jìn)行稀疏性的限制，從而對傳統(tǒng)的非負(fù)矩陣分解方法施加了稀疏性，將其改進(jìn)成為稀疏性非負(fù)矩陣分解。對矩陣H的正交化處理體現(xiàn)在約束條件中的HHΤ=I，在更新算法求解過程中，體現(xiàn)在式(15)。沒有對矩陣H施加正交處理時(shí)，式(15)原本應(yīng)該是，在迭代更新時(shí)以HXΤ代替WΤ，從而得到式(15)所示的更新迭代公式。這樣代替是因?yàn)閄=WH，兩邊轉(zhuǎn)置得到XΤ=HΤWΤ，兩邊左乘矩陣H得到HXΤ=HHΤWΤ，約束條件HHΤ=I，所以在迭代更新時(shí)以HXΤ代替WΤ，這樣可以保證其正交性。

然后就可以得到如式(6)所示的監(jiān)測模型。相應(yīng)地，監(jiān)測指標(biāo)如式(7)和式(8)所示。

1.4 稀疏度比較

本文使用的稀疏性定量表示是基于L1 范數(shù)和L2 范數(shù)之間的關(guān)系[14]，如式(16)所示

其中，W?Rm×k，Wi是基矩陣W的列向量。稀疏度的值會有兩種極端情況：如果Wi中所有元素都相等且是非零值，則稀疏度為零；如果Wi中只有一個元素是非零值，其余元素值都為零，則稀疏度為1。

對于基矩陣W，其稀疏度由式(17)計(jì)算

使用隨機(jī)生成的矩陣進(jìn)行計(jì)算驗(yàn)證。用MATLAB 隨機(jī)產(chǎn)生100×10 的矩陣進(jìn)行計(jì)算。NMF和SNMF 兩種方法條件相同，都取k為5，循環(huán)次數(shù)為1000 次。對矩陣W和H的初始化都采用隨機(jī)初始化方法。在SNMF 方法中，α的值選取為10。每個方法運(yùn)行10 次，通過式(16)和式(17)來計(jì)算基矩陣W的稀疏度，最后選用10 次數(shù)據(jù)的平均結(jié)果。計(jì)算結(jié)果如表1所示。

表1 NMF 和SNMF 方法中W 的稀疏度Table 1 Sparseness of W in NMF and SNMF

如表1所示，在隨機(jī)計(jì)算中，經(jīng)過SNMF 方法得到的基矩陣W的稀疏度大于傳統(tǒng)NMF 方法得到的稀疏度。通過稀疏度比較可以證明，由于施加了稀疏性的約束和進(jìn)行了正交化處理，SNMF 可以得到比傳統(tǒng)NMF 更加稀疏的表示，從而具有了對數(shù)據(jù)更好的表示能力。

2 基于稀疏性非負(fù)矩陣分解的故障監(jiān)測方法

基于上述提出的稀疏性非負(fù)矩陣分解，這里提出一種新的故障監(jiān)測方法。

2.1 初始化

作為一種迭代算法，對W和H的初始化就顯得很重要。因?yàn)椴煌某跏蓟瘲l件可能會導(dǎo)致不同的結(jié)果。正隨機(jī)數(shù)初始化和奇異值分解（SVD）是比較常見的初始化方法，其中SVD 是初始化基矩陣W的較好方法[16]。

本文采用PCA 中的負(fù)荷矩陣P的絕對值作為基矩陣W的初始化，這樣做方便了兩種算法的比較，而且PCA 選取主元的數(shù)目可以作為選擇基矩陣W維數(shù)大小的參考。系數(shù)矩陣H的初始化采用正隨機(jī)數(shù)的方法。

2.2 監(jiān)測指標(biāo)

如前文所示，基于稀疏性非負(fù)矩陣分解（SNMF）的監(jiān)測模型如式(6)所示。相應(yīng)地，監(jiān)測指標(biāo)如式(7)、式(8)所示。

2.3 控制限

核密度估計(jì)（KDE）被用來確定兩個監(jiān)測指標(biāo)N2和SPE 的控制上限。核密度估計(jì)是一類數(shù)據(jù)驅(qū)動的技術(shù)，用于密度函數(shù)的非參數(shù)估計(jì)。這是一個很有力的工具，可以從給定的樣本集中得到密度函數(shù)的經(jīng)驗(yàn)分布[17]。N2和SPE 兩個統(tǒng)計(jì)量都是單變量，所以很適合用KDE 這個方法來進(jìn)行計(jì)算。

樣本集X={xi,i=1,2,…,n}，密度函數(shù)為P(x)，可以用式(18)表示

對單變量核估計(jì)的KDE 方程如式(19)所示[18]

2.4 故障監(jiān)測流程

基于稀疏性非負(fù)矩陣分解（SNMF）方法的故障監(jiān)測流程如下。

建模：

（1）初始化，正常樣本數(shù)據(jù)X經(jīng)過PCA 后得到負(fù)荷矩陣P，用來初始化W。H用正隨機(jī)數(shù)方法來進(jìn)行初始化；

（2）用稀疏性非負(fù)矩陣分解（SNMF）方法來計(jì)算得到W和H；

（3）根據(jù)式(7)和式(8)分別計(jì)算統(tǒng)計(jì)量N2和SPE；

（4）使用KDE 計(jì)算出兩個監(jiān)測指標(biāo)N2和SPE的控制上限。

監(jiān)測：

（1）根據(jù)測試數(shù)據(jù)得到新的系數(shù)矩陣H；

（2）根據(jù)式(7)和式(8)分別計(jì)算新的N2和SPE；

（3）通過比較新的N2和SPE 與相應(yīng)的控制上限，判斷其是否為故障。

3 仿真實(shí)驗(yàn)

3.1 TE 過程

TE 過程可以人為設(shè)定21 種故障，已經(jīng)被廣泛地用于評估和比較過程監(jiān)測方法的有效性。TE 過程主要包括反應(yīng)器、冷凝器、循環(huán)壓縮機(jī)、解吸塔和氣液分離器5 個單元。有4 種反應(yīng)物和2 種產(chǎn)品，此外，還包含1 種副產(chǎn)品和1 種惰性氣體。該過程共有41 個測量變量和12 個操作變量。41 個測量變量中，22 個是連續(xù)的過程測量變量，19 個是非連續(xù)的過程測量變量。Downs 等[19]給出了關(guān)于TE 過程的詳細(xì)信息。TE 過程的工藝流程圖如圖1所示。

TE 過程可以仿真正常工作狀態(tài)和21 種故障情況。21 種故障類型如表2所示。

仿真數(shù)據(jù)的采樣間隔為3 min，每一個樣本數(shù)據(jù)集包括52 個變量。正常數(shù)據(jù)作為訓(xùn)練數(shù)據(jù)用來建模。對每一個故障情況，進(jìn)行960 次采樣，故障從第161 次采樣開始產(chǎn)生，這樣就得到了測試數(shù)據(jù)集。

這里分別將基于PCA 的監(jiān)測方法、基于NMF的監(jiān)測方法和基于SNMF 的監(jiān)測方法，應(yīng)用于TE過程，進(jìn)行比較。在基于PCA 的方法中，選擇方差貢獻(xiàn)度為85%，此時(shí)，對應(yīng)的k值為27。所以在基于NMF 和基于SNMF 的方法中，相應(yīng)地將k值選取為27。另外，這兩種方法的循環(huán)次數(shù)都是1000次。在SNMF 方法中，α的值選取為10。這是因?yàn)?，由迭代更新公?13)～式(15)可以看出，當(dāng)α的值選取為0 時(shí)，SNMF 退化為傳統(tǒng)的NMF；而當(dāng)α的值選取過大時(shí)，不利于迭代算法的進(jìn)行。α的取值過小和過大都對結(jié)果有不利的影響，所以經(jīng)過嘗試，α的值選取為10。

圖1 TE 過程的工藝流程Fig.1 Process flow sheet of Tennessee Eastman process

表2 TE 過程21 種故障類型Table 2 Process faults for TE process

表3 PCA，NMF，SNMF 3 種方法在TE 過程的故障監(jiān)測率Table 3 Fault detection rates of PCA,NMF and SNMF in TE process

3.2 結(jié)果討論

故障監(jiān)測率作為評價(jià)監(jiān)測好壞的標(biāo)準(zhǔn)。3 種方法的監(jiān)測結(jié)果如表3所示。

由于故障3、9 和15 的測試數(shù)據(jù)在均值、方差和高階矩上沒有可觀察的變化，所以統(tǒng)計(jì)方法的故障監(jiān)測率都很低[20]，這里沒有進(jìn)行分析討論。對于故障18，由于NMF 和SNMF 這兩種方法的誤報(bào)率過高，所以不予討論。對于故障21，由于PCA 的監(jiān)測指標(biāo)SPE 的誤報(bào)率過高，所以也不予討論。對于其余的故障情況，基于NMF 和SNMF 的方法，誤報(bào)率始終在5%以內(nèi)，而基于PCA 的方法的SPE指標(biāo)，在故障8、12、17 和19 時(shí)，誤報(bào)率都稍微超過了5%?？梢詮谋?中看出，對于故障1、2、6、7、8，3 種方法得到的結(jié)果基本相同，這是因?yàn)檫@些故障情況的故障程度很明顯，所以3 種方法都能取得很好的故障監(jiān)測率。

對于故障4、5、10、16、19 和20，基于SNMF的方法都好于基于PCA 的方法。有些情況下，SNMF的結(jié)果不如PCA，這是因?yàn)镾NMF 降維后的投影方向相當(dāng)于PCA 的主元，因?yàn)橄∈栊约s束和正交化處理，基于SNMF 的方法將信息集中到了較少的投影方向上，可能會丟失一些與這些投影方向相關(guān)性差的信息。而PCA 的主元數(shù)較多，相比之下，包含更多的信息。但同時(shí)也注意到，在這些情況下，SNMF的結(jié)果與PCA 相差不多，說明SNMF 用很少的投影方向依然捕捉到了相關(guān)信息。

對于故障4、5、10、11、13、14、16、17、19和20，基于SNMF 的方法都好于基于NMF 的方法。故障4、11、16 和20 的N2指標(biāo)，SNMF 相比于NMF有很明顯的提高（超過10%），在故障11 上提高了26.125%。最值得注意的是在故障4 上的表現(xiàn)，基于PCA 的方法，監(jiān)測指標(biāo)T2的故障監(jiān)測率很低，而基于NMF 和SNMF 的方法，監(jiān)測指標(biāo)N2有較高的故障監(jiān)測率。在故障4 的監(jiān)測上，也可以很明顯地體現(xiàn)出基于SNMF的方法好于基本的NMF方法。3 種方法對故障4 的監(jiān)測情況如圖2所示。

從整體上看，基于NMF 和SNMF 的方法好于基于PCA 的方法，而且由于加入了稀疏性的約束和正交化的處理，基于SNMF 的方法可以得到更稀疏的表示，因此其監(jiān)測效果較基于傳統(tǒng)的NMF 的方法，有了一定程度的提高。

4 結(jié) 論

圖2 PCA，NMF 和SNMF 對故障4 的監(jiān)測結(jié)果Fig.2 Monitoring results of PCA,NMF and SNMF for fault 4

相比于主成分分析（PCA），非負(fù)矩陣分解（NMF）是一種更普遍的方法，因?yàn)檫@種方法對潛變量沒有除了非負(fù)要求之外的任何假設(shè)。在非負(fù)性限制的基礎(chǔ)上，再加入稀疏性約束和正交化處理，可以更好地提高這種方法對數(shù)據(jù)集的表示能力。本文提出了使用稀疏性非負(fù)矩陣分解（SNMF）的方法來進(jìn)行化工過程的故障監(jiān)測，因?yàn)閷⑾∈杈幋a的概念引入到傳統(tǒng)的非負(fù)矩陣分解方法上，所以可以得到對數(shù)據(jù)集更稀疏的表示能力，另外，又對低秩近似矩陣進(jìn)行正交化處理使得降維時(shí)除去了變量的冗余信息，將信息集中在更少的投影方向上，進(jìn)而在故障監(jiān)測時(shí)得到更好的效果。仿真實(shí)驗(yàn)的結(jié)果表明，在TE 過程的監(jiān)控上，基于稀疏性非負(fù)矩陣分解（SNMF）的故障監(jiān)測方法好于傳統(tǒng)的非負(fù)矩陣分解（NMF）方法和主成分分析（PCA）方法。然而，非負(fù)矩陣分解的方法在近幾年還在不斷的發(fā)展中，以后會出現(xiàn)更多關(guān)于此方法的改進(jìn)。另外，關(guān)于該方法應(yīng)用于化工過程的故障監(jiān)測時(shí)，還有一些值得考慮的問題，比如初始化問題和收斂性問題。

[1]Xia Luyue (夏陸岳),Pan Haitian (潘海天),Zhou Mengfei (周猛飛),Cai Yijun (蔡亦軍),Sun Xiaofang (孫小方).Process monitoring and fault diagnosis of propylene polymerization based on improved multiscale principle component analysis [J].CIESC Journal(化工學(xué)報(bào)),2011,62 (8):2312-2317

[2]Li Xiangbao,Yang Yupu,Zhang Weidong.Statistical process monitoringviageneralized non-negative matrix projection [J].Chemometrics and Intelligent Laboratory Systems,2013,121:15-25

[3]Ge Zhiqiang,Song Zhihuan.Distributed PCA model for plant-wide process monitoring [J].Industrial & Engineering Chemistry Research,2013,52:1947-1957

[4]Ge Zhiqiang,Song Zhihuan.Mixture Bayesian regularization method of PPCA for multimode process monitoring [J].AIChE Journal,2010,56:2838-2849

[5]Jia Mingxing,Xu Hengyuan,Liu Xiaofei,Wang Ning.The optimization of the kind and parameters of kernel function in KPCA for process monitoring [J].Computers and Chemical Engineering,2012,46:94-104

[6]Ge Zhiqiang (葛志強(qiáng)),Song Zhihuan (宋執(zhí)環(huán)).New online monitoring method for multiple operating modes process [J].Journal of Chemical Industry and Engineering（China） (化工學(xué)報(bào)),2008,59 (1):135-141

[7]Lee D D,Seung H S.Learning the parts of objects by nonnegative matrix factorization [J].Nature,1999,401:788-791

[8]Shang Fanhua,Jiao L C,Wang Fei.Graph dual regularization non-negative matrix factorization for co-clustering [J].Pattern Recognition,2012,45:2237-2250

[9]Zeng Kun,Yu Jun,Li Cuihua,You Jane,Jin Taisong.Image clustering by hyper-graph regularized non-negative matrix factorization [J].Neurocomputing,2014,138:209-217

[10]Lee D D,Seung H S.Algorithms for non-negative matrix factorization //Advance of Neural Information Process System[C].MIT Press,Cambridge,MA,USA,2001

[11]Li Xiangbao,Yang Yupu,Zhang Weidong.Fault detection method for non-Gaussian processes based on non-negative matrix factorization [J].Asia-Pac.J.Chem.Eng,2013,8:362-370

[12]Liu Weixiang,Zheng Nanning,Lu Xiaofeng.Non-negative matrix factorization for visual coding//Proceedings of 2003 IEEE International Conference on Acoustics,Speech,and Signal Processing[C].2003,3:293-296

[13]Gonzalez E,Zhang Y.Accelerating the Lee-Seung algorithm for nonnegative matrix factorization[R].Technical Report TR-05-02,Rice University,2005

[14]Hoyer P.Non-negative matrix factorization with sparseness constraints [J].Journal of Machine Learning Research,2004,5:1457-1469

[15]Olshausen B A,Field D J.Emergence of simple-cell receptive field properties by learning a sparse code for natural images [J].Nature,1996,381:607-609

[16]Albright R,Cox J,Duling D,Langville A N,Meyer C D.Algorithms,initializations,and convergence for the nonnegative matrix factorization[R].NCSU Technical Report Math 81706,North Caroline State University,2006

[17]Chen Q,Wynne R J,Goulding P,Sandoz D.The application of principal component analysis and kernel density estimation to enhance process monitoring [J].Control Engineering Practice,2000,8:531-543

[18]Botev Z I,Kroese D P.The generalized cross entropy method,with applications to probability density estimation [J].Methodology and Computing in Applied Probability,2011,13:1-27

[19]Downs J J,Vogel E.A plant-wide industrial process control problem [J].Computers and Chemical Engineering,1993,17:245-255

[20]Yu Jianbo.Local and global principal component analysis for process monitoring [J].Journal of Process Control,2012,22:1358-1373