張正風(fēng)

徐州生物工程職業(yè)技術(shù)學(xué)院信息中心，江蘇 徐州 221006

基于LS-SVM苯乳酸發(fā)酵過程的建模

張正風(fēng)

徐州生物工程職業(yè)技術(shù)學(xué)院信息中心，江蘇 徐州 221006

為了解決苯乳酸發(fā)酵過程中關(guān)鍵生物參數(shù)難以直接在線檢測的問題，提出了基于最小二乘支持向量機(jī)（LS-SVM）的軟測量建模方法.通過使用徑向基核函數(shù)來對(duì)菌體濃度、苯乳酸濃度建立模型，對(duì)建模的理論進(jìn)行了分析和并進(jìn)行了仿真研究，同時(shí)還采用支持向量機(jī)對(duì)過程進(jìn)行了建模，對(duì)兩種方法的優(yōu)缺點(diǎn)進(jìn)行了比較.結(jié)果表明，基于LS-SVM的建模方法預(yù)測精度高、跟蹤性能好，能提高在線預(yù)估的效率，非常適合于苯乳酸發(fā)酵過程的在線預(yù)估.

發(fā)酵；建模；徑向基核函數(shù)；支持向量機(jī)；最小二乘支持向量機(jī)

1　引　言

苯乳酸是近幾年才開始研究的一種新型高效生物防腐劑，它的發(fā)酵過程與其他生化反應(yīng)一樣，具有非線性和不確定性的特點(diǎn).要想掌握苯乳酸的發(fā)酵過程，并且對(duì)其進(jìn)行進(jìn)一步的優(yōu)化和控制，就要能夠獲得充足的發(fā)酵環(huán)節(jié)數(shù)據(jù).在線測定發(fā)酵過程的重要狀態(tài)信息，在目前常用的測量條件和儀器下，難度較大，甚至幾乎是不可能的.因此，離線化驗(yàn)一直是目前測定菌體濃度、基質(zhì)濃度和產(chǎn)物濃度等的最常用方法.然而離線測定有很多缺點(diǎn)，比如測量結(jié)果滯后，限制了過程優(yōu)化控制方案的實(shí)施.

國內(nèi)對(duì)苯乳酸的研究剛起步，目前關(guān)于苯乳酸的研究成果大多集中于苯乳酸的乳桿菌株的篩選［1］，有關(guān)其發(fā)酵工藝的研究很少.苯乳酸發(fā)酵生產(chǎn)過程可持續(xù)20～100 h不等［2］，在整個(gè)過程中，菌體和產(chǎn)物濃度不斷變化，互相影響和抑制.這導(dǎo)致人們對(duì)其發(fā)酵過程認(rèn)識(shí)不足，不能精確地進(jìn)行過程控制，因此，要在估算方法和估算精度上下功夫.本文采用基于LS-SVM的軟測量技術(shù)來改善估算方法，對(duì)苯乳酸發(fā)酵的生產(chǎn)過程進(jìn)行建模研究.

最小二乘支持向量機(jī)（LS-SVM）是在標(biāo)準(zhǔn)支持向量機(jī)（SVM）的基礎(chǔ)上提出的一種擴(kuò)展和改進(jìn)算法［3］.標(biāo)準(zhǔn)SVM算法用求解二次規(guī)劃的方法，力爭在現(xiàn)有的有限采樣數(shù)據(jù)的條件下推出最優(yōu)的結(jié)果，而且SVM擁有很多優(yōu)良的特性，如不存在局部最小問題，以及強(qiáng)大的小樣本學(xué)習(xí)和泛化能力.但是隨著樣本數(shù)據(jù)規(guī)模的增大，相應(yīng)的二次規(guī)劃問題會(huì)變得非常復(fù)雜，一個(gè)直接的問題就是導(dǎo)致了計(jì)算速度會(huì)越來越慢.LS-SVM通過一個(gè)線性方程組來進(jìn)行相應(yīng)的訓(xùn)練，有嚴(yán)格的數(shù)學(xué)理論支撐，優(yōu)勢(shì)相當(dāng)明顯，算法精度高，速度快，且易于實(shí)現(xiàn)，因而在模式識(shí)別和非線性建模領(lǐng)域的應(yīng)用度較高［4］.

2　最小二乘支持向量機(jī)

設(shè)有如下訓(xùn)練樣本集，其中為n維的樣本輸入向量，為相應(yīng)的樣本輸出，n為樣本數(shù)目.構(gòu)造如式（1）所形式的函數(shù)來擬合樣本［5］：

其中，ω∈Rn，是原始空間的權(quán)向量，b是偏差量，并且使用非線性映射φ（·）:Rn→H將原來的輸入空間Rn映射到高維Hilbert空間φ（x），特征空間的維數(shù)不固定，有可能為無窮維.此函數(shù)的目的是求解滿足條件的ωt和b.利用結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則，降低學(xué)習(xí)機(jī)器的VC維，LS-SVM回歸預(yù)測可以表示為如式（2）所示的約束優(yōu)化問題［6］：

約束條件：yi=φ（xi）·ω+b+ξi，i=1，...，k.

其中ωt、ω用來控制模型的復(fù)雜度，c（c＞0）表示函數(shù)的平滑過渡和允許誤差大于x的數(shù)值之間的折衷值［6］.采用線性回歸的方法，相應(yīng)的損失函數(shù)就是平方損失函數(shù)，也就是計(jì)算誤差ξ的平方和來作為度量和調(diào)整因選擇不同參數(shù)導(dǎo)致的損失.

求解這個(gè)優(yōu)化的問題可以用拉格朗日法：

對(duì)式（3）的變量（ω，b）求偏導(dǎo)［7］，進(jìn)一步得到優(yōu)化條件：

根據(jù)式（4）可以得到：

定義滿足Mercer條件的線性核函數(shù)K（xi，yj）=φ（xi）·φ（xj），該核函數(shù)的作用是用來替代內(nèi)積，再對(duì)其進(jìn)一步進(jìn)行隱式非線性變換，從而順利地解決了維數(shù)災(zāi)難問題［8］.根據(jù)式（5），優(yōu)化問題最終演變?yōu)榉蔷€性模型：

通過推導(dǎo)可知，把待求解的優(yōu)化問題轉(zhuǎn)化為線性方程的求解問題，因此，優(yōu)化問題的算法復(fù)雜度就大大的降低.根據(jù)推導(dǎo)過程還能看出，LS-SVM需要預(yù)先確定的參數(shù)為正則化參數(shù)C和核函數(shù)參數(shù)δ，而對(duì)于標(biāo)準(zhǔn)的SVM算法，以RBF核函數(shù)為例，標(biāo)準(zhǔn)SVM的參數(shù)為ε、C、δ三個(gè)，因此LS-SVM算法需要預(yù)先確定的參數(shù)少，這也體現(xiàn)了LS-SVM算法的可操作性更強(qiáng).

3　結(jié)果與討論

使用LS-SVM來進(jìn)行苯乳酸發(fā)酵過程的建模，可測變量X通常為溶氧量、pH值、溫度、攪拌功率、發(fā)酵液體積等；輸入變量u為通氣量、熱水流速、冷水流速等；可測輸出變量為CO2濃度、反應(yīng)熱量等；不可測量變量主要包括：菌體濃度、苯乳酸濃度、基質(zhì)濃度［9］.

輸入變量的選擇是直接影響軟測量結(jié)果的重要因素，因此要在各個(gè)輸入變量中找出與模型關(guān)系非常直接和重要的一組輸入變量作為LS-SVM測量模型的輸入?yún)?shù)，不可測變量作為軟測量模型的輸出，使用不同的參數(shù)來實(shí)現(xiàn)輸入輸出的非線性函數(shù)關(guān)系.

在用神經(jīng)網(wǎng)絡(luò)和向量機(jī)建立菌體濃度估計(jì)模型時(shí)，劉毅［9］、張蓓［10］等人的研究表明，由于微生物生長速率和氧氣消耗量有很大關(guān)系，所以最重要的輔助變量是溶氧利用率DO（t）.同時(shí)發(fā)酵底物和發(fā)酵產(chǎn)物還將產(chǎn)生比較明顯的抑制作用，這里選擇在t時(shí)刻實(shí)際物理意義較大的苯乳酸濃度P（t）、基質(zhì)濃度K（t）和菌體濃度W（t）納入輸入變量中.另外，為了減小建模的復(fù)雜度，不采用變化量較小的溫度以及pH值這兩個(gè)變量.

除了輸入?yún)?shù)的選擇外，在支持向量機(jī)研究領(lǐng)域，另一個(gè)要事先確定的重要問題是模型選擇.本文使用RBF核函數(shù)來進(jìn)行LS-SVM的建模，RBF核函數(shù)輸入?yún)?shù)有正則化參數(shù)C和核函數(shù)參數(shù)δ兩個(gè)參數(shù)，為了得到最佳模型選擇，要力爭尋找到最佳的參數(shù)搭配.使用最小二乘支持向量機(jī)的一個(gè)非常明顯的優(yōu)勢(shì)就是求解速度快，所以可以很快的對(duì)數(shù)據(jù)進(jìn)行訓(xùn)練.首先確定正則化參數(shù)集SC= ｛C1，C2，…，Cn｝和核參數(shù)Sδ=｛δ1，δ2，…，δn｝，再對(duì)這些核函數(shù)輸入?yún)?shù)集分別進(jìn)行組合，使用組合參數(shù)對(duì)LS-SVM進(jìn)行反復(fù)訓(xùn)練，最后用確認(rèn)集對(duì)參數(shù)的選擇進(jìn)行篩選和優(yōu)化，從而選出最佳參數(shù)組合作為使用LS-SVM進(jìn)行苯乳酸發(fā)酵建模模型的最終參數(shù).

苯乳酸發(fā)酵過程在5L生物發(fā)酵罐中進(jìn)行，建模過程中所使用的數(shù)據(jù)都是來自發(fā)酵過程中的實(shí)際采樣數(shù)據(jù)，由于其生產(chǎn)規(guī)模小，采樣間隔時(shí)間較長，所以發(fā)酵實(shí)驗(yàn)獲取到的原始數(shù)據(jù)量比較少，為了彌補(bǔ)這個(gè)缺陷，根據(jù)生物發(fā)酵過程兩次采樣之間的數(shù)據(jù)變化不大的特點(diǎn)，使用3次平滑樣條插值擬合［11］的方法來適當(dāng)填充丟失的實(shí)驗(yàn)數(shù)據(jù).通過以上的數(shù)據(jù)測量和平滑補(bǔ)差，得到了用于發(fā)酵實(shí)驗(yàn)建模的數(shù)據(jù)集合.

因?yàn)榇玫慕?shù)據(jù)尺度不統(tǒng)一，不同的數(shù)據(jù)可能有數(shù)量級(jí)上的差距，如果直接計(jì)算，大數(shù)的變化會(huì)掩蓋小數(shù)的變化，使其不能反映小的測量值的變化，同時(shí)，收斂速度也比較慢.所以在得到實(shí)驗(yàn)數(shù)據(jù)之后，還要對(duì)數(shù)據(jù)進(jìn)行歸一化處理.數(shù)據(jù)歸一化主要有兩種方法［12］，一是把數(shù)據(jù)變?yōu)椋?，1）之間的小數(shù)，另一個(gè)方法是把有綱量表達(dá)式變?yōu)闊o綱量表達(dá)式.經(jīng)過歸一化處理后，數(shù)據(jù)就變得更容易訓(xùn)練和學(xué)習(xí).

本次實(shí)驗(yàn)一共采集10個(gè)批次的發(fā)酵數(shù)據(jù)，每個(gè)完整的發(fā)酵批次時(shí)間跨度30 h，任意選擇8個(gè)批次用于軟測量模型誤差的最小訓(xùn)練，其余2批作為測試集對(duì)模型進(jìn)行檢驗(yàn)，對(duì)菌體濃度、苯乳酸濃度分別使用SVM和LS-SVM兩種方法進(jìn)行建模預(yù)測.在不同批次樣本數(shù)據(jù)下，LS-SVM和SVM建模性能的比較見表1.

在對(duì)菌體濃度的預(yù)測中，LS-SVM方法選擇的

表1　LS-SVM與SVM預(yù)測性能比較Tab.1　Comparison of prediction performance of LS-SVM and SVM

參數(shù)為：C90=15 500，δ90=1.50；C130=15 000，δ130=1.70.SVM方法參數(shù)選擇均為：C=1 000，ε= 0.000 1，σ=0.5.在對(duì)苯乳酸濃度的預(yù)測中，LS-SVM的模型參數(shù)為：C100=16 500，δ100=1.34；C150=16 000，δ150=1.55，SVM模型的參數(shù)均選擇為：C=2 000，ε=0.000 1，σ=0.5.圖1和圖2分別是部分?jǐn)?shù)據(jù)的訓(xùn)練結(jié)果和測試結(jié)果.

圖1　LS-SVM模型的訓(xùn)練曲線Fig.1　Training curve of LS-SVM model

圖2　LS-SVM模型的測試曲線Fig.2　Test curve of LS-SVM model

3.2建模結(jié)果分析

表1是在同樣的訓(xùn)練集以及訓(xùn)練條件下，采用LS-SVM與SVM算法的預(yù)測性能比較，文中采用了訓(xùn)練時(shí)間和均方差作為衡量建模效果優(yōu)劣的兩個(gè)指標(biāo).圖1和圖2分別是對(duì)菌體濃度和苯乳酸濃度預(yù)測的訓(xùn)練曲線和預(yù)測曲線.從圖1和圖2可以看出，通過定義合理的參數(shù)，LS-SVM能夠把誤差控制在一個(gè)合理的范圍內(nèi)，也使LS-SVM算法具有了相當(dāng)高的擬合精度和泛化能力.繼續(xù)觀察和分析表1的數(shù)據(jù)可以看出，同樣的樣本數(shù)下，LS-SVM模型訓(xùn)練需要的時(shí)間更少，效率更高；通過均方差比較可以看出，兩種算法的均方差都控制在非常低的水平，說明實(shí)驗(yàn)的數(shù)據(jù)精度都較高.

4　結(jié)　語

苯乳酸發(fā)酵過程各個(gè)變量之間相互制約，是一個(gè)高度非線性的過程.本文使用LS-SVM算法，對(duì)苯乳酸發(fā)酵過程進(jìn)行仿真建模，并且和SVM算法進(jìn)行比較.通過數(shù)據(jù)和圖表等實(shí)驗(yàn)結(jié)果表明，LS-SVM是一種十分有效的仿真算法，該算法預(yù)測精度高、跟蹤性能好，并且能大幅提高在線預(yù)估的效率，適合于對(duì)苯乳酸發(fā)酵過程的建模，并且對(duì)于其他類似的需要在線預(yù)估的場合，該方法也有一定的參考價(jià)值.

［1］ 高學(xué)金，王普，孫崇正，等.基于動(dòng)態(tài)SVM的發(fā)酵過程建模［J］.儀器儀表學(xué)報(bào)，2006，27（11）：1497-1500. GAO X J，WANG P，SUN C Z，et al.Modeling of fermentation process based on dynamic SVM［J］.Chinese journal of scientific instrument，2006，27（11）：1497-1500.

［2］李興峰，江波.乳酸菌來源的苯乳酸及其對(duì)食源性致病菌的抑菌活性［J］.中國食品學(xué)報(bào)，2014，35（3）：250-253. LI X F，JIANG B.Lactic acid bacteria from lactic acid bacteria and their antimicrobial activity against food borne pathogens［J］.Journal of Chinese institute of food science and technology，2014，35（3）：250-253.

［3］ 閻威武，朱宏棟，邵惠鶴.基于最小二乘支持向量機(jī)的軟測量建模［J］.系統(tǒng)仿真學(xué)報(bào)，2003（10）：189-191. YAN W W，ZHU H D，SHAO H H.Soft sensor modeling based on least square support vector machine［J］.Journal of system simulation，2003（10）：189-191.

［4］ 黃麗，孫玉坤，嵇小輔，等.基于tPSO-BPNN的賴氨酸發(fā)酵軟測量［J］.儀器儀表學(xué)報(bào)，2010，31（14）：2317-2320. HANG L，SUN Y K，JI X F，et al.Soft sensing of lysine fermentation based on tPSO-BPNN［J］.Chinese journal of scientific instrument，2010，31（14）：2317-2320.

［5］SUN J，F(xiàn)ENG B，XU W B.Particles swam optimization with particles having quantum behavior［C］.USA：Proceedings of IEEE conference on evolutionary computation，2004（1）：325-331.

［6］ 田雨波.混合神經(jīng)網(wǎng)絡(luò)技術(shù)［M］.北京：科學(xué)出版社，2009.

［7］陳凱，張靜怡.基于RBF網(wǎng)絡(luò)的傳動(dòng)滾筒測溫系統(tǒng)［J］.儀表技術(shù)與傳感器，2011（9）：56-58. CHEN K，ZHANG J Y.Temperature measurement system of transmission roller based on RBF network［J］. Instrument technique and sensor，2011（9）：56-58.

［8］袁曉芳，王耀南.基于混沌優(yōu)化算法的支持向量機(jī)參數(shù)選取方法［J］.控制與決策，2006，21（1）：111-117. YUAN X F，WANG Y N.Parameter selectionof support vector machine based on chaos optimization algorithm ［J］.Control and decision，2006，21（1）：111-117.

［9］劉毅，王海清.采用最小二乘支持向量機(jī)的青霉素發(fā)酵過程建模研究［J］.生物工程學(xué)報(bào)，2006，22（5）：144-149.

LIU Y，WANG H Q.Modeling of penicillin fermentation process using least square support vector machine［J］. Chinese journal of biotechnology，2006，22（5）：144-149.

［10］張蓓，熊明勇，張克旭.人工神經(jīng)網(wǎng)絡(luò)在發(fā)酵工業(yè)中的應(yīng)用［J］.生物技術(shù)通訊，2003，14（1）：74-76. ZHANG B，XIONG M Y，ZHANG K X.Application of artificial neural network in fermentation industry［J］. Letters in biotechnology，2003，14（1）：74-76.

［11］AN S，LIU W，VENKATESH S.Fast cross-validation algorithms for least squares support vector machine and kernel ridge re-gression［J］.Pattern recognition，2007，40（8）：2154-2162.

［12］周兆勇，汪西莉，曹燕龍.基于GA優(yōu)選參數(shù)的SVM水質(zhì)評(píng)價(jià)方法研究［J］.計(jì)算機(jī)工程，2008，44（4）：190-193.

ZHOU Z Y，WANG X L，CAO Y L.Study on SVM waterquality evaluation methodbased on GA optimization parameter［J］.Computer engineering，2008，44（4）：190-193.

本文編輯：張瑞

Modeling of Phenyllactic Acid Fermentation Process Based on Least Square Support Vector Machine

ZHANG Zhengfeng

Information Center of Xuzhou Vocational College of Bioengineering，Xuzhou 221006，China

To solve the difficulties of online measurement for crucial biological variables in the phenyllactic acid fermentation process，a soft sensor modeling method was proposed based on the least squares support vector machine（LS-SVM），and the model for concentration of mycelium and phenyllactic acid was built by kernel of Radial Basis Function.Theoretical analysis and simulation study of the modeling was investigated，and a second modeling process was constructed by the support vector machine.Finally，the effects of the two methods modeling were compared.The results show that the modeling method based on the LS-SVM has the advantages of accuracy predition，good tracking performance，improving efficiency of on-line predition，which is very suitable for the on-line estimation of the phenyllactic acid fermentation process.

fermentation；modeling；kernel of Radial Basis Function；SVM；LS-SVM

張正風(fēng)，碩士，講師.E-mail：4508454@qq.com

TQ92

A

10.3969/j.issn.1674-2869.2016.04.005

1674-2869（2016）04-0333-04

2016-04-11

徐州生物工程職業(yè)技術(shù)學(xué)院科研課題項(xiàng)目（2014B04）；第二期江蘇省職業(yè)教育教學(xué)研究課題項(xiàng)目（ZY94）