李留青，陳中良

（黃淮學(xué)院 河南 駐馬店 463000）

基于定步長自然梯度算法盲混合信號分離技術(shù)研究

李留青，陳中良

（黃淮學(xué)院 河南 駐馬店 463000）

本文利用自然梯度算法對盲混合方波、正弦波、調(diào)幅波和噪聲等信號進行盲分離實驗，通過仿真，驗證了自然梯度盲分離算法在復(fù)雜信號分離中的準(zhǔn)確性。比較了不同步長下，自然梯度算法的分離性能，得出步長的選擇對算法收斂性及穩(wěn)態(tài)誤差的重要性，文章分析了算法在步長變化情況下的收斂速度，穩(wěn)態(tài)性能等。

盲信號；分離技術(shù)；自然梯度算法；穩(wěn)態(tài)性能；收斂速度

盲分離技術(shù)[1]是指源信號未知以及在進行盲混合過程未知的情況下，將盲混合在一起的信號分離出混合前源信號的一種方法。在當(dāng)今的信號處理研究領(lǐng)域中，信號的盲源分離研究是目前一個具有極大挑戰(zhàn)性的信號分離研究的熱點，“雞尾酒會”問題，是人們對盲分離問題的深入研究[2]。當(dāng)人們在一個噪音嘈雜的環(huán)境中，如果若干人在同一時間同時說話，如何實現(xiàn)僅憑探測器檢測到的噪音加語音的混合語音信號，就能從混合語音信號中分離出人們所需要的聲音信號呢？這就是信號分離研究的熱點：盲源分離問題[3]。盲分離問題的有非線性混合、線性瞬時混合和線性卷積混合3種基本模型。無監(jiān)督學(xué)習(xí)法是進行盲分離最常用的方法，該方法首先根據(jù)一定的理論，來構(gòu)造出合適的目標(biāo)函數(shù)，在確定了目標(biāo)函數(shù)后，然后通過合適的尋優(yōu)算法就能夠求解得到需要的解混矩陣。本文研究一種固定步長的自然梯度盲分離算法在不同類型信號的盲混合模型中的分析和應(yīng)用，并研究步長在算法性能中的作用。

1 盲分離模型

1.1 ICA模型

圖 1 為 ICA 盲源分離模型圖[4]，圖中 S1（t），S2（t）， ...，Sn（t）表示未知的源信號，混合系統(tǒng)A是信號的傳輸通道，N表示噪聲，x1（t），x（t），...，xm（t）表示觀測到的混合信號，W 是需要求解的分離系統(tǒng)，通過分離系統(tǒng)能夠很好的得到未知源信號的最佳估計，y1（t），y2（t），...，yn（t）即為所求源信號的最佳估計。

圖1 盲信號分離框圖Fig.1 Fanaticism separation diagram

如果從噪聲信號有無的角度來分，可分為：有噪模型和無噪模型兩類。由于有噪模型、線性卷積混合和非線性混合模型，其混合方式和算法較復(fù)雜，因此，針對本文研究對象選擇線性瞬時混合有噪模型。

ICA模型進行盲源分離的數(shù)學(xué)表達式如（1）所示：

式（1）中，s表示一組源信號，由n個獨立信號源組成的。

s=[s1（t），s2（t），…，sn（t）]T，在經(jīng)過未知傳輸通道 A 后，通過傳感器接收到的觀測信號 x=[x1（t），x2（t），…，xm（t）]T，共有m個觀測信號，假設(shè)m≥n，這里系統(tǒng)簡化為m=n。式中，s是一個由n個獨立源信號構(gòu)成的矩陣，A是一個未知的m×m混合矩陣，與混合系統(tǒng)模型密切相關(guān)[5]。

式（1）中，x是觀測到了混合信號矩陣，W是求解出的的解混矩陣，Y則是通過ICA方法得到的源信號s的估計。因此說，運用ICA方法進行盲源分離的關(guān)鍵就在于如何求解出解混矩陣W。

1.2 ICA求解一般過程

ICA求解的一般過程主要包括：1）預(yù)處理；2）確立優(yōu)化目標(biāo)函數(shù)；3）選擇最優(yōu)的優(yōu)化算法共3個步驟。其中目標(biāo)函數(shù)的選取很關(guān)鍵，它決定了ICA的一致性和魯棒性等等。并且目標(biāo)函數(shù)的選取及收斂速度以及對計算機的內(nèi)存要求等息息相關(guān)。

常用的目標(biāo)函數(shù)有：高階累積量、負(fù)熵、互信息、最大似然估計，程序基于最大似然估計進行目標(biāo)函數(shù)的選取。對于ICA問題的求解來說，在選取了合適的目標(biāo)函數(shù)之后，下一步工作就是要選擇合適的優(yōu)化算法來對已經(jīng)選好的目標(biāo)函數(shù)進行學(xué)習(xí)，使其達到最大值或最小值，從而求得合適的解混矩陣w，使得分離出的獨立分量，與各個源信號盡可能的相等。從不同的角度來進行優(yōu)化算法分類，可以分成很多類別，本文設(shè)計程序利用最大似然估計最為目標(biāo)函數(shù)的選取，基于梯度的自然梯度優(yōu)化算法進行盲混合信號的分離實踐。

2 算法分析

隨機梯度算法是一種常用來求目標(biāo)函數(shù)L（W）極值的方法，其工作步驟：

Step1：選取一初始解混矩陣，將其代入目標(biāo)函數(shù)，求出L（W）在 W（0）處的梯度，

Step2：在負(fù)梯度方向（如果求解最大值，則取正梯度方向），增加一個合適的步長，計算出新的分離矩陣形W（1），重復(fù)上述步驟。故求解W的隨機梯度算法的計算公式為：

式（1）是常見的一種梯度下降法的迭代公式，對選取的目標(biāo)函數(shù)L（W）不同時，可以得到不同的迭代公式。因此，本文目標(biāo)函數(shù)選用最大似然估計，將Y=Wx代入最大似然估計公式：

通過對其求導(dǎo)，得到：

將式（4）帶入式（1）可得到，解混矩陣W的迭代公式為：

式（5）是隨機梯度算法的離線批處理迭代公式，如果用瞬時值替代期望值，可得到隨機梯度算法的在線自適應(yīng)迭代公式：

當(dāng)選取目標(biāo)函數(shù)L（W）不同時，得到迭代公式是不同的。這里，μ（k）為步長；g（·）為給定的非線性函數(shù)；通常，該函數(shù)與源信號概率密度函數(shù)密切相關(guān)，對于超高斯信號，g（·）=tanh（y），對于亞高斯信號，g（·）=y3。

Infomax算法可有效的分離了多個超高斯分布的源信號。但是，這一算法的主要缺點是：收斂速度慢，同時由于涉及分離矩陣W的求逆，一旦W在更新過程中條件數(shù)變差，算法就可能發(fā)散。對這一問題，Amari提出了基于黎曼（Riemann）空間的自然梯度算法。對于在矩陣空間中討論的ICA問題來說，自然梯度與隨機梯度之間存在如下關(guān)系：

經(jīng)過整理，用瞬時值 φ（y）yT代替期望值 E{φ（y）xT}時，自然梯度算法可表示為：

與隨機梯度相比，自然梯度算法可以避免對矩陣進行求逆運算，實際數(shù)量明顯降低，同時也加快了收斂速度。通過實踐證明，自然梯度算法是一種具有很好分離效果的學(xué)習(xí)算法，同時該算法并不要求對觀測信號進行白化處理，從而使信號處理步驟簡化，已經(jīng)成為了一種很常用的學(xué)習(xí)算法。

在本文中，采用以全局傳輸矩陣中元素獨立性表示的串音誤差來衡量分離性能的優(yōu)劣。串音誤差是由Amari最先提出來的，表示分離矩陣W的逆矩陣和混合矩陣A的偏離程度，串音誤差定義為：

式（9）中，gij表示全局傳輸矩陣G=WA的元素。E是一個不小于0的數(shù)，僅當(dāng)信號完全分離時E=0，實際中，當(dāng)算法收斂后，串音誤差是一個非常小的值[8]。

4 仿真實驗

假設(shè)初始信號由方波信號、正弦波信號、調(diào)幅波信號以及噪聲信號等構(gòu)成，如圖2所示，采樣頻率為1 MHz。

圖2 初始新號波形Fig.2 Initial new waveform

采樣4 000個點進行觀測分析計算，初始信號通過隨機矩陣盲混合后，其波形雜亂無章，很難識別，如圖3所示。

圖3 盲混合信號波形Fig.3 Blind mixed signal waveform

在對采集到的觀測信號進行盲分離時，采用初始步長μ=0.005的自然梯度算法對盲混合信號進行分離實踐。算法中，采用非線性函數(shù)y3。分離結(jié)果波形如圖4所示。

圖4 分離波形圖Fig.4 Separate waveform figure

從圖4可以看出，本文算法能夠準(zhǔn)確的分離出盲混合后的信號。串音誤差如圖5所示。

圖5 串音誤差（步長 =0.005）Fig.5 Crosstalk error （step length=0.005）

從串音誤差圖5可以看出，算法在迭代1 200次后基本實現(xiàn)收斂，穩(wěn)態(tài)后最大串音誤差為1.959。為了研究步長對分離性能的影響，采用步長0.01的自然梯度盲分離算法。算法同樣能夠?qū)崿F(xiàn)對信號的盲分離，其串音誤差如圖6所示。

由圖6串音誤差圖中可以看出，步長為0.01時，迭代不到1 000次即實現(xiàn)收斂，說明選擇較大步長時，算法收斂速度快，但穩(wěn)態(tài)性能較差，穩(wěn)態(tài)后最大串音誤差為3.453。由此看出，梯度算法對步長的選擇十分敏感，微小的差異都會帶來不同的分離結(jié)果。通過仿真試驗可以看出，梯度算法的步長選擇是一個關(guān)鍵的問題。今后將從步長自適應(yīng)的角度進一步對自然梯度在盲混合信號分離中的作用進行研究。

圖6 串音誤差（步長μ=0.01）Fig.6 Crosstalk error （step length=0.01）

5 結(jié)束語

本文介紹了自然梯度算法在盲混合信號分離中的作用，通過仿真實驗表明，該算法能夠?qū)γせ旌系男盘栠M行有效分離，通過實驗分析，自然梯度算法在盲分離時，具有等變化性，其順序及相位不能確定，另外，由于算法的計算量、收斂速度和穩(wěn)態(tài)性能是相互矛盾的，在步長的選取上要進行綜合考慮，這也是今后研究的方向之一。

[1]馬建倉，牛奕龍，陳海洋.盲信號處理[M].北京：國防工業(yè)出版社，2006.

[2]Choi S，Cichocki A.Adaptive Blind Separation of Speech Signals:Cocktail Party Problem，Korea:In Pro[C]//International Conference on Speech Processing，1997：617-622.

[3]A Bronkhorst.The Cocktail Party Phenomenon:A Review of Research on Speech Intelligibility in Multiple-talker Conditions[J].ACUST ICA，2000，86（1）：117-128.

[4]史習(xí)智.盲信號處理——理論與實踐[M].上海:上海交通大學(xué)出版社，2008.

[5]Hyvarinen A，Karhunen J.獨立成分分析[M].周宗潭，董國華，等譯.北京:電子工業(yè)出版社，2007.

[6]Hyv?rinen A，Oja E.A Fast Fixed-Point Algorithm for Independent Component Analysis[J].Neural Computation，1997，9（7）：1483-1492.

[7]楊福生，洪波.獨立分量分析的原理與應(yīng)用[M].2版.北京:清華大學(xué)出版社，2006：20-24.

[8]Amari S，Cichocki A，Yang H H.A new learning algorithm for blind signal separation[C]//in Advances in Neural Information Processing Systems.NIPS’1995.Cambridge，MA:MIT Press，1995：757-763.

Research of natural gradient algorithm blind signal separation

LI Liu-qing，CHEN Zhong-liang
（Huanghuai University， Zhumadian 463000， China）

In this paper， using the natural gradient algorithm for blind mixed Fang Bo，sine wave， amplitude modulation wave and noise signal blind separation experiments， simulation， verified the accuracy of the natural gradient blindseparation algorithm in complex signal separation.Comparison of differentsteps，the separation performance of the natural gradient algorithm，thestep size selection on the importance of convergence and steady-state error，this paper analyzes the convergence speed in step variationalgorithm，steady-state performance etc.

blind signal； separation technology； natural gradient algorithm；steady state performance； convergence speed

TN911.6

A

1674-6236（2014）15-0027-03

2014-04-09 稿件編號：201404095

河南省科技攻關(guān)計劃項目（122102210510）

李留青（1981—），女，河南駐馬店人，講師。研究方向：計算機應(yīng)用。