摘" 要：為降低MEMS陀螺儀輸出信號噪聲，提出一種基于注意力機制和1D-CNN-Bi-GRU的MEMS陀螺儀誤差補償方法。首先通過1D-CNN網絡進行陀螺時序數據特征提取，然后采用Bi-GRU網絡進行特征分析，最后利用注意力機制進行數據權重分配。實驗結果表明，與對照方法相比，該文方法噪聲平均值減少57.03%和47.8%，噪聲方差減少81.07%和73.01%，表明該文方法具有一定優(yōu)勢，具有較好的誤差補償效果。

關鍵詞：MEMS陀螺儀;降噪;1D-CNN;Bi-GRU;注意力機制

中圖分類號：TP212" " " 文獻標志碼：A" " " " " 文章編號：2095-2945（2024）26-0037-05

Abstract： In order to reduce the output signal noise of MEMS gyroscope， an error compensation method of MEMS gyroscope based on attention mechanism and 1D-CNN-Bi-GRU is proposed. Firstly， the feature of gyro time series data is extracted by 1D-CNN network， then the feature is analyzed by Bi-GRU network， and finally the data weight is distributed by attention mechanism. The experimental results show that， compared with the control method， the average noise of this method is reduced by 57.03% and 47.8%， and the noise variance is reduced by 81.07% and 73.01%， indicating that this method has certain advantages and has a better error compensation effect.

Keywords： MEMS gyroscope; noise reduction; 1D-CNN; Bi-GRU; attention mechanism

微機電系統(tǒng)（Micro-Electro-Mechanical System， MEMS）陀螺具有體積小、功耗低、成本低和性價比高的優(yōu)點[1]，在小型機構，如無人機[2-3]、導航終端[4]、機器人[5]中發(fā)揮著重要作用。由于MEMS陀螺噪聲較大，在實際工程應用時需要抑制MEMS陀螺儀的噪聲，為此MEMS陀螺的降噪方法已成為學界的研究熱點。

傳統(tǒng)的陀螺儀降噪方法包括卡爾曼濾波[6]、經驗模態(tài)分解[7-9]和小波變換[10-11]等方法。隨著計算機運算能力的不斷提高，研究者已經采用具有更魯棒擬合能力的深度學習模型對MEMS陀螺儀信號進行降噪[12-14]。Wang等[12]提出了一種基于卷積神經網絡-極限學習機的方法，將信號作為時間序列進行處理，利用LSTM對MEMS陀螺儀輸出信號進行濾波。Huo等[13]使用降噪自編碼器網絡和注意力多層卷積神經網絡，實現了對MEMS陀螺儀數據錯誤和殘缺條件下的降噪。Liu等[14]利用一維卷積神經網絡和LSTM網絡捕捉陀螺儀時序數據中的規(guī)律，提取局部特征并學習時間相關性。設計注意力機制，通過分析特征重要性自動設置權重，進行陀螺儀數據降噪。

為了進一步提高MEMS陀螺儀的測量精度，本文提出了一種基于1D-CNN網絡和Bi-GRU-Attention模型相結合的誤差補償方法，以提高誤差補償的性能。本文所提方法結構如圖1所示。

1" 深度神經網絡原理分析

1.1" 1D-CNN網絡原理結構

一維卷積神經網絡（1D Convolutional Neural Network，1D-CNN）是用于處理序列數據的深度學習模型，主要應用于時間序列分析、音頻信號處理等領域。與傳統(tǒng)的卷積神經網絡（CNN）用于處理圖像數據的二維卷積層不同，1D-CNN主要用于處理一維序列數據。1D-CNN在序列數據處理中具有諸多優(yōu)勢。首先，其能夠自動學習輸入序列的局部模式和特征，無須手動設計特征提取器。其次，1D-CNN能夠處理變長的序列數據，適用于不同長度的輸入。此外，通過堆疊多個卷積層和池化層，1D-CNN可以學習更高級別的抽象特征。

1D-CNN的基本組成部分包括卷積層、激活函數、池化層和全連接層。在卷積層中，多個一維卷積核對序列數據進行卷積處理生成一系列特征圖。激活函數通常被應用于卷積層的輸出，以引入非線性。池化層對特征圖尺寸進行降維，保留主要特征。最后，全連接層將池化層的結果傳遞到輸出層，用于進行分類、回歸或其他任務。

1D-CNN利用卷積操作對輸入序列進行特征提取，其原理是使用一維卷積核（一維濾波器）在輸入序列上滑動，通過對局部區(qū)域進行卷積操作來提取局部特征。第i個時間窗中的信息可表示為

式中：l為時間窗的長度;xl為l時刻陀螺輸出的原始數據。

1D-CNN的卷積運算具體方法為

， （2）

式中：ck表示第k個卷積核輸出的特征映射;ωk和b表示權重和偏置。

與傳統(tǒng)的全連接層相比，1D-CNN能夠保留輸入序列的局部結構信息，同時減少參數數量，提高計算效率。

1.2" Bi-GRU網絡原理結構

陀螺數據處理時需要考慮當前時間和過去一段時間的輸入序列。本文中采用雙向門控循環(huán)單元（Bidirectional Gate Recurrent Unit， Bi-GRU），對輸入的狀態(tài)進行分析。與傳統(tǒng)的門控循環(huán)單元（Gated Recurrent Unit，GRU）方法相比，Bi-GRU能夠實現按時間順序和逆時間順序對序列信息進行分析，從而分析序列特征。Bi-GRU的結構包括正向GRU和反向GRU，其結構如圖2所示。

GRU模塊是LSTM網絡的簡化網絡，將LSTM網絡中的輸入門和遺忘門用更新門及時進行替換。更新門實現對歷史信息進行選擇性保留，重置門實現對當前信息和歷史信息進行組合，其主要計算公式為

式中：t為t時刻;ht表示t時刻的輸出數據;xt為t時刻的輸入數據;zt為更新門;rt為重置門;t為根據更新門生成的信息;σ為sigmoid函數;tanh為雙曲正切函數作為激活函數;wz、wr、wh分別為更新門，重置門和激活門的權重;bz、br、bh分別為更新門，重置門和激活門的偏置項，權重項和偏置項數值在訓練過程中會自動更新。

在BiGRU網絡中，前向單元實現正向狀態(tài)序列規(guī)律分析，反向單元實現逆向狀態(tài)序列規(guī)律分析。主要分析過程計算公式如下

（4）

式中：t為t時刻;t為前向隱藏層的狀態(tài);t為反向隱藏層的狀態(tài);wt1，wt2為前向和反向傳播隱藏層的輸出權重;bt表示偏置;f表示激活函數，此處采用sigmoid函數。

1.3" 注意力機制原理結構

注意力機制是一種模仿人類認知注意的技術，其通過有選擇地忽略部分不重要的信息，并將注意力集中在特定的信息上。該技術為后續(xù)注意機制的變體奠定了基礎，并已成功應用于計算機視覺、推薦系統(tǒng)和翻譯領域[15]。在神經網絡中，注意機制可以被視為一個權重矩陣。換句話說，輸入數據會被神經網絡自動設定相應的權重，該權重表示了其被關注的程度。關注程度越高，權重值越大。

由于MEMS陀螺儀的時序數據包含時間信息，對于MEMS陀螺儀而言不同時刻的誤差特征信息對角速度的影響是不同的。例如，隨著時間的推移，時間窗口的初始誤差會逐漸累積，在時間窗結束時造成誤差。然而，BiGRU模型無法很好地處理陀螺儀序列中不同重要部分的差異。為此，本文采用了軟注意機制以自動區(qū)分不同時間錯誤特征的重要程度。具體而言，注意機制可以表示為

式中：αi表示第i個時間窗對MEMS陀螺儀序列預測的重要性;分數si為關注權值。

2" 模型建立與參數確定

2.1" 模型概述

MEMS陀螺的輸出信號類型為時間序列信號，從時域信息中能夠獲得陀螺輸出的信息規(guī)律。為了更好利用陀螺儀輸出的時域信息規(guī)律，本文采用1D-CNN網絡挖掘數據背后的關系，提取歷史數據中的規(guī)律。CNN通過卷積層的神經網絡結構對陀螺輸出信息進行歸納，得出時序信號中的潛在信息，為陀螺儀降噪奠定基礎。作為雙向門控循環(huán)網絡，BiGRU模塊能夠從正反2個方向對1D-CNN網絡輸出的特征信息進行分析。但是，當時間序列信息長度過長時，神經網絡在數據處理過程中會出現數據特征丟失和數據建模困難的問題。為此，本文引入注意力機制，在建模過程中對輸入的特征進行加權操作，通過為重要信息賦予更高權重，幫助神經網絡捕獲時間序列信息中特征的依賴關系。為此，本文提出基于注意力機制的1D-CNN-Bi-GRU降噪方法，通過構建多層異構神經網絡對陀螺儀輸出的時序信息進行特征提取和學習，提升降噪性能。

2.2" 基于注意力機制的1D-CNN-Bi-GRU模型

本文構建的1D-CNN-Bi-GRU網絡模型共5層，分別為時序信息輸入層、1D-CNN層、Bi-GRU層、注意力層和輸出層。陀螺儀輸出的數據通過1D-CNN實現特征提取，然后經過BiGRU和注意力層學習時序信息規(guī)律以實現更好的降噪效果，最后輸出降噪后的結果，神經網絡結構如圖3所示。其中，陀螺儀時序信息通過1D-CNN層進行特征分析，然后輸入Bi-GRU進行時序信息特征提取，經過注意力層學習特征信息內部規(guī)律，以實現降噪功能，最后經過輸出層得到降噪后的信息。

神經網絡中各層詳細描述如下：

1）輸入層：輸入層負責處理陀螺儀原始數據，進行預處理后輸入到1-D CNN層。

2）1D-CNN層：本層負責對時序信息進行特征初步提取，根據陀螺儀輸出一維時序信號的特點，通過1D-CNN網絡實現特征提取。其結構為卷積層與池化層交替進行數據處理，然后對數據進行高維節(jié)點展開，并通過ReLU函數進行激活，然后通過全連接層進行結構轉換提取得到特征向量并輸出。

3）Bi-GRU層：本層對1D-CNN層輸出的特征信息進行時序分析，學習時序規(guī)律。構建Bi-GRU網絡，對上層神經網絡的輸出信息進行特征提取，分析信息的變化規(guī)律。

4）注意力層：本層實現時序信息分析后信息的權重確定，輸入為經過Bi-GRU層處理的特征向量，輸出為通過不斷迭代得到的權重矩陣。本層權重系數計算公式為

式中：t為t時刻;ht為t時刻Bi-GRU層的輸出向量;et為對應的注意力概率分布值;u、w為權重;b為偏置，注意力層在t時刻輸出為st。

5）輸出層：信息經過注意力層處理后，在輸出層通過全連接（Dense）網絡輸出，步長為l的輸出信息可表示為Y=[y1，y2，…yl]，全連接層激活函數為Sigmoid函數，全連接層信息計算公式為

， " （9）

式中：st時刻的輸出為yt;w0、b0分別為權重和偏置;激活函數為Sigmoid函數。

2.3" 損失函數

采用機器學習常用的均方誤差函數（MSE， Mean Squared Error）作為損失函數，計算方法為

式中：n為樣本數量;i為觀測值索引;yi為第i個觀測值的實際值;i為第i個觀測值的預測值。

3" 實驗仿真與結果分析

為了本文第2節(jié)所提的方法，搭建實驗平臺進行實驗驗證，采集數據進行神經網絡訓練和算法效果測試。實驗陀螺儀為對標STIM210研制的某型三軸MEMS陀螺儀，采用RS-422接口進行傳輸，數據傳輸波特率為230 400 bit/s，更新率為2 kHz。利用專用工裝將陀螺儀固定在三軸轉臺上，轉臺配套專用測控軟件，能夠進行實時數據采集，設定數據采集率為2 kHz，實驗過程中設定轉臺進行往復運動，同步采樣陀螺儀和轉臺信號。

3.1" 實驗仿真

根據實驗設置搭建完成實驗平臺后進行預熱1 h，而后進行實驗，采集1 h陀螺儀的角速度數據。利用Python語言、Pytorch框架構建本文第2節(jié)中提出的降噪神經網絡，神經網絡的超參數設置見表1，在正式實驗前進行了預實驗進行參數調節(jié)。為驗證本文方法的有效性，選取BP神經網絡和QPSO優(yōu)化的卡爾曼濾波方法[15]（BP-KF和QPSO-KF方法）進行對比。

神經網絡輸入為陀螺儀輸出數據，優(yōu)化目標為最小化轉臺與陀螺儀降噪數據均方誤差，輸出為降噪后的陀螺儀數據。其中，陀螺儀輸出數據與對應轉臺數據為一組，按70%、15%、15%比例劃分測試集、訓練集和驗證集。

3.2" 結果分析

按照3.1節(jié)中的實驗設計進行實驗，并采用不同降噪方法進行數據處理，得到陀螺時域圖如圖4所示，噪聲方差見表2。從圖4與表2中可以看出，本文所提出的方法在實驗中表現出了較好的效果，與BP-KF和QPSO-KF方法相比，本文所提出的方法濾波效果噪聲平均絕對值減少了57.03%和47.8%，表明本文所提方法具有較好的降噪效果。

從表2看，本文所提方法噪聲方差最小，較BP-KF方法和QPSO-KF方法減少了81.07%和73.01%，表明本文方法在噪聲方差方面表現顯著好于2種對照方法，體現了本文提出方法在噪聲控制穩(wěn)定性方面的優(yōu)勢。

4" 結論

本文通過構建神經網絡對MEMS陀螺進行數據降噪，采用一維CNN網絡對MEMS陀螺時序數據特征提取，Bi-GRU進行特征分析，注意力機制實現重點信息關注，實現了陀螺數據降噪。實驗結果表明，與BP用神經網絡和QPSO方法優(yōu)化的卡爾曼濾波方法相比，本文所提出的方法在誤差絕對值和誤差方差方面有顯著優(yōu)勢，誤差的平均絕對值分別減少了57.03%和47.8%，誤差的方差分別減少了81.07%和73.01%，對MEMS陀螺儀數據降噪有一定優(yōu)勢，提高了MEMS陀螺數據精度，具有一定工程應用價值。

參考文獻：

[1] SHAO X L， SI H N， ZHANG W D. Low-frequency learning quantized control for MEMS gyroscopes accounting for full-state constraints[J]. Engineering Applications of Artificial Intelligence， 2022，115：104724.

[2] 朱燕，崔智軍.無人機捷聯(lián)航姿系統(tǒng)誤差分析與補償[J].傳感器與微系統(tǒng)，2018，37（8）：29-32，36.

[3] 劉昕，秦超.基于MEMS振動陀螺的旋翼無人機組合導航算法設計[J].壓電與聲光，2023，45（4）：517-521.

[4] 張?zhí)嵘?，王冠，陳起金，?GNSS/MEMSIMU車載組合導航中IMU比例因子誤差的影響分析[J].大地測量與地球動力學，2023，1（6）：1-6.

[5] 黃偉.機器人上肢運動控制系統(tǒng)關鍵技術研究[D].長春：長春理工大學，2023.

[6] 王靜靜，秦剛，李騰.融合卡爾曼改進小波的姿態(tài)傳感器濾波方法[J].自動化與儀表，2023，38（9）：110-114，119.

[7] 郭文靜，曹慧亮.基于變分模態(tài)分解和神經網絡算法的微機械陀螺溫度補償[J].測試技術學報，2021，35（6）：495-502.

[8] 王偉，冉昌艷，孫水發(fā)，等.基于ICEEMDAN-ACF的自適應MEMS陀螺信號去噪方法[J].儀表技術與傳感器，2023（9）：112-118.

[9] 曾鑫，先蘇杰，王康，等.基于改進EMD和ARMA的MEMS陀螺儀隨機誤差補償方法[J].兵工學報，2023，5（10）：1-9.

[10] 余國才，王虹，孫傳波，等.小波結合改進自適應卡爾曼濾波的MEMS陀螺降噪方法[J].微波學報，2023，39（S1）：414-417.

[11] 丁明寬，石志勇，韓蘭懿，等.基于優(yōu)化VMD-小波閾值的MEMS陀螺信號降噪[J].兵器裝備工程學報，2021，42（8）：191-197.

[12] WANG X W， CAO H L. Improved VMD-ELM algorithm for MEMS gyroscope of temperature compensation model based on CNN-LSTM and PSO-SVM[J]. Micromachines， 2022，13（12）：2056.

[13] HUO Z M， WANG F C， SHEN H H， et al. Optimal compensation of MEMS gyroscope noise kalman filter based on Conv-DAE and MultiTCN-Attention model in static base environment[J]. Sensors， 2022，22（19）：7249.

[14] LIU Y H， CUI J Q， LIANG W. A hybrid learning-based stochastic noise eliminating method with attention-Conv-LSTM network for low-cost MEMS gyroscope[J]. Frontiers in Neurorobotics， 2022，16：993936.

[15] 萬芯煒，王晶，楊輝，等.BP神經網絡結合粒子群優(yōu)化卡爾曼濾波的MEMS陀螺隨機誤差補償方法[J].兵工學報，2023，44（2）：556-565.

第一作者簡介：王寧（1990-），女，碩士，工程師。研究方向為慣性傳感器技術研發(fā)。