錢帥康，陳夕松，姜 磊，邵志良，李緒信，史敦禹

（1.東南大學(xué)自動化學(xué)院，江蘇南京 210096；2.南京富島信息工程有限公司，江蘇南京 210061；3.中策橡膠（建德）有限公司，浙江杭州 311600）

抽油機是原油開采的主要設(shè)備，研究抽油機故障診斷對維護安全生產(chǎn)，節(jié)能增效具有重要價值。目前抽油機故障診斷領(lǐng)域較為常用且有效的手段是基于示功圖的分析與識別[1]。但傳統(tǒng)基于人工分析的示功圖診斷方法存在實時性差、診斷精度嚴重依賴專家經(jīng)驗等問題。近年來，卷積神經(jīng)網(wǎng)絡(luò)（Convolutional neural network，CNN）由于具有模型參數(shù)量較少，能夠通過訓(xùn)練卷積核自動地提取圖像特征的特點，已開始用于抽油機故障診斷。劉寶軍[2]提出了基于卷積神經(jīng)網(wǎng)絡(luò)的示功圖診斷技術(shù)，對供液不足、氣體影響等常見工況的診斷識別正確率達到89.3%。何巖峰等[3]提出了使用CNN模型對抽油機進行故障診斷的方法，在識別精度進一步提高的同時還提升了運算效率。

然而，基于CNN 的方法目前多集中于單一工況示功圖的診斷，針對復(fù)合工況研究較少。實際上，采油企業(yè)不僅希望能了解到抽油機的單一工況，更希望掌握到更精細的復(fù)合工況，使企業(yè)能夠更精細化地管理抽油機生產(chǎn)，以達到節(jié)能增產(chǎn)的目的。但由于CNN 本身結(jié)構(gòu)的特性導(dǎo)致其全局建模能力較弱，對于復(fù)合工況示功圖的診斷精度仍有待提高。近年來，Transformer 已開始應(yīng)用于圖像識別并取得了良好效果，形成了新的圖像識別網(wǎng)絡(luò)-視覺Transformer（Vision Transformer，ViT）。由于ViT 使用自注意力機制進行計算，天然具有較好的全局建模能力。因此，本文研究了改進CNN 和ViT的復(fù)合工況示功圖診斷方法，以彌補傳統(tǒng)CNN 在復(fù)合工況下診斷效果不佳的不足。

1 基于改進CNN 和視覺Transformer 網(wǎng)絡(luò)的診斷模型

1.1 改進的卷積神經(jīng)網(wǎng)絡(luò)

典型卷積神經(jīng)網(wǎng)絡(luò)通常由卷積層、池化層、全連接層組成。卷積層用于提取輸入圖像的特征圖，其方形卷積核結(jié)構(gòu)（如3×3，5×5 等）在圖像矩陣上進行滑動窗口計算，能保證圖像中的每個位置都進行了特征提取。池化層用于減小特征圖的分辨率，以達到減少網(wǎng)絡(luò)參數(shù)的目的。全連接層用于將提取出的所有特征圖進行整合并映射為特征向量，以實現(xiàn)圖像表征或分類。由于ResNet[4]具有殘差塊結(jié)構(gòu)，即使層數(shù)很深的網(wǎng)絡(luò)也能夠很好的訓(xùn)練，不會出現(xiàn)模型退化問題，且其網(wǎng)絡(luò)結(jié)構(gòu)簡單，可擴展性高，所以選擇ResNet-50 網(wǎng)絡(luò)作為本論文的基線模型。

通過分析示功圖，發(fā)現(xiàn)其存在顏色單一、圖形僅為封閉曲線的特點。目前CNN 都采用小的方形卷積核來提取圖像特征，這種卷積核無法很好地提取整體曲線特征，導(dǎo)致難以達到較高的診斷精度。而想要更好地提取整體線條特征一般需要更大的卷積核，但隨著卷積核的增大，網(wǎng)絡(luò)參數(shù)也會急劇增加，導(dǎo)致模型訓(xùn)練時間延長，存儲空間增加。論文設(shè)計了非方的n×m 和m×n卷積核，包括7×3 和3×7 卷積核，并以此構(gòu)建如圖1 所示的，A、B 兩種殘差塊。通過兩種殘差塊交替堆疊的方式，在僅增加少量參數(shù)量的前提下，提升了網(wǎng)絡(luò)提取示功圖特征的能力。

圖1 具有非方卷積核的兩種殘差塊

1.2 混合網(wǎng)絡(luò)結(jié)構(gòu)模型

改進的CNN 雖能較好的提取示功圖局部特征，但復(fù)合工況示功圖無法僅通過局部特征去識別，而是要從整體上去觀察，才能獲得準(zhǔn)確的診斷結(jié)果，故研究通過增加ViT 網(wǎng)絡(luò)來獲得更好的診斷精度。ViT 首次將Transformer 用在圖像識別領(lǐng)域，由于其獨特的多頭注意力機制，具有良好的全局建模能力，可以更有效提取復(fù)合工況示功圖整體曲線特征。但直接訓(xùn)練ViT，往往需要百萬甚至千萬級別帶標(biāo)簽數(shù)據(jù)集，才能表現(xiàn)出超越CNN 的性能，否則會出現(xiàn)嚴重過擬合現(xiàn)象。而獲取如此量級的帶標(biāo)簽示功圖數(shù)據(jù)集是很昂貴的，需要消耗大量的人力和物力。論文設(shè)計了融合改進CNN 和ViT 的混合結(jié)構(gòu)，在利用自注意力機制的同時，減小了對大量數(shù)據(jù)的依賴，其結(jié)構(gòu)體參數(shù)（見表1）。

表1 中，O_C 代表輸出通道數(shù)，k 代表卷積核尺寸，s 代表卷積步幅，Act 代表激活函數(shù)，In 和Out 分別代表全連接層的輸入和輸出?；旌仙窠?jīng)網(wǎng)絡(luò)具有17 層卷積層，第一個卷積層為具有7×7 卷積核的普通卷積層，后接一個最大池化層用來降低特征圖尺寸，減少網(wǎng)絡(luò)參數(shù)。然后交替堆疊殘差塊A 和殘差塊B，更有效地提取示功圖局部特征。為了簡化工程實現(xiàn)，用單個具有14×14 卷積核的卷積層作為圖像塊嵌入層，卷積核大小即為圖像塊大小，卷積步幅為14×14，可以實現(xiàn)無重疊的分塊功能。實驗發(fā)現(xiàn)，對卷積層提取的特征圖先進行取平均，再進行嵌入，不僅能大幅減少網(wǎng)絡(luò)參數(shù)量，減少過擬合風(fēng)險，而且能達到更好的精度?；旌暇W(wǎng)絡(luò)一方面能獲得CNN 有效提取局部特征，在少量數(shù)據(jù)下仍能有效訓(xùn)練的優(yōu)點，另一方面能獲得ViT 對全局特征提取的能力，為復(fù)合工況示功圖診斷提供了有力且高效的模型（見圖2）。

圖2 混合神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

表1 混合網(wǎng)絡(luò)架構(gòu)具體參數(shù)

2 示功圖診斷流程

單一工況示功圖類別多達數(shù)十種，而復(fù)合工況更是高達成百上千種。若采用一般的圖像識別分類方法進行復(fù)合工況示功圖診斷，需要為每個復(fù)合工況給定一個標(biāo)簽，則網(wǎng)絡(luò)最終的輸出維度會達到上百維甚至上千維，會導(dǎo)致預(yù)測效果不佳。且一些非典型復(fù)合工況只有很小的概率會出現(xiàn)，所以無法獲取到所有類別的復(fù)合示功圖數(shù)據(jù)。而基于相似識別的方法，可以通過比較圖片之間的差異，提取出不同類別圖像的特征向量，計算特征向量之間的相似度，從而進行圖像的細粒度分類。不會出現(xiàn)全連接層輸出維度過高，從而導(dǎo)致精度下降的問題。且對于樣本數(shù)量較少，甚至沒有出現(xiàn)在訓(xùn)練集中的復(fù)合工況，也可以借助檢索庫，正確實現(xiàn)診斷?；谝陨显颍疚牟捎没谙嗨贫茸R別的示功圖診斷方案[5]，具體流程圖（見圖3）。

圖3 復(fù)合工況示功圖診斷流程圖

2.1 數(shù)據(jù)預(yù)處理

將采集到的原始示功圖數(shù)據(jù)進行異常值剔除，僅保留正常示功圖二維數(shù)據(jù)。對過濾后的示功圖二維載荷數(shù)據(jù)a=［a1，a2，…，ai］和位移數(shù)據(jù)b=［b1，b2，…，bi］

式中：i-每個示功圖數(shù)據(jù)的采樣點數(shù)；amax-抽油機的最大載荷；bmax-抽油機的最大沖程。為了得到W×H大小的示功圖圖像，需要將歸一化后的數(shù)據(jù)點映射到二維圖像坐標(biāo)上，并以圖像左下角為原點。數(shù)據(jù)點乘以圖像寬高后，向下取整，即為歸一化數(shù)據(jù)點在圖像中對應(yīng)的坐標(biāo)值。將所有坐標(biāo)繪制在圖像中后，使用曲線將所有數(shù)據(jù)點進行連接，形成首尾相連的封閉曲線，所繪制示功圖（見圖4）。本論文中示功圖尺寸選擇W=H=224。

圖4 繪制的示功圖

2.2 數(shù)據(jù)集劃分與模型訓(xùn)練

將采集的所有示功圖數(shù)據(jù)繪制成示功圖圖像，并根據(jù)示功圖圖形相似度劃分成不同類別。將分類后的數(shù)據(jù)集以8:1:1 的比例進行訓(xùn)練集、驗證集和測試集的劃分，從訓(xùn)練集中在線選取三元組進行上述混合神經(jīng)網(wǎng)絡(luò)模型的訓(xùn)練，三元組的選取步驟如下：

（1）隨機從訓(xùn)練集中選取屬于同一個類別的子集，并隨機選擇該子集中的某個樣本作為錨點樣本xA。從同一個子集中，再隨機選取與錨點樣本不同的另一個樣本作為正樣本x+。隨機從訓(xùn)練集中選取與錨點樣本不同類別的另一類子集，并隨機選擇該子集中的某個樣本作為錨點樣本x-。

（2）將xA、x+和x-組成一個三元組（xA，x+，x-），重復(fù)步驟（1）、（2）、（3），直到所有數(shù)據(jù)都組成三元組。

（3）對每個三元組中的圖像使用混合神經(jīng)網(wǎng)絡(luò)進行特征提取，得到三個特征向量，使用三元組損失對混合神經(jīng)網(wǎng)絡(luò)進行訓(xùn)練，三元組損失公式如下：

式中：h+-正樣本和錨樣本向量之間的歐式距離；h--負樣本和錨樣本向量之間的歐式距離；m-固定間距。

2.3 實時復(fù)合工況示功圖診斷

由工藝專家標(biāo)定數(shù)據(jù)集中的典型故障工況，并使用訓(xùn)練完成的混合神經(jīng)網(wǎng)絡(luò)模型對典型故障示功圖進進行歸一化處理，歸一化公式如下：行特征提取，建立故障工況特征檢索庫。對實時采集的示功圖數(shù)據(jù)進行實時工況診斷的步驟如下：

（1）對實時采集的示功圖數(shù)據(jù)使用混合網(wǎng)絡(luò)模型提取特征向量xnew，并與工況特征檢索庫中的特征向量進行余弦相似度計算，得到相似度向量V。

（2）判斷V 中最大值Vmax是否超過主工況閾值T1，是則將該最大值對應(yīng)的類別作為示功圖的主工況K，否則將此示功圖類別標(biāo)記為未知，由專家標(biāo)定后加入工況特征檢索庫中。

（3）將V 中除Vmax外的值定義為復(fù)合工況隸屬度t，判斷t 是否超過復(fù)合工況閾值T2，是則判定此示功圖為復(fù)合工況，包含次要工況Ki，否則為單一工況示功圖。

（4）判斷K 是否為故障工況，如果為平穩(wěn)工況，則不報警，如果為故障工況，判斷是否包含Ki，是則進行復(fù)合故障工況報警，否則進行單一故障工況報警。

3 應(yīng)用研究

本文選取某采油企業(yè)2021 年7 月至9 月的示功圖數(shù)據(jù)進行實驗，分析本文方法對復(fù)合工況示功圖診斷的有效性。根據(jù)采集到的示功圖數(shù)據(jù)，進行數(shù)據(jù)預(yù)處理，繪制得到共45 429 張示功圖圖像。以相似度為依據(jù)分類數(shù)據(jù)集后，將數(shù)據(jù)集劃分為訓(xùn)練集36 343 張、驗證集4 543 張和測試集4 543 張。從訓(xùn)練集中采樣三元組，使用三元組損失對混合神經(jīng)網(wǎng)絡(luò)進行訓(xùn)練，得到的損失值曲線（見圖5）。使用混合神經(jīng)網(wǎng)絡(luò)對測試集示功圖提取特征，根據(jù)與故障特征檢索庫中的特征向量進行相似度計算，以完成示功圖診斷，診斷精度（見表2）。

表2 混合神經(jīng)網(wǎng)絡(luò)在測試集上的診斷精度

圖5 混合神經(jīng)網(wǎng)絡(luò)損失曲線圖

為了驗證本文模型的泛化能力以及相較原始模型的有效性，從產(chǎn)油企業(yè)2021 年10 月數(shù)據(jù)中選取2 000張未出現(xiàn)在訓(xùn)練集中的單一和復(fù)合工況示功圖數(shù)據(jù)，以相同的方式進行診斷，得到多模型對比結(jié)果（見表3）。

根據(jù)表3 分析，原始ResNet50 網(wǎng)絡(luò)對復(fù)合工況的診斷精度較低，僅為81.50%，改進的ResNet 雖有提升，診斷精度仍達不到要求，僅為85.25%，而混合結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò)復(fù)合工況診斷精度取得了較大的提升，達到了92.75%。三種網(wǎng)絡(luò)在單一工況示功圖下都取得了較高的診斷精度，而混合結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò)仍達到了最高的96.5%。由上述分析可知，本文設(shè)計的混合結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò)具有較好的示功圖特征提取能力，不僅能提升整體診斷精度，而且對復(fù)合工況示功圖診斷精度具有很大提升，為抽油機故障診斷提供了更準(zhǔn)確和有效的手段。

表3 多模型在新測試集上的診斷精度對比結(jié)果

4 結(jié)論

本文提出了一種基于改進CNN 和ViT 網(wǎng)絡(luò)的復(fù)合工況示功圖診斷技術(shù)，設(shè)計的混合神經(jīng)網(wǎng)絡(luò)模型能夠較好地提取復(fù)合工況示功圖特征，對實時采集的示功圖使用混合網(wǎng)絡(luò)進行特征提取，根據(jù)提取的特征與特征檢索庫中的特征向量進行相似度計算，得到相似度向量。通過相似度向量，判定示功圖類型，并進行單一或復(fù)合工況故障診斷。實驗結(jié)果表明，該方法提出的混合網(wǎng)絡(luò)結(jié)構(gòu)在測試集上診斷精度達到95%以上，能顯著提升復(fù)合工況示功圖的診斷精度，使企業(yè)能夠更加精細化、集約化地管理抽油機生產(chǎn)，建立更為合適的抽油機工作制度，以達到節(jié)能增產(chǎn)的目的。