胡啟成 葉為民② 王 瓊 陳永貴

(①同濟大學巖土及地下工程教育部重點實驗室，上海 200092，中國)(②教育部城市環(huán)境與可持續(xù)發(fā)展聯(lián)合研究中心，上海 200092，中國)

0 引 言

2008年，Google推出了GFT(Google Flu Trends)，利用Google搜索引擎，根據人們鍵入的搜索關鍵詞的頻數預測流感，經與美國疾病控制和預防中心監(jiān)控報告相關書籍的多次比對，證實了預測結果與實測值之間存在很大的相關性(Laser et al.，2014)。這意味著，利用大量數據的相關性解決部分問題成為可能。與此同時，根據搜集到的用戶信息，大數據推薦系統(tǒng)可向用戶推送專屬、感興趣的片段信息(朱揚勇等， 2015)，如購物軟件的商品推薦系統(tǒng)，音樂軟件的歌曲推薦系統(tǒng)，導航軟件的交通流量預測等等，大數據已經滲透進人們生活的方方面面。

長期以來，地質學科積累有大量的文本、圖像和序列數據，借助大數據手段開展地質數據在科研和商業(yè)上的應用研究，具有極其重要的理論與社會意義。2017年11月，“地質云1.0”上線運行，實現了地質調查數據共享； 2018年10月18日，“地質云2.0”在2018中國國際礦產大會上正式上線，我國的地質數據共享工作正在有序推進。

地質大數據一般包括序列數據、文本數據及圖像數據。其開發(fā)利用過程一般包括數據采集、數據預處理、模型構建、模型訓練和結果評價等5個步驟。其中，模型構建是地質大數據挖掘的關鍵。

地質數據挖掘的發(fā)展主要取決于大數據挖掘技術的進步。初期主要依賴于傳統(tǒng)的機器學習、模式識別等方法，如Bhattacharya et al.(2006)利用決策樹、人工神經網絡及支持向量機算法，將靜力觸探試驗測得的錐尖阻力和側壁摩阻力生成圖像，再利用CONCC算法進行分割，并針對分割塊進行土性分類。Marjanoviet al.(2011)通過GIS系統(tǒng)提供的關于滑坡的地理、地質數據，分別使用決策樹、logistic回歸模型和SVM模型進行滑坡穩(wěn)定性分析，并且通過對比展現出SVM模型的泛性。當深度學習展露出強大功能后，Patel et al.(2016)使用Probabilistic Neural Network對石灰石種類進行分類； 程國建等(2016)借助深度學習將多隱含層(Hidden Layer)與大量訓練數據聯(lián)系起來，構建“深網絡模型”實現自動學習并最終提升巖性分類的準確性。劉麗婷(2017)將深度信念網絡應用于巖石薄片的圖像處理中，借用光學顯微鏡進行圖像采集，經無縫拼接出整張圖片的光學圖，并傳入深度信念網絡分類模型。張野等(2018)采用基于Inception-v3的深度卷積神經網絡模型，建立了巖石圖像分類的深度學習的遷移模型，實現基于圖像特征的巖性分類。

實際上，開展基于地質圖像大數據的巖性識別研究，對于遙感衛(wèi)星等巖石圖像及處于較危險地帶巖性圖像等的識別，減輕傳統(tǒng)人工識別工作強度，提升工作效率與識別準確率等均具有重要的學術與經濟社會價值。

本文針對地質大數據中的圖像數據，基于深度學習，通過基于網絡搜索的數據采集、數據預處理、搭建網絡、訓練網絡以及評價與結果等步驟，開展圖像識別巖性研究。結果表明，圖像識別巖性的測試準確率可達90%。

1 圖像數據(Image Data)

圖像是人類世界中數量最大的數據類型之一，可以傳遞大量的直觀信息?；趫D像數據可以開展復雜的分析，如識別圖中物體、描述圖像，甚至對圖像進行聯(lián)想。隨著近幾年計算機視覺技術的發(fā)展，機器在處理諸如圖像識別(Image Recognition)、圖像描述(Image Caption)、圖像風格轉移(Style Transfer)等方面均取得了長足進步。

圖像識別：簡單來說，就是輸入圖像數據，通過模型輸出圖像名稱。該模型可以是人的大腦，也可以是其他數學模型。實際上，日常地質圖像處理工作中，存在諸多識別問題，如巖性識別、礦物識別、結構識別等等。需要指出的是，圖像識別不僅只局限于普通光學照片的識別，紅外、X光、高光譜等技術同樣可以用于地質圖像識別。

圖像描述：即輸入圖像數據，借助模型分析，機器輸出圖像信息對應的文字描述。例如，輸入某個地質體的圖像，機器會對地質體圖像進行分析，從而生成對該地質體相關信息的文字描述。

圖像生成：即輸入圖像數據和圖像風格信息，借助模型分析輸出帶有目標風格的圖像。目前常用的生成模型為對抗模型(GAns)和變分自編碼器(VAes)，兩者都擁有較強的圖像生成能力。在此基礎上，可通過文本數據的加入，構建需求描述和圖形設計數據集，從而通過網絡模型實現自動生成設計圖的功能。

2 基于圖像數據的巖性識別

開展基于圖像數據的巖性識別，就是要利用輸入的圖片數據來預測、判斷該圖片所示的巖性類別，實質上是要尋找一個從高維圖片空間到低維圖片類別空間的映射。為此，本文開展了數據采集、數據預處理、網絡搭建、網絡訓練和結果評價研究，以實現基于圖像數據的巖性識別。本次訓練環(huán)境為Win10，CPU為i5-8100h，所用的圖形加速硬件為RTX2060。

2.1 圖像數據采集

數據采集是該類型任務中最重要的部分，數據的數量、質量直接影響到基于圖像的巖性識別結果。原則上，采集的數據應該包含目標關鍵詞，圖像分辨率不宜過小，圖像非拼接，數據分布均勻和圖像內只存在同一種類巖石等。

本次巖性圖像數據主要是借助百度、谷歌等搜索引擎從網絡采集，輸入巖石或礦物關鍵詞搜索圖片，再利用Python編寫爬蟲腳本解析網頁內容，尋找圖片內容的范式，以模擬人類完成下載。最終獲取了約1200張、共8個分類的圖片數據集。

網絡本身是一個超級大的數據庫，通過搜索引擎獲取的圖片同樣遵循大數據特性。但需要說明的是，在圖片的爬取過程中，由于價值密度的不斷降低，后半過程爬取的圖片常發(fā)生內容與關鍵詞偏離，甚至可能出現廣告圖片及不完整圖片等問題。即圖像的質量和數量呈反比關系，爬取的圖片越多，質量越差(混入錯誤的圖片越多)。為此，本文最終爬取了約1200張圖片。

圖1 網絡爬取的圖像數據Fig.1 Images crawled from Web source

2.2 數據預處理

針對所采集的圖片數據存在重復、不完整及與關鍵詞無關等問題(圖2)，需要進行必要的預處理。對于重復圖片(圖片編號不同，但內容相同)只能人工刪除，或者不處理； 對于數據不完整圖片，可以編寫腳本檢查圖片完整性，對不完整圖像重新下載即可； 而對于圖片數據與關鍵詞不符(即出現不符合標簽的錯誤圖片數據)，目前未找到較好的解決方法，也只能通過人工檢查后刪除?？梢姡瑘D像數據的預處理目前大多通過人工審查來完成，若要使用機器進行預處理，就要先訓練機器，而訓練機器又需要圖片數據這就形成了悖論。

圖2 網絡采集的問題圖像數據Fig.2 Diagrams of problem data編號28和編號33為重復圖片； 編號42為無效信息； 編號40和編號41為錯誤圖像

同時，數據預處理的另一項任務是規(guī)范圖片的存儲地址、大小等屬性，從而構造數據集并提高數據集的質量。

本次處理中首先規(guī)范圖片的存儲地址為：

——Dataset Folder

——Train Data

——Data

——Test Data

——Data

即一級目錄為Dataset Folder，二級目錄為Train Data和Test Data，三級目錄為Data的各個分類文件夾。其目的是為了使用Pytorch(Python中的深度學習框架)中的ImageFolder函數，以構造訓練和測試數據集。訓練數據集是網絡訓練所依賴的數據集，即網絡會查看到圖片的正確分類，以修正自己的錯誤，使得下一次預測更準確； 而測試數據集不會獲得圖片的正確分類，它是對網絡性能的一次測試。為了使測試集充分反應模型的能力，極為重要的一點是，網絡不能查看到測試集的正確分類。

構造完畢后，使用transforms函數將圖像數據集大小重新調整為448×448(根據機器性能決定，一般為2的倍數)，再將圖片數據轉化為tensor(張量)數據，以方便讀取和訓練，并對張量數據進行歸一化處理，加快模型的收斂速度。對于訓練數據集，在轉化為張量數據之前，可以利用數據集增大(Dataset Aggregation)操作，如對圖像翻轉、隨機裁剪等等，增加訓練數據集的多樣性。

圖3是處理完成后， 36張訓練數據集的可視化效果。

圖3 可視化的訓練樣本Fig.3 Visualized training data

2.3 網絡搭建

為使網絡模型擁有不錯的性能，同時又不消耗過多的訓練時間，選擇了預訓練的Resnet50模型進行遷移訓練。

Resnet模型是廣大神經網絡模型家族中的一員，擁有神經網絡模型的普遍特性，即模型是由模塊(Block)所堆疊組成的，每個模塊通常由不同功能的神經層(Layer)所連接而成(圖4、圖5)。其中輸入層(Input Layer)負責數據的輸入，輸出層(Output Layer)負責數據的輸出，卷積層(Convolution Layer)負責數據的卷積運算以獲得圖像的特征信息，非線性層(Non-linearity Layer)負責對特征信息進行非線性擬合，池化層(Pooling Layer)負責對數據降維、壓縮參數數量等。

圖4 網絡訓練流程圖Fig.4 Flow path for network training

圖5 網絡模型示意圖Fig.5 General view of a network model

經過上述一系列功能層的組合與堆疊，模型能夠學習圖像中物體的特征信息。特征信息獲取的多少與網絡模型的深度有關。以任意一張巖石圖像為例，圖6是輸入圖像經不同模塊處理后的特征可視化圖，其中圖6a是輸入的原始圖片； 圖6b是經第1個模塊(block)的處理結果。從藍到紅，提取特征的相關程度依次上升，每一張小圖表示該神經層對圖像特征學習/提取的激活程度，可以看到淺層的神經層更多地關注巖石物體自身的特征(特別是左側螢石的特征)，同時對于背景圖像(右側光亮區(qū))也賦予了較多的關注； 圖6c是經第3個模塊處理后的結果。到此深度時，機器所提取特征的激活程度變低，同時所提取的特征變得抽象(人類難以理解)，多數情況下，特征呈離散的點狀分布，當然依然有特征與巖石和背景相關。利用這些在模型訓練過程中所學習到的特征，模型可以很好地對目標物體進行分類?？傊摼W絡已經被證明擁有良好的圖片分類能力(He et al.， 2016)。

圖6 網絡模型學習/提取中的圖像特征結果Fig.6 Visualization of part of feature maps of network model a.輸入圖像； b.第1個模塊的可視化結果； c.第3個模塊的可視化結果

理論上借助該網絡模型，輸入巖性圖片，便可輸出預測的巖性名稱。但實際操作過程中，預測的巖性名稱難免與實際巖性名稱之間會存在一定的誤差。為此，本文選擇了損失函數(Cost Function)來衡量網絡預測值和實際值之間的誤差?？紤]到圖片識別屬于分類問題，故這里選擇常用于分類問題的交叉信息熵(Cross Entropy Loss)作為衡量誤差的函數。

同時，為使網絡預測值最接近真實值，需要選用一個優(yōu)化器，以使衡量誤差的損失函數最小化。為此，本文選擇常用的隨機梯度下降法(Stochastic Gradient Descent)作為優(yōu)化器。

2.4 網絡訓練

完成搭建的網絡需要進行必要的訓練，以保證模型的有效性。實際網絡訓練過程中，需要手動選擇兩個參數，即訓練批次大小(Batch size)和學習率(lr， Learning rate)。前者主要受硬件設備制約，一般選取2的次方，如32、64等，這里選取了8，即一次同時訓練8張圖像。學習率對于最后的訓練結果影響較大，因而本文依次嘗試了10-2，10-3，10-4，10-5情況下的學習率，結果如圖7所示。圖7結果表明，當學習率為10-2時，訓練誤差下降太快， 20個輪次后，就已經開始收斂，再進行訓練將會過擬合，從而導致模型的實際預測能力不足； 當學習率為10-5時，訓練誤差下降過慢(圖中紅色曲線幾乎為一直線)，模型學習能力不足，故舍棄； 當學習率為10-3，10-4時，訓練誤差下降正常(綠色與橙色曲線性能良好)，準確率穩(wěn)步上升，再出于訓練時間考量，本文選擇了前者。

圖7 學習率試驗曲線Fig.7 Learning rate curvesa.訓練誤差與訓練輪次關系曲線； b.測試誤差與訓練輪次關系曲線

至此，網絡訓練參數設置如下：訓練批次為8，學習率為0.001，同時利用stepLR函數(Pytorch深度學習框架下的函數)來控制學習率大小變化，使得學習率隨著訓練過程逐漸減小，直至訓練誤差或訓練準確率收斂。

根據設定的參數，對整個模型經過50輪次(Epoch)的訓練，獲得訓練準確率及測試準確率等參數隨訓練次數變化關系如圖8所示。

圖8 模型網絡訓練過程Fig.8 Network training processes該圖為訓練準確率與測試準確率隨訓練輪次變化關系

從圖8可以看到，隨著訓練次數的增加，訓練準確率穩(wěn)定增加，且經約40 Epochs以后逐漸收斂，訓練準確率在約94%波動，表明訓練基本穩(wěn)定，網絡模型已經學習到了圖片的分類特征； 同時，對應的測試準確率盡管伴有數值上的波動，但總體趨勢變化與訓練準確率曲線相同，網絡整體訓練完畢。

2.5 結果與評價

圖8網絡訓練表明，測試準確率在75%左右波動，且在第46個輪次達到最高值0.895 833 3，即約90%。選取最高準確率下的網絡參數權重值，輸入經最優(yōu)配置的網絡模型，開展基于圖像的巖性識別，并部分巖樣圖像及其識別結果見圖9。

圖9 巖樣圖像及其巖性識別結果Fig.9 Rock images and lithological recognition results

圖9中，左圖為圖像數據及其對應的巖樣正確名稱，右圖為模型識別獲取的巖性數值圖(按數值降序排列)，其中最值對應的巖性類別即為預測的巖性名稱。圖9a中，輸入的為方解石圖像，按識別值降序依次為：方解石、螢石與片麻巖等，說明對于待識別圖像，這些巖性具有相似的特征，根據最大值對應的巖性，方解石應為待識別圖像的巖性名稱； 輸出數值為負值時，表明對應的巖性相關性更低； 圖9b和9c識別的巖性與圖像數據對應的巖性同樣一致。

然而，圖9d識別結果表明，模型將“礫巖”識別成了“方鉛礦”。產生識別錯誤的原因，可能是由于用于模型學習與識別訓練的圖像數據數有限，未能達到“大數據”的程度。同時，巖石圖像的背景也會對最后的識別結果產生一定的影響，這點理論上可以通過增加數據集數量、使用更高分辨率的圖像以及剝離物體和背景來彌補。因此，此類模型要想在實際應用中具有良好表現，就必須收集大量的巖性圖片、構建合理的數據集供模型進行訓練。此外，巖性分類識別過程中，巖石圖片的一些非常相近的特征，譬如宏觀的形狀、顏色等，都會誤導機器給出正相關評分，導致網絡產生錯誤判斷。

因此，只有輸入足夠數量、足夠高清的巖性圖像數據，機器才能識別出微小的特征差異，完成正確識別。但高清原圖數據不易獲取、對硬件顯存要求高，以及需要的計算資源成倍增長等又成了必須面對的問題。理論上采用BCNN(Bilinear Convolutional Neural Network)等能夠捕捉更精細細節(jié)的網絡模型，對于這類在計算機視覺中被稱為細粒度識別問題的解決，應該是今后的一個研究方向。

3 結論與展望

本文基于深度學習理論，通過網絡搜索的數據采集、數據預處理、網絡搭建、網絡訓練及結果/評價等，探討了基于深度學習的地質圖像巖性識別問題。

借助深度學習技術，分別從數據采集、數據預處理、網絡搭建、訓練網絡、評價和結果等方面闡述了巖性圖像數據的識別過程，構建了識別率約90%的圖像識別模型，完成了不同圖像的巖性識別，分析了結果誤差及其產生的原因。

構建數量多、質量好、數據分布均勻的數據集，是提高識別準確率的有效保證，但由此可能會帶來計算資源成倍增長等問題。開發(fā)使用能夠捕捉更精細細節(jié)的網絡模型，應該是解決相似特征區(qū)分難(細粒度識別問題)的一個研究方向。