岳學軍 凌康杰 王林惠 岑振釗 盧 楊 劉永鑫

(華南農(nóng)業(yè)大學電子工程學院， 廣州 510642)

0 引言

鉀(K)是柑橘生長過程中必需的營養(yǎng)元素之一，活性極高，對柑橘果實發(fā)育和品質(zhì)形成起到十分重要的作用[1]。我國是柑橘生產(chǎn)大國，快速無損測定柑橘葉片鉀含量對柑橘生長健康狀況、營養(yǎng)元素脅迫狀況、柑橘產(chǎn)量預測和柑橘樹的栽培管理、變量施肥施藥、農(nóng)機具研發(fā)等具有重要意義[2]。

由于傳統(tǒng)的作物鉀含量檢測方法存在耗時、費力、過程冗長繁瑣、時效性差等弊端，因此研究快速無損的鉀含量檢測方法成為熱點[3]。隨著高光譜技術的迅速發(fā)展，國內(nèi)外研究者深入研究了作物營養(yǎng)成分光譜檢測方法，但主要集中于氮素含量研究，對鉀素含量研究較少[4-6]。MENESATTI等[7]基于近紅外光譜對柑橘葉片包括鉀在內(nèi)的多種營養(yǎng)元素進行了估測，但缺乏對柑橘不同物候期的高光譜分析與建模。劉艷麗等[8]基于高光譜技術分別建立了iPLS和siPLS模型的柑橘花鉀素營養(yǎng)估測模型，獲得預測集相關系數(shù)最高為0.885 5。朱西存等[9]使用ASD FieldSpec3光譜儀測定蘋果花期冠層高光譜數(shù)據(jù)，并對原始光譜進行了不同形式的光譜變換，獲得一階微分下多元線性回歸(Multiple linear regression，MLR)模型的相關系數(shù)為0.985 1，平均相對誤差為9.8%。趙化兵等[10]對梨樹鮮葉的可見/近紅外反射光譜進行了S-G(3)濾波，所建立的PLSR鉀素含量模型的驗證集和預測集決定系數(shù)為0.722 7和0.679 1，預測的平均相對誤差為6.81%。以上方法中均沒有涉及不同物候期光譜特征遷移，研究對象局限于某一時期，沒有關注果樹不同生長期的營養(yǎng)狀況，由于葉片營養(yǎng)成分會不斷變化，單一物候期的營養(yǎng)元素含量預測對整株果樹生長周期營養(yǎng)狀況監(jiān)測不具備指導作用[11]。同時上述方法所建立的單模型單數(shù)據(jù)集在特征提取和泛化能力上存在不足，均需收集相應數(shù)量的化學測量真實值作為模型訓練監(jiān)督標簽，存在成本高、耗時間長、過程繁瑣、工作量大缺點，不能實現(xiàn)不同目標域之間的特征遷移和融合[12-14]。

本文采用深度遷移學習方法對柑橘樹4個不同物候期的高光譜數(shù)據(jù)進行自適應特征提取和降維，遷移和融合多種特征，以此建立SSAE-DLNs柑橘葉片鉀含量估測模型。

1 材料與方法

1.1 柑橘樹種植管理與葉片采集

選擇廣州市蘿崗區(qū)蟹莊村柑橘種植示范園4年生的109株柑橘作為試驗樣本，并進行科學規(guī)范的種植管理，保證溫度在12～20℃，灌水量1 000 mm左右，pH值為4～5，相對空氣濕度為80%左右。采用純度為45%的鉀肥分別于萌芽期、穩(wěn)果期、壯果促梢期和采果期進行施肥，施肥時間為2015年2、4、6、8月下旬，施肥量占全年施肥總量的30%、30%、25%、15%。保證水肥合理、穩(wěn)定，灌溉頻次為每周2次。分別在2015年4月24日(萌芽期)、6月22日(穩(wěn)果期)、8月23日(壯果促梢期)、10月23日(采果期)采集柑橘葉片，在每棵樹東南西北4個方位的上下兩層共采集8片鮮葉，采集位于頂梢起向下數(shù)第3和第4片大小均勻的健康葉片。

1.2 高光譜測定

采用美國ASD FieldSpec 3光譜儀采集柑橘鮮葉的光譜反射值，光譜測量范圍為350～2 500 nm，光譜數(shù)據(jù)輸出間隔為1 nm，故柑橘葉片的光譜數(shù)據(jù)為2 151維矢量。具體操作是從葉片基部將葉片完整剪下，平鋪于反射率近似為零的黑色橡膠上，采用ASD公司提供的Pro Lamp(A128932)人工光源通過手柄安裝在采集支架上，入射光纖探頭垂直正對待測葉片，距離葉片6 cm，視場直徑0.52 cm，頂角30°，分別在每片葉子的葉尖、葉中和葉基附近采集3次[15]。實際光譜反射值是葉尖至葉基光譜反射值的平均值。每次測量前均用白板校正，采集暗電流25次，白板10次[16]。同一棵樹同一生長時期的8片葉片光譜反射率的均值作為柑橘葉片樣本的光譜反射率，不同生長時期的同一棵樹視為不同樣本，共有436個柑橘葉片樣本。不同物候期109棵柑橘葉片樣本的反射光譜如圖1所示。

圖1 不同物候期柑橘葉片樣本反射光譜Fig.1 Relectance spectra of citrus samples at different growth stages

1.3 葉片鉀含量測定

圖2 不同物候期鉀質(zhì)量分數(shù)箱線圖Fig.2 Boxplot of potassium content at different growth stages

光譜測定后，選用火焰光度法測定柑橘葉片鉀含量[17]，測定方法為將每株柑橘的8片鮮葉均勻混合，待測樣品經(jīng)消煮或浸提，然后稀釋，用濕灰化法獲取待測容液，再用原子吸收光譜法進行鉀素檢測。鉀質(zhì)量分數(shù)統(tǒng)計數(shù)據(jù)如圖2所示。從圖2可知，不同物候期的柑橘葉片鉀含量由大到小依次為采果期、萌芽期、壯果促梢期、穩(wěn)果期。

1.4 高光譜數(shù)據(jù)預處理方法

在高光譜數(shù)據(jù)獲取過程中，由于測定環(huán)境、儀器噪聲等因素影響，不可避免存在多重共線性、吸光度的非線性、附加散射變動和基線變動。原始光譜維度高，相鄰波段存在較大相關性，造成數(shù)據(jù)冗余[18]。本文分別采用連續(xù)投影算法(Successive projections algorithm，SPA)和小波去噪對原始光譜進行預處理。

SPA是一種常用的光譜特征波長選取算法，能使從光譜變量中選出的變量組共線性最小、冗余信息最少。柑橘在不同物候期對鉀素的需求不同，不同物候期的光譜反射率綜合表征其生理和物理化學組分狀態(tài)，通過SPA降維方法，提取光譜中敏感波段[19]。

利用小波去噪方法，首先選定小波基函數(shù)和分解層次對原始數(shù)據(jù)進行分解，然后根據(jù)各層閾值去除分解后小波系數(shù)較小的成分，最后通過小波逆變換重構(gòu)信號[20]。試驗中采用正交試驗和極差分析對小波去噪結(jié)果進行篩選，選出小波去噪?yún)?shù)最優(yōu)水平組合。

1.5 建模原理與評價標準

堆棧稀疏編碼機(Stacked sparse autoencoder，SSAE)是一種多層神經(jīng)網(wǎng)絡，能自適應獲取特征層，SSAE的特征分享層能夠?qū)W習到不同任務之間的特征和噪聲共性模式，既能專注于特定特征，也能提供共性特征[21]。本文將堆棧稀疏自動編碼機堆疊起來組成特征分享層[22]，用于捕獲多任務中共同特征，減少目標函數(shù)嶺、脊和鞍點，加快迭代速率，優(yōu)化和提高深度學習模型預測精度和泛化能力。

設SSAE的稀疏度為ρ，網(wǎng)絡激活函數(shù)為σ，整個SSAE定義KL(Kullback-Leibler)散度[23]為

(1)

(2)

m——第j個神經(jīng)元與它前向相連接的神經(jīng)元數(shù)量

z——神經(jīng)元加權輸入值

設SSAE網(wǎng)絡權重矩陣為W，網(wǎng)絡偏置向量為b，第l層神經(jīng)元數(shù)量為sl，隱含層總數(shù)為nl，調(diào)和因子為β，原損失函數(shù)為J(W,b)，稀疏損失函數(shù)Js(W,b)為

(3)

DLNs深度學習模型在特征提取上具有自適應性，并且能夠融合不同分布概率的光譜特征，提高模型精度、穩(wěn)定性、泛化能力和遷移能力[24-26]。設源域為Ds，目標域為DT，假設函數(shù)為h，正則函數(shù)為Ω，最小化損失函數(shù)Ψ為

(4)

式中Θ——Ds遷移至DT的網(wǎng)絡參數(shù)

Xj——目標域第j個輸入矩陣

yj——目標域第j個輸出向量

nT——目標域樣本總數(shù)

從總樣本數(shù)中隨機選取80%的樣本(349個樣本)作為校正集(Calibration set)，用于訓練模型，剩余20%(87個樣本)作為驗證集(Validation set)，用于評估模型，建模評估采用模型決定系數(shù)R2和均方根誤差(Root mean square error，RMSE)兩個指標[27]。試驗數(shù)據(jù)處理與建模流程為：先進行SPA降維，將提取的特征光譜用于建立MLR模型；同時采用小波去噪和SSAE特征提取和遷移方法，分別建立DLNs模型，對比分析基于傳統(tǒng)單一特征與SSAE遷移特征下模型的最終效果。SSAE-DLNs試驗中采用基于隨機梯度下降的BP算法訓練網(wǎng)絡，設置傳輸函數(shù)為logisg[28]，最大迭代次數(shù)為1 200，最佳神經(jīng)元數(shù)量采用格點搜索法(Grid search)和交叉驗證法(Cross validation)選得最優(yōu)值。每個試驗方案均取20次運行結(jié)果的均值作為最終記錄。

2 結(jié)果與分析

2.1 最優(yōu)SPA和MLR建立與驗證

通過交叉驗證方法，選取最優(yōu)SPA降維結(jié)果。波長按重要性由大到小排列，試驗結(jié)果如表1所示。

表1 不同物候期鉀質(zhì)量分數(shù)特征波段Tab.1 Characteristic bands of potassium content at different growth stages

由表1可知，鉀素明顯存在特征光譜漂移現(xiàn)象，不同生長期的特征光譜分布情況不同，特征波段數(shù)量多、跨度廣、構(gòu)成復雜。隨著生長期推移，鉀素反射光譜有部分重要的特征波段向高波段漂移。萌芽期特征波長主要集中在1 000 nm內(nèi)，采果期有部分特征光譜漂移至1 935～2 007 nm和2 496～2 500 nm。

將原始反射光譜進行一階微分，結(jié)果如圖3所示。在490～530 nm波段，柑橘葉片鉀含量越低，藍邊面積越大，這是由于柑橘缺鉀素時，葉綠素含量降低，反射藍綠光增加；在540～660 nm波段，一階微分越大，鉀含量越大，對應原始反射光譜650 nm處有一個紅光吸收谷，隨鉀含量降低，葉綠素含量下降，光合作用利用的紅光減少，吸收谷變淺。780～1 100 nm波段范圍內(nèi)，一階微分的和越大，鉀含量越高，可能與缺鉀導致葉片表皮細胞發(fā)生變化，葉片厚度增加，葉片柵欄、海綿組織的細胞收縮和局部破裂有關。1 900～2 010 nm波段范圍內(nèi)，一階微分的和越大，鉀含量越高，其內(nèi)在的生理生化機理還有待研究[29-30]。

圖3 柑橘葉片反射光譜一階微分Fig.3 First order derivative of relectance spectra for citrus

將SPA降維后的數(shù)據(jù)作為輸入量，建立MLR模型[31]，結(jié)果如表2所示。

表2 不同物候期MLR建模性能評估Tab.2 Performance evaluation of MLR model at different growth stages

2.2 小波去噪和DLNs建模結(jié)果與分析

小波分解過程中涉及小波基函數(shù)、分解層數(shù)以及光譜重構(gòu)過程中的閾值方案、閾值調(diào)整方案等參數(shù)，據(jù)文獻表明，分解層數(shù)大于7時，對建模效果沒有明顯的提升作用[32]。由于小波去噪涉及因素多，采用正交試驗，根據(jù)文獻[33]，正交試驗的預選小波基函數(shù)選取haar、db4、sym8、coif2，能達到良好效果。正交試驗的因素水平[34]如表3所示。

表3 正交試驗因素水平Tab.3 Factors and levels of orthogonal test

從表3中可以看出，該正交試驗包括3因素4水平和1因素3水平兩類。因此，采用擬水平法，將因素D的第3水平進行重復，構(gòu)成4因素4水平，直接采用正交表L16(45)進行正交試驗。雖然擬水平后的表對所有因素來說不具有均衡搭配性質(zhì)，但仍具有部分均衡搭配的性質(zhì)，因此擬水平法仍保留了正交表的優(yōu)點。小波去噪?yún)?shù)正交試驗結(jié)果見表4。針對5個物候期，采用極差分析法對小波去噪正交試驗的結(jié)果進行分析，試驗結(jié)果見表5。

從表4知，第14組水平組合的校正集和驗證集模型決定系數(shù)均達到最大，分別為0.887 9、0.875 2，比基于原始光譜建模的R2提高了9.25%和8.42%；校正集和驗證集模型的均方根誤差達到最小，分別為0.343 6、0.314 8，比基于原始光譜建模的RMSE降低了56.95%和61.89%，與表5的分析一致，即最優(yōu)水平組合是A4B2C3D1，即小波基函數(shù)為coif2，分解層數(shù)為3，閾值方案為sqtwolog，噪聲估計方案為one。本試驗采用A4B2C3D1方案對所有光譜進行去噪。

2.3 SSAE和DLNs建模結(jié)果與分析

2.3.1SSAE中光譜特征狀態(tài)

SSAE試驗中權重狀態(tài)見圖4。由圖4可知，SSAE能夠?qū)Σ煌锖蚱诘墓庾V自適應獲取光譜非線性特征，物候期間特征光譜存在交集。在前層單元對后層單元的關系中，萌芽期、穩(wěn)果期、壯果促梢期、采果期的SSAE神經(jīng)元歸一化活躍度超過0.5，分別占總神經(jīng)元數(shù)的23.36%、37.08%、3.10%、20.96%，平均活躍度分別為0.361 5、0.399 0、0.280 7、0.156 4，4個物候期的前層單元活躍神經(jīng)元主要分布于67～86、100～105、135～145、14～39、69～81和150～160號神經(jīng)單元上。

2.3.2同一物候期特征層間遷移與融合

研究柑橘同一物候期光譜在SSAE中每層特征遷移融合與層數(shù)之間的關系，依次融合基準層和特征遷移層，得到深度學習網(wǎng)絡模型性能如圖5所示(圖中*表示極大值，橫坐標0表示基準層)。

表4 小波去噪正交試驗結(jié)果Tab.4 Grouping and result of wavelet denoising orthogonal test

表5 小波去噪正交試驗結(jié)果極差分析Tab.5 Analysis result of wavelet denoising orthogonal test

注：H1～H4為某一水平的評價指標均值；R為極差。

圖5 特征層數(shù)對模型性能影響Fig.5 Influence of characteristic layers on model performance

由圖5可知，隨著遷移層數(shù)增加，意味著增加了特征數(shù)，DLNs模型性能得到提高。當因SSAE特征遷移層數(shù)增加而引入的噪聲影響大于所引入的特征數(shù)時，模型性能開始下降且不穩(wěn)定。在特征層數(shù)遷移中，萌芽期、穩(wěn)果期、采果期超過極大值后，開始迅速下降。壯果促梢期超過極大值后在第8層出現(xiàn)第2極大值，考慮到遷移層數(shù)過大會引入高增量噪聲和增加模型復雜度，影響模型魯棒性，故壯果促梢期最優(yōu)層數(shù)選擇4。所以試驗中萌芽期、穩(wěn)果期、壯果促梢期、采果期最優(yōu)遷移層數(shù)分別為3、1、4、3，R2分別為0.899 9、0.859 8、0.886 9、0.854 7，比原始基準層分別提高了19.82%、9.45%、21.49%、7.21%。

2.3.3不同物候期光譜特征遷移與融合

圖6 遷移域數(shù)與決定系數(shù)關系Fig.6 Relationship between number of transfer domains and determination coefficient

由圖6可知，SSAE不同物候期的遷移特征能明顯提高目標域的模型性能，1個物候期遷移域便能明顯提高基準目標域的性能。隨著遷移域增加，目標域性能提高速率減緩，逐步達到飽和狀態(tài)，意味著新遷移域所引入的相關特征對目標域貢獻率減低而變得相對不明顯。由圖6可知，試驗中最佳遷移域為4，對應的萌芽期、穩(wěn)果期、壯果促梢期、采果期最佳R2分別為0.877 2、0.898 1、0.904 9、0.889 4，比BTD分別提高了16.80%、14.32%、23.96%、11.56%。

根據(jù)以上分析，本文對萌芽期、穩(wěn)果期、壯果促梢期、采果期4個物候期試驗選擇SSAE的遷移層數(shù)分別為3、1、4、3，每個目標域的遷移域數(shù)為4。結(jié)合2.2節(jié)部分，對所有光譜進行小波去噪后，研究和對比多種不同光譜形式的DLNs建模，該模型的最佳稀疏度采用留一交叉驗證法來選定，試驗結(jié)果見表6。

從表6可知，一階導數(shù)譜r′建模效果最好，萌芽期、穩(wěn)果期、壯果促梢期、采果期和全生長期的校正集模型決定系數(shù)分別為0.899 2、0.889 9、0.883 8、0.872 7和0.898 8，稀疏度分別為0.141 1、0.163 3、0.118 9、0.185 6和0.207 8，驗證集模型決定系數(shù)分別為0.865 1、0.870 4、0.855 1、0.858 0和0.877 1；倒數(shù)譜1/r建模效果最差，萌芽期、穩(wěn)果期、壯果促梢期、采果期和全生長期的校正集模型決定系數(shù)分別為0.815 7、0.791 6、0.801 2、0.781 9和0.801 2，驗證集模型決定系數(shù)分別為0.809 6、0.780 6、0.791 6、0.775 1和0.800 9；原始光譜r的建模效果僅次于一階導數(shù)譜r′，而對數(shù)譜lgr和二階導數(shù)譜r″的建模效果皆低于原始光譜r。

2.4 其他模型建模對比分析

本試驗將最優(yōu)的基于SSAE-DLNs和其他模型進行對比，目前在基于高光譜反射率對營養(yǎng)元素反演中的主流模型主要包括支持向量回歸(Support vector regression，SVR)、偏最小二乘法回歸(Partial least square regression，PLSR)、廣義神經(jīng)網(wǎng)絡(General regression neural networks，GRNN)、逐步多元線性回歸(Stepwise multiple linear regression，SMLR)等。將全生長期的光譜經(jīng)過小波去噪后的一階導數(shù)譜r′導進這4個模型，模型參數(shù)分別調(diào)節(jié)到最優(yōu)，結(jié)果如圖7所示。

表6 不同光譜變換形式的模型性能評估Tab.6 Model performance evaluation on calibration set with different transformations of spectral data

注：r、r′、r″、1/r、lgr分別為原始光譜、一階導數(shù)譜、二階導數(shù)譜、倒數(shù)譜、對數(shù)譜。

圖7 不同建模方法下鉀質(zhì)量分數(shù)實測值和預測值的比較Fig.7 Comparison of measured and predicted potassium contents by using different modeling methods

圖7不同模型與表6中最優(yōu)SSAE-DLNs模型相比，性能均有不同程度下降，主要原因是鉀素特征光譜中含有大量復雜的非線性特征，而較為簡單的模型無法得到特征變量間更復雜的關系。SSAE模型能夠自適應不同物候期的光譜特征并能相應提取有效成分，能對小波去噪后的一階導數(shù)譜具有最大解釋能力。DLNs模型能對不同物候期的光譜域進行特征遷移和融合，可以比單模型單任務帶來更豐富的信息。因此SSAE-DLNs模型具有更好的預測精度和泛化能力，能自適應不同時期的光譜反演任務。

3 結(jié)論

(1)為了降低數(shù)據(jù)噪聲對深度學習網(wǎng)絡的影響，采用小波去噪方法對光譜進行預處理。通過正交試驗和極差分析，小波去噪最優(yōu)水平組合是A4B2C3D1，即小波基函數(shù)為coif2，分解層數(shù)為3，閾值方案為sqtwolog，噪聲估計方案為one。

(2)試驗采用了SSAE模型實現(xiàn)柑橘不同物候期特征提取和遷移，自適應獲取光譜中非線性特征；采用了DLNs模型進行物候期間的光譜特征融合和鉀含量反演。SSAE模型的前層單元中神經(jīng)元平均活躍度分別為0.361 5、0.399 0、0.280 7、0.156 4。SSAE中萌芽期、穩(wěn)果期、壯果促梢期、采果期的最優(yōu)遷移層數(shù)分別為3、1、4、3，模型決定系數(shù)分別為0.899 9、0.859 8、0.886 9、0.854 7，比原始基準層分別提高了19.82%、9.45%、21.49%、7.21%。每個目標域的最優(yōu)遷移域數(shù)為4，萌芽期、穩(wěn)果期、壯果促梢期、采果期模型最佳決定系數(shù)分別為0.877 2、0.898 1、0.904 9、0.889 4，比基準目標域分別提高了16.80%、14.32%、23.96%、11.56%。

(3)比較了不同光譜變換形式的建模效果，將原始光譜分別變換為多種光譜形式，導入SSAE-DLNs模型訓練，試驗結(jié)果表明，一階導數(shù)譜r′建模效果最好，萌芽期、穩(wěn)果期、壯果促梢期、采果期和全生長期的校正集模型決定系數(shù)分別為0.899 2、0.889 9、0.883 8、0.872 7和0.898 8，稀疏度分別為0.141 1、0.163 3、0.118 9、0.185 6和0.207 8，驗證集模型決定系數(shù)分別為0.865 1、0.870 4、0.855 1、0.858 0和0.877 1。光譜變換形式的建模效果由大到小依次為r′、r、r″、lgr、1/r。

(5)不同物候期的柑橘葉片鉀含量由大到小依次為采果期、萌芽期、壯果促梢期、穩(wěn)果期。不同物候期施肥量表明不同時期葉片鉀含量變化呈現(xiàn)一定的規(guī)律，但與施肥量之間并不是嚴格線性關系。