楊思琪，趙麗華

（太原理工大學(xué) 數(shù)學(xué)學(xué)院，山西 晉中 030600）

隨機(jī)森林算法在城市空氣質(zhì)量預(yù)測(cè)中的應(yīng)用

楊思琪，趙麗華

（太原理工大學(xué) 數(shù)學(xué)學(xué)院，山西 晉中 030600）

近年來霧霾現(xiàn)象不斷出現(xiàn)，空氣質(zhì)量狀況愈發(fā)受到關(guān)注。文章以每日前一天的PM2.5、PM10濃度值等污染指標(biāo)及溫度、濕度、風(fēng)速值等氣象指標(biāo)為影響因子，嘗試基于隨機(jī)森林算法的分類與回歸功能，采用交叉驗(yàn)證法構(gòu)建空氣質(zhì)量預(yù)測(cè)模型，并與應(yīng)用Boosting、Bagging、決策樹及支持向量機(jī)算法建立的模型的預(yù)測(cè)結(jié)果對(duì)比，發(fā)現(xiàn)隨機(jī)森林模型具有較高的預(yù)測(cè)精度、較強(qiáng)的泛化能力及較好的穩(wěn)健性能等優(yōu)點(diǎn)，對(duì)開展城市空氣質(zhì)量預(yù)測(cè)工作有一定的指導(dǎo)意義。

隨機(jī)森林算法；空氣質(zhì)量預(yù)測(cè)；交叉驗(yàn)證；分類；回歸

0 引言

隨著我國(guó)經(jīng)濟(jì)的快速發(fā)展，大氣污染問題日趨嚴(yán)重，城市空氣質(zhì)量已成為公眾與政府關(guān)注的焦點(diǎn)?？諝赓|(zhì)量指數(shù)（Air Quality Index，AQI）是反映空氣質(zhì)量水平的重要指標(biāo)，研究AQI的預(yù)測(cè)方法，既為民眾在大氣污染前采取預(yù)防措施提供指導(dǎo)意見，也為相關(guān)部門開展大氣污染防治工作提供理論依據(jù)，達(dá)到從被動(dòng)的空氣污染監(jiān)測(cè)到主動(dòng)應(yīng)對(duì)空氣污染物的控制。

目前，空氣質(zhì)量預(yù)測(cè)法主要有潛式預(yù)報(bào)、數(shù)值預(yù)報(bào)和統(tǒng)計(jì)預(yù)報(bào)三類[1]。潛勢(shì)預(yù)報(bào)通過歸納總結(jié)過去發(fā)生污染事件時(shí)特有的天氣形勢(shì)及氣象條件，預(yù)報(bào)未來出現(xiàn)污染的可能性。方法簡(jiǎn)單方便，但由于未考慮污染源的具體情況，預(yù)報(bào)精度較低[2]。數(shù)值預(yù)報(bào)是一種基于物理化學(xué)過程的確定性的方法。優(yōu)勢(shì)是科學(xué)性強(qiáng)且思路清晰，然而它需要建立一個(gè)相對(duì)精確的數(shù)值模型，還需有污染源的詳盡排放參數(shù)與詳實(shí)的氣象資料，這些要求一般較難滿足[3]。此外，它的計(jì)算復(fù)雜(通常需要6～12h)，預(yù)報(bào)的時(shí)效性難以滿足實(shí)際需要[2]。統(tǒng)計(jì)預(yù)報(bào)通過分析與空氣污染相關(guān)的輸入-輸出資料的統(tǒng)計(jì)規(guī)律，對(duì)未來趨勢(shì)進(jìn)行預(yù)測(cè)，是一類不依賴于污染物的物理化學(xué)過程的方法[4]。因具有快捷、簡(jiǎn)單的特點(diǎn)，得到許多研究者的關(guān)注，但受線性統(tǒng)計(jì)關(guān)系的限制，它難以模擬復(fù)雜多變的大氣污染變化[3]。文獻(xiàn)[5]表明：神經(jīng)網(wǎng)絡(luò)方法因具有擬合輸入-輸出變量間非線性關(guān)系的能力，與統(tǒng)計(jì)方法相比，能更好地模擬大氣污染因素間的非線性關(guān)系。但其缺點(diǎn)在于推廣能力差、易陷入局部最優(yōu)，原理復(fù)雜，不易操控[6]等。上世紀(jì)90年代起，集成算法作為一種新的機(jī)器學(xué)習(xí)范式，因其獨(dú)特的優(yōu)勢(shì)成為機(jī)器學(xué)習(xí)領(lǐng)域的熱點(diǎn)。其中，隨機(jī)森林（Random Forest，RF）是由Breiman于2001年提出的一種基于決策樹的集成算法，它脫離假定分布、假設(shè)檢驗(yàn)、p值的經(jīng)典統(tǒng)計(jì)過程[7]。大量的研究表明隨機(jī)森林相對(duì)于神經(jīng)網(wǎng)絡(luò)、支持向量機(jī)、決策樹等方法有更好的容忍度及更高的預(yù)測(cè)精度，不易出現(xiàn)過擬合，對(duì)多元共線性不敏感，結(jié)果對(duì)缺失數(shù)據(jù)和非平衡數(shù)據(jù)比較穩(wěn)健[8]，已廣泛應(yīng)用在醫(yī)學(xué)、經(jīng)濟(jì)學(xué)、管理學(xué)等領(lǐng)域，并取得良好效果[9]。近幾年，國(guó)外少數(shù)研究表明隨機(jī)森林算法在空氣質(zhì)量預(yù)測(cè)中表現(xiàn)較好[10]，但目前，國(guó)內(nèi)相關(guān)的研究十分少見。為此，本文將隨機(jī)森林算法應(yīng)用在預(yù)測(cè)城市空氣質(zhì)量狀況的研究中。

1 材料與研究目的

1．1 空氣質(zhì)量分級(jí)標(biāo)準(zhǔn)

中華人民共和國(guó)環(huán)境保護(hù)部于2013年發(fā)布了環(huán)境空氣質(zhì)量指數(shù)AQI（技術(shù)規(guī)范），AQI計(jì)算的參考標(biāo)準(zhǔn)是新環(huán)境空氣質(zhì)量標(biāo)準(zhǔn)（GB3095-2012），參與評(píng)價(jià)的污染物有：SO2、NO2、PM10、PM2.5、O3和 CO。空氣質(zhì)量水平根據(jù)AQI的數(shù)值大小被分為六個(gè)等級(jí)，指數(shù)的值越大、對(duì)應(yīng)的級(jí)別就越高，表明大氣污染情況越嚴(yán)重，對(duì)人體健康的危害也就越明顯，具體見表1所示。

表1 AQI的范圍及對(duì)應(yīng)的空氣質(zhì)量類別

1．2 研究目的

（1）了解某地區(qū)的空氣質(zhì)量概況及特征；（2）尋找一個(gè)精度高的分類函數(shù)fc對(duì)AQI的等級(jí)進(jìn)行判別及預(yù)測(cè)；（3）尋找一個(gè)表現(xiàn)性能良好的回歸函數(shù)fr對(duì)AQI的數(shù)值進(jìn)行回歸及預(yù)測(cè)。本文基于隨機(jī)森林算法建立AQI的分類與回歸模型，并與利用Boosting、Bagging、決策樹及支持向量機(jī)算法建立的模型進(jìn)行對(duì)比，從中選出相對(duì)最優(yōu)的模型應(yīng)用于實(shí)際情況。

2 數(shù)據(jù)來源及預(yù)處理

建立空氣質(zhì)量狀況的預(yù)測(cè)模型，首先要了解影響空氣質(zhì)量的因素，這些因素主要有污染物排放情況與氣象條件等[11]。本文選取太原市2014—2015年每日前一天的PM2.5、PM10、SO2、CO、NO2及O3的濃度值作為衡量該日污染排放情況的指標(biāo)；對(duì)應(yīng)的最高溫度、最低溫度、溫差、平均溫度、露點(diǎn)溫度、相對(duì)濕度、氣壓、風(fēng)速及降雨量值作為衡量該日氣象條件的指標(biāo)，研究中所需的污染數(shù)據(jù)資料來自太原空氣質(zhì)量指數(shù)歷史統(tǒng)計(jì)數(shù)據(jù)http://www.aqistudy.cn/historydata/index.php，氣象數(shù)據(jù)資料來自http://www.wunderground.com/history。解釋變量的注釋見表2所示。

表2 解釋變量列表

收集的原始數(shù)據(jù)樣本量為730，初步整理原始數(shù)據(jù)得：優(yōu)65天，良374天，輕度污染204天，中度污染58天，重度污染28天，嚴(yán)重污染1天?？芍@六類所含的樣本量相當(dāng)不均衡，考慮到分類結(jié)果的精度，將原始數(shù)據(jù)重新歸為以下三類：{優(yōu)，良}=“低”（對(duì)人體健康基本無影響）；{輕度污染}=“中”（對(duì)部分敏感人體健康造成影響）；{中度污染，重度污染，嚴(yán)重污染}=“高”（對(duì)大部分人體健康造成影響）。

3 研究方法

3．1 隨機(jī)森林分類原理

隨機(jī)森林分類(Random Forest for Classification，RFC)模型是基于多個(gè)分類樹模型構(gòu)成的組合分類模型，參數(shù)集是獨(dú)立同分布的隨機(jī)向量，自變量X給定時(shí)，每個(gè)分類樹模型在選擇最優(yōu)分類結(jié)果時(shí)都有一票投票權(quán)。算法的主要步驟為：

（2）對(duì)每個(gè)Bootstrap訓(xùn)練集建立分類樹模型，產(chǎn)生k棵分類樹，k棵樹合起來構(gòu)成一片“森林”，構(gòu)建每棵分類樹時(shí)均不進(jìn)行剪枝（pruned）處理，而且構(gòu)建每棵樹時(shí)，并不是選擇全部M個(gè)屬性中的最優(yōu)屬性作為內(nèi)部節(jié)點(diǎn)進(jìn)行分支（split），而是從隨機(jī)選擇的個(gè)屬性中選出最優(yōu)屬性進(jìn)行分支；

（3）生成的多個(gè)分類樹模型相當(dāng)于精通不同領(lǐng)域的專家，集合k棵分類樹的分類結(jié)果，采用投票方式?jīng)Q定要預(yù)測(cè)的新樣本的類別。

Bootstrap抽樣法使得每次抽取的樣本集不完全相同，增加了分類模型間的差異，從而提高了組合分類模型RFC的外推預(yù)測(cè)能力。k輪訓(xùn)練后，得到一個(gè)分類樹模型序列對(duì)任意給定的新樣本，它的分類結(jié)果由簡(jiǎn)單多數(shù)投票法產(chǎn)生，RFC模型的分類決策為：

式中，fc(x)表示RFC模型的結(jié)果，hi是單個(gè)分類樹模型的結(jié)果，Y表示輸出變量，I為指示函數(shù)。

3．2 隨機(jī)森林回歸原理

隨機(jī)森林回歸（Random Forest for Regression，RFR）模型是通過與隨機(jī)向量θ有關(guān)的回歸樹生長(zhǎng)構(gòu)成的，模型的因變量是數(shù)值型變量，并假設(shè)訓(xùn)練集是從隨機(jī)向量Y，X的分布獨(dú)立抽取出來的。任意數(shù)值預(yù)測(cè)值h(X)的均方泛化誤差為模型的預(yù)測(cè)結(jié)果是k棵回歸樹的均值。

算法的主要步驟為：

（3）k輪訓(xùn)練后，得到一個(gè)回歸樹模型序列{h1(X),h2(X),...,hk(X)}，對(duì)任意給定的新樣本，它的預(yù)測(cè)結(jié)果是對(duì)k輪結(jié)果的平均匯總，RFR模型的預(yù)測(cè)結(jié)果為：

式中，fr(x)表示RFR模型的結(jié)果，hi是單個(gè)回歸樹模型的結(jié)果。通過Bootstrap抽樣可得到不同的樣本集，利用這些樣本集分別構(gòu)建回歸樹模型，增加了模型間的差異，從而提高了模型的外推預(yù)測(cè)能力。

3．3 模型的建立與評(píng)價(jià)

K折交叉驗(yàn)證法（K-fold cross validation method）是一種有效的數(shù)據(jù)建模和檢驗(yàn)分析技術(shù)，它通過將原始樣本打亂并重復(fù)利用，盡可能充分地利用有限的樣本資源來減少預(yù)測(cè)偏差，并同時(shí)考慮了訓(xùn)練誤差和泛化誤差。對(duì)于小樣本數(shù)據(jù)，此方法的檢驗(yàn)結(jié)果比將原始樣本分為訓(xùn)練集和測(cè)試集的結(jié)果更為可靠[12]。方法如下：首先將原始數(shù)據(jù)隨機(jī)分為K組，然后將每個(gè)子集分別做一次測(cè)試集用來測(cè)試模型，余下的K-1組子集則作為訓(xùn)練集用來訓(xùn)練模型，共得到K個(gè)模型，最后用這K個(gè)模型的預(yù)測(cè)精度的平均值作為模型預(yù)測(cè)精度的最終估計(jì)值。本文取K=5，考慮到數(shù)據(jù)劃分的隨機(jī)性，為得到更一致的計(jì)算結(jié)果，故采用10重5折交叉驗(yàn)證法進(jìn)行模型的構(gòu)建與驗(yàn)證。

將模型fc(x)在測(cè)試集上錯(cuò)誤分類的樣本數(shù)占總樣本數(shù)之比，即分類誤判率作為評(píng)價(jià)模型性能的指標(biāo)，該值越小，模型的預(yù)測(cè)精度就越高；將模型fr(x)在測(cè)試集上的均方根誤差（RMSE）、平均絕對(duì)誤差（MAE）及因變量實(shí)際值與預(yù)測(cè)值的相關(guān)系數(shù)（R）作為模型模擬結(jié)果與實(shí)際值的吻合程度的衡量指標(biāo)，RMSE與MAE的值越小，R值越接近1，表明模型的預(yù)測(cè)效果越好。指標(biāo)的定義見下式：

4 結(jié)果與分析

4．1 空氣質(zhì)量概況

為了對(duì)太原市的空氣質(zhì)量概況有大致了解，初步分析了該市在不同季節(jié)的空氣質(zhì)量狀況，太原四季分明，劃分四季的標(biāo)準(zhǔn)為：春季3～5月，夏季6～8月，秋季9～11月，冬季12～2月。不同季節(jié)空氣質(zhì)量等級(jí)的比例分布見圖1。

圖1 空氣質(zhì)量等級(jí)比例分布圖

由圖1知，太原市秋季和冬季中空氣質(zhì)量等級(jí)處于“高”水平的比例顯著高于春季和夏季中空氣質(zhì)量等級(jí)處于“高”水平的比例，說明太原秋季和冬季的空氣質(zhì)量要明顯差于春季和夏季，其中冬季的空氣質(zhì)量狀況又是最差的，這與太原冬季供暖燒煤有很大關(guān)系，供暖的結(jié)果必然導(dǎo)致污染物排放量的增加，從而造成空氣質(zhì)量的嚴(yán)重下降。經(jīng)統(tǒng)計(jì)分析太原市2014—2015年歷史空氣質(zhì)量日?qǐng)?bào)數(shù)據(jù)，得到AQI的月均值變化如圖2所示。

圖2 AQI月均值變化圖

由圖2也可看出AQI月均值的變化規(guī)律為：1月、2月、12月的AQI均值相對(duì)高于其余月份的AQI均值，驗(yàn)證了太原市在冬季時(shí)期的空氣質(zhì)量狀況最差，3月至8月期間AQI均值處于逐漸下降階段，而從9月開始直至12月AQI均值又逐漸上升，說明太原市春季和夏季的空氣質(zhì)量相對(duì)較好。四季的空氣質(zhì)量從好到差的排序?yàn)橄模敬海厩铮径?/p>

4．2 空氣質(zhì)量預(yù)測(cè)模型

隨機(jī)森林算法可用于分類和回歸，不僅能對(duì)離散的因變量建模，也能對(duì)連續(xù)的因變量建模。當(dāng)因變量Y為AQI等級(jí)時(shí)，建立分類模型；當(dāng)因變量Y為AQI數(shù)值時(shí)，建立回歸模型。

（1）分類模型

采用10重5折交叉驗(yàn)證法建立分類模型fc判別AQI的等級(jí)，為了比較RFC算法與其他算法的優(yōu)劣，同時(shí)還建立了Adaboost、Bagging、分類樹及SVM模型，其中，集成算法Adaboost和Bagging也是以分類樹為弱學(xué)習(xí)器來建立模型，并分別用模型fc在測(cè)試集上的平均誤分率的均值與標(biāo)準(zhǔn)差衡量模型的分類精度與穩(wěn)健性。結(jié)果見表3。

表3 不同分類模型10重5折交叉驗(yàn)證的結(jié)果

從表3可知，在這5個(gè)分類模型中，衡量指標(biāo)值在測(cè)試集上的大小按模型排序?yàn)椋浩骄`分率均值：分類樹＞Adaboost＞SVM＞Bagging＞RFC，標(biāo)準(zhǔn)差：Bagging＞分類樹＞SVM＞Adaboost＞RFC。表明與這些算法相比，基于RFC算法建立的模型具有更高的預(yù)測(cè)精度，穩(wěn)健性能也更好，在一定程度上體現(xiàn)了集成學(xué)習(xí)算法RFC的優(yōu)勢(shì)，因此可考慮將該算法用于AQI等級(jí)的預(yù)測(cè)。

（2）回歸模型

采用10重5折交叉驗(yàn)證法建立回歸模型fr預(yù)測(cè)AQI的數(shù)值，為了比較RFR算法與其他算法的優(yōu)劣，同時(shí)還建立了Boosting、Bagging、回歸樹及SVR模型，其中，集成算法Boosting和Bagging也是以回歸樹為弱學(xué)習(xí)器來建立模型，并分別用模型fr在測(cè)試集上的RMSE、MAE及R三個(gè)指標(biāo)的均值與標(biāo)準(zhǔn)差衡量模型的預(yù)測(cè)效果與穩(wěn)健性。結(jié)果見表4。

表4 不同回歸模型10重5折交叉驗(yàn)證的結(jié)果

由表4知：在這5個(gè)回歸模型中，衡量指標(biāo)值在測(cè)試集上的大小按模型排序?yàn)椋篟MSE均值：回歸樹＞Boosting＞Bagging＞SVR＞RFR，標(biāo)準(zhǔn)差：回歸樹＞ Bagging＞Boosting＞RFR＞SVR；MAE均值：回歸樹＞Boosting＞Bagging＞ SVR＞RFR，標(biāo)準(zhǔn)差：回歸樹＞SVR＞Boosting＞Bagging＞RFR；R均值：RFR＞SVR＞ Bagging＞ Boosting＞回歸樹，標(biāo)準(zhǔn)差：回歸樹＞Bagging＞Boosting＞SVR＞RFR。綜合分析可知RFR模型表現(xiàn)最優(yōu)，體現(xiàn)了RFR模型具有較好的預(yù)測(cè)精度、外推能力及穩(wěn)健性能。圖3是基于RFR算法建立的回歸模型在某測(cè)試集上的擬合結(jié)果。

圖3 基于RFR模型的測(cè)試樣本擬合結(jié)果

從圖3可看出，AQI預(yù)測(cè)值與觀測(cè)值并不是每個(gè)點(diǎn)都能對(duì)應(yīng)上，但二者的變化趨勢(shì)吻合度較高，也驗(yàn)證了基于RFR算法建立的回歸模型在預(yù)測(cè)AQI數(shù)值時(shí)表現(xiàn)良好，且預(yù)測(cè)精度在合理范圍內(nèi)，故可考慮將該算法用于AQI數(shù)值的預(yù)測(cè)。

5 結(jié)論

本文將隨機(jī)森林分類及回歸算法應(yīng)用到預(yù)測(cè)城市空氣質(zhì)量狀況的研究中，并與Boosting、Bagging、決策樹及支持向量機(jī)算法進(jìn)行對(duì)比，結(jié)果表明隨機(jī)森林模型在判別AQI等級(jí)及預(yù)測(cè)AQI數(shù)值方面的性能優(yōu)于上述算法，RFC模型在測(cè)試集上的預(yù)測(cè)精度為70%左右，RFR模型在測(cè)試集上的RMSE、MAE及R指標(biāo)的均值依次為35.71439、25.03022、0.63003。由于山西省在2012年之前按照國(guó)家標(biāo)準(zhǔn)監(jiān)測(cè)空氣污染指數(shù)API，2013年起才按照新的國(guó)家標(biāo)準(zhǔn)監(jiān)測(cè)空氣質(zhì)量指數(shù)AQI，即利用AQI開展空氣質(zhì)量的預(yù)報(bào)工作時(shí)間并不長(zhǎng)，本文收集了兩年的資料，數(shù)據(jù)量相對(duì)來說少一些，得到這樣的結(jié)果還算理想，隨著時(shí)間的積累，大氣環(huán)境監(jiān)測(cè)資料和氣象資料的同步會(huì)逐漸規(guī)范化，將會(huì)為今后的空氣質(zhì)量預(yù)測(cè)工作提供一定的參考價(jià)值。另外可在今后的研究中進(jìn)一步拓展，如考慮增加樣本容量及模型的輸入變量（衡量大氣垂直運(yùn)動(dòng)的指標(biāo)等），以期取得更好的結(jié)果。

[1]孫美根,韓志偉,雷孝恩.城市空氣污染預(yù)報(bào)方法簡(jiǎn)述[J].氣候與環(huán)境科學(xué)研究,2001,6(1).

[2]王勤耕,夏思佳,萬祎雪等.當(dāng)前城市空氣污染預(yù)報(bào)方法存在的問題及新思路[J].環(huán)境科學(xué)與技術(shù),2009,32(3).

[3]薛興釗.基于BP神經(jīng)網(wǎng)絡(luò)的秦嶺北麓中部空氣質(zhì)量預(yù)報(bào)研究[D].西安:西安建筑科技大學(xué),2014.

[4]尹文君,張大偉,張超等.基于深度學(xué)習(xí)的大數(shù)據(jù)空氣污染預(yù)報(bào)[J].中國(guó)環(huán)境管理,2015,7(6).

[5]金龍.人工神經(jīng)網(wǎng)絡(luò)技術(shù)發(fā)展及在大氣科學(xué)領(lǐng)域的應(yīng)用[J].氣象科技,2004,32(6).

[6]孟杰.隨機(jī)森林模型在財(cái)務(wù)失敗預(yù)警中的應(yīng)用[J].統(tǒng)計(jì)與決策,2014,(4).

[7]李貞子,張濤,李康等.隨機(jī)森林回歸分析及在代謝調(diào)控關(guān)系研究中的應(yīng)用[J].中國(guó)衛(wèi)生統(tǒng)計(jì),2012,29(2).

[8]Breiman L.Random Forests[J].Machine Learning,2001,45(1).

[9]Fantazzini D,Figini S.Random Survival Forests Models for SME Credit Risk Measurement[J].Methodology and Computing in Applied Probability,2009,11(1).

[10]Kunwar P.Singh,Shikha Gupta,et al.Identifying Pollution Sources and Predicting Urban Air Quality Using Ensemble Learning Methods[J].Atmospheric Environment,2013.

[11]沈勁,鐘流舉,何芳芳等.基于聚類與多元回歸的空氣質(zhì)量預(yù)報(bào)模型開發(fā)[J].環(huán)境科學(xué)與技術(shù),2015,38(2).

[12]周啟清,李毓.分類樹集成算法在縣域金融貸款風(fēng)險(xiǎn)分類評(píng)估中的應(yīng)用[J].經(jīng)濟(jì)問題,2009,(12).

O21;X51

A

1002-6487（2017）20-0083-04

山西省青年科技研究基金資助項(xiàng)目（2012021015-6）；太原理工大學(xué)教育教學(xué)改革資助項(xiàng)目（8003-02040403）

楊思琪（1993—），女，安徽阜陽人，碩士，研究方向：機(jī)器學(xué)習(xí)與數(shù)據(jù)分析。

（通訊作者）趙麗華（1979—），女，山西陽泉人，博士研究生，講師，研究方向：應(yīng)用概率統(tǒng)計(jì)。

(責(zé)任編輯/易永生)