聶淑媛

（1．西北大學(xué) 數(shù)學(xué)與科學(xué)史研究中心，西安 710127；2．河南科技大學(xué) 林業(yè)職業(yè)學(xué)院，河南 洛陽 471002）

尤爾建立時間序列線性自回歸AR(P)模型的歷史過程探析

聶淑媛1，2

（1．西北大學(xué) 數(shù)學(xué)與科學(xué)史研究中心，西安 710127；2．河南科技大學(xué) 林業(yè)職業(yè)學(xué)院，河南 洛陽 471002）

文章透過尤爾的生平經(jīng)歷及研究背景，立足于原始文獻(xiàn)，從變量差分方法和無意義相關(guān)以及時間序列的分類等基礎(chǔ)性工作出發(fā)，深入探討了模型的歷史形成過程及其意義。

尤爾；AR（P）模型；變量差分方法；相關(guān)

現(xiàn)行的時間序列分析領(lǐng)域普遍認(rèn)為時間序列分析方法起源于19世紀(jì)20年代，由英國統(tǒng)計學(xué)家尤爾首創(chuàng)，但許多著作中僅限于指出這一事實，并未具體分析。本文將從挖掘尤爾的生平經(jīng)歷及研究背景入手，立足于原始文獻(xiàn)，試圖對尤爾建立模型的歷史形成過程追根溯源。

1 尤爾生平與研究背景

尤爾 （George Udny Yule），1871年2月 18日生于蘇格蘭哈丁頓附近的蒙哈姆，其家庭有良好的學(xué)識聲譽，他的叔父亨利尤爾（Henry Yule，1820~1889）是英國著名的地理學(xué)家和東方學(xué)專家，并于1889年被封為爵士。因此，尤爾從小就受到較好的教育，13歲進(jìn)入文契斯特學(xué)院學(xué)習(xí)，1887年16歲時到倫敦大學(xué)學(xué)院攻讀工程學(xué)，1890年獲得學(xué)位并從事工程學(xué)領(lǐng)域的工作兩年，1892年開始轉(zhuǎn)向物理學(xué)，一年內(nèi)相繼發(fā)表了四篇有關(guān)電波方面的文章。盡管尤爾在這兩方面頗有建樹，但他本人覺得似乎還沒有找到一個自己特別感興趣并且能夠終生研究的方向，所幸的是，1893年夏，當(dāng)他從德國回到倫敦時，英國著名的應(yīng)用數(shù)學(xué)家、近代數(shù)理統(tǒng)計的奠基者皮爾遜（Karl Pearson，1857~1936）幫助他申請到了倫敦大學(xué)學(xué)院的教師職位，從此，尤爾師從皮爾遜，開始涉足統(tǒng)計學(xué)這個嶄新也影響其一生的領(lǐng)域。在皮爾遜的鼓勵和指導(dǎo)下，尤爾1895年就發(fā)表了他在統(tǒng)計學(xué)方面的第一篇論文，其接下來關(guān)于回歸和序列相關(guān)的一系列文章，為這兩方面統(tǒng)計理論的發(fā)展奠定了堅實的基礎(chǔ)，同時也創(chuàng)造了時間序列分析的現(xiàn)代起源，其中關(guān)于時間序列分析方面影響最大的三篇文章都發(fā)表于19世紀(jì)20年代。本文將通過對文獻(xiàn)[1]、[2]、[3]的細(xì)致剖析，結(jié)合相關(guān)的其它原始文獻(xiàn)[4]、[5]，以及關(guān)于尤爾的研究文獻(xiàn)[6]、[7]、[8]、[9]等，具體探究線性自回歸模型的形成過程。值得一提的是，尤爾是位多產(chǎn)的科學(xué)家，他的經(jīng)典名著《統(tǒng)計理論入門》以其1902~1909年期間在倫敦大學(xué)學(xué)院的統(tǒng)計學(xué)講稿為基礎(chǔ)，1911年首次出版，到1950年已經(jīng)出版到第14版，并且在很長時間內(nèi)都是唯一的一本關(guān)于統(tǒng)計學(xué)的綜合書籍，奈曼（Neyman，J.1894~1981）等人給予極高的評價；其晚年的著作《文學(xué)詞匯統(tǒng)計》研究各類詞在各種書籍中出現(xiàn)的頻率。尤爾的研究領(lǐng)域及其廣泛，除了以上已經(jīng)提到的幾個方面，更為隨機(jī)分布理論、部分相關(guān)分布的費希爾求導(dǎo)等理論的發(fā)展做了大量的基礎(chǔ)工作，現(xiàn)代概率論中大家比較熟悉的以尤爾命名的有著名的尤爾分布和尤爾—沃克方程。尤爾于1911年獲得英國皇家統(tǒng)計學(xué)會的最高獎—蓋伊金質(zhì)獎?wù)拢?924~1926年任皇家統(tǒng)計學(xué)會的主席，1931年于劍橋大學(xué)退休。

2 基礎(chǔ)鋪墊

尤爾創(chuàng)建自回歸過程的起因是基于自己的一大困惑：為什么統(tǒng)計學(xué)家（尤其是那些與經(jīng)濟(jì)和社會數(shù)據(jù)打交道的統(tǒng)計學(xué)家）經(jīng)常會從時間序列數(shù)據(jù)中得到奇怪的相關(guān)？他在1921年和1926年的兩篇文章，即文獻(xiàn)[1]、[2]中，逐步地解決了這一疑問，同時也構(gòu)造了其關(guān)于時間序列研究的基礎(chǔ)性工作。

2.1 變量差分方法

文獻(xiàn)[1]也是尤爾1921年5月24日在皇家統(tǒng)計學(xué)會上的講稿，首先探討時間相關(guān)的本質(zhì)問題。尤爾指出，時間相關(guān)問題是關(guān)于隨時間變化的兩個變量間的關(guān)系問題，而這個問題的提出比相關(guān)系數(shù)的誕生要早了很多，統(tǒng)計學(xué)家對此尤感興趣。文章列舉了1914年以前已經(jīng)做過的相關(guān)工作：波因廷（Poynting，J.H.1852—1914）教授 1884年借助于小麥價格及棉花和絲綢的進(jìn)口問題討論了關(guān)系的本質(zhì)；Hooker，R.H.1901年研究了婚姻率和貿(mào)易的密切相關(guān)，其方法和波因廷的方法大致相同，但他引入了相關(guān)系數(shù)和瞬時平均的概念，討論問題更為精確。同時，Hooker在《柏林農(nóng)產(chǎn)品兌換率的懸而未決及其對谷物價格的影響》一文中首次提出了差分方法，但他當(dāng)時沒有解決這個問題，直到四年后，才專門討論了該方法，并用谷物價格一例說明了其應(yīng)用，而且Hooker還首次描述性地說明了滑動平均方法；F.E.Cave1904年關(guān)于氣壓表相關(guān)問題的討論中也使用了一階差分方法；Monsieur March則對整個問題進(jìn)行了總結(jié)，包括差分方法和滑動平均法。至此，尤爾總結(jié)得出：對于個別研究而言，時間相關(guān)問題可以說是不同持續(xù)時間振蕩的分離問題。

而斯圖登和安德森結(jié)合皮爾遜的觀點——只有當(dāng)變量和時間是線性關(guān)系時，一階差分方法才有效，試圖把Hooker的差分方法一般化，他們進(jìn)一步提出把隨機(jī)變量x、y表示成關(guān)于時間的多項式與隨機(jī)殘差的和

其中，x、y在次序上不是隨機(jī)的，而X、Y是隨機(jī)的，為了減少時間的分量，以及決定隨機(jī)殘差間是否有相關(guān)性，只有進(jìn)行高階差分，直到x、yn階差分的相關(guān)與n+1階差分的相關(guān)相等，則x、yn階差分的相關(guān)與X、Yn階差分的相關(guān)相等，從而也和X、Y本身的相關(guān)相等。應(yīng)該說，他們創(chuàng)立了相關(guān)的新觀點，斯圖登1914年把他的方法總結(jié)在《減少由于時間或空間的位置引起的偽相關(guān)》一文中，認(rèn)為由于變量是時間的函數(shù)，時間相關(guān)是偽相關(guān)。B.Cave和皮爾遜則稱其為變量差分相關(guān)方法，并通過一些意大利經(jīng)濟(jì)序列驗證了方法的可行性。但尤爾卻對斯圖登和安德森提出的變量只表示為時間的多項式函數(shù)和隨機(jī)殘差提出質(zhì)疑，并拋出Elderton和皮爾遜的觀點——即便是任何適度數(shù)量的差分，也不能減小較短的周期性。那么，分離隨機(jī)殘差還是否有意義？差分是否趨向于減小周期項？為了解答疑問，尤爾借助于調(diào)和函數(shù)對變量差分方法進(jìn)行探討，因為他認(rèn)定許多經(jīng)濟(jì)時間序列模型中都包含調(diào)和函數(shù)。設(shè)

這里，T為周期，τ為相位，h為間隔，A為振幅，可得一階差分

但是，時間相關(guān)問題仍然困擾著尤爾，他認(rèn)為時間不能是一個因果因素，變量不是與時間相關(guān)，他不能認(rèn)同變量是時間的函數(shù)這一假定，而這一關(guān)系卻隱含在變量差分方法和調(diào)和分析中，于是，尤爾從其物理學(xué)背景出發(fā)，以差分法的應(yīng)用和對時間相關(guān)問題的求解為基礎(chǔ)，通過試驗進(jìn)一步探索時間序列無意義相關(guān)的問題。

2.2 時間序列的分類和無意義相關(guān)問題

文獻(xiàn)[2]首先通過對比分析1866~1911年間在英國國教會結(jié)婚的人數(shù)占全部結(jié)婚人數(shù)的比例與每千人的標(biāo)準(zhǔn)死亡率之間的相關(guān)關(guān)系，解釋了無意義相關(guān)的含義—在通常的相關(guān)檢驗下，變量x、y是高度相關(guān)的，是數(shù)學(xué)上有意義的相關(guān)，但這類相關(guān)沒有任何“現(xiàn)實”的意義，實際上是零相關(guān)的。然后討論當(dāng)兩個變量、服從具有較長時間間隔的正弦曲線時，相位的差異將使得長范圍內(nèi)的相關(guān)為0。文中以1/4周期的相位差異為例，假定間隔無限小時，以直代曲，中心元沿著圖形從左向右移動，相關(guān)系數(shù)從-1到1，沒有其余的中間項，也就是說相關(guān)的分布是雙峰分布。尤爾給定了長度為0.1、0.3…0.9個周期時，調(diào)和曲線兩個瞬時有限元之間的相關(guān)頻率分布，并分析得出：這些分布圖都是U-形和對稱的，我們在時間序列中有時會得到無意義的相關(guān)，就是因為在某些狀態(tài)下，一些時間序列在某種程度上和上面所列舉的調(diào)和序列相似。而且，尤爾通過試驗得出：當(dāng)兩個試驗序列的隨機(jī)樣本具有U-形相關(guān)分布時，不只是每一個序列正相關(guān)，而且它們的差分序列也是正相關(guān)。尤爾意識到，無意義相關(guān)正是由于序列或升或降、一點也不水平的情形，這就促使他根據(jù)序列相關(guān)的本質(zhì)，即rk的函數(shù)形式，對時間序列進(jìn)行了分類：

①零相關(guān)的隨機(jī)序列，最簡單的情形，對于二元相關(guān)不存在任何問題；

②序列本身是相關(guān)的，但其一階差分是隨機(jī)的，這類序列可以通過對隨機(jī)序列 a、b、c、d…連續(xù)相加形成 a、a+b、a+b+d…；

③序列本身和一階差分都是正相關(guān)的，而其二階差分是隨機(jī)的，可以通過對②中的新序列再次相加形成a、2a+b、3a+2b+c、4a+3b+2c+d…。

尤爾分析討論了三類序列并得到：相關(guān)的分布特別依賴于一階差分的相關(guān)性，而不是序列本身的相關(guān)性。所以，根據(jù)一階差分的相關(guān)性，重點分析了第③類序列，尤爾稱之為差分本身也是連接序列的連接序列。因為正弦序列一階差分的相關(guān)與變量本身的相關(guān)完全相同，正是這類序列的典型例子，所以，尤爾以正弦波動為例進(jìn)行試驗研究，發(fā)現(xiàn)該類序列趨向于給定一個完全發(fā)散、-形的相關(guān)頻率分布，趨向于在樣本間產(chǎn)生高度正相關(guān)或負(fù)相關(guān)，而與相關(guān)的真實值沒有任何聯(lián)系。當(dāng)然，這也就是在二元分析中特別易于導(dǎo)致錯誤推斷的“危險”序列，即產(chǎn)生無意義相關(guān)的序列。與此類比，尤爾也分析了第②類序列，他稱之為差分隨機(jī)的連接序列，該類序列將會產(chǎn)生較高的標(biāo)準(zhǔn)誤差，但不會必然地趨向于誤導(dǎo)為無意義相關(guān)。尤爾也通過分析著名的William Beveridges小麥價格指數(shù)序列和Greenwich降雨量序列，驗證了上述結(jié)論。

當(dāng)然，尤爾也特別強(qiáng)調(diào)了振蕩序列在統(tǒng)計學(xué)中的重要性，事實上，振蕩序列出現(xiàn)的頻率最高，因為真正的周期序列是很特殊的，但振蕩序列不一定具有周期性，文獻(xiàn)[3]研究的就是振蕩時間序列。

至此，尤爾解決了困惑自己多年的一大難題，他可以清楚地識別，并且從數(shù)學(xué)角度描述無意義相關(guān)的序列。這類序列的時間圖對于延長的周期展示了或升或降的趨勢，而這種趨勢給出序列隨時間的連續(xù)性，時間不能是一個因果因素，序列不是和時間相關(guān)。同時，大量的時間序列，尤其是經(jīng)濟(jì)時間序列數(shù)據(jù)證實，序列是部分地自我決定的。變量不是其他因果變量的簡單函數(shù)，如關(guān)于的回歸關(guān)系；也不是時間的簡單函數(shù)，如的周期圖中的關(guān)系，它們有自己的自我決定“生命表”。尤爾用相關(guān)去決定以前的哪一個值和另一個值最高度相關(guān)，什么間隔、什么位置間可以產(chǎn)生最高的相關(guān)，這正是文獻(xiàn)[3]中尤爾創(chuàng)建模型的指導(dǎo)性思路。

3 創(chuàng)建過程

文獻(xiàn)[3]是尤爾創(chuàng)建模型的經(jīng)典著作，文章通過分析單擺運動和太陽黑子序列，研究了振蕩時間序列的周期。

3.1 AR(2)模型

首先利用疊加波動和擾動分析單擺運動。圖1（a）表示時間的簡單調(diào)和函數(shù)，其隨機(jī)誤差由擲骰子決定；誤差量增大，如圖1（b）所示，這兩種情形都可以用周期圖進(jìn)行分析，而且當(dāng)給定的周期數(shù)充分大時，周期圖分析中的周期和振幅就會與基本調(diào)和函數(shù)的周期和振幅極其逼近。當(dāng)我們在較短的等時間間隔內(nèi)觀察單擺運動的偏差時，觀察誤差會引起圖2所示的那種疊加波動，自動記錄方法和器械的改進(jìn)可以減小誤差。當(dāng)單擺只受到孩子用豌豆的投擲，并且時而在這一側(cè)，時而在另一側(cè)，此時，單擺只受真實的擾動，而不是疊加波動。

為了創(chuàng)建對這類曲線的逼近，對于（1）式化簡整理，可得二階差分

顯然，（2）式也可以整理為

如果沒有擾動項，根據(jù)（3）式，也可以給出一般項ux與ux-1、ux-2之間的關(guān)系

如果有擾動，則可記為

其中，ε是隨脈沖或擾動變化的誤差。

式（5）即為經(jīng)典的模型，也是現(xiàn)代時間序列分析的基礎(chǔ)與起源。因為這是現(xiàn)在稱之為平穩(wěn)時間序列線性自回歸的第一個完整的公式，也是誤差項ε被用來表示隨機(jī)擾動而不是測量誤差的第一個例子。

尤爾依據(jù)（5）式作圖2，計算并分析得出：對于單擺運動，令人驚奇的是，盡管振幅和相位連續(xù)變化，但圖形仍然保持平滑，即使增加擾動量也只是增加振幅，沒有突變的量。同時，從沃爾夫的年太陽黑子序列圖形上看，確實存在一些小的不規(guī)則性，意味著疊加振蕩的存在，這可能是由觀測誤差的特性造成的，但總體上圖形特別平滑，且和真實周期的偏離都是來自于振幅和相位的變化，和圖2中的情形完全相同，而不同于圖1。所以，問題已經(jīng)脫離開周期圖分析方法，需要確定的不再僅僅是周期，而且包括擾動的值，顯然要從（5）式入手，當(dāng)只有一個周期時，假定ε=0，可得

其中k=2-μ由最小二乘法決定。利用這種方法，尤爾對圖2分成兩組進(jìn)行試驗，結(jié)果很滿意。但當(dāng)把1749~1924年的太陽黑子序列作為一個整體進(jìn)行研究時，得到周期為10.08，尤爾認(rèn)為該周期明顯太低，究其原因，可能是由于疊加波動的存在，所以，尤爾對數(shù)據(jù)分級，以減小不規(guī)則性，算得周期為11.03年，與通常給定的值比較接近，擾動標(biāo)準(zhǔn)差也大大降低。對于未分級和分級的太陽黑子序列，利用點圖驗證了ux+ux-2對于ux-1的線性回歸關(guān)系。

3.2 AR（4）模型

當(dāng)有2個周期時，設(shè)一般項

給定5個連續(xù)項ux-4到ux，其中ux-2是中心項，視ux-2為a和ux-2-a的復(fù)合，則有

整理可得

當(dāng)有擾動時

這就是一個模型，但根據(jù)這種情形，尤爾計算得出太陽黑子序列和分級序列的擾動標(biāo)準(zhǔn)差分別為21.95和17.47，比只有一個周期時的17.05和11.43還要高，究其原因是因為限制了回歸方程的特定形式—ux-1和 ux-3的系數(shù)相同，而的系數(shù)為1。 所以，盡管（10）式應(yīng)用了以前的更多項 （從ux-1到 ux-4）去估計 ux，從理論上比（5）式更先進(jìn)，但在太陽黑子問題的研究中由于沒能得到更為理想的結(jié)果，而不為后人所重視，以至于現(xiàn)在提到這一工作時，基本上還是認(rèn)定尤爾首創(chuàng)模型分析了太陽黑子序列的周期。但上述分析結(jié)果同時證實了擾動的存在，而且正是這種不同于疊加波動的擾動，給定了隨時間快速增長的不可預(yù)報因素。同時，從另一個角度來講，這個結(jié)果也顯示除了基本周期外，太陽黑子序列的其他周期并不存在，這個推斷與Larmor和Yamaga的結(jié)論是一致的。

3.3 回歸方程法

尤爾考慮的更一般方法是只找對于和的線性回歸方程，如果必須考慮更多項，可借助有限差分方程來解決，當(dāng)只有一個周期時，對于普通回歸方程

如果曲線有周期，方程E2=b1E+b2=0的根必定是虛數(shù)。設(shè)根為 α±iβ，令 α2+β2=b2=e2λ和 tanθ=β/α，則差分方程（11）的一般解為 ux=eλx(Acosθx+Bsinθx)。 對于真實物理現(xiàn)象，一般期望λ<0，方程的解表示阻尼調(diào)和振動；或者λ=0，解為簡單的調(diào)和振動，此時b2=1。利用回歸方程法，尤爾檢驗了圖2中的數(shù)據(jù)和太陽黑子序列，計算得出的周期與調(diào)和曲線方程中的結(jié)論極其接近，又通過偏回歸及其比率的引入，結(jié)合從（11）式中推斷的擾動總結(jié)得出太陽黑子序列的兩大基本特征：

①正的、高度變化的擾動占優(yōu)勢的趨勢與完全相反的趨勢以40～42年的間隔交替出現(xiàn)；

②正擾動接近太陽黑子數(shù)的最大值和負(fù)擾動接近最小值的趨勢。

由于最終所希求的不是簡單阻尼調(diào)和函數(shù)，而是阻尼調(diào)和振動的平方，這個函數(shù)差分方程有第三項，因此，除了ux-1和ux-2，在回歸方程中還需要探求包括在內(nèi)的項。但是，相關(guān)的調(diào)查表明，把以后更多的項帶入未分級的數(shù)據(jù)是沒用的，即使對于分級數(shù)據(jù)，作用也很小，強(qiáng)調(diào)了擾動才是隨時間快速增長的不可預(yù)報因素。因此，雖然回歸方程的形式看起來充滿希望，但結(jié)論卻令人失望，更深入的工作思路被阻。

為了比較回歸方法與以前的周期圖分析方法，尤爾對擾動序列進(jìn)行兩次試驗，第一次是把所有觀察對象分成4組，每組大約有70～80個對象，討論了7個周期；第二次是把序列作為一個整體，在周期9～11之間進(jìn)行細(xì)致的周期圖分析。結(jié)果表明：當(dāng)只有7個或8個周期時，試驗結(jié)果高度不穩(wěn)定；而周期數(shù)比較大時，比如30個，由于基本周期和表觀強(qiáng)度的減少，使得其主要影響是帶的加寬，所以，造成了誤差的較大邊緣，這可能會使人產(chǎn)生誤解。

4 結(jié)語

盡管尤爾謙虛地認(rèn)為自己使用的調(diào)和曲線方程和回歸方程法未必是最好的方法，甚至也不可能是任何情況下都適用的，但尤爾自信這里提出了一個新的問題。事實上，正是基于尤爾對經(jīng)驗序列和太陽黑子數(shù)序列的調(diào)和曲線方程和回歸方程的建立與比較，才使人們理解并不是所有的時間序列都可以看做是時間的函數(shù)，與其滯后變量相關(guān)的時間序列是存在的，因而，尤爾引入的自回歸模型，恰恰是對時間序列變量之間關(guān)系的客觀反映，也是對原來將時間序列普遍看作是時間函數(shù)的一種修正和改進(jìn)，逐步取代了德國學(xué)者舒斯特（Schuster,A.1851~1934）開創(chuàng)的周期圖分析法，使人們離開了時間序列的頻域方法，開始了長達(dá)30多年的時域分析方法。所以，目前公認(rèn)為尤爾是現(xiàn)代時間序列分析的開山人，他為該學(xué)科的形成與發(fā)展做出了最基礎(chǔ)的開創(chuàng)工作。

[1]Yule,G.U.On the Time-Correlation Problem,with Especial Reference to the Variate-Difference Correlation Method[J].R.Statist.Soc.,1921,84(4).

[2]Yule,G.U.Why do we Sometimes Get Nonsense-Correlations between Time-Series?--A Study in Sampling and the Nature of Time-Series[J].R.Statist.Soc.,1926,89(1).

[3]Yule,G.U.On a Method of Investigating Periodicities in Disturbed Series,with Special Reference to Wolfer's Sunspot Numbers[J].Philos.Trans.Roy.Soc.London,Series A,1927,226.

[4]Yule,G.U.On the Theory of Correlation[J].R.Statist.Soc.,1897,60(4).

[5]Yule,G.U.,Kendall,M.G.An Introduction to the Theory of Statistics[M].New York:Charles Griffin,1950.

[6]Kendall,M.G.Obituaries:Mr.G.UdnyYule,C.B.E,F.R.S[J].Nature,1951,168(4274).

[7]Kendall,M.G.George Udny Yule,1871~1951[J].Review of the International Statistical Institute,1952,20(1).

[8]Judy L.Klein.Statistical Visions in Time:a History of Time Series Analysis,1662~1938[M].Cambridge：Cambridge University Press,1997.

[9]John Aldrich.Correlations Genuine and Spurious in Pearson and Yule[J].Statistical Science,1995,10(4).

[10]William W.S.Wei.時間序列分析——單變量和多變量方法(第二版)[M].易丹輝，劉超，賀學(xué)強(qiáng)等譯.北京：中國人民大學(xué)出版社，2009.

[11]張樹京，齊立心.時間序列分析簡明教程[M].北京:清華大學(xué)出版社，北方交通大學(xué)出版社，2003.

[12]王黎明，王連，楊楠，應(yīng)用時間序列分析[M].上海：復(fù)旦大學(xué)出版社，2009.

(責(zé)任編輯/亦 民)

O212

A

1002－6487（2011）03－0004-04

國家自然科學(xué)基金資助項目（10771169）

聶淑媛（1974-），女，河南臺前人，博士，研究方向：數(shù)理統(tǒng)計及其歷史發(fā)展。