趙進(jìn) 周秀輕
摘? 要:概率論是隨機(jī)數(shù)學(xué)的基礎(chǔ),學(xué)好概率論對(duì)于金融數(shù)學(xué),統(tǒng)計(jì)學(xué)等學(xué)科有著重要的意義。在多年的概率論教學(xué)中,以下三點(diǎn)是值得注意的。首先將概率論的歷史發(fā)展融入概率論教學(xué),這對(duì)于學(xué)生的理解是有價(jià)值的;另外通過比較的方法來學(xué)習(xí)有助于學(xué)生的理解。如比較不同的極限理論可以使得大數(shù)定律,中心極限定理更加容易理解;最后,在概率論與隨機(jī)過程的學(xué)習(xí)中經(jīng)常會(huì)遇到一些概念性的錯(cuò)誤。我們以更新過程中的Feller初等更新定理的證明為例。指出同學(xué)們?nèi)菀桩a(chǎn)生一些概念性的錯(cuò)誤,并將這些錯(cuò)誤的原因做出解釋,以便讓學(xué)生對(duì)概念的理解更加清晰,避免在概率論與隨機(jī)過程的學(xué)習(xí)中犯類似的錯(cuò)誤。
關(guān)鍵詞:極限理論;更新過程;Wald等式;更新定理;概率論學(xué)習(xí)
中圖分類號(hào):G642? ? ? ? 文獻(xiàn)標(biāo)志碼:A? ? ? ? ? 文章編號(hào):2096-000X(2023)31-0083-04
Abstract: Theory of Probability is basic course of stochastic mathematics, especially for financial mathematics and statistics etc. In years of teaching Theory of Probability, I found that it is important to study the history of probability, which can help the students learn the concepts of probability. It can be also helpful to learn by comparison. For example, the Law of Large Numbers and central limit theorem can be easily studied by comparing the limit theory. Finally, In the proof of the Feller renewal theorem, there are several problems that students always make mistake. Theses mistakes are often made in the study of probability and stochastic processes. We will give the explanation to clean the concept and avoid similar mistakes.
Keywords: limit theory; renewal process; Wald equation; renewal theorem; learning Theory of Probability
隨著計(jì)算機(jī)技術(shù)的發(fā)展,進(jìn)入上世紀(jì)九十年代以來,金融數(shù)學(xué)與統(tǒng)計(jì)學(xué)日益受到重視。因此,作為隨機(jī)數(shù)學(xué)的基礎(chǔ)內(nèi)容,概率論與隨機(jī)過程已成為數(shù)學(xué)系重要的核心課程。并且很多非數(shù)學(xué)學(xué)院,如大氣科學(xué)學(xué)院、商學(xué)院、管理學(xué)院等,都將這兩門課程作為必修的數(shù)學(xué)基礎(chǔ)課程。因此,學(xué)好這兩門課對(duì)以后進(jìn)一步學(xué)習(xí)和研究有著重要的意義。
作為核心基礎(chǔ)課程,概率論與隨機(jī)過程的理論結(jié)構(gòu)清晰、邏輯層次分明,教授內(nèi)容也相對(duì)比較固定。這些特點(diǎn)與其他核心基礎(chǔ)課如:數(shù)學(xué)分析、高等代數(shù)類似。同時(shí),筆者在多年的教學(xué)實(shí)踐中,感到概率論與隨機(jī)過程也有著其自身的特點(diǎn),特別是在概念以及定理證明中有一些其他數(shù)學(xué)課程不具備的特點(diǎn)。下面就三個(gè)方面來談?wù)剬W(xué)習(xí)概率論的體會(huì),希望這些經(jīng)驗(yàn)?zāi)軌驇椭瑢W(xué)們更好地學(xué)習(xí)和掌握概率論。
一? 在教學(xué)過程中融入概率論的發(fā)展歷史
眾所周知,現(xiàn)代概率論的理論基礎(chǔ)是建立在測(cè)度論的基礎(chǔ)上,但是概率論的發(fā)展有其自身的需求,而非看作測(cè)度論的分支。因此在講授概率論的概念和定理時(shí),一定要著重將概念、定理的概率論背景介紹清楚。并將概率論的發(fā)展歷史融入概念、定理的講解之中,可以讓同學(xué)們對(duì)這些概念、定理有更為清晰的直觀認(rèn)識(shí)。
例如,貝葉斯公式的證明較為簡(jiǎn)單,在教材中往往放在前面與初等概率論一起介紹。但公式背后有著較為深刻的哲學(xué)意義。因此,將貝葉斯公式的歷史發(fā)展介紹清楚,該公式是貝葉斯去世后兩年才發(fā)表的,當(dāng)初并未得到大家的重視。直到150年后,才引起學(xué)術(shù)界的重視,并將其文章重新在統(tǒng)計(jì)一流刊物《Biometrika》刊登,從而標(biāo)志著現(xiàn)代貝葉斯學(xué)派的誕生。這樣使得學(xué)生知道公式的意義。事實(shí)上,現(xiàn)代貝葉斯學(xué)派就是以該公式為基礎(chǔ)的。
再如,隨機(jī)變量是一個(gè)十分重要的概念。但作為初學(xué)者往往不能體會(huì),僅將隨機(jī)變量看作函數(shù)而已,而函數(shù)的概念同學(xué)們?cè)缫咽熘D敲?,通過融入概率論的歷史,讓同學(xué)們知道隨機(jī)變量的引入標(biāo)志著概率論由古典概率進(jìn)入近代概率,這個(gè)概念是十九世紀(jì)下半葉由俄羅斯的彼得堡學(xué)派(其核心人物為切比雪夫)引入的。這樣就可以讓同學(xué)們對(duì)這個(gè)概念引起重視了。
又如,極限理論是概率論教學(xué)中的重點(diǎn)和難點(diǎn)。其概念較多,如收斂性就有四種之多;定理證明也較為復(fù)雜,往往同學(xué)們會(huì)混淆不清,那么結(jié)合極限理論的發(fā)展歷史,將弱大數(shù)定律、強(qiáng)大數(shù)定律及中心極限定理的發(fā)展過程講清楚,同學(xué)們就容易記憶了。以弱大數(shù)定律為例,伯努利大數(shù)定理是最早的一個(gè)極限定理,發(fā)表于1713年伯努利的著作《猜度術(shù)》[1-3]。其后一百多年未有大的進(jìn)展,直至切比雪夫利用矩不等式才取得了突破。由此得到了切比雪夫大數(shù)定理。了解這些歷史發(fā)展,就可以讓同學(xué)們知道切比雪夫不等式的重要性。后來,切比雪夫的學(xué)生馬爾科夫又進(jìn)一步提出了馬爾科夫大數(shù)定理。最后由辛欽證明了獨(dú)立同分布的大數(shù)定理。該定理沒有使用矩不等式,而是使用了特征函數(shù)的連續(xù)性定理加以證明。于是同學(xué)們就明白特征函數(shù)理論的重大意義了。通過講解弱大數(shù)定理的發(fā)展過程,學(xué)生們很容易就將這些定理聯(lián)系起來了。不僅容易記憶,同時(shí)也加深了對(duì)定理的理解,如切比雪夫不等式的重要性與局限性等。
總之,在學(xué)習(xí)一門課的同時(shí),了解這門學(xué)科的發(fā)展歷史是很有必要的。這不僅可以使枯燥的課堂教學(xué)增加了趣味,而且對(duì)同學(xué)們理解這門學(xué)科也有很大的幫助。
二? 利用比較的方法來講解極限理論
極限理論是概率論的重點(diǎn)和難點(diǎn)。前面我們談到就結(jié)合概率論的歷史來講解極限理論。這里我們談?wù)勅绾芜\(yùn)用比較的方法來講解極限理論。下面以弱大數(shù)定律與強(qiáng)大數(shù)定律為例。首先這兩者涉及的收斂性不同。弱大數(shù)定律是依概率收斂,而強(qiáng)大數(shù)定律是幾乎處處收斂。具體定義如下。
定義1:設(shè)X1,X2,…,Xn,…為一列隨機(jī)變量,若存在隨機(jī)變量X,使得任意給定的ε>0,則有
則稱隨機(jī)變量序列{Xn}依概率收斂于隨機(jī)變量X,記為______ 。
定義2:設(shè)X1,X2,…,Xn,…為一列隨機(jī)變量,若存在隨機(jī)變量X,使得
則稱隨機(jī)變量序列{Xn}幾乎處處收斂于隨機(jī)變量X,記為______ 。
意給定的ε>0,有
通過比較,很顯然幾乎處處收斂強(qiáng)于依概率收斂。
且弱大數(shù)定律的證明主要運(yùn)用切比雪夫不等式。定理如下。
定理1:對(duì)于任意具有有限方差的隨機(jī)變量X,有
而強(qiáng)大數(shù)定律主要是運(yùn)用科爾莫哥洛夫不等式。具體如下。
定理2:設(shè)X1,X2,…,Xn,…為一列獨(dú)立隨機(jī)變量,方差存在,則
不難看出,科爾莫哥洛夫不等式是切比雪夫不等式的推廣(取n=1即為切比雪夫不等式)。因此強(qiáng)大數(shù)定律比弱大數(shù)定律更為深刻。同時(shí)科爾莫哥洛夫不等式中的概率涉及到事件的并集,結(jié)合幾乎處處收斂的定義,就不難發(fā)現(xiàn)科爾莫哥洛夫不等式可以用于幾乎處處收斂的證明,而切比雪夫不等式就不具備這個(gè)能力了。
由上可見,利用對(duì)比的方法,可以使得學(xué)生對(duì)定理的證明有進(jìn)一步認(rèn)識(shí),從而加深了對(duì)極限理論的理解和記憶。
三? 隨機(jī)過程中易犯的概念錯(cuò)誤
(一)? 更新過程的定義
隨機(jī)過程是概率論的后續(xù)課程。對(duì)于概率統(tǒng)計(jì)專業(yè)的學(xué)生,這是一門必修的核心專業(yè)課程。對(duì)于其他院系,這門課也是必須掌握的。隨機(jī)課程涉及的隨機(jī)過程種類較多,各種隨機(jī)過程的特點(diǎn)不一,特別是隨機(jī)過程往往具有復(fù)雜的相關(guān)性,因此學(xué)習(xí)的難度較大。學(xué)生在學(xué)習(xí)的過程中會(huì)遇到各種難點(diǎn),其中很大的原因是概念不清晰造成的。我們將在該文中通過Feller初等更新定理的證明來說明一些容易產(chǎn)生的概念性錯(cuò)誤,這些錯(cuò)誤常常會(huì)在隨機(jī)過程的學(xué)習(xí)中出現(xiàn)。通過比較定理的不同證明,我們能夠清楚地看出錯(cuò)誤到底發(fā)生在什么地方,從而避免在隨機(jī)過程的學(xué)習(xí)中再犯類似的錯(cuò)誤。
泊松過程是隨機(jī)過程理論中的一個(gè)基本過程,其有著各種各樣的推廣,其中一個(gè)簡(jiǎn)單而重要的推廣就是更新過程。更新過程在實(shí)際的應(yīng)用很廣泛,比如我們有一堆燈泡,燈泡的使用時(shí)間服從指數(shù)分布,如果燈泡失效,我們對(duì)燈泡立即進(jìn)行更換,這是一個(gè)泊松過程,如果我們假定更換燈泡時(shí)間為某個(gè)固定的分布。這就是泊松過程的一個(gè)推廣,也就是更新過程。
更新過程理論是隨機(jī)過程理論中的重要組成部分。在可靠性、人口學(xué)、保險(xiǎn)精算以及排隊(duì)論等很多領(lǐng)域有著重要的應(yīng)用。其中尤其是更新定理,起著關(guān)鍵的作用。由更新定理可以得到各種更新方程,這些更新方程在解決實(shí)際問題起到了核心的作用。例如在保險(xiǎn)精算中,破產(chǎn)概率的計(jì)算就是由更新方程推導(dǎo)到的積分方程,從而得到著名的Lundeberg上界[4]。
更新定理中的一個(gè)基本定理是Feller基本定理,這個(gè)定理的證明在隨機(jī)過程的教學(xué)中會(huì)講到。下面主要就這個(gè)定理證明中容易產(chǎn)生的兩種錯(cuò)誤加以說明,這兩種錯(cuò)誤在同學(xué)們學(xué)習(xí)概率論與隨機(jī)過程理論中經(jīng)常出現(xiàn),有一些概念不清的同學(xué)會(huì)糾結(jié)于這些錯(cuò)誤,想不明白自己究竟錯(cuò)在什么地方。這里我們借用Feller初等更新定理的證明來指出這兩種錯(cuò)誤的根源。
下面首先給出更新過程的定義。
定義3:設(shè)X1,X2,…,Xn,…是一列獨(dú)立同分布的非負(fù)隨機(jī)變量,分布函數(shù)為F(x),記μ=EX1。令Tn=Xi,T0=0。則稱N(t)=sup{n:Tn≤t}定義的計(jì)數(shù)過程為更新過程。
記M(t)=E[N(t)],這稱為更新函數(shù)。研究更新函數(shù)的性質(zhì)是非常重要的。實(shí)際上,更新過程中的重要結(jié)論均與M(t)有關(guān),例如Feller初等更新定理、關(guān)鍵更新定理等[5]。
(二)? Feller初等更新定理的證明
下面首先給出Feller初等更新定理及其證明。
定理3:對(duì)于更新過程,有
若μ=∞,=0。
定理3的證明需要Wald等式
該等式的證明參見文獻(xiàn)[6-7],在此我們不再贅述。
下面給出Feller初等更新定理的證明。
證明:首先
,
兩邊取期望,再利用Wald等式得
,
即
于是
采用截尾的方法加以證明,證明較為復(fù)雜。具體為固定一個(gè)常數(shù)A,定義一個(gè)新的更新過程1,2,…,n,…,其中
于新的更新過程的間隔時(shí)間以A為上界,于是 。
由Wald不等式得到
式中? ? ? ? ? ? ? ? ? ?。因此
于是? ? ? ? ? ? ? ?。又由? ? ? ,得? ? ? ? ,
。所以
最后令A(yù)→∞,即得? ? ? ? ? ? ? ?。由此我們完
成了Feller基本定理的證明。
以上是教材中關(guān)于Feller初等更新定理的經(jīng)典證明。在教學(xué)過程中,同學(xué)們往往會(huì)提出各種各樣的其他證明方法。有一些同學(xué)會(huì)認(rèn)為上述證明太過復(fù)雜,他們有更為簡(jiǎn)單的證明。但事實(shí)上往往這些證明中蘊(yùn)含著較難發(fā)現(xiàn)的錯(cuò)誤。下面我們列舉兩種典型的錯(cuò)誤證明方法。這兩種錯(cuò)誤方法的原因是由于對(duì)概率論以及隨機(jī)過程中的概念不夠清晰,往往想當(dāng)然地認(rèn)為它們是正確的,而且這些錯(cuò)誤經(jīng)常在概率論與隨機(jī)過程的其他領(lǐng)域出現(xiàn),例如概率論的極限理論、馬爾可夫過程等。下面我們具體地來說明這兩種錯(cuò)誤的產(chǎn)生原因。
(三)? Feller初等更新定理的兩種錯(cuò)誤證明方法
第一種典型的錯(cuò)誤證明如下。
有些同學(xué)會(huì)想到:由? ? ? ? ? ? ? ? ?,利用X1,
X2,…,Xn,…的獨(dú)立同分布得到? ? ? ? ? ? ? ?,
于是由Wald等式得
。
又因?yàn)?/p>
,
兩邊取期望,利用上式得
于是
。
定理的證明似乎變簡(jiǎn)單了,實(shí)際上面的證明是錯(cuò)誤的。問題出在哪里呢?
事實(shí)上, 。
這里的關(guān)鍵在于有沒有
這是一個(gè)容易犯的錯(cuò)誤。因?yàn)镋X1=μ,似乎理所當(dāng)然有E[XN(t)+1]=μ。盡管XN(t)+1好像是一次間隔發(fā)生的時(shí)間,同樣X1也是一次間隔發(fā)生的時(shí)間,很多同學(xué)認(rèn)為這兩者的期望肯定是一致的。但這里需要注意到N(t)是隨機(jī)變量,而非固定值。實(shí)際上,由于N(t)是隨機(jī)變量,因此XN(t)+1可能這一次等于X5,下一次又等于X7,諸如此類。也就是說,不能將XN(t)+1看作一次固定間隔發(fā)生的時(shí)間。因此這兩者的期望并不相同,我們不能得到E[XN(t)+1]=EX1=μ,所以上面的證明是錯(cuò)誤的。這是第一個(gè)容易犯的錯(cuò)誤。這一類錯(cuò)誤在隨機(jī)過程的計(jì)算中經(jīng)常會(huì)遇到,因?yàn)樵陔S機(jī)過程中我們經(jīng)常會(huì)遇到諸如XN(t)+1這種下標(biāo)為隨機(jī)變量的隨機(jī)變量,它的期望計(jì)算是較為復(fù)雜的,不能簡(jiǎn)單地在直觀上當(dāng)作下標(biāo)為定值的隨機(jī)變量去處理。一般來說,我們可以用全概率公式來計(jì)算這一類隨機(jī)變量的期望,也就是在下標(biāo)取固定值的情況下先計(jì)算條件期望,然后用全概率公式計(jì)算整體的期望。這種計(jì)算相對(duì)是較為復(fù)雜的。這是值得大家去留意的第一類錯(cuò)誤。
第二種典型的錯(cuò)誤證明如下。
事實(shí)上,我們不難發(fā)現(xiàn):以概率1,成立
這是因?yàn)? ? ? ? ? ? ? ,于是
由更新過程的定義,利用強(qiáng)大數(shù)定律得到,→μ。類似的,由于t→∞時(shí),N(t)→∞,因此,=→μ。所以得到→,幾乎處處成立。
初看起來,F(xiàn)eller初等更新定理好像是上面結(jié)論的簡(jiǎn)單推論,既然平均更新的速度幾乎處處收斂到1/μ,難道平均更新的速度的期望還不收斂到1/μ嗎?這種錯(cuò)誤在概率論的證明中比比皆是,事實(shí)上,我們不能得到幾乎處處收斂就蘊(yùn)含著期望的收斂。為了加強(qiáng)大家的印象,我們?cè)倥e一個(gè)例子。
設(shè)U是(0,1)上均勻分布的隨機(jī)變量,令
因?yàn)閁依概率1大于零,故對(duì)充分大的n,有Yn為零,于是依概率1,當(dāng)n→∞,成立
Yn→0,
然而
所以,盡管Yn幾乎處處收斂于零,但Yn的期望并不趨于零。
這是同學(xué)們?cè)诟怕收撆c隨機(jī)過程的學(xué)習(xí)中容易犯的第二個(gè)錯(cuò)誤。特別是在證明隨機(jī)變量的收斂性時(shí),我們會(huì)經(jīng)常遇到幾乎處處收斂、期望的收斂等問題。這是一定要注意這兩者沒有相互推導(dǎo)的關(guān)系。有一些同學(xué)想當(dāng)然地認(rèn)為幾乎處處收斂一定包含期望的收斂,從而導(dǎo)致證明的錯(cuò)誤。
四? 結(jié)論
總之,作為重要的基礎(chǔ)課程,概率論與隨機(jī)過程的教學(xué)有著自身的特點(diǎn)。在教學(xué)中,我們特別強(qiáng)調(diào)要理解定義、定理背后的概率含義,而不是僅僅著重公式的推導(dǎo)和證明。在教學(xué)過程中融入概率論的歷史發(fā)展可以讓學(xué)生很好地理解概念及定理的背景、含義。同時(shí),作為概率論教學(xué)的難點(diǎn),極限理論的證明較為復(fù)雜,定理及概念眾多。將弱大數(shù)定律與強(qiáng)大數(shù)定律進(jìn)行比較,包括定理結(jié)論、證明過程等,這樣可以讓學(xué)生更好地理解證明中的關(guān)鍵步驟,也有利于學(xué)生的記憶。
同時(shí),隨機(jī)過程作為概率論的后續(xù)學(xué)習(xí)課程,難度較大。特別是學(xué)生容易犯一些想當(dāng)然的概念性錯(cuò)誤。這里我們對(duì)Feller初等更新定理的證明中易犯的兩種錯(cuò)誤進(jìn)行了解釋,這兩類錯(cuò)誤在概率論與隨機(jī)過程的學(xué)習(xí)中經(jīng)常會(huì)遇到,一種錯(cuò)誤是關(guān)于期望的計(jì)算,在隨機(jī)過程中,我們常常會(huì)遇到下標(biāo)不是固定值的隨機(jī)變量。這里需要注意,這種隨機(jī)變量期望的計(jì)算不能簡(jiǎn)單地將下標(biāo)看作定值。另外一類錯(cuò)誤是關(guān)于隨機(jī)變量的收斂性。幾乎處處收斂并不能得到隨機(jī)變量期望的收斂。這兩種錯(cuò)誤同學(xué)們常常會(huì)想當(dāng)然的認(rèn)為是正確的,如果不加注意可能會(huì)導(dǎo)致求解或證明中出現(xiàn)錯(cuò)誤。我們結(jié)合Feller初等更新定理的證明說明依照這兩種錯(cuò)誤思路的證明看似簡(jiǎn)單,實(shí)際上是錯(cuò)誤的。值得注意的是,這兩種概念性的錯(cuò)誤并不僅僅在更新過程中才會(huì)遇到。它們實(shí)際上在隨機(jī)過程的學(xué)習(xí)中經(jīng)常會(huì)遇到,例如第一種錯(cuò)誤在鞅論中就會(huì)經(jīng)常出現(xiàn),第二種錯(cuò)誤在極限理論中也會(huì)常常遇到。希望我們的解釋對(duì)同學(xué)們概率論與隨機(jī)過程的學(xué)習(xí)會(huì)有所幫助。
參考文獻(xiàn):
[1] 陳希孺.數(shù)理統(tǒng)計(jì)學(xué)簡(jiǎn)史[M].長(zhǎng)沙:湖南教育出版社,2002.
[2] 李賢平.概率論基礎(chǔ)[M].北京:高等教育出版社,2011.
[3] 蘇洵.概率論[M].北京:科學(xué)出版社,2007.
[4] 吳嵐,王燕.風(fēng)險(xiǎn)理論[M].北京:中國(guó)財(cái)經(jīng)出版社,2006.
[5] 勞斯.隨機(jī)過程[M].何聲武,等,譯.北京:中國(guó)統(tǒng)計(jì)出版社,1997.
[6] 鄧永錄,梁之舜.隨機(jī)點(diǎn)過程及其應(yīng)用[M].北京:科學(xué)出版社,1998.
[7] 張波,張景肖.應(yīng)用隨機(jī)過程[M].北京:清華大學(xué)出版社,2004.
基金項(xiàng)目:國(guó)家社會(huì)科學(xué)基金項(xiàng)目“多源異構(gòu)函數(shù)型數(shù)據(jù)因子分位回歸模型統(tǒng)計(jì)分析及其應(yīng)用研究”(21BTJ044)
第一作者簡(jiǎn)介:趙進(jìn)(1973-),男,漢族,江蘇揚(yáng)州人,博士,副教授,碩士研究生導(dǎo)師。研究方向?yàn)榭臻g統(tǒng)計(jì)。