概率論與數(shù)理統(tǒng)計經(jīng)典課件 隨機過程

《概率論與數(shù)理統(tǒng)計經(jīng)典課件 隨機過程》由會員分享，可在線閱讀，更多相關《概率論與數(shù)理統(tǒng)計經(jīng)典課件 隨機過程（128頁珍藏版）》請在裝配圖網(wǎng)上搜索。

1、2022-1-211概率論與數(shù)理統(tǒng)計 3關鍵詞： 隨機過程 狀態(tài)和狀態(tài)空間 樣本函數(shù) 有限維分布函數(shù) 均值函數(shù) 方差函數(shù) 自相關函數(shù) 自協(xié)方差函數(shù) 互相關函數(shù) 互協(xié)方差函數(shù) 正態(tài)過程 獨立增量過程 泊松過程 維納過程第十章 隨機過程及其統(tǒng)計描述41 隨機過程的概念 隨機過程隨機過程被認為是概率論的“動力學”部分，即它的研究對象是隨時間演變的隨機現(xiàn)象，它是從多維隨機變量向一族(無限多個)隨機變量的推廣。 給定一隨機試驗E，其樣本空間S=e，將樣本空間中的每一元作如下對應，便得到一系列結果：( ), ( ),eX e Y e12( ),( ),( ),neX e XeXe12( ),( ),),e

2、X e Xe( ),eX e( , ) (,),eX e tt X一維即隨機變量(, )X Y即二維隨機變量12(,)XX 即隨機序列12(,)nXXXn維即隨機變量( ),(,)X t t 即隨機過程5 一維、二維或一般的多維隨機變量的研究是概率論的研究內容，而隨機序列、隨機過程則是隨機過程學科的研究內容。從前面的描述中看到，它的每一樣本點所對應的，是一個數(shù)列或是一個關于t的函數(shù)。 ( , ),( , ),TX e t eS tTetSTtT X e tX e t eS tT設 是一無限實數(shù)集，是對應于 和 的實數(shù)， 即為定義在 和 上的二元函數(shù)。 若此函數(shù)對任意固定的是一個隨機變量， 定義

3、： 則稱是隨機過程；,( , )Tet X e t為參數(shù)集，對固過程定的 和稱為的狀態(tài)；( , )X e t 所有可能的值狀的全體稱為態(tài)空間；( , )( )X e tX t今后將簡記為( , ),tX e t eS tTe對于隨機過程進行一次試驗，即 給定，它是 的函數(shù)，稱為隨機過程的樣本函數(shù)。6 例1：拋擲一枚硬幣的試驗，樣本空間是S=H,T，現(xiàn)定義： 1( ) ,()( )2 ( ),cos tHX ttP HP TtTX t t 當出現(xiàn)，其中當出現(xiàn)則是一隨機過程。,( )t X tcos tt解：對任意固定的是隨機變量，取值為和1234( )X t1( )X t2( )Xtt1( )(

4、 )2P X tcos tP X tt12( ),( )X tcos t Xtt此隨機過程的樣本函數(shù)只有兩個，即72 ( )(),(0,2 ),( )(),(0,2 ),( )(), X tcosttt X tcostx tcost 例 ：考慮式中 和 是 正常數(shù), 是在上服從均勻分布的隨機變量, 這是一個隨機過程。 對每一固定的時刻是隨機變量 的函數(shù),從而也是隨機變量。它的狀態(tài)空間是-. 在內隨機取一數(shù)相應的就得到一個樣本函數(shù)這族樣本函數(shù)的差異在于它們相位 的不同, 故這一過程稱為隨機相位正弦波。 83( ) , 0,1( ) ( ) 0,1( ).X tVcos ttVX ttX tVco

5、s tVcos tvx tvcos t 例 ：設其中 是常數(shù)；在上服從均勻分布,則是一個隨機過程。對每一固定的 ，是隨機變量 乘以常數(shù)，故也是隨機變量,對上隨機變量取一 值, 就得到相應的一個樣本函數(shù) 94120( )0,0( )( ),00,1,2,.X tttX tX t t例 ：設某城市的急救中心電話臺遲早會接到用戶的呼叫。 以表示時間間隔內接到的呼叫次數(shù)， 它是一個隨機變量，且對于不同的，是不同 的隨機變量，于是是一隨機過程，且它的 狀態(tài)空間是1t2t3t4t1t2t4t3t14231( )x t2( )x t( )x tt 例5：考慮拋擲一顆骰子的試驗：16(1)(1)1,2, ()

6、,1,2,3,4,5,6,1nnnnXnnnXP XiiXn 設是第 次拋擲的點數(shù)，對于的不同值，是隨機變量，服從相同的分布， 因而構成一隨機過程，稱為伯努利過程或伯努利隨機序列, 它的狀態(tài)空間為 1,2,3,4,5,6 。(2) ,11,2,3,4,5,6nnYnY n設 是前 次拋擲中出現(xiàn)的最大點數(shù),也是 一隨機過程，它的狀態(tài)空間仍是。 下面分別給出它們的一條樣本函數(shù)：n87654321nx321654nx(1)(2)n87654321ny321654ny11隨機過程的分類：隨機過程的分類： 隨機過程可根據(jù)參數(shù)集T和任一時刻的狀態(tài)分為四類，參數(shù)集T可分為離散集和連續(xù)集兩種情況，任一時刻的狀

7、態(tài)分別為離散型隨機變量和連續(xù)型隨機變量兩種：1. 連續(xù)參數(shù)連續(xù)型的隨機過程，如例2，例32. 連續(xù)參數(shù)離散型的隨機過程，如例1，例43. 離散參數(shù)離散型的隨機過程，如例54. 離散參數(shù)連續(xù)型的隨機過程，12,2,( ),()nnTttn tX tXXXXX n t對于隨機相位正弦波， 若只在時間集上觀察，就得到 例子 隨機序列是連續(xù)型隨如下：機變量。122 隨機過程的統(tǒng)計描述分布函數(shù)兩種描述特征數(shù)() 一隨機過程的分布函數(shù)族1212121111222221( , ,)( ),( )(2,3,), ,( ),( ),( ),1,2,( ),( ,; , ,) ( ),( )XnnnniXnnnn

8、iFx xxt ttP X tx X txX tn nt ttTnX tX tX txR inX t tTFx xx t tttTX t tnxnT一般地，對任意個不同的時刻，維隨機變量的分布函數(shù)：稱為隨機變；，量的稱為的維分布函數(shù)維分布函數(shù)族1212( ,; , ,),1,2, ( ),XnniFx xx t ttntTX t tT有限維分布一般地，稱為隨機過程的它完全確定了隨機過程函數(shù)族的統(tǒng)計特性( ),( ),( , ),( , )(XXFx tP X txxRX t tTtTX t tTFx t tT 設隨機，過程對每一固定的稱為隨機一過程的稱維分布函數(shù)一為，維分布函數(shù)族13 例1：拋

9、擲一枚硬幣的試驗，定義一隨機過程：12cos 1( ) ,()( ),2 ( )(1)( ;0)( ;1); (2) ( ,;0,1);tHX ttP HP TtTX tF xF xF x x 出現(xiàn)，設出現(xiàn)試確定的： 一維分布函數(shù) ，二維分布函數(shù) 1 (0)0 HXT出現(xiàn)解：出現(xiàn) 0 01( ;0) 012 1 1xF xxx故1 (1)1 HXT出現(xiàn)出現(xiàn) 0 11( ;1) 112 1 1xF xxx 故14 例1：拋擲一枚硬幣的試驗，定義一隨機過程：12cos 1( ) ,()( ),2 ( )(1)( ;0)( ;1); (2) ( ,;0,1);tHX ttP HP TtTX tF x

10、F xF x x 出現(xiàn)，設出現(xiàn)試確定的： 一維分布函數(shù) ，二維分布函數(shù) 1, 1 (0),(1)0, 1 HXXT出現(xiàn)出現(xiàn)12121212120 11 10( ,;0,1)1 11xxxxF x xxx 且或故且 其他1234( )X t1( )X t2( )Xtt1x2x152( ),0,130,( )442X tVcos t tVtX t 例 ：設隨機過程， 在上均勻分布 求在時的密度函數(shù)。 ,0,tcos tacos t解：對給定的 若記，( )X taV則的密度函數(shù)為： 1 011 ;0 XVxxaafx tfaa其他01acos1 01;00 Xxfx于是 其他2,42acos22

11、0;240 Xxfx其他23,42acos 22 03;240 Xxfx其他1,acos 1 10;0 Xxfx 其他0,2acos012P X1622222( ),( )( )( )( )( )( )( )( )( )( ) XXXXXXXX t tTtE X ttE XttDtEX tttt均值函數(shù)均方值函給定隨機過程-數(shù)方差函數(shù)標準差函數(shù)-各數(shù)字特征之間的關系如下：(二二) 隨機過程的數(shù)字特征隨機過程的數(shù)字特征12121212121122,( , )( )( )( , )( ),( ) ( )( )( )( )( )( )XXXXXXt tTRt tE X t X tCt tCov X

12、tX tEX ttX tt又設任自相關函數(shù)自協(xié)意方差函數(shù) 2,XXtRt t 121212,XXXXCt tRt ttt 22,XXXXtCt tRt tt172( ), ( )( )X t tTtT E XtX t隨機過程，如果對每一都存在， 則稱是， 二階矩過程的均值函數(shù)和相關二階函數(shù)定總義：是程 矩過存在的。1212( ),1, , ( ),( ),( )( ),nnX t tTnt ttTX tX tX tnX t tT 是一隨機過程，若它的每一個有限維分布 都是正態(tài)分布，即對任意整數(shù)及任意服從 維正態(tài)分布， 則稱是正態(tài)過程的全部統(tǒng)計特性完全由它的均值函數(shù)和自協(xié)方差正函定義：態(tài)過程數(shù)所

13、確定。183, ( )3 , ,1,4 ,0,2 ,( )A BX tAtB tTA BANBUX t 例 ：設是兩個隨機變量，試求隨機過程:的均值函數(shù)和自相關函數(shù)。如果相互獨立，且問的均值函數(shù)和自相關函數(shù)又是怎樣的？ ( )( )XtE X t解： ( )3 ( )tE AE B1212( , )( )( )XRt tE X t X t221 21212()3() ()9 () ,t t E AttE ABE Bt tT1,4 ,0,2ANBU當時，224( )1,()5,( )1,()3E AE AE BE B,A B又因為獨立，()( ) ( )1E ABE A E B故121 2121

14、2( )3,( , )53() 12 ,XXttRt tt tttt tT 19( )() , (0,2 )X tacostt 例4：求隨機相位正弦波在上均勻分布 的均值函數(shù)、方差函數(shù)和自相關函數(shù)。 解：由假設 的概率密度為：1212( , )( )( )XRt tE X t X t 1 022 0 f 其他( )( )XtE X t于是E acost20102acostd212()()E a costcost221()2acostt221201()()2acostcostd2122ttacos22( )( , )( )XXXtRt tt2( , )2XaRt t20225( ), ,(0,)

15、( )X tABtCttA B CNX t 例 ：設其中是相互獨立,且都服從正態(tài)分布的隨機變量， 試證明是正態(tài)過程,并求它的均值函數(shù)和自相關函數(shù)。 ( )X t解：是正態(tài)過程121122,( )( )( )nnnu uu u X tu X tu X t對任意一組數(shù) 服從一維正態(tài)分布21122111( )( )( )nnnnnii ii iiiiu X tu X tu X tAuButCut而, ,( , ,)A B CA B C因為是相互獨立的正態(tài)變量，故是三維正態(tài)變量，( )X t所以是正態(tài)過程1212, ,( ),( ),( )nnt ttTX tX tX tn對任意一組實數(shù)服從 維正態(tài)分

16、布2111, ,nnnii ii iiiiAuBututA B CC是的線性組合，因此它服從一維正態(tài)分布，續(xù)續(xù)21下面計算均值函數(shù)和自相關函數(shù):( )( )( )()()()0,E AE BE CE ABE ACE BC因為2222()()()E AE BE C2( )XtE ABtCt故2( )( )( )0E AE B tE C t1212( , )( , )XXCt tRt t221122()()E ABtCtABtCt2221 212(1)t tt t22( ), ( ),( ), ( )( ), ( ) X t Y ttTtT X t Y tX t Y ttT 設是依賴于同一參數(shù)的隨

17、機過程，對于不同的()是不同的二維隨二機變量，稱為維隨機過程(三三) 二維隨機過程的分布函數(shù)和數(shù)字特征二維隨機過程的分布函數(shù)和數(shù)字特征1211121212121212( ), ( ) , ,; , ,( ),( ),( ); ( ), ( ),()( ,; , ,;,; , ,)nmnmnnmmX t Y ttTt tt t ttTnmX tX tX tY tY tY tF x xx t tty yytmtnt 給定二維隨機過程，是 中任意兩組實數(shù)，則維隨機變量的分布函數(shù)：稱為二維隨機過程的維分布函數(shù)12111212( ), ( ) , ,; , ,( ),( ),( )( ), ( ),()

18、( )( )nmnmX t Y ttTn mt ttT t ttTnX tX tX tmY tY tY tX tY t 給定二維隨機過程對任意的正整數(shù)，任意的數(shù)組維隨機變量與 維隨機變量相互獨立，稱隨機變量和是相互獨立的23( ), ( )X t Y t關于數(shù)字特征，除了各自的均值函數(shù)和自相關函數(shù)，還有如下兩個數(shù)字特征:1212( ), ( ),( , )0,( )( )XYX t Y tt tTCt tX tY t如果二維隨機過程對任意的恒有稱和是不相關的。121212121212( , )( ) ( ) ,( , ) ( )( ) ,XYYXRt tE X t Y tt tTRt tE Y

19、 t X tt tT互相關函數(shù)12112212121212121212( , )( )( ) ( )( ) ( , )( )( ) ,( , )( , )( )( ) ,XYXYXYXYYXYXYXCt tEX ttY ttRt tttt tTCt tRt tttt tT互協(xié)方差函數(shù)2412121212121212( )( ), ( ),( )( ),( ),( ),( , ),( , ),( , ), ( , ),( , ),( , )( ),( , ).XYZXYZXYYZZXWWW tX t Y t Z ttttRt tR t tRt tRt tRt tRt ttRt t例6：隨機過程是

20、三個隨機過程之和， 已知，求 ( )( )( )( )W tX tY tZ t解：( )( )( )( )WXYZtttt12121212( , )( , )( , )( , )WXYZRt tRt tR t tRt t121212( , )( , )( , )XYYXXZRt tRt tRt t121212( , )( , )( , )ZXYZZYRt tRt tRt t12121212( , )( , )( , )( , )WXYZRt tRt tR t tRt t則( )( )( )0XYZttt若特，別的， ( ), ( ),( )X t Y t Z t 兩兩不相關1212( , )(

21、 )( )0,XYXYRt ttt即1212( , )0,( , )0XZYZRt tRt t253 泊松過程及維納過程0110211( ),0,0( )( )0,( )( ),( )( ),( )(),( ),0nnnX t ts tstX tX sntttnX tX tX tX tX tX tX ts tt給定二階矩過程，對，上的增量；獨立的增量過若稱隨機變量為隨機過程在區(qū)間對任意選定的正整數(shù) 和任意選定的個增量相互獨立，稱為；它具有“在互不重疊的區(qū)間上，狀態(tài)的增量是相互獨立”的程這直觀地說，一特征；0,()()( )( )( )()(0)0,(X tXhsX tsXshthX thX s

22、hX tX stsstts 若對任意的實數(shù)和與具有相同的分布，稱；這時，增量的分布函數(shù)與的分布函數(shù)相同，即只依賴于時間差而不依賴于 和 本身，當增量具有平穩(wěn)性時，稱相應的獨立增量過增量程是具有平穩(wěn)性齊次的；26 獨立增量過程的性質：( ),0(0)0,X t tX若是獨立增量過程，且則：( )( )( ) (0)1. X tX tX sst的有限維分布函數(shù)族可以由增量的 分布所確定；121212121111121211, , ( ),( ),( )( )(0),( )( )( )(0),.,( )()( ),( ),( )( )(0),( )( ),( )() nnnniiinnnnt ttt

23、ttX tX tX tX tXX tX tX tXX tX tX tX tX tX tXX tX tX tX t事實上，對任意的 及任意的，不妨設,則：即的分布函數(shù)可由：的分布函數(shù)確定27( )( , )( ,2.) XXXDtCs tDmin s t設已知，則( )( )( )( )XY tX ttX t證明：記，則當具有獨立增量性時，(0)0, ( )0,( )( )YXYE Y tD tDt且( )Y t 也具有獨立增量性，2 ( )(0) ( )( ) ( )(0)E Y sYY tY sY sY,( , ) ( ) ( )XstCs tE Y s Y t設則 2 ( )(0) ( )

24、( )( )E Y sYY tY sE Ys 2( )(0)( )( )( )( )XE Y sYE Y tY sE YsDs,( , )( )XXtsCs tDt同理當時 可證得28(一) 泊松分布( ) 00,( ),0N tttN t t以表示在時間間隔內出現(xiàn)得質點數(shù)，是一狀態(tài)取非負整數(shù)、時間連續(xù)的隨機過程，稱為計數(shù)過程。000000( , )( )( ) 0,( , )( , ) 0,1,2kN t tN tN tttt tP t tP N t tkk記它表示時間間隔內出現(xiàn)的質點數(shù)，其概率記為：5t4t3t2t1t( )N t等間隔的不等間隔的29( )N t計數(shù)過程滿足如下條強度為定

25、義的泊件：，稱作松過程。1. 在不相重疊的區(qū)間上的增量具有獨立性12. ,( ,)( ,)1() ,( )t P t ttP N t tttotN t 對于充分小的其中常數(shù)稱為常數(shù)的強度22 3. ( ,),()jjjtP t ttP N t ttjot對于充分小的，4. (0)0N300000,0P t ttP N t tt證明：0()00000( )()( , ), 0,1,2,!,()kt tkN ttteP t tP N t tkkkN t ttt 若是強度為 的泊松過程，則：即000,P t t P t tt條件100,0P N t tN t tt000000,P t ttP t t

26、P t ttot 即00,0,0P N t tN t tt2 300,1P t ttot 條件 ，0000,dP t tP t tdt 00000( , )0( , )1,N t tP t t由即為初始條件0()000( , ) t tP t tett解得：0tt 等式兩邊除以，令，得：續(xù)續(xù)31證畢證畢0( , ) 1kP t tk 再來計算00( ,),kkP t ttPN t tN t ttk00,kjP N t ttj P N t tkj00010( ,)( , ),kkkkP t ttP t tP t tPt ttot 000()0002,3, ,(), , 0,1,2!kt tkkt

27、 tkttP t tP N t tkettkk如此重復，即逐次令就可求得：在內出現(xiàn) 個質點的概率為：0011002,kkkjkjjP t tt P t tP t tt Pt tP t tt Pt t0101,kktotP t ttotPt tot 0tt 兩邊除以，令，得：00100, kkkdP t tP t tPt tttdt 00,01kP t tk初始條件，010001, t tkP t tttett令即可解得32000( , )N t ttttt ，增量的概率分布是參數(shù)為 ()的泊松分布由，且只與時間差有關，所以強度為 的泊松過程是一齊次的獨立此可見增量過程。000( ),0 2.

28、0,( )( ) 3. (0)0( ),0N t tttN tN tttNN t t 若計數(shù)過程滿足下列三個條件：1. 它是泊松過程也可用另一形式定義獨立增量過程對任意的增量則稱是強度為 的：一泊松過程33強度為 的泊松過程的數(shù)字特征： 0001. ,E N t tE N tN ttt 00002. ,000 ,NND N t tD N tN ttttNtE N tt DtD N tt 特別地，由假設，可得：3. , ,0NNCs tDmin s tmin s ts t 24. , ,0NNNNRs tCs tstmin s tsts t34( ),0(5)4;(5)4,(7.5)6,(12)

29、9;(12)9(5)4;(4)(5),(5),(5),(12).N t tP NP NNNP NNE ND NCov NN例7：設服從強度為 的泊松過程，求(1) (2) (3) 45(1) P54(5 )4!Ne解： (4) EN(5)=5 ,55 ,(5),(12)55 .D NCov NND N 4522.534.5(2) P54,(7.5)6,(12)9P54,(7.5)(5)2,(12)(7.5)3(5 )4!(2.5 )2!(4.5 )3!NNNNNNNNeee57(3) (12)9(5)4(12)(5)5(5)4(12)(5)5(7 )5!P NNP NNNP NNe(5)4(1

30、2)9P NN問題：求49 449551.1212C 答案：35 N t設是強度為 的泊松過程 1 ,nnnWWnWft是第 個質點出現(xiàn)的等待時間，下面給出的概率密度 0,nnWnWFtP WtP N tnnttn 的分布函數(shù) 即第 個質點出現(xiàn)的時間內至少 個質點出現(xiàn) 0!0 0nktWk nk ntP N tketFtkt于是 111 0! 1 !0 0nnnnk kkkWtttk nk nWWdFttktteeetdtkkftnt 因此，的概率密度為：,nWn即服從分布。 11 00 0tWWetftt特別地，質點首次出現(xiàn)地等待時間服從指數(shù)分布： 36 11110111 0 0 2 1,2

31、, 0 1 iiiiitiiiiTTitP TtP N ttN tetFtTWWiWii 。 下面來求 的分布，設第個質點出現(xiàn)的時刻為，記 稱為相繼出現(xiàn)的第個質點和第點間間距 個質點的 則 ,1,2 , 0 00 0iitiTT itetTftt即 于是 的概率密度為： 點間間距序列服從同一個指 數(shù)分布。37 定理一：強度為的泊松流(泊松過程)的點間間距是相互獨立的隨 機變量，且服從同一指數(shù)分布 定理二：如果任意相繼出現(xiàn)的兩個質點的點間間距是相互獨立， 且服從同一個指數(shù)分布： 這兩個定理刻畫出了泊松過程的特征，定理二告訴我們，要確定一個計數(shù)過程是不是泊松過程，只要用統(tǒng)計方法檢驗點間間距是否獨立

32、，且服從同一個指數(shù)分布。 00 0tetf tt則質點流構成強度為的泊松過程38(二) 維納過程維納過程維納過程是布朗運動的數(shù)學模型 以W(t)表示運動中一微粒從時刻t=0到時刻t0的位移的橫坐標，且設W(0)=0。由于微粒的運動是受到大量隨機的、相互獨立的分子碰撞的結果，于是:(1) 粒子在時段(s,t上的位移可看作是許多微小位移的 和，根據(jù)中心極限定理，假設位移W(t)-W(s)服從正態(tài)分布是合理的。(2) 由于粒子的運動完全由液體分子不規(guī)則碰撞而引起的，這樣，在不相重疊的時間間隔內，碰撞的次數(shù)、大小和方向可假設相互獨立，即W(t)具有獨立增量，同時W(t)的增量具有平穩(wěn)性。39 2( )

33、,0 1. 2. 00,0 3. (0)0W t ttsW tW sNtsW給定二階矩過程，如果它滿足：具有獨立增量對任意，增量 且 稱此過程為定義：維納過程40維納過程的性質：1. 維納過程是齊次的獨立增量過程2. ()維納過程是正態(tài)過程，因此其分布完全由它的均值 函數(shù)和自協(xié)方差函數(shù) 即自相關函數(shù) 所確定 223. ( )0 ( ) , ,0WWWWWtE W tDtD W ttCs tRs tDmin s tmin s ts t維納過程的數(shù)字特征:41( ),0( )( 1)( )W t tX tW tW t例8：設是一個維納過程，求+ -的均值函數(shù)和相關函數(shù)。( )( )( 1)( )0

34、XtE X tE W tE W t解：+-( , )(1)( )( 1)( )R s tE W sW sW tW t+(1)(1)( )(1)(1)( )( )( )E W sW tE W s W tE W sW tE W s W t+(min(1,1)(min( ,1)(min(1, )(min( , )DstDs tDstDs t22222(min(1,1)(1),(min( ,1),(1),1(min( , ),(min(1, ),1stDstsDs tsstsDs ts Dsttts設，則20,1( , )(1),1tsR s tts ts 于是，20,1( , )(1),1sttsR

35、 s ttsts類似討論的情況，合起來有42關鍵詞： 無后效性(馬爾可夫性) 齊次馬爾可夫鏈 n步轉移概率 n步轉移概率矩陣 C-K方程 馬氏鏈的有限維分布律 遍歷性 極限分布(平穩(wěn)分布)第十一章 馬爾可夫鏈1 馬爾可夫過程及其概率分布馬爾可夫性(無后效性) 過程(或系統(tǒng))在時刻t0所處的狀態(tài)為已知的條件下，過程在時刻tt0所處狀態(tài)的條件分布與過程在時刻t0之前所處的狀態(tài)無關。通俗地說，通俗地說，就是在已經(jīng)知道過程“現(xiàn)在”的條件下，其“將來”不依賴于“過去”。用分布函數(shù)表述馬爾可夫性：12( ),3,niX t tTITnttt ntT設隨機過程其狀態(tài)空間為對參數(shù)集 中任意 個數(shù)值 11111

36、1( )|( )|nnnnnnnnP X txX txX txP X txX tx( ),X t tT則稱過程具有或，并稱此過程馬爾可夫性無后效性馬爾為可夫過程。44 1,000,0X ttXX tt例：設是獨立增量過程，且 證明：是一個馬爾可夫過程。 121,nnTntttt證：對 中任意 個數(shù)值 1111( )|,nnnnP X txX txX tx 112211110,0,( ),0nnnnnnX tXx X tXxP X tX txxX tXx 1111( )|0nnnnnnP X tX txxX tXx ,0X tt 由定義知，是一個馬爾可夫過程。 證畢！證畢！11( )|nnnnP

37、 X txX tx45由上例知，泊松過程泊松過程是時間連續(xù)狀態(tài)離散的馬氏過程， 維納過程維納過程是時間狀態(tài)都連續(xù)的馬氏過程。時間和狀態(tài)都離散的馬爾可夫過程稱為馬爾可夫鏈馬爾可夫鏈，簡稱馬氏鏈，記為：Xn=X(n),n=0,1,2,參數(shù)集T=0,1,2,，記鏈的狀態(tài)空間為：112212,0; ,|, |,rrrim njtititimim njmiijn rtttm t m mnTP XaXaXaXaXaP XaXaP m mn記為馬對任意的正整數(shù)和，有爾可夫鏈用條件分布律來表示為：12, iIa aaR46,|ijm njmiijP m mnP XaXamamna條件概率： 稱為馬氏鏈在時間

38、處于狀態(tài) 條件下，在時間轉移到狀態(tài) 的轉移概率112,1,1,2,ijjiP m mnjmamna a這是因為鏈在時刻 以任何一個狀態(tài) 出發(fā)，到另一個時刻必然轉移到諸狀轉移概率性質： 態(tài)中的某一個。111213212223313233,1Pm mnPm mnPm mnPm mnPm mnPm mnP m mnPm mnPm mnPm mn此矩陣的每一轉移概率矩陣： 行元素之 和等于 47 0,|ijijijijm njminjiP m mni jnP nP nP m mnP XaXaXaanPX稱此轉移概率為馬氏鏈的當轉移概率當只與及 有關時，把具有這種平穩(wěn)性時，它記為稱此鏈步轉是移概率；齊，

39、即次馬氏鏈。 1112132122233132331111121322122233313233( )( )( )( )( )( ) ( )( )( )1|1 ijijmjminP nPnPnPnPnPnP nPnPnPnPPP XaXaaPPPaPPPPPaPPP在齊次馬氏鏈中， 步轉移概率矩陣為：一步轉移概率記為：一步轉移概率矩陣記為：的狀態(tài)Xm123aaaXm+1的狀態(tài)48 例2：(0-1傳輸系統(tǒng))如圖所示，只傳輸數(shù)字0和1的串聯(lián)系統(tǒng)中，設每一級的傳真率為p，誤碼率為q=1-p。并設一個單位時間傳輸一級，X0是第一級的輸入，Xn是第n級的輸出(n1)，那么Xn,n=0,1,2是一隨機過程，

40、狀態(tài)空間I=0,1，而且當Xn=i為已知時，Xn+1所處的狀態(tài)的概率分布只與Xn=i有關，而與時刻n以前所處的狀態(tài)無關，所以它是一個馬氏鏈，而且還是齊次的，它的一步轉移概率和一步轉移概率矩陣分別為：1 | ,0,1 ijnnpjiPP Xj Xii jqjin21X0X1X2XnXn-1pqPqp49 例3：一維隨機游動一維隨機游動。設一醉漢Q(或看作一隨機游動的 質點)在直線上的點集I=1,2,3,4,5作隨機游動， 且僅在1秒、2秒等時刻發(fā)生游動，游動的概率規(guī)則 是：如果Q現(xiàn)在位于點i(1i0)表示經(jīng)n次交換 后甲盒中的紅球數(shù). (1)求此馬氏鏈的初始分布; (2)求一步轉移概率矩陣; (

41、3)計算 ; (4)判斷此鏈是否具有遍歷性，若有，求出極限分布。0242(1,1,0),(2)P XXXP X0X7501 32 30(2)1 2 95 92 9 ,202 31 3P07 2716 274 27(3) (2)1 16 8149 81 16 81 ,24 2716 277 27P3312304602462130246(0)1 5, (1)3 5,(2)1 5,P XCCP XC CCP XC CC解:(1)00121 53 51 5X即:024(1,1,0)P XXX2002012022(2)(0)(2)(1)(2)(2)(2)P XP XPP XPP XP3 5 49 81

42、16 812352 328050.07201110(1)(2)(2)P XPP1 5 4 273 5 16 81 1 5 7 271 50.27601 32 30(4)1 2 95 92 9 ,202 31 3P由定理知，此鏈有遍歷性；1239522393219310011012212012方程組, 012設極限分布 =，07 2716 274 27(2)1 16 8149 81 16 81 ,24 2716 277 27P15351501277關鍵詞： (寬)平穩(wěn)過程 時間均值 時間相關函數(shù) 各態(tài)歷經(jīng)性 譜密度第十二章 平穩(wěn)隨機過程781 平穩(wěn)隨機過程的概念 , X ttT是一隨定義：機過程

43、，121,2, ,nn nt ttTh對任意的，和任意實數(shù)12, ,nth ththT當時 1212,nnX tX tX tX thX thX th和具有相同的分布函數(shù)， 12121212,; , ,;,nnnnF x xx t ttF x xx th ththX ttT平即： 則稱隨機過程具有， 穩(wěn)性嚴平穩(wěn)隨機過程 稱此過程為，簡稱嚴平穩(wěn)過程79 ,00, 1, 2, 0,1,2,T 平穩(wěn)過程的參數(shù)集 可以為連續(xù)的,如，； 可以為離散的,如 1212212121,0 ,00,XXXXXX ttTtE X tE XRt tE X tX tE XX ttRttRtt記為記為 設嚴平穩(wěn)過程是二階矩

44、過程 則常嚴平穩(wěn)過程的數(shù)字數(shù)特征：80 121211221210 ,0 ,X tX thhtX tXX tX tX thX thhtX tX tXX tttt 事實上,與同分布，取 則與同分布，從而有相同的數(shù)學期望與同分布，取 則與同分布，因此 自相關函數(shù)僅是時間差的函數(shù) 2200XXXXXXXCRDtCR從而協(xié)方差函數(shù) 方差函數(shù) 是常數(shù)由于要確定一個隨機過程的分布函數(shù)，并進而判定其平穩(wěn)性在實際中是不易辦到的。因此，通常只在二階矩過程范圍內考慮寬平穩(wěn)過程。81 , ,XXX ttTt tTE X tE X t X tRX ttT 給定二階矩過程，如果對任意的常數(shù) 則稱為寬平穩(wěn)過程 嚴平穩(wěn)過程二

45、階矩存在寬平穩(wěn)過程；反之不一定成立. 今后，平穩(wěn)過程均指寬平定義：穩(wěn)過程。 ,XYXYXYX tY ttTRRt tE X t X tRX tY t和是兩個平穩(wěn)過程 如果它們的互相關函數(shù)也只是時間差的函數(shù)，記為 即 稱和是， 或稱這兩個過程平是穩(wěn)相關的聯(lián)合定義：寬 平穩(wěn)的8222 1,0, 1, 2,0,:,0, 1, 2,kkkkXkE XE XXk 例 ：設是互不相關的隨機變量序列， 且.證明是寬平穩(wěn)的隨機序列. 2 :0,0 ,0, 1, 2,kXklkklE XRk lE X XklklXk 證明 即：相關函數(shù)只與有關， 所以它是寬平穩(wěn)的隨機序列，也稱為離散白噪聲。 注:如果又是獨立同

46、分布的，則它還是嚴平穩(wěn)序列。83 00Nnkn kkE Ya E X證： 0012,0, 1, 2,1 0, 1, 2,0, 1, 2,kNnkn kkNnXkYa XnNa aaY n 例 ：設是例中的隨機序列， 作，其中 是自然數(shù)，而是常數(shù). 證明：是平穩(wěn)序列,Ynn mRn nmE Y Y又相關系數(shù)00NNkn kjn mjkjEa Xa X00NNkjn kn mjkja a E XXnnY它與 無關，所以是平穩(wěn)序列。2 00Nkm kkm k Na a 84 30,S tTTX tS t例 ：設是一周期為 的函數(shù)， 是在上服從均勻分布的隨機變量， 稱為隨機相位周期過程，試討論它的平穩(wěn)

47、性。 1 00 TTf解：由假設， 的概率密度為: 其他 ,XRt tE S tS t01TS tdT 1t TtSdT 01TSdT周期性常數(shù)所以隨機相位周期過程是平穩(wěn)的。 ,E X tE S t于是 1t TtSSdT 01TS tS tdT 01TXSSdRT周期性記為85 41 ,2, ,0,1,2,!0kX tIIP X tIt tN t tN t teP N t tkkkX t 例 ：考慮隨機電報信號，信號由只取或的電流給出。而正負號在區(qū)間內變化的次數(shù)是隨機的，且假設服從泊松分布，即： 其中是單位時間內變號次數(shù)的數(shù)學期望，試討論的平穩(wěn)性. t( )x t86 022IIE X tI

48、 P X tII P X tI 解： 2222I P X t X tII P X t X tI 0, ,XRt tE X t X t設 2,X t X tIt t事件等價于電流在內變號偶數(shù)次， 20,2kP X t X tIP N t tk因此202!kkek續(xù)續(xù)87221200,2!21 !kkXkkeeRt tIkk 所以2220!kkI eI ek 220,XtttRt tE X tX tI e 此結果與 無關，若只要令則有22,.XRt tI e綜合得，僅與 有關，故是平穩(wěn)過程。 20,21kP X t X tIP N t tk 同理21021 !kkek882 各態(tài)歷經(jīng)性 如何根據(jù)實

49、驗記錄確定平穩(wěn)過程的均值和自相關函數(shù)呢？ 按照數(shù)學期望和自相關函數(shù)的定義，需要時，一個平穩(wěn)過程重復進行大量觀察，獲得一族樣本函數(shù)用統(tǒng)計實驗方法，均值和自相關函數(shù)近似地為： 121121111, NNXkXkkkkxtRttxtxtNN 12,nx txtxt89 平穩(wěn)過程的統(tǒng)計特性不隨時間的推移而變化，根據(jù)這一特點，能否通過在一個很長時間內觀察得到的一個樣本曲線來估計平穩(wěn)過程的數(shù)字特征呢？ 本節(jié)給出的各態(tài)歷經(jīng)定理證實，只要滿足某些條件，那么均值和自相關函數(shù)實際上可以用一個樣本函數(shù)在整個時間軸上的平均值來代替。( )x tt90隨機積分定義：兩種定義下的隨機變量在存在的情況下，以概率1相等 1.

50、 ,( ) , ,baX ttTx taX ta bbTYX t dt Y給定二階矩過程，如果它的每一個樣本函數(shù)在上的隨機過程在上積分都存在，稱， 的積分存 記為是一在隨機變量； 012112012.,1,2,0,iniiiiiiniimax tia battttbttttt inYlimEYXtYX ta b 考慮內的一組分點： 且記 若存在隨機變量 ，使 稱 為在上的均方積分91 ,.babbXaabaX ttTRs tE YE X tdsdtdX ta bY YX ttdt 是二階矩過程，若自相關函數(shù)的二重積分存在， 即存在，則在上均方積分存在 即存在隨機變量且定理：92 12TTTX

51、tX t X tlimX t X tdtT隨機過程的時間相關函數(shù)：= 12TTTX tX tlimX t dtT隨機過程的時間均值： 定 義：=93 1 X tacostX tX t X t。例：計算隨機相位正弦波：的時間平均和 1 2TTTX tlimacostdtT 解：0Tacos sin TlimT2Ta sinTsinTlimT 將 看作一定值94 XXE X tX tRE X t X tX t X t 對照第十章計算過的均值函數(shù)和自相關函數(shù)，可知： 2 12TTTX t X tlima costcostdtT22acos2224TTTalimcostcosdtT 222222422

52、TsinTsinTaa coslimT 951. ( )( )1( )XX tE X tX t如果以概率 成立， 均值具有 則各稱過程的態(tài)歷經(jīng)性 X t設是定義：一平穩(wěn)過程 2. ( )()( )()1( )0XX t X tE X t X tRX t如果對任意實數(shù) ，以概率 成立， 則稱過程的， 自相關函數(shù)具有各 特別當時，稱態(tài)歷經(jīng)性均方值具有各態(tài)歷經(jīng)性( )3. ( )X tX t如果的均值和自相關函數(shù)都具有各態(tài)歷經(jīng)性， 是各態(tài) 則稱歷經(jīng)過程96 12,12X tX tXP XX t 例 ：是隨機變量， 試確定的均值是否具有各態(tài)歷經(jīng)性。 X tX解：是平穩(wěn)過程， 1122TTTTTTX t

53、limX t dtlimXdtXTT時間均值 0XtE X tEX因為 X t由定義知，的均值不具有各態(tài)歷經(jīng)性 00XPX tP X即 2,1XRt tE X t X tE Xt與 無關11 1x t 2xt97( )() ,2 , 01,A ( ),0,(0,2 )X tAcosttxxAf x 例3：證明:正弦波其中 是常數(shù)與 相互獨立其它在上均勻分布,是平穩(wěn)過程;并判斷其是否為各態(tài)歷經(jīng)過程. 1212( , )( )( )XRt tE X t X t:( )( )XtE X t證明E Acost( ) 0E A E cost212 ()()E A E costcost212111()co

54、s.()44costttt221201()()2E Acostcostd( )X t所以,是平穩(wěn)過程.98 1 2TTTX tlimAcostdtT 0( )TAcos sin TlimE X tT2TA sinTsinTlimT 將A, 看作定值( ).X t即的均值具有各態(tài)歷經(jīng)性99 .X tX t的相關函數(shù)不具有各態(tài)歷經(jīng)性所以,不是各態(tài)歷經(jīng)過程 2 12TTTX t X tlimA costcostdtT22Acos2224TTTAlimcostcosdtT 222222422TsinTsinTA cosAlimT 1cos( ,)4XRt t100 2201102TXXTX tlimR

55、dTT均值各態(tài)歷經(jīng)定理 平穩(wěn)過程的均值具有各態(tài)歷經(jīng)性 的充要條件是：定理一： 1,0XXX tPX tEX tDX tX t 的均值具有各態(tài)歷經(jīng)性的定義為思路:： 下面只要計算的均值與方差就可以了 12TTTE limX ttdtEXT 12TTTlimE X tdtT12TXXTTlimdtT 22XEXDXtt 2212TXTTElimX t dtT 21122214TTXTTTlim EX tdtX tdtT 21212214TTXTTTlimE X tX tdt dtT 22112214TTXXTTTlimRttdt dtT 續(xù)續(xù)1011122212222121202222221212

56、2202,12,111224ttttTTTXXXTTTTt tlimdRdRdT 雅可比式0222222222201224TXXXTTlimT RdTRdT22222222124XRTXXTTlimTRdT為偶函數(shù) 220112TXXTlimRdTT 220112TXXTlimRdTT 22010102TXXTDX tlimRdTT 即證畢！證畢！2t,T T1t,TT,T T,TT2t2 ,0T1t0, 2T0,2T2 ,0T102 222lim0XXXXXXXXXXXlimRlim Rlim Clim Clim Rlim CXRlim RtX t在存在的條件下， 若,則定理一條件成立，即

57、若,則定理一條件不成立,即注意： 均值具有各態(tài)歷經(jīng)性均值不具有因此在或存在條件下，均值各態(tài)歷經(jīng)性的條件為：，即當時間差 充分大時，和各態(tài)推歷經(jīng)性論：呈 Xlim R現(xiàn)不相對隨機相位正弦波而言，不存在，但它的均值是各關性態(tài)歷經(jīng)的103 2211101111 102 XXTTX tRlimBRdTTBE X t X tX tX t自相關函數(shù)各態(tài)歷經(jīng)定理 平穩(wěn)過程的自相關 函數(shù)具有各態(tài)歷經(jīng)性的充要條件是： 定理二 ： 其中 00001 ( ) 1 ( )() TTTTttX tlimX t dtTX t X tlimX t X tdtT 在實際應用中通常只考慮定義在上的平穩(wěn)過程，此時上面的所有時間平

58、均都應以上的時間平均來代替。即 X tX t X t在定理一的證明中，將換成，就可得到：而相應的各態(tài)歷經(jīng)定理可表示為下述形式： 見下頁104 2011 10XTXXTPX tlimRdTT 三： 定理 2111011 10XTXTPX t X tRlimBRdTT定四： 理105 各態(tài)歷經(jīng)定理的重要價值在于它從理論上給出了如下保證：一個平穩(wěn)過程X(t)，若0t+，只要它滿足各態(tài)歷經(jīng)性條件，便可以根據(jù)“以概率1成立”的含義，從一次試驗所得到的樣本函數(shù)x(t)來確定該過程的均值和自相關函數(shù)。 000,1( )11( ) ()( ) () 0XXTXTTXx tTRx t dtTRx t x tdt

59、x t x tdtTTT如果試驗記錄只在時間區(qū)間上給出，則相應的的無偏估計為： 0011 TxTTxTlimx t dtTlimx t x tdtRT即 1063 相關函數(shù)的性質 221. 00XXRE Xt , XYXYX tY tRRR 設和是平穩(wěn)相關過程，和分別是它們的自相關函數(shù)和互相關函數(shù)。相關函數(shù)具有如下的性質： 2. , ,XXXXYYXRRRRR即是 的偶函數(shù)即互相關函數(shù)既不是奇函數(shù)，也不是偶函數(shù) 222.3. 0 ,00 00 ,00XXXXXXYXYXYXYRRCCRRRCCC 此不等式表明：自相關自協(xié)方差 函數(shù)在處取得最大值。 見下頁107 1212,1 4. , ,0Xn

60、nnXijiji jRt ttTna aaRtta a是非負定的，即對任意數(shù)組和任意 個 不全為零的實數(shù)，都有： ,1,12,11 0nnXijijijiji ji jnnijijiii jiRtta aE X tX ta aEX tX ta aEX ta事實上， 自相關函數(shù)的非負定性是平穩(wěn)過程最本質的特性， 因為任一連續(xù)函數(shù)，只要具有非負定性，那么該函數(shù)必是某平穩(wěn)過程的 自相 關函數(shù)。 見下頁108 001,X tP X tTXtTtX是平穩(wěn)過程，若滿足條件 則定義周期為 的：稱為平穩(wěn)過程。 005. X tTT是周期為 的平穩(wěn)過程的充分必要條件是： 其自相關函數(shù)是周期為 的函數(shù)。 00:1

61、.XXP X tTX tRTR即109 20000020220010,0. 0XXXXP X tTX tEX tTX tRTRE X t X tTE X t X tE X tX tTX tE X tX tTX tE XtEX tTX tRTR 周期平穩(wěn)定義證明： 因為 要證只要證 也即 而 故 200200010020 2020 XXXXRXXP X tTX tEX tTX tEX tTX tRRTRRRT 為周期函數(shù) 要證要證 計算得證畢證畢柯西施瓦茲不等式110 應用：應用： 00,0XXNVSNVSX tX tlim RlimCV tS tN tV tS tN tS tN tE N tl

62、im RV tRRRRRV t在實際中，各種具有零均值的非周期性噪聲和干擾一般當值適當增大時，和呈現(xiàn)獨立或不相關，即設接收機輸出電壓是周期信號和噪聲電壓之和，又設和是兩個互不相關的各態(tài)歷經(jīng)過程，且則的自相關函數(shù)對于充分大的值，即如果將作為自相關分析儀的 SR輸入，則對于充分大的 值，分析儀記錄到的是函數(shù)的曲線。111 2222222 ,02002,220aSNNSaVVaRcosRb eaaRbRaaRcosb ecosR例：假設接收機輸出電壓中的信號和噪聲過程的自相關函數(shù)分別為： 且噪聲平均功率遠大于信號平均功率 則當 充分大時 自相關分析儀記錄到的，的圖形， 當 充分大后應呈現(xiàn)正弦曲線，

63、亦即從強噪聲中檢測到微弱的正弦信號。 VRcos下面水平部分時為三角周期函數(shù)4 平穩(wěn)過程的功率譜密度( (一一) ) 平穩(wěn)過程的功率譜密度平穩(wěn)過程的功率譜密度 1. ,x tt 確定性信號的功率譜密度 對確定性信號它是時間函數(shù)，現(xiàn)作頻譜分析。 ,x tx t dt 設滿足狄利克雷條件，且 i txFx t edtx t 則的傅里葉變換存在或者說具有頻譜： 1 2i txx teFdt 且同時有傅里葉逆變換： i txx tFx t edt 對確定性信號的傅里葉變換： 1 2i txx teFdt 及傅里葉逆變換： *xxxFx tFF一般是復函數(shù)，稱之為信號的頻譜，其共軛函數(shù) 12i txx

64、tFe說明信號可以表示成諧分量的無限疊加， 其中 稱為圓頻率114 22,12TTTxt dtlimxt dtT 但在工程技術中，通?？偰芰慷骄β蕿榇死酶道锶~變換給出平均功率的譜表達式。 22212,xxxx tFParsevalxt dtFdx tF 在信號與之間成立有等式： 等式左邊表示在上的總能量，而右邊的被積函數(shù)在頻率域中表示在圓頻率 處的能譜密度。115 0 Tx ttTx txttT作的截尾函數(shù)： Txt 它在區(qū)間，上絕對可積，記的傅里葉變換為： ,Ti ti txTTFTxt edtx t edt 2221,2TTTxTxtParsevalxt dtxt dtFTd的等式為

65、： 2 ,TTx t 兩邊除以再令得在，上的平均功率可表示為： 22211,2411 ,22TxTTTxTlimxt dtlimFTdTTlimFTdT 21lim,2xxTSFTTx t其中稱為信號在 處的功率譜密度116 222. ,111 ,222,Ti tXTTXTX ttx tX tx tX tFTX t edtXt dtFTdTT 平穩(wěn)過程的功率譜密度 設平穩(wěn)過程前面討論的可以看成它的樣本函數(shù)， 于是對平穩(wěn)過程作討論，只要把換成即可， 即： 22111,222, TXTTTlim EXt dtlimFTdTTT 等式兩邊取數(shù)學期望，再讓得： 22211 220TTTTTTXXX t

66、lim EXt dtlimE XtdtTTR等式左邊稱為平穩(wěn)過程的平均功率117 220 ,1 ,21 02XXXTXXXXRSlimE FTTSRdtSX在頻率域中稱之為平穩(wěn)即平穩(wěn)過程的平均功率等于該過程的均方值過程在 處的功率譜密或等式右邊中的被積式記為：利用記號及簡化結果得：度此式稱為平穩(wěn)過程的平均功率的譜表達式118( (二二) ) 譜密度的性質譜密度的性質 2. 12XXiiXXXXSRSRedRSed和自相關函數(shù)是一傅里葉變換對， 即 ； 它們統(tǒng)稱為維納辛欽公式 21. ,XXXXSFTFT FT是的實的、非負的偶函數(shù) 事實上，因為 是的實的、非負的偶函數(shù)，所以它的均值的極限 也必是實的、非負的偶函數(shù) XS譜密度有以下重要性質：11912.1表列出了若干自相關函數(shù)以及對應的譜密度 1211221 2TTi ti tXTTTSlimEX tedtX tedtT證明：21211212TTittXTTTlimRttedt dtT 21121212TTittTTTlimE X tX tedt dtT XRdiXRed當時 112221=2212ttttTiXTTlimRedT XS