随机信号分析.

Presentation on theme: "随机信号分析."— Presentation transcript:

1 随机信号分析

2 课程内容及安排 课程地位： 学习通信原理、移动通信等专业课的先修课程. 主要内容 学习方法：信号与系统+随机过程 考核形式
随机过程(10~11次课) 平稳随机过程谱分析(3~4次课) 随机过程通过线性系统(3~4次课) 随机过程通过非线性系统(2~3次课) 学习方法：信号与系统+随机过程 考核形式 作业 20% 考试 80%

3 预备知识 概 率 论

4 主 要 内 容 经典概率问题 概率空间、全概率公式和贝叶斯公式 一维随机变量 概率分布函数、概率密度函数和一维随机变量函数分布
概率分布函数、概率密度函数和二维随机变量函数分布 二维随机变量 随机变量数字特征 数学期望、方差和各阶矩 极限定理 切比雪夫不等式、弱大数定律、中心极限定理等 特征函数 随机过程

5 主要内容： 随机变量的数字特征 随机变量函数的分布 随机变量的特征函数

6 第一节 随机变量数字特征

7 数 学 期 望 离散随机变量 连续随机变量 随机变量Y=g(X) 离散随机变量 连续随机变量

8 数 学 期 望(续1) 注： Y=aX1+bX2 Y=X1X2 X1和X2相互独立时

9 数 学 期 望(续2) 例1 随机变量X服从下表分布，求E[X]和E[X2] -4 -2 2 4 0.1 0.2 0.4 E[X]=0.8 Y=X2的概率分布为 4 16 0.1 0.6 0.3 E[Y]=7.2

10 各阶矩(中心矩、原点矩) 中心矩 原点矩 k=2 方差

11 第二节 随机变量函数分布

12 一维随机变量函数分布 情况1： 情况2： 随机变量Y是随机变量X的单调函数，并存在反函数X=h(Y)，则
随机变量Y是随机变量X的多值函数，假设一个Y值对应两个X值， 且X1=h1(Y)和X2=h2(Y)，则

13 一维随机变量函数分布(例) 例2 设随机变量X服从正态分布N(0,1)，求随机变量 Y=X2的概率密度。 解： Y=X2 =

14 一维随机变量函数分布(例续) 分布

15 二维随机变量函数分布 已知二维随机变量( X1 ,X2 )的概率分布, g(x1,x2) 为已知的二元函数，Z = g(X1 ,X2 )
其中

16 二维随机变量函数分布(续) 新问题： 已知随机变量X1和X2的联合概率密度为
求随机变量Y1=g1(X1,X2)和Y2=g2(X1,X2)的联合概率密度? 单值变换函数 X1=h1(Y1,Y2)和X2=h2(Y1,Y2)

17 二维随机变量函数分布(例) 例3 已知 ( X1 ,X2 )的联合密度函数为 Y = X1 + X2 ,求 f Y (y) 解： 令

18 z y 2 y = z + 1 y = 2z y = z 1 1

19 y = 2z 2 z y y= z + 1

20 二维随机变量函数分布(例) 例4 已知 X1 和X2是两个独立的正态分布随机变量 求随机变量Z和Φ的联合概率密度。 其中 解：

21 二维随机变量函数分布(例) 瑞利分布 均匀分布 平面直角坐标上的两个彼此独立分布的正态随机变量，
经极坐标变换后，其模服从瑞利分布，相位服从均匀分布 且模和相位两个随机变量是相互独立的

22 二维随机变量函数分布(例) 例5 已知 X1 和X2是两个独立的正态分布随机变量 求随机变量Y1和Y2的联合概率密度。 其中

23 二维随机变量函数分布(例续)

24 二维随机变量函数分布(例续)

25 二维随机变量函数分布(例续) 推广至n维高斯随机向量

26 第三节 随机变量特征函数

27 特征函数的定义 定义： ejuX的数学期望定义为随机变量X的特征函数CX(u) X为离散随机变量时，其特征函数为

28 特征函数的定义(例) 例6 设随机变量 X服从正态分布N(0,1)，求它的特征函数。

29 特征函数性质 (1) 随机变量X的特征函数CX(u)满足 (2) 随机变量X的特征函数为CX(u)， 则 Y=aX+b的特征函数为
(3) 独立随机变量X1和X2的特征函数分别为CX1(u) 和CX2(u)， 则 Z=X1+X2的特征函数为 给出一种求独立随机变量和的分布新方法。

30 特征函数与概率密度之间的关系 一维随机变量X的函数Y=g(X)的概率密度

31 特征函数与概率密度之间的关系(例) 例7 设随机变量 X在 之间均匀分布 求Y=sin X的概率密度函数

32 特征函数与概率密度之间的关系(例)

33 特征函数与各阶矩之间的关系

34 特征函数与各阶矩之间的关系(续)

35 特征函数作用 可以简化各阶矩的运算 单 值 函 数 可以简化一维随机变量函数的运算 可以简化独立随机变量和的分布的计算

36 第 1 章 随机过程

37 本章主要内容： 随机过程的基本概念 随机过程的数字特征 随机过程的微分和积分计算 随机过程的平稳性和遍历性 随机过程的相关函数及其性质 复随机过程 正态过程 马尔可夫链 泊松过程

38 1.1 随机过程的基本概念及统计特性 基本要求： 深入理解随机过程的定义 了解随机过程的几种分类 理解随机过程的概率分布
掌握随机过程的数字特征计算方法 了解随机过程的特征函数

39 一、 定义 对接收机的噪声电压作观察

40 1 样本函数： ， ， ，…， ，都是时间的函数，称为样本函数。
2 随机性：一次试验，随机过程必取一个样本函数，但所取的样本函数带有随机性。因此，随机过程不仅是时间t 的函数，还是可能结果的函数，记为 ，简写成 。

41 3. 随机过程的定义： 定义1：设随机试验E的样本空间 ，若对于每个元素 ，总有一个确知的时间函数 与它对应， 。 对于所有的 ，就可以得到一簇时间t的函数，称它为随机过程。簇中的每一个函数称为样本函数。 定义2：若对于每个特定的时间 ， 都是随机变量，则称 为随机过程， 称为随机过程 在 时刻的状态。

42 4.定义的理解 ： 上面两种随机过程的定义，从两个角度描述了随机过程。 作观测时，常用定义1，通过观测的试验样本可得到随机过程的统计特性； 理论分析时，常用定义2，可把随机过程看成为n 维随机变量，n越大，采样时间越小，所得到的统计特性越准确。

43 理解： 1 和 都是变量 一个时间函数族 2 是变量而 固定 一个确知的时间函数 3 固定而 是变量 一个随机变量 一个确定值 4 和 都固定

44 随机变量 与时间无关 随机过程 与时间相关的一族随机变量

45 例1 设具有随机初始相位的正弦波 其中A与w0是正常数， 在 之间服从均匀分布。 判断X(t)是否为一随机过程。 解： (1) 固定时间t，X(t)是随机变量， 是一族随机变量 (2) 对随机变量Φ做一次试验得到一个结果φ， 是随时间变化的函数，即样本函数。 X(t)是一随机过程。

46 二、 随机过程分类 1. 按随机过程的时间和状态来分类 (1) 连续型随机过程：时间t取值连续，且对随机过程任一时刻 的取值 都是连续型随机变量。 (2) 离散型随机过程：时间t取值连续，且对随机过程任一时刻 的取值 都是离散型随机变量。

47 (3) 连续随机序列：随机过程的时间t只能取某些时刻，如 ， 2 ，…
(3) 连续随机序列：随机过程的时间t只能取某些时刻，如 ， 2 ，…..，n ，且这时得到的随机变量 是连续型随机变量，即时间是离散的。相当于对连续型随机过程的采样。 (4) 离散随机序列：随机过程的时间t只能取某些时刻，如 ， 2 ，…..，n ，且这时得到的随机变量 是离散型随机变量，即时间和状态是离散的。相当于采样后再量化 。

48 2. 按样本函数的形式来分类 不确定的随机过程：随机过程的任意样本函数的值不能被预测。例如接收机噪声电压波形。 确定的随机过程：随机过程的任意样本函数的值能被预测。例如，样本函数为正弦信号。

49 例2 设随机过程定义为： 其中A与-A等概出现，T为一正常数， (1) 画出典型的样本函数图形。 (2) 将此过程归类。 (3) 该过程是确定性过程吗？ 离散型随机过程 不是确定性随机过程

50 例3 离散型随机过程的样本函数皆为常数， 即X(t)=C=可变常数，其中C为随机变量，其可能值 为C1=1，C2=2和C3=3，它们分别已概率0.6、0.3及0.1 出现。X(t)是确定性过程吗？ X(t)是确定性随机过程

51  3. 按概率结构和特性分类 按分布函数或概率密度函数：正态随机过程、泊松随机过程等 按平稳性：平稳随机过程、非平稳随机过程 按遍历性：遍历随机过程、非遍历随机过程 按功率谱密度特性：宽带随机过程、窄带随机过程等

52 三、 随机过程的概率分布 1. 一维概率分布 随机过程X(t)在任意ti T的取值X(t1)是一维随机变量。记为Fx(x1；t1)=P{X(t1)≤x1}为随机过程 X(t)的一维分布函数。 若 的偏导数存在，则有

53 若FX(x1,x2;t1,t2)对x1，x2的二阶混合偏导存在，则
2. 二维概率分布 FX(x1,x2;t1,t2)=P{ X(t1)≤x1,X(t2)≤x2} 为了描述S.P在任意两个时刻t1和t2的状态间的内在联系,可以引入二维随机变量[X(t1),X(t2)]的分布函数FX(x1,x2;t1,t2)，它是二随机事件{X(t1)≤x1}和{X(t2)≤x2}同时出现的概率，即 称为随机过程X(t)的二维分布函数。 若FX(x1,x2;t1,t2)对x1，x2的二阶混合偏导存在，则 为随机过程X(t)的二维概率密度

54 3. n维概率分布 随机过程 在任意n个时刻 的取值 构成n维随机变量 即为n维空间的随机矢量X。类似的，可以定义随机过程 的n维分布函数和n维概率密度函数为

55 四、随机过程的数字特征 随机变量的数字特征通常是确定值；随机过程的数字特征通常是确定性函数。 对随机过程的数字特征的计算方法，是先把时间t固定，然后用随机变量的分析方法来计算。

56 显然， 是某一个平均函数，随机过程的诸样本在它的附近起伏变化，如图所示：
1. 数学期望 显然， 是某一个平均函数，随机过程的诸样本在它的附近起伏变化，如图所示： 物理意义：如果随机过程表示接收机的输出电压，那么它的数学期望就是输出电压的瞬时统计平均值。

57 2. 均方值和方差 随机过程 在任一时刻t的取值是一个随机变量 。我们把 二阶原点矩称为随机过程的均方值，把二阶中心矩记作随机过程的方差。即： 且

58 物理意义：如果 表示噪声电压，则均方值 和方差 分别表示消耗在单位电阻上的瞬时功率统计平均值和瞬时交流功率统计平均值。
标准差或均方差：

59 3. 自相关函数 先比较具有相同数学期望和方差的两个随机过程。

60 自相关函数用来描述随机过程任意两个时刻的状态之间的内在联系，通常用 描述。

61 4. 自协方差函数 若用随机过程的两个不同时刻之间的二阶混合中心矩来定义相关函数，我们称之为自协方差。用 表示，它反映了任意两个时刻的起伏值之间相关程度。

62 比较自协方差和自相关函数的关系 比较自协方差和方差的关系 令 则 K ( t , t ) = E [( X ( t ) - m ( t
))( X ( t ) - m ( t ))] X 1 2 1 X 1 1 X 1 比较自协方差和方差的关系 令 则

63 例4：求随机相应正弦波 的数学期望，方差，自相关函数及一维概率密度。式中， 为常数，是区间[0， ]上均匀分布的随机变量。
例4：求随机相应正弦波 的数学期望，方差，自相关函数及一维概率密度。式中， 为常数，是区间[0， ]上均匀分布的随机变量。 解：由题可知： （1） ＝ 同理

64 （2）方差 ＝ ＝ ＝ 可知

65 （3）自相关函数 ＝ ＝ ＝

66 （4）一维概率密度 在 范围内， 每个x=sin(w0t+θ)对应两个θ值： 和 所以 由于

67 例5：设随机过程X(t)=A+Bt，其中A和B是相互独立的正态分布N(0,1)随机变量，求X(t)的数学期望、方差、自相关函数、协方差函数、一维和二维概率密度函数。
（1）数学期望 （2）方差

68 （3）自相关函数 （4）自协方差函数

69 （5）一维概率密度函数 因A和B都是正态分布随机变量， 所以，给定时间t，X(t)也是正态分布随机变量，且

70 （6）二维概率密度函数 X(t1) 和X(t2)是两个正态分布随机变量，且 给定时间t1和t2，

71 例6(课堂练习)：设随机过程X(t)=Acosw0t，其中w0为常数，A为在(0,1)之间均匀分布的随机变量，
(2) 试求t=0、π/(4w0)和3π/(4w0)时， X(t)的一维概率密度函数。 (3)求X(t)的均值、相关函数、协方差函数和方差函数

72 五、 随机过程的特征函数 1. 一维特征函数 随机过程 在任一特定时刻t的取值是一维随机变量，其特征函数为: 其反变换为： n阶矩

73 2. 二维特征函数 其反变换为：

74 3. n维特征函数

75 作业： P67，1.1, 1.2, 1.3, 1.4, 1.5, 1.6

76 1.1 小结 随机过程X(t,ξ)：随时间变化的一族随机变量 随机过程分类 随机过程统计特性描述 本章的重点内容之一
随机过程统计特性描述 本章的重点内容之一 一维、二维联合概率密度 数学期望 均方值 方差 自相关函数 自协方差函数

77 例6(课堂练习)：设随机过程X(t)=Acosw0t，其中w0为常数，A为在(0,1)之间均匀分布的随机变量，
(2) 试求t=0、π/(4w0)和3π/(4w0)时， X(t)的一维概率密度函数。 (3)求X(t)的均值、相关函数、协方差函数和方差函数 解： t=0 X1=X(t=0)=A t=π/(4w0) X2=X(t= π/(4w0))=Acos(π/4) t=3π/(4w0) X3=X(t= 3π/(4w0))=Acos(3π/4)

78

79 1.2 连续时间随机过程的微分和积分 基本要求：  理解随机过程连续的概念 理解随机过程微分的概念，掌握随机过程导数的数字特征求解
 理解随机过程积分的概念，掌握随机过程三种积分方式及对应数字特征求解

80 1.2 连续时间随机过程的微分和积分 一、 随机过程的连续性 1. 预备知识： 对于确定性函数 ， 若 则 在 处连续。

81 2. 随机过程 连续性定义 如果随机过程 满足 则称 依均方收敛意义下在t点连续，简称随机过程 在t点均方连续，记为：

82 3. 随机过程 的相关函数连续，则 连续 因此，如果对 时刻，函数 在 点上连续，则随机过程 必在点t上连续。

83 4. 随机过程 均方连续，则其数学期望连续 证： 设 由均方连续的定义， ，则不等式左端趋于0，那么不等式的右端也必趋于0（均值的平方不可能小于0）

84 注意 为确定性函数，由预备知识，可知连续。
即： 注意 为确定性函数，由预备知识，可知连续。 可将此结果写成 求极限和求数学期望的次序可以交换

85 二、 随机过程的导数 预备知识： 对于一般确定性函数，高等数学给出的可导定义如下： 一阶可导： 如果 存在，则 在t处可导，记为 。

86 二阶可导： 若 存在，则 二阶可导，记为

87 1. 随机过程可导的定义 随机过程X(t)的导数可定义为极限 如果该极限对过程X(t)的任意一个样本函数都存在，则 具有导数的通常意义。
 通常意义下的导数 随机过程X(t)的导数可定义为极限 如果该极限对过程X(t)的任意一个样本函数都存在，则 具有导数的通常意义。 如果极限在均方意义下存在，则X(t)具有均方意义下的导数。

88  均方意义下的导数 如果随机过程 满足 则称 在t时刻具有均方导数 ，表示为

89 2. 判别方法 判断一个随机过程是否均方可微的方法是采用柯西准则,即 而

90 若存在混合偏导 ，则t1=t2时有 = 可见，随机过程X(t)在t处均方可微的充分条件为：相关函数在它的自变量相等时，存在二阶混合偏导数且连续，即存在

91 3. 数字特征 （1）随机过程导数的数学期望等于其数学期望的导数 证明：

92 （2）随机过程导数的相关函数等于可微随机过程的相关函数的混合偏导数
证明：

93

94 例1. 随机过程X(t)的数学期望为 相关函数为 求随机过程 的均值与相关函数

95 例2. 随机过程X(t)的数学期望为 求随机过程 的均值。

96 例3. 随机过程 ，其中V是均值为4，方差为1 的随机变量，求随机过程 的均值、相关函数、 协方差函数和方差。

97 随机过程连续与可导小结 随机过程的连续性 确定函数的连续性 若随机过程X(t)中的任意一条样本函 数曲线 满足：
则称该随机过程在通常意义下连续。 t 若 时 的均方值趋于零，即 t0 则称随机过程X(t)在t点均方连续，记为：

98 随机过程均方连续的判定： 如果对 时刻，函数 在 点上连续，则随机过程 必在点t上连续。

99 随机过程的微分 确定函数的微分 若随机过程X(t)中的任意一条样本函 数曲线 满足： 则称该随机过程在通常意义下导数。 若 t 的均方值趋于零，即 则称随机过程X(t)在t0点均方可导，记为： t0

100 随机过程均方可导的判定： 随机过程X(t)在t处均方可微的充分条件为：相关函数在它的自变量相等时，存在二阶混合偏导数且连续，即存在

101 随机过程导数的数字特征 数学期望 相关函数

102 三、 随机过程的积分 1. 预备知识 对于确定性函数 ， 其中 ，

103 定区间积分： 随机过程 在确定区间 上的积分Y是一个随机变量，即
2. 随机过程的三种积分 定区间积分： 随机过程 在确定区间 上的积分Y是一个随机变量，即 的均方值趋于零， 若 时， t 即 则称 为随机过程 在 上的均方积分。 a

104 t 变上限随机过程积分： a 加权随机过程积分： λ a

105 （1）定区间随机过程积分的数学期望等于随机过程数学期望的积分。
3.定区间随机过程积分的数字特征 （1）定区间随机过程积分的数学期望等于随机过程数学期望的积分。 证明： 求积分和求期望可以互换顺序。

106 (2) 定区间随机过程积分的均方值等于随机过程自相关函数的二重积分；其方差为随机过程协方差的二重积分。

107

108 4.加权随机过程积分的数字特征 (1)数学期望

109 (2)相关函数

110 (3)协方差函数

111 5. 变上限随机过程积分的数字特征 (1) 数学期望

112 (2) 相关函数：等于对随机过程的相关函数作两次变上限积分（先对t1,后对t2积分）

113 (3) 协方差函数：等于对随机过程的协方差函数作两次变上限积分（先对t1,后对t2积分）

114 例4. 随机过程X(t)= ，其中V是均值为5，方差为1 的均值、相关 的随机变量，求随机过程 解： 函数、协方差函数和方差。

115 (2)求Y(t)的均值、相关函数和协方差函数

116

117 例5. 随机过程X(t)= ，其中V是均值为1，方差为1 的随机变量，求随机过程 的均值、 解： 相关函数、协方差函数和方差。

118 (2)求Y(t)的均值、相关函数和协方差函数

119

120 1.2节作业： P68，1.7, 1.8

121 1.3 平稳随机过程及其遍历性 基本要求：  理解随机过程严平稳性的概念，会判断, 掌握严平稳随机过程一维、二维概率密度的特性。
1.3 平稳随机过程及其遍历性 基本要求：  理解随机过程严平稳性的概念，会判断, 掌握严平稳随机过程一维、二维概率密度的特性。  理解随机过程宽平稳性的概念，会判断，掌握宽平稳随机过程相关函数的性质。  理解随机过程遍历性的概念，会判断。  了解随机过程相关函数的测量方法。

122 1.3 平稳随机过程及其遍历性 一、 平稳随机过程 1. 严平稳随机过程 (1) 定义
1.3 平稳随机过程及其遍历性 t 一、 平稳随机过程 1. 严平稳随机过程 (1) 定义 如果对于任意的n和 ，随机过程 X(t)的 n 维概率密度满足： 则称X(t) 为严平稳（或狭义）随机过程 。 严平稳随机过程的统计特性与时间起点无关 。

123 (2) 一、二维概率密度及数学特征 严平稳随机过程的一维概率密度与时间无关 t

124 严平稳随机过程的二维概率密度只与 t1, t2的时间间隔有关，而与时间起点无关

125 (3)严平稳的判断 按照严平稳的定义，判断一个随机过程是否为严平稳，需要知道其n维概率密度，可是求n维概率密度是比较困难的。不过，如果有一个反例，就可以判断某随机过程不是严平稳的，具体方法有两个： (1) 若X(t)为严平稳，k为任意正整数，则 与时间t无关。 (2) 若X(t)为严平稳，则对于任一时刻t0， X(t0)具有相同的统计特性。

126 则称X(t)为宽平稳或广义平稳随机过程。
二、 宽平稳随机过程 若随机过程 X(t)满足 则称X(t)为宽平稳或广义平稳随机过程。 严平稳与宽平稳的关系：严平稳过程的均方值有界，则此过程为宽平稳的，反之不成立。对于正态过程，严平稳与宽平稳等价。

127 例1. 设随机过程Z(t)=Xsint+Ycost，其中X和Y是相互独立的 二元随机变量，它们都分别以2/3和1/3的概率取-1和2，试求：
解： 因此，Z(t)是宽平稳的。

128 因此，Z(t)不是严平稳的。

129 例2. 设随机过程X(t)=t2+Asint+Bcost，其中A和B都是一元随机变
量，且E[A]=E[B]=0，D[A]=D[B]=10，E[AB]=0，试分别讨论 X(t)和Y(t)=X(t)-mX(t)的平稳性。 解： X(t)不是平稳过程。 Y(t)是平稳过程。

130 三、平稳随机过程相关函数的性质 性质1 性质2 性质3 平均功率 偶对称性 极值性 证： 任何正函数的数字期望恒为非负值，即
对于平稳过程X(t)，有 代入前式，可得 于是 同理

131 若平稳过程含有平均分量(均值) ，则相关函数也含有平均分量，且等于 , 即
性质4 若平稳过程含有平均分量(均值) ，则相关函数也含有平均分量，且等于 , 即 若X(t)是非周期的， 则 。 证： 由协方差函数的定义，可得 由此 若X(t)是非周期，则有 且在t=0时,可得

132 性质5 平稳随机过程必须满足对所有 均成立。 自相关函数的付氏变换非负，这要求相关函数连续 (不能出现平顶、垂直边及在幅度上的任何不连续）。
平稳随机过程必须满足对所有 均成立。 自相关函数的付氏变换非负，这要求相关函数连续 (不能出现平顶、垂直边及在幅度上的任何不连续）。 注： 相关函数（协方差）的典型曲线

133 例3：已知平稳随机过程 X(t)的自相关函数为
RX(τ)=100e-10| τ |+100cos10 τ +100 求X(t)的均值、均方值和方差。 解： RX(τ)=（100cos10 τ ）+（100e-10| τ |+100） = RX1(τ)+ RX2(τ) 式中，RX1(τ)=100cos10 τ是X(t)中周期分量的自相关函数，此分量的均值mx1=0; RX2(τ)=100e-10| τ |+100是X(t)的非周期分量的自相关， 由性质4，可得 所以有

134 严平稳随机过程的统计特性与时间起点无关 。
一维概率密度 与时间无关 二维概率密度仅 与时间间隔有关 均值、均方值、 方差及 与时间无关 相关函数仅与时间间隔有关 宽平稳随机过程 均值与时间无关，相关函数仅与时间间隔有关

135 四、平稳过程的相关系数和相关时间 相关系数 此值在[－1，1]之间。 表示不相关 表示完全相关
表示正相关，即两个不同时刻起伏值符号相同可能性大。

136 (2)用钜形（高为 ,底为 的矩形）面积等于阴影面积( 积分的一半）来定义相关时间，即
当相关系数中的时间间隔大于某个值，可以认为两个不同时刻起伏值不相关了，这个时间就称为相关时间。 (1) 相关系数从最大值1下降至0.05时所经历的时间间隔 ，记做相关时间, 即: (2)用钜形（高为 ,底为 的矩形）面积等于阴影面积( 积分的一半）来定义相关时间，即 物理意义 相关时间 越小，就意味着相关系数 随 增加而降落的越快，这表明随机过程随时间变化越剧烈。反之， 越大，则表时随机过程随时间变化越慢。

137 例4：已知平稳随机过程 X1(t)的自相关函数为
求它们的相关系数和相关时间 平稳随机过程 X2(t)的自相关函数为 解： 由 知 由 知

138 五、 遍历性或各态历经性 1 遍历性过程的定义 严遍历性的定义
如果一个随机过程 X(t),它的各种时间平均（时间足够长）依概率1收敛于相应的集合平均,则称X(t)具有严格遍历性,并称它为严遍历过程。

139 宽遍历性的定义 设X(t)是一个平稳随机过程，且满足： 均值遍历 依概率1成立 时间均值 时间相关函数 相关函数 遍历

140 均方值和方差的遍历性 均方值遍历 方差遍历

141 2 遍历过程的实际应用 一般随机过程的时间平均是随机变量，但遍历过程的时间平均为确定量，因此可用任一样本函数的时间平均代替整个过程的统计平均，在实际工作中，时间T不可能无限长，只要足够长即可。 3 遍历过程和平稳过程的关系 遍历过程必须是平稳的，而平稳过程不一定是遍历的。（遍历必定平稳由遍历定义即可知）

142 例5：已知随机过程 ,其中a和w0是常数， 是在(0,2π)之间均匀分布的随机变量。 请判断X(t)的平稳性和遍历性。 解： (1)

143 (2) X(t)是宽遍历随机过程。

144 例6：讨论随机过程 的遍历性，其中Y是方差不 为零的随机变量。 解： X(t)不是遍历性过程。

145 4 遍历过程的两个判别定理 均值遍历判别定理 自相关函数遍历判别定理 平稳过程X(t)的均值具有遍历性的充要条件
式中：

146 对于正态平稳随机过程，若均值为零，自相关函数 连续，则此过程具有遍历性的一个充分条件为
5. 对于正态平稳随机过程，若均值为零，自相关函数 连续，则此过程具有遍历性的一个充分条件为 注意：判断一个平稳过程是否遍历的，我们总是先假设其是遍历的，然后看是否满足定义要求（即时间平均以概率1等于统计平均），一般不用两个判别定理。

147 六、相关函数的测量 对于遍历性过程，可用样本函数的时间相关函数 来代替随机过程的相关函数。

148 方法1：按照实验数据确定

149 方法2：利用积分器，即连续型相关函数测量仪
利用电路实现下式 相乘器 可变延迟τ 积分器

150 1.3节作业 P68 1.9, 1.10, 1.11, 1.12, 1.14, 1.15, 1.16

151 1.4 联合平稳随机过程 基本要求：  两个随机过程的互相关函数和互协方差函数 的定义。  两个随机过程联合平稳的定义及判断。
 两个随机过程的互相关函数和互协方差函数 的定义。  两个随机过程联合平稳的定义及判断。  两个随机过程联合遍历的定义及判断。  复随机过程的定义及数字特征的计算。

152 1.4 联合平稳随机过程 一 两个随机过程的联合概率分布 设有两个随机过程 和 ,它们的概率密度 分别为
一 两个随机过程的联合概率分布 设有两个随机过程 和 ,它们的概率密度 分别为 定义这两个过程的(n+m)维联合分布函数为：

153 定义这两个过程的(n+m)维联合概率密度为：
注 1) 若 则两个随机过程是相互独立的

154 2）若两个过程的n+m维联合概率分布给定，则它们的全部统计特性也确定了。
3）可以由高维联合分布求出它们的低维联合概率分布。 4）若两个随机过程的联合概率分布不随时间平移而变化，即与时间的起点无关，则称此二过程为联合严平稳或严平稳相依。

155 二 两个随机过程的数字特征 1. 互相关函数 设两个随机过程 和 ，它们在任意两个时刻t1，t2的取值为随机变量 、 ,则定义它们的互相关函数为： 式中， 是随机过程 和 的二维联合概率密度。

156 2. 互协方差函数 随机过程 和 的互协方差函数定义为： 式中， 和 分别是随机变量 和 的数学期望。 此式也可以写成

157 3 统计独立、不相关、正交的概念 1）统计独立 若 或 则称随机过程 和 相互独立。 ) , ; ( t y x f L ' 1 n m
3 统计独立、不相关、正交的概念 1）统计独立 若 或 ) , ; ( ' 1 n m XY t y x f L 则称随机过程 和 相互独立。

158 2) 不相关 若两个随机过程 和 对任意两个时刻 t1, t2都具有 或 ， 则称 和 不相关。 3）正交 若两个随机过程 和 对任意两个时刻 t1, t2都具有 或 ， 则称 和 互为正交过程。

159 注： (1) 如果两个随机过程相互独立，且他们的二阶 矩都存在，则必互不相关。 (2) 正态过程的不相关与相互独立等价。

160 三、 联合宽平稳 1. 定义 两个随机过程 和 ，如果： 和 分别宽平稳 互相关函数仅为时间差 的函数，与时间t 无关 即
1. 定义 两个随机过程 和 ，如果： 和 分别宽平稳 互相关函数仅为时间差 的函数，与时间t 无关 即 则称 和 为联合宽平稳或宽平稳相依。

161 2. 互协方差与互相关系数 当两个随机过程联合平稳时，它们的互协方差 互相关系数 又称作归一化互样关函数或标准互协方差函数。 注： 。当 时，随机变量 和 互不相关。

162 3. 联合宽平稳随机过程互相关函数的性质 (1) 证明：按定义即可证明，说明互相关函数既不是偶函数， 也不是奇函数。 互相关函数的影像关系

163 (2) 证明： 由于 ， 为任意实数 展开得： 这是关于 的二阶方程。注意, 要使上式恒成立，即方程无解或只有同根， 则方程的系数应该满足 ,则有 所以， 同理，

164 (3) 证明： 由性质(2)，得 注意到 因此， （任何正数的几何平均小于算术平均）

165 四、 联合宽遍历 两个随机过程 和 ，如果： 和 联合宽平稳 定义它们的时间互相关函数为： 若 依概率1收敛于互相关函数 则称 和 具有联合宽遍历性。 即

166 设两个平稳随机过程 试问：X(t)和Y(t)是否平稳相依？是否正交、不相关、统计独立？ 例1 解： 平稳随机过程 X(t)和Y(t)的互相关函数为： 故这两个随机过程是平稳相依的。 故KXY(τ)仅在 时等于零，所以X(t1)和Y(t2)是相关的，因而它们不是统计独立的。

167 必须首先判断随机过程 X(t)和Y(t)的平稳性以及它们的联合平稳性。
设两个随机过程 其中a、b、w为常数， 例2 在(0, 2π)之间均匀分布， 讨论X(t)和Y(t)是否联合遍历？ 解： 必须首先判断随机过程 X(t)和Y(t)的平稳性以及它们的联合平稳性。 因此X(t)是平稳的。 因此Y(t)是平稳的。 因此X(t)和Y(t)是联合平稳的。

168 因此X(t)和Y(t)是联合遍历的。

169 四、复随机过程 1.复随机变量 (1) 定义 我们把复随机变量Z定义为Z=X+jY，式中,X和Y 为实随机变量。 (2) 分布函数

170 (3) 数字特征  数学期望 方差 注：ⅰ)复随机过程的方差等于它的实部与虚部的方差之和 ⅱ)复随机过程的方差为非负的实数。

171 相关矩 设Z1、Z2为两个复随机变量，则 互协方差

172 (4) 两个复随机变量的独立、不相关、正交 1）统计独立 2）不相关 3）正交

173 2.复随机过程 (1) 定义 设 ， 为实随机过程，则定义 Z(t)=X(t)+jY(t) 为复随机过程。 (2) 概率密度函数
设 ， 为实随机过程，则定义 Z(t)=X(t)+jY(t) 为复随机过程。 (2) 概率密度函数 Z(t)的统计特性可由X(t)和Y(t)的2n维联合概率分布完整地描述，其概率密度为：

174 (3) 数字特征 数学期望  方差  自相关函数

175 自协方差函数 (4) 平稳性 若复随机过程Z(t)满足： 则复随机过程为宽平稳过程。

176 (5) 两个复随机过程的联合平稳性 互相关函数 注：ⅰ）若 ，则Z1(t)，Z2(t)不相关。 ⅱ）若 ，则Z1(t)，Z2(t)正交。
(5) 两个复随机过程的联合平稳性   互相关函数 互协方差函数 注：ⅰ）若 ，则Z1(t)，Z2(t)不相关。 ⅱ）若 ，则Z1(t)，Z2(t)正交。

177 若两个平稳的复过程X(t)和Y(t)满足

178 解： Z(t)是宽平稳的 例3. 设U和V是不相关的随机变量，并且均值都为0，
方差都为1，问复随机过程Z(t)=Ucost+jVsint的平稳性。 解： Z(t)是宽平稳的

179 解： Z(t)是宽平稳的 例4. 设复随机过程 其中An(n=1,2,…,N)是相互 独立的正态随机变量，其均值为0，方差为 。
函数。 其中An(n=1,2,…,N)是相互 独立的正态随机变量，其均值为0，方差为 。 解： Z(t)是宽平稳的

180 1.5 正态随机过程 一、 正态随机过程的一般概念 如果随机过程X(t)的任意n维概率分布都是正态分布，则称它为正态随机过程或高斯随机过程，简称正态过程或高斯过程。

181 概率密度函数 式中,mX是n维向量，K是n维阵：

182 正态随机过程的概率密度函数由它的一、二阶矩（均值、方差和相关系数完全决定）。
推论: 若复正态随机过程Z(t)的n个采样时刻得到n个复随机变量，即 其中, Xi、Yi皆为实随机变量。此n个复随机变量的联合概率密度应是2n维随机变量的联合概率密度。

183 二 、平稳正态随机过程 1. 平稳正态随机过程的定义 若正态随机过程满足下列条件，则它是宽平稳（平稳）正态随机过程。

184 2. 平稳正态过程的n维概率密度 平稳正态过程一、二维概率密度表达式

185 三、 正态随机过程的性质 性质1： 正态随机过程的n维概率密度完全由它的均值集合，协方差函数集合所确定。 性质2：
正态过程的严平稳与宽平稳等价。 证明： 1）严平稳 宽平稳 由于正态过程的均方值总是有界的， 因此严平稳正态过程一定是宽平稳的。 2）宽平稳 严平稳

186 设 表示X(t)在 时刻的采样值，其 均值用mx表示，协方差矩阵用K 表示。 表示X(t)在 时刻的采样值，其 均值用 表示，协方差矩阵用 表示。 证明严平稳，即证明 由于正态随机过程的概率密度函数完全由均值和协方差函数决定。 因此只要证明

187 由于X(t)是宽平稳，因此它的数学期望为一常数，即有
对任意的i和k, 由宽平稳性 由宽平稳性 因此是严平稳的随机过程。

188 正态过程的不相关与相互独立等价。 性质3： 证明： 若X(t)在n个不同时刻采样得到一组随机变量X1, X2,…,Xn
（1）如果Xn（n＝1,2,…）两两之间相互独立，则 当 时。所以，两两互不相关。 （2）如果Xn（n＝1,2,…）两两之间互不相关，则

189 所以 则 因此 即两两相互独立。

190 性质4：平稳正态过程与确定信号之和仍为正态分布。
性质5： 若正态过程X(t) 在T上均方可微，则其导数X(t)也是正态过程。 性质6： 若正态过程 X(t) 在T上均方可积，则积分过程 也是正态过程。

191 性质7： 正态随机过程通过线性系统后的输出仍为正态过程。 推论： 正态过程的线性变换仍为正态过程。

192 例1. 设X(t)是一个均值为零的正态随机过程，其协方差为
求该随机过程在t1=0,t2=1,t3=2时刻采样值的三维概率密度

193 例2. 设X(t)是一个均值为零的平稳正态随机过程，自相 关函数为
求随机变量 的概率密度。 解： 由题知Y是服从正态分布的随机变量。

194

195 例3. 设平稳正态随机过程X(t)的自相关函数为
求随机变量 的协方差矩阵。 时

196 时

197 1.6 马尔可夫链 基本要求：  理解马尔可夫链的定义 掌握马尔可夫链转移概率的定义，会求一步转移概率及任意 n步转移概率。
掌握马尔可夫链初始分布和绝对分布的概念，会求绝对分布。 会判断马尔可夫链的遍历性，会求极限分布。 能由转移概率矩阵画出状态转移图，对状态进行分类。

198 回 顾 1. 随机过程分类 按照时间和状态空间的连续性，随机过程分成以下四类：  连续型随机过程 时间连续、随机变量连续
回 顾 1. 随机过程分类 按照时间和状态空间的连续性，随机过程分成以下四类：  连续型随机过程 时间连续、随机变量连续  离散型随机过程 时间连续、随机变量离散  连续型随机序列 时间离散、随机变量连续 时间离散型 随机过程  离散型随机序列 时间离散、随机变量离散 马尔可夫链属于离散型随机序列。 问题：时间离散型随机过程的联合概率和数字特征如何描述？

199 2. 全概率公式 其中 且对任意的

200 一、马尔可夫过程 1.马尔可夫性或无后效性 2.定义 设随机过程 的状态空间为E，如果对于时间t的任意n个取值 ，有： 则称
当随机过程在时刻 ti 所处的状态已知的条件下，过程在时刻 所处的状态与过程在时刻 以前的状态无关，而仅与过程在 所处的状态有关。这种特性称为随机过程的“无后效性”或马尔可夫性。 2.定义 ，有： 设随机过程 的状态空间为E，如果对于时间t的任意n个取值 则称 为马尔可夫过程。 已经知道随机过程现在的条件下，其将来的条件分布与过去无关

201 3. 分类 T和E都取连续集时，称为马尔可夫过程。 若T取连续集而E取离散集时，称为可列马尔可夫过程。

202 二、马尔可夫链定义 为一随机序列，其状态空间 若对于任意的 ，满足 则称 为马尔可夫链（简称马氏链）。

203 三、马尔可夫链的转移概率及性质 主要内容：  转移概率 一步转移概率矩阵和n步转移概率矩阵及两者之 间的关系 初始分布和绝对分布，绝对分布与转移概率之间 的关系 由转移概率矩阵画状态转移图

204 1. 转移概率 定义 为在tm时刻出现Xm=ai 注：若 的取值与m无关， 则称该马氏链为齐次马氏链。
的条件下，tm+k时刻出现Xm+k=aj的转移概率。 注：若 的取值与m无关， 则称该马氏链为齐次马氏链。

205 2.一步转移概率 时，称 为一步转移概率。 构成的矩阵 由所有一步转移概率 称为一步转移概率矩阵。 注： 一步转移概率
在齐次条件下，令式（1.6.9）中 时，称 为一步转移概率。 构成的矩阵 由所有一步转移概率 Xm 的 状 态 Xm+1的状态 称为一步转移概率矩阵。 在时刻m，马氏链从任何一个状态出发，到 m+1时刻，必然转移到E中的状态之一。 注： （1） （2）

206 例1. 在某数字通信系统中多级传输0、1两种数字信号。由于系统中存在干扰，在任一级输入0、1数字信号后，其输出不产生错误的概率为p，产生错误的概率为q=1-p ，求一级传输时的概率转移矩阵。
解：系统每一级的输入状态和输出状态构成一个两状态的马氏链，其一步转移概率矩阵为 p q 1 典型的二进制对称信道(BSC)

207 例2. 已知明日是否降雨只与今日的天气有关，与以往的天气无关，并且今日有雨而明日有雨的概率为0. 6，今日无雨而明日有雨的概率为0
例2. 已知明日是否降雨只与今日的天气有关，与以往的天气无关，并且今日有雨而明日有雨的概率为0.6，今日无雨而明日有雨的概率为0.3，试写出其一步转移概率矩阵。 解：令有雨为状态 “1”，无雨为状态 “0，由题得

208 例3. 设一随机游动的质点Q在图示的直线点集E={1，2，3，4，5}上做随机游动，且仅在1秒、2秒…等时刻游动，游动规则是：
若Q出现在i点(1<i<5)，则在下一时刻各以1/3的概率向左或向右移动，以1/3的概率留在原处， 若Q出现在1(或5)处，则下一时刻以概率1移动到2(或5)上。 试写出其一步转移概率矩阵。 1 2 4 3 5 解：

209 3. n步转移概率 时，可得到 步转移概率 由所有n步转移概率 可构成 n步转移概率矩阵 （1） （2） 为了数学处理便利，通常规定

210 4．切普曼-柯尔莫哥洛夫方程（C-K方程）
对于 步转移概率，有如下的切普曼-柯尔莫哥洛夫方程的离散形式 含义：马氏链在m时刻处于i状态下，经k+l步转移至m+k+l 时到达状态j，可以先在m时刻从状态i出发，经l步到达某个 中间状态r，再在m+l时刻从状态r出发，经k步到达状态j。 中间状态要取遍整个状态空间E

211 m m+l m+l+k 证明： 由全概率公式 由无后效性

212 若用概率矩阵表示，有 当 时，有 同理可推出，当 时，有 即任意k步转移概率矩阵可由一步转移概率矩阵自乘k次来得到。

213 求今日有雨而后日(第二日)仍有雨的概率。 求今日无雨而第四日有雨的概率。
例4(例2续). 已知明日是否降雨只与今日的天气有关，与以往的天气无关，并且今日有雨而明日有雨的概率为0.6，今日无雨而明日有雨的概率为0.3，试 写出其一步转移概率矩阵。 求二至四步转移概率矩阵。 求今日有雨而后日(第二日)仍有雨的概率。 求今日无雨而第四日有雨的概率。 解: (1) 令有雨为状态 “1”，无雨为状态 “0，由题得

214 (2) (3) 有二步转移概率矩阵P(2)得今日有雨而后日(第二日)仍有雨的 概率为0.48 (4) 有四步转移概率矩阵P(4)得今日无雨而第四日有雨的 概率为0.4251

215 5．初始分布与绝对分布 (1) 初始分布定义 为一马氏链，其状态空间 ，且对任意的 或为有限子集。令 均有
（1） （2） 为一马氏链，其状态空间 或为有限子集。令 ，且对任意的 均有 则称 为该马氏链的初始分布，也称初始概率。

216 则称 为该马氏链的绝对分布，也称绝对概率。
(2) 绝对分布定义 为一马氏链，其状态空间 或为有限子集。令 ，且对任意的 （1） （2） 均有 则称 为该马氏链的绝对分布，也称绝对概率。

217 定理1.马氏链的绝对概率由初始分布和相应的转移概率唯一确定。
(3) 绝对分布计算 定理1.马氏链的绝对概率由初始分布和相应的转移概率唯一确定。 为状态集，则对任意 证：设 为一马氏链， 时马氏链处于状态j 的概率为 1

218 当 时，绝对概率由下式确定： 即:绝对概率 由初始概率 及n步转移概率 唯一确定。 利用C-K方程，则n步转移矩阵可由一步转移矩阵唯一确定。 推论：马氏链的绝对概率由初始分布及一步转移概率唯一确定。

219 5．马氏链有限维分布的计算 由马氏链的转移概率和初始分布，不仅可以完全确定其绝对分布，也可以完全确定其有限维分布。即

220 例5. 设{Xn, }是具有三个状态0、1、2的齐次马氏链，其一步转移概率矩阵为
初始分布 ，试求： 和

221 解：

222

223 X2 1 2 3/8 11/24 1/6 1 4 3/8 11/24 1/6

224 求二级传输后的传真率和三级传输后的误码率。
例6(例1续). 在某数字通信系统中多级传输0、1两种数字信号。由于系统中存在干扰，在任一级输入0、1数字信号后，其输出不产生错误的概率为p=0.9，产生错误的概率为q=1-p=0.1 ，求 一级传输时的概率转移矩阵。 求二级传输后的传真率和三级传输后的误码率。 设初始分布p(x0=0)=a,p(x0=1)=1-a，且二级传输后的输出为1，求原发数字也为1的概率 解：(1)系统每一级的输入状态和输出状态构成一个两状态的马氏链，其一步转移概率矩阵为

225 二级传输后的传真率为0.82 三级传输后的误码率为0.244

226 7. 转移图（状态转移图与概率转移图） 步骤： (1) 确定马氏链的状态数。 (2) 根据概率转移矩阵，确定状态之间的连接关系。

227 马 尔 可 夫 链 回 顾 马尔可夫链定义 转移概率、一步转移概率和n步转移概率 初始分布和绝对分布 有限维分布 状态转移图

228 马尔可夫链定义 为一随机序列，其状态空间 若对于任意的 ，满足 则称 为马尔可夫链（简称马氏链）。

229 转移概率 定义 为在tm时刻出现Xm=ai 注：若 的取值与m无关， 则称该马氏链为齐次马氏链。
的条件下，tm+k时刻出现Xm+k=aj的转移概率。 注：若 的取值与m无关， 则称该马氏链为齐次马氏链。

230 一步转移概率 时，称 为一步转移概率。 构成的矩阵 由所有一步转移概率 称为一步转移概率矩阵。 注： 一步转移概率
在齐次条件下，令式（1.6.9）中 时，称 为一步转移概率。 称为一步转移概率矩阵。 构成的矩阵 由所有一步转移概率 Xm 的 状 态 Xm+1的状态 （1） （2） 注： 在时刻m，马氏链从任何一个状态出发，到 m+1时刻，必然转移到E中的状态之一。

231 n步转移概率 时，可得到 可构成 n步转移概率矩阵 由所有n步转移概率 （1） （2） 为了数学处理便利，通常规定 步转移概率

232 n步转移概率矩阵与一步转移概率矩阵之间的关系
含义：马氏链在m时刻处于i状态下，经k+l步转移至m+k+l 时到达状态j，可以先在m时刻从状态i出发，经l步到达某个 中间状态r，再在m+l时刻从状态r出发，经k步到达状态j。 中间状态要取遍整个状态空间E。 即任意k步转移概率矩阵可由一步转移概率矩阵自乘k次来得到。

233 初始分布与绝对分布 初始分布定义 为一马氏链，其状态空间 ，且对任意的 或为有限子集。令 均有 则称 为该马氏链的初始分布，也称初始概率。
则称 为该马氏链的初始分布，也称初始概率。 （1） （2） 为一马氏链，其状态空间 或为有限子集。令 ，且对任意的 均有

234 则称 为该马氏链的绝对分布，也称绝对概率。 为一马氏链，其状态空间
绝对分布定义 则称 为该马氏链的绝对分布，也称绝对概率。 为一马氏链，其状态空间 或为有限子集。令 ，且对任意的 （1） （2） 均有

235 定理1.马氏链的绝对概率由初始分布和相应的转移概率唯一确定。
绝对分布计算 定理1.马氏链的绝对概率由初始分布和相应的转移概率唯一确定。 1

236 时，绝对概率由下式确定： 即:绝对概率 由初始概率 及n步转移概率 唯一确定。 利用C-K方程，则n步转移矩阵可由一步转移矩阵唯一确定。 当 推论：马氏链的绝对概率由初始分布及一步转移概率唯一确定。

237 马氏链有限维分布的计算 由马氏链的转移概率和初始分布，不仅可以完全确定其绝对分布，也可以完全确定其有限维分布。即

238 转移图（状态转移图与概率转移图） 步骤： (1) 确定马氏链的状态数。 (2) 根据概率转移矩阵，确定状态之间的连接关系。

239 四、遍历性与平稳分布 1. 定义 设齐次马氏链 的状态空间为E，若对一切 ，存在不依赖于i的极限
则称马尔可夫链具有遍历性。并称 为状态j的稳态概率。 注：具有遍历性的马氏链，无论从哪个状态出发，当转移 步数n充分大后，转移到状态j的概率接近pj，即当n足 够大时，pj可作为pij(n)的近似值。

240 2. 遍历性的判断及极限分布的计算 定理2. 对于一有限状态的马氏链 ，若存在一正整数m，使 （对所有的状态 ） 则此链是遍历性的，且 是 的满足条件 的唯一解。

241 注：  平稳性的物理意义：对任意时刻，系统处于同一状态的概率相同。
 遍历的马氏链一定具有平稳性，但平稳的马氏链不一定具有遍历性（不遍历的马氏链也可具有平稳性）。

242 例7设齐次马氏链的状态空间E={0,1,2}，其一步转移概率矩阵为
问：此链是否具有遍历性，并求其稳态分布 解：

243 由上式，对任意的i,j，有 所以此马氏链具有遍历性。 由于 解得

244 例8. 设齐次马氏链的状态空间E={1,2}，其一步转移概率矩阵为
问：此链是否具有遍历性，并求其稳态分布 解： 由于 所以 由遍历性定义知此马氏链不具有遍历性。 由转移概率矩阵知，该马氏链的初始分布一旦确定，其任意 时刻的概率分布也随之确定，与初始分布相同，因而是平稳的。 所有满足p1+p2的分布都可以作为该马链的平稳分布。

245 例9设齐次马氏链的状态空间E={0,1,2}，其一步转移概率矩阵为
问：此链是否具有遍历性，并求其稳态分布 解： 由题，对任意的i,j，有 所以此马氏链具有遍历性。

246 由于 解得

247 例10. 设齐次马氏链的状态空间E={0,1,2}，其一步转移概率矩阵为
问：此链是否具有遍历性，并求其稳态分布 解：

248 由上式，对任意的i,j，有 所以此马氏链具有遍历性。 由于 解得

249 五、马氏链中的状态分类 1. 到达与相通  到达： 如果对于状态 与 （可简写为i和 j)总存在某个
使得 ，则称自i状态经过n步可以到达j状态，并记为 反之，若对所有的 有 ，则自i状态不可以到达j状态，并记为 到达具有传递性，即若 , ,则 注：

250 例11. 设一两状态 马氏链具有以下转移概率矩阵 讨论其状态的到达特性。 解：要讨论这一马氏链两个状态的到达性，可先求出它的n步转移概率矩阵。由于 对于所有的n, ，故状态“1”不能到达状态“0”； 存在n使得 故状态“0”可以到达状态“1”。

251 相通 若自状态i可达状态j，同时自状态j也可达状态i，则称状态和状态相通，记为 相通具有以下等价关系 （1）若 ，则 ,自返性 （2）若 ，则 ，对称性 （3）若 ， ，则 ，传递性 注：

252 例12无限制的随机游走问题。考虑一个质点在直线上作随机游走．如果在某一时刻质点位于i,则下一步质点将以概率 向前游走一步到达i+1处，或以概率 向后游走一步到达i-1处。现规定，这一质点只能“向前”或“向后”游走一步，并且经过一个单位时间它必须“向前”或“向后”游走。讨论其状态的相通性。 解：如果以 表示n时刻质点的位置，则 是一个随机过程。而且，当 时， 等在时刻n后质点所处的状态仅与 有关，而与质点在时刻n以前是如何到达i的无关．故它是一个齐次马尔可夫链。状态空间 ，一步转移概率为

253 一步转移概率矩阵为 下面求n步转移概率 如在n次转移的结果是从i到j，n次转移中恰好向前游走m次，向后游走k次，则有

254 联立上两式求解可得 求得n步转移概率为 其中 时， 反映了在n，i，j之间存在的一种约束关系。由于对于满足要求的n，i，j， ，所以无限制的随机游走中的各个状态是相通的。

255 为 自状态i出发首次进入状态j的时刻，或称为自i到j的首达时。
2．状态的分类  首达时 设 为一马氏链，对任一状态i与j，称 为 自状态i出发首次进入状态j的时刻，或称为自i到j的首达时。 是一随机变量。 注： 可能永不取值j，这时我们就规定

256 自状态i出发经过n步首次进入状态j的概率
设 为一马氏链，对任一状态i与j，称 为 自状态i出发经过n步首次进入状态j的概率。 显然有 从而

257 例13设有两个状态{0,1}的马尔可夫链，其一步转移概率矩阵为
试求f00(1)， f00(2)， f00(3) ，f01(1) ，f01(2)， f01(3) 解：

258

259 例14.设有三个状态{0,1,2}的马尔可夫链，其一步转移概率矩阵为
试求f00(1)， f00(2)， f00(3) ，f01(1) ，f01(2)， f01(3) 解：

260 定理3. 对任何状态 ，有 证明：因为 马氏链从状态i出发经过n步转移到状态j的概率，就是从i出发经过l步首次达到
定理3. 对任何状态 ，有 证明：因为 马氏链从状态i出发经过n步转移到状态j的概率，就是从i出发经过l步首次达到 状态j，再从状态j经过n-l步转移到状态j的概率。

261 自状态i出发迟早到达状态j的概率 设 为一马氏链，对任一状态i与j，称 为 自状态i出发迟早要到达状态j的概率。 显然有 表示自状态i出发，在有限步内迟早要返回状态i的概率， 是在0与1之间的一个数。

262 定理4. 的充要条件是 充分性 若 ，则根据到达的定义， 总存在某个 ，使 所以 这样 ，至少有一个为正（不为0），所以 必要性 若 ，则由 至少有一个 使 ，故

263 例15. 设齐次马氏链 的状态空间 ，其一步转移概率矩阵为
试求f11, f44和 f66。

264 解：根据一步转移概率矩阵，可画出如图所示的状态转移图。
由图可知， ，而当 时， ，所以， 同理，因为 ， ，在 时， ，所以 由于 ，在 时， ，所以

265 如果 ，则称状态j是非常返的（或称为瞬时的）。 如果马尔可夫链的任一状态都是常返的，则称此链为常返马尔可夫链。
常返态和非常返态 如果 ，则称状态j是常返的。 如果 ，则称状态j是非常返的（或称为瞬时的）。 如果马尔可夫链的任一状态都是常返的，则称此链为常返马尔可夫链。 注： 如果状态j是常返的，则从状态j出发，马氏链将以概率1无穷多次返回状态j； 如果状态j是非常返的，则从状态j出发，马氏链只能有限次返回状态j。

266 定理5. 状态j是常返（ ）的充要条件为 系：如果状态j是非常返的，则必有 注：在有限状态的马氏链中，至少有一个状态是常返的。

267 设i是一常返态，则从i出发可经过n 步首次返回i， 在 的条件下的分布列为
平均返回时间 设i是一常返态，则从i出发可经过n 步首次返回i， 在 的条件下的分布列为 1 2 … n P … 由数学期望的定义，可得 称 为状态i的平均返回时间。

268 正常返和零常返 设i是常返态，如果 ，则称状态i是正常返态；如果 ,则称状态i是零常返态。 周期、非周期、遍历 对于状态i，若正整数集合 非空，则称该集合的最大公约数L为状态i的周期。 若 ，则称状态i是周期的。 若 ，则称状态i是非周期的。 如果状态i是非周期且正常返的，则称状态i是遍历的。

269 例16. 设齐次马氏链 的状态空间 ，其一步转移概率矩阵为
例16. 设齐次马氏链 的状态空间 ，其一步转移概率矩阵为 试判断各个状态的周期性。 状态1、3和5的周期都为3。 状态2和6为非周期。 状态4为非周期。

270 例17.设马尔可夫链的状态空间 ，一步转移概率矩阵
试对该链进行分类，并说明其遍历性。 解：根据一步转移概率矩阵可画出如图所示的状态转移图。从图中可知，①和②都是非周期的正常返状态，③、 ④状态都是非常返状态。

271 由于 说明 存在（i=1,2,3,4）,但与i有关，所以该链不是遍历的。

272 马氏状态分类图

273 定理6 设j为常返状态，有周期 ,则 系：如果j是常返态，则 （1） j零常返当且仅当 （2）j遍历当且仅当

274 状态分类判别法： （1） i非常返 （2）i零常返 且 且 （3）i正常返 且 （4）i遍历

275 （2）若i与j常返，则i与j同为正常返或同为零常返；
定理7 若 ，则 （1）i与j同为常返或同为非常返； （2）若i与j常返，则i与j同为正常返或同为零常返； （3）i与j或同为非周期的，或同为周期的且有相同的周期。 、

276 六、状态空间分解 定义46 设 ，若从V中任一状态出发不能到达V外的任一状态，则称V为闭集。 显然，对一切 和 有 注：
显然，对一切 和 有 (1) 若V中仅含有单个状态，则此闭集称为吸收态。它构成了一个较小的闭集。而整个空间构成一个较大的闭集。 (2) 除了整个状态空间外，没有别的闭集的马尔可夫链称为不可约马尔可夫链。此时整个空间的所有状态皆是相通的。 (3) 闭集内任一状态，不论转移多少步，都不能转移到闭集之外的状态上去，即随着时间的推移，闭集内任一状态只能在闭集内部的状态之间转移。 注：

277 定理8 马尔可夫链的所有常返状态构成的集合是一闭集。
定理9 （分解定理）状态空间E必可分解为 其中N是全体非常返态组成的集合， 是互不相交的常返态闭集组成。而且 （1）对每一确定的k, 内任意两状态相通； （2） 与 ( )中的状态之间不相通；

278 例18. 设齐次马氏链 的状态空间 ，其一步转移概率矩阵为
试对该空间进行分解。

279 解：根据一步转移概率矩阵，可画出如图所示的状态转移图。
由图可知， ，而当 时， ，所以， 可见状态1为正常返，且周期 。含有状态1的常返闭集为 同理，因为 ， ，在 时， ，所以

280 可见状态6为正常返，且是非周期的。含有状态6的常返闭集为
状态2，6为遍历状态. 由于 ，在 时， ，所以 可见状态4为非常返。 故

281 作业： P , 1.25, 1.26,

282 马尔可夫链小结 定义 转移概率 初始分布、绝对分布和有限维分布 遍历性和稳态概率 达到和相通 达到和相通 首达时、首达概率和迟早到达概率
常返态、非常返态 平均返回时间、正常返态、零常返态 周期态、非周期态、遍历态 状态空间分解

283 泊松过程 基本要求： 掌握泊松过程的定义、会求其均值、相关函数和方差。 掌握泊松增量和迫松冲激序列定义及统计特性。

284 独立增量过程 设有一个随机过程 ，如果对任意时刻 ， 过程的增量 、 、 是相互独立的随机 变量，则称 为独立增量过程，又称为可加过程。

285 一、泊松过程的一般概念 1. 定义 设随机过程 ， ，其状态只取非负整数值，若满足下列三个条件： （1） （2） 为均匀独立增量过程；
设随机过程 ， ，其状态只取非负整数值，若满足下列三个条件： （1） （2） 为均匀独立增量过程； （3）对任意时刻 ， ，相应的随机变量的增量 服从数学期望为 的泊松分布，即对于k=0,1,2,….,有 其中， 则称 为泊松过程。

286 二、泊松过程的统计量 对于给定的时刻 和 ，且 ，有 先来讨论服从泊松分布的随机变量 及 的数学期望，方差和相关函数等统计量。

287 1．数学期望 令 ，因此，均值为 = 2. 均方值与方差 令 ，故均方值为 = =

288 3.相关函数 若 ，则时间间隔 和 互不交叠（图2(a)）， 因此，随机变量 与 的数学期望等于它们各自数学期望之积，即
统计独立，故它们之积 图2 时间位置图

289 若 ，则时间间隔 和 相重叠（图2b））， 图2 时间位置图

290 式中， 就是间隔 与 交叠部分的长度。

291 泊松过程 的数学期望和相关函数。 令 ，可得 的数学期望为 令 ，可得的相关函数为

292 三、泊松增量 由泊松过程X(t)在给定的时间间隔 内的增量与 之比，我们构成一个新的随机过程 称它为泊松增量。 均值：

293 为了确定Y(t)的自相关函数，需要分别考虑两种情况：
若 ，则间隔 与 是不重叠的 或 若 ，则间隔 与 相交叠 或 图3 时间位置图

294 对于 ，我们也能得到与上式类似的结果。于是 图4 给出了 作为 的函数的图形。由图可见，这个函数是常数 与面积等于 的三角形之和。当 时，此三角形趋近于冲击 图 作为 的函数之曲线

295 四、泊松冲激序列 阶梯性的泊松过程X(t)对时间t求导，便可得到与时间轴上的 随机点 相对应的冲击序列Z(t),称此离散随机过程为泊松冲
激序列。其表示式为 因而 其中X(t)和 Y(t)在前面都已经定义过。

296 Z(t)的数学期望和相关函数可分别由Y(t)的期望和相关函数取 极限求得，即
由此可见，泊松冲击序列是平稳的。

297 图 （a）泊松过程示意图；（b）泊松增量；（c）泊松冲激序列

298 由图可见， 泊松过程 的每一个样本函数都呈阶梯形 ，它在每个随机点 的阶跃（即：步长为“1”）。 处产生单位为“1” 等于在时间间隔 内的随机点数。 对于给定的 ，

299 h(t)为滤波器的冲激响应； 为第i个冲激脉冲出现的时间；
五、过滤的泊松过程与散粒噪声 设有一泊松冲激脉冲序列 经过线形时不变滤波器，则此滤波器输出是随机过程X(t) h(t)为滤波器的冲激响应； 为第i个冲激脉冲出现的时间； 我们称随机过程X(t)为过滤的泊松过程。

300 ， ， 图5 过滤的泊松过程示意图

301 在温度限制的电子二极管中，由散粒（或散弹）效应引起的散粒（或散弹）噪声电流是过滤的泊松过程。
在晶体管中有三种类型的噪声：（1）热噪声；（2）散粒噪声；（3）闪烁噪声（又称噪声，是一种低频噪声）。晶体管的散粒噪声的机理与电子管的相类似，它们皆为过滤的泊松过程。

302 （a）泊松冲激序列Z(t)（b）散粒噪声X(t)
图6 相关函数和功率谱密度曲线 （a）泊松冲激序列Z(t)（b）散粒噪声X(t)

303 2．对于非均匀的情况，即随机点密度 不是常数，则X(t)的均值与自协方差函数分别为
式中

304 六、电报信号 1. 半随机电报信号 半随机电报信号为X(t)只取+1或-1的随机过程，图7给出了X(t)的一条样本函数曲线。若在时间间隔(0,t)内，变号时刻点的总数为偶数（或0），则 ；若为奇数，则 。 在时间间隔(0,t)内变号点数k服从泊松分布，即： 求随机过程X(t)的均值和相关函数。 图7 半随机电报信号X(t)的样本函数

305 均值 在(0,t)内有偶数个变号点的概率： 在(0,t)内有奇数个变号点的概率：

306 自相关函数 假设t1-t2>0 如果X(t2)=1，又在间隔(t2, t1)内有偶数个变号点，则

307 如果X(t2)=1，又在间隔(t2, t1)内有奇数个变号点，则

308 类似地，当t1-t2<0

309 自相关函数 功率谱密度

310 2. 随机电报信号 给定一个随机变量，它以等概率取+1或-1值，即 因此，
我们假定上述的随机过程X(t)与随机变量A统计独立，即：对于每个t，随机变量X(t)与随机变量A是统计独立的。现在，我们构成一个新的随机过程 称Y(t)为随机电报信号.

311 Y(t)的均值和自相关函数分别为

312 补 充——离散时间随机过程 1. 概率分布 2. 数字特征  数学期望

313  相关函数  协方差函数 3. 宽平稳

314 解： 例. 已知一随机序列X(n)=cos(wn+θ)，其中w为常数， θ在(0,2π)之间均匀分布，求该随机序列的均值和相关函数，
并判断其平稳性。 解： 所以该随机序列是平稳的。