Bioelectromagnetics Key Laboratory, College of Medicine

Presentation on theme: "Bioelectromagnetics Key Laboratory, College of Medicine"— Presentation transcript:

1 Bioelectromagnetics Key Laboratory, College of Medicine
第七章 隐含马尔科夫模型：理论 Prof. Bao Jiali Ph.D Bioelectromagnetics Key Laboratory, College of Medicine Tel: ,

2 随机过程

3 随机过程  tT，有：F(t, x) = P{X(t) x}

4 数字特征 均值 m(t) = E[X(t)] = 方差 D(t) = E[X(t)- m(t)]2 相关函数
自相关函数： Rxx(t1, t2) = E[X(t1) X(t2)] 互相关函数： Rxy(t1, t2) = E[X(t1) Y(t2)]

5 相关函数 自相关函数： Rxx(t1, t2) = E[X(t1) X(t2)]
互相关函数： Rxy(t1, t2) = E[X(t1) Y(t2)]

6 马尔可夫过程

7 定义 一个随机过程给定了当前时刻t的值Xt，如果未来时刻s (s >t)的值Xs不受过去时刻u (u<t)的值Xu的影响，则这个随机过程就具有马尔可夫性，并称为马尔可夫过程。

8 状态与状态空间 设{X(t), tT}是一个马尔可夫过程，T为时间参数集，过程X(t)可能取的值称为状态，可能取的值的全体组成了一个状态空间。 马尔可夫链：时间参数离散，状态空间离散 马尔可夫序列：时间参数离散，状态空间连续 不连续马尔可夫过程：时间参数连续，状态空间离散 连续马尔可夫过程：时间参数连续，状态空间连续

9 马尔可夫链 P{Xn+1=sjX1=s1, X2=s2, , Xn=si } = P{Xn+1=sjXn=si }

10 转移概率 P{Xn+1 = sjXn = si } P =

11 隐含马尔可夫模型

12 模型结构 qt  S = [s1，s2，，sN] ot  U = [u1，u2，，uM]

13 参数集  = [A，B， ] 转移概率 观察概率 初始状态概率
aij = P[sjsi] (i = 1, 2, , N; j = 1, 2, , N) 观察概率 bkj = P[uksj] (k = 1, 2, , M; j = 1, 2, , N) 初始状态概率 i = P [q1= si] (i = 1, 2, , N)

14 隐含马尔可夫问题解

15 评价问题 给定模型参数集 = [A，B，]和观察序列O = [o1，o2，，oT]，求由该模型产生的观察序列的概率P[O]
q1 bo1q1 a q1q2 bo2q2  aqT-1qT boTqT

16 隐含马尔可夫模型 P[O] =  q1 bo1q1 a q1q2 bo2q2  aqT-1qT boTqT

17 前向递推算法 a t(i) = P[o1，o2，，ot；qt = si]
a t+1(j) = P[o1，o2，，ot，ot+1；qt+1 = sj]= bot+1j

18 后向递推算法  t(i) = P[ot，ot+1，，oT  qt = si， ]
 t+1(j) = P[ot+1 ，ot+2，，oT qt+1 = sj ， ]  t(i) =  t+1(j)

19 前后向递推算法 P[O] =

20 解码问题 给定模型参数集 = [A，B，]和观察序列O = [o1，o2，，oT]，求由该观察序列最可能有怎样的状态序列Q = [q1，q2，，qT]产生。

21 “穷举”算法

22 Viterbi算法 给定模型参数集 = [A，B，]和观察序列O = [o1，o2，，oT]，求由该模型产生的观察序列的概率P[O] t (i) = P[q1，q2，，qt = sio1，o2，，ot，] t+1 (j) = P[q1，q2，，qt+1 = sjo1，o2，，ot+1，] t+1 (j) = { [t (i) aij]} bot+1j

23 辨识问题 给定HMM模型的结构(状态数N和观察类数M)，由给定的一组供训练用的观察组O1，O2，，估计该模型的最优参数：
 = [Â， ， ]。 使P[O]达到最大。

24 Baum-Welch算法 t(i, j) = P[qt = si，qt+1 = sjO, ]
t (i)= = (i = 1, 2, , N) t (i) =

25 Baum-Welch算法 âij = kj = i = P[si q1] = 1 (i) P[O ] > P[O]

26 谢 谢！