Bioelectromagnetics Key Laboratory, College of Medicine 第七章 隐含马尔科夫模型：理论 Prof. Bao Jiali Ph.D Bioelectromagnetics Key Laboratory, College of Medicine Tel: 88208171, 13018905641 Email: baojl@zju.edu.cn
随机过程
随机过程 tT，有：F(t, x) = P{X(t) x}
数字特征 均值 m(t) = E[X(t)] = 方差 D(t) = E[X(t)- m(t)]2 相关函数 自相关函数： Rxx(t1, t2) = E[X(t1) X(t2)] 互相关函数： Rxy(t1, t2) = E[X(t1) Y(t2)]
相关函数 自相关函数： Rxx(t1, t2) = E[X(t1) X(t2)] 互相关函数： Rxy(t1, t2) = E[X(t1) Y(t2)]
马尔可夫过程
定义 一个随机过程给定了当前时刻t的值Xt，如果未来时刻s (s >t)的值Xs不受过去时刻u (u<t)的值Xu的影响，则这个随机过程就具有马尔可夫性，并称为马尔可夫过程。
状态与状态空间 设{X(t), tT}是一个马尔可夫过程，T为时间参数集，过程X(t)可能取的值称为状态，可能取的值的全体组成了一个状态空间。 马尔可夫链：时间参数离散，状态空间离散 马尔可夫序列：时间参数离散，状态空间连续 不连续马尔可夫过程：时间参数连续，状态空间离散 连续马尔可夫过程：时间参数连续，状态空间连续
马尔可夫链 P{Xn+1=sjX1=s1, X2=s2, , Xn=si } = P{Xn+1=sjXn=si }
转移概率 P{Xn+1 = sjXn = si } P =
隐含马尔可夫模型
模型结构 qt S = [s1，s2，，sN] ot U = [u1，u2，，uM]
参数集 = [A，B， ] 转移概率 观察概率 初始状态概率 aij = P[sjsi] (i = 1, 2, , N; j = 1, 2, , N) 观察概率 bkj = P[uksj] (k = 1, 2, , M; j = 1, 2, , N) 初始状态概率 i = P [q1= si] (i = 1, 2, , N)
隐含马尔可夫问题解
评价问题 给定模型参数集 = [A，B，]和观察序列O = [o1，o2，，oT]，求由该模型产生的观察序列的概率P[O] q1 bo1q1 a q1q2 bo2q2 aqT-1qT boTqT
隐含马尔可夫模型 P[O] = q1 bo1q1 a q1q2 bo2q2 aqT-1qT boTqT
前向递推算法 a t(i) = P[o1，o2，，ot；qt = si] a t+1(j) = P[o1，o2，，ot，ot+1；qt+1 = sj]= bot+1j
后向递推算法 t(i) = P[ot，ot+1，，oT qt = si， ] t+1(j) = P[ot+1 ，ot+2，，oT qt+1 = sj ， ] t(i) = t+1(j)
前后向递推算法 P[O] =
解码问题 给定模型参数集 = [A，B，]和观察序列O = [o1，o2，，oT]，求由该观察序列最可能有怎样的状态序列Q = [q1，q2，，qT]产生。
“穷举”算法
Viterbi算法 给定模型参数集 = [A，B，]和观察序列O = [o1，o2，，oT]，求由该模型产生的观察序列的概率P[O] t (i) = P[q1，q2，，qt = sio1，o2，，ot，] t+1 (j) = P[q1，q2，，qt+1 = sjo1，o2，，ot+1，] t+1 (j) = { [t (i) aij]} bot+1j
辨识问题 给定HMM模型的结构(状态数N和观察类数M)，由给定的一组供训练用的观察组O1，O2，，估计该模型的最优参数： = [Â， ， ]。 使P[O]达到最大。
Baum-Welch算法 t(i, j) = P[qt = si，qt+1 = sjO, ] t (i)= = (i = 1, 2, , N) t (i) =
Baum-Welch算法 âij = kj = i = P[si q1] = 1 (i) P[O ] > P[O]
谢 谢！