06 贝叶斯网络.

Slides:



Advertisements
Similar presentations
课室守则 1. 不随便走动 2. 积极发言,不讲废话 3. 休息时间或放学前最后一节课 结束后,在门口排队 4. 作业按时交.
Advertisements

1 門市服務丙級技術士 技能檢定介紹 門市服務丙級技術士報告注意事項 證照名稱:門市服務丙級技術士 發照單位:行政院勞工委員會 有效期限:終生有效 考照時間:每年一次,皆為第一梯次 1. 簡章與報名書表發售時間:每年 1 月 2. 報名時間:每年 1 月。 3. 學科考試時間:每年 3.
5·20 学生营养日 勤工办 学生营养日来历 1989 年成立的中国学生营养促进会在营养学家于 若木的主持下,结合世界卫生组织 2000 年人人享 有卫生保健的战略目标,制定了 1991 年至 2000 年 10 年学生营养工作计划。其中确定每年 5 月 20 日 为中国学生营养日。其目的在于广泛、深入宣传.
商管群科科主任 盧錦春 年 3 月份初階建置、 4 月份進階建置、 5 月份試賣與對外營業。
生源地助学贷款系统还款功能优化说明 评审三局 2015年5月.
科学就医健康教育核心信息 健康中国行·科学就医 一、倡导科学就医 二、遵从分级诊疗 三、定期健康体检 四、鼓励预约挂号 五、就医注意事项
第十課 人類的感官.
★中国近代史: 1840年————1949年 鸦片战争 新中国诞生 ★历史线索: 1、资本主义列强对中国的侵略 2、中国人民的反抗和探索:
年鉴实务培训 北京年鉴社 2014·09.
重建精细管理意识 不能粗线条管理 不简单敷衍人民 不轻易指责媒体 不与媒体对立冲突 粗心 粗糙 粗略 粗鲁 粗暴 不消极等待自生自灭
概率论与数理统计 主讲:统计学院 任俊柏.
2.3.1条件概率.
2.2.1 条件概率 临沂第二十四中学高二数学备课组
一 营改增概述 第一节 什么是营改增 1.1 营改增的概念 营改增就是:通俗地理解,原流转环节缴纳营业税,营改增后缴纳增值税。 第一节 什么是营改增 1.1 营改增的概念 从2012年1月1日起,在上海交通运输业和部分现代服务业开展营业税改征增值税试点。 自2012年8月1日起至年底,国务院将扩大营改增试点至10省市,北京或9月启动。
健康的社會人口學:性別、年齡與種族 姓名: 黃培瑜 4HE 陳麗媖 4HE 蔡依潔 4HE
二、信用工具和外汇.
§2 线性空间的定义与简单性质 主要内容 引例 线性空间的定义 线性空间的简单性质 目录 下页 返回 结束.
第四章 账户及复式记账的应用 教学目的与要求:本章内容属于会计实务部分。通过本章的教学,使学生掌握制造企业经济业务的核算内容及账务处理,进一步加深对复式记账原理的理解,熟练掌握借贷记账法在制造企业的实际应用。 教学重点:运用借贷记账法对制造企业的经济业务进行账务处理。 教学难点:利润的核算;期末各账户之间的相互结转。
返本归原在课文,精讲多练会高考 ——2012届高三语文复习的几点做法.
为您扬帆,助您远航! 徽商银行特色新产品介绍. 为您扬帆,助您远航! 徽商银行特色新产品介绍.
帝苑梦华 紫塞明珠 承 德.
第一章 概率论的基本概念 主讲教师:董庆宽 副教授 研究方向:密码学与信息安全
3.1 随机事件及其概率 3.2 随机变量及其概率分布 3.3 大数定律与中心极限定理
國有土地管理與運用問題之探討 主講人: 廖 蘇 隆 中華民國100年10月17 日.
证券交易模拟 第2讲 交易规则与盘面术语.
公务卡使用说明.
整理者:建德市新安江第一小学 秦爱军 食品包装上的信息.
财务知识培训 杨 秀 玲 2014年10月.
5.5可行性分析 可行性分析的概念 策略可行性分析 操作可行性分析 回报可行性分析.
TALK ABOUT 数据挖掘-十大经典法 QianShi Li-Design
第五章 各类园林绿地的规划设计.
學校:光春國中 班級:七年三班 製作團隊: 顏序芳 李邰岳 謝宜軒
探究分解过氧化氢制氧气的 反应中二氧化锰的作用
第一章会计技能的内容 1.1会计技能的重要性.
诸葛亮广场.
新时期下的财政票据管理 省非税局票据管理处 陈奕晶.
第二讲 环境污染及其防治、环境管理.
湟中居民运动类型调查 高一(4) 班体育小组.
“深入推进依法行政加快建设法治政府” -《法治政府建设实施纲要》解读
2009是運在高雄一認識越南 坪頂國小 六年一班 邱育雯.
第六节 可降阶的二阶微分方程 一、 型的微分方程 二、 型的微分方程 三、 型的微分方程.
三十集大型红色史诗电视剧 《傅连璋》 策划案.
数理逻辑.
常用逻辑语.
第六课 我们的 中华文化.
妈妈我爱你 你总说我还不懂事 维护我像一张白纸 你眼中我永远是长不大的孩子 虽然我有好多心事 却已不愿说与你知 我曾任性地排斥你爱我的方式
2.3 氧气.
当一回消费者 泰安高新区北店子小学 刘清艳.
政治经济学原理 信阳师范学院经济与管理学院.
课前准备:请同学们准备好一张草稿纸.
霸气车辆.
越南 ~陌生的國度.
學校教職員退休條例修正草案重點報告 報告人:徐創晃.
经济生活模块备考知识.
液压阀.
第一章.
第四章 機率概論.
概率论与数理统计 2019/4/9 1.
第一章 直角坐標系 1-2 直角坐標.
《概率论》总复习.
实验数据处理方法 第一部分:概率论基础 第二章 概率的基本概念.
檢示動植物組織的過氧化氫酶對分解過氧化氫的催化作用
三種基本類型的問題 當我們說某件事情的機率是0.50、0.78,或0.24時,是什麼意思? 機率的數值該如何決定?在現實生活中如何測量?
全概率公式和贝叶斯公式主要用于计算比较复杂事件的概率, 它们实质上是加法公式和乘法公式的综合运用.
概率论与数理统计 2019/5/11 1.
蛋白质的结构与功能.
开始 结束.
保變住開發要點 資料來源:台北市政府都發局.
第一章 概率论的基本概念 主讲教师:董庆宽 副教授 研究方向:密码学与信息安全
三、 动量和角动量 1 、 质点动量定理 动量 冲量.
Presentation transcript:

06 贝叶斯网络

贝叶斯网络 贝叶斯网络(Bayesian Network)是20世纪80年代发展起来的,由Judea Pearl(朱迪亚•佩尔)于1986年提出。 贝叶斯网络起源于贝叶斯统计分析理论,它是概率论和图论相结合的产物。 贝叶斯网络是一种描述不确定性知识和推理问题的方法。 文本分类(如:垃圾邮件的过滤) 医学诊断 ......

贝叶斯网络 1、引例 2、贝叶斯概率基础 3、贝叶斯网络概述 4、贝叶斯网络的预测、诊断和训练 4.1 贝叶斯网络的预测 4.2 贝叶斯网络的诊断 4.3 贝叶斯网络的训练

贝叶斯网络 1、引例 2、贝叶斯概率基础 3、贝叶斯网络概述 4、贝叶斯网络的预测、诊断和训练 4.1 贝叶斯网络的预测 4.2 贝叶斯网络的诊断 4.3 贝叶斯网络的训练

1、引例 一个有关概率推理的例子。 图中有六个结点: 参加晚会(Party, PT) 宿醉(Hangover, HO) 头疼(Headache, HA) 患脑瘤(Brain tumor, BT) 有酒精味(Smell alcohol, SA) X射线检查呈阳性(Pos Xray, PX) Party Hangover Brain Tumor Headache Smell Alcohol Pos Xray

1、引例 一个有关概率推理的例子。 图中有五条连线: PTHO HOSA HOHA BTHA BTPX Party Hangover Brain Tumor Headache Smell Alcohol Pos Xray

1、引例 参加晚会后,第二天呼吸中有酒精味的可能性有多大? 如果头疼,患脑瘤的概率有多大? 如果参加了晚会,并且头疼,那么患脑瘤的概率有多大? ...... Party Hangover Brain Tumor Headache Smell Alcohol Pos Xray 这些问题都可通过贝叶斯网络加以解决。

贝叶斯网络 1、引例 2、贝叶斯概率基础 3、贝叶斯网络概述 4、贝叶斯网络的预测、诊断和训练 4.1 贝叶斯网络的预测 4.2 贝叶斯网络的诊断 4.3 贝叶斯网络的训练

2、贝叶斯概率基础 先验概率:根据历史资料或主观判断所确定的各种事件发生的概率。 先验概率可分为两类: 客观先验概率:是指利用过去的历史资料计算得到的概率(如:在自然语言处理中,从语料库中统计词语的出现频率——客观先验概率); 主观先验概率:是指在无历史资料或历史资料不全的时候,只能凭借人们的主观经验来判断取得的概率。

2、贝叶斯概率基础 后验概率:是指利用贝叶斯公式,结合调查等方式获取了新的附加信息,对先验概率修正后得到的更符合实际的概率。 条件概率:是指当条件事件发生后,该事件发生的概率。 条件概率的计算可以通过两个事件各自发生 的概率,以及相反方向的条件概率得到。

2、贝叶斯概率基础 例:已知任意时刻阴天的概率为0.3,记为P(A)=0.3,下雨的概率为0.2,记为P(B)=0.2。阴天之后下雨的概率为0.6,记为条件概率P(B|A)=0.6。那么在下雨的条件下,是阴天的概率是多少? 【解】根据条件概率公式,可得: P(A|B) = P(B|A)*P(A)/P(B) = 0.6*0.3/0.2 = 0.9

2、贝叶斯概率基础 全概率公式 设B1, B2, …, Bn是两两互斥的事件,且P(Bi)>0,i =1, 2, …, n, B1+B2+…,+Bn=Ω。 另有一事件A = AB1 + AB2 + … + ABn

2、贝叶斯概率基础 全概率公式可看成是“由原因推结果”,即:每个原因对结果的发生有一定“作用”,结果发生的可能性与各种原因的“作用”大小有关。 全概率公式表达了它们之间的关系。 Bi是原因 A是结果 B3 B1 B5 A B4 B6 B2 B8 B7 13

2、贝叶斯概率基础 贝叶斯公式(后验概率公式) 设先验概率为P(Bi),调查所获的新附加信息为P(A|Bi) (i=1, 2, …, n),则贝叶斯公式计算的后验概率为: 该公式于1763年由贝叶斯(Bayes)导出。 该公式是在观察到事件A已发生的条件下,寻找导致A发生的每个原因的概率。

2、贝叶斯概率基础 例:某电子设备厂所用的元件由三家元件厂提供,根据以往记录,这三个厂家的次品率分别为0.02,0.01和0.03,提供元件的份额分别为0.15,0.8和0.05,设这三家的产品在仓库是均匀混合的,且无区别的标志。 问题1:在仓库中,随机抽取一个元件,求它是次品的概率; 问题2:在仓库中,随机抽取一个元件,若已知它是次品,则该次品来自三家供货商的概率分别是多少?

2、贝叶斯概率基础 【解】设A表示“取到的元件是次品”,Bi表示“取到的元件是由第i个厂家生产的”,则 P(B1)=0.15,P(B2)=0.8,P(B3)=0.05 对于问题1,由全概率公式可得: P(A) = P(B1)*P(A|B1) + P(B2)*P(A|B2) + P(B3)*P(A|B3) = 0.15*0.02+0.8*0.01+0.05*0.03 = 0.0125

2、贝叶斯概率基础 【解】设A表示“取到的元件是次品”,Bi表示“取到的元件是由第i个厂家生产的”,则 P(B1)=0.15,P(B2)=0.8,P(B3)=0.05 对于问题2,由贝叶斯公式可得: P(B1|A) = P(B1)*P(A|B1)/P(A) = 0.15*0.02/0.0125 = 0.24 P(B2|A) = P(B2)*P(A|B2)/P(A) = 0.8*0.01/0.0125 = 0.64 P(B3|A) = P(B3)*P(A|B3)/P(A) = 0.05*0.03/0.0125 = 0.12

贝叶斯网络 1、引例 2、贝叶斯概率基础 3、贝叶斯网络概述 4、贝叶斯网络的预测、诊断和训练 4.1 贝叶斯网络的预测 4.2 贝叶斯网络的诊断 4.3 贝叶斯网络的训练

3、贝叶斯网络概述 贝叶斯网络是描述随机变量(事件)之间依赖关系的一种图形模式,是一种可用来进行推理的模型。 贝叶斯网络通过有向图的形式来表示随机变量间的因果关系,并通过条件概率将这种因果关系量化。 Party Hangover Brain Tumor Headache Smell Alcohol Pos Xray

3、贝叶斯网络概述 一个贝叶斯网络由网络结构和条件概率表两部分组成。 网络结构是一个有向无环图,由若干结点和有向弧组成。 每个结点代表一个事件或者随机变量,变量值可以是连续的或者离散的,但结点的取值必须是完备互斥的。 结点之间的有向弧代表随机变量间的因果关系(概率依赖关系),有向弧的起始结点表示原因,有向弧的终止结点表示结果。

3、贝叶斯网络概述 一个贝叶斯网络由网络结构和条件概率表两部分组成。 条件概率表:是指网络中的每个结点都有一个条件概率表,用于表示其父结点对该结点的影响。 当网络中的某个结点没有父结点时,该结点的条件概率表就是该结点的先验概率。

3、贝叶斯网络概述 Burglary Earthquake Alarm John Calls Mary Calls P(E) 0.002 P(B) 0.001 B E P(A) t t t f f t f f 0.95 0.94 0.29 0.001 Alarm John Calls Mary Calls A P(J) t f 0.90 0.10 A P(M) t f 0.70 0.30

3、贝叶斯网络概述 贝叶斯网络的3个重要议题: 贝叶斯网络预测:是指已知一定的原因,利用贝叶斯网络进行计算,求出由原因导致结果的概率。 贝叶斯网络诊断:是指已知发生了某些结果,根据贝叶斯网络推理出造成该结果发生的原因以及发生的概率。 贝叶斯网络学习(训练):是指利用现有数据对先验知识进行修正的过程,每一次学习都对贝叶斯网络的先验概率进行调整,使得新的贝叶斯网络更能反映数据中所蕴含的知识。

贝叶斯网络 1、引例 2、贝叶斯概率基础 3、贝叶斯网络概述 4、贝叶斯网络的预测、诊断和训练 4.1 贝叶斯网络的预测 4.2 贝叶斯网络的诊断 4.3 贝叶斯网络的训练

4、贝叶斯网络的预测、诊断和训练 此处将以下图为例,分别介绍贝叶斯网络的预测、诊断和训练。 Party Hangover Brain Tumor Headache Smell Alcohol Pos Xray 预测和诊断需要 已知网络结构和 每个结点的条 件概率表。 训练需要先建立 网络结构,再计 算每个结点的条 件概率表。

4、贝叶斯网络的预测、诊断和训练 为了使用贝叶斯网络进行预测和诊断,假设网络已经训练好,即:网络中的所有先验概率和条件概率全部已知。 图中Party和Brain Tumor两个结点是原因结点,没有连线以它们为终点。它们的无条件概率如下表所示: 该表中给出了这两个事件发生的概率:PT发生的概率是0.2,不发生的概率是0.8;BT发生的概率是0.001,不发生的概率是0.999。   P(PT) P(BT) True 0.200 0.001 False 0.800 0.999

4、贝叶斯网络的预测、诊断和训练 另外,网络中的条件概率如下所示: P(HO|PT) PT=True PT=False True 0.700 False 0.300 1.000 P(SA|HO) HO=True HO=False True 0.800 0.100 False 0.200 0.900 P(PX|BT) BT=True BT=False True 0.980 0.010 False 0.020 0.990

4、贝叶斯网络的预测、诊断和训练 另外,网络中的条件概率如下所示: P(HA|HO,BT) HO=True BT=True BT=False HO=False True 0.990 0.700 0.900 0.020 False 0.010 0.300 0.100 0.980

贝叶斯网络 1、引例 2、贝叶斯概率基础 3、贝叶斯网络概述 4、贝叶斯网络的预测、诊断和训练 4.1 贝叶斯网络的预测 4.2 贝叶斯网络的诊断 4.3 贝叶斯网络的训练

4.1 贝叶斯网络的预测 对于贝叶斯网络的预测,可分为以下两种情况: 贝叶斯网络的预测是一个“自顶向下”的过程。 4.1 贝叶斯网络的预测 对于贝叶斯网络的预测,可分为以下两种情况: 在已知某些原因结点的情况下,可以预测结果结点的概率。 例:参加晚会情况下,头疼发生的概率。 在不知任何结点信息的情况下,可以预测网络中某个结果结点发生的概率。 例:即使不知道任何结点发生与否的信息,仍然可以计算结点HA发生的概率。 贝叶斯网络的预测是一个“自顶向下”的过程。

4.1 贝叶斯网络的预测 为了描述方便,对于任何一个结点Point: P(+Point)表示Point发生的概率 4.1 贝叶斯网络的预测 为了描述方便,对于任何一个结点Point: P(+Point)表示Point发生的概率 P(-Point)表示Point不发生的概率

4.1 贝叶斯网络的预测 例1:计算结点HA的概率。 Party Hangover Brain Tumor Headache 4.1 贝叶斯网络的预测 例1:计算结点HA的概率。 Party Hangover Brain Tumor Headache Smell Alcohol Pos Xray

4.1 贝叶斯网络的预测 例1:计算结点HA的概率。 【解】根据全概率公式,可得 P(+HA) = P(+BT)P(+HO)*0.99 + 4.1 贝叶斯网络的预测 例1:计算结点HA的概率。 【解】根据全概率公式,可得 P(+HA) = P(+BT)P(+HO)*0.99 + P(+BT)P(-HO)*0.9 + P(-BT)P(+HO)*0.7 + P(-BT)P(-HO)*0.02 = 0.116 P(HA|HO,BT) HO=True BT=True BT=False HO=False True 0.990 0.700 0.900 0.020 False 0.010 0.300 0.100 0.980

4.1 贝叶斯网络的预测 例1:计算结点HA的概率。 【解】根据全概率公式,可得 P(-HA) = 1-P(+HA) = 0.884 4.1 贝叶斯网络的预测 例1:计算结点HA的概率。 【解】根据全概率公式,可得 P(-HA) = 1-P(+HA) = 0.884 【解释】在没有任何诱因的情况下,头疼发生的概率是0.116,不头疼的概率是0.884。 采用上述方式,可以计算贝叶斯网络中所有结点的概率——这个过程通常发生在贝叶斯网络的训练阶段——获得结点的概率。

4.1 贝叶斯网络的预测 例2:计算已知参加晚会的情况下,第二天早晨呼吸有酒精味的概率。 Party Hangover 4.1 贝叶斯网络的预测 例2:计算已知参加晚会的情况下,第二天早晨呼吸有酒精味的概率。 Party Hangover Brain Tumor Headache Smell Alcohol Pos Xray

4.1 贝叶斯网络的预测 例2:计算已知参加晚会的情况下,第二天早晨呼吸有酒精味的概率。 4.1 贝叶斯网络的预测 例2:计算已知参加晚会的情况下,第二天早晨呼吸有酒精味的概率。 【解】首先,根据下表可知,当PT发生的情况下,HO发生的概率为0.7,HO不发生的概率为0.3。 P(HO|PT) PT=True PT=False True 0.700 False 0.300 1.000

4.1 贝叶斯网络的预测 例2:计算已知参加晚会的情况下,第二天早晨呼吸有酒精味的概率。 【解】再根据全概率公式,可得 4.1 贝叶斯网络的预测 例2:计算已知参加晚会的情况下,第二天早晨呼吸有酒精味的概率。 【解】再根据全概率公式,可得 P(+SA) = P(+HO)P(+SA|+HO) + P(-HO)P(+SA|-HO) = 0.7*0.8 + 0.3*0.1 = 0.59 P(SA|HO) HO=True HO=False True 0.800 0.100 False 0.200 0.900

4.1 贝叶斯网络的预测——预测算法 输入:给定贝叶斯网络B(包括网络结构m个结点以及某些结点间的连线、原因结点到中间结点的条件概率或联合条件概率),给定若干个原因结点发生与否的事实向量F(或者称为证据向量);给定待预测的某个结点t。 输出:结点t发生的概率。 (1)把证据向量输入到贝叶斯网络B中; (2)对于B中的每一个没处理过的结点n,如果它具有发生的事实(证据),则标记它为已经处理过;否则继续下面的步骤; (3)如果它的所有父结点中有一个没有处理过,则不处理这个结点;否则,继续下面的步骤; (4)根据结点n的所有父结点的概率以及条件概率或联合条件概率计算结点n的概率分布,并把结点n标记为已处理; (5)重复步骤(2)~(4)共m次。此时,结点t的概率分布就是它的发生/不发生的概率。算法结束。

贝叶斯网络 1、引例 2、贝叶斯概率基础 3、贝叶斯网络概述 4、贝叶斯网络的预测、诊断和训练 4.1 贝叶斯网络的预测 4.2 贝叶斯网络的诊断 4.3 贝叶斯网络的训练

4.2 贝叶斯网络的诊断 贝叶斯网络的诊断与贝叶斯网络的预测正好相反,即:它是在已知结果结点发生的情况下,来推断条件结点发生的概率。 4.2 贝叶斯网络的诊断 贝叶斯网络的诊断与贝叶斯网络的预测正好相反,即:它是在已知结果结点发生的情况下,来推断条件结点发生的概率。 贝叶斯网络的诊断是一个“自底向上”的过程。

4.2 贝叶斯网络的诊断 例1:计算已知X光检查呈阳性的情况下,患脑瘤的概率。 Party Hangover Brain Tumor 4.2 贝叶斯网络的诊断 例1:计算已知X光检查呈阳性的情况下,患脑瘤的概率。 Party Hangover Brain Tumor Headache Smell Alcohol Pos Xray

4.2 贝叶斯网络的诊断 例1:计算已知X光检查呈阳性的情况下,患脑瘤的概率。 【解】根据条件概率公式,可得 4.2 贝叶斯网络的诊断 例1:计算已知X光检查呈阳性的情况下,患脑瘤的概率。 【解】根据条件概率公式,可得 P(+BT | +PX) = P(+PX | +BT)*P(+BT)/P(+PX) = 0.98*0.001/P(+PX) P(PX|BT) BT=True BT=False True 0.980 0.010 False 0.020 0.990   P(PT) P(BT) True 0.200 0.001 False 0.800 0.999

4.2 贝叶斯网络的诊断 例1:计算已知X光检查呈阳性的情况下,患脑瘤的概率。 【解】根据全概率公式,可得 4.2 贝叶斯网络的诊断 例1:计算已知X光检查呈阳性的情况下,患脑瘤的概率。 【解】根据全概率公式,可得 P(+PX)=P(+PX|+BT)*P(+BT)+P(+PX|-BT)*P(-BT) = 0.980*0.001+0.010*0.999 ≈ 0.011 P(PX|BT) BT=True BT=False True 0.980 0.010 False 0.020 0.990   P(PT) P(BT) True 0.200 0.001 False 0.800 0.999

4.2 贝叶斯网络的诊断 例1:计算已知X光检查呈阳性的情况下,患脑瘤的概率。 【解】根据条件概率公式,可得 4.2 贝叶斯网络的诊断 例1:计算已知X光检查呈阳性的情况下,患脑瘤的概率。 【解】根据条件概率公式,可得 P(+BT | +PX) = P(+PX | +BT)*P(+BT)/P(+PX) = 0.98*0.001/P(+PX) = 0.98*0.001/0.011 ≈ 0.089 【解释】当X光检查呈阳性的情况下,患脑瘤的概率是0.089(概率是较低的)。

4.2 贝叶斯网络的诊断 例2:计算已知头疼的情况下,患脑瘤的概率。 Party Hangover Brain Tumor Headache 4.2 贝叶斯网络的诊断 例2:计算已知头疼的情况下,患脑瘤的概率。 Party Hangover Brain Tumor Headache Smell Alcohol Pos Xray

4.2 贝叶斯网络的诊断 例2:计算已知头疼的情况下,患脑瘤的概率。 【解】由条件概率公式,可得 4.2 贝叶斯网络的诊断 例2:计算已知头疼的情况下,患脑瘤的概率。 【解】由条件概率公式,可得 P(+BT | +HA) = P(+HA | +BT)*P(+BT)/P(+HA) 在上面的公式中,P(+BT)的概率已知,P(+HA)的概率可由全概率公式计算得到,P(+HA|+BT)的概率也需要计算得到。

4.2 贝叶斯网络的诊断 例2:计算已知头疼的情况下,患脑瘤的概率。 【解】由全概率公式,可得 4.2 贝叶斯网络的诊断 例2:计算已知头疼的情况下,患脑瘤的概率。 【解】由全概率公式,可得 P(+HA) = P(+BT)P(+HO)*0.990 + P(+BT)P(-HO)*0.900 + P(-BT)P(+HO)*0.700 + P(-BT)P(-HO)*0.020 = 0.116 P(HA|HO,BT) HO=True BT=True BT=False HO=False True 0.990 0.700 0.900 0.020 False 0.010 0.300 0.100 0.980

4.2 贝叶斯网络的诊断 例2:计算已知头疼的情况下,患脑瘤的概率。 【解】再由全概率公式,可得 4.2 贝叶斯网络的诊断 例2:计算已知头疼的情况下,患脑瘤的概率。 【解】再由全概率公式,可得 P(+HA|+BT) = P(+HO)*P(+HA | +BT, +HO) + P(-HO)*P(+HA | +BT, -HO) 在这个公式中,只有P(+HO)和P(-HO)未知。因此由全概率公式可得: P(+HO)=P(+HO|+PT)*P(+PT)+P(+HO|-PT)*P(-PT)   P(PT) P(BT) True 0.200 0.001 False 0.800 0.999 P(HO|PT) PT=True PT=False True 0.700 False 0.300 1.000

4.2 贝叶斯网络的诊断 例2:计算已知头疼的情况下,患脑瘤的概率。 【解】再由全概率公式,可得 4.2 贝叶斯网络的诊断 例2:计算已知头疼的情况下,患脑瘤的概率。 【解】再由全概率公式,可得 P(+HA|+BT) = P(+HO)*P(+HA | +BT, +HO) + P(-HO)*P(+HA | +BT, -HO) 在这个公式中,只有P(+HO)和P(-HO)未知。因此由全概率公式可得: P(+HO)=P(+HO|+PT)*P(+PT)+P(+HO|-PT)*P(-PT) = 0.7*0.2 + 0*0.8 = 0.14 P(-HO) = 1 - P(+HO) = 1 - 0.14 = 0.86

4.2 贝叶斯网络的诊断 例2:计算已知头疼的情况下,患脑瘤的概率。 【解】再由全概率公式,可得 4.2 贝叶斯网络的诊断 例2:计算已知头疼的情况下,患脑瘤的概率。 【解】再由全概率公式,可得 P(+HA|+BT) = P(+HO)*P(+HA | +BT, +HO) + P(-HO)*P(+HA | +BT, -HO) = 0.14*0.99 + 0.86*0.9 ≈ 0.913

4.2 贝叶斯网络的诊断 例2:计算已知头疼的情况下,患脑瘤的概率。 4.2 贝叶斯网络的诊断 例2:计算已知头疼的情况下,患脑瘤的概率。 【解】将上述求得的P(+HA | +BT)=0.913和P(+HA)=0.116代入所求的条件概率公式中可得: P(+BT | +HA) = P(+HA | +BT)*P(+BT)/P(+HA) = 0.913*0.001/0.116 ≈ 0.008 【解释】与例1类似,在头疼的情况下,患脑瘤的概率也是较低的(8‰)。

4.2 贝叶斯网络的诊断——诊断算法 输入:给定贝叶斯网络B(包括网络结构m个结点以及某些结点间的连线、原因结点到中间结点的条件概率或联合条件概率),给定若干个结果结点发生与否的事实向量F(或者称为证据向量);给定待诊断的某个结点t。 输出:结点t发生的概率。 (1)把证据向量输入到贝叶斯网络B中; (2)对于B中的每一个没处理过的结点n,如果它具有发生的事实(证据),则标记它为已经处理过;否则继续下面的步骤; (3)如果它的所有子结点中有一个没有处理过,则不处理这个结点;否则,继续下面的步骤; (4) 根据节点n所有子结点的概率以及条件概率或联合条件概率,根据条件概率公式,计算结点n的概率分布,并把结点n标记为已处理; (5)重复步骤(2)~(4)共m次。此时,原因结点t的概率分布就是它的发生/不发生的概率。算法结束。

贝叶斯网络 1、引例 2、贝叶斯概率基础 3、贝叶斯网络概述 4、贝叶斯网络的预测、诊断和训练 4.1 贝叶斯网络的预测 4.2 贝叶斯网络的诊断 4.3 贝叶斯网络的训练

4.3 贝叶斯网络的建立和训练 贝叶斯网络的建立: 首先,要把实际问题中的事件抽象为网络中的结点; 每个结点必须有明确的意义,至少有是、非两个状态或者多个状态,并且这些状态在概率意义上是完备的和互斥的。 完备的:是指概率之和为1;互斥的:是指同一时刻这能取得一个状态。

4.3 贝叶斯网络的建立和训练 贝叶斯网络的建立: 其次,在两个或多个结点之间的建立连线。 基本原则:有明确因果关系的结点之间应建立连线,没有明确因果关系的结点之间尽量不要建立连线。 可采用相关性分析方法(如:Pearson相关系数)来确定结点之间是否应该有连线。 注意:在两个结点之间建立连线时,要防止环的出现,因为贝叶斯网络必须是无环图。

4.3 贝叶斯网络的建立和训练 贝叶斯网络的训练:是指通过历史数据获得贝叶斯网络中各结点的概率以及结点之间条件概率的过程。 结点的概率(先验概率) 假设结点P有m个状态P1, P2, ..., Pm,则结点P在第i个状态下的概率P(Pi)为:

4.3 贝叶斯网络的建立和训练 贝叶斯网络的训练:是指通过历史数据获得贝叶斯网络中各结点的概率以及结点之间条件概率的过程。 结点间的条件概率 假设PS表示结点P的一个状态,QS表示结点Q的一个状态,则PS发生时,QS也发生的概率P(QS | PS)为:

4.3 贝叶斯网络的建立和训练 贝叶斯网络的训练:是指通过历史数据获得贝叶斯网络中各结点的概率以及结点之间条件概率的过程。 多个结点间的联合条件概率 假设PS表示结点P的一个状态,QS表示结点Q的一个状态,RS表示结点R的一个状态,则PS和QS发生时,RS也发生的概率P(RS|PS,QS)为:

4.3 贝叶斯网络的建立和训练 贝叶斯网络的训练:是指通过历史数据获得贝叶斯网络中各结点的概率以及结点之间条件概率的过程。 多个结点间的联合条件概率 假设PS表示结点P的一个状态,QS表示结点Q的一个状态,RS表示结点R的一个状态,则PS和QS发生时,RS也发生的概率P(RS|PS,QS)为: 如果结点P、Q、R各有两个状态,则类似这样的公式共有8个,它们共同构成了结点P、Q到R的联合条件概率。

贝叶斯网络 1、引例 2、贝叶斯概率基础 3、贝叶斯网络概述 4、贝叶斯网络的预测、诊断和训练 4.1 贝叶斯网络的预测 4.2 贝叶斯网络的诊断 4.3 贝叶斯网络的训练

工具箱 FullBNT A=1; %访问了亚洲 S=2; %吸烟 T=3; %肺结核 L=4; %肺癌 B=5; %支起管炎 E=6; %肺结核或肺癌 X=7; %X射线 D=8; %呼吸困难

工具箱 FullBNT