人工智能 Artificial Intelligence 第四章

Slides:



Advertisements
Similar presentations
第五节 函数的微分 一、微分的定义 二、微分的几何意义 三、基本初等函数的微分公式与微分运算 法则 四、微分形式不变性 五、微分在近似计算中的应用 六、小结.
Advertisements

2.8 函数的微分 1 微分的定义 2 微分的几何意义 3 微分公式与微分运算法则 4 微分在近似计算中的应用.
2.5 函数的微分 一、问题的提出 二、微分的定义 三、可微的条件 四、微分的几何意义 五、微分的求法 六、小结.
全微分 教学目的:全微分的有关概念和意义 教学重点:全微分的计算和应用 教学难点:全微分应用于近似计算.
复习: :对任意的x∈A,都有x∈B。 集合A与集合B间的关系 A(B) A B :存在x0∈A,但x0∈B。 A B A B.
教材: 王万良《人工智能及其应用》(第2版) 高等教育出版社,
7.1 不确定性及其类型 7.2 不确定性知识的表示 7.3 不确定性推理的一般模式 7.4 确定性理论 7.5 证据理论 7.6 模糊推理
第 8 章 不确定性知识的表示与推理 8.1 不确定性处理概述 8.2 几种经典的不确定性推理模型 8.3 基于贝叶斯网络的概率推理
圆的一般方程 (x-a)2 +(y-b)2=r2 x2+y2+Dx+Ey+F=0 Ax2+Bxy+Cy2+Dx+Ey+ F=0.
第五章 二次型. 第五章 二次型 知识点1---二次型及其矩阵表示 二次型的基本概念 1. 线性变换与合同矩阵 2.
第三章 函数逼近 — 最佳平方逼近.
欢迎使用本课件 教材简介: 名 称:人工智能原理与应用 作 者:张仰森 出版社:高等教育出版社 章 节:共十章 主讲教师: 宗春梅.
第5章 知识表示与推理 5.1 概述 5.2 基于谓词逻辑的机器推理 5.3 基于产生式规则的机器推理 5.4 几种结构化知识表示及其推理
《高等数学》(理学) 常数项级数的概念 袁安锋
四种命题 2 垂直.
常用逻辑用语复习 知识网络 常用逻辑用语 命题及其关系 简单的逻辑联结词 全称量词与存在量词 四种命题 充分条件与必要条件 量词 全称量词 存在量词 含有一个量词的否定 或 且 非或 并集 交集 补集 运算.
1.1.3四种命题的相互关系 高二数学 选修2-1 第一章 常用逻辑用语.
常用逻辑用语复习课 李娟.
例题 教学目的: 微积分基本公式 教学重点: 牛顿----莱布尼兹公式 教学难点: 变上限积分的性质与应用.
高等数学电子教案 第五章 定积分 第三节 微积分基本定理.
第五节 微积分基本公式 、变速直线运动中位置函数与速度 函数的联系 二、积分上限函数及其导数 三、牛顿—莱布尼茨公式.
第二节 微积分基本公式 1、问题的提出 2、积分上限函数及其导数 3、牛顿—莱布尼茨公式 4、小结.
第四章 函数的积分学 第六节 微积分的基本公式 一、变上限定积分 二、微积分的基本公式.
§5.3 定积分的换元法 和分部积分法 一、 定积分的换元法 二、 定积分的分部积分法 三、 小结、作业.
第5章 定积分及其应用 基本要求 5.1 定积分的概念与性质 5.2 微积分基本公式 5.3 定积分的换元积分法与分部积分法
第三节 格林公式及其应用(2) 一、曲线积分与路径无关的定义 二、曲线积分与路径无关的条件 三、二元函数的全微分的求积 四、小结.
§5 微分及其应用 一、微分的概念 实例:正方形金属薄片受热后面积的改变量..
2-7、函数的微分 教学要求 教学要点.
§5 微分及其应用 一、微分的概念 实例:正方形金属薄片受热后面积的改变量..
第5章 §5.3 定积分的积分法 换元积分法 不定积分 分部积分法 换元积分法 定积分 分部积分法.
第三章 多维随机变量及其分布 §2 边缘分布 边缘分布函数 边缘分布律 边缘概率密度.
教材: 王万良《人工智能及其应用》(第3版) 高等教育出版社,
计算机数学基础 主讲老师: 邓辉文.
§2 求导法则 2.1 求导数的四则运算法则 下面分三部分加以证明, 并同时给出相应的推论和例题 .
28.1 锐角三角函数(2) ——余弦、正切.
2.1.2 空间中直线与直线 之间的位置关系.
若2002年我国国民生产总值为 亿元,如果 ,那么经过多少年国民生产总值 每年平均增长 是2002年时的2倍? 解:设经过 年国民生产总值为2002年时的2倍, 根据题意有 , 即.
第4章 非线性规划 4.5 约束最优化方法 2019/4/6 山东大学 软件学院.
第一章 函数与极限.
概 率 统 计 主讲教师 叶宏 山东大学数学院.
线 性 代 数 厦门大学线性代数教学组 2019年4月24日6时8分 / 45.
第四章 一次函数 4. 一次函数的应用(第1课时).
5.2 常用统计分布 一、常见分布 二、概率分布的分位数 三、小结.
复习.
第十章 双线性型 Bilinear Form 厦门大学数学科学学院 网址: gdjpkc.xmu.edu.cn
成绩是怎么算出来的? 16级第一学期半期考试成绩 班级 姓名 语文 数学 英语 政治 历史 地理 物理 化学 生物 总分 1 张三1 115
正切函数的图象和性质 周期函数定义: 一般地,对于函数 (x),如果存在一个非零常数T,使得当x取定义域内的每一个值时,都有
定理21.9(可满足性定理)设A是P(Y)的协调子集,则存在P(Y)的解释域U和项解释,使得赋值函数v(A){1}。
第16讲 相似矩阵与方阵的对角化 主要内容: 1.相似矩阵 2. 方阵的对角化.
§6.7 子空间的直和 一、直和的定义 二、直和的判定 三、多个子空间的直和.
3.1.2 空间向量的数量积运算 1.了解空间向量夹角的概念及表示方法. 2.掌握空间向量数量积的计算方法及应用.
1.2 子集、补集、全集习题课.
1.设A和B是集合,证明:A=B当且仅当A∩B=A∪B
第三章 函数的微分学 第二节 导数的四则运算法则 一、导数的四则运算 二、偏导数的求法.
学习任务三 偏导数 结合一元函数的导数学习二元函数的偏导数是非常有用的. 要求了解二元函数的偏导数的定义, 掌握二元函数偏导数的计算.
上杭二中 曾庆华 上杭二中 曾庆华 上杭二中 曾庆华.
第15讲 特征值与特征向量的性质 主要内容:特征值与特征向量的性质.
2.2直接证明(一) 分析法 综合法.
第二节 函数的极限 一、函数极限的定义 二、函数极限的性质 三、小结 思考题.
正弦、余弦函数的性质 华容一中 伍立华 2017年2月24日.
§2 方阵的特征值与特征向量.
主讲教师 欧阳丹彤 吉林大学计算机科学与技术学院
第三节 函数的微分 3.1 微分的概念 3.2 微分的计算 3.3 微分的应用.
基于列存储的RDF数据管理 朱敏
第四节 向量的乘积 一、两向量的数量积 二、两向量的向量积.
第三章 从概率分布函数的抽样 (Sampling from Probability Distribution Functions)
第四章 函数的 积分学 第七节 定积分的换元积分法     与分部积分法 一、定积分的换元积分法 二、定积分的分部积分法.
第六章 不确定性推理 6-1 不确定性推理的基本概念.
§2 自由代数 定义19.7:设X是集合,G是一个T-代数,为X到G的函数,若对每个T-代数A和X到A的函数,都存在唯一的G到A的同态映射,使得=,则称G(更严格的说是(G,))是生成集X上的自由T-代数。X中的元素称为生成元。 A变, 变 变, 也变 对给定的 和A,是唯一的.
1.2.2 充要条件 高二数学 选修 1-1 第一章 常用逻辑用语.
Presentation transcript:

人工智能 Artificial Intelligence 第四章 不确定性推理 Uncertainty Reasoning 史忠植 中国科学院计算技术研究所 http://www.intsci.ac.cn/ 2019/4/18 史忠植 人工智能:不确定性推理

内容提要 4.1 概述 4.2 可信度方法 4.3 主观贝叶斯方法 4.4 证据理论 4.5 模糊逻辑和模糊推理 4.6 小结 4.1 概述 4.2 可信度方法 4.3 主观贝叶斯方法 4.4 证据理论 4.5 模糊逻辑和模糊推理 4.6 小结 2019/4/18 史忠植 人工智能:不确定性推理

基本概念 什么是不确定性推理? 为什么要研究不确定性推理? 不确定性推理是建立在非经典逻辑上的一种推理,是对不确定性知识的运用与处理 是从不确定性的初始证据出发,通过运用不确定性的知识,最终推出具有一定程度的不确定性但却合理或者近乎合理的结论的思维过程 为什么要研究不确定性推理? 日常生活中含有大量的不确定的信息 ES系统中大量的领域知识和专家经验,不可避免的包含各种不确定性。 2019/4/18 史忠植 人工智能:不确定性推理

基本概念 不确定性推理的基本问题: 表示问题:即采用什么方法描述不确定性.一般有数值表示和非数值的语义表示方法. 计算问题:主要指不确定性的传播和更新,也即获得新信息的过程.主要包括: 已知C(A), AB f(B,A),如何计算C(B) 已知C1(A),又得到C2(A),如何确定C(A) 如何由C(A1),C(A2)计算C(A1A2), C(A1A2) 语义问题: 指的是上述表示和计算的含义是什么,如何进行解释. 2019/4/18 史忠植 人工智能:不确定性推理

基本概念 不确定推理方法的分类 形式化方法:在推理一级扩展确定性方法. 逻辑方法:是非数值方法,采用多值逻辑、非单调逻辑来处理不确定性 新计算方法:认为概率方法不足以描述不确定性,出现了确定性理论,确定性因子,模糊逻辑方法等 新概率方法:在传统的概率框架内,采用新的计算工具以确定不确定性描述 非形式化方法:在控制一级上处理不确定性 如制导回溯、启发式搜索等等 2019/4/18 史忠植 人工智能:不确定性推理

内容提要 4.1 概述 4.2 可信度方法 4.3 主观贝叶斯方法 4.4 证据理论 4.5 模糊逻辑和模糊推理 4.6 小结 4.1 概述 4.2 可信度方法 4.3 主观贝叶斯方法 4.4 证据理论 4.5 模糊逻辑和模糊推理 4.6 小结 2019/4/18 史忠植 人工智能:不确定性推理

知识的不确定性表示 产生式规则: If E Then H (CF(H, E)) CF(H,E)是该条知识的可信度,称为可信度因子或规则强度,表示当前提条件E所对应的证据为真时,它对结论H为真的支持程度。 CF是根据经验对一个事物或现象为真的可信程度的度量 CF(H,E)取值为:[-1,1], 2019/4/18 史忠植 人工智能:不确定性推理

知识的不确定性表示 CF定义: CF(H,E)=MB(H,E)-MD(H,E) MB:信任增长度,它表示因与前提条件E匹配的证据的出现,使结论H为真的信任增长度 MD:不信任增长度,它表示因与前提条件E匹配的证据的出现,对结论H的不信任增长度 2019/4/18 史忠植 人工智能:不确定性推理

知识的不确定性表示 MB的定义:由条件概率和先验概率定义 1 若P(H)=1 MB(H,E)= max{P(H|E), P(H)} – P( H -------------------------------- 否则 1-P(H) MD的定义: 1 若P(H)=0 MD(H,E)= min {P(H|E), P(H)} – P(H) ----------------------------------- 否则 -P(H) 2019/4/18 史忠植 人工智能:不确定性推理

知识的不确定性表示 MB的定义:由条件概率和先验概率定义 1 若P(H)=1 MB(H,E)= max{P(H|E), P(H)} – P(H) ----------------------------------- 否则 1-P(H) MD的定义: 1 若P(H)=0 MD(H,E)= min {P(H|E), P(H)} – P(H) -P(H) 2019/4/18 史忠植 人工智能:不确定性推理

知识的不确定性表示 MB(H,E)和MD(H,E)是互斥的:即一个证据不能既增加对H的信任度,又不能同时增加对H的不信任度 当MD(H,E) > 0, MB(H,E)=0 2019/4/18 史忠植 人工智能:不确定性推理

知识的不确定性表示 CF(H,E)的直观意义: (1)CF(H,E)>0,则P(H|E)>P(H):E的出现增加了H为真的概率,增加了H为真的可信度 (2)CF(H,E)<0,则P(H|E)<P(H):E的出现减少了H为真的概率,增加了H为假的可信度 (3)CF(H,E)=0,则P(H|E)=P(H):表示H与E独立,即E的出现对H没有影响 CF(H,E)几个特殊的值: (1)前提真,则结论必真,即P(H|E)=1,有CF(H,E)=1 (2)前提真,而结论必假,即P(H|E)=0,有CF(H,E)=-1 (3)前提与结论无关,即P(H|E)=P(H), 有CF(H,B)=0 2019/4/18 史忠植 人工智能:不确定性推理

证据的不确定性表示 证据的不确定性也用CF来表示 CF值的来源分两种情况: 初始证据:由提供证据的用户给出 以前的结论作为新证据:由传递算法推出 证据的CF取值范围:[-1,1] E肯定为真时:CF(E)=1 E肯定为假时:CF(E)= - 1 对E一无所知时:CF(E)=0 CF(E)>0表示E以CF(E)为真 CF(E)<0表示E以CF(E)为假 2019/4/18 史忠植 人工智能:不确定性推理

组合证据不确定性算法 (1)E=E1  E2  …  En 如果已知CF(E1),…, CF(En), 则: CF(E)=min{CF(E1),…, CF(En)} (2)E=E1  E2  …  En CF(E)=max{CF(E1),…, CF(En)} 2019/4/18 史忠植 人工智能:不确定性推理

不确定性的传递算法 已知:CF(E) E  H CF(H,E) 则规定:CF(H)=CF(H,E)  max{0, CF(E)} 规定:CF(~E)= -CF(E) 当证据为假时:CF(H)=0,即该模型没有考虑证据为假时对H所产生的影响 当证据为真时,CF(H,E)实际上就是结论H的可信度CF(H) 2019/4/18 史忠植 人工智能:不确定性推理

结论不确定性合成算法 r1: if E1 then H (CF(H,E1)) r2: if E2 then H (CF(H,E2)) 求合成的CF(H) (1)首先对每条知识求出CF(H),即: CF1(H)=CF(H,E1)  max{0, CF(E1)} CF2(H)=CF(H,E2)  max{0, CF(E2)} (2)规定: CF1(H)+CF2(H)-CF1(H) CF2(H) CF1(H)>=0, CF2(H)>=0 CF(H)= CF1(H)+CF2(H)+CF1(H) CF2(H) CF1(H)<0, CF2(H)<0 CF1(H) +CF2(H) 其他 2019/4/18 史忠植 人工智能:不确定性推理

可信度模型---- 例一 r1: A1  B1 CF(B1, A1)=0.8 r2: A2  B1 CF(B1, A2)=0.5 r3: B1 A3  B2 CF(B2, B1 A3)=0.8 初始证据 A1 ,A2 ,A3 的CF值均设为1,而初始未知证据 B1 ,B2 的CF值为0,即对 B1 ,B2 是一无所知的。 求:CF(B1 ) ,CF(B2)的更新值 2019/4/18 史忠植 人工智能:不确定性推理

可信度模型---- 例二 r1: A1  B1 CF(B1, A1)=0.8 r2: A2  B1 CF(B1, A2)=0.6 初始证据 A1 ,A2 的CF值均设为0.5,而初始未知证据 B1 的CF值为0.1。 求:CF(B1 ) 的更新值 2019/4/18 史忠植 人工智能:不确定性推理

内容提要 4.1 概述 4.2 可信度方法 4.3 主观贝叶斯方法 4.4 证据理论 4.5 模糊逻辑和模糊推理 4.6 小结 4.1 概述 4.2 可信度方法 4.3 主观贝叶斯方法 4.4 证据理论 4.5 模糊逻辑和模糊推理 4.6 小结 2019/4/18 史忠植 人工智能:不确定性推理

主观Bayes方法 1976年提出的,应用于地矿勘探专家系统Prospector中 不确定推理系统包括: 不确定性的表示: 规则/知识 事实/证据 不确定性的计算 组合证据的不确定算法 不确定性的传递算法 结论的不确定算法 2019/4/18 史忠植 人工智能:不确定性推理

规则不确定的表示 if E then (LS, LN) H (P(H)) (1)E是规则的前提条件,H是结论,P(H)是H的先验概率,是指在没有任何证据的情况下结论H为真的概率。 (2)LS是充分性度量:表示E对H的支持程度,取值范围[0,+),其定义为: P(E/H) LS = ------------------ P(E/~H) 2019/4/18 史忠植 人工智能:不确定性推理

规则不确定的表示 (3)LN是必要性度量:表示~E对H的支持程度,取值范围[0,+),其定义为: P(~E/H) 1-P(E/H) 2019/4/18 史忠植 人工智能:不确定性推理

证据不确定的表示 对于初始证据E,由用户根据观察S给出P(E/S). 引入可信度函数C(E/S): (1)C(E/S)=-5, 表示在S下,E肯定不存在P(E/S)=0 (2)C(E/S)=0, 表示在S与E无关, P(E/S)=P(E) (3)C(E/S)=5, 表示在S下,E肯定存在,P(E/S)=1 (4)C(E/S)为其他值的时候, P(E/S)可以通过线性插值得到。 2019/4/18 史忠植 人工智能:不确定性推理

组合证据不确定的表示 (1)E=E1  E2  …  En 如果已知P(E1/S),…, P(En/S), 则: P(En/S)=min{P(E1/S),…, P(En/S)} (2)E=E1  E2  …  En P(En/S)=max{P(E1/S),…, P(En/S)} (3)对于“非”: P(~E/S)=1 - P(E/S) 2019/4/18 史忠植 人工智能:不确定性推理

不确定性的传递算法 主观Bayes方法推理的任务就是根据证据E的概率P(E)和LS,LN的值,把H的先验概率P(H)更新为P(H/E)或P(H/~E)。 分下面三种情况讨论: 证据肯定存在 证据肯定不存在 证据不确定 2019/4/18 史忠植 人工智能:不确定性推理

证据肯定存在 证据肯定存在时:P(E)=P(E/S)=1 P(H/E)=P(H)  P(E/H)/P(E) ---------- = ----------  ----------- P(~H/E) P(~H) P(E/~H) 引入几率函数O(x)定义为: O(x)=P(x)/(1-P(x)), P(x)=O(x)/(1+O(x)) 2019/4/18 史忠植 人工智能:不确定性推理

证据肯定存在 O(H/E)=LS  O(H) P(H/E)=LS  P(H)/((LS-1)  P(H) +1) LS的意义: (1)LS>1时, O(H/E) > O(H), P(H/E)>P(H),说明E的存在将增强H为真的概率。E的存在对H为真是充分的,所以称LS为充分性度量 (2) LS=1时, O(H/E)=O(H) (3) LS<1时, O(H/E) < O(H),E导致H为真的可能性下降 (4) LS=0时, O(H/E)=0,E的存在将使H为假 2019/4/18 史忠植 人工智能:不确定性推理

证据肯定不存在 证据肯定不存在时:P(E)=P(E/S)=0,P(~E)=1 P(H/~E)=P(H)  P(~E/H)/P(~E) ------------ = ----------  ------------- P(~H/~E) P(~H) P(~E/~H) O(H/~E)=LN  O(H) P(H/~E)=LN  P(H)/((LN-1)  P(H) +1) 2019/4/18 史忠植 人工智能:不确定性推理

证据肯定不存在 LN的意义: (1)LN>1时, O(H/~E) > O(H), P(H/~E)>P(H),说明E的不存在将增强H为真的概率。 (2) LN=1时, O(H/~E)=O(H) (3) LN<1时, O(H/~E) < O(H),E的不存在导致H为真的可能性下降,即E的不存在将反对H为真,说明E对H为真的必要性 (4) LN=0时, O(H/~E)=0,E的不存在将使H为假。这里也可以看出E对H为真的必要性,所以也称LN为必要性度量 2019/4/18 史忠植 人工智能:不确定性推理

不确定性的传递算法 从上面讨论知: (1)若E越是支持H为真时,则应使LS越大 (2)若E对H越是必要时,则应使LN越小 LS、LN的取值情况:LS 0, LN 0 只能出现: 但不能出现: LS<1 ,LN>1 LS>1, LN>1 LS>1, LN<1 LS<1, LN<1 LS=LN=1 2019/4/18 史忠植 人工智能:不确定性推理

例一 设有如下知识: r1: if E1 then (10,1) H1 (0.03) 求:当证据存在及不存在时,P(Hi/Ei)及 P(Hi/~Ei) 的值各是多少 2019/4/18 史忠植 人工智能:不确定性推理

证据不确定 证据不定时:0<P(E/S)<1,后验概率为: P(H/S)=P(H/E)  P(E/S)+P(H/~E)  P(~E/S) 分四种情况讨论如下: (1)P(E/S)=1 则有P(~E/S)=0,证据肯定存在 (2)P(E/S)=0 则有P(~E/S)=1,证据肯定不存在 (3)P(E/S)=P(E),说明E和S无关 P(H/S)=P(H) 2019/4/18 史忠植 人工智能:不确定性推理

证据不确定 (4)当P(E/S)为其他值的时候,通过分段插值计算P(H/S)的值。 P(H/S) P(H/E) P(H) P(H/~E) P(E) 1 P(E/S) 2019/4/18 史忠植 人工智能:不确定性推理

例二 当证据 E必然发生,H1的先验概率0.03, H2的先验概率0.01, 且有规则: r1: if E then (20,1) H1 r2: if H1 then (300, 0.0001) H2 求:P(H2|E) 2019/4/18 史忠植 人工智能:不确定性推理

结论不确定性的合成 若有n条知识都支持相同的结论,而且每条知识的前提所对应的证据Ei(i=1,…,n)都有相应的观察Si与之对应,此时只要先对每条知识分别求出O(H/ Si)然后就可用下式求出结论不确定性的合成: O(H/ S1, …,Sn)= O(H/ S1) O(H/Sn) ---------------------- …  ---------------------------  O(H) O(H) O(H) 2019/4/18 史忠植 人工智能:不确定性推理

例三 当证据E1、E2、E3、E4必然发生后, H的先验概率为0.03,且有规则则: r1: if E1 then (20,1) H 2019/4/18 史忠植 人工智能:不确定性推理

内容提要 4.1 概述 4.2 可信度方法 4.3 主观贝叶斯方法 4.4 证据理论 4.5 模糊逻辑和模糊推理 4.6 小结 4.1 概述 4.2 可信度方法 4.3 主观贝叶斯方法 4.4 证据理论 4.5 模糊逻辑和模糊推理 4.6 小结 2019/4/18 史忠植 人工智能:不确定性推理

证据理论 证据理论(Theory of Evidence)也称为D-S (Dempster-Shafer)理论。证据理论最早基于德姆斯特(Dempster A P)所做的工作,他试图用一个概率范围而不是单个的概率值去模拟不确定性。谢弗(Shafer G A)进一步拓展了德姆斯特的工作,这一拓展称为证据推理[Shafer 1976],用于处理不确定性、不精确以及间或不准确的信息。由于证据理论将概率论中的单点赋值扩展为集合赋值,弱化了相应的公理系统,满足了比概率更弱的要求,因此可看作一种广义概率论。 2019/4/18 史忠植 人工智能:不确定性推理

证据理论 在D-S理论中,可以分别用信任函数、似然函数及类概率函数来描述知识的精确信任度、不可驳斥信任度及估计信任度,即可以从各个不同角度刻画命题的不确定性。 D-S理论采用集合来表示命题,为此,首先应该建立命题与集合之间的一一对应关系,把命题的不确定性问题转化为集合的不确定性问题。 2019/4/18 史忠植 人工智能:不确定性推理

概率分配函数 定义:U为样本空间,设函数M:2U[0, 1],且满足: M() =0 AUM(A)=1 则称M为2U上的概率分配函数,M(A)称为A的基本概率数 (1)M(A)的作用是把U的任意一个子集A都映射为[0,1]上的一个数M(A)。它表示证据对U的子集A成立的一种信任度量,是对U的子集的信任分配。 (2)概率分配函数不是概率。 2019/4/18 史忠植 人工智能:不确定性推理

证据理论 例: U={红,黄,蓝} 假设: M({红})=0.3, M({黄})=0, M({蓝})=0.1, 2019/4/18 史忠植 人工智能:不确定性推理

信任函数 定义:命题的信任函数Bel: 2U[0, 1],且 Bel(A) = BAM(B) 对所有的AU (1)命题A的信任函数的值,是A的所有子集的基本概率分配函数值的和,用来表示对A的总的信任 (2) Bel函数又称为下限函数 (3) Bel() = M() =0 Bel(U) = BUM(B) = 1 2019/4/18 史忠植 人工智能:不确定性推理

似然函数 定义:似然函数Pl: 2U[0, 1],且 Pl(A) =1- Bel(~A) 对所有的AU (1) Bel(A)表示对A为真的信任度,则 Bel(~A)表示对~A为真,即A为假的信任度,所以 Pl(A)表示A非假的信任度,它又称为上限函数。 (2) Pl(A) =1- Bel(~A) = ABM(B) (3) 0  Bel(A)  Pl(A)  1 (4) Pl(A) - Bel(A):表示既不信任A,也不信任~A的一种度量,可表示对不知道的度量 2019/4/18 史忠植 人工智能:不确定性推理

证据的不确定性度量 (1)以区间(Bel(A), Pl(A))作为证据A的不确定性度量:表示了对A信任程度的上限和下限。 (2)以函数: f1(A)=Bel(A)+(|A|  |U|) (Pl(A)-Bel(A)) 表示证据A的不确定性度量。 f1()=0, f1(U)=1 0  f1(A)  1 AU 2019/4/18 史忠植 人工智能:不确定性推理

规则的不确定性度量 设U={u1,…, un},A和B为U的子集,如: A={a1,…, am}, B={b1,…, bk} 规则表示如下: A  B={b1,…, bk} {c1,…, ck} (1)B是结论,用样本空间的子集表示,b1,…, bk是该子集中的元素 (2) c1,…, ck表示规则的不确定性度量 ,ci表示bi的可信度 (3) ci0, ni=1ci1 2019/4/18 史忠植 人工智能:不确定性推理

推理计算 f1(A1A2) = min{f1(A1), f1(A2)} f1(A1A2) = max{f1(A1), f1(A2)} A  B ={b1,…, bk} {c1,…, ck}, 求 f1(B) (1)求出B的概率分配函数 M(B)=M({b1},…, {bk})={f1(A) c1,…, f1(A) ck} M(U)=1 - ki=1 f1(A) ci 2019/4/18 史忠植 人工智能:不确定性推理

推理计算 如果有两条知识支持同一条结论: A1  B ={b1,…, bk} {c1,…, ck}, 则首先分别对每一条知识求出概率分配函数: M1({b1},…, {bk}) M2({b1},…, {bk}) 然后由:M=M1M2 求出结论B的概率分配函数M 2019/4/18 史忠植 人工智能:不确定性推理

推理计算 概率分配函数的合成定义: 设M1和M2是两个概率分配函数,则合成M=M1M2定义为: M() =0 M(A) =K  XY=A M1(X)  M2(Y) 其中x,y是U的子集,并且: K-1=1-  XY= M1(X)  M2(Y) =  XY M1(X)  M2(Y) 2019/4/18 史忠植 人工智能:不确定性推理

推理计算 概率分配函数的合成示例: 例一:设U={黑,白},且 M1({黑},{白},{黑,白},)=(0.3, 0.5, 0.2, 0) 例二:设U={a,b,c,d} M1({b,c,d},U)=(0.7, 0.3) M2({a,b},U)=(0.6, 0.4) 2019/4/18 史忠植 人工智能:不确定性推理

推理计算 求出Bel(B) ,Pl(B),f1(B) Bel(B) = ABM(A) Pl(B) =1- Bel(~B) f1(B)=Bel(B)+(|B|  |U|) (Pl(B)-Bel(B)) 2019/4/18 史忠植 人工智能:不确定性推理

证据理论示例 例一: 已知 f1(A1)=0.8, f1(A2)=0.6, |U|=20 A1A2B={b1,b2} (c1,c2)=(0.3,0.5) 求:f1(B) 例二: 已知 f1(A1)=0.53, f1(A2)=0.52, |U|=20 A1B={b1,b2 ,b3} (c1,c2 ,c3)=(0.1,0.5,0,3) A2B={b1,b2 ,b3} (c1,c2 ,c3)=(0.4,0.2,0,1) 2019/4/18 史忠植 人工智能:不确定性推理

内容提要 4.1 概述 4.2 可信度方法 4.3 主观贝叶斯方法 4.4 证据理论 4.5 模糊逻辑和模糊推理 4.6 小结 4.1 概述 4.2 可信度方法 4.3 主观贝叶斯方法 4.4 证据理论 4.5 模糊逻辑和模糊推理 4.6 小结 2019/4/18 史忠植 人工智能:不确定性推理

模糊推理 处理随机性的理论基础是概率论 处理模糊性的基础是模糊集合论 本节主要内容: 模糊集合与操作 语言变量 模糊推理 2019/4/18 史忠植 人工智能:不确定性推理

模糊集合与操作 C(x)为特征函数 经典集合是清晰的,即: 一个元素x是否属于某一个集合A是明确的,要么x属于A,要么x不属于A,两者必居其一,而且只能居其一。 C(x)为特征函数 2019/4/18 史忠植 人工智能:不确定性推理

模糊集合与操作 模糊集合 定义1 设U是一个论域,U到区间[0, 1]的一个映射 μ:U [0,1]  定义1 设U是一个论域,U到区间[0, 1]的一个映射 μ:U [0,1] 就确定了U的一个模糊子集A。映射μ称为A的隶属函数, 记为μA(u)。对于任意的u∈U, μA(u)∈[0, 1]称为u属于模糊子集A的程度, 简称隶属度。 2019/4/18 史忠植 人工智能:不确定性推理

模糊集合与操作 由定义, 模糊集合完全由其隶属函数确定, 即一个模糊集合与其隶属函数是等价的。    由定义, 模糊集合完全由其隶属函数确定, 即一个模糊集合与其隶属函数是等价的。    可以看出, 对于模糊集A,当U中的元素u的隶属度全为0时, 则A就是个空集;反之,当全为1时,A就是全集U;当仅取0和1时, A就是普通子集。 这就是说,模糊子集实际是普通子集的推广, 而普通子集就是模糊子集的特例。  论域U上的模糊集合A, 一般可记为 2019/4/18 史忠植 人工智能:不确定性推理

模糊集合与操作 或 或 或 对于有限论域U, 甚至也可表示成 2019/4/18 史忠植 人工智能:不确定性推理

模糊集合例子 通常所说的“高个”、“矮个”、“中等个”就是三个关于身高的语言值。我们用模糊集合为它们建模。   取人类的身高范围[1.0, 3.0]为论域U, 在U上定义隶属函数μ矮(x)、μ中等(x)、μ高(x)如下(函数图像如图8-5所示)。 这三个隶属函数就确定了U上的三个模糊集合,它们也就是相应三个语言值的数学模型。 2019/4/18 史忠植 人工智能:不确定性推理

模糊集合例子 2019/4/18 史忠植 人工智能:不确定性推理

模糊集合例子 身高论域上的模糊集“矮”、 “中等”、 “高”的隶属函数 2019/4/18 史忠植 人工智能:不确定性推理

模糊关系 除了有些性质概念是模糊概念外,还存在不少模糊的关系概念。如“远大于”、“基本相同”、“好朋友”等就是一些模糊关系。模糊关系也可以用模糊集合表示。下面我们就用模糊子集定义模糊关系。 定义  集合U1,U2,…,Un的笛卡尔积集U1×U2×…×Un的一个模糊子集 ,称为U1,U2,…,Un间的一个n元模糊关系。特别地,Un的一个模糊子集称为U上的一个n元模糊关系。 2019/4/18 史忠植 人工智能:不确定性推理

模糊集合的运算 普通集合一样, 也可定义模糊集合的交、并、补运算。 定义 设A、B是X的模糊子集, A、B的交集A∩B、并集A∪B和补集A′, 分别由下面的隶属函数确定: 2019/4/18 史忠植 人工智能:不确定性推理

语言变量 模糊集合的一种应用是计算语言学,目的是对自然语言的语句进行计算,就象对逻辑语句进行运算一样。 语言变量可以看作是用某种自然语言和人工语言的词语或句子来表示变量的值和描述变量间的内在联系的一种系统化的方法 模糊集合和语言变量可用于量化自然语言的含义,因而可用来处理具有指定值的语言变量。 Fuzzy logic=computing with words 2019/4/18 史忠植 人工智能:不确定性推理

模糊逻辑 模糊逻辑是研究模糊命题的逻辑。 设n元谓词 表示一个模糊命题。定义这个模糊命题的真值为其中对象x1, x2, …, xn对模糊集合P的隶属度, 即 此式把模糊命题的真值定义为一个区间[0, 1]中的一个实数。 那么,当一个命题的真值为0时, 它就是假命题;为1时,它就是真命题;为0和1之间的某个值时, 它就是有某种程度的真(又有某种程度的假)的模糊命题。 2019/4/18 史忠植 人工智能:不确定性推理

模糊逻辑 在上述真值定义的基础上, 我们再定义三种逻辑运算: T(P∧Q)=min(T(P),T(Q)) T(P∨Q)=max(T(P),T(Q)) T(P)=1-T(P) 其中P和Q都是模糊命题。 这三种逻辑运算称为模糊逻辑运算。由这三种模糊逻辑运算所建立的逻辑系统就是所谓的模糊逻辑。 可以看出, 模糊逻辑是传统二值逻辑的一种推广。 2019/4/18 史忠植 人工智能:不确定性推理

模糊推理 模糊推理是基于不确切性知识(模糊规则)的一种推理。 例如 如果x小, 那么 y大。 x较小 y? 就是模糊推理所要解决的问题。 模糊推理是一种近似推理, 一般采用Zadeh提出的语言变量、 语言值、模糊集和模糊关系合成的方法进行推理。 2019/4/18 史忠植 人工智能:不确定性推理

模糊推理 1965年,Zadeh 提出模糊集合的概念, 1974 年他又将模糊集引入推理领域开创了模糊推理技术以来, 模糊推理就成为一种重要的近似推理方法。特别是 20 世纪 90 年代初, 日本率先将模糊控制用于家用电器并取得成功, 引起了全世界的巨大反响和关注。之后, 欧美各国都竞相在这一领域展开角逐。模糊技术已向自动化、计算机、 人工智能等领域全面推进,出现模糊推理机、 模糊控制器、 模糊芯片、模糊计算机等, 模糊逻辑、模糊语言、 模糊数据库、模糊知识库、模糊专家系统、模糊神经网络等新概念层出不穷。 2019/4/18 史忠植 人工智能:不确定性推理

模糊推理 A→B=﹁A∨B=(﹁A∨B)∧(﹁A∨A) =A∧B∨﹁A Zadeh给出的模糊推理方法, 一般称为模糊推理的CRI (Compositional Rule of Inference)法。 CRI法的关键有两步:一步是由模糊规则导出模糊关系矩阵R, 一步是模糊关系的合成运算。在第一步中, Zadeh给出的求R的公式,其依据是把模糊规则A→B作为明晰规则A→B的推广,并且利用逻辑等价式 A→B=﹁A∨B=(﹁A∨B)∧(﹁A∨A) =A∧B∨﹁A 再运用他给出的模糊集合的交、并、补运算而得出来的。但仔细分析,不难看出, 这样做是存在问题的。因为,规则前提模糊集与结论模糊集元素之间的关系应该是函数关系,而不是逻辑关系, 但这里是用逻辑关系来处理函数关系的。 2019/4/18 史忠植 人工智能:不确定性推理

模糊推理 MinMax方法 Product方法 BoundedSum方法 模糊化:模糊化借助于输入模糊集合的隶属函数转变输入值为隶属度,即模糊化是根据模糊集合转变输入值为隶属度值的过程。 模糊估值:由于模糊控制规则的部分匹配特性和规则的前提条件相重叠的事实,通常在一个时刻可能有多于一条的模糊规则被激活,用来决定执行哪个控制规则的方法称为冲突消解过程。规则估值过程确定了每个规则被满足的程度。 常用的方法: MinMax方法 Product方法 BoundedSum方法 2019/4/18 史忠植 人工智能:不确定性推理

模糊推理 清晰化: 通过规则估值得到规则强度后,仍然需要进一步的处理,这个处理给出就是输出的清晰化。这一必须执行的过程,要生成非模糊化的控制动作,为了从截取后的输出模糊集中确定出一个清晰的值,必须首先合并这些输出模糊集。这是通过把所有的输出模糊连接起来,并且在所有的点上取大值来进行的。 常用方法: 重心法 Truth Value Flow 2019/4/18 史忠植 人工智能:不确定性推理

模糊推理   正由于CRI方法缺乏坚实的理论依据, 所以常导致推理的失效。 为此, 包括Zadeh本人在内的许多学者, 都致力于模糊推理的理论和方法研究, 并提出了许许多多(不下数十种)的新方法。例如, Mandani推理法、TVR法、直接法、强度转移法、模糊计算逻辑推理法等等, 其中也有我国学者的重要贡献。但总的说来, 这些方法几乎还都是在逻辑框架下提出的一些隶属度变换或计算模型, 因而总存在这样或那样的问题或缺陷。因此, 模糊推理理论与技术仍然是人工智能中的重要课题。 2019/4/18 史忠植 人工智能:不确定性推理

内容提要 4.1 概述 4.2 可信度方法 4.3 主观贝叶斯方法 4.4 证据理论 4.5 模糊逻辑和模糊推理 4.6 小结 4.1 概述 4.2 可信度方法 4.3 主观贝叶斯方法 4.4 证据理论 4.5 模糊逻辑和模糊推理 4.6 小结 2019/4/18 史忠植 人工智能:不确定性推理

小结 目前关于不确定性处理方法的研究,主要沿着两条路线发展:一是在推理一级扩展确定性推理,建立各种不确定性推理的模型。它又分为数值方法和非数值方法。本章主要讨论的是数值方法,如概率方法、可信度方法、主观贝叶斯方法、证据理论、模糊方法等。另一条路线是在控制一级上处理不确定性,称为控制方法。对于处理不确定的最优方法,现在还没有一个统一的意见。 2019/4/18 史忠植 人工智能:不确定性推理

Thank You 人工智能 http://www.intsci.ac.cn/ 2019/4/18 史忠植 人工智能:不确定性推理 NN 1 10-00 Thank You 人工智能 http://www.intsci.ac.cn/ 2019/4/18 史忠植 人工智能:不确定性推理 Elene Marchiori