Download presentation
Presentation is loading. Please wait.
1
提纲 主要参考书目 AI的基础及萌芽 AI的创立及发展 AI的主要研究范围 国外著名的AI研究机构 AI在中国 AI的最新动态
2
1.1 主要参考书目 Stuart Russell, Peter Norvig. “Artificial Intelligence: A Modern Approach”. Pearson Education, [重点推荐] AI领域集大成的杰作 中译本:《人工智能—一种现代方法(第二版)》, 姜哲 等译, 人民邮电出版社, 2004
3
主要参考数目(续1) Nils J. Nilsson. Artificial Intelligence: A New Synthesis. China Machine Press,1999(中译本:《人工智能—一种新的集成》. 郑扣根、庄越挺 等译,2000) Tom M. Mitchell. Machine Learning. China Machine Press, 【已有中译本】 John F. Sowa. Knowledge Representation: Logical, Philosophical and Computational Foundations. China Machine Press, 2003. Vladimir N. Vapnik 著,张学工 译. 统计学习理论的本质. 清华大学出版社,2000.
4
主要参考数目(续2) 王永庆. 人工智能原理与方法. 西安:西安交通大学出版社, 1998.
王永庆. 人工智能原理与方法. 西安:西安交通大学出版社, 1998. 史忠植. 高级人工智能. 科学出版社, 1998. 陆汝钤. 人工智能(上、下册). 科学出版 社,2000. 蔡自兴,徐光佑. 人工智能及其应用(第三版). 清华大学出版社,2004. 王珏, 周志华, 周傲英. 机器学习及其应用. 清华大学出版社, 2006.
5
1.2 AI的基础和萌芽 1.2.1 AI的基础 哲学(428 B. C. - 现在) 意识、思维的理性部分的形式化 ……
数学(800 - 现在) 逻辑、计算、概率 …… 经济学(1776 - 现在) 决策、博弈、运筹学 …… 神经科学(1861 - 现在) 简单细胞的集合能够导致思维、意识和行动
6
AI的基础(续1) 心理学(1879 - 现在) 认知心理学:大脑当作信息处理装置 实验心理学: 1879年Wundt在莱比锡大学首创
控制论(1948 - 现在):1948年Viener 语言学(1957 - 现在):Shinner,乔姆斯基理论
7
AI的基础(续2) 计算机工程(1940 - 现在) 电动机械式计算机Heath Robinson :1940年图灵研究组,用于破译德军情报 真空电子管通用机器Colossus:1943年图灵研究组 可编程计算机Z-3:1941年德国的Konrad Zuse
8
1.2.2 AI的萌芽 Aristotle (亚里士多德) (公元前384-322) 古希腊伟大的哲学家、思想家,Plato(柏拉图)的学生
代表作《工具论》 对AI的主要贡献:为形式逻辑奠定了基础,而形式逻辑是一切推理活动的最基本的出发点。
9
AI的萌芽(续1) Aristotle对AI的主要贡献 (续) “三段论” “演绎法” “模态逻辑” ……
10
AI的萌芽(续2) Bacon (培根)(1561-1626) 英国哲学家、自然科学家 著名口号:“知识就是力量” 代表作:《新工具》
对AI的主要贡献:系统地提出了“归纳法”,成为和Aristotle演绎法相辅相成的思维法则。 20世纪70年代末,Stanford大学Feigenbaum提出专家系统时,以Bacon的口号为重要依据。 ……
11
AI的萌芽(续3) Leibnitz (莱布尼茨) (1646-1716) 德国数学家、哲学家
提出的计划:建立一种通用的符号语言,以及一种在此基础上进行推理的演算。 ……
12
AI的萌芽(续4) Godel (哥德尔) (1906-1978) 美籍奥地利数理逻辑学家
1930年证明:一阶谓词演算的完备性定理。 1931年证明了两条不完备性定理:提出了把人的思维形式化和机械化的某些极限,在理论上证明了有些事情是做不到的。 ……
13
AI的萌芽(续5) Turing (图灵) (1912-1954) 英国数学家 1936年提出一种理想计算机的数学模型——“图灵机” 。
给出智能标准的明确定义:把人和计算机分处两个不同的房间,并且互相对话,如果作为人的一方不能判断对方是人还是计算机,则那台计算机就达到了人的智能。 ……
14
AI的萌芽(续6) Von Neumann (冯.诺依曼) 1946年研制成功世界上第一台电子计算机 “ENIAC”
……
15
AI的萌芽(续7) James, Hebb, McCulloch & Pitts, James发现神经元是相互连接的
McCulloch & Pitts发现神经元的工作方式可分为“兴奋”和“抑制”,并于1943年建立第一个“神经网络数学模型” ,从而开创微观AI —— 通过模拟人脑来实现智能
16
AI的萌芽(续8) Shannon (香农) 美国数学家 1948年创立“信息论”
……
17
1.3 AI的创立和发展 AI的诞生 1956年夏天 Boston,Dartmouth(达特茅斯)学院 McCarthy(美国AI之父)召集 与会人员 数学家McCarthy、信息学家Shannon、心理学家和神经生理学家Rochester, Moore, Solomonff,计算机科学家Simon, Newell, Samuel, Minsky, Selfridge。
18
AI的诞生地:美国Boston。上图为横穿波士顿市区的Charles River
McCarthy在此次会议上提议正式使用: Artificial Intelligence(简称AI),标志着“人工智能”作为一门独立学科正式诞生。 AI的诞生地:美国Boston。上图为横穿波士顿市区的Charles River
19
位于波士顿的MIT已成为美国四大AI名校之一
20
什么是AI? Systems that think like humans. 类人思考:认知模型方法
Systems that think rationally. 理性地思考:“思维法则”方法 Systems that act like humans. 类人行为:图灵测试方法 Systems that act rationally. 理性地行动:理性Agent方法
21
1.3.2 AI曲折的发展历程 早期的热情、巨大的期望(1952-1969) 现实的困境(1966-1973)
基于知识的系统:力量的钥匙? (1969 – 1979) AI成为工业 (1980 – 现在) 神经网络的回归 (1986 – 现在) AI 成为科学 (1987 – 现在) Intelligent Agent的出现 (1995 – 现在) ……
22
1. 早期的热情,巨大的期望 (1952~1969) 自然语言的机器翻译。1953年,美国乔治大学,1954年IBM公司在701计算机上做俄译英的公开表演。此时,前苏联、中国也开展机器翻译的研究。 利用计算机证明数学定理。1956年,Newell和Simon,用程序Logic Theorist证明《数学原理》第二章中的38条定理,1963年证明全部52条定理。 1956年,Samuel研制了第一个跳棋程序,具有学习功能,打败一个州冠军。
23
AI研究早期的热情(续1) 1956年,Selfridge研制第一个字符识别程序。1959年,又提出功能更强的模式识别。
1957年, Newell,Shaw和Simon研究不依赖具体领域的通用解题程序GPS(General Problem Solving) 1965年,Robinson提出消解法(即归结原理),掀起研究计算机定理证明的又一次高潮。
24
AI权威Newell, Simon等早期所说的“大话”
不出10年,计算机将成为世界象棋冠军。 不出10年,计算机将发现和证明重要的数学定理。 不出10年,计算机将能谱写具有优秀作曲家水平的乐曲。 不出10年,大多数心理学理论将在计算机上形成。 有人甚至断言,20世纪80年代将全面实现AI,2000年机器智能超过人。
25
2. 现实的困境 (1966~1973) 消解法(归结原理)能力有限 例如:证明两个连续函数之和仍是连续函数,推了10万步还没有推出来。
Sauel的下棋程序,1965年,世界冠军Helmann获得四连胜。 机器翻译闹出不少笑话 (举例见下页) 有人挖苦说,美国花了2000万美元为机器翻译立了一块“墓碑”。
26
机器翻译闹出的笑话举例: “The spirit is willing but the flesh is weak”,意思是“心有余而力不足”。 机器翻译过程:英语-> 俄语 -> 英语 结果被译为: “The vodka is good but the meat is spoiled”,意思是“伏特加是好的,肉变质了”。 “Out of sight, out of mind”,意思是“眼不见心不烦”。 将其翻译成俄语,竟成了:“ 又瞎又疯”。 ……
27
现实的困境 (续) 从神经生理学角度研究AI,存在不可逾越的困难。人脑有1010以上个神经元,能否将1010个机器组成一个联合运行的网络?
1973年,英国发表了Lighthill report,认为AI的研究即使不是骗局,至少也是庸人自扰。终止了英国的AI研究。 IBM公司也取消了本公司范围内的AI研究活动。
28
3. KBS: 力量的钥匙? (1969 – 1979) Newell, Simon等老一辈AI专家,关心的是“通用的、万能的符号逻辑运算体系”——物理符号系统假设。 Nilsson更进一步提出,物理符合体系的核心方法是逻辑演绎方法。他的口号——“命题主义” ,主张一切AI研究应在一个类似逻辑的形式框架内进行。 1968年,Stanford年轻教授Feigenbaum主持的专家系统DENDRAL问世,开创了AI的一个重要应用领域,以知识为基础的专家咨询系统(KBS)。
29
Feigenbaum及其提出的KBS的主要贡献
在IJCAI-1977上,Feigenbaum提出知识工程、专家系统及其开发工具 Feigenbaum认为,万能的逻辑体系从根本上说是不可能的,其最大弱点就是缺乏知识,缺乏人类在几千年的文明史上积累起来的知识。 Feigenbaum的主要贡献: 知识工程是 AI中最有成就的分支之一 在恢复和推进AI的社会形象方面起了很大作用
30
4. AI成为工业 (1980 – 现在) 专家系统及其开发工具 1981年,日本的“第五代计算机”计划
英国的Alvey Report建议恢复投资AI 提出——“基于知识的智能系统”(Intelligent Knowledge Based System, IKBS)
31
5. 神经网络的回归 (1986 – 现在) 1969年,Bryson & Ho提出反向传播算法 1982年,Hopfield神经元网络
1986年,Rumelhart & McClelland:主编论文集 — Parallel Distributed Processing 形成“联接主义”方法,与“符号主义”方法形成互补
32
6. AI成为科学(1987-现在) AI理论应建立在严密的数学基础上 严格的定理、确凿的实验证据,不靠直觉
与现实应用相关,而不是与玩具样例相关 机器学习不应与信息论分离 不确定性推理不应与随机模型分离 搜索不应和经典的优化及控制分离 自动推理不应和形式化方法分离 在方法论上,AI已成为坚实的科学方法 利用Internet和共享测试数据库及代码,AI系统的重复实验成为可能
33
7. Intelligent Agent的出现(1995-现在)
Internet :最重要的Intelligent Agent 环境之一 AI 成为搜索引擎、推荐系统、商务智能系统的基本工具 “Agent的观点”: 将AI领域目前分离的子领域重新组织为一个有机整体 Russell & Norvig. AI: A Modern Approach Pools et al. 1998 Nilsson, 1998 ……
34
1.3.3 AI的主要研究流派 Newell和Simon的“认知主义”,即基于“物理符号逻辑” Nilsson的“逻辑主义”
McCarthy主张以非单调逻辑为中心的“常识推理” Brooks的“进化主义”,代表作“机器虫” McCulloch和Pitts的“联接主义”,基于他们提出的“神经网络理论” Vapnik的“统计学习理论”,基于概率论和数理统计、泛函分析等数学基础) ……
35
AI研究的5个基本问题 1987年5月,在MIT召开了AI专题讨论会,几位主要代表人物阐述了对AI基础的认识,评价有关基础性工作。 1991年《Artiificial Intelligence》(1991, Vol.47)发表了AI基础研究专辑。其中,Kirsh提出了AI的五个基本问题: 知识与概念化是不是AI的核心? 认知能力能否与载体分开来研究? 认知的轨迹是否可用类自然语言来描述? 学习能否与认知分开来研究? 所有的认知是否有一种统一的结构? 针对上述五个基本问题,各个流派都做出不同的回答。
36
1.3.5 智能的本质是什么? 计算机所完成的高速数字计算,不算高级的智能行为 现实世界要处理的大多数问题并非数值计算
智能的本质是什么? 计算机所完成的高速数字计算,不算高级的智能行为 现实世界要处理的大多数问题并非数值计算 自然语言理解和翻译 图形、图象、声音的理解 决策管理、医疗诊断…… 需要将计算机从“数值世界”推广到“知识世界”,即从“数据处理范围”扩展到“符号知识处理范畴” “试探性的搜索、启发式的、不精确的、模糊的、甚至允许出现错误的推理方法才更符合人类的思维过程 ……
37
1.4 AI的研究范围 广义的研究范围 关于AI研究范围的争议 AI的核心是什么?
38
1.4.1 广义的研究范围 知识表示 搜索技术 非经典逻辑 & 非经典推理 演绎系统 产生式系统 框架结构 语义网络 ...... 盲目搜索
广义的研究范围 知识表示 演绎系统 产生式系统 框架结构 语义网络 ...... 搜索技术 盲目搜索 启发式搜索 博弈树搜索 非经典逻辑 & 非经典推理 时序逻辑 模态逻辑 缺省(默认)逻辑 信念逻辑和知道逻辑 归纳逻辑 模糊逻辑 粗糙逻辑 定性推理 非单调逻辑和非单调推理 基于范例的推理 类比推理 ……
39
广义的研究范围(续1) 机器学习 自然语言理解 知识工程 定理机器证明 归纳学习 分析学习 解释学习 统计学习 神经网络 ......
语法学 语义学 语用学 知识工程 知识获取 知识表达语言 不确定性推理 证据推理 专家系统 ...... 定理机器证明 归结法 演绎法 归纳法
40
广义的研究范围(续2) 计算视觉 遗传算法 & 进化计算 分布式AI 数据挖掘 & 知识发现 图像理解 机器人视觉 ...... 遗传算法
进化程序设计 遗传机器学习 机器人轨迹规划 分布式AI 智能Agent 多Agent系统 Agent通信 面向Agent程序设计 ...... 数据挖掘 & 知识发现 DM/KDD方法 DM/KDD工具 数据仓库
41
广义的研究范围(续3) 人工生命 机器人 AI语言 …… 人工生命模型 计算机生命 细胞自动机 混沌理论 ...... 机器人规划
传感器数据融合 AI语言 Lisp语言 Prolog语言 其它面向AI的语言 ...... ……
42
1.4.2 关于AI研究范围的争议 边界不分明 似乎只能开辟“生荒地” 与数学交叉 与语言学交叉 与电子学 & 机械学交叉
定理机器证明 非经典逻辑 ...... 与语言学交叉 自然语言理解 口语理解 与电子学 & 机械学交叉 计算机视觉 机器人 ...... 与心理学&神经解剖学交叉 认知模型 心像处理
43
1.4.3 AI的核心是什么? Nilsson —— 演绎推理 Newell, Simon —— 思维规律 Sloman —— 智能系统
Feigenbaum —— 知识工程 McCarthy —— 核心还未构成 ……
44
1.5 国外著名的AI研究机构 美国 欧洲 其他 AI四大名校:Stanford, CMU, MIT, UC Berkeley
University of Washington, University of Texas at Austin, etc. 欧洲 Oxford University, Cambridge University, etc. 其他 University of Toronto, University of Alberta, etc.
45
1.6 AI在中国 中国大陆的AI研究 中国香港的AI研究 浙江大学的AI研究
46
1. 中国大陆的AI研究 1984年钱学森提出思维的三大分类 中国大陆重要的AI研究机构 逻辑思维 形象思维 灵感思维
清华大学智能技术与系统国家重点实验室 南京大学软件新技术国家重点实验室 中科院自动化所模式识别国家重点实验室 ……
47
中国大陆的AI研究(续) 中国大陆著名的老一辈AI专家 中国大陆年轻一代的AI领军人物 张 钹 院士:清华大学计算机系
张 钹 院士:清华大学计算机系 戴汝为 院士:中科院自动化所 陆汝钤 院士:中科院数学与系统科学研究所 …… 中国大陆年轻一代的AI领军人物 应明生 教授:清华大学计算机系 周志华 教授:南京大学计算机系
48
2. 中国香港的AI研究 中国香港的著名AI研究机构 中国香港的AI领军人物 香港科技大学 香港中文大学 香港大学 ……
Lin Fangzhen(林方真)教授:香港科大 在AI理论方面的研究成果引入注目 担任AAAI, IJCAI等顶级AI会议的程序委员会委员
49
3. 浙江大学的AI研究 浙江大学的主要AI研究机构 浙江大学人工智能研究所 浙江大学工业控制国家重点实验室 浙江大学信电系 ……
何志均 教授 俞瑞钊 教授 潘云鹤 院士 朱淼良 教授 …… 计算机学院的AI专家 吴朝晖 教授 庄越挺 教授 高 济 教授 姚 敏 教授 ……
50
1.7 AI的最新动态 当前AI的研究热点 AAAI及IJCAI的近况 AI的地位和作用
51
1. 当前AI的研究热点 非单调推理 基于逻辑的非单调推理 基于概率的非单调推理
52
1. 当前AI的研究热点(续1) 统计学习理论(SLT) & 支持向量机(SVM)
核(Kernel)方法 …… 概率图模型(Probabilistic Graphic Models) 隐马尔可夫模型(HMM) 贝叶斯网络(Bayesian Networks)
53
当前AI的研究热点(续1) Markov Logic Networks(MLNs) 数据挖掘 & 知识发现
Markov随机场( Markov Random Field ) 符号机器学习 符号逻辑与统计逻辑的综合集成 …… 数据挖掘 & 知识发现 Web Mining 商务智能 基于DM/KDD的智能辅助决策
54
当前AI的研究热点(续2) Web智能 & Integrated Intelligence Capabilities
Web智能(Web Intelligence,简称WI) Integrated Intelligence Capabilities …… 生物信息学 & 神经信息学(Neural Informatics) 生物信息学(Bioinformatics) 神经信息编码及处理 脑机工程(Brain-Machine Engineering,BME)
55
当前AI的研究热点(续3) 新的机器学习方法 流形学习(Manifold Learning)
增强学习(Reinforcement Learning) 多示例学习(Multi-instance Learning) 半监督学习(Semi-supervised Learning) 关系学习(Relational Learning) Ranking学习(Learning for Ranking) 数据流学习(Data Stream Learning) ……
56
2. AAAI及IJCAI的近况 国际顶级的2个AI综合性学术会议 国际顶级的几个著名AI专业性学术会议
AAAI: National Conference on Artificial Intelligence IJCAI: Intl. Joint Conference on Artificial Intelligence 国际顶级的几个著名AI专业性学术会议 UAI: Intl. Conf. on Uncertainty in AI ICML: Intl. Conf. on Machine Learning NIPS: Annual Conf. on Neural Information Processing Systems ……
57
AAAI’2004简况 Stanford, CMU, MIT, UC Berkeley占有绝对优势 被录用论文占据40%以上
平均每年有1~3篇论文的名校 USA:UIUC, Harvard, Univ. of Maryland, Galtech, Caltech, Univ. of Washington, Cornel, …… UK: Cambrige, Oxford, …… 其它高校的论文多半属零星之作 AI的实力分布大体上与学校的知名度成正比 ……
58
IJCAI’2005简况 论文录用情况 Regular paper: 240篇 Poster paper: 112篇
中国大陆及香港地区被录用的论文数 大陆:周志华 教授 1 篇 Regular paper 香港:林方真 教授 1 篇 Regular paper 大中华地区其它高校和研究机构 无论文被录用
59
AAAI’2006简况 AAAI/IAAI’2006的举办地:World Trade Center Boston
61
AAAI’2006简况(续) AI成立50周年 论文收稿量及录用情况 中国大陆及香港地区被录用的论文数 有特殊的纪念意义
特别选择在AI的诞生地Boston召开 论文收稿量及录用情况 收稿量:774篇(来自44个国家和地区,444篇来自美国之外) Regular paper: 171篇 Poster paper: 65篇 中国大陆及香港地区被录用的论文数 周志华研究小组3篇AAAI: 2 Regular + 1 Poster 浙大人工智能研究所1篇IAAI(第18届AI创新应用大会) 香港:若干篇AAAI
62
关于IJCAI-07及AAAI-07 IJCAI-07 AAAI-07 举办地:Hyderabad, India(印度)
日期:January 6-12, 2007 AAAI-07 举办地:Vancouver, British Columbia, Canada 日期:July 22-26, 2007
63
3. AI的地位和作用 智能系统在空间技术中将继续发挥重要作用 AI技术在军事领域中将继续得到广泛应用 智能Agent及多Agent系统
…… AI技术在军事领域中将继续得到广泛应用 军事情报分析 战场态势综合处理 数字化士兵
64
AI的地位和作用(续1) AI在生物技术和脑科学中将大有作为 AI在海量信息智能处理中将扮演重要角色 生物信息学 神经信息学 脑机工程 ……
商务智能 智能辅助决策 智能推荐服务系统
65
AI的地位和作用(续2) AI将成为必备的共性支撑技术之一 AI与Web的结合将发挥重要作用 智能传感器 智能机器人 智能家电 ……
网上信息智能抽取(Web Mining) 网上信息个性化推荐及订购
66
1.7 AI领域的著名期刊及会议 AI领域的著名期刊 AI领域的著名会议
67
1. AI领域的著名期刊 最顶级的AI期刊(部分) 权威的AI期刊(部分) Artificial Intelligence
Journal of Machine Learning Research …… 权威的AI期刊(部分) Artificial Intelligence Review AI Magazine Machine Learning Computational Intelligence
68
AI领域的著名期刊(续) 权威的AI期刊(续) Journal of AI Research Pattern Recognition
Artificial Intelligence in Medicine IEEE Trans. on Pattern Analysis & Machine Intelligence IEEE Trans. on Knowledge & Data Engineering IEEE Trans. on Neural Networks Journal of Data Mining & Knowledge Discovery ……
69
2. AI领域的著名会议 最顶级的AI会议 知名的AI会议(部分) 综合类:AAAI, IJCAI
专业类:UAI, ICML, NIPS, KDD, …… 知名的AI会议(部分) IAAI: Innovative Applications in AI(与AAAI一起开) ECAI: European Conf. on AI ECML: European Conf. on Machine Learning PKDD (欧洲数据挖掘大会,每年与ECML一起开)
70
AI领域的著名会议(续) 知名的AI会议(续)
CIKM: ACM Conf. on Information and Knowledge Management ICCV: Intl. Conf. on Computer Vision CVPR: Intl. Conf. on Computer Vision & Pattern Recognition ICPR: Intl. Conf. on Pattern Recognition ICDM: IEEE Intl. Conf. on Data Mining PAKDD: Pacific-Asia Conf. on Knowledge Discovery & Data Mining ……
Similar presentations