§9.3 人工神经网络 n 人工神经网络 (Artificial Neural Network, ANN) 是在现代生物学研究人脑组织所取得成果的基 础上提出的，它利用大量简单的处理单元广泛 连接组成的复杂网络来模拟人类大脑的神经网 络结构和行为。 n 人工神经网络具有人脑功能的基本特征：即学 习、记忆、概括、归纳和抽取等，从而解决了 人工智能研究中的某些局限性。 – 注意：这种模拟具有很大的局限性。
§9.3.1 人工神经网络的基本特征 n 1. 学习 神经网络可以根据外界环境修改自身的行为。 n 2. 概括 经过训练，神经网络的响应能在某种程度上对 外界输入信息少量的丢失或神经网络组织的局部 缺损不再很敏感。因此，神经网络具有鲁棒性 (Robust 、稳健性 ) ，或称为容错能力。 n 3. 抽取 神经网络还有一种抽取外界输入信息特征的特 殊功能，或称神经网络具有创造性。
§9.3.2 人工神经网络的基本模型 n 人类大脑的活动过程 n 典型的人工神经网络模型
n 人类大脑的活动过程 输入信息 ( 视觉、听觉、触觉等 ) 经延迟、分析和提取特 征后产生输出 ( 动作 ) 。 加工 存贮 逻辑 长期 非逻辑 短期 输出系统 语言、动作 输入系统 视、听、触 控制系统 有意识控制 无意识控制 动力系统 理想、目标、兴趣等 客体
n 典型的人工神经网络模型 由神经元通过连接弧连接构成输入层、中间层和输出层。 输出层 中间层 输入层
§9.3.3 神经元的结构模型 称为连接权重 F 称为特征传递函数
人工神经网络常用的传递函数 n (1) 线性特征函数： ，其中 k 为常数 n (2) 阈值特征函数： n (3)S 形逻辑特征函数： 又称 sigmoid 函数。 n (4) 双曲正切特征函数：
§9.3.4 人工神经网络的学习算法 n 有监督训练 反向传播网络 (B-P 网络 ) 、统计网络和 Hopfield 网络等。 n 无监督训练 自适应共振理论网络 (ART 网络 ) 、自组 织特征映射网络 (Kohonen 网络 ) 等。
B-P 网络的学习算法 n B-P—Back Propagation n 学习算法： – 正向传播：向前传播计算，从输入层开 始，传递各层并经过处理后，产生一个 输出，并得到一个该实际输出和所需输 出之差的差错矢量； – 反向传播：反向传播计算，从输出层至 输入层，利用差错矢量对权值进行逐层 修改。
输出层 中间层 输入层
B-P 网络的学习过程 n (0) 网络权值的初始化，设为小的随机数。 n (1) 从训练范例 ( 又称样本 ) 集中取一训练对，把输 入矢量用作网络的输入； n (2) 计算网络输出矢量： ； n (3) 计算网络输出矢量与训练对中目标矢量间的 差错： ； n (4) 再从输出层反向计算到中间层，向减少差错方 向调整网络权值： ； n (5) 对训练范例集中每一个范例重复 (1)-(4) 步，直 至整个训练集的差错最小。
梯度下降法： 定义： 得： 称为学习速率
输出层： 中间层： 对于 Sigmoid 函数：
B-P 算法的改进 动量常数 的应用： 指数平滑法： 特性函数的修正： 小波神经网络 函数连接型神经网络
§9.3.5 人工神经网络的应用 n 非化学领域： 专家系统、语音的识别与合成、故障的 判断、模式识别与分类等。 n 化学及相关领域： 医疗、制药、食品、环境化学、纺织、 材料科学、考古、石油等。 n 研究内容： 定量分析、波谱解析、化学模式识别与 分类、定量构效关系 (QSAR) 等。
人工神经网络用于原子半径预测 输入参数：原子的第一电离能、原子实及核外电子排布 (s, p, d, f 电子数 ) 输出参数：原子半径 ( 共价半径、金属半径、范德化半径 )
人工神经网络用于电子亲合能预测 输入参数：原子的第一电离能、原子实及核外电子排布 (s, p, d, f 电子数 ) 输出参数：电子亲合能
人工神经网络的其他应用 (1) n MnSi 钢的冷弯性能判别 热轧 25MnSi 钢 输入：化学成分： C, Si, Mn, P, S, Cr, Mo 输出： 0- 冷弯性能差； 1- 冷弯性能好 n 多组分体系的同时测定 Mo-W 混合体系； 维生素混合体系 (B1, B2, B6, 菸酰胺 ) 输入：混合物溶液的吸收光谱 输出：各组分的浓度 n - 环糊精包合常数的预测 输入 : 取代基的性质： (1) 摩尔体积 V m ； (2) 摩尔折 射率 R m ； (3) 疏水参数 ； (4)Hammett 常数 输出 : 包合常数
人工神经网络的其他应用 (2) n 古陶瓷产地预测 输入 : 某些化学元素的含量 (La,Ce,Nd,Sm,Eu,Tb,Yb,Lu, U,Th, Sc,Ba,Ta,Cs,Rb,Cr) 输出 : 是否出自某产地 (0,1) n 医疗诊断 -- 老年痴呆症的诊断 输入 : 头发中的某些微量元素 (Ca,Mg,Al,Cu,Zn,Fe,Mn,Pb,Cd) 输出 : 是否患有老年痴呆症 (0,1)
作 业 n 简述 B-P 网络的模型和训练过程。