模糊聚类分析
模糊逻辑的发展 一、模糊逻辑的起源 模糊逻辑 --- Fuzzy Logic 模糊概念、模糊现象到处存在。
天气冷热 雨的大小 风的强弱 人的胖瘦 年龄大小 个子高低
经典二值(布尔)逻辑 在经典二值(布尔)逻辑体系中,所有的分类都被假定为有明确的边界;(突变) 任一被讨论的对象,要么属于这一类,要么不属于这一类; 一个命题不是真即是假,不存在亦真亦假或非真非伪的情况。(确定)
模糊逻辑 对二值逻辑的扩充。关键的概念是:渐变的隶属关系。 一个集合可以有部分属于它的元素;(渐变) 一个命题可能亦此亦彼,存在着部分真部分伪。(不完全确定)
模糊逻辑是通过模仿人的思维方式来表示和分析不确定、不精确信息的方法和工具。 模糊逻辑本身并不模糊,它并不是“模糊的” 逻辑,而是用来对“模糊”(现象、事件) 进行处理,以达到消除模糊的逻辑。
经典(二值)逻辑的数学基础: — —通过常规集合来工作的。 常规集合: 集合中的对象关系被严格划分为0或1,不存在介于两者之间的对象。 (1---完全属于这个集合;0---完全不属于这个集合)
模糊逻辑的数学基础: — —通过模糊集合来工作的。 模糊集合: 允许在一个集合部分隶属。即 对象在模糊集合中的隶属度可为从0 - 1之间的任何值。 即可以从“不隶属”到“隶属”逐步过渡。
二、模糊逻辑技术的发展和现状 1960年柏克莱加州大学电子工程系扎德(L.A.Zadeh)教授,提出“模糊”的概念。 1965年发表关于模糊集合理论的论文。 1966年马里诺斯(P.N.Marinos)发表关于模糊逻辑的研究报告。 以后,扎德(L.A.Zadeh)又提出关于模糊语言变量的概念。 1974年扎德(L.A.Zadeh)进行有关模糊逻辑推理的研究。
七十年代欧洲进行模糊逻辑在工业控制方面的应用研究: 实现了第一个试验性的蒸汽机控制; 热交换器模糊逻辑控制试验; 转炉炼钢模糊逻辑控制试验; 温度模糊逻辑控制; 十字路口交通控制; 污、废水处理等。
八十年代日本情况: 列车的运行和停车模糊逻辑控制,节能11—14%; 汽车速度模糊逻辑控制(加速平滑、上下坡稳定); 港口集装箱起重机的小车行走和卷扬机的运行控制; 家电模糊逻辑控制(电饭煲、洗衣机、微波炉、空调、电冰箱等)。
中国:在模糊理论和应用方面的研究起步较慢,但发展较快: 1976年 起步 1979年 模糊控制器的研究 1980年 模糊控制器的算法研究 1981年 模糊语言和模糊文法的研究
1982年 磨床研磨表面光洁度模糊控制、开关式液压位置伺服系统模糊控制研究 1984年提出语义推理的自学习方法 1986年单片微机比例因子模糊逻辑控 制器 1987年我国第一台模糊逻辑推理机
1990年起: 工业控制模糊逻辑控制器:玻璃窑炉、水泥回转窑、PVC树脂聚合过程、功率因数补偿等。 自然科学基金重大项目: “模糊信息处理与机器智能” “模糊逻辑控制计算机系统”等。
目前 模糊逻辑控制技术在工业控制、家电领域有很好发展 开展模糊信息处理方面的基础研究和理论研究 开发专用模糊控制电路和模糊推理芯片等。
模糊集合和隶属函数
精确集合(非此即彼): A={X|X>6} 精确集合的隶属函数(特征函数): 模糊集合: 如果X是对象x的集合,则X的模糊集合 A: 称为模糊集A的隶属函数。
隶属函数的性质: a) 定义为有序对; b) 隶属函数在0和1之间; c) 其值的确定具有主观性和个人的偏好。 X称为论域或域。 构造模糊集就是要:确定合适的论域和指定适当的隶属函数。
精确集合 1 13 模糊集合 1 13 6
论域的二种形式: 1)离散形式: 举例:X={上海 北京 天津 西安}为城市的集合。 模糊集合 C = “对城市的爱好”可以表示为: C = {(上海,0.8),(北京,0.9), (天津,0.7),(西安,0.6)} 又:X = {0 1 2 3 4 5 6}为一个家庭可拥有自行车数目的集合 模糊集合 C = “合适的可拥有的自行车数目” C= {(0,0.1),(1,0.3),(2,0.7),(3,1.0),(4,0.7),(5,0.3),(6,0.1)}(序偶表示法)
2) 连续形式: 令X = R+ 为人类年龄的集合, 模糊集合 B = “年龄在50岁左右”,则B可表示为: 图示:
模糊矩阵 模糊矩阵 模糊矩阵间的关系及并、交、余运算 模糊矩阵的合成 模糊矩阵的转置 模糊矩阵的λ-截矩阵
模糊矩阵 设R = (rij)m×n,若0≤rij≤1,则称R为模糊矩阵. 当rij只取0或1时,称R为布尔(Boole)矩阵. 当模糊方阵R = (rij)n×n的对角线上的元素rii都为1时,称R为模糊自反矩阵.
模糊矩阵间的关系及并、交、余运算 设A=(aij)m×n,B=(bij)m×n都是模糊矩阵,定义 相等:A = B aij = bij; 并:A∪B = (aij∨bij)m×n; 交:A∩B = (aij∧bij)m×n; 余:Ac = (1- aij)m×n.
模糊矩阵的合成 设A = (aik)m×s,B = (bkj)s×n,称模糊矩阵 A ° B = (cij)m×n, 为A 与B 的合成,其中cij = ∨{(aik∧bkj) | 1≤k≤s} . 模糊方阵的幂 定义:若A为 n 阶方阵,定义A2 = A ° A,A3 = A2 ° A,…,Ak = Ak-1 ° A.
模糊矩阵的转置 定义 设A = (aij)m×n, 称AT = (aijT )n×m为A的转置矩阵,其中aijT = aji. 转置运算的性质: 性质1:( AT )T = A; 性质2:( A∪B )T = AT∪BT, ( A∩B )T = AT∩BT; 性质3:( A ° B )T = BT ° AT;( An )T =( AT )n ; 性质4:( Ac )T = ( AT )c ; 性质5:A≤B AT ≤BT .
模糊矩阵的λ-截矩阵 设A = (aij)m×n,对任意的∈[0, 1],称 A= (aij())m×n,为模糊矩阵A的 - 截矩阵, 其中 当aij≥ 时,aij() =1; 当aij< 时,aij() =0. 显然,A的 - 截矩阵为布尔矩阵.
模糊聚类分析 模糊关系 模糊等价矩阵 模糊相似矩阵 模糊聚类分析的一般步骤
经典关系
关系也是映射
模糊关系 与模糊子集是经典集合的推广一样,模糊关系是普通关系的推广. 设有论域X,Y,X Y 的一个模糊子集 R 称为从 X 到 Y 的模糊关系. 模糊子集 R 的隶属函数为映射 R : X Y [0,1]. 并称隶属度R (x , y ) 为 (x , y )关于模糊关系 R 的相关程度. 特别地,当 X =Y 时,称之为 X 上各元素之间的模糊关系.
例 设身高论域X ={140, 150, 160, 170, 180} (单位:cm), 体重论域Y ={40, 50, 60, 70, 80}(单位:kg),下表给出了身高与体重的模糊关系. 0.8 0.2 0.1 150 160 170 180
由于模糊关系 R就是X Y 的一个模糊子集,因此模糊关系同样具有模糊子集的运算及性质. 模糊关系的运算 由于模糊关系 R就是X Y 的一个模糊子集,因此模糊关系同样具有模糊子集的运算及性质. 设R,R1,R2均为从 X 到 Y 的模糊关系. 相等:R1= R2 R1(x, y) = R2(x, y); 包含: R1 R2 R1(x, y)≤R2(x, y); 并: R1∪R2 的隶属函数为 (R1∪R2 )(x, y) = R1(x, y)∨R2(x, y); 交: R1∩R2 的隶属函数为 (R1∩R2 )(x, y) = R1(x, y)∧R2(x, y); 余:Rc 的隶属函数为Rc (x, y) = 1- R(x, y).
(R1∪R2 )(x, y)表示(x, y)对模糊关系“R1或者R2”的相关程度, (R1∩R2 )(x, y)表示(x, y)对模糊关系“R1且R2”的相关程度,Rc (x, y)表示(x, y)对模糊关系“非R”的相关程度. 模糊关系的矩阵表示 对于有限论域 X = {x1, x2, … , xm}和Y = { y1, y2, … , yn},则X 到Y 模糊关系R可用m×n 阶模糊矩阵表示,即 R = (rij)m×n, 其中rij = R (xi , yj )∈[0, 1]表示(xi , yj )关于模糊关系R 的相关程度. 又若R为布尔矩阵时,则关系R为普通关系,即xi 与 yj 之间要么有关系(rij = 1),要么没有关系( rij = 0 ).
(R1 ° R2) (x, z) = ∨{[R1 (x, y)∧R2 (y, z)]| y∈Y } 模糊关系的合成 设 R1 是 X 到 Y 的关系, R2 是 Y 到 Z 的关系, 则R1与 R2的合成 R1 ° R2是 X 到 Z 上的一个关系. (R1 ° R2) (x, z) = ∨{[R1 (x, y)∧R2 (y, z)]| y∈Y } 当论域为有限时,模糊关系的合成化为模糊矩阵的合成. 设X = {x1, x2, …, xm},Y = { y1 , y2 , … , ys}, Z= {z1, z2, … , zn},且X 到Y 的模糊关系R1 = (aik)m×s ,Y 到Z 的模糊关系R2 = (bkj)s×n ,则X 到Z 的模糊关系可表示为模糊矩阵的合成: R1 ° R2 = (cij)m×n 其中cij = ∨{(aik∧bkj) | 1≤k≤s}.
模糊等价矩阵 若模糊关系R是X上各元素之间的模糊关系,且满足: (1)自反性:R(x, x) =1; (2)对称性:R(x, y) =R(y, x); (3)传递性:R2R, 则称模糊关系R是X上的一个模糊等价关系. I ≤R ( rii =1 ) RT=R( rij= rji) R2≤R.
当<时, R的分类是R分类的加细.当由1变到0时, R的分类由细变粗,由模糊等价关系R确定的分类所含元素由少变多,逐步归并,最后成一类,这个过程形成一个动态聚类图,称之为模糊分类.
故R是模糊等价矩阵 再令λ由1降至0,写出Rλ,按Rλ分类
于是,得到动态聚类图如右图所示 ...... 以此类推,可以得到: λ 1 3 4 5 2 r 5 4 3 2 1 1 0.8 0.6 λ 1 3 4 5 2 r 5 4 3 2 1 于是,得到动态聚类图如右图所示 1 0.8 0.6 0.5 0.4
模糊相似关系 若模糊关系 R 是 X 上各元素之间的模糊关系,且满足: (1) 自反性:R( x , x ) = 1; (2) 对称性:R( x , y ) = R( y , x ) ; 则称模糊关系 R 是 X 上的一个模糊相似关系. 当论域X = {x1, x2, …, xn}为有限时,X 上的一个模糊相似关系 R 就是模糊相似矩阵,即R满足: (1) 自反性:I ≤R ( rii =1 ); (2) 对称性:RT = R ( rij = rji ).
模糊相似矩阵的性质 定理1 若R 是模糊相似矩阵,则对任意的自然数 k,Rk 也是模糊相似矩阵. 定理2 若R 是n阶模糊相似矩阵,则存在一个最小自然数 k (k≤n ),对于一切大于k 的自然数 l,恒有Rl = Rk,即Rk 是模糊等价矩阵(R2k = Rk ). 此时称Rk为R的传递闭包,记作 t ( R ) = Rk . 上述定理表明,任一个模糊相似矩阵可诱导出一个模糊等价矩阵. 平方法求传递闭包 t (R): RR2R4R8R16…
模糊聚类分析的一般步骤 (1)数据标准化 设论域X = {x1, x2, …, xn}为被分类对象,每个对象又由m个指标表示其形状: xi = { xi1, xi2, …, xim}, i = 1, 2, …, n 于是,得到原始数据矩阵为
a 平移 • 标准差变换 其中 b 平移 • 极差变换
(2)建立模糊相似矩阵方法 a 相似系数法 ----夹角余弦法
b 相似系数法 ----相关系数法 其中
从(2)求出的n阶模糊相似矩阵R出发,用平方法求其其传递闭包t(R),它就是将改造成的n阶模糊等价矩阵,再让λ由大变小,就可形成动态聚类图 (3)聚类(并画出动态聚类图) 从(2)求出的n阶模糊相似矩阵R出发,用平方法求其其传递闭包t(R),它就是将改造成的n阶模糊等价矩阵,再让λ由大变小,就可形成动态聚类图