模糊聚类分析.

Presentation on theme: "模糊聚类分析."— Presentation transcript:

1 模糊聚类分析

2 模糊逻辑的发展 一、模糊逻辑的起源 模糊逻辑 --- Fuzzy Logic 模糊概念、模糊现象到处存在。

3 天气冷热 雨的大小 风的强弱 人的胖瘦 年龄大小 个子高低

4 经典二值（布尔）逻辑 在经典二值（布尔）逻辑体系中，所有的分类都被假定为有明确的边界；（突变）
任一被讨论的对象，要么属于这一类，要么不属于这一类； 一个命题不是真即是假，不存在亦真亦假或非真非伪的情况。（确定）

5 模糊逻辑 对二值逻辑的扩充。关键的概念是：渐变的隶属关系。 一个集合可以有部分属于它的元素；（渐变）
一个命题可能亦此亦彼，存在着部分真部分伪。（不完全确定）

6 模糊逻辑是通过模仿人的思维方式来表示和分析不确定、不精确信息的方法和工具。
模糊逻辑本身并不模糊，它并不是“模糊的” 逻辑，而是用来对“模糊”（现象、事件） 进行处理，以达到消除模糊的逻辑。

7 经典（二值）逻辑的数学基础： — —通过常规集合来工作的。 常规集合： 集合中的对象关系被严格划分为0或1，不存在介于两者之间的对象。 （1---完全属于这个集合；0---完全不属于这个集合）

8 模糊逻辑的数学基础： — —通过模糊集合来工作的。 模糊集合： 允许在一个集合部分隶属。即 对象在模糊集合中的隶属度可为从0 - 1之间的任何值。 即可以从“不隶属”到“隶属”逐步过渡。

9 二、模糊逻辑技术的发展和现状 1960年柏克莱加州大学电子工程系扎德（L.A.Zadeh）教授，提出“模糊”的概念。
1965年发表关于模糊集合理论的论文。 1966年马里诺斯（P.N.Marinos）发表关于模糊逻辑的研究报告。 以后，扎德（L.A.Zadeh）又提出关于模糊语言变量的概念。 1974年扎德（L.A.Zadeh）进行有关模糊逻辑推理的研究。

10 七十年代欧洲进行模糊逻辑在工业控制方面的应用研究：
实现了第一个试验性的蒸汽机控制； 热交换器模糊逻辑控制试验； 转炉炼钢模糊逻辑控制试验； 温度模糊逻辑控制； 十字路口交通控制； 污、废水处理等。

11 八十年代日本情况： 列车的运行和停车模糊逻辑控制，节能11—14%； 汽车速度模糊逻辑控制（加速平滑、上下坡稳定）； 港口集装箱起重机的小车行走和卷扬机的运行控制； 家电模糊逻辑控制（电饭煲、洗衣机、微波炉、空调、电冰箱等）。

12 中国：在模糊理论和应用方面的研究起步较慢，但发展较快：
1976年 起步 1979年 模糊控制器的研究 1980年 模糊控制器的算法研究 1981年 模糊语言和模糊文法的研究

13 1982年 磨床研磨表面光洁度模糊控制、开关式液压位置伺服系统模糊控制研究
1984年提出语义推理的自学习方法 1986年单片微机比例因子模糊逻辑控 制器 1987年我国第一台模糊逻辑推理机

14 1990年起： 工业控制模糊逻辑控制器：玻璃窑炉、水泥回转窑、PVC树脂聚合过程、功率因数补偿等。 自然科学基金重大项目： “模糊信息处理与机器智能” “模糊逻辑控制计算机系统”等。

15 目前 模糊逻辑控制技术在工业控制、家电领域有很好发展 开展模糊信息处理方面的基础研究和理论研究 开发专用模糊控制电路和模糊推理芯片等。

16 模糊集合和隶属函数

17 精确集合（非此即彼）： A={X|X>6}
精确集合的隶属函数（特征函数）： 模糊集合： 如果X是对象x的集合，则X的模糊集合 A： 称为模糊集A的隶属函数。

18 隶属函数的性质： a) 定义为有序对； b) 隶属函数在0和1之间； c) 其值的确定具有主观性和个人的偏好。 X称为论域或域。
构造模糊集就是要：确定合适的论域和指定适当的隶属函数。

19 精确集合 1 13 模糊集合 1 13 6

20 论域的二种形式： 1）离散形式： 举例：X={上海 北京 天津 西安}为城市的集合。 模糊集合 C = “对城市的爱好”可以表示为： C = {(上海,0.8),(北京,0.9), (天津,0.7),(西安,0.6)} 又：X = { }为一个家庭可拥有自行车数目的集合 模糊集合 C = “合适的可拥有的自行车数目” C= {(0,0.1),(1,0.3),(2,0.7),(3,1.0),(4,0.7),(5,0.3),(6,0.1)}（序偶表示法）

21 2) 连续形式: 令X = R+ 为人类年龄的集合, 模糊集合 B = “年龄在50岁左右”，则B可表示为: 图示:

22 模糊矩阵 模糊矩阵 模糊矩阵间的关系及并、交、余运算 模糊矩阵的合成 模糊矩阵的转置 模糊矩阵的λ－截矩阵

23 模糊矩阵 设R = (rij)m×n，若0≤rij≤1，则称R为模糊矩阵. 当rij只取0或1时，称R为布尔(Boole)矩阵. 当模糊方阵R = (rij)n×n的对角线上的元素rii都为1时，称R为模糊自反矩阵.

24 模糊矩阵间的关系及并、交、余运算 设A=(aij)m×n,B=(bij)m×n都是模糊矩阵，定义 相等：A = B  aij = bij；
并：A∪B = (aij∨bij)m×n； 交：A∩B = (aij∧bij)m×n； 余：Ac = (1- aij)m×n.

25 模糊矩阵的合成 设A = (aik)m×s，B = (bkj)s×n，称模糊矩阵 A ° B = (cij)m×n，
为A 与B 的合成，其中cij = ∨{(aik∧bkj) | 1≤k≤s} . 模糊方阵的幂 定义：若A为 n 阶方阵，定义A2 = A ° A，A3 = A2 ° A，…，Ak = Ak-1 ° A.

26 模糊矩阵的转置 定义 设A = (aij)m×n, 称AT = (aijT )n×m为A的转置矩阵，其中aijT = aji.
转置运算的性质： 性质1：( AT )T = A； 性质2：( A∪B )T = AT∪BT， ( A∩B )T = AT∩BT； 性质3：( A ° B )T = BT ° AT；( An )T =( AT )n ； 性质4：( Ac )T = ( AT )c ； 性质5：A≤B  AT ≤BT .

27 模糊矩阵的λ－截矩阵 设A = (aij)m×n,对任意的∈[0, 1]，称
A= (aij())m×n,为模糊矩阵A的 - 截矩阵, 其中 当aij≥ 时，aij() =1； 当aij＜ 时，aij() =0. 显然，A的 - 截矩阵为布尔矩阵.

28 模糊聚类分析 模糊关系 模糊等价矩阵 模糊相似矩阵 模糊聚类分析的一般步骤

29 经典关系

30 关系也是映射

31 模糊关系 与模糊子集是经典集合的推广一样，模糊关系是普通关系的推广.
设有论域X，Y，X  Y 的一个模糊子集 R 称为从 X 到 Y 的模糊关系. 模糊子集 R 的隶属函数为映射 R : X  Y [0,1]. 并称隶属度R (x , y ) 为 (x , y )关于模糊关系 R 的相关程度. 特别地，当 X =Y 时，称之为 X 上各元素之间的模糊关系.

32 例 设身高论域X ={140, 150, 160, 170, 180} (单位：cm), 体重论域Y ={40, 50, 60, 70, 80}(单位：kg),下表给出了身高与体重的模糊关系.
0.8 0.2 0.1 150 160 170 180

33 由于模糊关系 R就是X  Y 的一个模糊子集，因此模糊关系同样具有模糊子集的运算及性质.
模糊关系的运算 由于模糊关系 R就是X  Y 的一个模糊子集，因此模糊关系同样具有模糊子集的运算及性质. 设R，R1，R2均为从 X 到 Y 的模糊关系. 相等：R1= R2  R1(x, y) = R2(x, y)； 包含： R1 R2  R1(x, y)≤R2(x, y)； 并： R1∪R2 的隶属函数为 (R1∪R2 )(x, y) = R1(x, y)∨R2(x, y)； 交： R1∩R2 的隶属函数为 (R1∩R2 )(x, y) = R1(x, y)∧R2(x, y)； 余：Rc 的隶属函数为Rc (x, y) = 1- R(x, y).

34 (R1∪R2 )(x, y)表示(x, y)对模糊关系“R1或者R2”的相关程度， (R1∩R2 )(x, y)表示(x, y)对模糊关系“R1且R2”的相关程度，Rc (x, y)表示(x, y)对模糊关系“非R”的相关程度. 模糊关系的矩阵表示 对于有限论域 X = {x1, x2, … , xm}和Y = { y1, y2, … , yn}，则X 到Y 模糊关系R可用m×n 阶模糊矩阵表示，即 R = (rij)m×n， 其中rij = R (xi , yj )∈[0, 1]表示(xi , yj )关于模糊关系R 的相关程度. 又若R为布尔矩阵时,则关系R为普通关系,即xi 与 yj 之间要么有关系(rij = 1),要么没有关系( rij = 0 ).

35 (R1 ° R2) (x, z) = ∨{[R1 (x, y)∧R2 (y, z)]| y∈Y }
模糊关系的合成 设 R1 是 X 到 Y 的关系, R2 是 Y 到 Z 的关系, 则R1与 R2的合成 R1 ° R2是 X 到 Z 上的一个关系. (R1 ° R2) (x, z) = ∨{[R1 (x, y)∧R2 (y, z)]| y∈Y } 当论域为有限时，模糊关系的合成化为模糊矩阵的合成. 设X = {x1, x2, …, xm},Y = { y1 , y2 , … , ys}, Z= {z1, z2, … , zn},且X 到Y 的模糊关系R1 = (aik)m×s ，Y 到Z 的模糊关系R2 = (bkj)s×n ，则X 到Z 的模糊关系可表示为模糊矩阵的合成： R1 ° R2 = (cij)m×n 其中cij = ∨{(aik∧bkj) | 1≤k≤s}.

36 模糊等价矩阵 若模糊关系R是X上各元素之间的模糊关系，且满足： (1)自反性：R(x, x) =1；
(2)对称性：R(x, y) =R(y, x)； (3)传递性：R2R, 则称模糊关系R是X上的一个模糊等价关系. I ≤R ( rii =1 ) RT=R( rij= rji) R2≤R.

37

38 当＜时, R的分类是R分类的加细.当由1变到0时, R的分类由细变粗,由模糊等价关系R确定的分类所含元素由少变多,逐步归并,最后成一类,这个过程形成一个动态聚类图,称之为模糊分类．

39 故R是模糊等价矩阵 再令λ由1降至0,写出Ｒλ,按Ｒλ分类

40

41 于是,得到动态聚类图如右图所示 ．．．．．． 以此类推,可以得到: λ １ ３ ４ ５ ２ r 5 4 3 2 1 1 0.8 0.6
λ　 １ ３　４ ５ ２ r 5 4 3 2 1 于是,得到动态聚类图如右图所示 1 0.8 0.6 0.5 0.4

42 模糊相似关系 若模糊关系 R 是 X 上各元素之间的模糊关系，且满足： (1) 自反性：R( x , x ) = 1；
(2) 对称性：R( x , y ) = R( y , x ) ； 则称模糊关系 R 是 X 上的一个模糊相似关系. 当论域X = {x1, x2, …, xn}为有限时，X 上的一个模糊相似关系 R 就是模糊相似矩阵，即R满足： (1) 自反性：I ≤R ( rii =1 )； (2) 对称性：RT = R ( rij = rji ).

43 模糊相似矩阵的性质 定理1 若R 是模糊相似矩阵，则对任意的自然数 k，Rk 也是模糊相似矩阵. 定理2 若R 是n阶模糊相似矩阵，则存在一个最小自然数 k (k≤n )，对于一切大于k 的自然数 l，恒有Rl = Rk，即Rk 是模糊等价矩阵(R2k = Rk ). 此时称Rk为R的传递闭包，记作 t ( R ) = Rk . 上述定理表明，任一个模糊相似矩阵可诱导出一个模糊等价矩阵. 平方法求传递闭包 t (R)： RR2R4R8R16…

44

45 模糊聚类分析的一般步骤 （1）数据标准化 设论域X = {x1, x2, …, xn}为被分类对象,每个对象又由m个指标表示其形状:
xi = { xi1, xi2, …, xim}, i = 1, 2, …, n 于是,得到原始数据矩阵为

46 a 平移 • 标准差变换 其中 b 平移 • 极差变换

47 (2)建立模糊相似矩阵方法 a 相似系数法 ----夹角余弦法

48 b 相似系数法 ----相关系数法 其中

49 从（2）求出的n阶模糊相似矩阵R出发，用平方法求其其传递闭包t(R)，它就是将改造成的n阶模糊等价矩阵，再让λ由大变小，就可形成动态聚类图
（3）聚类（并画出动态聚类图） 　　 从（2）求出的n阶模糊相似矩阵R出发，用平方法求其其传递闭包t(R)，它就是将改造成的n阶模糊等价矩阵，再让λ由大变小，就可形成动态聚类图