小波分析及其应用 Wavelet Analysis and It’s Applications 同济大学 计算机系 宣国荣 2003年 6月10日 星期二
研究生讲座:小波分析及其应用 1、小波的特点和发展 2、小波分析在一维信号处理中的应用 3 、小波分析在图象分析中的应用 图象特征抽取 图象压缩 数据隐藏和图象水印
1、小波的特点和发展 “小波分析” 是分析原始信号各种变化的特性,进一步用于数据压缩、噪声去除、特征选择等。 例如歌唱信号:是高音还是低音,发声时间长短、起伏、旋律等。从平稳的波形发现突变的尖峰。小波分析是利用多种 “小波基函数” 对 “原始信号” 进行分解。
小波的时间和频率特性 时间A 时间B 运用小波基,可以提取信号中的“指定时间”和“指定频率”的变化。
小波的成就 小波分析是纯数学、应用数学和工程技术的完美结合。从数学来说是大半个世纪“调和分析”的结晶(包括傅里叶分析、函数空间等)。 小波变换是20世纪最辉煌科学成就之一。在计算机应用、信号处理、图象分析、非线性科学、地球科学和应用技术等已有重大突破,预示着小波分析进一步热潮的到来。
多分辨度分析(MRA) 1988年 Mallat 提出的多分辨度分析理论,统一了几个不相关的领域:包括语音识别中的镜向滤波,图象处理中的金字塔方法,地震分析中短时波形处理等。 当在某一个分辨度检测不到的现象,在另一个分辨度却很容易观察处理。例如:
参考: M. Vetterli, ”Wavelets and Subband Coding “, Prentice Hall PTR, 1995 p.11
小波的3 个特点 小波变换,既具有频率分析的性质,又能表示发生的时间。有利于分析确定时间发生的现象。(傅里叶变换只具有频率分析的性质) 小波变换的多分辨度的变换,有利于各分辨度不同特征的提取(图象压缩,边缘抽取,噪声过滤等) 小波变换比快速Fourier变换还要快一个数量级。信号长度为M时, Fourier变换(左)和小波变换(右)计算复杂性分别如下公式:
“时频局域性” 图解:Fourier变换的基(上)小波变换基(中) 小波基表示发生的时间和频率 傅里叶变换 (Fourier)基 小波基 时间采样基 “时频局域性” 图解:Fourier变换的基(上)小波变换基(中) 和时间采样基(下)的比较
Haar小波基母函数 (a)Haar “近似”基函数 (b)Haar “细节”基函数 低频滤波系数 高频滤波系数 低频滤波系数 高频滤波系数 H0= [ 1 1] ×q H1= [ 1 -1] ×q = [ q q] =[ q -q] 其中:
Haar小波的基函数 H0= [ 1 1] ×q 第 1 行基函数是取平均(近似), 第 2-8 行基函数是取变化(细节)。 尺度函数 近似基函数 H0= [ 1 1] ×q H1= [ 1 -1] ×q 小波函数 细节基函数 第 1 行基函数是取平均(近似), 第 2-8 行基函数是取变化(细节)。 细节包括变化速率和发生的时间。
小波分析发展历史 1807年 Fourier 提出傅里叶分析 , 1822年发表 “热传导解析理论”论文 1910年 Haar 提出最简单的小波 1980年 Morlet 首先提出平移伸缩的小波公式,用于地质勘探。 1985年 Meyer 和稍后的Daubeichies提出“正交小波基”,此后形成小波研究的高潮。 1988年 Mallat 提出的多分辨度分析理论(MRA),统一了语音识别中的镜向滤波,子带编码,图象处理中的金字塔法等几个不相关的领域。
小波基可以通过给定滤波系数生成 小波基(尺度函数和小波函数)可以通过给定滤波系数生成。 有的小波基是正交的,有的是非正交的。有的小波基是对称的,有的是非对称的。 小波的近似系数和细节系数可以通过滤波系数直接导出,而不需要确切知道小波基函数,这是 I. Daubechies 等的重要发现,使计算简化,是快速小波分解和重建的基础。
小波基函数和滤波系数(Haar--正交,对称) “近似”基函数 “细节”基函数 “正变换” 低频和 高频 “滤波系数” “反变换” 低频和 高频 “滤波系数”
小波基函数和滤波系数(db 2--正交,不对称 ) “近似”基函数 “细节”基函数 “正变换” 低频和 高频 “滤波系数” “反变换” 低频和 高频 “滤波系数”
小波基函数和滤波系数(db 4--正交,不对称)
小波基函数和滤波系数(sym 4--正交,近似对称)
小波基函数和滤波系数(bior 2.4 –双正交,对称)
小波基函数和滤波系数(bior 6.8 –双正交,对称)
2、小波分析在一维信号处理中的应用 小波变换就是将 “ 原始信号 s ” 变换 成 “ 小波 系数 w ” ,w=[wa , wd] 包括近似(approximation)系数wa 与细节(detail)系数wd 近似系数wa---平均成分(低频) 细节系数wd---变化成分(高频)
小波原始信号分解过程: s = a+d 原始信号s可分解成小波近似 a 与小波细节d 之和。 小波系数 w = [ wa , wd ] 的分量,乘以 基函数,形成小波分解: 小波近似系数wa ×基函数A=近似分解 a ---平均 小波细节系数wd ×基函数D=细节分解 d---变化
小波分解和小波基 小波基D 原始信号 小波系数wd 小波基A 小波系数wa 正变换:原始信号在小波基上,获得 “小波系数”分量 反变换:所有“小波分解” 合成原始信号 例如: 小波分解 a=小波系数 wa × 小波基A
离散小波变换公式 信号 s 有M个样本,J 级小波变换: 正变换 小波系数 反变换 小波分解 其中: 是小波基函数 其中: 是小波基函数 参考“数字图象处理”英文版,电子工业出版社,2002年 (R.C. Gonzalaz,”Digital Image Processing”,p.375) 小波系数 小波分解
一维信号小波变换例子 Haar小波,例子: 16点信号: [ 6 5 9 8 3 7 8 5 6 5 9 8 1 3 3 9] 通过MATLAB实现(wavemenu) 波形图 小波正变换:小波系数: 小波近似系数(加);小波细节系数(减) 小波反变换:可以由分解信号恢复原始信号。 有2种:近似分解;细节分解
一维信号的二级小波变换系数 * Haar是正交变换。除以常数,目的使变换后平方和不变。例如: 原始信号 2级小波系数 w2=[wa2 , wd2 , wd1 ] * Haar是正交变换。除以常数,目的使变换后平方和不变。例如: 16位 16位 2级近似系数 2级细节系数 1级细节系数
一维信号的二级小波变换分解 2级近似分解 (原始信号每4个平均值) 2级细节分解 (原始信号每2个平均的差值) 2级近似分解 (原始信号每4个平均值) 2级细节分解 (原始信号每2个平均的差值) 1级细节分解 (原始信号单数和双数的差值) 恢复信号
一维信号的二级小波变换系数和分解 原始信号 2级小波系数 w2=[wa2 , wd2 , wd1 ] 2级近似分解 (原始信号每4个平均值) 2级近似分解 (原始信号每4个平均值) 2级细节分解 (原始信号每2个平均的差值) 1级细节分解 (原始信号单数和双数的差值) 恢复信号
原始信号 16点 16点原始信号 [ 6 5 9 8 3 7 8 5 6 5 9 8 1 3 3 9 ]
两级小波系数16点 原始信号 小波系数 原始信号 (红) 两级小波系数 wd1 wd2 |wd2 | |wd1 |
16点 信号 的Haar小波近似值和细节分解 两级分解
小波去噪声 一般噪声特点: (1)高频成分(细节) ,(2)幅度小:用阈值; 去噪声过程: 去除原始信号高频成分(细节)中幅度小于阈值部分。 对2级小波,设定2个阈值,称“阈值2” 和 “阈值1” 。 去除1级噪声:去除1级小波细节分解中小于“阈值1”部分。 去除2级噪声:去除2级小波细节分解中小于“阈值2”部分。 恢复: 将小波近似分解,加上去噪声后小波细节分解,即获得去除噪声的信号
噪声去除 两级分解 噪声去除, 括号内保留部分数据 原始信号 (红),去噪后 (黄) wd1 两级小波系数 wd2
小波去噪声16点 [6 5 9 8 3 7 8 5 6 5 9 8 1 3 3 9 ] 两级小波系数 1 级细节小波系数 2 级细节小波系数 0.707×[1,1,-4,3,1,1,-2,-6] 0.5×[-6,-3,-6,-8] 两级小波系数 阈值1 wd1 wd2 阈值2 原始信号 (红),去噪后 (黄) |wd1 | 1级去噪前绝对值 |wd1 | 1级去噪后绝对值 |wd2 | 2级去噪后绝对值 |wd2 | 2级去噪前绝对值
Haar小波去噪声 (16点信号) 两级分解 小波去噪声 16点原始信号 [ 6 5 9 8 3 7 8 5 6 5 9 8 1 3 3 9 ]
一维信号的小波变换例子 2 (电压曲线) 通过MATLAB实现(wavemenu) 波形图 ( MATLAB \ toolbox \ wavelet \ wavedemo\ leleccum.mat ) 是 “电网监视的电压曲线”, 有4570个点 Haar小波变换
2 级小波分解 haar 小波 (s= a2+ d2+d1) (wavemenu) leleccum Level 2 原始信号 (红) 2 级近似分解值 2 级小波分解 波形中的毛刺 (见下页) haar 小波 (s= a2+ d2+d1) (wavemenu) leleccum Level 2 (s-原始信号,a2-近似,d1-d2细节) 1 级细节分解 (奇偶数值的差) 2 级 细节分解 (前2和后2的差)
2 级小波分解(放大) 原始信号 (红) 波形中的毛刺 2 级近似分解值 2 级细节分解 (前2和后2的差) 1 级细节分解 (奇偶数值的差) 2 级细节分解 (前2和后2的差)
附录-5 (wavemenu) leleccum haar Level 5 5 级小波分解 原始信号 信号---近似值 图-5 haar (s= a5+ d5+..+d1) (wavemenu) leleccum Level 5 a5-近似, d5-d1细节 信号前2和后2的差---细节2 leleccum.mat 是有36560个点的一维电压信号(s-原始信号,a1-近似,d1-细节) 信号奇偶数值的差---细节1
小波去噪声 leleccum haar 小波 两级小波系数 原始信号 (红), 去噪后 (黄) 2 级细节小波系数 wd2 黄虚线表示阈值 原始信号 (红), 去噪后 (黄) 2 级细节小波系数 wd2 黄虚线表示阈值 |wd1 | 1级去噪前绝对值 |wd1 | 1级去噪后绝对值 |wd2 | 2级去噪后绝对值 |wd2 | 2级去噪前绝对值 1 级细节小波系数 wd1
小波压缩 leleccum haar 两级小波系数 原始信号 (红), 压缩后 (黄) 2 级细节小波系数 wd2 黄虚线表示阈值 1 级细节小波系数 2 级细节小波系数 wd1 wd2 原始信号 (红), 压缩后 (黄) 两级小波系数 |wd1 | 1级去噪前绝对值 |wd1 | 1级去噪后绝对值 |wd2 | 2 级去噪后绝对值 |wd2 | 2 级去噪前绝对值
小波压缩效果 leleccum haar 黄色虚线—全局阈值(自动分配两级阈值) 紫色线—相对能量百分比(能量尽量保持) 绿色线—零数目百分比 (零数目愈大,压缩愈明显)
3 、小波分析在图象处理中的应用 图象是二维信号,其小波变换相当于二次一维信号的小波变换:。 (1)第一次一维信号的小波变换相当于图象的行变换。 (2)第二次一维信号的小波变换相当于图象的列变换。 小波变换用于图象压缩有良好的效果,已形成图象压缩的标准如JPEG2000。
小波变换用于图象特征抽取 第1级 斜线细节 水平细节 垂直细节 近似 图象
小波系数分级方块表示法 近似图象 第3级 L3 第2级 L2细节 第1级 L1 水平细节 第1级 L1 垂直细节 第1级 L1 斜线细节
小波系数分级树形表示法 第 1 级 L1分辨率 第 2 级 L2分辨率 第 3 级 L3分辨率
小波变换用于图象压缩 采用小波进行压缩。作“小波变换”后,统计特性有改善,消除行和列之间的相关关系。 有损压缩:根据视觉原理,不同分辨率小波系数进行比特分配。然后转换到一维作熵编码,如算术编码或霍夫曼编码。 无损压缩:选择“整数小波变换”,无舍入误差。但不能进行比特分配。
两阈值线之间的直方图被去除(有损压缩) 小波变换用于图象压缩 第 3 级 L3 水平、斜线、垂直细节 第 2 级 L2 水平、斜线、垂直细节
小波变换用于无损数据隐藏 无损数据隐藏:是基于无损压缩:选择“整数小波变换”,无舍入误差。例如可以采用第二代小波。 无损数据隐藏:避免在嵌入数据后小波反变换时图象灰度的溢出。小波变换前要作预处理,作直方图调整,将图象中灰度出现少的数据,合并入隐藏数据。 第一个无损数据隐藏是1999年科达公司发表的一个专利。由于法律上原因,医学图象数据隐藏必须是无损的。此外、无损数据隐藏在电子银行、电子政务、电子商务、图象建档等有广泛的用途。
数据嵌入核磁共振医学图象 (可无损恢复) (水印图象见下页) (a)原始 (512×512×8) (b)小波域嵌入水印图象
水印图象 (192×120×2 二值图象)
小波变换用于无损数据隐藏(交通图象) 原始图象 (1024768) 信息隐藏后的伪装图象(1024768) 原始图象 (1024768) 信息隐藏后的伪装图象(1024768) 同时隐藏 5 张(320×280)图象(见下页)
同时隐藏的 5 张(320×280)交通图象,可完全恢复 (1)上海延安路 (3) 上海 曲阳路 (2)外地 (4) 上海 (5) 上海
小波变换用于图象水印 银行取款密码嵌入指纹,网上进行身份认证 指纹原始图象 嵌入水印(取款密码等)后图象 指纹原始图象 嵌入水印(取款密码等)后图象 指纹传感器:标准的Veridicom指纹鼠标 指纹开发工具:Veridicom Authentication SDK以Windows的DLL库方式提供 指纹库:(Fingerprint Verification Competition, FVC)。FVC2000 db1是由光学设备采集;FVC2000 db2是由电容设备采集。
小波变换用于图象水印 原始图象 小波 正变换 数据嵌入 隐藏数据 小波反变换 加水印后图象 输出 加水印后图象输入 小波正变换 小波反变换 加水印后图象 输出 加水印后图象输入 小波正变换 小波反变换 数据提取 隐藏数据 原始图象
小波分析最新进展 (1)第二代小波,称提升算法,可用于整数小波。 (2)嵌入零树法,获得更优良的效果。 (3)小波与统计理论结合。 (4)商品化,如“JPEG2000”小波图象压缩标准,MATLAB小波计算包等。
“小波分析及其应用” 讲座 小结 (1)小波分析理论上比较完善 小波变换基,既具有频率局域性质,又具有时间局域性质。小波变换的多分辨度的变换,能在多个尺度上分解,便于观察信号在不同尺度(分辨率)上不同时间的特性。 (2)小波分析有广泛的实用性 小波变换存在快速算法,对于M点序列而言,计算复杂性为:O(M),处理快速。小波变换基函数有多种类型,可以是正交的,也可以是非正交(双正交),比傅里叶变换更加灵活。 (http://grxuan.xiloo.com/wavelet) (完)
附录1: 2 级 Haar小波变换4点例子 序 信号 s w1=[wa1 ,wd1] w2=[wa2,wd2,wd1] 1 6 7.7782 原始信号 1 级 小波近似系数 1 级 小波细节系数 2级 小波近似系数 2 级 小波细节系数 序 信号 s 1 级 小波系数 w1=[wa1 ,wd1] 2 级 小波系数 w2=[wa2,wd2,wd1] 1 6 7.7782 14.0000 2 5 12.0208 -3.0000 3 9 0.7071 4 8 wd1 wa1 wa2 wd2 细节系数( wd1 )形成后不再变化。 (s, w1 , w2的平方和不变)
附录2:一级、二级小波16点 序 信号 s 一级小波 w1=[wa1 ,wd1 ] 二级小波 w2=[wa2 , wd2 , wd1 ] 1 1 6 7.7782 14.0000 2 5 12.0208 11.5000 3 9 7.0711 4 8 9.1924 8.0000 -3.0000 7 -1.5000 2.8284 8.4853 -4.0000 0.7071 10 11 -2.8284 12 2.1213 13 14 15 -1.4142 16 -4.2426 wd1 wa1 wa2 wd2
附录3:小波去噪声16点 wd1 wa1 wa2 wd2 序 n 信号 s w1 去噪声 小波w2 信号sdn sdn乘4 取整 1 6 小波系数 w1 小波系数w2 去噪声 小波w2 信号sdn sdn乘4 取整 1 6 7.7782 14.0000 7.0000 28 2 5 12.0208 11.5000 3 9 7.0711 4 8 9.1924 8.0000 -3.0000 5.7500 23 7 -1.5000 2.8284 8.4853 -4.0000 -0.5000 0.7071 10 11 -2.8284 12 2.1213 13 3.7500 15 14 -1.4142 3.8964 16 -4.2426 4.6036 18