第10章 离散小波变换的多分辨率分析 10.1 多分辨率分析的引入 10.2 多分辩率分析的定义 10.3 空间 、 中信号的分解 10.3 空间 、 中信号的分解 10.4 二尺度差分方程 10.5 二尺度差分方程与共轭正交滤波器组 10.6 Mallat算法 10.7 Mallat算法的实现 10.8 小波变换小结
10.1 多分辨率分析的引入 10.1.1信号的分解近似 现以信号的分解近似为例来说明多分辨率分析的基本概念。 给定一个连续信号,我们可用不同的基函数并在不同的分辨率水平上对它作近似。如图10.1.1(a)所示,令 (10.1.1) (10.1.2) 显然, 的整数位移相互之间是正交的,即
这样,由 的整数位移 就构成了一组正交基。设空间 由这一组正交基所构成,这样, 在空间 中的投影(记作 )可表为: (10.1.3) (10.1.4) 式中 , 是基 的权函数。 如图10.1.1(b)所示,它可以看作是 在 中的近似。 是离散序列,如图10.1.1(c)所示。 令
图10.1.1 时信号 的概貌近似
是由 作二进制伸缩及整数位移所产生的函数系列,显然,对图10.1.1(a)的 , 和 是正交的。这一结论可证明如下: 令 ,则 , ,再由(10.1.2)式,有 (10.1.5) 于是结论得证。 将 作二倍的扩展后得 ,如图10.1.1(g)所示。由 作整数倍位移所产生的函数组
当然也是两两正交的(对整数 ),它们也构成了一组正交基。我们称由这一组基形成的空间为 ,记信号 在 中的投影为 ,则 (10.1.6) 由图10.1.1(a)和图10.1.1(g),我们不难发现: (10.1.7) 式中 为加权系数。 如图10.1.1(h)所示。 仍为离散序列,如图10.1.1(i)所示。 若如此继续下去,在给定图10.1.1(a)的 的基础上,我们可得到在不同尺度 下通过作整数位移所得到一组组的正交基,它们所构成的空间是 。用这样的正交基对 作近似,就可得到 在 中的投影 。
图10.1.2 时信号 的概貌近似
再比较该图的(b)和(h),显然图(b)对 的近似要优于图(h)对 的近似,也即分辨率高。 (10.1.8) 另一方面,若 ,那么 中的每一个函数都变成无穷的宽,因此, 时对 的近似误差最大。按此思路及(10.1.7)式,我们可以想象,低分辨率的基函数 完全可以由高一级分辨率的基函数 所决定。从空间上来讲,低分辨率的空间 应包含在高分辨率的空间 中,即 (10.1.9) 所以,用 对 作(10.1.3),或(10.1.6)式的近似, 越小,近似的程度越好,也即分辨率越高。当 时, 中的每一个函数都变成无穷的窄,因此,有
但是,毕竟 不等于 ,也即 比 对 近似的好,但二者之间肯定有误差。这一误差是由 和 的宽度不同而产生的,因此,这一差别应是一些“细节”信号,我们记之为 。这样,有 (10.1.10) 该式的含义是: 在高分辨率基函数所形成的空间中的近似等于它在低分辨率空间中的近似再加上某些细节。现在我们来寻找 的表示方法。 设有一基本函数 ,如图10.1.1(d)所示,即 (10.1.11)
图10.1.3 时信号 的细节近似
很明显, 的整数位移也是正交的,即 (10.1.12) 进一步, 在不同尺度下的位移,即 ,也是正交的,即 (10.1.13) 如图(j)所示。同时, 和 的整数位移之间也是正交的,即 (10.1.14) 观察图(a),(d)和(g),不难发现, 和 之间有如下关系:
(10.1.15a) (10.1.15b) (10.1.16) (10.1.17) 记 张成的空间为 , 所张成的空间为 ,依次类推, 张成的空间为 ,记 在空间 中的投影为 ,在 中的投影为 ,它们均可表为相应基函数 的线性组合,即
图10.1.4 时信号 的细节近似
式中 , 是 , 尺度下的加权系数,它们均是离散序列。 , 分别如图10.1.1(e)和(f)所示, , 分别如图(k)和(l)所示。 (10.1.18) (10.1.19) (10.1.20) 由图10.1.1不难发现,若将图(h)的 和图(k)的 相加,即得图(b)的 ,由空间表示,即是 式中 表示直和。这说明, 是 的正交外空间,并有 , 。我们把上述概念加以推广,显然有
这样,给定不同的分辨率水平 ,我们可得到 在该分辨率水平上的近似 和 ,由于 是低通信号,因此 反映了 的低通成份,我们称其为 的“概貌”。由于 是由 边缘得到的离散序列,所以 也应是 在尺度 下的概貌,或称离散近似。同理,由于 是带通信号,因此 反映的是 的高频成份,或称为 的“细节”,而 是 的离散细节。 在以上的分析中,我们同时使用了两个函数,即 和 ,并由它们的伸缩与移位形成了在不同尺度下的正交基。由后面的讨论可知,对 作概貌近似的函数 称为“尺度函数”,而对 作细节近似的函数 称为小波函数。读者不难发现,图10.1.1(d)中的 即是我们在上一章提到的Haar小波。图(a)中的 即是Haar小波在 时的尺度函数。
10.1.2树结构理想滤波器组 我们在第七、八两章详细讨论了滤波器组的原理。一个离散时间信号 经过一个两通道滤波器组后, 的输出为其低频部分,频带在 ; 的输出为其高频部分,频带为 。由于 、 输出后的信号频带均比 的频带降低了一倍,因此,在 和 的输出后都各带一个二抽取环节,如图10.1.5所示。 如果我们把 的总频带 定义为空间 ,经第一次分解后, 被分成两个子空间,一个是低频段的 ,其频率范围为 ;另一个是高频段的 ,其频带在 之间。显然, ,并且 和 是正交的,即二者的交集为空间 (此亦是直和的定义)。按此思路,我们可在 的输出后再接一个两通道分析滤波器组,这样就将空间 进一步剖分,一个是高频段的空间 ,另一个是低频段的空间 ,如图10.1.5(a)和(b)所示。
由上面的分解不难发现 (10.1.21a) (10.1.21c) 1 各带通空间 和各低通空间 的恒Q性 2 各级滤波器的一致性 (10.1.21b) 图10.1.5对信号分解的特点
10.2 多分辨率分析的定义 Mallat给出了多分辩率分析的定义: 设 是 空间中的一系列闭合子空间,如果它们满 设 是 空间中的一系列闭合子空间,如果它们满 足如下六个性质,则说 , 是一个多分辨率近似。这六个性质是: 1. ,若 则 (10.2.1) 2. , ,即 (10.2.2) 3. ,若 ,则 (10.2.3) 4. (10.2.4) 5. (10.2.5) 6.存在一个基本函数 ,使得 , 是 中的Riesz基
设 是一Hilbert空间(注:能量有限的空间 即是Hilbert空间), 是 中的一组向量,其个数与 的维数一致。自然, 中的任一元素 都可表为 的线性组合,即 (10.2.9) 若 (1) 之间是线性无关的,且 (2)存在常数 ,使得 (10.2.10) 则 是 中的Riesz基。
下述定理给出了在 中存在Riesz基的充要条件 (10.2.11) 式中 是 的傅里叶变换。
定理10.2 令 是一多分辨分析, 是一尺度函数,若其傅里叶变换可由下式给出: (10.2.17) 并令 (10.2.18) 则 是 中的正交归一基,对所有的 。式中 是产生Riesz基的基本函数 的傅里叶变换。
在实际工作中,找到一个正交归一的基函数 并不太容易,但找到一组Riesz基 却比较容易。具体步骤是: 1.由 作FT得 ; 2.由(10.2.17)式求 ; 3.由 作逆傅里叶变换得 ,则 即是一组 正交基。
10.3 空间 、 中信号的分解 由上两节关于频率轴剖分的思想, 应是 中的低通函数, 应是 中的带通函数。将 归一化,有 (10.3.1) 10.3 空间 、 中信号的分解 由上两节关于频率轴剖分的思想, 应是 中的低通函数, 应是 中的带通函数。将 归一化,有 (10.3.1) 定理10.2已指出, 是 中的正交归一基, 是 中的正交归一基。这样,可将 按此基函数逐级进行分解。
1 子空间 令 是在 中的投影,则 (10.3.2) 式中 是加权系数,它应是一个离散序列。由 的正交性质,我们有 1 子空间 令 是在 中的投影,则 (10.3.2) 式中 是加权系数,它应是一个离散序列。由 的正交性质,我们有 由图10.1.1(b), 和 作内积实质上是 和 作内积,即 (10.3.3) (10.3.4)
2 子空间 由多分辨分析的定义,若 ,则 ,由定理10.2,是 中的正交归一基。仿照(10.3.2)-(10.3.4)式,我们有 由多分辨分析的定义,若 ,则 ,由定理10.2,是 中的正交归一基。仿照(10.3.2)-(10.3.4)式,我们有 (10.3.5) (10.3.6) (10.3.7) 2 子空间
3 子空间 若我们在子空间 中能找到一个带通函数 ,使 是 中的正交归一基,类似尺度函数 ,因 则 , 也可构成 中的正交归 一基,即 依次类推, 将是 中的正交归一基。我们称 为小波函数,满足上述正交归一性质的正交小波的构造问题将在下一章详细讨论。这样,我们可依次将 在 中作类似在 各空间中的分解。 若我们在子空间 中能找到一个带通函数 ,使 是 中的正交归一基,类似尺度函数 ,因 则 , 也可构成 中的正交归 一基,即 (10.3.8) (10.3.9)
令 (10.3.10) 则 (10.3.11) 我们在10.1节中已述及, 是 在子空间 上的投影,它是时间 的函数。因为是 带通函数,所以 是 的分为连续细节逼近。同理, 是 在 中的离散细节。由于 ,所以必有 或 (10.3.12) (10.3.13)
这两个式子指出, 在 中的投影等于 分别在 和 中的投影的差,它也是在 和 这两个分辨率水平上的逼近之差,因此, 和 均被称为 的“细节”。实际上,它们反映的也是 的高频成份,且 就是尺度 时的离散栅格上的小波变换。
4 对子空间 , 将上述的讨论加以推广,自然有如下的结论: (10.3.14) (10.3.15) (10.3.16) (10.3.17) 4 对子空间 , 将上述的讨论加以推广,自然有如下的结论: (10.3.14) (10.3.15) (10.3.16) (10.3.17) (10.3.18) 一般,令 ,我们可依次实现对 的多分辨率分析。下一节,我们将深入地探讨这种分解的内在联系。
10.4 二尺度差分方程 前已指出, 是 中的正交归一基, 是 中的正交归一基,并且 , 。这一关系启发我们,在相邻尺度(如 和 )下的尺度函数和尺度函数之间、尺度函数和小波函数之间必然存在着一定的联系。 由于 ,而 包含在 中,这样,把 设想成是 中的一个元素,因此它当然可以表为 中 正交基的线性组合,即 式中 是加权系数,它是一个离散序列。将上式进一步展开,有
即 (10.4.1) (10.4.2) 同理,由于 也包含在 中,因此, 中的 也可表为 中正交基 的线性组合,即 也是加权系数。(10.4.1)和(10.4.2)两式被称为“二尺度差分方程”,它们揭示了在多分辨率分析中尺度函数和小波函数的相互关系。这一关系存在于任意相邻的两级之间,如 ,有
(10.4.3a) (10.4.3b) 该式又等效于 (10.4.4a) (10.4.4b) 因此,二尺度差分方程是多分辨率分析中小波函数和尺度函数的一个重要性质。 由 和 各自的正交性, , 可由下式求得:
令 ,则 (10.4.5) 同理 (10.4.6)
现在再回过来观察图10.1.1,显然有: 对比(10.4.3)和(10.4.4)式,有 这是Haar小波及其尺度函数所对应的滤波器的系数。 现在我们来研究二尺度差分方程在频域的表示形式。对(10.4.3)式两边取傅里叶变换,有
该式是我们在前面多次遇到过的FT和DTFT的混合表示形式,式中 是 在 轴上离散取值所得到的,假定对 轴的抽样间隔为 ,则上式积分的 左边 右边
式中 , 是相对连续信号的角频率, ,而 是相对离散信号的圆频率。由于后面的讨论以离散信号和离散系统为主,所以,我们将 都记为 ,并将 简记为 这样,最后有 (10.4.7) 同理,有 (10.4.8) (10.4.9) (10.4.10) 将(10.4.3)和(10.4.4)两式的两边分别对 积分,由于 , 。所以,有
对应于频域,有 (10.4.11) (10.4.12) (10.4.13) 因此, 应是低通滤波器, 应是高通滤波器。 由(10.4.7)式,有
由于当 时, ,因此 (10.4.14) 式中 。同理可由(10.4.8)式求出: 即 (10.4.15)
式中 .这样,(10.4.14)和(10.4.15)式建立了 , 分别和 和 的直接关系。若 , 已知,我们可由它们求出相应的 和 进一步求出相应的 和 。
10.5 二尺度差分方程与共轭正交滤波器组 定理10.3 设 , 分别是多分辨率分析中的尺度函数和小波函数, , 分别是满足二尺度差分方程(10.4.3)和(10.4.4)式的滤波器系数,则 (10.5.1a) (10.5.1b) (10.5.1c)
至此,我们给出了一系列重要的概念,它们分别是: 1.在 中总存在 ,使 构成 中的Riesz基; 2.定理10.2说明如何由Riesz基 得到 中的正交归一 基,进而 是 中的正交归一基,即 是尺度函数。 3.把 视为 的正交补,并假定在 中存在小波函数 , 使 是 中的正交归一基,进而 是 中的正 交归一基; 4.由于假定 ,所以假定 和 是正交的; 5.按 , 分别对 作分解,得到(10.3.14)—(10.3.18) 式的分解(或投影)关系;
6.由 , 这一包含关系,得到了(10.4.4) 式的二尺度差分方程;其频域关系如(10.4.7)和(10.4.8)式所示; 7.由定理10.3,满足二尺度差分方程的 和 恰是一对共轭正交滤波器组,即它们满足(10.5.1)式。 定理10.4 令 是一多分辨率分析序列, 是 中的正交 归一基,再令 和 是一对共轭正交滤波器组,记 的 傅里叶变换为 ,若 (10.5.7) 则存在基本小波函数 ,使 是 中的正交 归一基,进而 是 中的正交归一基。
定理10.5 设 是一多分辨率分析序列, , 和 分别是 和 中的正交归一基,则 和 是正交的,即 (10.5.9)
10. 6 Mallat算法 在上述多分辩率分析的基础上,下述两个定理给出了如何通过滤波器组实现信号的小波变换及反变换。 定理10.6 令 , 是多分辨率分析中的离散逼近系数, , 是满足(10.4.3)和(10.4.4)式的二尺 度差分方程的两个滤波器,则 , 存在如下递推 关系: (10.6.1a) (10.6.1b) 式中, 。
式(10.6.1) 的涵义可以通过图10.6.1来理解: 10.6.1式的网络结构 h0(-k) h1(-k) h0(k)= h0(-k) ↓2 h1(-k)= h1(-k) h0(-k) h1(-k) 10.6.1式的网络结构
如果我们令 由 逐级增大,我们即得到多分辨率的逐级实现,如图10. 6. 2所示。该图所反映的过程(也即(10. 6 如果我们令 由 逐级增大,我们即得到多分辨率的逐级实现,如图10.6.2所示。该图所反映的过程(也即(10.6.1)式)即是Mallat算法,也即小波变换的快速实现。 h1(k) ↓2 h0(k) 图10.6.2 多分辨率分解的滤波器组实现
下面讨论信号的重建问题,也即小波反变换。 定理10.7: 若 , 按(10.6.1)式得到, 则 可由下式重建: (10.6.4) (10.6.4)式所对应的网络结构如图10.6.3a所示。若由递减,则整个的重建过程如图10.6.3b所示,它正好是图10.6.2的逆过程。
图10.6.3 小波逆变换,(a)第j级,(b)j由j至0的过程 ↑2 h0(k) h1(k) … 图10.6.3 小波逆变换,(a)第j级,(b)j由j至0的过程
10.7 Mallat算法的实现 1.初始化问题 观察图10.5.2,在 空间,我们假定 是已知的,并由 (1)由Shannon抽样定理引出 和 的关系: 观察图10.5.2,在 空间,我们假定 是已知的,并由 此实现 的逐级分解。但实际上 是未知的,并且在 图中的分解过程中,也并没出现要分析的离散信号 。 由(10.3.3)式,有 (10.7.1)因此, 只是 中对 的离散逼近,它并不等于 的抽样 。至今,人们已提出了很多由 求解 的方法,如:
因为 将其代入(10.7.1)式,有 若把 近似为 函数,有 (10.7.2) 即 是 和尺度函数 的离散序列 的卷积。
对 取离散值 ,并令 , ,对固定时刻 ,(10.7.3)式可变成 (2)由 的逆滤波器求 (10.7.3) (10.7.4) 在 中, 可用正交基 来分解,分解系数为 ,即 对 取离散值 ,并令 , ,对固定时刻 ,(10.7.3)式可变成 令 为 的傅里叶变换,并令 ,则 对应的时间序列为 ,即
2.数据逐级减少问题 不过上述两种方法均需耗费太多的计算,使用起来很不方便。现在通用的简便方法即是假定 MATLAB中Wavelet Toolbox中有关的程序如DWT即是按此思路给定的。 2.数据逐级减少问题 (1)逐点计算 对的 输出,其后的二抽取环节是保留其偶序号项,舍弃其奇序号项。若我们不舍弃其奇序号项,而是仍让其参加下一级的分解,如图10.7.1所示。
H1(z) H0(z) ↓2 图10.7.1 保持输出数据不减少的措施
(2)采用“多孔算法(A trous algorithm)” 再次观察图10.6.2,每一级的 都是由上一级的 通过 作二抽取后的输出。若不考虑图中 、 和 、 的翻转关系,即把该图方框中的滤波器都记作 和 ,那么,对 ,其信号流图如图10.7.2所示。利用5.6节的恒等变换关系,图10.7.2又可表为图10.7.3。 H0(z) ↓2 H1(z) H(z4) H0(z)H0(z2) ↓8 图10.7.2 求出 的等效信号流图 图10.7.3 图10.7.2的等效表示
一个用多孔算法实现四级分解的Mallat算法流程 H1(z) ↓2 H0(z) H1(z2) ↓4 H0(z2) H1(z8) ↓16 H0(z8) H1(z4) ↓8 H0(z4) … 图10.7.4 实现Mallat算法的“多孔算法”
10.8 小波变换小结 1 连续小波变换(CWT) (10.8.1) 式中 是小波函数, 是尺度变量, 是位移变量。其计算方法可用数值积分,或基于CZT,或基于梅林变换的快速算法。使用CWT的好处是 可取非整数值,即按实际分辨率的需要取粗或取细。
2 离散栅格上的小波变换(DWT) (10.8.2) (10.8.3) 式中 是 的对偶小波。若 是正交小波,则 式中 是 的对偶小波。若 是正交小波,则 ,(10.8.3)式称为小波级数, 为小波系数。 (10.8.4) 在DWT中,时间 仍是连续的,这和我们以前学过的DFT、DCT等有着本质的不同。若取 , ,并令 , 则(10.8.2)式就变成了二进制小波变换:
3 离散序列的小波变换(DSWT) 由于在实际工作中,计算机所处理的信号总是离散的,即 应取 , 也应取为 。所以,读者一定会问:为什么至今看不到(10.8.2)或(10.8.3)式的离散形式?例如,对(10.8.4)式,若将 离散化,取 , ,有 (10.8.5) 此式应视为DSWT。但将该式用于实际工作中去会有几个困难: (1)除少数的母小波外,小波 一般无闭合的表达式,所以不易简单地利用 来得到离散小波;
(3) 当 产生移位,即 变成 时,由(10.8.5)式 (10.8.6) 显然,只有当 是 的整数时,(10.8.6)式才具有移不变性。 而在多数情况下, 作移位时,按(10.8.5)式求 出的小波变换往往不具有移不变性。 (2) 当 ,或 时,由于要实现尺 度的伸缩,那么 不一定会是整数,这样 (10.8.5)式的实现就不现实;
4 尺度及位移在Mallat算法中的体现 疑问:在CWT中讨论过的小波函数 以及它的伸缩和 移位,在DSWT中又体现在哪儿? 比较CWT、DWT及以Mallat算法为代表的DSWT,我们 会看到其中内在的相似性及联系: (1)在DWT,特别是在Mallat算法中引入的尺度函数 是低通的,小波 当然是带通的。对应的, 是 低通的, 是高通的; (2)在正交基的情况下, 是正交的, 是正交的。 和 之间也是正交的,对应的, , 满足共轭正交滤波器组的要求。它们对应的 、 ,其偶序号移位具有正交性。
(3)由(10.3.17)式 (10.8.7) 是 在分辨率 情况下的小波变换,由(10.5.7b)式, (10.8.8) 这样,在Mallat算法中,小波变换 由第 级的高通 滤波器 的输出得到;
(4)观察图10.6.2和10.6.3,将 作四倍插值得 , 也变成 即,频带压缩了四倍,同理 变成 ,则 作了二倍的插值。这些都 体现了小波变换中尺度 伸缩的作用。只不过这些伸 缩不是由尺度 直接实现的,而是由 和 来实 现的。