1、1,小波分析及其应用 Wavelet Analysis andIts Applications同济大学 计算机系宣国荣 2003年 6月10日 研究生讲座（2009年11月10日 补充 附录4）,2,研究生讲座：小波分析及其应用,1、小波的特点和发展 2、小波分析在一维信号处理中的应用 3 、小波分析在图象分析中的应用 图象特征抽取 图象压缩 数据隐藏和图象水印,3,1、小波的特点和发展,“小波分析” 是分析原始信号各种变化的特性，进一步用于数据压缩、噪声去除、特征选择等。例如歌唱信号：是高音还是低音，发声时间长短、起伏、旋律等。从平稳的波形发现突变的尖峰。小波分析是利用多种 “小波基函数”
2、对 “原始信号” 进行分解。,4,小波的时间和频率特性,运用小波基，可以提取信号中的“指定时间”和“指定频率”的变化。时间：提取信号中“指定时间”（时间A或时间B）的变化。顾名思义，小波在某时间发生的小的波动。频率：提取信号中时间A的比较慢速变化，称较低频率成分；而提取信号中时间B的比较快速变化，称较高频率成分。,时间A,时间B,5,小波的成就,小波分析是纯数学、应用数学和工程技术的完美结合。从数学来说是大半个世纪“调和分析”的结晶（包括傅里叶分析、函数空间等）。小波变换是20世纪最辉煌科学成就之一。在计算机应用、信号处理、图象分析、非线性科学、地球科学和应用技术等已有重大突破，预示着小波分析
3、进一步热潮的到来。,6,多分辨度分析（MRA）,1988年 Mallat 提出的多分辨度分析理论，统一了几个不相关的领域：包括语音识别中的镜向滤波，图象处理中的金字塔方法，地震分析中短时波形处理等。当在某一个分辨度检测不到的现象，在另一个分辨度却很容易观察处理。例如：,7,8,参考：M. Vetterli,”Wavelets and Subband Coding “, Prentice Hall PTR, 1995 p.11,9,小波的3 个特点,小波变换，既具有频率分析的性质，又能表示发生的时间。有利于分析确定时间发生的现象。（傅里叶变换只具有频率分析的性质）小波变换的多分辨度的变换，有利于
4、各分辨度不同特征的提取（图象压缩，边缘抽取，噪声过滤等）小波变换比快速Fourier变换还要快一个数量级。信号长度为M时， Fourier变换（左）和小波变换（右）计算复杂性分别如下公式：,10,小波基表示发生的时间和频率,“时频局域性” 图解：Fourier变换的基（上）小波变换基（中）和时间采样基（下）的比较,傅里叶变换(Fourier)基小波基时间采样基,11,Haar小波基母函数,（a）Haar “近似”基函数 （b）Haar “细节”基函数 低频滤波系数 高频滤波系数 H0= 1 1 q H1= 1 -1 q = q q = q -q 其中：,12,Haar小波的基函数,第 1 行基
5、函数是取平均（近似），第 2-8 行基函数是取变化（细节）。 细节包括变化速率和发生的时间。,尺度函数近似基函数,小波函数细节基函数,13,小波分析发展历史,1807年 Fourier 提出傅里叶分析 ， 1822年发表 “热传导解析理论”论文1910年 Haar 提出最简单的小波1980年 Morlet 首先提出平移伸缩的小波公式，用于地质勘探。1985年 Meyer 和稍后的Daubeichies提出“正交小波基”，此后形成小波研究的高潮。 1988年 Mallat 提出的多分辨度分析理论（MRA），统一了语音识别中的镜向滤波，子带编码，图象处理中的金字塔法等几个不相关的领域。,14,小波
6、基可以通过给定滤波系数生成,小波基（尺度函数和小波函数）可以通过给定滤波系数生成。有的小波基是正交的，有的是非正交的。有的小波基是对称的，有的是非对称的。小波的近似系数和细节系数可以通过滤波系数直接导出，而不需要确切知道小波基函数，这是 I. Daubechies 等的重要发现，使计算简化，是快速小波分解和重建的基础。,15,小波基函数和滤波系数(Haar-正交，对称),“近似”基函数,“反变换” 低频和高频 “滤波系数”,“细节”基函数,Haar小波,“正变换” 低频和高频 “滤波系数”,16,小波基函数和滤波系数(db 2-正交，不对称 ),“近似”基函数,“细节”基函数,db小波,“反变
7、换” 低频和高频 “滤波系数”,“正变换” 低频和高频 “滤波系数”,17,小波基函数和滤波系数(db 4-正交，不对称),18,小波基函数和滤波系数(sym 4-正交，近似对称),19,小波基函数和滤波系数(bior 2.4 双正交，对称),20,小波基函数和滤波系数(bior 6.8 双正交，对称),21,2、小波分析在一维信号处理中的应用,小波变换就是将 “ 原始信号 s ” 变换 成 “ 小波 系数 w ” ，w=wa , wd 包括近似(approximation)系数wa 与细节(detail)系数wd 近似系数wa-平均成分（低频） 细节系数wd-变化成分（高频）,22,小波原始
8、信号分解过程：,原始信号s可分解成小波近似 a 与小波细节d 之和。 s = a+d小波系数 w = wa , wd 的分量，乘以 基函数，形成小波分解：小波近似系数wa 基函数A=近似分解 a -平均小波细节系数wd 基函数D=细节分解 d-变化,23,小波分解和小波基,正变换：原始信号在小波基上，获得 “小波系数”分量反变换：所有“小波分解” 合成原始信号 例如： 小波分解 a=小波系数 wa 小波基A,24,离散小波变换公式,正变换反变换 其中： 是小波基函数参考“数字图象处理”英文版,电子工业出版社,2002年（R.C. Gonzalaz,”Digital Image Processi
9、ng”，p.375),信号 s 有M个样本，J 级小波变换：,小波分解,小波系数,25,一维信号小波变换例子,Haar小波，例子： 16点信号: 6 5 9 8 3 7 8 5 6 5 9 8 1 3 3 9通过MATLAB实现(wavemenu) 波形图小波正变换：小波系数： 小波近似系数（加）；小波细节系数（减）小波反变换：可以由分解信号恢复原始信号。 有2种：近似分解；细节分解,26,一维信号的二级小波变换系数,原始信号2级小波系数 w2=wa2 , wd2 , wd1 * Haar是正交变换。除以常数，目的使变换后平方和不变。例如：,16位,2级近似系数,2级细节系数,1级细节系数,1
10、6位,27,一维信号的二级小波变换分解,2级近似分解 （原始信号每4个平均值）2级细节分解 （原始信号每2个平均的差值）1级细节分解 （原始信号单数和双数的差值）恢复信号,28,一维信号的二级小波变换系数和分解,原始信号2级小波系数w2=wa2 , wd2 , wd1 2级近似分解 （原始信号每4个平均值）2级细节分解 （原始信号每2个平均的差值）1级细节分解 （原始信号单数和双数的差值）恢复信号,29,原始信号s=6 5 9 8 3 7 8 5 6 5 9 8 1 3 3 9小波系数（近似）wa2=28 23 28 16/2按照原始信号分辨率扩展，a2= wa2A2s每四个平均值a2= 28
11、 28 28 28 23 23 23 23 28 28 28 28 16 16 16 16/4 wa2=28 28 28 28 23 23 23 23 28 28 28 28 16 16 16 16/2扩展基函数A2=+1 +1 +1 +1 +1 +1 +1 +1 +1 +1 +1 +1 +1 +1 +1 +1 /2 小波系数（细节2） wd2=-6 -3 -6 -8/2按照原始信号分辨率扩展，d2= wd2 D2s每二个平均的差值d2=-6 -6 +6 +6 -3 -3 +3 +3 -6 -6 +6 +6 -8 -8 +8 +8/4 wd2=-6 -6 -6 -6 -3 -3 -3 -3 -
12、6 -6 -6 -6 -8 -8 -8 -8/2扩展基函数D2=+1 +1 -1 -1 +1 +1 -1 -1 +1 +1 -1 -1 +1 +1 -1 -1 /2 小波系数（细节1） wd1=+1 +1 -4 +3 +1 +1 -2 -6/sqrt(2) 按照原始信号分辨率扩展，d1= wd1 D1s每单双数的差值d1=+1 -1 +1 -1 -4 +4 +3 -3 +1 -1 +1 -1 -2 +2 -6 +6/2 wd1=+1 +1 +1 +1 -4 -4 +3 +3 +1 +1 +1 +1 -2 -2 -6 -6/sqrt(2)扩展基函数D1=+1 -1 +1 -1 +1 -1 +1
13、-1 +1 -1 +1 -1 +1 -1 +1 -1/sqrt(2) 恢复：s1=a2+d2+d1; s1= s= 6 5 9 8 3 7 8 5 6 5 9 8 1 3 3 9,16点HAAR小波分解与恢复例子,其中：,30,原始信号 16点,31,两级小波系数16点,原始信号小波系数,32,16点 信号 的Haar小波近似值和细节分解,两级分解,33,小波去噪声,一般噪声特点： （1）高频成分（细节） ，（2）幅度小：用阈值；去噪声过程： 去除原始信号高频成分（细节）中幅度小于阈值部分。 对2级小波，设定2个阈值，称“阈值2” 和 “阈值1” 。 去除1级噪声：去除1级小波细节分解中小于“
14、阈值1”部分。 去除2级噪声：去除2级小波细节分解中小于“阈值2”部分。恢复： 将小波近似分解，加上去噪声后小波细节分解，即获得去除噪声的信号,34,噪声去除,两级分解噪声去除，括号内保留部分数据,35,小波去噪声16点 6 5 9 8 3 7 8 5 6 5 9 8 1 3 3 9 ,原始信号 (红),去噪后 (黄),36,Haar小波去噪声 （16点信号）,16点原始信号 6 5 9 8 3 7 8 5 6 5 9 8 1 3 3 9 ,小波去噪声,两级分解,37,一维信号的小波变换例子 2 （电压曲线）,通过MATLAB实现(wavemenu) 波形图 ( MATLAB toolbox
15、wavelet wavedemo leleccum.mat )是 “电网监视的电压曲线”，有4570个点Haar小波变换,38,haar 小波(s= a2+ d2+d1)(wavemenu) leleccum Level 2 (s-原始信号，a2-近似，d1-d2细节),39,40,图-5 haar(s= a5+ d5+.+d1)(wavemenu) leleccum Level 5 a5-近似， d5-d1细节,附录-5 (wavemenu) leleccum haar Level 5,leleccum.mat 是有36560个点的一维电压信号(s-原始信号，a1-近似，d1-细节),信号前
16、2和后2的差-细节2,信号奇偶数值的差-细节1,原始信号,信号-近似值,5 级小波分解,41,小波去噪声 leleccum haar 小波,两级小波系数,1 级细节小波系数,2 级细节小波系数,黄虚线表示阈值,wd1,wd2,原始信号 (红), 去噪后 (黄),42,小波压缩 leleccum haar,43,小波压缩效果 leleccum haar,44,3 、小波分析在图象处理中的应用,图象是二维信号，其小波变换相当于二次一维信号的小波变换：。（1）第一次一维信号的小波变换相当于图象的行变换。（2）第二次一维信号的小波变换相当于图象的列变换。小波变换用于图象压缩有良好的效果，已形成图象压缩
17、的标准如JPEG2000。,45,小波变换用于图象特征抽取,46,第1级 L1斜线细节,第1级 L1水平细节,第1级 L1垂直细节,第2级 L2细节,近似图象,第3级 L3,小波系数分级方块表示法,47,第 3 级 L3分辨率,第 2 级 L2分辨率,第 1 级 L1分辨率,小波系数分级树形表示法,48,小波变换用于图象压缩,采用小波进行压缩。作“小波变换”后，统计特性有改善，消除行和列之间的相关关系。有损压缩：根据视觉原理，不同分辨率小波系数进行比特分配。然后转换到一维作熵编码，如算术编码或霍夫曼编码。无损压缩：选择“整数小波变换”，无舍入误差。但不能进行比特分配。,49,小波变换用于图象压
18、缩,第 3 级 L3 水平、斜线、垂直细节,第 2 级 L2 水平、斜线、垂直细节,第 1 级 L1 水平、斜线、垂直细节,两阈值线之间的直方图被去除（有损压缩）,50,小波变换用于无损数据隐藏,无损数据隐藏：是基于无损压缩：选择“整数小波变换”，无舍入误差。例如可以采用第二代小波。无损数据隐藏：避免在嵌入数据后小波反变换时图象灰度的溢出。小波变换前要作预处理，作直方图调整，将图象中灰度出现少的数据，合并入隐藏数据。第一个无损数据隐藏是1999年科达公司发表的一个专利。由于法律上原因，医学图象数据隐藏必须是无损的。此外、无损数据隐藏在电子银行、电子政务、电子商务、图象建档等有广泛的用途。,51
19、,数据嵌入核磁共振医学图象 (可无损恢复) (水印图象见下页) (a)原始 (5125128) (b)小波域嵌入水印图象,52,水印图象 (1921202 二值图象),53,小波变换用于无损数据隐藏（交通图象）,原始图象 （1024768） 信息隐藏后的伪装图象（1024768）,同时隐藏 5 张（320280）图象（见下页）,54,同时隐藏的 5 张（320280）交通图象，可完全恢复,55,小波变换用于图象水印,指纹原始图象 嵌入水印(取款密码等)后图象,指纹传感器：标准的Veridicom指纹鼠标指纹开发工具：Veridicom Authentication SDK以Windows的DL
20、L库方式提供指纹库：(Fingerprint Verification Competition, FVC)。FVC2000 db1是由光学设备采集；FVC2000 db2是由电容设备采集。,银行取款密码嵌入指纹，网上进行身份认证,56,小波变换用于图象水印,小波正变换,小波反变换,小波 正变换,小波反变换,数据嵌入,数据提取,原始图象,加水印后图象输入,原始图象,加水印后图象 输出,隐藏数据,隐藏数据,57,小波分析最新进展,（1）第二代小波，称提升算法，可用于整数小波。（2）嵌入零树法，获得更优良的效果。（3）小波与统计理论结合。（4）商品化，如“JPEG2000”小波图象压缩标准，MATL
21、AB小波计算包等。,58,“小波分析及其应用” 讲座 小结,（1）小波分析理论上比较完善 小波变换基，既具有频率局域性质，又具有时间局域性质。小波变换的多分辨度的变换，能在多个尺度上分解，便于观察信号在不同尺度（分辨率）上不同时间的特性。（2）小波分析有广泛的实用性 小波变换存在快速算法，对于M点序列而言，计算复杂性为：O(M)，处理快速。小波变换基函数有多种类型，可以是正交的，也可以是非正交（双正交），比傅里叶变换更加灵活。,59,附录1： 2 级 Haar小波变换4点例子,细节系数（ wd1 ）形成后不再变化。,原始信号1 级 小波近似系数1 级 小波细节系数2级 小波近似系数2 级 小波
22、细节系数,(s, w1 , w2的平方和不变),60,附录2：一级、二级小波16点,61,附录3： 16点小波去噪声,62,16点HAAR小波去噪声例子,原始信号s=6 5 9 8 3 7 8 5 6 5 9 8 1 3 3 9小波系数（近似）wa2=28 23 28 16/2按照原始信号分辨率扩展，a2= wa2 A2， s每四个平均值a2= 28 28 28 28 23 23 23 23 28 28 28 28 16 16 16 16/4 wa2=28 28 28 28 23 23 23 23 28 28 28 28 16 16 16 16/2扩展基函数A2=+1 +1 +1 +1 +1
23、+1 +1 +1 +1 +1 +1 +1 +1 +1 +1 +1 /2 小波系数（细节2） wd2=0 0 0 -1/2按照原始信号分辨率扩展，d2= wd2 D2s每二个平均的差值d2=0 0 0 0 0 0 0 0 0 0 0 0 -1 -1 +1 +1/4 wd2=0 0 0 0 0 0 0 0 0 0 0 0 -1 -1 -1 -1/2扩展基函数D2=+1 +1 -1 -1 +1 +1 -1 -1 +1 +1 -1 -1 +1 +1 -1 -1 /2 小波系数（细节1） wd1=0 0 0 0 0 0 0 - 0.7071/sqrt(2) 按照原始信号分辨率扩展，d1= wd1 D1s
24、每单双数的差值d1=0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 -0.7071 +0.7071/2 wd1=0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 -0.7071 -0.7071/sqrt(2)扩展基函数D1=+1 -1 +1 -1 +1 -1 +1 -1 +1 -1 +1 -1 +1 -1 +1 -1/sqrt(2)恢复： s1=sdn= a2+d2+d1; s1=sdn= 7,7,7,7,5.75,5.75,5.75,5.75,7,7,7,7,3.75,3.75,3.8965,4.6036,其中：,63,附录4：第二代小波,1994 年, 贝尔实验室的Sweldens 提出了一种新的小波构成方法，不依赖于傅里叶分析, 而是基于空间域的分裂(Split)、预测(Predict) 和更新(Update) 三个运算，实现小波变换，被称为第二代小波。由于仅使用加减法，好象是提升，称为提升方法(Lifting scheme)。第二代小波变换构造方法简单，运算复杂度低，可以快速简单实现整数小波。,64,第二代小波公式：“Haar小波”和“ (5,3)小波”,65,第二代 (5,3)小波与第一代小波滤波器关系,66,第二代小波公式：“整数Haar小波”和“整数(5,3)小波(CDF 2.2)”,
