1、武汉理工大学毕业设计（论文）图像稀疏表示理论研究学院（系）： 信息学院 专业班级： 电信 1001 班 学生姓名： 朱玉峰 指导教师： 杨媛媛 讲师 学位论文原创性声明 本人郑重声明：所呈交的论文是本人在导师的指导下独立进行研究所取得的研究成果。除了文中特别加以标注引用的内容外，本论文不包括任何其他个人或集体已经发表或撰写的成果作品。本人完全意识到本声明的法律后果由本人承担。作者签名： 年 月 日学位论文版权使用授权书本学位论文作者完全了解学校有关保障、使用学位论文的规定，同意学校保留并向有关学位论文管理部门或机构送交论文的复印件和电子版，允许论文被查阅和借阅。本人授权省级优秀学士论文评选机构
2、将本学位论文的全部或部分内容编入有关数据进行检索，可以采用影印、缩印或扫描等复制手段保存和汇编本学位论文。本学位论文属于 1、保密囗，在 年解密后适用本授权书2、不保密囗 。（请在以上相应方框内打“”）作者签名： 年 月 日导师签名： 年 月 日摘 要本文借助数学软件 MATLAB 首先对不同小波基的图像稀疏表示能力进行了比较，从中选出最优基。然后对基于 MOD 和 K-SVD 的两种不同算法的学习字典进行了去噪实验，得出了 K-SVD 字典的稀疏表示能力更优的结论。虽然过完备稀疏字典的性能应该要优于小波变换，但还是通过对比试验来说明，这样显得更直观一些。对基于最优小波基和基于稀疏字典两种情况
3、进行了比较，所得结果对于整个图像稀疏表示理论的演变发展起到了论证作用，具有重要的指导意义。论文主要研究了图像稀疏表示理论的整个发展历史以及现在的研究现状。介绍了基于小波变换和多尺度几何分析方法的图像稀疏表示，重点研究了基于过完备字典的图像稀疏表示理论。图像的过完备字典稀疏表示可分为稀疏分解和字典学习两过程：稀疏分解是在过完备字典已知的情况下获得表示系数的过程；而字典学习与稀疏分解相反，则是通过获得的表示系数来更新过完备字典。这两个过程的有效结合可以让图像稀疏分解的结果更加符合图像特征，从而提高图像的稀疏表示质量。基于此两个过程的内容，本文分析了基于 MP，BP 以及 OMP 算法的稀疏分解和基
4、于 MOD 和 K-SVD 算法的字典学习算法，并对其核心思想和性能差别进行了详细的介绍和分析，形成了以 OMP 算法用于稀疏分解，结合 K-SVD 字典学习算法的图像稀疏表示，并将此方法与小波变换进行比较。研究结果表明：基于稀疏字典的图像稀疏表示性能优于基于小波变换的稀疏表示。本文的特色：对整个图像稀疏表示理论的研究很全面，回顾了稀疏理论发展的历史和现状，通过实验论证了基于字典方法的优越性，对稀疏表示理论的后续研究提出了一定要求。 关键词： 图像稀疏；小波变换；过完备字典；OMP;K-SVDIAbstractIn this paper, using software MATLAB first
5、ly indicates the ability to compare different image sparse wavelet base, choose the basis from which the. Then the two different learning algorithms of MOD and K-SVD dictionary based on denoising experiments, the sparse K-SVD dictionary representation capability and better conclusion. Although the p
6、erformance over complete sparse dictionary should be superior to the wavelet transform, but by contrast experiment to illustrate, that seems more intuitive. Based on the optimal wavelet basis and sparse dictionary based on two conditions were compared, the results indicated the evolution theory to d
7、emonstrate to the sparse image, has the important guiding significance.This paper mainly studies the image sparse representation of the whole development history theory and the current research status. The sparse image analysis method of wavelet transform and multi scale geometric representation bas
8、ed on, key research based on over complete dictionary of image sparse representation theory. The image of the over complete dictionary sparse representation can be divided into two processes for learning sparse decomposition and Dictionary: sparse decomposition is to obtain there presentation coeffi
9、cients of the process in the over complete dictionary of known cases; and dictionary learning and sparse decomposition instead, is obtained by the said coefficient to update the over complete dictionary. The effective combination of these two processes can make the image sparse decomposition results
10、 more in line with the image features, so as to improve the quality of image sparse representation. The two process based content, based on the analysis of the MP, BP and OMP algorithm of sparse decomposition and MOD algorithm and K-SVD algorithm based on dictionary, and the difference between its c
11、ore idea and performance are introduced and analyzed in detail,using OMP algorithm for sparse decomposition of the form, combined with the K-SVD dictionary learning image sparse algorithm said, and this method is compared with the wavelet transform.Research results show that: the performance is bett
12、er than the wavelet transformbased on the sparse representation of sparse representation of images based on sparse dictionary.This feature: the representation theory in the study of very comprehensive on the image sparse, reviews the history and present situation of the development of the theory of
13、sparse, the experiments demonstrate the superiority of the dictionary based method, said some follow-up study on the theory of sparse requirements.Key Words：Sparse image; wavelet transform; over complete dictionary; OMP;KSVD目 录第 1 章 绪论 .11.1 研究背景及意义 .11.2 国内外研究发展历程和现状 .2第 2 章 信号的稀疏表示理论 .42.1 数学基础及相关
14、说明 .42.1.1 从逼近论到过冗余稀疏表示 .42.1.2 稀疏性的度量 .52.1.3 唯一性和不确定性 .6第 3 章 图像稀疏表示基本理论的发展 .83.1 从傅里叶到小波 .83.1.1 傅立叶变换 .93.1.2 余弦变换 .93.1.3 小波变换 .103.2 超完备图像表示 .103.3 超小波图像稀疏表示 .113.3.1 Ridgelet (脊波) 变换 .113.3.2 Curvelet (曲线波) 变换 .123.3.3 Contourlet 变换 .133.3.4 Bandelet 变换 .13第 4 章 图像稀疏字典的设计和构造 .154.1 图像的稀疏分解 .1
15、54.1.1 稀疏分解的定义 .154.2 过完备字典 .164.2.1 分数频率法 .164.2.2 图像稀疏表示字典的选择和构造 .174.3 稀疏分解算法的实现 .174.3.1 BP 算法 .174.3.2 MP 算法 .184.3.3 OMP 算法 .204.4 稀疏字典发展趋势 .21第 5 章 不同稀疏表示方法的性能研究 .235.1 基于不同小波基的稀疏性能研究 .235.1.1 小波去噪原理 .235.1.2 实验分析及结论 .245.2 学习字典实验 .255.2.1 MOD 算法研究 .255.2.2 K-SVD 算法研究 .265.2.3 实验分析及结论 .285.3
16、基于小波变换和稀疏字典的图像表示性能比较 .30第 6 章 全文总结与展望 .326.1 论文工作总结 .326.2 未来工作展望 .32参考文献 .33附 录 .34致 谢 .39武汉理工大学毕业设计（论文）0第 1 章 绪论1.1 研究背景及意义随着社会的不断进步，信息技术已经成为人们日常生活中不可缺少的组成部分，图像丰富的信息含量使其成为人类获取信息的主要信息源。然而经过数字化处理的图像数据量十分庞大，给实际的存储、传输和理解带来了相当大的困难。图像表示模型的建立是图像处理应用开展的基础，如何设计既简洁又高效的图像表示模型，降低实际应用中巨大的图像数据量带来的压力，是图像处理理论和实践研
17、究中一个十分重要的课题。传统的图像表示方法仅仅使用某一种正交变换基函数（如傅里叶基等）对图像进行表示，不能有效地表示图像的结构特征，从而不能对图像形成最稀疏的表示。小波变换理论和方法的提出弥补了傅里叶变换不具有时域局部化能力的缺陷，并且能对非平稳信号进行有效地处理，小波变换比傅里叶变换能更稀疏的表示一维信号。然而自然界中的图像往往是具有不同复杂几何结构特征的二维信号，在用二维小波对图像进行表示时，在不同的小波系数子带上会同时出现图像的几何结构特征，结果造成了表示的不稀疏。多尺度几何分析方法是继小波变换之后，提出的又一类新的图像表示方法。该方法的出现被称为小波兴起后的又一场革命。多尺度几何分析方
18、法的提出主要是为了解决高维空间数据稀疏表示问题。图像的多尺度几何分析理论与方法是一个前沿的研究领域，其理论和算法还处在发展之中。在国内，目前图像稀疏表示方面的研究主要集中在多尺度几何分析理论及其应用。1996 年， Olshausen 和 Field 提出了稀疏编码模型。稀疏编码理论表明， V1 区简单细胞感受野的反应特性能够反映自然图像的主要结构特征。图像过完备稀疏表示作为一种有效的图像稀疏表示模型，其编码机制与人类视觉感知系统处理信息的方式相匹配，字典中的原子可以理解为人类视觉皮层中的神经元，应具有与神经元相类似的感受野结构，如方向性、局部性、帯通性，从而可以有效的捕获到自然图像中的局部几
19、何结构信息 1。在图像过完备稀疏表示模型中，将信号在过完备字典上分解，尽可能的使信号能量集中到少量的系数上，即大部分变换系数为零，只有很少的非零大系数。同时用来表示信号的字典原子可以自适应的根据信号本身的特点灵活选取，以得到信号非常稀疏的表示。对比基于固定正交基的图像表示，过完备图像稀疏表示达到了更优的逼近效果。同时冗余系统能够对噪声与误差更为鲁棒，从而为图像处理带来了很大的便利。图像表示是图像处理领域中一个非常核心的问题，它在图像压缩、特征提取、图像检索、图像去噪和图像复原等应用中起着非常关键的作用。尽管在图像稀疏表示研究方面取得了一定成就，但目前稀疏表示理论还不够成熟，在实际研究与应用过程
20、中还有许多问题亟待解决。建立高效、灵活的图像稀疏表示模型，研究有效、快速的图像稀疏表武汉理工大学毕业设计（论文）1示算法，将有利于推动图像处理领域研究的开展。1.2 国内外研究发展历程和现状对于信号而言，数据处理算法和数据模型的好坏直接决定了是否能够准确有效的对数据进行处理、量化和压缩。同时，从物理学和信息学的观点来看，任何信息都可以从多个不同的角度来对其进行研究，所以，在早先的信息处理中，当对某个信息的描述和理解出现困难时，研究者们往往会将其变换到其它便于描述和理解的变换域进行处理。在这种模型下，奈奎斯特最早提出奈奎斯特采样定律，确定了可以无失真恢复原始信号的最小采用速率，为现在数字信号处理
21、奠定了基础。到傅立叶提出傅立叶变换以后，人类推开了信号稀疏表示的大门。从之前所使用的离散 Fourier 变化(DFT) 、离散变换Walsh(DWT) 、离散 Hadamard(DHT) 、离散余弦变换(DCT)，直到 90 年代风靡全球小波变换理论，其本质都是将信号变换到其它域进行处理 2。在此理论下，最著名的静态图像压缩标准当属以离散余弦变换为基础的 JPEG 和以离散小波变换为基础的 JPEG-2000。在 JPEG 中，图像中的大的非零系数大多被保留在了图像的左上角中 DCT 变换中，其余部分系数较小，所以仅使用左上角的 DCT 系数就能对图像内容进行较好的近似表示，有利于图像的压缩
22、。而在 JPEG-200 中，小波系数中幅值较大的系数更少，系数分布更加稀疏,能够采用更少的数据对图像进行表示。对大多数类型的图像， JPEG-2000 比 JPEG 拥有更好的图像压缩性能。此后，在很长一段时间里，小波都以其强大的实用价值和理论体系受到了人们的广泛关注。但是，小波变换不能有效的表示出图像中的线状奇异性，只是对点状奇异性的对象表现出良好的效果，这就造成了小波推广到多维信号处理时的局性。其不足之处表现在变换不具备平移不变性以及对具有各种方向性的集合奇异特性的表示不稀疏。基于小波变换的缺点和劣势，在上世纪九十年代末开始。Donoho、Mallat、Coifman、Daubechie
23、s 等学者和研究人员提出了一系列的与小波变换类似但也不完全一样的一类新的方法，这一类方法在 2003 年的纯粹应用数学（Pure and AppliedMathematics）会议上被统一定义为 “几何多尺度分析方法 ”。具有代表性的如Ridgelet、Curvelet、Bandelet 、Contourlet 等 3。这类方法为信号稀疏表示的发展提供了一种新的途径，并解决了小波方法未能解决的方向性问题。在此之后国外对几何多尺度分析的研究非常活跃，各类新的概念、理论、方法层出不穷。多几何分析工具往往只能表示出信号的某一特定特征，例如纹理，边缘等。Coifman、Wickerhauser 和 M
24、allat、Z.Zhang 4先后在 1993 年提出了将信号在过完备基（over-complete dictionary）上分解的思想，即信号的稀疏表示方法。将信号在过完备基上进行分解，可以得到信号的一个非常简洁的表达式。这种新的理论可以获得更加稀疏武汉理工大学毕业设计（论文）2的信号表示。随后 Mallat 在 1994 年提出了匹配跟踪算法（MatchingPursuit, 简称 MP） ，用于实现图像的稀疏分解。这一算法之后又被扩展为 OMP 正交匹配跟踪算法。基于针对图像的稀疏分解方法，目前已经发展出了多种算法，包括 BP、MP、OMP 算法等。在此类方法中，用于图像稀疏分解的过完备
25、基的构造和选取是其中十分重要的一个环节。这一点也在随后研究者的研究成果中得到了验证。所使用的过完备基由最先的固定基，如小波包、Bandelet 等之类，逐渐发展成了现在的基于样本的学习算法，常见的有：最大似然法，最优方向法（Method of Optimal Direction,MOD） 、K-SVD 字典方法、最大后验概率法等 5。通过研究发现，使用过完备基对图像进行稀疏表示可以获得更好的图像质量。国内对稀疏表示的研究近些年也开始日益发展起来，并取得了长足的进步。国内学者们已在这一领域发表了大量的论文，涉及图像处理的多个方面，其中包括识别、去噪、超分辨率等，引起了同行的关注，并在国际上造成了
26、一定的影响力。武汉理工大学毕业设计（论文）3第 2 章 信号的稀疏表示理论2.1 数学基础及相关说明信号表示实际就是把给定的信号在己知的函数(或矢量)集上进行分解,然后在变换域上表达原始信号。这种在变换域上用尽量少的基函数来(准确地)表示原始信号，就是信号的稀疏表示，而得到信号的稀疏表示过程就是稀疏分解。对于信号矢量 (其中，i信号时频参数组，i=1,2,k,N信号长度)，由其组Nig9成的集合构成了一个过完备原子库，也称之为词典 D，词典中的元素被称为原子。设 D = 为用于进行信号稀疏分解的过完备原子库，其元素是在整个 Hilbert 空间iH= 的单位矢量。由于原子库的冗余性(i N)，
27、矢量 不再是线性无关的 6。一般地，N9 ig对于任意给定的长度为 N 的实信号 ，用少数的原子(与信号长度相比较而言)就可以Hf表示信号的主要成分，即(2.1)N,mgcfmjijj10式中， j 是原信号分解的原子个数； 是信号 f 在原子 上的分量，无因次； 是j jigjig由参数组 i 定义的原子，无因次； 第 j 个原子对应的时频参数组，无因次。式 (2.1)中，i关在于如何从各种可能的线性组合中寻求出分量最为稀疏的一个解。理论上，以上问题可以通过线性规划的方法加以解决，但由于算法所涉及的计算量非常大，因此，早期的研究主要集中在寻求快速算法和降低算法复杂度，以及选择何种类型的原子来造合适的词典等方面。最近几年，许多研究者尝试通过分析冗余词典的互不相干性来寻求新的解决办法。2.1.1 从逼近论到过冗余稀疏表示从逼近论的角度，信号的表示可以分为：线性逼近和非线性逼近。线性逼近是将信号 f 投影到从规范正交基 中事先选取的 M 个向量上。NmgB(2.2)mmgf,f10而非线性逼近是根据信号的性质选取 M 个向量 ,改进(2.2)式的线性逼近结果。记为这 M 个向量的指标集，则 f 的逼近为：I(2.3)mImgf,M其逼近误差为：
