1、 毕业设计论文I摘要与普通图像相比，高光谱图像处理面临的两个主要问题是：一是光谱分辨率高、光谱曲线近乎连续、数据量大、数据冗余严重、谱间相关性强；另一是空间分辨率有限、存在大量混合像元， “Hughes”现象凸现。“特征学习”从原始的像素出发通过特定的神经网络结构自动发现图像中隐藏的模式以学习出有效特征，近年来获得空前的发展，成为国际上信号处理模式识别等领域的研究热点。深度学习是一种多层的神经网络结构，是自 2012 年来机器学习领域非常热的一个研究方向，它能够从原始的像素出发通过多层结构自动学习有效特征并在输出层实现分类。本文将基于深度学习的特征学习方法引入到高光谱遥感图像处理中，结合像元的
2、空谱联合特征，设计了一种深度学习网络，能够从高光谱数据上百个波段中提取高光谱图像的空谱联合特征进行分类处理，其性能优于国际上最新的 RPCA+CNN 算法。同时，训练好的网络具有很好的泛化性能，可以直接提取同种传感器获取的其他高光谱图像数据，与传统的 SVM、SVM-CK 等分类方法比较，正确率得到了显著的提升。关键词：高光谱图像，特征提取，深度学习，卷积神经网络毕业设计论文IIAbstractHyperspectral classification, which categorizes all image pixels into one of several land cover class
3、es according to their characteristics, has become one of the most popular topics in hyperspectral remote sensing. However, it faces two main problems. First, hyperspectral image is featured with high spectral resolution and its spectral curve is nearly continuous. However, the redundancy in data is
4、serious and the spectral correlation is very strong. Second, there exist a lot of mixed pixels since its space resolution is limited. The “Hughes“ phenomenon always happens in classification. In machine learning, feature learning or representation learning is a set of techniques that learn a feature
5、: a transformation of raw data input to a representation that can be effectively exploited in machine learning tasks. This obviates manual feature engineering, which is otherwise necessary, and allows a machine to both learn at a specific task (using the features) and learn the features themselves:
6、to learn how to learn. Deep learning (also known as deep structured learning, hierarchical learning or deep machine learning) is a branch of machine learning based on a set of algorithms that attempt to model high-level abstractions in data by using multiple processing layers, with complex structure
7、s or otherwise, composed of multiple non-linear transformations. This article will introduce a feature learning method based on deep learning, which combined with the spectral-spatial characteristics of pixels can learn the deep feature from hyperspectral remote sensing image, and be able to extract
8、 useful information from hyperspectral data to get lower classification error rate. Compared with other classification method based on deep learning, the accuracy of our method has been significantly improved, and even better than the state of the art algorithms. Meanwhile, the trained network has g
9、ood generalization performance, and we can use weight which had been trained by one of hyperspectral image to directly 毕业设计论文IIIextract feature from other hyperspectral image, compared with the origin data, the classification error rate has been significantly lower.KEY WORDS：hyperspectral image, fea
10、ture extraction, deep learning，convolutional neural network毕业设计论文IV目录第一章 绪论 .11.1 研究的背景和意义 .11.2 高光谱图像特征提取与分类的国内外研究现状 .21.3 深度学习的国内外研究现状 .41.4 论文的内容安排和主要工作 .5第二章 卷积神经网络理论 .62.1 引言 .62.2 卷积神经网络的结构 .62.2.1 稀疏连接与权值共享 .62.2.2 最大池采样 .72.2.3 Softmax 回归 .72.2.4 全连接层 .102.2.5 Batch normalization 批量正则化 .102.
11、2.6 激活层 .112.3 基于卷积神经网络的特征学习 .12第三章 基于卷积神经网络的高光谱图像特征学习研究 .143.1 引言 .143.2 网络结构 .153.2.1 网络总体结构 .15毕业设计论文V3.2.2 输入层 .153.2.3 卷积层 .163.2.4 批量正则化层 .163.2.5 全连接层 .173.2.6 输出层 .173.3 高光谱图像分类测试数据集 .173.3.1 Indian Pines.173.3.2 Salina.183.3.3 Pavia Centre and University.193.4 分类研究 .213.4.1 简介 .213.4.2 实验设计
12、 .213.4.3 实验结果与分析 .223.5 特征学习 .253.5.1 特征学习简介 .253.5.2 实验设计 .263.5.3 实验结果与分析 .273.5 本章小结 .30第四章 总结与展望 .314.1 研究工作总结 .314.2 对进一步工作的展望 .31第五章 本科阶段已取得的成果 .32参考文献 .33致谢 .38毕业设计论文VI毕业设计小结 .39毕业设计论文1第一章 绪论1.1 研究的背景和意义高光谱遥感影像具有光谱分辨率高及图谱合一等特点，其光谱分辨率可达到纳米级，提供了比常规图像传感器更丰富且更精确的光谱信息，使得本来在宽波段范围内不可探测的物质，在高光谱遥感中可以
13、被探测到，因此，与其他技术相比，高光谱遥感技术在地表物质的识别、分类以及感兴趣目标信息的提取等方面具有的更大的优势。与此同时，高光谱数据分析及处理的方法与技术研究也随之成为遥感信息处理领域的研究热点，引起国内外相关科研机构和应用部门越来越多的关注，并逐渐成为国内外遥感信息处理与相关应用领域科研工作者的研究重点和热点。与普通图像相比，高光谱图像处理面临的两个主要问题是：一是光谱分辨率高、光谱曲线近乎连续、数据量大、数据冗余严重、谱间相关性强；另一是空间分辨率有限、存在大量混合像元， “Hughes”现象凸现。由于高光谱遥感图像数据量非常巨大，使用传统的处理方法处理高光谱图像时，其效率非常低甚至失
14、效，这给信号与信息处理学科提出了严峻的挑战。因此，研究高光谱图像数据的特征提取，对于提高高光谱图像分类、目标识别等处理的精度具有非常重要的意义，并将对高光谱遥感的深层次应用技术的发展起到积极的推动作用。“特征学习”从原始的像素出发通过特定的神经网络结构自动发现图像中隐藏的模式以学习出有效特征，近年来获得空前的发展，称为国际上信号处理模式识别等领域的研究热点。深度学习是学习一种多层的神经网络结构，是自 2012 年来机器学习领域非常热的一个研究方向，它能够从原始的像素出发通过多层结构自动学习有效特征并在输出层实现分类，目前的研究证明，利用深度学习获取的特征可将相关的图像处理（分类、识别等）的精度
15、提高 10%以上。因此，本文章将基于深度学习的特征提取方法引入到高光谱遥感图像处理中，结合像元的光谱特征，设计一种深度学习网络，从高光谱数据上百个波段中提毕业设计论文2取有用的信息，用于进一步的数据处理(如地物分类和目标检测等)，对于提高高光谱图像分类和识别等处理的精度具有重要意义。1.2 高光谱图像特征提取与分类的国内外研究现状高光谱遥感技术的发展是遥感领域 20 世纪 80 年代起最重要的发展之一，至 90 年代已成为遥感技术研究领域的热门课题，也是当今及今后几十年内的遥感的前沿技术。在成像过程中，高光谱遥感技术利用成像光谱仪纳米级的光谱分辨率，以几十或几百个波段同时对地物成像，获得地物连
16、续的光谱信息，实现了地物空间信息、辐射信息以及光谱信息的同步获取，因而在相关领域具有巨大的应用价值和广阔的发展前景。相对于多光谱而言,它有更多的波段数目(一般为几十至几百个) 、更高的光谱分辨率(在可见光和近红外波段可以达到纳米级) 和更大的信息量和数据量。高光谱遥感的出现是遥感界的一场革命，它使得本来在多光谱的宽波段中不可探测的物质，在高光谱遥感中可以被探测到，所以，高光谱遥感技术自诞生之日起，就引起了遥感界的极大兴趣和关注，并在各国政府的大力扶持下得到了飞速发展。特征提取通常是指从原始数据中提取有用信息，兼或提高后续数据应用能力。在高光谱图像处理中，特征提取通常起到数据降维的作用，同时能够
17、提高后续地物分类、目标检测、混合像素解译以及子像素制图的处理能力 1-3。下面对高光谱遥感图像处理领域中特征提取研究的现状进行介绍。高光谱图像在获取较高空间分辨率图像的同时，在光谱维进行了更广的扩展，图像在光谱维度上具有很大的数据量，即光谱特征数目与以往相比呈现十倍甚至百倍的增长，这就使得相邻或相近光谱特征之间的相关性变得异常的高。面对如此巨大的数据量，若对原始图像直接进行处理，势必会影响处理的效率。使用传统多光谱图像分类方法对高光谱图像进行分类时会遇到“维数灾难”现象，而且计算量随波段数量成四次方增加。研究表明，绝大多数情况下，异类物质的光谱特性具有唯一性，不同物质的光谱信息只有在一定的波段
18、范围内才会表现其差异性，而在这之外的波段范围内差异性表现不显示，也就是具有很强的相似性。这样一来，本文期望得到对辨识地物类型最有利的特征记录，去除其他无关紧要的冗余信息。有着如此优越性的特征降维处理，在对高光谱图像进行处理后，不仅可以大大减小分类之前的输入数据量，而且对分析图像数据的结构及其它信息变得更简单和快捷，这样对场景中地物的分类有很大的助益。高光谱图像数据减少方法一般可分为特征选择和特征提取。特征提取的主要作用是保留数据中正交信息，即非相关信息。因此，特征提取通常具有去除毕业设计论文3相关性较强的冗余信息的作用。下面将概括地介绍主成分分析、最小噪声分离变换、投影寻踪等典型的特征提取方法
19、。(1)主成分分析国际遥感领域著名学者 J. Richards4等采用具有正交变换特性的主成分分析(Principal Component Analysis，PCA) 的方法对图像进行变换，使得图像波段之间互不相关，用于数据降维并隔离噪声。X. Jia 和 J. Richards 等 5在对高光谱图像进行特征提取时，采用了 PCA 的扩展形式分段 PCA 的方法，在对变换后的特征数据进行分类时，计算速度有很大的提升。同样采用此方法，D. Manolakis 等 6则是从数据降维角度对高光谱图像数据进行处理。(2)最小噪声分离变换最小噪声分离变换(Minimum Noise Fraction,
20、MNF) 是对 PCA 的延伸和扩展。典型地，Boardman 7和 Green8给出利用 MNF 对图像数据进行处理时的三个优势：降维(类似于 PCA，能够将信息按照信噪比由高到低的顺序集中到少量分量上) 、分离噪声( 以信噪比最大化为准则)、减少计算量。李海涛等 9在利用支持向量机(Support Vector Machine, SVM)进行分类之前，先利用 MNF 对遥感数据进行特征提取，也得到了很好的分类效果。武汉大学杜博等 10用 MNF 对数据进行降维处理，同时分离数据中的噪声，实现了有效识别高光谱遥感影像中亚像元目标的目的。(3)投影寻踪法考虑到相邻波段具有更强的相关性的特点，L
21、. Jimenez 等 11利用投影寻踪法有效地将高光谱图像数据中相邻波段进行了分组处理，再对每组内的波段数据进行给定方向的投影来得到相应特征。进一步，L. Jimenez 等 12又对投影寻踪法进行改进，给出基于监督和参数的投影寻踪法，在对低维子空间进行变换时利用了先验知识。山东大学张连蓬等 13在投影寻踪方法的基础上，引入了非线性主曲线，使二者合二为一，还提出多方向投影寻踪等多种方法用于高光谱遥感数据的特征提取，同样收到了很好的分类效果。(4)其它方法C. Lee 等 14在提取高光谱遥感图像特征时使用了分类算法中的决策边界法，考虑到高光谱图像的高维度特点，这种方法能够减小分类所需输入数据
22、的特征维数。B. Kuo 等 15针对遥感数据进行特征提取提出了基于满秩分布矩阵的非参数加权方法，这种方法在降低了奇异问题影响的同时，通过给决策边上的毕业设计论文4样本赋予较大权值来改善分类效果。在信号处理的理论方面，小波理论的发展使信号处理与分析步入了新的时代，特别是多分辨率和多尺度特性更是使得小波理论得到了进一步完善。基于此，S.K. Meher 等 16利用小波变换，在不同尺度下对光谱曲线分别进行高低频特征提取，保留包含重要信息的小波系数。G.P. Asner17和 R.A. Neville18等针对高光谱图像混合像素的特点，采用光谱混合分析的方法进行了特征提取。与 PCA 和 MNF
23、类似，独立分量分析(Independent Component Analysis, ICA)也被广泛地应用于高光谱图像分类前的特征提取步骤中 19。此外，还有一些其它的方法能够用于以地物分类为目的的高光谱遥感图像的特征提取 20-26。其中，J.A. Benediktsson 等人 20, 22提出了一种基于数学形态学滤波的高光谱图像特征提取，这是一种典型的高光谱图像空间纹理特征提取方法。针对空间特征提取问题，Gabor 滤波器也被引入到高光谱遥感领域，用于实现空间纹理特征的提取，进而提高后续地物分类的能力27-29。所形成的 Gabor 空间纹理特征也被看做是一种典型的高光谱图像空间特征。研
24、究表明，空间特征的引入，能够较大幅度的提高高光谱图像的地物分类能力。1.3 深度学习的国内外研究现状深度学习是一种含有多隐含层的神经网络，具有特定的结构和训练方法，其主要思想源于人类大脑对视觉信息的层次式处理方式，从原始的像素逐层提取特征并实现分类，所以深度学习和特征提取密切相关。目前，深度学习技术如卷积神经网络（CNN）等在图像领域特别是图像分类和目标检测领域已取得了丰硕成果。一些研究者已开始将相关技术应用于高光谱分类，例如，Chen 等第一次使用层叠自动编码机（SAE）提取判别特征分类； Hu 等第一次应用深度卷积神经网络（CNN）对高光谱图像进行分类 30，文献 31中作者提出了一种监督的神经网络架构进行大规模的高光谱图像分类，文献 32提出了一种更深层次的神经网络架构用于高光谱图像分类，分类的性能与 SVM 相当。 深度学习架构由不同类别的层堆叠而成，通过反向传播算法（backpropagation algorithm）对网络进行迭代训练，深度学习网络可以从海量数据中习得复杂的多层次结构，不同的层实现不同的功能，其中大部分层会对输入执行非线性变换。通过多个非线性层的变换（例如，深度 5-20 层） ，网络可以对输入数据中重要而微小的细节进行识别，同时忽略输入数据中明显却无关的变量（例如，物体周围的环境、姿势、光照条件和周围物体） 。在语音识别、
