1、毕业论文 文献综述 电气工程及自动化 BP神经网络的发展与应用 摘要: 介绍了人工神经网络领域中 BP 神经网络的特点以及在实际中的应用。目前人工神经网络的实际应用中,绝大部分的神经网络模型采用 BP 网络和它的变化形式,主要包括模式识别、分类、数据压缩等方面的应用。并简单介绍 BP 神经网络存在的缺陷及发展前景。 关键词: BP 神经网络;应用 什么是 BP 神经网络 BP( Back Propagation)网络是 1986 年由 Rumelhart 和 McCelland 为首的科学家小组提出,是一种按误差逆传播算法训练的多层前馈网络, 是目前应用最广泛的神经网络模型之一。 1BP 网络
2、能学习和存贮大量的输入 -输出模式映射关系,而无需事前揭示描述这种映射关系的数学方程。它的学习规则是使用最速下降法,通过反向传播来不断调整网络的权值和阈值,使网络的误差平方和最小BP 神经网络模型拓扑结构包括输入层( input)、隐层 (hide layer)和输出层 (output layer)。 2 BP 算法的基本思想是 ,学习过程由信号的正向传播与误差的反向传播两个过程组成。正向传播时 ,输入样本从输入层传入 ,经各隐层逐层处理后 ,传向输出层。若输出层的实际输出 与期望的输出(教师信号 ) 不符 ,则转入误差的反向传播阶段。误差反传是将输出误差以某种形式通过隐层向输入层逐层反传 ,
3、并将误差分摊给各层的所有单元 ,从而获得各层单元的误差信号 ,此误差信号作为修正各单元权值的依据。这种信号正向传播与误差反向传播的各层权值调整过程 ,是周而复始地进行的。权值不断调整的过程 ,也就是网络学习训练过程。此过程一直进行到网络输出的误差减少到可接受的程度 ,或进行到预先设定的学习次数为止。 3 BP神经网络的局限及改进 虽然 BP 网络得到了广泛的应用,但自身也存在一些缺陷和不足,主要包括以下几个 方面的问题: ( 1)收敛速度慢 ( 2)局部极值 ( 3)难以确定隐层和隐节点的个数 在实际应用中, BP 算法很难胜任,因此出现了很多改进算法。 BP 算法的改进主要有两种途径:一种是
4、采用启发式学习方法,另一种则是采用更有效的优化算法。 4 动量法降低了网络对误差曲面局部细节的敏感性,有效地抑制网络陷于局部极小;自适应调整学习率有利于缩短学习时间。 5 BP神经网络的实际应用 作为一种重要的神经网络模型, BP 神经网络在许多领域都得到了应用。主要用于: ( 1) 函数逼近:用于输入向量和相应的输出向量训练一个网络逼 近一个函数。 ( 2) 模式识别:用一个特定的输出向量将它与输入向量联系起来。 ( 3) 分类:把输入向量以所定义的合适方式进行分类。 ( 4) 数据压缩:减少输出向量维数以便于传输或存储。 6 人脸识别 将 BP 网络用于人脸识别 ,建立了人脸识别模型 ,通
5、过对输入图像实行图像压缩、图像抽样及输入矢量标准化等图像预处理 ,将标准化矢量输入 BP 神经网络进行训练。 BP 网络用于人脸识别时 ,网络 的 每 一 个 输 入 节 点 对 应 样 本 的 一 个 特 征 , 而 输 出 节 点 数 等 于 类 别 数 , 一个输 出节点对应一个类。在训练阶段 ,如果输入训练样本的类别标点是 i ,则训练时的期望输出假设第 i 个节点为 1 ,而其余输出节点均为 0 。在识别阶段 ,当一个未知类别样本作用到输入端时 ,考察各输出节点对应的输出 ,并将这个样本类别判定为具有最大值的输出节点对应的类别。如果有最大值的输出节点与其它节点之间的距离较小 (小于某
6、个阈值 ) ,则作出拒绝判断。经过竞争选择 ,从而获得识别结果。 7 图像压缩 BP 神经网络是可以直接用于图像压缩的一种网络模型。对于含有 n n 个像素数据的图像, BP 网络的输入层与输出层的神经元数目 都应为 n*n 个 ,而隐含层的神经元数目比输入输出层含有的神经元数目少得多。通过设计隐含层的神经元的数目可以实现不同的压缩的目的。输入层到隐含层之间就相当于编码器,对信号进行线性或非线性变换;隐含层到输出层 之间相当于解码器,对经过压缩后的系数进行线性或非线性反变换,从而恢复原始图像数据。 压缩率 =网络输入节点数 /隐含层节点数。 8 车牌字符识别 首先对车牌图像进行预处理 , 包括
7、彩色图像转换为灰度图像、平滑去噪 , 然后用 Gabor 从训练样本集中提取所有特征 , 并利用 PCA 进行降维处理 , 得到神经网络的 输入。神经网络采用 3层结构 : 选择提取的特征作为网络的输入 , 网络的输出有 10 个 , 分别对应 0 9 十个数字。隐层取了 24 个神经元。从而进行识别。 9 教学评价系统 教学质量评价指标是一个由若干不同参数组合而成的指标体系 , 数目多 , 内容复杂难以精确化 , 带有明显的模糊性 , 想借助常用的评价方法来解决这一评价问题就存在许多局限性。而利用 BP 神经网络只须将处理过的数据输入到网络中 , 通过计算即可产生结果 , 不须人为地确定权重
8、 , 确实减少评价过程中的人为因素 , 提高评价的可靠性 , 使评价结果更有效、更客观。 10 故障诊断 对于故障诊断而言 ,其核心技术是故障模式识别。而人工神经网络由于其本身信息处理特点 ,如并行性、自学习、自组织性、联想记忆等 ,使得能够出色地解决那些传统模式识别难以圆满解决的问题 ,所以故障诊断是人工神经网络的重要应用领域之一 ,已有不少应用系统的报道。总的说来 ,神经网络在诊断领域的应用研究主要集中在两个方面 :一是从模式识别的角度应用作为分类器进行故障诊断 ,其基本思想是 :以故障征兆作为人工神经网络的输入 ,诊断结果作为输出 ;二是将神经网络与其他诊断方法相结合而形成的混合诊断方法
9、。对用解析方法难以建立 系统模型的诊断对象 ,人工神经网络有着很好的研究和应用前景 11 总结 BP 神经网络是一门新兴的学科,它在理论、模型、算法、应用和实现等方面都还有很多空白需要去探索,开发。 参考文献 1党建武 .神经网络技术及应用 M.北京 : 中国铁道出版 , 2000, 7. 2Simon Haykin. Neural networks a comprehensive foundationM2nd ed.北京 : 清华大学出版 , 2001,10. 3张德丰 .MATLAB 神经网络应用设计 M.北京:机械工业出版 社, 2009, 1. 4楼顺天,施阳 .基于 MATLAB 的
10、系统分析与设计 -神经网络 M .西安:西安电子科技大学出版社,1998,9. 5闻新,周露,王丹力,熊晓英 .MATLAB 神经网络应用设计 M .北京:科学出版社, 2000,9. 6张宝伟,闻新,李翔,周露 .MATLAB 神经网络仿真与应用 M.北京:科学出版社, 2003,7. 7甘俊英,张有为 .基于 BP 神经网络的人脸识别 J.系统工程与电子技术, 2003,25( 1) . 8周忠海,张奚宁,张涛,泮利 .BP 神经网络及其在图像压缩中的 应用 J.中国水运(理论版),2006,4( 6) . 9郭荣艳,胡雪惠 . BP 神经网络在车牌字符识别中的应用研究 J.计算机仿真, 2010,9,( 9) . 10冯必波 .BP 神经网络在教学质量评价体系中的应用 J.计算机与数字工程 ,2010,1, 38( 4) . 11林康红 ,施惠昌 ,卢强 . 基于神经网络的传感器非线性误差校正 J.传感器技术 2002,21(1).