1、毕业论文 文献综述 电气工程及自动化 BP神经网络研究综述 摘要: 现代信息化技术的发展,神经网络的应用范围越来越广,尤其基于 BP 算法的神经网络在预测以及识别方面有很多优势。本文对前人有关 BP 神经网络用于识别和预测方面的应用进行归纳和总结,并且提出几点思考方向以作为以后研究此类问题的思路。 关键词: 神经网络;数字字母识别; 神经网络的脑式智能信息处理特征与能力使其应用领域日益扩大,潜力日趋明显。作为一种新型智能信息处理系统,其应用贯穿信息的获取、传输、接收与加工各个环节。具有大家所熟悉的模式识别功能,静态识别例 如有手写字的识别等,动态识别有语音识别等,现在市场上这些产品已经有很多。
2、本文查阅了中国期刊网几年来的相关文献包括相关英文文献,就是对前人在 BP 神经网络上的应用成果进行分析说明,综述如下: (一) BP神经网络的基本原理 BP 网络是一种按误差逆向传播算法训练的多层前馈网络它的学习规则是使用最速下降法,通过反向传播来不断调整网络的权值和阀值,使网络的误差平方最小。 BP 网络能学习和存贮大量的输入 - 输出模式映射关系 ,而无需事前揭示描述这种映射关系的数学方程 . BP 神经网络模型拓扑结构包括输入层( input)、隐层 (hide layer)和输出层 (output layer),如图上图。其基本思想是通过调节网络的权值和阈值使网络输出层的误差平方和达到
3、最小,也就是使输出值尽可能接近期望值。 (二) 对 BP 网络算法的应用领域的优势 和其它神经网络相比, BP 神经网络具有模式顺向传播,误差逆向传播,记忆训练,学习收敛的特点, 主要用于: ( 1) 函数逼近:用输入向量和相应的输出向量训练一个网络以逼近一个函数; ( 2) 模式识别:用一个待定的输出向量将它与输入向量联系起来; ( 3) 数据压缩:减少输出向量维数以便于传输或存储; ( 4) 分类:把输入向量所定义的合适方式进行分 类; 9 BP 网 络实质上实现了一个从输入到输出的映射功能, , 而数学理论已证明它具有实现任何复杂非线性映射的功能。 由于人工神经网络具有并行处理和很强的容
4、错性等特点,因此有可能大大提高手写体字母数字识别的准确率和速度。最重要是其识别率与传统方法相比差不多,但是提升空间大。神经网络所具有的非线性特性和学习能力,使它在工程方面对于复杂的非线性,不确定,不确知系统的控制问题提供了新的解决途径,例如:系统识别,神经控制,智能检测等。它还具有泛化能力,这是衡量多层感知器性能优劣的 一个重要手段。 (三) BP网络算法的实际应用研究 为了了解 BP 算法优势以及各种局限性,本人在各期刊杂志上研究相关 BP 算法实际应用情况。鉴于上述优势, BP 算法各种优势如何在实际应用中体现,这也是开发者们开发该产品的重要优势。如国刚等人对 BP 神经网络进行手写字母识
5、别的研究中在选取合适的特征点的基础上,对手写体图像进行分域处理,每一小区域对应输入层的一个神经元。 测试结果表明,该识别方案具有很强的抗畸变、抗旋转能力。由于人工神经网络具有并行处理和很强的容错性等特点,因此有可能大大提高手写体字母数字识别的准确率和速度 4 。这些都是在实际应用中必须考虑和衡量产品优劣的重要依据。在工程中 BP 算法一样应用广泛,比如在排障方面一个简单的算法结合 MATLAB 就能够大幅度提高判断准确性, BP 神经网络算法构建的模型在直流电机当中能及时、有效、准确的进行状态监视和故障诊断 3 。现在在工程上要求的系统需要的就是稳定性和准确性。而在当今社会当中应用在预测模型上
6、也是很多的,由于其良好的非线性品质,灵活的学习方式,在实际生活中被广泛利用。 但是诸如以上应用都不是 标准的 BP 算法可以得到良好解决的,从实际情况考虑 BP 神经网络算法在原始的标准算法上被加以改进,主要有两种途径,一种是采用启发式学习算法,另一种则是采用更有效地优化算法。就如手写体字母识别的系统中,为了系统能够减少复杂度,利用了 BP 算法和传统识别系统相结合的方法,让识别系统达到相对理想状态。而直流电机的排障系统当中,由于网络比较小,内存空间足够,采用 Le v e n b e r g Ma r q u a r d 这种算法比较恰当。由此可以看出, BP 算法也是具有局限性的,这个我们
7、在下面会说到,所以不是那都可以应 用得到,在训练样本之前应该先明白自己系统的特点及其要求,结合相应的算法做出最优选择。 在设计 BP 神经网络的模型时候,选择好输入量也是很重要的,只有选择好的输入信号才能很好的训练接下来的样本。在实际应用中,只有把输入量确定好,才能很好的解决系统的复杂度,在我看来这也是在改进 BP 算法上的重要一环,我在查阅了很多 BP 算法应用得学术期刊,当中很多作者都是能够阐述出选择这个输入量的原因,并且在训练过程中能够感受得到对其研究成果的优化作用,这些才是设计者必须的考虑的因素之一。 (四) BP网络的局限性 BP神经网络的几种改进方 法在理论上是可以改进训练速度的,
8、但是在实际应用中速度还是不够,只能够适应一般的递增训练,需要较高的收敛速度就需要在外部条件允许下改用其他的训练方法 8 ,如: Levenberg-Marquardt 训练法,其对内存空间要求大 3 。 还有设计出来的系统一般应用于线性和非线性系统中,对于任意函数模拟逼近,但是有些时候BP 网络不一定总会有解的 1 。 网络隐层神经元的数目也对网络有一定的影响, 神经元数目太少会造成网络的不适性,而神经元数目太多又会引起网络的过适性 2 。 (五) 结语 BP 神经网络的算法在当今的实际应用中渐渐被人们所熟知,大部分的神经网络模型都采用 BP网络及其变化形式。尤其它在信息处理方面的重要性,体现
9、了人工神经网络的精华。 本文结合 BP 算法在实际几个方面的应用对 BP 算法进行了分析说明,为进一步了解 BP 神经网络提供了便捷。 参 考 文 献 1 张猛等 . 手写体数字识别中图像预处理的研究 J . 微计算机信息 , 2006 2 马少平等 . 基于模糊方向线索特征的手写体汉字识别 J .清华大学学报 , 1997 3 崔立志等 . B P 神经网络在直流电动机故障诊断方面应用的设计和实现 J .电气开关, 2005 4 王 毅等 . 应用 BP 神经网络进行手写体字母数字识别 J .电脑知识与技术 ,2008 5 尚 宁等 . 基于 BP神经网络的路口短时交通流量预测方法 J ,中国期刊 ,2007 6 张小峰等 . 河道岸线变形神经网络预测模型研究 J . 北京:水利电力 出版社 ,2002 7 韩力群 . 人工神经网络教程 TP .北京邮电大学出版社 ,2006 年 12 月第一版 8 董长虹 ,Matlab 神经网络与应用 TP .国防工业出版社, 2007 年 9 月第一版 9 郭 磊 . BP 神经网络的基本原理 J .2005 10 LI Cun-bin. A new grey forecasting model based on BP neural network and Markov chain J .中国期刊杂志 ,2007