1、 本科 毕业 论文 (设计 ) （二零 届） 基于 BP 神经网络的数字字母识别系统设计 系统的MATLAB 实现 所在学院 专业班级 电气工程及其自动化 学生姓名 学号 指导教师 职称 完成日期 年 月 摘 要 本课题利用 MATLAB 将应用于数字识别的 BP神经网络结构程序化，并进行仿真实验，考察网 络结构对系统实时性、识别效果的影响以及初始权值对收敛速度的影响 , 选取最佳的隐层节点数和权值初始化函数 , 实现了基于 BP 神经网络的数字识别系统。实验结果表明该系统能够实现对数字的有效识别 关键词： 数字识别， BP 神经网络， MATLAB 仿真 Abstract In this p
2、aper， MATLAB is used to program the BP neural network structure which is applied to digit recognition and conduct simulation experiment. For fulfilling the real time and veracity demands of digit recognition， the structure of neural networks is researched. The influence of initial weights on converg
3、ent speed is also considered. Select the best hidden layer node number and weight initialization function, realized the digit recognition system based on BP neural network. Experimental results demonstrate that the system works well in digit recognition. Key Words: digit recognition， BP neural netwo
4、rk， MATLAB simulation 目 录 1 引言 .1 2 神 经网络 .2 2.1人工神经元 .2 2.2人工神经网络 .2 2.2.1人工神经网络的定 .2 2.2.2人工神经网络的工作原理 .2 2.2.3人工神经网络的特征 .3 2.2.4几种典型的神经网络简介 .4 2.2.5人工神经网络的发展前景 .4 3 BP 神经网络 .5 3.1 BP 神经网络概述 .5 3.2 BP 算法 .5 3.2.1 BP 算法的 学习方式 .5 3.2.2 BP 算法的主要思想 .5 3.2.3 BP 算法的组成 .6 3.2.4 BP 算法的不足及解决办法 .7 3.3 BP 算法在
5、数字识别中的应用 .8 4 软件开发环境和平台 .10 4.1 MATLAB 概述 .10 4.2 MATLAB 语言特点 .10 4.3 MATLAB 中的神经网络工具箱 .10 5 神经网络设计和 MATLAB 编程 .11 5.1神经网络的设计 .11 5.1.1系统输入信号的提取与表示 .11 5.1.2系统输出信号的表示 .12 5.1.3 网络拓扑结构的建立 .13 5.2 数字识别系统的 MATLAB 语言编程 .145.2.1数字识别系统 MATLAB编程流程图 .14 5.2.2程序的初始化 .15 5.2.3 网络训练 .15 5.2.4系统性能 .16 5.2.5 生成输
6、入向量矩阵和输出向量方阵的 MATLAB 函数文件 .18 5.2.6 绘制数字字符图像的 MATLAB 函数文件 .19 5.2.7 数字字符识别测试仿真程序 .19 6 结论 .21 致谢 .22 参考文献 .23 - - 1 - - 1 引言 数字识别是字符识别中的一个特例 ,是图像处理技术和模式识别技术相结合的研究课题。随着国家信息化进程的加速 ,数字识别的应用越来越广泛 ,如邮政编码的自动识别、银行税表和银行支票的自动处理以及大规模的统计数据库的数据自动识别输人等。 当这些领域涉及到数字识别时 ,特别是有关金额数额的识别时 , 要求识别器具有很高的可靠性。针对这类问题的关键就是设计出
7、高可靠性和高识别率的数字识别方法。 人工神经网络技术源于人脑神经系统的模型 ,是模拟人工智能的一种重要方法 ,具有模拟人的部分形象思维的能力。人 工神经网络技术的迅速发展 ,为模式识别开辟了新的途径。误差反向传播 (Back-Propagation) ,即 BP神经网络 ,就是一种典型的人工神经网络 , 它具有信息并行分布式处理能力和自学习功能等显著优点，有着广泛的应用。本文在对 BP神经网络基本原理研究的基础上 ,结合这一课题 , 利用 BP神经网络来实现数字的识别。 再利用MATLAB中神经网络的工具箱编制程序，把数字识别系统的 BP神经网络结构模型变为程序模型。 MATLAB仿真表明，
8、BP神经网络识别数字具有良好的效果 。 - - 2 - - 2 神经网络 2.1 人工 神经元 人工神经元模拟了大脑的简单特性。人工神经元是神经网络最基本的组成，一般是多输入、单输出的非线性器件 1。 人工神经元模型如图 2-1。 . 图 2-1 神经元模型结构 2.2 人工神经网络 2.2.1 人工神经网络的 定义 人工神经网络 是一种模范动物神经网络行为特征，进行分布式并行信息处理的算法数学模型。这种网络依靠系统的复杂程度，通过调整内部大量节点之间相互连接的关系，从而达到处理信息的目的 2。 2.2.2 人工神经网络的工作原理 人工神经网络 具有自学习和自适应的能力，可以通过预先提供的一批
9、相互对应的输入输出数据，分析掌握两者之间潜在的规律，最终根据这些规律，用新的输入数据来推算输出结果，这种学习分析的过程被称为 “训练 人工神经网络的工作原理 3。 1x2xnx1iwinwiyi2iwiNet i- - 3 - - 人工神经网络首先要以一定的学习准则进行学习，然后才能工作。现以人工神经网络对手写 “A”、 “B”两个字母的识别为例进行说明，规定当 “A”输入网络时，应该输出 “1”，而当输入为 “B”时，输出为 “0”。 所以网络学习的准则应该是：如果网络作出错误的的判决，则通过网络的学习，应使得网络减少下次犯同样错误的 可能性。首先，给网络的各连接权值赋予 (0， 1)区间内
10、的随机值，将 “A”所对应的图象模式输入给网络，网络将输入模式加权求和、与门限比较、再进行非线性运算，得到网络的输出。在此情况下，网络输出为 “1”和 “0”的概率各为 50%，也就是说是完全随机的。这时如果输出为 “1”(结果正确 )，则使连接权值增大，以便使网络再次遇到 “A”模式输入时，仍然能作出正确的判断。 如果输出为 “0”(即结果错误 )，则把网络连接权值朝着减小综合输入加权值的方向调整，其目的在于使网络下次再遇到 “A”模式输入时，减小犯同样错误的可能性。如此操 作调整，当给网络轮番输入若干个手写字母 “A”、 “B”后，经过网络按以上学习方法进行若干次学习后，网络判断的正确率将
11、大大提高。这说明网络对这两个模式的学习已经获得了成功，它已将这两个模式分布地记忆在网络的各个连接权值上。当网络再次遇到其中任何一个模式时，能够作出迅速、准确的判断和识别。一般说来，网络中所含的神经元个数越多，则它能记忆、识别的模式也就越多 4。 2.2.3 人工神经网络的基本特征 (1)非线性 非线性关系是自然界的普遍特性。大脑的智慧就是一种非线性现象。人工神经元处于激活或抑制二种不同的状态，这 种行为在数学上表现为一种非线性关系。具有阈值的神经元构成的网络具有更好的性能，可以提高容错性和存储容量。 (2)非局限性 一个神经网络通常由多个神经元广泛连接而成。一个系统的整体行为不仅取决于单个神经
12、元的特征，而且可能主要由单元之间的相互作用、相互连接所决定。通过单元之间的大量连接模拟大脑的非局限性。联想记忆是非局限性的典型例子 。 (3)非常定性 人工神经网络具有自适应、自组织、自学习能力。神经网络不但处理的信息可以有各种变化，而且在处理信息的同时，非线性动力系统 本 身也- - 4 - - 在不断变化。经常采用迭代过程描写动力系 统的演化过程 5。 (4)非凸性 一个系统的演化方向，在一定条件下将取决于某个特定的状态函数。例如能量函数，它的极值相应于系统比较稳定的状态。非凸性是指这种函数有多个极值，故系统具有多个较稳定的平衡态，这将导致系统演化的多样性。 2.2.4 几种典型的神经网络
13、简介 神经网络模型各种各样 , 各式各样的模型从不同的角度对生物神经系统进行不同层次的描述和模拟。代表性的网络模型有 BP网络、 RBF网络、 H opfie ld网络、自组织特征映射网络等。运用这些网络模型可实现函数逼近、数据聚类、模式分类、优化计算等功 能。因此 , 神经网络广泛应用于人工智能、自动控制、机器人、统计学等领域的信息处理中 6。 2.2.5 人工神经网络的发展前景 由于现代高性能计算机的研发，人工神经网络的发展将在趋向于微观器件同宏观功能的结合 , 并在智能化传感器、随机模式识别、实时知识处理、控制应用、最优化问题等方面克服现时的理论和技术障碍 , 从实验室和专门应用逐步地渗
14、入到实际生活和各类工作系统中去。我们可以想象到那时声控电视、电话、计算机、打字机等将进入寻常百姓家 ; 人类可以直接同机器进行接口对话 ;具有思维、语言、感情的智能机器人将替代我们 去做许多繁琐和人类自身不适合做的事情。 - - 5 - - 3.BP神经网络 3.1 BP 神经网络概述 BP（ Back Propagation）网络是 1986 年由 Rumelhart 和 McCelland 为首的科学家小组提出，是一种按误差逆传播算法训练的多层前馈网络，是目前应用最广泛的神经网络模型之一。 BP 网络能学习和存贮大量的输入 -输出模式映射关系，而无需事前揭示描述这种映射关系的数学方程 7。
15、 3.2 BP算法 3.2.1 BP算法的 学习方式 神经网络具有初步的自适应与自组织能力。在学习或训练过程中改变突触权重值，以适应周 围环境的要求。同一网络因学习方式及内容不同可具有不同的功能。神经网络是一个具有学习能力的系统，可以发展知识，以致超过设计者原有的知识水平。通常，它的学习训练方式可分为两种，一种是有监督或称有导师的学习，这时利用给定的样本标准进行分类或模仿；另一种是无监督学习或称无导师学习，这时，只规定学习方式或某些规则，则具体的学习内容随系统所处环境 （即输入信号情况）而异，系统可以自动发现环境特征和规律性，具有更近似人脑的功能。 BP 算法即 误差反向传播（ Error B
16、ack Propagation, BP）算法 。 BP 算法属 于 算法， 是一种监督式的学习算法 8。 3.2.2 BP算法的 主要思想 BP算法的 主要思想： 输入学习样本，使用反向传播算法对网络的权值和偏差进行反复的调整训练，使输出的向量与期望向量尽可能地接近，当网络输出层的误差平方和小于指定的误差时训练完成，保存网络的权值和偏差 。即对于 n个输入学习样本： X1， X2， ， Xn，已知与其对应的输出样本为： Y1， Y2， .，Yn。使网络输出层的误差平方和达到最小。用网络的实际输出 A1， A2, ，An，与目标矢量 T1， T2， .， Tn之间的误差修改其权值，使 Am与期 望的 Tm
