1、 本科 毕业 论文 (设计 ) （二零 届） 基于 BP 神经网络的数字字母识别系统设计 系统分析设计 所在学院 专业班级 电气工程及其自动化 学生姓名 学号 指导教师 职称 完成日期 年 月 - - 2 - - 摘 要 神经网络的概念、原理和设计是受生物、特别是人脑神经系统的启发提出的 。其中 BP 网络是一种按误差逆 传播算法训练的多层前馈网络 ,是目前应用最广泛的神经网络模型之一。 BP 网络能学习和存贮大量的输入 - 输出模式映射关系 ,而无需事前揭示描述这种映射关系的数学方程。本次主要是研究 BP 神经网络对于数字 0-9 这 10个数字的识别 . 在本识别系统当中首先对输入的数据进
2、行预处理 ,成为网络能理解的信号 ,在输入断设计一个 47的网格 ,即 28个输入分量 , 用数字 19表示网络的序号 ,每个数字在其所排顺序位置输出 1,其他位置输出 0。而 输出向量则选择 10 个元素，数字字母在数字表中所占位置处 元素为 1，其他位置为 0。 根据上述所安排，输入向量具有 28 个元素，网络输出就是反映数字字符所在位置的具有 10 个元素的输出向量。如果网络正确，那么输入一个数字字符，网络就能输出一个向量，它对应位置的元素值为 1，其他位置的元素值为 0,如识别数字 5则输出端为 Y5=(0000100000). 测试结果表明 BP神经网络在识别系统的可行性和可靠性 ,
3、在的测试过程中还发现 BP神经网络对于识别系统的识别率还有很大的提升空间 ,还有待自己的探索和研究 . 关键词： BP 神经网络；特征向量提取 ;模式识别；图像处理 - - 3 - - Abstract Neural network concept, principle and design is affected by biology, especially people the inspiration of nerve system proposed . Among them is a kind of BP network error back propagation algorithm
4、according to the multilayer network, training is the most widely used one of the neural network model . BP network can learn and store a lot of input/output model mapping relationship without prior reveal, describes the mapping relation mathematical equations. This is mainly studies the BP neural ne
5、twork for digital 0-9 this 10 digital identification. In this recognition system of input data of first pretreatment, become network can understand in the input signal, broken design a 4 7 grid, namely 28 input component with the number 1 9, the serial number, each network said in its tier order dig
6、ital output 1, other position position output zero. And output vector chooses 10 elements in digital form, digital letters in a proportion of 1 position elements other positions to 0. According to the above arrangement, the input vector has 28 elements, network output is reflected the location of th
7、e digital characters with 10 elements output vector. If the network is correct, then enter a digital characters, the network can output a vector, and its corresponding positioned elements value 1, other positioned elements value 0, such as identification number five is output terminal for Y5=(000010
8、0000). Test results show that the BP neural network in recognition system, the feasibility and reliability of the testing process also found BP neural network for the recognition and recognition system greatly improved space, remains to be their own exploration and research. Key Word: BP neural netw
9、ork； pattern recognition ； eigenvector； Image processing - - 1 - - 目 录 1 引言 . - 3 - 2 神经网络基础 . - 4 - 2.1 人工神经网络发展简史 . - 4 - 2.2 神经元的结构 . 5 2.2.1 神经元生物剖析 . - 5 - 2.2.2 神经元的信息处理传递功能 . - 5 - 2.2.3 神经元的数学模型 . - 6 - 2.3 神经网络的结构及其功能 . - 7 - 2.3.1神经网络模型结构 . - 7 - 2.3.2 神经网络的学习算法 . - 8 - 2.3.3 神经网络的基本功能 . -
10、 8 - 2.3.4 神经网络的应用领域 . - 9 - 2.4 BP人工神经网络 . - 10 - 2.4.1 BP神经网络的模型 . - 10 - 2.4.2 BP神经网络的学习算法 . - 11 - 2.4.3 BP神经网络算法的应用 . - 11 - 3 系统的分析和设计 . 16 3.1系统输入信号的提取与表示 . - 16 - 3.2系统输出信号的表示 . - 19 - 3.3输入、输出层节点数的确定 . - 20 - 3.4 隐层数及隐层节点数的确定 . - 21 - 3.5网络拓扑结构的建立 . - 21 - 3.6 识别案例展示和识别结果 . - 22 - 4 结论与展望 .
11、 - 23 - - - 2 - - 致谢 . 24 参考文献 . 25 - - 3 - - 1 引言 随着科学技术的进步和发展，人们对科技的不断最求，希望电脑能像人脑一样运作，而不仅仅局限于简单的逻辑运算，随着对生物闹的深入了解，人工神经网络获得了长足发展。在 经过漫长的初创期和低谷期之后，人工神经网络终于以其不容忽视的潜力进入了发展高潮。 从 20世纪 80 年代中期，人们已经着手开始使用神经网络来解决数字识别问题。据研究调查，比起传统的识别系统来说， 1 人工神经网络有以下几个优点：（ 1）具有很强的分析能力，可以再特征空间内形成任意复杂的决策区域 ;(2)硬件实现后的神经网络分类速度比传
12、统的方法要快；（ 3）分类器便于训练，无需过多的人为干预。为了提高识别率和可靠性，近年来， BP 神经网络用于识别系统获得了巨大的发展，他是一种前馈反 向神经网络，具有并行自处理信息、自组织、自学习信息等优点，特别适用于识别系统。 本文主要基于 BP 神经网络的识别原来对数字字符进行识别，通过对 0 到 9的 10 个数字进行识别，证实本方法在数字识别方面的有效性。 - - 4 - - 2 神经网络基础 2.1 人工神经网络发展简史 神经网络的研究可以追溯到 19 世纪末期，其发展历史可以分为 4 个时期。第一个是启蒙时期，开始于 1890 美国著名心理学家 W.James 关于人脑结构与功能
13、的研究，而后发表感知器一书。第二个时期为低潮期，开始于 1969 年结束语 1982 年。第三 个为复兴时期，开始于 J.JHopfield 的突破性研究论文，结束于 1986 年。第四个时期为高潮时期，以 1987 年首届国际人工神经网络学术会议为开端，迅速在全世界范围内掀起人工神经网络的研究应用热潮。 2.2 神经元的结构 神经生理学和神经解剖学的研究结果表明，神经元是脑组织的基本单元，是神经系统的结构与功能单位，每个神经元于其他神经元相互连接，构成一个极为庞大的神经网络。大脑的学习过程就是神经元之间连接强度随外部激励信号作自适应变化的过程。生物体当中的神经元虽然形体不相同，功能也有差异，
14、但是从结构上来看，各 种神经元都有共性的，图 2-1 中给出的是一个神经元的简化示意图。从图 1 中不难看出，神经元在结构上由细胞体，树突，轴突和突触 4 部分组成。 图 2-1 神经元结构 - - 5 - - 2.2.1 神经元生物剖析 （ 1）细胞体 细胞体是神经元的主体，由细胞核，细胞质，细胞膜组成。是神经元的核心部分，负责处理信息的。 （ 2）轴突 由细胞体向外延伸的出的一条最长的线体称为轴突，用来传出细胞体产生的输出电化学信号。 （ 3）树突 从细胞体向外延伸出许多的神经纤维，比起突触要短许多，呈现灌木状 的，这些称之为树突，神经元靠树突接受来自其他神经元的输入信号，相当于细胞体的输
15、入端。 （ 4）突触 一个细胞与其他细胞树突相连的部位叫作突触。突触包含突触前、突触间隙、突触后 3 个部分。突触前事第一个神经元的轴突末梢部分，突触后事指第二个神经元的树突或者细胞体等受体表面。 2.2.2 神经元的信息处理传递功能 在生物的神经元当中，突触作为输入或者输出接口，树突和细胞体为输入端，接受突触点接收到的信号。而前面提到过细胞体作为信号最终处理端，可以看做一个处理器，对于各树突和细胞体各部位收到的来自其它神经元的输入信号 进行组合，并在一定条件下触发产生一个输出信号，输出信号延轴突传至末梢，再通过末梢上的突触将这个输出信号传递到其他神经元的树突或者细胞体。 研究认为，神经元之间
16、的信息产生、传递和处理都是电化学活动。神经元之间靠神经脉冲传递实现通信，而神经脉冲信号一般沿轴突传向其末端的各个分支，在轴突末端的突触可以释放一种化学物质，称其为递质，这种递质被释放出来以后，经过扩散可以到达受体，对受体产生化学反应，引起电化学的变化，然后传递到受体所属的细胞体。其实神经元的接受和传递都是通过突触来进行的。 - - 6 - - 2.2.3 神经元的数学模型 人工神经网络是在神经生物学上提出模仿生物过程的一种计算结构，它是根据现代神经生物学研究基础上建立的，反映了人脑某些特性的一种计算结构。 3从结构上我们不难看出，生物神经元有许多的输入信号，正如生物神经元一样，人工神经元也有许
17、多的输入信号。如图 2-2中所示， X为输入的值， 为给输入加的一个加权系数，称之为权重值，它与生物神经元相似，正负值表示突触的兴奋与抑制，而大小则代表突触不同的连接强度。接下来就像细胞一样，需要对全部输 入信号进行整合，得到一个总和值。而这个神经元被激活与否要看信号的阀值来确定，只有当这个总和超过阀值时，神经元才被激活释放脉冲。以上就是人工神经元的基本模型。 图 2-2 神经元数学模型 上诉的模型可以用一个数学表达式进行抽象概括。另 )(txi 表示 t 时刻神经元j 接收的神经元 i 的输入信息， )(toj 表示 t 时刻神经元 j 的输出信息，则可以如下表达： jni ijiijj T
18、txfto 1)( （ 2-11） ij 表示输入输出间的突触延时； jT 表示神经元的阀值； ij 表示神经元 i 到神经元 j 的突触的权重值； f()表示神经元变换函数 如果用列向量 TnjjjjW )21 ； TnxxxX 21 来表示，则上诉神经元模型可简化为 - - 7 - - XWfo Tjj （ 2-12） 在各种智能信息处理构建的模型中，人工神经网络是需要具备大脑风格的智能信息处理模型，许多网络都能反映人脑功能的若干基本特性，但并非是生物系统的逼真体现，只是对局部电路的某种模仿、简化、抽象。 2.3 神经网络的结构及其功能 2.3.1 神经网络模型结构 对于人工神经网络能模仿
19、生物神经网络那样运作，就必须构建生物生物神经那样的网络，并使神经元按一定的规则连接起来组成神经网络，而且还得使网络中的神经元按照一定连接权规则变化。虽然生物神经网络有数以万记 神经元构成，而人工神经网络限于一般功能的物理实现和方便计算，只需要简化后按一定规则组建即可。人工神经网络的模型有很多，可以按照不同的方法进行分类。其中常见的两种分类方法是：按网络的拓扑结构分类和按网络内部的信息流向分类。 本文中我们采用的是神经网络的拓扑结构，按照网络拓扑结构分类来说连接方式的不同，网络拓扑结构也就不一样，一般我们就把网络拓扑结构分为两大类：一种是层次型结构，一种是互连型结构。 图 2-3 模拟拓扑结构图 在图 2-3 中，最前端的输入层是各神经元负责就收来自外界的输入信息，并传递给中间各隐 层神经元。隐层是神经网络的内部信息处理层，负责信息变换，根据信息变换能力的需要，隐层可以设计为一层或多层。最后一个隐层传递到输出层各神经元的信息经进一步处理后即完成一次信息处理，由输出层向外界输出
