第四章第四章 误差反向传播神经网络误差反向传播神经网络 4.1误差反向网络的提出4.2BP神经网络结构基本思想4.3BP神经网络处理的单元模型 4.4BP神经网络学习算法4.5BP网络的分析-梯度下降学习方法4.6BP人工神经网络模型的改进4.1 误差反向网络的提出误差反向网络的提出1986 年,Romelhart 和McCelland 提出了误差反向传播算法(Error Back Propagation Algorithm,简称BP 算法),由于多层前馈网络的训练经常采用误差反向传播算法,所以人们也常把多层前馈网络称为BP 网络。BP算法采用非线性连续变换函数,使隐含层神经元具有了学习能力。其基本思想直观、易于理解,数学意义明确、步骤分明,所以BP 网络成为目前应用最广的神经网络。183 4 修改权值阈值修改权值阈值教师教师信号信号4.2 BP神经网络结构基本思想神经网络结构基本思想184.2 BP神经网络结构基本思想神经网络结构基本思想BP算法的主要思想是把训练过程分为两个阶段:第一阶段(正向传播过程)给出输入信息通过输入层经隐含层逐层处理并计算每个单元的实际输出值。第二阶段(反向