5多层前馈网络及BP算法多层前馈网络的反向传播(BP)学习算法,简称BP算法,是有导师的学习,它是梯度下降法在多层前馈网中的应用。(a)网络结构见下图,u、y是网络的输入、输出向量,神经元用节点表示,网络由输入层、隐层和输出层节点组成,隐层可一层,也可多层(图中是单隐层),前层至后层节点通过权联接。由于用BP学习算法,所以常称BP神经网络。输入层隐层输出层X:每个神经元(节点)的输入;y:每个神经元(节点)的输出;:神经元的第j个输入。wij:神经元j到神经元i的连接权节点的作用函数:歹=/(兀为阈值(可设置一个偏置节点代替)1f可为线性函数,一般取为Sigmoid函数+e_x/匕,匕为很小的数,如0.1b)BP学习算法 已知网络的输入/输出样本,即导师信号。BP学习算法由正向传播和反向传播组成: 正向传播是输入信号从输入层经隐层,传向输出层,若输出层得到了期望的输出,则学习算法结束;否则,转至反向传播。 反向传播是将误差(样本输出与网络输出之差)按原联接通路反向计算,由梯度下降法调整各层节点的权值和阈