1、 图图 7-1中中 为神经元的内部状态，为神经元的内部状态， 为阈值，为阈值， 为为输入信号，输入信号， , 表示从单元表示从单元 到单元到单元 的连的连接权系数，接权系数， 为外部输入信号。为外部输入信号。7.1 单神经元网络单神经元网络第 7章 典型神经网络图图 7-1 单神经元模型单神经元模型通常情况下，取通常情况下，取即即单神经元模型可描述为：单神经元模型可描述为：常用的神经元非线性特性有以下常用的神经元非线性特性有以下 3种：种：（ 1）阈值型）阈值型图图 7-2 阈值型函数阈值型函数（ 2）分段线性型）分段线性型图图 7-3 分段线性函数分段线性函数（ 3） Sigmoid函数型函
2、数型图图 7-4 Sigmoid函数函数7.2 BP神经网络神经网络1986年，年， Rumelhart等提出了误差等提出了误差反向传播神经网络，简称反向传播神经网络，简称 BP网络（网络（Back Propagation），该网络是一种），该网络是一种单向传播的多层前向网络。单向传播的多层前向网络。误差反向传播的误差反向传播的 BP算法简称算法简称 BP算法，其基本思想是梯度下降法。它算法，其基本思想是梯度下降法。它采用梯度搜索技术，以期使网络的实采用梯度搜索技术，以期使网络的实际输出值与期望输出值的误差均方值际输出值与期望输出值的误差均方值为最小。为最小。 7.2.1 BP网络特点网络特点
3、（ 1）是一种多层网络，）是一种多层网络， 包括输入层、隐含层和输包括输入层、隐含层和输出层；出层；（ 2）层与层之间采用全互连方式，同一层神经元）层与层之间采用全互连方式，同一层神经元之间不连接；之间不连接；（ 3）权值通过）权值通过 学习算法进行调节；学习算法进行调节；（ 4）神经元激发函数为）神经元激发函数为 S函数；函数；（ 5） 学习算法由正向传播和反向传播组成；学习算法由正向传播和反向传播组成；（ 6）层与层的连接是单向的，信息的传播是双向）层与层的连接是单向的，信息的传播是双向的。的。7.2.2 BP网络结构含一个隐含层的 BP网络结构如图 7-5所示，图中 i为输入层神经元， j为隐层神经元， k为输出层神经元。 图 7-5 BP神经网络结构 7.2.3 BP网络的逼近 BP网络逼近的结构如图 7-6所示，图中 k为网络的迭代步骤， u(k)和 y(k)为逼近器的输入。 BP为网络逼近器， y(k)为被控对象实际输出， yn(k)为 BP的输出。将系统输出y(k)及输入 u(k)的值作为逼近器 BP的输入，将系统输出与网络输出的误差作为逼近器的调整信号。图 7-6 BP神经网络逼近 用于逼近的 BP网络如图7-7所示。图 7-7 用于逼近的 BP网络
