1、第五讲 模糊神经网络与模糊专家系统一、人工神经元的基本模型 1、 生物神经元与神经网络各类生物神经元的形态虽然不尽相同，功能也有差异，但通常由细胞体、树突和轴突所组成。其形状如下图所示。其中，细胞体是神经元的主体部分。每一个细胞体都有一个大的细胞核，占细胞体的很大一部分，完成呼吸和新陈代谢的许多生化过程。细胞体的外部是细胞膜，树突和轴突就是从这里伸出的。轴突通常很长，我们常说的神经即神经干，主要由成千上万条轴突所组成。单个神经元可以有许多树突，但轴突通常只有一根主干。不过，轴突末梢常常分出许多侧枝，以向多方传递信息。神经元传递信息靠 “ 兴奋 ”和 “ 抑制 ” 。 Date 1第五讲 模糊神
2、经网络与模糊专家系统（续）2、 人工神经元的基本模型 对人类大脑中神经细胞的功能进行模拟的数学模型称为人工神经元。迄今为止，人们已提出了几百种人工神经元模型。其中，人们最早提出也是人们现在经常使用的人工神经元模型是 M-P模型。见下图。M-P模型是一种最基本的生物神经元简化的数学模型。经过不但改进后，它假定：1、每个神经元都是一个多输入单输出的信息处理基元；2、神经元的输入分兴奋性输入和抑制性输入两种类型；3、神经元的输出有门限特性，服从 “ 全或无 ” 定律。只有当输 入总和超过其门限时，神经元才被激活，当输入总和未超过其门限时，神经元不会发生冲动；Date 24、神经元的输入与输出之间有固
3、定的时滞，时滞取决于突触延搁；5、神经元可具有时空整合特性和不应期；6、神经元本身是非时变的。在上述假定的基础上，用 表示 t时刻神经元 i接受的神经元 j的信息输入， 表示 t时刻神经元 i的信息输出，则神经元 i的状态可表示为式中： 为输入输出间的固定时滞（突触时延）； 为神经元i的阈值； 为神经元 j到神经元 i的突触耦合系数（连接权值）； 为神经元输出的特性函数。 第五讲 模糊神经网络与模糊专家系统（续）Date 3尽管神经元模型种类繁多，还是可以用不同的方法将他们进行分类。例如，按神经元输入输出信息划分，可分为数字型和模拟型两类；按神经元状态变化的时间特性划分，可分为时间离散型和时间
4、连续型两类。对于时间离散型的神经元，通常用下式来描述其状态及其变化。第五讲 模糊神经网络与模糊专家系统（续）Date 4式中： 为神经元间的输入输出变量； 为神经元 j到神经元 i的连接权值； 为两个由学习方法确定的非线性函数； 为遗忘因子； 为时间减低自适应增益系数； 为神经元阈值； 为神经元输出的特性函数。对于时间连续型的神经元，其状态及其变化通常描述为式中： 为神经元间的输入输出变量； 为神经元阈值； 为神经元输出的非线性特性函数； ， 为神经元的特性参数。 第五讲 模糊神经网络与模糊专家系统（续）Date 5人工神经元的主要用途是用来构造神经网络。在构造神经网络的过程中，常根据不同的要
5、求选择不同类型的神经元。选用较多的神经元特性函数有阶跃函数：分段线性函数：（ a、 b为常数） S 型函数：（ c为常数）恒等线性函数：第五讲 模糊神经网络与模糊专家系统（续）Date 6n 具有并行 处 理和信息分布式存 储 能力 ；n 具有容 错 性和 稳 健性 ；n 具有自学 习 能力 ；n 具有 较 强 的非 线 性 动态处 理能力 ；人工神 经 网 络 的 优 点Date 7n 非 线 性 连续 型模型 S型或 P型激 发 函数，要掌握其 应用范 围 ，否 则实际应 用中可能出 错 。无 论 多大的 输入， S型都将它 压缩 到 (0,1)的范 围 内，而 P型激 发 函数 则 将任
6、意 输 入 压缩 到 (-1,1) 范 围 内。 输 入在 -1,1之 间时 ， 输 出才会具有一定差异，意即 该 激 发 函数仅 在区 间 -1,1才具有敏感性，从而 导 致网 络 的映射能力弱。S型或 P型神 经 元的局限性Date 8n 表达式： f(u)=a-2a/(1+exp(bu)；n 特点：它的敏感区 间 和 输 出范 围 都可由参数 a、 b来确定，可 实现 任意范 围 内的 输 入 输 出，拓展了 这类 神经 元模型的 应 用 领 域，增 强 了网 络 的映射能力。 一种新型神 经 元模型 Date 9n 解决方法： Hessian矩 阵 出 现 病 态 矩 阵时 ，增大Hessian矩 阵 的主 对 角 线 元素 ；n LM算法的搜索方向介于高斯 牛 顿 法和最速下降算法之 间 。 LM算法的效率少数情况下比 Gauss-Newton算法低，但其 稳 健性比 Gauss-Newton算法好。 LM算法的缺点是在运算 过 程中比其它算法要占用更多的 计 算机内存 资 源。Levenberg-Marquardt算法 Date 10
