1、第九讲 神经网络秦中元东南大学信息科学与工程学院2009年东南大学硕士研究生课程模式识别 (Pattern Recognition)Date 1上讲复习 特征提取的必要性 类别可分性测度 (Class Separability Criteria) 离散 K-L变换 使用 K-L变换实现特征提取 K-L变换的其他应用 特征选择Date 2K-L展开式系数的计算 求 随机向量 x的自相关矩阵 R=Exxt。 求出自相关矩阵 R的本征根 i和对应的本征向量 。得矩阵 展开式系数即为a= tx x可以表示为Date 3按 K-L展开式选择特征 K-L展开式系数 aj也就是 变换后的特征，用 yj表示，
2、写成向量形式： y= Tx。 此时变换矩阵 用 m个特征向量组成。 为使误差最小，不采用的特征向量，其对应的特征值应尽可能小。因此，将特征值按大小次序标号，即 若首先采用前面的 m个特征向量，便可使变换误差最小。此时的变换矩阵为 = (1 2 m)Date 4本讲内容 神经网络的引入 神经网络的基本概念 BP学习算法Date 5感知器算法回顾 感知器算法属于线性分类器： 感知器算法可图示如下：Date 6McCulloch-Pitts神经元 典型的 f为硬限幅函数 (hard limiter)。 将求和和激励函数合并可表示为： 采用硬限幅函数的神经元称为 McCulloch-Pitts神经元。Date 7神经网络的引入 XOR 运算 XOR运算是一个典型的非线性分类问题。 逻辑运算分类图Date 8利用感知器对 OR进行分类Date 9以两条直线来划分 XOR 问题相当于分成了两步： 1 确定两条分界线，每个分界线实现对平面的一个分类； 2 将第一步的结果组合起来，实现正确分类。Date 10
