PCA（ principle components analysis)网络及算法房子成 郑金斌主要内容 神经网络 PCA的基本结构 PCA的基本原理 PCA算法的进一步扩展 研究网络遇到的问题 PCA仿真应用第一个问题：神经网络 PCA的基本结构一、单个神经元抽取最大分量 输出为 权值修正公式： 向量形式： 二、单层网络抽取一主分量 网络的输出为： Sanger 提出如下的权值修正公式： 向量形式： 其中第二个问题： PCA的基本原理 EX=0 a=xTu=uTx 2=Ea2=uTRxxu (u)= 2=uTRxxu (u+u) (u) (u)TRxxu0 (u)Tu0 (u)T(Rxxu-u)=0 Rxxu=u第二个问题： PCA的基本原理 =diag(0,1, d 1) UTRxxU=第二个问题： PCA的基本原理误差为：原是变量 x的 d个分量的总方差为：变换后的向量前 m个分量的方差为：误差 e的方差为：结论： 欲进行维数压缩，应先计算输入向量的相关矩阵 Rxx的特征值和特征向量，并将特征向量单位化，按大小顺序排列。然后将原向量投影到前 m个特征值对应的特征向量构成的子空间中，用 x0,x1,x m-1表示投影后的分量，则 x0具有最大方差，与 x0不相关的方向中 x1，具有最大方差。依次类推。
