精选优质文档-倾情为你奉上1 极限学习机传统前馈神经网络采用梯度下降的迭代算法去调整权重参数,具有明显的缺陷:1) 学习速度缓慢,从而计算时间代价增大;2) 学习率难以确定且易陷入局部最小值;3)易出现过度训练,引起泛化性能下降。这些缺陷成为制约使用迭代算法的前馈神经网络的广泛应用的瓶颈。针对这些问题,huang等依据摩尔-彭罗斯(MP)广义逆矩阵理论提出了极限学习(ELM)算法,该算法仅通过一步计算即可解析求出学习网络的输出权值,同迭代算法相比,极限学习机极大地提高了网络的泛化能力和学习速度。极限学习机的网络训练模型采用前向单隐层结构。设 分别为网络输入层、隐含层和输出层的节点数, 是隐层神经元的激活函数, 为阈值。设有 个不同样本 , ,其中 ,则极限学习机的网络训练模型如图1所示。图1 极限学习机的网络训练模型极限学习机的网络模型可用数学表达式表示如下:式中, 表示连接网络输入层节点与第i个隐层节点的输入权值向量; 表示连接第i个隐层节点与网络输出层节点的输出权值向量; 表示网络输出值。极限学习机的代价函数E可表示为