神经网络算法 丁一杰 石嫣然 丁志浩 贾斐然算法发展历史 1943年,心理学家McCulloch和数学家Pitts参考了生物神经元的结构,发表了抽 象的神经元模型MP. 1949年,心理学家Hebb提出了Hebb学习率,认为人脑神经细胞的突触(也就是 连接)上的强度上可以变化的。 1958年,计算科学家Rosenblatt提出了由两层神经元组成的神经网络。 1969年, Minsky出版了一本叫Perceptron 的书,里面用详细的数学证明了 感知器的弱点,尤其是感知器对XOR(异或)这样的简单分类任务都无法解决。 1986年,Rumelhar和Hinton等人提出了反向传播(Backpropagation,BP)算法 ,解决了两层神经网络所需要的复杂计算量问题。 2006年,Hinton在Science 和相关期刊上发表了论文,首次提出了“深度信 念网络”的概念。MP 模型 权重是已知的,不能进行学 习,只能处理简单的线性问题。两层神经元网络 两层神经元网络,又称感受器,起初得到热捧。感知器的作用和缺陷 感受器可以方便地处理线性问 题,但是无法有效解决与或非问题BP 神经网络 虽然