支持向量机（ support vector machine，SVM） Wang JiminNov 18, 2005 信息科学技术学院 信息科学技术学院 网络研究所 网络研究所Outlineo SVM的理论基础o线性判别函数和判别面o最优分类面o支持向量机o SVM的研究与应用信息科学技术学院 信息科学技术学院 网络研究所 网络研究所SVM的理论基础o 传统的统计模式识别方法只有在样本趋向无穷大时，其性能才有理论的保证。统计学习理论（STL）研究有限样本情况下的机器学习问题。SVM的理论基础就是统计学习理论。o 传统的统计模式识别方法在进行机器学习时，强调经验风险最小化。而单纯的经验风险最小化会产生“过学习问题”，其推广能力较差。o 推广能力是指: 将学习机器(即预测函数,或称学习函数、学习模型)对未来输出进行正确预测的能力。信息科学技术学院 信息科学技术学院 网络研究所 网络研究所过学习问题o “过学习问题”：某些情况下，当训练误差过小反而会导致推广能力的下降。o例如：对一组训练样本(x,y),x分布在实数范围内，y取值在0，1之间。无论这些样本是由什么模型产生的，我们总可以用y=si
