支持向量机教程


1 数学基础

    1.1 什么是支持向量?

    1.2 什么是超平面?

    1.3 超平面数学方程

    1.4 点到平面的距离

    1.5 函数间隔和几何间隔

2 SVM内容

    2.1 SVM的数学表达式

    2.2 对偶问题

    2.3 拉格朗日函数

    2.4 拉格朗日乘子法

3 扩展服务

    3.1 扩展服务

对偶问题

阅读次数:1271 次

针对一个给定的约束优化问题,称之为原始问题,我们常常可以用另一个不同的,但是与之密切相关的问题来表达,这个问题我们称之为对偶问题。

通常来说,对偶问题的解只能算是原始问题的解的下限,但是在某些情况下,它也可能跟原始问题的解完全相同。幸运的是,SVM问题刚好就满足这些条件:

  • 目标函数是凸函数,并且不等式约束是连续可微的凸函数。

所以你可以选择是解决原始问题还是对偶问题,二者解相同。

对偶的理解:

生活场景层:假如你开个工厂,你想挣多的钱,有两种途径:

(1)提高产品价格

(2)价格不变,降低成本。