阐述最优化理论中的原问题和对偶问题的定义

1.原问题（prime problem）

image.png

我们定义最优化问题的自变量w是一个多维的向量，其中目标函数f（w）假定限制条件中不等式有k个，满足第一个限制条件，假定等式有m个，满足限制条件第二个，

2.对偶问题（dual problem）

image.png 图片中其中那部分文字是上面函数中变量的形式， image.png

inf最小的值，

综合

image.png
image.png
因此原问题的解总是大于对偶问题的解 image.png
我们把 image.png

定义为对偶差距（duality gap）根据上面的推到可知对偶差距是一个>=0的函数

强对偶定理（strong duality theorem）

image.png

也就是说如果原问题的目标函数是凸函数，限制条件是线性函数，那么原问题的解就等于对偶问题的解，所以对偶差距就为0，假如这个定理存在，有根据定理1推出的不等式

image.png 这个条件是由这三个人先后独立发表出来的， image.png

这组最优化问题

总结

这一节中我们定义了原问题和对偶问题，
介绍了强化对偶定理，知道了如果原问题的目标函数是凸函数，限制条件是线性函数，那么原问题的解就等于对偶问题的解，对偶差距就为0，同时在这个条件下推出了KKT条件，

接下来将支持向量机的原问题转化为对偶问题从而进一步完成支持向量机最优问题的求解。