2.4支持向量机（线性不可分情况）

image.png

• 如果线性样本集是线性不可分的，优化问题的解？
  答：无解即不存在(w)和(b),满足N个限制条件

对于非线性不可分情况，需要放松限制条件。

image.png
image.png

还应加入新的限制，阻止松弛变量无限扩大，最终：

image.png
image.png
两种最小化还是凸优化问题。

• 比例因子c是人为设定的。

  
  image.png

image.png

超参数越多，需要手动调整的地方越多，算法自动性降低。

image.png

超参数较多的算法模型：人工神经网络，卷积神经网络等。

image.png

image.png

原因：算法模型是线性的，即我们假设分开两类的函数是线性的。在直线和超平面中选择最适合分开两类的直线和超平面。而在此处分开两类的是个椭圆。
解决方法：扩大可选函数范围，使其超越线性。或将非线性可分转化为线性可分。