美文网首页
选择逻辑回归模型还是支持向量机模型?

选择逻辑回归模型还是支持向量机模型?

作者: 阡陌哥哥 | 来源:发表于2018-08-29 20:14 被阅读0次

n为特征数, m为训练样本数。

(1)如果相较于m而言, n要大许多,即训练集数据量不够支持我们训练一个复杂的非线性模型,我们选用逻辑回归模型或者不带核函数的支持向量机。

(2)如果n较小,而且m大小中等,例如n在 1-1000 之间,而m在 10-10000 之间,使用高斯核函数的支持向量机。

(3)如果n较小,而m较大,例如n在 1-1000 之间,而m大于 50000,则使用支持向量机会非常慢,解决方案是创造、增加更多的特征,然后使用逻辑回归或不带核函数的支持向量机。

值得一提的是,神经网络在以上三种情况下都可能会有较好的表现,但是训练神经网络可能非常慢,选择支持向量机的原因主要在于它的代价函数是凸函数,不存在局部最小值。

逻辑回归和不带核函数的支持向量机

逻辑回归和不带核函数的支持向量机它们都是非常相似的算法,不管是逻辑回归还是不带核函数的 SVM,通常都会做相似的事情,并给出相似的结果。但是根据你实现的情况,其中一个可能会比另一个更加有效。

在其中一个算法应用的地方,另一个也很有可能很有效。但是随着 SVM 的复杂度增加,当你使用不同的内核函数来学习复杂的非线性函数时,样本数量可能是 5 万(50,000),你的特征变量的数量会相当大。这是一个非常常见的体系,也许在这个体系里,不带核函数的支持向量机就会表现得相当突出,而逻辑回归则不容易实现目的。

相关文章

  • 2018-12-19

    以模型为驱动,了解“机器学习”的本质 我选择了几种经典模型 (例如:线性回归、逻辑回归、 决策树、支持向量机、条件...

  • 选择逻辑回归模型还是支持向量机模型?

    n为特征数, m为训练样本数。 (1)如果相较于m而言, n要大许多,即训练集数据量不够支持我们训练一个复杂的非线...

  • 【吴恩达机器学习】第七周—SVM支持向量机与核函数

    1. 支持向量机Support Vector Machines 1.1 介绍 在分类问题中,除了线性的逻辑回归模型...

  • 《机器学习》西瓜书学习计划

    第3章 线性模型:✅完成。对数几率回归 第6章 支持向量机:✅完成。【TODO】支持向量机学习笔记

  • Python篇—机器学习

    1.逻辑回归 逻辑回归与最大似然估计推导 2.支持向量机SVM 模型介绍及核函数sklearn中SVM参数 3.决...

  • 2020-05-22 第十三章 支持向量机模型(python)

    第十三章 支持向量机模型 01 支持向量机模型的介绍 模型介绍 SVM是Support Vector Machin...

  • 机器学习专题:R实现(2)

    1. 数据集划分和预处理 一、k近邻模型 二、随机森林模型 三、支持向量机模型 四、神经网络模型 五、LR回归模型...

  • 基于sklearn的几种回归模型

    理论 支持向量机回归器 支持向量机回归器与分类器相似,关键在于从大量样本中选出对模型训练最有用的一部分向量。回归器...

  • 2018-12-12

    day03 机器学习的过程: 以模型为驱动, 1、经典算法:线性回归,逻辑回归,决策树,支持向量机,条件随机场,K...

  • 2.1.1.5决策树

    模型介绍:在前面所使用的逻辑斯蒂回归和支持向量机模型,都在某种程度上要求被学习的数据特征和目标之间遵照线性假设。然...

网友评论

      本文标题:选择逻辑回归模型还是支持向量机模型?

      本文链接:https://www.haomeiwen.com/subject/xfakwftx.html