美文网首页
逻辑回归和线性回归对比

逻辑回归和线性回归对比

作者: 陈半仙儿 | 来源:发表于2019-12-02 16:47 被阅读0次

简单说几点

  1. 线性回归和逻辑回归都是广义线性回归模型的特例。他们俩是兄弟关系,都是广义线性回归的亲儿子
  2. 线性回归只能用于回归问题,逻辑回归用于分类问题(二分类、多分类)
  3. 线性回归无 link-function 或不起作用,逻辑回归的 link-function 是对数几率函数
  4. 线性回归使用最小二乘法作为参数估计方法,逻辑回归使用极大似然法作为参数估计方法

深入理解“逻辑回归”的名字

想要理解透名字,需要拆开理解,拆成两部分:“逻辑”和“回归”。

  1. “回归”很好理解,“回归”来自其父级,即广义线性回归模型。
  2. “逻辑”如何理解?这是个烂翻译。Logistic 在这里不应该翻译成“逻辑”,因为其语义来自Logarithm:对数。这也更体现了Logistic Regression的本质。

线性回归推广到广义线性回归

简单理解,可能损失一点严谨性。
考察两个式子:y=wX+b 和 ln(y)=wX+b。
左边是线性回归模型,右边是对数线性回归模型。从等式的形式来看,两者的区别仅仅在于等式左部,两者的形式依旧是线性回归,但实质上是完成了 输入空间 X 到输出空间 y 的非线性映射。这里的对数函数ln(·),将线性回归模型和真实观测联系起来。
该例中的 ln(·),是一个单调可微函数,称为联系函数(Link Function)。

再进一步推广到一般情况,y=g(wX+b),这里的 g(·),就是 Link Function。Link Function 不同,映射方式也不同。Link Function 可以是对数、指数、其他更复杂的函数。

相关文章

  • 线性回归和逻辑回归对比

    LogisticRegression 有三个主要组成部分:回归、线性回归、Logsitic方程。 1)回归 Log...

  • 逻辑回归和线性回归对比

    简单说几点 线性回归和逻辑回归都是广义线性回归模型的特例。他们俩是兄弟关系,都是广义线性回归的亲儿子 线性回归只能...

  • 算法概述-02

    1.逻辑回归和线性回归的联系和区别: 逻辑回归和线性回归的都是广义的线性回归。 线性回归是根据最小二乘法来建模,逻...

  • demo1: Tensorflow实现Linear regres

    Linear Regression 回归主要分为线性回归和逻辑回归。线性回归主要解决连续值预测问题,逻辑回归主要解...

  • Task 01|基于逻辑回归的分类预测

    知识背景 关于逻辑回归的几个问题 逻辑回归相比线性回归,有何异同? 逻辑回归和线性回归最大的不同点是逻辑回归解决的...

  • 通俗地说逻辑回归【Logistic regression】算法(

    在说逻辑回归前,还是得提一提他的兄弟,线性回归。在某些地方,逻辑回归算法和线性回归算法是类似的。但它和线性回归最大...

  • 机器学习day7-逻辑回归问题

    逻辑回归 逻辑回归,是最常见最基础的模型。 逻辑回归与线性回归 逻辑回归处理的是分类问题,线性回归处理回归问题。两...

  • 逻辑回归

    逻辑回归 线性回归 to 逻辑回归 本质:逻辑回归的本质就是在线性回归的基础上做了一个非线性的映射(变换),使得算...

  • 2018-07-04

    线性回归逻辑回归 AI

  • 回归算法学习

    回归算法是机器学习中的经典算法之一,本文是对学习线性回归和逻辑回归算法进行的总结,线性回归与逻辑回归算法解决的分别...

网友评论

      本文标题:逻辑回归和线性回归对比

      本文链接:https://www.haomeiwen.com/subject/fvsfgctx.html