美文网首页
机器学习-线性回归-总结

机器学习-线性回归-总结

作者: ShowMeCoding | 来源:发表于2020-08-08 09:43 被阅读0次

什么是回归?
与我们想要预测的目标变量y有关,y可以是连续型变量,例如预测未来的房价;y可以是分类型变量,比如预测鸢尾花的类型。
一元线性回归:只用一个特征x来预测y,寻找一条直线,最大程度地“拟合”样本特征x与目标变量y之间的关系,即:y = ax + b。
多元线性回归:


image.png

损失函数(最小二乘法):


image.png
梯度下降法:梯度代表方向,对应J增大最快的方向,目标是使损失函数尽可能小
image.png
随机梯度下降法:梯度下降法使用所有的样本量,而随机梯度下降法随机选取一个样本量。
模型的评价指标:
(1)均方误差(MSE: Mean Squared Error)
image.png

与样本量无关
(2)均方根误差(RMSE: Root Mean Squared Error)


image.png
开方之后,解决了MSE的量纲问题
(3)平均绝对误差(MAE: Mean Absolute Error)
image.png
(4)R2_score
image.png

相关文章

  • 回归算法学习

    回归算法是机器学习中的经典算法之一,本文是对学习线性回归和逻辑回归算法进行的总结,线性回归与逻辑回归算法解决的分别...

  • 2019-10-29

    Day2 简单线性回归模型 机器学习入门--简单线性回归机器学习算法之线性回归算法 导入库matplotlib 绘...

  • Python编写线性回归算法

    Python编写线性回归算法 前言 线性回归(Linear Regression)是机器学习的基础,作为机器学习算...

  • 线性回归

    线性回归 @(机器学习经典算法总结) 最大似然估计(Maximum likelihood Estimate) 在开...

  • 线性回归

    线性回归是机器学习中最基础最简单的回归算法了,现在关于线性回归的原理做一个总结。 关于线性的概念,其实在高中就有了...

  • 《机器学习》线性模型公式推导与算法实现

    线性回归 参考西瓜书《机器学习》线性回归 给定训练集,其中,.线性回归(linear regression)试图学...

  • 机器学习算法开始页

    接下来总结机器学习算法: 线性回归 逻辑回归 决策树 K近邻 SVM 组合方法:Boosting,Bagging,...

  • 线性回归--原理

    线性回归--原理 线性回归--python实现(不使用框架) 线性回归--sklearn框架实现 通常我们学习机器...

  • 机器学习-线性回归-总结

    什么是回归?与我们想要预测的目标变量y有关,y可以是连续型变量,例如预测未来的房价;y可以是分类型变量,比如预测鸢...

  • 线性回归模型

    参考:1.使用Python进行线性回归2.python机器学习:多元线性回归3.线性回归概念 线性回归模型是线性模...

网友评论

      本文标题:机器学习-线性回归-总结

      本文链接:https://www.haomeiwen.com/subject/wypqdktx.html