美文网首页
机器学习bias-variance tradeoff

机器学习bias-variance tradeoff

作者: 冯凯onmyway | 来源:发表于2017-11-18 22:34 被阅读0次
吴恩达的教程

机器学习训练要保证模型在训练集的准确率高,即低bias(偏差);同时也要保证验证集的准确率,不产生过拟合现象,即保证低variance(方差) 。两者可能互相制约,需要做tradeoff 。

在训练过程中,可以先针对bias做改进,方法包括:选用更大的网络,训练更长时间,或者更换模型。

降低了bias后,如果variance不达标,再针对variance做改进。方法包括:提高数据量,使用正则化,更换模型(如神经网络)。

降低variance后,再观察bias,如此往复,直到得到一个满意的模型。

在深度学习里,只要保证层次够深或者数据够多,可以降低bias的同时不明显提高variance ,或者降低variance 的同时不明显提高bias。这也是深度学习对监督学习大有裨益的一方面。

相关文章

  • 机器学习bias-variance tradeoff

    机器学习训练要保证模型在训练集的准确率高,即低bias(偏差);同时也要保证验证集的准确率,不产生过拟合现象,即保...

  • Bias-Variance Decomposition

    Bias-Variance Decomposition 是机器学习中一个很重要的分析工具, 它可以指导开发者如何继...

  • tradeoff

    例句:The tradeoff between inflation and unemployment. 在通货膨胀...

  • tradeoff

    很显然,我现在需要比以往更多的进行tradeoff。权衡更多,舍弃更多。不可能像年少时候那么轻狂肆无忌惮了。有点遗憾。

  • Tradeoff

    题目是前几天看《万万没想到——用理工科的思维理解世界》时,意外发掘的很喜欢的一个词。碰巧最近在准备一个语言考...

  • 推理引擎

    英语学习:tradeoff:权衡query:询问amortized:分期偿还债务evident:明显的nevert...

  • 2018-08-28-PRML Notebook

    (1)The Bias-Variance Decomposition [链接 1]http://chillyrai...

  • 方差-偏差分解

    偏差-方差分析是(bias-variance decomposition)是解释算法学习泛化性能的一种重要工具。我...

  • 2018-10-30

    The decision is a result of a tradeoff between cost and e...

  • Energy Efficiency and Spectral E

    Energy Efficiency and Spectral Efficiency Tradeoff for Mu...

网友评论

      本文标题:机器学习bias-variance tradeoff

      本文链接:https://www.haomeiwen.com/subject/vriyvxtx.html