美文网首页
最佳学习率,15.87%

最佳学习率,15.87%

作者: 5f4d34cfee4a | 来源:发表于2019-02-08 14:04 被阅读8次

学习区、心流、喜欢,说的是已知和未知、简单和困难、熟悉和意外的搭配 —— 从信息论的角度来说,它们说的都是“旧信息”和“新信息”的配比!

准确些,这个配比应该是多少呢?

以前并没有量化这些理论,我们只是泛泛地说要加入一定的难度和意外。今天要讲的这个研究,恰恰告诉我们一个神奇的答案,说这个问题是有最优数值解的:这个数值是15.87%。

亚利桑那大学和布朗大学的研究者刚刚贴出一篇论文的预印本,叫《最优学习的85%规则》[1]。这篇论文还没有正式发表,《科学美国人》上的一个博客已经率先报道 [2],Twitter 上也有好几个人讨论。

万维纲老师在《精英日课3》中,仔细研究、解读了这篇论文,他感觉非常新颖而且非常重要,万老师预判此篇文章将来会获得大量的引用。先说说这篇论文到底说了什么。

我们知道现在人工智能本质上是机器学习。我们弄一个神经网络,用大量的数据去训练这个网络,让网络学会自己做判断。网络内部有大量参数随着训练不断变化,就相当于人脑在学习中提高技艺。

每一次训练,都是先让网络对数据做个自己的判断,然后数据再给它一个反馈。如果网络判断正确,它就会加深巩固现有的参数;如果判断错了,它就调整参数。这跟人脑的学习也很像:只有当你判断错误的时候,才说明这个知识对你是新知识,你才能学习提高。

研究者可以决定用什么难度的数据去“喂”这个网络。如果数据难度太低,网络每次都能猜对,那显然无法提高判断水平;如果数据难度太高,网络总是猜错,那它的参数就会东一下西一下变来变去,就会无所适从。这项研究问的问题是,每次训练中网络判断的错误率是多少,才是最优的呢?

研究者首先用了一个比较简单的数学模型做理论推导,又用了一个AI神经网络学习算法和一个模拟生物大脑的神经网络模型做模拟实验,结果得出一个精确解:15.87%。

也就是说,当你训练一个东西的时候,你给它的内容中应该有大约85%是它熟悉的,有15%是它感到意外的。

研究者把这个结论称为“85%规则”,我们干脆就把15.87%叫做“最佳意外率”。这个数值就是学习的“甜蜜点”。

相关文章

  • 最佳学习率,15.87%

    学习区、心流、喜欢,说的是已知和未知、简单和困难、熟悉和意外的搭配 —— 从信息论的角度来说,它们说的都是“旧信息...

  • 15.87%--最佳任务难度

    近日有科研表明,15.87%的出错率是机器学习的训练的最佳状态。出错率太大或太小都会导致机器学习的效果不佳,15....

  • 最佳失误率15.87%

    昨天练胸的时候有一个动作是史密斯卧推,算上热身一共练了5组,其中四组都是之前的重量30kg(5+5+20),只有中...

  • 2019-02-22

    最优学习的85%规则。15.87%叫做“最佳意外率”学习的甜蜜点。 每个人都知道要想学习好,你应该谦虚谨慎、博采众...

  • 最高学习效率=15.87%

    当你学习的时候,85%是熟悉的内容,15%是意外的内容,这时的学习效率最高,这就是“85%规则”,也称“最佳意外率...

  • 学习中的15.87

    我们知道,学习可以分为三个区域:舒适区、学习区和恐慌区。 舒适区里面的内容,基本上都是你已经掌握的,学习这些东西会...

  • 最高学习效率=15.87%

    喜欢=熟悉+意外 熟悉>意外 心流状态下就是 熟悉占比85%,意外占比15% 这是提升知识技能的最高效率 第一个知...

  • 最高学习效率 = 15.87%

    今天咱们说一个特别熟悉的规律的新发现。这个发现是如此的重要,以至于我认为你应该永远记住它。我先说三个熟悉的知识。 ...

  • 最高学习效率=15.87%

    同样的电影推进方式,意外的结局让我印象深刻;同样的文章套路,不一样的观点会让我难以忘怀;同样的学习过程,加入一些熟...

  • 最高学习效率 = 15.87%

    “喜欢 = 熟悉 + 意外”。一个文艺作品要想最大限度地吸引观众,必须既提供观众熟悉的东西,又制造意外。 “学习区...

网友评论

      本文标题:最佳学习率,15.87%

      本文链接:https://www.haomeiwen.com/subject/hzznsqtx.html