美文网首页
随机森林中oob以及oob的作用?

随机森林中oob以及oob的作用?

作者: 快乐的小飞熊 | 来源:发表于2017-04-30 15:56 被阅读0次

在随机森林bagging法中可以发现booststrap每次约有1/3的样本不会出现在bootstrap所采集的样本集合中,故没有参加决策树的建立,这些数据称为袋外数据oob,用于取代测试集误差估计方法,可用于模型的验证。
下面先介绍下oob的使用,其中(x,y)代表输入的样本和label,g表示的是构建的树。


上图中(xN,yN)没有用于g2、g3、gt,所以(xN,yN)可以作为g2、g3、gt的验证数据,然后用oob数据作为输入,输入到模型中,然后投票,少数服从多数。同理,对于(x1,y1)、(x2,y2)等也存在同样的计算,最终计算评判错误的样本占比,就是oob-error.

所以oob可以用来衡量模型的好坏。

同时,也可以引出随机森林输出特征重要性的原理,如果特征i对于模型是有利的,那么第i维特征置换成随机值,将会降低模型的性能,也就是会使oob-error变大。

相关文章

  • 随机森林中oob以及oob的作用?

    在随机森林bagging法中可以发现booststrap每次约有1/3的样本不会出现在bootstrap所采集的样...

  • 面向对象健身——OOB健身

    OOB健身(面向对象健身) OOA、OOD以及OOP,圈里肯定很熟悉了,OOB是什么呢?OOB是一种训练方法,第一...

  • 【bsauce读论文】KOOBE:Towards Facilit

    摘要: 目标:heap out-of-bounds(OOB)堆越界内存写漏洞。 原因:a.不同的OOB有不同的漏洞...

  • OOB注入

    OOB定义 带外通道技术(Out-Of-Band)带外通道技术(OOB)让攻击者能够通过另一种方式来确认和利用没有...

  • 机器学习专题:特征选择(R)

    载入数据 1.封装法 2.LASSO回归 3.随机森林法(袋外误差(OOB)) 4.特征汇总

  • 渗透测试之OOB

    0x01 说明 渗透测试时有些时候会遇到执行命令/SQL注入看不到回显的情况无法确认命令是否执行成功,这个时候一般...

  • XXE进阶——OOB攻击

    怕夜长梦多忘了,临时做个笔记,日后深入展开探讨。 之前我们在那些年的系列中已经讲解过XXE了,这些日子随便看见个X...

  • winnuke攻击介绍

    winnuke攻击介绍 winnuke是利用NetBIOS协议中一个OOB(OutofBand)的漏洞,也就是所谓...

  • 2017.5.9-2017.5.13    有雨很闷

    5.9 周二 到 周5 汇报前以至于到现在还在看rf里边关于oob估计对森林的平均相关度以及strength的计...

  • 2020-11-25 Show Toast Event

    在salesforce中,有OOB的toast action,通常我们有两种做法:可以参考下面的链接:https:...

网友评论

      本文标题:随机森林中oob以及oob的作用?

      本文链接:https://www.haomeiwen.com/subject/xsymnttx.html