美文网首页大数据，机器学习，人工智能机器学习与数据挖掘
《统计学习方法》-习题2.3

《统计学习方法》-习题2.3

作者: LuckilyHaveYou | 来源:发表于2020-05-04 17:56 被阅读0次

题目：

证明以下定理：样本集线性可分的充分必要条件是正实例点集所构成的凸壳与负实例点集构成的凸壳互不相交。

解答：

  • 必要性：
    如果样本集是线性可分的，即存在一个分离平面wx+b = 0
    对于所有的正实例点x_+有wx_++b>0
    对于所有的负实例点x_-有wx_-+b<0
    设正实例点集合S_+，其凸壳为conv(S)=\{x=\sum_{i=1}^k\lambda_ix_{+i}|\sum_{i=1}^k\lambda_i=1,\lambda_i\ge0,i=1,2...k\}
    将x带入平面,得到
    wx+b=w\sum_{i=1}^k\lambda_ix_{+i}+b=w\sum_{i=1}^k\lambda_ix_{+i}+\sum_{i=1}^k\lambda_i b
    =\sum_{i=1}^k\lambda_i(wx_{+i}+b)
    因为\lambda_i\ge0并且\sum_{i=1}^k\lambda_i=1所以上式>0
    同理可以得到对于所有的负实例点，在平面wx+b<0
    分离平面也是正负实例点凸壳的分离平面。
  • 充分性：
    如果正负实例点构成的凸壳是互不相交的，则存在分离平面将正负实例点分离。即存在平面wx+b=0可以将所有的凸壳构成的点进行分离。
    分别取\lambda_i=1,\lambda_j=0,j\neq i，分别得到了点x_i，即对于所有的x_i，wx+b=0也可以将其分离，所以样本集线性可分。

去github

相关文章

网友评论

    本文标题：《统计学习方法》-习题2.3

    本文链接：https://www.haomeiwen.com/subject/ydpyghtx.html

    延伸阅读

    深度阅读

    • 您也可以注册成为美文阅读网的作者，发表您的原创作品、分享您的心情！

    栏目导航

    热点阅读

    大数据，机器学习，人工智能

    机器学习与数据挖掘

    关于我们|服务条款|联系我们|《统计学习方法》-习题2.3|投稿指南|网站地图|RSS订阅|排版工具|手机版

    提供经典美文摘抄,优美散文欣赏,现代诗歌精选,短篇小说,心情随笔,表白情书范文,故事会在线阅读欣赏

    Copyright © 2014-2023 Haomeiwen.com All Rights Reserved. 好美文阅读网 版权所有

    备案信息：桂公网安备 45052102000051号 · 桂ICP备13007215号-3

    本站所收录作品、热点评论等信息部分来源互联网，目的只是为了系统归纳学习和传递资讯

    所有作品版权归原创作者所有，与本站立场无关，如不慎侵犯了你的权益，请联系我们告知，我们将做删除处理！