美文网首页
机器学习笔记高维空间之超平面

机器学习笔记高维空间之超平面

作者: 技术不宅 | 来源:发表于2018-07-22 20:47 被阅读0次

1.超平面定义

最近重新翻起李航蓝皮书,发现对很多定义挺模糊,超平面也没有解释。

本来空间想象力就不好,又查了些资料,总算想明白困扰已久的高维空间问题,记录一下,供大家参考。

(百度百科):超平面H是从n维空间到n-1维空间的一个映射子空间。

比如我们平时处在3维空间,则平面代表2维(超)平面。

2.二维空间分解

为方便理解,我们先引入二维空间(x1,x2)分解

二维空间下超平面代表一条线(1维)

①给定空间内一个任意向量如w=(0,1),则wx=0(x∈R,y=1)代表一个过原点的超平面H0,w为该平面的法向量。

②该超平面平移k单位可得另一个超平面Hk,wx=0+k,w仍为该平面的法向量

③由①②可知,对任意一个超平面wx=k,w代表该平面的法向量,k代表截距.

     令k∈R,可得整个空间。

④通过移项,可得二维(n维)空间下任意超平面可表示为wx+b=0,点集wx+b>0,wx+b>0分布在两侧。参数w为二维(n维)法向量,b为常数(相当于截距)

任意一点到该基准超平面的距离为|wx+b|/||w||(L2范数).

⑤以感知机算法为例,核心思想就是根据训练集找到分离超平面S(参数w和b),得出模型。

补一句:

以前一直容易晕无差异曲线,搞懂超平面之后就很好理解了,

相关文章

  • 机器学习笔记高维空间之超平面

    1.超平面定义 最近重新翻起李航蓝皮书,发现对很多定义挺模糊,超平面也没有解释。 本来空间想象力就不好,又查了些资...

  • 为什么高斯核可以将任意的数据映射为线性可分

    背景: 在非线性可分的场景下,无法通过linear的超平面进行分割,所以希望把样本点映射到高维空间,再对高维空间的...

  • 第六章 支持向量机

    间隔与支持向量 分类任务中,最基本的思想就是通过超平面,将不同类别的样本分开。 超平面就是一个维空间向维空间的一个...

  • 空间内一点到超平面的距离推广公式

    超平面 与 法向量 超平面(H,Hyperplane) 是二维平面中直线、三维空间中平面对象的推广形式,本质是维空...

  • svm基础学习笔记

    基本梳理 根据《机器学习实战》和周志华《机器学习》,总结要点如下: SVM本质是要求具有最大间隔距离的超平面; 求...

  • 支持向量机SVM

    前言 对于二分类问题,SVM的思想是将样本映射到高维空间之后,寻找超平面将样本进行划分,并由此产生许多相关的算法。...

  • 数据挖掘(异常检测)——集成方法

    DataWhale 组队学习 2021.05 组队学习系列笔记五 孤立森林思想:用一个随机超平面来切割数据空间,切...

  • 机器学习常见算法汇总

    1.机器学习&数据挖掘笔记_16(常见面试之机器学习算法思想简单梳理)

  • 机器学习 之 降维

    1. 维数灾难 物体在高维空间表现的十分不同 在高维超正方体中,大多数点都分布在边界处:在二维平面的一个正方形单元...

  • Scikit-learn python 资料收集

    [Python & Machine Learning] 学习笔记之scikit-learn机器学习库安装 What...

网友评论

      本文标题:机器学习笔记高维空间之超平面

      本文链接:https://www.haomeiwen.com/subject/hsdrmftx.html