美文网首页
机器学习day11降维

机器学习day11降维

作者: rivrui | 来源:发表于2020-08-20 15:51 被阅读0次

降维

用一个低维度的向量表示原来高维度的特征，避免维度灾难。

降维方法

  • 主成分分析
  • 线性判别分析
  • 等距映射
  • 局部线性嵌入
  • 拉普拉斯特征映射
  • 局部保留投影

PCA最大方差理论

原始数据高维向量包含冗余与噪声。主成分分析(Principal Components Analysis,PCA)是最经典的降维方法，具有线性、非监督、全局等特点。
PCA需要定义主成分，设计提取主成分。
举个例子
如果在三维空间里面，一系列数据点过一个平面，如果我们使用xyz来表示，就需要用到三个维度。而如果我们将其放在一个平面，使用xy来表示，那么就只有两个维度，而且数据也不会有任何的丢失，这样，我们就完成了从降维，从三维到二维。
对于给定的一组数据\{v_1,v_2,...,v_n\}，其中所有向量均为列向量，中心化后表示为\{x_1,x_2,...,x_n\}=\{v_1-\mu,v_2-\mu,...,v_n-\mu\}，其中\mu=\frac{1}{n}\sum_{i=1}^nv_i。

PCA的求解方法。

  1. 对样本数据进行中心化处理。
  2. 求样本协方差矩阵。
  3. 对协方差矩阵进行特征值分解，将特征值从大到小排列。
  4. 取特征值前d大对应的特征向量ω_1,ω_2,...,ω_d，通过以下映射将n维样本映射到d维

相关文章

  • 机器学习day11降维

    降维 用一个低维度的向量表示原来高维度的特征，避免维度灾难。 降维方法 主成分分析 线性判别分析 等距映射 局部线...

  • 降维算法之PCA

    机器学习降维算法

  • 机器学习算法之PCA算法

    前言 在机器学习中降维是我们经常需要用到的算法，在降维的众多方法中PCA无疑是最经典的机器学习算法之一，最近准备撸...

  • 机器学习之降维

    一、什么是降维以及为什么要降维 1.1 降维简介 为了在机器学习中拟合出满意的结果，训练中提供的训练样本数据需要足...

  • 机器学习 之 降维

    1. 维数灾难 物体在高维空间表现的十分不同 在高维超正方体中，大多数点都分布在边界处：在二维平面的一个正方形单元...

  • 3.1.1.10 降维与度量学习

    降维与度量学习 原理 《机器学习》周志华 10.1 k近邻学习 k近邻(k-Nearest Neighbor, k...

  • 《Scikit-Learn与TensorFlow机器学习实用指南

    第8章 降维 来源：ApacheCN《Sklearn 与 TensorFlow 机器学习实用指南》翻译项目 译者：...

  • 面试题目总结-机器学习算法-基础

    1.机器学习中特征的理解 def：特征选择和降维 特征选择：原有特征选择出子集，不改变原来的特征空间 降维：将原有...

  • 一起来读西瓜书：第十章 降维与度量学习

    1. 章节主要内容 本章的主要内容是降维与度量学习，这是机器学习领域很重要的一块内容。在进入具体的介绍之前，对降维...

  • 5 主成分分析PCA

    主成分分析(PCA)是最常见的降维算法。 PCA是非监督的机器学习算法 主要用于数据的降维 其他应用：可视化、去噪...

网友评论

      本文标题：机器学习day11降维

      本文链接：https://www.haomeiwen.com/subject/wmtejktx.html

      延伸阅读

      深度阅读

      • 您也可以注册成为美文阅读网的作者，发表您的原创作品、分享您的心情！

      栏目导航

      热点阅读

      关于我们|服务条款|联系我们|机器学习day11降维|投稿指南|网站地图|RSS订阅|排版工具|手机版

      提供经典美文摘抄,优美散文欣赏,现代诗歌精选,短篇小说,心情随笔,表白情书范文,故事会在线阅读欣赏

      Copyright © 2014-2023 Haomeiwen.com All Rights Reserved. 好美文阅读网 版权所有

      备案信息：桂公网安备 45052102000051号 · 桂ICP备13007215号-3

      本站所收录作品、热点评论等信息部分来源互联网，目的只是为了系统归纳学习和传递资讯

      所有作品版权归原创作者所有，与本站立场无关，如不慎侵犯了你的权益，请联系我们告知，我们将做删除处理！