美文网首页
#充实自我63# 读《深度学习的数学》之向量应用

#充实自我63# 读《深度学习的数学》之向量应用

作者: sjnfy | 来源:发表于2020-06-13 20:55 被阅读0次

今天微信读书,偶尔看到一本推荐的书籍《深度学习的数学》,主要讲的是深度学习中的数学应用与数学原理、觉得很有趣。记下一个比较有意思的点。

梯度下降法的向量原理

研究生时期,学习高等运筹学,学得稀里糊涂,只是知道了怎么用一些算法,对其中的逻辑并不清楚。今天看这本书,对其中的梯度下降法有了新的认识。

梯度下降法是以内积为基础。内积是两个向量的乘积。当然向量是有方向的。基于此,用内积来表示两个向量多大程度上指向相同的方向。如果将方向相似判断为“相似”,则两向量相似时,内积变大。这时卷积神经网络中的基本观点。

按照这个观点,当向量a和向量b之间的夹角为零时,二者最相似;

当向量a和向量b之间的夹角为180度时,最不相似;

根据这个观点,就可以把人工神经网络中的输入表示为内积的形式;

然后根据夹角关系就可以判断相应的相似性大小、而人工神经网络也是根据神经元的输入来判断输出,输入就表示为一系列的带方向的变量和相应权重的乘积,也就可以表示为向量的内积。

这提起了我理解人工神经网络的兴趣,也引起了我把这本书读完的积极性。

相关文章

  • #充实自我63# 读《深度学习的数学》之向量应用

    今天微信读书,偶尔看到一本推荐的书籍《深度学习的数学》,主要讲的是深度学习中的数学应用与数学原理、觉得很有趣。记下...

  • ES8.0新增KNN向量近邻检索

    向量检索将加速深度学习的落地与应用,向量检索的应用场景如下图所示,它几乎覆盖了大部分的可以应用AI的业务场景 这里...

  • 文本向量化初学者指南

    摘要: 深度学习的火热已经深度的影响着文本向量化的发展,各种技术概念的提出与实践应用,也使得文本向量化由原始阶段走...

  • 文本向量化初学者指南

    摘要:深度学习的火热已经深度的影响着文本向量化的发展,各种技术概念的提出与实践应用,也使得文本向量化由原始阶段走向...

  • 回顾:训练神经网络

    通过PyTorch 进行深度学习 数学公式如下所示: 对于向量来说,为两个向量的点积/内积: 我们可以将这些单元神...

  • 推荐系统总结5(推荐实例)

    19 Youtobe的深度学习推荐视频列表(向量的各种嵌入) 19.1 深度学习介绍 矩阵分解是把原来用户和物品之...

  • 2020-06-18-深度学习推荐系统 第4章 Embeddin

    Embedding(一下简化写为emb)是深度学习推荐领域中非常基础和关键的应用, 它直译为"向量化"或者"向量映...

  • 花书 线性代数(阅读笔记)

    深度学习(花书) 第一部分 应用数学及机器学习基础 第二章 线性代数 标量:一个单独的数向量:一列有顺序可索引的...

  • 66. Python基础-数学库(1)

    主要内容 机器学习、深度学习与相关实例概述 机器学习的角度看数学 数学分析: 导数与梯度、Taylor展式的应用 ...

  • python数据分析与机器学习(Numpy,Pandas,Mat

    机器学习怎么学? 机器学习包含数学原理推导和实际应用技巧,所以需要清楚算法的推导过程和如何应用。 深度学习是机器学...

网友评论

      本文标题:#充实自我63# 读《深度学习的数学》之向量应用

      本文链接:https://www.haomeiwen.com/subject/hsbztktx.html