美文网首页
卷积神经网络中的卷积与数学中卷积的区别

卷积神经网络中的卷积与数学中卷积的区别

作者: 残剑天下论 | 来源:发表于2020-01-18 18:42 被阅读0次

数学中的卷积和卷积神经网络中的卷积严格意义上是两种不同的运算

两种卷积的区别

  • 数学上的卷积,要经过180度旋转,然后对应位置相乘并求和;而卷积神经网络中的卷积不需要经过旋转
  • 数学上的“卷积核”是给定的或者预知的,而卷积神经网络中的卷积是首先随机初始化然后经过训练而学习得到的。

数学上的卷积(这里指二维离散卷积)

原理

公式为
(f * g)(m, n) = \sum_{i}\sum_{j}f(i, j)g(m - i, n - j) ,(1)
如图1所示,a矩阵是m \times n的矩阵,a矩阵经过数学卷积运算后得到c矩阵。现在我们计算c_{1,1}处的值,c矩阵其他值的计算方式与c_{1,1}一致。

图1

根据公式(1),可得到c_{1,1}的计算过程如图2,抽象为公式为
(f * g)(1, 1)=\sum_{i=0}^{2}\sum_{j=0}^{2}f(i, j)g(1-i, 1-j)

图2

会发现图2的计算过程就是图3中颜色相同的块相乘,并求和的过程。


图3

总之,fg卷积的过程是,卷积核g绕中心点旋转180度,然后与f对应位置相乘并求和

应用

  • 数学上的卷积能称之为一种运算,一定是因为有着广泛应用的
  • 数学上的卷积主要是为了诸如信号处理、求两个随机变量和的分布等而定义的运算,所以需要“翻转”是根据问题的需要而确定的

我们以“丢骰子为例”,使用单个下标的离散卷积,公式为(f*g)(n)=\sum_{\tau=-\infty}^{+\infty}f(\tau)g(n-\tau)
。我们投掷两颗骰子,求解两颗骰子点数为4的概率,则

那么,两枚骰子点数加起来为4的情况有:


因此,两枚骰子点数加起来为4的概率为:
f(1)g(3) + f(2)g(2)+f(3)g(1)

符合卷积的定义,把它写成标准的形式就是:
(f*g)(4)=\sum_{\tau=1}^{3}f(\tau)g(4-\tau)

卷积神经网络中的卷积

原理

本质上就是卷积核与图片局部区域对应位置相乘并求和,或者为图片的局部区域像素值加权求和,其中权值就是卷积核心。

应用(图像滤波)

  • 平滑滤波
  • 边缘提取

这两种操作,很容易通过设计特定的“卷积核”,然后将其与像素矩阵的对应像素(不进行旋转)相乘得到

举例说明

我们对下述的图像进行平滑滤波和边缘提取处理

使用下面的卷积核,就可以得到预期的效果

实现原理:

  • 平滑滤波,就是将中心像素与周围邻近的像素进行平均,自然能够“削峰填谷”,实现平滑滤波
  • 边缘提取,就是将像素值复制n份,然后减去周围的n个邻近像素值。所以说所在区域位置像素值很相近,那么经过卷积操作后,像素值就“减”为0;只有在边缘位置时(与周围像素值相差较大),像素值才不会被“减”为0,进而被保留下来。

参考文献

哪位高手能解释一下卷积神经网络的卷积核?

相关文章

  • 无标题文章

    ### 特殊的网络结构 **卷积神经网络** 卷积神经网络是如何计算的非常简单。但还是先简单说说数学中的卷积是怎么...

  • CS231n 卷积神经网络: 架构, 卷积/池化层(下)

    卷积神经网络: 架构, 卷积/池化层(下) 卷积神经网络: 架构, 卷积/池化层(下)2.CNNs中的各种层(接上...

  • 卷积神经网络中的参数共享和局部连接

    参考卷积神经网络的局部连接和权值共享如何理解卷积神经网络中的权值共享? 卷积神经网络中的卷积层有两个核心的思想,网...

  • 反卷积(转 )

    转 卷积神经网络CNN(1)——图像卷积与反卷积(后卷积,转置卷积) 1. 图像卷积 卷积的时候需要对卷积核进行1...

  • 二维卷积运算

    卷积神经网络是含有卷积层(convolutional layer)的神经网络。本章中卷积神经网络均使用最常见的二维...

  • 卷积

    1、卷积原理   在CNN(Convolutional Neural Network-卷积神经网络)中,卷积是个必...

  • 神经网络基本概念和知识

    1. 卷积的概念 局部感知、权值共享、多核卷积 2. 感受野的概念 在卷积神经网络中,感受野的定义是 卷积神经网络...

  • 卷积神经网络CNN原理展示和Tensorflow相关函数介绍

    卷积神经网络 1 CNN卷积层 卷积操作 卷积核Kernal与Input矩阵执行卷积操作,每次卷积的值组成了一个新...

  • CS231n 卷积神经网络: 架构, 卷积/池化层(上)

    卷积神经网络: 架构, 卷积/池化层(上) 卷积神经网络: 架构, 卷积/池化层(上) 卷积神经网络(CNNs/C...

  • CNN中的卷积操作

    目录: 1.CNN中的卷积操作直接卷积法通用矩阵乘法GEMM 2.手动实现Conv2d 一、卷积神经网络中的卷积操...

网友评论

      本文标题:卷积神经网络中的卷积与数学中卷积的区别

      本文链接:https://www.haomeiwen.com/subject/qcarzctx.html