美文网首页PyTorch
PyTorch激励函数

PyTorch激励函数

作者: Jancd | 来源:发表于2018-06-22 20:27 被阅读107次

 PyTorch Activation Function.

Activation Function

一句话概括 Activation: 就是让神经网络可以描述非线性问题的步骤, 是神经网络变得更强大.

当神经网络层只有两三层, 不是很多的时候, 对于隐藏层, 使用任意的激励函数, 不会有特别大的影响. 不过, 当使用特别多层的神经网络, 不得随意选择. 因为这会涉及到梯度爆炸, 梯度消失的问题.

少量层结构中, 可以尝试很多种不同的激励函数. 在卷积神经网络 Convolutional neural networks 的卷积层中, 推荐的激励函数是 relu. 在循环神经网络中 recurrent neural networks, 推荐的是 tanh 或者是 relu .

Torch 中的激励函数

Torch 中的激励函数有很多, 不过平时要用到的就这几个. relu, sigmoid, tanh, softplus.

import torch
import torch.nn.functional as F     # 激励函数都在这
from torch.autograd import Variable

# 做一些假数据来观看图像
x = torch.linspace(-5, 5, 200)  # x data (tensor), shape=(100, 1)
x = Variable(x)

做生成不同的激励函数数据:

x_np = x.data.numpy()   # 换成 numpy array, 出图时用

# 几种常用的 激励函数
y_relu = F.relu(x).data.numpy()
y_sigmoid = F.sigmoid(x).data.numpy()
y_tanh = F.tanh(x).data.numpy()
y_softplus = F.softplus(x).data.numpy()
# y_softmax = F.softmax(x)  softmax 比较特殊, 不能直接显示, 不过他是关于概率的, 用于分类

画图, 画图的代码:

import matplotlib.pyplot as plt  

plt.figure(1, figsize=(8, 6))
plt.subplot(221)
plt.plot(x_np, y_relu, c='red', label='relu')
plt.ylim((-1, 5))
plt.legend(loc='best')

plt.subplot(222)
plt.plot(x_np, y_sigmoid, c='red', label='sigmoid')
plt.ylim((-0.2, 1.2))
plt.legend(loc='best')

plt.subplot(223)
plt.plot(x_np, y_tanh, c='red', label='tanh')
plt.ylim((-1.2, 1.2))
plt.legend(loc='best')

plt.subplot(224)
plt.plot(x_np, y_softplus, c='red', label='softplus')
plt.ylim((-0.2, 6))
plt.legend(loc='best')

plt.show()
QAQ

相关文章

  • 目录

    1.1 Pytorch基础2.2 Variable 变量2.3 Activation Function 激励函数3...

  • Pytorch激励函数

    激励函数用于解决现实生活中不能用线性方程概括的问题。 线性方程与非线性方程 线程关系举例:女生越漂亮,就会有越多的...

  • PyTorch激励函数

     PyTorch Activation Function. Activation Function 一句话概括 A...

  • 《莫烦TensorFlow》笔记

    激励函数 激励函数推荐: CNN:relu RNN:relu or tanh 优化器 SGD将大块数据拆分输入神经...

  • 12- 深度学习之神经网络核心原理与算法-Softmax

    softmax 输出层的激励函数softmax 前面我们已经接触了一种激励函数,sigmoid函数。含义: 似然度...

  • 机器学习 激励函数

    激励函数(activation function)——也有翻译成激活函数的,也是神经元中重要的组成部分。激励函数在...

  • 理解机器学习中的激励函数

    激励函数( activation function)一般用于神经网络的层与层之间,上一层的输出通过激励函数的转换之...

  • 机器学习

    常用激活函数(激励函数) Sigmoid函数 Relu函数

  • 激励函数

    激励函数通常是非线性的,其通过对线性矩阵运算结果的非线性变化,使用神经网络得以拟合任意函数 1. 数据准备 2. ...

  • 机器学习中常用的激励函数

    神经网络中的激励函数为神经元提供了规模化的非线性化能力。常见的激励函数包括sigmoid函数,tanh函数和ReL...

网友评论

    本文标题:PyTorch激励函数

    本文链接:https://www.haomeiwen.com/subject/jsphyftx.html