美文网首页
二层神经网络准确率一直只有88%左右

二层神经网络准确率一直只有88%左右

作者: 夏liao夏天 | 来源:发表于2019-10-09 15:12 被阅读0次

最近在写两层神经网络识别手写数字问题时,一直调参发现准确率只有88%左右,但是别人的随便给几个参数都能达到95%,心态爆炸。我训练出来的神经网络都长这个样子。


image.png

这里只是输出了前面的一部分。看起来就一点不像能正确分类的样子(默默觉得88%已经是太好的结果了。。。)

后来对比cs231n的作业,发现自己的神经网络在进行learning_rate调整时,是每个iteration都进行调整了,而不是每个epoch,也就是说learning_rate到后面太小了,导致神经网络崩坏。于是我将learning_rate_decay从原来的0.95调整到0.99995后,发现训练结果好了很多,准确率直接达到了96%。当然啦,不需要调整learning_rate_decay,直接改为每个epoch调整就行了。


image.png

(至少长得不像上面那样一团噪音了。。。)

相关文章

  • 二层神经网络准确率一直只有88%左右

    最近在写两层神经网络识别手写数字问题时,一直调参发现准确率只有88%左右,但是别人的随便给几个参数都能达到95%,...

  • 第六章 图像识别与卷积神经网络

    从MNIST实验结果可以看出,神经网络的结构会对神经网络的准确率产生巨大的影响。卷积神经网络应用广泛,在自然语言处...

  • 搭个简单的神经网络

    用Python纯撸一个识别手写数字的简单神经网络 准确率95%

  • 随笔

    有一项研究美国华尔街最优秀的分析师,他的判断准确率是最高的,而且业绩也是全华尔街最出色的,结果准确率只有46%左右...

  • 顶尖分析师46%胜率,还能够挣钱的秘密

    有一项研究美国华尔街最优秀的分析师,他的判断准确率是最高的,而且业绩也是全华尔街最出色的,结果准确率只有46%左右...

  • TF笔记 - 正则化

    √过拟合:神经网络模型在训练数据集上的准确率较高,在新的数据进行预测或分类时准确率较低,说明模型的泛化能力差。 √...

  • SqueezeNet: AlexNet-level accura

    1. 摘要 最近关于深度卷积神经网络的研究都集中在提高准确率上,对于准确率在同一个水平的网络,更小的网络结构至少有...

  • 都在圆童年的梦

    我家在自己宅基地建房子挺早的,大概是88年-89年左右。 那会农村建房子已经流行用水泥浇天棚,一是方便建第二层,直...

  • RBM受限玻尔兹曼机详解

    RBM rbm是浅层的神经网络,只有两层,第一层是visible可见层,第二层是隐藏层。 不同层之间有连接,同一层...

  • 简单的神经网络

    一个只有一个隐藏层的神经网络,他只有一个隐藏层,一个输出层 单样本处理 对一个节点,有 得到第二层 回过头来,对第...

网友评论

      本文标题:二层神经网络准确率一直只有88%左右

      本文链接:https://www.haomeiwen.com/subject/ifrgpctx.html