美文网首页机器学习杂文
深度学习 batch size 参数的设置的思考

深度学习 batch size 参数的设置的思考

作者: yangy_fly | 来源:发表于2019-08-28 11:58 被阅读0次

从实际使用的感受来说,数据及其他参数一致时,batch size设置过大,回归类任务的mse会增大;而在分类任务中,预测精度在batch size较大时,效果几乎无变化(待补充在batch size变化时,epoch数需要如何变化,才能保持预测精度不变)。推测batch size在一定范围内增大时,达到相同效果,可以减少训练时间,或者减少训练epoch数。

  • 回归任务
图1:batch size=50时的预测图
image.png
图2:batch size=500时的预测图
image.png
  • 二分类预测任务
图1:batch size=50时的预测结果及loss曲线
image.png 屏幕快照 2019-08-28 上午11.32.37.png
图2:batch size=500时的预测结果及loss曲线
image.png 屏幕快照 2019-08-28 上午10.57.13.png

相关文章

网友评论

    本文标题:深度学习 batch size 参数的设置的思考

    本文链接:https://www.haomeiwen.com/subject/rwcpectx.html