美文网首页
pytorch之Dropout

pytorch之Dropout

作者: 很菜_嗯 | 来源:发表于2019-03-28 09:07 被阅读0次

解决loss过拟合问题:

在loss函数中加入正则化项,Dropout等途径

Dropout

带Dropout的网络可以防止出现过拟合。

设置Dropout时,torch.nn.Dropout(0.5), 这里的 0.5 是指该层(layer)的神经元在每次迭代训练时会随机有 50% 的可能性被丢弃(失活),不参与训练,一般多神经元的 layer 设置随机失活的可能性比神经元少的高。

相关文章

网友评论

      本文标题:pytorch之Dropout

      本文链接:https://www.haomeiwen.com/subject/gzunvqtx.html