1.AlexNet
2012
卷积神经网络最开始流行于2012年,在ILSVRC(Large Scale Visual Recognition Challenge)图像识别比赛上卷积神经网络AlexNet开始崭露头角。
2.VGG--16/VGG--19
VGG被称为“勤奋的网络”,是最先使用3*3卷积核的网络。
3.Goole net
参照Inception家族,是14年ILSVRC的冠军。
4.ResNet
按照传统理解来说,网络层数越深,训练效果越好,实际上并不一定是这样,网络效果随着深度加深呈现先上升后下降的效果,可能是层数过深参数越多越难以学习也有可能是模型太复杂容易过拟合。
ResNet将当前输入跳两级加入下下层网络中,即在跳的层中输出是F(X)+X,我们学习的实际上是在学习一个残差,这样做的核心思想就是,我把当前的输出加入到了后面的层中,那么后面的再怎么调节都不可能比我当前的效果差吧,实际上就是在不断的学习残差,使得F(X)+X不断靠近期望值。
网友评论