TensorFlow实现AlexNet.py
AlexNet模型是Hinton的学生Alex Krizhevsky在2012年提出来的。AlexNet包含了几个比较新的技术点,也首次在CNN中成功应用了ReLU、Dropout和LRN等Trick。AlexNet主要使用的新技术点如下:(1)成功使用ReLU作为CNN的激活函数,并验证其效果在较深的网络超过了sigmoid,解决了sigmoid在网络较深时的梯度弥散问题。(2)训练时使用dropout随机忽略一部分神经元,以避免过拟合,主要是最后几个全连接层使用了dropout。(3)在CNN中使用重叠的最大池化,避免平均池化的模糊化效果。并且提出让步长比池化核的尺寸小,这样池化层
用户评论