深度学习PyTorch实践打卡(二)

##一、典型的神经网络结构 (1)传统的多层感知机 (2)卷积神经网络,包括 a. AlexNet 真正让卷积神经网络走进大家视野的网络 b. VGG 用更小的卷积核,在相同的感受野下具有更深的网络结构 c. GoogleNet 不同size的卷积核的Ensemble d. ResNet e. DenseNet (3) 循环/递归神经网络 a. LSTM b. GRU 二、Seq2Seq模型 三、注意力机制 四、过拟合、欠拟合及其解决方案 (1)过拟合、欠拟合的概念 一类是模型无法得到较低的训练误差,我们将这一现象称作欠拟合(underfitting);另一类是模型的训练误差远小于它在测试数据