山书学习第三次笔记

过拟合、欠拟合及其解决方案 过拟合、欠拟合的意义 当我们训练一个模型时,一般会得到两个结果:好模型,坏模型。 坏模型的意义就是那些不能得出正确结果的模型。 而得到坏模型的原因有两: 1.欠拟合; 2.过拟合; 欠拟合 现象表现为:训练时得到的结果差,测试时,得到的结果也差。 造成这种情况的原因,在于训练的次数过少,或是训练的样本过少。 与之对应的解决方案,训练的次数更多点就是了。 过拟合 结果现象表现为:训练时得到的结果极高,测试时,得到的结果相对差得有点多。 函数现象表现为:过于贴合训练样本,以至于会让一些特殊的样本占了主流。 造成这种情况的原因,在于训练的次数过多。 解决方案: 1.权重衰