反向传播:代码演示篇

反向传播:代码演示篇概述正文1、从零开始2、借助深度学习框架 概述 本节继上一节反向传播:公式推导篇的代码演示,本节将从零开始演示反向传播训练参数的整个过程,除此之外还将使用TF2.0来进行快速求导作为拓展演示。 正文 首先想一下训练模型的步骤: 1、创建一个模型 2、准备好模型的输入,以及标签 3、损失函数根据模型的输出以及标签求出损失值 4、求损失函数对各个参数的偏导 5、根据求出的偏导数值更新参数 1、从零开始 由于是从零开始,所以这里我们使用一个非常简单的模型g(a,x,y)以方便求偏导,如下: a表示模型的输入,x、y表示变量,也就是我们训练的值。 def g(a,x,y):