正向传播可以理解为高考做练习题,知道自己和标准答案之间的差距,反向传播回传误差,可以知道自己那块知识点不好,也就是修改神经元的权重W。
SGD---随机梯度下降--mini-batch
反向传播--利用链式求导法则。
更新w5的值。