Neural Network and Deep Learning 笔记【第二章；反向传播算法如何⼯作】

反向传播算法

反向传播：（英语：Backpropagation，缩写为BP）是“误差反向传播”的简称，是一种与最优化方法（如梯度下降法）结合使用的，用来训练人工神经网络的常见方法。

反向传播算法的理解：https://www.zhihu.com/question/27239198

以下图片显示了链式求导的基本过程(每个圆圈代表一个神经元)