第四节课-反向传播&&神经网络1

2017-08-14

 

这节课的主要内容是反向传播的介绍，非常的详细，还有神经网络的部分介绍，比较简短。

首先是对求导，梯度的求解。反向传播的核心就是将函数进行分解，分段求导，前向计算损失，反向计算各个单元的梯度，即代表

各个单元对于最后结果的影响力。因为神经网络一般过于庞大，所以采取分段求导会比较实际，所以引入了 computational graph.

 

 

课程下来，对于整个求解梯度的过程有了更好的理解。总结：

 

 

然后就是介绍了神将网络的一点知识。