27:RNN循环神经网络-循环神经网络

1：循环神经网络的基本思想

 

 2:向后传播的推导过程（怎样进行参数优化）

 [注]最总选择哪一个ht可以选择最后一个也可以将所有的ht综合一下。

 [注]Wih为输入的共享参数权重(weight)。Whh为记忆单元的共享参数权重(weight)。

[注]若i=0时，会出现记忆单元权重的k次方。如下图