学习的矩阵微积分The matrix calculus you need for deep learning
https://explained.ai/matrix-calculus/index.html
本文试图解释为了理解深度神经网络的训练所需的所有矩阵演算。我们假设除了您在微积分1中学到的知识之外没有任何数学知识，并提供链接以帮助您在需要时刷新必要的数学。请注意，你不会需要你开始学习训练，并在实践中使用深度学习之前，了解该材料; 相反，这些材料适用于那些已经熟悉神经网络基础知识的人，并希望加深他们对基础数学的理解。不要担心，如果你在路上的某个时刻遇到困难 - 只需返回并重读前一部分，并尝试写下并完成一些例子。如果你仍然陷入困境，我们很乐意回答你的问题在forums.fast.ai上的理论类别。注意：本文末尾有一个参考部分，总结了这里讨论的所有关键矩阵演算规则和术语。
内容介绍
评论：标量衍生规则
矢量微积分和偏导数的介绍
矩阵演算
雅可比的概括
向量元素二元运算符的导数
涉及标量扩展的衍生物
矢量和减少
连锁规则
神经元激活的梯度
神经网络损失函数的梯度
关于权重的梯度
关于偏见的衍生物
摘要
矩阵微积分参考
渐变和雅可比
向量的元素操作
标量扩展
矢量减少
连锁规则
符号
资源