激励函数

神经网络中的每个节点接受输入值，并将输入值传递给下一层，输入节点会将输入属性值直接传递给下一层（隐层或输出层）。在神经网络中，隐层和输出层节点的输入和输出之间具有函数关系，这个函数称为激励函数。

如果没有激励函数，最终都会像上图一样统一成一个线性形式，导致参数多与层数少没区别。