0 - 定义
$Sigmoid$函数是一个在生物学中常见的S型函数，也称为$S$型生长曲线。在信息科学中，由于其单增以及反函数单增等性质，$Sigmoid$函数常被用作神经网络的阈值函数，将变量映射到0,1之间。
其曲线如下图：
1 - 导数
$$\begin{align*}
sigmoid^{'}(x)&=(\frac{1}{1+e^{-x}})^{'} \\
&=\frac{1}{1+e^{-x}}e^{-x}(-1)\\
&=\frac{e^{-x}}{(1+e^{-x})^2}\\
&=\frac{1}{1+e^{-x}}(1-\frac{1}{1+e^{-x}})\\
&=sigmoid(x)(1-sigmoid(x))
\end{align*}$$