1. 映射
- 将一个正数 ⇒ 映射到
(0,1) ,f(x)=e−x,x>0 - 单调递增转化为正的单调递增,
f(x)⇒ef(x) - 让距离更远的衰减得更快,高斯函数(观察高斯函数的图形,
σ 越小,图形越 sharp),e−⋅2σ2
2. 概率分布
值域在 (0, 1) 的函数,都有概率分布函数的含义在:
S 型函数,(tanh 的值域在 (-1, 1))- softmax,转换为概率分布,
z⇒a (从 z 映射到满足概率分布的 a),aj=ezj∑i=1ezi
3. 特殊的作用
- 还以比较典型的
S 型函数为例进行说明,f(x)=11+e−x
- 单调增;
- 在
x=0 处,取得f(0)=1/2 - 当
x 取正数时,f(x)>0.5 ,负数时,f(x)<0.5