在 TensorFlow 中,一个变量的值在被使用之前,其初始化过程需要被明确地调用。
1. 随机数生成函数
tensorflow 下的概率分布函数,一般用于对变量进行初始化,这里的变量显然是指神经网络的参数(连接层之间的权值矩阵和偏执向量)。
- 标准高斯:tf.random_normal([2, 3], stddev=2),均值为 0,标准差为 2
- 截断正态分布:tf.truncated_normal()
- 如果随机出来(采样得到)的值偏离平均值超过 2 个标准差,该数将会舍去,重新采样获得,直到偏差不超过 2 个标准差;
- 均匀分布:tf.random_uniform()
- Gamma 分布:tf.random_gamma()
2. 常数生成函数
- tf.zeros()
- tf.ones()
- tf.fill()
- tf.constant()