在写神经网络代码中经常遇到如下代码
weights = tf.Variable(tf.random_normal(2,3], dtype=tf.float32)
在TensorFlow中 变量(tf.Variable)的作用就是保存和更新神经网络中的参数
tf.random_normal :正态分布
tf.truncated_normal :正态分布,但如果随机出来的值偏离平均值超过2个标准差,那么这个数会被重新随机
tf.random_uniform :均匀分布
tf.random_gamma :Gamma分布
我们还会看到偏置(bias)通常使用常数来设置初始值
bias = tf.Variable(tf.zeros([3]) # 初始值全部为0,且长度为3的变量
tf.zeros : 产生全0的数组 tf.zeros([2,3],int32)-[[0,0,0],[0,0,0]]
tf.ones :产生全1的数组 tf.ones([2,3],int32)-[[1,1,1],[1,1,1]]
tf.fill :产生一个全部为给定数字的数组 tf.fill([2.3],9)-[[9,9,9],[9,9,9]]
tf.constant :产生一个给定值的常量 tf.constant ([1,3,2])-[1,3,2]