dropout 关于keep_prob

dropout 关于keep_prob

• 在rnn网络中，keep_prob有三种形式：

    input_keep_prob=1.0：输入keep
  概率，如果是常数且为1，则不增加输入退出。
    output_keep_prob=1.0：输出keep
  概率;如果是常数和1，则不增加输出差值。
    state_keep_prob=1.0：输出keep
  概率;如果是常数和1，则不增加输出差值。
  

• 在tf.nn.dropout(input, keep_prob)中，见源码：

    try:
      keep = 1. - keep_prob if keep_prob is not None else None
    except TypeError:
      raise ValueError("keep_prob must be a floating point number or Tensor (got %r)" % keep_prob)
  

  keep_prob表示input中的元素被保留下来的概率.