wn87947的博客

1.创建LSTMCellLSTMCell = tf.contrib.rnn.BasicLSTMCell(num_units)tf.nn.rnn_cell.BasicLSTMCell(num_units)BasicLSTMCell是最简单的一个LSTM类，没有实现clipping，projection layer，peep-hole等一些LSTM的高级变种，仅作为一个基本的basi...

1. 交叉熵： 2. logits：神经网络最后一层的输出下面看实际中的3种用法： 1.根据定义手动求 2.使用sparse_softmax_cross_entropy_with_logits 3.使用softmax_cross_entropy_with_logits其中2和3的区别在于sparse要求输入是实数，比如[2，4，6, 344]，然后对实数做one_hot，而so...

1. 梯度裁剪场景先看示例：optimizer = tf.train.AdamOptimizer(self.learning_rate)gradients, v = zip(*optimizer.compute_gradients(self.pretrain_loss))gradients, _ = tf.clip_by_global_norm(gradients, self.grad...