TensorFlow
pyxiea
双鸭山大学研究生,对深度学习、自然语言处理、推荐系统感兴趣
展开
-
softmax数值稳定性问题以及CrossEntropyWithLogits的由来
softmax自身导致的数值问题对于 x=[x1,x2,⋯ ,xn]x=[x_1,x_2,\cdots,x_n]x=[x1,x2,⋯,xn],softmax公式:softmax(x)=[a1,a2,⋯ ,an],ai=exi∑j=1nexjsoftmax(x)=[a_1,a_2,\cdots,a_n], \quad a_i=\frac{e^{x_i}}{\sum_{j=1}^{n}e^{...原创 2020-03-11 20:40:49 · 1087 阅读 · 0 评论 -
saved_model_cli查看SavedModel
以模型 bert_en_uncased_L-12_H-768_A-12/1 为例,页面底部有下载按钮,下载到本地并解压后,可以使用saved_model_cli来查看模型的细节。只要安装了tensorflow,就可以使用saved_model_cli了。假设解压到的目录是bert_uncased_L-12_H-768_A-12\查看模型的所有tag-set(每个tag-set对应一个Grap...原创 2019-11-05 18:00:26 · 3193 阅读 · 0 评论 -
解决tensorflow gpu报错: ran out of memory (OOM)
报错原因及解决方案报错现象:Allocator (GPU_0_bfc) ran out of memory trying to allocate 200.00MiB (rounded to 209715200). Current allocation summary follows.<省略>Resource exhausted: OOM when allocating ten...原创 2019-10-22 20:16:24 · 15951 阅读 · 5 评论