Deep Learning
明星海棠果
这个作者很懒,什么都没留下…
展开
-
What‘s means undefined symbol: cublasLtHSHMatmulAlgoInit, version libcublasLt.so.11
问题解决原创 2022-12-06 11:00:13 · 391 阅读 · 1 评论 -
Deep学习笔记
初始化策略随机数大小对网络训练的成功与否具有非常大的影响。RELU 和 tanh不同激活函数具有不同的初始化方法。具体参考p52梯度消失,梯度爆炸问题:神经网络中,因为梯度通过计算图反向传播,错误的梯度非常常见,要么梯度消失,要么梯度爆炸。处理梯度消失问题的方法主要有:1.更改初始化方式。2.缩放输入值的范围。3.改变学习速率来控制。4.选择归一激活函数,batch no...原创 2019-08-06 19:25:30 · 158 阅读 · 0 评论 -
相似度-未完待续
在自然语言处理过程中,经常会涉及到如何度量两个文本相似度问题,在如对话系统(Dialog system)和信息检索(Information retrieval)等问题中,如何度量句子或短语之间的相似度显得尤为重要。这里主要对传统方法,词向量,深度学习方法总结。度量文本相似度方法主要有以下三种:基于关键词匹配的传统方法。如:N-gram相似度将文本映射到向量空间,再利用一些基本的相似度算法...原创 2019-08-11 22:46:43 · 279 阅读 · 0 评论