- 博客(3)
- 收藏
- 关注
原创 word2vec 训练细节
nlp之 word2vec 训练细节引言单词组合高频词抽样抽样率 也即是删除概率负采样如何选择negative words参考文献引言举个栗子,我们拥有10000个单词的词汇表,我们如果想嵌入300维的词向量,那么我们的输入-隐层权重矩阵和隐层-输出层的权重矩阵都会有 10000 x 300 = 300万个权重,在如此庞大的神经网络中进行梯度下降是相当慢的。更糟糕的是,你需要大量的训练数...
2020-01-09 17:24:33 422
原创 nlp之word2vec 词向量理解
nlp之 word2vect计算机理解的语言图片理解文字理解one -hot 方式分布式词向量分布式词向量求解过程计算机理解的语言图片理解我们前面 在KNN 中 处理图片1,将图片变成 灰度图2,将图片变成 01 文本文件 32*32上图表示的是 0 。 上图中 0 表示没有像素的地方 1表示 手写过的地方有像素3,将这个图片变成 1*1024 的一个向量 :[ 0...
2020-01-08 17:57:33 489
原创 深度学习之 神经网络算法原理
深度学习之 神经网络算法原理什么是神经网络算法?初中映射神经网络 求映射?求解参数图解求参参考文献什么是神经网络算法?初中映射初中的时候 y = f(x) 老师进过 映射 。通过 若干值 x y 值对 我们可以求出 y = x^2 这个公式。神经网络 求映射?如下典型的神经网络也是如此 就是找 映射关系:1,左边蓝色的圆圈叫“输入层”,中间橙色的不...
2020-01-06 16:34:22 2774 1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人