- 博客(2)
- 收藏
- 关注
RSS订阅原创 word2vec笔记
1.论文储备知识 语言模型 概念:计算一个句子是句子的概率的模型 基于专家语法规则的语言模型：语言学家企图总结出一套通用的语言规则，比如形容词后面接名词等。(淘汰) 统计语言模型：通过概率计算来刻画语言模型。 P(s)=P(w1,w2,...,wn)=P(w1)P(w2|w1)P(w3|w1w2)...P(wn|w1w2...wn-1) 统计语言模型中的平滑操作：有一些词或者词组在语料中没有出现，但它依旧可能存在。平滑操作就是给那些没有出现过的词或者词组一个比较小的概率。 Laplace Sm
2022-03-08 23:20:05
313
原创 RNN笔记
1.序列数据 序列数据是常见的数据类型，前后数据通常具有关联性，例如句子文本，音乐生成，DNA序列分析，视频行为识别等。 2.语言模型 概念:计算一个句子是句子的概率的模型，语言模型是NLP重要技术，NLP中常把文本看为离散时间序列，一段长度为T的文本的词依次为w1,w2,...,wn，其中wt是时间步t的输出或标签。 P(w1,w2,...,wn)=P(w1)P(w2|w1)P(w3|w1w2)...P(wn|w1w2...wn-1) 语言模型会计算该序列是句子的概率P(w1,w2,...,wn
2022-03-01 13:36:08
518
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人