![](https://img-blog.csdnimg.cn/20201014180756738.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
NLP
下一秒,待续
下一秒
展开
-
循环网络之RNN与自然语言处理
循环(递归)神经网络 引出:针对文本数据,为了注意到词与词之间的关系,引出循环神经网络RNN。 ps:有了多层感知机神经网络,卷积神经网络,但是输入和输出都是互相独立的,不能很好地处理文本数据。 1.RNN介绍 RNN:通过引入记忆的概念,在每个元素上都执行相同的任务但是当前时刻的输出依赖于当前时刻的输入和前t时刻的记忆! 目标:RNN就是在知道这个字的前提下,可以预测下一个字! ...原创 2019-03-30 00:30:33 · 895 阅读 · 0 评论 -
循环网络之RNN条件生成与Attention机制
RNN条件生成问题: 图像生成文本(一对多), 情感分析,文本密集度,分类..,机器翻译(多对多,离线的),解说视频,输入法 (实时多对多) 机器翻译 V1: Encoder-Decoder LSTM的参数比较多,嵌入手机端不太好。GRU参数比较少,是可以的! 缺点:前面输入进入RNN的信息会被稀释,尽管处理了梯度弥散的问题,但是长度太长前面的记忆还...原创 2019-03-30 11:22:31 · 1714 阅读 · 0 评论 -
循环网络之NLP之文本表示
离散表示文本: 文档向量One-hot step 1:构建所有词构建一个词典。 step 2:对词典的每一个词做One-hot编码 每个词向量只有一个位置有1,其他位置全为零。 文档向量可以直接将各词的词向量表示加和 ps:基于词的one-hot编码,来表示句子向量。 TF-IDF模型(逆文档频率) 词权重(TF-IDF)词不是出现次数越高,就一定重要!(例如:惯用...原创 2019-03-29 02:45:29 · 672 阅读 · 0 评论 -
美团机器学习实践书籍
目录 第一部分通用流程: 第二部分:数据挖掘 第三部分:搜索和推荐 第四部分:计算广告 第五部分:深度学习 第六部分:算法工程 第一部分通用流程: 第一章:问题建模:评估指标,样本选择,交叉验证 评估指标: 分类指标、回归指标、聚类指标、排序指标 分类指标:P-R曲线(P纵轴,R横轴、AP值),F1值,ROC曲线(纵轴正样本预测对的召回,横轴正样本预测错的召回、AUC值),对...原创 2019-05-20 01:46:44 · 1316 阅读 · 1 评论