![](https://img-blog.csdnimg.cn/20201014180756919.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
【NLP】遇见电商❤️
文章平均质量分 86
一条水里的鱼
这个作者很懒,什么都没留下…
展开
-
目标重要性分析
一、背景在电商推荐场景中,商品的排序得分(rankscore)通常是由多个目标分(例如点击率CTR、转换率CVR、多样性得分、利润、GMV等)综合而成。为了定量分析每个目标对最终商品排序的影响,可以采用以下几种方法:二、方法。原创 2024-08-28 16:51:29 · 799 阅读 · 0 评论 -
NLP篇【02补】TensorFlow 代码实现负采样(coding)
一、前言在NLP篇【02】白话Word2vec原理以及层softmax、负采样的实现文章中介绍了层softmax与负采样,有兴趣可以根据介绍,自己实现一下负采样或层softmax。当然,对于只想拿来直接使用的,可以看看这篇文章,直接利用TensorFlow 的api实现负采样,也是非常的简单。二、TensorFlow 代码api介绍:tf.nn.sampled_softmax_loss(weights, # Shape (num_classes, dim) - floatXX .原创 2021-08-20 14:19:32 · 806 阅读 · 0 评论 -
NLP【08】深度学习模型在NLP中的发展——从Word2vec到Bert的演变过程
上一篇:NLP【07】transformer原理、实现及如何与词向量做对接进行文本分类(附代码详解)一、前言https://blog.csdn.net/one_super_dreamer/article/details/104579271深度学习之前:向量表示的方法,one-hot,tfidf bm25阶段一:能不能机器自动学习向量表示呢?nnlm模型 word2vec glove阶段二:nlp四大任务:生成式任务、分类任务、匹配任务,序列标注。向量表示后怎么应用呢 rnn lst...原创 2020-12-31 19:03:44 · 1967 阅读 · 2 评论 -
NLP【07】transformer原理、实现及如何与词向量做对接进行文本分类(附代码详解)
上一篇:NLP【06】RCNN原理及文本分类实战(附代码详解)一、前言当前,bert横行,而bert的基础是transformer,自然,掌握transformer成为了基操。论文中的transformer是seq2seq模型,分为编码和解码,而在本文中,我所讲的transformer主要是transformer中的attention,也就是利用transformer中的attention与位置编码,替换cnn或者rnn部分完成文本分类。二、transformer的简单介绍transform原创 2020-12-08 17:00:02 · 4052 阅读 · 1 评论 -
NLP【06】RCNN原理及文本分类实战(附代码详解)
上一篇:NLP【05】pytorch实现glove词向量(附代码详解)完整代码下载:https://github.com/ttjjlw/NLP/tree/main/Classify%E5%88%86%E7%B1%BB/rnn-cnn/tf1.x/models一、前言RCNN应用在文本分类是受图片RCNN模型的启发,可能在文本分类中使用的并不多,但它这个思想还是值得去学习的,未来也可以灵活应用在自己的模型中。二、RCNN简单理解RCNN模型来源于论文Recurrent Convolutio原创 2020-12-06 16:57:31 · 1657 阅读 · 0 评论 -
NLP【05】pytorch实现glove词向量(附代码详解)
上一篇:NLP【04】tensorflow 实现Wordvec(附代码详解)完整代码下载:https://github.com/ttjjlw/NLP/tree/main/Word_vector%E8%AF%8D%E5%90%91%E9%87%8F/glove一、前言glove词向量的原理,请参考我的第三篇文章二、代码结构pytorchdata 数据dataset.py 把raw_data处理成train_corpus的格式huffman.py 构建哈夫曼树glove.py原创 2020-11-29 18:34:08 · 2222 阅读 · 0 评论 -
NLP【04】tensorflow 实现Wordvec(附代码详解)
上一篇:NLP【03】白话glove原理完整代码下载:https://github.com/ttjjlw/NLP/tree/main/Word_vector%E8%AF%8D%E5%90%91%E9%87%8F/word2vec/tf1.x一、前言现在都快2021年了,是不是就不会用word2vec、glove或fastext训练词向量了,而全部使用bert?,答案当然是否定的,word2vec,glove或fastext相对于bert最大的优势就是轻量,就像逻辑回归模型一样,在工作中,还是会经原创 2020-11-29 17:13:52 · 1316 阅读 · 1 评论 -
NLP【03】白话glove原理
上一篇:NLP篇【02】白话Word2vec原理以及层softmax、负采样的实现一、前言 Glove模型是在Word2vec之后提出来的训练词向量的模型,glove可以说是在Wordvec模型基础上改进而来的模型,所以理论上,glove训练的词向量的效果会更好。在应用的时候,我们可以结合glove词向量和Word2vec词向量,不过对我们来说,理解glove是如何在wordvec基础上改进的,才是最重要的,因为这种思想可以运用到改进其他算法模型。二、Glove基本思想 GloVe模型的原创 2020-10-25 21:06:07 · 1371 阅读 · 0 评论 -
NLP篇【02】白话Word2vec原理以及层softmax、负采样的实现
一、什么是word2vecWord2vec,即词向量。2013年,Google团队发表了word2vec工具。word2vec工具主要包含两个模型:跳字模型(skip-gram)和连续词袋模型(continuous bag of words,简称CBOW),以及两种高效训练的方法:负采样(negative sampling)和层序softmax(hierarchical softmax)。值得一提的是,word2vec词向量可以较好地表达不同词之间的相似和类比关系。Google提出的这个wo......原创 2020-10-24 16:56:06 · 5718 阅读 · 5 评论 -
NLP篇【01】tfidf与bm25介绍与对比
上一篇(自然语言处理【NLP】遇上电商——专栏导读)[https://blog.csdn.net/qq_40859560/article/details/109086440]一、tfidf介绍词频(TF) =某个词在文章中的出现次数 / 文章总词数,逆文档频率(IDF) = log(语料库的文章总数/包含该词的文章总数+1),tfidf=tf*idf。举个例子一下子就明白了。如语料库包含以下三篇文章(什么是语料库可百度):第一篇:张一山与杨紫疑似相恋第二篇:C罗又一次完成了帽子戏法,这就是.原创 2020-10-18 22:46:02 · 8100 阅读 · 2 评论 -
自然语言处理【NLP】遇上电商——专栏导读
一、NLP篇概述&ensp众所周知,NLP的基础是词向量。什么是词向量?其实就是用数学中的向量表示文字。苹果可以用向量[1,2,3]表示,所以向量[1,2,3]其实是机器可以识别的苹果(就好比apple是美国人可以识别的苹果),但在自然语言处理中,我们不可能人为给每个词定义对应的向量表示,事实上,每个词对应的向量表示是通过算法来实现的。如word2vec、glove、fasttext,elmo,gpt以及现在火热的bert算法,都可以实现自动训练获取词向量。因为word2vec是最早训练词向量的原创 2020-10-17 20:11:35 · 3396 阅读 · 0 评论