《动手学深度学习》学习笔记(十)自然语言处理

最新推荐文章于 2024-06-20 15:06:38 发布
最新推荐文章于 2024-06-20 15:06:38 发布
阅读量167 收藏
点赞数
分类专栏： # 动手学深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/xiaoyaolangwj/article/details/116400090
版权

第十章：自然语言处理

因本人主要方向为计算机视觉，对于自然语言处理技术暂未过多涉及。为完结本书，仅仅将目录整理如下。

1、词嵌入

2、近似训练

3、word2vec的实现

4、子词陷入（fastText）

5、全局向量的词嵌入（GloVe）

6、求近义词和类比词

7、文本情感分类：使用循环神经网络

8、文本情感分类：使用卷积神经网络（textCNN）

9、编码器-解码器（seq2seq）

10、束搜索

11、注意力机制

12、机器翻译

 

 

xiaoyaolangwj
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
NLP系列（2）文本分类（Bert）pytorch
牧子川的博客
08-12 1万+
对于 Bert 模型来说，用于文本分类是最常见的，并且准确率也很高。本文将会对Bert 模型用于文本分类来做详细的介绍。
动手学深度学习-自然语言处理-预训练
hehehehejiejie的博客
12-15 583
动手学习深度学习-自然语言处理预训练部分的常见问题
动手学自然语言处理：解读大模型背后的核心技术
最新发布
Hello大家好，我是Dream，如果帮得到你，那我深感荣幸！交流学习、商务合作：https://bbs.csdn.net/topics/614347534
06-20 6642
自从 ChatGPT 横空出世以来，自然语言处理（Natural Language Processing，NLP） 研究领域就出现了一种消极的声音，认为大模型技术导致 NLP “死了”。在某乎上就有一条热门问答，大家热烈地讨论了这个问题。有人认为 NLP 的市场肯定有，但 NLP 的研究会遇到麻烦，因为大模型的训练建立在海量数据与超高算力之上，普通研究者难以获取这样的资源，只能做些应用研究；也有人认为大模型为 NLP 打开了一片新天地，NLP 的研究整体上会再上一个新台阶。
【动手学深度学习-Pytorch版】BERT预测系列——BERTModel
qq_43858783的博客
10-12 1167
【代码】【动手学深度学习-Pytorch版】BERT预测系列——BERTModel。
李沐动手学深度学习V2-bert和代码实现
flyingluohaipeng的博客
08-01 2090
BERT通过使用预训练的Transformer编码器，能够基于其双向上下文表示任何词元，在下游任务的监督学习过程中，BERT在两个方面与GPT相似。。
自然语言处理动手学Bert文本分类
05-30
Bert作为目前自然语言处理领域最流行的技术之一，文本分类作为自然语言处理领域最常见的任务之一，Pytorch作为目前最流程的深度学习框架之一，三者结合在一起将会产生什么样的花火，本套课程基于Pytorch最新1.4版本来实现利用Bert实现中文文本分类任务，延续动手学系列课程风格，全程手敲代码，跟着杨博一行一行代码撸起来。
动手学习深度学习_笔记4
01-06
机器翻译将一种语言自动翻译为另一种语言，用神经网络解决这个问题通常称为神经机器翻译。输出序列的长度可能与源序列的长度不同。 数据预处理 def preprocess_raw(text): #\xa0是latin1里的扩展字符，代表不间断...
动手学深度学习 Task4 笔记
01-06
机器翻译（MT）：将一段文本从一种语言自动翻译为另一种语言，用神经网络解决这个问题通常称为神经机器翻译（NMT）。 主要特征：输出是单词序列而不是单个单词。 输出序列的长度可能与源序列的长度不同。 数据预处理...
[深度学习]动手学深度学习笔记-10
01-20
卷积神经网络是一种用来处理局部和整体相关性的计算网络结构，被应用在图像识别、自然语言处理甚至是语音识别领域，因为图像数据具有显著的局部与整体关系，其在图像识别领域的应用获得了巨大的成功。 10.1.1 卷积...
动手学深度学习Pytorch版本学习笔记 Task4
01-06
机器翻译（MT）：将一段文本从一种语言自动翻译为另一种语言，用神经网络解决这个问题通常称为神经机器翻译（NMT）。 主要特征：输出是单词序列而不是单个单词。 输出序列的长度可能与源序列的长度不同。 主要步骤：...
动手学深度学习-学习笔记（四）
01-07
机器翻译（MT）：将一段文本从一种语言自动翻译为另一种语言，用神经网络解决这个问题通常称为神经机器翻译（NMT）。 主要特征：输出是单词序列而不是单个单词。 输出序列的长度可能与源序列的长度不同。 字符在...
自然语言处理——BERT情感分类实战(一)之预处理
12-22
写在前面 网上已经有很多文章对BERT的原理讲得很清楚了，今天我将以实战的方式（假装大家都懂原理≧◔◡◔≦）一步步带大家操作最近比较流行的BERT模型。源代码是pytorch版本。由于篇幅比较长我将分几个部分讲解。第一部分是数据的预处理。这一部分比较简单，但也很重要！ 数据的预处理 对文本处理大致分为六个步骤，如图： 【注】本实验平台为Colab 预处理前需要导入的包： !pip install transformers #注：此为使用Colab安装方法 import torch from transformers import BertModel, BertTokenizer 预训练模
NLP-BasicTask:NLP基础演示：文本分类聚类，情感分析，文本匹配，问答系统
03-11
NLP基本任务 NLP基础演示：文本分类聚类，情感分析，文本匹配，问答系统 任务1：文本分类新闻标题分类
动手学深度学习之自然语言处理（NLP）
sunshine
02-14 688
动手学深度学习之自然语言处理（NLP） 文章目录动手学深度学习之自然语言处理（NLP）1、文本预处理1.1**分词代码实现：python+pytorch**1.2 分词工具【spaCy和NLTK】2、语义模型3、循环神经网络3.1循环神经网络的构造3.2从零开始实现循环神经网络裁剪梯度 1、文本预处理 具体步骤： 读入文本 分词 建立字典，为每个词建立索引 将文本从词的序列转换为索引的序列，方便...
动手学深度学习（十二、自然语言处理进阶知识）
jiangchao98的博客
04-22 1161
动手学深度学习（十二、自然语言处理进阶知识） 在大规模语料上预训练的词向量常常可以应用于下游自然语言处理任务中。 可以应用预训练的词向量求近义词和类比词。 word2vec词嵌入模型，通过词向量的余弦相似度搜索近义词。实际中，在大规模语料上预训练的词向量常常可以应用到下游自然语言处理任务中。本节将演示如何用这些预训练的词向量来求近义词和类比词。我们还将在后面两节中继续应用预训练的词向量。 一、使用预训练的词向量 基于PyTorch的关于自然语言处理的常用包有官方的torchtext以及第三方的pyt
【知乎】NLP
xiaoyun的专栏
04-10 4376
作者：微软亚洲研究院 链接：https://www.zhihu.com/question/19895141/answer/149475410 来源：知乎 著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。 自然语言处理（简称NLP），是研究计算机处理人类语言的一门技术，包括： 1.句法语义分析：对于给定的句子，进行分词、词性标记、命名实体识别和链接、句法分析、语
自然语言处理（NLP）： 12 BERT文本分类
热门推荐
艾文
04-08 1万+
BERT介绍 BERT 论文阅读 来自论文《https://arxiv.org/pdf/1810.04805.pdf》 BERT说：“我要用 transformer 的 encoders” Ernie不屑道：“呵呵，你不能像Bi-Lstm一样考虑文章” BERT自信回答道：“我们会用masks” 解释一下Mask： 语言模型会根据前面单词来预测下一个单词，但是self-attention的注意力只...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值