Deeplearning for NLP (简介)

最新推荐文章于 2021-11-17 14:07:26 发布
最新推荐文章于 2021-11-17 14:07:26 发布
阅读量817 收藏
点赞数
分类专栏： NLP 深度学习 文本处理 文章标签： cs nlp task
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Ding_xiaofei/article/details/80252262
版权
本文源自17年牛津大学的NLP课程，介绍了深度学习如何应用于NLP任务，涵盖词的表示、文本分类、文本生成等。讨论了词典中的OOV问题，强调了词向量（如Word2vec）的重要性。还探讨了动态计算图和静态计算图在深度学习框架中的区别，推荐NLP初学者学习PyTorch。
摘要由CSDN通过智能技术生成

开篇

过目就忘说的可能就是在下了，所以现在所有的学习内容我都会写成博客，不成博客的就是过目就忘啦。这是系列不算挖坑，前面写了几篇Tensorflow的文章，词向量这篇一直处于难产中，拖延症比较严重。争取这两天能够写出来。下面开始我们的正题，这篇博客的内容主要来源于17年牛津大学的NLP课程，这边放出课程oxford-cs-deepnlp的github地址和网易云课堂课程的视频链接，夸一下网易，很有担当的课程，算是给了我们这些听力一般的学生一条求学之路，虽然它拒了我加入申请。
下面开始我们的正题，简单说一下这门课程的主要内容，课程是以各种NLP任务为主要单元来呈现的，而我这篇博客主要来源于第二周的课程，希望能够大家一个轮廓，知道DeepLearning可以做哪些NLP任务，这些任务我后续都会TensorFlow去实现，这里不给自己挖坑了，不定期更新。本课程基本涵盖了大部分的热门NLP任务，对初入NLP领域的人有一个很好的引导作用，但是理论可能就不会太过深究，毕竟一节课也就两个小时，要把一个子领域的任务讲清楚已近相当难得了。我可能不太会去使用课程中的数据集去完成相应的任务，但是任务内容肯定是一致的。

Deeplearning for NLP

这部分主要过一下课程里面的基本任务，细节不多提。首先是词的表示，这是NLP所有任务的基础，这边贴出课程ppt上的内容，看看我们在

最低0.47元/天 解锁文章
Ding_xiaofei
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Deep Learning in NLP （一）词向量和语言模型
xceman1997的专栏
07-29 4718
Deep Learning in NLP （一）词向量和语言模型 Posted on 2013 年 7 月 29 日 by licstar 　　这篇博客是我看了半年的论文后，自己对 Deep Learning 在 NLP 领域中应用的理解和总结，在此分享。其中必然有局限性，欢迎各种交流，随便拍。 　　Deep Learning 算法已经在图像和音频领域取得了惊人的成果，但是在 NL
CS224d 之学习总结-第三部分
diaofengzhi8607的博客
08-23 193
转载请注明出处： http://www.cnblogs.com/NeighborhoodGuo/p/4753136.html 第三部分 这一部分只介绍了一个model，就是在CV领域大名鼎鼎的CNN其他课程大多请的外宾过来讲课，讲得都是DL如何在实际情况下的应用。 CNN Basic CNN CNN顾名思义倦积神经网络这个model叫倦积神经网络是因为它提取features的...
自然语言处理学习笔记十三（Deep Learing 与 NLP ）
liuhuabing760596103的专栏
11-17 950
一、 传统方法的局限性 1.1 数据稀疏 由于语言是离散的符号系统，每个字符与单词都是离散型随机变量。任何机器学习模型只接受向量，将文本转换成向量，表示为元素为0 1 的二进制向量，然后不同单词的相似句子却是不同的向量，现实中有无数个单词，从而会有严重的数据稀疏问题。 1.2 特征模板 为了建模语言的复合性，传统自然语言处理依赖于手工制定的特征模板，这些模板也是各种单词的组合，组合太多。同样也会带来数据稀疏的问题。 ...
NLP paper精读（一）——Deep Learning
NLP翟
06-10 616
Deep Learning 论文笔记前言监督学习反向传播算法卷积神经网络 本论文是人工智能领域三大牛人在2015年Nature上发表的文章，掀起了人工智能的热潮，进入了全名DL的时代，同时这三位作者也在2019年获得了图灵奖。 本文的内容是按照论文的行文，摘取最重要的部分做相应的记录。 前言 Deep Learning 可以让多层计算模型去学习和拟合高层的抽象表示，同时完成复杂的计算与表达。 几十...
[深度学习] embedding 在test阶段遇到OOV怎么办
Oliverkehl的专栏
04-11 9013
即使是char级别的rnn模型，在test阶段也会遇到OOV 这种情况肯定是没法用embedding层的lookup的 如果OOV情况不多，就可以当做UNK处理 有两类思路： 1. UNK有对应的embedding     这种情况怎么来的呢，就是把训练集中所有出现频率小于某个阈值的词都标记为UNK，当然也别太多，这样就得到了UNK的embedding，这里的embedding有
Deep Learning for NLP and Speech Recognition
06-11
Deep Learning for NLP and Speech Recognition，2019年新书，介绍深度学习在自然语言处理和语音识别中的应用。
Deep Learning for NLP, Standford.pdf
03-28
本资源为NLP深度学习全英文资料，需要大家谨慎选择； 建议通过浏览器打开，避免公式乱码； 本资料共218页，
Deep learning for NLP
10-23
Deep Learning for Natural Language Processing介绍了近期深度学习在自然语言理解领域的应用和发展。
deep learning for nlp
08-01
deep learning for nlp.
《Deep Learning for Coders with fastai and PyTorch》fastbook-master.zip
06-21
如何在计算机视觉、自然语言处理(NLP)、推荐系统、表格和时间序列数据分析中创建最先进的模型：《Deep Learning for Coders with fastai and PyTorch》 如何使用全新的fastai v2库和PyTorch 深度学习的基础：什么是...
深度学习（Deep Learning），自然语言处理（NLP）及其表达（Representation）
hwaust2020的博客
05-23 1175
文章目录简介单隐含层神经网络共享表达（Shared Representations）递归神经网络结论文章来源 转载来源：https://blog.csdn.net/ycheng_sjtu/article/details/48520293 简介 过去几年中，深度神经网络在模式识别领域占据着统治地位。他们在诸多计算机视觉任务领域，将之前的最好算法彻底击败。语言识别也正朝着这个方向发展。 They blew the previous state of the art out of the water for m
QUANT[22]论文2:Deep Direct Reinforcement Learning for Financial Signal Representation and Trading
プロノCodeSteel
12-22 2795
深度直接强化学习于金融信号表示和交易 发表于《IEEE TRANSACTIONS ON NEURAL NETWORKS AND LEARNING SYSTEMS 》期刊SCI一区 论文结构： 1、Introduction（综述论文，主要从决策执行RL和特征学习DL进行阐述） 2、Related works（介绍RL和DL相关知识） 3、Direct Deep Reinforcement...
比赛必备 ︱ 省力搞定三款词向量训练 + OOV词向量问题的可性方案
素质云笔记
10-31 9540
本篇为资源汇总，一些NLP的比赛在抽取文本特征的时候会使用非常多的方式。 传统的有：TFIDF/LDA/LSI等 偏深度的有：word2vec/glove/fasttext等 还有一些预训练方式：elmo / bert 文章目录@[toc]1 之前的几款词向量介绍与训练帖子2 极简训练glove/word2vec/fasttext2.1 word2vec的训练与简易使用2.2 glove...
OOV问题-论文笔记《Neural Machine Translation of Rare Words with Subwords Units》- ACL2016
爱丽丝咩咩章在好好学习
10-18 8788
原论文链接: https://arxiv.org/abs/1508.07909 参考paperweekly关于分词的一个总结：https://zhuanlan.zhihu.com/p/22700538 这篇文章主要解决的问题是OOV(Out of Vocabulary)问题，最小粒度介于word和character之间，利用BPE算法进行分词。 BPE算法的主要实现如图： import re, c...
NLP自然语言处理中oov的词的解释
Lisen’s blog
11-11 7585
oov 英文全称：out of vocabulary，即超出词表外的词。
深度学习中Embedding层有什么用？
热门推荐
赵大宝的博客
09-05 16万+
在深度学习实验中经常会遇Eembedding层,然而网络上的介绍可谓是相当含糊。比如 Keras中文文档中对嵌入层 Embedding的介绍除了一句 “*嵌入层将正整数（下标）转换为具有固定大小的向量*”之外就不愿做过多的解释。那么我们为什么要使用嵌入层 Embedding呢?
pgn model和一些解决oov的方法
weixin_41710583的博客
05-22 1699
本周主要有面对out of vocabulary时的一些方法，以及对应的pgn模型。 1、当我们面对oov问题出现，往往的解决方法有以下： 01 忽略oov 遇到不认识的词，直接忽略，但是这种方法会严重影响文本摘要的意思。 02 用默认的词代替（unk） 但是这种方法会直接造成，摘要内容可读性很差。 03 扩大词表 这种方法，从某种程度上可以缓解。但是也会带来计算量大的问题，以及有一些低频词，是不能很好的学习到其中的意思（因为深度学习是基于统计来学习的）。 04 将token分解为char级别..
Deep Learning for NLP 文章列举
xceman1997的专栏
07-10 1341
原文地址：http://www.xperseverance.net/blogs/2013/07/2124/?utm_source=rss&utm_medium=rss&utm_campaign=deep-learning-for-nlp-%25e6%2596%2587%25e7%25ab%25a0%25e5%2588%2597%25e4%25b8%25be 发表日期：2013 年
deep learning for dummies译本
最新发布
09-22
《深度学习入门指南》译本是为了帮助初学者更好地理解深度学习所设计的一本书籍。深度学习是一种复杂的机器学习技术，通过构建和训练多层神经网络来处理和理解大量数据。这本书的主要目的是将深度学习的概念和原理以简明易懂的方式表达出来，以帮助读者快速入门。 《深度学习入门指南》译本的内容涵盖了深度学习的基础知识、主要算法和应用案例。首先，它介绍了神经网络的基础概念，解释了输入、输出和隐藏层之间的关系。然后，它详细解释了常用的深度学习算法，如卷积神经网络和循环神经网络，以及它们在图像识别、自然语言处理和语音识别等领域的应用。 此外，《深度学习入门指南》译本还提供了实际的编程示例和操作步骤，帮助读者从零开始构建自己的深度学习模型。它解释了数据预处理、模型训练和评估的重要步骤，并引导读者如何使用流行的深度学习框架，如TensorFlow和PyTorch。 这本书注重实践与理论相结合，通过丰富的案例和练习，读者可以快速应用所学的知识解决实际问题。它力求用简单清晰的语言和图表解释复杂的概念，为读者提供了一个较为友好和易懂的学习环境。 总而言之，这本《深度学习入门指南》译本是一本为初学者设计的实用指南，它帮助读者了解深度学习的基本概念和应用，并提供了实际的编程示例，让读者能够迅速入门深度学习领域。无论是对于计算机科学学生、工程师还是对于对深度学习感兴趣的非专业读者都会有很大的帮助。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值