NLP论文共读计划

置顶 已于 2024-04-02 16:23:29 修改
阅读量732 收藏
点赞数 2
分类专栏： NLP Papers NLP AI 文章标签： 自然语言处理
于 2021-07-15 11:07:39 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/chansonzhang/article/details/118754760
版权
NLP Papers 同时被 3 个专栏收录
54 篇文章 23 订阅 ¥29.90 ¥99.00
订阅专栏 超级会员免费看
AI
68 篇文章 2 订阅
订阅专栏
NLP
60 篇文章 1 订阅
订阅专栏
博主开设NLP论文共读计划，旨在个人学习、帮助他人快速了解NLP经典方法和跟踪行业最新进展。每期将解读一篇相关论文，包括RNN、Transformer、BERT等模型的论文。
摘要由CSDN通过智能技术生成

创刊词

开此专栏，目的有三：

  1. 督促自己坚持阅读 NLP 论文；
  2. 帮助想进入 NLP 领域的工程师和学生更快地了解 NLP 领域经典方法，并适当跟踪业界最新进展；
  3. 攒钱买 GPU😭

更新计划

  1. [2021-03-31] [RNN Encoder-Decoder, GRU] Learning Phrase Representations using RNN Encoder-Decoder for Statistical Machine Translation
  2. [2021-05-09] [Seq2Seq] Sequence to Sequence Learning with Neural Networks
  3. [2021-07-17] [Attention, RNNsearch] Neural Machine Translation by Jointly Learning to Align and Translate
了解本专栏 订阅专栏 解锁全文 超级会员免费看
chansonzhang
关注
  • 2
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
专栏目录
订阅专栏
如何读NLP相关论文—建议及注意事项
01-06
一、为什么要读论文？ 基础技术：读论文中的related works可以帮助了解该领域的一些主要的技术，追踪该领域经典算法论文 新方向和思路：了解该领域最新的解决思路 复现：更透彻的理解算法逻辑，锻炼编码能力 二、要...
[论文阅读] (05) NLP知识总结及NLP论文撰写之道——Pvop老师
杨秀璋的专栏
11-20 6311
《娜璋带你读论文》系列主要是督促自己阅读优秀论文及听取学术讲座，并分享给大家，希望您喜欢。由于作者的英文水平和学术能力不高，需要不断提升，所以还请大家批评指正，非常欢迎大家给我留言评论，学术路上期待与您前行，加油~ 最近准备挤时间好好阅读论文并撰写相关论文，这篇博客是在B站学习“深度之眼”Pvop老师的分享，题目为《高手是怎样学习NLP》，这里非常推荐大家去原网站学习及购买课程，真的挺好的一个教程。秀璋也希望能与您一起在学术科研路上一起前行，博士路漫漫，加油~
论文共读 | “阳奉阴违”的半监督学习算法 - Virtual Adversarial Training
Paper weekly
10-21 1770
「论文共读」是由 PaperWeekly 发起的协同阅读小组。我们每周精选一篇优质好文，由学术大咖带大家解读论文并展开讨论，在碎片化时代坚持深度阅读。 本期论文共读由 PaperWeekly 社区用户 @WarBean 主持，他将带大家通过两篇论文聚焦半监督学习算法。 论文介绍   Virtual Adversarial Training: a
关于Java的书籍阅读、关于NLP的论文阅读和相关算法、想法的各种md文档.zip
10-04
在给定的压缩包"关于Java的书籍阅读、关于NLP的论文阅读和相关算法、想法的各种md文档.zip"中，我们可以预见到一系列与Java编程、自然语言处理（NLP）理论以及相关算法和思想相关的资源。这个压缩包可能是为了帮助...
读书笔记之10情感分析论文阅读
12-03
### 情感分析在自然语言处理中的应用与进展 #### 情绪原因识别与E-CNN模型 **情绪原因识别**是一项重要的研究领域，它旨在从文本中抽取出触发个体情绪的原因信息。文献[1]介绍了一种新颖的方法——**基于E-CNN...
深度学习论文阅读路线论文
02-18
深度学习在搜索技术，数据挖掘，机器学习，机器翻译，自然语言处理，多媒体学习，语音，推荐和个性化技术，以及其他相关领域都取得了很多成果。深度学习使机器模仿视听和思考等人类的活动，解决了很多复杂的模式识别...
二元交叉熵损失梯度推导
热门推荐
Young, Simple, Naive
12-01 1万+
二元交叉熵损失（logistic 损失）定义如下： Llogistic(y^,y)=−ylogy^−(1−y)log(1−y^) L_{\text{logistic}}(\hat{y},y) =-ylog\hat{y}-(1-y)log(1-\hat{y}) Llogistic​(y^​,y)=−ylogy^​−(1−y)log(1−y^​) 其中 y∈{0,1}y\in\{0,1\}y∈{0,1...
人类历史上第一个推荐系统
Young, Simple, Naive
12-27 6974
让我们把时间推回到28年前那个风雨交加的夜晚，在一个小破屋里，几个老男人捣鼓出了人类历史上第一个推荐系统——Tapestry
使用NLTK将自然语言查询转化为SQL查询
Young, Simple, Naive
11-21 6178
文章目录 假设我们有一个sql表，如下所示： City Country Population athens greece 1368 bangkok thailand 1178 barcelona spain 1280 berlin east_germany 3481 birmingham united_kingdom 1112 当我们要查找某个athens在哪个...
使用BPE算法处理未登录词
Young, Simple, Naive
11-25 5520
BPE算法的输入是原始字典，其中每个单词被表示成一串字符，BPE算法迭代的执行k次，每次选择一个出现频率最高的符号对进行合并，生成一个新的符号，注意这种合并是不超过单词边界的。 例如原始词典中有张晨光和张晨磊两个单词，频数均为3，但是没有出现张晨 张晨光:3 张晨磊:3 所以我们在使用最大匹配算法进行分词时，如果使用该字典，就会造成张晨被错误分割为张和晨两个词的情况： max match cut...
Softmax求导及多元交叉熵损失梯度推导
Young, Simple, Naive
12-01 4535
假设n为特征个数，K为目标分类个数，则： 对于一个n×1n\times 1n×1输入样本向量 x=(x1,⋯ ,xi,⋯ ,xn)T x=(x_1,\cdots,x_i,\cdots,x_n)^T x=(x1​,⋯,xi​,⋯,xn​)T 一个K×nK\times nK×n的权重矩阵W（每行对应一个类） 以及一个K×1K\times 1K×1...
Unsupervised Data Augmentation for Consistency Training
Young, Simple, Naive
03-12 4512
有限的标注数据也能带来很好的性能
使用NLTK找出所有的语法解析树
Young, Simple, Naive
11-21 4123
使用NLTK完成Udacity公开课CS271（Intro to Artificial Intelligence）的Final Assessment Question 20 首先我们按照题目要求编写语法规则final_question_20.fcfg % start S S[SEM=(?np + ?vp)] -> NP[SEM=?np] VP[SEM=?vp] S[SEM=(?s1 + a...
李航-统计学习方法-习题-第九章
Young, Simple, Naive
11-13 3276
9.2 证明引理 9.2. 引理 9.2 若P~θ(Z)=P(Z∣Y,θ)\widetilde P_\theta(Z)=P(Z|Y,\theta)Pθ​(Z)=P(Z∣Y,θ)，则 F(P~,θ)=logP(Y∣θ) F(\widetilde P, \theta)=logP(Y|\theta)F(P,θ)=logP(Y∣θ). 证明： F(P~,θ)=EP~[logP(Y,Z∣θ)]+H(P~)=...
Parameter-Efficient Transfer Learning for NLP
Young, Simple, Naive
01-22 2291
对于 N 个下游任务，fine-tuning 需要 N 倍预训练模型的参数量，而 Adapter 可以只用接近 1 倍的参数量实现类似的性能。
使用最大匹配算法进行分词
Young, Simple, Naive
11-24 2011
最大匹配算法的原理：每次从句子最左侧分出一个词，这个词是词典中所有和句子当前位置匹配的词里面最长的那一个。 首先我们实现一个最大匹配算法： def max_match(sentence, dictionary): if ("" == sentence): return [] word_end = 1 for i in range(str(sentence)....
Fine-Tuning Language Models from Human Preferences
最新发布
Young, Simple, Naive
12-30 1225
在人类偏好上训练奖励模型，然后使用强化学习微调预训练语言模型
BERT: Pre-training of Deep Bidirectional Transformers for Language Understading
Young, Simple, Naive
08-08 1187
BERT 主要是将单向预训练模型扩展到深度**双向**结构，从而刷新 7 项自然语言任务 SOTA.
深度学习驱动的NLP综述：自然语言处理入门与进展
论文《自然语言处理：历史、发展与最新技术》提供了全面的历史回顾和深入的技术剖析，它探讨了NLP的发展历程，包括不同层次的语言处理和自然语言生成的各个方面，以及当前的挑战和趋势。这为读者提供了一个理解NLP...
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值