Improved Word Representation Learning with Sememes

于 2023-01-28 18:43:31 发布
阅读量161 收藏
点赞数
分类专栏： 论文 研一 文章标签： word 自然语言处理 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44522477/article/details/128780950
版权
论文 同时被 2 个专栏收录
12 篇文章 0 订阅 ¥59.90 ¥99.00
订阅专栏
研一
24 篇文章 1 订阅
订阅专栏
该研究提出了一种名为SE-WRL的框架，利用义原信息改进单词表示学习，解决词义消歧问题。通过简单的义原聚合模型（SSA）、上下文义原注意模型（SAC）和目标义原注意模型（SAT），模型能够更好地捕捉单词的语义，并在单词相似性和词义消歧任务中表现出优势。
摘要由CSDN通过智能技术生成

用义原来改进单词表示学习

Yilin Niu1∗, Ruobing Xie1∗, Zhiyuan Liu1,2 †, Maosong Sun1,2

Abstract

单词义素信息可以改善单词表示学习(WRL)，它将单词映射到低维语义空间，并作为许多NLP任务的基本步骤。

Related Work

Word Representation

Word Sense Disambiguation and Representation Learning

词义消歧与表征学习
WSD
词义消歧(WSD)的目的是在一定的上下文中通过计算来识别词义或意义。

Methodology

框架 Sememe-Encoded WRL(SE-WRL) that considers sememe information for word sense disambiguation and representation learning.

Sememes, Senses and Words in HowNet

<
了解本专栏 订阅专栏 解锁全文
Improved Word Representation Learning with Sememes论文解读
qq_42642273的博客
12-08 644
** Improved Word Representation Learning with Sememes ** 作者简介 该论文选自 ACL 2017 作者：Yilin Niu, Ruobing Xie, Zhiyuan Liu, Maosong Sun。 摘要 义原是词义的最小语义单位，每个词义的含义通常由几个义原组成。在文章中，作者提出单词义原信息可以提高词表示学习（WRL），它将词映射到低维语义空间中，并作为许多NLP任务的基本步骤。核心思想是利用单词义原来准确地捕获特定上下文中单词的确切含义
知识图谱中的知识表示学习（Representation Learning）
热门推荐
zlasd的博客
04-05 3万+
Word Representation1. one-hot representation 长度为词典长度，每个词在词典中的位置置1，其余置0 Curse of Dimension, 不适合太大的字典 互相正交，难以表示词语之间的相似性 2. distributed representation(词向量) 稠密、实值、低维的向量 便于Deep Learning 相似度用距离表示 word2vec ki
论文阅读之Improved Word Representation Learning with Sememes(2017)
学习笔记
11-05 631
义原是词义的最小语义单位，每个词义的意义通常由若干个义原组成。由于每个单词的义原并不明确，人们手动注释单词义原并形成语言常识知识库。文章提出词义原信息可以改进词表示学习（WRL），它将词映射到低维语义空间，并作为许多 NLP 任务的基本步骤。关键思想是利用词义原准确地捕捉特定上下文中词的确切含义。文章遵循 Skip-gram 的框架并提出了三个义原编码模型来学习义原、意义和单词的表示，并应用注意力方案来检测各种上下文中的词义。文章对包括单词相似性和单词类比在内的两项任务进行了实验，我们的模型明显优于基线。
翻译 Improved Word Representation Learning with Sememes
weixin_30824277的博客
07-25 667
翻译 Improved Word Representation Learning with Sememes 题目 Improved Word Representation Learning with Sememes 融合义原知识的词汇表示学习 摘要 Abstract Sememes are minimum semantic units of word meanings, and the meani...
论文阅读笔记 Improved Word Representation Learning with Sememes
weixin_30329623的博客
05-14 340
论文阅读笔记 Improved Word Representation Learning with Sememes 一句话概括本文工作 使用词汇资源——知网——来提升词嵌入的表征能力，并提出了三种基于知网资源的词嵌入学习模型，在通用的中文词嵌入评测数据集上进行了评测，取得了较好的结果。 作者简介 该论文选自 ACL 2017，是清华大学孙茂松刘知远老师组的成果。论文的两名共同第一作者分别是牛艺霖和...
2018 Improved Techniques for Learning to Dehaze and Beyond_ A Collective Study
04-02
2018 Improved Techniques for Learning to Dehaze and Beyond_ A Collective Study
Machine Learning Projects with TensorFlow 2.0：Supercharge your Machine Learning
05-02
Machine Learning Projects with TensorFlow 2.0: Supercharge your Machine Learning skills with Tensorflow 2 English | MP4 | AVC 1920×1080 | AAC 48KHz 2ch | 4h 20m | 965 MB eLearning | Skill level: All...
表示学习（representation learning）
qq_38675570的博客
05-09 2940
论文读书笔记-主题-word representation learning & Semantic disambiguation
caiyuanyuan_bjtu的专栏
07-22 1187
improving word representations via global context and multiple word prototypes
论文读书笔记-主题-word representations learning & Evaluation
caiyuanyuan_bjtu的专栏
07-07 3985
word  representations learning类文章
Representation Learning（词嵌入NNLM，word2vec，GloVe）
nakaizura
10-05 2302
NLP(Natural Language Processing) NLP主要是关注计算机和人类(自然)语言之间的相互作用的领域。如果要想实现人机间自然语言通信意味着要使计算机既能理解自然语言文本的意义，也能以自然语言文本来表达给定的意图、思想等。前者称为自然语言理解，后者称为自然语言生成，这也是NLP的两大任务。 但处理它的困难之处在于自然语言是一种符号，出现的理由是为了作为一种方便人类进行高效交...
清华大学刘知远：在深度学习时代用HowNet搞事情
Paper weekly
01-09 1562
作者丨刘知远单位丨清华大学自然语言处理实验室副教授研究方向丨知识图谱与语义计算，社会计算与计算社会科学本文经授权转载自知乎专栏「NLP日知录」。2017 年 12 月底，清华大学张钹院士做了一场题为《AI 科学突破的前夜，教授们应当看到什么？》的精彩特邀报告。他认为，处理知识是人类所擅长的，而处理数据是计算机所擅长的，如果能够将二者结合起来，一定能够构建出比人类更加智能的系统。因此他提出，AI 未
AAAI、IJCAI和ACL录用三名清华本科生成果，华人NLP最杰出HowNet成功融入DL模型
weixin_33955681的博客
01-10 542
什么是HowNet HowNet是董振东先生、董强先生父子毕数十年之功标注的大型语言知识库，主要面向中文（也包括英文）的词汇与概念[1]。 HowNet秉承还原论思想，认为词汇/词义可以用更小的语义单位来描述。这种语义单位被称为“义原”（Sememe），顾名思义就是原子语义，即最基本的、不宜再分割的最小语义单位。在不断标注的过程中，HowNet逐渐构建出...
(论文笔记) Deep contextualized word representations
harry的博客
07-24 5885
Deep contextualized word representations1. Introduction什么是一个好的词向量能够反映出语义和语法的复杂特征.能够准确的对不同上下文进行反应.deep contextualized 词向量的特点使用理念方面:在原先的词向量模型中, 每个词对应着一个向量, 但是这个模型是根据一个句子赋予每个词汇向量. 因此对于一个 n-tokens 的输入NLP任...
representation learning 表示学习
zhangsh_20930的专栏
12-17 2万+
representation learning
表征学习学习
qq_33654685的博客
01-06 2448
作者：宣廷S 链接：https://www.zhihu.com/question/37162929/answer/791539000 来源：知乎 著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。 什么是表达学习？为什么要表达学习？ 机器学习算法的成功与否不仅仅取决于算法本身，也取决于数据的表示。数据的不同表示可能会导致有效信息的隐藏或是曝露，这也决定了算法是不是能直截了...
NLP中的Embedding方法总结
pyxiea
10-01 1万+
词向量 One-Hot Encoding 学习资料 https://flashgene.com/archives/66661.html 要点 例如词汇表大小∣V∣=N|V|=N∣V∣=N，则用一个NNN维的one-hot向量来表示一个词，每个词的one-hot中111的位置就对应了该词在词汇表的索引。 缺点 语义鸿沟：其无法通过词向量来衡量相关词之间的距离关系，即这样的表征方法无法反映词之间...
Improved Deep Embedded Clustering with Local Structure Preservation
最新发布
07-25
C知道: "Improved Deep Embedded Clustering with Local Structure Preservation" 是一篇研究论文的标题。这篇论文提出了一种改进的深度嵌入聚类算法，通过保留本地结构来提高聚类效果。该算法结合了深度学习和聚类...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

向上Claire

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值