自然语言处理和计算机视觉相关论文总结

置顶 已于 2023-04-21 15:40:18 修改
阅读量1.4k 收藏 21
点赞数 5
文章标签： 自然语言处理 计算机视觉 深度学习
于 2023-03-02 22:13:06 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_45041871/article/details/129295622
版权

自然语言处理

命名实体识别

论文名称期刊/会议时间解读特点代码
Unified Named Entity Recognition as Word-Word Relation ClassificationAAAI2022W2NER本文建立了一个统一的命名实体识别模型，解决了NER领域当前嵌套实体、不连续实体的难题，其思想和TPLinker有异曲同工之处。将NER建立成2维网格，提出了多粒度卷积进行网格优化，推动了NER任务的统一。W2NER

关系抽取

论文名称期刊/会议时间解读特点代码

事件抽取

综述

论文名称期刊/会议时间解读特点代码
A Survey on Deep Learning Event Extraction: Approaches and ApplicationsTANNLS2022解读本文回顾了2022年以前事件抽取模型进展，主要针对深度学习模型的研究。并为事件抽取模型进行文献分类，总结了事件抽取的范式和模型。分析了未来的研究方向。-

事件检测/事件触发词抽取

论文名称期刊/会议时间解读特点代码
Saliency as Evidence: Event Detection with Trigger Saliency AttributionACL2022SaliencyED解读本文将事件触发词检测分为两种情况，一种是更依赖触发词的，另一种是更依赖上下文的。本文采用触发词显著归因将其进行划分，对于第一种采用正常的序列标注模型，对于第二种将会先检测上下文中部分词显著性较高的词(非触发词)，引入外部知识进行强化。SaliencyED
DESED: Dialogue-based Explanation for Sentence-level Event DetectionCOLING2022DESED解读本文提出使用GPT在原始句子的基础上生成对应提示上下文，并提出了三种简单的对话解释，并采用注意力机制将原始句子和生成句子进行融合，从而实现原句增强DESED
Event Detection with Dual Relational Graph Attention NetworksCOLING2022DualGAT解读在句子级事件检测的基础上，使用句法关系和语义关系构建了一个对偶关系增强的注意力网络(重点在于句法图和语义图构建和剪枝)，在对偶关系图的基础上使用图注意力网络进行知识增强，最后进行联合知识解码DualGAT
KiPT: Knowledge-injected Prompt Tuning for Event DetectionCOLING2022KiPT解读在句子级事件检测的基础上，引入外部知识WordNet和软知识进行特征增强，外部知识引入是根据每个词的词性进行针对性增强，在使用生成模型进行条件解码-

事件论元抽取

论文名称期刊/会议时间解读特点代码
Prompt for Extraction? PAIE: Prompting Argument Interaction for Event Argument ExtractionACL2022PAIE解读本文根据提示在每个角色的输入文本中选择开始/结束标记，引入了两个span选择器，它通过多角色提示捕获论元交互，并通过二部匹配损失(优化算法)进行最优跨度分配的联合优化。PAIE是将提示输入到解码器中，提供了不同的角度去分析论元角色PAIE
Multilingual Generative Language Models for Zero-Shot Cross-Lingual Event Argument ExtractionACL2022X-GEAR解读本文设计了一种与语言无关的提示模板，兼容了各种语言的事件论元结构。在多语言生成模型上进行微调，来生成最终从输入段落中抽取的论元填充，并分析了各种语言迁移的效果X-Gear

句子级事件抽取

数据集
论文名称期刊/会议时间解读特点代码
Title2Event: Benchmarking Open Event Extraction with a Large-scale Chinese Title DatasetEMNLP2022Title2Event解读提出了一种中文新闻标题句子级事件抽取数据集，数据形式类似于三元组<subject,predicate,object>，中文数据集。Title2Event
MEE: A Novel Multilingual Event Extraction DatasetEMNLP2022添加链接描述
基于 分类 的方法
流水线抽取
论文名称期刊/会议时间解读特点代码
EventGraph: Event Extraction as Semantic Graph ParsingCASE2022EventGraph解读语义图解码方式EventGraph
CasEE: A Joint Learning Framework with Cascade Decoding for Overlapping Event ExtractionACL2021CasEE解读CasEE依次执行(类型检测、触发词抽取和论元抽取)(前者)，其中重叠的目标根据前者的特定预测分别抽取。CasEE
Query and Extract: Refining Event Extraction as Type-oriented Binary DecodingACL2022Query and Extract解读本文提出了一种新颖的事件抽取框架，该框架使用事件类型和论元角色作为自然语言查询，从输入文本中抽取候选触发词和论元。通过数据集中触发词和论元角色的分布进行上下文特征增强Event_Query_Extract
联合抽取
论文名称期刊/会议时间解读特点代码
Joint Information Extraction with Cross-Task and Cross-Instance High-Order ModelingArixv2022HighIE解读设计了两类高阶因子(同质因子和异质因子)，可以在训练和推理过程中结合跨任务和跨实例交互HighIE
OneEE: A One-Stage Framework for Fast Overlapping and Nested Event ExtractionCOLING2022OneEE解读很新颖的想法，将TPlinker关系抽取的思想用于事件抽取，实现了联合抽取触发词和论元，在使用自适应事件融合函数加强事件间的交互。解决了错误传播和事件触发词，论元嵌套的问题OneEE
Abstract Meaning Representation Guided Graph Encoding and Decoding for Joint Information ExtractionNAACL2021AMR-IR解读本文利用抽象语义表示AMR进行辅助事件抽取，利用AMR语义聚合器和AMR引导图解码，分别加强了触发词和抡元之间的交互，触发词和论元之间的解码。AMR-IE
Cross-Task Instance Representation Interactions and Label Dependencies for Joint Information Extraction with Graph Convolutional NetworksNAACL2021FourIE解读本文先进行触发词识别和实体识别，然后构建触发词和实体交互图，利用GCN对图特征进行增强对最后结果进行预测。将预测的结果和真实的情况在重建图，得到预测和真实之间的图损失值进行强化训练。-
Joint Extraction of Entities, Relations, and Events via Modeling Inter-Instance and Inter-Label DependenciesNAACL2022GraphIE解读本文提出从数据中诱导任务实例之间的依赖关系图来促进表示学习。为了更好地捕获实例标签之间的依赖关系，通过条件随机场直接估计它们的联合分布。引入噪声对比估计来解决模型训练中难以处理的联合似然的最大化问题。最后，为了改进之前工作中的贪心搜索或束搜索的解码，提出了模拟退火，以便在解码时更好地找到实例标签的全局最优分配。-
A Joint Neural Model for Information Extraction with Global FeaturesACL2020OneIE解读本文首次提出了事件联合抽取模型，利用识别的触发词和实体提及构建局部图分类器，在使用beam search全局搜索最优图。解码阶段利用全局特征捕获跨实例和跨任务的交互，从而优化结果。OneIE
基于 问答/提示 的方式
论文名称期刊/会议时间解读特点代码
Event Extraction as Machine Reading ComprehensionEMNLP2020RCEE论文解读首次将事件抽取转化为机器阅读理解问题，生成特定问题进行事件抽取。RCEE
Global Constraints with Prompting for Zero-Shot Event Argument ClassificationEACL2023论文解读提出了一种利用前缀提示进行零样本事件抽取的方法。Code
Dynamic Prefix-Tuning for Generative Template-based Event ExtractioACL2022GTEE-DYNPREF论文解读基于生成模板的动态前缀事件抽取，通过集成上下文信息和特定类型的前缀来学习每个上下文的特定上下文前缀。-
DEGREE: A Data-Efficient Generation-Based Event Extraction ModelNAACL2022DEGREE解读给定一篇句子和一个手动设计的提示，DEGREE学会将句子中提到的事件总结成一个遵循预定义模式的自然句子。然后用确定性算法从生成的句子中抽取出最终的事件。DEGREE
Prompt for Extraction? PAIE: Prompting Argument Interaction for Event Argument ExtractionACL2022PAIE解读本文根据提示在每个角色的输入文本中选择开始/结束标记，引入了两个span选择器，它通过多角色提示捕获论元交互，并通过二部匹配损失(优化算法)进行最优跨度分配的联合优化。PAIE是将提示输入到解码器中，提供了不同的角度去分析论元角色PAIE
Event Extraction by Answering (Almost) Natural QuestionsEMNLP2020EEQAj解读本文首次将事件抽取任务转化为QA任务，通过问答形式进行抽取事件触发词和论元角色，并且在零样本时也具有一定的效果。EEQA
Retrieval-Augmented Generative Question Answering for Event Argument ExtractionEMNLP2022RGQA解读本文提出了一种用于事件论元抽取的检索增强生成QA模型（R-GQA），检索与文本最相似的QA对，并将其作为当前示例上下文的提示，然后将论元解码为答案。采用聚类的采样策略对少样本学习及逆行深入分析。RGQA
对比学习
论文名称期刊/会议时间解读特点代码
CLEVE: Contrastive Pre-training for Event ExtractionACL2021CLEVE解读CLEVE在与训练过程中使用自动解析器(AMR)去获取大量的无监督数据和语义信息进行预训练，有一个学习语义的文本编码器，一个学习事件语义结构的图编码器CLEVE
迁移学习
论文名称期刊/会议时间解读特点代码
A Multi-Format Transfer Learning Model for Event Argument Extraction via Variational Information BottleneckCOLING2022UnifiedEAE解读不同数据集之间标注可能存在差距，事件记录可能很复杂，很难用统一的模型来抽取。本文采用变分信息瓶颈消除数据集间的不相关信息，保留数据集的共享信息，学习不同数据间的格式-

文档级事件抽取

数据集
论文名称期刊/会议时间解读特点代码
DocEE: A Large-Scale and Fine-grained Benchmark for Document-level Event ExtractionNAACL2022DocEE解读提出了一个文档级事件抽取数据集，该数据集具有大规模手动标注、细粒度论元类型和面向应用程序三大特点。该数据集是英文的。DocEE
方法
论文名称期刊/会议时间解读特点代码
Document-Level event Extraction via human-like reading processICASSP2022解读将文档级事件抽取分解为粗略阅读和精细阅读两个迭代阶段。第一个阶段浏览文档以检测事件的发生，第二个阶段用于抽取特定的事件论元。-
A Two-Stream AMR-enhanced Model for Document-level Event Argument ExtractionNAACL2022TSAR解读TSAR通过双流编码模块从不同角度对文档进行编码，解决论元分散问题。此外，TSAR还引入了基于局部和全局的AMR语义图的AMR引导交互模块，以捕获句内和句间特征。引入一种辅助边界损失来显式增强文本跨度的边界信息。TSAR
RAAT: Relation-Augmented Attention Transformer for Relation Modeling in Document-Level Event ExtractionNAACL2022RAAT解读提出了一种针对事件触发词和论元角色之间关系依赖进行增强的Transformer机制，有效地解决DEE论元分散问题RAAT
Document-Level Event Role Filler Extraction using Multi-Granularity Contextualized EncodingACL2020Multi-Granularity Reader解读本文采用一个折中策略来解决DEE，提出了K_sentence阅读器和段落级阅读器，结合两者的特征形成一个多粒度阅读器进行DEE任务Multi-Granularity Reader
Document-level Event Extraction via Heterogeneous Graph-based Interaction Model with a TrackerACL2021GIT解读本文针对DEE论元分散和事件间相关性建模问题，提出了带有跟踪器的异构图交互模型，该模型可以捕捉不同句子实体提及的交互，不同事件之间的交互GIT
Doc2EDAG: An End-to-End Document-level Framework for Chinese Financial Event ExtractionEMNLP2019Doc2EDAG解读本文针对DEE任务，提出了一个无触发词的DEE任务，来简化事件标记。利用抽取出来的实体构建实体有向无环图进行交互，融合句子信息、文档信息进行解码Doc2EDAG
Document-level Event Extraction via Parallel Prediction NetworksACL2021DEPPN解读采用不同粒度解码器进行解码事件和论元角色，并提出了一种新的匹配损失优化计算DE-PPN
CLIO: Role-interactive Multi-event Head Attention Network for Document-level Event ExtractionCOLING2022CLIO解读本文提出了一种面向DEE的角色交互多事件头注意力网络。通过将不同的事件映射到多个子空间，将DEE分解为多个子步骤，以处理嵌套的论元和多个事件。为了进一步优化事件表示，应用事件表示增强策略来正则化对比预训练的嵌入空间，使其更加各向同性-

事件因果关系识别

论文名称期刊/会议时间解读特点代码
Event Causality Extraction with Event Argument CorrelationsCOLING2022DualCor解读传统的事件因果关系识别忽略了关键事件结构和因果关系，DualCor提出了一种双网格标记来捕获事件内和事件间因果关系，进而增强事件因果关系识别DualCor

预训练语言模型

论文名称期刊/会议时间解读特点代码
RoFormer: Enhanced Transformer with Rotary Position EmbeddingArxiv2021ReFormer解读提出了一种高效的旋转位置编码，并对当前的位置编码进行综述。ReFormer

其他

句子嵌入

论文名称期刊/会议时间解读特点代码
SimCSE: Simple Contrastive Learning of Sentence EmbeddingsEMNLP2021SimCSE解读本文提出了一种句子级对比学习的模型，既可以监督方式也可以无监督方式进行句子嵌入，使用该模型可以得到一个句子的向量表示。SimCSE

计算机视觉

通用视觉骨干网络

论文名称期刊/会议时间解读特点代码
Training data-efficient image transformers & distillation through attentionICML2021DEIT解读提出了一种针对vision transformer的数据蒸馏方式，以及卷积模型和vision transformer分别作为教师模型和学生模型的策略。DEIT
BEIT: BERT Pre-Training of Image TransformersICLR2022BEIT解读针对vision transformer提出了一种自监督的预训练方式，掩码图像建模，类似于文本的MLM。BEIT
IS ATTENTION BETTER THAN MATRIX DECOMPOSITION?ICLR2021Hamburger解读提出了Hamburger结构，将全局信息建模转化为低秩补全问题，利用矩阵分解和梯度优化对其及进行求解。Hamburger
Swin Transformer: Hierarchical Vision Transformer using Shifted WindowsICCV2021Swin-Transformer解读在ViT的基础上提出了分层Transformer的概念，并提出了移位窗口高效的特征交互和计算效率，推动了Vision Transformer的后续发展。Swin-Transformer
An Image is Worth 16x16 Words: Transformers for Image Recognition at ScaleICLR2020ViT解读首次在视觉领域提出了Transformer的概念，将图像进行分块处理，输入到Transformer模型上进行计算。本文也算Transformer应用到视觉领域的开山之作，打破了CNN在视觉领域的绝对领导地位。ViT

语义分割网络

论文名称期刊/会议时间解读特点代码
The Fully Convolutional Transformer for Medical Image SegmentationWACV2023FCT解读提出了卷积注意力机制，极大提升了实验效果FCT
SegNeXt: Rethinking Convolutional Attention Design for Semantic SegmentationNeurIPS2022SegNext解读重新设计了卷积结构，结合Hamburger解码器实现了SOTASegNext
Segment AnythingArxiv2023SAM解读首次将提示用于语义分割领域，号称图像的GPT-3，提供了点、框、文本三种提示方式增强语义分割，开源了一个巨大的语义分割数据集SAM
Segmenter: Transformer for Semantic SegmentationICCV2021Segmenter解读本文在ViT的基础上提出了Mask Transformer的语义分割解码器，将类嵌入和ViT提取的特征进行特征增强，得到更好的语义分割结果segmenter
SegFormer: Simple and Efficient Design for Semantic Segmentation with TransformersNeurIPS2021SegFormer解读SegFormer是专门设计的语义分割网络，采用层次编码结构（类似于Swin-Transformer），可以输出多尺度特征，并且不需要位置嵌入。其次，SegFormer避免了复杂的解码器，使用MLP解码。SegFormer
Swin-Unet: Unet-like Pure Transformer for Medical Image SegmentationECCV2021Swin-Unet解读本文利用Swin-Transformer构建了一个U型语义分割网络，并没有按照官方给出的大模型结构，而是自己搭建了一个更小的模型进行预训练，独特之处在于解码器的上采样层不是upsample，而是Swin-Transfromer的path merge的逆过程，有效提升了模型的精度Swin-Unet
Unified Perceptual Parsing for Scene UnderstandingECCV2018UperNet解读本文针对层级图像特征的抽取结果进行分析，将不同层级的特征用于处理不同粒度的任务。该模型的目前广泛被用于语义分割，层级编码器的解码网络UperNet

多模态

表征学习

论文名称期刊/会议时间解读特点代码
Efficient Self-supervised Learning with Contextualized Target Representations for Vision, Speech and Language-2022Data2Vec解读提出了一种视觉、语音和文本的统一自监督模型，相对之前的统一表示模型，现在效率更高、花费更少。data2vec
Trouble..
关注
  • 5
    点赞
  • 踩
  • 21
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
人工智能：来自计算机视觉，自然语言处理和群智能的论文和流行算法的实现
02-16
在当前的信息时代，人工智能（AI）已经成为科技领域的核心驱动力，尤其在计算机视觉、自然语言处理和群智能这三个关键领域，其进步和应用日新月异。Python作为当今最流行的编程语言之一，因其简洁明了的语法和丰富的...
人工智能算法&计算机视觉&自然语言处理资料.7z
01-22
本压缩包"人工智能算法&计算机视觉&自然语言处理资料.7z"提供了丰富的理论基础和项目实践资料，非常适合IT人工智能从业者以及硕博研究生进行深入学习和研究。 首先，我们要了解的是人工智能的基础概念。人工智能是...
2024年4月计算机视觉论文推荐
deephub
04-27 5620
本文将整理4月发表的计算机视觉的重要论文，重点介绍了计算机视觉领域的最新研究和进展，包括图像识别、视觉模型优化、生成对抗网络(gan)、图像分割、视频分析等各个子领域。
自然语言处理论文含一篇word论文
05-21
包含近年较为热门的论文 以及一篇word论文适用于学生应付课设。
FCT: The Fully Convolutional Transformer for Medical Image Segmentation 论文解读
qq_45041871的博客
03-02 2396
我们提出了一种新的transformer，能够分割不同形态的医学图像。医学图像分析的细粒度特性所带来的挑战意味着transformer对其分析的适应仍处于初级阶段。UNet压倒性的成功在于它能够欣赏分割任务的细粒度性质，这是现有的基于transformer的模型目前不具备的能力。为了解决这个缺点，我们提出了全卷积transformer(FCT)，它建立在卷积神经网络学习有效图像表示的能力的基础上，并将它们与transformer的能力相结合，有效地捕获其输入中的长期依赖关系。
一文了解计算机视觉与自然语言处理融合的研究进展
zenRRan的博客
12-19 4295
来自：python遇见NLP导读通过语言给予智能体指示使其完成通用性的任务是人工智能领域的愿景之一。近年来有越来越多的学者试图通过融合计算机视觉与自然语言处理领域的相关技术以期实...
计算机视觉与自然语言处理的交叉应用：基于ChatGPT的多模态生成模型
2301_76977793的博客
06-13 334
在人工智能领域中，计算机视觉和自然语言处理是两个重要的研究方向。近年来，随着多媒体数据的不断增长，研究人员开始探索将这两个领域结合起来，以实现多模态数据的处理和利用。本文将介绍一种基于ChatGPT的多模态生成模型，它可以同时处理图像和文本数据，并生成新的多模态内容。
AI Paper阅读记录与收藏：机器学习/深度学习/自然语言处理/计算机视觉/智能语音/推荐系统/知识图谱
11-15
（二） 自然语言处理/计算机视觉/智能语音 2.1 自然语言处理 自然语言处理综述 文本向量化 中文分词 关键词提取 文本相似度计算 文本分类 情感分析 主题模型 阅读理解 推荐系统、知识图谱、数据优化、特征融合、...
整理的计算机视觉/深度学习/机器学习相关方向的论文
05-29
计算机视觉、深度学习和机器...总之，"daily-paper-computer-vision-master"这一压缩包中的论文集将为读者提供关于计算机视觉、深度学习和机器学习的最新洞见和创新实践，对于深入理解和应用这些技术具有极高的价值。
自然语言处理论文
06-14
本届 EMNLP 大会涉及自然语言处理的各个领域，“机器学习”毫无悬念仍然成为重点，并且还首次单独出来自成一类（EMNLP 2015 时是“统计机器学习方法”）。大会覆盖的主题包括：计算心理语言；对话和交互系统；话语分析（Discourse Analysis）；文本生成（Generation）；信息抽取；信息检索与问答；语言与视觉；语言理论和资源；机器学习；机器翻译；多语种和跨语种（Multilinguality and Cross-linguality）；自然语言处理应用；标注、组块分析及句法分析；语义；情感分析和意见挖掘；互联网、社交媒体与计算社会科学；口语处理（Spoken Language Processing）；文本挖掘；文本分类和主题建模。
自然语言处理必读论文！涵盖主流研究方向！
09-25
自然语言处理必读论文 聚类&词向量 主题模型 语言模型 分割、标注、解析 序列模型、信息抽取 机器翻译， seq2seq模型 指代消歧 自动文本总结 问答系统、阅读理解 生成模型、强化学习 机器学习 神经网络模型 转载：http://blog.csdn.net/weixin_40400177/article/details/103485753 侵删！！！
自然语言处理（NLP）、Transformer、Yolo等相关技术的资源
08-04
Transformer 是一种基于自注意力机制的深度学习模型，广泛应用于自然语言处理和计算机视觉领域。YOLO 是一种目标检测算法，能够快速定位并检测图像中的目标。 以下是自然语言处理（NLP）、Transformer、Yolo 等相关...
语音识别 计算机视觉,如何将语音识别、计算机视觉和自然语言处理结合起来帮助精神健康患者...
weixin_42575109的博客
07-26 946
本文作者Albert Haque,Michelle Guo,Adam S Miner和Li Fei-Fei。文章主要介绍了李飞飞团队的最新研究成果：一种基于机器学习的抑郁症症状严重程度测量方法，该方法使用了视频、音频和文本数据集，以及因果卷积神经网络模型，准确率超过80%。抑郁症现在是一个全球性问题：已经有3亿多人患有抑郁症，严重时可导致自杀。由于社会舆论、高昂成本和治疗缺位，60%的精神性疾病患...
2021年必读的10 个计算机视觉论文总结
deephub
01-08 7718
2021 年排名前 10 的计算机视觉论文，包括视频演示、文章、代码和论文参考。 世界的经济活动在病毒的冲击下陷入了历史罕见的停滞中，但研究并没有放慢其狂热的步伐，尤其是在人工智能领域。今年的论文中除了一般的研究结果外还强调了许多重要方面，例如道德方面、重要偏见、治理、透明度等等。人工智能和我们对人脑及其与人工智能的联系的理解不断发展，显示出在不久的将来改善我们生活质量的有前景的应用。不过，我们应该谨慎选择应用哪种技术。 “科学不能告诉我们应该做什么，只能告诉我们可以做什么。” —— Jean-Paul
计算机视觉相关论文,有关计算机视觉的课程论文
weixin_33188832的博客
07-04 685
计算机视觉技术是在计算机技术应用下发展起来的一种新技术，主要用来研究计算机模拟生物的宏观或外显功能。该技术在应用过程中会涉及到计算机科学、神经生物学、人工智能、模式识别以及图像处理等多个学科。下面是学习啦小编给大家推荐的有关计算机视觉的课程论文，希望大家喜欢!有关计算机视觉的课程论文篇一《计算机视觉技术的应用研究》摘要：文章在介绍计算机视觉技术相关内容的基础上，对该技术在工业、农业、林业和农产品检...
总结 | 2020年TOP 10计算机视觉论文：代码，解读，还有demo视频！
3D视觉工坊
01-07 1508
点击上方“3D视觉工坊”，选择“星标”干货第一时间送达作者：louisfb01编译：ronghuaiyang来源：AI公园导读论文，代码，解读，还有demo视频。尽管今年世界上发生了这么...
2020年计算机视觉综述论文汇总！涵盖14个方向：目标检测/图像分割/医学影像/人脸识别等方向
热门推荐
极市平台的技术博客
07-28 1万+
导读：本文共汇总了从2020年4月至今的计算机视觉领域综述性论文，共54篇，涵盖图像分割、 图像识别、人脸识别/检测、医学影像、目标检测、3D方向（自动驾驶/深度估计）、GAN、文本检测与识别、姿态估计等14个研究方向。54篇论文打包下载请前往极市社区。 图像分割 Unsupervised Domain Adaptation in Semantic Segmentation: a Review 标题：语义分割中的无监督自适应研究进展 作者：Marco Toldo, Pietro Zanuttigh 链接：
X-GEAR:Multilingual Generative Language Models for Zero-Shot Cross-Lingual Event Argument Extraction
qq_45041871的博客
04-03 636
我们提出了一项利用多语言预训练生成语言模型进行零样本跨语言事件论元抽取(EAE)的研究。通过将EAE定义为语言生成任务，我们的方法有效地编码事件结构并捕获论元之间的依赖关系。我们设计了与语言无关的模板(language-agnostic templates)来表示与任何语言兼容的事件论元结构，从而促进了跨语言迁移。我们提出的模型对预训练的多语言生成语言模型进行微调，以生成从输入段落中抽取的论元填充语言无关模板的句子。该模型在源语言上进行训练，然后直接应用于目标语言进行事件论元抽取。
C2W3.Assignment.Language Models: Auto-Complete.Part1
最新发布
老毛的博客
07-22 1562
当模型遇到了一个它在训练过程中从未见过的单词，那么它将没有输入单词来帮助它确定下一个要建议的单词。将所有标记词转换为小写，这样原文中大写的单词（例如句子开头的单词）就会与小写单词得到相同的处理。将每个单词列表添加到句子列表中。为了在预测过程中处理未知词，可以使用一个特殊的标记 “unk”来表示所有未知词。语言模型为单词序列分配概率，使更 “可能 ”的序列获得更高的分数。这里不会使用数据中出现的所有分词（单词）进行训练，只使用频率较高的单词。需要一个双 for 循环，一个用于句子，另一个用于句子中的标记。
基于HMM和CRF的自然语言处理算法
HMM和CRF广泛应用于自然语言处理、计算机视觉、机器学习等领域。 五、参数估计问题 参数估计问题是HMM和CRF中的一个重要问题。参数估计问题的解决方法包括最大似然估计、EM算法、Baum-Welch算法等。在自然语言处理...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Trouble..

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值