自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(32)
  • 收藏
  • 关注

原创 损失test1

最近,随着预训练的基于transformer的语言模型的巨大成功和BERT一样,它们被广泛用于生成句子表示。一种直接的方法是利用[CLS]嵌入(Devlin等人,2019)或在类bert预训练语言模型的最后几层应用均值池(Reimers和Gurevych, 2019)。然而,未经进一步微调的预训练语言模型的句子嵌入不能很好地捕获句子的语义,有时甚至不如GloVe 等非上下文化嵌入。为了对句子之间的正负成对关系进行建模,我们首先需要生成句子表征,并将它们分组为正负对。然后将这些对输入到训练目标中进行优化。

2024-04-07 18:24:52 93

原创 代码相关python

python代码

2023-07-11 22:51:51 92

原创 bert相关

1、自注意力机制

2023-05-16 21:56:51 97

原创 每天读一篇文献

本文提出了一种基于知识增强的预训练模型作为语义表示层,在特征提取层采用和改进的融合模型。实验表明,该模型在。在多标签分类任务中的数据不平衡问题中,利用实现模型更快收敛的目标。1、针对实体关系抽取流水线化的问题,采用基于序列标注的联合方法进行实体关系抽取。2、采用知识增强的ERNIE预训练模型进行文本语义表示。联合学习方法。

2023-05-08 22:21:07 113

原创 杂七杂八的知识

杂七杂八

2023-05-08 19:07:12 70

原创 每天读一篇文献15--CBLUE

论文学习

2023-04-14 16:07:08 48

原创 每天读一篇文献14--GraphRel: Modeling Text as Relational Graphs for Joint Entity andRelation Extraction

论文阅读

2023-04-13 10:22:42 190

原创 每天读一篇文献13--DGCL: Distance-wise and Graph Contrastive Learning for medicationrecommendation

DGCL: Distance-wise and Graph Contrastive Learning for medicationrecommendation

2023-03-24 14:54:26 251 1

原创 每天读一篇文献12--A deep learning method to detect prescription and use disorder from electronic health

本研究的目的是开发一种结合深度学习的方法,利用结构化和非结构化EHR数据预测某类药物处方和use disorder。

2023-03-23 23:31:57 95

原创 每天读一篇文献11--Information Extraction from the Text Data onTraditional Chinese Medicine

Information Extraction from the Text Data onTraditional Chinese Medicine: A Review on Tasks, Challenges, and Methods from 2010 to 2021

2023-03-22 22:17:34 76

原创 每天读一篇文献10--Rediscovery of CNN’s Versatility for Text-based Encoding of Raw Electronic Health Records

Rediscovery of CNN’s Versatility for Text-based Encoding of Raw Electronic Health Records重新发现CNN对原始电子健康记录文本编码的多功能性

2023-03-21 21:07:09 29

原创 每天读一篇文献9--UniHPF : Universal Healthcare Predictive Framework with Zero Domain Knowledge

UniHPF:零领域知识的通用医疗预测框架

2023-03-21 12:06:45 40

原创 每天读一篇文献8--Contextualized Medication Information Extraction Using Transformer-based Deep Learning Arc

Contextualized Medication Information Extraction Using Transformer-based Deep Learning Architectures基于Transformer深度学习架构的情境化用药信息抽取

2023-03-17 22:44:14 139

原创 每天读一篇论文7--MEDBERT.de: A Comprehensive German BERT Model for the Medical Domain

MEDBERT.de: A Comprehensive German BERT Model for the Medical Domain一个全面的德国医学领域的BERT模型

2023-03-16 23:16:11 160

原创 每天读一篇论文6--Optimizing Deep Learning Model Parameters with the Bees Algorithm for Improved Medical Tex

Optimizing Deep Learning Model Parameters with the Bees Algorithm for Improved Medical Text Classification改进医学文本分类的Bees算法优化深度学习模型参数

2023-03-15 17:19:27 72

原创 每天读一篇论文5--MWE as WSD: Solving Multiword Expression Identification with Word Sense Disambiguation

MWE as WSD: Solving Multiword Expression Identification with Word Sense Disambiguation利用词义消歧解决多词表达识别问题

2023-03-14 21:57:09 100

原创 每天读一篇论文4

ICL-D3IE: In-Context Learning with Diverse Demonstrations Updating for Document Information Extraction面向文档信息抽取的多样演示更新上下文学习

2023-03-10 15:21:58 73

原创 每天读一篇论文3--Structure Pretraining and Prompt Tuning for Knowledge Graph Transfer

Structure Pretraining and Prompt Tuning for Knowledge Graph Transfer面向知识图谱迁移的结构预训练和快速调优

2023-03-09 23:12:18 385 3

原创 每天读一篇论文2--Document-level Relation Extraction with Cross-sentence Reasoning Graph

Document-level Relation Extraction with Cross-sentence Reasoning Graph基于跨句推理图的文档级关系抽取

2023-03-08 21:54:20 374

原创 每天读一篇论文1--ANCIENT CHINESE WORD SEGMENTATION AND PART-OF-SPEECH TAGGING USING DISTANT SUPERVISIO

we propose a novel augmentation method of ancient Chinese WSG and POS tagging data using distant supervision over parallel corpus.我们提出了一种基于平行语料远程监督的古汉语WSG和词性标注数据扩充方法。

2023-03-07 23:27:44 96

原创 信息抽取笔记1

知识抽取学习笔记

2023-03-02 18:16:22 129

原创 NumPy笔记

numpy

2023-01-19 21:28:36 58

原创 【SQL】排序与运算、筛选函数

SQL

2023-01-06 17:34:45 526

原创 【SQL 筛选】基于SQLite

SQL 基础笔记

2023-01-05 18:21:01 701

原创 李宏毅《机器学习》笔记 神经网络训练不起来怎么办

深度学习

2022-11-23 15:05:16 402

原创 李宏毅《机器学习》笔记 DAY4 深度学习&反向传播

深度学习

2022-11-19 19:23:36 576

原创 模型选择 + 过拟合和欠拟合(动手学深度学习v2)笔记

深度学习

2022-11-18 20:05:45 283

原创 感知机&激活函数(动手学深度学习v2)笔记

深度学习

2022-11-18 11:00:51 507

原创 李宏毅《机器学习》笔记 DAY3 误差和梯度下降

深度学习

2022-11-17 12:37:47 276

原创 Softmax回归 + 损失函数 笔记

深度学习

2022-11-15 19:00:40 879

原创 李宏毅《机器学习》笔记 DAY2 回归

深度学习笔记

2022-11-15 18:34:08 190

原创 李宏毅《机器学习》笔记 DAY1

机器学习

2022-11-14 16:00:58 226

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除