![](https://img-blog.csdnimg.cn/20201014180756927.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
NLG
文章平均质量分 89
hangguns
一个喜欢NLP的程序员
展开
-
1张2080ti用一天训练GPT2-small效果如何?
1张2080ti用一天训练GPT2-small效果如何?原创 2023-03-30 16:55:15 · 794 阅读 · 0 评论 -
text edit model FELIX的理解与python实现
Felix出自论文Felix: Flexible Text Editing Through Tagging and Insertion,被2020的ACL收录,之前看到苏神对于NAT的一个回复,即使是在相同BLEU或rouge-L的指标下,自回归模型(AT)的生成效果基本都会比非自回归模型(NAT)的效果要好,单从效果上面来说,目前的AT模型已经能够表现得很好了,然而AT的瓶颈就在于生成效率,如果能从解码效率方面进行改进AT肯定比NAT更好,但是要改进AT的解码效率,用串行的方式提升20倍的效率仍然是一个非原创 2022-07-03 19:10:28 · 317 阅读 · 0 评论 -
Lasertagger的理解及在标题生成任务中的python实践
Lasertagger出自论文Encode, Tag, Realize: High-Precision Text Editing,本文提供了一种简单的实现思路,并开源在https://github.com/hanggun/lasertagger-chinese 文章一共提出了2种模型结构,分别为LasertaggerARLasertagger_{AR}LasertaggerAR和LasertaggerFFLasertagger_{FF}LasertaggerFF,其主要区别点在于解码器的不同。...原创 2022-06-24 11:46:10 · 425 阅读 · 2 评论