还记得BERT的轰动么,它可是横扫NLP领域,现在CMU的XLNet可是 在20项的NLP任务中碾压BERT,
具体论文还没有细看,大家也可以先看一下:
论文: https://arxiv.org/pdf/1906.08237.pdf
XlNet源码: https://github.com/zihangdai/xlnet
由于XLNet是借助transformer-XL,故而XL的源码大家也可以看一下: https://github.com/kimiyoung/transformer-xl
下面 是 苹果AI负责人 的twitter消息:
先看一下 实验结果:
是不是很震撼,有没有惊讶,太牛了。
先预览一下 论文中的图解吧:
后续有什么心得体验,我也会及时发出去的
知乎:https://zhuanlan.zhihu.com/albertwang
微信公众号:AI-Research-Studio
下面是赞赏码