weixin_43475854的博客

transformerGoogle 在 2017 年提出了基于注意力机制的网络结构 Transformer，进一步在机器翻译效果上取得显著提升。Transformer 结构的核心创新点在于提出了多头自注意力机制（multi-head self-attention），一方面通过自注意力将句中相隔任意长度的词距离缩减为常量，另一方面通过多头结构捕捉到不同子空间的语义信息，因此可以更好地完成对长难句的编码和解码。由于 Transformer 完全基于前馈神经网络，缺少了像卷积神经网络和循...

[转]NLP关键词提取方法总结及实现公众号 ChallengeHub最近在研究关键词的提取算法，看到一篇关于关键词提取算法的总结，比较全面了，在这里分享给大家，希望能够帮助同学们~原文链接：https://blog.nowcoder.net/n/ac016f8256f54c4b8c8784e99bccf28a（ps：作者同意转发，如果想了解更多，请阅读全文）目录关键词提取概述TF-IDF关键词提取算法及实现TextRank关键词提取算法实现LDA主题模型关键词提取算法及实现

浅谈Entity Embedding原创 致Great ，公众号：ChallengeHub“万物皆可Embedding”现实生活或者比赛中，我们会经常见到表格数据，其中包含了各种类别特征。本文将简单介绍利用神经网络来表示类别特征的方法-Entity Embedding，这个方法首先出现在kaggle上的《Rossmann Store Sales》中的rank 3的解决方案，作者在比赛完后为此方法整理一篇论文放在了arXiv，文章名：《Entity Embeddings of Categorical

Keras-TextClassification 文本分类工具包致Great ，公众号：ChallengeHubInstall(安装)pip install Keras-TextClassificationstep2: download and unzip the dir of 'data.rar', 地址: https://pan.baidu.com/s/1I3vydhmFEQ9nuPG2fDou8Q 提取码: rket cover the dir of data to anac