- 博客(4)
- 资源 (12)
- 收藏
- 关注
原创 从Word Embedding到Bert模型——自然语言处理预训练技术发展史
转自:https://www.jiqizhixin.com/articles/2018-12-10-8Bert 最近很火,应该是最近最火爆的 AI 进展,网上的评价很高,那么 Bert 值得这么高的评价吗?我个人判断是值得。那为什么会有这么高的评价呢?是因为它有重大的理论或者模型创新吗?其实并没有,从模型创新角度看一般,创新不算大。但是架不住效果太好了,基本刷新了很多 NLP 的任务的最好性能...
2019-02-26 16:54:47 926
原创 BERT的通俗理解
1、预训练模型 BERT是一个预训练的模型,那么什么是预训练呢?举例子进行简单的介绍 假设已有A训练集,先用A对网络进行预训练,在A任务上学会网络参数,然后保存以备后用,当来一个新的任务B,采取相同的网络结构,网络参数初始化的时候可以加载A学习好的参数,其他的高层参数随机初始化,之后用B任务的训练数据来训练网络,当加载的参数保持不变时,称为"frozen",当加载的参数随...
2019-02-26 16:27:45 34590 8
原创 基于Word2Vec的文本关键词抽取方法
大多数人都是将Word2Vec作为词向量的等价名词,也就是说,纯粹作为一个用来获取词向量的工具,关心模型本身的读者并不多。 可能是因为模型过于简化了,所以大家觉得这样简化的模型肯定很不准确,所以没法用,但它的副产品词向量的质量反而还不错。 没错,如果是作为语言模型来说,Word2Vec实在是太粗糙了。 但是,为什么要将它作为语言模型来看呢? 抛开语言模型的思维约束...
2019-02-21 19:59:49 12243 16
原创 为CSDN博客添加打赏功能
在博客栏目中添加打赏功能第一步,准备好微信支付和支付的收款二维码,如下所示:图1、微信支付第二步,管理博客,为博客增加打赏功能1、点击 【管理博客】 2、选择 【栏目管理】 3、点击【添加自定义栏目】 点击后效果如下图所示: 如上图所示,该自定义栏目支持html,因此我们可以自由发挥。这里我将标题写作 博客打赏 内容如下代码所示:&l...
2019-02-13 18:53:40 3725 3
Graphviz.zip
2019-08-08
A Non-Local Cost Aggregation Method for Stereo Matching 核心算法PPT讲解
2016-10-19
A Non-Local Cost Aggregation Method for Stereo Matching code
2016-10-19
SGM C++代码 VS2013
2016-10-19
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人