张俊林的博客

从历史阅读未来

深度学习枕边书

                       /*本文可以随便转载,转载时请注明作者及文章出处*/                                              作者:新浪微博  张俊林       所谓“深度学习枕边书”,我的目的是希望能够找到初学者能够了解深度...

2018-08-25 15:50:12

阅读数 6126

评论数 0

放弃幻想,全面拥抱Transformer:自然语言处理三大特征抽取器(CNN/RNN/TF)比较

                                          author:张俊林                                   /*可以转载,转载请标明作者及知乎的出处*/ 如果看不清图片,请转到:放弃幻想,全面拥抱Transformer:自然语言...

2019-01-15 22:39:40

阅读数 4751

评论数 4

从Word Embedding到Bert模型—自然语言处理中的预训练技术发展史

                                              本文可以任意转载,转载时请标明作者和出处。                                                           张俊林 2018-11-11 (如果图片浏...

2018-11-11 20:24:32

阅读数 11166

评论数 9

深度学习中的Normalization模型

                        /*本文可以随便转载,转载时请注明作者及文章出处*/                                              作者:新浪微博  张俊林    Batch Normalization(简称BN)自从提出之后,因为...

2018-08-28 21:33:05

阅读数 3830

评论数 5

深度学习在CTR预估任务中的应用

/* 版权声明:可以任意转载,转载时请标明文章原始出处和作者信息 .*/                                                                                          张俊林                  ...

2018-05-11 22:57:08

阅读数 2457

评论数 1

2017年AI技术盘点:关键进展与趋势

/* 版权声明:可以任意转载,转载时请标明文章原始出处和作者信息 .*/                                                                                         张俊林                     ...

2018-02-04 18:01:15

阅读数 1373

评论数 0

通过不断重置学习率来逃离局部极值点

本文提出了一种利用不断调大学习率的方法试图跳出SGD优化过程中的局部极小值或者鞍点的方法,并提出了两种具体的方法:随机漫步起跳法和历史最优起跳法,实验证明相对常规优化方法有一定性能提升。

2017-12-10 22:46:56

阅读数 8803

评论数 2

深度学习中的注意力机制(2017版)

/* 版权声明:可以任意转载,转载时请标明文章原始出处和作者信息 .*/                                                                                          张俊林                  ...

2017-12-10 21:57:17

阅读数 26731

评论数 11

机器码农:深度学习自动编程

/* 版权声明:可以任意转载,转载时请标明文章原始出处和作者信息 .*/                                                                                          张俊林                  ...

2017-06-03 19:03:10

阅读数 48915

评论数 7

极深网络(ResNet/DenseNet): Skip Connection为何有效及其它

Residual Network通过引入Skip Connection到CNN网络结构中,使得网络深度达到了千层的规模,并且其对于CNN的性能有明显的提升,但是为何这个新结构会发生作用?这个问题其实是个挺重要的问题。本PPT归纳了极深网络相关的工作,包括ResNet为何有效以及目前的一些可能下的结...

2017-03-28 16:06:39

阅读数 25309

评论数 4

NeuralFinder:集成人工生命和遗传算法自动发现神经网络最优结构

如何让机器自动针对问题设计出好的神经网络结构?本文介绍了一种利用人工生命和遗传算法自动发现深度学习中神经网络最优结构的方法,实验结果表明,这种方法通过少量计算可以自动发现和人类手工设计出较好的神经网络结构相近性能的神经网络。

2017-03-18 10:04:01

阅读数 14291

评论数 9

AlphaGo:人工智能与深度学习

本文介绍了Alphago里使用到的关键技术,包括蒙特卡洛搜索树和深度学习算法。

2016-10-31 19:53:02

阅读数 5431

评论数 3

深度学习解决机器阅读理解任务的研究进展

本文是对深度学习在机器阅读理解领域最近进展的综述文章。

2016-10-16 19:05:36

阅读数 19686

评论数 8

机器阅读理解中文章和问题的深度学习表示方法

文本归纳了机器阅读理解任务中文章和问题的常见神经网络表示方法。

2016-09-21 18:38:22

阅读数 11188

评论数 2

序列标注问题中将分类标签引入RNN网络结构的尝试

本文讲了讲我们在解决序列标注问题中将分类标签引入RNN网络结构的一次不成功的尝试。

2016-09-06 19:32:29

阅读数 7673

评论数 2

我爱计算机:张俊林专访

一篇专访,谈谈关于人工智能的行业经验及一些看法。

2016-08-18 18:55:57

阅读数 7193

评论数 0

深度学习在搜索和推荐领域的应用

  /* 版权声明:可以任意转载,转载时请标明文章原始出处和作者信息 .*/                                                        author: 张俊林                             深度学习在搜索和推...

2016-07-27 20:02:02

阅读数 43219

评论数 2

使用深度学习打造智能聊天机器人

  /* 版权声明:可以任意转载,转载时请标明文章原始出处和作者信息 .*/                                                        author: 张俊林                                (想更系统地学...

2016-07-13 20:22:41

阅读数 39106

评论数 6

CNN和RNN中如何引入BatchNorm

在上一篇文章介绍了BatchNorm基本思路后,本文介绍CNN和RNN中如何引入BatchNorm及目前可以得出的一些研究结论。

2016-06-01 19:37:35

阅读数 31155

评论数 7

Batch Normalization导读

  /* 版权声明:可以任意转载,转载时请标明文章原始出处和作者信息 .*/                                                        author: 张俊林                                      ...

2016-05-24 19:08:07

阅读数 59044

评论数 31

提示
确定要删除当前文章?
取消 删除