- 博客(4)
- 资源 (2)
- 收藏
- 关注
转载 Linux性能优化
随着应用负载的增加,系统资源的使用也会升高,甚至达到极限。而性能问题的本质,就是系统资源已经达到瓶颈,但请求的处理却还不够快,无法支撑更多的请求。 性能分析,其实就是找出应用或系统的瓶颈,并设法去避免或者缓解它们,从而更高效地利用系统资源处理更多的请求。这包含了一系列的步骤,比如下面这六个步骤。 • 选择指标评估应用程序和系统的性能; • 为应用程序和系统设置性能目标; • 进行性能基准测试;...
2018-11-30 17:10:57 350
转载 “变形金刚”为何强大:从模型到代码全面解析Google Tensor2Tensor系统
张金超_WXG_PRC 在这篇文章中: 第一章:概述 第二章:序列到序列任务与Transformer模型 2.1 序列到序列任务与Encoder-Decoder框架 2.2 神经网络模型与语言距离依赖现象 2.3 self-attention机制的形式化表达 2.4 “Attention is All You Need” 第三章:Tensor2Tensor系统...
2018-11-28 15:00:08 683
转载 从Word Embedding到Bert模型—自然语言处理中的预训练技术发展史
目录 图像领域的预训练 Word Embedding考古史 从Word Embedding到ELMO 从Word Embedding到GPT Bert的诞生 Bert最近很火,应该是最近最火爆的AI进展,网上的评价很高,那么Bert值得这么高的评价吗?我个人判断是值得。那为什么会有这么高的评价呢?是因为它有重大的理论或者模型创新吗?其实并没有,从模型创新角...
2018-11-27 19:50:40 287
转载 深度学习中注意力机制
Attention机制的本质思想 如果把Attention机制从上文讲述例子中的Encoder-Decoder框架中剥离,并进一步做抽象,可以更容易看懂Attention机制的本质思想。 图9 Attention机制的本质...
2018-11-27 19:26:51 671
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人