深度胡说-CSDN博客

转载千万不要小看PCA，大神对PCA的理解

学习PCA的时候感觉这是个什么玩意，挺简单呀，为自己的无知感到羞愧。本片学习的不仅仅是PCA的深入理解，更是学习大神们思考问题的方式。作者：史博链接：https://www.zhihu.com/question/30094611/answer/275172932来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。千万不要小看PCA，很多人隐约知道求解最...

2019-08-14 14:43:30 2713

转载深度学习中的Normalization模型，batch nor、layer nor 、instance nor、group nor详解

转自知乎，原文：https://zhuanlan.zhihu.com/p/43200897。本文特点：1 详细讲解了Normalization的原理，统一了batch nor、layer nor 、instance nor、group nor的形式，讲解了他们共性和个性；2 提出了一种Normalization的作用机制。原文：Batch Normalization（简称BN）...

2019-07-25 17:52:14 1210

转载 (转载) 浅谈高斯过程回归

转载自：https://yq.aliyun.com/articles/661793网上讲高斯过程回归的文章很少，且往往从高斯过程讲起，我比较不以为然：高斯过程回归（GPR），终究是个离散的事情，用连续的高斯过程( GP) 来阐述，简直是杀鸡用牛刀。所以我们这次直接从离散的问题搞起，然后把高斯过程逆推出来。这篇博客有两个彩蛋，一个是揭示了高斯过程回归和Ridge回归的联系，另一个是介绍了...

2019-07-16 15:11:06 959

转载（转载）高斯过程的数学基础-高斯分布

转载自：https://blog.csdn.net/paulfeng20171114/article/details/80276061透彻理解高斯过程Gaussian Process (GP)一、整体说说为了理解高斯过程，我们就首先需要了解如下预备知识，即：高斯分布（函数）、随机过程、以及贝叶斯概率等。明白了这些预备知识之后才能顺利进入高斯过程，了解高斯过程本质及其高斯过程描述方法。人...

2019-07-16 14:59:57 2163

原创关于神经元结构的讨论-引言(一)

传统机器学习和深度学习的不同，相信大家都知道，深度学习无法解释这一痛点，限制了其在很多方面的应用。但是，现在出现了很多对深度学习的原理进行探索的文章。相对现在传统机器学习发展的阶段来说，现阶段的深度学习研究可能还处在婴幼儿时期，相信天才们会一步一步揭开深度学习的面纱。现在可以看到的探索有两方面，一种是对网路结构的[1]，一种是对神经元结构的[3 ,4 ]。下面结合nlp，主要介绍以下...

2019-06-16 17:32:49 404

原创语法特征？语义特征？......句子向量中的语言学特征讨论

本文主要是介绍一下WHAT YOU CAN CRAM INTO A SINGLE VECTOR: PROBING SENTENCE EMBEDDINGS FOR LINGUISTIC PROPERTIES【1】，不讨论具体的学习句子向量的模型，主要是想验证一下不同模型学习到的句子向量包含哪些语言学特征。通过人工设计了10个与语言学特征相关的分类任务，来验证句子向量是否包含某...

2019-06-09 18:27:41 2221

原创 bert原理及源码的一些讨论

目录1.模型原理2 单词级任务讨论参考文献：写在前面：学习了一段时间的nlp后，感觉中文资料大多还是翻译的英文，很多东西找不到更深入的资料。最近在研究超神的bert模型，主要找到的资料也就原始的paper和英文博客。在此想把我的学到的和一些思考写一写，方便大家一起探讨学习。做为学渣，介绍一下我学习算法的一般套路，分两步，第一步是跑通demo，理解算法的输入数据格式，输出...

2019-06-07 18:52:32 818

u012777932的博客