深度学习
神奇男侠的退休生活
Observation. Try. Think.
展开
-
深度学习(ch4 Numerical Computation)
1. minimum,maximum, saddle pointminimum,maximum可以分为local和global的,分别为局部最小(大)值和全局最小(大)值不论是minimun,maximum,saddle point,他们的一阶导数都是0,这是他们的共性。鞍点Saddle point在与,他不是函数的极值,却也同样有0的梯度。这些一阶梯度都为0的点就叫做critica...原创 2019-04-05 10:51:32 · 268 阅读 · 0 评论 -
深度学习ch5 Machine Learning Basics
(文章都是不定时更新的,已发布的博客也会不定时编辑,如有错误,请各位指正:))1. No free Lunch Theorem考虑平均的所有数据生成的方法,所有的分类算法在未见过的数据上实际上都有相同的泛化误差(generalization error).No free lunch theorem表明的是,在我们设计分类器时,并不是在设计适合所有数据的分类器,实际上,分类器的设计应该...原创 2019-04-09 11:30:28 · 169 阅读 · 0 评论 -
深度学习(ch6 Deep Feedforward Network) 19/5/18更新
(文章不定期增加更新,算是阅读笔记类型)1. 观点:深度前向网络和神经科学还是有着非常大的不同,在当前的情况下,深度网络的principle,discipline主要来自于数学(mathematical)和工程(engineering),而不是在跟着生物神经科学在做。对于深度网络的观点,更适合的是将其作为一个万能的函数逼近器。2.线性模型的缺点:难以建模两个样本点之间的...原创 2019-04-23 10:05:36 · 539 阅读 · 1 评论