- 博客(4)
- 收藏
- 关注
RSS订阅原创 2021-06-20
@[TOC]类神经网络训练不出来怎么办？ 1. 局部最小值与鞍点 为什么optimization会失败？ 过去常见的一个猜想是，更新到了参数对Loss的微分为0的地方，gradient descent就没办法在update参数了，training就停止了。参数对Loss的微分为0的地方，最先想到的就是local minima。但不是只有local minima的gradient为0，也有其他地方会让gradient为0，比如鞍点saddle point。gradient为0的点统称为critical poi
2021-06-20 21:44:34
111
原创 机器学习网站保存
链接存储 1.3Blue1Brown 3Blue1Brown 哔哩哔哩关于神经网络部分视频： 视频1 视频2 视频3 2.李宏毅深度学习 哔哩哔哩视频 GitHub李宏毅2021春季机器学习课程课件及作业
2021-06-15 19:37:12
253
2
原创 2021-06-14
李宏毅深度学习线性模型限制及改进分段线性曲线表达 视频:深度学习基本概念简介 线性模型限制及改进 线性模型（Linear Model）很多情况下具有局限性,这种Model的限制称为Model Bias。 因此需要更复杂的，更有弹性的Model。 红色的曲线可以看作是一个常数加上一组蓝色函数。 所有分段线性曲线都可以类似表示出来。 分段线性曲线表达 分段曲线可以用sigmoid曲线进行逼近 ...
2021-06-14 16:40:13
79
原创 2021-06-14
3B1B深度学习系列视频学习笔记Part1 深度学习之神经网络的结构 Part1 深度学习之神经网络的结构 视频1：深度学习之神经网络的结构 神经网络种类很多，重点介绍多层感知器(MLP）
2021-06-14 11:42:55
63
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人