- 博客(6)
- 资源 (4)
- 收藏
- 关注
原创 李宏毅机器学习笔记:CNN 卷积神经网络
源视频链接:https://www.bilibili.com/video/BV1Ht411g7Ef?p=21 参考博客链接:https://datawhalechina.github.io/leeml-notes/#/chapter21/chapter21 额外再推荐两个视频链接 辅助理解CNN 李宏毅2021春机器学习课程: https://www.bilibili.com/video/BV1Wv411h7kN?p=22 从图像识别走进卷积神经网络——全网最通俗易懂的深度学习课程https://www.b
2021-08-25 18:20:47
207
原创 李宏毅机器学习笔记:深度学习网络设计技巧
源视频链接:https://www.bilibili.com/video/BV11K4y1S7AD?p=5 学习笔记总结 1 当损失函数随着参数更新而没有下降或者误差仍然很大,如下图,一般表示一阶偏微分梯度向量等于0,此时可通过二阶偏微分矩阵H来判断此时是否处于saddle pint; 随后可采取一个不常用的方法(因计算量大而不常用) ,在原有参数上加上对应的H矩阵负特征值对应的特征向量,从而逃离saddle point 继续降低损失函数值。低维下找不到路径优化的损失函数放到高维空间也许很容易找到下降.
2021-08-24 17:02:23
175
原创 李宏毅机器学习笔记:深度学习入门简介 反向传播
源视频链接:https://www.bilibili.com/video/BV1Ht411g7Ef?p=13 学习笔记总结 深度学习和传统机器学习 处理特征的差异;做传统机器学习必须要做特征工程来选择合适的输入特征,但深度学习是可以不用事先做特征工程,而是在隐藏层中完成特征选择抽取 深度学习本质就是神经网络的进一步延伸,每一层神经元运算都是矩阵运算 神经网络架构非常重要,决定了潜在可能的函数集合,越复杂的架构越有可能包含正确的函数模型,其次通过梯度下降法 来更新网络参数 relu sigmod tanlu
2021-08-21 23:19:38
194
1
转载 李宏毅机器学习笔记:无偏性/有效性平衡 梯度下降法学习率技巧
源视频链接:https://www.bilibili.com/video/BV1Ht411g7Ef?p=5 学习笔记总结 一、误差从哪里来? 1 欠拟合 /过拟合 将图中的误差拆分为偏差和方差。简单模型(左边)是偏差比较大造成的误差,这种情况叫做欠拟合,而复杂模型(右边)是方差过大造成的误差,这种情况叫做过拟合。2 解决欠拟合的方法 : 数据集输入中添加更多的特征变量 重新设计采用其他模型 3 解决过拟合方法 增加训练集数据量 加入正则化限制过拟合,减少方差过程也会增加偏差 4 通过交叉验证 K折交叉验证
2021-08-20 23:34:58
355
原创 李宏毅机器学习笔记:回归 ——梯度下降法 过拟合 正则化
李宏毅机器学习笔记:回归 ——梯度下降法 过拟合 正则化 学习笔记总结: 源学习笔记链接: https://datawhalechina.github.io/leeml-notes/#/chapter3/chapter3. 学习笔记总结: 李宏毅机器学习课程第3节 回归 以回归为脉络引出重要的梯度下降法 随机选择一个参数起始点,在损失函数 模型参数中去寻找模型的最优化参数,根据起始点的偏微分值从而决定下一个参数设置值,学习率的大小决定了寻找最优化参数的速度 梯度下降法应用广泛,但受限于初始点的设置会有不
2021-08-18 22:47:44
262
转载 李宏毅机器学习笔记:什么是机器学习
李宏毅机器学习:什么是机器学习?学习笔记总结如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能,丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 学习笔记总结 源学习笔记链接: link. 图片: 带尺寸的图片: 居中的图片: 居中并且带尺寸的图片: 外链图片转存失败,源站可能有防盗链机制,建议将图片Alt(https://datawhalechin
2021-08-16 10:45:31
104
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人