![](https://img-blog.csdnimg.cn/20201014180756757.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
文章平均质量分 58
不会写代码的牛马
这个作者很懒,什么都没留下…
展开
-
周志华《机器学习》笔记(五)——第5章 神经网络
第5章 神经网络1、正向传播(预测)2、反向传播(训练)3、问题与技巧以标准BP算法为例,对神经网络的正向传播、反向传播过程进行推导,同时提出使用神经网络算法时需要考虑的问题和一些技巧。1、正向传播(预测)2、反向传播(训练)3、问题与技巧(1)局部最优问题:训练多个神经网络,取最优;模拟退火;随机梯度下降;遗传算法(2)过拟合问题:早停、正则化(3)优化器:各种主流凸优化方法的归纳与总结。https://blog.csdn.net/google19890102/article/de原创 2021-07-22 19:51:59 · 436 阅读 · 0 评论 -
周志华《机器学习》笔记(四)——第4章 决策树
第4章 决策树1、基本概念2、算法流程(融合各种技巧)1、基本概念树:除了根结点,任何结点都有且仅有一个前驱的数据结构。(具有递归和分层的特性)逻辑结构:“一对多”的树形结构。存储结构:双亲表示法、孩子表示法、孩子兄弟表示法。决策树:基于树结构进行决策的机器学习算法。叶结点:决策结果,即最终分类结果,好瓜坏瓜。非终端节点:属性测试,即决策的中间过程,将得到决策结果 或 导出进一步细分的决策问题。2、算法流程(融合各种技巧)...原创 2021-07-22 19:39:05 · 485 阅读 · 1 评论 -
周志华《机器学习》笔记(三)——第3章 线性模型
第3章 线性模型1、线性回归2、逻辑回归(对数几率回归)3、线性判别分析(LDA)4、多分类学习5、类别不平衡线性模型是神经网络和深度学习的基础,原理比较简单,主要看书就行,重点是线性回归和对数几率回归这两节。1、线性回归求解方法:用最小二乘法使均方误差最小化,可以求出最优解。2、逻辑回归(对数几率回归)线性模型外面套上一层Sigmoid函数,就可以解决二分类问题。求解方法与线性回归一样,用最小二乘法最小化均方误差。3、线性判别分析(LDA)将数据的特征点(坐标)投影到一条直线上,使同类样原创 2021-07-15 19:07:29 · 227 阅读 · 0 评论 -
周志华《机器学习》笔记(二)——第2章 模型评估与选择
第2章 模型选择与评估 1、如何理解模型评估和模型选择?2、用测试误差评估泛化误差(常用于定量评估)3、用偏差和方差评估泛化误差(常用于定性评估)4、模型选择5、从机器学习算法设计的角度理解看西瓜书第2章的时候感觉有些不条理,遂按照自己的思路梳理了一遍。1、如何理解模型评估和模型选择?模型评估:评估模型的泛化误差——用测试误差评估、用偏差与方差评估;模型选择:本质上是算法调整,选用使模型的泛化误差更小的新算法 或 算法的超参数配置。2、用测试误差评估泛化误差(常用于定量评估)(1)泛化误差 ≠原创 2021-07-15 18:03:48 · 196 阅读 · 0 评论 -
周志华《机器学习》笔记(一)——对机器学习的初步认识
机器学习笔记(一)——对机器学习的认识欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题,有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能,丰富你的文章UML 图表FLowchart流程图导出与导入导出导入欢迎使用Markdown编辑器你好! 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想原创 2021-07-15 16:58:38 · 746 阅读 · 0 评论