- 博客(6)
- 收藏
- 关注
RSS订阅原创 Task1：李宏毅深度学习P1-P2
这次借在Datawhale组队学习的机会补全一下机器学习上一些知识的漏洞，主要是标注一下自己需要注意的地方在这与大家分享，今日分享的是李宏毅深度学习Part1中自己之前不太重视的地方： 1.在对机器学习的各类概念介绍时，还是能看出与国内授课风格的不同，尤其是对一些概念的描述，主要着重于感受而不是精确的定义描述（不是说精确的描述不好，感觉有一定相关基础看到很准确的描述也是精神的峰值体验）。这当中对机器学习认识的一类常见误区做了说明，即我们希望达到机器学习的目的是一通百通而不是举一反一，即获得的是functi
2021-08-17 12:43:18
109
原创 task5：西瓜书第六章（1）
本次是阅读西瓜书第六章，以下为笔者是在阅读第六章支持向量机时一些之前不曾关注地方的补充。 1.从三要素看待支持向量机： ①模型：支持向量机（SVM）本质上是基于距离的划分方法，对样本进行分类。 ②策略：寻找合适的超平面以最近支持向量的最大距离作为目标进行求解。（约束条件为所有其他样本点均小于寻找到的支持向量带来的最小距离） ③算法：通过拉格朗日乘子法将其转化为对偶问题，而后发现其对偶问题恰好为二次规划问题，采用二次规划问题的手段进行求解。（如SMO） 2.解决支持向量机问题转化为求其对偶问题的
2021-07-29 20:03:35
136
原创 task4：西瓜书第五章（1）
本次是阅读西瓜书第五章，以下为笔者是在阅读第五章神经网络时一些之前不曾关注地方的补充。 1.误差逆传播算法主要目的是用于求链接系数与阈值，求解的思想是基于梯度下降的方法，负梯度方向对以上参数进行调整。需要注意的是在误差逆传播算法中同样需要关注梯度下降过程中学习率的问题。（学习率若太大则容易振动，太小则收敛速度又会太慢，需要合适地控制算法每一轮迭代中的更新步长。关于学习率个人认为吴恩达的课程中有很清晰的介绍：https://www.bilibili.com/video/BV164411b7dx?p=21）
2021-07-26 00:31:37
311
原创 task3：西瓜书第四章（1）
本次是阅读西瓜书第四章，以下为笔者是在阅读第四章决策树时一些之前不曾关注地方的补充。 1.实际决策树学习算法是基于启发式算法，如贪婪算法，寻求在每个节点上的局部最优决策。这样的算法思想决定了在执行过程中不能保证返回全局最优决策树。例如ID3算法实际是基于信息论中信息熵的概念，追求最大信息熵的过程。因此在判断决策树算法的好坏时，不同的决策树只是改变了决策指标的衡量标准，与其说ID3决策树的缺点不如说是考虑贪婪算法会带来的缺点。 2.信息增益反映的给定一个条件以后不确定...
2021-07-21 23:37:02
120
1
原创 task2：西瓜书第三章（1）
本次是阅读西瓜书第三章，以下为笔者是在阅读第三章线性回归时一些之前不曾关注地方的补充。 1.之前在看吴恩达的《机器学习》时，学习线性回归时提到的两个思路是梯度下降法与正规方程法（即最小二乘法或者采用极大似然估计最终得到的公式进行计算），而且更加偏重与梯度下降法主要原因在于应用范围更广，主要是考虑到所给出的条件可能存在所获得的矩阵不为满秩矩阵或者正定矩阵的情况（在实际运用中可能表现为变量过多而数据量较小）。但同时通过采用正规方程的手段，在变量不多时，运算量上会小很多。 同时最小...
2021-07-20 01:15:02
203
原创 task1：西瓜书第一、二章（1）
之前对机器学习有所了解，但一直没有进行系统的学习，这次借吃瓜机会补全一下机器学习上一些知识的漏洞，主要是标注一下自己需要注意的地方在这与大家分享，今日分享的是西瓜书一、二章中自己之前不太重视的地方： 1.在获得样本时，通常假设为每个样本都是独立的从某一分布上采样获得的，即“独立同分布”（independent and identically，简称i,i,d），比如做分类算法时，检验样本的时候除去常规的空缺值、奇异值检查外，其实第一步应该考虑是否满足i,i,d。 ...
2021-07-12 22:14:33
118
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人