CALT2019-CSDN博客

原创吃瓜挑战-Task5

本次学习西瓜书第六章-支持向量机。支持向量机作为一种经典的机器学习算法，相比于多层神经网络算法具有可解释性，一般采用凸函数优化方法求解。本章节首先介绍了支持向量机的原理，即寻找合适的超平面间隔去区分样本，并使得该超平面最优，给出了支持向量机的优化方程。接着，为了解决这个优化方程，引出了对偶问题，即通过求原优化问题的对偶问题，进而更加方便的求解原问题。最后，又引出了核函数，将线性可分问题转化为非线性可分问题，拓展了支持向量机的应用范围，使得能够解决更加实际的问题。

2023-03-01 21:01:37 34

原创吃瓜挑战-Task4

本次学习第五章-神经网络。本章从最简单的感知机开始，介绍了神经网络中最基础的M-P神经元模型。由于感知机的隐含层的层数限制，因此只能解决线性可分问题，无法解决其他非线性可分问题，因此需要对其进行改进，即引出了基于误差反向传播算法的BP神经网络，该算法在多层前馈神经网络的基础上，增加了基于随机梯度下降法的误差反向传播，使得经过不断迭代，最终使得网络的均方误差收敛到可接收的范围。另外，由于标准的BP神经网络存在计算量大、对样本变化敏感等问题，又引出了一些改进方法和其他常用的神经网络。

2023-02-24 22:40:30 34

原创吃瓜挑战-Task3

本次学习第四章-决策树，该章节首先基于决策树的基本流程，从对离散型样本和连续型样本的分类问题展开讨论，引出了信息熵、信息增益及增益率等概念，以及基于这些概念提出的ID3决策树学习算法、C4.5决策树算法、CART决策树算法。为了解决算法的过拟合问题，又在决策树算法的基础上引出了“剪枝处理”方法，包括“预剪枝”和“后剪枝”。最后，讨论了样本连续和离散的问题，和多变量决策树问题。这一章节的内容，层层递进，不断提出问题，又不断给出改进方法，使得决策树具有了实用性。

2023-02-22 21:37:10 34

原创吃瓜挑战-Task2

开始学习《机器学习》中的第三章-线性模型啦，考虑到这本“西瓜书”中存在一些公式的简化推导，不利于理解和学习，因此需要配合“南瓜书”一起看，可以提高学习效率，继续分享一下学习笔记吧！本次的笔记主要包含了第三章线性模型的前两个章节，即一元线性回归和多元线性回归问题，给出了基于最小二乘法和最大似然估计法的函数参数最优估算，也引出了实际系统中无法得到最优解的闭式解的问题，为之后章节的展开进行了铺垫。

2023-02-15 22:30:21 42