机器学习
纸弋
这个作者很懒,什么都没留下…
展开
-
最小二乘法
最小二乘法的形式:目标函数=∑(观测值−理论值)^2观测值就是我们的多组样本,理论值就是我们的假设拟合函数。目标函数也就是在机器学习中常说的损失函数,我们的目标是得到使目标函数最小化时候的拟合函数的模型。举一个最简单的线性回归的简单例子,比如我们有m个只有一个特征的样本: 样本采用下面的拟合函数:对应的拟合函数有两个参数需要求出目标函数:求解使目标函数最小时的参数值...转载 2019-08-31 10:11:49 · 1022 阅读 · 0 评论 -
机器学习中的一些常用指标
过拟合:为了得到一致假设而使假设变得过度复杂称为过拟合。过拟合表现在训练好的模型在训练集上效果很好,但是在测试集上效果差。也就是说模型的泛化能力弱。出现过拟合的原因:1. 训练集的数量级和模型的复杂度不匹配。训练集的数量级要小于模型的复杂度;2. 训练集和测试集特征分布不一致;3. 样本里的噪音数据干扰过大,大到模型过分记住了噪音特征,反而忽略了真实的输入输出间的关系;4. 权...原创 2019-09-01 22:32:45 · 291 阅读 · 0 评论 -
因子分析
https://www.jianshu.com/p/bd6a6ed29f9f系统聚类分析可以对变量进行分类,但是难以判断变量分类结果的合理性。另外,如果要衡量每个变量对类别的贡献,也难以通过聚类分析来实现。这个时候就要采用因子分析来实现了。因子分析就是找出隐藏在变量背后具有共性的因子。因子分析是通过研究变量间的相关系数矩阵,把这些变量间错综复杂的关系归结成少数几个综合因子,并据此对变量进行...转载 2019-09-02 17:00:18 · 4563 阅读 · 0 评论