ML
Einsam0
这个作者很懒,什么都没留下…
展开
-
BILIBII看机器学习心得(18.3.20)
1,梯度下降主要在于两个求导2,如果用梯度下降法求最大最小值,这时候特征就应该归一化这种,也可以不归一化,就是讲所有特征都是同样的scale,这样才会有最短的路径下降到最小值,否则路线会扭曲,也就是收敛得更快所以会用到归一化(mean normalization),看了下公式,也就是标准话,使梯度下降法更快,然后收敛所需要的循环更少3,学习率的设置4,梯度下降法与标准方程法的区别5,...原创 2018-03-20 22:52:16 · 415 阅读 · 0 评论 -
交叉验证
交叉验证是一种评估的方法,也就是说我们根据已有数据得到一个方法,但这个方法拿到实际中好不好用,就是我们要来评估的。这种性质就是模型的泛化能力。交叉验证的目的就是评估这个性质。交叉验证的实践方法是讲整个数据集分成k个大小相似子集,尽量保证子集数据分布的一致性,每次用k-1个子集作为训练集,剩下的1个作为测试集,这样一共有k组这种训练集和对应的测试集,也就是做了k次训练和测试,最后计算的是这k次结...原创 2018-08-06 09:58:46 · 718 阅读 · 0 评论 -
最大相关最小冗余
数据一般的形式是有维度的,每一个维度就是数据的特征变量,很多特征变量之间有相似的,也有不相似的,如果一个特征很多的数据,比如10000个,建模的时候所有的数据都利用起来,会很慢,而且模型会很复杂,会造成浪费和不实用。大相关最小冗余就是一种选特征的思想,最大相关是希望模型和选取的特征变量之间是最大相关的,有些数据的特征对于我们要解决的问题是没有关系的,所以在利用数据的时候要将相关性最大的特征挑选出来...原创 2018-08-06 09:58:25 · 3673 阅读 · 0 评论 -
RBF神经网络笔记
原创 2019-01-23 09:38:13 · 356 阅读 · 0 评论