机器学习
dataastron
工程师
展开
-
机器学习 缺失值处理
总结了三种方法:(1)直接删除法,会舍弃数据中的一些重要信息;减少了样本量(2)基于统计学的填充方法,总结下主要有如均值填充,中值填充,常用值填充,众数填充(3)机器学习的填充方法,通过算法预测缺失值。...原创 2020-08-10 14:53:37 · 432 阅读 · 0 评论 -
统计机器学习-优化算法-梯度下降法和牛顿法
梯度下降法和牛顿法的区别与对比李航小蓝书附录1和2介绍了梯度下降法和牛顿法(包括拟牛顿法)(1)从阶数来看。梯度下降法是一阶优化算法,牛顿法是二阶优化算法(2)从收敛速度来看。牛顿法的收敛速度相比梯度下降法常常较快(3)从计算速度来看。从牛顿法每次需要更新一个二维矩阵,计算代价很大,实际使用中常使用拟牛顿法(4)对于神经网络的训练选择。牛顿法对初始值有一定要求,在非凸优化问题中(如神经网络训练),牛顿法很容易陷入鞍点(牛顿法步长会越来越小),而梯度下降法则很容易逃离鞍点(因此在神经网络训练中一般原创 2020-08-07 09:51:50 · 276 阅读 · 0 评论 -
机器学习_SVM学习要点记录
对于任意支撑向量核函数高斯核函数rbf原创 2020-07-25 15:37:24 · 121 阅读 · 0 评论 -
弱监督学习的三种形式总结
不完全监督:只有一部分训练数据具备标签;不确切监督:训练数据只具备粗粒度标签;不准确监督:给出的标签并不总是真值参考论文整理。原创 2020-06-22 01:27:58 · 1391 阅读 · 0 评论