机器学习思想

机器学习是一个模型,一个损失函数,一个优化算法。

线性回归中,前提假设是y服从正态分布,损失函数是最小二乘法,而在逻辑回归中,y服从二项分布,损失函数是log对数损失函数。

损失函数:

衡量模型的预测值和真实值之间不一致程度;

平方损失-最小二乘法-线性回归:OLS将问题转化为凸优化问题,假设样本和噪声都服从高斯分布,中心极限定理,极大似然估计,最优拟合直线应该是各点到回归直线的距离之和最小的直线,即平方和最小。

log对数损失函数-逻辑回归:伯努利实验,二项分布,似然函数,取对数求极值。单调递增。

指数损失函数-Adaboost,前向分步加法算法

Hinge损失函数-SVM



  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值