机器学习
bowen2006
这个作者很懒,什么都没留下…
展开
-
机器学习算法(五)逻辑回归实践续
结果来看,分别用了两种惩罚L1,L2,相差不大。模型总体的准确度为86%。多试试模型,看看效果。原创 2024-01-03 15:27:01 · 519 阅读 · 0 评论 -
机器学习算法(四)逻辑回归续
在机器学习中叫损失函数的,衡量的是模型预测错误的程度。因为我们用的是误差或者损失最小化,当然误差为0是最好。计算机就不找规律了,直接记住数据就好了。特别是样本较小时,当你用样本的数据来预测,准确率为100%,当用其它数据来预测,效果就非常差。这个式子是在L式上求平均值,也就平均预测概率达到最大之后取了一个负,导致J取最小值。前面的回归,能够找到一些规律,但是多次实验后发现,这些规律会出现一些。学过统计学的同学就想,要不先给参数一个分布。求解逻辑回归的方法有非常多,还有牛顿法。是位置参数, b是尺度参数。原创 2024-01-03 11:12:37 · 399 阅读 · 0 评论 -
机器学习算法(六)逻辑回归实践续
另一个是iris的案例。原创 2024-01-03 16:34:33 · 346 阅读 · 0 评论 -
机器学习算法(三)逻辑回归
逻辑回归(Logistic)与线性回归最大的不同在于因变量性质不同。线性回归因变量是连续的,而逻辑回归的因变量是二项分布。不过可以构造一个Sigmoid函数,用来计算二值的概率。相当于J函数的斜率。1、当J函数斜率在下降时,斜率为负值,那么。2、当J函数斜率在上升时,斜率为正值,那么。逻辑回归不能像线性回归直接用最小二乘法。这前面有一个负号,所以求J最小时的。这里概率函数说明预测准确时概率就最大。最终落在p1点,这一点是最低点。如图p3到p2再到p1。这里就要求当l最大时的。,使用梯度上升法求解。原创 2024-01-02 16:18:48 · 762 阅读 · 0 评论 -
机器学习算法(二)线性回归续
比如,一个企业做广告,有三个途径:一是电视、二是广播、三是报纸,哪个途径最好。如果广告费用总额是一个预算(固定的),那怎么投放广告才是最好的?数据在南加州大学网站上http://www-bcf.usc.edu/~gareth/ISL/Advertising.csv。构建训练集和测试集,分别保存在X_train、X_test和y_train、y_test中。再用(一)里面的回归计算。TV\Radio\Newspaper是在电视、广播、报纸上做广告的费用。在(一)里面,只是对一元回归简单初步了解。原创 2024-01-02 13:29:49 · 596 阅读 · 0 评论 -
机器学习算法(一)线性回归
记录自己学习机器学习算法过程。原创 2024-01-02 11:55:44 · 482 阅读 · 0 评论