scikit-learn机器学习——第六章复习题

最新推荐文章于 2023-12-27 15:44:29 发布

0点51胜

最新推荐文章于 2023-12-27 15:44:29 发布

阅读量328

点赞数

分类专栏：机器学习文章标签： scikit

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.csdn.net/dss875914213/article/details/88855298

版权

机器学习专栏收录该内容

45 篇文章 2 订阅

订阅专栏

1.逻辑回归模型是解决什么问题的模型？

分类问题

2.逻辑回归模型的预测函数是什么？

$h_{\Theta }(x)=g(z)=g(\Theta ^{T}x)=\frac{1}{1+e^{-\Theta ^{T}x}}$

3.逻辑回归模型的成本函数是什么？

$J(\Theta )=-\frac{1}{m}\left [ \sum_{i=1}^{m} y^{(i)}log(h_{\Theta }(x^{(i)}))+(1-y^{(i)})log(1-h_{\Theta }(x^{(i)}))\right ]$

4.逻辑回归模型的梯度下降算法中，其参数迭代公式是什么？

$\Theta _{j}=\Theta _{j}-\alpha \frac{1}{m}\sum_{i=1}^{m}(h_{\Theta }(x^{(i)})-y^{(i)})x_{j}^{(i)}$

5.正则化有什么作用？

防止过拟合

6.L1范式正则化和L2范式正则化有什么区别？

L1范式 $\sum_{j=1}^{n}\left | \Theta _{j}\right |$

L2范式 $\sum_{j=1}^{n} \Theta _{j}^{2}$

7.运行ch06.02.ipynb实例，修改代码，在不引入多项式特征的情况下，观察使用L1和L2范式作为正则项，其训练出来的模型参数有什么区别？

L1范式

加了多项式

没加多项式

L2

加了多项式

没加多项式

没有惩罚系数情况

7.运行ch06.02.ipynb实例，试试用三阶多项式拟合模型有什么效果？引入三阶多项式后会有多少个特征？使用L1范式作为正则项，有多少项非零参数？

logistic_regression=model.named_steps['logistic_regression']

logistic_regression.coef_.shape,

np.count_nonzero(logistic_regression.coef_)

$C_{30}^{1}+C_{30}^{2}+C_{30}^{3}+2*C_{30}^{2}+C_{30}^{1}+C_{30}^{1}=5455$ 个特征

30个里面选一个，为1次项， $C_{30}^{1}$

30个里面选两个，每一个为1次项， $C_{30}^{2}$

30个里面选三个，每一个为1次项， $C_{30}^{3}$

30个里面选两个，两个里面一个为1次项一个为2次项， $2*C_{30}^{2}$

30个里面选一个，为2次项， $C_{30}^{1}$

30个里面选一个，为3次项， $C_{30}^{1}$

所有都为0,1(最后这项scikit好像舍弃了）

1236非0

关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
复制链接

分享到 QQ

分享到新浪微博

扫一扫

专栏目录

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。