轻松入门自然语言处理系列 04 模型的泛化

最新推荐文章于 2024-07-04 08:37:48 发布

东哥说AI

最新推荐文章于 2024-07-04 08:37:48 发布

阅读量418

点赞数 2

分类专栏：轻松入门自然语言处理系列文章标签：自然语言处理入门 NLP 模型的泛化

本文链接：https://blog.csdn.net/CUFEECR/article/details/123701616

版权

轻松入门自然语言处理系列专栏收录该内容

26 篇文章 3 订阅 ¥49.90 ¥99.00

订阅专栏

超级会员免费看

本文探讨了模型的泛化能力，特别是过拟合的概念及其防止方法，如L1和L2正则化。通过分析逻辑回归模型，解释了正则化如何限制参数大小，以及L1正则导致参数稀疏化的特性。此外，还介绍了交叉验证在调参中的重要性，以及正则与先验概率的关系。

摘要由CSDN通过智能技术生成

文章目录

前言
一、什么是过拟合
二、如何防止过拟合
三、L1与L2正则
四、正则与先验的关系
五、案例：LR中的调参
总结

前言

本文主要介绍了模型的泛化，包括过拟合的概念、防止过拟合的措施、L1和L2正则、正则和先验的关系、LR调参案例。

一、什么是过拟合

1.逻辑回归的参数

前面已经用到过了scikit-learn库的逻辑回归模型LogisticRegression，在初始化LogisticRegression类时用到了max_iter参数，还有其他一些参数，这些参数都是超参数。去调用模型时可以选择性地设置一些参数，这些参数的设定对模型训练后的结果一般会产生关键的作用。常见参数如下：

参数	说明
penalty	{ ‘L1’, ‘L2’, ‘elasticnet’, ‘none’}, default=‘L2’，用于指定处罚中使用的正则项
dual	bo