轻松入门自然语言处理系列 04 模型的泛化

前言

本文主要介绍了模型的泛化，包括过拟合的概念、防止过拟合的措施、L1和L2正则、正则和先验的关系、LR调参案例。

一、什么是过拟合

1.逻辑回归的参数

前面已经用到过了scikit-learn库的逻辑回归模型LogisticRegression，在初始化LogisticRegression类时用到了max_iter参数，还有其他一些参数，这些参数都是超参数。去调用模型时可以选择性地设置一些参数，这些参数的设定对模型训练后的结果一般会产生关键的作用。常见参数如下：

参数	说明
penalty	{ ‘L1’, ‘L2’, ‘elasticnet’, ‘none’}, default=‘L2’，用于指定处罚中使用的正则项
dual	bool, default=False，是否对偶化
C	float, default=1.0，正则强度的倒数，必须为正浮点数，较小的值指定更强的正则化