此文章要讲的是如何判断模型是否过拟合,如何修正它,以及修正好的模型,如何保存,以便留到下次使用。
首先要先搞清楚一个概念,什么是过拟合?
1,过拟合,欠拟合概念
过拟合,按照我自己的理解就是,学习得太猛了,太细枝末节了,导致自己不会举一反三,平时做题做的都是一类,练习的时候都是满分,等到考试的时候题目条件稍微一变化,就不会做了。
欠拟合,就是学的太水了,平时练习题都没最好,考试当然死得惨。
所以可以把过拟合当成书呆子学书,欠拟合就是学渣学书,都考不好。
如何解决模型的这个问题呢?那就要先看看下面一节中的例子。
2,如何判断模型拟合情况
首先我们先看一个例子。这个例子是引用自带的数字数据计算出,利用SVC来对数据进行拟合,画出测试集与训练集的mse(最小均方误差)曲线,拟合程度就是要看随着datasizes的加大,训练集和测试集的mse应该要趋于一致,并且都比较小。否则就是欠拟合或者过拟合。过拟合时训练集的mse效果非常好,测试集的就不行了。
import numpy as np
from sklearn import datasets
from sklearn.model_selection import learning_curve
from sklearn.svm