数据分析的一般过程:
- 数据的获取
- 数据预处理(标准化或归一化)
- 模型的训练(训练集、测试集)
- 模型的评估(交叉验证)
- 模型的优化
交叉验证
交叉验证目的:测试某个算法在一个数据集上的应用的好坏,帮助我们进行超参数的调优和模型选择
交叉验证方法:
K倍交叉验证(K>=2)。将样本数据集随机划分为K个子集(一般是均分),将一个子集数据作为测试集,其余的K-1组子集作为训练集;将K个子集轮流作为测试集,重复上述过程,这样得到了K个分类器或模型,并利用测试集得到了K个分类器或模型的分类准确率。用K个分类准确率的平均值作为分类器或模型的性能指标。10-倍交叉证实是比较常用的。
# -*- coding: utf-8 -*-
"""
场景:用鸢尾花数据集为例展示sklearn的一般流程,包括:
1. 数据的获取
2. 数据预处理
3. 模型的训练
4. 模型的评估
5. 模型的优化
6. 模型持久化
"""
import numpy as np
import pandas as pd
# 1.-----------数据集-------------------
from sklearn import datasets
iris = datasets.load_iris()
X = iris.data
y = iris.target
'''
import matplotlib.pyplot as plt
plt.scatter(X[:50, 0], X[:50