sklearn基础使用教程

sklearn基础使用教程

scikit-learn（简称sklearn）是Python中一个非常流行的机器学习库，它集成了大量的简单而强大的工具和算法，可以用于数据挖掘和数据分析。本教程将介绍如何使用sklearn进行基本的机器学习任务。

安装scikit-learn

首先，请确保你已经安装了Python和pip。在终端或命令行输入以下命令来检查：

python --version
pip --version

使用pip安装scikit-learn的命令如下：

pip install scikit-learn

安装完成后，你可以通过下面的Python代码检查其版本：

import sklearn
print(sklearn.__version__)

数据集准备

在机器学习中，我们需要数据来训练模型。这里，我们使用一个简单的数字数据集来演示不同模型的使用。让我们创建一个简单的随机数组作为示例数据集：

import numpy as np

# 创建一个NumPy数组作为示例数据集
data = np.array([[1, 2], [3, 4], [5, 6]])

# 我们可以创建一个关联的“响应变量”
target = np.array([1, 2, 3])

我们创建了一个含有3个观测值的简单输入数据集，每个观测值有两个特征。关联的“响应变量”是一组分类标签，表示每个观测值应有的输出。

分类算法

K近邻分类器

scikit-learn有多种分类器，我们现在使用K最近邻分类器。

from sklearn.neighbors import KNeighborsClassifier

# 初始化一个KNeighborsClassifier模型
knn = KNeighborsClassifier(n_neighbors=1)

# 拟合模型到我们的数据
knn.fit(data, target)

# 使用模型预测结果
prediction = knn.predict(data)
print(prediction)

在上面的代码中，我们初始化了一个KNeighborsClassifier，它使用了一个最近邻规则（n_neighbors=1）。我们使用fit方法训练模型，然后使用predict方法进行预测。

决策树分类器

决策树也是一个常见的分类器。

from sklearn.tree import DecisionTreeClassifier

# 初始化一个决策树分类器：决策树
dtree = DecisionTreeClassifier()

# 训练模型
dtree.fit(data, target)

# 进行预测
prediction = dtree.predict(data)
print(prediction)

使用决策树分类器，我们首先初始化一个决策树模型，然后使用fit方法训练模型，最后使用predict方法进行预测。

回归算法

线性回归

线性回归试图找出一个最佳拟合训练数据的直线（或更高维的线性函数）。

from sklearn.linear_model import LinearRegression

# 初始化线性回归模型
linear_model = LinearRegression()

# 拟合模型到我们的数据
linear_model.fit(data, target)

# 进行预测
prediction = linear_model.predict(data)
print(prediction)

在上面的代码中，我们初始化了一个线性回归模型，然后使用fit方法将其拟合到我们的数据上，最后使用predict方法进行了预测。

交叉验证

交叉验证是对模型进行评估的一种机制，它有助于防止过拟合。

from sklearn.model_selection import cross_val_score

# 创建一个KNeighborsClassifier模型
knn = KNeighborsClassifier(n_neighbors=1)

# 使用交叉验证评估模型
scores = cross_val_score(knn, data, target, cv=5)
print(scores)

在上面的代码中，cross_val_score函数将数据集分成5个子集（使用5折交叉验证），并评估每部分的结果。最后，它返回一个包含每个折均值的分数列表。

特征选择

特征选择是选择哪个数据特征对模型来说是重要的一步。

from sklearn.feature_selection import SelectKBest
from sklearn.feature_selection import chi2

# 选择最佳特征
selector = SelectKBest(chi2, k=1)

# 训练模型分辨哪些特征有用
selector.fit(data, target)

# 查看哪些特征被选中了
selected_features = selector.get_support()
print(selected_features)

该代码使用了特征选择技术来确定哪些特征重要，并确保仅使用这些有用的特征来训练模型。

结束

现在你已经学习了如何使用sklearn进行数据处理、模型选择、训练和评估的关键基础步骤。务必继续探索并实践不同的算法和验证技术，以便更好地了解它们如何适应你的数据处理需求。