sklearn基础教程

scikit-learn 是一个基于 Python 的机器学习库，它包含了大量用于数据挖掘和数据分析的算法。以下是关于 scikit-learn 基础教程的概述：

安装与配置

在开始之前，首先需要确保已经安装了 Python 和 pip。然后，使用 pip 安装 scikit-learn：

pip install scikit-learn

数据集

在 scikit-learn 中，可以使用内置的数据集，也可以加载自己的数据集。

内置数据集

from sklearn.datasets import load_iris

iris = load_iris()
print(iris.data)  # 打印数据集的特征
print(iris.target)  # 打印数据集的标签

自定义数据集

from sklearn.datasets import make_classification

X, y = make_classification(n_samples=100, n_features=20, random_state=42)

数据预处理

在进行机器学习之前，通常需要对数据进行预处理，包括清洗、转换和归一化等。

缺失值处理

from sklearn.impute import SimpleImputer

imputer = SimpleImputer(strategy='mean')
X_imputed = imputer.fit_transform(X)

特征缩放

from sklearn.preprocessing import StandardScaler

scaler = StandardScaler()
X_scaled = scaler.fit_transform(X_imputed)

分类算法

scikit-learn 提供了多种分类算法，如逻辑回归、决策树、随机森林等。

逻辑回归

from sklearn.linear_model import LogisticRegression

clf = LogisticRegression(random_state=42)
clf.fit(X_scaled, y)
y_pred = clf.predict(X_scaled)

决策树

from sklearn.tree import DecisionTreeClassifier

clf = DecisionTreeClassifier(random_state=42)
clf.fit(X_scaled, y)
y_pred = clf.predict(X_scaled)

模型评估

使用交叉验证等方法来评估模型的性能。

from sklearn.model_selection import cross_val_score

scores = cross_val_score(clf, X_scaled, y, cv=5)
print(scores)

模型持久化

可以将训练好的模型保存到磁盘，以便后续使用。

import pickle

with open('model.pkl', 'wb') as file:
    pickle.dump(clf, file)

特征选择与降维

在某些情况下，可能需要选择重要的特征或降低数据维度。

特征选择

from sklearn.feature_selection import SelectKBest

selector = SelectKBest(score_func=f_classif, k=10)
X_selected = selector.fit_transform(X_scaled, y)

降维

from sklearn.decomposition import PCA

pca = PCA(n_components=0.95)
X_reduced = pca.fit_transform(X_scaled)

通过以上基础教程，您可以开始使用 scikit-learn 进行机器学习项目的开发。随着经验的积累，您可以进一步探索 scikit-learn 的更多高级功能和应用场景。