你的第一个机器学习案例

最新推荐文章于 2022-02-11 16:28:37 发布

Jennifer_Shen

最新推荐文章于 2022-02-11 16:28:37 发布

阅读量5.9k

点赞数 9

文章标签：机器学习机器学习分类 KNN SVM LDA

摘要：如果你是机器学习的初学者，这将是一个很好的热身练习例程。首先，教你如何安装Python 和相关机器学习的库模块，同时，会教你如何用数据库里面的数据，然后，会教你如何用不同的机器学习算法对数据库里的数据进行分类预测，最后，比较各种预测算法的准确性。

第一步安装Python和相关库模块（以win10为例）

1. 下载python 下载地址： https://www.python.org/downloads/

推荐下载Python 3.6.0 以上的版本。

2. 安装Python，路径推荐使用"c:\python36"一路默认值安装到底

3. 在环境变量PATH中增加"c:\python36". 此步只是为了能够用cmd更方便的使用Python

到此为止， Python就安装好了，下面介绍安装pip

1. 下载pip，下载地址： https://bootstrap.pypa.io/get-pip.py

2. 将"get.pip.py" 拷贝到“c:\python36”，并打开CMD 命令行

3. 在CMD里输入

python -m pip install --upgrade pip setuptools wheel

接下来，安装机器学习相关的苦模块，如下是5个关键机器学习库：

scipy
numpy
matplotlib
pandas
sklearn

以scipy为例，在CMD里输入“ python -m pip install scipy” 等待安装完成。一次安装完成上述库模块。

在CMD里面输入python 回车，然后运行如下命令，检查模块版本。

# Check the versions of libraries

# Python version
import sys
print('Python: {}'.format(sys.version))
# scipy
import scipy
print('scipy: {}'.format(scipy.__version__))
# numpy
import numpy
print('numpy: {}'.format(numpy.__version__))
# matplotlib
import matplotlib
print('matplotlib: {}'.format(matplotlib.__version__))
# pandas
import pandas
print('pandas: {}'.format(pandas.__version__))
# scikit-learn
import sklearn
print('sklearn: {}'.format(sklearn.__version__))

结果

Python: 2.7.11 (default, Mar  1 2016, 18:40:10) 
[GCC 4.2.1 Compatible Apple LLVM 7.0.2 (clang-700.1.81)]
scipy: 0.17.0
numpy: 1.10.4
matplotlib: 1.5.1
pandas: 0.17.1
sklearn: 0.18.1

第二步加载数据库数据

从开始菜单打开Python(GUI)，点击File-> New File，新建一个python 脚本文件，就可以开始编程了。点击窗口Run就可以运行程序。

下面介绍如何加载数据库

1. 导入库

# Load libraries
import pandas
from pandas.tools.plotting import scatter_matrix
import matplotlib.pyplot as plt
from sklearn import model_selection
from sklearn.metrics import classification_report
from sklearn.metrics import confusion_matrix
from sklearn.metrics import accuracy_score
from sklearn.linear_model import LogisticRegression
from sklearn.tree import DecisionTreeClassifier
from sklearn.neighbors import KNeighborsClassifier
from sklearn.discriminant_analysis import LinearDiscriminantAnalysis
from sklearn.naive_bayes import GaussianNB
from sklearn.svm import SVC

2. 加载数据

下面以花朵尺寸数据库为例，用多种机器学习算法来做花种类的分类。首先加载数据

# Load dataset
url = "https://archive.ics.uci.edu/ml/machine-learning-databases/iris/iris.data"
names = ['sepal-length', 'sepal-width', 'petal-length', 'petal-width', 'class']
dataset = pandas.read_csv(url, names=names)

然后，我们让这些数据可视化。

# head
print(dataset.head(20))
# scatter plot matrix
scatter_matrix(dataset)
plt.show()

第三步用不同的机器学习算法进行分类预测选择最优模型

1. 先将数据库里的数据分成两组： 80% 数据作为机器学习的训练数据， 20%的数据用来测试算法。

# Split-out validation dataset
array = dataset.values
X = array[:,0:4]
Y = array[:,4]
validation_size = 0.20
seed = 7
X_train, X_validation, Y_train, Y_validation = model_selection.train_test_split(X, Y, test_size=validation_size, random_state=seed)

X_train 是花朵尺寸数据

Y_train 是花朵的种类

X-validation 是等待验证算法的花朵尺寸数据

Y_validation 是花朵尺寸X-validation对应的实际花朵类型

2. 设定参数

# Test options and evaluation metric
seed = 7
scoring = 'accuracy'

3. 建立模型

由于我们不确定那个机器学习的算法更适用该分类，因此我们选择如下几个算法去评估：

Logistic Regression (LR)
Linear Discriminant Analysis (LDA)
K-Nearest Neighbors (KNN).
Classification and Regression Trees (CART).
Gaussian Naive Bayes (NB).
Support Vector Machines (SVM).

# Spot Check Algorithms
models = []
models.append(('LR', LogisticRegression()))
models.append(('LDA', LinearDiscriminantAnalysis()))
models.append(('KNN', KNeighborsClassifier()))
models.append(('CART', DecisionTreeClassifier()))
models.append(('NB', GaussianNB()))
models.append(('SVM', SVC()))
# evaluate each model in turn
results = []
names = []
for name, model in models:
	kfold = model_selection.KFold(n_splits=10, random_state=seed)
	cv_results = model_selection.cross_val_score(model, X_train, Y_train, cv=kfold, scoring=scoring)
	results.append(cv_results)
	names.append(name)
	msg = "%s: %f (%f)" % (name, cv_results.mean(), cv_results.std())
	print(msg)

4. 选择最优模型

根据上述程序的运行结果，KNN的准确率0.983333 是所有算法中最高的。因此我们选择KNN机器学习算法去做X-valication的分类预测。

LR: 0.966667 (0.040825)
LDA: 0.975000 (0.038188)
KNN: 0.983333 (0.033333)
CART: 0.975000 (0.038188)
NB: 0.975000 (0.053359)
SVM: 0.981667 (0.025000)

第四步进行预测

用KNN算法进行预测

# Make predictions on validation dataset
knn = KNeighborsClassifier()
knn.fit(X_train, Y_train)
predictions = knn.predict(X_validation)
print(accuracy_score(Y_validation, predictions))
print(confusion_matrix(Y_validation, predictions))
print(classification_report(Y_validation, predictions))

如下是运行结果

0.9

[[ 7  0  0]
 [ 0 11  1]
 [ 0  2  9]]

             precision    recall  f1-score   support

Iris-setosa       1.00      1.00      1.00         7
Iris-versicolor   0.85      0.92      0.88        12
Iris-virginica    0.90      0.82      0.86        11

avg / total       0.90      0.90      0.90        30

此外，开可以直接打印出“predictions”和“Y-validation”比较预测值和实际值的结果。

===================================

这篇文章是翻译的大牛的作品，本人已经运行过，这是一个很好的机器学习的开端。

如果有任何问题可以邮件联系我，我们彼此探讨 jl_shen@163.com

原文地址：点击打开链接

最后，祝好运！