数据挖掘——多层感知器的Python实现

# coding=utf-8
from sklearn.cross_validation import train_test_split
from sklearn.neural_network import MultilayerPerceptronClassifier
import numpy as np
"""
让我们训练一个多层感知器来近似XOR函数。目前，scikit-learn的0.16.1版本还没有合并，作者在其github上提供了单独的MLP模块NeuralNetworks，我们在0.16.1版本基础上稍作修改，即可完成本书的例子。

请fork作者的NeuralNetworks，将multilayer_perceptron文件夹里的.py文件复制到sklearn/neural_network文件夹里，然后将对__init__.py文件做如下修改即可：

# __init__.py
from .rbm import BernoulliRBM

from .multilayer_perceptron import MultilayerPerceptronClassifier
from .multilayer_perceptron import MultilayerPerceptronRegressor

__all__ = ["BernoulliRBM",
           "MultilayerPerceptronClassifier",
           "MultilayerPerceptronRegressor"]
另外，在Linux和Mac OS系统里，复制.py文件的权限记得改成chmod 644
"""
# 准备数据
y = [0, 1, 1, 0] * 10000
X = np.array([[0, 0], [0, 1], [1, 0], [1, 1]] * 10000)

X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=3)

"""
确定隐藏单元和隐藏层的数量有一些首要原则：样本数量，
训练数据的噪声，要被近似的函数复杂性，隐藏单元的激励函数，学习算法和使用的正则化方法决定
"""

clf = MultilayerPerceptronClassifier(hidden_layer_sizes=[2],
                                     activation='logistic',
                                     random_state=3)
clf.fit(X_train, y_train)

print '层数 %s ,输出单元数量：%s' % (clf.n_layers_, clf.n_outputs_)
predictions = clf.predict(X_test)
print '准确率%s：' % clf.score(X_test, y_test)
for i, p in enumerate(predictions[:10]):
    print '真实值：%s，预测值：%s' % (y_test[i], p)