【神经网络】MP神经网络模型（附实例代码讲解）

MP神经网络模型

1.MP模型介绍

1.1 生物神经元

1.2 人工神经元

• x1，x2，x3是与生物神经元中的树突相对应的输入。
• w1，w2，w3代表对应于突触的权重。

1.3 MP神经元模型

模型

• 输入只能是布尔型。
• 输出只能是布尔型。
• g是聚合输入，f根据聚合进行决策。
  

损失函数

损失往往是模型在预测时所产生的误差，也可能是真实值与预测值之间的差。

我们采用真实值与预测值之间的差的平方，以消除在真实值为0且预测值为1时可能出现的负号。

学习算法

我们希望损失函数最小，因此我们要加入b的值，然后开始逐一输入，以便获得的输出与真实值相同或接近。

在MP神经元模型的情况下，我们只能有一个参数，因此我们可以使用蛮力搜索技术来计算b的值。

考虑到我们具有n个特征，因此b的值必须在0到n的范围内。因为输入是离散值，所以b也是具有离散值。

评估

我们的模型将如何处理之前从未见过的数据或测试数据。

我们将在准确性的基础上评估我们的MP神经元模型。准确性 = 正确预测数 / 总数。

在上面的示例中，测试集上的精度为3/4，相当于75％。

MP神经元模型的几何原理

直线的方程为：y = mx + c，将x替换为x1，将y替换为x2，得：x2 = mx1 + c，即：mx1 -x2 + c。

一般直线方程可以写成：ax1 + bx2 + c = 0。对于下图中的直线：a = 1，b = 1，c = -2。

在下图中，我们可以看到两个点（1,2）和（-1,1）。考虑点（1,2），将其代入x1 + x2 - 2，得1。

• 如果 ax1 + bx2 + c > 0，则点在该直线上方。
• 如果 ax1 + bx2 + c < 0，则点在该直线下方。
• 如果 ax1 + bx2 + c = 0，则点在直线上。
  

2.实例

导入需要的包。

import numpy as np
import pandas as pd
import matplotlib.pyplot as plt

import sklearn.datasets
from sklearn.metrics import accuracy_score #精度分类得分
from sklearn.model_selection import train_test_split #将数组或矩阵拆分为随机训练和测试子集

Scikit-learn(0.24.1)的API参考：https://scikit-learn.org/stable/modules/classes.html

这里我使用的数据集是一个sklearn自带的乳腺癌数据集。

一共有569个样本。

breast_cancer = sklearn.datasets.load_breast_cancer()

X = breast_cancer.data
Y = breast_cancer.target

结果分为“恶性”和“良性”。

list(breast_cancer.target_names)

print(X)

print(Y)

data = pd.DataFrame(breast_cancer.data,columns=breast_cancer.feature_names)
data['class'] = breast_cancer.target

data

数据集的相关统计信息。

data.describe()

# 1表示良性，0表示恶性
data['class'].value_counts()

划分数据集和测试集，测试集的大小为总体数据的10%。设置stratify=Y : 按照数据集中Y的比例分配给train和test，使得train和test中各类别数据的比例与原数据集的比例一致。通常在数据集的分类分布不平衡的情况下会用到stratify。

X = data.drop('class',axis=1)
Y = data['class']

X_train, X_test, Y_train, Y_test = train_test_split(X,Y, test_size=0.1, stratify=Y, random_state=0)

print('Target: ',Y.mean(), Y_train.mean(), Y_test.mean())

可以看到数据集划分基本上是均匀的。

plt.figure(figsize=(8,6))
plt.plot(X_train.T,'o')
plt.xticks(rotation='vertical');

因为MP神经元模型仅能把0或1作为输入，所以我们要把数据进行处理，划分为0和1两类。

X_binarise_train = X_train.apply(pd.cut, bins=2, labels=[1,0])
X_binarise_test = X_test.apply(pd.cut, bins=2, labels=[1,0])

plt.figure(figsize=(8,6))
plt.plot(X_binarise_train.T,'o')
plt.xticks(rotation='vertical');

后面我们需要用数组进行计算，所以获取value。

X_binarise_train = X_binarise_train.values
X_binarise_test = X_binarise_test.values

构建MP神经元类。

class MPNeuron:
    def __init__(self):
        self.b = None
    
    def model(self,x):
        return (sum(x) >= self.b)
    
    def predict(self,X):
        Y = []
        for x in X:
            Y.append(self.model(x))
        return np.array(Y)
    
    def fit(self,X,Y):
        accuracy = {}
        for b in range(X.shape[1] + 1):
            self.b = b
            Y_pred = self.predict(X)
            accuracy[b] = accuracy_score(Y_pred,Y)
            
        best_b = max(accuracy, key = accuracy.get)
        self.b = best_b
        
        print('最佳b值:', best_b)
        print('最高准确率为:', accuracy[best_b])

mp_neuron = MPNeuron()
mp_neuron.fit(X_binarise_train,Y_train)

w = mp_neuron.predict(X_binarise_test)
accuracy_score(w,Y_test)