一、神经网络
多分类问题时,若特征变量的次数过高,项数过多,用逻辑回归会很慢,此时需要用到神经网络。还是区分0-9的十个数字的问题,若已给定神经网络中的theta矩阵(需要用反向传播算法得出),实现前馈神经网络,理解神经网络的作用。
题目已给出a(1)为第一层输入层数据,有400个神经元代表每个数字的图像(不加偏置值);
a(2)为隐藏层,有25个神经元(不加偏置值);
a(3)为输出层‘,又10个神经元,以10个(0/1)值的向量表示;
theta1为第一层到第二层的参数矩阵(25,401);
theta2为第二层到第三层的参数矩阵(10,26)。
二、实现前馈神经网络
导入数据包。
import numpy as np
from scipy.io import loadmat
from sklearn.metrics import classification_report
提取文件中的数据,查出两个向量的维度。(25,401) (10,26)
data = loadmat("E:\\Pycharm\\workspace\\ex3_Andrew\\ex3data1.mat")
weight = loadmat("E:\\Pycharm\\workspace\\ex3_Andrew\\ex3weights.mat"