全连接神经网络对汽车购买的预测

这里我们采用的是全连接神经网络对数据进行分析预测。数据集是来自神州数码2022校园技术大赛。全连接神经网络可以很好的对非线性模型进行拟合，对本问题具有一定优势。我们使用的语言是Python。首先要将本次搭建所需要的库导入：

import numpy as np
import torch
import torch.nn as nn
import pandas as pd
import torch.utils.data as Data
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import normalize

然后读取文件，将输入放入numpy，按照预想的，我们将性别更换为0，1数字：

data=[]
f=pd.read_csv('./car_train.csv')
data=np.array(f)
target=np.array(data[:,4]).astype(float)
data=data[:,1:4]

for i in range(data.shape[0]):
    if str(data[i,0]) == 'Male':
        data[i,0]=1
    else: data[i,0]=0

data=np.array(data).astype(float)

数字归一化（这里使用的归一化方法是max）：
data=normalize(data,axis=0,norm='max')

使用sklearn中的训练测试划分来得到数据集，并将其转换成tensor形式，这里需要注意数据需要用Float形式，标签需要用Long的形式：

train_x,test_x,train_y,test_y=train_test_split(data,target,train_size=0.8,random_state=111)
train_x=torch.from_numpy(train_x).type(torch.FloatTensor)
train_y=torch.from_numpy(train_y).type(torch.LongTensor)
test_x=torch.from_numpy(test_x).type(torch.FloatTensor)
test_y=torch.from_numpy(test_y).type(torch.LongTensor)

将训练集放入dataLoader，方便后续训练：

dataset1=Data.TensorDataset(train_x,train_y)
train_loader=Data.DataLoader(dataset=dataset1,batch_size=30,shuffle=True)

定义全连接神经网络，这里我使用了4层隐藏层和1层连接层，激活函数使用的是Tanh和Relu的组合，这种组合在之前实验中先升维再降维的神经网络的效果较好，所以继续沿用。因为这里的数据只有3维，我们认为维度较少直接降维效果不好，所以采用这种方式。

最后再用一层全连接将特征化为两个输出，分别代表这组数据是0和1的置信度：

class Net(nn.Module):
    def __init__(self):
        super(Net,self).__init__()
        self.hidden1=nn.Sequential(
            nn.Linear(3,128),
            nn.Tanh(),
            nn.Linear(128,64),
            nn.ReLU()
        )
        self.hidden2=nn.Sequential(
            nn.Linear(64,32),
            nn.Tanh(),
            nn.Linear(32,16),
            nn.ReLU()
        )

        self.out=nn.Linear(16,2)
    def forward(self,x):
        x=self.hidden1(x)
        x=self.hidden2(x)
        x=self.out(x)
        return x

下面就是训练数据，我们的epoch是1000，优化算法使用的是Adam，损失函数使用的是交叉熵损失函数，这里定义了一个best_acc来记录最优精确度，我们在训练的每一步都计算当前模型参数的精确度，并保留记录下最好的：

net=Net()
opt=torch.optim.Adam(net.parameters(),lr=0.01)
loss_func=nn.CrossEntropyLoss()
best_acc=0
for i in range(1000):
    for step,(b_x,b_y) in enumerate(train_loader):

        pred=net(b_x)
        loss=loss_func(pred,b_y)
        opt.zero_grad()
        loss.backward()
        opt.step()


    s = 0
    pred = net(test_x)
    pred = torch.max(pred, 1)[1].data
    for i in range(test_x.shape[0]):
        if int(pred[i]) == test_y[i]:
            s = s + 1
    acc=s / test_x.shape[0]
    if acc>best_acc:
        torch.save(net.state_dict(),'carFC.pkl')
        best_acc=acc
        print(best_acc)