在之前的章节中一直在进行单维的特征输入 ,本节将进行多维特征输入的学习。图1为数据集样例,该数据集是关于糖尿病的数据集。
![](https://i-blog.csdnimg.cn/blog_migrate/bcb1c9da0b2cb661524f8e11f328f492.png)
我们将进行糖尿病的分类任务,每一行为一个样本Sample,每一列称为一个特征Feature。显然,每个样本拥有8个特征。由于特征的增加,在计算logistic模型的时候就不能再按照先前的一维计算,公式如下所示:
公式中,需要将每个x的特征值取出,与ω相乘。在这里我们将xn看作一个向量,就相当于做如下的运算:
其与单维的区别在于ω不再只是一个数字,而是变成了有多个特征的向量,换言之就是ω不再唯一。而在代码上,我们只需要做一处修改:将原先的linear(1, 1)改为8, 1即可。前一个数字是输入的维度,后一个是输出的维度。
![](https://i-blog.csdnimg.cn/blog_migrate/399bcf41b8370fd10b258c5f063bced6.png)
本次预测的为糖尿病模型,根据8个数据特征来判断未来的病情是否会恶化。在__init__中建立模型的时候,需要建立三个模型,目的是将8维数据降维,每次降两维(8→6,6→4,4→1)。建完之后调用self.sigmoid = torch.nn.Sigmoid(),然后是计算的过程。这里为了防止出错,只采用了一个x变量。
完整代码如下:
import numpy as np
import torch
import matplotlib.pyplot as plt
# prepare dataset
xy = np.loadtxt('diabetes.csv', delimiter=',', dtype=np.float32)
x_data = torch.from_numpy(xy[:, :-1]) # 第一个‘:’是指读取所有行,第二个‘:’是指从第一列开始,最后一列不要
y_data = torch.from_numpy(xy[:, [-1]]) # [-1] 最后得到的是个矩阵
# design model using class
class Model(torch.nn.Module):
def __init__(self):
super(Model, self).__init__()
self.linear1 = torch.nn.Linear(8, 6) # 输入数据x的特征是8维,x有8个特征
self.linear2 = torch.nn.Linear(6, 4)
self.linear3 = torch.nn.Linear(4, 1)
self.sigmoid = torch.nn.Sigmoid() # 将其看作是网络的一层,而不是简单的函数使用
def forward(self, x):
x = self.sigmoid(self.linear1(x))
x = self.sigmoid(self.linear2(x))
x = self.sigmoid(self.linear3(x)) # y hat
return x
model = Model()
# construct loss and optimizer
# criterion = torch.nn.BCELoss(size_average = True)
criterion = torch.nn.BCELoss(reduction='mean')
optimizer = torch.optim.SGD(model.parameters(), lr=0.1)
epoch_list = []
loss_list = []
# training cycle forward, backward, update
for epoch in range(100):
y_pred = model(x_data)
loss = criterion(y_pred, y_data)
print(epoch, loss.item())
epoch_list.append(epoch)
loss_list.append(loss.item())
optimizer.zero_grad()
loss.backward()
optimizer.step()
plt.plot(epoch_list, loss_list)
plt.ylabel('loss')
plt.xlabel('epoch')
plt.show()