1.实验结果
设置两组数据点,并且把右上的数据群的所有点的标签都设为0,左下数据集群所有点的标签都设为1。
现在我们搭建简单的神经网络,把标签不同的数据点都区分开,标上不同的颜色。呈上实验的训练效果图。
2.实验过程
# 1.导入必要的模块
import torch
import torch.nn.functional as F # F中含有激励函数
import matplotlib.pyplot as plt #用于绘图
# 2.生成数据
# 生成一个100行2列的全1张量,即100个二维坐标点。
n_data = torch.ones(100,2)
x0 = torch.normal(2*n_data,1)
# 函数torch.normal(means, std, out=None)
# 返回一个张量,包含了从指定均值means和标准差std的离散正态分布中抽取的一组随机数,所以生成的x0对应的点都在坐标(2,2)附近。
# x0是一个100行2列的张量,第一群点的横坐标(x0的第一列)和纵坐标(x0的第二列)都在x0中
y0 = torch.zeros(100) # 设置第一群点的标签都是0
x1 = torch.normal(-2*n_data,1) # 第二群点的横坐标和纵坐标都在x1中
y1 = torch.ones(100) # 设置第二群点的标签都是1
x = torch.cat((x0,x1),0).type(torch.FloatTensor) # 把坐标值都转换为32位的浮点型tensor
y = torch.cat((y0,y1),).type(torch.LongTensor) # 标签转换为64位的整型tensor
# plt.scatter(x.data.numpy()[:,0], x.data.numpy()[:,1],c=y.data.numpy(),
s=100,lw=0,cmap='RdYlGn')
# plt.show()
# 3.搭建神经网络
class Net(torch.nn.Module):
# 设置神经网络属性,定义各层的信息
def __init__(self, n_feature, n_hidden,n_output):
super(Net, self).__init__()
self.hidden = torch.nn.Linear(n_feature, n_hidden)
self.predict = torch.nn.Linear(n_hidden, n_output)
# 前向传递过程
def forward(self, x):
x = F.relu(self.hidden(x))
x = self.predict(x)
return x
# 4.定义网络
net = Net(2,8,2) # 设置2输入(横坐标和纵坐标),2输出(0,1),含有8个神经元的隐藏层
print(net)
# 设置一个实时打印的过程,显示在屏幕
plt.ion()
plt.show()
# 5.设置优化器
# 选择SGD优化器对神经网络的全部参数进行优化,学习率设置为0.02
optimizer = torch.optim.SGD(net.parameters(),lr=0.02)
# 计算误差,MSELoss用于回归问题,CrossEntropyLoss用于分类。
loss_func = torch.nn.CrossEntropyLoss()
# 6.训练
for t in range(100):
out = net(x) #产生预测值
loss = loss_func(out, y) # 计算预测值与真实值之间的误差
optimizer.zero_grad() # 将网络中所有参数的梯度降为0
loss.backward() # 误差反向传播,并对每个节点计算梯度
optimizer.step() # 以学习率位0.02对梯度进行优化
# 每学习2步打印一次
if t % 2 == 0:
# plot and show learning process
plt.cla()
prediction = torch.max(F.softmax(out), 1)[1]
pred_y = prediction.data.numpy()
target_y = y.data.numpy()
plt.scatter(x.data.numpy()[:, 0], x.data.numpy()[:, 1], c=pred_y, s=100, lw=0, cmap='RdYlGn')
accuracy = float((pred_y == target_y).astype(int).sum()) / float(target_y.size)
plt.text(1.5, -4, 'Accuracy=%.2f' % accuracy, fontdict={'size': 20, 'color': 'red'})
plt.pause(0.1)
# 实时打印结束
plt.ioff()
plt.show()