处理多维特征的输入《PyTorch深度学习实践》

多维的特征输入：每一个维度的xi乘相应的权值wi的和加上一个偏置量bi，送入sigmoid函数进行二分类
多维输入，有多个特征，进行分类
机器学习 — 数据库
每行：样本—记录
每列：特征—字段
矩阵运算可以利用GPU并行运算，for循环不行
将多个线性变换首尾相连构造多层神经网络。该神经网络共3层；第一层是8维到6维的非线性空间变换，第二层是6维到4维的非线性空间变换，第三层是4维到1维的非线性空间变换。
矩阵：空间变换的方程，将x（n维空间）映射到y（m维空间）

由于引进非线性变换导致这几次变换每次空间压缩都引入一个非线性，所以我们只要
调整每一步线性，以这种方式去拟合我们真正想要的空间变换。
引入激活函数，在线性函数中增加非线性因子，使我们可以去拟合非线性的变换。
这是神经网络设计时采用的一种方式。

这是二分类网络
模型预测的是p(y=1)患病概率

import numpy as np
import torch
import matplotlib.pyplot as plt
 
                             # delimiter=','分隔符
xy = np.loadtxt('diabetes.csv', delimiter=',', dtype=np.float32)
x_data = torch.from_numpy(xy[:, :-1]) #所有行，从第一列开始，最后一列不要
y_data = torch.from_numpy(xy[:, [-1]]) # [:, -1]所有行，只要-1那列即只要最后一列
 									    #[:, [-1]]  最后以矩阵形式（二维），不加[]那就是向量（一维）
#x_data,y_data最后都是矩阵（二维）
 
 
class Model(torch.nn.Module):
    def __init__(self):
        super(Model, self).__init__()
        self.linear1 = torch.nn.Linear(8, 6) # 输入数据x的特征是8维，x有8个特征
        self.linear2 = torch.nn.Linear(6, 4)
        self.linear3 = torch.nn.Linear(4, 1)
        self.sigmoid = torch.nn.Sigmoid() #激活函数，可以选不同的
 
    def forward(self, x):
        x = self.sigmoid(self.linear1(x)) #在线性变换后，进行sigmoid
        x = self.sigmoid(self.linear2(x))
        x = self.sigmoid(self.linear3(x)) 
        return x #y_hat
model = Model()
 
# criterion = torch.nn.BCELoss(size_average = True)
criterion = torch.nn.BCELoss(reduction='mean')  
optimizer = torch.optim.SGD(model.parameters(), lr=0.1) 
 
epoch_list = []
loss_list = []
# training cycle forward, backward, update
for epoch in range(100):
    y_pred = model(x_data) #先将数据全部仍进来，还没做minibatch
    loss = criterion(y_pred, y_data)
    print(epoch, loss.item())
    epoch_list.append(epoch)
    loss_list.append(loss.item())
 #反馈
    optimizer.zero_grad()
    loss.backward()
 #更新
    optimizer.step()
 
 
plt.plot(epoch_list, loss_list)
plt.ylabel('loss')
plt.xlabel('epoch')
plt.show()

注：
切片：一维：[ start :end :step ]冒号。多维：[,]逗号分隔维度
切片是从外到内看维度
X = np.array( [ [0,1,2,3] , [10,11,12,13] , [20,21,22,23] , [30,31,32,33] ] )

X = np.array(  [  [0,1,2,3] , [10,11,12,13] , [20,21,22,23] , [30,31,32,33]  ]  )
[0,1,2,3] , [10,11,12,13] , [20,21,22,23] , [30,31,32,33] 这是0维（去掉一个[]）
0,1,2,3     10,11,12,13     ...这是1维（去掉两个[]）

可以选不同的激活函数

#可以选不同的激活函数
class Module (torch.nn.Module):
	def __init__(self):
		super(Modle,self).__init__()
		self.linear1 = torch.nn.Linear(8, 6)#输入8维输出6维
		self.linear2 = torch.nn.Linear(6, 4)
        self.linear3 = torch.nn.Linear(4, 1)
        slef.activate = torch.nn.ReLU() #激活函数ReLU
    def forward(self,x):
    	x = self.activate(self,linear1(x))
    	x = self.activate(self,linear2(x))
    	x = self.activate(self,linear3(x))
    	return x
model = Model()