DataLoader 加载糖尿病数据集训练

DataLoader 加载糖尿病数据集训练

import torch
from torch.utils.data import Dataset  # 抽象类，不能实例化，只能继承，然后构造自己数据
from torch.utils.data import DataLoader  # 加载数据，可以实例化
import numpy as np

class DiabetesDataset(Dataset):
    # __init__中有两种选择
    # 1.把所有数据data，都从init中加载出来，通过__getitem__把数据集中的第i个样本传递过去。
    # 2.数据集比较大时，放置文件名的列表，什么时候用什么时候读取，这样可以保证内存的高效运行
    def __init__(self,filepath):  
        # 因为数据比较小，采用第一种选择，所以将所有数据都加载进了内存中
        xy = np.loadtxt(filepath, delimiter=",", dtype= np.float32)  # delimiter="," 数据间的分隔符是逗号
        self.len = xy.shape[0]  # xy是 n 行 9列即（N, 9），shape[0]输出 N 
        self.x_data = torch.from_numpy(xy[:, :-1])  # xy[:, :-1] 读取所有数据，除了最后一列。
        self.y_data = torch.from_numpy(xy[:,[-1]])  # [-1] 将最后一维转数组
        
    def __getitem__(self, index):  # 魔法方法，用于索引数据。
        return self.x_data[index], self.y_data[index]  # python中这样写，返回的是一个元组（x_data，y_data）
    
    def __len__(self):  # 数据集长度
        return self.len
    

数据集链接: https://pan.baidu.com/s/1a1MOm9OOn3WpA1stpsj44A
提取码: 3gip

dataset = DiabetesDataset("D:/BaiduYunDownload/diabetes.csv.gz")
train_loader = DataLoader(dataset=dataset,  # 传递的数据集
                         batch_size=32,
                         shuffle=True,  # 是否打乱    
                         )  # 是否需要多线程读取。

class Module(torch.nn.Module):
    def __init__(self):  # define the model architecture
        super(Module, self).__init__()
        self.linear1 = torch.nn.Linear(8, 6)  # 在句尾多家一个逗号，会报错
        self.linear2 = torch.nn.Linear(6, 4)
        self.linear3 = torch.nn.Linear(4, 1)
        self.sigmoid = torch.nn.Sigmoid()
    def forward(self, x):
        x = self.sigmoid(self.linear1(x))
        x = self.sigmoid(self.linear2(x))
        x = self.sigmoid(self.linear3(x))
        return x

model = Module()
loss_fn = torch.nn.BCELoss(reduction='mean')
optimizer = torch.optim.SGD(model.parameters(),lr = 0.01)

if __name__=='__main__': 
    for epoch in range(100):
        for i, data in enumerate(train_loader, 0):   # enumerate是为了获得当前是第几次迭代。train_loader返回的元组，放在了data中。0 表示索引从 0 开始。   
            inputs, labels = data  # 取出数据和标签，Dataset每次都是取x_data与y_data的第 i 行样本，DataLoader 根据batch_size的大小取出成两个矩阵。然后自动转换成tensor。         
            y_pred = model(inputs)
            loss = loss_fn(y_pred, labels)
            print(epoch, i, loss.item())
            optimizer.zero_grad()
            loss.backward()
            optimizer.step()