这可能是你看到最详细的NCF代码讲解(1)数据处理篇

最近看了一圈技术栈,感觉无论是自然语言处理或者说是计算机视觉,网上都有一大堆成体系的教学可供参考。但是反观推荐算法这个方向却是寥寥无几。写这篇文章出于两个目的:1.巩固自己的学习,2.对外输出所学。

数据集

何向南老师github:
https://github.com/hexiangnan/neural_collaborative_filtering

我们先看一下数据集组成。
在这里插入图片描述
然后今天说的是 load_dataset做了什么事情。
先上代码:

导包

import pandas as pd
import numpy as np
import math
from collections import defaultdict
import heapq
import scipy.sparse as sp
import torch
import torch.nn as nn
import torch.nn.functional as F
import torch.utils.data
import torch.backends.cudnn as cudnn
import os

载入数据。

def load_dataset(test_num=100):
    train_data = pd.read_csv("./ncf_data/ml-1m.train.rating", \
                             sep='\t', header=None, names=['user', 'item'], \
                             usecols=[
  • 5
    点赞
  • 31
    收藏
    觉得还不错? 一键收藏
  • 6
    评论
PyTorch中的数据加载和处理一般使用`torch.utils.data`中的`Dataset`和`DataLoader`模块。其中,`Dataset`用于加载并处理数据集,`DataLoader`用于将数据集分成小批量并进行批量处理。下面是一个简单的示例代码,该代码演示如何使用`Dataset`和`DataLoader`加载和处理MNIST数据集。 ```python import torch import torchvision from torchvision import transforms # 定义数据转换 transform = transforms.Compose([ transforms.ToTensor(), # 将图片转换为tensor transforms.Normalize((0.1307,), (0.3081,)) # 标准化 ]) # 加载MNIST数据集 train_dataset = torchvision.datasets.MNIST( root='./data', # 数据集存放路径 train=True, # 是否为训练集 download=True, # 是否需要下载 transform=transform # 数据转换 ) # 创建DataLoader train_loader = torch.utils.data.DataLoader( dataset=train_dataset, # 数据集 batch_size=64, # 每个批次的大小 shuffle=True # 是否打乱数据 ) # 遍历数据集 for i, (images, labels) in enumerate(train_loader): # 打印批次大小 print('Batch size:', len(labels)) # 在这里进行批量处理 # ... ``` 在上面的代码中,首先我们定义了一个`transform`对象,用于将MNIST数据集中的图片转换为PyTorch中的`Tensor`对象并进行标准化。然后,我们使用`torchvision.datasets.MNIST`函数加载MNIST数据集,并将其传递给`DataLoader`对象中。在创建`DataLoader`时,我们指定了批次大小为64,并且将数据打乱。最后,我们可以使用`for`循环遍历`DataLoader`对象,每次获取一个批次的数据,并进行批量处理。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 6
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值