TensorDict 使用教程

TensorDict 使用教程

tensordictTensorDict is a pytorch dedicated tensor container.项目地址:https://gitcode.com/gh_mirrors/te/tensordict

项目介绍

TensorDict 是一个专门为 PyTorch 设计的张量容器。它通过将多个张量打包成一个类似字典的对象，简化了模块之间传递多个张量的过程。TensorDict 继承了张量的特性，使得处理和操作张量集合变得更加简单和直观。

项目快速启动

安装

首先，你需要安装 TensorDict。你可以通过 pip 安装：

pip install tensordict

基本使用

以下是一个简单的示例，展示如何创建和使用 TensorDict：

import torch
from tensordict import TensorDict

# 创建一个 TensorDict
td = TensorDict({
    "tensor1": torch.randn(3, 4),
    "tensor2": torch.randn(4, 5)
}, batch_size=[3, 4])

# 访问和修改张量
print(td["tensor1"])
td["tensor2"] = torch.ones(4, 5)
print(td)

应用案例和最佳实践

数据加载

TensorDict 可以用于数据集的加载和处理。以下是一个使用 TensorDict 加载和处理数据的示例：

from torch.utils.data import DataLoader, Dataset

class MyDataset(Dataset):
    def __init__(self):
        self.data = TensorDict({
            "input": torch.randn(100, 3, 4),
            "target": torch.randint(0, 2, (100,))
        }, batch_size=[100])

    def __len__(self):
        return len(self.data)

    def __getitem__(self, idx):
        return self.data[idx]

dataset = MyDataset()
dataloader = DataLoader(dataset, batch_size=10)

for batch in dataloader:
    print(batch)

模型训练

TensorDict 也可以用于模型的训练。以下是一个使用 TensorDict 进行模型训练的示例：

import torch.nn as nn
import torch.optim as optim

class MyModel(nn.Module):
    def __init__(self):
        super(MyModel, self).__init__()
        self.fc = nn.Linear(12, 2)

    def forward(self, x):
        return self.fc(x)

model = MyModel()
optimizer = optim.Adam(model.parameters(), lr=0.001)
criterion = nn.CrossEntropyLoss()

for epoch in range(10):
    for batch in dataloader:
        inputs = batch["input"]
        targets = batch["target"]

        optimizer.zero_grad()
        outputs = model(inputs.view(-1, 12))
        loss = criterion(outputs, targets)
        loss.backward()
        optimizer.step()

        print(f"Epoch {epoch+1}, Loss: {loss.item()}")

典型生态项目

TensorDict 与 PyTorch 生态系统中的其他项目兼容良好，例如：

• TorchRL: 一个用于数据驱动决策制定的库，与 TensorDict 结合使用可以简化强化学习模型的构建和训练过程。
• TorchVision: 用于计算机视觉任务的库，可以与 TensorDict 结合使用来加载和处理图像数据。

通过这些生态项目的支持，TensorDict 可以更广泛地应用于各种深度学习任务中。

tensordictTensorDict is a pytorch dedicated tensor container.项目地址:https://gitcode.com/gh_mirrors/te/tensordict