寻丶幽风-CSDN博客

本文探索了一类新的基于 Transformer 的扩散模型 Diffusion Transformers (DiTs)。本文训练 latent diffusion models 时，使用 Transformer 架构替换常用的 UNet 架构，且 Transformer 作用于 latent patches 上。

2025-02-23 14:14:11 390 1

将输入图像通过可选的 ResNet 预处理阶段提取特征，然后将图像分割成 patch 并嵌入到 Transformer 可处理的序列中。通过 Transformer 编码器对序列进行编码后，根据分类器的类型（如 token、gap 等）提取特征表示，最后通过全连接层输出分类结果。该模型支持添加类别 token、全局平均池化等操作，并可选择是否在 Transformer 前使用 ResNet 进行特征提取。

2025-02-22 23:26:44 1028 3

Multiple_x的博客

原创论文阅读笔记——RoboBrain: A Unified Brain Model for Robotic Manipulation from Abstract to Concrete

原创论文阅读笔记——Generating Long Sequences with Sparse Transformers

原创论文阅读笔记——Reactive Diffusion Policy

原创论文阅读笔记——Multi-Token Attention

原创论文阅读笔记——GPT-1，GPT-2，GPT-3，InstructGPT

原创论文阅读笔记——Deformable Radial Kernel Splatting

原创论文阅读笔记——RDT-1B: A DIFFUSION FOUNDATION MODEL FOR BIMANUAL MANIPULATION

原创论文阅读笔记——SpatialVLA: Exploring Spatial Representations for Visual-Language-Action Model

原创论文阅读笔记——PointVLA: Injecting the 3D World into Vision-Language-Action Models

原创论文阅读笔记——ReconDreamer

原创论文阅读笔记——ST-4DGS，WideRange4D

原创论文阅读笔记——Diffuser，Diffusion Policy

原创论文阅读笔记——Deformable 3DGS，4DGS

原创论文阅读笔记——DriveDreamer4D, FreeVS

原创论文阅读笔记——MTGS: Multi-Traversal Gaussian Splatting

原创论文阅读笔记——3D Gaussian Splatting for Real-Time Radiance Field Rendering

原创论文阅读笔记——MuDG: Taming Multi-modal Diffusion with Gaussian Splatting for Urban Scene Reconstruction

原创论文阅读笔记——EWA Volume Splatting

原创论文阅读笔记——MagicDrive3D: Controllable 3D Generation for Any-View Rendering in Street Scenes

原创论文阅读笔记——MAGICDRIVE: STREET VIEW GENERATION WITH DIVERSE 3D GEOMETRY CONTROL

原创论文阅读笔记——Adapter，AdapterFusion，AdapterDrop

原创论文阅读笔记——BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding

原创论文阅读笔记——ADALORA: ADAPTIVE BUDGET ALLOCATION FOR PARAMETER-EFFICIENT FINE-TUNING

原创论文阅读笔记——QLORA: Efficient Finetuning of Quantized LLMs

原创论文阅读笔记——LORA: LOW-RANK ADAPTATION OF LARGE LANGUAGE MODELS

原创论文阅读笔记——OpenVLA: An Open-Source Vision-Language-Action Model

原创论文阅读笔记——Video Prediction Policy: A Generalist Robot Policy with Predictive Visual Representations

原创论文阅读笔记——π0: A Vision-Language-Action Flow Model for General Robot Control

原创论文阅读笔记——Learning Fine-Grained Bimanual Manipulation with Low-Cost Hardware

原创论文阅读笔记——EnerVerse: Envisioning Embodied Future Space for Robotics Manipulation

原创论文阅读笔记——DexVLA，ChatVLA

原创论文阅读笔记——VidMan: Exploiting Implicit Dynamics from Video Diffusion Model for Effective Robot Manipula

原创论文阅读笔记——Prediction with Action: Visual Policy Learning via Joint Denoising Process

原创论文阅读笔记——AVID：Adapting Video Diffusion Models to World Models

原创运筹学——线性规划单纯形方法

原创论文阅读笔记——DiT

原创论文阅读笔记——ViT

空空如也

空空如也