DiT代码学习

DiT的输入,是先对输入x进行了patch,然后对t进行了时间戳编码,然后对y进行了类别编码,y就是类别。也就是说:

这个block,的输入,是两个,不仅有x,还有编码。

下面可以看出,首先,这个self.adaln——modulation模块,对编码c,进行了一个操作,得到了六个东西,这六个东西都是分开算的,有的是注意力用的,有的是MLP模块用的。

这个模块的作用,可以看出来,就是将一个,1,12维度的东西,分成了六份。

算loss的时候怎么算的呢,两个参数值都是固定的,然后,

看看DiT里面怎么算的loss

三个输入,x是原始的输入,t是时间戳,model是模型。、

KL的时候,算的是两个数据的两种分布,

从这,就能看出来,

这个,q的后验,是在算真正的值。

算均值的时候,用了x_start,算方差的时候只用了X_t,不知道为啥。

做预测,获得一个预测的,给定初始的x,这个x是x_t.

这里又困惑了,

  • 3
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
DiT训练自己的数据集的步骤如下: 1. 首先,你需要获取你自己的数据集。在这个例子中,引用提到了一个由DIT4BEARs为挪威UiT北极大学的智能道路实习项目提供的数据集。这个数据集包含了5个月的数据,包括天气条件、摩擦系数、行驶距离、风速、表面温度和气温等信息。 2. 接下来,你需要将你的数据集添加到mmsegmentation的数据集中。你可以按照引用中的指示,在mmseg/datasets/__init__.py文件中添加你的数据集类名到__all__列表中。 3. 在mmsegmentation-master目录下创建一个名为data的文件夹,并将你的数据集文件夹直接复制到这个data文件夹中。这样,你的数据集就准备好了。引用中提到,如果你下载的是公开数据集,mmsegmentation已经直接支持这种数据格式,你不需要进行额外的操作。 4. 最后,你需要配置自己的训练config。这包括设置模型结构、数据预处理、训练参数等等。具体的配置步骤可以参考你所使用的mmsegmentation框架的文档或者示例代码。 通过以上步骤,你就可以使用mmsegmentation框架来训练你自己的数据集了。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* [深度学习数据集集合(二)](https://blog.csdn.net/ALiLiLiYa/article/details/127472997)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] - *2* *3* [mmsegmentation 训练自制数据集全过程](https://blog.csdn.net/weixin_43624833/article/details/125180817)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值