Sora模型技术讲解

已于 2024-04-17 21:34:46 修改
阅读量437 收藏 8
点赞数 11
分类专栏： 大模型 文章标签： 语言模型 人工智能
于 2024-03-02 11:43:30 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u013308709/article/details/136378250
版权

Sora整体训练流程

  • 视频编码
  • DIT
  • 语言模型
    在这里插入图片描述
  • 预测的时候输入的是纯噪音。
    在这里插入图片描述
  • Sora训练样本特点
    在这里插入图片描述
    在这里插入图片描述

视频编码

  • *将一帧一帧图片转化为20 * 30 3 的patch，就是1800维特征。
    在这里插入图片描述
  • 转化为1800维特征太长了，需要将其压缩，转化为短向量
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

扩散学习

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

文字编码

在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值