爆火Sora背后团队:应届博士带队,00后入列,还专门招了艺术生

点击下方卡片,关注“CVer”公众号

AI/CV重磅干货,第一时间送达

点击进入—>【CV技术/投稿/求职】交流群

扫描下方二维码,加入CVer学术星球可以获得最新顶会/顶刊上的论文idea和CV从入门到精通资料,及最前沿应用!发论文搞科研,强烈推荐!

a0e74d889216582715ec44b8089b299b.jpeg

克雷西 鱼羊 发自 凹非寺
转载自:量子位(QbitAI)

现在世界上最受关注的技术团队是哪一支?

Sora团队,已经来到聚光灯中心。

不仅项目负责人评论区被挤爆,成了最8cf767f8bede59ee58a44b93c4c2a832.png“景点”。

684ed36fd208279b5439222c579178ac.png

天才成员们的履历,也正在持续引爆关注。

5e3e6977a598997f7c1ff0f927f80bdc.png
来自微博博主@木遥

大家伙发现,这支团队挺年轻:两位负责人都是在去年(2023年)刚刚博士毕业,团队里甚至还有00后选手……

826a4902cbb388fbc8d4c25ae2e4a047.png

90ca763afb8c75bfde960630b034aa28.png147d7963e6e3183447b9a335e81db379.png也是真的牛:

Tim Brooks,DALL-E 3作者之一,GitHub 5.7k523adb187bab782986755c7fdd818db0.png️项目InstructPix2Pix作者,2021-2022年在英伟达实习时,就是视频生成研究的项目负责人。

William (Bill) Peebles,和谢赛宁合作,搞出了Sora的技术基础之一DiT(扩散Transformer)。论文还曾入围CVPR 2022最佳论文候选。

……

这支团队到底什么来头,咱们今天一起仔细聊聊。

应届博士带队

包括Tim和Bill在内,Sora的主要负责人一共有三名(以下排名不分先后)。

Tim Brooks,也是DALL-E 3的作者,去年1月刚从加州大学伯克利分校博士毕业。

5dea3898fab4816b74c065ca89abc47a.png

Tim本科就读于卡内基梅隆大学,主修逻辑与计算,辅修计算机科学,其间在Facebook软件工程部门实习了四个月。

2017年,本科毕业的Tim先到Google工作了近两年,在Pixel手机部门中研究AI相机,之后到了伯克利AI实验室攻读博士。

在伯克利读博期间,Tim的主要研究方向就是图片与视频生成,他还在英伟达实习并主导了一项关于视频生成的研究。

回到校园后,Tim与导师Alexei Efros教授和同组博士后Aleksander Holynski(现在谷歌)一起研制了AI图片编辑工具InstructPix2Pix,并入选CVPR 2023 Highlight。

5c66f1bd1721b7097434287d8b64b019.png

去年一月,Tim顺利毕业并取得了博士学位,转而加入OpenAI,并相继参与了DALL-E 3和Sora的工作。

值得一提的是,Tim不仅在专业领域拥有高超的技术水平,还是个多才多艺的人。

据Tim自己介绍,他还喜欢摄影和音乐,高中时他拍摄的照片获得过National Geographic颁发的奖项,本人到过百老汇演出,还获得过B-box国际奖项……

63bcf563a42965775cc09eede0b8e569.png

而与Tim师出同门、晚毕业4个月的William Peebles,也是Sora的另一名负责人。

(Peebles在上用昵称Bill,在Linkedin上及论文署名时用大名William,下文一律用Bill指代。)

e047276b38db78cf9b7f2c752ff5e96f.png

Bill本科就读于MIT,主修计算机科学,参加了GAN和text2video的研究,还在英伟达深度学习与自动驾驶团队实习,研究计算机视觉。

毕业后正式开始读博之前,他还参加了Adobe的暑期实习,研究的依然是GAN,该项目和(时任)卡内基梅隆大学华人学者朱俊彦(也是Efros教授学生,现在在MIT)组有合作,并成为CVPR 2022最佳论文候选。

727911dfd13301e4c7890d09c40f7448.png

之后,学期开始,Bill到了伯克利Efros教授课题组攻读博士,研究成果多次入选SIGGRAPH、ICCV、CVPR等学术会议。

2022年5月,Bill到Meta进行了为期半年的实习,和谢赛宁(Bill开始实习时还未离开Meta)合作发表了DiT模型,首次将Transformer与扩散模型结合到了一起。

该成果被ICCV 2023录用为Oral论文。值得一提的是,OpenAI此次发布的Sora,被认为正是基于DiT构建的。

138273a895a4939b4d984c89bf6312a4.png

去年5月,Bill也从伯克利毕业,并入职OpenAI。

除了这两位去年加入的研究者,Sora团队的另一位负责人Aditya Ramesh则是OpenAI的“老人”。

900b750c61427309eeb7957ab7ead2b0.png

Aditya是DALL-E的创造者,主导了三代DALL-E的研究,三个版本的论文当中他都是共同一作。

7009a1589902d7769352ac50cb64442b.png

而这样一位主导三代DALL-E,如今又领导Sora团队的大神,却只有本科学历。

据LeCun介绍,Aditya本科就读于纽约大学,并在他的实验室参与过一些项目。

b32b8913ab1acd37594883eaf7cd1712.png

其间,Aditya就已经在研究生成式模型,并和LeCun共同发表论文。

600c64e677713d005444c0bc7982cfdb.png

毕业之后,Aditya本想继续深造,但在OpenAI的暑期实习中被留了下来,成为了正式研究人员。

00后已加入

Sora团队的本科生,还不止Aditya Ramesh一位。

前文提到,这支团队中有一位“00后”Will DePue,就是2022年才刚从密西根大学计算机系本科毕业的。

1dab250fe038b4e01d04266f14004496.png

这位小哥大四的时候创业搞了个市场咨询公司DeepResearch,这家公司后来被Commsor收购。

2023年7月,小哥加入OpenAI。根据他的领英信息,他是在今年1月才刚刚加入Sora项目组的。

另外,David Schnurr和Joe Taylor也都没有博士学位。前者毕业于加州大学圣塔芭芭拉分校,后者毕业于美国旧金山艺术大学。

而正如Aditya Ramesh自己所说,Sora团队的不少成员都是DALL-E 3的作者。

6a9d116f0a5dc20de52f14149632cd4e.png

包括两位华人Li Jing和Yufei Guo。

Li Jing是DALL-E 3的共同一作,2014年本科毕业于北京大学物理系,2019年获得MIT物理学博士学位。在Meta做了2年多博士后之后,Li Jing于2022年加入OpenAI。

华人作者中还有Ricky Wang,今年一月刚刚从Meta/Instagram跳槽到OpenAI,另外两位Yufei Guo、Clarence Ng没有太多公开资料。

新跳槽来的还有Conner Holmes,他在微软工作时以外援形式参与了DALL·E 3的推理优化工作,后来干脆加入OpenAI了。

最后,来看一眼完整作者名单:

62e6338fc129a588018421a60fff1195.png

从团队的组建情况和研究基础来看,Sora应该是OpenAI近半年来的最新成果,而非网传“早已有之但憋着不发”。

不过,Sora炸场,顶级人才又持续星聚,还是惊得众人开始重新考量OpenAI的技术领先性。

就在今天,作者释出的Sora新作,连“同一场景”下的多机位视频都整出来了。

df6001fb240258a5afd60d77d172007e.gif

网友们的心情be like:

b1772fde239a3dd2ac4434c93d680e5d.png

现在,是视频生成,下一个又会是什么?

参考链接:
[1]https://www.wpeebles.com/
[2]https://www.timothybrooks.com/about/
[3]http://adityaramesh.com/about.html

快点击进入—>【CV技术/投稿/求职】交流群

计算机视觉技术交流群成立

 
 
扫描下方二维码,或者添加微信:CVer444,即可添加CVer小助手微信,便可申请加入CVer-计算机视觉微信交流群。另外其他垂直方向已涵盖:目标检测、图像分割、目标跟踪、人脸检测&识别、OCR、姿态估计、超分辨率、SLAM、医疗影像、Re-ID、GAN、NAS、深度估计、自动驾驶、强化学习、车道线检测、模型剪枝&压缩、去噪、去雾、去雨、风格迁移、遥感图像、行为识别、视频理解、图像融合、图像检索、论文投稿&交流、PyTorch、TensorFlow和Transformer、NeRF等。
一定要备注:研究方向+地点+学校/公司+昵称(如目标检测+上海+上交+卡卡),根据格式备注,可更快被通过且邀请进群

 
 
▲扫码或加微信号: CVer444,进交流群
CVer计算机视觉(知识星球)来了!想要了解最新最快最好的CV/DL/AI论文速递、优质实战项目、AI行业前沿、从入门到精通学习教程等资料,欢迎扫描下方二维码,加入CVer计算机视觉(知识星球),已汇集近万人!

▲扫码加入星球学习
 
 
▲点击上方卡片,关注CVer公众号
整理不易,请点赞和在看
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值