Transformer论文「重磅更新」!八子全部离职,谷歌删除Attention Is All You Need所有作者邮箱...

6cc481a394be6dccc8d620ff11efd071.jpeg


  新智元报道  

编辑:桃子 好困

【新智元导读】随着Transformer八子全部离职,谷歌也「删除」了2017年发表的Attention Is All You Need中,所有作者的邮箱。

当年Transformer的那篇惊世之作,早已人去楼(arXiv)空。

就在昨天,网友发现谷歌已经把「Attention Is All You Need」论文中的所有作者的邮箱全部「划线」删除。

b5b6005ac88b42886fe6ab9b8a0f77f7.png

论文地址:https://arxiv.org/pdf/1706.03762v6.pdf

并在论文最上方,用醒目的红色字体备注:

在注明出处的前提下,谷歌特此允许复制本文中的表格和数字,仅供新闻或学术著作使用。

从2017年到2023年,如下这张图已经成为历史。

fc65b2c3ebe98a7dfe96359901c2c5be.png谷歌这波操作,也是很及时。

前段时间,Transformer仅剩的一位作者Llion Jones宣布,7月底要离职谷歌自创业。

ceedd6c25a83bc76c3abbe8454942913.png

论文的更新,也是Llion Jones在昨天提交的第7版。

007bd728ca54dcfd0cdeb30099427ab6.png

网友热议

有网友惊叹道,我以前从未见过论文将所有作者邮箱划去,显然谷歌这种做法自成一派。

1a83bb191f37915339a647bd525737d5.png

0455642c9d12655c7f3c90462bf12a29.png

我不知道这其中有多少是因为他们的工作基本上被扼杀了,而谷歌以外的人(OpenAI等)却在用它做着令人惊叹的事情。又或者,海湾地区的每家风险投资公司都会拿着大笔钱,投资他们想做的任何事情。

LinkedIn上的Ashish和Niki似乎在2022年12月创立了初创公司。我想知道那最终会是什么。

9d66202cc442daba0b737d86d4cd2a49.png

有网友回答道,可能是两者的结合。谷歌主要发明了生成性人工智能热潮背后的基础技术(除了A100),然后拒绝将其中任何一项作为产品实施。

他们声称要注重安全——我发现他们更有可能不想扰乱搜索业务,并认为这项技术需要更长时间才能成熟。谷歌遇到了创新的困境。

8df463e63594371e79f6ee6730c51721.png

还有网友给Transformer八子,做了一个总结。

cf53b87fc193d2ca6a65562ae893f596.png

新硅谷「八叛徒」

那么,其他七子现又身处何处呢?

Jakob Uszkoreit被公认是Transformer架构的主要贡献者。

b06407e92059fc2a33a875847344bedd.png

他在2021年中离开了Google,并共同创立了Inceptive Labs,致力于使用神经网络设计mRNA。

7bfc0b388e313e934a8bf710246b57e5.png

到目前为止,他们已经筹集了2000万美元,并且团队规模也超过了20人。

27ce248922f49f81d1731aff4ca105a9.png

6733ea902316c8676f76e4e5638606cd.png

Ashish Vaswani在2021年底离开谷歌,创立了AdeptAILabs。

37b4dcde8a38b262ff60edf605fd58ef.png

可以说,AdeptAILabs正处在高速发展的阶段。

目前,公司不仅已经筹集了4.15亿美元,而且也估值超过了10亿美元。

此外,团队规模也刚刚超过了40人。

6570cdbe2cb94653fb4bc730bdb7ce73.png

4a78a0ae2c457867aac4a4b6dfed746f.png

然而,Ashish却在几个月前离开了Adept。

5b273a81908a3f5eff8172e8b0776f06.png

在Transformers论文中,Niki Parmar是唯一的女性作者。

7be5e87e978c1ba12b20d5f25bbfc7e3.png

她在2021年底离开Google,并和刚刚提到的Ashish Vaswani一起,创立了AdeptAILabs。

不过,Niki在几个月前也离开了Adept。

0e0fc6d09b038c55cb7bb0754544cf2f.png

Noam Shazeer在Google工作了20年后,于2021年底离开了Google。

8d761b8b34965877ac147346de4eebc4.png

随后,他便立刻与自己的朋友Dan Abitbol一起,创立了Character AI。

cf0fdde69dec26acc28ed780009b7f03.png

虽然公司只有大约20名员工,但效率却相当之高。

目前,他们已经筹集了近2亿美元,并即将跻身独角兽的行列。

2ec465a72008ab4c30b6c8fa15807607.png

1a90534d52aa0338708b84598644e8ef.png

Aidan Gomez在2019年9月离开了Google Brain,创立了CohereAI。

4047b31e65fe49f47d8853ec0237020b.png

d1f53feede2efbc2c4fa5d0e94b0e39a.png

经过3年的稳定发展后,公司依然正在扩大规模——Cohere的员工数量最近超过了180名。

与此同时,公司筹集到的资金也即将突破4亿美元大关。

6ab4cce48b63b65ddb3aea90bbe59c6c.png

50c531fd6162754554e912b67efbcf05.png

Lukasz Kaiser是TensorFlow的共同作者人之一,他在2021年中离开了Google,加入了OpenAI。

f6c9b7f062e1d1447838b212fc2f414f.png

0e0a0f4647ffaa74332ddfc3c8bf6071.png

Illia Polosukhin在2017年2月离开了Google,于2017年6月创立了NEAR Protocol。

6cd4b1790a61251c2e11b30958241cb4.png

bf7e9110e88b17291300b9f9a40a50aa.png

目前,NEAR估值约为20亿美元。

与此同时,公司已经筹集了约3.75亿美元,并进行了大量的二次融资。

d3b147b5c1560da7e6a9ab91fd3508dd.png

8296fda4daed3818b44b87fb627ee182.png

Llion Jones在2023年8月离开了Google,并于同月加入初创公司Stealth Startup,任AI研究科学家。

babb782e5725b6fff1dec1f53ba52e52.png

514833cb7bb2a036ac0854724dc88a97.png

参考资料:

https://arxiv.org/pdf/1706.03762v6.pdf

 
 

32bc3c33a8c5af9cfd578f0371d2ce92.jpeg

 
 
 
 
 
 
 
 
往期精彩回顾




适合初学者入门人工智能的路线及资料下载(图文+视频)机器学习入门系列下载机器学习及深度学习笔记等资料打印《统计学习方法》的代码复现专辑机器学习交流qq群772479961,加入微信群请扫码
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值