如何做出顶级AI研究?OpenAI科学家Jason Wei《AI研究思考》演讲,讲述杰出与普通研究之差别...

29d8b5ca95b03672c86ad2b38e3b8898.jpeg

来源:专知

如何做出世界级影响力的AI研究?我们来听听OpenAI科学家Jason Wei在伯克利的报告《AI研究思考》,非常值得关注!

bf59049a36c44d95c87b4ffc69d5a97d.jpeg

77baf4d977127113303bf83da1807e60.jpeg

OpenAI科学家Jason Wei。Jason Wei毕业于达特茅斯大学,之前,他在Google Brain担任高级研究科学家,在大模型研发领域拥有丰富的经验和杰出成就,在谷歌工作期间曾主导推广了大语言模型中包括思维链提示、指令微调和模型涌现在内一系列关键思想的诞生。

过去的几年里,我与一些极为才华横溢的研究者合作并进行了观察,我注意到了以下趋势:

  1. 当开始一个项目时,普通的研究者往往会迅速跳到建模提议、架构设计、新思路等。而杰出的研究者通常首先会手动查看数据和与模型互动,深入了解问题,然后再提出(通常是简单的)方法。

  2. 普通研究者可能经常编写乱七八糟、不可重用且需要多个独立步骤的代码。而杰出的研究者往往也是优秀的软件工程师——他们的代码可以轻松地扩展用于未来的实验,他们编写详尽的测试,并且建设基础设施以迅速进行多次实验并用最少的点击次数可视化结果。

  3. 虽然普通研究者可能主要是独自工作或与一两个人合作,但杰出的研究者知道研究是一种社交活动。他们与经验各异的人合作,分享研究成果,并有说服力地传达他们的愿景。

  4. 普通研究者可能会陷入“兔子洞”——如果他们的实验结果只是普通,他们会花3个多星期撰写并提交到会议。而杰出的研究者在知道某种方法不会取得重大突破时,会迅速转向其他研究。

  5. 如果普通研究者取得了一些成功,他们可能会试图继续做他们觉得舒适的事情,即使这样的方法变得过时。而杰出的研究者能迅速调整,并不断适应新的进展和范式。

  6. 普通研究者经常实施针对特定任务的解决方案,这些方案针对单一任务进行了大量优化。杰出的研究者也可能致力于特定任务,但他们会试图思考可以应用于许多其他任务的通用方法。

  7. 普通研究者谈论并优化论文或会议的接受率。我从未遇到一个真正关心这些事情的杰出研究者。

(顺便说一句,被称为普通研究者不应该被视为侮辱。即使进行研究都需要付出大量努力:))

b2e1f040ba67eccbfa379a03c3a2e095.jpeg

杰出研究者

9e1fd87fc4d2edfa0057dbd59160b83c.jpeg

6c5a2ace70e485a5958c65484ee15903.jpeg

cdb4584988c7e3314652fc4b35c9664f.jpeg

40798d9ca2f1a738644339e3d895486e.jpeg

选择一个研究主题

d51c99d936da44030f8d6f3be2531f06.jpeg

设计与执行实验

4f1a638751a29947d33e586be6323d81.jpeg

撰写论文

2b7198fae4d22f8ee527355bb154345e.jpeg

最大化影响力

e8dff296df804dba2a9c714fe481ba7b.jpeg

647e9a4a588e0bdfa9304f655ed8ec56.jpeg

008221b1c5ac206a3779382762653cf7.jpeg

dd3113d99a00107c90f229f58dc24f12.jpeg

5fcd226fb892087d339eead0cd254591.jpeg

9e8dd854133d5537f41d8a0b90a36625.jpeg

9fc3505e1207666aa2fc4cdd9404ba9d.jpeg

08b9078f298ed3069d36eeddf41e10b7.jpeg

5ec884cbdb63de319cf2955b64259e83.jpeg

f6e75e058f7f4d498a82ce176b3befba.jpeg

72d1ed98acf78f37c17b2bc9964af43a.jpeg

d2caa1a794a5e956dbef633033035a12.jpeg

15ebc4bcecefa25100b19e93ec6a6d56.jpeg

1018e8b8f9b2a86f65ebb80629b51096.jpeg

未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)大脑研究计划,构建互联网(城市)大脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。每日推荐范围未来科技发展趋势的学习型文章。目前线上平台已收藏上千篇精华前沿科技文章和报告。

  如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”

eceec8e9c7dc7da620e7106ad55728d2.jpeg

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值