卷友们好,我是rumor。
没想到一年过的这么快,好像刚刚写完OKR,立完flag,就到了滑雪的季节。
今天我们不卷技术了,来给大家推荐一份由 stateof.ai 出品的2021 AI年度报告,其中包含了五点重要的总结:
Research:2021年的AI重要科研进展回顾
Talent:AI人才的市场供需情况
Industry:AI在商业上的不同尝试
Politics:AI在政策上、经济上的影响
Predictions:接下来一年的AI进展预测
这份188页的PPT报告由知名风投公司Air Street Capital的合伙人Nathan Benaich和投资了100+初创公司的天使投资人Ian Hogarth联合撰写,该系列报告从2018年开始已经连续撰写了4年。除了两位主要作者外,还有众多研究者、机构以及reviewer把关,既有深度又有广度,涵盖了AI的方方面面。
![29c3e141b0442ed7196eb25bc22fec59.png](https://i-blog.csdnimg.cn/blog_migrate/fb5929c481156c8c5edf01100d49a562.png)
即使今年一篇论文都没读,也千万不要错过这份报告,说不定就激发了自己的某个idea,就地起飞!
下面就带大家挑重点速读一下,如需下载请在公众号「李rumor」后台回复「21报告」。
进展总结
Research
在2021年,Transformer结构除了NLP任务外,在语音、CV等领域都有落地,逐渐成为一种通用结构
大型语言模型在尺寸上不断扩张,并且每个国家都有自己的语言模型
AI-first方法席卷了生物领域,在蛋白质、RNA上有很高的仿真度
谷歌的JAX深度学习框架被越来越多的研究者使用
Talent
从1980年至今,中国高校的科技刊物发表量飞速上升
随着大型科技公司选择和顶尖高校合作,AI research的分化越来越严重
学术组织的计算资源不足,而88%的顶级AI学院都能获得大型科技公司的赞助
Industry
人工智能和数据公司的生态系统已经显着成熟,有大量 IPO,标志着它们开始进入AI应用部署的阶段
两家公司利用AI完成药物研发并上市,成功IP,预示着AI在医药方面的潜力
AI产品成功在各个高风险领域落地,例如英国国家电网、员工健康和安全、以及仓储
AI社区开始重新关注应用中的数据问题,比如 bias, drift, specification, labels 等
随着各国寻求供应链主权和对英伟达的 Arm 收购进行调查,半导体相关的公司大幅加速
Politics
AI已经被用于各国的军方:自动武器的研发,并会定期进行更多测试
AI安全现在是重中之重,但只有不到 50 名研究人员全职从事该领域的工作
New experiments on AI governance emerge: totally distributed + open source, private + open source, and public benefit corporation
欧洲已经开始对AI的监管
预测
过去的一年里,AI不仅在基础的NLP、CV、语音任务上都有很大的提升,在医药、化学、游戏RL也有亮点的应用。对于接下来的2022年,作者们做了以下8点预测:
Transformer将替代循环神经网络,与RL联合学习世界知识,在更复杂的游戏环境中超越人类
荷兰ASML公司(最先进的光刻机制造商)的市值将达到500亿
Anthropic publishes on the level of GPT, Dota, AlphaGo to establish itself as a third pole of AGI research
AI半导体公司将迎来一波整合,Graphcore、Cerebras、SambaNova、Groq 或 Mythic 中的至少一个被大型科技公司或主要半导体公司收购
Transformer+CNN的混合模型将用少于十倍的参数达到ImageNet top-1的SOTA(目前是CoAtNet-7, 90.88%, 2.44B params)
DeepMind将在物理领域发布一项重要进展
在PapersWithCode创建的monthly repos上,JAX框架的将从1%增长到5%
将出现一家关注垂直行业的AGI研究公司
从这份报告来看,虽然互联网红利见顶,但AI在其他领域仍处于初始发展阶段,还是有很多机会等待大家发掘的。祝大家早日发现自己的细分蓝海,我的话再立个flag,希望明年能入门量子NLP。
![35c552ea3e0836160d71ff6d9bd5edec.png](https://i-blog.csdnimg.cn/blog_migrate/95196e8d062b207a90f7c3e5b497bce2.png)
欢迎对NLP感兴趣的朋友加入我们的「NLP卷王养成」群,一起学习讨论~
扫码添加微信备注「NLP」即可⬇️
大家好我是rumor
一个热爱技术,有一点点幽默的妹子
欢迎关注我
带你学习带你肝
一起在人工智能时代旋转跳跃眨巴眼
「量子力学,量力而学」