- 博客(3)
- 收藏
- 关注
RSS订阅转载 对话香港大学马毅：“如果相信只靠 Scaling Laws 就能实现 AGI，你该改行了”
马毅：现有的深度学习模型，例如 Transformer（主流大语言模型架构）、Denoising Diffusion （去噪扩散模型，主流文生图模型）本质都在做一样的事：压缩数据——就是从高维的图像、声音、语言等信号里，找到可以表示数据间相关性的低维结构，这些低维结构就可以帮助预测高维信号——只是压缩的算子和优化策略不太一样。智能最本质的特征是能纠正自己现存知识的不足，能增加新的知识。是更早时 40 年代的信息论、博弈论和控制论，它们研究信息的编码、解码，反馈和纠错机制，这都是底层智能，是动物也有的特点。
2024-06-11 17:07:53
63
转载 超越GPT-4v！全新强化学习框架！关键多模态模型学会打扑克
只用强化学习来微调，无需人类反馈，就能让多模态大模型学会做决策！这种方法得到的模型，已经学会了看图玩扑克、算“12点”等任务，表现甚至超越了GPT-4v。这是来自UC伯克利等高校最新提出的微调方法，研究阵容也是相当豪华：图灵奖三巨头之一、Meta首席AI科学家、纽约大学教授LeCunUC伯克利大牛、ALOHA团队成员Sergry LevineResNeXt一作、Sora基础技术DiT作者谢赛宁香港大学数据科学学院院长、UC伯克利教授马毅。
2024-06-04 14:41:51
38
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人