- 博客(3)
- 收藏
- 关注
转载 对话香港大学马毅:“如果相信只靠 Scaling Laws 就能实现 AGI,你该改行了”
马毅:现有的深度学习模型,例如 Transformer(主流大语言模型架构)、Denoising Diffusion (去噪扩散模型,主流文生图模型)本质都在做一样的事:压缩数据——就是从高维的图像、声音、语言等信号里,找到可以表示数据间相关性的低维结构,这些低维结构就可以帮助预测高维信号——只是压缩的算子和优化策略不太一样。智能最本质的特征是能纠正自己现存知识的不足,能增加新的知识。是更早时 40 年代的信息论、博弈论和控制论,它们研究信息的编码、解码,反馈和纠错机制,这都是底层智能,是动物也有的特点。
2024-06-11 17:07:53
63
转载 超越GPT-4v!全新强化学习框架!关键多模态模型学会打扑克
只用强化学习来微调,无需人类反馈,就能让多模态大模型学会做决策!这种方法得到的模型,已经学会了看图玩扑克、算“12点”等任务,表现甚至超越了GPT-4v。这是来自UC伯克利等高校最新提出的微调方法,研究阵容也是相当豪华:图灵奖三巨头之一、Meta首席AI科学家、纽约大学教授LeCunUC伯克利大牛、ALOHA团队成员Sergry LevineResNeXt一作、Sora基础技术DiT作者谢赛宁香港大学数据科学学院院长、UC伯克利教授马毅。
2024-06-04 14:41:51
38
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人