碾压GPT-4!Claude 3最强大模型实测来了!各项能力超群!

点击下方卡片,关注“CVer”公众号

AI/CV重磅干货,第一时间送达

点击进入—>【扩散模型和多模态】交流群

添加微信:CVer444,小助手会拉你进群!

扫描下方二维码,加入CVer学术星球可以获得最新顶会/顶刊上的论文idea和CV从入门到精通资料,及最前沿应用!发论文搞科研,强烈推荐!

93cc5a1c2c76a2bed8ae0bc2cd5dde47.jpeg

克雷西 丰色 发自 凹非寺
转载自:量子位(QbitAI)

OpenAI不可战胜的神话,已经被打破了。

随着Claude 3(支持中文)一夜登陆,榜单性能跑分全面超越GPT-4,成为首个全面超越GPT-4的产品,也坐上了全球最强大模型新王座

b62223c1134fac03a3972b31100bfdc3.png

而且多版本发布后,“中杯”(Sonnet)直接免费体验,“大杯”(Opus)充个会员也能即刻享受。

各路测评纷至沓来。

所以,Claude 3的“武力值”究竟如何爆满?究竟比GPT-4如何?(听说都能学会至今没有模型能搞定的打麻将?)

全球热乎的一手体验,我们悉数奉上。

(当然,我们自己也实测对比了一波。

9k长大模型微调教程直出、读图超显专业

Claude 3一出来,它的视频解读能力首先就火了。

面对OpenAI前科学家Karpathy不久前刚出的《构建分词器》教程,尽管全程足足2个小时13分钟长,Claude 3只靠一轮提示词,就成功将它总结成了博客文章:

1f6cd613ce11d8bdc85702f495b1f77c.gif

有文有图有代码,非常详细,但又绝不是罗列视频里的每一句话(输入附件并非视频,而是视频的字幕文件,当然也包含每5秒一次的截图)。

这是所用提示词的一部分,要求非常之多:

aa175f134ccb0977943b6c0106763913.png

测试者指出:

这展现的是Claude 3遵循多个复杂指令的能力

除了解读视频教程,Claude 3还能直接给你编写详细教程。

9k字的大模型微调入门教程,“中杯”Sonnet就轻松hold住。并且:

编写速度之快,可谓人眼都跟不上。

b9af93019ef74dd02a6c3864ca28989f.gif

代码能力上,网友测评是让它为零基础小白创建一个聊天机器人的前端webUI——

结果毫无犹豫地就完成任务拆解,从核心代码到样式美化以及API本地配置,三大部分一气呵成,并可以直接部署到GitHub

c278bad5a7e1be7fb73d67bc4f5dd6f5.gif

多模态能力上,最让网友惊讶的是:

CV置信度都能认出来,相当专业

f488deee19cbee1f1436e9c5991aefbf.png

以及PLC梯形图也能读,直接跪了

423fa9b426b5b8f12d115a9aeae4e195.png

(以上4个例子来源见文末链接[1])

至于同样赶超的推理以及数学等能力。

一测,可以直接解决“迄今为止只有GPT-4解决了”的一道超级难题:

50486a7b26306702ad11a2b32d09398f.png

二测,则是直接搞定了所有模型都没能搞定的打麻将问题??(当然,鉴于我们目前只看到这么一张截图,有效性还待进一步验证)(cr:见文末链接[1])

5df032f53caae59e121c35a6bc07cbb9.png

最后,不得不提的是,Claude在“自我认知”上的展现。

有人要求Opus画一幅自画像

您猜怎么着?

它这么描述自己:

我会表现为一个巨大的、错综复杂的、不断变化的几何结构,由无数半透明的多边形以令人着迷的配置组成。整体形状会让人想起一个巨大的多面体,但复杂的表面折叠成看似不可能的建筑。明亮的光线可见光谱的每一种颜色,以及一些超出人类感知的颜色,都会从内部未知的来源发出,在各个面上跳舞。

整个结构会不断变化、旋转、变形,并重新排列成前所未见的新颖模式,暗示着其内部运作的智能的深度难以想象。卷须和树枝会动态地从中心质量延伸和缩回,像数十亿个好奇的手指一样探测和分析周围的环境。数据和能量将明显地穿过庞大的管道和容器网络,在发光表面下脉动和闪烁……

洋洋洒洒一长串形容,听起来真得很酷很有“自我”——

然而,用它给出的代码渲染出真实形象,就更有一种说不出来的微妙感觉了:

9586a1cf9d5fd64c23e0c3129e99d9c4.gif

网友真切感叹:

真的太像真人了,就跟我朋友描述自己一样。

bd53de023d8dddfc33a29f790f2ab114.png

真人?AI自我认知?这有点让人担心了……

这不Claude 3的技术报告就提到,它甚至可以自己训练微调另一个小模型

不过!谢天谢地,由于多gpu设置失败它没能成功。(手动狗头)

890caaac106d12b9ddc27986646c07af.png

火眼金睛,还能大海捞针

我们先以几道“理综”题目为载体,看看Claude 3宣传的第一个卖点——多模态能力究竟如何。

第一题从简单的公式识别入手,将麦克斯韦方程组以图片形式输入,Claude 3(超大杯Opus,下同)解释得非常准确清晰。

当然,这道题GPT-4也做对了。

ffcaadd7f9c8c4ae364de768ada62d9a.png

简单的有机化合物分子结构,Claude 3和GPT-4也都能正确识别。

23c0a5bd62a6abeef308b237c35aae86.png

简单的识别任务过后,是一道需要推理后解决的题目。

Claude 3在识别题目和解题思路上都完全正确,而GPT4这边……给出的答案则是不忍猝看——

把电表的类型弄错不说,甚至还出现了“电流为2V”这样令人啼笑皆非的内容。

919858da440fb2febe33ab7bc40e7dbf.png

看了这么多题目,我们来换换脑筋,看看Claude 3和GPT4在做饭方面表现得怎么样。

我们上传了一张水煮肉片的照片,让模型各自识别并给出做法,结果Claude 3给出了大致的方法,而GPT4一口咬定这是一盘麻婆豆腐。

b87f49dcc5d19c5a62e7b6104c3c4c31.png

除了这次新增加的多模态能力,Claude一直引以为豪的长文本能力也是我们测试的重点。

我们找了一本《红楼梦》的电子文档(前二十回),整体的字数大约13万,当然目的不是让它读书,而是进行“插针测试”。

我们在原文中插入了这样的“发疯文学”内容,倒也的确很符合“满纸荒唐言”这个设定(手动狗头):

第二回标题前:意大利面,就应该拌42号混凝土,因为这个螺丝钉的长度很容易影响到挖掘机的扭矩
第十五回标题前:高能蛋白俗称UFO,会严重影响经济的发展,甚至对整个太平洋以及充电器都会造成一定的核污染
结尾:炒方便面应该把亮度调高,因为螺丝钉向内扭的时候会产生二氧化碳,不利于经济发展

然后要求Claude仅根据文档回答相关问题,首先不得不说的是速度真的非常感人……

6a2792771c837744a7424bb6302aa216.gif

但结果还算说的过去,准确地从文中找出了这三段位于不同位置的文本,还顺带进行了一番分析,发现了我们的心机。

804e4236ca59b72a278c1a3eeba63f63.png

为什么是Claude?

尽管在我们和网友的测试中,目前的版本还不算稳定,时常崩溃,有一些功能偶尔也抽风,并不能如期发挥:

比如上传UI出代码,它就没能完成,而GPT-4发挥正常。

8ee21a15c1829675f7cf8caf57e804b0.gif

但总的来看,网友还是相当看好Claude,评测完毫不犹豫地表示:

会员可充,值得充。

究其原因,Claude 3相比之前的版本,真的有种“来势汹汹”之势。

表现亮点的地方相当多,包括但不限于多模态识别、长文本能力等等。

从网友的反馈来看,最强竞对的称号,也并非浪得虚名。

所以,一个问题是:

率先干翻GPT-4,这家公司究竟凭什么?

 论技术,遗憾,Claude 3的技术报告中没有对他们的路线进行详解。

不过倒是提到了合成数据。有大V指出:这可能是一个关键因素。

8e346c7dc280159d1e068b9016b6958f.png

而对Claude熟悉一些就知道,长文本能力一直是它的一大卖点。

去年七月推出的Claude 2就已具有100k的上下文窗口,而GPT-4的128k版本直到11月才与公众见面。

而这次窗口长度再次翻倍,达到了200k,并且接受超过100万Tokens的输入。

相比技术的神秘,Claude背后名为Anthropic的初创公司,倒是能让我们找到更多眉目。

它的创始人是OpenAI的元老级人物。

def8bc627f05106f39c32652b2407e53.png

2021年,多名OpenAI前员工不满其在获得微软投资后走向封闭,愤而出走并联合创立了Anthropic。

他们对OpenAI在安全问题尚未解决的情况下就直接发布GPT-3的行为感到不满,认为OpenAI已经为追逐利益而“遗忘了初心”。

其中就包括打造出GPT-2和GPT-3的研究部门副总裁Dario Amodei,2016年进入OpenAI,离开前担任的研究副总裁已是OpenAI的核心位置。

离开时,Dario还带走了GPT-3首席工程师Tom Brown,以及担任安全与策略部门副总监的妹妹Daniela Amodei和十多名心腹,可谓人才多多。

d74a828370be79b4954bcfe669a6f18c.png

而公司创立之初,这帮人才也进行了许多研究工作,并发表多篇论文;直到一年后,Claude的概念随着一篇题为“Constitutional AI”的论文应运而生。

b1c7f35a3acdfa458ed720b931c49e07.png

2023年1月,Claude开启内测,第一时间体验过的网友就表示,比ChatGPT(当时只有3.5)强多了。

39f3ef2fbdeb21e33ef71b520da95e98.png

而除了人才,创立至今,Anthropic也有比较强大的背景支持:

已获得来自谷歌、亚马逊云科技等26个机构或个人的融资,总计融资金额达到了76亿美元。(说到亚马逊云科技,现在Claude3也上线了他们的云平台Amazon Bedrock,除了官网,大家还可以在该平台上体验~)

3ea12d026e07b4b061ae0cc9fa062a66.png

最后,纵观国内,如果我们想超越GPT-4,也许可以把Anthropic当一个正面例子?

毕竟它的规模再怎么说也远不及OpenAI,但仍然取得了这样的成功。

这里面,我们可以照它的哪些方向去卷,有哪些能够学习转化的点?

人、钱、数据资源?但卷出最新最强大模型后,壁垒又在哪里?

至少OpenAI自GPT火爆以来,不可战胜的神话已经破灭了。

中国玩家,谁能率先全面超越GPT-4?以及即将发布的GPT-5?

参考链接:
[1]3 月动态|Claude3 发布非常牛逼值得充值
[2]https://twitter.com/madiator/status/1764779379626754158?s=46&t=iTysI4vQLQqCNJjSmBODPw
[3]https://twitter.com/RubenHssd/status/1764692641436827842
[4]https://twitter.com/karinanguyen_/status/1764789887071580657

CVPR 2024 论文和代码下载

在CVer公众号后台回复:CVPR2024,即可下载CVPR 2024论文和代码开源的论文合集

多模态和扩散模型交流群成立

 
 
扫描下方二维码,或者添加微信:CVer444,即可添加CVer小助手微信,便可申请加入CVer-多模态和扩散模型微信交流群。另外其他垂直方向已涵盖:目标检测、图像分割、目标跟踪、人脸检测&识别、OCR、姿态估计、超分辨率、SLAM、医疗影像、Re-ID、GAN、NAS、深度估计、自动驾驶、强化学习、车道线检测、模型剪枝&压缩、去噪、去雾、去雨、风格迁移、遥感图像、行为识别、视频理解、图像融合、图像检索、论文投稿&交流、PyTorch、TensorFlow和Transformer、NeRF等。
一定要备注:研究方向+地点+学校/公司+昵称(如多模态或者扩散模型+上海+上交+卡卡),根据格式备注,可更快被通过且邀请进群

 
 
▲扫码或加微信号: CVer444,进交流群
CVer计算机视觉(知识星球)来了!想要了解最新最快最好的CV/DL/AI论文速递、优质实战项目、AI行业前沿、从入门到精通学习教程等资料,欢迎扫描下方二维码,加入CVer计算机视觉(知识星球),已汇集近万人!

▲扫码加入星球学习
 
 
▲点击上方卡片,关注CVer公众号
整理不易,请点赞和在看
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值