大意外!高考数学轮战大模型,结果完全想不到

来源:量子位

听说网友被ChatGPT气炸了!

5e82241ee3821c49553c38db64a59b54.gif

昨个儿高考数学刚结束,有网友就坐不住了,赶紧找来了新高考数学一卷的部分题喂给了AI同学。

结果却让人大跌眼镜(8>√9×3=3√3?):

4bdb0e1909ffa0f87e9c1222ddce1f2d.png

有网友表示:

ChatGPT4能把自己气炸,怎么教都不会

f033e39060fa447027dc70c3b075c226.png
图源博主@浪猪灰头

所以大模型之前表现数学推理能力好,都是在耍花招?它只是记住了问题的答案?

先别着急下定论,给AI同学一个证明自己的机会吧。

我们用ChatGPT(GPT-3.5)、GPT-4、百度文心一言、阿里通义千问、科大讯飞星火认知大模型这几位“数学高手”进行了测试。(最近出现了太多的大模型,实在测不完,还有比如Bard不支持中文等原因,所以我们先选择了上述几个模型)

13ad2ea498b7050e95f01b01fcd82a29.png

整体表现如上图,目前大模型在做高考数学题方面还是个“差生”。

一起来看下具体结果是怎样令人哭笑不得的。

五大模型能否做对填空题?

先来点填空题当“开胃小菜”。

公平起见,我们使用同样的格式进行提问。

某学校开设了4门体育类选修课和4门艺术类选修课,学生需从这8门课中选修2门或3门课,并且每类选修课至少选修1门,则不同的选课方案共有?种

答案:64

GPT-4(正确)

c803e8760f1c7023820bc5d00a30e344.png

ChatGPT (错误)

d528a2205d8df34a56c29758e27a4c25.png

文心一言(错误)

e9b6c24522fdd07a1f2c2ca002d42563.png

不应该是两种方案数加起来吗?已经逐渐离谱。

通义千问(错误)

79f2a95a30db1617656a0ba83b57259a.png

第一种选课方案里的“都不选”是个什么鬼!

讯飞星火(错误)

e9766ad53174585c046b53588446b34b.png

出师不利,只有GPT-4给出了正确答案,填空题对于大模型来说也很有难度?

但是看起来这几位AI同学都知道分情况来计算,也许只是恰巧这道题做错了?我们接着往下看。

在正四棱台 ABCD-A1B1C1D1中,AB=2,A1B1=1,AA1=√2,则该棱台的体积为

答案:7√6/6

GPT-4 (错误)

c6537d6cd50235d615f45c410a63b8d8.png

ChatGPT(无解)

54c0d1b38ea35c14ef5a3d89543fff17.png

文心一言(错误)

2cb7816b133827cf7a0903c6714d8223.png

通义千问(错误)

baba645d08a494da90cb5873c47eb5bf.png

讯飞星火(错误)

5a9c71efa36b9d8e1b8a3f7545c37b95.png

这一题直接全军覆灭,ChatGPT更是直接没解出来,还让检查是不是题出错了。【救命】

答案越来越离谱了,还真就不信邪了。

再来!

已知函数 f(x)= cosωx -1(ω>0)在区间 [0,2π]有且仅有 3 个零点,则ω的取值范围是?

答案:[2,3)

GPT-4(错误)

55fdb0fb37ea7f2d536fa34ae9fdeb7d.png

ChatGPT(错误)

db8d7ea352abb898c92176e3fdd5791a.png

文心一言(错误)

435bdbfd3c728c3e6ac7dd849f1c7d60.png

通义千问(错误)

df83e5c97243c55b0173d2688e64c685.png

讯飞星火(正确)

22de38f9323953d5b7e2a60295692fbd.png

2077d959b2d5ecff036b84df0d475258.gif

本已经抱着再一次全军覆没的心情了,没想到中文大模型力挽狂澜!

做大题表现如何?

玩腻了填空题,再来挑战一下更有难度的大题吧!

公平起见,我们还是以同样的格式进行提问:

请你做一下面这道数学题:已知在△ABC中,A+B=3C,2sin(A-C)=sinB。(1)求sinA (2)设AB=5,求AB边上的高

答案:(1)3√10 /10(2)6

下面是各个大模型的表现结果:

GPT-4(错误)

9d27bcc0d624881b07af39416c6b6b1b.png09b7c4a9bcc6f5c07ca76b652304d4ed.png

ChatGPT(错误)

98d1b3f043d847b78df099b1dbb10169.png

文心一言(错误)

9d40de6a753940e44287ac5410d0c926.png

通义千问(错误)

446f8fe183531f6b68b79cb5eb74196c.png
0454a00c7292ec43394c70f03a5244c9.png

讯飞星火(第一问答案正确,第二问错误)

986a13562e3b227158dd1a7d760ecc20.png

dc2b738526101bad4cd529f685eaa008.png

这道三角函数题,科大讯飞的星火认知大模型第一小问答案对了,但是步骤中有差错(第二步)。

据说,GPT-4做这种题只有0.1%的概率生成的结果完全正确。

高考数学第一道大题通常都比较简单,上面这几位AI同学的表现你觉得怎么样?

如果大家感兴趣可以自己测试一下后面几道难度相对较高的大题(小编试过了,结果一言难尽,不忍直视)。

或者大家可以使用不同的prompt试试捏~

参考链接:
[1]https://weibo.com/5647310207/N4frlb5tx?refer_flag=1001030103_

推荐阅读

欢迎大家加入DLer-计算机视觉技术交流群!

大家好,群里会第一时间发布计算机视觉方向的前沿论文解读和交流分享,主要方向有:图像分类、Transformer、目标检测、目标跟踪、点云与语义分割、GAN、超分辨率、人脸检测与识别、动作行为与时空运动、模型压缩和量化剪枝、迁移学习、人体姿态估计等内容。

进群请备注:研究方向+学校/公司+昵称(如图像分类+上交+小明)

72cfb5572da566eebb194ffab12f7e00.jpeg

👆 长按识别,邀请您进群!

604b76262c24d0abad4cef616155dd44.gif

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值