大模型混战究竟谁才是实力选手?清华对国内外14个LLM做了最全面的综合能力测评,其中GPT-4、Cluade 3是当之无愧的王牌,而在国内GLM-4、文心4.0已然闯入了第一梯队。
在2023年的「百模大战」中,众多实践者推出了各类模型,这些模型有的是原创的,有的是针对开源模型进行微调的;有些是通用的,有些则是行业特定的。如何能合理地评价这些模型的能力,成为关键问题。
尽管国内外存在多个模型能力评测榜单,但它们的质量参差不齐,排名差异显著,这主要是因为评测数据和测试方法尚不成熟和科学。我们认为,好的评测方法应当具备开放性、动态性、科学性和权威性。
为提供客观、科学的评测标准,清华大学基础模型研究中心联合中关村实验室研制了SuperBench大模型综合能力评测框架,旨在推动大模型技术、应用和生态的健康发展。
最近,2024年3月版《SuperBench大模型综合能力评测报告》正式发布。
评测共包含了14个海内外具有代表性的模型。其中,对于闭源模型,选取API和网页两种调用模式中得分较高的一种进行评测。
根据评测结果,可以得出以下几个主要结论:
● 整体来说,GPT-4系列模型和Claude-3等国外模型在多个能力上依然处于领先地位