海螺MiniMax-01登顶「开源大模型榜首」,比肩DeepSeekV3,吊打GPT-4o与Claude-3.5!
原创 AI产品汇 AI产品汇 2025年01月16日 07:31 广东
“ 近两年来,大模型领域已经火的一塌糊涂,各种架构、各种大小的大模型接踵而至,国内外的大模型厂商基本上都有自己的大模型。虽然已经有了Llama-3和DeepSeek V3等开源模型,但是开源大模型界与闭源大模型之间还有着很大的差距!目前,大多数模型的上下文窗口范围从32K到256K令牌。然而,这些长度往往无法满足实际场景的需求。为了应对这些挑战,研究人员提出了多种不同的方法来降低注意力机制的计算复杂性:稀疏注意力、线性注意力、长卷积、状态空间模型(Mamba系列)和线性RNN、RWKV等等。 海螺AI开源了MiniMax-01系列大模型,包括MiniMax-Text-01和MiniMax-V