weixin_46942074的博客

在会话人工智能研究中，有一个明显的趋势是开发具有更多参数的模型，例如ChatGPT模型。虽然这些扩展模型倾向于生成越来越好的聊天响应，但它们需要大量的计算资源和内存。这项研究探讨了一个相关的问题:相对于单一的大型模型，小型模型的组合是否可以协同实现相当或增强的性能?我们介绍了一种称为混合的方法，这是一种简单而有效的集成多个聊天ai的方法。我们的经验证据表明，当特定的较小模型协同混合时，它们可能会超越或匹配大得多的对应物的能力。