模型融合来袭！ChatGPT和Claude 杂交能变聪明10倍？

最新推荐文章于 2024-08-24 20:42:47 发布

小马不会过河

最新推荐文章于 2024-08-24 20:42:47 发布

阅读量988

点赞数 21

文章标签： chatgpt 人工智能深度学习语言模型自然语言处理 llama vscode

本文链接：https://blog.csdn.net/m0_59163425/article/details/141401842

版权

模型融合在AI领域里炸开了锅！

不少人都在鼓吹这项技术有多牛X，Netflix的机器学习大神Cameron R. Wolfe 也忍不住发推科普了一波。

什么是模型融合？

简单说就是把多个AI模型的参数混合在一起，生成一个新模型。

听起来简单？但效果却出奇的好！

Cameron表示，这招不需要额外的数据和算力，只要把模型权重加减一下就行了。而且融合后的模型还真能集各家之所长，性能明显提升。

比如最近火爆的Prometheus-2模型，就是用这招把几个评估模型的能力融合到一起的。

那么问题来了，为啥要用这招呢？

Cameron解释说，我们经常需要调教预训练大模型，让它更擅长某个领域。

以前都是用prompt或fine-tuning，现在模型融合提供了新选择。

比如想让大模型更懂医学，直接跟一个医学微调模型融合就行了，So easy！

具体怎么融？Cameron介绍了几种常见方法：

线性融合：最简单粗暴，直接对参数加权平均。虽然简单但出奇的有效。
任务向量：把微调后的模型减去原始模型，得到一个"任务向量"。可以用这个向量做加减法，比如减掉有毒内容的任务向量，模型就能生成更干净的内容了。
TIES融合：在任务向量基础上加了三板斧 - 修剪、选举和分离，可以去掉冗余权重、解决任务向量间的分歧。
DARE融合：跟TIES思路类似，但用随机丢弃和重新缩放来去掉冗余权重。

看到这里，有网友大开脑洞乱搞CP 到：

“这不就是AI版的杂交育种吗？能不能让GPT和Claude生个娃？”

Cameron笑而不语，只是默默甩出几篇论文链接：

任务向量：https://arxiv.org/abs/2212.04089
TIES：https://arxiv.org/abs/2306.01708
DARE：https://arxiv.org/abs/2311.03099

还有网友问能不能自己动手试试？

Cameron推荐了个工具mergekit：

https://huggingface.co/blog/mlabonne/merge-models

有兴趣的小伙伴可以去玩玩，说不定能融出个超级AI呢！

不过也有人提出质疑：

“这么简单就能提升性能，那之前的训练岂不是白费劲了？”

Cameron解释说，模型融合更像是在已有成果上锦上添花，而不是从头开始。它能让我们更灵活地组合和利用现有模型的能力。

还有细心的网友发现，Cameron之前还研究过嵌入向量的融合：

“我之前写过一篇关于各种方式融合嵌入的论文。这是个很棒的正则化方法！我觉得潜在空间融合在很多领域都很有意思。”

论文链接：https://arxiv.org/abs/1912.00772

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述