大模型算法岗面试题系列（二十五）| 进行SFT操作的时候，基座模型选用Chat还是Base?

面试题：进行SFT操作的时候，基座模型选用Chat还是Base?

参考答案

在进行Supervised Fine-Tuning (SFT) 操作时，选择基座模型（即预训练模型）是一个关键决策，它取决于你的具体需求和目标任务的特性。以下是一些考虑因素和建议：

1）任务特性：

• 如果你的任务更侧重于对话和交互，例如聊天机器人或客户服务自动化，选择一个专门优化对话能力的Chat模型可能更合适。
• 如果任务涉及更广泛的语言理解或多种类型的文本处理，例如文本分类、摘要或翻译，Base模型可能提供更广泛的适用性。

2）模型能力：评估Chat模型和Base模型在类似任务上的表现。如果Chat模型在对话相关任务上表现更好，它可能是更好的选择。

3）数据特性：考虑你的训练数据是否更接近对话形式，或者是否包含多样化的文本类型。对话数据可能更适合Chat模型。

4）资源限制：评估可用的计算资源。Chat模型可能针对对话进行了优化，但可能需要与Base模型不同的资源配置。

选择Chat模型还是Base模型应该基于对上述因素的综合考量。在某些情况下，可能需要结合使用两种模型，或者开发一个混合模型，以利用各自的优势。重要的是要进行充分的测试和评估，以确保所选模型能够满足你的具体需求。

---

文末

有需要全套的AI大模型面试题及答案解析资料的小伙伴，可以微信扫描下方CSDN官方认证二维码，免费领取【保证100%免费】

更多资料分享

学习AI大模型是一个系统的过程，需要从基础开始，逐步深入到更高级的技术。

这里给大家精心整理了一份全面的AI大模型学习资源，包括：AI大模型全套学习路线图（从入门到实战）、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频，免费分享！

一、大模型全套的学习路线

L1级别：AI大模型时代的华丽登场
L2级别：AI大模型API应用开发工程
L3级别：大模型应用架构进阶实践
L4级别：大模型微调与私有化部署

达到L4级别也就意味着你具备了在大多数技术岗位上胜任的能力，想要达到顶尖水平，可能还需要更多的专业技能和实战经验。

二、640套AI大模型报告合集

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

三、大模型经典PDF书籍

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

四、AI大模型商业化落地方案

有需要全套的AI大模型学习资源的小伙伴，可以微信扫描下方CSDN官方认证二维码，免费领取【保证100%免费】