在小公司可以做大模型吗？心得经验分享

导读

继ChatGPT发布以来，各种大模型相继问世。近日Sora也突然走入大众的视野。那么做模型是否只有OpenAI这种巨头公司才能做呢，答案是否定的。在小公司做大模型，是可以的。本文作者结合切身经历，回答了如何在小公司做大模型。

在小公司做大模型，这个事情是可以的。

笔者在小公司，做了一年多的大模型。先列一下成绩单：

1. 开源了目前业界可能是分类较完整（50类）、数量较大（1100+万）的SFT数据集：匠数科技大模型sft数据集[1]

2. 通过SFT、DPO、RLHF等技术训练了领域写作模型。实测下来，在该领域写作上，强于国内大多数的闭源模型。

如何在小公司做大模型，笔者总结，有如下几点：

1、至少要有基础的硬件条件。

如果双卡3090都没有，那是比较难的。实在没有，可以说服老板，租机器训练。

2、要有选择跟进模型训练、部署的最新进展，选主流、走大道。

技术迭代太快，人力有限的情况下，不可能什么都跟进的。比如部署，市面上的部署方案很多了，但是主流的就是vllm，所以，集中精力将vllm搞懂用好，就够了，其他的可以了解，但不用重点关注。

再比如各种训练技术，经过验证好用的也就是那么几个。看起来过于旁门左道的论文，可以先放放，让子弹飞一会儿再说。提一点，DPO确实是小公司对齐训练的福音。

3、要坚持开放交流，多加群。

围绕llm，有很多社群，也有很多活动，可以选择性参加，但是切记切记，不要过分沉溺其中，以为这样就能紧跟时代前沿，掌握最新趋势了。假装学到很多，是很有害滴。记得前段时间不是有个什么架构，号称取代transformer吗？铺天盖地的宣传，笔者当时也听了作者的线上分享。现在呢？自己连个像样的模型都没搞出来。纯纯浪费太多精力。相信时间会证明一切。

4、要针对业务场景解决问题，不要陷入llm崇拜。

这种现象典型的就是不是llm的工作就提不起神，不想做。实话实说，这是病，得治。笔者根据业务问题需求，开源的cutword[2]，就是为了替代jieba的新一代分词工具，同时，ner类型和效果都是目前开源中一流的，也收获了大家的认可。

解决问题才是关键。不能有了llm这个锤子，看什么都是钉子。具体问题具体分析的能力很重要。

• 10分钟快速完成算法的开发部署

  想快速开发算法功能，快速应用部署到不同算力设备，可以尝试大白团队开发的算法功能开发平台，项目算法编排部署，可联系大白wxqzy68。

时长统计算法功能编排

推荐阅读

[

AI项目应用 | 万字长文教你一步步实现离岗识别

**注意：**随着人工智能行业的发展，大模型（AIGC、GPT等）＆小模型（Yolo、OCR等）在同步进化。各路从业者都在探索，驰骋AI江湖。

然而这些江湖武林经验，并没有特别好的方式沉淀和传播，因此和江湖各路侠士一起编写了一份**《人工智能百问百答》江湖武林秘籍。**

大模型&AI产品经理如何学习

求大家的点赞和收藏，我花2万买的大模型学习资料免费共享给你们，来看看有哪些东西。

1.学习路线图

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

2.视频教程

网上虽然也有很多的学习资源，但基本上都残缺不全的，这是我自己整理的大模型视频教程，上面路线图的每一个知识点，我都有配套的视频讲解。

（都打包成一块的了，不能一一展开，总共300多集）

因篇幅有限，仅展示部分资料，需要点击下方图片前往获取

3.技术文档和电子书

这里主要整理了大模型相关PDF书籍、行业报告、文档，有几百本，都是目前行业最新的。

4.LLM面试题和面经合集

这里主要整理了行业目前最新的大模型面试题和各种大厂offer面经合集。

👉学会后的收获：👈
• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

1.AI大模型学习路线图
2.100套AI大模型商业化落地方案
3.100集大模型视频教程
4.200本大模型PDF书籍
5.LLM面试题合集
6.AI产品经理资源合集

👉获取方式：
😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓