15个2B大模型应用落地实战案例拆解

我的同名公众号@韦东东，过去将近一个月没有更新文章，一直在加班加点的赶制视频内容。拖更了很久，今天终于上线了！在这个专栏里也做一次同步。

取名叫做《企业大模型应用落地实战：从入门到进阶》，标题看似很大，但放心，视频内容很干，也不是瞎叫的。过去大半年确实被问“怎么入门、怎么落地、怎么选型、怎么避坑”的次数，确实已经远远超出了我一对一能覆盖的范围。

这篇试图说清楚：

我在一线做什么、为什么要做这视频内容、博客和社群的内容沉淀、交大高金线下活动体感、写书的强化训练、学习路线图以及配套工具包等。

1.我在一线做什么：300+企业交流，20+项目交付

我自己接触大模型这个东西，正式算是从 22 年的七八月份开始。那个时候是因为最先关注到 GPT3，然后开始去这个调用 API 去做了一些这种初步的一些测试。

然后基本 23 年、24 年，然后每天都有 8 个小时以上的投入。25 年今年以来基本可能就是每天 12 小时+，也不分什么白天黑夜休息日了。

做项目是集中从 24 年下半年到现在，我统计了下前前后后跟 320+家企业聊过，当然大部分是线上，实施+咨询正儿八经最后交付过的项目，目前也有 20 多个。行业上以制造业和金融为主——当然制造业是个大类，往下细分特别多这里就先不做展开了。金融这部分目前主要是聚焦在信贷场景层面。也算是我这个之前的老本行。

从应用类型上来讲的话，早期做得更多的是各种知识库和有清晰 sop 的低代码工作流，这种前期市场热度比较高的项目；但今年年初以来，越来越多项目更多的是开始往 Agent 方向走：聚焦这类项目倒不是为了追热点，而是接触过的很多企业企业确实需要更强的闭环能力、更多工具协同、更多流程自动化。我在整个视频的设计里面，总共有 7 个案例，也是 agent 的相关。到时候可以具体关注一下。

2.为什么要做这视频内容：我看到的不是“工具问题”，而是“路径缺失”

从 ChatGPT3.5 在 22 年 11 月 30 号发布以来，到现在正儿八经刚刚过去三年的时间，我之所以决定在这个时间点把上述提到的一些个人的一线经验做成视频内容，一个很现实的原因是日常被问得太多了。

无论是身边的一些技术或者业务背景的朋友，还是就是在微信、知乎、小红书，b 站等等平台上，然后来私信和留言的一些网友。

有些朋友可能日常已经在这个常态化的用 DeepSeek，豆包，千问这些 APP 端或者说网页端的这种应用。然后日常工作当中有一些基础问答的或者说生成的问题会交给他们。还有一些可能偏技术向的朋友，解决了科学上网的问题对海外的像 Gemini、Claude，包括这个 ChatGPT 等等，也是日常是使用的比较多。

简单来说，我的观察是大家普遍知道大模型很强，工具也很多，但具体到参与公司的项目落地，或者说给自己开发一些大模型应用，很多时候是不知道从哪里开始、先做什么、以及怎么快速闭环迭代。换句话来说，这个方法论目前大家可能没有完整的概念。

总结来说，我做这个视频教程，是尝试给大家提供一条案例导向的从入门到进阶的路线参考。

3.线上沉淀：博客和社群的持续输出沉淀

坦率说，这其实也是我第一次录制这种线上的这个系列视频。之所以有底气给大家呈现这样的内容，是因为在正式录制之前，其实我已经算是做过两个阶段的这么一个内容的储备。

一个是从去年下半年以来持续在内容平台输出技术类的博客。公众号这边目前大概 1.3 万个订阅用户，知乎平台里面文章+回答等等，到 8 月底已经累计了 50 万字，现在保守说也超过 70 万字了。

发在这些内容平台的这个文章更多的不是去追求一些这个最新的一些框架和一些这种这个技术原型。而是我在具体的实施或咨询项目里面踩过的坑，然后形成了一些小的一些经验体会，我自己大概整明了之后，然后再这个输出倒别输入，然后讲清楚怎么去拆需求，怎么去做选型，怎么评估，以及怎么避坑等等。

历史上写过的这大几十篇文章，坦率说每一篇的创作成本都很高。虽然都是来自于已经现有的一些项目，但是呢就是怎么样呃在保证这种脱敏的情况下进行一些必要的一些抽象，但又不过于简化，然后而且要去配套提供一些这个必要的一些这种测试一些脚本，这个还是会花大量的时间。

我一篇文章的平均的创作的周期也有 2 到 3 天，然后大概至少要有 20 个小时以上。但是这个过程我觉得是一个很好的训练，就是输出倒逼输入。也现在比较流行的说法叫 Learn In Public。

除了公开自媒体的一些内容分享之外，我在 2 月底的时候创建了一个知识星球，现在 220 多位成员。人员构成也挺多元的：上半年更多的是一些 Java 工程师、产品经理，还有高校师生，下半年开始我了解到陆续加入的一些星友是有业务背景的企业中高层。大家日常问的问题也很真实：一部分是工程细节，还有部分是业务场景边界定义、技术选型等等。

有一小部分问题坦率说我也没遇到过，这种问题呢我自己可能也要花几个小时的时间，借着大家给的材料去查、再做必要的开发验证，然后再反馈一个相对完整的答案。为了把问题讲清楚，基本上这个我每次的回复也都比较的长。这个过程我觉得对我个人也是一个非常好的训练，就是怎么样把一个细节给拆解清楚。

4.线下验证：交大高金交流让我确认受众不止技术圈

前面讲的更多的是线上的一些这种这个输出和互动。在 11 月中旬的时候，还有一次挺有意思的线下验证：经朋友介绍有机会去上海交大高金，跟在读 MBA 的同学做了一次交流。

去之前我最大的诉求也很简单：就是想看看金融机构、以及其他行业的中层同学，他们当前这个时间节点的核心关切是什么？

那天我讲了 3 个案例，也分享了一些市场观察。在最后的互动环节大家的提问我觉得基础但很真实，比如日常怎么先用上 AI？还有这波技术发展对“专家经验驱动的岗位”到底意味着什么？以及企业内部要怎么组织、怎么推进、怎么小步试点？

注：现场让大家填写了一份问卷自动化形成的一个需求看板

那天聊完回来我意识到，这门课程的受众不应该只框在 Java 工程师和产品经理。如果你是风控、运营、合规、或者业务负责人，也推荐来看下把这套通识和方法论补齐。

因为我在整个案例的这种拆解的环节提到的很多所谓工程逻辑，并不只是聚焦在代码怎么写，而是专家经验怎么被抽取进知识库、分块策略怎么结合业务经验来设定、PoC 和一期项目的需求边界怎么定义？，这些都需要业务理解，不是技术同学靠拍脑袋就决定的。

5.写书的强化训练：严谨、客观、专业、准确

再往后，就是我今年做的第二次系统化内容的梳理沉淀。6 月份的时候接到电子工业出版社的约稿，合作了《RAG 落地之道：从工作流到企业级 Agent》，9 月中旬完稿，预计是元旦之后正式出版。

在这写稿的 3 个月时间里，我基本是白天集中处理项目相关的事，晚上加班写稿，每天至少 6 小时投入，前后加起来 也花了 500 小时以上。第一次和编辑接触的时候，当时提到说第一次写书会有一些挑战，我当时还没明白是什么意思。我一开始以为都沉淀了这么多技术博客了，写书可能会比较轻松，就是改编一下说法而已。

但实际写的前几篇章节，编辑每次修订内容都特别多，我也慢慢理解了这种技术类的图书的这种表达规范，要严谨、客观、专业准确。

注：写稿过程当中不断维护的一份行文规范文档

还有一个乌龙是，我在写到第四还是第五章的时候，我突然意识到：案例组织和叙述逻辑有点问题，于是又推翻重来。这样也又都花了半个多月的时间。说实话，完整的写作过程挺痛苦，但这个过程也倒逼我沉淀出一套统一写法，就是每个案例都要先把痛点拆解清楚，再讲技术选型和架构，以及具体怎么一步步实现，最后收敛到工程经验和可扩展方向。

6.做视频的 GAP：书稿”翻译“成视频

写完书之后，我就萌生了一个念头：把这些沉淀出来的内容，做成视频，让更多人更容易吸收。我其实最早是从 10 月初开始筹备，本来以为 1 个月内搞定，结果到现在 12 月初，才算录完一半。

原因很简单：写书是“严谨表达”，视频是“直白好懂”。完全两套不同的话语体系，为了让大家好理解，我还做了些三个准备工作，一个是十来份 PPT，把过去三年发生了什么、当前 2B 大模型应用 现状、以及一些关键概念先扫一遍盲；

其次，结合 ppt 我单独开发了一些可交互的原型，主要是为了让这个新手朋友或者说没有完整这种这个底层概念通识的一些朋友，然后能够更好的去上手理解，省的一些偏差。为了就是让大家直观的去理解背后的一些核心概念的一些运行机制。希望大家能够具体的去上手试一试，这样可能体感会更深。

最后就是前面的这些视频内容，为了保持信息密度，把想讲的东西这个表达清楚。所以目前录制的这19个视频都是分别写了几千字的逐字稿，这个写稿的过程也是挺花时间的。基本一到两天就只能准备一个视频。

所以大家现在看到的这个开篇内容，其实是我把整个前面半部分的内容，还有这个前三个案例打磨到质量比较稳定之后，才回头来录的。然后剩下的部分案例内容预计应该是在元旦前后完更。

7.课程路线图：先补课→再拆概念→再进案例

接下来我把整个学习路线图和大家一起快速再过一遍，这部分不需要大家记住细节，只要知道是怎么组织的。

第一层是先导内容和宏观把握：过去三年大模型到底发生了什么、为什么很多人会有认知断层、以及当前 2B 大模型应用的落地现状。

第二层是概念拆解：我会把“大模型、RAG、工作流、Agent”这些概念和背后的一些运行机制，用工程视角配可交互原型讲清楚边界和取舍。

第三层是案例落地：用我做过的一线案例，把“怎么拆痛点、怎么选型、怎么实现、怎么复盘和扩展”走一遍。

最后还有一组更进阶的 Agent 案例，给想继续往深处走的朋友做参考。我因为这部分鉴于项目的复杂度，我会点到为止，但是会给大家提供必要的一些素材和一些这种这个参考代码来进行说明。

这套结构的目标只有一个：让大家看完之后，不只是大概“听懂了”，而是“知道下一步该干什么”。

8.加餐：配套落地工具包

另外我还准备了一套“落地工具包”，大家可以把这些素材理解为一些标准的一些 SOP 是我自己在这个做咨询或实施以及这个合作的培训机构。在针对一些上市公司去做内部培训的过程中打磨下来的一套工具包。大家可以理解为就是看完前面的这些这个相关的一些原理和案例之后。可以进一步拿着这些表单，回公司做一个小范围试点。

比如这张“望闻问切评分表”，它就是一个标准化的场景评估工具，先快速判断一个场景到底适不适合做 AI，避免拍脑袋立项。

再比如“7 天行动清单”“1 个月路线图”这些，它解决的是：评估过关之后，团队第一周、第一月到底怎么推进 PoC，怎么分工、怎么对齐、怎么形成产出。还有诊断报告模板，方便你把试点过程沉淀成对内可汇报、对外可复用的材料。

9.适合谁：你能带走什么

如果你是 Java 工程师、产品经理、老师或者学生——想从 0 到 1 做企业大模型应用落地，我相信这门课能帮大家少走弯路。其次，如果你是业务岗、风控、运营、合规等，想看懂这波技术和市场需求的变化，想知道怎么在企业里推进小步试点、怎么定义需求边界、怎么把专家经验沉淀进系统，我也同样推荐大家来看这期视频。

总的来说，大家看完这视频教程，我觉得至少能拿走三样东西：

第一，是把过去三年的关键变化补齐，不再“用旧地图找新大陆”；

第二，是形成一套工程化的思考方式：从业务场景出发，定义需求边界，做选型，做评估；

第三，是拿到一批真实案例的可复用套路，再加上一套落地工具包，回公司就能动起来。

整个教程的前三个视频是可以在不付费的情况下直接浏览的，上面的文字内容更多的是我第一个开篇视频的旁白稿，大家如果感兴趣，可以先点开视频浏览下第二和第三个视频看下 10 个主案例和 5 个拓展的 Agent 案例，大概是什么样的一种设计思路和演示效果，再决定是不是适合你。

如是一线从业者，更欢迎加入我的星球交流一下落地实践经验。