铁打的程序员轻易“不哭”-我的大模型创业近2年来的感悟

楔子

2022年11月，GPT-3发布那一刻，我被AI的强大能力所震撼，意识到“超级个体”时代的来临。自那时起，我开始全心投入创业，经历了许多苦乐交织的时光。

2023年6月，我尝试将AI应用于智能营销导购，效果超乎预期，这激励着我开启了创业的旅程。

进入2023年末，我在创业的过程中，身兼设计、编码、运营等多重角色，尝试从零开始，面对高保真页面、视频制作、软文撰写等各种挑战。虽然内心常有“放弃吧”的念头，但每次坚持下去，都让我收获了意想不到的能力（我说实话，放弃吧偶尔会在我的脑海里出现1秒钟时间）。

通过使用AI工具，我的生产效率有了质的飞跃。

• 设计方面，我在短短三天内便能产出30个高保真的界面，其精致程度令业内人士赞叹不已。
• 视频制作也达到了以往不敢想象的水平，使用AI生成配音和特效，让我一天内能够完成三个高质量视频。

这些能力的提升，使我在产品设计上也领先于许多高级产品经理，输出速度是过去的五六倍。编码方面，我能在同一天开发多个不同端的代码（一天内同时开发后端API、自己集成vue、自己集成Android、小程序、微信），交付效率是我2022年的十倍，这是我以往无法企及的。

这两年创业的辛苦与充实相伴，我体会到了角色的多样性和自我成长的重要性。面对各种挑战，我仍在摸索与前行，未来的路依旧漫长，但成长的印记已深深烙印在心中。

一路走来我很庆欣，是因为自己亲自“躬身入局”亲自去探索自己的理伦、亲自去验证业界的趋势和理念，每一步都还踩对了。所以前一阵我发博客也发了少了，因为日常大量时间被工作所占据。

今天稍许有些小空就给大家分享一下相应的在AI道路上这2年来探索和验证到的一些经验。

坚持不重复造轮子的理念走对了

从开始有了创业的念头开始，我就选好了“不走创造LLM基座”这一条路线，这是因为科学客观条件决定和科学的判断。

目前的LLM市场的商业逻辑不对

在我之前的博文《AI落地不容乐观-从神话到现实》在书写时，很多人觉得这篇文章写得很有前瞻性，我诚实的告诉大家，它并不具备前瞻性，而只是在那个点由于我们这些跑在“前线”的总可以听到、感知到不少大佬 、业界、投资方的一些动向，其实在我写这篇文章那个点时已经了解到了LLM基座如果太多反而会造就不良的“AI市场生态”。

这其实是一种商业逻辑，这个商业逻辑就是“企业必须要赚钱”，不赚钱的企业它可能会有一时的风光，而从长久来看是势必走不远的。更不要说要打造一个LLM你需要不亚于一个水电站的投入下，那么这个投下去的成本如何收回来呢？

从这篇文章发完后的第2个月开始，业界出现了token费用不断降，降10倍，100倍。然后就是出现了“不要卷模型要去卷应用”，再到后来：资本方觉得LLM的临界点可能要到来了一直到今天，整个AI和LLM界进入“冷静期”。

这些其实在我写文章前2-3周这些话题、乃至论证是被业界一直在不断争论中在那时就已经定下了这个“推论”。

当下所谓的AI根本称不上“AI”，只能称它为LLM

我们客观的来看现在的所谓AI？它是AI吗？真正的AI是什么？

1. 自我完善自我学习，说白了，当问答中出现了幻觉后，它在被指出后会自我意识和学习到什么是对的，然后马上在下一秒就纠正，而不是现在的“预训练”，现在所有的所谓的AI都是预训练的；
2. 不能创造性发明之前本不存在于其本身的“功能”，人之所以称为人不只是会使用工具，而是因为人能创造组合、发明、创新出从未有过的工具，这是人类的显著特征，现在哪怕说10年后计算机是否可以做到？这也是不可能做到的。这是硅基和炭基生命的本质区别，唯有一个技术可能可以突破，那就是量子技术，但这已经属于未来的事了，因为这关乎到不只是计算机一门学科，还有材料学、能源、生态、环境然后再会有法律、道德、论理这些学科的综合进化才可能到达；

所以目前用LLM来称呼当下的“AI”是再适当不过了，再说白点了，它就是一个“大数据+”的东西。

用两个很恰当的比喻来描述当下的“AI”到底可以做什么？

1. 比喻1： 之前搜索引擎靠关键字来找答案，一搜搜出上百页的各种结果，一页页用户需要自己翻了看，看了后还要经过动手去验证里面的方法和理伦，那现在有了LLM，搜索出来的结果不会是上百页，而是几乎马上定位到了你要的答案，如果这个LLM基座好那么用户一试，99%以上答案是对的。它可以省时那么相应的也省力了。
2. 比喻2： 之前你要学另一门编程技术，那就是大量看书、做题然后参与工作实践，靠年数来“熬”出一门开发语言的技能。你不可能在学习这门语言的第一天就能做出一个“邮件系统”。而现在因为有了LLM的省时、省力，它可以在15分钟内通过自然语言对于实现需求的描述，就能让你搭出一个邮件系统了，还带有不错的、漂亮的界面，即：它可以赋于个人额外的能力；

当下的“AI”无法赋能企业更不要说赋能行业

那么基于以上事实，大家会发觉很多AI生图、AI生视频的工具很多、很好玩？可是玩了一阵我们会发觉，假设说我在生成的图上我要换一下它裤子的颜色，结果AI再次生成时的结果就天马行空了，此时你往往需要自己动手在原生成结果上自己加工一下才能真正满足你在工作中的“商用”。而恰恰是这样的：需要自己再动一下手。。。其结果是导致了工作量是原来的两倍。

原来一个熟手可能用工具很快就可以处理好的一件事物，在用了AI后我们会发觉先要用AI生成一下，再动手处理一下，而有时往往会因为和我们之前的工作方式、流程、手法、习惯上都不一样，那么用户自己还需要在AI生成物->手工调整间做一些适配？

正是这个适配，导致了用好AI其实对使用人员来说门槛很高，要远远高于2000年初互联网数字化时那些相应工具的使用门槛。

因此，当大多人用了一会这些生图、生歌、生视频AI工具后就只会停留在：好玩，但是在工作中无法大规模的应用。

因此，当下的所谓AI还是停留在赋能个人上，它构不成赋能一个企业更不要说赋能一个行业了。

这也决定了AI去落地时困难重重，这才有了著名的那一句：AI上不能顶天下不能落地。于是进一步导致了前期投资LLM基座的成本难于回收。

正是以上几个客观存在的事实决定了我在一开始就不选择走“重复造轮子”的道路。

当下AI的应用前景到底属于好还是不好呢

接着上段内容，我们已经清晰的认识到了当下的AI在离真正可一键式直接商业应用交付间存在着“需要 自己手工加工一下”这么一个适配阶段，导致了AI工具要使用好那么对人员的要求、门槛是很高的这么一个现象，我们说：好但也不好。

看到这请不要急，下面进行适当的展开。

对个体来说，前景太好了

就像我在开篇所述，我自己通过“入局”了此“坑”后，自我能力的确是得到了质和量上的提升，这样的“我”其实已经完成了超级个体的进化，那么对于这样的超级个体来说，他即是产品经理也是UI也是高级程序员。

在不是创业公司或者自己单干情况下，企业原来几十人上百人的小组有这么一些个超级个体，10个吧，战斗力完全是可以覆盖之前上百人全工种部门的甚至超过。这被一再的证实了，那么这样的超级个体对“找饭吃”来说绝对是不差的。

对于做LLM基座想去落地的厂商来说并不好

商业的逻辑是赚钱，投入一个LLM基座的成本少了说9位数，大了说有数百亿的。如果它一直只停留在AI生成图、生成视频，无论再炫，这个AI成品到商用（就是指在工作上或者老板要求完成的宣传视频）之间还是存在着一个不可逾越的“还需要拿下来手工改一改”那么很快人们的热情就会被消磨掉，用你个2-3周，挺有意思，但不实用，it's just a TOY! 那么成本已经投出去了，回不回来怎么办？那这样一来就不长久了。

所以目前来说绝对不是LLM厂商的好时机也不是去做和实现LLM基座的好时机。

当然我指的是做长久的事业来说这个话题的，如果说：捞到一票了！这不在讨论范围，我们还是坚持正能量的传递。

另一个原因就是大量的企业，由其在国内（我自己在上海生活）连数字化都还没有完成，如何去落地LLM？

在上海年营业额在3亿-10亿间的企业太多太多了，但是这些企业大家去接触时会发觉一个共性，那就是企业本身的数字化过程都没有完成或者说根本还没有数字化，此时既然没有数字化。。。如何用AI？

对于拿LLM去落地应用的厂商（供应商）来说也并不太好

上面说了：

• 第1方面：太多LLM，不断产生不断消亡。
• 第2方面：LLM对个人赋能是否可以让个人成为一个超级个体也是由这个学AI的人本身是否足够优秀来决定的，门槛太高。
• 第3方面：企业数字化程度还没到达，更谈不上AI落地。

从2023年12月到2024年7月这段时间，AI类的项目价格一低再低，低了不能再低了，这是因为并不是因为你带了“AI”二字因此你的东西就要卖得和ERP一样贵。

诸位，切莫小看近20年来数字化革命的浪潮哈。

从90年代末期至2022年这20多年的数字化奠定了现在几乎一切数字化应用的基础和人们的生活使用习惯，该做的、能做的都已经做到很好了。

AI来了，如果单纯只是把原有的系统重做一下，那么因为冠以了“AI”二字比原有的系统还要贵，从正常逻辑来说谁会愿意做这个“冤大头”呢？

低到5位数落地一个客户，6位数都觉得贵了！

而这些应用并未给到企业带来利润上的增长？人力降了吗？并没有，因为在上线了AI系统后发觉各种幻觉、各种和真正商业应用间的鸿沟，因此需要人手工标注一下，搞得投入一开始看似不大，但是在推广过程中付出的额外人力、运营成本翻倍上升。

所以企业现在落地AI很谨慎。

我们圈子里流行这么一句话：都想要AI大厂肯定就自己内部做了，不是大厂做了没用，中小厂才是潜在客户数量中的那个大头，但他们数字化还没怎么完成那AI能帮助到业务什么呢？

所以啊，大家现在回想一下我当时发的AI落地不容乐观到底是为什么了？因为那时这种现象其实已经露出不少端倪了。

说了这么多，最重要的我们不能只是说问题，如果只是说问题这不是我的博客的风格，我们更重要的还是要说：上面信息可以为我们自己带来什么？

这就是下面我要展开说的内容了。

处在当下“AI时代”我们可以做什么？怎么利用“AI”对自己有利？

你必须做超级个体，这个是趋势

我因为是创业，因此身兼多职，所以累这也是避免不了的，但是对于职业打工或者学生来说不需要你这个也会那个也会，但是在“一个任务环节中”如果你可以成为独自完成这一个环节中所有步骤的话”，那么你就是那个超级个体，一旦你在成为超级个体后，你的价值会被成倍放大，这是你的企业所喜闻乐见的也是希望获得的能力，那么你的回报也一定是丰厚的，同时你的根基也一定会越来越强大。

虽然，当下的AI产生出来的结果和最终的可交付商业应用的结果间还存在一定的差距，这个差距还需要自己动动手进行二次加工、调一调。在一开始你会觉得反而没有原来不用AI来得快，但一旦你渡过了这个阶段后，你的效率和能力不是成倍而是成5倍、10倍的增长的，同时在“调一调”的这个过程中你会真正发觉这不只是熟练工这么简单，而是在于你的规划、设计和复杂工程问题折解能力的全面提升。这就是我上面所叙的“AI要用了好它的门槛很高”中“高”所在的那个点。高就是高在，实际是你的个人能力提高了才导致了当你使用了一样可以无限重复、不厌其烦精准执行你的指令的工具时，你成了一个“超级个体”。

不要重复造轮子而要去做RAG应用

当下的AI不是AI，它是LLM就是个大数据+，Transformer的架构决定了一切所谓的AI都只可以是预训练，所以LLM连实时的纠错、实时信息、情报都get不到。

比如说你直接问GPT：异形夺命舰上映了没？然后GPT会说：据我所知我不知道有这部电影。

这是因为它的数据最最新官方只到2024年4-6月。

那夺命舰什么时候上映的？2024年8月22号对吧？

因此，我们才有了RAG。

虽然我上面说了，当下对于拿LLM去落地应用的厂商来说并不是最好，但这里面有一个很明显的趋势，这是业界乃至投资界所公认的。

那就是“LLM已经落下帷幕，RAG应用才有出路”一说的由来。

当然，大量的大厂前期百亿百亿的去投LLM，它肯定还是需要收回成本的，那么就是要靠应用去收回。所以这个商业模式其实是这样的（我们不讨论拉一笔风投，这种不长久的没有讨论的意义）：你的用应做了好->LLM厂商会给你资金让你去做好推广复制->然后你只用给你资金的LLM厂商的LLM去做后台的基座->LLM厂商通过你的应用把原来便宜的已经连钱的单位都不认的Token费用做“增值”来收回它前期投在LLM上的成本。

虽然，大厂也可以自己去做应用，可是。。。这一轮LLM热投得比之前的区块链还有点“狠”，因此，这就是为什么现在6小虎中有一些去做投资的道理了。。。成本捂着只会亏更多，不如施放后找更多中小厂为它们做应用来得更“百花齐放”。

这是商业逻辑。

所以就算我们说，有若干大厂也在抢应用市场，那不代表我们就不应该去做这件事了。

拼质量、拼成本、拼服务，完全有得一拼的。

而且当下企业数字化环境不好也不会是长期的，它只会在一个短时存在。

业界有一句话叫：目前虽然还没到RAG应用普及的程度，但是它处在当年数字化中台出现的前夜，你不知道哪天可能就在明天也可能是明年，一下子所有的企业都需要AI了。

我记得很清楚，2014年时你如果和人谈数字化中台，人家认为你在谈情怀，（当是我自己处在大厂其实大厂于2014年都已经完成了中台的内部改造了，甚至一个公司内好几个中台这对我们这些人来说在2017年说如何作好一个中台早已经不是什么稀奇的玩意了。）而到了2015年年末左右，此时如果企业再没有数字化中台就基本连业务、扩展、开多门店连锁都感觉吃力的道理是一样的，它会突然一下到来和普及的。

现在基于LLM的RAG应用就已经处于这个“爆发点”了，只要再。。。上去一点点就“爆发”了。

所以我们更要关注应用本身的体验、服务和质量了。

对于创业者来说不要去碰还没有完成数字化改造的企业

目前基于LLM的RAG应用已经白菜价到了不能再白菜了，试用1.5个月，落地只要小6位数都已经形成一种共识了。那么此时一家企业突然告诉你：

唉呀，你们要的主数据我们现在用的是A4纸记的；

唉呀，你们要的订单数据我们到时有打印机打出来的小票，有67公里长的历史小票记录；

唉呀，我们美团有、饿了吗有、自己也有会员，我们微信群有500个，只不过没有汇总；

come on。。。请问此时你涉及一条“自动客服退款路径”的RAG应用场景，首先你得要有主数据、客户、订单数据吧？

那么本身项目价格可能小6位数，现在你为了挣这小6位数还要付出大7位数甚至是8位数的人力去改造客户的主数据、订单、会员？

这钱你放心，甲方不会出的，你自己掏。。。

因此呢，做这事时还需要谨慎。

我们来看一下业界是怎么来区分这么一个边界的。

为什么不要碰没还没有完成数字化改造的企业的项目

TO B端落地AI 99%场景都不难，也未用到太多AIGC高深的技术。而难就难在这个要做的B端本身还未完成数字化落地。那么什么叫数字化？我们带着以下3个问题来解释。

问题1：什么叫数字化

就是企业中的数据我们把它也视作一种“物料”，一个企业有若干部门，那么若干部门本身的系统和部门间已经可以用标准的API（包括XML SOAP协议、JSON、HTTP CLIENT直接url）本身已经建立起了连接，这一过程就叫“数字化”。
什么叫企业数字化转型
没有建立起数据标准API接口的企业向数据API接口、连通进化这一过程。
数字化转型有一个误区，数字化不代表先进，而只是代表“你这个企业可以生存于这个世界的根本”，它带来的不是有多高大上，而是变成了“人需要呼吸”一样的基本述求。
数字化转型中有5个核心转型：
1.主数据（根据企业的业务领域有所不同区分）API化；
2.订单API化；
3.仓储数字化；
4.会员数字化；
5.营销数字化；

问题2：企业数字化转型到底有什么好处

正因为上述5大API化了，因此一个企业可以具备了接入多个第3方额外渠道的功能。
那么为什么接入第3方额外渠道功能这么重要？
1. 企业报关，每次靠人腿跑，来来回回的路程人力对VS一键按钮对接报关API，哪个省和快？多出来的时间让这个原本报关的人多报几种商品不香吗？
2. 如果是一个零售企业，现在饿了吗，美团正在做“补贴1000万促销活动”要求你的订单和它们去作API打通，而你上述5大API化还未完成，你眼馋吗？
3. 如果你的市场部通过小桔书（大众点评）向消息费发了一张满100享80的打折卷，然后因为你的订单没有API化连通，你的POS机核销时不认？你会怎么办？

问题3：谁来负担本不应该在AI类项目落地时产生的数字化改造成本

回到AI B端落地上来，当一个企业没有具备上述5大API化时，你去推AI落地，就算它接受了，那你的这个项目有什么价值？你如何去把数据这块玩起来？哦。。。要不你用着很可怜的落地一个AI小POC的钱顺便要完成庞大的企业数字化改造对吧？苦一苦，苦程序员，苦开发。。。？长久吗？

要去解决刚需，不要只拿“AI”去做锦上添花

2024年大半年结束了，业界和投资方的观察和结论很正确，正是因为大都现有的AI并未解决企业的刚需，只做到了个人上的赋能，所以没法挣回成本。

如果说只是一个很新奇的一键生成图、对话机器人、客服，这些并没有为企业解决它业务上的刚需。

我们回归商业逻辑本身，你做一个IT类产品怎么样才能挣到钱？这个问题大家可能考虑得很少？

那就是：你可以为别人解决一个什么样的没有了你这个产品就无法解决的问题？

要知道，可以解决别人无法解决的问题时你就产生了价值。比如说：当67公里成小票里找任意年月间的对帐或者是某些客户的精准画像做不到时，你用数字化、API+大数据跑批可以做到，那你就可以挣钱了。

因此我们在做“AI”落地时不能只是让企业感觉“好玩、有趣、蛮新颖”的，而是要“没有你的东西就没法做这个业务了”，要做成这样的刚需，那么企业做这个“AI”项目可以成功，相应的供应商也能挣到他应得的报酬。

所以就目前的市场来看大量的一些案例一推敲就发觉有和无这个“AI”产品都可以继续原有的业务，不在于因为有了“AI”所以我才多出这么一块业务，这样的事例在TO B端还没有出现。很多还都是属于“伪AI类需求”。

在这我说几个好笑的失败案例给大家听：

1. AI电扇，有6档风量调节，比原来一个电商要贵好几倍？WHY？
2. AI空调，可以语单调节，这。。。原来也能做到啊？
3. AI打火机，说：小火，中火，大火。。。好是好玩你别卖700块一个呀太贵了！

这些都是“伪AI”应用！

坚持要走AI Agent + Workflow

上文提到了，AI生成好的东西，拿下来，自己手工调一调、改一改，好，它终于变成了一个可以用来交付的商业应用了。

那么我们要在这个“自己手工调一调、改一改”上做文章。

我们不说100%可以做到AI替人完成，哪怕把这个改一改、调一调的比例下降到原先的30%这都是巨大的成功。我举一例来说我们实现了一个这样的东西（下面的例子里我全部掩去了产品名和我们公司名号，因为我不是在写软文而是在拿实例来论述和做分享，希望小编以及读者们不要认为我在写软文而多多放行）：

它就是通过多步把那些每一个Agent当中要“调一调、改一改”的步骤串联起来用的。它已经应用在售后、退换货的环节，起到的效果的确是真的省时省力而且可以规模化复制了，关键准确率一上去后它是24*7的在服务大众了。

再比如说，我们用同样的Agent + Workflow实现了这么一个东西。它可以很拟人的为每一个不同的游客根据不同的旅游愿望、希望来定制你的旅游路线而不是套餐似的选择，而且你们发觉没，当AI发觉你的意思图不是很明确时它会积极的引导用户、反问用户：到底你想要什么？是不是这样的？

这样的一个智能旅游策划是非常贴心以及有用的，它可以用在个人助理成为一个垂直领域的贾维斯。

我们还做了一个这样的东西，它也是使用至少3个Agen + Workflow实现了当门店店员或者是物流相关非IT人员当有高度自定义数据报表时用自然语言就可以获得精准报表的应用。

对于刚需方面我们目前在TO B端可以挖掘、实现、论证它真的是刚需的目前还处于营销环节，这个环节的确是有一些刚需存在的。

TO C端的赋能类Agent应用一定有前途

我们目前在处于基于“AI”的RAG应用爆发点前夜，主要还是在打一些TO C端的应用，比如说我们做了一个这样的东西：

它可以让一个不怎么擅长的写作者，只通过3步操作，生成出来90分+（假设以100分打分制）的“爆文”生成系统来。

这里面内植了多个Agent以及Workflow，既可适用于写作“老手”也可以用来辅促写作“菜鸟”。

说个有趣的故事：那就是我前一阵CSDN写得不太多，是因为我自己在用这个爆文生成系统一个月内把自己在小红书里竟然刷到了一个玩2年小红书都到达不了的等级，已经成了一个小小有名气的“小V”了，对，没错。。。人家写90分+的文章一周可以写4篇，我一天可以用它写5-8篇，一周写20多篇，一个月竟然写了200来篇，几乎爆文率占到了30%以上的机率。

写在本篇最后

有小3个月没怎么更新我的博客了，因为我借助AI爆文生成正在小红书里把自己刷成了一个小V。

但一旦有什么阶段性的结果，我都会坚持我的一贯风格在此给大家做分享。

CSDN和我的故乡一样，那是不可能丢弃的。因此要分享就一定会给大家上干货。

本篇最后，我还是要做一个总结，那就是本篇的目的：

1. 需要客观认清当下“AI”的本质；
2. 清晰明确当下“AI”的市场有哪些机遇；
3. 对于个人来说必须要学会使用“AI”工具，把自己打造成超级个体，目前处于黄金阶段，2年后可能在职的人人都会是1个或者至少是0.5个超级个体了；
4. 不要因为短期的大厂出手进入中下端市场“抢汤”而放弃“AI”应用市场的入局，RAG应用一定是有光明前途的，只是我们需要做Agent+Workflow的RAG才能真正给到企业带来痛点上的解决；

最后呢，从自己入坑到现在我还是要感概一下，企业数字化太重要了。如果在10年前说数字化中台时有人会说：你这是在向我销售你的idea为了挣钱。而处在当下我们已经可以看到，当一个企业没有完成真正的数字化即5大部件的API化那么这个企业都已经无法发展了。

数字化、中台显然已经成了一种“企业基建了”。而未来很有可能要么就在半年内要么是1年内，AI将取代数字化成为又一个企业的“基建”。

祝各位工作、学习顺利，也祝祖国AI事业蒸蒸日上，AI市场可以百花齐放。AI必将造福人类、我们也必将从AI中获益。

结束今天的博客！