对话DataFocus创始人：大模型会颠覆ToB行业吗？

​编者按：年初ChatGPT引爆了AIGC，GPT几乎成了软件从业者最高频的话题了。如今时过半载，子弹仍然在飞舞，显然这波浪潮还远远没有到平息的时候。这是一次内部分享，我们有幸和DataFocus创始人JET畅聊了大模型的天南海北，匆匆整理以飨读者。

   

第一部分LLM大模型

Chatgpt究竟神奇在哪里？

JET：问答式交互，的确比传统列表搜索的方式好很多。Chatgpt比其他的聊天机器人有了质变，体验上完全不在一个境界。产品还是要死磕体验，谁都知道聊天机器人有用，就是没人把它做的足够好用。

ChatGPT多轮对话的支持很好，能够很好的结合上下文，5个回合的交互，基本上可以在一个主题下聊天，没有出戏的感觉，这个是用户体验和以前的聊天机器人不同的地方。当然了，也有报道说15轮以上的对话它hold不好，回答就容易跑偏，这些都可以通过扩展带入上下文作为Prompt来解决，但是成本更高。

代笔写点儿小文章，这个场景肯定是最先有人搞的。复杂点儿的，用这个训练专业领域的智能能客服也是被大量应用的方向。

Chatgpt的对话模式彻底把搜索结果列表干掉了，这极有可能会影响现有的竞价广告模式，从而引起商业模式的变革，就这点来说，谷歌的确紧张了一阵子，年初甚至有点措手不及，显得格外慌乱。

Chatgpt在哪些领域表现优异？

JET：要回答这个问题，得回看GPT的发展历史。其实早在两三年前，GPT2出来以后，就已经有不少创业团队接入其能力，运用最好的方向就是内容创作。之后直到chatGPT的出现，其写作能力进一步提升至人类水平，并且已经具备了很好的理解能力和多轮交互能力，这就使得其能力拓展至聊天、客服这类通用场景。可以说有了chatGPT，很多公司之前的努力都付诸东流，比如XX问问、XX客服、XX云小蜜等产品，基本上可以丢进垃圾桶了。现在，只需要花很少的功夫就可以用ChatGPT迅速训练出一个具备某项专业知识的智能客服，其表现要远胜于上面提到的智能客服产品，体验了GPT4.0之后，你会发现智能客服赛道的棺材板上已经钉上了最后一颗钉。

除此之外，基于ChatGPT的语言交互能力，有人构建了虚拟机器人社区，有人将它引入到游戏中，赋予游戏人物特定的人格，瞬间激活了虚拟女友，虚拟人生之类的各种应用，这是目前能看到的能较好落地的应用。

GPT是一个会彻底颠覆行业格局的东西吗？

JET：微软公司乱拳打死老师傅，他从搜索切入，对谷歌形成了极大的威胁，自身的成本反而不高。即使后期全线产品接入试用体验未尽人意，也不妨碍这次战略竞争的策略。GPT如果只是用作客服，价值是有限的，不太可能会对行业形成很大的冲击。人们对其的期待，更多的是微软的Office实践，只是将GPT用作自然语言交互接口，用于理解用户的输入，生成内容，或者进行一系列的动作编排。恰恰是后者，使之具备了大规模用于办公自动化领域的可能。这使得软件的大部分功能在学习成本很低的情况下，可能被释放给更大量的用户，这就极大地提升了生产力。这一点从GPT的插件商城也可以看出来，大量的插件做着更专业的工作，GPT则充当交互窗口，降低用户的交互成本。从这个角度来讲，Iphone时刻是成立的。大家想一想，这个生态成功的前提是什么？一个是门槛足够低的自然语言交互模型，一个是广泛被用于生产中的各行各业专业的API。在中国，我认为第一个问题难度有，但是可以克服，甚至突破的时间也就几年。但是第二点，将是无解的。中国是平台垄断型的互联网、软件生态。彼此互相之间封闭作业，各家自成一体。即使你有了智能的交互代理，也无米可炊，除了客服聊天，甚至各种垂直的聊天，比如情感聊天，游戏聊天，虚拟人格之类的，我们尚未看到有价值的应用。

让我们更深入一点。要想让智能代理能够产生更大的价值，创造更大的生产力，必须让智能代理可以从事复杂任务，解决深层问题。但是复杂任务的编排依赖于大量成熟的业务场景和开放性良好的API生态。

为什么会有Prompt工程这种东西？

JET：Prompt是个很有趣的东西，它给GPT提供了各种稀奇古怪的玩法，一开始，可以说从另一个角度引爆了OpenAI的传播。为什么会有提示词这种东西呢，这和大模型的基因相关。由于Transformer算法其实就是一个猜猜看接下来会发生什么的概率机，模型被海量的语料填喂之后，形成了天量的序列串网络。当用户使用时，必须要通过一些提示才能激活网络获得下一串最大概率的字符。这个网络是庞大的，多样的，随机产生的各种回答几乎都不会重样，大大提升了对话的真实感。

正是由于他这个自然语言生成，生成的内容是随机的，没法控制，因此，提示语就显得尤为重要，这就像巫师用来唤醒精灵的咒语。一开始大量的用户仅仅在提示词这里都可以找到很多乐趣。OpenAI在发布GPT模型之前，预先做了调整对齐，用人工进行了反馈强化训练，这就像预置了不少的套路，用户掌握了这些套路，则可以更高效，更准确的获得想要的内容。甚至一度有传，提示词工程师月薪都可以高达十几万了。为此，deeplearning.ai的创始人吴恩达教授甚至还开了专门的课程教大家如何设计提示词，这就有了Prompt工程这个东西。

Prompt提示词工程，告诉我们，哪怕是再智能的AI，也还是有使用门槛，那种想着躺床上啥也不干全靠AI的人又要失望了，未来的人跟人的差别不是你有没有AI助理，而是你会不会用，是否擅长使用的差别。还是那个道理，现在大家都有智能手机了，有的人学会用它学习、办公，有的人只学会了刷视频玩游戏。  

微软2023年以来，动作越来越大，未来微软会通过OpenAI一统天下吗？

JET：大家注意看最近的几个数据，很有意思。一个是微软自去年以来bing搜索引擎的市场占有率，小幅上升后，继续下降，目前也仅仅只是超越了百度，离google还有极大的差距，可以说目前微软借助ChatGPT的这波热潮，带来的增量对撼动谷歌搜索引擎统治地位，几乎没有啥帮助。

即便如此，微软最近一个月仍然动作不断，先是发布了office copilot，github copilot，newBing，如今直接重磅炸出windows Copilt，还和chatGPT一同共享了50多款插件，接二连三的炸场搞得大家都有点儿审美疲劳了。