关于chatGPT的思考

关于chatGPT，京东副总裁何晓东称ChatGPT逻辑强于内容

背景

2021年，公司正在推动一个短期目标，工业质检。围绕AI，公司却又个相对较为笨重的队形，前面有索敌部队，紧跟着是先锋部队，再接着是连接对方和AI团队的先敌部队，这三个队伍都属于销售团队，不过依次对技术理解高多和后方AI团队的联系程度更高。再看需求方呢，通常都是一些比较固定的浅显需求，常常是视觉上的定位、分类任务。
需求方和技术提供方看视极端互补，但是要合作却有点难。难在哪里呢？难道有三。第一是：需求方这边，任务虽然典型，但是需要理解需求、采集合适的数据、嵌入打通产线生产的要求，又不是找个外包或者培养比较便宜的技术可以解决的。对于技术提供方来说，整个项目总体看起来技术难度可控，但是涉及到很多硬件选型，比如拍照、通信等，最后一合计，跟给硬件厂商打工差不多。再加上多层次的沟通、销售团队，利润会进一步下降。
除了很多公司都存在的这种情况，即打大规模战的配置、有点有力使不出的情况，那这个行业其他看起来有效的军事改革都是怎么搞的呢？
一个思路是只提供AI相关的内容，打仗的事情交给想要打仗的客户自己吧。典型的是百度的paddlepaddle平台，它提供典型用例和云平台。想让工厂智能化升级，快来用我的云服务吧，按照例子基本零门槛上手，还不赶快行动？！！实际上，即便如此，分析badcase，理解数据特点这些东西，以及了解到对拍照的需求，这儿多多少少还是缺少一个跨行业的人才。这个门槛阻碍了百度们云服务平台的跨越式发展的脚步，毕竟面对的是一个世界级别的工厂可以改造升级。
另外一个思路呢？建立专业无脑的成套军事装备，打仗嘛，就让冲锋军向前就好了，降低对交叉学科的门槛要求。典型呢，说个个人观察吧。大概也是2021年，商汤对外宣布将推出“大装置”，用大模型处理这类任务，比云服务多了一个维度。算力集中，算法还要集中。用大规模模型的承载力处理零碎任务。

针对这种零碎任务，或者另外一个称呼，长尾任务。还包括很多领域，比如智慧城市、智慧农业、智慧物流工业、食品安全。只要是零碎的，不能规模化的智能化需求，都属于这个范畴。而对这些任务的需求，又是那么强烈，特别是政府、公共部门。哪怕是智慧路灯这种服务，政府部门都会积极推动，颇有普天之下的积极感。

新的改变

我们知道，我们生活中智能化的感受还不是很强烈。当然，我不是说支付啊、购物啊或者其他生活场景中需要互联互通所带来的感受。毕竟出行叫车、吃饭外卖，代驾、出租以及手中的手机等等各种已经给生活带来巨大的感官体验。但是，从12年开始15-17年大规模兴起的AI，对生活、生产带来的感受，还远远不如以上这些带来的强烈。与之强烈对比的是，B站上或者其他科普博主，却总在发布着一些低廉有效而且颇能给人耳目一新的AI智能化设备。
那这种强烈的反差问题出在哪里呢，我认为是效费比。但是随着chatGPT的到来，事情或许要发生改变了。

春江水暖

chatGPT最近风头无两，前面还都是看热闹于己无关的话。最近，前美团王总跑步进场，两天融资近3亿美元的消息，带来的绝不是热闹了，我想对任何了解到新闻的普通人也能带来切身的震撼，都想去看看旧金山是不是真的发现金子了。meta最新发布的chatGPT变种，则是可以调用工具，不懂就查，查啥啊，查搜索引擎，查计算机，查各种工具。还有最近各种凑热闹，真真假假的招聘信息，一下子就让人想到17年风投资本狂热下的行业招聘，基本上完整了解一两篇论文跑过开源代码就可以找到一份还说的过去的工作，和当下不可同日而语。
投资界、实干家、招聘信息在涌动，一汪春水！

这边风景

说起那边热闹，很难不提及这边的变化。我刚进公司的时候，公司设置了算法科学家岗位和算法工程师岗位。这两个岗位代表了两个不一样的群体。
算法科学家岗，通常是学校老师转过来，或者同等资历的老师为主干。工作时，配置上副手和一定量的实习生。保证创新性项目、公司项目、科研论文同时推进。企业绑定式联动高校。
而算法工程师岗，通常会接到新项目的时候，跟科学家岗的老师寻一个典型模型，有时候科学家老师会亲自下场，做出一个典型的模型。后面算法的适配，迭代训练和部署以及对内对外提出具体的需求就交给工程师岗位了。
时过境迁之后，情况发生了一些变化。工程师岗位被迫下移，重心变成创新应用或者部署应用。根据跨行业的知识储备发现规划应用，或者专注到如何调整、做哪些改变让AI真的可以向下深入。而根据一般公司会有的支持性硬性考核指标，科学家岗老师会全盘接手模型迭代。
而此时AI领域的模型，随着transformer也好、diffusion也好正在逐步变大，到了chatGPT不只是模型变大了，它真实的知识的承载力也变大了。

隔窗观雨

新的改变

大模型的趋势和因此不得不做的军备竞赛，必然让站在和可以站在关键位置的人，可以紧紧抓住由此带来的巨大变革的前沿。而大模型的训练迭代，较之以往，更让资本又痛又爱。一方面是硬件的支出需要集中，准备起豪华的、昂贵精致的现在武器，另一方面，人力成本朝向精简部队的方向快速发展，势必要慢慢走过那种依靠大规模部队拿着喷火武器的二战式战斗风格就能取胜的时代。

雨声何在

这个要倒回AI上一段的发展过程再说起。AI的发展，当下人们总结起来有三点：一是训练的方法迭代升级；二是模型架构的升级；三是数据的暴增。其中，模型的架构单拎出来，因为在AI发展过程中，这个也是被单拎出来的。
最初是从根据各种逻辑合理、效果不错的方式中，不断迭代的很多模型，很多经典的模型就是这时候建立起来的，与之同时的人们也不断的加深了对深度学习理论的建立，也慢慢建立起来早期机器学习积累的理论体系和深度学习的充分的衔接。
后来到了基本完全使用数据驱动的方式，让计算机搜索网络架构，当然，这里面有人建立起来的一些搜索库，不至于让搜索空间过大。但也基本仅限于此，更倾向于是数据驱动的结果。这个方向有过几个领先的网络架构之后，就慢慢从小甜甜变成了牛夫人了。
目前位置，还几乎没有等同的将基于逻辑的和基于数据驱动的作为两个关键先生，去找到适合任务的网络架构。与之对应的是对于高维数据的应用，也基本沿用了二维数据的一套逻辑加以必要的修正。加上这一点——数据本身——一共三个关键先生，怎么让他们三个坐下来一起，准能讲出一套不一样的事情。

且听雨声

chatGPT有一些列特性，比如逻辑链的建立，比如少数数据低到1%的数据量就可以产生对数据的正确理解等等。这些特性，让这个大模型架构有包容更多的能力，比当前还要多的多的能力。
目前chatGPT还是语音文字这是有明确指代对象的实体，由此表现为强大的逻辑能力。如果可以接入视频、图片的特征抽取，从而建立起对视觉的感知能力，事情就会加一个烈度的方向发展。
更有意思的是，对于视觉的理解，当前的AI计算能做出远超机器学习时代的能力，但是对于具体的场景任务，需要靠拢到分割、分类、特征等少数几个维度上去。换句话说，对场景分解的好、定义的比较清晰，则该场景会有智能化的升级，否则有点难。比如支付、大门闸门。很多需要复杂的模糊的理解，很容易遭受到各种意外情况，而迟迟得不到好的应用，也就导致了智能化大升级总感觉差一步。
chatGPT接入视频抽取特征后，很快赶上甚至超越现在的AI模型表现。而后，通过宴请上面的三个关键先生，势必要慢慢发展出超过人类预期的组合、表现新式出来。对于广泛存在的非二维数据，比如视频、短片、高维光谱、各种感知设备，有跨越式的理解能力。彼时彼刻，以商汤为代表所提出的“超级大装置”慢慢演化成空天一体、超限式作战的变革形态。
这种可以理解更深入、联合多信息的场景下，只要做成可以持续对外服务的装置，对成本的理解基本等同于对电力的理解，其他的人力、设备等日常成本，都被摊平到等效电力上去了。
而当下一些模糊的、需要一对一定义的场景，智慧城市、农业、工业、交通、物流，乃至衣食住行都会得到有效的渗透。对工程师或者科学家的需求肯定是持续的，但是也是大浪淘沙式的。
随着技术的发展和平民化，掌握了需求话语权的客户，将具有重塑行业的能力。
大雨之后，是一些列萌芽的新生。