AI模型我的偏见

AI模型我的偏见

chatgpt开启了AI在现实世界应用的新篇章, 看上去非常未来，但是这些llm模型本质上是提取了训练中的文字表达的模式(pattern)， 并将这些模式存储在几十亿，几百亿的参数中，这些参数会计算出一个概率分步对应所有文字（几万个英文单词或者几万个中文字）和标点符号。再取概率最高的文字作为对话输出。

我一直觉得，一个正常收敛的模型最大的问题是训练样本，训练样本的feel会决定最后模型表达时候的feel。

chatgpt采用的公开可见的海量数据来训练，最终模型输出的feel是样本的平均值。

而这些模型训练的过程可以类比之前看过的一些新闻中描述的动物学习的过程，比如说训练狗做加减乘除，给一些加减算法的例子，狗能找到对应的答案，而大语言训练的过程也是类似，只不过大语言模型训练的参数非常庞大，而且内容非常的多。 在动物训练中，会采用奖励机制，而模型训练中也有类似的东西，叫做loss， 我们通过奖励让动物知道正确的答案在哪， 我们也通过loss， 告诉模型中那些参数们正确的答案在哪。

当然，采用计算机比动物训练，效率要高太多。但单看底层逻辑其实是一样的。

这里面有一个非常重要的现象，就是这些训练好的AI模型本身没有IQ的概念，谈不上有智商，再多的狗加在一起也凑不出一个爱因斯坦。如果非要和人做比较，那AI的智商不会超过样本数据的智商。

有新闻说，曾经用chatgpt测过智商，拜托，那些测试智商的题目，chatgpt应该基本都见过，所以这个测试没有意义, 你用这些题训练狗，狗也会。

我是做软件开发的，经常有一个说法，AI会淘汰这些职业，淘汰那些职业。其实我觉得并非如此，单说软件开发过程，仅我个人的经验而且，在软件开发过程中，最耗费精力的一个是需求分析，一个是测试，其次是设计和整理逻辑关系，最后才是写代码，其实单独写代码是很快的，而目前的AI也只是辅助写一些代码片段，它在一定程度上起到了辅助作用，说取代实在谈不上。而且AI写的算法，很多在标准库里有实现，实在也用不着，大多数时候是写一些boilerplate code, 仅此而已，所以AI辅助写代码的收费也不高。 再一个，这好比之前很多人用vim写代码，现在有了jetbrain全家桶，因为有了好的IDE， 所以就不需要人来写代码吗?

其实企业裁员，还是因为业务本身收到冲击，现在的短视频，加上爆火的chatgpt这些AI服务平台， 使得流量流向这些短视频平台和AI聊天平台，导致了传统的业务受到冲击。这个和AI技术取代人本身没什么大关系。

如果要说AI技术的冲击那些行业，也许类似写文案的可能会收一些影响，但是我觉得但凡水平高一点的码字的，在正经工作时都不会用AI提示，实在受不了。