算法霸权--数学杀伤性武器的威胁--读书笔记

算法就像上帝，数学毁灭武器（大模型）的裁决就是它的武器。

数学毁灭武器不会创造，它只会机械的依据历史，要么落井下石，要么锦上添花…让富人更富，穷人更穷，人类社会两极分化更加严重，更加混乱，加速熵增。

数学毁灭武器的另一个特征，即往往惩罚穷人。

大数据和大模型加剧了偏见和不公。

人们对大模型得出的结论毫无争议，从不上诉，即使结论是错误的甚至有害的……因为人们很难对自己不了解的东西提出质疑或抗议。

特权阶级更多的和人打交道，而群众则由机器控制。

 

大数据模型有很多相同的特点:不透明、不被质疑、解释不通…大部分模型（数学毁灭武器）把运算结果和真实情况混淆，导致恶性循环。

但是，对于使用大模型的公司来说，热钱的涌入似乎证明大模型奏效了。站在公司的角度来说，越来越多的盈利证明他们走对路了。金钱成了真理的象征，这样危险的混淆在大模型的使用里我们还会多次看到…

机器和人类最大的区别，就在于，人类能意识到自己有错，知道自己的局限，但是机器永远不知道。它永远一本正经，永远理直气壮，永远自我巩固，极具破坏性。

如果一个标准自己都无法解释，你怎么保证用它裁决人类的正当性呢？可是，大模型的操作者不会思考这些错误，他们的回馈是金钱，这也是他们的动机。吸引更多的数据，微调分析，让更多的热钱涌入。投资者继续坐享收益，继续将更多的钱投入数学模型公司。