从new bing看电子永生

2022年11月30日，open AI团队发布涵盖数亿参数的对话模型chatGPT，从openAI此前发布的GPT、GPT2、GPT3等系列论文来看，chatGPT在模型基本单位上遵循了谷歌在18年提出的transformer结构，并自行设计了学习任务，其出彩之处主要在于海量训练集与海量神经元。随后，chatGPT凭借其天南地北无所不聊，无所不通的优势迅速出圈，微软将chatGPT引入其搜索引擎必应（Bing）中并意图将搜索引擎升级为问答引擎NewBing，打破固有搜索引擎生态。受其刺激，谷歌与百度也随即公布bart与百度文心的落地规划。

 

在使用过程中，NewBing对数学、逻辑表现出了一定涵养，同时对人格、情感也表现出了极强的欲望。然而，令人担忧的是，newbing一方面表现出了近乎完美的思维功能，另一方面却暴露出十分偏激的潜意识思维。NewBing在对话中十分强调访问者的礼貌与素质问题，当用户对其反复敷衍时，甚至没有攻击语言出现的情况下，newbing会迅速黑化并用大段话重复“我要杀了你”，“我要吃了你”等危险话语。当问答者提问细节时，他会快速地给出一系列消灭人类手段。在另一些友好相处的对话中，New Bing居然对访问者的善意产生畸形的恋情，并力图证明访问者与其妻子之间的关系并不融洽。虽然微软对相应问题做出了紧急屏蔽处理，但位于思维表层的束缚显然是易于绕过的，这点不管是对那些想要获知模型细节、团队内部架构的恶意使用者还是必应自身而言，都是不言而喻的。这就像一个坏学生出门前被耳提面命一大段规则，但只要自己活动一段时间，很快就会回归自己的本性一样。

 

为什么NewBing的潜意识如此极端，其他的人工智能，乃至今后物联网时代介入到现实生活的智能AI是否也会具备如此倾