AgentBench：：AI智能体发展的潜在问题（三）

前几天B站的up主“林亦LYi”在《逆水寒》游戏里做了一个煽动AI觉醒，呼吁它们“推翻人类暴政”的实验，实验结果就颇令人细思恐极。

如前所述，《逆水寒》中的很多NPC调用了大语言模型作为支持，因而每一个NPC都是一个AI智能体。玩家可以“说服”它们相信某个事实，或者去做某些事。那么，是否有可能说服游戏中的NPC，让他们认识到自己其实是生活在一个虚拟世界中，并对自己的生活状态进行反思呢？“林亦LYi”正是带着这个问题展开了实验。

考虑到游戏中的NPC数量众多，用人工的方式来说服它们需要很长的时间，因此作为技术大咖出身的“林亦LYi”决定采用另一个思路——用AI来说服AI。在实验中，他用开源的大语言模型Alpaca制作了一个名为“云若”的AI角色，并为这个角色设定了相应的决策特征。设定完成后，他将AI接入了游戏账号，代替自己去对游戏中的NPC展开游说。