Snapchat用新的人工智能对话机器人搞诈骗？

“我的人工智能”每月售价3.99美元，“可以被骗说任何事情。”

周一，Snapchat宣布了一款实验性的人工智能对话聊天机器人，名为“我的人工智能，由OpenAI的ChatGPT风格技术提供支持。Snapchat+的订阅用户可以以每月3.99美元的价格购买我的人工智能，并于“本周”推出新闻邮报来自Snap公司。

用户将能够通过给它一个自定义名称来个性化这个人工智能机器人。与人工智能模型的对话将在类似于与人类常规聊天的界面中进行。Snap首席执行官埃文·斯皮格尔表示:“我们的主要想法是，除了每天与我们的朋友和家人交谈，我们还将每天与人工智能交谈。”告诉The Verge.

但是像它的GPT动力兄弟一样，ChatGPT聊天机器人和Bing聊天Snap表示，我的人工智能容易产生“幻觉”，这是人工智能模型产生的意外错误。在这一点上，Snap在其My AI中包含了一个相当长的免责声明公告栏:

“和所有人工智能聊天机器人一样，我的人工智能容易产生幻觉，可以被骗去说任何事情。请提前意识到它的诸多不足和抱歉！与我的AI的所有对话将被存储，并可能被查看以改善产品体验。请不要与我的人工智能分享任何秘密，也不要依赖它的建议。”

在机器学习研究人员中，“幻觉”是一种学期这描述了当一个人工智能模型对一个主题或情况做出不准确的推断，而这个主题或情况不在其训练数据集中。这是当前大型语言模型(如ChatGPT)的一个众所周知的缺点，它可以很容易地编造听起来令人信服的谎言，如学术论文不存在的不准确的传记.

尽管Snap强烈否认我的人工智能有编造东西的倾向，但该公司表示，其新的Snapchat机器人将在Snapchat应用程序中自己的标签页上显示与朋友的对话，并将“为你最好的朋友推荐生日礼物，计划一个长周末的徒步旅行，建议一个晚餐食谱，甚至为你痴迷切达奶酪的朋友写一首关于奶酪的俳句。”

Snap并不认为同一个不能“依赖建议”的机器人也能计划一次准确而安全的“长周末徒步旅行”。对生殖人工智能的飞速发展的批评抓住这种不一致表明，也许这些聊天机器人还没有准备好广泛使用，特别是作为参考提出来的时候。

虽然人们已经做了一些游戏来试图规避ChatGPT聊天机器人和Bing聊天的据报道，Snap已经训练其GPT模型不讨论性、脏话、暴力或政治观点。这些限制对于避免精神错乱的行为可能是特别必要的我们看到了几周前和Bing聊天。

加倍如此，因为“我的人工智能”可能有一些强大的东西正在运行:OpenAI的下一代大型语言模型。据The Verge报道，Snap正在利用一个新的OpenAI企业计划，名为“铸造“OpenAI在本月早些时候悄然推出。它为公司提供了对OpenAI的GPT-3.5和“DV”模型的专用云访问。几位人工智能专家已经推测这个“DV”可能相当于GPT-4，传闻中GPT-3的高性能后续产品。

换句话说，其新闻稿中提到的“幻觉”快照可能比ChatGPT来得更快，也更详细。考虑到其他GPT模型的高度说服力，人们可能会相信它，尽管有警告。随着新的GPT驱动的商业服务上线，这是未来几个月值得关注的事情。