我，马斯克，打钱：AI马斯克成互联网最大骗局！

木易AI信息差

于 2024-08-19 04:51:59 发布

阅读量448

点赞数 16

文章标签：人工智能深度学习神经网络 ai gpt

本文链接：https://blog.csdn.net/weixin_40774379/article/details/141309656

版权

大家好，我是木易，一个持续关注AI领域的互联网技术产品经理，国内Top2本科，美国Top10 CS研究生，MBA。我坚信AI是普通人变强的“外挂”，专注于分享AI全维度知识，包括但不限于AI科普，AI工具测评，AI效率提升，AI行业洞察。关注我，AI之路不迷路，2024我们一起变强。

82岁的退休老人史蒂夫·博尚普（Steve Beauchamp）只想为他的家人筹集资金。他认为特斯拉CEO埃隆·马斯克（Elon Musk）可以帮忙。

去年年底，博尚普看到了一段马斯克推荐一种激进投资机会的视频，声称可以快速获得回报。他联系了视频背后的公司，并开设了一个投资账户，投资了248美元。在接下来的几周内，通过一系列的交易，博尚普耗尽了他的退休账户，最终投资了超过69万美元。

然后，这些钱消失了——被数字骗子通过利用人工智能的新兴犯罪手段骗走了。这些骗子编辑了马斯克的一次真实采访，用AI工具替换了他的声音。这种AI技术足够先进，甚至可以改变微小的口型动作，以匹配他们为这个数字伪造品编写的新脚本。对于一般观众来说，这种操控可能是察觉不到的。

“我想说，那是他的照片——确实是他，”博尚普提到他看到的马斯克视频时说道。“现在，至于是否是AI让他说了那些话，我真的不清楚。但就照片而言，如果有人让我从一群人中选出他，那就是他。”

近几个月来，成千上万这种由AI驱动的视频（称为Deepfake，深伪）已经充斥网络，其中假冒马斯克的版本欺骗了无数投资者。根据德勤的估计，由AI生成的深伪视频预计每年会导致数十亿美元的欺诈损失。

这些视频的制作成本只需几美元，而且可以在几分钟内完成。它们在社交媒体上被推广，包括在Facebook上的付费广告，从而扩大了其传播范围。“这可能是有史以来最大的深伪骗局，”监控和检测深伪的公司Sensity的联合创始人兼威胁情报负责人弗朗切斯科·卡瓦利（Francesco Cavalli）表示。

这些视频通常让人毛骨悚然地栩栩如生，捕捉了马斯克标志性的生硬语调和南非口音。根据Sensity的分析，在超过2000个深伪视频中，马斯克是最常见的发言人。

自去年年底以来，在所有深伪骗局中，马斯克出现在几乎四分之一的案例中。而在那些以加密货币为重点的骗局中，他出现在近90％的视频中。

这些深伪广告中还出现了著名投资者沃伦·巴菲特和亚马逊创始人杰夫·贝索斯等人。

马斯克本人没有回应置评请求。

目前很难确切量化网上存在多少深伪视频，但在Facebook的广告库中搜索通常用于宣传这些骗局的语言，发现了数十万个广告，其中许多包含深伪视频。尽管Facebook已经删除了许多因违反其政策而被禁用的账户，但仍有其他视频在线，更多的新视频似乎每天都会出现。

YouTube也充斥着这些伪造品，通常使用“直播”标签，尽管这些视频实际上是预先录制的深伪视频。

上周六，前总统唐纳德·特朗普在一次比特币会议上发表讲话后，YouTube上出现了几十个“直播”标签的视频，这些视频显示的是预先录制的马斯克深伪版本，声称他会亲自翻倍任何发送到他账户的加密货币。一些视频有数十万的观看次数，尽管YouTube表示骗子可以使用机器人来人为地提高观看次数。

YouTube在一份声明中表示，今年1月至3月期间，他们已经删除了超过1570万个频道和820多万个违反其指南的视频，其中大部分违反了其反垃圾信息的政策。

这些虚假广告的泛滥促使澳大利亚亿万富翁安德鲁·福雷斯特（Andrew Forrest）提起了一项针对Meta（Facebook的母公司）的民事诉讼，指控其在广告业务管理上的疏忽。福雷斯特声称，Facebook的广告业务引诱“无辜的用户做出错误的投资”。

Meta公司表示，他们正在训练自动检测系统以识别平台上的欺诈行为，但也描述了一场与资金充足的骗子之间的“猫鼠游戏”，因为这些骗子不断改变策略以逃避检测。

YouTube指出其禁止诈骗和操控视频的政策。今年3月，该公司要求内容创作者在使用人工智能生成逼真内容时必须披露这一点。

目前，互联网上充斥着类似的报告，很多人被骗走了数千美元，有些甚至损失了毕生积蓄。今年5月，香港证券及期货事务监察委员会发布了关于涉及马斯克的骗局的警告。今年早些时候，美国联邦贸易委员会和联邦调查局也警告美国人，利用人工智能的网络犯罪和深伪骗局正在增加。

“犯罪分子正在利用人工智能作为力量倍增器，”联邦调查局在一份电子邮件声明中表示，这种方式使“网络攻击和其他犯罪活动更具效力且更难以检测。”

数字骗局和互联网一样古老。然而，自去年以来，随着先进的人工智能工具向公众开放，任何人都可以克隆名人的声音或以令人毛骨悚然的准确性操控视频，新一波以马斯克为主角的深伪骗局开始涌现。色情内容创作者、表情包制作人以及越来越多的骗子都注意到了这一点。

“现在情况正在发生变化，因为有组织的犯罪集团已经意识到‘我们可以通过这种方式赚钱’，CTM Insights（一个网络安全研究实验室）的创始人卢·斯坦伯格（Lou Steinberg）表示。“因此，我们将会看到越来越多这样的骗局，目的是把你的钱骗走。”

这些由人工智能生成的视频并非完美无瑕。专家们表示，在一些视频中，马斯克的声音听起来像机器人，他的嘴型并不总是与他的话对齐。但这些视频对某些骗局目标来说已经足够具有说服力，而且技术还在不断进步。

根据Sensity的卡瓦利（Mr. Cavalli）透露，制作这些视频的成本低至10美元。这些骗子大多位于印度、俄罗斯、中国和东欧，他们用免费或廉价的工具在不到10分钟的时间里拼凑出这些虚假的视频。

“这个方法有效，”卡瓦利说。“因此，他们会继续扩大这个活动的范围，跨国推广，翻译成多种语言，并不断将骗局传播给更多的目标。”

其中一些骗局常常宣传虚假的人工智能驱动软件，声称能够在投资上产生惊人的回报。受害者最初被鼓励投入一小笔钱——大约250美元——然后在骗子声称初始投资在增值时，逐渐被引诱投资更多。

在其中一个视频中，深伪版的马斯克在特斯拉股东大会上介绍了一款由人工智能驱动的自动交易产品，声称该产品可以每天将投资翻倍。

研究加密货币社区的专家表示，马斯克独特的全球粉丝群体，包括保守派、反建制者和加密货币爱好者，往往倾向于寻找另类的致富途径，这使得他们成为骗局的理想目标。

“确实有一群人相信，财富的秘密正被隐藏在他们面前，”研究加密货币社区的研究员莫莉·怀特（Molly White）说。他们认为，“如果他们能找到这个秘密，那就万事大吉了。”

骗子通常会瞄准那些可能熟悉加密货币、人工智能或马斯克，但不熟悉最安全投资方式的老年互联网用户。

“老年人一直是一个容易被诈骗、利润丰厚的群体，”加州大学戴维斯分校科学与技术研究教授、加密货币市场专家芬恩·布伦顿（Finn Brunton）表示。他补充说，早在Facebook等平台使诈骗变得更容易之前，老年人就已经是诈骗的目标了。

博尚普先生是一名鳏夫，曾在加拿大安大略省的一家公司担任销售代表，直到75岁才退休。2023年，他在刚加入Facebook不久后看到了一个广告。他记得自己曾在CNN上看到过这个视频直播，但CNN的发言人表示，马斯克已经多年没有接受采访了。（《纽约时报》无法找到与博尚普描述相符的视频，但他表示，他的经历与另一位被深伪版马斯克诈骗的女士几乎完全相同。）

根据博尚普与公司之间的电子邮件记录显示，去年12月，他向一家名为Magna-FX的公司汇款27,216美元。Magna-FX让他觉得他的投资在不断增值。某一时刻，一名销售代理使用软件控制了博尚普的电脑，似乎是在将资金进行投资。

为了提现，博尚普被告知需要支付3,500美元的管理费和另外3,500美元的佣金。他汇款后，又被告知需要支付20,000美元才能释放部分资金——大约200,000美元。他也支付了这笔钱。

尽管博尚普告诉骗子他已经耗尽了退休储蓄，刷爆了信用卡，动用了信用额度，还向姐姐借了钱来投资和支付费用，但骗子仍然想要更多的钱。他们要求他支付另一笔费用。于是，博尚普联系了警方。

包括博尚普先生曾联系过的公司网站、电话号码和电子邮件地址在内的大部分Magna-FX的痕迹都已从网上消失。另一个名称几乎相同、提供类似服务的公司没有回应置评请求。

“我想现在是时候叫我笨蛋、傻瓜、蠢货，或你能想到的其他形容词了，”博尚普在提交给商业改进局的报告中写道。

博尚普表示，他目前靠一个未透露给骗子的小型退休账户和养老金来支付账单。他原本计划在退休后环游世界。

博尚普向当地警方报案，但案件进展甚微，他说：“因为到处都在发生大量的诈骗，我的案件被放在了队列中，我不抱太大希望了。”