亚马逊AI技术风波：人工智能“洗白”现象引发质疑

  每周跟踪AI热点新闻动向和震撼发展 想要探索生成式人工智能的前沿进展吗？订阅我们的简报，深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同，从行业内部的深度分析和实用指南中受益。不要错过这个机会，成为AI领域的领跑者。点击订阅，与未来同行！ 订阅：https://rengongzhineng.io/

今年，亚马逊因其在多家实体杂货店安装的“Just Walk Out”技术引发了批评性报道而备受关注。

这种人工智能驱动的系统使顾客在许多亚马逊生鲜店和亚马逊Go商店中只需挑选商品，然后直接离开。这项技术通过大量传感器来识别顾客选择了哪些商品，随后自动结账。然而，今年四月，有报道称，这项“Just Walk Out”技术并非完全依赖人工智能，而是需要印度约1000名员工手动检查几乎四分之三的交易。

亚马逊迅速回应称这些报道是“错误的”，并表示印度的员工并未审查所有商店的视频监控。亚马逊表示，这些员工只是对系统进行审核。这与任何注重准确性的AI系统相同，人类审核员是很常见的。无论亚马逊的具体情况如何，这都是一个引人注目的例子，说明了一个新兴的问题——公司是否在夸大其对AI的使用。这种现象被称为“AI洗白”，类似于环保领域的“绿色洗白”。

首先，解释一下什么是AI。虽然没有确切的定义，但AI让计算机能够学习和解决问题。在经过大量信息的训练后，AI可以执行这些任务。近年来备受瞩目的AI类型是所谓的“生成式AI”，这种AI擅长创造新的内容，无论是文本对话、音乐还是图像。像ChatGPT、谷歌的Gemini和微软的Copilot都是生成式AI的流行例子。

谈到AI洗白，有几种类型。一些公司声称使用AI，但实际上使用的是不那么复杂的计算技术；还有些公司夸大了AI在现有技术上的效果，或声称其AI解决方案已完全投入使用，而实际上并非如此。同时，还有一些公司只是将AI聊天机器人附加到现有的非AI操作软件上。

根据英国和芬兰的投资基金OpenOcean的数据，2022年只有10%的科技初创公司在推介中提到使用AI，而在2023年这一比例上升到超过四分之一。OpenOcean预计今年这一比例将超过三分之一。团队成员Sri Ayangar表示，竞争资金和渴望走在科技前沿的欲望推动一些公司夸大其AI能力。

“有些创始人似乎认为，如果不在推介中提到AI，这可能会使他们处于不利地位，不管AI在他们的解决方案中扮演了什么角色，”Ayangar说道。“从我们的分析来看，公司声称拥有AI能力与展示出实际AI驱动结果之间存在显著差距。”

Ayangar指出，许多初创公司的老板认为他们必须提到AI。根据另一家科技投资公司MMC Ventures的数据，这个问题已经存在多年。2019年的一项研究发现，自称为“AI初创公司”的新科技公司中有40%实际上几乎不使用AI。

MMC Ventures的合伙人Simon Menashy解释道：“现在，每家公司都可以以标准软件的价格购买到最前沿的AI技术，但很多公司并没有构建完整的AI系统，而只是将聊天机器人界面添加到非AI产品上。”

KPMG英国新兴技术风险负责人Douglas Dick表示，AI洗白问题因缺乏统一的AI定义而加剧。“如果我问一个房间里的人什么是AI，他们都会给出不同的答案，”他说。“这个术语被非常广泛和松散地使用，没有明确的参照点。这种模糊性使AI洗白现象得以出现。”

AI洗白对企业有着令人担忧的影响，从支付过高的技术和服务费用到无法实现AI预期的运营目标。对于投资者来说，这使得识别真正创新的公司变得更加困难。Ayangar表示：“如果消费者对声称提供先进AI驱动解决方案的产品感到失望，这可能会侵蚀那些真正做开创性工作的初创公司的信任。”

美国的监管机构已经开始注意到这个问题。今年早些时候，美国证券交易委员会（SEC）表示，正在起诉两家投资咨询公司，指控它们对使用AI的程度作出虚假和误导性陈述。“SEC采取的坚定立场表明，在AI洗白问题上没有回旋余地，至少在美国，未来我们可以预期对违规者会有更多的罚款和制裁，”国际律师事务所Charles Russell Speechlys的合伙人Nick White说。Nick White指出，美国监管机构对这个问题的打击力度令人欣慰. 在英国，已经有法规和法律涵盖AI洗白问题，包括广告标准局（ASA）的行为准则，该准则规定，营销传播不得存在重大误导性或可能导致误导性。英国企业法律事务所Walker Morris的监管团队助理Michael Cordeaux表示，AI声明已成为ASA调查的广告中越来越常见的特征。

例如，一则关于应用程序的付费Instagram帖子标题为“使用AI增强您的照片”，ASA认为这是夸大了应用程序的性能，因此具有误导性。Cordeaux表示：“很明显，AI声明越来越普遍，显然也越来越能够引起消费者的兴趣。”

牛津大学技术与监管教授Sandra Wachter认为：“我们正处于AI炒作的高峰期。”她补充道：“我们似乎忘记了问是否有必要将AI用于所有类型的任务。我记得在伦敦地铁看到的广告上写着由AI驱动的电动牙刷。这是给谁用的？谁会受益？”

此外，她表示，AI的环境影响常常被忽视。“AI并不是从树上长出来的……这种技术对气候变化的贡献已经超过了航空业。我们必须摆脱这种片面的炒作讨论，真正思考AI在具体任务和领域中的有益之处，而不是盲目地将其应用到所有领域。”

然而，MMC Ventures的研究主管Advika Jalan表示，从长远来看，AI洗白问题可能会自行消退。“AI变得如此普遍——即使它们只是ChatGPT的外壳——‘AI驱动’作为一个品牌工具最终可能不再具有差异性，”她说。“这就像说‘我们在互联网上’一样。”