破坏人工智能

破坏人工智能

我一直在努力表达这个想法，也许问题是，一旦你把它放在那里，它实际上是很简单的，一旦你把想法写在纸上，真的没有很好的理由去解开整个案例。

我正在远离衡量和修复不公平的算法系统，或使它们更透明或更负责任的话语。相反，我发现自己专注于阐述破坏、规避和摧毁“人工智能”、机器学习系统及其周边政治项目的道德理由，以此作为对伤害的有效回应。

换句话说，我希望我们能够内化并更加严格地欣赏那些搞砸人工智能及其支持系统的人。

随着霸权算法系统(即大型语言模型和类似的机器学习系统)的出现，以及资本将这些技术推向我们的压倒性力量，我开始觉得以人为本的设计(HCD)和HCI的总体项目已经达到了一个可悲的失败状态。也许它已经存在了一段时间，但我认为，该领域无法有力地崛起，以应对大型语言模型的崛起，以及聊天机器人作为解决所有可能想到的问题的灵丹妙药的普遍使用，都是其当前状态的无情说明。

CHI和FAccT未能有效应对创造性劳动的去技能化;或者这些系统在世界范围内造成或加剧的环境或人道主义危机;甚至是骗子和骗子编造的“厄运概率”占用了我们的空间。事实上，在某些方面，这些空间回避了艰难的对话，并欢迎胡言胡语，以试图避免面对我们集体卷入的种族灭绝的痛苦，或者面对我们自己作为入侵、监视、流离失所和杀害人民的企业国家代理人的角色的幻灭。

我不再有兴趣鼓励设计这些杀人技术的更人性化版本，或者告知更人性化的复杂算法系统管理，这些系统分离家庭，轰炸学校和社区，迫使人们离开家园或走上街头，或者在人们最需要的时候拒绝医疗服务。这些系统的存在是为了促进暴力，而那些致力于扭转边缘暴力的HCI研究人员比我有更多的东西。我希望这是耐心和决心，而不是自私的贪婪。

我认为，我们必须有力地把这样一种可能性摆到桌面上，即我们将摧毁那些无法为其存在提供令人信服的肯定理由的体系。这种威胁必须是可信的。我们应该积极地破坏和破坏系统，并认识到劳动是我们参与的一项道德工程，就像勒德分子破坏撕裂人的机器一样。

这不是一个真正的HCD或HCI社区的帖子或对话。我已经对设计社区感到厌倦(我想是警惕)，因为他们最终似乎致力于……设计系统——一个与这个相反的意识形态项目。

如果你认为自己是大多数人称之为“设计”的群体中的一员，我会让你向自己提出一些具有挑战性的问题。从这些开始:

你是和系统打交道，还是和人打交道?如果两条路不同，你会选择哪一条呢?如果他们有冲突，而你只能追随或保护其中一个呢?如果你看到一个制度摧毁了一个人的生活，你认为这个制度必须被修复，还是必须被摧毁?

我想以一些积极的笔记作为结束:我喜欢像芝加哥大学的Glaze这样的项目，当我试图写一篇关于这个的文章时，我看到了一篇关于乳齿象的宣言，我认为它非常酷，而且非常相关。我也看到了一些非常棒的本土艺术，我知道还有其他作品探索了破坏、破坏和毒害数据集等一般空间。

如果没有人想到把这些想法放在同一篇博客文章中，我会感到惊讶-如果你看到其他类似的想法，请联系我。我很想听听其他人的想法。

如果你一直在思考这些问题，或者如果你是我联系过的人之一，那么请将此视为鼓励和邀请，与我所写的和指出的其他东西进行对话，因为我认为抵抗是必要的，并且不能被设计头脑的人捕获。