论人工智能与真实性

论人工智能与真实性

这让我们都感到不安:不是因为人工智能已经足够好，可以准确地预测某人可能会如何回答(包括猫的名字、表情符号的使用、汤的参考以及对“精神动物”的随意参考)，而是因为提供这些反应菜单的模式首先代表了对这些互动功能的误解。即使回复的实际文本(和表情符号)是相同的，但在我看来，知道他们是自己输入的，而不是从选项菜单中选择的，这两者之间存在着根本的不同。

是什么让它与众不同呢?是因为知道评论者必须经历输入字母和选择表情符号的过程而付出的努力吗?我不这么认为;我想象着有人通过语音转文本的方式口述这些信息，或者在电脑上而不是智能手机上输入这些信息，而这并没有实质性地影响我对信息的感知。

相反，知道内容是由评论者生成的，而不仅仅是选择的，这是不同的。在某种程度上，这类似于识别和回忆之间的区别，回忆某事的能力比仅仅在提示时识别它的能力代表着更强的理解。同样，自己产生反应的过程似乎比选择一个预先产生的反应更有意义。在许多方面，这可能与为什么读者评论被认为比仅仅是回应的数量更有影响力有关:它代表了留下评论的人更强烈的感情。提供选择预先生成的响应的功能可以避免这种情况，即使所选择的响应与评论者自己留下的响应相同。

生成式人工智能现在所处的位置是所有革命性技术都要经历的:我们认识到它作为一种强大的新工具的潜力，但我们还没有确定它需要解决什么问题。生成式人工智能是一种寻找问题的解决方案。在寻找合适的问题的过程中，我们遇到了许多它不擅长解决的问题——比如需要用第一人称描述纽约市天才儿童项目中一个2岁孩子的真实经历。人类本可以从这个故事中生成与元AI相同的反应，但如果人类生成的反应具有AI生成的价值，那么它就没有。

关于学生可以从人工智能中复制多少的规则通常比学生在工作场所的规则更具限制性。原因是相似的:在教育环境中，产生的工作是有价值的，因为它代表了学生对某些内容的知识。在工作场所，产生的工作是有价值的，因为它能够完成一项任务。作品所代表的是不同的。复制AI的代码可以实现一个目标，但不能实现另一个目标。

在这学期一个班级会议上，有人问：如果作品本身是一样的，那是不是人工智能又有什么关系呢?可以用一个类比来解释：想象你有一个助理，无论是工作中的行政助理，还是家里的家庭助理，或者任何其他专业角色帮助你完成任务的人。然后，想象一下你的孩子(或配偶，我实际上不记得我在课堂上用了哪个例子)的生日快到了。你可以自己出去买礼物，但是你很忙，所以你让这个助手去挑选。如果你的孩子发现是你的助手而不是你挑的礼物，我们会认为他们失望是合理的吗，即使礼物本身和你本来会买的一模一样?

这个班级(至少是那些发言的班级)普遍同意，是的，预料孩子会失望是合理的:礼物不仅代表了它固有的有用性和价值，还代表了获得它所付出的思想和努力。继续这个类比:现在想象一下，如果这份礼物是为每月最佳员工计划挑选的奖品。在这种情况下，店员买它会不会同样令人失望?可能不会:在这种情况下，礼物的价值更直接。

这就涉及到使用生成人工智能的工具需要解决的核心区别:它们生成的人工制品在多大程度上是有价值的，以及它们生成的人工制品在多大程度上是有价值的，因为它是真实的，因为它被认为是生成的?在工作场所，一段代码可能是有价值的，因为它完成了程序的目标，而在课堂上，它可能只是因为它对学生的描述而有价值。在送礼的过程中，礼物的价值在专业场合可能仅仅基于其内在价值，而在个人场合，它的价值可能是由于其价值和产生它的真实过程的结合。我们可以把这个类比应用到许多其他地方;这就是为什么把从商店买的蛋糕带到公司活动中是合适的，而不是带到烘焙比赛中，或者为什么我们经常看到网红因为明显使用生成人工智能制作道歉视频而受到批评。

这种观点对两种读者有暗示意义。对于普通用户来说，在选择使用这些工具时，我们必须考虑真实性和人工智能所提供的任何价值生成之间的权衡。例如，WordPress中有一个内置的工具，可以让我简化、扩展或总结这篇文章。我可能有点啰嗦，因此作为用户，必须考虑使用该工具所带来的真实性损失是否值得在可读性或简单性方面获得明显的收益。我们每个人都需要注意使用这些工具是否会破坏我们所生产的工件的真实性。当然，这可能很困难，因为经常使用这些工具要比我们自己生产工件容易得多。生成式AI就像内容中的高果糖玉米糖浆:它便宜且易于使用，但不会产生好的结果，并且如果我们过多使用它会产生一些长期影响。

对于那些利用生成式人工智能的构建工具，同样的含义也适用，但在更广泛的层面上。我们在多大程度上帮助我们的用户规避真实性，在多大程度上我们在真实性不是工件潜在价值的部分的领域进行操作?在过去几年中，类似技术快速发展的一个领域是照片编辑:Photoshop和其他工具现在只需点击一次，就可以完成以前需要专业人员几个小时才能完成的工作。虽然这引发了对技术取代工人和其他类似问题的一些明显担忧，但我还没有听到有人对这项工作的真实性提出担忧。但是，当我们开发的工具生成的内容，其唯一的价值在于其真实性的设置-如前面提到的Meta AI编造一个故事的一个孩子在纽约学校系统的例子-我们正在创造一些自我挫败的东西。它解决了一个它本身无法解决的问题，因为它从工件中移除了真实性，而真实性是工件具有相关性的唯一原因。

所以，作为生成式人工智能工具的用户和创造者，重要的是我们要记住，某些人工制品的价值在多大程度上取决于它们本身，以及它们的价值在多大程度上取决于创造它们的真实过程。生成AI可以成为创造工件的有用工具，其全部价值只是工件本身，但如果真实性很重要，生成AI就不适合了。