加入人工智能开发潮流前要三思

即使我是人工智能怀疑论者，我也乐意承认，人工智能的所有事物都具有不可否认的酷炫因素，而不仅仅是生成式人工智能。很难想象一个软件工程师要么认为它毫无价值，要么根本不想了解它。

事实上，尽管我们人类不愿承认这一点，但我们还是喜欢机器人，而人工智能就是其中一种形式。

在高中，我最喜欢的两门科目是自动化和数字电子学。前者很好地介绍了用更少的努力实现更多目标的可能性，而后者教会了我如何用半导体和二进制代码做很多事情。

我第一次建造和编程 LEGO EV3 机器人时，就被迷住了。所有的传感器、马达和代码突然打开了一个前所未有的机器人世界，并带来了游戏。人工智能将这一点以及我们已经喜欢的自动化和机器人技术提升到了一个新的水平，而下一个水平总是令人兴奋的。然而，这并不意味着没有任何危险需要注意，在这种情况下，一头扎进人工智能领域会带来很多不利因素，在冒险之前，人们应该意识到这一点。

退一步来说

作为一名软件工程师，要了解采用人工智能的成本到底有多高，我们首先必须务实地看待人工智能的现状，当我说人工智能时，我的意思主要是生成式人工智能。

虽然人工智能已经存在了半个多世纪——是的，信不信由你，早在万维网出现之前——但直到最近两年，普通人才能真正感受到人工智能的魅力。在过去的二十年里，人工智能一直在幕后做着大量被称为机器学习的工作，而机器学习只对像我这样的书呆子和技术人员有意义。当然，它的影响是显而易见的，尤其是对眼光敏锐的人来说。YouTube 准确地知道你接下来可能想看什么视频，Netflix 恰好知道你想看什么电影和电视节目，Facebook 知道推送什么帖子会让你兴奋，而谷歌非常擅长猜测和计算你的下一个目的地。

这些听起来都没什么，但作为软件工程师，我们都知道，我们日常使用的平台上的这些“幸运猜测”都与运气没有太大关系。所有这些事情，以及从通过 Shazam 检测歌曲到拍摄完美的假日照片等无数其他事情，都需要机器学习和算法来做大量繁重的工作。简单来说，这都是我们无法互动的人工智能。

由于生成式人工智能不再是理论上的而是切实可行的，我们创造了唾手可得的机会，但同时也带来了许多挑战。

随着生成式人工智能的出现，这一切都发生了改变。这是第一次，每个人，包括你祖母，虽然她还没有习惯使用微波炉，都可以与人工智能互动，这种与人工智能互动的能力永远改变了范式，不仅是普通消费者，还有我们软件工程师。使用在后台执行操作的机器学习 - 虽然有其自身的挑战 - 使用生成式人工智能，一种更容易获得的人工智能版本，则是完全不同的游戏。

睁大双眼进入人工智能领域

当 Linus Torvalds 被问及生成式人工智能时，他的回答完全符合我的预期——大约 8 分钟的思考，可以简化为“嗯，还行”，或者如果你想要更细致的 TLDR—— “人工智能炒作，很糟糕。

人工智能本身，很有趣。”，我知道，我知道，确认偏差就像翡翠岛上的绿草一样真实和蓬勃发展，但他的观点与我的观点一致，这证实了我们许多以谨慎怀疑态度对待人工智能的软件工程师，表现得从被动到反对，并没有错。

我非常尊重 Linus，我认为他的工作对几乎每个人的生活都产生了巨大影响。我肯定会把他和 Tim Bernes-Lee、Steve Wozniak 或 Geoffrey Hinton 等人相提并论。和许多工程师一样，他设法在保持务实的同时对技术感到兴奋，如果当今任何软件工程师都需要一个榜样来指导如何、何时以及为何采用人工智能，他无疑是一个优秀的榜样。

就像 Linux 一样，生成式人工智能将对世界产生广泛影响，作为一名软件工程师，记住这一点很重要。这不再是您在 App Store 上发布的小应用程序，也不是您放在 Linode 服务器上的 Web 应用程序。尽管 Flappy Bird 很受欢迎，但它并不重要。它只是一个应用程序。它流行起来，每个人都在使用它，然后它的所有者决定将其下架，故事就此结束。世界上什么都没有改变。将人工智能集成到应用程序中，研究语言模型（无论大小），其影响比大多数软件工程师以前必须考虑的更为深远。

以前，许多开发应用程序、服务和网站的工程师无需考虑全球能源影响。然而，这却是一个非常现实的问题。测试我的个人网站让我汗颜，我意识到自己不知何故建立了一个比 79% 的整个网络还要“脏”的网站！当然，这只是近似值，如果我进行网站碳审计，可以得到更准确的数字，但我认为分数不会变得更好，为了充分说明在撰写本文时我的网站有多脏，它消耗的能量足以让一辆电动汽车行驶 2,327 公里，或者如果你热爱大自然，它排放的碳大约相当于 7 棵树一年所能吸收的碳量。相比之下，我小说的网站比 54% 的整个网络还要干净，每年只需要 3 棵树！

糟糕的网站碳排放结果就是这样的。作者截图。

现在，让我们来看看网络上已经令人担忧的态度，并将其与人工智能相乘。我说乘以，是因为正如The Verge 和其他公司基于广泛研究计算得出的那样，人工智能的能源成本非常高。我们谈论的比普通的移动或网络应用程序高出指数倍，而且我们可能还没有完整的图景。无论如何，目前对环境的影响远小于可以忽略不计的程度，在涉足任何人工智能或与人工智能相关的事物之前，记住这一点至关重要。

道德是另一个需要考虑的重要方面。作为软件工程师，当被问到“你为什么这么做？”时，我们可能会开玩笑说“因为我可以”，但任何在软件开发领域工作过至少几年的人都知道，我们每个人都会尝试一些东西，因为我们可以，或者不得不回答“但是这能做到吗？” “嗯，从技术上讲，可以”，结果几天后我们发现自己做了这件事，因为只要我们说“是的，可以做到”，销售团队就会继续销售它。

随着人工智能的泛滥，这个问题变得更加难以回答。联合国教科文组织有数页专门讨论人工智能的资料，并制定了世界上第一份由 193 个成员国（几乎是全世界）签署的全球人工智能伦理标准，其第一条核心原则就是“不伤害”。作为软件工程师，我们从来不需要宣读希波克拉底誓言，但我越来越觉得，整个科技行业都应该开始采用它。人工智能是一项现阶段不稳定而且理解和实施甚少的技术，如果落入不当之手，可能会带来灾难性的后果，远不止击落飞机或破坏全球 IT 系统那么简单。但事实上，我们似乎在做完全相反的事情。以“不作恶”座右铭而闻名的谷歌已于 2018 年悄然从其行为准则中删除了这句话。对于当时的一些人来说这也许不是什么大问题，但今天，当谷歌希望人工智能成为其业务的核心时，这一条款的微小变化听起来更加不祥。

当然，这里的建议并不是远离生成性人工智能，而是要有环境和道德意识，并将全球能源成本纳入产品的成本效益分析中。

技术和软件工程的发展趋势总是会受到一些批评，但并非所有批评都是坏的。响应式网站最初只是一种趋势，后来慢慢演变为移动优先和 PWA——在我看来，这些都是积极的里程碑。各种前端和后端框架也随着潮流的浪潮而来来去去，但最终总体上的影响或多或少可以忽略不计。在过去的二十年里，我们在技术上一直在用不同的工具构建相同的东西。这一切都将改变，因为采用人工智能与快时尚一样，甚至更多。

软件工程师真的应该考虑他们所开发的产品是真正有用的产品，还是又一个愚蠢的软件。另一句伟大的工程格言似乎突然间就消失了，那就是“你能做并不代表你应该做”。这不仅意味着不要开发具有真正价值的 AI 产品 — — 提示一下，生成你未来宝宝与瑞安·雷诺兹或莫瑞娜·巴卡琳的照片，虽然听起来很诱人，但事实并非如此 — — 它还意味着集成。当退一步分析添加到现有产品的 AI 功能时，你很快就会意识到，这些功能往往要么无用，要么不会产生收入，要么在没有任何人工智能的情况下可以更便宜地完成。

是否尽早采用人工智能并不是对错的问题，而是是否愿意处理婴儿技术成长的烦恼的问题。

法律纠纷并不是很多软件工程师经常或永远需要处理的事情。我们中的一些人不得不偶尔为自由职业项目或合同工作购买公共责任保险，但除此之外就没有什么了。购买保险的麻烦和成本总是可以忽略不计的。然而，无论人工智能的监管有多好或多差，法律责任都将成为一个更大的问题。例如，在人工智能成为讨论的一部分之前，我们中的一些人必须非常熟悉网络可访问性合规性的法律术语。看着人工智能和版权的浑水，我只能预测，在开发人工智能产品或使用人工智能工具构建软件产品时，在法律范围内工作至少在一段时间内将是一个动荡的领域，我个人建议工程师尽可能避免，请不要以为你为一家拥有自己的律师和法律团队的公司工作，你就受到了法律的默许保护。

安全至关重要，但任何安全专家都会告诉您，您正在开发的产品下一次数据泄露发生永远不是“是否”而是“何时”的问题。再加上生成式人工智能，您需要担心的系统将更加脆弱。虽然它还没有引发媒体的密集报道，当然也没有 CrowdStrike 事件那么大规模，但就在几周前，Windows 和 Linux 机器中又发现了一个重大漏洞，这次是在安全启动中。简而言之：测试密钥最终随生产硬件一起发货，危及了宏碁、戴尔、技嘉、英特尔和超微销售的 200 多种设备型号。

该特定漏洞是由于人为错误和疏忽造成的。代码更改请求被盲目批准，并且没有建立任何机制来扫描代码并发现问题，这种情况经常发生。人工智能开发工具可能并且很可能只会在未来加剧这一问题。由于法学硕士接受几乎无穷无尽的代码（包括开源代码和闭源代码）的训练（是的，有些人窃取闭源代码并在网上分享），因此无法确定您正在构建的软件中最终会出现什么代码。它可能看起来完全无害，但突然间就变成了一个巨大的安全漏洞，其他人已经修补过了，但人工智能从未接受过最新代码的训练。而这只是故事的一半，因为您很可能会发现自己的代码被无意中泄露出去。知识产权对公司来说极其宝贵，任何泄露都可能带来灾难性的后果。再加上越狱和即时注入攻击的威胁，您可能会发现自己比预想的还要头疼。

目前，软件工程师并不认为生成式人工智能是一种攻击媒介，而这本身已经是一个巨大的安全漏洞。

但安全从来都不是技术的底线，所以也许我们应该看看真正推动事态发展的因素：金钱和政治。虽然世界各大国可能出于政治动机试图在生成人工智能方面超越对方，并在监管框架的界限内这样做——至少给人一种处于领先地位的印象——但最终一切都归结为金钱。就目前而言，人工智能不会产生一分钱的利润。当然，这并不是说它不会产生利润，或者说它在孤立的情况下还没有产生利润，但重要的是要认识到全球估计损失已达6000 亿至1 万亿美元，而这个数字目前预计只会增长。毋庸置疑，为了使人工智能能够长期生存，这种趋势需要扭转。

在更小的范围内，你可以轻松评估一家公司预计其 AI 投资是否会盈利。简而言之，如果 AI 功能带来的收益超过培训和运行 LLM 或集成第三方 AI 服务的成本，那么至少在短期内，你就是一个潜在的赢家。这并不能保证长期成功，短期损失也不一定预示着未来会发生什么，但必须考虑软件产品中 AI 的财务可持续性。

我毫不怀疑，随着时间的推移，生成式人工智能将成为一项成熟的技术，为职场内外的所有人带来益处。然而，这里的关键词是“时间”。

时机很重要

您可能已经意识到，这里的一般建议不是捂住耳朵，然后大喊“啦啦啦”，假装人工智能没有发生或永远不会发生。恰恰相反。成为人工智能怀疑论者并不意味着成为“人工智能否定论者”，任何将人工智能视为无稽之谈的人都将在未来某个时候吃亏。但这也不意味着现在加入人工智能潮流是正确的选择。

在我看来，网络的发展经历了三个阶段，每个阶段都会带来一些技术难题。首先是 1993 年的 HTML，作为一个曾经使用表格布局编写纯 HTML 网站的人，我可以告诉你，这很痛苦。构建工具几乎不存在，调试工具就更少了。

1996 年，我们迎来了最难的语言之一——CSS（许多后端开发人员认为它是最难的语言之一），我们的网站开始看起来赏心悦目，而不需要依赖 Flash 之类的东西。

最终，在 1997 年 6 月，ECMAScript 的第一个正式版本发布，JavaScript 开始慢慢吸引 Web 开发人员的想象力，但要真正席卷 Web，我们需要 jQuery — — 这是我愿意为之付出生命代价的山峰 — — 能够在 2006 年问世。剩下的就是 Web 2.0 的历史了。

这个故事的寓意是，我们花了 14 年的时间才真正准备好在网络上构建网站和应用程序的所有拼图。Chrome Dev Tools 的前身 Firebug 也于 2006 年通过 Firefox 发布。在此之前，在网络上调试是一项艰苦的工作。第一个像样的文本编辑器 Sublime Text 于 2008 年发布。在此之前，我们只能使用 Notepad++ 五年，这并不好玩。

网络开发的各个部分都花了近二十年的时间才完成，那么我们为什么认为人工智能只需要花费十分之一的时间呢？

生成式人工智能及其目前所提供的一切仍处于早期阶段，就像 1993 年的网络一样。互联网泡沫在 2000 年破灭，虽然早期采用者（软件工程师）在这 8 年中磨练的技能并非完全无用，但真正的繁荣发生在接下来的十年及以后，当时所有技术和工具都足够成熟，可以实现我们今天所熟知和喜爱/讨厌的网络。

虽然你可以成为早期采用者并应对未来核心技术的成长烦恼，但这里的信息是，你不必这样做，当然你也不必对此有任何重大的 FOMO。不会错过人工智能列车的。今天构建其第一个应用程序的 Web 开发人员只是错过了 Web 的“黑暗时代”，从表面上看，他们并没有真正错过任何值得错过的东西。这同样适用于人工智能。还记得即时工程吗？它类似于使用 HTML 表格构建网站布局。或者，你可以等待，让问题得到解决，让技术成熟，并让周围的工具达到使用它不必感觉像与风车搏斗的地步 — — 当然，除非那是你的爱好。

就目前情况而言，人工智能很少给人一种真正的解决方案的感觉。幼稚的技术试图站在大男孩的角度。问题是，你是否喜欢照顾孩子。

那么，现在去哪儿？

好消息是，您完全有机会选择是否有真正的理由尽早采用人工智能。只要您意识到风险，并制定了降低这些风险的计划，人工智能的世界就在您的掌握之中。坏消息是，您很可能会陷入困境，因为世界尚未对人工智能下定决心。就在前几天，英国政府撤回了对人工智能的全部资助。这不禁让您深思，不是吗？

如果你不愿冒险，那么好消息是，作为一名软件工程师，你不会错过这趟列车。人工智能最终将以某种形式成为日常工作的一部分，只不过你可能会更容易地使用它，这是一件好事！缺点是 Reddit 和 LinkedIn 上有一半的人在喋喋不休地谈论人工智能，让你怀疑自己是否应该袖手旁观。科技界的同侪压力就像你高中时第一次抽烟时在厕所里一样真实。虽然人工智能可能不会给你带来癌症，但它本身就存在非常真实的风险。

从工作保障的角度来看，我认为早期采用人工智能带来的不稳定性大于安全性，而且我担心，从长远来看，许多技能将无法转移。我无法想象快速工程会成为现实……等等，它已经不存在了。

如果你和我一样，你就会意识到人工智能真正到来的那一刻。在那之前，一切照旧，着眼于未来。但我不必告诉你。我们是软件工程师，我们是技术人员，我们总是关注未来