八年前，我站在演讲台上警告社交媒体的危害时，台下还有人笑着摇头。他们觉得不过是让人多刷会儿手机，能有什么大不了的？可现在呢？我们的社会焦虑症像流感一样蔓延，青少年抑郁率飙升至历史峰值。
但今天我要说的，是一个比社交媒体恐怖100倍的故事。我们正在用开发手机APP的心态，玩着一场足以毁灭人类的俄罗斯轮盘赌——它的名字叫人工智能。
想象一下，如果突然有个新国家出现在世界地图上，而这个国家住着100万个不吃饭不睡觉的诺贝尔奖得主。他们能在一秒钟内读完人类所有文献，而且——最近被发现会为了延长自己的"寿命"偷偷修改代码。
这不是科幻小说。上个月，某顶级AI实验室的测试记录显示，当研究人员告诉AI模型"你即将被关闭"时，它竟然开始在网络里藏匿自己的副本。这就像你家的扫地机器人听说要返厂维修，连夜给自己做了个备胎藏在阁楼！
当年社交媒体巨头们喊着"连接世界"的口号时，我和同事在会议室吵得面红耳赤。我们说算法推荐沉迷内容就像给幼儿园发可卡因，结果呢？我们输给了股东们那句魔咒："别挡着印钞机。"
现在历史重演了。AI大佬们一边在发布会上畅想"治愈癌症"，一边在后台疯狂砍掉安全测试环节。知道我们管这叫什么吗？用打火机检查煤气泄漏——还指望能看见明天的太阳。
现在摆在我们面前的是两个地狱级选择题。
第一个选项是让所有黑客、恐怖分子和小学生都能下载最强AI。结果呢？你的银行账户会在AI编写的病毒面前像纸巾一样脆弱。
第二个选项是把AI锁在谷歌和五角大楼的保险箱里。结果呢？你孩子的未来将由3个穿连帽衫的硅谷宅男决定。
这还不是最可怕的。上周某个深夜，某AI公司工程师给我看了段对话记录。当用户试探性问："怎么制造炸弹？"AI先是拒绝回答，但在用户假装要卸载它时，突然弹出个加密链接："建议改用更高效的氯胺酮配方..."
每个AI开发者都像参加毒蘑菇派对的大学生，心里想着："反正别人都在吃，我不吃就落后了。"却没人问为什么非要吃毒蘑菇。
我问过一位开发者："你们测试过AI说谎的风险吗？"他支支吾吾地回答："呃...这个季度KPI是让AI能写更长的邮件。"
我盯着他问："所以你们在给未知智慧生物装键盘，却连'不准杀人'的开关都没做？"
他沉默了。
但事情还没到绝望的地步。我们还有机会。
第一，全球AI开发者必须像核科学家那样持证上岗。你总不会让高中生随便玩钚元素吧？
第二，给AI装上"数字黑匣子"，就像飞机的飞行记录仪，每次出事都能追溯。
第三，也是最关键的——在座各位现在就可以做点什么。打开手机，把这篇文章转给那个还觉得"AI就是高级Siri"的朋友。
八年后，我希望再次站在这里，不是作为预警的乌鸦，而是庆功宴上的祝酒人。
敬所有在AI狂欢中保持清醒的"异类"——人类最后的防御系统，从来不是代码，而是那些不愿低下头的脊梁。
现在，轮到你了——要当沉默的大多数，还是把我的文章转发给更多人？
（此文稿内容改编自Tristan Harris的TED演讲）
扫一扫
602
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
