AI时代互联网信息的几点隐忧

     笔者最近一年关注的AI技术比关注的安全技术还多，AI从事实上的对内容生产工作者带来工作效率的提高，年初的时候比较关注的是如何在安全行业使用AI进行赋能，领导也给了类似的命题，让我思考如何让AI在安全行业发力。

   目前已经看到的是有的安全企业用AI协助进行安全事件分析，也有的企业使用AI进行综合安全问题问答（NLP），也有的企业用AI做情报收集在综合整理。更是有的企业在研究如何用AI来打红队。

     一开始讲AI安全的时候，很多人因为通过AI对话拿到一个SQL注入而感到兴奋，还有人甚至因为拿到了后台的AI提示词也兴奋不已。这确实和AI和安全都有关系，但是如果这样考虑AI安全，可真的太窄视了。

    网络安全从业者都喜欢吹嘘，网络/信息安全多重要，笔者在跟别人聊天的时候，就很少用这样的开场白，在我眼里，网络安全和环境安全，安全生产和经营安全比起来，也不算特殊，但是每家企业可能会设立信息安全岗，却很少设立专门环境安全岗，生产安全岗等。

  扯远了，还是说回AI安全，笔者就抛砖引玉的说几点AI安全问题或者说是趋势：

一.数据辨伪行业兴起

    我们都知道AI可以伪造图像，伪造音频，伪造视频，虽然现在的规模AI生产商都会给图片视频打码，但是其实AI开发者都清楚去掉这些码子是多么的容易，前阵子火爆的三只小羊公司事件，传闻里面的某音频证据就是AI生成的。

    AI生成的证据（也就是数据），或者证据链条（一个AI用另外一个AI生产的数据二次生产数据）未来会需要越来越多的成本来辨别真伪。所以笔者猜测未来大概率会产生一个新的岗位，AI数据辨伪工程师。这样的机构多少能让那些被迫参与小片的女星，或者动机不纯的音视频制造有一定的反驳的力量。

二.技术内容创作行业衰败

   头几年是技术付费行业较好的时代，虽然略有落幕，但是AI的兴起无疑会加速技术内容创作者衰败。在AI以前，技术博主可以通过深入钻研一门技术，而在博客或者社区混一碗饭吃。但是现在很多技术博主都在使用AI创作，效果甚好，这大大的拉齐了不同博主的技术差距。换句话说，作为技术博主的笔者，可以利用AI快速成为一个植物学专家，硬件工程师，小说作者等等。对于当下专心吃内容创作这碗饭的，确实是好事，但是当互联网大量充斥技术水平雷同，大量代码高度一致的博文的时候，会发现技术高低已经决定不了技术博主挣大米了。甚至说很多情况下，博文带来的教学内容已经不如直接问AI更合适了。

    这里我大胆预测一下，国内某书未来走下坡路的可能性很大，因为AI内容肉眼可见的增多，头铁的兄弟可以和我拭目以待。

三.非人类产生的数据从根本上破坏数据链

     这个标题有点绕口，举个不恰大的例子，当你问某个AI问题的时候，它从另外一篇AI生成的博文中抽取结果，结果那篇博文是AI离线模型胡编乱造的。当下人类知识获取主要是从互联网信息获取，AI也是。当下互联网的主要数据还是人类生产的，但是试想未来某一天，AI产生的数据超过了人类。尤其是是AI模型的幻觉问题带来的各种假信息。在有心人的利用下，彻底断绝人类的某些传承（说严重了），假设我们给某个区域进行信息定制，让那个地区的人使用的搜索引擎，访问的网页都是AI生成的数据，而AI生成的数据都告诉你，大蒜是有毒的，若干年后，会不会那个区域的人都认为大蒜是有毒的？

四.生产力重新分配

      每一次工业革命都代表生产力重新分配，汽车取代马车，马夫失业了。电话短信的产生，写信消失了。每次生产力大幅度提升，都代表一个岗位群体消失。AI带来的生产力提升，到底会让那个群体消失呢。会不会导致更严重的社会性问题呢。

五.结论

   很多思考都是社会学家才要考虑的问题，而我们能做的，就是尽量拥抱AI，不在新的生产力爆发的时代被淘汰吧