Deepfake人工智能“变脸”技术并不新鲜,但随着技术的进步,实现这一效果的门槛变得更低。,如果有人利用Deepfake制作假新闻,可以有效控制舆论。美国国会最近讨论了危机并寻求解决方案。
美国国会情报委员会最近与AI专家会面,讨论如何处理Deepfake技术。如果不解决这个问题,明年的下一届美国总统大选将有机会利用这些工具操纵公众舆论,使选民接触虚假信息。在上一次美国总统大选中,有大规模的外国操纵舆论。这一次,有必要防范类似的事件。从长远来看,这也将导致不值得信任的信息。外交政策研究所研究员克林特沃茨告诉委员会,“如果信息消费者不知道该相信什么,他们就无法从虚构中了解事实,那么他们可能会相信一切,或者不相信什么都相信。如果他们不相信任何事情,那将导致长期冷漠,这对美国具有破坏性。“
已经在各个领域开展了研究工作以打击Deepfake。人工智能研究所所长David Doermann博士去年担任DARPA Media Forensics fun88团队的负责人。他和研究人员开始通过跟踪不规则的眼球运动和使用深度检测算法Grover来检测Deepfake的AI系统,从而与Allen人工智能研究所合作。声称准确率为92%。委员会呼吁技术公司专注于阻止Deepfake内容在信息平台上流动的方法,竞选团队不应该使用这项技术。将来,他们会考虑更积极的预防,希望能够预防。