Deepfake人工智能技术安全性存疑 易让民众接触假议题

Deepfake人工智能“变脸”技术并不新鲜，但随着技术的进步，实现这一效果的门槛变得更低。，如果有人利用Deepfake制作假新闻，可以有效控制舆论。美国国会最近讨论了危机并寻求解决方案。

美国国会情报委员会最近与AI专家会面，讨论如何处理Deepfake技术。如果不解决这个问题，明年的下一届美国总统大选将有机会利用这些工具操纵公众舆论，使选民接触虚假信息。在上一次美国总统大选中，有大规模的外国操纵舆论。这一次，有必要防范类似的事件。从长远来看，这也将导致不值得信任的信息。外交政策研究所研究员克林特沃茨告诉委员会，“如果信息消费者不知道该相信什么，他们就无法从虚构中了解事实，那么他们可能会相信一切，或者不相信什么都相信。如果他们不相信任何事情，那将导致长期冷漠，这对美国具有破坏性。“

已经在各个领域开展了研究工作以打击Deepfake。人工智能研究所所长David Doermann博士去年担任DARPA Media Forensics fun88团队的负责人。他和研究人员开始通过跟踪不规则的眼球运动和使用深度检测算法Grover来检测Deepfake的AI系统，从而与Allen人工智能研究所合作。声称准确率为92％。委员会呼吁技术公司专注于阻止Deepfake内容在信息平台上流动的方法，竞选团队不应该使用这项技术。将来，他们会考虑更积极的预防，希望能够预防。

转载于:https://my.oschina.net/u/3884088/blog/3063823