特别报道丨AI滥用风险加剧 需监管与技术并重治理

人工智能技术创新的强劲风潮正在席卷各行各业，海量数据信息在智能算法的驱动下，展现出了前所未有的高效生产力。但在看似井然有序的运行环境中，却暗藏着人工智能治理的难题，部分信息内容中夹杂着一些难以察觉的“幻觉”，侵权造谣、虚假信息、算法缺陷等隐患，给治理和监管带来了挑战。

　　2025年全国两会期间，多位全国人大代表、政协委员针对AI分享了自己的观察和建议，以推动形成更加科学和高效的综合治理框架。

AI技术滥用成风险

　　作为一种极易上手的人工智能应用，AI合成技术常被用于生成逼真的图像、生动的视频和自然的语音，如今其正在成为制造和传播虚假信息的重要手段。

　　作为科技界的领军人物，全国人大代表、小米集团创始人雷军是该项技术的“受害者”之一。2024年国庆节假期期间，短视频平台涌现出了大量以“雷军AI配音”为幌子的恶搞视频。

　　“‘AI换脸拟声’的滥用成了违法侵权行为的重灾区，其容易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为，甚至会造成难以挽回的形象和声誉损害，给社会治理带来风险。”雷军表示，由于AI深度合成技术具备所需素材获取便利、技术使用门槛低、侵权主体及手段隐蔽性强等特点，这为AI的监管和治理带来了较大挑战。

　　此外，与人工智能技术相关的伦理价值观也再次引发关注。南都大数据研究院梳理显示，在2024年记录的220起AI风险事件中，AI技术滥用与违法侵权事件数量超过110起，AI决策失误与伦理争议事件数量超过53起，AI造谣与虚假信息传播事件数量占比超过44起，还有一些AI安全威胁与数据泄露的事件。

　　尽管人工智能在许多技术创新领域取得了显著进展，但其在决策过程中仍可能受到数据偏差、算法缺陷等因素的影响，导致产生了不准确或不合理的决策。

　　“作为一种新兴的智能技术，人工智能可能造成认知偏见和价值歧视。依靠带有偏见的数据训练AI大模型，会延续甚至放大社会的不平等，甚至带来种族、民族、性别、宗教或文化等社会歧视。在开发AI过程中，必须关注价值观的问题，确保AI与人类价值观对齐。尤其是对深入人们日常生活的AI智能体的价值观，更需要与人类价值观对齐，以避免意想不到的风险。”中共中央党校(国家行政学院)督学专家、教授丁元竹在接受中国经济时报记者采访时说道。

　　丁元竹表示，当前投入在AI安全领域的精力、时间、金钱和资源远远不足，这也成为了大模型落地行业的难题之一。“目前，全球99%的算力用于大模型预训练，只有1%的算力用于价值对齐或安全研究，这使得人工智能安全技术发展滞后。”　　

Anko是一个多模型多模态的AI办公工具，适合需要跨领域整合AI技术的用户，同时调用多模型，一举并用，多样回复，显著对比，高效选择心仪的回答/图片/视频

AnKo的聚合AI工具能够在短时间内处理大量数据，响应速度快，准确率较高，多样化并行操作，节约时间，提高工作效率，多模型多模态的AI办公工具，助力效率翻倍。