2024百度云智大会｜百度大模型内容安全合规探索与实践

9月25日，2024百度云智大会在北京举办。会上，百度智能云分别针对算力、模型、AI 应用，全面升级百舸 AI 异构计算平台 4.0、千帆大模型平台 3.0 两大 AI 基础设施，并升级代码助手、智能客服、数字人三大 AI 原生应用产品。

在大模型平台技术实践论坛上，百度大模型内容安全平台负责人李志伟以《大模型内容安全合规实践》为主题，为与会者深度剖析大模型的安全挑战与解决方案的落地实践。

人工智能技术的飞速发展，特别是大模型的出现，正在深刻改变着各行各业的生产方式和服务模式。然而，伴随着巨大机遇而来的，是前所未有的安全挑战。李志伟深入分析了大模型在实际应用中面临的多方面风险，包括但不限于违法违规内容生成、偏见歧视、误导性信息传播、内容侵权、个人隐私泄露等。他强调，这些风险不仅可能给企业带来法律和声誉风险，更可能对社会稳定和公众利益造成严重危害。因此，如何有效应对这些挑战，成为了每一个参与大模型开发和应用的企业必须认真思考和解决的问题。

百度大模型内容安全平台负责人李志伟

面对这些复杂而严峻的挑战，百度安全推出了全面而深入的大模型内容安全合规解决方案。李志伟用生动的案例，详细阐述了百度在这一领域的创新实践。他强调，百度的解决方案覆盖了从模型训练、部署到业务运营的全生命周期，不仅能够有效应对当前的安全挑战，还为未来可能出现的新型风险预留了应对空间。

大模型内容安全能力矩阵

百度大模型内容安全合规解决方案提供了全方位的安全防护能力，采用多层次防护策略，首先通过先进的自然语言处理技术，精准识别多语种输入内容中的各类风险，包括但不限于违法违规、偏见歧视、和误导性信息；其次，它能够智能改写和补全对话内容，确保信息传递的完整性和合规性；方案还集成了涉政、违