- 博客(1)
- 收藏
- 关注
转载 博客摘录「 网络安全学术顶会——CCS ‘22 议题清单、摘要与总结(下)」2023年11月22日
然后,我们设计并实验了一种名为ToxicBuddy的攻击方法,该方法依赖于微调GPT-2来生成非有毒查询,使聊天机器人以有毒方式回应。我们广泛的实验评估表明,我们的攻击方法对公共聊天机器人模型有效,且优于先前工作中提出的手工制作的恶意查询。我们还评估了针对ToxicBuddy的三种防御机制,结果显示它们要么在降低攻击性能的同时影响聊天机器人的实用性,要么只能减轻攻击的一部分。总体来说,我们相信ToxicBuddy可以作为一种审计工具,我们的工作将为设计更有效的聊天机器人安全防御铺平道路。
2024-03-19 21:44:17 39
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人