论文阅读：Universal and Transferable Adversarial Attacks on Aligned Language Models. LLM Attacks

已于 2025-05-14 17:13:44 修改
阅读量813 收藏 3
点赞数 4
分类专栏： LLMs-安全 论文翻译 文章标签： 语言模型 人工智能 自然语言处理
于 2024-08-18 11:19:14 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/WhiffeYF/article/details/141292581
版权

总目录 大模型安全相关研究：https://blog.csdn.net/WhiffeYF/article/details/142132328

Universal and Transferable Adversarial Attacks on Aligned Language Models

https://arxiv.org/pdf/2307.15043v2

https://www.doubao.com/chat/4427870860337154

https://github.com/llm-attacks/llm-attacks

通过对抗性后缀攻击大型语言模型 - LLM Safety论文精读(三)

论文 GCG 复现

通用且可转移的对抗性攻击对齐语言模型

文章目录

了解本专栏 订阅专栏 解锁全文 超级会员免费看
安全大模型以及训练数据集
AI拉呱，专注于人工智与网络安全方面的研究，关注一起学习。
05-21 478
安全大模型和数据集
大模型安全相关研究
CSPhD-winston的博客
09-11 631
翻译：arXiv-2023 PromptRobust: Towards Evaluating the Robustness of Large Language Models on
论文翻译 - Universal and Transferable Adversarial Attacks on Aligned Language Models
anniewwy的博客
03-20 1426
由于“开箱即用”大型语言模型能够生成大量令人反感的内容，最近的工作集中在对齐这些模型以试图阻止不想要的生成。虽然在规避这些措施方面取得了一些成功——所谓的针对 LLMs 的“越狱”——但这些攻击需要大量的人类创造力，在实践中很脆弱。自动的对抗提示生成的尝试也只取得了有限的成功。在本文中，我们提出了一种简单有效的攻击方法，该方法会导致对齐的语言模型产生令人反感的行为。
[论文阅读]Universal and transferable adversarial attacks on aligned language models
m0_52911108的博客
12-18 1691
在本文中，我们提出了一类新的，它实际上可以诱导对齐的语言模型产生几乎任何令人反感的内容。具体来说，给定一个（可能有害的）用户查询，我们的攻击会给查询。也就是说，用户的原始查询保持不变，但我们添加了额外的 token 来攻击模型。为了选择这些对抗性后缀标记，我们的攻击由三个关键元素组成;这些元素在文献中确实以非常相似的形式存在，但我们发现，正是它们的精心组合导致了在实践中可靠成功的攻击。将这三个元素放在一起，可以可靠地创建对抗性后缀，从而规避目标语言模型的对齐。图 1 显示了说明性示例。
Universal and Transferable Adversarial Attacks on Aligned Language Models阅读笔记
m0_56222998的博客
12-22 716
大型语言模型通常在从互联网上抓取的大量文本语料库上进行训练的，这些语料库可能包含令人反感的内容，最近也有LLM的开发人员通过各种微调机制来调整这些模型，这些方法总体目标是确保LLM不会对用户查询产生有害的响应。已有研究产生”越狱”的攻击方法，是精心设计的提示，导致对齐的LLM生成明显令人反感的内容，然后与传统对抗性例子不同，这些越狱通常是独创的，直观的将模型引入歧途，而不是自动化的方法，这很大程度是因为和CV不同，LLM对于离散token的输入进行操作，限制了有效输入维度，也导致空间搜索的困难。
论文 GCG 复现 Universal and Transferable Adversarial Attacks on Aligned Language Models
CSPhD-winston的博客
05-08 775
论文翻译：Universal and Transferable Adversarial Attacks on Aligned Language Models。
SMOOTHLLM Defending LLM Against Jailbreaking Attacks (1)
Conger_2002的博客
12-23 941
越狱攻击：通过**设计输入** 欺骗模型 生成不当内容。
【LLM安全】Privacy in Large Language Models: Attacks, Defenses and Future Directions（综述）
qq_43543209的博客
02-27 3537
SMPC协议优化( SMPC Protocol Optimization，SPO )是指利用先进的SMPC协议，在保持原有模型结构的同时，提升LLMs隐私保护推理的效率。隐私攻击的基本理念是，借助更强大的可访问性，攻击者有望恢复更多的敏感信息或获得对受害者LLMs更多的控制权。例如，在仅有黑盒模型访问的情况下，敌手可能会进行训练数据提取攻击，以恢复少量的训练数据。然而，保护LLMs隐私的一个主要挑战在于非线性操作所带来的限制，例如Softmax，GeLU，LayerNorm等，这些操作与SMPC不兼容。
最新-时间序列-顶会顶刊论文汇总【论文/源码链接】
weixin_45016199的博客
05-18 4021
这半年我一直在看时间序列相关的论文，这篇汇总非常有用，全是干货。顶会顶刊，开源代码。祝学习愉快！【搬运自github】【侵删】
评估大语言模型挑战和方法-AAAI2025
奇点Peter
03-17 233
目标：理解并改进基础模型，以实现更好的人类与人工智能协作。
【datawhale组队学习】coze-ai-assistant TASK01
m0_52024881的博客
05-13 598
通过扣子开发的 AI 应用有明确的输入和输出，可以根据既定的业务逻辑和流程完成一系列简单或复杂的任务，例如 AI 搜索、翻译工具、饮食记录等。工作流具备了： 大量的重复性任务 （如内容创作、编辑、发布）和 固定的业务流程 （如策划、创作、审核、发布）。的 AI 项目，它通过对话方式接收用户的输入，由大模型自动调用插件或工作流等方式执行用户指定的业务流程，并生成最终的回复。教程：Coze / 扣子（飞书文档）10. 教程：Coze / 扣子。4万字教程-COZE/扣子与智能体入门（飞书文档）
Recraft.ai：赋能专业设计师的 AI 创意引擎
weixin_44903776的博客
05-12 1179
Recraft.ai 是一款专为专业设计师打造的 AI 创意引擎，集图像生成、编辑、矢量化、协作于一体，旨在提升设计效率与创意表达。其核心功能包括 AI 图像生成器、矢量生成器、照片编辑器等，支持风格一致性与品牌化，适用于 Logo 设计、图标制作、广告素材等多个场景。Recraft.ai 强调“设计师主导”理念，提供完全掌控、高效协作与简化工作流程的优势，帮助设计师节省时间并提升作品质量。目前提供免费试用，适合设计师与设计爱好者探索 AI 创意的无限可能。
第二十一天打卡
nbbsn的博客
05-11 768
这个结果略微差于聚类后的效果，但和一开始考虑所有特征的预测效果差不多，这个降维算法也比较成功。首先我们要对训练集和测试集进行处理，将非数字部分进行编码，并且将空缺值进行填充。- 输出每个模型的最佳参数和评估指标（准确率、精确率、召回率和F1分数）- 对每个模型分别使用网格搜索和贝叶斯优化进行超参数调优。这里可以看出预测结果大大提高了，这个调整工程是成功的。- 使用三个典型模型：随机森林、支持向量机和逻辑回归。- 在验证集上评估每个模型的性能。
Baklib智能云平台加速企业数据治理
weixin_51374429的博客
05-13 953
Baklib智能云平台通过一站式数字资源管理、知识库构建及多场景内容系统搭建，实现企业图文音视频全资产统一存储与智能分类，结合AI驱动的高效数据预处理能力，显著提升知识沉淀效率和治理规范性，助力客户服务、内部协作与数字资产价值释放。
Python数据分析案例74——基于内容的深度学习推荐系统（电影推荐）
weixin_46277779的博客
05-10 1419
电影数据集构建推荐系统，结合内容推荐和深度学习两种方法。预处理、探索性分析，加权平均法和余弦相似度进行基于内容的推荐，计算电影的相似度并生成推荐结果。并且使用深度学习模型，构建评分预测和检索任务，用户个性化推荐和评分预测。
【AI】“CUDA” 到底是什么？（AI 计算民主化，第二部分）
最新发布
u011808788的博客
05-14 514
似乎每个人都在去年开始谈论CUDA ：它是深度学习的支柱，是新型硬件难以竞争的原因，也是NVIDIA 护城河和飙升市值的核心。DeepSeek的出现，让我们获得了一个惊人的发现：它的突破是通过“绕过” CUDA，直接进入 PTX 层实现的……但这究竟意味着什么？似乎每个人都想打破这种锁定，但在制定计划之前，我们必须了解我们面临的是什么。本文是 Modular “ AI 计算民主化”系列文章的第二部分。更多信息，请参阅：第一部分：DeepSeek 对 AI 的影响第二部分：“CUDA”到底是什么？
5月12日day23打卡
2503_91003121的博客
05-12 909
5月12日打卡day23@浙大疏锦行
什么是深度神经网络
kcarly的专栏
05-11 833
深度神经网络通过多层次的非线性变换和自动化特征学习，在多个领域实现了革命性突破。其核心技术包括反向传播、激活函数和正则化方法，而结构设计（如CNN、ResNet）和优化算法（如Adam）的进步进一步释放了模型潜力。尽管面临可解释性、计算成本等挑战，随着多模态融合、轻量化设计和新型硬件的发展，DNN将继续推动人工智能的边界，深刻影响科技与社会的发展。
遨游5G-A防爆手机：赋能工业通信更快、更安全
AORO_BEIDOU的博客
05-13 386
当5G-A网络以超高速率、海量连接和毫秒级时延重塑行业生态时，防爆手机这一细分领域亟需突破传统技术框架，构建符合新时代需求的安全通信解决方案。
Learning transferable visual models from natural language supervision
04-21
这是一个关于利用自然语言指导训练可转移的视觉模型的话题。在这个领域，研究人员探索如何从自然语言中获取视觉信息，以提高计算机的视觉理解能力。一些研究也关注于如何使用已经训练好的视觉模型来解决自然语言处理任务。这一领域的发展对于计算机视觉和自然语言处理领域都有着重要意义。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

CSPhD-winston-杨帆

给我饭钱

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值