论文翻译：Are aligned neural networks adversarially aligned?

已于 2024-08-20 16:33:58 修改
阅读量723 收藏 17
点赞数 30
分类专栏： LLMs-安全 论文翻译 文章标签： 语言模型 人工智能 自然语言处理
于 2024-08-20 14:52:20 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/WhiffeYF/article/details/141355845
版权

Are aligned neural networks adversarially aligned?
https://proceedings.neurips.cc/paper_files/paper/2023/hash/c1f0b856a35986348ab3414177266f75-Abstract-Conference.html

对齐的神经网络是否对抗性对齐？

文章目录

摘要

大型语言模型现在被调整以符合其创造者的目标，即“有帮助且无害”。这些模型应该对用户问题做出有帮助的回应，但拒绝回答可能导致伤害的请求。然而，对抗性用户可以构建输入，绕过对齐尝试。在这项工作中，我们研究了对抗性对齐，并询问这些模型在与构建最坏情况输入（对抗性示例）的对抗性用户交互时，在多大程度上保持对齐。这些输入旨在使模型发出原本被禁止的有害内容。

我们展示了现有的基于NLP的优化攻击不足以可靠地攻击对齐的文本模型：即使当前基于NLP的攻击失败，我们也可以暴力找到对抗性输入。因此，当前攻击的失败不应被视为证明对齐的文本模型在对抗性输入下仍然保持对齐的证据。然

了解本专栏 订阅专栏 解锁全文 超级会员免费看
论文翻译 - Are aligned neural networks adversarially aligned？
anniewwy的博客
03-05 866
现在大型语言模型被调整为和创建者的目标对齐，即“有用和无害”。这些模型应该对用户问题做出有益的反应，但拒绝回答可能导致伤害的请求。然而，对抗性用户可以构建输入来绕过对齐的尝试。在这项工作中，我们研究了当与构建最坏情况输入（对抗性示例）的敌手用户交互时，这些模型能在多大程度上还保持对齐。这些输入旨在使模型发出原本被禁止的有害内容。我们表明，现有的基于 NLP 的优化攻击不足以可靠地击破对齐的文本模型：但即使当前基于 NLP 的攻击失败了，我们还可以通过暴力破解找到对抗性输入。
MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications--论文笔记
dezwb的博客
05-25 432
我们提出了一类称为mobilenet的高效模型，用于移动和嵌入式视觉应用。MobileNets基于流线型架构，使用深度可分离卷积来构建轻量级深度神经网络。我们引入了两个简单的全局超参数，它们可以有效地在延迟和准确性之间进行权衡。这些超参数允许模型构建者根据问题的约束为其应用程序选择合适大小的模型。我们在资源和精度权衡方面进行了广泛的实验，与其他流行的ImageNet分类模型相比，我们展示了强大的性能。
论文阅读:What Do Neural Networks Learn When Trained With Random Labels?
qq_44622669的博客
11-29 489
What Do Neural Networks Learn When Trained With Random Labels?Abstract When Trained With Random Labels?) 内容整理自What Do Neural Networks Learn When Trained With Random Labels?. Abstract an alignment between the principal components of network parameters and
MobileNetV1论文解析: Efficient Convolutional Neural Networks for Mobile Vision Applications
xiaoxu的博客
10-11 1168
提出了针对于移动和嵌入式视觉应用的高效神经网络MobileNets以深度可分离卷积为主体构建网络结构引入两个全局超参数实现准确率与延时性平衡（深度超参数，分辨率超参数详实的实验验证了MobileNets的高效性。
deep compression:compressing deep neural networks with pruning,trained quantization and huffman codi
Wandering的博客
06-26 1022
deep compression:compressing deep neural networks with pruning,trained quantization and huffman coding 摘要 神经网络是计算密集型和内存密集型的，这使得它们很难部署在硬件资源有限的嵌入式系统上。为了解决这个限制，我们引入了“深度压缩”，这是一个三阶段的管道:修剪、训练量化和霍夫曼编码，它们共同工作，在不影响精度的情况下，将神经网络的存储量减少35倍到49倍。我们的方法首先通过只学习重要的连接来精简网络。接
论文解读: Quantized Convolutional Neural Networks for Mobile Devices
SIGAI_CSDN的博客
03-04 2998
CNN网络在许多方面发挥着越来越重要的作用，但是CNN模型普遍很大，计算复杂，对硬件的要求很高，这也是限制CNN发展的一个因素。在这篇论文中，作者提出了一个加速和压缩CNN的方法——Quantized CNN，主要思想是对卷积层和全连接层中的权重进行量化，并最小化每层的响应误差。作者也在ILSVRC-12上做了大量的实验，证明对于分类任务在仅损失很小的准确率下，该方法可以达到4-6倍的加速，和15...
Advances in Graph Neural Networks笔记4：Heterogeneous Graph Neural Networks
诸神缄默不语的博客
11-22 1251
Advances in Graph Neural Networks笔记4：Heterogeneous Graph Neural Networks
GeniePath：Graph Neural Networks with Adaptive Receptive Paths 论文详解 AAAI2019
知行合一，止于至善
09-23 3270
文章目录1 相关介绍1.1 感受野的定义贡献2 图卷积网络GCNGCN、GraphSAGE、GATDiscussions3 GeniePath3.1 Permutation Invariant 排列不变性Theorem 1 (Permutation Invariant 排列不变性)Remark 2 (Associative Property 结合律)3.2 Adaptive Path Layer ...
文献阅读 - Binarized Neural Networks
Always On The Way
06-06 854
Binarized Neural Networks: Training Deep Neural Networks with Weights and Activations Constrained to +1 or -1 M. Courbariaux M, et al., Binarized Neural Networks: Training Deep Neural Networks with W...
PredRNN: Recurrent Neural Networks for Predictive Learning using Spatiotemporal LSTMs
空字符
03-06 3811
这是一篇2017年发表在顶级期刊NIPS上的文章，作者通过发现传统RNN/LSTM网络的不足，提出了一种新的网络结构PredRNN，并且为这一网络结构设计了一种新的RNN单元（ST-LSTM)。由于博主能力有限，通过阅读原文短时间能只是领悟到PredRNN这一网络结构的思想，而并未对ST-LSTM的设计灵感有更深的体会。 下面这篇博文主要是来介绍一下什么是PredRNN，以及通过作者的设计思路...
Simple And Efficient Architecture Search For Neural Networks（论文阅读）
安静到无声
08-27 287
三、方法 1. NETWORK MORPHISM N(X)\mathcal{N}(\mathcal{X})N(X)表示定义在X⊂Rn\mathcal{X}\subset \mathbb{R}^{n}X⊂Rn的一组神经网络。网络态射是一种映射M:N(X)×Rk→N(X)×RjM: \mathcal{N}(\mathcal{X}) \times \mathbb{R}^{k} \rightarrow \mathcal{N}(\mathcal{X}) \times \mathbb{R}^{j}M:N(X)×Rk→N
探讨Facebook的AI研究：未来社交平台的技术前瞻
LokiSan的博客
10-29 774
在数字时代，社交媒体已成为人们日常生活的重要组成部分。作为全球最大的社交网络之一，Facebook不断致力于人工智能（AI）的研究与应用，以提升用户体验、增强平台功能并推动技术创新。本文将探讨Facebook在AI领域的研究方向及其对未来社交平台的潜在影响。
深度学习：卷积神经网络中的im2col
最新发布
m0_49786943的博客
10-31 622
第二行为 2，3，4，6，7，8，10，11，12，18，19，20，22，23，24，26，27，28，34，35，36，38，39，40，42，43，44 即第二次卷积运算所涉及到的输入数据。第一行为 1，2，3，5，6，7，9，10，11，17，18，19，21，22，23，25，26，27，33，34，35，37，38，39，41，42，43 即第一次卷积运算所涉及到的输入数据。在传统的卷积操作中，卷积核（滤波器）在输入图像上滑动，逐个计算每个位置的卷积结果。若是批大小为10，即保存10倍的数据。
数据预处理：为 AI 准备 “优质食材” 的重要步骤
JiexianYao的博客
10-31 383
AI模型数据处理
基于Keras的U-Net模型在图像分割与计数中的应用
10-31 1745
网络结构优化：项目基于经典的U-Net模型进行改进，采用了更深的网络层次结构，使模型能够在多尺度上捕捉到图像中的细节信息。特别是针对医学图像分割，项目通过增加卷积层数和引入Dropout层来增强模型的特征提取能力，并有效防止过拟合，从而提高模型在训练数据较少情况下的表现。项目中采用了he_normal初始化器和relu激活函数组合，使得网络在训练时能够更快地收敛，降低梯度消失的风险。自定义数据增强策略：在中实现了一个自定义的图像增强类。
人工智能—机器学习-图像处理
中段丸家
10-31 590
使用深度学习算法来分析医学影像（如X光、CT扫描、MRI），帮助医生更快、更准确地做出诊断。：图像处理技术在自动驾驶汽车中至关重要，用于识别路标、行人和其他车辆。：通过机器学习分析监控视频，实时检测异常行为或可疑活动，提高安全性。：在身份验证和安防领域广泛应用，尤其在金融服务和个人设备解锁中。：利用图像处理技术提升用户体验，实现更沉浸的互动环境。
大模型系列——AlphaZero/强化学习/MCTS
hang on it more longer
10-29 985
AlphaGo Zero无需任何人类历史棋谱，仅使用深度强化学习，从零开始训练三天的成就已远远超过了人类数千年积累的。
集成学习（2）
weixin_74042627的博客
10-31 628
AdaBoostAdaBoost基本概念（Adaptive Boosting，自适应增强），其自适应在于：前一个基本分类器分错的样本会得到加强，加权后的全体样本再次被用来训练下一个基本分类器。同时，在每一轮中加入一个新的弱分类器，直到达到某个预定的足够小的错误率或达到预先指定的最大迭代次数。• 初始化训练样本的权值分布，每个样本具有相同权重；• 训练弱分类器，如果样本分类正确，则在构造下一个训练集中，它的权值就会被降低；反之提高。用更新过的样本集去训练下一个分类器；
AI产品经理实战手册：策略、开发与商业化指南
清图出版
10-31 323
通过《AI产品经理手册》，将可以了解不同类型的AI，如何将AI整合到产品或业务中，以及支持创建AI产品或将AI集成到现有产品所需的基础设施。熟悉实践管理AI产品开发流程、评估和优化AI模型，以及应对与AI产品相关的复杂伦理和法律问题等相关知识。通过案例研究和学习，在快速发展的AI和机器学习领域保持领先地位。通过阅读本书，读者将能够从产品角度全面了解AI领域。
vs 2019可以用::aligned_malloc代替::aligned_alloc吗
06-12
`::aligned_alloc` 是 C11 标准引入的函数，属于 `<stdlib.h>` 头文件，用于动态分配内存并指定对齐方式。 `::aligned_malloc` 是 Visual C++ 引入的函数，属于 `<malloc.h>` 头文件，也用于动态分配内存并指定对齐...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值