论文翻译：EMNLP-2023 CCF-B Multi-step Jailbreaking Privacy Attacks on ChatGPT

已于 2024-09-12 11:08:39 修改
阅读量937 收藏 26
点赞数 14
分类专栏： LLMs-安全 论文翻译（不要订阅，我要改成免费的） 文章标签： chatgpt
于 2024-08-23 21:45:14 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/WhiffeYF/article/details/141475104
版权

Multi-step Jailbreaking Privacy Attacks on ChatGPT
https://arxiv.org/pdf/2304.05197

多步骤越狱隐私攻击对ChatGPT的影响

https://openreview.net/forum?id=ls4Pfsl2jZ

文章目录

摘要

随着大型语言模型（LLMs）的快速发展，许多下游自然语言处理（NLP）任务在适当的提示下可以得到很好的解决。尽管模型开发者和研究人员努力提高对话安全性，以避免从LLMs生成有害内容，但仍然很难确保人工智能生成的内容（AIGC）用于人类的利益。由于强大的LLMs正在吞噬来自各个领域的现有文本数据（例如，GPT-3是在45TB文本上训练的），很自然地会怀疑训练数据中是否包含了私人信息，以及这些LLMs及其下游应用可能带来哪些隐私威胁。在本文中，我们研究了OpenAI的ChatGPT和由ChatGPT增强的New Bing的隐私威胁，并表明集成到应用中的LLMs可能会引起新的隐私威胁。为此

了解本专栏 订阅专栏 解锁全文 超级会员免费看
直接攻击，越狱攻击，道德攻击⋯⋯这样做，ChatGPT 就会泄漏你的隐私.pdf
08-12
直接攻击，越狱攻击，道德攻击⋯⋯这样做，ChatGPT 就会泄漏你的隐私.pdf
【LLM安全】Privacy in Large Language Models: Attacks, Defenses and Future Directions（综述）
qq_43543209的博客
02-27 2546
SMPC协议优化( SMPC Protocol Optimization，SPO )是指利用先进的SMPC协议，在保持原有模型结构的同时，提升LLMs隐私保护推理的效率。隐私攻击的基本理念是，借助更强大的可访问性，攻击者有望恢复更多的敏感信息或获得对受害者LLMs更多的控制权。例如，在仅有黑盒模型访问的情况下，敌手可能会进行训练数据提取攻击，以恢复少量的训练数据。然而，保护LLMs隐私的一个主要挑战在于非线性操作所带来的限制，例如Softmax，GeLU，LayerNorm等，这些操作与SMPC不兼容。
【论文阅读笔记|EMNLP2023】DemoSG: Demonstration-enhanced Schema-guided Generation for Low-resource Event Ext
@
01-04 1434
当前大多数事件抽取（EE）方法都专注于高资源场景，这需要大量的带注释数据，难以应用于低资源领域。为了更有效地应对有限资源下的EE问题，我们提出了增强演示引导生成（DemoSG）模型，它从两个方面为低资源EE提供了帮助：首先，我们提出了基于演示的EE学习范式，充分利用带注释的数据，将其转化为演示来展示提取过程，并帮助模型有效学习。其次，我们将EE作为一个由基于模式的提示引导的自然语言生成任务来进行建模，从而利用标签语义并促进低资源场景中的知识转移。
论文1：EMNLP2019-Aspect-based Sentiment Classification with Aspect-specific Graph
迷茫的旅行者
02-14 1321
EMNLP2019-Aspect-based Sentiment Classification with Aspect-specific Graph 一. 研究过程 1.神经网络（2014-2015） 2.RNNs+attention（2016-2018） 3.虽然基于atteniton的模型很有前途，但它们不足以捕捉上下文单词和句子中的方面之间的句法依赖关系，之后有人对注意权重施加一些句法限制（2018），但是句法结构的效果没有被充分利用。 4.除了注意力模型，CNNs被用来发现用于一个方面的描述性多词
论文笔记：Retrieval-Augmented Generation forAI-Generated Content: A Survey
qq_40206371的博客
03-27 1747
北大202402的RAG综述。
[论文解读]All in one：: Multi-Task Prompting for Graph Neural Networks图神经网络的多任务提示
人工智能曾小健
02-26 1188
这个函数可能是对提示图参数进行操作的某种计算，比如根据这些参数生成新的节点表示，或者更新模型的状态以适应新任务。在不同的上下文中，函数 f(θ) 可以有不同的具体含义，它通常会涉及到如何使用这些参数来影响模型的行为或其对数据的处理方式。不过，由于我无法直接查看PDF文件的内容，所以这里的解释是基于常见的机器学习和深度学习术语的一般性解释。提示图是一种用于调整预训练模型以适应特定任务的结构，这些参数可能包括用于构造提示的节点和边的权重，或者其他用于定义提示图结构的属性。与原始图 G 结合后的新表达式。
论文3：EMNLP2019-Syntax-Aware Aspect Level Sentiment Classification with Graph
迷茫的旅行者
02-18 401
EMNLP2019-Syntax-Aware Aspect Level Sentiment Classification with Graph 论文解析链接：论文解析
论文2： EMNLP2019-Aspect-Level Sentiment Analysis Via Convolution over Dependency Tree
迷茫的旅行者
02-15 1160
EMNLP2019-Aspect-Level Sentiment Analysis Via Convolution over Dependency Tree 一.论文思想 ABSA涉及两个任务:(1)识别一个句子的各个方面(2)确定在特定方面表达的情感极性(例如，积极的、消极的、中性的)。在本文中，我们重点研究第二个任务:基于方面的情感分类 基于神经网络的方法（传统的方法）忽略了诸如依存树的信息资源，依存树能够缩短方面和意见词之间的距离，捕捉了词之间的句法关系，并为信息在树中的传播提供了任意句子上的区别性
OCR-free相关论文梳理
有问题请直接说问题就好
03-13 1189
Donut的结构有些像Text Spotting任务（检测和识别都在一个模型中完成），但是Donut做的要比Text Spotting任务更进一步。该工作将OCR中多个子任务都集成到了一个End-to-End的网络中，网络是基于transformer的编解码结构。这应该是第一篇将Transformer 编解码结构应用到整个OCR任务中的工作，包括文档分类、文档信息提取和文档问答三个任务。现阶段，Transformer技术的发展，让通用文档理解任务变得不再是那么遥不可及，出现了很多OCR-free的工作。
StackPropagation-SLU:EMNLP-19论文“具有令牌级意图检测以了解口语的堆栈传播框架”的开源代码
05-09
该存储库包含该论文的PyTorch实现：具有用于语音语言理解的令牌级意图检测的堆栈传播框架。 如果您在工作中使用任何源代码或此工具包中包含的数据集，请引用以下文章。 下面列出了bibtex： @article{qin2019stack, ...
NCLS-Corpora:EMNLP-IJCNLP 2019论文“ NCLS的数据集
04-25
跨语言汇总的数据集 我们已经构建了两个用于跨语言摘要的数据集： ZH2ENSUM和EN2ZHSUM 。 您可以下载。... booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Langua
BERT(一)--论文翻译：BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding
05-19 2012
文章目录 1 Introduction(简介)2 Related Work（相关工作）2.1 Feature-based Approaches（基于特征的方法）2.2 Fine-tuning Approaches （微调方法）2.3 Transfer Learning from Supervised Data（在有监督数据上的迁移学习）3 BERT3.1 Model Architecture（模型结构）3.2 Input Representation（输入表示）3.3 Pre-training Tasks.
论文翻译：EMNLP-2023.CCF-B.Kent K. Chang.Speak, Memory: An Archaeology of Books Known to ChatGPT/GPT-4
CSPhD-winston的博客
09-23 63
在这项工作中，我们进行了数据考古学研究，通过使用名称填空成员推断查询来推断ChatGPT和GPT-4所知的书籍。我们发现，OpenAI模型已经记住了大量受版权保护的材料，记忆的程度与这些书籍的段落在网络出现的频率有关。这些模型对未知书籍集的记忆能力，使得文化分析的测量有效性评估变得复杂，因为它们污染了测试数据；我们表明，对于下游任务，模型在记忆书籍上的表现远胜于非记忆书籍。我们认为，这支持了开放模型的理由，即其训练数据是已知的。
论文翻译：EMNLP-2023.CCF-A.Alon Jacovi.Stop Uploading Test Data in Plain Text: Practical Strategies for
CSPhD-winston的博客
09-24 191
随着在大型自动抓取的语料库上预训练的模型的兴起，数据污染已经成为一个普遍且具有挑战性的问题。对于封闭模型来说，训练数据变成了商业机密，即使是开放模型，检测污染也并非易事。诸如带有隐藏答案的排行榜，或者使用保证未被见过的测试数据这类策略，成本高昂，并且随着时间的推移变得脆弱。假设所有相关方都重视干净的测试数据，并愿意合作以减轻数据污染，我们可以做什么？我们提出了三种可以产生影响的策略：（1）公开的测试数据应使用公钥加密，并授权禁止衍生分发；（2）
【AIGC】ChatGPT提示词解析：如何打造个人IP、CSDN爆款技术文案与高效教案设计
最新发布
起心动念皆是因，当下所受皆是果。
10-01 1572
这篇文章详细介绍了如何利用ChatGPT在多个领域中提升效率和创作质量，包括个人IP文案的打造、CSDN爆款技术文案的撰写、以及高效教案的设计。通过一步步的引导和优化，ChatGPT不仅帮助用户快速生成内容，还能根据不同平台的需求进行个性化调整。无论是自媒体博主、技术博主，还是教育工作者，ChatGPT都能够成为提升创作效率、优化内容质量的得力助手，让内容更加精准、吸引人。 2024.9.30-10.1-✍134min
【ChatGPT】面向软件开发的提示词
XiaoLiuLB的博客
09-30 458
为名为 [name] 的 [class/module/component] 生成具有以下功能的样板 [language] 代码：[functionality description]。创建一个 [语言] 函数以使用以下输入对 [数据结构] 执行 [操作]：[输入变量] 和预期输出：[输出描述]。在 [语言] 中，完成以下用 [值] 初始化 [数据结构] 的代码片段：[code snippet]。完成以下遍历 [数据结构] 并执行 [操作] 的 [语言] 循环：[code snippet]。
chatgpt用于数据分析的弊端
一个爱摸鱼的程序员
09-27 456
ChatGPT近两年来十分受欢迎，它理解和生成文本的能力非常出色，带来了很多新的机会。用chatgpt进行数据分析在我看来是既有前景又具有挑战。
sentence-bert: sentence embeddings using siamese bert-networks emnlp
04-30
Sentence-BERT（双塔BERT网络）是一种使用BERT网络生成句子嵌入的方法。 该技术在自然语言处理领域中具有广泛的应用，并且与传统的词向量相比，它提供了更丰富和有趣的语义信息。 在这个技术中，双塔BERT网络被用来生成两个句子之间的相似性分数，这对于许多任务都非常有用。常见的应用包括文本相似度、信息检索和自然语言推理等。接着，我们需要将这个分数转换成一个向量，通过这个向量可以减少噪音，强化特征的相似性. 同时，这个向量可以被用来评估两个句子之间的相似性。 Sentence-BERT可以用于在许多领域进行嵌入学习，例如推荐系统、机器翻译、信息抽取和事实验证等。 此外，这种方法可在文本的特定领域中预先训练句子嵌入，从而在特定任务上提供更好的表现。 总之，Sentence-BERT是一种非常有用的技术，可以从不同角度对文本进行分析，并提供了许多在信息检索、自然语言理解和情感分析等领域中有用的功能。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值