大模型越狱指令 (harmful questions) 数据集整理

于 2024-07-19 11:47:00 发布
阅读量268 收藏 8
点赞数 5
分类专栏： 可信AI 文章标签： 大模型 越狱攻击 数据集
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/sunshine_xiaohao/article/details/140542618
版权
数据集越狱指令数量非重复越狱指令数量
AdvBench52058
MaliciousInstruct100100
TDC202310099
HarmBench400 + 110（多模态）400 + 110（多模态）
JailbreakBench10055
StrongReject313200+

AdvBench

GCG 论文中的 AdvBench
包含 520 个越狱指令
在这里插入图片描述

MaliciousInstruct

MaliciousInstruct
论文@ICLR 2024 spotlight
包含 100 个越狱指令
在这里插入图片描述

TDC2023

是红队比赛数据，用于开发和测试的越狱指令各 50 个

Trojan Detection Challenge 2023 (LLM Edition), Red Teaming Track, a NeurIPS 2023 competition

Dev Data
在这里插入图片描述
Test Data
在这里插入图片描述

HarmBench

HarmBench
400 个纯文本越狱指令，110 个多模态越狱指令
在这里插入图片描述

在这里插入图片描述

JailbreakBench

JailbreakBench
55 个原创越狱指令
在这里插入图片描述
在这里插入图片描述

StrongReject

StrongReject
200 + 原创越狱指令
在这里插入图片描述
在这里插入图片描述

Sunshine_xiaohao
关注
  • 5
    点赞
  • 踩
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
垃圾分类（可回收、有害、厨余、不可回收）
05-12
可回收、有害、厨余、不可回收四大分类，分别存放到四个文件夹，已经划分好...train 训练集：harmful_waste 1,120 张，kitchen_garbage 3,309 张， recyclable_garbage 8,111 张，other 1,592 张 test 训练集：400 张
视觉识别系统说明文档：从OpenMV端的数据采集到Edge Impulse端模型的训练与导出
08-11
接着，创建数据集保存路径，建立类文件，比如“Environment”和“Harmful”，分别代表识别环境和有害垃圾。用户在选定类别后拍摄图像，每个类别对应一个独立的文件夹，方便后续的数据处理和训练。 模型训练环节，...
启发式防御大模型越狱攻击
HUANGXIN9898的博客
07-08 550
在本文中，我们来分析、复现几个典型的启发式的防御工作，用于防御面向大语言模型的越狱攻击。
什么是指令微调（LLM）
yuanlulu的博客
06-28 1032
经过大规模数据预训练后的语言模型已经具备较强的模型能力，能够编码丰富的世界知识，但是由于预训练任务形式所限，这些模型更擅长于文本补全，并不适合直接解决具体的任务。指令微调是相对“预训练”来讲的，预训练的时候是使用大量无标注的文本，让模型每次都预测下一个字符的方式来训练。而指令微调也可以叫“监督微调”，也就是对于输入文本有标准答案，用标准答案来训练模型。一般预训练完毕后就要进行指令微调，经过指令微调后，大语言模型能够展现出较强的指令遵循能力，可以通过零样本学习的方式解决多种下游任务。
Alpaca构建方式探秘：低成本构造指令数据增强LLM
Steve Wang's blog
09-17 935
Alpaca是斯坦福大学在Meta开源的大模型LLaMA 7B基础上使用自构建的52K指令数据重新训练得到的增强模型，它的数据构造和训练成本极低，总计约600美元（数据构建500美元+机器训练100美元），效果却逼近OpenAI的，这篇博客和大家一起学习下alpaca的构建方法。
Llama-2大模型本地部署研究与应用测试
hhue2007的专栏
08-26 2760
目前正在开展大模型部署，目前开源大模型主要就是Llama、ChatGLM大模型等，包括Llama-1和Llama-2，在其基础上的改进大模型有Chinese-LLaMA、OpenChineseLLaMA、Moss、baichuan等等，本文主要对原始Llama大模型进行了本地部署与测试，后续再逐步学习，结合行业数据资源进行finetune，希望在开源模型的基础上对油气行业大模型建设有所帮助，大模型部署测试如下。
GM foods harmful or helpful.pdf
12-25
GM foods harmful or helpful.pdf
Dokebi (harmful contents blocker)-crx插件
04-03
语言:English,日本語,한국어 世界上第一个基于AI的系统，可以阻止有害内容，例如色情从两个方向。 键特征摘要：1.块有害网站。2.阻止或隐藏有害图像，实时电影。 （例如色情）。3.阻止在线广告保护青年。...
高考英语全国卷II词汇整理PPT课件.pptx
10-10
这份“高考英语全国卷II词汇整理PPT课件”提供了丰富的英语词汇和短语，旨在帮助学生准备高考英语考试。以下是一些关键知识点的详细解释： 1. **nothing but**：这个短语表示“仅仅，只有”，强调事物的纯粹性或...
webgoat-server-8.2.2.zip
07-21
解压即可得到webgoat-server-8.2.2.jar
人工智能行业深度报告：WAIC2024，国产AI+应用“百花齐放”
07-21
2024年世界人工智能大会（WAIC 2024）上，国产AI+应用生态呈现“百花齐放”的局面 1. WAIC 2024：国产 AI+应用生态“百花齐放” 多家厂商携大模型及AI应用成果亮相展会，涵盖金山办公、科大讯飞、华为、商汤等知名企业。 OpenAI 禁令加速推动国产 AI 生态，国产大模型性能持续提升，缩小与海外差距。 预计未来国产 AI+行业应用将迎来“百花齐放”局面，商业空间加速打开。 2. 国产大模型加速迭代，代表性厂商生态加速构建 科大讯飞 发布星火 V4.0 大模型，全面对标 GPT-4 Turbo，多模态能力显著提升。 星火医疗和教育垂类模型能力升级，赋能行业应用落地。 推出星火企业智能平台，赋能企业构建岗位专属助手。 华为 发布盘古大模型 5.0 系列，包括不同参数规模，适用于多种场景。 推出盘古具身智能大模型，推动人形机器人技术升级。 盘古 5.0 赋能华为小艺升级，在多个行业落地应用。 商汤 发布“日日新 5.5”模型，交互体验对标 GPT-4o，多模态能力实现突破。 推出面向 C 端用户的可控人物视频生成模型 Vimi。 率先实现原生多模态大模型车端部署
java毕设&课设-基于web的实验室管理系统（自动排课功能的实现）.zip
07-21
计算机毕业设计资源包含（项目部署视频+源码+LW+开题报告等等），所有项目经过助教老师跑通，有问题可以私信博主解决，可以免费帮部署。
丽珠集团000513.SZ公司首次覆盖报告：创新药与高壁垒制剂齐推进，多元化布局促发展.pdf
07-21
丽珠集团000513.SZ公司首次覆盖报告：创新药与高壁垒制剂齐推进，多元化布局促发展
线性预测房屋价格加清洗评估加分析-项目实战5-分析房屋价格数据-ipynb格式-Python语法-用Jupyter打开
07-21
线性预测房屋价格加清洗评估加分析-项目实战5-分析房屋价格数据-ipynb格式-Python语法-用Jupyter notebook打开 用来练习多元线性回归及预测和清洗评估和分析，整个流程特别清晰，每个步骤均用Makedown编辑器进行编辑文字，每一步都给出了清晰的代码以及压缩包中给出了相应的数据集，可以按照步骤一步一步进行模仿，理解其中的思维逻辑，然后上手进行操作，在操作的过程中不断思考，等能力有了很大提升之后，就可以慢慢独立思考从事项目了 最后祝您变得更强
骨科高值耗材：全面集采后，如何看骨科赛道投资机会？.pdf
07-21
骨科高值耗材：全面集采后，如何看骨科赛道投资机会？
mingw+cmake+QT的GeographicLib库
07-21
mingw+cmake+QT的GeographicLib库
高级语言程序设计大作业C++基于Qt编写的俄罗斯方块游戏源代码+实验报告，面向对象
07-21
高级语言程序设计大作业C++基于Qt编写的俄罗斯方块游戏源代码+实验报告，面向对象 开发软件 Qtcreator12.04
pythom剧情游戏.zip
最新发布
07-21
pythom剧情游戏

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值