杨秀璋的专栏

上一篇文章讲解网络LLM攻击（Web LLM attacks），该攻击利用模型访问数据、API或用户信息。这篇文章将详细描述绕过 Azure AI 内容安全防护措施，提出两种攻击大模型的方式，本文翻译自Mindgard研究团队。2024年2月，Mindgard发现并负责任地披露了Microsoft Azure的Azure AI内容安全服务中的两处安全漏洞，使攻击者能够规避检测并绕过已建立的生成式AI防护措施（GenAI）。基础性技术文章，希望您喜欢！

上一篇文章讲解Sysdig威胁研究团队最近观察到一种新型攻击——LLMjacking。这篇文章将详细描述网络LLM攻击（Web LLM attacks），这些攻击利用模型访问数据、API或用户信息。主要内容包括如何利用LLM的APIs、函数和插件、间接提示注入、泄露敏感训练数据，以及如何防护LLM攻击。该文章翻译自PortSwigger研究团队，推荐大家关注，基础性技术文章，希望您喜欢！

上一篇文章讲解黑客如何利用聊天机器人的功能来恢复OpenAI ChatGPT、Microsoft Copilot和大多数AI聊天机器人的加密聊天记录。这篇文章将Sysdig威胁研究团队最近观察到一种新型攻击——LLMjacking，该攻击利用被盗取的云凭据来破坏十个云托管的大语言模型（LLM）服务。该文章翻译自sysdig研究团队，基础性技术文章，希望您喜欢！

这篇文章将讲解黑客如何利用聊天机器人的功能来恢复OpenAI ChatGPT、Microsoft Copilot和大多数AI聊天机器人的加密聊天记录。该文章来源自以色列Offensive AI Lab的研究人员发表的一篇论文，其描述了一种恢复被截获的AI聊天机器人消息文本的方法。现在，我们将探讨这种攻击是如何工作的，以及它在现实中具有多大的危险性。基础性技术文章，希望您喜欢！

本系列主要介绍LLM、AIGC和ChatGPT相关知识，包括原理、代码实战、应用实践等内容，希望您喜欢。第一篇文章主要是ChatGPT应用初试，简单介绍什么是大语言模型（LLM）和人工智能生成内容（AIGC），利用中文ChatGPT实现英文论文润色，并与传统英文润色和语法校对进行比较。基础性文章，希望对您有所帮助！且行且珍惜，继续加油。

本文是南洋理工大学刘杨教授在InForSec学术报告的分享学习笔记，题目是“网络空间安全和AIGC整合之道”。刘老师是我们非常佩服的一位大佬，他们的很多安全工作都值得我们学习，这次分享真的很棒，值得大家去学习。同时，更重要是看看刘老师他们团队面对一个新方向或新热点，他们是如何去探索与安全结合，如何去从事科学研究的。本文按照刘老师汇报内容描述，并凝练出重点内容（详见博文中重点标注的思路梳理），尤其是科研探索的过程，从而方便大家学习。学习笔记文章，希望对大家有所帮助。最后感谢刘老师的分享！

《当人工智能遇上安全》系列将详细介绍人工智能与安全相关的论文、实践，并分享各种案例。这篇文章将介绍由广东省智能信息处理重点实验室发布的一项研究成果——借助大语言模型GPT-4辅助恶意代码动态分析。基础性文章，希望对您有所帮助！