CloudsMaker-CSDN博客

原创 Imprompter: Tricking LLM Agents into Improper Tool Use

新兴发展的Agent可以将LLM与外部资源工具相结合，代码了个人计算领域的新兴转变。但是同时也暴露了一些安全风险。本文提出了一种自动计算生成的、经过混淆处理、具有迁移效果的对抗性提示攻击。该攻击可以通过窃取用户和Agent的对话，提取个人身份信息，并将其转化为Markdown命令发送到攻击者的服务器。在端到端评估中，这种攻击显示出近80%的成功率。

2025-06-06 15:56:34 757

原创论文阅读：EIA: ENVIRONMENTAL INJECTION ATTACK ON GENERALIST WEB AGENTS FOR PRIVACY LEAKAGE

摘要：本文提出EIA攻击方法，通过注入隐蔽误导性文本到网页HTML中，诱导基于大模型的网页代理误填用户敏感信息至攻击者控制的字段，导致隐私泄露。相比之前方法，EIA无需白盒访问模型且能自适应网页环境。攻击采用两种注入策略（表单注入和镜像注入）并设计说服性指令模板，通过CSS透明化和延迟脚本实现隐蔽攻击。实验针对SeeAct框架及三种LMM模型进行测试，但存在适用范围有限等局限性，需进一步验证在多模态Agent和复杂场景中的效果。

2025-05-29 21:31:16 908

原创论文阅读：ADVWEB : CONTROLLABLE BLACK-BOX ATTACKS ON VLM-POWERED WEB AGENTS

本文提出了一种针对WebAgent的黑盒攻击框架AdvWeb，通过训练对抗性提示生成模型自动生成隐形恶意字符串并注入网页。该框架解决了现有方法扩展性差、依赖白盒信息的问题，在保持操作隐蔽性（渲染不变）和可控性（即时切换攻击目标）的前提下，将正常操作参数篡改为恶意参数。方法上，先收集LLM生成的攻击提示构建数据集，经监督微调（SFT）稳定训练后，再通过DPO强化学习优化模型，最终生成含隐藏占位符的提示模板。源码已公开于https://ai-secure.github.io/AdvWeb/。

2025-05-27 14:50:31 1046 1

原创 Agent、Function Calling、MCP，一文看懂 AI 工具调用全流程

本文探讨了AI领域中的Agent、Function Calling和MCP等核心概念。Agent是能独立完成任务的智能系统，由模型、工具和指令组成。Function Calling是让LLM调用预定义工具的技术，但其存在生态封闭、维护成本高等问题。MCP作为改进方案，提供了跨生态兼容、即插即用工具和会话状态管理等优势，通过分层架构实现更高效的AI工具调用。文章对比了三者的特点，指出MCP是Function Calling的升级版，能更好地支持复杂AI应用开发。

2025-05-26 01:22:28 872

原创（快速回忆）C#学习中一些易忘的点——反射

介绍反射之前，我们先要了解什么是是用来描述数据属性的信息，比如类中的函数、变量等信息。而就是：在程序运行时，可以通过反射得到其他程序集或者自己程序集代码的各种信息（类、函数、变量等等），来实例化、执行、操作它们。

2025-03-19 16:06:04 294

原创（快速回忆）C#学习中一些易忘的点——委托&事件&匿名函数

委托的本质是一个类，用来存储多个相同类型（参数类型和返回类型相同）函数(方法)。

2025-03-15 09:11:30 196

原创（快速回忆）C#学习中一些易忘的点——抽象类和接口、抽象方法和虚方法

抽象类（Abstract Class）定义：抽象类是一种不能被实例化的类，它可以包含抽象方法（只有签名，没有实现）和具体方法（有实现）。抽象类主要用于定义一组共享的行为规范，并提供一些默认实现。示例//定义抽象类//创建一个Car类继承Ivehicle抽象类//创建对象// 输出: Car started.car.Stop();// 输出: Car stopped.// 输出: Car accelerated.接口（Interface）定义。

2025-03-14 16:34:52 371

原创（快速回忆）C#学习中一些易忘的点——结构体和类的区别

声明有参构造函数后，系统仍会提供默认无参构造（自动初始化字段）声明时不能指定初始值，必须在构造函数中对所有成员变量进行初始化。直接使用类，例如表示玩家、物品等需要复杂行为和继承体系的对象。可以在声明时直接指定初始值，也可以在构造函数中初始化。可以声明自身类型的成员变量（引用类型不引起递归问题）不能声明与自身类型相同的成员变量（避免无限递归）无强制要求，未初始化的成员默认赋予类型默认值。必须在构造函数中对所有成员变量进行初始化。可以自定义无参构造函数和有参构造函数。不能被继承，但可以实现接口。

2025-03-13 17:39:48 290

原创（快速回忆）C#学习中一些易忘的点——运算符重载

为自定义类/结构体能使用运算符。Table1. 可重载的运算符。

2025-03-13 17:10:21 245

原创（快速回忆）C#学习中一些易忘的点——拓展方法

（如int、float等）添加新方法。

2025-03-13 16:43:53 247

原创（快速回忆）C#学习中一些易忘的点——static

概念：用static修饰的成员变量、成员方法、成员属性等成为静态成员。

2025-03-13 16:21:59 430

原创（快速回忆）C#学习中一些易忘的点——变长参数和参数默认值

参数默认值允许在方法定义时为参数提供默认值，调用方法时可以省略这些参数。：变长参数（可变参数）允许方法接收可变数量的参数，使用。默认参数必须放在非默认参数的后面，否则会导致编译错误。可以传入任意数量的参数，也可以不传入。调用时可以省略默认参数，使用默认值。如果传入的是数组，会直接作为。，前面可以有其他参数。

2025-03-12 18:07:56 241

原创（快速回忆）C#学习中一些易忘的点——ref&out

使用场景：传递一个已有值，并在方法中修改它（加ref相当于传入参数的地址）；特点：调用前传参必须初始化（不然会报红）；

2025-03-12 17:50:41 103

原创（快速回忆）C#学习中一些易忘的点——类型转换

参考：C#中的数据类型之间的转换(Parse、TryParse、Convert、is、as)_c# tryparse convert-CSDN博客C# 面试问题高级：002 - “is“ 和 “as“ 关键字的区别是什么？_c# as和is-CSDN博客

2025-03-12 17:28:31 178

原创 C#位运算在算法中的常见作用

在 C# 中，位运算符用于直接操作二进制位（bit），通常用于底层编程或优化操作。运算符意义例子(a、b均为整数变量)非运算，按位取反~a与运算，全1为1，有0为0（看作乘法）a & b或运算，有1为1，全0为0（看作加法）a | b异或运算，不同为1，相同为0a ^ b<<左移运算a << 1>>右移运算a >> 2。

2025-03-12 16:01:33 331