- 博客(132)
- 收藏
- 关注
原创 FedPer vs FedRep vs FedRoD vs FedCP
方法网络架构拆分个性化粒度全局信息与本地信息的隔离方式核心创新点FedPer1 FE + 1 个性化头客户端级按网络层物理隔离(浅层全局,深层本地)提出“保留头不上传”的基本范式FedRep1 FE + 1 个性化头客户端级按训练时序隔离(先训头,后训FE)证明了交替训练能学到更好的全局表示FedRoD1 FE +2 头客户端级按优化目标隔离(双路预测,全局头+本地头)明确显式地兼顾了“全局通用”和“本地专精”FedCP2 FE2 头CPN样本级(最细)按数据特征。
2026-03-10 20:30:29
366
原创 FedCP:通过条件策略分离特征信息以用于个性化联邦学习
近期,个性化联邦学习(pFL)在隐私保护、协作学习以及解决客户端(例如医院、智能手机等)之间的统计异质性方面引起了越来越多的关注。大多数现有的pFL方法主要集中于在客户端级别的模型参数中利用全局信息和个性化信息,而忽略了数据才是这两种信息的来源。为了解决这个问题,我们提出了联邦条件策略(FedCP)方法,该方法为每个样本生成一个条件策略,以将其特征中的全局信息和个性化信息分离,然后分别通过全局头部和个性化头部对它们进行处理。
2026-03-10 20:27:14
729
原创 专家模型MoE:联邦学习中的模块化智能架构
摘要:混合专家模型(MoE)为联邦学习提供了一种模块化架构方案,通过专家网络专业化与门控机制个性化,有效解决了非独立同分布数据挑战。该架构支持模型异构性,优化通信效率,并实现知识模块化共享。关键技术包括动态专家分配、分层门控设计和交替优化策略,已在跨语言NLP、个性化医疗等领域取得应用成效。尽管面临专家选择偏差、理论分析困难等挑战,但通过动态架构、层次化设计等前沿方向的发展,联邦MoE展现出在分布式智能场景中的广阔前景。
2026-03-07 10:38:20
432
原创 个性化联邦学习策略综述
个性化联邦学习作为联邦学习的重要研究方向,旨在解决客户端数据非独立同分布带来的模型性能下降问题。本文系统梳理了个性化联邦学习的主要技术路径,分析其理论基础、实现方法及适用场景。
2026-03-07 10:37:32
339
原创 FedALA:用于个性化联邦学习的自适应局部聚合
联邦学习(FL)中的一个关键挑战是统计异质性,它会损害全局模型在各个客户端上的泛化能力。为了解决这个问题,我们提出了一种名为**带有自适应局部聚合的联邦学习(FedALA)**的方法,通过在个性化联邦学习中捕获全局模型中对客户端模型有利的期望信息。FedALA的核心组件是一个**自适应局部聚合(ALA)**模块,它能够在每次迭代训练之前,自适应地将下载的全局模型和局部模型朝着每个客户端的局部目标进行聚合,以初始化局部模型。为了评估FedALA的有效性,我们在计算机视觉和自然语言处理领域的五个基准数据集上进行
2026-03-06 13:52:29
825
原创 知识蒸馏:让大模型的智慧流淌进小模型的优雅艺术
知识蒸馏:大模型智慧向小模型的高效迁移 知识蒸馏是一种将复杂大模型(教师模型)的知识迁移到轻量小模型(学生模型)的技术。其核心思想是利用教师模型输出的软标签(概率分布)而非硬标签,使学生模型学习到更丰富的类别间关系等"暗知识"。典型流程包含教师模型生成软标签、学生模型同时学习真实标签和软标签、通过特定损失函数优化三个关键环节。 该技术经历了从经典输出层蒸馏到特征蒸馏、多教师蒸馏、自蒸馏等演进,形成了多样化方法体系。在联邦学习中,知识蒸馏能有效缓解数据异构性问题,支持模型异质性,并增强隐私
2026-03-06 13:39:35
371
原创 FedBN:基于局部批量归一化的非独立同分布特征上的联邦学习
摘要 本文提出FedBN方法,通过局部批量归一化(Local Batch Normalization)解决联邦学习中特征偏移非独立同分布(feature shift non-iid)问题。与现有工作主要关注标签分布差异不同,该方法针对不同客户端特征分布的差异,如医学影像中不同扫描仪导致的图像差异。FedBN在模型平均时保持BN层参数本地化,其余层进行聚合。实验表明,FedBN在多个数据集上优于FedAvg和FedProx等现有方法。理论分析也证实了其更快的收敛速度。该方法无需额外参数调整,计算开销小,可广泛
2026-03-05 09:40:35
523
原创 个性化联邦学习中的正则化策略:平衡全局与局部的艺术
在个性化联邦学习的众多技术中,正则化策略以其简洁性和有效性脱颖而出,成为实现个性化与泛化平衡的关键手段。没有正则化的本地训练,就如同每个客户端在孤岛上独自探索,可能陷入本地最优,也无法从集体智慧中获益。:来自同一客户端的不同增强样本应该具有相似的特征表示,而不同客户端的样本应该有所区分但又不过度分离。知识蒸馏正则化借鉴了知识蒸馏思想,将全局模型作为"教师",本地模型作为"学生"。:更高级的方法会学习客户端间的任务关系矩阵,让相似客户端的模型更接近。将每个客户端的个性化任务视为相关但不同的多任务学习问题。
2026-03-05 09:01:06
393
原创 个性化联邦学习中的模型解耦策略:分离共享知识与个性特征
模型解耦策略为个性化联邦学习提供了一种优雅而强大的范式。通过明确分离共享知识与个性化特征,它不仅解决了Non-IID数据带来的挑战,还带来了通信效率、隐私保护和个性化质量的多重提升。
2026-03-04 20:15:06
415
原创 FedRep:利用共享表示进行个性化联邦学习
本文提出了一种新颖的联邦学习框架FedRep,通过利用客户端间的共享数据表示来解决数据异质性问题。该方法学习全局低维表示和个性化局部分类器,在理论分析中证明了其在线性设置下能以指数级速度收敛,每个客户端仅需O((d/n+log(n))log(1/ε))样本即可达到ε精度。实验表明,FedRep在CIFAR、FEMNIST等数据集上优于其他个性化方法,特别在数据量小、异质性高时优势明显。该框架不仅降低了问题维度,还支持更多局部更新,并能泛化到新客户端,为联邦学习中的表示学习提供了理论保证和实践价值。
2026-03-04 20:09:28
640
原创 FedProx:异构网络中的联邦优化
联邦学习是一种分布式学习范式,它具有两个区别于传统分布式优化的关键挑战:(1) 网络中每台设备上的系统特征存在显著差异(系统异质性);(2) 网络中数据的分布是非独立同分布的(统计异质性)。在本文中,我们引入了一个框架 **`FedProx`**,以解决联邦网络中的异质性问题。FedProx可以被视为 FedAvg(当前联邦学习的最先进方法)的一种泛化和重参数化。虽然这种重参数化只对该方法进行了微小的修改,但这些修改在理论和实践中都具有重要的影响。在理论上,当在非同分布的数据上进行学习时(统计异质
2026-03-03 19:51:22
543
2
原创 深入解析传统联邦学习:核心策略与演进历程
传统联邦学习的策略演进反映了从“简单可行”到“高效实用”的持续探索。从最初的FedAvg到应对各种实际挑战的改进算法,从中心化架构到去中心化、分层化设计,联邦学习生态系统正在不断丰富和完善。理解这些传统策略不仅有助于我们在实际应用中选择合适方案,更为探索联邦学习的前沿方向——如个性化联邦学习、跨模态联邦学习、联邦大模型等——奠定了坚实基础。随着技术的成熟和生态的发展,联邦学习必将在保护数据隐私的前提下,释放出更大数据价值,推动人工智能向更加可信、普惠的方向发展。
2026-03-03 19:32:18
364
原创 个性化联邦学习:在隐私保护与个性化之间找到最佳平衡
个性化联邦学习(Personalized Federated Learning, PFL)是联邦学习的一个重要分支,其核心目标是在联邦学习的框架下,为每个参与方(客户端)训练出既受益于全局知识共享,又能适应本地数据特性的个性化模型。与标准联邦学习追求“一个模型适应所有”不同,PFL承认并尊重数据的异质性,旨在为每个客户端找到最适合其本地数据分布的模型参数。个性化联邦学习代表了隐私保护机器学习的一个重要演进方向。
2026-03-02 08:36:47
609
原创 FedPer:带有个性化层的联邦学习
联邦学习中的个性化层方法:FedPer算法研究 摘要: 本文针对联邦学习中数据统计异质性导致的模型性能下降问题,提出了一种名为FedPer的新型联邦学习方法。该方法通过将深度神经网络划分为共享的基础层和设备特定的个性化层,有效解决了传统联邦平均算法在个性化任务中的局限性。基础层通过联邦平均进行协同训练,而个性化层则利用本地数据进行独立优化。实验结果表明,FedPer在非相同划分的CIFAR数据集和个性化图像美学数据集上均表现出色,显著优于标准联邦学习方法。这一创新方法为联邦学习在个性化推荐、图像处理等领域的
2026-03-02 08:34:35
941
原创 深入解读 Meta 的 Segment Anything Model (SAM)
简单来说,SAM 是一个通用的图像分割模型。图像分割(Image Segmentation):是计算机视觉中的一项核心任务,旨在识别图像中的哪些像素属于哪个对象。通俗点说,就是把图里的东西“抠”出来。Anything(任何事物):这是 SAM 最恐怖的地方。传统的分割模型通常只能识别训练过的特定物体(比如只认识猫、狗、车)。而 SAM 拥有**零样本(Zero-shot)**迁移能力,意味着它从未见过的物体(比如显微镜下的细胞、水下未知的生物),它也能精准地把轮廓勾勒出来。
2026-03-01 19:27:50
781
原创 FedAvg:基于去中心化数据的深度网络通信高效学习
联邦学习:一种基于去中心化数据的高效深度学习方法 本文提出联邦学习作为解决移动设备数据隐私和大规模问题的创新方案。该方法通过聚合本地设备上的模型更新而非原始数据,在保护隐私的同时实现共享模型训练。研究重点包括: 提出FederatedAveraging算法,结合本地SGD与模型平均,显著降低通信成本(比同步SGD减少10-100倍通信轮数) 实验验证该方法对非独立同分布(non-IID)和不平衡数据具有鲁棒性,测试了5种模型架构和4个数据集 分析了联邦学习的核心特征:数据隐私性、非IID分布、客户端数量庞大
2026-03-01 10:58:33
786
原创 特征分布偏移VS标签分布偏移VS概念偏移
偏移类型变化的分布不变的关系核心问题比喻特征分布偏移P(X)P(Y|X)输入数据的样子变了同一种狗,用不同相机拍标签分布偏移P(Y)P(X|Y)类别的先验概率变了狗和猫的比例变了,但狗还是狗,猫还是猫概念偏移P(Y|X)世界的规则变了“狗”这个概念的定义变了(以前贵宾犬不算狗,现在算)理解这三种偏移的区别,对于诊断模型在部署后性能下降的原因至关重要,并有助于选择正确的策略来缓解问题。
2025-09-02 20:14:00
667
原创 xss-labs:Level1-20关靶场通关解析
本文介绍了XSS(跨站脚本攻击)的基础知识,包括其定义、危害及三种类型(反射型、存储型、DOM型),并通过靶场实例演示了XSS攻击的实现方法。文章详细解析了xss-labs靶场的前三关,展示了如何利用输入框漏洞注入恶意脚本,包括绕过htmlspecialchars()转义的技巧。通过比喻和对比表格,清晰区分了不同类型的XSS攻击特点,为Web安全学习提供了实用指导。
2025-08-31 23:39:05
1043
原创 机器学习中的过拟合与欠拟合:原理、表现与解决方案
特征欠拟合过拟合理想拟合模型复杂度过低过高适中训练误差高极低较低测试误差高高较低泛化能力差差好解决方案增加复杂度简化模型/正则化保持平衡过拟合和欠拟合是机器学习模型开发过程中不可避免的挑战。通过理解它们的本质特征、掌握诊断方法并应用适当的解决方案,我们可以显著提高模型性能。记住,好的机器学习实践不在于追求训练集上的完美表现,而在于找到复杂度和泛化能力的最佳平衡点。随着经验的积累,您将培养出识别和解决这些问题的直觉,从而构建出更加强大和可靠的机器学习模型。
2025-08-15 16:18:55
804
原创 从参数视角解读机器学习:训练什么?什么才算好模型?
训练后,所有学到的知识都编码在参数中经典案例:CNN中,卷积核参数负责检测图像特征Transformer中,注意力权重决定词语重要性训练的本质是参数优化测试效果反映参数质量好的模型=合适的结构+优化的参数。
2025-08-15 16:13:55
966
原创 上传梯度是否等同于上传数据?深度解析梯度与参数隐私风险
摘要: 在机器学习和深度学习中,梯度(Gradient)和参数(Parameter)的隐私风险不同。梯度是损失函数对参数的偏导数,直接依赖训练数据,可能通过反演攻击泄露原始数据,隐私风险较高。参数是训练后的模型权重,不直接暴露数据,但可能泄露模型行为(如成员推断攻击)。联邦学习通过参数聚合(而非梯度共享)降低隐私风险,但仍需结合差分隐私、安全聚合等技术增强安全性。关键结论:上传梯度比上传参数更危险,隐私敏感场景应优先采用参数聚合与加密防护。
2025-08-14 14:02:35
847
原创 集中式学习VS分布式学习VS联邦学习:核心差异与应用场景解析
联邦学习将成为隐私敏感场景的标配分布式技术继续在大模型训练中发挥关键作用新型混合架构不断涌现,如"联邦蒸馏"等创新方法标准化进程加速,IEEE 3652.1等标准逐步落地。
2025-08-14 13:56:32
1572
原创 upload-labs:Pass1-21关靶场通关解析(最新、最全、最详细)
本文介绍了在Windows环境下使用upload-labs靶场进行文件上传漏洞测试的过程。文章首先说明了基础环境配置(使用php5.2.17版本),并提供了两个测试文件(flag.php和flag.jpg)。随后详细解析了三个关键关卡: Pass-01(前端验证):通过Burpsuite抓包修改.jpg为.php后缀绕过前端JS验证 Pass-02(MIME验证):通过修改Content-Type为image/jpeg伪装PHP文件 Pass-03(特殊后缀):利用.php3/.phtml等不被黑名单禁止的
2025-08-12 23:17:19
2217
原创 手把手教程:php 5.2.17 极速配置指南(Windows+phpstudy版)
《Windows环境下配置PHP 5.2.17运行upload-labs靶场指南》针对网安爱好者无法在phpstudy 8.1.1.3环境下运行upload-labs靶场的问题,提供了详细解决方案。文章从PHP 5.2.17的下载(推荐使用NTS版本)开始,逐步指导配置文件修改(包括时区设置、扩展目录和错误日志路径),最后说明如何在phpstudy中切换PHP版本。通过TS/NTS版本对比和关键配置行号标注,帮助用户快速搭建靶场测试环境。
2025-08-12 22:06:18
627
原创 sqli-labs:Less-65关卡详细解析
本文详细解析了SQL注入挑战Less-65的解题思路与步骤。面对字符串型注入(双括号包裹)且无法使用联合查询和报错盲注的情况,采用时间盲注技术。通过构造带有sleep()的条件语句,利用响应时间差异依次获取数据库名(challenges)、动态表名及其字段,最终提取目标密码。文章强调四种注入方式的防御措施,并声明仅供安全研究使用。详细基础解析可参考文末链接。
2025-08-07 11:06:06
605
原创 sqli-labs:Less-64关卡详细解析
摘要:本关考察SQL注入中的时间盲注技术,针对双括号包裹的数值型参数id进行攻击。由于联合查询失效且报错信息被禁用,通过构造条件触发延时(如sleep()函数)判断数据库信息。详细步骤包括:1)获取数据库名长度和字符;2)爆破表名和字段名;3)提取目标数据。防御建议包括限制union操作、过滤特殊字符、禁用错误回显和设置查询超时。本文仅供安全研究,禁止非法测试。
2025-08-07 10:57:51
951
原创 sqli-labs:Less-63关卡详细解析
本文介绍了SQL注入挑战关卡Less-63的解题思路。该关卡为字符串型注入,需用单引号闭合参数。由于联合查询和报错盲注失效,重点采用布尔盲注技术。详细步骤包括:1)获取数据库基本信息(长度和名称);2)通过布尔盲注获取表名;3)获取字段名;4)最终获取密码数据。文中提供了完整的注入URL示例和截图说明。最后总结了四种常见注入方式的防御建议,并强调该技术仅限安全学习使用。附相关技术文章链接供深入参考。
2025-08-07 10:33:10
569
原创 sqli-labs:Less-62关卡详细解析
摘要:本文分析了SQL注入挑战第62关的解决方案。该关卡为字符串型注入(单引号+括号包裹),需用')闭合参数。由于密码是账号的反转且报错输出被注释,联合查询和报错盲注均无效,故采用布尔盲注。详细步骤包括:获取数据库名(10位,逐个字符判断)、获取动态表名(10位)、获取字段(11位)及最终密码。文章还总结了四种注入方式的防御措施(限制union、过滤报错、统一错误页、设置超时),并强调仅用于安全学习。
2025-08-07 10:27:50
917
原创 sqli-labs:Less-61关卡详细解析
本文解析了SQL注入挑战Less-61的解题思路,主要采用报错盲注技术。通过构造updatexml()函数触发数据库报错回显信息,依次获取数据库名、表名、字段名和密码数据。注入点采用'))闭合字符串参数,攻击载荷包含information_schema查询和concat()拼接函数。文章对比了联合查询、报错盲注、布尔盲注和时间盲注四种技术差异,并提供了基础关卡解析链接。强调该方法仅限安全学习用途,禁止非法测试。
2025-08-07 09:45:14
496
原创 sqli-labs:Less-60关卡详细解析
本文介绍了SQL注入挑战Less-60的解题思路和方法。该关卡为字符串型注入,需用")闭合参数。由于密码是账号的反转,联合查询无效,故采用报错盲注。通过updatexml()函数逐步获取数据库名、表名、字段及密码信息。文章还对比了四种注入方式:联合查询、报错盲注、布尔盲注和时间盲注的防御措施。最后强调技术仅用于安全学习,禁止非法测试。附带相关关卡解析链接供参考学习。
2025-08-07 09:38:34
775
原创 sqli-labs:Less-59关卡详细解析
本文介绍了SQL注入挑战Less-59的解题思路与步骤。该关卡为数值型GET注入,通过报错盲注获取数据库信息。首先使用updatexml报错函数获取数据库名(challenges)、表名(soa579lf2h)和字段名(secret_99DN),最终提取出密码数据。文章对比了联合查询、堆叠注入、布尔盲注和时间盲注等方法的防御措施,并提供了基础关卡解析链接。强调仅用于安全学习,禁止非法测试。注:若secret_key无效时,可尝试使用sessid作为密码。
2025-08-07 09:32:12
634
原创 sqli-labs:Less-58关卡详细解析
摘要:本文详细解析了SQL注入挑战Less-58的解题过程。针对字符串型GET注入,采用报错盲注技术,通过updatexml函数逐层获取数据库信息:先确认目标库名为challenges,再获取表名i8swscnssr及其字段secret_3EAD,最终成功提取密码。文章对比了联合查询、布尔盲注和时间盲注等技术的防御要点,并提供了基础关卡解析链接。特别提醒当secret_key失效时,可尝试使用sessid作为密码的解决方案。注:所有技术仅限合法安全测试用途。
2025-08-07 09:16:23
898
原创 sqli-labs:Less-57关卡详细解析
本文介绍了SQL注入挑战第57关的解题思路与步骤。该关卡为字符串型注入(GET请求),需用")闭合参数。通过联合查询注入,依次判断回显位、获取表名(k5cagi4lam)、字段(secret_LSYJ)和密码数据。文章对比了联合查询、报错盲注、布尔盲注和时间盲注的防御方法,并提供了基础关卡和相似关卡的解析链接。强调仅供安全学习,禁止非法测试。
2025-08-07 09:15:56
594
原创 sqli-labs:Less-56关卡详细解析
本文介绍了SQL注入关卡56的解题思路与步骤。该关卡为字符串型注入(单引号+括号包裹),需使用')闭合参数。作者通过联合查询注入方式,依次判断回显位、获取表名(challenges数据库中的0owa63bh2g表)、字段名(secret_2BTE)和密码数据。文中对比了联合查询、报错盲注、布尔盲注和时间盲注等不同注入方式的特点及防御建议,并提供了相关关卡的详细解析链接。最后强调本文仅用于安全学习,禁止非法测试。
2025-08-06 22:25:24
776
原创 sqli-labs:Less-55关卡详细解析
摘要:本文介绍了SQL注入挑战Less-55的解题过程,主要采用联合查询注入技术。通过构造恶意SQL语句(如id=-1) union select 1,2,3 --+)判断回显位,随后依次获取表名、字段名和密码数据。该关卡与Less-54类似,需注意参数需用)闭合。文章还对比了联合查询、报错盲注、布尔盲注和时间盲注等不同注入方式的防御措施,并强调仅用于安全学习目的。详细解析可参考相关链接。
2025-08-06 22:12:30
362
原创 sqli-labs:Less-54关卡详细解析
本文介绍了SQL注入实战中的联合查询攻击方法,针对字符串型GET请求漏洞进行分析。通过构造恶意URL,演示了判断回显位、获取表名、字段及密码的完整流程。同时提供了三种解决secret_key提交问题的修改方案(调整列顺序或查询条件)。文章还对比了四种SQL注入技术的特点及防御建议,强调该方法仅限安全学习用途。附有基础关卡解析链接,提醒读者严格遵守合法测试原则。
2025-08-06 22:01:48
1371
原创 sqli-labs:Less-53关卡详细解析
本文介绍了两种SQL注入技术(布尔盲注和时间盲注)的具体实现步骤,针对一个存在漏洞的排序参数sort进行攻击演示。通过逐步测试数据库名、表名、字段名和数据内容,展示了如何利用布尔逻辑判断和时间延迟函数来推断数据库信息。文章提供了完整的注入代码示例,包括数据库名"security"、表名"users"、字段名"username"等关键信息的获取方式,并附有正确执行时的结果截图说明。该技术适用于字符串型注入点且无法使用联合查询或报错注入的场景。
2025-08-06 18:19:18
747
原创 sqli-labs:Less-52关卡详细解析
本文介绍了SQL注入攻击的两种技术:布尔盲注和时间盲注。针对存在漏洞的SQL查询语句(SELECT * FROM users ORDER BY $id),通过GET请求参数sort实施注入攻击。由于无法使用联合查询或报错注入,重点演示了如何通过布尔逻辑判断和时间延迟来逐字符获取数据库信息。具体步骤包括:1)获取数据库名(如"security");2)获取表名(如"users");3)获取字段名(如"username");4)提取数据内容。布尔盲注通
2025-08-06 18:11:27
623
原创 sqli-labs:Less-51关卡详细解析
本文分析了SQL注入中的报错盲注和堆叠注入技术。通过一个ORDER BY注入案例,展示了如何利用updatexml()函数进行报错盲注,逐步获取数据库名、表名、字段名和数据。同时演示了堆叠注入实现数据插入操作。文章对比了两种注入方式的区别:报错盲注依赖报错回显,堆叠注入可执行多条语句但需分号和数据库支持。最后强调防御措施:严格校验输入参数,禁用多语句执行和报错回显,使用参数化查询。本文仅供安全研究学习,禁止非法测试。
2025-08-06 17:57:40
575
原创 sqli-labs:Less-50关卡详细解析
本文介绍了SQL注入的两种攻击方式:报错盲注和堆叠注入。通过sort参数控制SQL排序字段实现注入,无需闭合参数。报错盲注利用updatexml()函数泄露数据库结构及数据,包括获取数据库名、表名、字段和用户信息。堆叠注入通过分号分隔执行插入操作等恶意语句。对比普通UNION注入,堆叠注入可执行任意SQL语句但需数据库支持。最后强调需严格校验输入,禁用多语句执行,仅供安全学习使用。
2025-08-06 17:47:31
558
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅