多任务学习的新招数：提示学习，让模型学习效率翻倍！更加安全！

大模型玩家

于 2024-09-02 16:17:41 发布

阅读量1k

点赞数 27

文章标签：学习安全人工智能架构 python 开发语言算法

本文链接：https://blog.csdn.net/2401_85375186/article/details/141822796

版权

【提示学习】是一种新兴的范式，通过将自然语言提示嵌入到预训练模型中，引导模型适应特定的下游任务，而无需改变模型参数。这种方法利用了预训练模型在大规模数据上获得的知识，通过少量的参数调整实现快速任务适应。提示学习在多任务学习、领域自适应等场景中展现出了显著的有效性，提高了模型的泛化能力和灵活性。此外，它还为解决模型在实际应用中的隐私保护问题提供了新思路，如通过差分隐私技术保护提示数据的安全性。总的来说，提示学习为自然语言处理和计算机视觉领域带来了一种高效、灵活且具有潜力的模型适配策略。

为了帮助大家全面掌握【提示学习】的方法并寻找创新点，本文总结了最近两年【提示学习】相关的25篇顶会顶刊论文研究成果，这些论文、来源、论文的代码都整理好了，希望能给各位的学术研究提供新的思路。

三篇论文详解

1、Domain Adaptation via Prompt Learning

方法

本文提出了一种新颖的无监督领域自适应（UDA）方法，称为通过提示学习进行领域适应（DAPL）。与传统的UDA方法不同，DAPL不通过最小化领域间的统计差异或对抗性训练来对齐源域和目标域的特征空间，而是利用预训练的视觉-语言模型，并仅优化极少数参数。
DAPL的核心思想是将领域信息嵌入到提示（prompts）中，提示是一种由自然语言生成的表示形式，用于执行分类任务。这种领域信息仅由同一领域的图像共享，从而根据每个领域的特征动态适应分类器。
提示由三部分组成：领域不可知的上下文、领域特定的上下文和类别标签（token）。每个图像通过提示中的类别标签与真实类别相对应。
采用对比学习目标进行训练，图像和文本形成正例对仅当它们的领域和类别分别匹配时，而其他情况为负例对。
利用对比性语言图像预训练（CLIP）作为后端，以促进提示学习和对比学习。

创新点

提示学习的应用：首次将提示学习应用于无监督领域适应问题，利用自然语言生成的提示来适应不同领域的特征。
领域特定上下文的使用：提出在提示中使用领域特定的上下文，避免了以牺牲语义信息为代价的领域对齐，能够为每个类别和领域学习连续的语义表示。
高效的训练和实现：与以往的方法相比，DAPL在多个跨领域基准测试中不仅表现更好，而且训练效率高，实现简单。
对比学习目标：通过对比学习目标，实现了领域信息和类别信息的解耦，使得模型能够在不同领域间有效迁移。
跨领域性能提升：在Office-Home和VisDA-2017数据集上取得了最先进的性能，相较于强基线CLIP，准确率分别提高了2.5%。
无监督领域适应的新范式：通过嵌入领域信息到提示中，而不是传统的特征空间对齐，DAPL提供了一种新的UDA范式，解决了传统方法可能引起的语义信息丢失问题。

2、Flocks of Stochastic Parrots: Differentially Private Prompt Learning for Large Language Models

方法

论文提出了两种主要方法来实现对大型语言模型（LLMs）的隐私保护提示学习：

PromptDPSGD：这是一种参数高效的替代方法，用于在保持原始LLM参数不变的同时，对软提示（soft prompts）进行隐私保护的梯度下降训练。该方法通过计算与提示输入相关的梯度，并应用差分隐私（DP）算法来更新提示嵌入，从而保护下游数据的隐私。
PromptPATE：这是一种针对离散提示（discrete prompts）的隐私保护学习方法。它利用了教师模型集合（即“随机鹦鹉群”）对私有数据集进行差分隐私学习，并通过对公共数据进行带噪声的多数投票来生成单个输出，以此实现隐私保护。

创新点

首次提出：论文首次提出了针对提示数据的隐私保护方法，并通过实例化一种高效的成员资格推断攻击（MIA），验证了LLMs中提示数据的隐私风险。
PromptDPSGD：提出了一种新颖的算法，它优化了远少于LLM参数数量的提示参数，同时保持了原始LLM的冻结状态，提供了在保持隐私的同时进行有效学习的解决方案。
PromptPATE：提出了一种新颖的方法，它只需要对LLM进行黑盒访问，即可实现隐私保护的提示学习，使其能够容易地与现有的商业API一起部署。
隐私与实用性的平衡：通过实验，论文展示了所提出的方法能够在保持强大隐私保护的同时，实现与非隐私基线相近的下游任务性能。
数据效率：PromptPATE方法利用了提示的数据效率，即使用少量的标记样本就能生成高性能的学生提示。
扩展性：论文还探讨了所提出方法的扩展性，包括对更大模型和更多提示数据的使用，显示出随着模型性能的提升，隐私提示的性能也随之提高。

3、Hierarchical Prompt Learning for Multi-Task Learning

方法

本文提出了一种名为层次化提示学习（Hierarchical Prompt, HiPro）的方法，用于多任务学习（Multi-Task Learning, MTL）。
HiPro基于视觉-语言模型（Vision-Language Models, VLMs），通过提示学习（Prompt Learning）来适应多个下游任务。
HiPro首先量化任务间的亲和度，构建一个层次化的任务树，该树通过聚合层次聚类实现。
树的内部节点代表任务组，学习任务共享的提示（task-shared prompts），而叶节点学习针对每个任务的个体提示（task-individual prompts）。
在推理时，HiPro通过合并与目标任务相关的提示生成的分类器权重，利用所有任务中的信息来提高单个任务的性能。

创新点

层次化任务树：HiPro通过层次化聚类方法探索任务间的相关性，构建任务树，这有助于在不同粒度上捕获任务间的共享信息。
多粒度共享信息：与传统的单一任务共享提示或个体任务提示不同，HiPro学习了不同层次上的提示，这允许模型在保持任务特异性的同时，利用跨任务的共享知识。
减少负迁移：层次化的结构有助于减少不同任务间可能存在的显著差异，从而降低负迁移的风险。
有效的多任务学习：HiPro不仅学习任务个体提示，还学习非叶节点上的多粒度任务共享提示，这为多任务学习提供了一种有效的策略。
无需手动设计提示：HiPro通过数据驱动的方式自动学习提示，避免了手动设计提示的困难和可能的次优性。
实验验证：在多个多任务学习数据集上的实验结果表明，HiPro方法有效，与其他提示学习方法相比，展现出显著的性能提升。
可视化分析：论文还提供了任务亲和度和层次化任务树的可视化分析，有助于更深入地理解模型的行为和任务之间的关系。

零基础如何学习大模型 AI

领取方式在文末

为什么要学习大模型？

学习大模型课程的重要性在于它能够极大地促进个人在人工智能领域的专业发展。大模型技术，如自然语言处理和图像识别，正在推动着人工智能的新发展阶段。通过学习大模型课程，可以掌握设计和实现基于大模型的应用系统所需的基本原理和技术，从而提升自己在数据处理、分析和决策制定方面的能力。此外，大模型技术在多个行业中的应用日益增加，掌握这一技术将有助于提高就业竞争力，并为未来的创新创业提供坚实的基础。

大模型典型应用场景

①AI+教育：智能教学助手和自动评分系统使个性化教育成为可能。通过AI分析学生的学习数据，提供量身定制的学习方案，提高学习效果。
②AI+医疗：智能诊断系统和个性化医疗方案让医疗服务更加精准高效。AI可以分析医学影像，辅助医生进行早期诊断，同时根据患者数据制定个性化治疗方案。
③AI+金融：智能投顾和风险管理系统帮助投资者做出更明智的决策，并实时监控金融市场，识别潜在风险。
④AI+制造：智能制造和自动化工厂提高了生产效率和质量。通过AI技术，工厂可以实现设备预测性维护，减少停机时间。

⑤AI+零售：智能推荐系统和库存管理优化了用户体验和运营成本。AI可以分析用户行为，提供个性化商品推荐，同时优化库存，减少浪费。

⑥AI+交通：自动驾驶和智能交通管理提升了交通安全和效率。AI技术可以实现车辆自动驾驶，并优化交通信号控制，减少拥堵。

…
这些案例表明，学习大模型课程不仅能够提升个人技能，还能为企业带来实际效益，推动行业创新发展。