论文笔记--Orchestrate Latent Expertise: Advancing Online Continual Learning with Multi-Level Supervision

已于 2024-09-29 18:09:04 修改
阅读量211 收藏 4
点赞数 3
分类专栏： 记录看过的论文 文章标签： 论文阅读 人工智能
于 2024-09-29 18:08:41 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_47505105/article/details/142636292
版权

1. Challenges/Issues (挑战/问题)

在线持续学习（Online Continual Learning, OCL）中的过拟合-欠拟合困境(overfitting-underfitting dilemma)。在OCL中，模型需要在一次数据流中学习，并且每个任务的样本只能遇到一次，这使得模型容易对当前任务学习不足（欠拟合），同时对旧任务的缓冲区数据过度学习（过拟合）。

2. Inspiration

生物大脑的启发：论文中提到，哺乳动物的视觉处理系统能够在线提取多级特征并将其记忆以供进一步重用。这些神经元不仅逐层处理和传递信号，还通过不同的神经回路在皮层层次间进行通信。这种多层次的特征提取和记忆机制为MOSE方法提供了灵感。

3. Technical Contribution (技术贡献)

  1. 对 OCL 问题进行了广泛的分析，并将其特殊挑战归因于观察到的数据分布的过拟合和欠拟合困境。
  2. 提出了一种多级监督和反向自蒸馏的创新方法，以在线方式实现适当的收敛。
  3. 实证实验证明 MOSE 的性能取得了sota

该论文的主要技术贡献是提出了一种新颖的方法Multi-level Online Sequential Experts (MOSE)，该方法通过多级监督（multilevel supervision）和反向自蒸馏（reverse self-distillation）来培养模型。MOSE将模型构建为堆叠的子专家，通过跨多个阶段的监督信号促进新任务的适当收敛，并通过知识蒸馏从专家中收集各种优势，以减轻旧任务性能下降的问题

4. Approach of the New Findings (新发现的方法)

MOSE方法包括两个主要组成部分：

  1. 多级监督：通过在不同网络层注入监督信号，使得模型能够在不同层次上学习特征。
  2. 反向自蒸馏：与传统的知识蒸馏相反，MOSE使用模型内部的潜在序列专家作为教师，将知识从较浅的专家转移到最终预测器，从而整合不同专家的知识。
    在这里插入图片描述

5. Results of Evaluation/Experiments (评估/实验结果)

通过在Split CIFAR-100和Split Tiny-ImageNet数据集上的实验，MOSE在在线持续学习性能上显著超过了现有的最先进基线方法。例如，在Split CIFAR-100上，MOSE实现了最高7.3%的准确率提升，在Split Tiny-ImageNet上实现了6.1%的提升。这些结果证明了MOSE在处理OCL问题时的有效性和优越性

chnyi6_ya
关注
专栏目录
orchestrate-quick-start:PegaSys Orchestrate快速入门
05-02
在处于活动状态Codefi Orchestrate快速入门是一个平台，使企业能够轻松地在以太坊区块链上构建安全可靠的应用程序。 重要提示： Orchestrate快速入门仅适用于Orchestrate客户和。 如果您想购买Orchestrate或对我们...
whereubeen-orchestrate-demo:Orchestrate的演示应用程序及其定位功能以及AppFog部署
05-20
编排地理位置演示演示Orchestrate的应用程序及其位置功能以及AppFog部署。设置本地开发环境对于本地开发，我们必须在当前的终端外壳中设置两个环境变量。 您可以从Orchestrate数据库信息中心获取这些信息。 $ ...
orchestrate-helm-worker:该GitHub项目是Orchestrate Helm图表存储库的源代码
05-07
对Orchestrate Helm图表的将来所有更改都应在。 该GitHub项目是Orchestrate Worker（v2.5.X）Helm图表的源代码。 有关安装和使用Helm的更多信息，请参阅Helm Docs。 有关图表的快速介绍，请参见《图表指南》。 ...
text-editor-orchestrate:使用 Ruby on Rails 和 Orchestrate.io 的简单文本编辑器
07-02
在"**text-editor-orchestrate-master**"这个压缩包中，我们可以期待找到以下文件和目录： 1. `app/`：Rails应用程序的核心，包括控制器、模型、视图和助手。 2. `config/`：配置文件，如数据库配置、路由设置等。 ...
orchestrate-node:这个Orchestrate库提供了从服务器端NodeJS编写的应用程序对Codefi Orchestrate API的便捷访问。
04-29
编排Node.js库Orchestrate库提供了以服务器端JavaScript编写的应用程序对Orchestrate API的便捷访问兼容性SDK版本编排版本主/头Orchestrate v21.1.0或更高版本SDK v4.0.x Orchestrate v21.1.0或更高版本SDK v3.1.1 ...
【Anti-UAV410】论文阅读
weixin_45074568的博客
09-25 1106
比较结果见表II。值得注意的是，Anti-UAV 410数据集显示了很大比例的小目标，其中超过一半的目标的尺寸小于50像素，甚至包括一定比例的微小目标（尺寸小于10像素），这些微小目标被其他数据集（如VOT-TIR 2015 [35]、VOT-TIR 2016 [5]、PTB-TIR [26]和LSOTB [6]）遗漏。反无人机数据集[2]是一个多模态数据集，包括318个视频对。该数据集旨在解决不同模式下反无人机跟踪的挑战，例如基于视觉的跟踪器可能表现不佳的低光条件。
论文笔记——Graph Bottlenecked Social Recommendation
保持学习
09-27 902
论文精度及其代码复现——Graph Bottlenecked Social Recommendation
论文阅读《Co-clustering for Federated Recommender System》
wzj1212123的博客
09-26 1171
第二个创新点凑数用的，典中典利用服务器的聚类信息给客户端作对比学习，重点在于提出以往聚类的不足以及新型聚类方法。
Qwen2-VL论文阅读笔记
谁怕平生太急
09-25 676
Naive Dynamic Resolution - 用2D-RoPE取代绝对位置编码 推理阶段的序列长度是可控的 【推理阶段的不定长的vision tokens是怎么处理的？遵从qwenvl的三阶段：用image-text单独训练ViT、解冻所有参数训练理解能力、最后冻住ViT只训练LLM遵循格式化数据。预训练阶段目的： 学习 图文关系、通过ocr的图像文本上下文识别、图片分类任务。平衡长视频处理的计算需求与整体训练效率，我们动态调整每个视频帧的分辨率，限制每个标记的总数 视频到16384。
GS-SLAM论文阅读笔记--MM3DGS SLAM
qq_45795134的博客
09-26 716
虽然SLAM方法使用稀疏点云来表示操作环境，可以获得最先进的跟踪精度，但由于稀疏性，生成的地图是不相交的，在视觉上不如较新的3D重建方法。虽然视觉质量与导航的唯一目的无关，但创建逼真的地图对于人类消费，语义分割和后期处理是有价值的。3DGS的前置操作是高斯的深度初始化。大多数方法使用来自相对昂贵的传感器(如激光雷达)的深度输入，这些传感器可能不容易在消费者手机等设备上获得。其他方法使用RGB-D相机通过立体深度估计提供深度信息。
【论文阅读】Diffusion Policy: Visuomotor Policy Learning via Action Diffusion
qq_33673253的博客
09-26 986
本文介绍了扩散策略，这是一种通过将机器人的视觉运动policy表示为条件去噪扩散过程来生成机器人行为的新方法。我们对来自 4 个不同的机器人操作基准的 15 个不同任务的扩散策略进行了基准测试，发现它始终优于现有的 state-of-the-art 机器人学习方法，平均提高了 46.9%。扩散策略学习动作分布评分函数的梯度，并通过一系列随机朗之万动力学步骤在推理过程中针对该梯度场迭代优化。
论文笔记：Gradient Episodic Memory for Continual Learning
weixin_47505105的博客
09-23 1151
关键是，模型不仅需要识别当前任务的数据（如正在学习中的任务），还要记住以前学过的任务，甚至能够处理未来可能遇到的新任务。“局部iid”是指在某个特定的任务中（比如在任务 t 中），数据是独立同分布（iid）的，也就是说，在某个任务的学习阶段内，数据可以随机地、不相关地抽取出来。虽然在每个任务中，数据是随机独立的（iid），但在不同任务之间，数据不是随机的。例如，模型可能会先连续看到许多水果图片，然后才切换到动物识别任务，这使得任务间数据的顺序不是随机的。x：特征向量，比如一张图片。
论文笔记：基于共注意网络的多模态假新闻检测
zly_Always_be的博客
09-25 827
整理了AAAI2023 Multimodal Fusion with Co-Attention Networks for Fake News Detection）论文的阅读笔记
论文阅读：多模态医学图像融合方法的研究进展
最新发布
OctYZ的博客
09-29 566
基于深度学习的多模态医学图像融合算法仍是主流方法。最新的方法进展不但运用了深度学习模型，而且在特征提取阶段结合了传统方法以优化细节，提高融合质量。
【论文阅读】FedBABU：TOWARD ENHANCED REPRESENTATION FOR FEDERATED IMAGE CLASSIFICATION
m0_52330760的博客
09-25 378
FedPer:训练过程中只聚合主体参数。与BABU不同的是，BABU直接把头部参数给冻结了，而Per头部依旧是参与训练的。训练过程中冻结客户端的头部参数，只训练主体参数。训练完之后再在客户端本地跑几个epoch微调一下（文章推荐5个）。由于该算法与FedPer思路过于相似，故读完后跑了个实验。
【论文阅读】视觉里程计攻击
博客标题不能为空我也没办法
09-24 537
针对视觉里程计/视觉SLAM的攻击论文
A Learning-Based Approach to Static Program Slicing —— 论文笔记
qq_19300283的博客
09-29 799
OOPSLA‘2024
【论文笔记】Visual Instruction Tuning
小嗷犬的博客
09-29 821
使用机器生成的指令遵循数据对大型语言模型（LLMs）进行指令微调已被证明可以提升新任务上的零样本能力，但在多模态领域这一想法探索较少。我们首次尝试使用仅语言GPT-4生成多模态语言-图像指令遵循数据。通过对这些生成数据进行指令微调，我们引入了LLaVA：大型语言和视觉助手，这是一个端到端训练的大规模多模态模型，它将视觉编码器和LLM连接起来，以实现通用视觉和语言理解。为了促进未来对视觉指令遵循的研究，我们构建了两个具有多样性和挑战性应用任务的评估基准。
论文阅读- On the Feasibility of Fully AI-automated Vishing Attacks
qq_40671063的博客
09-26 1047
网络钓鱼攻击是社会工程学的一种形式，攻击者利用电话欺骗个人披露敏感信息，如个人数据、财务信息或安全凭证。攻击者利用（exploit）语音通信的紧迫性(urgency)和真实性(aythenticity)来操纵受害者，通常冒充银行或技术支持等合法(legitimate)实体。在这项工作中，我们研究了随着人工智能的出现，网络钓鱼(vishing)攻击升级的可能性。从理论上讲，人工智能驱动的软件机器人可能有能力自动实施这些攻击，通过电话与潜在受害者展开对话，欺骗他们披露敏感信息。
Building a Logistics Management System with Spring Boot
05-10
Great! Building a logistics management system with Spring Boot is a good choice. Spring Boot is a popular Java framework that can help you quickly build web applications. Here are some steps you can follow: 1. Define the requirements: Before starting the development process, you should define the requirements for the logistics management system. This will help you understand what features are needed and what data needs to be stored. 2. Choose a database: You need to choose a database to store the data for your logistics management system. You can use a SQL database like MySQL or PostgreSQL, or a NoSQL database like MongoDB. 3. Set up the development environment: You need to set up the development environment to start building the logistics management system. You can use an IDE like Eclipse or IntelliJ IDEA, and install the necessary dependencies like Spring Boot and the database driver. 4. Design the database schema: You need to design the database schema to define the tables and relationships between them. This will help you to store and retrieve data efficiently. 5. Create the entities and repositories: You need to create the Java entities that represent the database tables, and the repositories that handle the database operations like insert, update, delete, and select. 6. Implement the business logic: You need to implement the business logic for the logistics management system, like creating orders, managing inventory, and tracking shipments. 7. Implement the REST endpoints: You need to implement the REST endpoints that allow clients to interact with the logistics management system. This includes creating endpoints for creating orders, managing inventory, and tracking shipments. 8. Test the system: You need to test the logistics management system to ensure that it works as expected. You can use tools like JUnit and Mockito to write unit tests for the individual components, and use tools like Postman or Swagger to test the REST endpoints. 9. Deploy the system: You need to deploy the logistics management system to a production environment. You can use tools like Docker and Kubernetes to containerize and orchestrate the application. By following these steps, you can build a robust logistics management system with Spring Boot. Good luck with your project!
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值