论文略读：Graph Mixture of Experts and Memory-augmented Routers for Multivariate Time Series Anomaly Dete

已于 2025-02-24 21:44:14 修改
阅读量394 收藏
点赞数 2
文章标签： 深度学习
于 2025-02-18 10:37:05 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_40206371/article/details/145694181
版权

AAAI 2025

  • 提出了 Graph-MoE,用于多变量时间序列 异常检测
    • 现有方法中常见的一个局限是 ：在整个图上，GNN 本质上是“同质”的，即强制所有节点共享相同的聚合机制，而不考虑它们节点特征或邻域的差异
    • 但实际上，有些节点可能青睐于更远距离的信息聚合，有些则青睐于更近邻居的信息聚合

实验结果

文献记录(part105)--Structured graph learning for clustering and semi-supervised classification
小山羊的学习日志
05-19 304
学习笔记，仅供参考，有错必纠 阅读状态：略读 Structured graph learning for clustering and semi-supervised classification abstract Graphs have become increasingly popular in modeling structures and interactions in a wide variety of problems during the last decade. Graph-based c
AAAI 2025 | 时间序列（Time Seies）论文总结
suzukiwudi的博客
01-21 5062
AAAI 2025将在2025年2月25日到3月4日于美国费城（ Philadelphia, Pennsylvania, USA）举行。AAAI 2025共有篇投稿（Main Technical Track），共录取了篇论文，录取率。本文总结了2025 AAAI上有关时间序列（time series）相关论文，共计55篇
论文《Mixture of Weak & Strong Experts on Graphs》笔记
bunny___的博客
09-19 1237
【Mowst 2024 ICLR】论文提出了一种新的图神经网络架构，称为Mixture of weak and strong experts（Mowst），通过将轻量级的多层感知机（MLP）作为弱专家和现成的GNN作为强专家相结合，以处理图中的节点特征和邻域结构。引入了基于弱专家预测结果离散度的“置信度”机制，以适应不同目标节点的专家协作。论文分析了置信函数对损失的影响，并揭示了训练动态，表明训练算法通过软分割图来鼓励专家的专门化。Mowst易于优化，表达能力强，计算成本与单一GNN相当，在多个节点分类基准
混合专家模型（Mixture of Experts, MoE）全梳理
m0_66545954的博客
03-11 1196
第ttt个token的输出hth_tht​htut∑i1Ngit⋅FFNiutht​ut​i1∑N​git​⋅FFNi​ut​其中路由权重gitg_{i,t}git​由路由分数sits_{i,t}sit​gitsitifsit∈TopKsjtK0otherwiseg_{i,t} =git​sit​0​ifsit​∈。
推荐系统----2020会议文章集锦
热门推荐
weiwei935707936的博客
11-14 1万+
盘点 | AAAI2020中的四篇推荐系统好文 AAAI中推荐系统的文章并不多，目之所及处仅有四篇。内容上覆盖了评论推荐、多目标推荐以及图神经网络等话题。 本文基于AAAI中的这四篇推荐系统论文，展开瞅一瞅它们都讲了些什么。 第一篇文章：可解释评论的推荐中的非对称层次网络与专注的交互 Asymmetrical Hierarchical Networks with Attentive Interactions for Interpretable Review-Based Recommendation
混合专家模型 Mixture-of-Experts (MoE)
noobiee的博客
10-22 7614
比如在MoE论文的一些实验中，作者采用了n=512，k=2的设定，也就是每次只会从512个专家网络中挑选两个来激活。每个专家模型都是相对独立的，可以根据任务的需求选择不同的模型架构。通过稀疏模型MoE扩大大语言模型的方法：以GLaM模型为例，它包含1.2T个参数，但实际上被激活的参数（activated parameters）只有97B，远少于GPT-3，也就是说，它是稀疏激活的MoE。第二个变动是加了noise，这个的目的是为了做均衡，这里引入了一个Wnoise的参数，后面还会在损失函数层面进行改动。
A Persona-Infused Cross-Task Graph Network for Multimodal Emotion Recognition with Emotion Shift
ZZZ___bj的博客
12-16 897
近年来，多模态情绪识别（MERC）的研究主要集中在多模态融合和说话者感知上下文建模上。除了上下文信息外，人格特征也会影响情绪感知。然而，目前的MERC方法只考虑说话者的人格影响，忽略了说话者与收听者的互动模式。此外，情绪转移（ES）的瓶颈问题，即同一说话者的连续话语表现出不同的情绪，在MERC中一直被忽视。早期的ES研究未能区分不同的转移模式，只是简单地介绍了转移是否作为知识发生在MERC模型中，而没有考虑这两个任务的互补性。在此基础上，我们提出了一个注入人物人格的跨任务图网络**（PCGNet）。
论文目录3：大模型时代（2023+）
qq_40206371的博客
03-05 2183
早期做instruction tuning的workin-context learning都是没有finetune过程，这里相当于finetune了一下在in-context learning的时候，故意给一些错误的例子、其他领域的返利，看看大模型的效果——>这篇论文的结论是，in-context learning只起到“唤醒”的作用，LLM本身就具备了所需要的功能。这里给LLM范例的作用只是提示LLM要做这个任务了在更大的LLM中，in context learning 确实也起到了让模型学习的作用。
论文略读：Graph Neural Processes for Spatio-Temporal Extrapolation
qq_40206371的博客
10-20 593
2023 KDD。
论文略读：ASurvey of Large Language Models for Graphs
qq_40206371的博客
01-15 702
2024 KDD。
论文略读：The Power of Noise: Redefining Retrieval for RAG Systems
qq_40206371的博客
10-26 452
省流：在RAG中，噪声文档不仅没有对系统性能造成负面影响，反而能够显著提高系统的准确性。
论文略读：FDTI: Fine-grained Deep Traffic Inference with Roadnet-enriched Graph （PKDD2023)
qq_40206371的博客
10-21 403
这是首次完成城市级别的细粒度交通预测。
基于pycharm,python,flask,sklearn,orm,mysql，在线深度学习sql语句检测系统
xxcxyxxd的博客
05-24 827
详细视频:【基于pycharm,python,flask,sklearn,orm,mysql，在线深度学习sql语句检测系统-哔哩哔哩】 https://b23.tv/JLQDwNn。
三维点云深度学习代码torch-points3d-SiamKPConvVariants复现记录（持续更新中）
最新发布
WH_G_Y的博客
05-28 846
三维点云深度学习代码torch-points3d-SiamKPConvVariants复现记录（持续更新中）
使用LSTM进行时间序列分析
weixin_37522117的博客
05-28 542
LSTM（长短期记忆网络）是一种专为时间序列数据设计的循环神经网络，通过门控机制（输入门、遗忘门、输出门）和细胞状态有效捕捉长期依赖关系。相比传统方法，LSTM能更好处理时间序列的非线性、噪声和长期模式。典型应用流程包括数据生成（如带噪声的正弦波）、滑动窗口预处理、PyTorch模型构建（含LSTM层和全连接层）、训练及预测可视化。实验显示LSTM能准确预测时间序列趋势。其优势在于长期依赖性建模、鲁棒性强，并可扩展为双向LSTM、堆叠LSTM等变体。LSTM已成为时间序列分析的核心工具之一。
计算机视觉与深度学习 ｜ 基于 YOLOv8 + BeautyGAN + CodeFormer + Face Parsing 实现简单的人脸美颜
尘世冰封的专栏
05-24 379
以下是一个基于YOLOv8、BeautyGAN、CodeFormer和Face Parsing的完整人脸美颜实现方案。包含算法流程、完整代码实现（附详细注释）和核心公式说明。该实现方案完整覆盖从人脸检测到美颜输出的全流程，代码经过模块化设计便于扩展。Face Parsing皮肤分割。CodeFormer细节增强。BeautyGAN皮肤美化。YOLOv8人脸检测。
Nat Rev Genet | 如果DNA序列能“说话”？深度学习S2E（序列2表达）模型正在听懂基因组的调控秘密！
组学之心，专注多组学/ 医学AI 领域
05-24 1162
基因转录调控： 基因转录受启动子和增强子等DNA元件调控，其活性又受**转录因子（TFs）**控制。高度复杂的组合逻辑： 调控网络涉及TFs和调控元件之间复杂的组合作用，使得仅从DNA序列预测基因活性的计算模型构建异常困难。
MMR-Mamba：基于 Mamba 和空间频率信息融合的多模态 MRI 重建|文献速递-深度学习医疗AI最新文献
weixin_38594676的博客
05-28 813
Title题目MMR-Mamba: Multi-modal MRI reconstruction with Mamba and spatial-frequency information fusionMMR-Mamba：基于 Mamba 和空间频率信息融合的多模态 MRI 重建01文献速递介绍磁共振成像（MRI）因其无创、无辐射特性以及能够通过不同模态提供高分辨率形态学信息，成为重要的临床成像技术（Stoja等人，2021）。在临床实践中，具有互补信息的多模态MR图像被同步采集，以实现更准确的疾病诊断和治
提升阅读与撰写技巧：有效应对英文论文
在《浅谈如何有效阅读与撰写英文论文》这份PPT中，作者针对电子信息工程学院学生在2020年6月8日遇到的问题，提供了一份实用的指南。主要内容围绕如何提升阅读英文论文的能力以及论文写作的策略。首先，作者认识到...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UQI-LIUWJ

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值