【arXiv 2024】反事实解释异常 | Reimagining Anomalies: What If Anomalies Were Normal?

已于 2024-06-04 09:39:04 修改
阅读量264 收藏 1
点赞数
分类专栏： 异常检测 文章标签： 异常检测 反事实解释 深度学习 人工智能
于 2024-03-27 00:25:58 首次发布
原文链接：https://arxiv.org/pdf/2402.14469.pdf
版权
本文探讨了如何使用反事实解释（Counterfactual Explanation, CE）改进异常检测，尤其是图像异常检测。作者首次将CE应用于异常检测领域，通过生成反事实实例来解释异常检测器的决策，提供语义上的理解。方法包括解纠缠反事实解释，生成器被训练以最小化对原始异常样本的改变，同时保持其被检测器判断为正常。实验在MNIST、CIFAR-10、Colored-MNIST和GTSDB数据集上进行，结果显示反事实实例能够有效揭示异常检测的分类偏差，提供更深入的模型解释。" 88757073,6209734,PyTorch中scatter_函数错误解决：Invalid index,"['PyTorch', '张量操作', '错误调试', '深度学习', '数据预处理']

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

论文题目：Reimagining Anomalies: What If Anomalies Were Normal?

论文链接：https://arxiv.org/pdf/2402.14469.pdf

1. 背景与动机

基于深度学习的方法在图像异常检测方面取得了突破，但它们的复杂性给理解为什么一个实例被预测为异常带来了相当大的挑战。
这种不可解释性在安全部门和需要建立信任或防止社会偏见的场景中尤其令人关切。

尽管异常热图等特征归因技术已被研究探索，但它们不能解释一个样本为什么被模型判定为异常的的相关语义特征。
反事实解释（Counterfactual Explain, CE）作为一种流行的替代方法，其生成的合成样本可以在对原始样本进行最小改变的情况下改变模型的预测。

在这篇文章中，作者使用CE来解释异常检测器，这是第一个将CE用于异常检测领域的研究。
通过生成异常的反事

了解本专栏 订阅专栏 解锁全文 超级会员免费看
【2024综述】域泛化-Domain Generalization for Medical Image Analysis
weixin_49090702的博客
04-05 4811
在医学图像分析领域，域泛化（Domain Generalization, DG）是一个重要的研究方向，旨在提高模型在未见过的域上的泛化能力。这一挑战源于不同医院、扫描仪厂商、成像协议和患者群体等导致的数据分布差异[3]。近年来，随着深度学习技术的发展，尽管在医学图像分割等领域取得了专家级的准确率，但这些模型在临床现实环境中应用时往往会出现泛化能力下降和准确性降低的问题[3]。为了解决这一问题，研究者提出了多种方法。
学习笔记：Towards Counterfactual Image Manipulation via CLIP 基于CLIP的反事实图像处理研究
Qi__Xi的博客
10-04 1045
本文提出了一种新颖的文本引导图像处理框架CF-CLIP，可以在给定目标文本描述的情况下实现准确和高保真的反事实编辑；为了全面探索CLIP针对反事实概念的丰富语义信息，本文设计了一个对比损失CLIP-NCE，以基于预定义的CLIP空间方向从不同角度指导编辑；另外，作者还设计了一个简单而有效的文本嵌入映射模块（TEM），它允许在潜码优化期间显式利用CLIP嵌入，以促进准确的编辑。
扩散视觉反事实算法 DVC：对抗性鲁棒分类器 + 扩散模型，跨模态对比原始的 fundus 图 VS 生成的 OCT 图
Debroon
01-27 1404
问题: 如何生成视网膜底片和OCT图像的现实反事实图像？解法: 使用 扩散模型 结合 对抗性鲁棒分类器 生成。为什么使用扩散模型: 扩散模型能够生成高质量、现实感强的图像，适用于处理复杂的医学影像数据。为什么使用对抗性鲁棒分类器: 这些分类器通过对抗性攻击的训练，能产生与特定类别特征对齐的强大梯度，有助于引导扩散模型生成具有目标类别特征的图像。高质量图像生成: 扩散模型提供了生成逼真图像的能力。现实感强的视觉输出: 扩散模型在去除加入的噪声的过程中维持图像的现实感。疾病特征的准确描绘。
【SIGIR22】使用反事实生成器来消除知识感知推荐中的虚假联系
qq_42898299的博客
01-28 1554
知识图谱将实体信息组织成元组的集合，为推荐系统提供了辅助信息，来丰富项目的表示以及捕获在项目属性上的结构化偏好。因此，知识感知的推荐器更加能够提供准确以及可解释的推荐。为了利用知识图谱的信息，现有的知识感知推荐方法主要集中于如何设计有效的推荐系统神经结构。虽然在一定程度上这种做法很有效，但是这些方法只学习了项目知识以及用户行为之间的表层联系。因此，由于虚假联系导致的潜在效应，模型的合理性以及可靠性在一个更加泛化的设定下可能无法得到保证。
可解释性论文阅读（二）--- Visualizing and Understanding Convolutional Networks
qq_41694504的博客
04-20 775
继续努力，继续努力！！！第二天！！！ 今天也来读一篇经典的文章 Visualizing and Understanding Convolutional Networks Abstract 背景都是网络效果好，但是不知道为什么。本文介绍了一种神奇的方法能够深入理解中间特征层的功能和分类器的操作。在诊断方面，这些可视化使我们能够在ImageNet分类基准上找到比Krizhevsky等人更好的模型架构。...
（2023，属性敏感性）FD：关于理解深度特征空间对人脸生成评估的作用
qq_44681809的博客
06-07 916
不同的模型对不同属性的敏感程度不同。作者通过模糊不同的属性来探索这些属性对评估指标（FID）的影响。这种更细致的评估可以减轻偏差以及提高生成模型的整体质量。
Python----循环神经网络（LSTM：长短期记忆网络）
weixin_64110589的博客
05-23 950
RNN在处理长序列时存在长期依赖问题，即随着序列增长，模型难以记住较早时刻的信息，导致梯度消失或爆炸。为解决这一问题，LSTM（长短期记忆网络）被提出，它通过引入门控机制（输入门、遗忘门、输出门）来选择性保留或丢弃信息，从而更好地捕捉长期依赖关系。LSTM的输入门决定新信息的保留程度，遗忘门控制旧信息的遗忘程度，细胞状态则通过选择性更新来存储记忆。虽然LSTM不能完全避免梯度消失或爆炸，但它通过门控机制显著改善了这一问题，使其在处理长序列时表现更优。
CNN手写数字识别/全套源码+注释可直接运行
2401_87092242的博客
05-21 830
可直接运行的cnn识别手写数字项目
深度学习之-目标检测算法汇总(超全面)
一个不怎么正经的算法工程师的博客~不定期更新一些我所覆盖领域的干货~~~包你满意噢~~
05-22 1684
概括了目前YOLO目标检测模型从YOLOv1到YOLOv12的演进，并介绍了多种改进方法。这些改进包括引入注意力机制、多尺度特征融合、模型轻量化、与其他新技术结合（如Mamba模型、扩散模型等），以及优化损失函数和训练策略。文章还探讨了YOLO在农业、医疗、交通等领域的应用，并展示了其在复杂场景中的检测性能提升。此外，文章介绍了基于Transformer和MLP的目标检测改进方法，以及如何将大模型（如SAM）应用于目标检测任务。这些改进不仅提高了检测精度，还增强了模型的实时性和适应性。
学习深度学习是否要先学习机器学习？
2501_91695603的博客
05-17 1697
不管你后面是不是真的想要从事机器学习或者深度学习这方面，我都希望你能有时间去学习的时候，多多的了解一下 AI 技术 ，还是那句话，时间紧的情况下，怎么快速的为目标服务是最重要的，先学对自己有用自己需要的内容。就比如我给计算机一些动物的图片，然后告诉计算机哪个是老虎，哪个是狮子，计算机根据我给出的“图片和答案的特征”去学习“老虎为什么是老虎，狮子为什么是狮子”。这三部分看着挺唬人，其实只需要学习需要的内容，如果你的时间稍微宽裕一点，可以花一个半月左右的时间，如果时间紧，那就压在一个月以内一鼓作气的搞定。
深度学习中的卷积和反卷积
最新发布
qq_32205577的博客
05-26 965
f∗gn∑k−∞∞fkgn−kf∗gnk−∞∑∞​fkgn−k翻转平移：卷积核先水平/垂直翻转再进行滑动计算积分变换本质：表征函数f与g重叠部分的乘积积分滑动平均推广：当g为区间指示函数时，卷积即滑动平均数学理论深化：从离散卷积到群上卷积的泛化硬件协同优化：TensorCore对3×3卷积的特殊加速跨领域融合：在药物动力学IVIVC模型中的应用创新“卷积是特征提取的基石，反卷积是想象力的翅膀” —— 计算机视觉领域谚语。
生成模型——PixelRNN与PixelCNN
大摆王的博客
05-24 1067
PixelRNN 是一种基于循环神经网络（RNN）的像素级生成模型，通过逐个像素地生成图像来构建完整的图像，其核心思想是将图像中的像素视为序列，并利用 RNN 的能力来捕捉像素之间的依赖关系。PixelCNN 是一种基于卷积神经网络（CNN）的像素级生成模型，它使用掩码卷积来捕捉像素之间的依赖关系。
计算机视觉与深度学习 ｜ Python实现CEEMDAN-ABC-VMD-DBO-CNN-LSTM时间序列预测（完整源码和数据)
尘世冰封的专栏
05-21 557
以下是一个结合CEEMDAN、ABC优化VMD、DBO优化CNN-LSTM的完整时间序列预测实现方案。该方案包含完整的数据生成、算法实现和模型构建代码。
卷积神经网络基础（十一）
qq_52889317的博客
05-22 1086
本文探讨了神经网络中权重初始值的重要性及其设定方法。首先，文章指出权重初始值不能设为0，因为这会导致权重更新对称，影响网络学习效果。接着，通过实验观察隐藏层激活值的分布，发现使用标准差为1的高斯分布会导致梯度消失问题，而标准差为0.01则可能导致表现力受限。最后，文章推荐使用Xavier初始值，即根据前一层节点数调整权重尺度，以保持激活值的广度分布，从而提高学习效率和表现力。
【人工智障生成日记1】从零开始训练本地小语言模型
weixin_39280437的博客
05-22 1142
本文详细介绍了从零开始训练本地小语言模型MiniGPT的过程，使用TinyStories数据集，并在NVIDIA RTX 4090Ti上完全本地运行。项目包括数据加载、模型构建、训练与推理逻辑的实现，并阶段性掌握了LLM微调与部署的关键技能。开发环境配置为Windows 10、Python 3.10和CUDA 12.1。项目结构清晰，技术路线明确，包括数据加载、模型构建、训练和推理逻辑的实现。训练过程中遇到了一些问题，如模型输出重复、模型容量不足等，并提出了相应的优化方案。最后，总结了今日工作并规划了明日计
31-35【动手学深度学习】深度学习硬件
weixin_59251911的博客
05-21 769
本文主要讨论深度学习的硬件基础知识
Python----循环神经网络（Word2Vec的优化）
weixin_64110589的博客
05-22 858
负采样是一种用于优化词向量训练的技术，主要应用于CBOW和Skip-gram模型。其核心思想是通过随机采样少量负样本（中心词与非上下文词组成的词对），将原始的多分类问题转化为二分类问题，模型通过区分正样本和负样本来更新词向量。负采样策略通常基于词频，高频词更可能被选为负样本，并通过词频的3/4次方进行平滑处理。负采样的优势在于显著降低了计算复杂度，从O(V)降至O(K+1)，提升了训练速度，同时增强了词向量的语义区分能力，避免了梯度稀疏性问题。
深度学习学习笔记
dabai521的博客
05-22 477
智能驾驶中的深度学习：基于卷积神经网络的车道线检测
Programming Talk
05-21 181
车道线检测是自动驾驶系统的核心功能之一，其目标是从摄像头捕获的图像中识别车道线，为车辆提供行驶路径参考。传统的车道线检测方法依赖手工设计的特征（如边缘检测、霍夫变换等），但在复杂场景（如光照变化、遮挡等）下鲁棒性较差。近年来，深度学习技术（尤其是CNN）在计算机视觉任务中表现出色，为车道线检测提供了新的解决方案。本文介绍了一种基于深度学习的车道线检测方法，使用卷积神经网络（CNN）对道路图像进行实时分析。使用公开数据集（如TuSimple车道线数据集）训练模型，并通过数据增强（旋转、平移）提升泛化能力。
arXiv-collector：Python脚本简化LaTeX文件上传至arXiv流程
### 知识点：arxiv-collector Python脚本功能与用法 #### 1. arxiv-collector简介 `arxiv-collector`是一个小巧的Python脚本工具，专门设计用来帮助用户自动收集LaTeX源文件，并且将它们上传到arXiv预印本服务器。...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值