qq_42014059的博客

原创 那些年用过的机械键盘--游戏人生&键盘风云#入坑keychron#

时间易逝，岁月流连；忆往昔，岁月如歌，歌如梦；再回首，往事重重，在心中。不曾想如今已然正式踏上奔三的路途，那些年用过的机械键盘，就像游戏伴随着我一样，都在改变，但唯一不变的是我对机械键盘的热情与执着。想必最开始最经典莫过于大家小学上机房，还要穿戴鞋套，其一，最主要的原因就是机房内有大量空气静电，尽管机房会有一些空调和除静电设备，还是要防止空气中有灰尘，静电吸附大量的灰尘到设备上会对设备有损害，所以船鞋套就是要防止鞋底的灰尘被静电吸附同时也防止胶皮鞋底摩擦地面产生静电。...

原创 LIFT: Multi-Label Learning with Label-Specific Features(LIFT)--文献翻译

2015-IEEE论文链接：Lift: Multi-Label Learning with Label-Specific Features | IEEE Journals & Magazine | IEEE Xplore摘要多标签学习处理每个训练示例由单个实例表示同时与一组类标签相关联的问题。对于一个看不见的例子，现有的方法选择基于相同的特征集来确定每个可能的类标签的成员资格，即在所有标签的辨别过程中都采用了看不见的例子的实例表示。然而，这种常用的策略可能不是...

原创 跟李沐学AI-AlexNet论文逐段精读【论文精读】

视频链接：AlexNet论文逐段精读【论文精读】_哔哩哔哩_bilibiliAlexNet1、introduction第一段一篇论文的第一段通常是讲个故事做什么研究哪个方向这个方向有什么东西为什么很重要第二段描述了怎么做神经网络，这里只介绍了CNN写论文的时候，千万不要只说自己这个领域这个小方向大概怎么样，还要提到别的方向怎么样第三段CNN虽然很好，但是很难训练，但是现在有GPU了，GPU算力能够跟上，所以能够训练很大的东西，而且数据集够大，确实...

原创 日常生活中的机器学习--各类机器学习问题

1.3.各种机器学习问题在机器学习的广泛应用中，唤醒词问题只是冰山一角。 在前面的例子中，只是机器学习可以解决的众多问题中的一个。 下面，我们将列出一些常见机器学习问题和应用，为之后本书的讨论做铺垫。 我们将不断引用前面提到的概念，如数据、模型和训练技术。1.3.1.监督学习监督学习（supervised learning）擅长在“给定输入特征”的情况下预测标签。 每个“特征-标签”对都称为一个样本（example）。 有时，即使标签是未知的，样本也可以指代输入特征。 我们的目标是生成一个模..

原创 日常生活中的机器学习--关键组件

1.前言时至今日，我们常用的计算机程序几乎都是软件开发人员从零编写的。 比如，现在我们要编写一个程序来管理网上商城。 经过思考，我们可能提出如下一个解决方案： 首先，用户通过Web浏览器（或移动应用程序）与应用程序进行交互。 紧接着，应用程序与数据库引擎进行交互，以保存交易历史记录并跟踪每个用户的动态。 其中，这个程序的核心——“业务逻辑”，详细说明了程序在各种情况下进行的操作。为了完善业务逻辑，我们必须细致地考虑应用程序所有可能遇到的边界情况，并为这些边界情况设计合适的规则。 当买家单击将商品添.

原创 Learning with Noisy Correspondencefor Cross-modal Matching（NCR）--文献翻译

NeurIPS 2021摘要跨模态匹配旨在建立两种不同模态之间的对应关系，是跨模态检索和视觉和语言理解等各种任务的基础。尽管近年来已经提出了大量的跨模态匹配方法并取得了显着进展，但几乎所有这些方法都隐含地假设多模态训练数据是正确对齐的。然而，在实践中，这样的假设是极其昂贵的，甚至不可能满足。基于这一观察，我们揭示并研究了跨模态匹配中一个潜在且具有挑战性的方向，称为噪声对应，它可以被视为噪声标签的新范式。与传统的噪声标签主要指类别标签中的错误不同，我们的噪声对应指的是不匹配的配对样本。为了解决这个..

原创 MoCo 论文逐段精读【论文精读】--跟李沐学AI

视频链接：MoCo 论文逐段精读【论文精读】_哔哩哔哩_bilibiliMoCo: CVPR 2020 最佳论文，视觉 + 对比学习的里程碑式的工作对比学习：简单、好用；19年以来，视觉领域乃至整个 ML 领域最火的方向之一；盘活了从17年很卷的CV领域，MoCo是其中的优秀工作之一MoCo：无监督的表征学习工作 在 CV上表现怎么样？分类：逼近了有监督的 baseline检测、分割、人体关键点检测：大幅超越有监督预训练的模型 (ImageNet 上预训练的模型)CV ...

原创 ViT论文逐段精读【论文精读】-跟李沐学AI

视频链接：ViT论文逐段精读【论文精读】_哔哩哔哩_bilibiliViT：过去一年，CV 最有影响力的工作 推翻了 2012 Alexnet 提出的 CNN 在 CV 的统治地位有足够多的预训练数据，NLP 的 Transformer 搬运到 CV，效果很好打破 CV 和 NLP 的壁垒，给 CV、多模态 挖坑ViT效果有多好？CV 任务刷榜paperwithcode网站 霸榜 ImageNet （基于 ViT）和 COCO ,目标检测（Swin Transform...

原创 BERT 论文逐段精读【论文精读】-跟李沐学AI

视频链接：BERT 论文逐段精读【论文精读】_哔哩哔哩_bilibiliBERT: 近 3 年 NLP 最火CV: 大数据集上的训练好的 NN 模型，提升 CV 任务的性能 —— ImageNet 的 CNN 模型NLP: BERT 简化了 NLP 任务的训练，提升了 NLP 任务的性能BERT 如何站在巨人的肩膀上的？使用了哪些 NLP 已有的技术和思想？哪些是 BERT 的创新？1标题 + 作者01:34BERT: Pre-training of Deep ...

原创 2021-IEEE Trans-通过可信的标签引出进行部分多标签学习-（PATICLE）Partial Multi-Label Learning via Credible文献翻译

摘要部分多标签学习（PML）处理每个训练示例与一组过完备的候选标签相关联的问题，其中只有一些候选标签是有效的。 PML 的任务自然出现在监督不准确的学习场景中，其目标是诱导一个多标签预测器，该预测器可以为看不见的实例分配一组适当的标签。 PML训练过程容易被隐藏在候选标签集中的误报标签误导，这是部分多标签学习的主要建模难点。在本文中，提出了一种新颖的两阶段 PML 方法，该方法通过从候选标签集中引出可信标签来进行模型归纳。在第一阶段，通过迭代标签传播估计每个 PML 训练示例的候选标签的标签置信...

原创 Collective Affinity Learning for Partial Cross-Modal Hashing（CALM）--文献翻译

摘要在过去的十年中，已经开发了各种无监督哈希方法用于跨模态检索。然而，在实际应用中，每个模态数据都可能遭受一些缺失样本的影响，这通常是不完整的情况。大多数现有工作假设每个对象都出现在两种模态中，因此它们可能不适用于部分多模态数据。为了解决这个问题，我们提出了一种新颖的集体亲和学习方法（CALM），它集体和自适应地学习锚图，用于在部分多模态数据上生成二进制代码。在 CALM 中，我们首先共同构建特定于模态的二部图，并推导出一个概率模型来计算每个模态的完整数据到锚点的亲和力。理论分析揭示...

原创 零基础多图详解图神经网络（GNN/GCN）【论文精读】

视频链接：零基础多图详解图神经网络（GNN/GCN）【论文精读】 - 哔哩哔哩 (bilibili.com)博客链接：A Gentle Introduction to Graph Neural Networks (distill.pub)1前言选文原因： 1、图片数据结构、相对于文本序列更复杂上一次关注图还是十几年前，社交网络，计算难，转而关注别的地方。图神经网络 popular，同学用 ML ...

原创 Ranking-Based Deep Cross-Modal Hashing（RDCMH)--文献翻译

AAAI 2019论文下载：Ranking-Based Deep Cross-Modal Hashing | Proceedings of the AAAI Conference on Artificial Intelligence摘要跨模式哈希因其在多模式数据检索中的低存储成本和快速查询速度而受到越来越多的关注。然而，大多数现有的散列方法都是基于对象的手工或原始级别特征，这可能与编码过程不兼容。此外，这些哈希方法主要用于处理简单的成对相似性。与多个标签关联的实例的复杂多...

原创 GAN论文逐段精读【论文精读】

1、标题 + 作者近 5 年，GAN 上头条次数很多，Reddit 里 GAN 很火thispersondoesnotexist.com加州法令：禁止换脸、禁止对政治人物骚操作，说未讲过的话GAN: 两个网络相互对抗generative: ML模型分 discriminative(AlexNet, ResNet, Transformer) 和 generativeadversarial: 对抗nets: networks 简写非 native speaker 不建议...

原创 Online Cross-Modal Hashing for Web Image Retrieval（OCMH）--文献翻译

摘要跨模态哈希（CMH）是一种用于快速检索网络图像数据的有效技术，最近引起了很多关注。然而，传统的 CMH 方法通常应用批量学习来生成哈希函数和代码。它们对于检索通常具有流式传输方式的网络图像效率低下。在线学习可用于 CMH。但是现有的在线哈希方法仍然不能解决两个本质问题：哈希码的高效更新和跨模态相关性分析。在本文中，我们提出了在线跨模式哈希（OCMH），它可以通过学习共享潜在代码（SLC）有效地解决上述两个问题。在 OCMH 中，哈希码可以用永久 SLC 和动态传输矩阵来表示。因此，哈希码的低...

原创 Latent Semantic Sparse Hashing for Cross-ModalSimilarity Search（LSSH）--文献翻译

SIGIR 2014论文链接：Proceedings of the 37th international ACM SIGIR conference on Research & development in information retrieval | ACM Conferences摘要基于哈希的相似性搜索方法在具有大量文本和图像的大型多媒体数据库上进行有效和高效的跨模态检索已经引起了相当大的关注。跨模态哈希的核心问题是如何在哈希函数学习过程中有效地构建本质上异构...

原创 Online Collective Matrix Factorization Hashingfor Large-Scale Cross-Media Retrieval（OCMFH）--文献翻译

论文链接：Online Collective Matrix Factorization Hashing for Large-Scale Cross-Media Retrieval | Proceedings of the 43rd International ACM SIGIR Conference on Research and Development in Information Retrieval摘要跨模式哈希最近因其在大规模跨媒体检索中的效率而受到广泛研究。然而，大...

原创 Label Consistent Matrix Factorization Hashingfor Large-Scale Cross-Modal Similarity Search（LC）--文献翻译

论文链接：IEEE Xplore Full-Text PDF:摘要多模态哈希因其效率和有效性而引起了对大规模多媒体数据集的跨模态相似性搜索的极大兴趣。最近，有监督的多模态散列试图保留从训练数据的标签中获得的语​​义信息，与无监督的多模态哈希相比，由于其更高的搜索精度而受到了相当大的关注。尽管这些算法很有前景，但它们主要是为了保持成对相似性而设计的。当给定训练数据的语义标签时，算法往往将标签转化为成对相似度，这会产生以下问题：（1）构建成对相似度矩阵需要巨大的存储空间和大量的...

原创 Deep Cross-Modal Hashing（DCMH）--文献翻译

摘要由于其存储成本低和查询速度快，跨模态散列（CMH）已被广泛用于多媒体检索应用中的相似性搜索。然而，大多数现有的 CMH 方法都是基于手工制作的特征，这些特征可能与哈希码学习过程不兼容。因此，现有的具有手工特征的 CMH 方法可能无法达到令人满意的性能。在本文中，我们通过将特征学习和哈希码学习集成到同一框架中，提出了一种新的 CMH 方法，称为深度跨模态哈希 (DCMH)。 DCMH 是一个具有深度神经网络的端到端学习框架，每种模式都有一个，可以从头开始执行特征学习。在三个具有图像-文本模态的真实..

原创 BATCH: A Scalable Asymmetric DiscreteCross-Modal Hashing--文献翻译

论文下载：BATCH: A Scalable Asymmetric Discrete Cross-Modal Hashing | IEEE Journals & Magazine | IEEE Xplore摘要:有监督的跨模态散列引起了很多关注。然而，仍然存在一些挑战，例如，如何有效地将标签信息嵌入到二进制代码中，如何避免使用大的相似度矩阵并使模型可扩展到大规模数据集，如何有效地解决二进制优化问题。为了应对这些挑战，在本文中，我们提出了一种新的有监督的跨模态散列方法...

原创 Collective Matrix Factorization Hashing for Multimodal Data--文献翻译

摘要：基于散列的最近邻搜索方法在计算机视觉和信息检索社区中有效和高效的大规模相似性搜索引起了相当大的关注。在本文中，我们研究了在跨视图相似性搜索的多模态数据上下文中学习哈希函数的问题。我们提出了一种新颖的散列方法，称为集体矩阵分解散列（CMFH）。 CMFH通过集体矩阵分解和潜在因子模型从一个实例的不同模态中学习统一的哈希码，不仅可以支持跨视图搜索，还可以通过合并多个视图信息源来提高搜索精度。我们还证明了CMFH，一种保持相似性的散列学习方法，具有上限和下限。大量实验证实，CMFH 在三个不同的数据..

原创 Indexing by Latent Semantic Analysis--文献翻译

描述了一种用于自动索引和检索的新方法。该方法是利用术语与文档关联中的隐式高阶结构（“语义结构”），以便根据查询中找到的术语改进相关文档的检测。使用的特定技术是奇异值分解，其中一个大词按文档矩阵分解为一组 ca。 100 个正交因子，从中可以通过线性组合来近似原始矩阵。文档由 ca 表示。 100 个因子权重的项目向量。查询表示为由术语的加权组合形成的伪文档向量，并返回具有超阈值余弦值的文档。初步测试发现这种完全自动化的检索方法很有前景。

原创 Triplet-Based Deep Hashing Network forCross-Modal Retrieval--文献翻译

论文链接：摘要：鉴于其低存储要求和高检索效率的好处，散列最近受到越来越多的关注。特别是，跨模态散列已被广泛并成功地用于多媒体相似性搜索应用中。然而，几乎所有现有的跨模态哈希方法都无法获得强大的哈希码，因为它们忽略了包含更丰富语义信息的异构数据之间的相对相似性，导致检索性能不理想。在本文中，我们提出了一种基于三元组的深度哈希 (TDH) 网络，用于跨模态检索。首先，我们利用三元组标签，将三个实例之间的相对关系描述为监督，以便捕获跨模态实例之间更一般的语义相关性。然后，我...

原创 Aggregation-based Graph Convolutional Hashing for Unsupervised Cross-modal Retrieval--文献翻译

摘要跨模态哈希因其存储和查询效率而在大规模信息检索中备受关注。尽管监督方法取得了巨大成功，但现有的无监督哈希方法仍然缺乏可靠的学习指导和跨模态差异。在本文中，我们提出了基于聚合的图卷积散列（AGCH）来解决这些障碍。首先，考虑到单一的相似性度量很难全面地表示数据关系，我们开发了一种有效的聚合策略，利用多个度量来构建更精确的学习亲和矩阵。具体来说，我们应用各种相似性度量从不同角度利用多种模式的结构信息，然后聚合获得的信息以产生联合相似性矩阵。此外，一种新颖的深度模型旨在学习跨不同模态的统一二进制代码，..

原创 Inter-Media Hashing for Large-scale Retrieval fromHeterogeneous Data Sources--文献翻译

论文链接：Inter-media hashing for large-scale retrieval from heterogeneous data sources | Proceedings of the 2013 ACM SIGMOD International Conference on Management of Data摘要在本文中，我们提出了一种新的多媒体检索范式来创新异构多媒体数据的大规模搜索。它能够从异构数据源返回不同媒体类型的结果，例如，使用查询图像从不同...

原创 Linear Cross-Modal Hashing for Efficient MultimediaSearch--论文翻译

论文链接：Linear cross-modal hashing for efficient multimedia search | Proceedings of the 21st ACM international conference on Multimedia摘要大多数现有的跨模态散列方法在训练阶段都存在可扩展性问题。在本文中，我们提出了一种新颖的跨模态散列方法，其对训练数据大小具有线性时间复杂度，以实现跨模态多媒体搜索的可扩展索引。考虑到每个模态的内部相似性和不同模态...

原创 Learning Hash Functions for Cross-View Similarity Search--文献翻译

IJCAI：2011论文链接：Learning Hash Functions for Cross-View Similarity Search (ijcai.org)摘要多语言和多模式信息访问中的许多应用程序涉及搜索具有多个（条件独立）视图的高维数据对象的大型数据库。在这项工作中，我们考虑学习哈希函数以在此类应用程序的视图中进行相似性搜索的问题。我们提出了一种原则方法，用于在给定一组多视图训练数据对象的情况下为每个视图学习哈希函数。散列函数将相似对象映射到跨视图的相似代码...

原创 Linear Cross-Modal Hashing for Efficient Multimedia Search--文献翻译笔记

来自ACMM2013 论文链接Linear cross-modal hashing for efficient multimedia search | Proceedings of the 21st ACM international conference on Multimedia摘要大多数现有的跨模态散列方法在训练阶段都存在可扩展性问题。在本文中，我们提出了一种新颖的跨模态散列方法，其对训练数据大小具有线性时间复杂度，以实现跨模态多媒体搜索的可扩展索引。考虑到...

原创 Set and Rebase: Determining the Semantic Graph Connectivity for UnsupervisedCross Modal Hashing-文献笔记

国际人工智能联合会议（International Joint Conference on Artificial Intelligence, 简称为IJCAI）是人工智能领域中最主要的学术会议之一。摘要无监督跨模态哈希的无标签性质阻碍了模型利用精确的语义数据相似性。现有研究通常通过原始特征空间中的启发式几何先验来模拟语义。然而，这会给模型带来很大的偏差，因为原始特征不能完全代表底层的多视图数据关系。为了解决上述问题，在本文中，我们提出了一种新的无监督散列方法，称...

原创 Label Enhancement for Label Distribution Learning--文献笔记

IEEE(2021)摘要标签分布比单标签注释和多标签注释都更通用。它涵盖了一定数量的标签，代表每个标签描述实例的程度。通过标签分布标记的实例的学习过程称为标签分布学习（LDL）。不幸的是，由于难以直接获得标签分布，许多训练集只包含简单的逻辑标签而不是标签分布。为了解决这个问题，一种方法是利用特征空间的拓扑信息和标签之间的相关性，从训练集中的逻辑标签中恢复标签分布。这种从逻辑标签中恢复标签分布的过程被定义为标签增强（LE），它增强了训练集中的监督信息。本文提出了一种新的 LE 算法...

原创 A Study of the Robustness of KNN ClassifiersTrained Using Soft Labels--论文阅读笔记

摘要监督学习模型最常使用清晰标签进行分类器训练。当存在重叠类时，清晰的标签无法捕获数据特征。在这项工作中，我们尝试比较使用软标签和硬标签来训练 K 最近邻分类器的学习。我们提出了一种基于数据的模糊聚类和聚类原型的模糊重新标记来生成软标签的新技术。在五个数据集上进行了实验，以比较使用不同类型的软标签学习的分类器和使用清晰标签学习的分类器。结果表明，与使用清晰标签学习相比，使用软标签学习对标签错误的鲁棒性更强。还发现所提出的从数据中查找软标签的技术可以在所研究的大多数数据集中进行更稳健的训练。1...

原创 阿拉伯字母发音--全集

原创 Fuzzy SVM with a new fuzzy membership function--文献翻译

期刊：Neural Computing and Applications（2006）摘要：众所周知，通过适当的模糊隶属函数，模糊支持向量机在解决分类问题时可以有效地减少异常值的影响。 本文针对非线性模糊支持向量机提出了一种新的模糊隶属函数。 模糊隶属度在特征空间中计算并由内核表示。 该方法在减少异常值的影响方面表现良好，显着提高了分类精度和泛化能力。介绍基于结构风险最小化 (SRM) Ref. [1]，Cortes 和 Vapnik 开发了支持向量机 (S...

原创 Momentum Contrast for Unsupervised Visual Representation Learning--w文献翻译和笔记

用于跨模式检索的自监督对抗哈希网络摘要由于深入学习的成功，跨模式检索最近取得了显著的进展。然而，仍然存在着一个关键的瓶颈：如何弥合情态差异，进一步提高检索的准确性。在本文中，我们提出了一种自我监督的对抗性散列（SSAH）方法，它是早期尝试将对抗性学习以自我监督的方式纳入跨模式散列的方法之一。这项工作的主要贡献是利用两个敌对网络来最大化不同方式之间的相互关系和一致性。此外，我们还利用自监督语义网络以多标签注释的形式发现高级语义信息。这些信息指导了特征学习过程，并保持了公共需求空间和汉明斯空间.....

原创 Self-Supervised Adversarial Hashing Networks for Cross-Modal Retrieval--文献翻译和笔记

用于跨模式检索的自监督对抗哈希网络摘要由于深入学习的成功，跨模式检索最近取得了显著的进展。然而，仍然存在着一个关键的瓶颈：如何弥合情态差异，进一步提高检索的准确性。在本文中，我们提出了一种自我监督的对抗性散列（SSAH）方法，它是早期尝试将对抗性学习以自我监督的方式纳入跨模式散列的方法之一。这项工作的主要贡献是利用两个敌对网络来最大化不同方式之间的相互关系和一致性。此外，我们还利用自监督语义网络以多标签注释的形式发现高级语义信息。这些信息指导了特征学习过程，并保持了公共需求空间和汉明斯空间...

原创 多模态分析数据集（Multimodal Dataset）整理

这里整理一下平时所用的多模态数据集以备之用，主要分为多模态情感分析数据集 多模态问答数据集 多模态检索(匹配)数据集后面会不断地去添加，也希望能够帮到其他人，欢迎大家补充。【0】.多模态以及其他方向如何入门或者查找数据集？看到评论区有很多小伙伴对多模态方面不知道怎么入门，不知道使用哪些数据集，最简单的方法是找一篇最近最新的相关方向的多模态论文，通过related work可以了解这个方向的发展，通过experiment了解这个方向比较受欢迎的一些数据集。论文或者数据集查询可以百度，可以go

原创 Fine-grained Cross-modal Alignment Networkfor Text-Video Retrieval--文献阅读翻译

题目：Fine-grained Cross-modal Alignment Networkfor Text-Video Retrieval作者：Ning Han Hunan University ninghan@hnu.edu.cn Jingjing Chen∗ Fudan University chenjingjing@fudan.edu.cn Guangyi Xiao Hunan University guangyi.xiao@gma...

原创 国际顶级会议期刊级别介绍

A 类 15 个ASPLOS: Architecture Support for Programming Languages and Operation体系结构方面的顶尖会议微处理器设计【硬件】 CCS: ACM Computer and Communications Security NDSS (Network and Distributed Systems Security)Web 安全方面 FAST: USENIX Conference on File and Storage Tec...

原创 【论文笔记】An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale (ViT)

题目：An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale作者：谷歌大脑团队（Dosovitskiy, A., Lucas Beyer, Alexander Kolesnikov, Dirk Weissenborn, Xiaohua Zhai, Thomas Unterthiner, M. Dehghani, Matthias Minderer, Georg Heigold, S. Gelly, J...

原创 MAE 论文逐段精读【论文精读】（深度学习论文篇）

源于沐神：MAE 论文逐段精读【论文精读】 (bilibili.com)MAE 2021.11.11提交 arxiv知乎 百万 view; Reddit or Twitter 讨论不多MAE 很新 --> 如何在读比较新的文章 获取一些新的研究思路？和之前精读论文的关系？Transformer一个纯基于注意力机制的编码器和解码器表现比 RNN 架构好，在机器翻译任务BERT使用 一个 Transfor...