- 博客(54)
- 收藏
- 关注
RSS订阅原创 AMiner论文推荐
论文名称：Learning Statistical Texture for Semantic Segmentation论文地址：https://www.aminer.cn/pub/6047484091e0116b67c7905f?f=cs论文提出了量化和计数算子来描述统计纹理表示，然后使用纹理增强模块增强细节、金字塔纹理特征提取模块来利用纹理相关的低层信息。大量的消融实验证明了所提方法的有效性。与现有的方法比较表明，STLNet在多数据集上取得了优异的性能。AMiner,让AI帮你理解科学！https
2021-09-30 16:31:23
121
原创 AMiner论文推荐
论文名称：EfficientBERT: Progressively Searching Multilayer Perceptron via Warm-up Knowledge Distillation论文地址：https://www.aminer.cn/pub/6142b6135244ab9dcbc97c21?f=cs在NLP领域，预训练语言模型（如BERT等）在大量任务上都取得了不错的效果，但是它们有着过大的体积以及推理时间，这严重限制了实际的部署。为了解决这个问题，很多模型压缩方法被提出，例如知识蒸
2021-09-30 16:30:35
110
原创 AMiner论文推荐
论文名称：Real numbers, data science and chaos: How to fit any dataset with a single parameter.论文地址：https://www.aminer.cn/pub/5ce3ace6ced107d4c65af225?f=cs论文介绍了如何通过具有单个实值参数的标量函数（连续、可微…）来近似化任何不同模态（时间序列、图像、声音…）的数据集。基于混沌理论的基本概念，研究者采用教学（pedagogical）方法来演示如何调整这个实值参
2021-09-30 16:29:54
53
原创 AMiner论文推荐
论文名称：Skilful precipitation nowcasting using deep generative models of radar论文地址：https://www.aminer.cn/pub/606adaba91e011f23f909679?f=cs1秒生成单个预报现有的很多预报技术会使用大量计算机模拟大气物理状态，这种方法适用于长期的天气预测。而DeepMind团队开发的条件生成模型DGMR，则更专注于未来5到90分钟内的临近预报。这一模型的预测范围最大能达到1536公里×1
2021-09-30 16:29:10
364
原创 AMiner论文推荐
论文名称：Transformer-Unet: Raw Image Processing with Unet论文链接：https://www.aminer.cn/pub/6147fba55244ab9dcb1b54a8?f=cs医学图像分割在生物医学图像分析中占有重要地位，也引起了人们的广泛关注。良好的分割结果可以帮助医生进行判断，进一步改善患者体验。在医学图像分析的众多可用方法中，UNet是最受欢迎的神经网络之一，它通过在编码器和解码器之间添加级联来保持原始特征，这使得它在工业领域仍有广泛的应用。同时
2021-09-29 15:32:44
62
原创 AMiner论文推荐
论文名称：Integrating Pattern- and Fact-based Fake News Detection via Model Preference Learning论文链接：https://www.aminer.cn/pub/6153d6466750f8727fa346b2?f=cs在过去的十多年中，社交媒体出现的虚假信息造成了政治、经济和社会层面的诸多危害，最近的例子莫过于2020年伴随COVID-19蔓延的“信息疫情”（infodemic）。在这种严峻的形势下，检测虚假新闻对维护可信
2021-09-29 15:31:43
71
原创 AMiner论文推荐
论文名称：World Models论文链接：https://www.aminer.cn/pub/5eff1ecddfae5482196f680f?f=cs世界模型（World Model）首次由 Jürgen Schmidhuber 与 David Ha 在 NeurIPS 2018中提出，主要出发点是打造一个通用强化学习环境的生成神经网络模型，为强化学习技术的落地提供完美的模拟环境。这篇工作入选了当年 NeurIPS 的 oral paper。世界模型的灵感来源于心理学上的“心理世界模型”（men
2021-09-29 15:30:57
44
原创 AMiner论文推荐
论文名称：Pathdreamer: A World Model for Indoor Navigation论文链接：https://www.aminer.cn/pub/60a62b4191e0115d932bfbe5?f=cs近年来，世界模型（World Model）在机器人、模拟与强化学习中均取得了出色的研究结果。2018年，Jürgen Schmidhuber 与 David Ha 首次以无监督的方式训练世界模型，使模型能快速学习环境中的压缩时空表征，再将世界模型中的特征作为智能体的输入，训练出
2021-09-29 15:30:09
62
原创 AMiner论文推荐
论文名称：Neuromorphic electronics based on copying and pasting the brain论文链接： https://www.aminer.cn/pub/6152c65b9e795ed0113c5385?f=cs所谓“复制”，就是通过纳米电极阵列复制大脑神经元的连接图，而所谓“粘贴”，就是将连接图粘贴到固态存储器组成的高密度三维网络上。 通过这种方式，研究人员希望打造出一种接近大脑的独特计算特征的存储芯片，能够实现低功耗、轻松学习、适应环境，甚至自主和认知—
2021-09-28 18:00:44
66
原创 AMiner论文推荐
论文名称：Heterogeneous Graph Neural Network via Attribute Completion论文链接：https://www.aminer.cn/pub/60641c2a9e795e72406b65b4?f=cs异质信息网络（HINs）也称为异质图，它是一种由多种类型的节点和边组成的复杂网络，包含了全面的信息和丰富的语义。图神经网络（GNNs）作为处理图结构数据的强大工具，在网络分析任务中表现出了卓越的性能。最近相继提出了许多基于图神经网络的异质图模型，并取得了巨大的
2021-09-28 18:00:03
169
原创 AMiner论文推荐
论文名称：CPT: Colorful Prompt Tuning For Pre-trained Vision-language Models论文链接：https://www.aminer.cn/pub/6152b8a49e795ed0113b6d60?f=cs据论文表示，这也是首次将prompt用于cross-model和零样本/少样本学习视觉定位中。从目前的NLP和VLM模型来看，不少基于prompt的模型效果都不错，让搞CV的同学们也有点心动——能不能给我们也整一个？那么，prompt究竟好在
2021-09-28 17:59:12
108
原创 《强化学习周刊》第21期：EMNLP 2020-2021强化学习的最新研究与应用
强化学习作为人工智能领域研究热点之一，其研究进展与成果也引发了众多关注。并且诸多研究成果发表于EMNLP 2020-2021学术会议中，为帮助研究与工程人员了解该领域的相关进展和资讯，智源社区结合领域内容，撰写为第21期《强化学习周刊》。本期周刊整理了EMNLP 2020-2021中强化学习领域相关的最新论文推荐和新工具等，以飨诸位。周刊采用社区协作的模式产生，欢迎感兴趣的朋友们参与我们的工作，一起来推动强化学习社群的分享、学习和交流活动。可以扫描文末的二维码加入强化学习社区群。本期贡献者：李明，刘青、
2021-09-28 11:37:01
270
原创 AMiner论文推荐
论文名称：Instance-Conditioned GAN论文链接：https://www.aminer.cn/pub/614012bf5244ab9dcb816279?f=cs生成对抗网络 (GAN) 在图像生成领域可以说是最强大的 AI 模型，无论是逼真的图片、抽象的拼贴画、风格迁移都不在话下。 但GAN 也有神经网络模型所共有的致命缺点，就是具有局限性，通常只能生成与训练数据集密切相关的物体或场景的图像。 例如，在汽车图像上训练的 GAN 在生成汽车相关图像时可以做到特别逼真，但可能让它生成鲜花、
2021-09-27 15:23:30
165
原创 AMiner论文推荐
论文名称：Physics-based Human Motion Estimation and Synthesis from Videos论文链接;：https://www.aminer.cn/pub/614a9eca5244ab9dcbc38b23?f=cs人体运动综合是机器人图形、游戏和仿真环境中应用的一个重要问题。现有的训练方法需要精确的动作捕捉数据，而获取这些数据的成本很高。相反，我们提出了一个框架来训练生成模型的物理似是而非的人体运动直接从单目RGB视频，这是更广泛的可用。我们的方法的核心是一个
2021-09-27 15:22:43
88
原创 AMiner论文推荐
论文名称：Energy and Policy Considerations for Deep Learning in NLP.论文链接：https://www.aminer.cn/pub/5d04e906da56295d08dd88ce?f=cs此前，DeepMind也曾披露，在训练下围棋的深度学习系统时花了大约 3500 万美元。Open AI 在训练 GPT-3时，也耗资超过400万美元。后来，DeepMind在设计一个系统来玩星际争霸 2 时，就特地避免尝试多种方法来构建一个重要的组建，因为训练成
2021-09-27 15:21:36
89
原创 AMiner论文推荐
论文名称：The Computational Limits of Deep Learning论文地址：https://www.aminer.cn/pub/5f0d762591e011047aff96a0?f=cs在过去的几年，为了减少图像分类的错误，计算负担也随之增大。比如，2012 年，AlexNet 模型首次展示了在图形处理单元 (GPU) 上训练深度学习系统的能力：仅仅 AlexNet 的训练就使用了两个 GPU、进行了五到六天的训练。到了 2018 年，NASNet-A 将 AlexNe...
2021-09-27 15:20:21
79
原创 AMiner论文推荐
论文名称：ResRep: Lossless CNN Pruning via Decoupling Remembering and Forgetting论文地址：https://www.aminer.cn/pub/61501dc89e795ea79c657854?f=cs效果是相当SOTA的：ImageNet top1-acc为76.15%的标准ResNet-50（torchvision标准模型），剪掉超过一半FLOPs，还是76.15%。（目前绝大多数效果较好的paper都是剪一半FLOPs，top1-
2021-09-26 17:14:03
81
原创 AMiner论文推荐
论文名称：Pix2seq: A Language Modeling Framework for Object Detection论文地址:https://www.aminer.cn/pub/614bf07f5244ab9dcbc5d6f4?f=cs视觉目标检测系统的目标是识别和定位图像中所有预定义类别的目标。检测到的对象通常由一组包围框和相关的类标签描述。考虑到任务的难度，大多数现有的方法，如(Girshick, 2015; Ren et al., 2015; He et al., 2017; Lin
2021-09-26 17:12:44
172
原创 AMiner论文推荐
一层卷积能做啥？BOE告诉你：一层卷积可以做超分！AMiner论文推荐论文名称：edge-SR: Super-Resolution For The Masses论文地址：https://www.aminer.cn/pub/6125b0115244ab9dcb38b1c5?f=cs经典的图像缩放(比如bicubic)可以视作一个卷积层+一个上采样滤波器，它在所有显示设备与图像处理软件中是普遍存在的。在过去的十年里，深度学习技术已被成功应用到图像超分任务上，它们往往由多个卷积与大量滤波器构成。深度学习方
2021-09-26 17:11:40
203
原创 AMiner论文推荐
去除冗余token的DETR效果怎么样？NUS颜水成团队提出端到端的PnP-DETR结构。AMiner论文推荐论文名称：PnP-DETR: Towards Efficient Visual Analysis with Transformers论文地址：https://www.aminer.cn/pub/6142b6125244ab9dcbc97ad5?f=cs最近，DETR利用Transformer将图像特征图直接转换为目标检测的结果。虽然这种方法效果还不错，但将图像特征图转换为目标检测结果的过程中可
2021-09-26 17:10:43
140
原创 AMiner必读论文集推荐#网页挖掘#
AMiner必读论文集推荐#网页挖掘#论文集地址; https://www.aminer.cn/topic/5e7ef61ac1b7e55a5aea64d4f=csWeb挖掘是数据挖掘在Web上的应用，它利用数据挖掘技术从与WWW相关的资源和行为中抽取感兴趣的、有用的模式和隐含信息，涉及Web技术、数据挖掘、计算机语言学、信息学等多个领域，是一项综合技术。AMiner，让AI帮你理解科学：https://www.aminer.cn...
2021-09-24 19:20:08
91
原创 AMiner必读论文集推荐#特征提取#
AMiner必读论文集推荐#特征提取#论文集地址：https://www.aminer.cn/topic/5e7d9a78ea0348b7e22eddaa?f=cs在机器学习，模式识别和图像处理中，特征提取从一组初始测量数据开始，并构建旨在提供信息和非冗余的派生值（特征），促进后续学习和泛化步骤。AMiner，让AI帮你理解科学：https://www.aminer.cn...
2021-09-24 19:19:19
124
原创 AMiner必读论文集推荐#多智能体强化学习中的迁移学习#
AMiner必读论文集推荐#多智能体强化学习中的迁移学习#论文集地址：https://www.aminer.cn/topic/60b4483192c7f9be211c9164?f=cs近年来，随着强化学习在多个应用领域取得了令人瞩目的成果，并且考虑到在现实场景中通常会同时存在多个决策个体（智能体），部分研究者逐渐将眼光从单智能体领域延伸到多智能体，即多智能体强化学习（multi-agent reinforcement learning）。当同时存在多个智能体与环境交互时，整个系统就变成一个多智能体系统。
2021-09-24 19:18:40
182
原创 AMiner必读论文集推荐#多智能体强化学习#
AMiner必读论文集推荐#多智能体强化学习#论文集地址：https://www.aminer.cn/topic/6017af5a92c7f9be21c931d2?f=cs近年来，随着强化学习在多个应用领域取得了令人瞩目的成果，并且考虑到在现实场景中通常会同时存在多个决策个体（智能体），部分研究者逐渐将眼光从单智能体领域延伸到多智能体，即多智能体强化学习（multi-agent reinforcement learning）。当同时存在多个智能体与环境交互时，整个系统就变成一个多智能体系统。每个智能体仍
2021-09-24 19:18:03
109
原创 AMiner论文推荐
论文名称：Multimodal Few-Shot Learning with Frozen Language Models论文链接：https://www.aminer.cn/pub/60dbbedb91e0117bb69ae3e9?f=cs在足够规模的训练下，自回归语言模型在少量例子的提示下，表现出显著的学习新语言任务的能力。在这里，我们提出了一个简单而有效的方法，将这种少镜头学习能力转移到多模式设置(视觉和语言)。使用对齐的图像和标题数据，我们训练一个视觉编码器将每个图像表示为连续的嵌入序列，这样一
2021-09-24 17:35:24
77
原创 AMiner论文推荐
论文名称：Unifying Vision-and-Language Tasks via Text Generation论文链接：https://www.aminer.cn/pub/601d3fe591e011945792250c?f=cs现有的视觉和语言学习方法通常需要为每个任务设计特定于任务的架构和目标。例如，用于视觉问答的多标签答案分类器、用于参考表达式理解的区域评分器和用于图像字幕的语言解码器等。为了减轻这些麻烦，在这项工作中，我们提出了一个统一的框架，在同一个语言建模目标的单一体系结构中学习不同
2021-09-24 17:34:16
224
原创 Miner论文推荐
论文名称：Overfitting the Data: Compact Neural Video Delivery via Content-aware Feature Modulation论文链接：https://www.aminer.cn/pub/6125b6a95244ab9dcb41d662?f=cs代码链接：https://github.com/Neural-video-delivery/CaFM-Pytorch-ICCV2021本文首先研究了在神经视频传输中不同块的模型之间的关系，然后设计了一
2021-09-24 17:33:32
179
原创 用于图像集分类的混合黎曼图嵌入度量学习
AMiner论文推荐论文名称：Hybrid Riemannian Graph-Embedding Metric Learning for Image Set Classification论文链接：https://www.aminer.cn/pub/614400df6750f87195eb6361?f=cs代码链接：https://github.com/GitZH-Chen/HRGEML-v-1.git随着视频数据量的不断增加，图像集分类近年来受到了计算机视觉和模式识别研究社区的广泛关注。然而，表征的
2021-09-24 17:32:38
294
原创 FlipDA：有效且稳健的数据增强小样本学习、开放域低资源适应的生成式聊天机器人
超大规模预训练模型是当前人工智能领域研究的热点，为了帮助研究与工程人员了解这一领域的进展和资讯，智源社区整理了第21期《预训练周刊》，从论文推荐、研究动态等维度推荐近期发生在预训练模型领域值得关注的信息。本期周刊，我们选择了10篇预训练相关的论文，涉及提取式问答、数据增强、开放域聊天、语言模型训练、抗体设计、蛋白质结构设计、蛋白结构表示、变换器综述、机器翻译和知识增强预训练的探索。此外，在研究动态方面，我们选择了3篇预训练资讯，将介绍预训练卷积、人脸识别和预训练方法等方面的一些最新内容。周刊采用社区协作
2021-09-22 11:42:06
355
原创 ICLR-2021强化学习的最新研究与应用
强化学习作为人工智能领域研究热点之一，其研究进展与成果也引发了众多关注。并且诸多研究成果发表于ICLR-2021学术会议中，为帮助研究与工程人员了解该领域的相关进展和资讯，智源社区结合领域内容，撰写为第17期《强化学习周刊》。本期周刊整理了ICLR-2021中强化学习领域相关的最新论文推荐、综述、新工具、课程等，以飨诸位。周刊采用社区协作的模式产生，欢迎感兴趣的朋友们参与我们的工作，一起来推动强化学习社群的分享、学习和交流活动。可以扫描文末的二维码加入强化学习社区群。本期贡献者：李明，刘青，陈斌本文来
2021-09-22 11:31:33
704
原创 《预训练周刊》第23期：Smart Bird：解决变换器性能瓶颈的新方法
（本期贡献者：申德周 翟珂 吴新刚）本文来源：智源社区论文推荐标题：斯坦福、马里兰大学|Quantum Cross Entropy and Maximum Likelihood Principle(量子交叉熵和最大似然原理)作者：Zhou Shangnan、Yixu Wang论文地址：https://www.aminer.cn/pub/6037785391e011d7c73cd3cc?f=cs简介：量子机器学习是机器学习和量子计算交叉的新兴领域。经典交叉熵在机器学习中起着核心作用。作者定义它的量
2021-09-22 11:17:48
195
原创 《因果学习周刊》第1期：因果学习的分布外泛化问题
因果学习作为人工智能领域研究热点之一，其研究进展与成果也引发了众多关注。为帮助研究与工程人员了解该领域的相关进展和资讯，智源社区结合领域内容，撰写了第1期《因果学习周刊》。本期周刊将主要讨论分布外泛化相关的研究。现代机器学习技术在计算机视觉、自然语言处理和推荐系统等领域表现出了卓越的能力。尽管许多方法在实验条件下表现出了超越人类的水准，但一些研究也揭示了机器学习模型在存在分布偏移下的脆弱性。如此巨大的差距源自于违反了训练和测试数据是独立同分布的基本假设(又名i.i.d.假设)，而大多数现有的学习模型都是基
2021-09-22 10:55:12
504
原创 Infinite-former：无限记忆变换器
超大规模预训练模型是当前人工智能领域研究的热点，为了帮助研究与工程人员了解这一领域的进展和资讯，智源社区整理了第24期《预训练周刊》，从论文推荐、研究动态等维度推荐近期发生在预训练模型领域值得关注的信息。本期周刊，我们选择了14篇预训练相关的论文，涉及答案选择、变换器改进、多模态、Prompt调优、大语言模型、情绪检测、阅读理解、代码度量、代码语言模型、超参数调优、蛋白质配体结合、蛋白质设计、非编码基因组和细胞基因表征的探索。此外，在研究动态方面，我们选择了1篇预训练资讯，将介绍文本摘要方面的一些最新资讯
2021-09-22 10:34:10
530
原创 即插即用&无痛涨点的UMOP：在目标检测被“遗忘”领域进行探索
以下是AMiner今日推荐论文详细内容介绍：论文名称：Progressive Hard-case Mining across Pyramid Levels in Object Detection论文链接：https://www.aminer.cn/pub/6142b6135244ab9dcbc97c10?f=cs在目标检测领域，多级预测(比如FPN、YOLO)与重采样技术(如Focal Loss、ATSS)极大的提升了一阶段检测器性能。然而，如何通过逐级优化特征金字塔提升性能尚未进行探索。我们发现：
2021-09-18 14:48:30
532
原创 Prompt—从CLIP到CoOp，Visual-Language Model新范式
以下是AMiner今日推荐的两篇论文详细内容介绍：论文名称：(1) Unifying Vision-and-Language Tasks via Text Generation(2)Multimodal Few-Shot Learning with Frozen Language Models论文链接：(1)https://www.aminer.cn/pub/601d3fe591e011945792250c?f=cs(2)https://www.aminer.cn/pub/60dbbedb91e
2021-09-18 14:47:28
420
原创 ResNet+UNet是不是真的有效？医学图像分割框架UCTransNet开源
AMiner论文推荐论文标题：UCTransNet: Rethinking the Skip Connections in U-Net from a Channel-wise Perspective with Transformer论文链接：https://www.aminer.cn/pub/613accd65244ab9dcb4169bf?f=cs最近的很多医疗语义分割方法都采用了带有编解码器结构的U-Net框架。但是U-Net采用简单的跳跃连接方案对于全局多尺度问题进行建模仍然具有挑战性:由于
2021-09-17 15:23:38
1274
原创 AMiner论文推荐
论文标题：Frustratingly Simple Pretraining Alternatives to Masked Language Modeling论文链接：https://www.aminer.cn/pub/6136d8475244ab9dcb6aa417?f=cs掩码语言建模（MLM）训练模型来预测输入标记的随机样本，这些样本在整个词汇表的多类设置中被 [MASK] 占位符替换。在预训练时，通常在标记或序列级别上与 MLM 一起使用其他辅助目标，以提高下游性能。然而，到目前为止，之前的工作还
2021-09-15 15:28:53
101
原创 AMiner论文推荐
论文标题：PermuteFormer: Efficient Relative Position Encoding for Long Sequences论文链接：https://www.aminer.cn/pub/6136d84a5244ab9dcb6aa8e8?f=cs最近的 Transformer 变体 Performer 使用线性注意力机制将 Transformer 扩展到更长的序列。但是，这种方法与相对位置编码不兼容，而相对位置编码比绝对位置编码具有优势。在这篇论文中，作者讨论了向 Perform
2021-09-15 15:27:44
101
原创 AMiner论文推荐
论文标题：AEDA：AnEasier Data Augmentation Technique for Text Classification论文链接：https://www.aminer.cn/pub/612d9dd25244ab9dcbdfb3aa?f=cs在人工智能领域，为了使模型具有更好地泛化能力，一般需要更多更全面的训练数据集；而往往真实情况，在工业界获取大量标注数据是不现实的；这时，数据增强技术就尤为关键。2019年的EDA（Easy Data Augmentation Techniques
2021-09-15 15:22:48
81
原创 AMiner论文推荐
论文标题：Orthogonal Jacobian Regularization for Unsupervised Disentanglement in Image Generation论文链接：https://www.aminer.cn/pub/611c90bc5244ab9dcb6356ec?f=cs近年来，无监督解耦学习受到了广泛的关注，不仅因为其对理解生成模型的重要性，也因为其对其他计算机视觉任务也有所帮助，如可控图像生成、图像编辑等。对于一个解耦的特征，其各维控制了输出中不相关的变化，从给定的数
2021-09-15 15:21:17
85
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人