2021年06月_夕小瑶

原创在错误的数据上，刷到 SOTA 又有什么意义？

文 | Severus编 | 小轶小编注：前段时间，小屋介绍了吴恩达老师近期发起的以数据为中心的 AI 竞赛（参见《吴恩达发起新型竞赛范式！模型固定，只调数据？！》）。吴恩达老师认为：工业...

2021-06-30 12:05:00 170

转载推荐几个出论文的好方向

如果你准备发AI方向的论文，或准备从事科研工作或已在企业中担任AI算法岗的工作。那么我真诚的向大家推荐，贪心学院《高阶机器学习研修班》，目前全网上应该找不到类似体系化的课程。课程精选了四大...

2021-06-30 12:05:00 242

转载【美团语音交互部】 NLP/知识图谱/语音识别等算法职位开放招聘！

致力于连接最靠谱的算法岗与最强的求职者招聘贴投放请联系微信xixiaoyao-1部门介绍：语音交互部负责美团语音和智能交互技术及产品研发，面向美团业务和生态伙伴，提供对语音和口语数据的大规...

2021-06-29 12:05:00 886

原创推荐一个可交互的 Attention 可视化工具！我的Transformer可解释性有救啦？

本文首发于微信公众号”夕小瑶的卖萌屋“文 | Sherry源 | 夕小瑶的卖萌屋视觉是人和动物最重要的感觉，至少有80%以上的外界信息是经过视觉获得的。我们看论文的时候，通过图表来确定文章的大致内容往往也是一个更高效的说到深度神经网络的可视化，最经典的莫过于的CNN密恐图了：这种可视化方法可以让我们清晰的知道每一层的每一个Cell关注何种信息，模型最后是如何逐层迭代处理得到最后的判断。但是对NL...

2021-06-29 11:10:41 1381

原创写了一篇关于 NLP 综述的综述！

文 | 小轶综述，往往是了解一个子领域最为高效的起点。然而，对于AI这样一个日新月异高速发展的行业，时效性也自然地成为了我们选择综述的衡量指标之一。即使一篇 AI 综述具有超高 citat...

2021-06-28 12:05:00 1628

转载清华姚班教师劝退文：读博，你真的想好了吗？

文 | 张焕晨编 | 琰琰源|AI科技评论先简单介绍一下我的背景。我本科在University of Wisconsin-Madison，然后去CMU念了个PhD，主要研究数据库方向。...

2021-06-25 12:09:18 166

原创吴恩达发起新型竞赛范式！模型固定，只调数据？！

文 | 小戏打开 Kaggle ，琳琅满目的比赛让人目不暇接，研究的领域更是五花八门，从农林牧渔到衣食住行，似乎只要有数据，不论数据好坏，就可以直接使用各种机器学习的模型在其身上大展拳脚，...

2021-06-24 12:00:00 384

转载百度飞桨弯道超车了吗？！

事情是这样的...前不久，小夕注意到了一份来自权威评测机构IDC发布的《2020年下半年深度学习平台市场份额报告》：▲IDC:2020年中国深度学习平台市场综合份额top 5立刻惊了！印象...

2021-06-23 12:05:00 795

转载 Git使用的奇技淫巧

源 | Linux公社Git 版本对比相关操作[1] 输出工作区和暂存区的不同。gitdiff[2] 展示暂存区和最近版本的不同gitdiff--cached[3] 展示暂存区、...

2021-06-22 18:05:00 149

原创 NLP哪个细分方向最具社会价值？

文 | 小戏让我们来大胆设想一个场景，老板突然发财搞到一笔钱，大手一挥给你五百万，让你去做自然语言处理的研究，你该先研究哪一个细分领域？机器翻译好像不错，信息抽取也很必要，对话系统更是 N...

2021-06-21 22:20:00 474

原创从论文到PPT，一键生成！从此报告不用愁！

文 | 子龙编 | 小轶俗话说：“行百步者半九十”，论文接受固然可喜可贺，然而这只是万里长征第一步。一份具有影响力的工作少不了一个后期的宣传，做好一个PPT绝对是一个技术活。不知道小伙伴们...

2021-06-20 17:00:00 6714 9

原创 ACL'21 | 多模态数值推理新挑战，让 AI 学解几何题

文 | 陈嘉奇编 | 小轶从小到大，数学都是一门令人头秃充满魅力的学科。从基本的代数、几何，到高数微积分，各类数学问题都对答题者的逻辑推理能力都有着不同程度的挑战。而逻辑推理能力一直以来都...

2021-06-20 17:00:00 2196 4

转载那些在家啃书自学算法的人，最后都找到工作了吗？

面试官手把手带你刷题AI岗位面试题详解+训练特惠免费0元在准备应聘的过程中，大部分同学关注点都在自己的技术水平以及项目经验是否能够比过其他人。但往往忽略了一点，你会的和你在面试中能完全讲...

2021-06-18 19:25:53 137

原创视觉增强词向量：我是词向量，我开眼了！

文 | 橙橙子亲爱的读者，你是否被各种千亿、万亿模型的发布狂轰乱炸，应接不暇，甚至有点产生对大模型的审美疲劳？出于这个目的，今天来分享一篇研究静态词向量的小清新文章。希望大家可以在理性追热...

2021-06-17 12:05:00 388 1

原创恕我直言，很多小样本学习的工作就是不切实际的

文 | ????????????????编 | 小轶以前的小样本学习（Few-shot Learning），是需要用一个巨大的训练集训练的。测试时只给出 n-way k-shot，在这 N...

2021-06-16 12:05:00 424

原创对话系统答非所问？快试试这篇ACL'21的连贯性评估大法

文 | 页眉3编 | 小轶背景当我们在绞尽脑汁地想怎么设计一个对话系统的时候，我们当然希望最后训练出来的系统能越像人越好，输出的回复很连贯，很有趣，很体贴。而其中，连贯性可以说是最基本的要...

2021-06-15 20:30:00 937

转载预训练模型的前世今生（有福利！）

近年来，在深度学习和大数据的支撑下，自然语言处理技术迅猛发展。而预训练语言模型把自然语言处理带入了一个新的阶段，也得到了工业界的广泛关注。通过大数据预训练加小数据微调，自然语言处理任务的解...

2021-06-11 12:05:00 1144

转载百度NLP、视频搜索团队招聘算法实习生！

致力于连接最靠谱的算法岗与最强的求职者招聘贴投放请联系微信xixiaoyao-1问答工作职责研发文本问答、多模态问答、阅读理解、端到端问答等技术，利用NLP理论和方法解决实际问题结合数据、...

2021-06-11 12:05:00 278

原创 ACL'21 | debug完的神经网络，如何测试是否仍然存在bug？

文 | Sherry回归测试熟悉软件工程的小伙伴们一定知道回归测试：修改了旧代码后，重新进行测试以确认修改没有引入新的错误或导致其他代码产生错误。它可以大幅降低系统测试、维护升级等阶段的成...

2021-06-10 19:00:00 146

原创超硬核 ICML’21 | 如何使自然语言生成提速五倍，且显存占用减低99%

文 | 炼丹学徒编 | 小轶我们忽略掉引言和介绍，直接把工作的效果丢上来，相信就足够令自然语言生成的相关同学心动——对于任何一个已有的Transformer生成模型，只需根据本文算法更改a...

2021-06-09 12:25:24 744

转载 ACL 2021｜美团提出基于对比学习的文本表示模型，效果提升8%

文 | 渊蒙如寐思睿等尽管基于BERT的模型在NLP诸多下游任务中取得了成功，直接从BERT导出的句向量表示往往被约束在一个很小的区域内，表现出很高的相似度，因而难以直接用于文本语义匹...

2021-06-08 17:00:00 809

转载科研福利！国内TOP3的超算中心，免费领2000核时计算资源

长久以来，超级计算机一直是各国竞相角逐的科技制高点，也是国家综合科技实力的体现，尤其是近几年，中国和美国在超算领域的竞争已经进入“白热化”。2020年，我国超级计算机在《全球超级计算机50...

2021-06-07 22:20:00 720

转载聊聊推荐系统中的偏差

文 | 成指导源 | 知乎背景推荐系统中大量使用用户行为数据，作为系统学习的标签或者说信号。但用户行为数据天生存在各式各样的偏差（bias），如果直接作为信号的话，学习出的模型参数不能准确...

2021-06-03 22:20:00 601

原创 CMU & MILA & 谷歌 | 三家巨头发布史上最干文本增强总结

文 | Sherry一直以来，数据都是推动深度神经网络这个人工智能引擎不可或缺的燃料；然而人工收集足量而优质的数据从来不是一件“便宜”的事，数据增强便是一座富有价值的矿山。在CV中，翻转，...

2021-06-02 12:00:00 210 1

原创中文BERT上分新技巧，多粒度信息来帮忙

文 | ????????????????自然语言处理实在是太难啦！中文尤其难！相比于英文，中文是以词作为语义的基本单位的，因此传统的中文 NLP 都需要先进行分词。分词这步就劝退了很多人，...

2021-06-01 22:20:00 757

转载 Transformer太深不行？NUS字节发现注意力坍缩，提出重注意机制！

文 | 陈萍、杜伟源 | 机器之心CNN 通过堆叠更多的卷积层来提高性能，而 transformer 在层次更深时会很快进入饱和。基于此，来自新加坡国立大学和字节跳动 AI Lab 的研究...

2021-06-01 22:20:00 1073

夕小瑶科技说