![](https://img-blog.csdnimg.cn/20201014180756923.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
AI
文章平均质量分 88
数据实战派
公众号:数据实战派
https://www.biendata.xyz/
投稿或转载请联系小助手(biendata02)
展开
-
“LSTM之父”新作:一种新方法,迈向自我修正的神经网络
神经网络的过程包括其权重矩阵(Weight Matrix:WM)的更新。一旦网络训练结束,权重矩阵将被永久固定,然后根据网络在测试数据上的泛化结果评估其有效性。然而,许多环境在训练结束后会继续进化,测试数据可能会偏离训练,超出神经网络的泛化能力。这就需要人工干预,来重新训练或调整模型。相反,一个完全自主的系统应该学会在没有干预的情况下,根据新的经验更新自己的程序。特别是在多任务学习(Multi-task learning)和元学习(Meta-learning,学习如何去学习)中,学习如何保持更新和微调.原创 2022-05-26 11:26:15 · 703 阅读 · 0 评论 -
ACL 2022:评估单词多义性不再困扰?一种新的基准“DIBIMT”
众所周知,单词多义性给NLP领域的研究带来了诸多困难,如词义消歧(Word Sense Disambiguation)、信息检索(IR, Information Retrieval)和机器翻译(MT, Machine Translation)等等。而词汇歧义(Lexical Ambiguity)无疑是机器翻译领域面临的最大挑战之一。在过去的几十年里,研究者也一直致力于调查由单词的多义性引起的错误翻译。在此研究范围内,一些研究认为模型能够学习接纳训练数据中存在的语义偏差,从而产生翻译错误。实际上,最新.原创 2022-05-24 11:09:37 · 416 阅读 · 0 评论 -
“统一语言学习范式”:详解50个任务达到sota的谷歌新模型
现有的预训练模型(pre-trained models)通常针对特定类别的问题。迄今为止,对于正确的模型架构和预训练设置应该是什么,似乎学术界仍未达成共识。谷歌团队在这个问题上迈出了重要一步:他们在Unifying Language Learning Paradigms这篇论文中提出了一个统一的预训练模型框架,该框架在数据集和设置中普遍有效。在广泛的消融实验比较多个预训练目标之后,团队并发现这个方法在多种不同设置中优于 T5 和/或 GPT 模型,将这个ul2模型扩展到 20B 参数后,在 50 个完.原创 2022-05-22 13:19:51 · 813 阅读 · 0 评论 -
ICLR 2022:PiCO,基于对比消歧的偏标签学习 丨AI Drive
偏标签学习 (Partial Label Learning, PLL) 是一个经典的弱监督学习问题,它允许每个训练样本关联一个候选的标签集合,适用于许多具有标签不确定性和歧义的的现实世界数据标注场景。然而,现存的 PLL 算法与完全监督下的方法依然存在较大差距。针对这一现象,本期 AI Drive,浙江大学人工智能系在读博士-王皓波,解读其发表在 ICLR 2022的最新研究成果:PiCO:基于对比消歧的偏标签学习。这项研究提出一个协同的框架,解决 PLL 中的两个关键研究挑战——表征学习和标签消歧.原创 2022-05-22 13:14:50 · 1109 阅读 · 0 评论 -
谷歌学者:超越可解释性,开发一种语言来调整我们与AI的关系
原创 Been Kim本文基于谷歌大脑团队成员Been Kim于2022 ICLR 的主题演讲。目前我们还不了解人工智能所能做的一切。人工智能在许多场景得到应用,比如从序列中预测蛋白质的结构与功能(如 AlphaFold 和ProtENN),语义理解与语言生成(如 GPT-3 和 PaLM)等等。人工智能也被人们用来辅助决策。举个例子,人工智能被用来帮助医生对患者进行分类,并在医生不在时提供辅助诊断。正如谷歌健康的自动视网膜疾病评估系统(ARDA)那样,使用人工智能帮助医护人员检测糖尿病引起的视原创 2022-05-10 10:50:39 · 689 阅读 · 0 评论 -
全职加入清华,丘成桐:为祖国、为全球数学界培养数学人才
全职加入清华,丘成桐:为祖国、为全球数学界培养数学人才王希勤校长为丘先生颁发聘书(照片来源:清华大学)4 月 20 日,清华大学宣布,“菲尔兹奖”首位华人得主丘成桐从哈佛大学退休,受聘清华大学讲席教授,将全职任教清华。清华大学官方微信连发3文对此次聘任进行了报道。在昨日的聘任仪式上,丘成桐发表了就职演说,表达了自己全职加入清华的使命感与希冀:“……我的论文导师陈省身先生是清华大学数学系第一届的研究生。我认为他是中国历史上最伟大的科学家,他的成名作就是从研究高斯的著名公式开始的。到了今天,他的工原创 2022-04-21 15:54:47 · 369 阅读 · 0 评论