超级会员免费看
本文介绍了中科大和科大讯飞在IJCAI 2016上提出的NAM（Neural Association Model），这是一种用于概率推理的神经网络模型，包括DNN和RMNN两种形式。NAM模型通过sigmoid或softmax函数计算事件间的关联概率，适用于三元组分类和常识推理等任务。实验表明，RMNN在文本蕴含和知识迁移学习上表现出优越性。
【paper】 Probabilistic Reasoning via Deep Learning: Neural Association Models
【简介】 本文是中科大和科大讯飞联合发表在 IJCAI 2016 上的工作，本文提出了 NAM（Neural Association Model）用于概率推理，并具体化为 DNN（Deep Neural Network）和 RMNN（Relation Modulated Neural Network）两种形式。
模型
本文提出用神经网络建模两个 event 之间的关联：将一个 event 作为神经网络的输入，计算另一个 event 的条件概率。NAM 的 RMNN 形式可以进行高效的知识迁移学习。本文不属于双线性模型，应该归类为神经网络模型。
NAM overview
如果事件 E2E2 是二值的（True or False），NAM 用 sigmoid 函数计算 Pr(E2|E1)Pr(E2|E1)；如果 E2E2 是多值的，则 NAM 使用 softm
订阅专栏 解锁全文
扫一扫
638
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
