![](https://img-blog.csdnimg.cn/20201014180756919.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
神经符号推理
文章平均质量分 71
第六五签
这个作者很懒,什么都没留下…
展开
-
可信AI技术和应用进展(2023 信通院白皮书)
分为两类:1.关注提升模型白盒化和透明性,例如基于梯度、基于模型结构、基于扰动、注意了机制等算法,提供模型结果的解释性。2.研究吸收已有的专家经验,例如可及时检索、逻辑图谱等算法,使得模型结果符合人工的逻辑推理过程,出现了诸如人机结合、逻辑融合等更前瞻的领域能力,在源头上提升模型与人工经验的吻合度。前沿的思路是将上述两种方式进行整合,即专家知识引入模型的训练过程,模型的可解释结果可以用来指导专家经验的构建,得到可交互、可视化的人工经验AI管理系统,从而保障模型的透明性。对抗样本训练及对抗参数训练。原创 2023-07-21 00:38:16 · 312 阅读 · 0 评论 -
数理逻辑,命题和一阶逻辑
命题和一阶逻辑原创 2023-07-16 16:31:56 · 301 阅读 · 1 评论 -
Towards Data-and Knowledge-Driven AI: A Survey on Neuro-Symbolic Computing(2022,综述)
神经符号计算(Neural-symbolic computing, NeSy)是多年来人工智能(AI)研究的一个活跃领域,它追求认知的符号范式和统计范式的融合。由于NeSy有望将符号表示的推理和可解释性的优势与神经网络中的强大学习相协调,它可能会成为下一代人工智能的催化剂。原创 2023-07-16 11:40:36 · 285 阅读 · 1 评论 -
Backpack Language Models(ACL2023)
backpack是一种新提出的尝试替换transformer的新型模型,它是可解释的(非神经网络内在解释)、可干预的。backpack将单词转化为与上下文无关的意义向量,并通过加权和将它们聚合起来,从而允许进行精确的、可预测的干预。原创 2023-07-15 22:28:05 · 398 阅读 · 1 评论 -
Visual Programming: Compositional visual reasoning without training(CVPR2023)
研究者们提出了一种基于神经符号结合的新方法:VISPROG。利用提示学习中的上下文学习,使用GPT-3生成类似python的程序,这些程序通过调用现有的模型(比如CLIP、ViLT或者python库等,论文中成为模块)用来解决视觉各种任务。该方法是可解释的、可干预的,可以用于多种任务处理。原创 2023-07-15 21:18:18 · 544 阅读 · 1 评论