Causal Reasoning and Large Language Models: Opening a New Frontier for Causality

最新推荐文章于 2024-10-18 11:21:51 发布

UnknownBody

最新推荐文章于 2024-10-18 11:21:51 发布

阅读量235

点赞数

文章标签：语言模型人工智能自然语言处理

本文链接：https://blog.csdn.net/c_cpp_csharp/article/details/132854314

版权

LLM 日更专栏收录该内容

828 篇文章 3 订阅

已下架不支持订阅

本文探讨大型语言模型（LLM）在因果推理中的作用，发现LLM在因果发现、反事实推理和实际因果关系识别上展现出先进性能，但同时也存在不可预测的故障模式。LLM利用自然语言处理能力，模仿人类领域知识，为因果分析带来新视角，有望减轻图形发现和效果推理中的人力负担，促进因果方法的广泛应用。

摘要由CSDN通过智能技术生成

本文是LLM系列文章，针对《Causal Reasoning and Large Language Models:
Opening a New Frontier for Causality》的翻译。
@TOC

摘要

大型语言模型（LLM）的因果能力是一个有重大争议的问题，对LLM在医学、科学、法律和政策等具有社会影响力的领域的使用具有重要意义。考虑到不同类型的因果推理任务之间的区别，以及结构和测量有效性的纠缠威胁，我们进一步理解了LLM及其因果含义。我们发现，基于LLM的方法在多个因果基准上建立了新的最先进的准确性。基于GPT-3.5和4的算法在成对因果发现任务（97%，增加13分）、反事实推理任务（92%，增加20分）和实际因果关系（在小插曲中确定必要和充分原因的准确率为86%）方面优于现有算法。同时，LLM表现出不可预测的故障模式，我们提供了一些技术来解释它们的稳健性。
至关重要的是，LLM在执行这些因果任务的同时，依赖于与非基于LLM的方法不同且互补的知识来源和方法。具体而言，LLM带来了迄今为止被理解为仅限于人类的能力，例如使用收集的知识生成因果图或从自然语言中识别背景因果上下文。我们设想LLM与现有的因果方法一起使用，作为人类领域知识的代理，并减少人类在建立因果分析方面的努力

了解本专栏