prompt 工程
文章平均质量分 95
clvsit
人生不是戏剧,而我亦非主角
展开
-
论文阅读:DQ-LoRe:Dual Queries with Low Rank Approximation Re-ranking for In-Context Learning
在本研究中,作者介绍了一种利用双查询和低秩近似重新排序(DQ-LoRe)的框架,以自动选择用于上下文学习的范例。双查询首先查询 LLM 以获得 LLM 生成的知识(如 CoT);然后查询检索器,通过问题和知识获得最终范例。此外,对于第二次查询,LoRe 采用了降维技术来完善范例选择,确保与输入问题的知识密切吻合。原创 2024-07-20 23:27:20 · 983 阅读 · 0 评论 -
论文阅读:RCoT Detecting and Rectifying Factual Inconsistency in Reasoning by Reversing Chain-of-Thought
本文提出的 RCoT 是一种能够让 LLM 自动检测和纠正事实不一致的方法,以提高 LLM 的推理能力。RCoT 通过对重构问题和原始问题进行细粒度比较来检测事实不一致,然后通过细粒度反馈要求 LLMs 纠正不一致。在七个算术推理数据集上的实验结果证明了 RCoT 的有效性。实验还显示,在人工编写的细粒度反馈的帮助下,LLM 的推理能力得到了令人鼓舞的提高,这鼓励了社区进一步探索细粒度反馈的生成。原则上,RCoT 可以应用于其他需要 CoT 解决方案的任务。原创 2024-05-17 21:37:04 · 934 阅读 · 1 评论 -
论文阅读:Self-Consistency Improves Chain of Thought Reasoning in Language Models
提出了自我一致性方法,先使用思维链 prompt,然后通过采样等手段获取多条输入,汇总答案(根据投票以及加权等方式),并选择最一致的答案。该方法受限于固定的答案集,并且计算成本较高(多条输出、推理路径)。但在算术和常识推理任务上能够提高准确性。原创 2024-05-14 17:12:32 · 1509 阅读 · 1 评论