清辉依次减-CSDN博客

原创 Augmented Language Models a Survey 翻译阅读与理解

大语言模型LLMs带来了广泛的变革，记忆和创作能力赋予了LLMs解决多种任务的可能。但是LLMs仍有许多不足和限制，诸如幻觉等。而且LLMs需要一定的规模，其持续的学习也是一个开放性问题。Goldberg*（Yoav Goldberg. Some remarks on large language models, 2023.）*在关于ChatGPT 的上下文中讨论了LLMs的其他不足。本文认为带来这些问题的原因之一是上下文的有限性，需要大规模存储上下文中不存在但手头任务所必需的知识。

2024-03-06 12:49:57 979

原创 REACT SYNERGIZING REASONING AND ACTING IN LANGUAGE MODELS翻译、阅读与理解

人类智能的一个独特特征是能够将任务导向的行为与言语推理(或内部言语，Alderson-Day & Fernyhough, 2015)无缝结合，理论上这在人类认知中发挥着重要作用，以实现自我调节或策略化(Vygotsky, 1987;仅有1965;Fernyhough, 2010)和维持工作记忆(Baddeley, 1992)。“行动”和“推理”之间的紧密协同作用使人类能够快速学习新任务，并执行强有力的决策或推理，即使是在预先看不见或面临信息不确定的情况下。

2024-01-08 00:02:32 1585

原创 Tool Learning with Foundation Models 阅读理解

本文对工具学习进行了系统的研究和全面的综述。首先介绍了工具学习的背景，包括它的认知起源，基础模型的范式转换，以及工具和模型的互补作用。总结已有的工具学习研究，提出了一个通用的工具学习框架:模型理解用户指令出发，学会将复杂的任务分解为若干个子任务，通过推理动态调整其计划，并通过选择合适的工具有效征服每个子任务。讨论如何训练模型以提高工具的使用能力，并促进工具学习的泛化。考虑到之前的工作缺乏系统的工具学习评估，文章对18个有代表性的工具进行了实验，并展示了当前基础模型在熟练使用工具方面的潜力。

2023-12-23 14:32:12 959

原创 Toolformer Language Models Can Teach Themselves to Use Tools 阅读理解

大型语言模型在各种自然语言处理任务上取得了令人印象深刻的few-shot结果，并展示了一些涌现能力。然而，所有这些模型都有一些固有的限制，这些限制最多只能通过进一步扩展来部分解决。这些限制包括无法获取最近事件的最新信息和相关的幻觉倾向，理解低资源语言的困难，缺乏进行精确计算的数学技能以及对时间进程的不了解。克服当今语言模型的这些限制的一个简单方法是赋予它们使用外部工具(如搜索引擎、计算器或日历)的能力。

2023-12-23 14:23:27 946

原创国科大——现代信息检索——期末复习

现代信息检索·查询文档相关性·检索评价·索引构建与压缩·通配查询与矫正·词项评分权重计算·相关反馈与权重计算·概率检索模型与语言模型·Web搜索·链接分析

2023-11-22 22:55:43 197

原创 Restructuring Company（并查集+区间合并优化）

Even the most successful company can go through a crisis period when you have to make a hard decision — to restructure, discard and merge departments, fire employees and do other unpleasant stuff. Let’s consider the following model of a company.There are.

2020-11-06 11:55:19 305

原创 PTA——名人堂与代金券

对于在中国大学MOOC（http://www.icourse163.org/ ）学习“数据结构”课程的学生，想要获得一张合格证书，总评成绩必须达到 60 分及以上，并且有另加福利：总评分在 [G, 100] 区间内者，可以得到 50 元 PAT 代金券；在 [60, G) 区间内者，可以得到 20 元PAT代金券。全国考点通用，一年有效。同时任课老师还会把总评成绩前 K 名的学生列入课程“名人堂”。本题就请你编写程序，帮助老师列出名人堂的学生，并统计一共发出了面值多少元的 PAT 代金券。输入格式：.

2020-10-26 19:17:52 274 1

原创 PTA——野生动物园

某野生动物园划分了 N 个园区，引进了 K 种动物。现动物园的领导希望将引进的动物们布满所有园区，但相邻的两个园区不要放同种动物。当然他们也意识到这是一个 NP 完全问题，所以并不指望你能解决。动物园方设计了多种分配方案，想请你写个程序帮助他们判断一下，每个方案是否可行？输入格式：输入在第一行给出 3 个整数 N（0<N≤500）、R（≥0）和 K（0<K≤N），分别是园区个数、相邻关系数、以及动物种类数。园区和动物都从 1 到 N 编号。随后 R 行，每行给出一对相邻园区的编号，以空.

2020-10-25 20:43:00 378

原创 PTA——推断学生所属学校的人数

某个比赛现场有来自不同学校的N名学生，给出M对“两人同属一所学校”的关系，请推断学校数量，并找出人数最多的学校。输入格式:第一行是一个在[2, 1000]范围的整数N，接下来N行，每行是一个在现场的学生的姓名，每个姓名仅由字母组成，长度不超过30。接下来一行是非负整数M，表示有M对关系；然后是M行，每行是用空格间隔的两个人名，表示同属一所学校。输出格式:在一行内分别输出学校的数量以及人数最多学校的人数，用一个空格分隔。输入样例:8BillEllenAnnChrisDais

2020-10-24 11:40:56 1219

原创 PTA-寻找孪生素数

数学家希尔伯特在1900年国际数学家大会的报告上提出一个“孪生素数猜想”，即：存在无穷多个素数p，使得p + 2是素数。p和p+2这一对差为2的素数，被称为“孪生素数”。看起来，这个猜想是成立的，我们总能找到很多对孪生素数，例如：3和5,5和7,11和13…… 这一猜想至今还未被证明。现在，对于给定的整数n，请寻找大于n的最小的一对孪生素数p和q（q=p+2）。输入格式:一个不超过7位数字的整数n。输出格式:在一行中输出 p q ，中间用空格间隔。输入样例:100输出样例:

2020-10-23 22:03:51 3131

原创洛谷p1028数的计算——记忆化搜索

题目链接p1028数的计算一开始以为这是到普通的递归题，结果写了半天竟然只过了前五个，其他全部TLE。果断看题解，发现正解是递推。这就很尴尬，本来自己递归思想就不是很熟练，想找题练练还找成了递推。但是有大佬说记忆化搜索也可以，正好最近也在学习记忆化搜索，就尝试了一下，通过。```cpp#include<bits/stdc++.h>using namespace std;int n;long long f[1005];//下标n，表示初始为n的满足条件的数的数量long lo

2020-09-27 20:18:24 136

原创矩形的数量 V3 51NOd-3036

题目链接：https://www.51nod.com/Challenge/Problem.html#problemId=3036一个m乘n的方格图，有多少个大小不同的正方形。例如：4*3的方格中共有20个，其中：1x1 12个2x2 6个3x3 2个输入共一行：2个数m,n，对应方格图的长宽（1 <= m, n <= 1e9）输出输出对应的矩形种类 Mod 1e9+7。数据范围1 <= m, n <= 1e9输入样例4 3输出样例20样例解释1x1

2020-09-18 15:24:45 889 1