前字节员工跳槽,面了 40 多家才拿到一个 offer,还是降薪 60%,大厂如此,更别提中小厂了。。。目前这种形势,最好的策略就是苟住本职工作,锻炼自身技能,同时发展副业,降低负债,度过经济下行期,主旋律就是活下去。
今天我们来聊聊 RRF(Reciprocal Rank Fusion),如果你简历上写了 RAG 的内容,一定要清楚以下 RRF 相关的问题。
想象一下这样一个场景,你正准备接受一场关于大模型中 RRF 的面试。面试官笑容满面地走进来,手里拿着你的简历,目光停留在“精通 RRF”这几个字上。你写的这个精通,可能是加分项,也可能是陷阱。
这时候,面试官可能就要开始炮轰你了!比如说,“老铁(niuma),既然你在简历里写着精通 RRF,那我可得好好考考(weinan)你。”
此时,你就得准备好接招,给出惊艳的回答。那么面试官到底会问些啥,面对这些问题阁下又该怎么应对呢?
01
什么是RRF?
面试官一上来可能就会问你这个问题,这是个很基础但也很关键的问题。
你可以这样轻松应对,简单来说 RRF 是一种排名融合方法,主要用于将多个检索器的结果合并成一个统一的排名。
在 RAG(检索增强生成)系统中,这非常关键,因为不同的检索器可能会有不同的优势和不足,通过RRF可以结合它们的长处,提供更精准的结果。
具体来说,RRF 使用一个公式来计算每个文档的总得分:
这里,d 是文档,R 是检索器的集合,k 是一个常数,通常取 60,r(d)是文档在某个检索器中的排名。
02
为什么选择这个公式?它的优势是什么?
上面你无意间抛出了RRF的计算公式,这时面试官就会称热打铁继续追问,既然你选择这个公式,那请你详细给我讲讲选择这个公式的原因以及它的优势所在。
这时,你内心窃喜,接下来就为他好好说道说道,这个公式的妙处在于它使用了倒数排名(Reciprocal Rank),即:
这样,排名越高的文档贡献的得分越大,这有助于确保多个检索器共同认为重要的文档在最终排名中占据优先位置。
同时,随着排名的增加,贡献得分的增速会减缓,这意味着排名 1 和排名 2 之间的差异比排名 100 和 101 之间的差异更显著。
另外,常数k 起到了平滑因子的作用,防止单个检索器对结果的主导性太强,还能更好地处理排名相近的文档。
03
你提到的k=60是怎么来的?
既然提到了常数k,面试官肯定不会就这么被你唬住,而是会对你施加更深层的拷问,你我给好好解释一下 k=60 的出处。
你当然不会被难倒,脱口而出回答到这个值主要是基于经验和实际效果的考量,k=60 在多种数据集和检索任务中表现良好,它在高排名和低排名项的影响之间提供了良好的平衡。
比如说,排名 1 时的得分是:
排名 10 时是:
排名 100 时是:
这帮助我们在高排名和低排名项之间找到一个平衡点,确保平局时能有效区分。
04
RRF在RAG系统中的实际应用流程?
对于你自己熟悉的 RRF,在丝滑流畅的答完上面几个问题后,现在面试的节奏基本就握在了你手里。 最后面试官必定会问RRF 在 RAG 系统中的实际应用。
这个问题考察的就是你是否真的吃透了 RRF 在 RAG 中的应用原理。你可以稍微梳理一下思路,给出清晰准确的回答。
RRF 在 RAG 系统中的应用可以分为几个步骤:
- 用户输入查询,系统开始处理。
- 查询被发送到多个检索器,这些检索器可以是不同的检索模型,例如密集型、稀疏型或者混合型。
- 每个检索器生成自己的相关文档排名。
- 使用 RRF 公式将所有检索器的排名结合起来,计算每个文档的总得分。
- 根据 RRF 得分生成最终的统一排名。
- 最后,生成模型使用排名靠前的文档来生成最终的答案。
通过这样的流程,RRF 能有效地综合多个检索器的结果,提高 RAG 系统的整体性能和准确性。
在这场关于 RRF 在 RAG 系统中的面试中,如果你能清晰准确地回答上述问题,展现出扎实的知识储备和清晰的思路,那通过的概率就很大啦。要记住,如果不是基础知识,一般是不会扣分的。
有时候,公司要求“懂 RRF 技术”,可能是面试官的话术陷阱。但最忌讳的就是说谎,猜中了或许没事,可猜不中,你觉得面试官会怎么想?所以,保持真诚和专业,才能在面试中脱颖而出!
如何学习大模型
现在社会上大模型越来越普及了,已经有很多人都想往这里面扎,但是却找不到适合的方法去学习。
作为一名资深码农,初入大模型时也吃了很多亏,踩了无数坑。现在我想把我的经验和知识分享给你们,帮助你们学习AI大模型,能够解决你们学习中的困难。
我已将重要的AI大模型资料包括市面上AI大模型各大白皮书、AGI大模型系统学习路线、AI大模型视频教程、实战学习,等录播视频免费分享出来,需要的小伙伴可以扫取。
![](https://img-blog.csdnimg.cn/img_convert/d0da5fa15c3e4e2aaa25448be276ebcb.png)
一、AGI大模型系统学习路线
很多人学习大模型的时候没有方向,东学一点西学一点,像只无头苍蝇乱撞,我下面分享的这个学习路线希望能够帮助到你们学习AI大模型。
二、AI大模型视频教程
三、AI大模型各大学习书籍
四、AI大模型各大场景实战案例
五、结束语
学习AI大模型是当前科技发展的趋势,它不仅能够为我们提供更多的机会和挑战,还能够让我们更好地理解和应用人工智能技术。通过学习AI大模型,我们可以深入了解深度学习、神经网络等核心概念,并将其应用于自然语言处理、计算机视觉、语音识别等领域。同时,掌握AI大模型还能够为我们的职业发展增添竞争力,成为未来技术领域的领导者。
再者,学习AI大模型也能为我们自己创造更多的价值,提供更多的岗位以及副业创收,让自己的生活更上一层楼。
因此,学习AI大模型是一项有前景且值得投入的时间和精力的重要选择。