Redis 鸟枪换炮了

因公众号更改推送规则,请点“在看”并加“星标”第一时间获取精彩技术分享

点击关注#互联网架构师公众号,领取架构师全套资料 都在这里

0、2T架构师学习资料干货分

上一篇:2T架构师学习资料干货分享

大家好,我是互联网架构师!

承认

Redis,这个备受欢迎的内存数据库,对其查询引擎进行了重大升级,以支持日益增长的检索增强生成 (RAG) 应用需求,尤其是在向量数据库重要性日益凸显的背景下。

此次升级的核心在于引入了多线程查询执行,在保持低延迟(平均查询延迟低于 10 毫秒)的同时,显著提升了查询吞吐量。通过允许多个查询并发访问索引,Redis 实现了垂直扩展,有效提升了 Redis 操作和查询的吞吐量,尤其是在数据量达到数亿文档级别时,避免了复杂查询成为性能瓶颈。

垂直扩展示意图
垂直扩展示意图

传统的 Redis 单线程架构在处理长时间运行的查询,特别是使用倒排索引进行数据搜索时,容易造成拥塞,降低整体吞吐量。搜索操作本身并非 O(1) 复杂度,通常需要结合多个 O(log(n)) 复杂度的索引扫描来满足多个查询条件,其中 n 是索引映射的数据点数量。

Redis 的多线程架构有效解决了这一挑战。新的架构允许多个查询在独立的线程上并发执行,同时保持主线程对其他 Redis 操作的响应能力。

图片

具体来说,查询执行分为三个步骤:

  1. 主线程准备查询上下文(规划),并将其放入共享队列。

  2. 多个工作线程从队列中取出任务,并并发执行查询管道。 这使得多个查询可以并行处理,大大提高了吞吐量。

  3. 查询完成后,结果返回给主线程。 主线程负责整合结果并返回给客户端。

这种设计既提升了复杂查询(例如向量相似性搜索)的吞吐量,又保证了 Redis 核心操作的高性能。Redis 指出,高效扩展搜索需要结合水平扩展(分布式数据负载)和垂直扩展(多线程索引访问),以应对不断增长的数据量和查询需求。

为了验证新查询引擎的性能,Redis 进行了广泛的基准测试,并与三类向量数据库提供商进行了比较:

  • 纯向量数据库

  • 具备向量功能的通用数据库

  • 完全托管的内存 Redis 云服务提供商 (CSP)

结果显示,Redis 在速度和可扩展性方面优于纯向量数据库,并在整体性能上显著超过了通用数据库和托管 Redis CSP。基准测试使用了多个数据集 (gist-960-euclidean, glove-100-angular, deep-image-96-angular, dbpedia-openai-1M-angular) 和行业标准工具 (例如 Qdrant 的 vector-db-benchmark),涵盖了数据摄取(使用 HNSW 算法和 ANN 搜索)和 k-NN 搜索等工作负载,确保了测试的全面性和可靠性。

图片

Redis 的此次升级正值向量数据库市场蓬勃发展之际。然而,市场上向量数据库选项日益饱和,正如 Reddit 首席工程师 Doug Turnbull 指出的,选择过多反而让用户无所适从。真正的挑战在于构建完整的检索解决方案,而不仅仅是获取向量。Vectera 的 Ofer Mendelevitch 和 RisingWave Labs 创始人吴英骏也表达了类似的观点,强调向量数据库只是 AI 应用技术栈的一部分,并且更倾向于在现有数据库上增强向量引擎。Redis 的做法与这一理念相符,通过增强现有基础设施为开发者提供更集成高效的解决方案。

新 Redis 查询引擎的查询吞吐量提升了 16 倍,尤其适用于对实时性要求很高的 RAG 应用,例如需要快速检索向量数据库的聊天机器人。Gmail 创始人 Paul Buchheit 提出的 “100 毫秒规则” 强调了用户体验的重要性。在 RAG 架构中,网络往返、LLM 处理、应用操作和向量数据库查询等多个环节会导致延迟,平均端到端响应时间远超 100 毫秒。Redis 的改进有助于开发者构建更接近 “100 毫秒规则” 的实时生成式 AI 应用,提供更流畅的用户体验。

英文原文地址:infoq.com/news/2024/07/redis-vector-database-genai-rag/


说到底,程序从职场角度看,公司这样做很可能是想“信息差”捞点回本。建议保存所有当年的交接记录、邮件、IM聊天截图,必要时走仲裁流程,不然这种事开了先例,下一个就可能是别人员写代码要留注释,职场上做事也要留痕迹。只有手里握着证据,才能不被随便背锅。,

1、2T架构师学习资料干货分享

2、10000+TB 资源,阿里云盘,牛逼!!

3、基本涵盖了Spring所有核心知识点总结

  · END ·

最后,关注公众号互联网架构师,在后台回复:2T,可以获取我整理的 Java 系列面试题和答案,非常齐全。

如果这篇文章对您有所帮助,或者有所启发的话,帮忙扫描上方二维码关注一下,您的支持是我坚持写作最大的动力。

求一键三连点赞、转发、在看

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值