超级会员免费看
本文讨论了向量数据库在大模型应用中的使用，指出是否需要向量数据库取决于项目对矢量存储与查询的依赖程度。在某些场景下，Python库如Numpy可能更为高效，而AutoGPT等项目选择不使用向量数据库，表明关注价值创造而非过度技术化的重要性。向量数据库的角色和未来在AI领域的地位仍有待观察。
假设大语言模型需要 10 秒钟才能生成一条结果，即需要存储的单条新记忆。那么我们获得 10 万条记忆的时间周期将为：100000 x 10 秒 = 1000000 秒——约等于 11.57 天。而即使我们用最简单的暴力算法（Numpy 的点查询），整个过程也只需要几秒钟时间，完全不值得进行优化！也就是说，我们就连近似最近邻搜索都不需要，更不用说向量数据库了。
那么我们应该如何为自己的项目选型？吴英骏老师认为，对于任何大模型应用，是否需要选用矢量数据库，完全取决于该应用对于矢量存储与查询的依赖程度。
“对于需要存储大量矢量的场景，如海量图像检索、音视频检索等，很显然使用矢量数据库可以获得更加强大、专业的功能，而对于数据量并没有那么大的场景来说，还不如使用 Numpy 等 Python 库计算来的高效、便捷。实际上，在矢量数据库这个赛道上，也分为轻量级矢量数据库以及重量级矢量数据库等，到底是选择 PostgreSQL 上的 pgvector 插件还是选择一个专用的分布式矢量数据库，也是需要对于特定应用做出具体分析之后再做出决策。”
这个说法也符合如今 AutoGPT 项
订阅专栏 解锁全文
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
