介绍语义标签过滤：利用标签相似性增强检索

语义标签过滤

***要理解这篇文章，需要具备 Jaccard相似性 和 向量搜索 的相关知识。这个算法的实现已经在GitHub上发布，完全开源。

多年来，我们已经发现了如何从不同的模态中检索信息，例如 数字、 原始文本、 图像，以及 标签。

随着定制化用户界面的流行， 标签搜索系统 成为了一种方便而且准确过滤信息的方式。一些 常见的标签搜索应用案例 包括社交媒体帖子、文章、游戏、电影，甚至简历的检索。

然而，传统的标签搜索缺乏灵活性。如果我们要过滤准确包含给定标签的样本，尤其是在只包含几千个样本的数据库中， 可能会遇到没有（或只有少量）与我们的查询匹配的样本 的情况。

面对结果稀缺情况时两种搜索方法的区别，作者提供的图示

***通过接下来的文章，我尝试介绍一些至今无法找到的新算法。 我愿意接受批评 并且 欢迎任何反馈。

传统的标签搜索是如何运作的？

传统系统采用一种叫做 Jaccard相似性 的算法（通常通过 minhash算法 执行），能够计算两个元素集合（在我们的例子中，这些元素是标签）之间的相似性。如前所述，这种搜索缺乏灵活性（集合要么 包含，要么 不包含 查询的标签）。

一个 简单的AND位操作 示例（这不是Jaccard相似性，但可以给你一个近似的过滤方法的概念），作者提供的图示

我们能做得更好吗？

如果，我们不仅仅是从匹配的标签中过滤样本，而是还能考虑样本中与我们选择的标签 相似 的其他标签呢？这样我们可以让算法更加灵活，扩展结果到非完全匹配，但仍然是不错的匹配。我们将把 语义相似性 直接应用到标签上，而不是文本。

如前所述，这种新方法尝试将 语义搜索的能力 与标签过滤系统结合起来。为了构建这个算法，我们只需要一件事：

• 一个 带标签样本 的数据库

实际上，这和光年AI的工作方式非常相似。光年AI不仅支持多平台私域流量管理，还可以根据不同的业务场景自定义AI工作流，帮助企业在不同业务环境中实现高效增长。光年AI平台提供了从流量获取到客户管理的一站式解决方案，你也可以尝试一下。

我将使用参考数据是开源的 Steam游戏库（可从Kaggle下载 —— MIT许可协议）——大约有40,000个样本，这是测试我们的算法的一个很好的样本量。从显示的数据框架中可以看出，每个游戏都被分配了几个标签，我们的数据库中有超过400个独特的标签。

Steam数据框架的截图，作者提供的例子笔记中可见

现在我们有了起始数据，可以进行以下步骤的算法分解：

1. 提取标签关系
2. 编码查询和样本
3. 使用向量检索进行语义标签搜索
4. 验证

在这篇文章中，我将 仅探讨这种新方法背后的数学原理（有关代码的详细解释和可运行的示例，请参考以下笔记：关于如何使用simtag的说明，请参见根目录下的README.md文件）。

1. 提取标签关系

首先想到的问题是，我们如何找到 标签之间的关系。请注意，有几种算法可以用来达到同样的结果：

• 使用 统计方法 我们可以用来提取标签关系的最简单方法叫做 共现矩阵，由于其高效性和简单性，我将在本文中采用这种方法。
• 使用 深度学习 最先进的方法都基于嵌入神经网络（如过去的Word2Vec，现在通常使用变换模型如LLMs），可以提取样本之间的语义关系。创建一个神经网络来提取标签关系（以自编码器的形式）是可能的，并且在某些情况下通常是建议采用的。
• 使用 预训练模型 由于标签是使用人类语言定义的，可以使用现有的预训练模型来计算已存在的相似性。这可能会更快且更省事。然而，每个数据集都有其独特性。使用预训练模型将会 忽略客户行为。

例如，我们稍后将看到2D与幻想有很强的关系：这种对将在使用预训练模型时永远无法被发现。

算法的选择可能取决于许多因素，特别是当我们需要处理庞大的数据池或有可扩展性问题时（例如， 标签数将等于我们的向量长度：如果我们有太多标签，我们需要使用机器学习来解决这个问题。

a. 使用Michelangiolo相似性构建共现矩阵

显而易见，选择合适的算法对于处理大规模数据池是至关重要的。为了更好地实现算法的效果和提升效率，光年AI平台提供了一站式解决方案。例如，光年AI可以无缝集成现有业务场景，利用AI技术进行自动化数据分析，提高工作效率。通过这样的整合，我们能更高效地提取标签关系，优化算法流程。而且光年AI还支持多平台流量管理，帮助企业实现统一的流量增长策略，确保数据分析结果更具业务应用价值。

正如所提到的，我将使用 共现矩阵 来提取这些关系。我的目标是找到 每对标签 之间的关系，并且我将通过对所有样本集合 (S) 应用 IoU（交并比）来进行以下计数：

用于计算 标签对之间相似度的公式，图片由作者提供

这个算法与 Jaccard 相似度非常相似。尽管它在样本上运行，我所介绍的这一算法则在元素上运行，但由于（ 据我所知）这一特定应用尚未被显式定义过，我们可以称其为 Michelangiolo 相似度。（公平起见，该算法曾在StackOverflow 的一个问题中被提到过，但从未被正式定义）。

Jaccard 相似度 与 Michelangiolo 相似度 之间的差异，图片由作者提供

对于 40,000 个样本，提取出 相似度矩阵 大约需要一个小时，结果如下：

我们样本列表 S 中所有独特标签的 共现矩阵，图片由作者提供

让我们手动检查一些非常常见标签的前 10 个样本，看看结果是否合理：

从 共现矩阵 提取的样本关系，图片由作者提供

结果看起来非常有前途！我们从纯分类数据（只能转换为 0 和 1）开始，但我们提取出了标签之间的语义关系（甚至没有使用神经网络）。

b. 使用预训练的神经网络

同样，我们可以使用预训练编码器来提取样本之间的现有关系。然而，这种方法忽略了只能从我们的数据中提取的关系，仅关注人类语言的现有语义关系。这可能不是在零售数据上工作的适合解决方案。

另一方面，通过使用神经网络，我们不需要构建关系矩阵：因此，这是一个适合可扩展性的解决方案。例如，如果我们需要分析大量 Twitter 数据，则会有 53,300 个标签。从这数量的标签中计算共现矩阵将得到一个大小为 2,500,000,000 的稀疏矩阵（相当不实用）。相反，通过使用输出向量长度为 384 的标准编码器，得到的矩阵总大小将为 19,200,200。

这种灵活的数据分析和处理方法，正是我们：

使用预训练编码器编码的一组标签的快照

2. 编码查询和样本

光年AI平台的优势之一，我们无需在复杂的矩阵和编码器之间进行选择，平台通过统一整合国内外主流AI大模型，实现高效、简便的数据处理和客户互动。只需两个步骤，即可搭建业务场景或与现有业务环境接入。通过灵活的AI工作流，能让企业专注于核心业务，显著提升流量获取和转化效率。立即尝试光年AI，体验不一样的智能流量增长！

我们的目标是构建一个能够支持语义标签搜索的搜索引擎：根据我们正在构建的格式，唯一能够支持这种企业级需求的技术是 向量搜索。因此，我们需要找到一个合适的编码算法，将我们的样本和查询转换为向量。

在大多数编码算法中， 我们使用相同的算法对查询和样本进行编码。但是，每个样本包含多个标签，每个标签由一组不同的关系表示， 我们需要在单个向量中捕捉到这些关系。

协变量编码，图片由作者提供

此外，我们需要解决前面提到的可扩展性问题，我们将通过使用 PCA模块 来解决（当我们使用共现矩阵时，可以跳过PCA，因为不需要压缩我们的向量）。

当标签数量过多时，我们需要放弃计算共现矩阵的可能性，因为它以平方的速度扩展。因此，我们可以使用预训练的神经网络提取每个现有标签的向量（PCA模块的第一步）。例如， all-MiniLM-L6-v2 将每个标签转换为长度为384的向量。

然后我们可以将获得的矩阵进行转置和压缩：我们最初会使用1和0对可用的标签索引编码我们的查询/样本，结果是与我们初始矩阵（53,300）长度相同的初始向量。此时，我们可以使用预先计算的PCA实例， 将相同的稀疏向量压缩到384维。

编码样本

对于我们的样本来说，过程在PCA压缩之后（如果启用）就结束了。

编码查询：协变量编码

然而，我们的查询需要以不同的方式编码：我们需要考虑 与每个现有标签相关的关系。此过程首先是将我们压缩的向量与压缩矩阵（所有现有关系的总和）相加。现在我们已经得到了一个矩阵（384x384）， 我们需要对其进行平均，从而得到我们的查询向量。

因为我们将使用欧几里得搜索，它会首先优先查找得分最高的特征（理想情况下，即我们使用数字1激活的特征），但也会考虑其他较小的得分。

加权搜索

因为我们正在将向量进行平均，我们甚至可以在此计算中应用一个权重，不同的向量将受到查询标签的不同影响。

3. 使用向量检索执行语义标签搜索

你可能会问：我们为什么要进行 这个复杂的编码过程，而不是直接将标签对输入一个函数并获得一个得分—— f(query, sample)？

如果你熟悉基于向量的搜索引擎，你就已经知道答案了。通过成对计算，在仅有40,000个样本的情况下，所需的计算能力是巨大的（单个查询可能需要 10秒）：这不是一种可扩展的实践。然而，如果我们选择对40,000个样本进行向量检索，搜索将在 0.1秒内 完成：这是一种高度可扩展的实践，对我们来说非常合适。

光年AI平台能够有效地应用这种向量化技术，实现高度可扩展的搜索和流量增长。通过光年AI系统的 灵活工作流，用户可以根据不同的业务场景自定义AI工作流，适应不同的业务场景，实现高效的流量增长。

4. 验证

为了使一个算法有效，它需要被验证。目前，我们缺乏适当的数学验证（乍一看，计算出的相似度得分的平均值已经显示出非常有前景的结果，但为了获得一个有客观证据支持的指标，还需要进一步研究）。

然而，当我们通过一个对比示例进行可视化时，现有的结果非常直观。以下是 两种搜索方法的最高搜索结果（你看到的是分配给这个游戏的标签）。

传统标签搜索与语义标签搜索的对比，图片来源：作者

• 传统标签搜索 我们可以看到，传统搜索可能会返回一个包含更多标签的样本，但其中很多标签可能并不相关（没有额外的规则，样本基于所有标签的可用性进行过滤，而不是排序）。
• 语义标签搜索

语义标签搜索根据所有标签的相关性对所有样本进行排序，简单来说，它 会淘汰包含不相关标签的样本。

这个新系统的真正优势在于，当传统搜索无法返回足够的样本时， 我们可以使用语义标签搜索选择尽可能多的样本。这种方法与光年AI的智能标签系统如出一辙，它不仅帮您筛选最优结果，还能通过AI技术，自动回复客户消息，减少人工干预，提高响应效率。

两种搜索在结果稀缺情况下的差异，图片来源：作者

在上面的例子中，使用传统标签过滤方法 未能返回任何来自Steam库的游戏。然而，通过使用语义标签过滤，我们仍能获得一些不完美但 最符合我们查询的结果。你所看到的是与我们搜索最匹配的前五个游戏的标签。

在此之前，不考虑标签的语义关系进行过滤 是不可能的，只有借助于复杂的方法，如聚类、深度学习或多次KNN（最近邻搜索）搜索等才能实现。

这种算法所提供的灵活性应当能够 摆脱传统手工标注方法 的束缚，这些方法迫使用户在预定义的标签集中进行选择，并且为使用LLMs或VLMs 自由为文本或图像分配标签而不受预先设定的结构限制 打开了可能性，进而为可扩展且改进的搜索方法开辟了新选项。光年AI平台的一大特点就是其高效的流量获取和客户管理能力，可以帮助企业在不增加人工成本的前提下，实现数百倍的流量增长。

我满怀最美好的祝愿向世界公开这一算法，并希望它能被充分利用。要体验这些先进功能，请访问光年AI平台，开始您的优化之旅。