相似度计算方法-余弦相似度 (Cosine Similarity)

xy2006860

于 2024-08-14 18:40:11 发布

阅读量1.5k

点赞数 29

文章标签：算法

本文链接：https://blog.csdn.net/xy2006860/article/details/141196571

版权

定义

余弦相似度（Cosine Similarity）是一种衡量两个非零向量之间角度的度量方法，通常用于文本分析、信息检索、推荐系统等领域。余弦相似度关注的是两个向量的方向而不是它们的大小，因此它可以很好地捕捉向量之间的相似性而不受向量长度的影响。

计算公式

假设我们有两个非零向量 A 和 B，它们的余弦相似度 cosine(A,B) 可以通过下面的公式计算：

$\text{cosine}(A, B) = \frac{\mathbf{A} \cdot \mathbf{B}}{|\mathbf{A}| |\mathbf{B}|}$

这里 A⋅B 是向量 A 和 B 的点积，∣A∣和 ∣B∣ 分别是向量 A 和 B 的模长。

向量的点积

给定两个向量 $\mathbf{a} = (a_1,\,a_2,\ldots,a_n)$ 和 $\mathbf{b} = (b_1,\,b_2,\ldots,b_n)$ ，它们的点积定义为：

$\mathbf{a} \cdot \mathbf{b} = a_1b_1+a_2b_2+\ldots+a_nb_n$

点积的几何意义

角度：两个向量的点积与它们之间的夹角 $\theta$ 有关，公式为： $\mathbf{a} \cdot \mathbf{b} = |\mathbf{a}||\mathbf{b}| \text{cos}(\theta)$ , 其中 $|\mathbf{a}|$ 和 $|\mathbf{b}|$ 分别是向量 $\mathbf{a}$ 和 $\mathbf{b}$ 的模长。

投影：向量 $\mathbf{a}$ 在向量 $\mathbf{b}$ 上的投影长度可以通过点积计算： $proj_b \mathbf{a} = \frac{\mathbf{a} \cdot \mathbf{b}}{|\mathbf{b}|}$

正交性：如果两个向量的点积为零，则这两个向量正交（垂直）。

向量的模长

对于一个n维向量 $\mathbf{v} = (v_1,v_2,\ldots,v_n)$ ，其模长定义为：

$|\mathbf{v}| = \sqrt{v_1^2+v_2^2+\ldots+v_n^2}$

换句话说，向量的模长等于其各分量平方和的平方根。

向量模长的几何意义

长度：向量的模长代表该向量在空间中的长度。

方向向量：模长为1的向量称为单位向量，单位向量保留了原向量的方向而没有长度的变化。

规范化：将一个向量除以其模长可以得到该向量的单位向量，这一过程称为向量的规范化。

余弦相似度的特点

范围：

余弦相似度的取值范围在 [−1,1][−1,1] 之间。

当两个向量完全相同（方向相同且模长相等）时，余弦相似度为 1。

当两个向量正交（垂直）时，余弦相似度为 0。

当两个向量方向相反时，余弦相似度为 -1。

（实际使用中，通常将取值 +1 再除以2，使值域保持在[0,1]之间）

忽略向量长度：

余弦相似度只关注向量的方向，不考虑向量的长度，因此可以很好地捕捉向量之间的相似性而不受向量长度的影响。

适用于高维数据：

余弦相似度在处理高维数据时表现良好，特别是在文本分析等场景中。

代码实现

public class CosineSimilarity {

    public static void main(String[] args) {
        double[] vector1 = {1.0, 2.0, 3.0};
        double[] vector2 = {4.0, 5.0, 6.0};

        double similarity = calculateCosineSimilarity(vector1, vector2);
        System.out.printf("The cosine similarity between the vectors is: %.2f\n", similarity);
    }

    /**
     * 计算两个向量之间的余弦相似度。
     *
     * @param vector1 第一个向量的坐标数组
     * @param vector2 第二个向量的坐标数组
     * @return 两个向量之间的余弦相似度
     */
    public static double calculateCosineSimilarity(double[] vector1, double[] vector2) {
        if (vector1.length != vector2.length) {
            throw new IllegalArgumentException("Vectors must have the same dimensions.");
        }

        // 计算点积
        double dotProduct = 0.0;
        for (int i = 0; i < vector1.length; i++) {
            dotProduct += vector1[i] * vector2[i];
        }

        // 计算向量的模长
        double magnitudeVector1 = 0.0;
        double magnitudeVector2 = 0.0;
        for (int i = 0; i < vector1.length; i++) {
            magnitudeVector1 += vector1[i] * vector1[i];
            magnitudeVector2 += vector2[i] * vector2[i];
        }
        magnitudeVector1 = Math.sqrt(magnitudeVector1);
        magnitudeVector2 = Math.sqrt(magnitudeVector2);

        // 计算余弦相似度
        return dotProduct / (magnitudeVector1 * magnitudeVector2);
    }
}

优劣势

优势

1. 忽略向量长度：
- 余弦相似度只关注向量的方向，不考虑向量的长度，因此可以很好地捕捉向量之间的相似性而不受向量长度的影响。
- 这使得余弦相似度在比较文档或特征向量时非常有用，特别是当向量长度差异较大时。

2. 适用于高维数据：
- 余弦相似度在处理高维数据时表现良好，尤其是在文本分析等场景中。
- 对于高维稀疏数据，余弦相似度通常比欧几里得距离更为合适，因为它仅考虑非零元素的贡献。

3. 计算简便：
- 余弦相似度的计算基于简单的数学公式，易于编程实现。
- 对于低维空间，计算速度较快。

4. 鲁棒性：
- 余弦相似度对异常值相对较为鲁棒，因为它基于向量的方向而不是它们的长度。
- 在处理含有噪声的数据时，这一点尤为重要。

5. 物理意义明确：
- 余弦相似度的取值范围在 [-1, 1] 之间，易于理解和解释。
- 当两个向量完全相同（方向相同且模长相等）时，余弦相似度为 1；当两个向量方向相反时，余弦相似度为 -1；当两个向量正交（垂直）时，余弦相似度为 0。

劣势

1. 不适用于所有类型的数据：
- 余弦相似度最适合于那些方向比长度更重要的数据。
- 当向量的长度对相似度判断很重要时，余弦相似度可能不是一个合适的选择。

2. 不考虑特征间的相关性：
- 余弦相似度假定所有特征之间是相互独立的，但在实际数据中往往是不成立的。
- 如果特征之间存在相关性，那么距离度量可能不能准确反映点之间的实际相似度。

3. 对非线性关系不敏感：
- 余弦相似度主要用于线性空间中的相似度度量，对于非线性空间中的数据，可能需要使用其他更复杂的方法。

4. 不适用于所有应用场景：
- 在某些特定的应用场景中，如需要考虑向量长度的情况，可能需要使用其他距离度量方法，如欧几里得距离或马氏距离等。

5. 计算资源需求：
- 对于非常大的数据集，计算余弦相似度可能需要较多的计算资源，尤其是在处理高维数据时。

应用场景

文本分析

文档相似度计算：
- 余弦相似度用于比较文档之间的相似性，通过计算文档向量（如词频向量）之间的余弦相似度，可以评估文档的相关性。
- 在信息检索中，用于检索与查询最相关的文档。
关键词提取：
- 通过比较文档中关键词的出现情况来识别相似文档。
情感分析：
- 在情感分析中，余弦相似度可以用于比较不同文本的情感倾向，帮助识别相似的情感表达。