【数据挖掘】机器学习中相似性度量方法-余弦相似度

写在前面：
首先感谢兄弟们的订阅，让我有创作的动力，在创作过程我会尽最大能力，保证作品的质量，如果有问题，可以私信我，让我们携手共进，共创辉煌。

路虽远，行则将至；事虽难，做则必成。只要有愚公移山的志气、滴水穿石的毅力，脚踏实地，埋头苦干，积跬步以至千里，就一定能够把宏伟目标变为美好现实。

“相似性度量（similarity measurement）”系列文章：、
【数据挖掘】机器学习中相似性度量方法-欧式距离

Hello，大家好。

继续更新"相似性度量（similarity measurement）"系列文章，今天介绍的是余弦相似度。多的不说，少的不唠，下面开始今天的教程。

以下内容，完全是我根据参考资料和个人理解撰写出来的，不存在滥用原创的问题。

1、余弦相似度

余弦相似度（Cosine Similarity）是一种用于衡量两个非零向量之间角度 cosine 值的度量方法，以此来评估这两个向量在多维空间中的方向性相似度。它是通过计算两个向量的点积（内积）后，除以两个向量的模长（即长度）的乘积得到的。

2、计算公式

数学上，对于向量A=[$x_1,x_2,...,x_n$]和向量B=[$y_1,y_2,...,y_n$]，余弦相似度cos($\theta$)定义为：

$$Sim(A,B)=\cos (\theta )=\frac{\mathbf{A}\cdot \mathbf{B}}{\Vert \mathbf{A}\Vert \Vert \mathbf{B}\Vert }=\frac{{\sum }_{i=1}^n{A}_i{B}_i}{\sqrt{{\sum }_{i=1}^n{A}_i^2}\sqrt{{\sum }_{i=1}^n{B}_i^2}}$$

• A⋅B 表示向量 A 和向量 B 的点积
• ∥𝐴∥和 ∥B∥ 分别表示向量 A 和向量 B 的模（即长度）
• 𝜃是向量 A 和向量 B 之间的夹角

余弦相似度的值范围是 [-1, 1]：

• cos($\theta$)=1，表示向量A和B方向完全相同
• cos($\theta$)=-1，表示向量A和B方向完全相反
• cos($\theta$)=0，表示向量A和B正交，没有任何方向上的相似性

3、余弦距离

余弦距离(Cosine Distance)，从余弦相似度转换为距离概念，也是用来衡量两个向量间的相似性。余弦距离定义为：
$$d(A,B)=1-\cos (\theta )=1-\frac{\mathbf{A}\cdot \mathbf{B}}{\Vert \mathbf{A}\Vert \Vert \mathbf{B}\Vert }=1-\frac{{\sum }_{i=1}^n{A}_i{B}_i}{\sqrt{{\sum }_{i=1}^n{A}_i^2}\sqrt{{\sum }_{i=1}^n{B}_i^2}}$$

通过公式可以看到，余弦距离是由1减去余弦相似度得到的。

• 如果A和B两个向量完全相同，它们的余弦相似度是1，则余弦距离就是0，即A和B两个向量之间没有距离，完全一致
• 如果A和B两个向量完全相反，它们的余弦相似度是-1，则余弦距离就是2，即A和B两个向量之间距离最大

4、代码实现

编写代码实现余弦相似度或余弦距离，在Python中，可以使用numpy、scipy或者sklearn来计算两个向量之间的余弦相似度或余弦距离：

# -*- coding: utf-8 -*-
"""
Created on Fri Jun 14 22:36:45 2024

@author: AIexplore微信公众号
"""


import numpy as np
from sklearn.metrics.pairwise import cosine_similarity
from scipy.spatial.distance import cosine

import numpy as np

def cosine_similarity_v1(vector_a, vector_b):
    """
    计算两个向量的余弦相似度。
    
    参数:
    vector_a -- 第一个向量，类型为NumPy数组或列表
    vector_b -- 第二个向量，类型为NumPy数组或列表
    
    返回:
    两个向量的余弦相似度
    """
    # 将输入转换为NumPy数组（如果还不是的话）
    vector_a = np.array(vector_a)
    vector_b = np.array(vector_b)
    
    # 计算向量的点积
    dot_product = np.dot(vector_a, vector_b)
    
    # 计算向量的模长（欧几里得范数）
    norm_a = np.linalg.norm(vector_a)
    norm_b = np.linalg.norm(vector_b)
    
    # 防止除以零的错误
    if norm_a == 0 or norm_b == 0:
        return 0  # 如果任一向量为空，则认为相似度为0
    
    # 计算并返回余弦相似度
    return dot_product / (norm_a * norm_b)


def cosine_similarity_v2(vec1, vec2):
    vec1 = np.array(vec1)
    vec2 = np.array(vec2)
    # 计算余弦相似度
    cos_sim = 1 - cosine(vec1, vec2)  # cosine函数直接返回的是距离，所以用1减去得到相似度
    return cos_sim


def cosine_similarity_v3(vec1, vec2):
    vec1 = np.array([vec1])
    vec2 = np.array([vec2])
    sim = cosine_similarity(vec1, vec2)
    return sim[0][0]


# data
vec1 = [1, 2, 3]
vec2 = [4, 5, 6]

# 计算相似度
similarity = cosine_similarity_v1(vec1, vec2)
print("余弦相似度 v1:", similarity)

similarity = cosine_similarity_v2(vec1, vec2)
print("余弦相似度 v2:", similarity)

similarity = cosine_similarity_v3(vec1, vec2)
print("余弦相似度 v3:", similarity)

输出结果：

余弦相似度 v1: 0.9746318461970762
余弦相似度 v2: 0.9746318461970761
余弦相似度 v3: 0.9746318461970762

上面代码提供了三种实现方式，殊途同归，根据需要选择性使用。

5、应用场景

余弦相似度因其特性在多个领域和应用场景中扮演着重要角色，下面列举一些典型的应用场景：

• 推荐系统：在电商、短视频、音乐平台等推荐系统中，通过计算用户历史偏好向量（基于用户对项目的评分或互动）和待推荐项目特征向量之间的余弦相似度，可以发现与用户兴趣最为接近的项目，从而实现个性化推荐
• 图像识别与检索：在计算机视觉CV领域，将图像特征（如通过深度学习模型提取的特征向量等）映射到高维空间，利用余弦相似度来比较不同图像间的相似度，可以实现图像检索、图像分类以及内容相似的图像分组
• 聚类分析：在无监督学习的聚类任务中，余弦相似度可用作距离度量，帮助将具有较高相似性的数据点聚集在一起，形成有意义的簇

当然，还可以应用到文本相似性判断、信息检索、社交网络分析、文本分类、用户行为分析等。

参考文章

[1]https://www.cnblogs.com/BlogNetSpace/p/18225493
[2]https://blog.csdn.net/Hyman_Qiu/article/details/137743190
[3]https://blog.csdn.net/qq_39780701/article/details/137007729
[4]https://www.cnblogs.com/ghj1976/p/yu-xian-xiang-shi-ducosine-similarity-xiang-guan-j.html

写在最后

作者介绍：CSDN人工智能领域优质创作者，CSDN博客专家，阿里云专家博主，阿里云技术博主，有机器学习、深度学习、OCR识别项目4年以上工作经验，专注于人工智能技术领域。会根据实际项目不定期输出一些非商业的技术，内容不限，欢迎各位朋友关注。
1、关注下方公众号，让我们共同进步。
2、需要技术指导、交流合作，点击"关于我-与我联系"添加微信交流。