Pytorch计算余弦相似度距离——torch.nn.CosineSimilarity函数中的dim参数使用方法

PyTorch中CosineSimilarity计算高维特征相似度
原创 已于 2022-10-18 12:04:51 修改 · 1.4w 阅读 · 9 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#python #机器学习 #pandas

于 2022-10-18 12:03:07 首次发布

前言

前言

现在要使用Pytorch中自带的torch.nn.CosineSimilarity函数计算两个高维特征图(B,C,H,W)中各个像素位置的特征相似度，即特征图中的每个像素位置上的一个(B,C,1,1)的向量为该位置的特征，总共有BxHxW个特征。

一、官方函数用法

        意思是 dim参数指定了函数在哪个维度上进行余弦距离计算，计算之后该维度会消失，而其他维度的形状保持不变。但是现有的大多数博客将dim的用法复杂化，因此这里进行简单的实验验证，来验证一下上述说法。

二、实验验证

1.计算高维数组中各个像素位置的余弦距离

创造高维数组，在通道维度（即dim=1）上进行向量的余弦距离计算，并查看其中第一批数据中的位置(0,0)

最低0.47元/天 解锁文章
多维欧氏距离 余弦相似度 余弦距离 向量求模（范数）计算 pytorch实现
weixin_39417324的博客
12-16 1607
https://blog.csdn.net/weixin_41811314/article/details/121786787
python distance matrix_python | 实现多行向量(matrix)两两计算余弦距离、欧几里德距离...
weixin_39774682的博客
01-28 538
余弦距离与欧几里德距离都是常用的距离度量方式。关于两个向量之间求距离的能找到很多的参考材料，这里就不再赘述了。在项目中用到了两个矩阵的多行向量需要计算两两之间的距离，就在这里做一个分享。一 余弦距离直接上代码啦：def cosine_distance(matrix1,matrix2):matrix1_matrix2 = np.dot(matrix1, matrix2.transpose())mat...
torch cosine_similarity 批量两两计算cos值
Yonggie的博客
05-20 2996
目的 像sklearn里面有pairwise，里面的cosine_similarity可以计算两两之间的cos值。 具体来说，对于x=[a=(1,2,3,4),b=(2,3,4,5)]x=[a=(1,2,3,4),b=(2,3,4,5)]x=[a=(1,2,3,4),b=(2,3,4,5)]这样shape是（2,4）的变量作为输入，其输出是[[cos(a,a),cos(a,b)],[cos(b,a),cos(a,b)]][[cos(a,a), cos(a,b)],[cos(b,a),cos(a,b)]][[
Pytorch框架中余弦相似度（Cosine similarity）、欧氏距离（Euclidean distance）源码解析
周周周周周大帅的博客
12-29 1万+
一、矩阵操作用于计算余弦相似度 余弦相似度： 我们知道，分子是矩阵的乘法，分母是两个标量的乘积。分母好办，关键是如何在计算分子？很简单，我们可以将公式变变形： 那么我们只需在矩阵乘法前，使其归一化，乘法之后就是余弦相似度了,来看一下代码（参考：https://zhuanlan.zhihu.com/p/383675457） import torch ##计算两个特征的余弦相似度 def normalize(x, axis=-1): x = 1. * x / (torch.nor
余弦距离及高维数据相似度计算介绍
weixin_46713695的博客
08-03 4273
余弦距离介绍
Pytorch nn.CosineEmbeddingLoss() 学习
热门推荐
weixin_44385551的博客
07-30 1万+
cosine损失 1. 余弦相似度的计算 pytorch存在一个计算两个向量的余弦相似度的方法，torch.cosine_similarity 输入：(N,D)(N, D)(N,D)和(N,D)(N, D)(N,D)，返回(N)(N)(N)。 2. cosine损失的计算 Pytorch自带的Loss为：CosineEmbeddingLoss 公式： 详情见官方文档 3.代码实现 这里用两种不同的方式实现了cosine loss的功能。 import torch import torch.nn as nn
pytorch cuda 欧式距离 矩阵运算
My Honor！ My World！
09-19 3376
输入为tensor矩阵向量 欧式距离 def get_elu_dis(data): return torch.sqrt((-2*data.mm(data.t()))+torch.sum(torch.square(data),axis=1,keepdim=True)+torch.sum(torch.square(data.t()),axis=0,keepdim=True)) 余玄距离 def get_cos_dis(sentences_vec): sentences_vec = senten
Pytorch——余弦相似度、欧式距离(PairwiseDistance,vector_norm,cdist)
Hali_Botebie的博客
05-06 3902
设a,b分别为两个tensor。
PyTorch学习笔记（二）——torch.nn解析
Candyerer的博客
01-27 3169
PyTorch提供了方便漂亮的类和模块，来帮助我们创建和训练神经网络，例如 torch.nn, torch.optim 等。 为了更好地理解这些模块的功能和原理，我们在手动搭建的神经网络上，逐步添加这些模块，以显示每部分模块的功能，以及每部分是如何让代码更加灵活简洁的。 1、手动搭建神经网络 使用MNIST数据集，该数据集共有50000个图片，每一图片大小为2828，储存在长度为2828=784的扁平行。 #定义权重和偏执值,需要requires_grad=True，以便自动计算梯度，完成反馈 weight
Pytorch损失函数-torch.nn.NLLLoss()
fan_fan_feng的专栏
08-06 892
交叉熵损失函数的定义如下：就是我们预测的概率的对数与标签的乘积，当qk->1的时候，它的损失接近零。
pytorch计算余弦相似度需要注意的一个问题
nihate的专栏
05-26 1万+
最近在知乎上看到一篇文章，里面讲到在pytorch里自带有计算余弦相似度的函数F.cosine_similarity（或者torch.cosine_similarity函数）。而在此之前，我计算两个张量的余弦相似度的做法是把张量转换到numpy，然后用scipy库（或者sklearn库）里提供的计算余弦相似度函数来做计算的。不过，在今天我发现使用F.cosine_similarity函数计算两个张量的余弦相似度的输出值与把张量转换到numpy然后用scipy库计算的输出值不一样。示例代码如下： impo
pytorch里面的nn库：torch.nn.modules、torch.nn.functional、torch.nn.parameter、torch.nn.Sequential
Amanda_python的博客
01-09 1650
torch.nn是专门为神经网络设计的模块化接口 torch.nn构建与autograd之上，可以用来定义和运行神经网络 介绍一下四大库：torch.nn.modules、torch.nn.functional、torch.nn.parameter、torch.nn.Sequential torch.nn.modules ************torch.nn.modules************* torch.nn.MSELoss torch.nn.CrossEntropyLoss torch.nn
深度学习pytorch计算cosine距离
weixin_43749213的博客
06-02 516
先对数据进行L2归一化再计算点积就是余弦距离。
PyTorch：向量相似度度量、距离度量
皮皮blog
04-22 5904
两个张量之间的欧氏距离 即m*e和n*e张量之间的欧式距离 理论分析 算法实现 import torch def euclidean_dist(x, y): """ Args: x: pytorch Variable, with shape [m, d] y: pytorch Variable, with shape [n, d] Returns: dist: pytorch Variable, with shape [m, n] ...
深度学习分类、识别等任务常用的余弦距离和对应的PyTorch代码
我的博客有点东西
11-01 4163
余弦距离常常在人脸识别，图像分类，行人重识别中应用。自从centerNet可视化了softmax loss之后，人们得知神经网络的输出空间原来是呈现原点向外发散状，分类结果是可以通过判断两个样本在输出空间对应的向量之间的夹角来得知是否是同一类样本。这个夹角就是所谓的余弦距离，夹角越小，两个样本越相似。 预备的数学知识 cos曲线： 比如现在有样本A,B，对应在输出空间的特征向量分别是...
torch.nn.functional.cosine_similarity计算相似度
星星超幸运的博客
06-21 929
torch余弦相似度计算
PyTorch 简单易懂的实现 CosineSimilarity 和 PairwiseDistance - 距离度量的操作
CDBmax的博客
01-07 3719
和。模块专注于计算两个高维数据集之间的余弦相似度，适用于评估文档、用户偏好等在特征空间中的相似性。而模块提供了一种计算两组数据点之间成对欧几里得距离的有效方式，这在聚类、近邻搜索或预测与实际值之间距离度量的场景中非常有用。这两个模块共同构成了在多种机器学习和数据科学应用中处理和比较数据集的基础工具。
pytorch 计算cosine余弦相似度
zl_gao的搬砖记录
04-18 2688
import torch.nn.functional as F F.cosin_similarity(a,b,dim=1) 沿着dim维度对a,b两个tensor计算余弦相似度。由于dim属性的存在，使得a,b两个tensor可以为任意维。
【python深度学习】相似性度量(余弦距离)示例|内积计算torch.mul()|范数计算torch.norm()
steptoward的博客
05-20 358
由于torch.norm默认使用的是L2范数，这里直接使用就可以；如果需要使用L1范数， 使用norm_type来指定。下面一段函数，功能是对输入的特征描述子desc1、desc2做余弦相似度的计算。向量A=[a1,a2,…an]，B=[b1,b2…内积, 即将矩阵中的对应位置相乘, 再逐一相加的结果。: 对desc1和desc2做。
torch.nn.CosineSimilarity
最新发布
09-10
torch.nn.CosineSimilarity是PyTorch中用于计算余弦相似度的函数。余弦相似度用向量空间中两个向量夹角的余弦值作为衡量两个个体间差异的大小，余弦值越接近1，表明夹角越接近0度，即两个向量越相似，该函数利用的就是这一理论思想，通过计算两个向量夹角的余弦值来衡量向量之间的相似度值[^4]。 以下给出使用示例： ```python import torch import torch.nn.functional as F import math # 定义输入张量 a = torch.tensor([[1, 2], [3, 4]], dtype=torch.float) b = torch.tensor([[5, 6], [7, 8]], dtype=torch.float) # 自定义函数计算余弦相似度 def check(vec_a, vec_b): dot = 0 for i in range(len(vec_a)): dot += vec_a[i]*vec_b[i] vec_a_sq_sum = math.sqrt(sum([item*item for item in vec_a])) vec_b_sq_sum = math.sqrt(sum([item*item for item in vec_b])) return dot/(vec_a_sq_sum*vec_b_sq_sum) # 使用dim=0计算余弦相似度 res_0 = F.cosine_similarity(a, b, dim=0) check1_0 = check([1,3], [5,7]) check2_0 = check([2,4], [6,8]) print("dim=0时F.cosine_similarity计算结果:", res_0) print("dim=0时自定义函数计算结果:", check1_0, check2_0) # 使用dim=1计算余弦相似度 res_1 = F.cosine_similarity(a, b, dim=1) check1_1 = check([1,2], [5,6]) check2_1 = check([3,4], [7,8]) print("dim=1时F.cosine_similarity计算结果:", res_1) print("dim=1时自定义函数计算结果:", check1_1, check2_1) ``` 对于二维矩阵，dim=0表示对应列的列向量之间进行cos相似度计算；dim=1表示对应行的行向量之间进行cos相似度计算[^3]。
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值