注意力权重的可视化

最新推荐文章于 2024-08-13 18:41:26 发布

爱生活的椰子

最新推荐文章于 2024-08-13 18:41:26 发布

阅读量2k

点赞数 5

文章标签： python 开发语言

本文链接：https://blog.csdn.net/qq_43971271/article/details/131233208

版权

随想，将四个向量经过注意力机制输出后，会获得这四个向量之间相关权重矩阵，怎么可视化？

[
    [0.2276, 0.2630, 0.2277, 0.2186],
    [0.3037, 0.1941, 0.2014, 0.2605],
    [0.2428, 0.2346, 0.2105, 0.3160],
    [0.2364, 0.2941, 0.2894, 0.1616]
]

使用Python中的matplotlib库。下面是一个使用matplotlib绘制热力图的示例代码：

import matplotlib.pyplot as plt
import numpy as np

# 定义权重矩阵
weights = np.array([
    [0.2276, 0.2630, 0.2277, 0.2186],
    [0.3037, 0.1941, 0.2014, 0.2605],
    [0.2428, 0.2346, 0.2105, 0.3160],
    [0.2364, 0.2941, 0.2894, 0.1616]
])

# 绘制热力图
plt.imshow(weights, cmap='hot', interpolation='nearest')

# 添加颜色栏
plt.colorbar()

# 设置横轴和纵轴标签
plt.xlabel('Columns')
plt.ylabel('Rows')

# 显示图形
plt.show()

在这里插入图片描述

以下是使用seaborn绘制热力图的示例代码：

import seaborn as sns
import numpy as np

# 定义权重矩阵
weights = np.array([
    [0.2276, 0.2630, 0.2277, 0.2186],
    [0.3037, 0.1941, 0.2014, 0.2605],
    [0.2428, 0.2346, 0.2105, 0.3160],
    [0.2364, 0.2941, 0.2894, 0.1616]
])

# 绘制热力图
sns.heatmap(weights, cmap='hot', annot=True, fmt=".2f")

# 显示图形
plt.show()