佳柚晴-CSDN博客

原创注意力机制在 ViT 和 Swin Transformer 中的区别

Attention 在 ViT 和 Swin Transformer 中的区别？

2025-05-22 17:08:59 240

原创注意力机制

Attention的目的就是求解自身向量与其他向量计算后的softmax值，值最大的表示最需要关注的。每个向量都有自身的Q、K、V，当我们需要知道某个向量最应该关注的向量时，需要用该向量自身的Q矩阵与其他剩余向量K矩阵计算相似度。不同的向量表示有不同的计算相似度的方式，比如射线可以用点击表示相似度，当点击的结果为0时，相似度最低。如果差值很大，输出趋于 one-hot（即极化）。最大值所在的位置，输出值也最大（常用于分类）；在矩阵中，相似度用Q*K^T的计算方式。根据计算的结果，就知道该如何分配注意力了。

2025-05-22 14:27:53 312

原创 Pytorch自定义神经网络写法

这是 PyTorch 模型定义的标准接口，PyTorch 约定俗成地通过 forward()，PyTorch 实际调用的是 model.forward(x)在 PyTorch 中，所有自定义神经网络模块都必须继承。来描述模型的前向计算逻辑。当调用 model(x)它是一个初始化函数，只对 nn.Conv2d。它会对你定义的整个模型中的所有子模块，是 PyTorch 中的内置方法。类型的模块执行特定初始化方式。

2025-05-21 23:47:10 184

原创 network.eval()和network.train()

模型处于训练模式，启用 Dropout 和 BatchNorm 动态统计。：模型处于评估模式，禁用 Dropout，BatchNorm 固定统计。会随机丢弃一部分神经元（防止过拟合）。，也就是不再随机丢点，输出是完整的。在训练模式下：Dropout。，不再依赖当前批次。

2025-05-21 23:27:03 136

原创 torch.mean()

输出：保留a的第0维，沿着a的第1和第2维做均值，a的维度为[3, 2, 3]，输出b的维度变为[3, 1, 1]。输出：保留a的第1维，沿着a的第0和第2维做均值，a的维度为[3, 2, 3]，输出b的维度变为[1, 2, 1]。b中2.是通过计算a中(1 + 2 + 3) * 3 / 9 得来的；输出：保留a的第2维，沿着a的第0和第1维做均值，a的维度为[3, 2, 3]，输出b的维度变为[1, 1, 3]。=True)中[a,b]的意思是，沿着将第a和第b维的维度变为1的方向做均值，其余维度不变。

2025-05-21 19:57:54 329

原创学习笔记Linux (二) —— ftp服务

首先给虚拟机分给IP地址关闭防火墙等操作使主机和虚拟机之间可以通信在D盘中输入“ftp://虚拟机IP地址” 找到pub文件夹下面进行一系列操作使得可以将主机上的文件上传到pub文件夹中 1.现复制一份，以防自己更改错误无法找回 cp /etc/vsftpd/vsftpd.conf /test 2.进入vsftpd.conf [root@localhost /]# vi /etc/vsftpd/vsftpd.conf 3.输入“:set nu”后进行如下图修改，修改完..

2022-04-25 18:50:23 1804

原创 VS图像处理（二）——图像打开与反色

目录一、打开图像二、图像反色处理一、打开图像 void CMFCApplication1Doc::OnFileOpen() { // TODO: 在此添加命令处理程序代码 //打开文件对话框 CFileDialog Ofd(true); //判断是否确认打开文件，不打开则返回 if (Ofd.DoModal() != IDOK)return; //获得文件名称 filename = Ofd.GetPathName(); //获得文件扩展名 extname = ...

2022-04-14 17:25:59 1050

原创学习笔记CentOs——虚拟机与主机间的通信

目录一、虚拟机浏览器访问本地IP 1.进入root 2.虚拟机联网 3. 查看虚拟机IP地址 4. 没有安装httpd导致连接失败 5. 安装httpd，完毕后启动 6. 刷新后可以看到页面，虚拟机浏览器看到虚拟机本地服务二、实现在win浏览器中访问虚拟机的IP地址 1.在win中无法访问，因为虚拟机中有防火墙 2.清除防火墙，再次刷新 3.在win浏览器中实现访问三、在虚拟机中写网页在win浏览器可以访问 1.创建一个html文档 2.简单的html语言 3.在.

2022-04-11 20:22:48 1763 1

原创 STM32CubeMX基本配置——RCC\LED\KEY

开始配置 SYS默认基本配置 NVIC中断配置选择4bit抢占抢占优先级 RCC时钟选择外部晶振时钟要求晶振频率为24Mhz，最终主频是80hz 【KEY】 PA0 PB0 PB1 PB2引脚 gpio input 浮空输入（不按的时候高电平、按的时候低电平）【LED】 PC8-15 、PD2 输出 gpio output PC8-15配置high，上电灯为灭 PD2 OUTPUT ...

2022-04-10 00:25:59 1718

原创 VS图像处理（一）——基本建立程序

首先在资源视图中打开Menu 右键打开并选择添加事件处理程序下拉选择Doc文档类在头文件Doc.h中的public里定义变量在Doc.cpp写入函数 ture代表打开，flase表示保存 void CMFCApplication1Doc::OnFileOpen() { // TODO: 在此添加命令处理程序代码 //打开文件对话框 CFileDialog Ofd(true); //判断是否确认打开文件，不打开则返回 if (Ofd.DoModal() != I

2022-04-07 17:41:51 2707