- 博客(20)
- 收藏
- 关注
RSS订阅原创 论文笔记4 Cached Transformers: Improving Transformers with Differentiable Memory Cache
文章《Cached Transformers: Improving Transformers with Differentiable Memory Cache》提出了一种新颖的Transformer模型，即Cached Transformer，它通过引入门控循环缓存（Gated Recurrent Cache, GRC）注意力机制来扩展标准的自注意力机制。GRC注意力机制能够使模型同时关注过去的和当前的令牌，从而增加注意力机制的感受野，并探索长期依赖关系。
2024-09-09 16:52:49
928
原创 论文笔记3Not all tokens are equal: Human-centric visual analysis via token clustering Transformer.
然而，在以人为中心的视觉任务中，并非所有区域都同等重要，例如人体需要更精细的表示，而图像背景则可以用较少的令牌来建模。TCFormer中的令牌不仅能聚焦于重要区域，还能调整令牌形状以适应语义概念，并为包含关键细节的区域采用更精细的分辨率，这有利于捕捉详细信息。TCFormer通过动态地生成和调整令牌，更好地适应了图像中的重要区域，从而提高了模型在以人为中心的视觉任务上的性能。- **初始令牌生成**：首先，图像被分割成一系列重叠的网格单元，每个单元生成一个初始令牌。3. **灵活的令牌形状和大小**
2024-09-05 11:19:07
425
原创 论文笔记2Hanqi Yan, Lin Gui, Wenjie Li, and Yulan He. Addressing token uniformity in Transformers
为了理解这个问题，作者们想到了一个方法：他们查看每个Transformer层输出的向量的奇异值。2. **奇异值变换函数**：基于观察，作者们定义了奇异值分布的几个理想属性，并提出了一个新的变换函数来更新奇异值。这项研究通过奇异值变换的方法，有效地解决了Transformer模型中的token uniformity问题，提高了模型的性能和效率。1. **奇异值分布的使用**：作者们提出使用每个Transformer层的输出分布的奇异值来表征token uniformity现象。
2024-09-05 10:35:13
386
原创 Self-Supervised 3D Hand Pose Estimation from monocular RGB via ContrastiveLearning 阅读笔记
基于对比学习的单眼RGB自监督三维手部姿态估计。
2024-04-14 15:25:20
377
1
原创 使用git clone 出现的错误
结果解决方案是使用git从远程仓库下载代码出现上述的错误是因为使用了proxy代理，所以要解决该问题，核心操作就是要取消代理。2.在修改通讯协议后，又出现了另外的错误。经过科学上网， git 所设端口与系统代理不一致，需重新设置，于是跟着博主在设置中打开了代理上网，设置了IP和端口。（我尝试了该方法，并没有取消代理，代理依然存在，当然啦，你也可以尝试一下）解除SSL认证后，遗憾的是我的问题还是没有解决，又有了新的报错。把上面出现的所有使用代理的协议，全部都取消掉，然后问题成功解决。于是又出现了新的错误。
2023-10-06 20:13:05
879
1
原创 力扣 26题 删除有序数组中的重复项
给你一个升序排列的数组nums，请你原地删除重复出现的元素，使每个元素只出现一次，返回删除后数组的新长度。元素的相对顺序应该保持一致。然后返回nums中唯一元素的个数。
2023-09-20 19:15:31
130
1
原创 蓝桥杯嵌入式（按键）
/按键状态 0-按下 1-松开。//1-真正的按键单击。judge_sta;//按键判断 0，1,2。①PB0~PB2 PA0 设置为intput。3.新建两个文件，并在bsp中导入存在的文件。③在while语句中写按键功能。①选择TIM3->外部时钟。①包含头文件，引入外部变量。按键标志量要初始化置0。
2023-03-27 22:29:58
199
1
原创 maven的介绍及常用命令
Apache Maven 是一个项目管理和构建工具，它基于项目对象模型(POM)的概念，通过一小段描述信息来管理项目的构 建、报告和文档。Maven 构建项目生命周期描述的是一次构建过程经历经历了多少个事件。site ： 产生报告，发布站点等。这套声明周期一般不会使用。同一套生命周期内，执行后边的命令，前面的所有命令会自动执行。default ：核心工作，例如编译，测试，打包，安装等。2.Maven 生命周期。clean ：清理工作。compile ：编译。package：打包。install：安装。
2023-02-24 17:15:21
124
原创 JDBC快速入门
JDBC概念·使用java语言操作关系型数据库的一套API·Java DataBase Connectivity Java数据库连接同一套Java代码，操作不同的关系型数据库。
2022-12-18 15:46:34
69
原创 初步学习JSP
function 函数名(){函数代码;}1. function定义函数的关键字。2. "函数名"你为函数取的名字。3. "函数代码"替换为完成特定功能的代码。
2022-09-25 11:21:51
282
原创 回溯法-马的遍历问题
问题描述：在中国象棋中，马只能走“日” 字。现有一5*4棋盘，马从位置(x,y)处出发，把棋盘的每一格都走一次，且只走一次。找出所有路径。问题分析： 行n，列m，马在不出边界的情况下有8个方向可以行走（走日字），如当前坐标为(x,y),则行走后的坐标可以为：(x+1,y+2) (x+1,y-2), (x+2,y+1) (x+2,y-1)(x-1,y-2) (x-1,y+2) (x-2,y-1) (x-2,y+1)算法设计：搜索空间是整个棋盘n*m个棋盘上点约束条....
2022-05-29 16:55:30
2388
原创 嵌入式系统（三）
单片机单片机的基本结构单片机主要由三部分构成：核心CPU、片内集成的外围设备和基础电路。单片机CPU对程序存储器、数据、输入输出的编址寻找方式不同形成了两种类型结构的单片机：冯诺依曼结构和哈佛结构。冯诺依曼结构：统一编址，依靠指令计数器提供的地址来区分程序代码、数据或IO接口。适用于16位单片机。哈佛结构：分开编址 ，每个部分都是一个独立的存储空间，访问独立。适用于8位单片机。两种类型的单片机指令集：复杂指令集运算CISC和精简指令集运算RSICRISC指令集的指.
2022-05-29 10:59:32
144
原创 深度搜索方法
有分数1/2，1/3，1/4，1/5，1/6，1/8，1/10，1/12，1/15，求将其中若干个分数相加和恰好为1的组成方案，并打印成等式。例如：1. 1/2+1/3+1/6=12. 。。。。。。代码#include <stdio.h>typedef enum{ true=1,false=0}bool;int MAX = 120; //所有分母的最小公倍数int a[9][2] = {{60,0},{40,0},{30,0},{24,0},{20,0},{15,0
2022-04-27 17:50:58
392
1
原创 嵌入式系统硬件体系设计（二）
核心微控制器的系统构造2.1微控制器的总线微控制器的总线主要有三种：数据总线DB、状态总线SB和控制总线CB。数据总线的宽度有4位、8位、16位、32位等。常常根据数据总线的宽度，把微控制器称为4位微控制器、 8位微控制器、 16位微控制器、 32位微控制器等。2.2微控制器的中断技术中断分为硬件中断和软件中断。软件中断：由软件运行而诱发的异常例外。硬件中断：可屏蔽中断MI(Maskable interrupt),不可屏蔽中断NMI（Non-Maskable Interrupt.
2022-04-26 22:17:56
725
原创 STM32G431RB--基于HAL库（蓝桥杯嵌入式赛前梳理）
前言梳理每个模块的使用和代码，小技巧以及整个比赛的设计流程。第一步需要做的事情比赛官方提供了LCD的驱动程序，直接在此程序上添加其他的，就不需要点LCD的引脚也不需要移动LCD的驱动程序。新建一个文件夹将官方提供的HAL_LCD移入新建的文件夹中，注意文件夹不能含有中文字符。官方还提供了I2C的驱动程序，将I2C的驱动程序直接添加进去。Cube MX中的设置因为比赛时间原因，我们将比赛内容所需要的功能系统的进行统一的设置。GPIO引脚设置：①LED的设置：（PC8~P
2022-04-18 22:18:12
1704
1
原创 Java Web——开篇介绍
1.1程序开发体系结构1.1.1C/S B/S介绍C/S（Client/Server）客户端/服务器程序B/S(Brower/Serve)浏览器/服务器结构
2022-04-17 19:19:44
370
原创 嵌入式系统硬件体系设计（一）
嵌入式系统硬件体系设计概论1.1嵌入式系统及硬件体系概述1.1.1嵌入式系统概论嵌入式系统定义：嵌入式系统是指微操作系统和功能软件集成在一位控制器为核心的微型计算机硬件体现中所形成的，建议编写稳定可靠的机电一体化产品整体。简单来说就是应用软件体系与硬件体系紧密结合的一体化系统。嵌入式系统应具有的特点：以及体系结构紧凑稳定可靠，经济实用。软件代码小、自动化程度高。软硬件结合紧凑，简单易用。1.1.2嵌入式系统的构成一个完整的嵌入式系统，主要有硬件体系，软件.
2022-04-17 14:53:24
5816
原创 嵌入式蓝桥杯客观题总结（4.19）
1.DMA：存储器直接访问，既不需要CPU也不需要CPU的干预，用来提供存储器和外设之间，存储器和存储器之间的高速数据传输，通过硬件为RAM与I/O设备之间开辟一条之间传输数据的通道，节省CPU的资源，使CPU效率提高。2.选用什么类型的比较器可以提高电压比较器的抗干扰能力？常用的电压比较器有：单限比较器，滞回比较器，窗口比较器，三态电压比较器等简单的电压比较器结构简单，灵敏度高，但抗干扰能力差，因此我们要对其进行改进。改进后的电压比较器：滞回比较器，窗口比较器。3.STM32G43.
2022-04-16 16:40:22
6099
3
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人