- 博客(6)
- 收藏
- 关注
RSS订阅原创 Transformer Notes takes3
同时，我推测：输入数据中可能会出现类似的线性或非线性变化，其会导致位置编码实效。attention中weight是动态计算的，卷积网络中weight是提前训练的，所以attention在不同的输入中的计算过程也是不一样的（动态网络weight）。我推测是因为相邻的差别要很大，不然会被淹没在输入中，因为相位变化本身很小。如果是普通函数，当输入尺寸比训练的时候的更长。而sin和cos因为是重复的，所以任何输入长度大小，都可以正常工作。，Method中有可以有多种选择，可以认为是query在key中的位置信息。
2023-11-25 13:53:19
31
转载 markdown 数学公式 入门解释（抄袭）
abstract介绍本次使用到的数学公式，参考网上博客https://zhuanlan.zhihu.com/p/261750408?utm_source=wechat_session 常用数学符号，简单易读https://www.cnblogs.com/mmmqqdd/p/10803576.html markdown数学符号大全，较为繁琐https://blog.csdn.net/weixin_43775143/article/details/106212765 利用mermaid 来画图，拓展内容
2021-01-20 21:47:12
851
原创 Pycharm 1. Unresolved reference 2. sys.path.append()报错解决方式
网上的教程中，我这里能工作的是https://www.cnblogs.com/LHJL8023/p/8443013.html把自己要加入sys.path 的导入进去
2021-01-02 16:04:14
960
2
原创 tensorflow2.0 cnn MNIST 无脑实现
参考博文：https://geektutu.com/post/tensorflow2-mnist-cnn.html极客兔兔的博客实验下来他有个错误，在他的博文中一处代码应该改成下文本文结构：1. CNN2. tensorflow.keras 实现细节3. 细节上发现的问题4. 全部代码4. 全部代码import osimport tensorflow as tffrom tensorflow.keras import datasets, layers, modelsprint(t
2020-12-29 21:59:57
198
原创 简单剪刀石头布的识别:问题记录
手势识别首先想到两种方法, opencv计算hu, 神经网络图片分类一. opencv计算hu1. HU是什么?一 原理几何矩是由Hu(Visual pattern recognition by moment invariants)在1962年提出的，具有平移、旋转和尺度不变性。 定义如下：① (p+q)阶不变矩定义：② 对于数字图像，离散化，定义为：③ 归一化中心矩定义：④Hu矩定义要点:1. pq代表的是维度2. 矩具有平移不变性(显然)3. 均一化矩(与零维矩的比值)
2020-12-23 22:50:25
870
3
原创 RK速写(929) 单混光 蓝牙双模 说明书
产品参数 | 使用说明 | 保养须知 | 保修条例产品参数型号 RK速写(929) 键帽 透光键帽尺寸 34212422±2mm 电压 5v≤200mA轴体 机械轴 青/红/茶/黑 连接 蓝牙、USB规格 96全键无冲 包装 键盘、数据线、保修卡背光 单色背光 保修 非人为损坏一年质保使用说明（温馨提示：双系统仅新版本键盘支持）●复合键功能说明win系统 Mac系统 win系统 Mac系统Fn+F1 我的电脑 屏幕亮度+Fn+F7 播放/暂停 上一首Fn+F2 浏览器 屏幕亮
2020-12-20 12:44:11
6711
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人