- 博客(10)
- 收藏
- 关注
原创 Transformer系列学习笔记(mae+bert+vit等等)
假设输入是n个字,n个字进入embedding后输出为mn,即每个字用一个m长的向量表示位置编码则是对mn中的每个数计算得到一个也是长为mn的输出,再于词向量相加即可,所以输出还是mn在自注意力中,矩阵乘法能够的到相关性的原因在于向量点乘计算在空间上算的是位置,所以自注意力其实是得到了每个词的自注意力系数总模型,其中一些跳跃的箭头指残差连接,feed forward就是一个mlp。
2023-10-27 21:38:51
495
1
原创 卷积神经网络系列学习笔记yolo+R-CNN+GAN等等
卷积:对全连接层使用平移不变和局部性得到卷积层感受野:卷积核与输入矩阵运算的子矩阵就是感受野(特征图上的某个点能看到的输入图像的区域,即特征图上的点是由输入图像中感受野大小区域的计算得到的)
2023-10-27 21:33:43
565
1
原创 教育知识与能力
1.理解并识记教育的定义,注意广义与狭义之分。2.理解并识记教育的属性。3.理解教育的功能。教育可超过或落后生产力政治经济制度学习目标:1.理解并识记课程的概念。2.理解并识记课程的分类,尤其按照设计主体划分的类型。3.理解并识记课程理论流派,尤其是活动中心课程论。杜威:新三中心学习目标:1.理解并识记教学的概念。2.理解并识记教学的意义。3.了解形式教育论和实质教育论的区别。4.理解并识记我国现阶段的教学的任务。重点看彩色字体。
2023-07-06 18:28:07
255
1
原创 c语言学习笔记(考研版)
目录前言前言符号语言=汇编语言:指用一些英语字母和数字表示一个指令低级语言:面向机器的语言,不同的机器间不适用目标程序:写的高级语言经过编译程序编译为计算机能看懂的二进制文件(目标程序)非结构化语言:难以维护,难以阅读的较少规范的早期语言(结构化语言解决这个问题)printf("//ddd"); 双引号中的注释符号不起作用,即依然会输出//ddd (/**/也一样)...
2021-09-23 11:07:28
2514
1
原创 C语言学习笔记
提示:本人的C语言学习笔记,若有问题欢迎大家评论指出文章目录其他进制间的转换位操作头文件操作转义字符如果是%#o则先输出一个0再输出结果 如果是%#x(或X)则先输出0x(0X)函数运算符循环语句基本数据类型字符串输入与输出函数数组结构IO指针2.读入数据总结其他#pragma warning(disable:4996)vs快捷键 CTRL+K注释 Ctrl + F5运行//NULL指分配了内存但没有存储值的对象 例 int a;则a==NULL//连续存储的变量的地址是连续的,下一个地址等
2021-07-22 21:55:21
592
原创 数据结构学习(考研408)
目录数据结构其他开端有关概念时间和空间复杂度新的改变合理的创建标题,有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能,丰富你的文章UML 图表FLowchart流程图导出与导入导出导入数据结构其他开端有关概念时间和空间复杂度新的改变撤销:Ctrl/Command + Z重做:Ctrl/Command + Y
2021-07-22 21:27:43
2147
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人