- 博客(129)
- 收藏
- 关注
RSS订阅原创 MarianMT进行文本数据增强
书写辅助函数，来翻译给定机器翻译模型。初始化模型，将英语翻译成罗曼语,如下命令查看所有可使用的增强语言。执行数据增强(英语到西班牙语)初始化将法语翻译成英语的模型。
2024-06-06 11:25:44
278
原创 MUTAN readme文件（翻译）
这个任务涉及在一个由三元组组成的多模态数据集上以端到端的方式训练模型：1、一张图像，除了原始像素信息之外没有其他信息，2、有关关联图像上视觉内容的问题，3、对问题的简短回答（一个或几个词）。正如您在下面的插图中所看到的，VQA数据集的两个不同的三元组（但相同的图像）被表示出来。模型需要学习丰富的多模态表示，以便能够给出正确的答案。VQA任务仍然是活跃的研究领域。然而，当它被解决时，它可能对改进人机界面（尤其是对于视觉障碍者）非常有用。关于我们方法的简要洞察。
2024-02-03 11:05:09
925
1
原创 论文笔记：Bilinear Attention Networks
多模态学习中的注意力网络提供了一种选择性地利用给定视觉信息的有效方法。然而，学习每一对多模态输入通道的注意力分布的计算成本是非常昂贵的。为了解决这个问题，共同注意力为每个模态建立了两个独立的注意分布，忽略了多模态输入之间的相互作用。在本文中，我们提出了双线性注意力网络（BAN），它可以找到双线性注意力分布来无缝地利用给定地视觉语言信息。BAN考虑两组输入通道之间的双线性交互，而低秩双线性池化提取每对通道地联合表示。此外，我们提出了一种多模态残差网络的变体，以有效地利用BAN的注意力图。
2023-12-18 15:11:26
1621
原创 bottom-up-attention-vqa-master 成功复现！！！
代码地址1、create_dictionary.py建立词典和使用预训练的glove向量（1）create_dictionary()遍历每个question文件取出所关注的question部分，qs遍历qs，对每个问题的文本内容进行分词，并将分词结果添加到字典中，True表示添加新词而非索引#创建词典#词典用于将文本数据中的单词映射到唯一的整数标识符def create_dictionary(dataroot): dictionary = Dictionary()
2023-12-16 18:21:07
1662
2
原创 循环神经网络
门的设计可自由选择哪些部分记忆，哪些部分不记忆，连乘消除梯度消失，Ws^(k-1)是导致可能梯度爆炸和梯度消失的主要原因。整个序列的损失函数即将所有时间步的算是函数相加求和。标准神经网络建模不适合带时间序列的任务场景。4、没有办法体现时序上的“前因后果”前后关联强，“前因后果”
2023-12-14 16:35:21
507
原创 Transfomer-学习笔记
我们认为，对于较大的dk值，点积的大小会变大，从而将softmax函数推入具有极小梯度的区域（训练就很慢了），为了抵消这个影响，我们将点乘积乘以。该处的mask用于比较“我喜欢你 P”和“S I Iove you . P”之间的关系，被翻译的句子和翻译的结果他们之间的关系。上图中，超过5的部分被截取掉，不足5的部分使用P进行填充，填充的P在注意力机制当中是没有意义的。上图中，1表示batchsize为1，5表示输入的5个单词，4表示每个单词用1*4的向量表示。将单组的QKV拆成多组的QKV。
2023-12-05 11:27:44
813
原创 Glove学习笔记
共现矩阵X为对称矩阵，共现次数和权重递减函数的乘积，从而达到距离越远的共现词对权重小，距离越近的共现词对权重大。我们用我们的见解，构建一个新的模型，Glove，全局向量的词表示，因为这个模型捕捉到全局预料的统计信息。窗口大小为2，表示中心词前后大小为2的区域的词语才与中心词有共现关系，窗口之外的词语就不能称之为共现。通过视频中的讲解主要了解共现矩阵及词向量损失函数推导过程及代码的使用！概率之间的比值更能捕捉词语之间的相关和不相关关系。LSA构建的是词语与文档的共现矩阵。
2023-11-30 15:47:14
494
原创 学习笔记：Pytorch 搭建自己的Faster-RCNN目标检测平台
Faster-RCNN可以采用多种的主干特征提取网络，常用的有VGG，Resnet，Xception等等。Faster-RCNN对输入进来的图片尺寸没有固定，但一般会把输入进来的图片短边固定成600.Resnet50expansion = 4 #最后一个卷积层输出通道数相对于输入通道数的倍数'''inplanes：输入通道数planes：卷积层输出的通道数stride：卷积的步长，默认为1downsample：是否对输入进行下采样'''#使用1*1卷积核，压缩通道数。
2023-11-30 15:08:07
1105
原创 论文笔记：Bottom-Up and Top-Down Attention for Image Captioningand Visual Question Answering
自顶向下和自底向上结合的注意力机制，使注意力能够在物体和其他显著图像区域的水平上进行计算。自底向上的机制(基于)提出图像区域，每个区域都有一个相关的特征向量，而自顶向下的机制确定特征权重。注意力机制上图是：左边：注意力模型在CNN特征上运行，这些特征对应于大小相等的图像区域的统一网格。右边：模型在物体和其他显著图像区域的水平上计算注意力。将非视觉或特定任务环境驱动的注意力机制称为“自顶向下”，将纯视觉前馈注意力机制称为“自底向上”。
2023-11-25 23:15:17
1059
原创 mysql 索引
数据库没有索引的情况下，数据分布在硬盘不同的位置上面，读取数据时，摆臂需要前后摆动查找数据，操作非常消耗时间。二叉搜索树的每个结点存储的是**（K,V）结构**，key是col2，value是该key所在行的文件指针（地址）。继续右侧数据，读89到内存，89==89；索引是存储引擎用于快速找到数据记录的一种数据结构，好比一本教科书的目录部分，通过目录中找到对应文章的页码，便可快速定位到需要的文章。在没有索引的情况下，不论是根据主键列或者其他列的值进行查找，由于我们并不能快速的定位到记录所在的页，所以只能。
2023-10-28 15:53:18
323
原创 复杂环境下人形机器人自动导航项目复盘
百度飞浆企业赛：乐聚机器人提供动作工程文件，aelos软件中可修改动作的每个舵机的数值。Aelos Smart零点设置MobXterm上通过ssh远程连接树莓派。
2023-10-11 17:27:03
486
原创 操作系统八股
1、死锁两个或两个以上的进程在执行过程中，因争夺共享资源而造成的一种互相等待的现象，若无外力作用，它们都将无法推进下去。此时称系统处于死锁状态或系统产生了死锁。这些永远在互相等待的进程称为死锁进程。2、产生死锁的必要条件互斥条件：指进程对所分配到的资源进行排它性使用，即在一段时间内某资源只由一个进程占用。如果此时还有其它进程请求资源，则请求者只能等待，直至占有资源的进程用毕释放请求和保持条件。
2023-10-06 21:40:24
97
原创 计算机网络八股
发送方可以通过滑动窗口的大小来确认应该发送多少字节的数据。滑动窗口机制主要通过窗口大小实现流量控制，进而解决发送方发送数据过快、过多导致的接收端缓存数据溢出导致的丢包现象。响应分为5类：信息响应（100-199），成功响应（200-299），重定向（300-399），客户端错误（400-499）、服务端错误（500-599）可靠传输就是通过TCP连接传送的数据是没有差错的、不会丢失的、不重复并且按序到达的。让发送方的发送速率不要过快，让接收方来得及接收所有的数据。
2023-10-06 17:05:00
652
1
原创 mysql八股
原子性、一致性、隔离性、持久性事务可由一条非常简单的SQL语句组成，也可以由一组复杂的SQL语句组成。在事务中的操作，要么都执行修改，要么都不执行，这是事务的目的，也是事务模型区别于文件系统的重要特征之一。A（atomicity）原子性原子性指整个数据库事务是不可分割的工作单位。只有使事务中所有的数据库操作都执行成功，整个事务的执行才算成功。事务中任何一个SQL语句执行失败，那么已经执行成功的SQL语句也必须撤销，数据库状态应该退回到执行事务前的状态。C（consistency）一致性。
2023-10-02 23:14:15
1141
1
原创 C++八股
面向过程的思想完成一个需求的步骤。面向过程编程，就是面向具体的每一个步骤和过程，把每一个步骤和过程完成，然后由这些功能函数相互调用，完成需求。面向对象思想尽可能模拟人类的思维方式，使得软件的开发方式与过程尽可能接近人类认识世界、解决现实问题的方法和过程，把客观世界中的实体抽象为问题域中的对象。面向对象以对象为核心，该思想认为程序由一系列对象组成。面向对象的三大特征封装、继承、多态封装：将事物属性和行为封装在一起，类，便于管理，提高代码的复用性。事物的属性和行为分别对应类中的成员变量和成员方法。继承。
2023-10-01 22:35:06
582
2
原创 31.下一个排列
4 5 2 6 3 1排列中较小数为2，较大数为3，交换两者得：4 5 3 6 2 1，将[i+1,n)区间改成升序：得下一个排列： 4 5 3 1 2 6。若第一步找不到较小数，即当前排列为最大排列，直接进行第3步获得下一个排列，即最小排列。
2023-09-25 22:19:21
166
原创 10.正则表达式匹配
3、abb与a.*匹配，分析：让字符串.多出现1次时，能匹配。4、abc和abc匹配，分析：ab与ab匹配，c与c相等。5、abc与ab.匹配，分析：将字符.看作.时匹配。是匹配的，分析：a与a匹配，让 b。匹配，让b多出现1次时，能匹配。匹配，分析：ab与ab。
2023-09-25 17:07:23
216
原创 单例模式 c++
如果当变量在初始化的时候，并发同时进入声明语句，并发线程将会阻塞等待初始化结束。并发线程在获取静态变量的时候一定是初始化过的，具有线程安全性。c++静态变量的生存期是从声明到程序结束，懒汉式。全局有且只有一个类的static实例。
2023-09-13 07:50:56
251
原创 go es实例
下载过程中出现如下报错：解决方案：es中用于序列化/反序列化数据的结构json中字段若有omitempty标记，则这个字段为空时，json序列化为string时不会包含该字段。
2023-08-17 17:01:01
608
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人