- 博客(10)
- 收藏
- 关注
RSS订阅原创 维度相关概念理解
如果我们的隐藏层有64个神经元，那么隐藏层的维度可以被描述为(64, )，这里的64可以理解为我们在隐藏层中学习到的新的特征数量。这里的维度也可以理解为隐藏层输出的特征数量，因为每个神经元可以看作是对输入特征的加权组合，所以隐藏层的输出可以被看作是对输入特征的不同组合，也就是新的特征表示。让我用一个具体的例子来解释。因此，文本编码后的隐藏表示的维度实际上是指模型对文本进行编码后得到的特征向量的长度，它决定了模型对文本信息的表达能力和维度的大小。CLIP模型中，文本编码后的隐藏表示的维度是固定的，为512。
2023-11-16 22:15:54
257
1
原创 注意力机制原理小结
假设我们有一个查询矩阵 Q（大小为 d_q x n），键矩阵 K（大小为 d_k x n），其中 n 是序列的长度，d_q 和 d_k 分别是查询和键向量的维度。在交叉注意力中，我们使用 softmax 函数对相似度矩阵的每一行进行归一化，以确保注意力权重在 0 到 1 之间并且总和等于 1。a) 相似度计算： 相似度计算是交叉注意力的第一步，它衡量了查询与键之间的相关性。它通过计算查询和键之间的相似度，然后根据相似度计算注意力权重，并利用注意力权重对值进行加权平均，实现了全局关联的目标。
2023-11-05 19:08:09
460
原创 vscode连接远程服务器错误小结
ssh输入主机地址后，在选择系统时如选择linux无法建立连接，可能是ssh的config文件路径问题，可以找到电脑的ssh文件将里面的config文件路径地址复制后，在vscode设置中找到如下填入地址。/server-linux-x64/stable，替换成你自己的commit_id，然后放到服务器里。无法与########建立连接，XHR failed报错问题。修改解压的文件名为：上边的commit id。此时重启vscode连接即可。重启vscode连接。
2023-11-02 19:51:31
267
原创 服务器端和容器jupyter notebook映射到本地浏览器的
服务器端口指定为8192（或者其他），表示在服务器端终端输入jupyter notebook启动jupyter时端口为8192。本机端口设置为18192，即可在本机的浏览器中按照地址加端口18192打开jupyter。属性 —> 安全 —> 高级 —> 禁用继承 —>删除所有继承项 —> 确定.复制cmd中的token输入就可以愉快的使用jupyter啦！找到C:\用户\用户名\.ssh\config文件。使用ssh连接本机与服务器，使用端口映射。启动jupyter需要注意两点，
2023-10-19 14:19:13
71
1
原创 Scene Text Detection and Recognition: The Deep Learning Era论文阅读详解笔记
文本检测与识别成为计算机视觉领域重要的研究课题之一。从自然环境中自动识别文本（如图1）,同时随着深度学习时代的到来，本调查旨在总结和分析深度学习时代场景文本检测和识别的主要变化和重大进展。通过这篇文章，我们致力于(1）介绍新的见解和想法；（2）强调最近的技术和基准；（3）展望未来的趋势。
2023-08-20 02:54:43
170
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人