- 博客(170)
- 问答 (1)
- 收藏
- 关注
原创 深度学习(10)---Vision Transformer详解
1. Vision Transformer(ViT)是一种基于Transformer架构的深度学习模型,它将Transformer模型从自然语言处理(NLP)领域成功扩展到计算机视觉(CV)领域。2. Vision Transformer由Google Brain团队在2020年提出,该模型挑战了卷积神经网络(CNN)在视觉任务中的主导地位,证明了Transformer架构不仅在处理序列数据(如文本)方面非常有效,在处理图像数据时也能取得卓越性能。
2024-08-19 17:21:23
985
原创 深度学习(9)---ResNet详解
5. ResNet后面跟的数字,如ResNet18、ResNet50、ResNet101等,代表的是该网络结构中特定层的总数,具体来说,这个数字通常指的是卷积层与全连接层的和,而不包括池化层、批量归一化(BN)层等其他类型的层。这些数字反映了网络的深度,即网络的复杂度。3. 解决上述问题(模型走偏)的方法:每一次增加函数复杂度之后的函数所覆盖的区域会包含原来函数所在的区域(嵌套函数(nested function)),只有当较复杂的函数包含复杂度较小的函数时,才能确保提高它的性能,如下图所示。
2024-08-17 20:13:54
1038
原创 数据结构(4)
1. 树:树是n个结点的有限集。当n0时,称为空树。在任意一棵非空树中应该满足:(1) 有且仅有一个特定的称为根的节点。(2) 当n1时,其余结点可分为m个互不相交的有限集T1Tm,其中每个集合本身又是一棵树,并且称为根的子树。2. 显然树的定义是递归的,树是一种递归的数据结构。树具有以下两个特点:(1) 树的根结点没有前驱,除根结点外的所有结点有且只有一个前驱。(2) 树的所有结点都可以有零个或多个后继。
2024-08-07 00:20:26
612
原创 数据结构(3)
只允许在表的一端进行插入,而在表的另一端进行删除。5. 队列的链式表示称为链队列,它实际上是一个同时有队头指针和队尾指针的单链表。4. 采用链式存储的栈称为链栈,链栈的优点是便于多个栈共享存储空间和提高其效率,且不存在栈满上溢的情况。4. 循环队列:将顺序队列臆造为一个环状的空间,即把存储队列元素的表从逻辑上视为一个环,称为循环队列。3. 队列的顺序实现是指分配一块连续的存储单元存放队列中的元素,并附设两个指针:队头指针。(2) 栈底:固定的,不允许进行插入和删除的那一端。(2) 队尾:允许插入的一端。
2024-07-26 15:55:05
413
原创 数据结构(2)
为建立数据元素之间的线性关系,对每个链表结点,除存放元素自身的信息之外,还需要存放一个指向其后继的指针。为指针域,存放其后继结点的地址。由于单链表的元素离散地分布在存储空间中,因此是非随机存取的存储结构。1. 线性表的链式存储又称单链表。它是指通过一组任意的存储单元来存储线性表中的数据元素。的存储单元依次存储线性表中的数据元素,从而使得逻辑上相邻的两个元素在物理地址上也相邻。3. 顺序表的特点是表中元素的逻辑顺序与其存储的物理顺序相同。2. 线性表的顺序存储又称顺序表。,分别指向其直接前躯和直接后继。
2024-07-23 15:29:18
1182
原创 数据结构(1)
1. 数据:数据是信息的载体,是描述客观事物属性的数、字符及所有能输入到计算机中并被计算机程序识别和处理的符号的集合。如下面这幅图中的例子,为了方便讨论,这里我们把每一条语句的执行时间都看做是一样的,记为一个时间单元。1. 顺序存储结构:用一组连续的存储单元依次存储数据元素,数据元素之间的逻辑关系由元素的存储位置表示。2. 链接存储结构:用一组任意的存储单元存储数据元素,数据元素之间的逻辑关系用指针来表示。算法必须是有穷的,而程序可以是无穷的。数据对象:是具有相同性质的数据元素的集合,是数据的一个子集。
2024-07-19 15:51:41
528
原创 Hbase表结构
(2)每个CF可以有一个或多个列成员(ColumnQualifier),列成员不需要在定义表 时给出,新的列族成员可以随后按需要动态加入。6. 区域(Region):(1)HBase自动把表水平(按 Row)划分成多个区域(Region),每个Region会保存一个表里面某段连续的数据。(2)每个表一开始只有一个Region,随着数据不断插入表,Region不断增大,当增大到一个阈值的时候,Region就会等分为两个新的Region。行键(RowKey):(1)行键是字节数组,任何字符串都可以作为行键。
2024-06-30 00:36:38
285
原创 在Anaconda中安装keras-contrib库
如Anaconda中的base环境,打开\Anaconda\Lib\site-packages,创建keras-contrib文件夹并解压压缩包。1. 打开Anaconda Prompt命令行,激活自己的环境,并切换到keras-contrib中的keras-contrib-master路径下。打开网址 https://github.com/keras-team/keras-contrib 直接下载文件压缩包。:如果不能换盘cd,可以激活环境后先输入。:这里根据自己的环境选择。
2024-06-09 16:24:25
540
2
原创 云计算导论(3)---分布式文件系统
1. 文件系统是操作系统用来组织磁盘文件的方法和数据结构。传统的文件系统指各种UNIX平台的文件系统,包括UFS等,它们管理本地的磁盘存储资源,提供文件到存储位置的映射,并抽象出一套文件访问接口供用户使用。通常包含的四类信息:超级块、Inode、文件内容、目录内容。2. 分布式文件系统定义:分布式文件系统是一个可以存储、管理和检索文件、目录和对象的系统,它通过网络连接不同的机器,提供文件共享的接口,可以实现对文件的远程访问和同步。特点:分布式文件系统具有可靠性、容错性和可扩展性等特点。
2024-06-04 20:47:39
756
原创 云计算导论(2)---云计算基础
3. 基础设施:云基础设施,即IaaS(Infrastructure as a Service),是经过虚拟化后的硬件资源和相关管理功能的集合,对内通过虚拟化技术对物理资源进行抽象,对外提供动态、灵活的资源服务。5. 平台:云平台,即PaaS(Platform as a Service),直接提供计算平台和解决方案作为服务,以方便应用程序部署,从而节省购买和管理底层硬件和软件的成本。(1) 选择合适的数据结构和算法:针对特定问题,选择时间和空间复杂度较低的数据结构和算法,减少不必要的计算和存储开销。
2024-05-10 17:04:00
1056
原创 云计算导论(1)---云计算概述
1. 云是网络、互联网的一种比喻说法。云计算是基于互联网的相关服务的增加、使用和交付模式,通常涉及通过互联网来提供动态易扩展且经常是虚拟化的资源。2. 云计算是一种按使用量付费的模式,这种模式提供可用的、便捷的、按需的网络访问, 进入可配置的计算资源共享池。3. 云计算具有虚拟化、自动化、高可靠性、高弹性扩展、安全性高等特点。
2024-05-07 19:39:19
461
1
原创 神经网络与深度学习期末复习(6)---损失函数与优化算法
2. 作用:损失函数可以衡量模型预测的好坏,有助于优化网络的参数。1. 梯度的概念:梯度的本意是一个向量(矢量),表示某一函数在该点处的方向导数沿着该方向取得最大值,即函数在该点处沿着该方向(此梯度的方向)变化最快,变化率最大(为该梯度的模)。2. 自适应学习率算法思想:如果损失对于某个给定模型参数的偏导保持相同的符号,那么学习率应该增加。用于计算损失的函数称为损失函数,模型每一次预测的好坏用损失函数来度量。,那么我们就有理由相信,这些对应的特征在患病分析上面提供的信息是巨大的,决策性的。
2024-04-22 19:54:55
813
原创 手写BP神经网络(简答易懂)
1. 经典的BP神经网络通常由三层组成:输入层、隐含层与输出层。通常输入层神经元的个数与特征数相关,输出层的个数与类别数相同, 隐含层的层数与神经元数均可以自定义。
2024-04-20 23:22:57
430
原创 神经网络与深度学习期末复习(5)---深度学习中的相关问题
1. 拟合就是把平面上一系列的点,用一条光滑的曲线连接起来。拟合的曲线可以用函数表示,根据这个函数的不同有不同的拟合名字。拟合的方法包括回归、插值、和逼近。2. 拟合是一种数据处理的方式,不特指哪种方法,简单的说就是你有一组数据,觉得这组数据和一个已知的函数(这个函数的参数未定)很相似,为了得到最能表示这组数据特征的这个函数,通过拟合这种方式(具体的数学方法很多)求得参数。1. 反向传播过程中,会利用链式法则求梯度,比如一个常见的式子如下:2. 如果每一项∣ζ∣1|ζ|
2024-04-20 17:17:05
966
原创 神经网络与深度学习期末复习(4)---自编码器
在整个训练过程中,自编码器的目标是最小化输入数据和重建数据之间的差异,以学习到更加有效的特征表示。因为稀疏的表达往往比其他的表达要有效(人脑好像也是这样的,某个输入只是刺激某些神经元,其他的大部分的神经元是受到抑制的)。编码过程是按照从前向后的顺序执行每一层自编码器的编码,解码过程按照从后向前的顺序执行每一层自编码器的解码。1. 栈式自编码器是一个由多层稀疏自编码器组成的神经网络,其前一层自编码器的输出作为其后一层自编码器的输入。(4) 将最后一个隐含层的输出作为有监督层的输入,并且初始化有监督层的参数。
2024-04-19 21:11:53
713
原创 神经网络与深度学习期末复习(1)---神经网络模型
4. BP(back propagation)神经网络的学习有信息的正向传播和误差的反向传播两个过程组成,学习规则采用Widrow-Hoff学习规则(最小均方差规则,梯度下降法),通过反向传播,不断调整网络的权重和阈值,使网络的误差平方和最小。2. 带动量因子算法:该方法是在反向传播法的基础上,在每一个权值的变化上加上一项正比于前次权之变化的值,并根据反向传播法来产生新的权值变化。(2) 误差曲线可能会出现局部的最小值,在网络学习时,应尽可能摆脱误差的局部最小值,而达到真正的误差最小值。
2024-04-18 15:17:18
1057
原创 图像处理与视觉感知---期末复习重点(8)
1. 梯度方向直方图(Histogram of Oriented Gradient, HOG):是一种在计算机视觉和图像处理中用来进行物体检测的特征描述子。它通过计算和统计图像局部区域的梯度方向直方图来构成特征。HOG特征结合SVM分类器被广泛应用于图像识别中,尤其在行人检测。特征描述子就是将图像抽取部分有用信息,丢掉不相关的信息。特征描述子可以将一个weight×height×3weight×height×3。
2024-04-16 19:45:26
1179
原创 图像处理与视觉感知---期末复习重点(7)
2. 若编码时,对出现概率较大的符号用较少比特数(短码)表示,对出现概率较少的符号用较多比特数(长码)表示,则其平均码字长度要比等长编码时所需码字少。4. 心理视觉冗余:有些信息在通常的视觉过程中与另外一些信息相比并不那么重要,这些信息被认为是心理视觉冗余的,去除这些信息并不会明显降低图像质量。(2) 异同:离散傅里叶变换涉及复数运算,而离散余弦变换涉及实数运算,离散余弦变换是离散傅里叶变换的一种特殊形式。2. 编码冗余:如果一个图像的灰度级编码使用了多于实际需要的编码符号,就称该图像包含了编码冗余。
2024-04-12 01:21:51
1046
原创 计算机视觉之三维重建(7)---多视图几何(下)
1. 透视结构恢复问题:摄像机为透视相机,内外参数均未知。2. 问题:已知nnn个三维点XjX_jXj在mmm张图像中的对应点的像素坐标为xijx_{ij}xij,且xijMiXjxijMiXj,其中MiM_iMi为第iii张图片对应的摄像机投影矩阵,求解nnn个三维点XjX_jXj的坐标以及mmm个摄像机投影矩阵MiM_iMi。
2024-04-05 20:48:32
1196
原创 计算机视觉之三维重建(6)---多视图几何(上)
1. 欧式结构恢复问题:摄像机内参数已知,外参数未知情况。2. 对于欧式结构恢复问题,已知摄像机内参数,根据投影矩阵的计算公式可知xijMiXjKiRiTiXjxijMiXjKiRiTiXj。那么求解投影矩阵MMM只需要求解外参数RT[R,T]RT。1. 仿射结构恢复问题:摄像机为仿射相机,内外参数均未知。一般来说仿射相机代表为弱透视投影摄像机。2. 下面图中所有坐标使用欧式坐标,对于仿射变换而言zzz。
2024-04-03 19:42:21
1763
原创 图像处理与视觉感知---期末复习重点(6)
1. 间断检测分为点检测、线检测和边缘检测。这里ZiZ_iZi是与模板系数相联系的像素灰度级,模板响应定义是对于它的中心位置。1. 为什么需要边缘连接:由于噪声、照明等原因产生边缘间断,使得一组像素难以完整形成边缘;因此,在边缘检测算法后,使用连接过程将间断的边缘像素组合成完整边缘。2. 局部处理:分析图像中每个边缘点x。
2024-04-02 17:37:14
862
原创 计算机视觉之三维重建(5)---双目立体视觉
2. (1) 平行视图中的视差图:根据两台平行摄像机在不同角度观察同一物体或场景时,由于视角差异造成的图像的差异进而推断出物体的深度和距离,得到一幅信息图,可以用于对物体或场景的三维重建和识别。作为相关性标准,该方法可行依据在于,一般情况下一个图像上像素颜色或灰度的变化是平滑的,这样近似相同点平方的最大值的和在理论上大于高偏差点平方的最大值的和。对于较小的窗口:会引入更多的噪声,更容易受到噪声影响,但反之也会在没有噪声影响的地方提供更精确的信息。点一定在扫描线上,这样可以进一步缩小的检索范围。
2024-03-30 20:17:36
2029
原创 图像处理与视觉感知---期末复习重点(5)
1. 开操作和闭操作实际就是腐蚀和膨胀的一个组合运算,公式如下所示。的映射的交集不为空集时,此时原点所在位置的像素就属于膨胀集合。的映像移动到上图三个位置时,因为原点处是空的,和图像集合。的子结构完重合时,此时原点所在位置的像素属于腐蚀集合。(3) 不停平移,直至找出组成膨胀集合的所有像素。(2) 重复上述操作,直至找出腐蚀集合的所有像素。没交集,即此时原点所在位置的像素不属于膨胀集合。(1) 开操作:先进行腐蚀,再进行膨胀。(2) 闭操作:先进行膨胀,再进行腐蚀。:是出现交集时,原点所在位置的像素。
2024-03-28 20:28:50
1234
原创 神经网络与深度学习期末复习(2)---卷积神经网络扩展机制
1. 分组卷积(Group convolution )最早在AlexNet中出现,由于当时的硬件资源有限,训练AlexNet时卷积操作不能全部放在同一个GPU处理,因此把特征图分给多个GPU分别进行处理,最后把多个GPU的结果进行融合。2. 一般的卷积会对输入数据的整体一起做卷积操作。而组卷积则是在深度上进行划分,即某几个通道编为一组,对输入数据做组合卷积操作。1. 在深度可分离卷积(depthwise separable convolution)中,通常将卷积操作拆分成多个步骤。
2024-03-27 20:45:54
1023
原创 计算机视觉之三维重建(4)---三维重建基础与极几何
那么我们可以根据这两个式子,对于同一个点以及两个像平面点之间的对应关系,写出四个齐次方程,但是未知数只有三个,所以是一个超定齐次线性方程组,可以用齐次方程的最小二乘解来进行计算。2. 基础矩阵作用:基础矩阵中包含了摄像机内参数信息,所以给了基础矩阵,我们无需知道两个摄像机的内外参数就可以建立相同场景在不同视图的对应关系。通过极几何的约束,可以将搜索范围缩小到对应的极线上,而并没有做到对应点,所以存在一个方向上的误差问题。基础矩阵:对一般的透视摄像机拍摄的两个视点的图像间的极几何关系进行代数描述。
2024-03-27 00:54:25
1447
原创 图像处理与视觉感知---期末复习重点(4)
1. 图像增强技术一般要利用人的视觉系统特性,目的是取得较好的视觉效果,不需要考虑图像退化的真实物理过程,增强后的图像也不一定要逼近原始图像。2. 图像复原技术需要针对图像的退化原因设法进行补偿,因此需要对图像的退化过程有一定的先验知识,利用图像退化的逆过程去恢复原始图像,使复原后的图像尽可能的接近原图像。1. 系统HHH是一个线性系统。aaa和bbb是比例常数,f1xyf_1(x,y)f1xy和f2xyf_2(x,y)f2xy是任意两幅输入图像。
2024-03-26 16:59:13
1219
原创 计算机视觉之三维重建(3)---单视几何
个自由度,而一般我们只能找到三组互相垂直的平行线,如下图这种典型的三个平面互相垂直,在三个平面上选择三组平行线,那么最多只能得到三个方程,而三个方程不能精确的解出五个未知数,所以一般我们规定零倾斜,正方形像素,此时内参矩阵中的。对于透视和仿射变换而言,仿射变换后的无穷远点还是无穷远点,透视变换后的无穷远点不再是无穷远点。4. 同一平面直线(在2D平面上均为同一平面)的无穷远点均位于同一无穷远线上,我们定义无穷远线为。上,所以通过式子的代换得到了线与线之间变换是乘以一个变换矩阵的转置的逆的映射关系,即。
2024-03-23 00:47:15
1260
原创 神经网络与深度学习期末复习(3)---卷积神经网络
的输出特征图,上面每一个结果的得到都经过一个神经元。即一个神经元对应一个输出,与像素点个数相同。(3) 连接数的计算如下。每一个像素点的得到,都经过卷积,一个卷积核大小。从下图中可发现:偏置数量=输出通道数;卷积核种类=输出通道数。(3) 连接数按我们老师上课讲的,就先看一次卷积,加。这里早期设计改为了部分连接,有。(2) 按照正常思维,卷积核的数量有。(4) 可训练参数套公式就可以。(2) 一个池化对应两个参数。是偏置,再乘上神经元数。个卷积求和后加一个偏置。图像共用一个偏置,有。个图像,所以偏置数为。
2024-03-21 16:11:20
1116
原创 Easy Connect下载(Windows版)
3. 安装完成,双击Easy Connect打开软件,主界面如下图所示。输入服务器地址,这个地址一般是公司或校园的Vpn地址,点击 “连接” 即可。界面显示正在初始化,等待一段时间后,即可进入帐号登录界面。输入用户名以及密码,勾选记住密码,点击箭头处的 “登录” 即可。2. 耐心等待Easy Connect安装完就可以了,点击完成。1. 下载安装包解压后,双击.exe文件就可以安装软件。
2024-03-19 00:00:45
4447
1
原创 计算机视觉之三维重建(1)---摄像机几何
这个平面的坐标原点一般设定在图像的中心,即主光轴与图像传感器的交点,以便更准确地描述图像的物理位置和关系,常常使用物理单位如毫米来描述像素在图像中的位置。具体来说,当物体上离相机较远的点P在胶片上成像时,如果物体上较近的点在胶片上映射到多个位置,那么就无法形成清晰的焦点,从而产生虚像。当光线经过透镜时,由于透镜的制造精度或组装工艺的偏差,光线在远离透镜中心的地方比靠近中心的地方更加弯曲,从而导致图像的失真。在没有建立用户坐标系之前,画面上所有点的坐标都是以该坐标系的原点来确定各自的位置的。
2024-03-18 20:40:52
1695
1
原创 图像处理与视觉感知---期末复习重点(3)
3. 空间滤波和频率滤波的异同点:在使用非线性滤波时,应当在空间域进行处理。当使用线性滤波器时,可以在空间域也可以在频率域进行,在空间域线性滤波时,滤波器的尺寸应该远远小于图像的尺寸。2. 频率域:频率域是描述图像特征的另一种方式,以频率(即波数)为自变量。它可以将一幅图像像元值在空间上的变化分解为具有不同振幅、空间频率和相位的简振函数的线性叠加。1. 空间域:即所说的像素域,在空间域的处理就是在像素级的处理,如在像素级的图像叠加。通过傅立叶变换后,得到的是图像的频谱,表示图像的能量梯度。
2024-03-15 23:04:07
580
原创 ubuntu 18.04安装教程(详细有效)
注:这里这样选择可以直接安装 ubuntu,这样后续也不需要再手动安装 Vmware-tools。
2024-03-11 00:30:09
6327
1
原创 中国大学生计算机设计大赛--智慧物流挑战赛基础
1. ROS(Robot Operating System)是一个为机器人软件开发提供灵活框架的开源元操作系统。它主要用于编写机器人软件程序,并具备高度的灵活性。ROS为机器人提供了一个软件平台,类似于操作系统为计算机提供的功能。具体来说,ROS提供了硬件抽象、底层设备控制、常用功能实现、进程间消息传递以及包管理等功能。
2024-03-10 16:27:45
1192
原创 图像处理与视觉感知---期末复习重点(2)
1. 定义(1):一个灰度级在范围0L−1[0,L-1]0L−1的数字图像的直方图是一个离散函数。其中nkn_knk是图像中灰度级为rkr_krk的像素个数,rkr_krk是第kkk个灰度级,k012L−1k012...L−1。由于rkr_krkpknkp(k)=n_kpknk,即图像中不同灰度级像素出现的次数。
2024-03-08 00:20:15
1114
原创 图像处理与视觉感知---期末复习重点(1)
1. 图像的概念及分类。图像是用各种观测系统以不同形式和手段观测客观世界而获得的、可以直接或间接作用于人的视觉系统而产生的视知觉实体。图像分为模拟图像和数字图像:(1) 模拟图像:二维空间和亮度都是连续值的图像。亮度值连续且不分等级。(2) 数字图像:二维空间和亮度都是用有限数字数值表示的图像。2. 像素表示的矩阵、矢量形式。一幅图像可分解为许多个单元。每个基本单元叫做图像元素,简称像素。3. 图像工程的三个层次。
2024-02-28 22:58:37
682
原创 深度学习(8)---Diffusion Modle原理剖析
1. 在整体思路部分我们已经知道了正向过程其实就是一个不断加噪的过程,于是我们考虑能不能用一些公式表示出加噪前后图像的关系呢。上图为等式右边三个高斯分布表达式,这个结果怎么得的大家应该都知道叭,就是把各自的均值和方差代入高斯分布表达式即可。和所加的噪声共同决定的,也就是说后一时刻的图像主要由两个量决定,其一是上一时刻图像,其二是所加噪声量。的权重随着时刻增加越来越大,表明我们所加的高斯噪声越来越多,这和我们整体思路所述是一致的,即越往后所加的噪声越多。是预先给定的值,它是一个随时刻不断增大的值。
2024-02-26 16:07:43
542
原创 深度学习(7)---Diffusion Model概念讲解
在扩散模型中,CLIP可以作为打通文本和图像的桥梁的核心模块,用于控制图像生成的过程。它分为正向的扩散过程和反向的逆扩散过程。正向扩散过程是往图片上加噪声的过程,即从无到有地添加噪声,直到得到纯噪声图片。(2) 每步添加高斯噪声的量是变化的,且后一步比前一步添加的高斯噪声更多。去噪过程不是说由一张图片生成另一张图片,而是在一张高噪声图片的基础上,减掉一个噪声图片从而得到另一张低噪声图片。3. 逆向过程:首先,我们会随机生成一个服从高斯分布的噪声图片,然后一步一步的减少噪声直到生成预期图片。
2024-02-04 17:21:14
2161
原创 深度学习(6)---Transformer
Transformer是一个Seq2Seq(Sequence-to-Sequence)的模型,这意味着它能够处理从输入序列到输出序列的问题。在Seq2Seq模型中,输入是一段序列,输出也是一段序列,输出序列的长度通常由模型自身决定。这种模型在自然语言处理(NLP)领域有广泛的应用,例如语音识别、机器翻译、语音合成、聊天机器人训练等。
2024-01-25 23:52:45
1352
2
原创 深度学习(5)---自注意力机制
1. 有时候我们输入转化后的一组向量之间会有关联。比如 “I saw a saw-----我看见一把锯子” 这句话,对于传统的模型,可能会将第一个 saw 和第二个 saw 输出相同的结果,但事实上两个 saw 是完全不一样的意义,第一个 saw 意思是"看见",而第二个 saw 意思是"锯子"。2. 所以出现了自注意力机制(Self-attention)模型来解决上述这个问题。对于输入 Seg 中向量不确定多的情况,Self-attention会考虑所有向量。
2024-01-23 00:09:49
1313
1
MySQL版数据库原理与应用PPT
2023-11-03
计算机算法设计与分析第五版王晓东PPT课件
2023-10-25
答案正确率百分之五十,不知道哪里有问题
2021-11-30
TA创建的收藏夹 TA关注的收藏夹
TA关注的人