Upupup6
这个作者很懒,什么都没留下…
展开
-
扒皮深度学习里边那些高大上的名词:有监督、半监督、无监督、弱监督、自监督
自我觉得在读论文的时候千万不要被那些高大上很学术的名词给吓退缩,其实你真正的结合源代码看一下他们很简单的操作,可能思路会有一点绕。原创 2023-03-25 17:56:29 · 1080 阅读 · 1 评论 -
高斯混合模型Gaussian Mixture Model (GMM)算法从基础详解
高斯混合模型就是用高斯概率密度函数(正态分布曲线)精确地量化事物,它是一个将事物分解为若干的基于高斯概率密度函数(正态分布曲线)形成的模型。高斯模型就是用高斯概率密度函数(正态分布曲线)精确地量化事物,将一个事物分解为若干的基于高斯概率密度函数(正态分布曲线)形成的模型。 对图像背景建立高斯模型的原理及过程:图像灰度直方图反映的是图像中某个灰度值出现的频次,也可以以为是图像灰度概率密度的估计。如果图像所包含的目标区域和背景区域相差比较大,且背景区域和目标区域在灰度上有一定的差异,那么该图像的灰度直方图呈原创 2020-05-26 14:30:23 · 5017 阅读 · 1 评论 -
HOG特征
本篇博客转载于http://shartoo.github.io/HOG-feature/图像hog特征计算:https://zhuanlan.zhihu.com/p/40960756图像gamma校正:https://blog.csdn.net/akadiao/article/details/79679306梯度计算:https://www.learnopencv.com/his...转载 2020-05-26 14:38:37 · 500 阅读 · 0 评论 -
SVD与PCA的区别
SVD与PCA区别矩阵对向量的乘法,对应于该向量得旋转、伸缩。若对某向量只发生了伸缩而无旋转变化,则该向量是该矩阵的特征向量,伸缩比为特征值。PCA用来用来提取一个场的主要信息(即对数据集的列数——特征进行主成分分析),而SVD一般用来分析两个场的相关关系。 PCA通过分解一个场的协方差矩阵(对特征),SVD是通过矩阵奇异值分解的方法分解两个场的协方差矩阵(特征、样本量)。 PCA可用于特征的压缩、降维(去噪),SVD能够对一般矩阵分解,可用于个性化推荐。同时也可以用于NLP中的...转载 2020-07-03 16:11:34 · 2386 阅读 · 0 评论 -
矩阵总结
对称矩阵满足A=的矩阵,称为对称矩阵。(=意思就是里边的每一个元素都想等)性质如下:对称矩阵的特征值一定是实数。 对称矩阵的几何重数等于代数重数。(???) 对称矩阵一定有n个线性无关的特征向量。(此处的n就是矩阵中的nxn???) 对称矩阵一定可以对角化。(对角化) 对称矩阵可以正交对角化。(正交对角化)...原创 2020-07-03 13:43:12 · 318 阅读 · 0 评论 -
第二章:1、函数求导
机器学习中问题的求解往往转化为优化问题。1、函数极限函数的导数是通过极限来定义和表达的。极限理解:向量的2范数:表示点到原点的欧氏距离,就是向量的长度。点的邻域表示以点a为心,以为半径的一个d维的开球。(开球的原因是小于而不是小于等于,球是不包含表面的)极限存在但函数不连续的例子。(函数在某点的极限存在是不能保证函数是连续的)(反之函数是连续的,能够保证函数的极限是存在的)第一个函数是表示:在非0点都等于0,但在0点等于B的这样的一个函数。第一个函数是不连续的;换句话可以说函数存在极原创 2021-05-07 15:51:56 · 1322 阅读 · 0 评论 -
点云第一期作业习题
第一:pca_normal.py# 实现PCA分析和法向量计算,并加载数据集中的文件进行验证import open3d as o3dimport osimport numpy as npfrom pyntcloud import PyntCloud#pyntcloud是一个用于处理3D点云的Python库# 功能:计算PCA的函数# 输入:# data:点云,NX3的矩阵# correlation:区分np的cov和corrcoef,不输入时默认为False#原创 2021-04-10 21:36:53 · 296 阅读 · 0 评论 -
第二章:3、BP神经网络
BP神经网络:BackPropagation Neuron NetWokBP 神经网络是一类基于误差逆向传播 (BackPropagation, 简称 BP) 算法的多层前馈神经网络,BP算法是迄今最成功的神经网络学习算法。现实任务中使用神经网络时,大多是在使用 BP 算法进行训练。值得指出的是,BP算法不仅可用于多层前馈神经网络,还可以用于其他类型的神经网络,例如训练递归神经网络。但我们通常说 “BP 网络” 时,一般是指用 BP 算法训练的多层前馈神经网络。括号内的值如果大于0即比阈值b大,原创 2021-05-08 17:37:35 · 831 阅读 · 0 评论 -
第二章:1、复合函数求导
1、复合函数求导复合函数就是多个函数把它嵌套起来。复合函数关键理解就是:内层函数的输出是外层函数的输入。复合函数的求导法则:链式法则因为复合函数是一层一层的由内向外的复合而得;那么复合函数的求导链式法则就是由外层向内层逐步的求导,即一层一层的求下去。Jacobian Matrix(雅可比矩阵):在向量微积分中,雅可比矩阵是一阶偏导数以一定方式排列成的矩阵,其行列式称为雅可比行列式。雅可比矩阵的重要性在于它体现了一个可微方程与给出点的最优线性逼近。因此,雅可比矩阵类似于多元函数的导原创 2021-05-08 16:30:50 · 21650 阅读 · 0 评论 -
三维点云课程第一章:应用
核PCA的核心思想就是我们可以把高维空间的运算转化成低维空间的一个核函数,这个思想叫做Kernel track。也就是说我们在学习SVM支持向量机的时候,也会经常的用到这个核的方法。应用1:如何去找点云里边每一个点的法向量。法向量就是如果 我用一个曲面去拟合了数据,那么曲面上任何一个点我都可以找到一个切平面,这个平面的法向量就是我们想要的法向量。法向量的应用:平面检测。 (在自动驾驶中,地面的点都是法向量向上的,那么我们只需要找到法向量朝上的点就是地面)通过法向量的朝向把圆柱体...原创 2021-04-09 23:38:27 · 438 阅读 · 0 评论 -
第一章:点云中的滤波问题---Filters
滤波的范围非常的广泛,像噪声去除,降采样,上采样,平滑等等都可以叫做滤波。上采样是一个比较罕见的东西,上采样就是没有的东西我把他创造出来,就是创造信息,其实是不可以创造信息的,只是说经过已有的信息,怎么去估算未知的地方可能的信息。如上图,就是对激光雷达的图进行了一个上采样,最上边的一层是吧激光雷达的图投影到了图像上,可以看到一些很小的很稀疏的点,但是他没有办法把每一个像素都填满,比如我们在做多传感器融合的时候我们希望图片上的每一个像素都能够带一个深度,这样图片所携带的信息就非常的丰富了,比如说既有深度,原创 2021-04-09 23:37:23 · 999 阅读 · 0 评论 -
曲率系列1:曲率、法曲率、平均曲率、主曲率和高斯曲率(概念推导解读)
高中数学解释的曲率:曲率, 也即弯曲程度。直观来想, 以一条连续光滑曲线上无限接近的两个点为端点的一段弧总应该可以看作是某圆上的一段弧,而这个圆的半径就被定义为曲线在这一点的曲率半径,而曲率则被定义为曲率半径的倒数。也就是无穷小的一段弧长与其相对应弧度(也就是角度)的比值。(弧度的计算方法,就是用弧长除以半径r。以l表示弧长,r表示半径,α表示弧度,则α=l/r. 得到的是该弧所对圆心角的弧度值。)则半径r计算公式是: ...原创 2020-11-30 16:23:05 · 18795 阅读 · 0 评论 -
方向导数、偏导数、偏导函数、全导数、梯度
概念偏导数:是多个数(每元有一个);是指多元函数沿坐标轴方向的方向导数,因此二元函数就有两个偏导数。偏导函数:是一个函数;是一个关于点的偏导数的函数。方向导数:是一个数;反映的是f(x,y)在点沿方向v的变化率。梯度:是一个向量;每个元素为函数对一元变量的偏导数;它既有大小(其大小为最大方向导数),也有方向。1、偏导数:多元函数在某个点他有多个偏导数(有多少个元就有多少个偏导数),比如二元函数一个是关于x一个是关于y,关于x的偏导数就是y不变,看函数关于x的一个变化率;关于y的.原创 2021-02-05 14:11:03 · 12024 阅读 · 2 评论 -
齐次坐标的理解(1)
1、为什么要引入齐次坐标,齐次坐标的意义首先百科解读:齐次坐标就是将一个原本是n维的向量用一个n+1维向量来表示,是指一个用于投影几何里的坐标系统,如同用于欧氏几何里的笛卡儿坐标一般。以下内容是对这个链接的翻译:http://www.songho.ca/math/homogeneous/homogeneous.html问题:两条平行线可以相交于一点。在欧氏几何空间,同一平面的两条平行线不能相交,这是我们都熟悉的一种场景。然而,在透视空间里面,两条平行线可以...原创 2021-08-10 00:05:37 · 454 阅读 · 0 评论 -
傅里叶分析
大佬致力于:要让读者在不看任何数学公式的情况下理解傅里叶分析。傅里叶分析不仅仅是一个数学工具,更是一种可以彻底颠覆一个人以前世界观的思维模式。但不幸的是,傅里叶分析的公式看起来太复杂了,所以很多大一新生上来就懵圈并从此对它深恶痛绝。老实说,这么有意思的东西居然成了大学里的杀手课程,不得不归咎于编教材的人实在是太严肃了。(您把教材写得好玩一点会死吗?会死吗?)所以我一直想写一个有意思的文章来解释傅里叶分析,有可能的话高中生都能看懂的那种。所以,不管读到这里的您从事何种工作,我保证您都能看懂,并且一定将..转载 2021-09-01 00:48:09 · 289 阅读 · 0 评论 -
PCL:点云配准1、基础知识:平面3自由度、旋转矩阵精讲
背景:(台大林沛群讲义)1、如何去描述一个刚体的运动?先从平面开始:假设我们的刚体是图中所画的绿色的椭圆(黑白相见的是质心位置),在平面上面定义一个平面坐标(因为是二维的所以是xy),那如何去描述这个平面上的运动呢?一个平面运动总共有3个我们称之为自由度(2个移动1个转动),就等于说我们需要3个参数来描述它的运动,从图中可以看出来这三个自由度中有两个是可以是移动的,这个椭圆可以水平的移动沿着x轴,或者上下的移动沿着y轴,所以说我们需要2个参数来描述这个刚体的移动状态,所以说平面上有两个自由度;这个椭原创 2020-12-14 20:09:55 · 2014 阅读 · 1 评论 -
在平面内,已知矩形的中心点坐标、长、宽和倾斜角度,求矩形四个角点的坐标
实现思路:1、已知矩形的中心点坐标、长和宽,求矩形在不旋转的情况下矩形的四个顶点坐标;2、再求按逆时针旋转一定角度后的四个点坐标;(在平面内,已知一个矩形的四个角坐标,将矩形绕中心点转动一个角度,求旋转后的角坐标.也就是已知半径,求每个点旋转后的坐标.)...原创 2021-07-15 08:57:12 · 8498 阅读 · 2 评论 -
数学统计:均值、标准差、方差、协方差
显然后者较为集中,故其标准差小一些,标准差描述的就是这种“散布度”。协方差的结果有什么意义呢?如果结果为正值,则说明两者是正相关的(从协方差可以引出“相关系数”的定义),也就是说一个人越猥琐就越受女孩子欢迎,嘿嘿,那必须的~结果为负值就说明负相关的,越猥琐女孩子越讨厌,可能吗?均值:均值描述的是样本集合的中间点,它告诉我们的信息是很有限的。原创 2022-11-24 11:22:08 · 2027 阅读 · 0 评论 -
高等数学:微分、积分物理以及几何意义
1、微分的来由微分<------------------>近似值<---------------->直线增量去近似代替曲线增量的那个直线增量部分---->记号dy------->y的微分---------->dy=Adx2、微分的定义是直线的增量去代替曲线的增量,那么问题来了,A到底是什么东西?由前边由来可知,A应该是直线的导数,这个直线导数是曲线在该点切线的斜率,因此A应当是导数。由此推导出来的定理:在处可微的充分必要条件是..原创 2021-07-27 13:20:31 · 6928 阅读 · 18 评论 -
FT(Fourier Transform)在滤波上的应用
数学真的是一个神奇的科学,美妙之处无法言语形容。傅里叶变换的推导见博客:对于非周期的函数就是周期T趋于0,将一般非周期的函数写作傅里叶级数的形式:其中:就是FT。其中:就是IFT。傅里叶变换其中一个最主要的应用就是滤波上,关于滤波最主要的就是首选要确定他的频率是什么他的频谱是什么,然后找到我们不想要的这部分把它过滤掉就行了。下面举个例子:0、我们简单的图形:(1)函数形式是(2)函数形式是函数形式(3)函数形式是放大看一下:函数形式..原创 2021-09-01 15:12:51 · 370 阅读 · 0 评论 -
齐次坐标的理解(2)
接上篇文章齐次坐标的理解(1):“齐次坐标表示是计算机图形学的重要手段之一,它既能够用来明确区分向量和点,同时也更易用于进行仿射(线性)几何变换。”——F.S. Hill, JR。1、齐次变换的两种解读所以由上边我们可以基于两种理解:(1)齐次坐标可以将n维空间中不明确的概念给明确出来。这句话如何理解呢?比如在二维空间中不只可以表示一个坐标,还可以表示一个向量(向量就是有确定的长度哈确定的方向,他的位置是不固定的,在二维坐标系中它可以任意移动,只要他的长度和方向是固定的就行)。所以如果.原创 2021-08-10 01:09:17 · 614 阅读 · 0 评论 -
【无标题】
傅里叶变换:https://www.zhihu.com/question/19714540/answer/514107420泰勒展开式:https://www.zhihu.com/question/25627482/answer/313088784原创 2021-12-22 16:26:26 · 152 阅读 · 0 评论 -
回归分析中的“回归”
一直对“拟合”和“回归”这两个名词不是特别的理解,自我感觉都是在对自变量和因变量进行模型的构建。以下是一些搜索理解:其实还是不是很理解????如果有理解的透彻的可以指导一下哈首先“回归”的由来:源头 引自汪荣伟先生主编的《经济应用数学》 高尔顿(Frramcia Galton,1882-1911)早年在剑桥大学学习医学,但医生的职业对他并无吸引力,后来他接受了一笔遗产,这使他可以放弃医生的生涯,并与 1850-1852年期间去非洲考察,他所取得的成就使其在1853年获得英国...原创 2021-02-24 10:43:10 · 665 阅读 · 0 评论 -
神经网络基础:(1)得分函数 or 得分函数
比如任务想做一个10分类的分类器:要得到属于每个类别的得分,所以叫做得分函数。对于每个x它属于每一个类别的得分值。上图中的猫是有像素点所决定的,他一共有32x32x3=3072个像素点;比如说猫耳朵或者猫眼睛以及图片中的背景对像素点的影响是不一样的。有些像素点对于他是猫起到促进作用,有些像素点对于他是猫,起到抑制作用;所以说每一个像素点它对应于当前像素点的重要程度是不一样的,在这里重要程度用w(权重参数)来表示,所以每个像素点也就是每个特征对应的权重参数w是不一样的,所以3072个像素点对应3.原创 2021-09-22 14:13:00 · 1055 阅读 · 1 评论 -
深度学习在图像领域的几大任务
深度学习对于图像的检测共分为4大任务:从任务需求本身的角度来考虑,由于四个任务的处理结果的信息量依次增加,需要的工具的复杂度会依次增加,因此完成相应任务的难度也会越依次增加。(1)图像分类a--->(2)目标检测b--->(3)语义分割c--->(4)实例分割d(是按照难度递增的方式)这张图完美地解释了四个的区别。(1)图像分类:(Image Classification)The task of object classificationrequires binar..原创 2020-09-28 11:18:04 · 2075 阅读 · 0 评论 -
神经网络基础:(3)神经网络整体架构
1、神经网络整体架构:输入层有多少个圈也就是神经元代表我们的输入数据有多少个;神经元代表的就是数据。中间连接的线就是权重参数。非线性操作:经过激活函数做一个非线性变换。(非线性操作加在了你每一步矩阵计算之后。)-----------------神经网络的强大之处在于,用更多的参数来拟合复杂的数据。2、影响因素:(1)神经元的个数(参数个数对结果的影响 )。(2)正则化的作用(惩罚力度对结果的影响)3、数据预处理拿到数据之后,我们不能直接给他输入到神经网络当中,..原创 2021-09-23 15:09:57 · 179 阅读 · 0 评论 -
卷积神经网络CNN---权值共享
1、权值共享的由来:权值共享这个词最开始其实是由LeNet5模型提出来,在1998年,LeCun发布了LeNet网络架构,就是下面这个:虽然现在大多数的说法是2012年的AlexNet网络是深度学习的开端,但是CNN的开端最早其实可以追溯到LeNet5模型,它的几个特性在2010年初的卷积神经网络研究中被广泛的使用——其中一个就是权值共享。2、什么是权值共享?所谓权值共享就是说给定一张输入图片,用一个卷积核来卷积这张图,卷积核里的值叫做权重,这张图的每个位置是被同一个卷积核扫的,即卷积的原创 2021-03-12 16:13:29 · 12360 阅读 · 2 评论 -
卷积神经网络基础:(6)卷积神经网络原理
1、卷积网络与传统网络的区别上图中左边是NN传统网络,右边是CNN卷积网络。传统网络输入比如784表示784个像素点,这只是一列特征;在CNN当中输入的不是784个像素点,而是原始的一张图像28x28x1是个三维的,当使用卷积网络做事情的时候,我们得把思想再抬高一个维度,现在的数据他就不是一列,不是一个向量,不是一个特征,而是一个长方体矩阵,它是一个三维的,所以接下来我们处理的矩阵都是三维的,HxWxC的我不会先把数据拉成一个向量,而是直接对这个样本,图像数据进行一个特征提取。PS:注意这.原创 2021-09-24 09:18:25 · 538 阅读 · 0 评论 -
PyTorch框架:(2)使用PyTorch框架构建神经网络模型---气温预测
目录第一步:数据导入第二步:将时间转换成标准格式(比如datatime格式)第三步: 展示数据:(画了4个子图)第四步:做独热编码第五步:指定输入与输出第六步:对数据做一个标准化第七步:用torch来构建一个神经网络模型第八步:预测结果第九步:画图第一步:数据导入第二步:将时间转换成标准格式(比如datatime格式)第三步: 展示数据:(画了4个子图)第四步:做独热编码Q1:为什么做独热编码?A1:因为数...原创 2021-09-25 21:10:37 · 807 阅读 · 0 评论 -
深蓝学院的深度学习理论与实践课程:第五章
1、Pytorch简介和安装Pytorch可以在线安装也可以离线安装。下载完成之后安装命令是:(install 后边是你下载完成后放置的路径)conda install /a/b/xxx.tar.bz原创 2021-03-16 21:14:29 · 582 阅读 · 1 评论 -
DL练习1:基于boston_house_prices的BP神经网络
基于波士顿房价的预测的BP神经网络在Pycharm上测试可以跑的通。# -*- coding: utf-8 -*-# Import libraries necessary for this project# 载入此项目所需要的库import numpy as npimport pandas as pd# 双曲正切函数,该函数为奇函数def tanh(x): #numpy.exp():返回e的幂次方 e_p = np.exp(x) e_m = np.exp(-原创 2021-05-09 13:56:26 · 463 阅读 · 0 评论 -
卷积神经网络基础:(8)递归神经网络RNN
1、RNN网络由来RNN:Recurrent Neural Network。递归神经网络只是在传统神经网络上进行一个改进而已。正常流程是:输入---->隐层---->输出(数据来了经过隐层最终得到输出就完事了)当我们在使用递归神经网络的时候一些限制,现在我拿到一些数据它是有一些时间顺序相关,比如说我现在有一些数据时刻的一个特征,时刻的一个特征......一直到时刻的一个特征,相当于我自己加进来一个时间序列,当我这个网络在训练过程当中,他能考虑时间序列这个事情吗?不能,因为每.原创 2021-09-24 14:27:53 · 828 阅读 · 0 评论 -
PyTorch框架:(3)使用PyTorch框架构构建神经网络分类任务
目录0、背景1、分类任务介绍:2、网络架构3、手写网络3.1、读取数据集3.2、查看数据集3.3将x和y转换成tensor的格式3.4、定义model0、背景其实分类和回归本质上没有太大区别,只是说最终得到的结果是不同的,以及使用的损失函数是不同的,中间的网络架构相对于来说是比较固定的。1、分类任务介绍:分类任务中标签的设计稍微不同,比如上图中的9他预测出来就是123456789中的哪一个,不是这样的,而是我们的标签他也是一个one_hot en...原创 2021-09-26 15:13:58 · 334 阅读 · 0 评论 -
Computer Vision Tasks
Computer Vision Tasks:图像分类、目标检测、语义分割、实例分割;只有目标检测和实例分割是实现了实例级别的识别的,就是把每一个单独的物体拎出来识别的;目标检测是画框框,而实例分割是抠图。实例识别:就是把图片中的每一个物体都单独进行识别出来;目标检测:是输入图像,输出每一个物体;(就是多个类别的多个框)图像分割:(1)Semantic Segmentation语义分割:我对每一个像素分类,我不管这个像素是属于哪几个物体的,只管他是属于什么类别的;(并不区分不.原创 2021-10-11 18:02:16 · 525 阅读 · 0 评论 -
PyTorch框架:(6)图像识别实战常用模块解读
1、TorchVision官网:https://pytorch.org/vision/stable/index.html在torchvision这个模块当中,包含了很多后续需要的功能:需要自己安装这个模块pip install torchvision。安装完之后我们就可以使用这里边的三大核心模块了。(1)torchvision.datasets里边不止封装了我们常用的数据集,可以下载和使用的;并且还定义了一些方法,比如数据该如何存放,然后让我们分类模型构建的更方便一些。(2)models原创 2021-10-08 14:11:54 · 1832 阅读 · 2 评论 -
网络模型:(0)背景
深度学习与机器学习的区别:深度学习最大的优势就是不用我们自己去选特征了,AI领域最大的难题就是怎么去提特征。但是深度学习是一个端到端的,一条龙服务,由输入到输出,过程不需要我们管,深度学习的优势就体现在这里,中间所有过程你不需要去管了。(把神经网络当做一个特征提取器,特征是非常重要的)深度学习缺点:在去建模的时候,对于分析方面的需求不是很满足,他一般是得到一个输出结果。机器学习流程:(1)数据获取 (2)特征工程(hard) (3)建立模型 (4)评估与应用深度学习:拿到数据之后原创 2021-09-23 10:31:37 · 81 阅读 · 0 评论 -
感知机(Perceptron)-----最详细记录感知机
1. 前言感知机是1957年,由Rosenblatt提出会,是神经网络和支持向量机的基础。感知机是有生物学上的一个启发,他的参照对象和理论依据可以参照下图:(我们的大脑可以认为是一个神经网络,是一个生物的神经网络,在这个生物的神经网络里边呢,他的最小单元我们可以认为是一个神经元,一个neuron,这些很多个神经元连接起来形成一个错综复杂的网络,我们把它称之为神经网络。当然我们现在所说的,在深度学习包括机器学习指的神经网络Neural Networks实际上指的是人工神经网络Artificial Ne原创 2021-02-21 22:24:11 · 48058 阅读 · 13 评论 -
点云标注工具:1.PCAT
原作者在优酷上发布了PCAT软件的使用教程视频:视频1:https://v.youku.com/v_show/id_XNDYxNjY4MDExMg==.html?spm=a2h0k.11417342.soresults.dtitle视频2:https://v.youku.com/v_show/id_XNDYxNjY4MDI5Mg==.html?spm=a2hzp.8244740.0.0-----------PCAT在github上的链接:https://github.com/halostorm/原创 2020-05-25 15:27:52 · 3193 阅读 · 6 评论 -
深度学习中的一些英文解释
A:BCDEFG:(1)ground truth:真实标签HI:(1)intersection over union( IOU):交并比JKLMNOPQRSTUVWXYZ原创 2020-05-31 14:52:09 · 1639 阅读 · 1 评论 -
Gradient Descent梯度下降(透彻分析)
首先了解什么是梯度,官方解释:梯度的本意是一个向量(矢量),表示某一函数在该点处的方向导数沿着该方向取得最大值,即函数在该点处沿着该方向(此梯度的方向)变化最快,变化率最大(为该梯度的模)。...原创 2020-06-04 09:27:59 · 681 阅读 · 0 评论