![](https://img-blog.csdnimg.cn/20190918140053667.png?x-oss-process=image/resize,m_fixed,h_224,w_224)
CS231N 视频笔记
CS231N 视频笔记
时光机゚
为了我的名字~。~
展开
-
CS231N 笔记1_图片分类
曼哈顿距离(Manhattan distance):L1距离欧几里得距离(Euclidean distance):L2距离为什么KNN在图片分类上基本不用? 1. KNN在运用时需要大量时间,效率很低。(一般我们允许在训练时花费大量时间,而要求在使用时反应很快) 2. 图像物体在平移、光线亮度、部分像素点缺失等等情况下,其预测的结果应该保持不变。但基于对应像素点的KNN算法在原创 2017-11-06 20:14:48 · 145 阅读 · 0 评论 -
CS231N 笔记2_损失函数和优化器
多类SVM损失函数,又称hinge loss: 这个函数可以认为是计算得分比正确分类的得分还要大的,以及差不多的。至于数字1,只是一个约定俗成的数字,其本身并不具有特殊意义,其数字的大小会随着W的变化而改变。 SVM loss和softmax的对数似然损失函数的对比: SVM对边界上及内部(得分大于正确项)的数字敏感,对边界外的数字不作用;而Softmax的对数似然综合考虑所有的得原创 2017-11-08 12:24:35 · 828 阅读 · 0 评论 -
CS231N 笔记4_卷积神经网络应用之定位与检测
分类:输入图片,得到相应的标签 定位:输入图片,输出相应框的信息:(x,y,w,h)对应的分别是图片的位置(左上角)以及框的大小 检测:在定位中,一般只有一个或一种对象,当在检测中可能会有多个或多种对象。 我们一般IoU(intersection of union,两目标交集占据两目标并集的百分比)来判断我们的定位的精确度,IoU越大,说明结果和目标越接近。 在定位中,采用滑动窗口(Sli原创 2017-11-20 10:10:53 · 443 阅读 · 0 评论 -
CS231N 笔记3_卷积神经网络
卷积神经网络的卷积层大概工作原理如下: 1. 滤波器大概是各种小“组件”,如曲线、颜色; 2. 由滤波器响应得到的激活图就是各组件在区域位置的响应; 3. 将激活图作为下一卷积层的输入,相当于组合各组件; 4. 再经过全连接层的作用,得到最后的分类系统。为什么使用零填充,而不使用其他有意义的数字? 卷积层的卷积是作用在点乘的基础上原创 2017-11-11 14:45:13 · 343 阅读 · 0 评论 -
CS231N 笔记5_神经网络训练
权值初始化 2010年,Glorot等人提出了“Xavier初始化”,他们关注了神经元的方差表达式。具体目的大致为使得每层输出的方差尽量相等; Batch Normalization Batch Normalization, 批规范化,即在每次SGD时,通过mini-batch来对相应的activation做规范化操作,使得结果(输出信号各个维度)的均值为0,方差为1。其本质原创 2017-12-08 13:37:23 · 283 阅读 · 0 评论 -
【CS231N】笔记6_卷积神经网络工程实践技巧与注意点
Data Argmentation 使用数据增强可以有效防止过拟合,在数据源不足时尤为重要。在图像中,不管是图像平移、图像翻转,还是图像截取,都不会改变该图像的类别属性。有如下几种常见的数据增强的方式:水平翻转随机截取(范围):然后再缩放到CNN需要的图像大小作为新的训练集颜色变化:改变图像对比度是可行的,但不常用。常用的方法是像素在RGB中选择较为强烈的方向进行颜色增强,相当于应原创 2018-01-17 08:11:02 · 320 阅读 · 0 评论 -
【CS231N】笔记7_循环神经网络
RNN 传统的NN都是离散地处理输入的序列信息,如下图所示,一个输入得到一个输出,彼此之间没任何联系,这对于具有关联顺序的序列而言并不友好。 如果需要数据的关联性让神经网络知道,就需要让神经网络记住之前网络的信息,以达到网络信息的关联性。如下图所示,Data0 经过神经网络得到的当前状态描述S(t),由S(t)生成Y(t);到了Data1 的时候,产生了S(t+1),但Y(t+1)的生原创 2018-01-17 18:38:30 · 474 阅读 · 0 评论 -
【CS231N】笔记7_图像分割和注意力模型【了解需要看论文】
图像分割 图像分割需要将前景和背景分隔开,即对背景打上掩码。普通的图像分割就是按照图像的颜色纹理将图片的不同区域划分开来;而语义分割是将不同的单元划分出来,比如将人、树、草地分割开来;实例(instances)分割则更进一步,将人这个单元的不同个体给分割开来,从而知道左边的人和右边的人不是同一个实例个体。语义分割 为像素打上相应的标签,不关心具体实例。 最蠢的方法是将图像分为原创 2018-01-20 23:31:27 · 2719 阅读 · 0 评论